传统接口常用平均响应时间描述性能，但 AI 接口的体验由多个阶段共同决定。连接建立很快，不代表用户能很快看到第一个字；总耗时很短，也不代表流式响应没有中断。

建议关注的指标

首字响应时间：从请求发出到收到第一个有效内容的时间，直接影响用户对“是否卡住”的判断。

P50 与 P95 延迟：P50 描述大多数请求，P95 用来发现长尾。只看平均值容易掩盖少量但严重的慢请求。

流式完整率：成功建立流式连接后，是否正常收到结束事件。连接成功但中途断开不能算完整成功。

错误分类：区分鉴权、额度、上游超时、协议解析和客户端取消。只有分类稳定，回退策略才有依据。

图像生成耗时：图像请求的时间分布与文本请求不同，应单独统计，不与普通对话混在一起。

不直接在生产环境压测

如果服务已经承载真实用户，优先从现有请求日志和指标中计算分位数。压力测试应在隔离环境或明确的低峰窗口进行，并设置并发上限和停止条件。

指标服务于决策

指标的作用不是让仪表盘更热闹，而是回答具体问题：该不该扩大灰度、是否需要回退、哪个阶段变慢、错误是否集中在某个能力上。

公开性能数据时，我只展示匿名化的分位数、成功率和趋势，不公开服务器、渠道、成本与内部路由信息。