🚀 LLM 性能测试工具

API 配置

模型配置

测试用例

运行测试

性能指标

-
TTFT (首Token时间)
-
TPS (每秒Token数)
-
平均延迟
-
总耗时

响应时间分布

TPS 趋势

详细结果

请求ID 状态 TTFT (ms) TPS 总Token数 总耗时 (ms)