Skip to content

模型推理性能压测evalscope perf 能否记录真实压测是输入输出 #885

@xwdreamer

Description

@xwdreamer

问题描述

我已经按照文档教程,成功执行压测。
但是我发现压测完毕以后,只是输出了性能指标,没有完整的输入输出记录。
希望能够把输入输出保存下来,是否有对应的参数

EvalScope 版本(必填)

!pip list | grep eval
evalscope                                    0.17.1

执行的代码或指令

执行的命令

!evalscope perf \
 --parallel 1 \
 --number 5 \
 --url {base_url} \
 --api-key {my_key} \
 --model deepseek-v3 \
 --log-every-n-query 5 \
 --connect-timeout 6000 \
 --read-timeout 6000 \
 --max-tokens 2048 \
 --min-tokens 2048 \
 --api openai \
 --dataset speed_benchmark \
 --debug \
 --swanlab-api-key 'key' 

错误日志

执行正常。希望记录完整的大模型输入输出,不知道配置什么参数

运行环境

  • 操作系统:linux
  • Python版本:python 3.12

其他信息

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions