命令行参数参考¶
opencompass 命令的基本格式如下:
opencompass [config] [options]
本页以当前版本 opencompass/cli/main.py 的实现为准。若代码更新导致参数发生变化,请以以下命令的输出为最终依据:
opencompass --help
配置入口与配置查找¶
参数 |
默认值 |
说明 |
|---|---|---|
|
无 |
可选的配置文件参数,指定 Python 配置文件路径。 |
|
— |
显示帮助信息。 |
|
无 |
按名称查找并加载一个或多个模型配置。 |
|
无 |
按名称查找并加载一个或多个数据集配置。 |
|
|
在快捷配置模式下选择结果汇总配置;支持使用 |
|
|
指定自定义配置根目录;OpenCompass 会在其 |
如果指定了 config,OpenCompass 会优先读取该文件,--models、--datasets、--summarizer、--hf-* 和 --custom-dataset-* 等快捷构造参数不会用于替换其中的模型或数据集配置。未提供配置文件时,可以采用以下任一入口:
使用
--models与--datasets加载已有配置;使用
--hf-path快速构造 Hugging Face 模型,并通过--datasets指定数据集;使用
--models或--hf-path指定模型,并通过--custom-dataset-path构造自定义数据集。
执行阶段与工作目录¶
参数 |
默认值 |
说明 |
|---|---|---|
|
|
选择执行阶段: |
|
无 |
复用指定时间戳的实验目录;省略时间戳时使用工作目录下按名称排序的最新目录。 |
|
|
指定实验输出根目录,实际产物保存在其时间戳子目录中。 |
|
|
启用调试模式,使 Runner 顺序执行任务并直接输出日志,适合定位首次运行问题。 |
|
|
解析配置并执行任务划分,但不启动推理或评测;启用时会同时打开调试日志级别。 |
|
无 |
尝试在一站式部署与评测中将支持的 Hugging Face 本地模型配置转换为 vLLM 或 LMDeploy 配置;不支持的模型类型保持不变并输出警告。 |
|
|
输出当前加载并处理后的实验配置。 |
|
|
启用飞书机器人任务通知,需要配置中同时提供 |
任务划分与 Runner¶
参数 |
默认值 |
说明 |
|---|---|---|
|
|
为入口自动补齐的推理或评测配置设置默认 Runner 的最大并发任务数,并设置默认推理 Partitioner 的 |
|
|
设置自动生成的 |
|
|
强制使用 |
|
|
强制使用阿里云 PAI-DLC Runner,并覆盖已有的 |
推理、评测与分析输出¶
参数 |
默认值 |
说明 |
|---|---|---|
|
|
保存逐样本评测明细。使用 |
|
|
向推理任务传入响应长度统计开关;是否支持取决于所用 Inferencer。 |
|
无 |
仅导出构造后的消息而不执行模型请求,当前仅支持 |
|
|
要求评测任务计算并保存答案抽取率。 |
|
|
在汇总阶段分析重复预测,并写入重复输出分析文件。 |
|
|
在 CLI 快捷配置模式下,将加载的数据集配置中的 |
快速构造 Hugging Face 模型¶
以下参数仅用于未通过 config 或 --models 提供模型时,根据 --hf-path 快速生成模型配置:
参数 |
默认值 |
说明 |
|---|---|---|
|
|
选择基础模型或对话模型封装。 |
|
无 |
指定 Hugging Face 模型路径或仓库 ID。 |
|
|
传递模型加载参数。 |
|
与模型路径一致 |
指定 tokenizer 路径或仓库 ID。 |
|
|
传递 tokenizer 加载参数。 |
|
无 |
指定 PEFT 权重路径。 |
|
|
传递 PEFT 加载参数。 |
|
|
传递生成参数。 |
|
无 |
设置模型支持的最大序列长度。 |
|
|
设置最大输出长度。 |
|
|
设置最小输出长度。 |
|
|
设置推理批大小。 |
|
|
设置 Hugging Face 模型任务使用的 GPU 数量。 |
|
无 |
指定 padding token ID。 |
|
空列表 |
指定一个或多个停止词。 |
|
— |
已废弃;当前版本传入该参数会报错,应改用 |
快速构造自定义数据集¶
以下参数用于从本地文件快速生成数据集配置:
参数 |
默认值 |
说明 |
|---|---|---|
|
无 |
指定自定义数据集文件。未提供 |
|
无 |
指定自定义数据集的元信息文件。 |
|
自动判断 |
指定数据类型:选择题或问答题。 |
|
自动判断 |
指定生成式或 PPL 推理方式。 |
结果持久化参数¶
参数 |
默认值 |
说明 |
|---|---|---|
|
无 |
指定结果共享目录。传入该参数或在配置中设置 |
|
|
运行前从共享目录读取已有结果,将其写入当前实验的 |
|
|
向共享目录保存结果时允许覆盖已有文件。 |