handlogo
中国图标
汉得灵炼模型评估引擎融合 NVIDIA NeMo Evaluator|让模型评估简洁、全面、灵活!

汉得企业级大模型训练与管理平台(中文名灵炼,英文名 H-AI TrainHub,以下简称灵炼),旨在提供企业级一站式模型训练与管理平台,覆盖数据集管理、精调、推理部署与评测等端到端能力,专注性能与安全保障,全面支撑企业 AI 模型开发与落地。


本文将带你快速了解灵炼模型评估引擎融合 NVIDIA NeMo Evaluator 的完整使用流程,涵盖自动评估、基准评估,以及任务执行与多维结果分析,融合规则指标、模型裁判两类评分方式及同时支持公开/专有评测集,助力企业构建更全面、更客观、更高效的行业垂类模型评估体系。

大模型加速进入企业业务场景,如何客观、全面地衡量公有/私有模型能力,已成为模型选型、效果优化和上线验证的重要环节。


单一的评估数据或评分方式,往往难以覆盖准确性、内容质量、逻辑推理、场景适配等多维能力,也难以支撑不同模型之间的有效对比。


灵炼模型评估引擎现融合 NVIDIA NeMo Evaluator,在保留原有评估能力的基础上,新增自动评估与基准评估两种评估模式:

✅ 支持使用企业私有数据集开展业务场景垂类模型评估;

✅ 支持基于内置的公开评测集进行通用能力测评。

同时提供规则指标与模型裁判两类评分方法,满足不同评估场景下的模型能力评价需求。


核心能力包括:

两种评估模式:同时支持自动评估与基准评估,覆盖企业业务场景行业垂类模型验证与通用能力测评。

两类评测数据:既支持使用企业私有数据集进行针对性评估,也支持选择内置公开评测集进行标准化能力测评。

多元评分方式:同时支持规则指标与模型裁判两类评分方式。

○

内置规则指标:提供等值匹配、关键词匹配、F1、ROUGE、BLEU、格式遵从性等基于固定规则算法的评分指标。

○

模型裁判评分:引入裁判员模型,通过评分 Prompt 对模型输出进行评价,支持逻辑推理、语义理解、知识问答等复杂能力评估。

多层结果分析:支持从模型、数据集、评估明细等层级查看评估得分、指标表现及生成耗时。

任务闭环管理:支持开始评估、重新评估及失败任务继续评估,统一跟踪任务执行状态与评估结果。

从评估模式、评测数据到评分方式,灵炼持续完善模型评估能力,覆盖业务场景与通用能力,让模型效果有据可评、结果清晰可见,为企业模型选型、优化与应用提供更可靠的评估依据。

选择 NVIDIA NeMo Evaluator 

模型评估引擎

新建模型评估任务时,在“评估引擎”中选择 NeMo Evaluator,即可进一步选择自动评估或基准评估。

两种评估模式

自动评估

组合多种评分方式

自动评估面向企业自有业务数据集,支持 Prompt+Response、多轮对话等多种评估数据,并提供灵活的评分组合能力。


用户可按需选择自动规则打分、自动裁判员打分,或组合多种评分方式,实现从客观指标到主观质量的多维评估:

✅ 自动规则打分:适用于答案可直接比对、结果客观可量化的评估场景。

✅ 自动裁判员打分:适用于逻辑推理、语义理解、内容质量等复杂能力的评估。

✅ 组合评分:支持在同一任务中组合多种评分指标,从多个维度综合评价模型表现。

启用自动裁判员打分后,用户可选择裁判员模型和评分 Prompt。系统将展示裁判员设定及评分指标,并支持根据当前评估任务灵活调整指标内容,最多维护10条评分指标。


任务内的调整仅对当前评估生效,不会影响原始模板,既便于模板复用,也能满足不同业务场景下的个性化评价需求。

基准评估

快速衡量通用能力

基准评估现已支持从内置公开评测集中选择数据。评测集按领域与分类组织,支持自定义采样比例,并实时预估样本数量,帮助你在评估覆盖度与执行成本之间灵活平衡。


若所选评测集需要模型裁判,系统会自动展示对应的裁判模型配置,减少无关操作,让评估流程更高效。

评估任务闭环管理

配置完成后,可一键发起 NVIDIA NeMo Evaluator 评估任务。系统统一跟踪任务执行状态,并支持重新评估和失败任务续评,减少重复配置与人工处理成本。

多层级结果洞察

评估完成后,结果页按四个层级呈现模型表现:

模型汇总:查看各模型的综合得分、分项指标与生成耗时。

指标可视化:以指标为横轴、模型为系列,直观对比模型能力差异。

评测集维度:按模型和评测集查看得分;基准评估还支持按领域分析。

评估明细:逐条查看问题、标准答案、模型答案、耗时及各项指标得分。

自动评估结果:

基准评估结果:

以上内容主要介绍了如何通过灵炼接入 NVIDIA NeMo Evaluator,完成评估任务配置、执行跟踪与结果分析,覆盖从业务场景验证到通用能力测评的模型评估流程。更多功能细节可参阅开放平台文档,或随时联系研发团队。


未来我们将持续迭代,为您带来更高效的 AI 模型开发与落地体验,期待与您交流!


欢迎在评论区留言,一起探讨 AI 模型开发在您业务中的应用潜力~

联系我们

相关产品咨询或了解更多信息,欢迎联系我们:


● 汉得焱牛开放平台:https://open.hand-china.com

● 邮箱:openhand@vip.hand-china.com


您可前往汉得焱牛开放平台提交反馈,或发送邮件至上述邮箱。我们拥有技术精湛、深耕行业的研发团队,及时跟进并解决问题,同时根据反馈持续优化产品。期待您的来信,我们将用心对待每一份反馈!

携手汉得,共铸硬核竞争力!

热点

汉得 x 日出东方|FDE 方法论场景共创,探索企业 AI 落地路径!

「汉得 AI-SAP 升级方法论」亮相云栖大会,汽配行业采购询比价智能体斩获 SAP 行业 AI 共创优秀入围方案!

汉得 x 威迈斯|依托 HiFins 智慧财务套件共建财务共享数字化底座,开启新能源电源企业 AI 数智财务升级!

© Copyright Hand China Co.,Ltd. All Rights Reserved 上海汉得信息技术股份有限公司

业务咨询

完善信息后我们会第一时间跟您联系
*
*
*
*
*请输入正确的验证码
captcha
*
*
发送失败
立即咨询
咨询热线
业务咨询
微信扫码 在线咨询 微信咨询二维码
联系我们
400-168-4263
业务咨询
完善信息后我们会第一时间跟您联系