handlogo
中国图标
品牌案例
MORE

汉得AI能力

「得·灵」AI产品系列
全生命周期 护航AI长效价值
灵手
灵手
智能体应用系列
灵猿
灵猿
企业级AI中台
灵睿
灵睿
专业模型系列
了解更多
案例视频
智能报账提单Agent
智能导购Agent
物流调度Agent
销售订单交期快答Agent
供应商交付物智能审核Agent
智能生产排程助手Agent
渠道助理Agent
智能客服Agent
销售订单OTD跟进Agent
采购询比价Agent
多式联运规划Agent
研发技术专家库Agent
...
重点推荐Agent
自研落地近百个企业级AI智能体

数智产销C2M

智慧营销
智协供应链
智能制造
青岛啤酒
渠道营销全流程管理平台建设
光明乳业
市场拓展与终端营销运营
泸州老窖
因势而动

集团管控GMC

智慧财务
圆通速递
构建业财一体化管控体系
携程集团
满足日均千万级订单处理需求
森马
海纳百川

泛ERP

套装软件
重点业务
SAP
汉得已成功为千家中外企业部署SAP产品
了解更多
ORACLE
作为Oracle在华的首家注册认证合作伙伴
了解更多
ORACLE NETSUITE
领先的SaaS产品+专业全球实施商
了解更多
MICROSOFT
可灵活配置的行业解决方案
了解更多
SIEMENS
专注于西门子全线产品解决方案
敬请期待
中企出海
全球布局,助中国品牌走向世界
了解更多
跨境电商
打通订单流、物流、资金流、财务流四位一体
了解更多
ITO
智能运维服务平台,助力数字化转型

联营生态企业

汉得系SaaS不断孵化打磨,持续探寻细分场景小而精的产品及方案致力于帮助企业全面高效融入数字化世界

了解更多

新闻动态

聚焦前沿资讯,对话行业大咖,洞察未来趋势。最新产品,行业方案,转型实践,助您全面了解汉得综合服务能力,携手迈向智能未来

了解更多
2026

08.18

业务需求越来越紧迫,应用形态越来越多。低代码平台要解决的,早已不只是“把页面搭出来”,而是让需求理解→应用构建→交付使用→持续治理形成顺畅的闭环。飞搭 2.11,围绕这一闭环做了一次系统性升级。四大亮点,先睹为快:✅ AI 自动构建:多模态理解需求,端到端生成低代码资产;✅ 应用层治理:以“应用”为单位组织资产,边界清晰、复用有序;✅ 全端设计提效:模板/图表/组件及移动端操作全面升级,搭建更快、体验更顺;✅ 模型逻辑与运维双保障:逻辑编排更灵活,发布审核与日志排障更可靠。无需从零开始逐个建对象、搭表单、配逻辑。 多模态理解文字、图片、文档都能作为构建起点。一句“搭建采购申请管理”、一张原型图、一份需求文档,AI 都能读懂其中的页面结构、字段和业务逻辑。 自动规划+端到端生成AI 自动拆解需求,同步产出业务对象、功能页面、事务处理流、脚本事件和自定义组件,让应用从需求雏形直接走向可运行版本。 资产智能复用生成时自动匹配现有资产,支持直接复用或局部修改复用,无匹配则新建,减少重复开发,保障资产统一。 生成自检生成后自动校验完整性与合理性,标注缺失及存疑点,点击直达对应位置快速修正。 多轮调优通过自然语言持续补充字段、调整布局、完善交互,在对话中逐步打磨。示例财务收到“员工报销”需求文档,以往要梳理字段、建对象、搭表单、配逻辑,大半天就没了。现在上传文档,AI 直接生成报销单对象、登记表单和信息列表;通过对话还可继续补充报销附件校验等,快速形成可评审的应用初版。<<  滑动查看下一张图片  >>除了端到端生成,AI 还嵌入了日常配置的每个细节:✅ 前端自定义 JS 生成:在「自定义取值」或「前端自定义脚本」节点描述需求,AI 直接生成可编辑脚本。✅ 表达式与公式 AI 生成:用自然语言描述业务规则,AI 辅助生成表达式和公式字段初稿。示例报销行对象使用公式自动计算不含税金额;页面根据报销金额增加提示和修改样式。通过文字描述,AI 即可生成公式表达式及前端JS初稿。<<  滑动查看下一张图片  >>此前飞搭以领域为核心管理低代码资产,向下包含功能、页面。随着企业业务系统越建越多,仅靠领域维度已难以满足多应用并行与隔离的需求。飞搭2.11在领域之上新增应用层,形成应用→领域→功能→页面完整层级。应用作为独立业务系统载体,承载整套业务的生命周期管理与版本归档;领域回归应用内资源分组定位,负责场景化资产归类,完全兼容用户原有领域开发习惯,实现无痛升级、能力跃升。示例以往仅靠领域管理资产、无顶层业务边界,集团并行搭建财务、客户、采购供应链等多套系统时,存在业务资产混杂、权责不清、跨业务干扰等问题,且版本迭代无留存、通用能力重复建设,难以支撑规模化落地。<<  滑动查看下一张图片  >>核心能力:应用资产隔离,规范业务边界业务对象、页面、事务处理流等按应用归集,适配应用状态与权限,不同团队仅在授权范围内操作。版本全程追溯,合规可审计轻量版本登记机制,自动记录版本迭代、变更归档,业务系统建设全程留痕,支撑合规审计。领域灵活复用,降本增效私有领域按应用强隔离,保障业务安全;公共领域支持多应用引用,减少重复开发,沉淀企业通用资产。生态应用分发,规模化落地应用可上传至汉得焱牛开放平台,作为生态资源供用户下载安装,实现生态资源流转。模板更丰富,常用场景一键起步新增详情布局、图表看板、PC 端卡片组等功能模板;零代码和流程表单预置签到表、活动报名、办公用品领用、设备巡检等业务模板。选模板→调配置→上线,省去大量重复搭建。<<  滑动查看下一张图片  >>图表能力升级,数据一眼看懂PC 与移动端同步新增柱状图、饼状图、折线图、指标卡,PC 端还支持地图组件。结合图表看板模板,业务数据快速转化为直观分析界面。示例财务分析展示项目报销金额趋势、结余金额排行和收款分析。全端组件增强,搭建与使用更顺畅 自定义字段新增业务对象自定义字段配置,PC/移动端均支持拖入表单和列表;支持单字段(文本、日期等)和复合字段(如“手机号码”=区号+号码),可分别维护属性、行为和样式。 移动端组合组件无需预先配置自定义字段,直接在页面中组合多个基础组件,灵活满足地址、联系人、证件信息等场景。 页面呈现升级PC 端新增 Word 表单类型页面,适用于正式单据、协议、通知;PC 端列表组件新增统计域,支持全部页数据汇总;移动端卡片组支持快速绑定业务对象字段。 协作体验升级PC/移动端新增相邻切换器(详情页快速看上一条/下一条)、评论组件;PC 端审计组件展示数据结构审计信息,附件与导出支持文件水印。示例财务报销使用复合字段实现税率和金额的便捷录入,通过汇总字段快速掌握报销总金额,同时还可对单据进行评论对话;页面上使用相邻切换器,快速查看数据。全局样式配置,一次设定、全端统一新增全局样式配置能力,可统一设定设计器组件的默认样式(如颜色、字体、圆角、间距等)。企业只需配置一次自身 UI 规范,所有新建页面自动继承,多页面体验保持一致,无需逐个组件重复调整。<<  滑动查看下一张图片  >>✅ 列表直接操作:支持在列表中直接新增、编辑、查看详情,通过弹窗或新增卡片完成,减少页面跳转。✅ 附件随手用:手机浏览器直接访问即可上传、预览、下载附件;配置时也强化了在线预览能力。示例现场巡检人员在列表中直接新建记录、编辑异常、查看详情,现场图片即时上传。✅ 发布有引导:新增移动应用配置引导,按步骤完成发布至企微/飞书/钉钉或飞搭 APP,降低发布门槛。◈ 迁移可回退数据迁移升级为分步骤导入导出,支持返回上一步修改,降低操作风险。◈ 领域更精细领域支持字段默认值、数据源编辑、预置权限策略模板、模板与对象双向同步;业务对象支持数据预览和子查询条件配置。◈ 逻辑可编排事务处理流和脚本事件新增 AIGC 编排节点/函数、工作流节点/函数,将AI能力和流程能力纳入低代码逻辑。◈ 多触发器灵活传参同一事件流的不同触发器可通过流程变量传入不同参数,提升逻辑复用能力。示例迁移交互全新优化:将采购申请功能迁移至正式环境,支持“分步骤”迁移导出并核对配置。<<  滑动查看下一张图片  >>✅ 发布可控:功能及资源发布支持审核,审核通过后生效,可查看历史审批记录,降低误发布风险。✅ 排障高效:全局日志新增慢执行与异常类型日志,快速定位性能问题和异常线索;审计日志存储方式等全局配置同步优化。示例采购应用上线前提交发布申请,审核通过再生效;运行中出问题,运维通过慢执行和异常日志快速定位,缩短排障时间。<<  滑动查看下一张图片  >>从 AI 理解需求、自动规划并生成应用资产,到全端高效搭建、移动端顺畅使用,再到模型逻辑精细构建与运维可靠保障。飞搭 2.11 让 AI 从“辅助生成”走向“自动构建”,深度参与企业应用从需求到交付、从上线到迭代的全流程,推动低代码成为企业持续创新的智能应用构建平台。联系我们1. 如果您想了解飞搭更详细的功能介绍和产品信息,可以查阅我们的产品文档,请在PC端打开➡️ 汉得焱牛开放平台(open.hand-china.com);2. 如果您有疑问或者建议,也可以通过开放平台进行工单反馈,问题分类请选择【产品/汉得aPaaS平台-飞搭】;3. 相关产品咨询或更多信息了解,欢迎联系我们邮箱➡️ openhand@vip.hand-china.com;携手汉得,共铸硬核竞争力!

2026

08.13

周三上午10点,某消费电子企业的采购总监李总打开手机,收到一条推送:他没做任何查询——这是 DataClaw 数字员工 “Kraljic 生产采购专家”主动推给他的“采购经营日报”。而18天前,要拿到这份判断,他需要先和品类经理开3次会、再让数据团队花2周从 ERP、SRM拉数据、出 PPT。今天,这一切从每天早上9:00自动开始。故事背景(1)这是汉得服务的某消费电子企业。主营光学模组,产品覆盖新能源车 ADAS 摄像头、工业视觉、消费电子三大方向。CAT-03-05 光学玻璃/晶圆是公司最关键的战略物料品类之一:采购金额:2024年6771万元→2025年7719万元→2026年预测8800万元,年复合增长率14%;BOM占比:从3.26%提升到3.50%,仍在上升;料号数:6个关键料号,年需求总量83万+ PCS;影响收入:涉及6个客户项目,覆盖3大终端领域,若供应中断合计影响年度收入12.16亿元;重点客户:新能源车前视 ADAS 摄像头(爬坡期、影响收入6.02亿元)、高速工业检测相机(量产1.68亿元)、机器人双目视觉模组(开发1.59 亿元)。一个不到公司总采购4%的小品类,决定着公司12亿收入的生死。故事背景(2)但在采购部,CAT-03-05 长期“不受重视”:💢过去的“品类画像”,是2024年做的一张 PPT,16个月没更新过;💢三家供应商的交付率、质量 PPM、产能利用率,靠采购员 Excel 手记,没有统一视图;💢蓝玻璃晶圆 EOL 预警这件事,R&D 早就知道,采购部一直到原厂停产前6个月才反应过来;直到今年初——某新能源车客户年度招标,明确要求供应商提供「光学部件可持续供应证明」。李总才发现:他们拿不出 CAT-03-05 的完整品类画像、也拿不出三家供应商的完整评估矩阵。一张纸,挡住了6个亿的大单。痛点为什么过去找不到原因不是李总不努力,是品类经理一个人扛不动。💢 采购业务数据散在 ERP 、SRM、QMS、WMS、PLM 等系统里;💢 供应商数据散在 SRM 的准入、绩效、合同、黑名单里;💢技术/生命周期数据在 R&D 和 PLM 里——和采购完全不通;💢三份数据供应商编码不统一:同一家“清X光学”在 ERP 叫 A、在 SRM 叫 B、在 R&D 叫 C;💢采购决策的判断规则沉淀在会议中、业务人员大脑中;💢一次完整的“年度品类画像”,要数据团队+采购+ R&D 三方拉齐,2周起步;💢等 PPT 画完,已经是月初,事情过去了。过去,采购决策永远慢一个月——而这个月里,料号可能已经停产、供应商可能已经涨价、客户的项目可能已经错过。现在有了 DataClaw Kraljic 生产采购专家变化从每天早上9:00开始每天早上9:00,Kraljic 生产采购专家会把一份《今日采购经营日报》主动推到李总的手机上。——不是 KPI 仪表盘,不是静态看板,是已经分析过的判断。DataClaw从整体向下排查Kraljic 生产采购专家从汉得30年供应链 know-how + PACS 采购智能决策系统方法论里,沉淀出本体化的底层设计以及3步分析法:业务对象本体化;业务对象之间的关系网络化;规则本体化;基于业务对象、关系网络和规则本体, DataClaw 输出3步分析:第一步给每个品类贴一张“画像”Kraljic 矩阵自动定位按“业务影响(金额 x 战略)x 供应风险(集中度 x 弹性 x 替代)”,所有品类自动放进4个象限:战略 / 杠杆 / 瓶颈 / 常规。回到 CAT-03-05:业务影响高:年增长14%、BOM 占比上升、影响6个客户项目12亿收入;供应风险高:CR2 = 88%、HHI = 4,816、产能利用率95%、替代成熟度2/5;→ Kraljic 象限:战略品类。第二步给每家供应商贴一张“画像”多维绩效+风险评级依据 PACS 方法论,从交付、质量、产能、关系、战略价值5个维度,给每家供应商打分。CAT-03-05 的三家供应商:▲行业参考:OTD≥95%为优;PPM≤200为优;产能利用率度<=80%为健康第三步把品类画像和供应商画像叠在一起三重叠风险一目了然CAT-03-05 暴露的是采购最怕遇到的三重叠:结构性高度集中——HHI 4,816(>2,500即高度集中,采购方几乎无谈判筹码);供应商低弹性——前两家产能利用率94-95%,几乎没有扩产空间;替代资源困难——可替代供应商仅1家、替代成熟度2/5、切换成本432万、认证周期180天。一个8800万的品类,卡着一家供应商95%的产能、64%的份额、和432万的切换成本。这不是“风险”,这是“地雷”。回到开头的具体客户/场景回到开篇那条推送:「光学玻璃/晶圆品类(CAT-03-05)|战略品类·高风险——蓝玻璃晶圆料号已进入 EOL 预警」这个判断是怎么来的?蓝玻璃晶圆(MAT-0305-002)是 CAT-03-05 的6个关键料号之一,年需求15.7万 PCS,已标注 EOL 预警——Kraljic 生产采购专家自动从料号生命周期表中识别,叠加“该料号所在品类为战略品类+替代成熟度仅2/5”,自动升级为紧急。「前2供应商集中度88%,清X光学份额64%,产能利用率95%,建议立即介入。」这一条来自3条规则的自动交叉:CR2 > 70% → 集中度;单供应商份额 > 50% → 单一依赖;主力供应商产能利用率 > 90% → 弹性不足。3条规则叠加→自动推送给采购总监。18天前需要3次会议+2周分析的事情,今天用4秒推完了。问题被一层层查了出来但李总没停在这里。他点开 Kraljic 生产采购专家的“全品类体检表”——不只是 CAT-03-05。系统对全公司所有采购品类按4象限跑了一遍,自动标出每一类的风险等级、关键料号状态、Top 供应商健康度。过去是“一个品类一个品类地查”,今天是“一张表查全部品类”。给建议+测算效果Kraljic 生产采购专家接着给出针对三家供应商的分级建议:⚠️实际效果取决于措施是否落地、替代供应商是否匹配、客户配合度——以上建议为方法论输出,不构成业绩承诺固化推送:每天自动给报告/任务这套方法不需要每天重新问。Kraljic 生产采购专家已经把数据口径、Kraljic 矩阵分类规则、供应商分级标准、价格异动阈值、料号生命周期规则全部沉淀下来——每天9:00 → 推送《采购经营日报》(含紧急告警);每周一9:00 → 推送《本周采购风险预警+改善任务清单》;每月1日 → 推送《品类画像更新+供应商绩效月度报告》;每季度首日 → 推送《季度品类策略复盘+寻源建议》。数字员工不是在“被动回答”,是在“主动盯盘”。下一次蓝玻璃晶圆真要 EOL、下一次清X光学真要涨价——李总会在发生之前收到提醒,而不是在发生之后才开会。让80%的采购精力从应对当下变成经营未来过去采购品类经历5件事务性工作过去,一位采购品类经理每周要花60–70%的时间在:◈ 拉数据:从 ERP、SRM、R&D/PLM 导7–8 张表;◈ 对数据:处理供应商编码不一致、单位不一致、缺项;◈ 做分析:算金额、算集中度、算 HHI、算价格异动、算风险;◈ 出报告:画 PPT、写简报、发邮件;◈ 盯进度:跟催改善单、跟踪寻源进度、复盘品类策略。真正用于“想清楚怎么花钱”的时间,反而不到 30%。现在数字员工接走5件 品类经理只剩判断决策现在,Kraljic 生产采购专家把这些高频重复工作全部接走:✅ 拉数据 → 跨 ERP、SRM、PLM 自动拉取,统一编码;✅ 对数据 → 自动清洗、自动对齐、自动标记异常;✅ 做分析 → Kraljic 矩阵+供应商分级+HHI 集中度+替代成熟度全自动;✅ 出报告 → 每天/每周/每月/每季度主动推;✅ 盯进度 → 改善单、寻源单、品类策略自动跟踪、异常自动升级。品类经理只需要做一件事:判断决策。要不要批准清X光学那份长期框架协议?要不要把X澈升级为战略供应商?要不要主动拜访光X光学推动扩产?——把“分析”交出去,把“判断”拿回来。价值把精力放回4件业务价值工作采购品类经理可以把更多精力放回真正影响采购经营结果的事情:✅ 跑关键供应商:把时间从“盯数据”换成“和清X谈判产能保障、和X澈谈扩产激励”;✅ 做品类策略:每年2次品类策略复盘,重新定义“该买谁、该买多少、该什么时候买”;✅ 谈关键合同:把时间花在真正影响80%支出的战略品类和杠杆品类上;✅ 培育第二供应源:从被动寻源变成主动构建“备份供应链”。让80%的采购精力从应对当下变成经营未来今天,DataClaw数字员工“Kraljic生产采购专家”正式上岗“Kraljic 生产采购专家”将为最终闭环(不是任务完成了,而是状态改善)做进一步迭代,包括但不限于:从建议自动化转为结构化的 Initiative 和 Action;AI 交互与业务应用场景封装……敬请期待~想看您行业的“生产采购专家”数字员工怎么构建?怎么用?请联系您熟悉的汉得商务伙伴或扫描下方二维码了解更多也欢迎在评论区与我们聊一聊您的采购品类分析痛点

2026

08.10

汉得企业级大模型训练与管理平台-灵炼(英文名 H-AI TrainHub,以下简称灵炼),是汉得 AI Factory 融合解决方案的企业级一站式模型训练与管理平台,覆盖数据集管理、精调、推理部署与评测等端到端能力,专注性能与安全保障,全面支撑企业 AI 模型开发与落地。本文将带您快速掌握灵炼模型部署的推理新能力:在现有 vLLM 推理引擎基础上,集成 NVIDIA NIM 与 NVIDIA Dynamo 推理框架,构建统一、高效且可扩展的推理平台。从镜像维护、模型版本配置,到部署选择、服务监控,再到一键对接灵猿 AI 中台,帮助您为不同业务场景选择最合适的推理方案。为什么要引入新的推理能力做过大模型私有化落地的团队应该都有体会:模型部署这件事,难的从来不是“跑起来”,而是“跑得稳、跑得快、管得住”。同一个模型,换个引擎、换套参数,吞吐和时延可能差出一倍。在推理侧,灵炼此前一直以 vLLM 作为默认引擎。vLLM 足够优秀,但随着企业 AI 应用从“试点验证”走向“规模化生产”,单一引擎的局限逐渐显现:💢场景在分化有的客户追求开箱即用与企业级支持保障,有的客户在多机多卡集群上追求极致吞吐,一把尺子量不了所有场景;💢算力驱动营收GPU 算力是企业级AI部署的核心资源,推理方案 每提升一分吞吐,就意味着处理相同工作负载时 所需的 GPU 数量更少 ——方案选择将直接影响 企业拓展营收规模与降低总体拥有成本(TCO)的能力;💢生态在演进基于 NVIDIA 构建的推理软件栈(TensorRT-LLM、NIM、Dynamo)持续优化 ,企业需要一条能持续吸纳新推理能力红利的路径,而不是被锁死在某一代方案上。因此,灵炼此次升级的意义不只是“多了两个选项”,而是让平台具备了多能力栈管理的体系化能力——容器镜像、模型适配、部署选择、参数实践、监控运维一条链路打通。企业只管按场景选用,把“换推理方案”的成本压缩到一次下拉选择。灵炼模型部署融合NVIDIA NIM & Dynamo部署再升级!灵炼模型部署正式接入 NVIDIA NIM 与 NVIDIA Dynamo,形成 vLLM、NIM、Dynamo 三大推理技术协同的架构,进一步提升模型服务的性能、稳定性与运维效率。推理方案自由选在现有 vLLM 基础上,新增对 NVIDIA NIM 与 NVIDIA Dynamo 的支持。部署时可根据模型配置按需选择推理方案,通过一套标准化流程实现多种推理技术的统一部署与管理。镜像有章法底层配置支持维护通用镜像;针对 NIM 模型专用镜像的特点,支持在模型仓库对应版本上维护 NIM 专用镜像,镜像跟着模型版本走,部署自动带出。参数不用猜平台内置各推理方案可配置的内置参数与最佳实践,部署时给出推荐配置,无需从零翻阅引擎文档调参。监控开箱即用NIM、Dynamo 服务指标同步支持平台监控,与  vLLM 保持一致的可观测体验。生态一键贯通部署完成后支持一键对接灵猿 AI 中台的模型账号维护与模型账号组合配置,推理服务直达上层应用。认识两位新成员先看它们所在的大图景AI Factory 与 NVIDIA AI Enterprise在正式介绍这两位新成员之前,有必要先理解它们从何而来。AI  Factory(AI工厂)这是一套软硬件协同设计的完整体系,目标是让企业能够规模化、可持续地把算力高效地“炼”成  AI 生产力——这也正是 AI 推理进入生产环节后,对吞吐、时延与成本提出的现实要求。要把这座“工厂”真正跑起来,除了底层硬件,还需要一整套经过验证、可长期维护的软件栈,这就是 NVIDIA AI Enterprise。NVIDIA AI Enterprise将面向 AI 开发的微服务、框架和库与先进的  GPU 编排和基础设施管理相集成,打造出全面受支持的生产就绪型商业软件套件。助力企业自信部署领先的开源工具和AI模型,提高生产力,加速价值实现,同时以优化的资源利用率大规模运行 AI 工作负载。可以把 NVIDIA AI Enterprise 理解为 AI Factory 的软件操作系统:AI Factory 描绘了目标形态,NVIDIA AI Enterprise 则提供了让这套体系真正落地运转的标准化软件基座。而本次要介绍的 NIM 与 Dynamo,正是 AI Factory 软件栈中两个关键组件:一个负责让单个推理服务开箱即用、跑得又快又省心;另一个负责在大规模 GPU 集群上把分布式推理编排到极致。理解了这层归属关系,再来看它们各自的能力,就更容易把握它们在整个 AI 工厂里所扮演的角色。1NVIDIA NIM官方预优化的“开箱即用”NVIDIA NIM 是一套易于使用的预构建容器工具,目的是帮助企业客户在云,数据中心和工作站上安全,可靠的部署高性能的 AI 模型推理。它由 Model-Free NIM,Day0 NIM 和 Refresh NIM 组成 ,它把推理框架(vLLM/SGLang),最小运行时依赖,最佳推理实践统一打包为容器镜像 ,启动即为标准 API 服务。它的价值主要在三点:✅ 开箱即用:无需自行处理复杂的推理框架部署和配置 ,容器启动时自动匹配当前 GPU 的最优 profile。其中:○Model-Free NIM 允许用户以最新的推理框架版本加载任意模型,同时兼顾合规和企业级 feature;○Day0 NIM 允许用户在第一时间获取最新的验证过的开箱即用模型;○Refresh NIM 允许用户获得对于特定模型的最佳性能。✅ 性能有保障:如果用户使用的是 Refresh NIM,底层是深度优化的推理路径,在 NVIDIA GPU 上通常可获得优于通用方案的吞吐与首 Token 时延。同时用户还可针对特定需求生成自定义优化方案,并将其无缝集成到 NIM;✅ 企业级支持:具备官方的版本维护与安全更新, 没有 高危代码漏洞风险,契合合规要求高的企业客户。需要注意的是,NIM 镜像是“多层次” 的——每个模型和框架版本对应各自的 NIM 镜像,这对平台的镜像管理能力提出了更高要求,也是灵炼本次在产品设计上重点解决的问题。2NVIDIA Dynamo数据中心级的分布式推理框架如果说 NVIDIA NIM 解决的是“单个服务如何跑得又快又省心”,Dynamo 瞄准的则是另一个维度:大规模分布式场景下,GPU 集群如何协同把推理跑到极致。Dynamo 是一个开源的数据中心级分布式推理框架,核心能力包括:✅ P/D 分离(Disaggregated Serving):将推理的 Prefill(提示词计算)与 Decode(逐 Token 生成)拆到不同 GPU 组分别调度——前者吃算力、后者吃显存带宽,分开后各用其长,在长上下文、高并发场景下集群整体吞吐提升非常可观;✅ KV Cache 感知路由:智能路由器掌握各节点的 KV Cache 分布,将请求调度到缓存命中率最高的节点,减少大量重复计算;✅ 多级 KV 缓存管理:KV Cache可在显存、内存、本地盘之间分层流转,用更经济的存储扛住更大的缓存量;✅ 引擎无关:底层可对接 TensorRT-LLM、vLLM、SGLang 等推理内核,Dynamo 负责上层调度与编排。如何选择合适的推理方案?一个务实的选型参考:日常开发验证用 vLLM;NVIDIA GPU 上的标准化高性能生产部署优先  NVIDIA NIM;当业务量大到需要跨节点扩展推理集群时,就是 NVIDIA Dynamo 的主场。快速入门 - 配置维护维护推理方案通用镜像模型部署/配置维护:为各推理方案维护通用镜像。vLLM、Dynamo 等采用“一个镜像服务所有模型”的通用镜像模式,在配置中统一登记镜像地址与版本,部署时直接引用,镜像升级只需维护一处,不再需要在各个环境里口口相传“该用哪个 tag”。◈ 推理方案:vLLM / NVIDIA NIM / NVIDIA Dynamo;◈ 通用镜像:维护对应的镜像地址与版本,针对 NVIDIA NIM 的渠道类型,平台内置了 Model-Free NIM。模型仓库维护 NIM 专用镜像模型仓库/模型版本:为模型版本维护 NVIDIA NIM 模型专用镜像。与通用引擎不同,NIM 模型专用镜像与模型一一对应。灵炼将 NIM 专用镜像的维护入口设计在模型仓库的对应模型版本上,镜像与模型版本强绑定,部署时自动带出,如果官方没有发布模型专属 NIM,会默认使用 Model-Free NIM。在模型版本上配置该版本支持的推理清单。不同模型对推理底层的适配情况不同,通过版本级的配置,部署环节只展示合法选项,从源头避免“用错引擎起不来服务”的低级错误。模型部署选择推理方案模型部署:新建部署任务,选择推理方案。◈ 模型及版本:选择目标模型;◈ 推理方案:从该模型版本配置的方案中选择  vLLM / NVIDIA NIM / NVIDIA Dynamo;◈ 参数配置:平台预置各引擎默认参数与最佳实践推荐值—— vLLM 的显存利用率与最大序列长度、NVIDIA NIM 的 profile 选择、NVIDIA Dynamo 的分布式拓扑等,均给出参数说明与推荐配置,同时支持关键参数自定义调优。同一个模型,开发环境用 vLLM 快速验证,生产环境切换NVIDIA NIM 或NVIDIA Dynamo 上强度,切换成本被压缩到一次下拉选择。服务监控新技术栈不能是“监控盲区”。部署完成后, NVIDIA NIM 与 NVIDIA Dynamo 服务的运行状态与推理指标已同步接入平台监控,与原有 vLLM 服务保持一致的运维体验,服务健康度、推理指标一目了然,问题快速定位。一键对接灵猿 AI 中台推理服务就绪后,支持一键对接灵猿 AI 中台,自动完成模型账号维护与模型账号组合配置,无需在两个平台间手工复制接入信息,推理服务直达上层 AI 应用,打通从模型部署到应用消费的最后一公里。推理世界迭代很快,平台的价值不在于押注某一个引擎,而在于把“换推理方案”这件事变得足够便宜。以上内容主要讲解了灵炼模型部署接入 NVIDIA NIM 与 NVIDIA Dynamo 后的推理方案镜像维护、推理方案选择、部署参数最佳实践、服务监控、灵猿一键对接相关能力——从镜像、参数、监控到上层应用对接的整条链路都是现成的,企业只需按场景选择最合适的推理方案。更多功能细节可参阅开放平台文档,或随时联系研发团队:openhand@vip.hand-china.com。未来我们将持续迭代,为您带来更多 AI 模型开发与落地体验,期待与您交流!欢迎在评论区留言,一起探讨 AI 模型推理部署在您业务中的应用潜力~携手汉得,共铸硬核竞争力!

加入汉得

BE YOUNG,我们一直在路上

© Copyright Hand China Co.,Ltd. All Rights Reserved 上海汉得信息技术股份有限公司

业务咨询

完善信息后我们会第一时间跟您联系
*
*
*
*
*请输入正确的验证码
captcha
*
*
发送失败
立即咨询
咨询热线
业务咨询
微信扫码 在线咨询 微信咨询二维码
联系我们
400-168-4263
业务咨询
完善信息后我们会第一时间跟您联系