英伟达投资的 AI 基础设施初创公司 Prime Intellect 正式推出 Model Factory 模型工厂平台,这套平台打通预训练、微调、强化学习、推理全链路,底层框架可以支撑数千张 GPU 集群,完成万亿参数 MoE 混合专家模型的训练,解决大团队做超大 MoE 训练时集群调度、算力利用率低的痛点。现在万亿 MoE 训练最大难点不是单纯堆显卡,而是 MoE 的专家路由、通信开销、显存调度非常复杂,很多集群卡再多,实际算力利用率很低,Prime Intellect 自研 Prime Mega MoE 融合内核,专门优化 MoE 训练通信逻辑,在 H200 显卡上跑 Qwen3-235B-A22B 这类 MoE 模型,MFU 算力利用率做到 48%,大幅超过行业很多自建方案。整套平台的落地路径很清晰,提供按需托管和专属私有化部署两种模式,科研、芯片设计、金融这类行业团队可以直接在平台从零训模型、继续全参数训练、做 RL 强化学习,还能把线上推理日志回流继续迭代模型。总的来说,这个 Model Factory 的定位不是单一训练框架,是一套一站式 MoE 规模化生产平台,给有自研大模型需求的团队降低万亿 MoE 集群搭建、调优门槛。
一、Model Factory 模型工厂核心能力清单
| 项目 | 详细说明 |
|---|---|
| 支持规模 | 可扩展至数千 GPU 集群,支持万亿参数 MoE 预训练、续训、监督微调、强化学习 |
| 自研内核 | Prime Mega MoE,针对 MoE 路由、跨卡通信优化,H200 上 MFU 可达 48% |
| 统一链路 | 预训练→SFT 微调→RL 强化学习→推理部署,推理数据回流用于持续训练 |
| 部署模式 | 按需托管 On-demand、专属私有化 Dedicated 部署 |
| 集群调度 | 专属部署支持 Slurm、K8s 提交任务,客户可接入自定义训练框架 |
| 目标客户 | 科研机构、芯片、金融、企业自研大模型团队 |
二、万亿 MoE 训练的行业痛点,平台针对性解决
- 跨卡通信爆炸:MoE 专家路由会产生大量跨节点数据交换,很容易带宽瓶颈,Prime Mega MoE 优化通信内核降低开销
- 算力利用率偏低:普通框架在 MoE 上经常跑不满 GPU,大量算力闲置,这也是本次 48% MFU 指标的意义
- 训练后链路割裂:很多团队训练、微调、推理是分开系统,很难把线上真实反馈数据回流训练
- 集群运维门槛高:数千卡集群的故障容错、任务排队、显存隔离,自建方案需要大量底层工程师
三、两种部署模式差异
- 按需托管:直接使用 Prime Intellect 托管算力,开箱即用,适合短期实验、小规模验证,不用自己管机房和集群
- 专属私有化部署:部署在客户自有算力集群,开放调度接口,支持自定义框架,适合长期稳定训练、数据敏感的企业
四、完整使用流程
- 环境接入:按需托管直接注册提交任务;私有化部署对接现有 K8s/Slurm 集群
- 模型选择:从零初始化训练,或者基于已有开源 MoE 模型做全参数续训
- 训练链路:预训练完成后,接续 SFT、RL 强化学习,统一平台管理版本和 checkpoint
- 上线推理:平台内直接部署推理服务,采集线上交互日志
- 数据回流:把推理日志、用户反馈数据清洗后回流,持续迭代模型权重
五、优势和局限
✅ 优势
- 一站式全链路,不用分别对接训练、微调、推理多套系统
- MoE 专项内核优化,在 H200 上算力利用率表现亮眼
- 两种部署模式兼顾灵活实验和私有化数据合规需求
- 只面向有大模型训练需求的 B 端团队,不面向普通 C 端用户
- 高 MFU 是特定模型测试结果,不同 MoE 结构、不同 GPU 型号表现会浮动
- 依赖英伟达 GPU 生态,对其他芯片适配暂时没有公开方案
❌ 局限
【相关 FAQ】
问题 1:英伟达投资的 AI Infra 创企发布的模型工厂,能不能支持数千卡集群训练万亿 MoE?
回答 1:英伟达投资的 AI Infra 创企 Prime Intellect 发布的 Model Factory 模型工厂,底层 prime-rl 框架支持数千卡集群,具备万亿参数 MoE 混合专家模型的训练能力,同时配套 MoE 优化内核提升算力利用率。
问题 2:Prime Intellect 模型工厂的 Prime Mega MoE 内核,主要解决万亿 MoE 训练什么问题?
回答 2:Prime Intellect 模型工厂的 Prime Mega MoE 内核,重点优化 MoE 专家路由和跨节点通信开销,缓解大规模集群通信瓶颈,在 H200 上测试 Qwen3-235B-A22B,实现 48% 的 MFU 算力利用率。
问题 3:Prime Intellect 模型工厂有哪两种部署方式,分别适合什么场景?
回答 3:Prime Intellect 模型工厂分为按需托管和专属私有化部署,按需托管适合短期实验验证;私有化部署对接客户自有集群,支持自定义框架,适合数据敏感、长期自研万亿 MoE 的企业。
问题 4:Prime Intellect 模型工厂和普通训练框架最大区别是什么?
回答 4:Prime Intellect 模型工厂是一站式平台,覆盖预训练、微调、强化学习、推理,支持推理数据回流迭代模型,而普通训练框架大多只负责训练环节,缺少完整闭环,尤其针对万亿 MoE 大规模集群做专项优化。
问题 5:想在 Prime Intellect 模型工厂训练万亿 MoE,普通开发者可以直接使用吗?
回答 5:Prime Intellect 模型工厂面向企业、科研这类 B 端自研团队,主打大规模 MoE 训练,不是面向普通开发者的体验工具,更适合有万亿大模型训练需求的专业团队。
【参考资料】
[2026-11-20](英伟达投的 AI Infra 创企发模型工厂!支持数千卡集群训练万亿 MoE)智东西
[2026-11-20](Prime Intellect 推出 Model Factory,面向万亿 MoE 规模化训练平台)网易科技
[2026-11-19](Prime Intellect 官宣 Model Factory,MoE 内核 H200 实测 MFU 48%)VentureBeat
[2026-11-15](万亿 MoE 训练瓶颈:通信开销与算力利用率优化方向)AI 前线
[2026-10-28](MoE 大模型集群训练架构选型指南)机器之心
【免责声明】
本文内容仅为 AI 基础设施行业资讯整理,信息来源于媒体公开报道、厂商发布技术材料,不构成算力采购、模型训练方案选型建议。Model Factory 的实际性能、集群上限、适配范围会随版本迭代调整,实际训练效果受 GPU 型号、模型结构、数据质量影响,一切以 Prime Intellect 官方文档为准。
本文来自作者[畴流信标]投稿,不代表江南网立场,如若转载,请注明出处:https://news.jnwb.net/rgzn/202611/4784.html
评论列表(4条)
我是江南网的签约作者“畴流信标”!
希望本篇文章《英伟达投资 AI Infra 创企 Prime Intellect 发布 Model Factory 模型工厂,支持数千卡集群训练万亿 MoE 模型》能对你有所帮助!
本站[江南网]内容主要涵盖:互联网行业的追踪与探索
本文概览:英伟达投资的 AI 基础设施初创公司 Prime Intellect 正式推出 Model Factory 模型工厂平台,这套平台打通预训练、微调、强化学习、