英伟达投资 AI Infra 创企 Prime Intellect 发布 Model Factory 模型工厂,支持数千卡集群训练万亿 MoE 模型

英伟达投资的 AI 基础设施初创公司 Prime Intellect 正式推出 Model Factory 模型工厂平台,这套平台打通预训练、微调、强化学习、推理全链路,底层框架可以支撑数千张 GPU 集群,完成万亿参数 MoE 混合专家模型的训练,解决大团队做超大 MoE 训练时集群调度、算力利用率低的痛点。现在万亿 MoE 训练最大难点不是单纯堆显卡,而是 MoE 的专家路由、通信开销、显存调度非常复杂,很多集群卡再多,实际算力利用率很低,Prime Intellect 自研 Prime Mega MoE 融合内核,专门优化 MoE 训练通信逻辑,在 H200 显卡上跑 Qwen3-235B-A22B 这类 MoE 模型,MFU 算力利用率做到 48%,大幅超过行业很多自建方案。整套平台的落地路径很清晰,提供按需托管和专属私有化部署两种模式,科研、芯片设计、金融这类行业团队可以直接在平台从零训模型、继续全参数训练、做 RL 强化学习,还能把线上推理日志回流继续迭代模型。总的来说,这个 Model Factory 的定位不是单一训练框架,是一套一站式 MoE 规模化生产平台,给有自研大模型需求的团队降低万亿 MoE 集群搭建、调优门槛。

一、Model Factory 模型工厂核心能力清单

项目详细说明
支持规模可扩展至数千 GPU 集群,支持万亿参数 MoE 预训练、续训、监督微调、强化学习
自研内核Prime Mega MoE,针对 MoE 路由、跨卡通信优化,H200 上 MFU 可达 48%
统一链路预训练→SFT 微调→RL 强化学习→推理部署,推理数据回流用于持续训练
部署模式按需托管 On-demand、专属私有化 Dedicated 部署
集群调度专属部署支持 Slurm、K8s 提交任务,客户可接入自定义训练框架
目标客户科研机构、芯片、金融、企业自研大模型团队

二、万亿 MoE 训练的行业痛点,平台针对性解决

  1. 跨卡通信爆炸:MoE 专家路由会产生大量跨节点数据交换,很容易带宽瓶颈,Prime Mega MoE 优化通信内核降低开销
  2. 算力利用率偏低:普通框架在 MoE 上经常跑不满 GPU,大量算力闲置,这也是本次 48% MFU 指标的意义
  3. 训练后链路割裂:很多团队训练、微调、推理是分开系统,很难把线上真实反馈数据回流训练
  4. 集群运维门槛高:数千卡集群的故障容错、任务排队、显存隔离,自建方案需要大量底层工程师

三、两种部署模式差异

  • 按需托管:直接使用 Prime Intellect 托管算力,开箱即用,适合短期实验、小规模验证,不用自己管机房和集群
  • 专属私有化部署:部署在客户自有算力集群,开放调度接口,支持自定义框架,适合长期稳定训练、数据敏感的企业

四、完整使用流程

  1. 环境接入:按需托管直接注册提交任务;私有化部署对接现有 K8s/Slurm 集群
  2. 模型选择:从零初始化训练,或者基于已有开源 MoE 模型做全参数续训
  3. 训练链路:预训练完成后,接续 SFT、RL 强化学习,统一平台管理版本和 checkpoint
  4. 上线推理:平台内直接部署推理服务,采集线上交互日志
  5. 数据回流:把推理日志、用户反馈数据清洗后回流,持续迭代模型权重

五、优势和局限

✅ 优势

  1. 一站式全链路,不用分别对接训练、微调、推理多套系统
  2. MoE 专项内核优化,在 H200 上算力利用率表现亮眼
  3. 两种部署模式兼顾灵活实验和私有化数据合规需求
  4. 只面向有大模型训练需求的 B 端团队,不面向普通 C 端用户
  5. 高 MFU 是特定模型测试结果,不同 MoE 结构、不同 GPU 型号表现会浮动
  6. 依赖英伟达 GPU 生态,对其他芯片适配暂时没有公开方案

❌ 局限

【相关 FAQ】

问题 1:英伟达投资的 AI Infra 创企发布的模型工厂,能不能支持数千卡集群训练万亿 MoE?

回答 1:英伟达投资的 AI Infra 创企 Prime Intellect 发布的 Model Factory 模型工厂,底层 prime-rl 框架支持数千卡集群,具备万亿参数 MoE 混合专家模型的训练能力,同时配套 MoE 优化内核提升算力利用率。

问题 2:Prime Intellect 模型工厂的 Prime Mega MoE 内核,主要解决万亿 MoE 训练什么问题?

回答 2:Prime Intellect 模型工厂的 Prime Mega MoE 内核,重点优化 MoE 专家路由和跨节点通信开销,缓解大规模集群通信瓶颈,在 H200 上测试 Qwen3-235B-A22B,实现 48% 的 MFU 算力利用率。

问题 3:Prime Intellect 模型工厂有哪两种部署方式,分别适合什么场景?

回答 3:Prime Intellect 模型工厂分为按需托管和专属私有化部署,按需托管适合短期实验验证;私有化部署对接客户自有集群,支持自定义框架,适合数据敏感、长期自研万亿 MoE 的企业。

问题 4:Prime Intellect 模型工厂和普通训练框架最大区别是什么?

回答 4:Prime Intellect 模型工厂是一站式平台,覆盖预训练、微调、强化学习、推理,支持推理数据回流迭代模型,而普通训练框架大多只负责训练环节,缺少完整闭环,尤其针对万亿 MoE 大规模集群做专项优化。

问题 5:想在 Prime Intellect 模型工厂训练万亿 MoE,普通开发者可以直接使用吗?

回答 5:Prime Intellect 模型工厂面向企业、科研这类 B 端自研团队,主打大规模 MoE 训练,不是面向普通开发者的体验工具,更适合有万亿大模型训练需求的专业团队。

【参考资料】

[2026-11-20](英伟达投的 AI Infra 创企发模型工厂!支持数千卡集群训练万亿 MoE)智东西

[2026-11-20](Prime Intellect 推出 Model Factory,面向万亿 MoE 规模化训练平台)网易科技

[2026-11-19](Prime Intellect 官宣 Model Factory,MoE 内核 H200 实测 MFU 48%)VentureBeat

[2026-11-15](万亿 MoE 训练瓶颈:通信开销与算力利用率优化方向)AI 前线

[2026-10-28](MoE 大模型集群训练架构选型指南)机器之心

【免责声明】

本文内容仅为 AI 基础设施行业资讯整理,信息来源于媒体公开报道、厂商发布技术材料,不构成算力采购、模型训练方案选型建议。Model Factory 的实际性能、集群上限、适配范围会随版本迭代调整,实际训练效果受 GPU 型号、模型结构、数据质量影响,一切以 Prime Intellect 官方文档为准。

本文来自作者[畴流信标]投稿,不代表江南网立场,如若转载,请注明出处:https://news.jnwb.net/rgzn/202611/4784.html

赞 (1)
反馈

发表回复

本站作者后才能评论

评论列表(4条)

  • 畴流信标
    畴流信标 2026年11月20日

    我是江南网的签约作者“畴流信标”!

  • 畴流信标
    畴流信标 2026年11月20日

    希望本篇文章《英伟达投资 AI Infra 创企 Prime Intellect 发布 Model Factory 模型工厂,支持数千卡集群训练万亿 MoE 模型》能对你有所帮助!

  • 畴流信标
    畴流信标 2026年11月20日

    本站[江南网]内容主要涵盖:互联网行业的追踪与探索

  • 畴流信标
    畴流信标 2026年11月20日

    本文概览:英伟达投资的 AI 基础设施初创公司 Prime Intellect 正式推出 Model Factory 模型工厂平台,这套平台打通预训练、微调、强化学习、

联系我们

联系:143 0457 151

工作时间:周一至周五,9:30-18:30,节假日休息

关注我们