OVHcloud 正式发布自研大模型家族 Olala 的首款产品 Olala mini 7A1B,这款模型采用 MoE 混合专家架构,搭配 Differential-TPA+Mamba-3 混合注意力方案,并且以 Apache 2.0 协议在 Hugging Face 开源,最大亮点就是硬件门槛很低,8GB 显存显卡就能跑,CPU 环境也能正常推理,适合本地部署、私有化小应用、Agent 轻量场景,作为欧洲本土云厂商自研模型,它也是 OVHcloud 正式入局基础大模型赛道的标志,很多开发者想要低成本本地跑 Agent 模型,这款刚好满足低显存、不错吞吐的需求,官方还会放出权重、技术报告、AI Act 合规文档,后续还有版本迭代计划。
核心参数一览
| 项目 | 参数详情 |
|---|---|
| 总参数 | 7B(70 亿) |
| 激活参数 | 1B(10 亿),每层 256 个专家 |
| 数据格式 | BF16 |
| 初始上下文窗口 | 32K tokens |
| 推理门槛 | 最低 8GB 显存 GPU |
| 推理速度 | RTX A4500 可达 160 token/s;纯 CPU 可达 50 token/s |
| 开源协议 | Apache 2.0 |
| 发布平台 | Hugging Face |
架构与训练信息
- 属于 MoE 混合专家模型,每次请求只激活一小部分专家,减少显存占用和计算开销;
- 混合注意力融合 Differential-TPA 和 Mamba-3,兼顾长文本和推理速度;
- 在欧洲三台超算集群训练,使用 GH200、A100、H100 显卡,训练投入 700 万欧元;
- 定位 Agentic LLM,原生面向智能代理、工具调用场景。
版本规划
- 当前首发版本:32K 上下文,基础推理、工具调用能力;
- 1.1 版本(2026 年底):升级至 128K 上下文,强化数学推理能力。
适合与不适合场景
✅ 适合:本地私有化部署、轻量 Agent、企业内部小知识库、边缘设备、低显存显卡测试、欧洲区域合规 AI 项目;
❌ 不适合:超高精度复杂数学、超大规模多轮长文档、强创意生成重度场景。
开源配套物料
- 预训练基础权重;
- 技术白皮书;
- 欧洲 AI Act 合规相关文档;
- 推理部署示例代码。
【相关 FAQ】
问题 1:OVHcloud Olala mini 7A1B 是什么开源协议?
回答 1:OVHcloud Olala mini 7A1B 采用 Apache 2.0 协议开源,发布在 Hugging Face 平台,商用自由度较高。
问题 2:OVHcloud Olala mini 7A1B 最低需要什么显卡才能跑?
回答 2:OVHcloud Olala mini 7A1B 最低 8GB 显存 GPU 即可运行,纯 CPU 环境也支持推理,只是速度会降到 50 token/s。
问题 3:OVHcloud Olala mini 7A1B 是 MoE 模型吗?
回答 3:OVHcloud Olala mini 7A1B 是 MoE 混合专家模型,总参数 7B,每次推理只激活 1B 参数,以此降低算力消耗。
问题 4:OVHcloud Olala mini 7A1B 上下文窗口后续会升级吗?
回答 4:OVHcloud Olala mini 7A1B 首发是 32K 上下文,年底 1.1 版本会升级到 128K,同步优化数学推理。
问题 5:OVHcloud Olala mini 7A1B 主要面向什么场景?
回答 5:OVHcloud Olala mini 7A1B 主打本地私有化、轻量 Agent、工具调用、边缘部署,适配对欧洲 AI 合规有要求的项目。
【参考资料】
[2026-11-17](OVHcloud 推出 Olala mini 7A1B,自研 MoE 大模型开源)OVHcloud 官方新闻稿
[2026-11-17](OVH Olala mini 7A1B 开源:8G 显存可跑,欧洲本土大模型)IT 之家
[2026-11-17](Olala mini 7A1B:OVH 首款自研 Agent 大模型,年底升级 128K 上下文)Clubic
[2026-11-17](法国 OVH 开源 Olala mini 7A1B,对标 Mistral 轻量路线)Numerama
[2026-11-17](Olala mini 7A1B 混合注意力架构解析)JustGeek
【免责声明】
本文信息来源于 OVHcloud 官方公告与海外科技媒体资讯,Olala mini 7A1B 的推理性能、版本迭代节奏、合规文档以 Hugging Face 仓库和 OVHcloud 官方更新为准,模型实际效果受硬件、量化方式、prompt 影响,本文仅作技术资讯参考,不构成项目选型建议。
本文来自作者[拓簇聚合]投稿,不代表江南网立场,如若转载,请注明出处:https://news.jnwb.net/rgzn/202611/3788.html
评论列表(4条)
我是江南网的签约作者“拓簇聚合”!
希望本篇文章《OVHcloud 推出 Olala mini 7A1B 并开源,轻量 MoE 本地大模型上新》能对你有所帮助!
本站[江南网]内容主要涵盖:互联网行业的追踪与探索
本文概览:OVHcloud 正式发布自研大模型家族 Olala 的首款产品 Olala mini 7A1B,这款模型采用 MoE 混合专家架构,搭配 Differential-TPA+Ma