这一周的开源大模型:Muse Spark Open、Beam 和 Jais 3
10 月过了一半,开源模型这边热闹得有点看不过来。这篇挑三件我觉得比较重要的事说说,细节以官方发布为准,链接放在文末。
Meta 放出了 Muse Spark Open
10 月 15 日,Meta 发布了 Muse Spark Open 的开放权重:约 816B 总参数、每 token 激活约 42B 的原生多模态 MoE,支持 1M token 上下文,主打编程和长程 Agent 任务,文本、图片、音频、视频都能作为输入。
有意思的是它的落地方式——官方演示是在两台 M5 Ultra 的 Mac Studio 上通过 MLX 跑起来的。「家用级机器跑前沿模型」第一次看起来不完全是宣传话术。
需要留意许可证:它用的是 Meta 自家的 Muse Model License(带有限商业条款),不是 Apache 2.0。下载权重之前建议先读一遍条款。
Reflection 的 Beam:501B,Apache 2.0
新实验室 Reflection 的首个开放权重模型 Beam 也在这周上了 Hugging Face:501B 总参、激活 23B,1M 上下文,Apache 2.0,明确面向编程和 Agent 场景。
更实用的一点是配套:官方给出了推理(transformers / vLLM / SGLang 的 Day-0 支持)、SFT 和 RL 的完整配方。对想要「可自托管、可微调」的团队来说,Apache 2.0 加上完整后训练配方这个组合,可能比参数数字更有吸引力。
Jais 3:阿拉伯语的开源「全家桶」
阿联酋的 IFM 联合 Inception42 发布了 Jais 3:六档尺寸从 0.9B 到 375B(旗舰为 375B-A23B 稀疏 MoE),外加语音识别模型 Jais Speech,全部 Apache 2.0,上下文最长 512K。这也是目前规模最大的阿拉伯语开源模型系列之一。
它提醒我们:开源大模型的竞争不只在「通用最大」,语言与地区的本地化也是一条独立的赛道。
小结
三件事放在一起看,有两个趋势:
- 稀疏 MoE 已经是大模型默认形态——激活参数和总参数差一个数量级很常见;
- 许可证开始分化——Apache 2.0、MIT 和各家自定义条款混在一起,商用前一定要逐版本核对。
参考资料:Meta 官方博文(research.meta.ai/blog/muse-spark-open)、Hugging Face 的 Beam 发布介绍(huggingface.co/blog/reflection-beam)。本文为个人整理,细节请以官方页面为准。