AInspiro
工具测评

Meta 开源 8160 亿参数 Agent 模型,两台山寨 Mac 就能跑

AInspiro 编辑部·
部分内容由 AI 辅助创作。

八千一百六十亿参数的开源筹码

十月十五日,Meta 放出 Muse Spark Open 的权重。这是个原生多模态的稀疏专家模型,总参数 8160 亿,每个 token 激活 420 亿,上下文一百万 token,能吃文字、图片、视频、音频,吐文字。许可证是 Meta 自家的 Muse Model License,带有限商用条款,权重已经挂在 Hugging Face 的 meta-models/Muse-Spark-Open-816B-A42B。它的定位很明确:为长程、多步的编程和智能体任务而生。

真能跑在家里的只有演示

Meta 高调演示了「两台 Apple M5 Ultra Mac Studio 用 MLX 跑起来」,听起来很香,但别被带偏。NVFP4 格式下它大约要 700GB 加速器显存,这不是笔记本能扛的。那两台 Mac Studio 每台最多 512GB 统一内存,加起来才刚好装下。绝大多数团队最后还是落在 GPU 集群或托管伙伴上。MLX 这条路适合做本地驻留的实验,别对客户承诺「能在 MacBook 上跑」。

三种拿到它的方式

想用,有两条现成路。一是自己下权重部署,SGLang、vLLM、TensorRT-LLM、Transformers、MLX、llama.cpp、Unsloth 首发都支持,覆盖 NVIDIA、AMD、Intel、Apple 各家芯片。二是走托管 API,Baseten、Fireworks、Groq、Modal、Nebius、OpenRouter、Together 都能调。闭源的 Wonder 和 Wonder Full 则是另一条线:Wonder 走 Meta Model API,Wonder Full 只随 Muse Code 订阅,能力更强但不在公开 API 这层。

和企业自托管的关系

开源权重重开了「自己托管」和「主权云」的选项,刚好接在闭源的 Argon 和 Wonder 发布之后。对数据驻留、欧盟采购有要求的场景,Spark Open 比纯 API 的闭源模型更有话事权。但商业条款得第一天就过法务:Muse Model License 的商用范围有限,别等试点成功了才补审。FinOps 上要把伙伴的 token 价和自购 GPU 的摊销放同一张表比。

选它还是闭源

Artificial Analysis 的 Intelligence Index 给过分数:Wonder Full 56、Wonder 52、Spark Open 39。Spark Open 分低,不代表没用——内部助手、文档处理、面向客户的 AI 功能,往往不需要最猛的模型,需要的是在自己成本下把活干准。开源的意义是可控和可改,不是榜首。真要上,先拿长重构、多模态工单、MCP 工具循环三个评估跑一遍,赢在「单位完成任务成本」才值得升。

和 Wonder 怎么选

闭源的 Wonder 走 Meta Model API,Wonder Full 只随 Muse Code 订阅,它们是「开箱即用、能力更强、但要按 token 或订阅付费」的那一类。Spark Open 是「权重下载、自己掌控、按自己的硬件或托管伙伴计费」的那一类。简单说:想最快用上、不在乎部署,选 Wonder;介意数据出境、想改模型、想长期把成本摊到硬件上,选 Spark Open。两者不是谁替代谁,是两条不同的拥有方式。

本地跑的门槛真相

「两台 Mac Studio 能跑」这个演示容易让人误以为消费级设备就行,其实那两台 M5 Ultra 每台顶配 512GB 统一内存,已经是企业级配置,不是你书房的 MacBook。NVFP4 下 700GB 显存的需求,意味着绝大多数人得靠云上 GPU 或托管伙伴。MLX 路径的价值是做「本地驻留」的合规实验,证明数据可以不出域,而不是给普通开发者一个能随手跑的玩具。

开源权重意味着什么

开源的意义不在「免费」,在「可控」。你能微调、能改后训练、能把模型塞进自己的私有云,还能审计它到底干了什么。对受监管行业,这点比榜首分数值钱。代价是你要自己背部署、更新、安全和性能的责任——闭源那头这些 Meta 替你扛了。所以选开源不是图省事,是图主权;团队没运维能力,走托管 API 反而更稳。

上手别先自重权重

看到「开源」两个字容易冲动想自己部署,劝你先按住。Spark Open 自重权重的前提是 700GB 显存或靠谱托管伙伴,那条「两台 Mac Studio」的演示是企业顶配,不是你书房的机器。对绝大多数团队,先走 Baseten、Fireworks、Together 这类托管 API 把效果验了,成本低、上手快、不用养 GPU,有些还带免费额度。等确认它真能扛你的任务,再有数据驻留硬要求时,才值得下权重、搭推理栈、调量化。一上来就自重,容易卡在显存、量化格式、推理引擎参数这些和「模型好不好用」无关的事上,白白耗掉两周,最后模型到底行不行反而没验成。

补充一句务实判断:如果你只是想试它的多模态和长上下文,先走 API 比下权重省事十倍,下午就能跑通;等真碰到数据不出域的硬要求,再谈自托管也不迟。开源权重是选项不是义务,用不上就别为它折腾硬件,把精力放在「它能不能干好你的活」上,比纠结部署方式重要。

一句话,先用托管验证、再谈自重权重,顺序别反。

跟你有啥关系

如果你团队已经在 Hugging Face 生态里、又有数据不出域的硬要求,Spark Open 是少数能同时给「美国开源权重」和「一百万上下文」的选项。但别被 816B 的体量吓到或诱惑到——先问清楚你有没有 700GB 显存或靠谱的托管伙伴,再决定是自重权重还是走 API。对多数小团队,先试托管 API 的性价比更高。