开放权重 / 多机本地推理
Muse Spark Open:816B 参数模型把 Mac Studio 集群带进发布方案
来源事实:Meta 于 10 月 15 日开放 Muse Spark Open 权重:总参数 816B、每 token 激活 42B、原生多模态、上下文 1M。权重可从 Hugging Face 等处获取,并支持多种推理引擎。Meta 展示以两台 M5 Ultra Mac Studio 运行模型,并称完成 iOS 客户端改动及 DaVinci Resolve 视频筛选等端侧工作流。Apple 的独立 MLX 说明则报告:在 8,192 token 测试设置下,四台 M5 Ultra 解码速度为 36.73 token/s;这仍是特定硬件、量化精度与短生成长度下的实验结果。模型采用带有限商业条款的 Muse Model License。Hacker News 页面在检索时显示 844 点、422 条评论,是明显的社区关注信号;评论对模型表现、硬件成本和开源程度存在争论。
关注 / 采用证据:除 HF 权重与多家托管推理服务上线外,Apple 的机器学习团队也发布了 MLX 多机运行说明;HN 讨论规模提供了独立的早期关注度证据,但不能代替实际部署数据。
为什么重要(编辑判断):发布重点不仅是参数规模,而是模型、推理软件与高统一内存桌面设备协同优化。它展示了本地运行大型稀疏模型的可行路径,但两台高端工作站的门槛很高;短期意义更可能在隐私敏感、专用硬件充足的团队,而非普通个人电脑。
HF 权重已发布HN:844 点 / 422 评论(检索时)Apple 实测:4 台 M5 Ultra 为 36.73 token/s商业条款有限制
开放模型 / 数据与评测
Nemotron 3.5:模型之外,也开放 Agent 训练与评测材料
来源事实:NVIDIA 发布 Nemotron 3.5 Super、Lightning 与 Super VL 系列,并同步提供基础/后训练权重、量化版本、数据集、环境、模型卡及训练和评测配方。官方报告 Super 在 SWE-bench Pro 得分 51.78%;在其评估设置中,平行 Agent 执行后自检使 Terminal-Bench 2.1 从 62.7% 升至 71.9%。这些是 NVIDIA 自报结果,仍需外部复现。Super VL 可在 Hugging Face 获取;Bolt 74B-A9B 版本标称 24GB 显存可运行。
关注 / 采用证据:模型与配套数据已公开下载,GitHub 上有评测配方;Hugging Face 页面记录的社区点赞与下载会随时间变化,本次未把单次数字解释为采用增速。
为什么重要(编辑判断):可复用的数据、环境和测评流程能降低团队微调与验证专用 Agent 的成本,也让性能主张更容易被检查。当前性能比较来自厂商自己的设置;真正的信号是材料是否被外部团队复跑并用于产品。
权重、数据、配方同步开放基准数字为厂商自报Super VL 即可下载