AI 新闻摘要 2026-07-16

发布于 2026年07月16日

模型与能力

Thinking Machines 发布 Inkling:975B 总参、41B 活参 MoE 多模态开源模型

Thinking Machines 首次公开发布自研基础模型 Inkling,Apache 2.0 开源,支持文本/图像/音频输入+文本输出,最大上下文 100 万 token(权重版),Tinker API 版为 256K;训练数据达 45 万亿 token。
> 相关链接:官方发布Hugging Face 模型页

Inkling-Small 同步亮相:12B 活参轻量版,性能不输大模型

配套发布 Inkling-Small,总参 276B / 活参 12B,同样开源、多模态、可定制,实测在多个任务上接近大模型表现,适合低延迟/低成本场景。
> 相关链接:社区技术总结官方提及

Inkling 在多项基准领先美国开源模型

Intelligence Index 得分 41,超 Nemotron 3 Ultra(38)、Gemma 4 31B(29);Agentic Web App Arena 排名第 9(Elo 1257),是当前最高分的美国开源模型。
> 相关链接:Artificial Analysis 测评Design Arena 排名

Inkling 效率突出:推理更简洁,单任务平均输出 25K token

相比 GLM-5.2(43K)、Kimi K2.6(38K)等模型,Inkling 输出更精炼;用户反馈其推理「不啰嗦」,工具调用强,长程任务容错好。
> 相关链接:性能对比分析用户实测反馈


基础设施与硬件

NVIDIA GB200/GB300 全栈支持 Inkling:NVFP4 精度 + 黑金架构优化

NVIDIA 官宣 Inkling 在 GB200 上跑出 380 tok/s/user(4× GB200),vLLM 和 Modal 均实现首日支持;Hugging Face 已上线 NVFP4 checkpoint。
> 相关链接:NVIDIA 官方声明vLLM 性能报告

Modal 为 Inkling 定制 DFlash speculator,比 MTP(Multi-Token Prediction)更快;Soumith Chintala 确认该方案「远超 MTP」。
> 相关链接:Modal 技术公告Soumith 转发确认

LMSYS/SGLang 实现全栈原生适配:ShortConv、相对位置编码、共享专家 MoE

SGLang 在 Megatron 后端中完整支持 Inkling 的三大特色:短卷积层(sconv)、相对位置偏置(非 RoPE)、双共享专家 MoE 架构,并启用 MXFP8 KV 缓存。
> 相关链接:LMSYS 技术说明

Unsloth 发布 1-bit GGUF 量化版:体积缩小 86%,保留 74.2% 准确率

Inkling 1.9TB 原始权重被压缩至 270GB,支持视觉与音频模态,无需重训,适合边缘/本地部署。
> 相关链接:Daniel Han 报告


研究与方法

Inkling 放弃 RoPE,改用相对位置编码:大规模验证新范式

这是首个在千亿级 MoE 模型中全面采用相对位置偏置(而非 RoPE)的实践,社区认为此举可能影响未来架构演进方向。
> 相关链接:技术讨论汇总架构分析

大规模短卷积(ShortConv)首次嵌入 MoE 主干网络

Inkling 在注意力和 FFN 流周围加入短卷积层,且规模远超以往实验,被多位研究者视为「有潜力的架构信号」。
> 相关链接:Elie Bakouch 分析Stochasticchasm 评论

采用 MuonC/AdamC 优化器:Aaron Defazio 认证的修正版权重衰减

Inkling 使用 Aaron Defazio 提出的「MuonC/AdamC」优化器变体,解决传统 AdamW 权重衰减偏差问题,属前沿训练方法落地。
> 相关链接:Aaron Defazio 确认


产品与应用落地

Tinker 平台首发支持 Inkling:64K/256K 两档上下文定价透明

Tinker API 提供 64K($1.87/百万输入)和 256K($3.74/百万输入)两种上下文选项,支持即开即用、微调、RLHF,面向开发者开放。
> 相关链接:Artificial Analysis 定价整理

Inkling 已接入 Databricks、Baseten、vLLM 等主流平台

发布当天即获 Databricks、Baseten、Modal、Hugging Face、vLLM 等 10+ 平台原生支持,无需额外适配即可部署运行。
> 相关链接:生态支持列表Soumith Chintala 确认


行业与公司动态

Thinking Machines 首个公开模型:Mira Murati、John Schulman、Soumith Chintala 联合打造

由前 OpenAI CTO Mira Murati、联合创始人 John Schulman、Meta 前 AI 基础设施负责人 Soumith Chintala 主导研发,从零训练,历时半年完成。
> 相关链接:Mira Murati 推文John Schulman 时间线

定位清晰:不做 SOTA 冲榜,专注可定制、可控推理的基座模型

TML 明确表示 Inkling 是「可调优的基础模型」,强调 controllable thinking effort(可控推理强度)和 post-training 可塑性,而非单纯刷分。
> 相关链接:官方定位说明Ben Burtenshaw 分析


政策、治理与安全

Apache 2.0 全开源许可:首个主流美系千亿多模态模型彻底开放权重

Inkling 是目前能力最强、完全开源(含全部权重)的美国多模态基础模型,许可证允许商用、修改、再分发,无附加限制。
> 相关链接:Natolambert 评价Yuchen J. 确认




评论