翁荔刚回OpenAI,Thinking Machines反手甩出新模型

浏览12次 点赞0次 收藏0次

首个模型Inkling亮相之后,全新AI又刷屏了!

今天,Thinking Machines正式发布第二款重磅模型——Inkling-Small。

276B总参数、12B激活参数,原生多模态,100万token上下文


半个月前,首个开源975B Inkling登场,曾在AI圈掀起了巨浪。

Inkling-Small仅用四分之一体量,直接实现了对「万亿大哥」的性能反超。



在ARC-AGI-2上,Inkling-Small刷新开源SOTA

回看Thinking Machines这几天,剧情堪称跌宕起伏。

联创翁荔官宣离职仅两天,OpenAI便证实了她的回归——带队攻坚「递归自我提升」(RSI)。


结果就在第三天,这家刚少了一位核心大将的公司,直接把新模型的「全量权重」甩了出来。

全新Inkling-Small登场

276B击败万亿

官博介绍中,Inkling-Small是一个MoE架构的模型,总参数2760亿,单次推理激活120亿。

相较于初代Inkling,体量直接浓缩成四分之一。

正如Pytorch大神Horace He所言,「Inkling-Small根本不用举全村之力,直接沿用前代技术就成了」。

最硬核的是,体量虽缩小了,综合实力显著提升。


在数学、推理、智能体编码、多模态基准中,Inkling-Small堪比,甚至超越了Inkling、DeepSeek V4 Flash。


在HLE、Terminal-Bench、IFBench这三个核心指标上——Inkling-Small每一FLOP换来的性能都高于Inkling。

可以看到,Inkling-Small的曲线,全程压在Inkling上面。



多模态那边也几乎没掉队没,图表理解、视觉推理、语音理解、长音频推理,Inkling-Small在评测中「接近」原版,代价却低得多。

其他基准测试成绩如下:


一个体积只有四分之一的模型,在推理和智能体任务上把它的老大哥按在了地上。

后训练细节,全公开了

至于如何做到,官方把方法写得很细,关键是两步。


Inkling-Small 的训练开始时间晚于 Inkling,于是把前一轮踩过的坑全部吃进去了——

预训练数据配比改了,机器学习配方重新精炼过。

更关键的,是两步操作。

第一步,用 Inkling 当老师做 on-policy 蒸馏,先出一个 preview 检查点。

第二步,从这个检查点接着跑了整整两周的智能体编码强化学习。于是就有了「学生超过老师」的结果。

仅用两周的时间,就把差距拉了回来,还反超了。

这意味着,Thinking Machines直接跑通了一条能反复出模型的产线。第一个模型是作品,第二个模型是产能证明。

120亿激活,才是真正的分水岭

对绝大多开发者来说,真正关心的是,自己能不能用起来?

原版Inkling门槛非常高,BF16检查点最低要求是2TB聚合显存——

示例配置是,8张B300或16张H200;就算换成NVFP4量化版,也还要600GB起步。


Inkling-Small把这道门槛,整个往下拽了一大截。

LMSYS的说法很直接:276B总参数配12B激活,是强化学习的甜点位,LoRA和全参数训练都变得「够得着」。

以前只有大厂能玩的模型定制,现在一个中等规模的团队,也有机会真的把它训成自己的东西。

实测显示,8张B200、TP8、NVFP4、batch size 1的同一套环境下,用SGLang跑Inkling-Small,开DSpark能到648 tok/s解码,不开也有288 tok/s。


六个联创走了四个

模型越发越快

去年2月,Thinking Machines带着一份「OpenAI梦之队」的六人名单惊艳开局:

Mira Murati、John Schulman、Barret Zoph、翁荔、Andrew Tulloch、Luke Metz。

当时,他们拿的是20亿美元种子轮、120亿美元估值的逆天剧本。

谁能想到,今年1月那轮500亿美元估值的融资最终流产,成为了转折的开始。

如今,六人团只剩下了Murati和Schulman。

更有意思的是,离开的四个人里,Zoph和Metz先后回了OpenAI,如今翁荔成为了第三个。

一家由OpenAI「叛逆者」组建的公司,核心骨干最终还是没能逃脱OpenAI的引力场。


但真正充满戏剧性的,是团队在面临动荡时的反应。

7月15日,沉默了整整17个月的Thinking Machines终于交出了首个大模型Inkling。

不到两周,翁荔宣布离职;仅仅三天后,第二个带着全量权重的开源模型又紧跟着上线。

人才在加速流失,模型在加速狂飙。

这两条背道而驰的曲线,成了AI行业中最具代表性的一幕。

也许这就是通向ASI的必经之路:不管留下的人有多么少,机器向前的车轮,只会越转越快。

参考资料:

https://thinkingmachines.ai/news/inkling-small/

编辑:桃子

声明:本文转载自新智元,转载目的在于传递更多信息,并不代表本社区赞同其观点和对其真实性负责,本文只提供参考并不构成任何建议,若有版权等问题,点击这里查看更多信息!本站拥有对此声明的最终解释权。如涉及作品内容、版权和其它问题,请联系我们删除,我方收到通知后第一时间删除内容。

点赞(0) 收藏(0)
0条评论
珍惜第一个评论,它往往能得到较好的回响。
评论
游客
游客
登录后再评论
  • 鸟过留鸣,人过留评。
  • 和谐社区,和谐点评。
最新资讯