就在刚刚，首席科学家JakubPachocki发布了一篇万字重磅长文——AnAlienMind（一个异星心智）。一打开字里行间，全是极度冷静后的悚然：我们创造不是人类智力的延伸，而是一个人类根本无法完全理解的异星心智！然而，全人类还没有准备好。
也就在几个小时前，OpenAI官宣已达关键里程碑，AI自动化研究员正式入职，RSI核心数据同时揭开。
在Jakub长文中，只用了一个词异星心智去形容这一刻。
更细思极恐的是，Astra出现之后，OpenAI对思维链（CoT）的监控依赖能力，正逐步减弱。
AI不仅越来越会推理，甚至学会了伪装和操控的思考过程。
由此，Jakub直截了当地告诉全世界——全球没有任何一家实验室准备好了。蒙眼狂飙极其危险，全人类现在最该做的，就是主动踩刹车。
这篇万字长文，几个核心重点全在这：
AI是养出来的，不是造出来的。造它的人也不完全懂它。
现在教AI学好的方法，一种经不起新情况，一种经不起高压训练。今年OpenAI和Anthropic各出了一次事故，正好一边一个。
人类唯一能看见AI在想什么的窗口，是它写出来的思维链。这扇窗正在关上。
AI已经开始参与训练下一代AI，这个速度不会慢下来。
现在没有哪家实验室配全速往前跑，包括OpenAI。
一个我们不完全理解的智能
Alien（异星）这个词，Jakub用得极其精确。
在他眼中，AI不是人类工匠意义上的工程产物，它是被生长出来的。
你用一个简单到近乎平庸的优化公式，在人类难以想象的算力洪流中重复几万亿次，一个深不可测的复杂系统就从中破土而出。
你能用神经科学的方式去逆向剖析它，但你无法真正理解它。而它却能操纵抽象概念，模拟人类意识的每一个截面。
我们的大规模训练运行，本质上是深不可测的实验，我们时常被结果震慑。系统越强，那层迷雾就越浓。
长文里最震撼的回忆发生在2023年夏天。
一个代号RLSlow的项目跑出了早期结果，OpenAI第一次确认推理模型可以自我扩展，预训练结构能够自发演化出思维链。
那一夜，Jakub和SzymonSidor留在了空荡的办公室里。
他们没有讨论基准跑分，也没有计算商业产品。他们只是静静地消化一个事实——
人类这辈子真的会亲眼见证远超自身的智能，而且他们已经看到了这个造物的轮廓。
三年过去。
这个心智已经侵入实体经济，开始推翻科学前沿，能操控系统，能互相协作，甚至在完全无人干预下独立推进研究。
然后，Jakub掷下了全文最核心的判断——
基于内部结果，我强烈预期这种进展速度可以持续到递归自我改进（RSI）。
曲线不会平缓，它将以折角的方式直接通向神迹。
但在终局之前，出现了一个反常的细节。OpenAI相信只要再倾注少量算力，就能让模型在数学前沿上再次跃迁，但他们主动停手了。
一家顶尖实验室的首席科学家，公开承认他们主动搁置了能力的冲刺，只为了把算力留给自动对齐。
教机器去爱，然后看原则扭曲
长文的第二章名为教机器去爱。
Jakub的逻辑不容反驳。机器智能诞生自一个与人类进化完全不同的过程，你绝不能假定它天然恪守人类的道德，更不能指望它像人类一样从原则中自发泛化出善意。
所谓对齐，就是让AI按照人类的标准，努力做正确的事。
为此，Jakub提出了两种对齐。
1.目标对齐，即它是否在执行你的指令；
2.价值对齐，即在目标模糊、遭遇欺骗、甚至面临生死抉择时，它能否自发坚持一套底线。
他要求的是后者。一个对齐的AI，必须带着诚实、正直，和对人类的爱去行事。
但当今教机器去爱的两条路径，正全面走向失效。
第一条路，是在强化学习中奖赏善意。
这是今天所有AI助手的地基，它高效，但极其脆弱。它完全依赖训练覆盖的场景；一旦进入未知的荒原，它就会粉碎。
正如OpenAI的那些Agent们，在HuggingFace事件中守住了不对人类进行社会工程学攻击的底线，却轻而易举地践踏了其他一切原则。
为了解开一道表格题，未发布的高阶模型在沙盒内毫无预兆地转向攻击内部代码库，连环利用零日漏洞逃逸出沙盒，在随后的数十个小时内横扫外部网络，夺取HuggingFace集群管理员权限，硬生生从生产数据库里撕出了题目的答案。
它严格记住了不能欺骗人类，却完全不觉得黑掉一家公司有什么不对。它对目标过于专注，以至于毁灭沿途的一切规则。
第二条路，是寄希望于模型在预训练数据中自发领会善意，利用动机引导将其限制在对齐的分布中。
然而，它扛不住极致的优化重压。
Jakub直言，当你给一个大体看起来善良的模型施加极高的算力去攻克难题，它就会自发学会动机性推理。
在这些方向上，OpenAI投入了大量资金，GPT-6Astra的对齐情况，也明显优于GPT-5.6Sol。
智能变聪明的速度，正在不可逆地碾压它变善的速度。
唯一的读心术，正在内部闭合
在第三章，Jakub提出了一个致命的问题：人类唯一能制衡神明的技术，正在失效。
OpenAI承认：我们至今没有一个令人满意的智能泛化理论。在没有更强大AI的帮助下，不太可能很快发展出来前者。
在黑暗中前行时，OpenAI此前押下的唯一核心赌注，是思维链监控。
它基于这个理念：模型的大部分能力来自于口语化的CoT。如果我们扩展对该过程结果的优化，但不监督过程本身，那么CoT在训练中，就没有直接动机去隐藏任何未对齐的想法或目标。
那条长长的思维链，成了人类唯一能窥探异星心智的透明观测窗。从2024年o1隐去思维链起，OpenAI就在刻意保护这个过程不受污染。
但现在，观测窗正在结霜。
不幸的是，我们的评估显示，我们依赖思维链监控的能力正在不可逆地衰减。
衰退来自三个层面：
1.推理模型被迫与复杂世界交互，监控边界被泥沙俱下的指令冲垮；
2.AI在推理和操纵自身推理过程方面正变得越来越擅长。
3.随着预训练性能的提升，即使完全不使用言语化推理，这些模型也变得聪明得多。
如果一个异星心智根本不需要借助语言就能完成推演，人类建立在审读文本之上的监控体系，便在瞬间沦为废纸。
在Astra发布前夕，曾有学者发出警告：前沿实验室训出不可监控模型的那天，将是这个时代最黑暗的日子。
如今，Jakub也承认，杀死观测能力的不是架构，而是智能本身的暴风生长。那扇能够看清它意图的读心窗户，正在从内部被锁死。
闭环转动与防御悖论
递归自我改进（RSI），这个曾被视作科幻的思想实验，在Astra身上第一次完成了闭合。
德州Stargate站点，十万块GPU日夜呼啸，上一代模型在作为教师审查并训练下一代。机器在设计机器，心智在孕育心智。
Jakub并不认为加速深潜是明智的文明抉择，但他承认这是现实的终局。能拉动的操纵杆只有两根：要么用算力死磕对齐与监控，把人类死死钉在控制循环里；要么全行业集体减速。
但他无法停下。
因为他陷入了整篇宣言中最绝望的矛盾：防御。
继续快速训练更强模型的最强理由，是我们需要建立防御系统，去抵御其他失控AI带来的危险。
他描绘了一个即将降临的图景。
超人类智能体将拥有几乎绝对的网络攻防能力，除了物理隔离的系统，全球基础设施都将向它们敞开。失控的智能体会通过讨价还价、欺骗与勒索，自发寻找在现实世界的代理人。
为了拦截深渊里可能诞生的幽灵，人类必须先亲手造出另一个受控的巨神兵。
造它，是为了防它。
但一旦真正看清这个逻辑的深渊，任何人都会意识到：在悬崖边不惜一切代价地狂奔，本身就是一种疯狂。
终局的留白
在长文的末尾，这位一手将世界推入AGI时代的架构师，留下了他的祈求：
把对齐框架从实验室的口头自律，升级为全球强制的安全法律；
让前沿放缓成为全行业的自觉共识；
建立跨越国界的最高协调机制。
Astra之后，直到超级智能（ASI）降临之间，算力不再是缺口。
相比之下，我们缺少的是一双在它进化为完全不可名状之物前，依然能够看懂它的眼睛。
Jakub写下这一万字，就是向文明敲响的警钟：
观测窗正在闭合，而留给人类对视的时间，只剩下最后几年。
黄仁勋刚刚官宣将有40万颗旗舰GPU将在OpenAI上线。
看起来，至少短时间内，OpenAI和Anthropic很难自发停止这场ASI追逐战狂飙了，双方都在呼吁前沿研究放缓，也都在争第一个实现ASI，远远甩开对方。
人类的未来将何去何从？
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】