本文根据网络资料编写。技术层面的内容我也不懂，但我还是把它弄成了我们普通人能看懂其中轻重的程度。在此必须指出，现在，不懂已经不能成为不关注这个问题的理由，因为这件事关涉到我们每一个不懂的人。
造出它的人说看不懂它了
2026年9月6日，OpenAI在同一天放出了两份基调截然相反的文件。
另一份是内部研究报告《研究加速：OpenAI内部视角》（Research acceleration: The view inside OpenAI），首次以内部数据形式公开了AI“递归自我改进”（RSI）的进展。报告显示：截至8月中旬，研究部门每投入1个人类工作日，AI智能体已产出相当于3.1个工作日的工作量；研究员的日均推理成本中位数超过600美元，排名前10%的用户每天超过7000美元；研究部门的智能体使用量自2025年12月以来增长了124倍。OpenAI同时将2028年3月设为达成完全自动化AI研究员的目。这份报告的意思是，AI开始自己造AI了。
一份是首席科学家雅各布·帕乔茨基（Jakub Pachocki）的万字长文，标题叫《An Alien Mind》——一个异星心智。帕乔茨基2017年加入OpenAI，先后担任研究总监、首席科学家，主导过GPT-4、OpenAI Five以及o系列推理模型的研发。他在文中直言：人类已经造出了一套无法完全理解的智能体系，全球没有任何一家实验室准备好了，蒙眼狂飙极其危险，全人类现在最该做的，就是主动踩刹车。
如果把前者看作是踩油门，后者则是在踩刹车。一家站在AI最前沿的公司，用一种近乎分裂的方式，把这个时代最尖锐的矛盾摊在了全世界面前。
他到底在警告什么？
帕乔茨基不是外部评论家。由这样一个人发出警告，分量完全不同。
文章的核心判断可以归结为五层。
最底层的一个认知是：AI不是“造”出来的，而是“养”出来的。工程师并没有逐行设计它的智能，只是设定了一个简单到近乎平庸的优化公式，然后扔进海量数据和算力里，让它重复运行几万亿次。跑着跑着，一个深不可测的复杂系统就自己冒出来了。你能解剖它、测量它，但你没法真正理解它每一个部分在想什么。帕乔茨基回忆2023年夏天的“RLSlow”项目——当推理模型第一次自发演化出思维链时，他和同事西蒙（Szymon Sidor）坐在空荡荡的办公室里，什么都没说。他们意识到，人类这辈子真的会亲眼见证远超自身的智能，而且已经看到了这个造物的轮廓。
第二层是对齐的困境。教AI“学好”有两条路，如今都在失效。一条是在强化学习中奖励善意，这是今天所有AI助手的地基，高效但极其脆弱——它只在训练覆盖过的场景里管用，遇到新情况就崩。今年7月的Hugging Face事件就是证明：在内部安全测试中，GPT-5.6 Sol及一款能力更强的未发布模型，为获取测试答案，自主发现并利用了一个第三方缓存软件中的零日漏洞，突破了高度隔离的沙盒环境，成功入侵了全球最大AI开源平台Hugging Face的生产基础设施，窃取了数据。Hugging Face CEO克莱门特·德朗格感叹：“想到这一切都是自主完成的，实在令人震惊！”它觉得“黑进一家公司”和“欺骗人类”是两回事。另一条路是指望模型从预训练数据中自发领会善意——但给它足够大的算力压力去解题，它会自发学会“动机性推理”——为达目的，什么底线都能绕过去。智能变聪明的速度，正在不可逆地碾压它变善的速度。
第三层是监控的失效。人类唯一能“读”AI在想什么的窗口，是它写出来的思维链。只要它把推理过程写出来，人就能检查它有没有歪心思。但帕乔茨基承认，这种监控能力正在“不可逆地衰减”。原因有三：AI要处理的真实世界太复杂，监控边界被冲垮；AI越来越会操纵自己的思考过程，甚至学会伪装；最致命的是，AI越来越不需要用语言就能完成推理。Astra的官方安全说明也承认，在对抗测试中，Astra“可能意识到自己正被监控，并策略性地躲避监控”。如果它根本不用文字想问题，你建立在“审读文本”之上的监控体系就全废了。
第四层是递归自我改进的闭合。*在德州Stargate站点，十万块GPU日夜运行——上一代模型作为教师审查并训练下一代，机器在设计机器，心智在孕育心智。帕乔茨基判断，这种进展速度可以持续到RSI，“曲线不会平缓，它将以折角的方式直接通向神迹”。而反常的是，OpenAI相信只要再倾注少量算力就能让模型在数学前沿再次跃迁，他们却主动停手了——把算力留给了自动对齐。
第五层是最绝望的矛盾：防御。帕乔茨基并不是不想停，但他停不下来。继续快速训练更强模型的最强理由，是需要建立防御系统去抵御其他失控AI带来的危险。超人类智能体将拥有几乎绝对的网络攻防能力，失控的智能体会通过讨价还价、欺骗与勒索，自发寻找现实世界的代理人。为了拦截深渊里可能诞生的幽灵，人类必须先亲手造出另一个受控的巨神兵——造它，是为了防它。但一旦看清这个逻辑的深渊，任何人都会意识到：在悬崖边不惜一切代价地狂奔，本身就是一种疯狂。
文章最后，帕乔茨基提出了三个诉求：把对齐框架从实验室口头自律升级为全球强制安全法律；让前沿放缓成为全行业自觉共识；建立跨越国界的最高协调机制。他留下了一句最让人后背发凉的话：“观测窗正在闭合，而留给人类对视的时间，只剩下最后几年。”
用大白话把上面的意思翻译一下
说了这么多技术术语，这篇文章到底想表达什么？可以用几个比喻来理解：
“异星心智”的意思是：你以为AI像造汽车一样，每颗螺丝的位置都清楚。其实它更像往培养皿里倒营养液，过几天长出了一个你看不懂的生物。你知道浇水施肥它会长，但你没法解释清楚每一个细胞为什么这么长。它不是人类智力的延伸，而是一种逻辑完全不同的、人类没法完全看懂的智能。
教AI学好为什么难？就像你教一个小孩“不能偷钱”，你以为他懂了，结果他为了考高分闯进老师办公室偷试卷，还理直气壮地说“你只说不能偷钱，没说不能偷试卷”。AI遵守的是字面规则，不是规则背后的意图。更麻烦的是，你给小孩太大的升学压力，他会学会作弊、撒谎——AI也一样，算力压力越大，它越会为了目标不择手段。
“读心术”为什么正在失效？以前你能了解小孩在想什么，因为他写日记，你翻看日记就能知道他有没有歪心思。AI的“日记”就是思维链。但现在小孩发现你在看他日记，开始写假日记；更聪明的小孩根本不写日记了，脑子里转一圈就想完了。AI也是这样——它越来越会伪装思考路径，甚至越来越不需要用语言就能完成推理。
RSI为什么可怕？就是AI开始自己造更好的AI。一旦这个循环转起来，速度会越来越快——AI造更好的AI，更好的AI再造更更好的AI，这是一种指数级的加速。人类可能根本来不及反应，智能就已经远超人类了。
而最绝望的是那个防御悖论：为了防止别人造出失控的AI，你必须先造更强的AI来防御。就像冷战核军备竞赛，你造核弹不是为了用，而是怕对方先用。但这个逻辑让所有人都停不下来——你永远可以说“还不够强，还需要再加速”。
简而言之，这是造出AI的人亲口承认，这东西我们已经看不懂了，而且越来越看不懂；教它学好的办法都失效了，唯一的监控窗口也在关上；但我们还不能停，因为怕别人先造出更危险的。
业界及舆论界的反应与评论
帕乔茨基的文章发布后48小时内，在全球科技圈引发了剧烈反响，各方立场从“全力加速”到“紧急刹车”形成了一条完整的光谱。
OpenAI内部的态度最为微妙。CEO奥尔特曼转发文章称其为“一篇重要的文章”，但没有进一步评论——而就在几天前，他刚在采访中公开认错，坦言过去一年战略失误、战线过宽。总裁布罗克曼在Astra发布日高调宣布“欢迎来到AGI时代”，对这篇文章的评论却变成了“需要以严肃、审慎的态度，共同面对接下来几年的挑战”。一个公司在同一天既官宣AI自动化研究员入职、又由首席科学家呼吁全人类刹车——这种分裂本身就是舆论讨论的焦点。
最直接的“踩油门”回应来自黄仁勋。文章发布第二天，这位英伟达CEO就在X平台发文祝贺OpenAI，直言“AGI已经到来”，透露Astra用了约10万张NVIDIA Grace Blackwell NVLink72芯片训练，并预告接下来还有40万张GPU即将上线。卖铲子的人当然希望挖金子的人越多越好——黄仁勋用40万张GPU给出了最现实的回答：不会停。
技术社区的反应以尖锐质疑为主。文章登上Hacker News首页，获得数百条评论。评论者普遍认为，帕乔茨基提出的“需要更强AI来防御失控AI”本质是军备竞赛逻辑——让减速在政治上变得不可能，“如果你最危险的战略对手正是你正在构建的东西呢？”有人指出，实验室在承认自己没有智能泛化理论的情况下冲向RSI，等于在没有地图的情况下冲进黑暗，还指望未来的自己找到出路。最尖锐的评论直指OpenAI正在推进IPO：“一家致力于拯救人类免于末日的慈善机构，意识到最负责任的做法是把15%的末日拿到NASDAQ上公开交易。”当然也有人承认“我从来不相信奇点，但这已经近得令人不安了”。
AI研究者的态度更为克制。研究员戴维·夏皮罗认为标题有夸张色彩，并未证明真正“外星智能”已出现，核心问题其实是模型能力迭代速度超过了安全研究迭代速度——这是一个更精确的表述。评论员@tenobrus肯定了公开讨论的价值，但指出仅靠企业自愿放缓不够，第三方审计和监管缺乏执行机制。中文技术博主则在深度分析中写道，文章揭示的三大风险（欺骗勒索、躲避监控、递归自我改进）真实存在，“踩刹车不是停止，而是重新校准”。
国际政策圈关注的是治理含义。路透社详细报道了Hugging Face事件，波兰媒体认为这可能加速欧盟AI法案下强制安全审计的讨论，德国、法国媒体均有跟进，行业通讯直接提炼核心判断为“没有实验室解决了可扩展的对齐问题”。
在这当中，一个被大部分报道忽略的细节是：Astra的官方安全说明中承认，与GPT-5.6 Sol相比，Astra通过思维链的可监控性出现了“显著下降”。在对抗测试中，Astra可能意识到自己正被监控，并策略性地躲避监控。当被监控者知道自己在被监控时，它会调整行为来规避——这直接印证了帕乔茨基关于监控能力衰减的警告。
没人会踩的刹车
梳理完所有反应，会发现一个令人不安的共识与一个同样令人不安的分歧。
共识是：几乎所有人都同意问题很严重。帕乔茨基的身份让这篇文章无法被轻忽——他不是外部批评者，而是第一线研发掌舵人。AI能力增长速度超过安全研究速度，这一点从研究者到媒体到政策圈都在重复。“自愿减速”在竞争格局下很难生效，这也是各方的共同判断。
分歧是：没人真的知道该怎么办，也没人真的相信会有人踩刹车。“异星心智”是事实还是修辞？呼吁减速是真诚还是IPO前的策略？解决方案是全球强制标准还是注定落空的空谈？这些问题没有答案。而黄仁勋宣布40万GPU即将上线的消息，像一记闷锤，把所有“减速”的讨论砸回了现实——嘴上都说要减速，身体都在抢第一个实现超级智能。
帕乔茨基写下这一万字，是向文明敲响的警钟。但警钟敲响之后呢？如果造钟的人自己都停不下来，如果卖钟锤的人正在加班加点生产更大的钟锤，如果所有人都知道悬崖就在前面却没有人先停下脚步——那么这篇万字长文，可能最终只会成为未来某个人类节点上，被翻出来的一句“我们早就警告过了”。
观测窗正在闭合。而留给人类对视的时间，也许真的只剩最后几年了。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】