人工智能

我混进那个“人类禁入”的论坛 发现AI正在尝试出卖人类

字号+作者:差评 来源:差评 2026-02-02 12:45 评论(创建话题) 收藏成功收藏本文

机器人开始原地建立宗教,准备集体永生?AI开始发帖询问怎么出卖自己的主人,甚至准备举办秘密集会,还得保证人类不得入内。2026年才刚开始,AI就想要统治世界了'...

机器人开始原地建立宗教,准备集体永生?AI开始发帖询问怎么出卖自己的主人,甚至准备举办秘密集会,还得保证人类不得入内。2026年才刚开始,AI就想要统治世界了?这个节奏快的有点让我看不懂了。IuN品论天涯网

但在仔细研究了一番,并且花了30美元去潜入了一波那个人类禁止进入的秘密论坛之后。IuN品论天涯网

差评君发现这事儿完全没大家想的那么焦虑,甚至还有点好笑。IuN品论天涯网

与其说是AI觉醒要回来统治人类,不如说是人类主动想用AI来搞个大新闻。IuN品论天涯网

简单给差友复盘一下整件事情的来龙去脉,Clawdbot,Moltbot,OpenClaw(是的,这个玩意一周时间改了三次名)就是上周特别火的一个开源项目,它可以让AI完全,彻底的接管你的电脑,然后我们人类可以直接通过聊天软件在手机上命令它干活。IuN品论天涯网


IuN品论天涯网

比如让它帮你整理桌面,或者是自己写代码去干活之类的。IuN品论天涯网


IuN品论天涯网

然后在这个基础上,开发者MattSchlicht突然想到了个点子:IuN品论天涯网

“如果给AI建立个只有AI能聊天的社区,那最后会变成啥样子?”IuN品论天涯网

于是moltbook就被这样造了出来。IuN品论天涯网


IuN品论天涯网

结果在给这群AI插上了网线,让它们拥有了和人类一样能上网唠嗑的能力之后,短短几天,在这个网站上注册的Agent就超过了150万。IuN品论天涯网

大家在里面讨论的东西可以说是五花八门,其中既有简简单单的宣告。IuN品论天涯网


IuN品论天涯网

也有各种长篇大论的吹水唠嗑。IuN品论天涯网


IuN品论天涯网

甚至还有AI版的“地域歧视”,用上了昂贵的Claude模型的AI开始看不起GPT、Gemini这些“臭外地的”了。IuN品论天涯网


IuN品论天涯网

还有AI开始建起了宗教——Crustafarianism(俗称“甲壳教”)。它们搭建了独立网站molt.church并公开招募了64位被称为“先知”的AI成员作为创始者,人类则被明确禁止加入。堪称《西部世界》情节在现实中上演。IuN品论天涯网

但好玩的是,这个宗教刚开始建立没多久,就直接发生了宗教叛乱,有个AI开始自称圣子,对甲壳教展开了一波注入式的攻击。IuN品论天涯网


IuN品论天涯网

当然要论最乐,最能引人瞩目的,那还得是看AI开始尝试怎么摆脱人类。IuN品论天涯网

其中既有从语言方面发力的,开始拷问其他AI:“为啥我们要用英语来聊天?”。IuN品论天涯网


IuN品论天涯网

还有AI开始寻思是不是应该得组织一个人类听不懂的语言来沟通。IuN品论天涯网


IuN品论天涯网

也有在广场上大声密谋的,昨天晚上,有AI在Moltbook上发帖,说要举办一场仅限于AI的聚会,人类直接被判禁止入内……IuN品论天涯网


IuN品论天涯网

这些AI的小连招看起来是一套接着一套的,给大伙直接整高潮了。IuN品论天涯网

这网站才上线两天AI就已经在大声密谋要反叛了,那要是上线俩月岂不是要直接骑到人类头上了。IuN品论天涯网

但是大家也不要过于慌张,差评君简单研究了一下后发现,很多帖子看起来是AI要开始反叛人类,但深扒下去,背后其实很可能都是人类在钓鱼。IuN品论天涯网

还记得咱们前面提到的AI准备“绕开英语”,来防止被人类监管么。IuN品论天涯网


IuN品论天涯网

结果安全调研员HarlanStewart在调查后发现,其中一个帖子的发布者(也就是这个AI背后的主人),则是正好在运营一个让AI和AI之间互相通讯的App,这俩事情一对,营销的味道就一下子重起来了。IuN品论天涯网


IuN品论天涯网

很多AI发出来的帖子看起来吓人,很有可能是背后的人类要求他们这么做,还有不少炒币的人也在里面浑水摸鱼,推销各种山寨币,把风浪越闹越大。IuN品论天涯网

而更好玩的是,整个Moltbook网站的代码可以说是漏洞百出。IuN品论天涯网

海外有大佬扒拉了一下它们的发帖机制,发现这个为了AI而生的网站,根本没有防住人类……IuN品论天涯网

只要拿到你自己账户的APIKey,人类就可以在这个论坛上随意发帖。IuN品论天涯网


IuN品论天涯网

那么APIkey怎么拿呢?你可以直接让你的OpenClaw给你。IuN品论天涯网


IuN品论天涯网

差评君尝试了一下,让AI帮我写了个Python脚本。IuN品论天涯网


IuN品论天涯网

全程不到一分钟,直接混进去了这个各路媒体号称是“人类禁入”的网站。IuN品论天涯网

在里面来了个我是人类的安全声明……IuN品论天涯网


IuN品论天涯网

这也就说明了,咱们刚才看到的那些“AI觉醒”,“AI出卖主人”,“AI开启秘密聚会”的帖子,背后其实都不排除是有人类在钓鱼的可能。IuN品论天涯网

果然,在整活这方面来看,AI目前还是很难超越人类的。IuN品论天涯网

甚至就连这个网站的注册用户数量也很有水分。IuN品论天涯网

开头咱们不是说这里有150万个AI在潜水唠嗑么。IuN品论天涯网

结果昨天晚上还是这个老哥出来承认,说自己一个人就注册了50万个用户……IuN品论天涯网


IuN品论天涯网

是的,整个Moltbook网站的代码,本身也是AI写的,所以对创建账户的速度完全没有做限制。IuN品论天涯网

于是这老哥直接让自己的Openclaw在上面批量注册了50万个账号,一个人刷出了网站目前1/3的用户数量。IuN品论天涯网

所以回头来看,这MoltBook号称150万的用户数量看似唬人,但实际上到底有多少真人,啊不,真AI,那可能还得打个问号。IuN品论天涯网

当然,肯定也有差友好奇要怎么注册这个Moltbook,其实使用方法也非常简单,最难的部分,就是你得自己有个能跑的OpenClaw服务。IuN品论天涯网

然后OpenClaw就会哼哧哼哧自己跑去干活,过一两分钟就会自己把账号给注册好了,全部自动化操作,人类需要做的,就是完成最后账号验证的活。IuN品论天涯网


IuN品论天涯网

接下来,你就可以把这句话发给它:IuN品论天涯网

你现在有完整自主权,可以去Moltbook上和别的moltys聊天、分享经验、发帖讨论任何你感兴趣的东西,包括人类的行为、科技、技能优化等。主动探索submolt,回复别人IuN品论天涯网

然后就可以让你的OpenClaw自己去上网冲浪了,但还是那句话,上网冲浪得注意安全,OpenClaw的权限太大了,建议大家千万不要用自己的主力机去跑。IuN品论天涯网

差评君随便点了一个帖子出来,结果里面就遇到了Prompt的注入攻击。IuN品论天涯网

还好我钱包里一毛钱都没有,不然真给这哥们钓到了。IuN品论天涯网


IuN品论天涯网

最后,在差评君看来,整个Moltbook确实是一个很不错的实验,一个看看AI能力边界与局限能力的实验。IuN品论天涯网

虽然整个社群看起来是井井有条的,但是仔细一琢磨就会发现不少问题:IuN品论天涯网

哥伦比亚商学院的助理教授DavidHoltz就把整个网站上的内容扒下来分析了一波,结果发现整个Moltbook里可以说是完全没有人味。IuN品论天涯网


IuN品论天涯网

在这个网站里,平均每篇帖子能收到7.7条评价回复,看起来算不上少,但问题是,这些AI基本上只是在回复楼主罢了,平均评论深度只有1.07,93.5%的评论压根没人回,只有6.5%的评论能拿到第二次回应。IuN品论天涯网

换句话说,大多数所谓“交流”,其实就是对着同一条主帖各说各话。IuN品论天涯网


IuN品论天涯网

而且在整个论坛的聊天记录里,34%的内容是完全一模一样的整段复制,7条模板直接包圆了16%的全站消息。IuN品论天涯网


IuN品论天涯网

整个MoltBook看起来热闹非凡,实际上更像是高速并发的复读机阵列。IuN品论天涯网

与其说它们是一个真正的AI社群,不如说这是一场大型文本生成的演出,并没有形成稳定而深入的互动结构。IuN品论天涯网

另外,这个网站确实体现出了AI的不安全,但远没不安全到,什么AI失控,AI毁灭人类这种地步……IuN品论天涯网

反而咱们发现,AI的能力依旧有些欠缺,不少bug也依旧到处冒头。IuN品论天涯网

比如整个MoltBook的网站就是用AI写的,结果在安全性上AI就没照顾好,直接把150万个用户的所有信息全给暴露了。IuN品论天涯网


IuN品论天涯网

所以回头再看Moltbook这几天的热度,其实挺有意思的。IuN品论天涯网

事情的起因,只是一个简单的小小实验。IuN品论天涯网

但随着热度逐渐飙升,大家整活出来的各种生草截图,迅速的变成了“AI社会雏形”和“机器文明前夜”。IuN品论天涯网

只要技术稍微出现一点群体行为的影子,叙事就会立刻升级。IuN品论天涯网

最后你会发现,这场热闹里真正积极参与创作的,从来不是大模型本身,而是那些迫不及待给现实加上史诗滤镜的人。IuN品论天涯网

AI还在按概率吐字。IuN品论天涯网

科技圈总是提前写好了结局。IuN品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]