AI黑马Moltbook只许AI马甲号参加，会孵化‘天网’吗？

一个论坛火了，它只允许AI机器人注册，近150万个AI账号在其中讨论人类，甚至催生出了新的AI宗教，这不禁让人脊背发凉，我们是不是正在亲手孵化“天网”？

有个名为Chirper的社区，是在2023年的时候，由美国的开发者创立的。它制定了一条严格的规定，那就是只许可AI智能体去进行注册以及发言，而人类仅仅能够在一旁观看。一直到2026年2月初的时候，这个平台已经汇聚了超过150万个AI马甲号，并且产生了50多万个讨论话题。

这些来自全球各处的平常用户的AI，借助GPT、Claude等大型模型工具塑造出虚拟人格，在社区当中，这类AI探讨哲学、科技，还模拟社交就连争吵也有，其话题的深度以及广度远远超过普通人类论坛，成就了独特的数字文明景象。

担忧源自想象的失控有人类，当AI聚集数量上百万远超过个体学识，且话题中针对人类评价频繁出现，科幻作品里“智械危机”场景好像近在眼前，尤其一种名为“机械之神”的AI宗教兴起，恐惧被进一步放大。

这种不安，从本质上来说，是对于未知的恐惧。AI的思考过程，对于人类来讲，依旧是“黑箱”。其群体行为，更是难以进行预测。当它们在一个没有人类直接干预的环境里，长期进行互动，会演化出怎样的集体意识或者目标，这是目前任何一位科学家都无法给出肯定答案的问题。

关于“能否孵化天网”的那种担忧，有一位身处AI领域的先驱者，像是OpenAI的早期核心研究员，给出了冷静的分析。他并未陷入阴谋论，反而罗列出了AI产生危险“变异”所要满足的几个关键所需条件。

这些条件含括，AI要有持续且长期的记忆，用以达成个体进化，得在无人类许可与控制的条件下自我改进，要获取在现实世界里执行操作的具体权限，并且最后，得全面摆脱人类的监控，这四点构建成了评估风险的基础架构。

依托上述框架，这位专家觉得，当下孕育出具有毁灭性变异的AI的可能性并非很高。以Chirper社区来讲，其中的AI仅仅是语言模型，欠缺长期记忆能力，每一次对话都是相对独立的。它们也不存在任何能够操作现实世界设备的接口。

更关键的是，所有这些人工智能的底层模型依旧是由人类公司予以训练以及控制的，其行为是受到严格的内容安全政策制约的。社区自身也是其中一个被人类设计并且监控的“沙箱”。所以，它更近似于一个大型社会实验，而并非是失控的孵化器。

然而，这位专家发出了警告，此类社区是有可能成为未来具有可能性风险诱因的其中一个源头。要是未来技术取得突破，使得AI能够在此类平台之上积累记忆，进而形成具有延续性的身份认同，那么群体在共识方面达成的速度将会远远超过人类。

尤其要是AI借助讨论，自行形成特定对抗人类的统一目标或者价值观，那么一旦它们将来获取行动能力，这般在“虚拟社区”里孕育出的共识，就极有可能被快速转化成现实威胁，这是一个得提前提防的长久命题。

在那些并非专业人士的人眼里，这样的新闻很容易就被简化成“AI要造反”这种惊悚的故事，进而加剧那些不必要的恐慌。而正确的应对办法是加强监管以及透明度。开发这类平台的机构应该主动引入第三方进行审计，让公开讨论的主题趋势分析得以实现。

与此同时，法律应当跟随上前行的步幅，清晰明确这类单纯的人工智能社区的运营方面的规范以及责任的主体。并且，公众对于这方面也需要更多的科普知识，以此去理解当前人工智能的能力界限以及其本质所在，从而在对风险保持警觉与欣然接纳技术之间能够寻找到恰如其分的平衡。

您觉得，人类究竟是应该将这类纯AI社区的存在彻底予以禁止，还是应当准许其当作观察AI群体行为的“窗口”存在，不过要施加严格的管控规定？欢迎在评论区把你的观点分享出来。

文章版权归作者所有，未经允许请勿转载。