MIT教授的AI项目融资千万美元，AI离真正的群体智能还有多远？

AI项目中的智能体行为

智能体在游戏中的交互

在AI初创公司Altera的“Sid”项目里，1000个软件代理被部署到《我的世界》游戏中。它们在无过多人为干预的情况下开始交互，会结交朋友、合作并形成联盟。这种交互模式显示出智能体具有一定的自主行为能力，它们能在游戏环境里发展出类似人类社会中的社交关系。

智能体的角色分化

这些智能体还出现了角色分化，有成为领导者的，也有被动接受指令的。并且它们自发分化出各种工作，如同人类社会的劳动分工。甚至还发展出一种信仰系统，这表明智能体在学习人类模式后能产生复杂多样的行为，虽然这些行为不代表它们有真正意识。

项目发起人与项目意义

项目发起人背景

“Sid”项目的发起人杨光宇有着丰富的求学经历。他从北京大学获得物理学学士学位，后在纽约大学和耶鲁大学求学，取得计算神经科学博士学位，还在MIT担任助理教授。这样的背景使他在AI领域有独特的见解，离职后创立Altera开展“Sid”项目。

项目的意义

该项目旨在构建模型来量化人类的情感等特质，这种探索受到投资界认可，获得1100万美元投资。它也让我们思考人类通往通用人工智能的道路，虽然智能体的行为基于对人类模式的学习，但为AI发展提供了新的思考方向。

通用人工智能的探讨

杨·勒昆的观点

Meta的杨·勒昆表示通用人工智能将在未来十年内实现，但他认为不是靠AI大模型。因为AI大模型缺乏真正理解能力、依赖数据且有偏差、难以处理未见过的问题。他提出“目标驱动的人工智能”，不过这仍未突破AI模仿人类的局限。

实现通用人工智能的难点

要实现通用人工智能需要真正的创新，这意味着AI要跳出人类数据框架，但这样会产生很多错误甚至危险。回顾科技史，人类创新也充满谬误，创新需要“去伪存真”的过程，这在不同科学领域应用有不同难度。

AI的群体智能与未来发展

群体智能的概念

AI的下一阶段应该是群体智能，即大量智能体不仅能提出原创概念和规律，还能理性表达和验证，从而得出接近真理的新概念和规律。“Sid”项目中的智能体已开始沟通交流和群体决策，这是群体智能趋势的显现。

人与AI的协作未来

在很长一段时间内，将是人和AI相互协作的阶段。未来不是人与AI的竞争，而是混合组队间的竞争。虽然通用人工智能可能10年后才能实现，但现在AI在专项领域已展现出与人协同的能力，将给人类带来巨大福祉。

AI项目中的智能体为何会有角色分化？

智能体从AI大模型学习人类模式，人类社会存在角色分化，所以它们在交互过程中也会自发出现领导者、接受指令者等不同角色。

杨光宇的求学经历对他开展AI项目有何帮助？

他在多所知名大学的求学经历使他积累了多学科知识，物理学背景、计算神经科学的深入研究等让他能从不同角度看待AI，有助于开展创新的AI项目。

杨·勒昆提出的“目标驱动的人工智能”有何不足？

虽然强调目标导向，但仍未使AI打破“模仿人类”的局限性，AI依然缺乏真正的理解能力，在创新等方面还存在缺陷。

AI创新过程中如何避免危险？

如同人类创新一样，需要“去伪存真”的过程，自然科学领域的实验验证等流程可借鉴，但目前在社会科学领域应用有困难，还需要不断探索。

群体智能阶段的AI有什么特点？

能提出原创概念和规律，还可以理性地对其进行表达和验证，通过类似人类的群体智慧得出接近真理的成果。

AI与人类协作将在哪些方面发挥作用？

在医疗领域协助医生诊断疾病，在科研方面帮助预测蛋白质折叠方式和设计药物等，还会在更多前沿科学研究中加深协作。