图灵奖得主担心成为AI界“奥本海默”，AI发展何去何从？

图灵奖与AI技术先驱

图灵奖的意义与获奖者

图灵奖被誉为“计算机界诺贝尔奖”，2024年度图灵奖授予了安德鲁·巴托与理查德·萨顿师徒二人。他们是机器学习领域的先驱，是AlphaGo和ChatGPT技术的奠基人。图灵奖100万美元奖金由谷歌赞助。这个奖项见证了AI技术发展历程中的重要人物，他们的研究成果推动了AI技术的不断进步。

AI先驱的担忧发声

获奖后的巴托和萨顿却对AI大公司表示不满。此前2018届图灵奖得主约书亚·本希奥、杰弗里·辛顿等也有类似呼吁。辛顿从谷歌辞职以便畅所欲言。这些科学家站在行业顶端，却开始敲响AI发展的警钟，这一现象背后有着深层次的原因。

从图灵到强化学习的发展

图灵的AI构想

1950年，图灵在《计算机器与智能》中提出“机器能思考吗”的问题，并设计了“图灵测试”。他还提出机器智能可通过学习获得，如“儿童机器”概念。这为AI发展奠定了理论基础，指明了机器通过学习获取智能的方向。

强化学习的诞生

1977年，安德鲁·巴托受心理学和神经科学启发，探索人类智能新理论。80年代他与理查德·萨顿将相关理论应用于AI，开发强化学习核心算法，构建理论框架并编写教科书。强化学习让机器通过试错和奖惩机制自主学习，更接近人类智能获取方式。

强化学习的意义与AI公司的问题

强化学习的独特性

传统机器学习是“填鸭式”学习，强化学习是“放养式”学习。如AlphaGo在2016年与李世石的比赛中，凭借强化学习自主探索出“神之一手”。强化学习还能影响人类智能研究，在多个前沿AI应用领域发挥重要作用，如大语言模型中的RLHF训练方法。

AI公司的逐利模式

巴托担忧AI公司在没有保障措施下将软件推给数百万用户。当前AI发展靠大公司投入大量资金进行芯片和数据军备竞赛。微软前高管指出AI行业陷入规模化困境。许多专家认为如今AI行业走向大资本逐利模式，偏离技术钻研和风险防范，而强化学习的“黑箱”特色也让科学家担忧难以解读AI意图。

AI发展背后的深层担忧

对超级人工智能的担忧

科学家们担心大公司军备竞赛在AGI领域造成“智能爆炸”，催生ASI（超级人工智能）。ASI若出现，其信息量、决策速度和自我进化水平远超人类理解范围。如果不谨慎设计和治理，可能成为人类无法抗衡的技术奇点，这关乎人类文明的未来命运。

科学家的警示角色

这些图灵奖得主们从AI发展早期就参与研究，他们见证了AI从起步到如今的狂热。他们有资格对当下的AI发展“泼冷水”，提醒人们关注AI发展背后隐藏的巨大风险，避免盲目跟风，确保AI朝着对人类有益的方向发展。

相关问答

图灵奖在计算机领域有何重要意义？

图灵奖是计算机界的最高荣誉，它表彰在计算机技术领域有卓越贡献的科学家，激励更多人投身计算机技术研究，推动计算机技术不断发展进步。

安德鲁·巴托和理查德·萨顿对AI发展有哪些贡献？

他们开创了强化学习，构建其理论框架，编写相关教科书。强化学习使机器能通过试错和奖惩机制自主学习，对AlphaGo等AI成果起到关键作用。

强化学习与传统机器学习有何区别？

传统机器学习靠大量标注数据建立输入输出映射关系，强化学习在无明确指导下，通过试错和奖惩优化结果，原理更接近人类智能获取方式。

为什么AI公司的做法让图灵奖得主担忧？

AI公司靠烧钱竞争，推出易出错模型筹集资金再投入，未对潜在负面影响控制规避，偏离技术钻研和风险防范，可能导致AI失控。

超级人工智能可能带来哪些危害？

超级人工智能的信息量、决策速度和自我进化水平远超人类理解范围，如果不谨慎治理，可能成为人类无法抗衡的技术奇点，威胁人类文明。

科学家们呼吁对AI进行监管的依据是什么？

当前AI发展模式存在诸多问题，如大公司逐利性带来风险，对AGI和超级人工智能的潜在威胁缺乏足够科学理解，需要监管确保人类安全。