奇点预言20年后，应验了吗？库兹韦尔还有哪些警告？
《奇点预言的回顾与现状》
“奇点”概念的由来
“奇点”这个概念，库兹韦尔说是从数学和物理中借来的。在数学里，分母为零的时候会出现奇点这种无法定义的点；在物理上，是那些物理定律失效的点，像黑洞中心。不过库兹韦尔用这个词是做比喻。他认为技术进步尤其是和人工智能相关的进步会越来越快，快到会达到一个临界点，也就是“奇点”。在这个点上，人工智能会远超人类智慧，人类将面对全新世界。这个概念其实是他从1986年的科幻小说借鉴来的，并非基于严密数学论证，更多是定性研究加个人直觉的推论。
奇点预言的指标设定
库兹韦尔归纳出人类的“六大纪元”，现在人类处于第5纪元，也就是人类智能与人类技术的结合（人机结合）阶段。他还给出了到达奇点的一些指标。比如2010年能用超级计算机模拟人类智能，2020年能用个人计算机大小的设备模拟人类智能；2025年之前详细了解大脑所有区域活动过程及模式，2025年前后能用软件模拟人类智慧并建模；2029年计算机通过图灵测试，到时候人工智能和人类智能没区别。
20年后的“中期检查”结果
《奇点临近》出版20年后，对他预言的三条指标进行检查。第一条，早就过了2010年和2020年的期限，脑科学和计算机离他预言的指标还差得远，这部分他失败了。第二条，还剩一年到2025年，基本没希望达成了。第三条，最多还剩五年到2029年，由于图灵测试指标本身模糊，还不能断言他失败。总体来看，他的很多预言目前并未实现。
《奇点更近》中的新观点》
对图灵测试的新说法
在《奇点更近》里，库兹韦尔对2029年人工智能通过图灵测试仍有信心。他还提出新说法，当AI系统真通过图灵测试时，它得在很多领域故意表现得不那么聪明，不然容易被识破，而达到通过图灵测试水平时，AI在多数领域能力远超人类。这一说法有一定合理性。
对未来的展望多于预测
库兹韦尔深知预测危险展望容易。在书中展望很多，比如承认AI会导致失业但仍乐观；相信人工智能将跨越“情绪记忆”“常识推理能力”“社交互动”这三个里程碑；还说2030年代人类大脑能连接到云借助脑机接口；2030年前后部分人将达到“长寿逃逸速度”实现永生；能借助生物技术和人工智能创造出和生前思想形貌一致的复制人。
《库兹韦尔的警告内容》
《奇点临近》中的警告
在《奇点临近》里，他对人工智能学坏或反叛表示忧虑。他觉得大部分应对强人工智能病变的方法都不行，他能提出的策略只是让人工智能反映人类价值观，像自由、宽容和尊重知识多样性等，而且他也知道纯技术策略解决不了这个问题，不过这个警告在书中很容易被读者忽略。
《奇点更近》中的警告
在《奇点更近》最后一章提到会面临四个巨大危机。一是核武器依赖人工智能控制很危险；二是人工智能驱动生物技术前行有危险；三是人工智能驱动纳米技术前行有危险；四是人工智能本身学坏或反叛的危险，这个问题依然最严重。他还提出一个有深度的问题，到21世纪30年代后期人类思维很大程度是非生物学的，那人类决策的作用在哪？如果人类过度依赖人工智能，早晚会把决策权交给人工智能，这可能是人类的末日。
《关于奇点预言和警告的思考》
预言未实现的原因分析
库兹韦尔的奇点预言很多没实现，一方面是他基于技术指数增长的假设在现实中缺乏实例。现实中，很多因素会限制技术发展，像伦理道德、社会资源分配、不同技术发展的不平衡等。例如脑科学的发展受到伦理限制，不能随意进行人体试验，这就会拖慢对大脑活动研究的进程。
警告的意义与启示
他的警告是很有意义的。人工智能在现代社会中的作用越来越大，像在医疗领域辅助诊断疾病，在交通领域进行智能交通管理。如果人工智能被不良利用或者失控，后果不堪设想。比如在核武器控制方面，如果人工智能被黑客攻击或者出现程序错误，可能会引发核战争。这就启示我们在发展人工智能的要加强对其安全性和伦理的研究。
未来的发展方向探讨
对于未来，我们不能因为害怕而停止发展人工智能。而是要在发展过程中，平衡好技术创新和风险控制。一方面要继续鼓励技术创新，让人工智能更好地服务人类，像帮助解决全球性的环境问题，提高教育质量等。另一方面，要建立严格的监管机制，确保人工智能的发展在人类可控范围内，避免出现库兹韦尔警告中的那些危险情况。
相关问答
库兹韦尔的奇点预言是什么？
库兹韦尔的奇点预言是技术进步特别是人工智能相关技术进步会加速达到一个临界点即奇点，在这个点上人工智能将远超人类智慧。他设定了一些到达奇点的指标，如2010年超级计算机模拟人类智能、2020年个人计算机大小设备模拟人类智能等。
20年后奇点预言的指标实现了吗？
大部分未实现。2010年和2020年关于计算机模拟人类智能的指标脑科学和计算机远未达到；2025年相关指标还剩一年基本无望；2029年计算机通过图灵测试还有五年且指标模糊不能断言失败，但总体实现情况不佳。
《奇点更近》中有哪些新观点？
有对图灵测试的新说法，即AI通过图灵测试时要在多领域故意不那么聪明，且通过时在多数领域远超人类；还展望了人工智能跨越三个里程碑、2030年代大脑连云、部分人2030年前后永生、创造复制人等。
库兹韦尔在《奇点临近》中的警告为什么容易被忽略？
他在《奇点临近》中对人工智能学坏或反叛的警告仅有几行，而且在洋洋数十万言的书中，相比大量对未来的乐观展望，这样微弱的警告很容易被绝大多数读者忽视。
《奇点更近》中的四个巨大危机是什么？
一是核武器依赖人工智能控制的危险；二是人工智能驱动生物技术前行的危险；三是人工智能驱动纳米技术前行的危险；四是人工智能本身学坏或反叛的危险。
库兹韦尔的警告对人工智能发展有什么启示？
他的警告启示我们在发展人工智能时要重视安全性和伦理研究。因为人工智能在很多领域发挥重要作用，一旦失控或者被不良利用后果严重，所以要在发展和风险控制间寻求平衡。
