面对加速变革的动荡未来，我们准备好了吗？

财云财经阅读：43472024-10-12 16:49:00评论：0

摘要： 2024年诺贝尔物理学奖得主AI教父杰弗里·辛顿对人工智能发展担忧，AI发展快且带来就业、伦理道德等挑战，人类要建立“新三观”，处理多种关系，制定相关原则，以应对动荡未来。

一、人工智能发展引发的深层担忧

辛顿的担忧：AI发展的不可控性

AI教父杰弗里·辛顿在接到诺贝尔官方电话时，重点表达了对人工智能发展的深层担忧。他认为我们正处在历史的关键节点，接下来的几年需要弄清楚应对AI威胁的方法。因为一旦AI失控，可能接管人类，使人类面临生存威胁。与气候变化、生物技术不同，在人工智能领域，我们对即将发生的事情以及应对方法知之甚少。辛顿明确表示AI大模型有理解能力，这与乔姆斯基语言学流派的观点相悖，人们必须研究如何将其置于人类的控制之下，而政府可以迫使大公司在安全研究上投入更多资源。

OpenAI的转变：从使命凝聚到利益凝聚

OpenAI的发展也反映出AI领域的复杂局势。在“向人类对齐”与“商业化超级加速”之争中，首席科学家、对齐派伊尔亚·苏茨克维落败离开，安全团队半数被清洗，昔日高管团队大多去职，奥尔特曼一人掌控，并且在融资66亿美元的发表长文称ASI将在“几千天内”降临。这一转变显示出OpenAI从一家使命凝聚的公共平台，变成了一家利益凝聚的一人内控企业。这种转变引发了全球范围内的争议，例如荷兰法官用AI判案被指荒谬，美国演员因AI威胁发动大罢工，美国加州的《前沿人工智能模型安全创新法案》也引发了业内不同意见，无人驾驶出租车也因事故而调整投放量等。

二、影响未来走向的多种力量

五种力量的交织：智能发展的多元影响因素

当前，有五种力量正在影响未来走向。一是智能科技的创新发展原力，这是推动AI不断前进的核心动力。二是企业的觉（悟）力，企业在AI发展过程中的态度和决策起着重要作用，像OpenAI相对被动，而联想集团提出“人本智能”理念则较为主动。三是国际国内治理规则的约束和推动力，不同地区对AI的治理政策会影响AI的发展方向和速度。四是需求引力，市场和用户对AI的需求引导着AI的应用开发。五是个人和舆论出于权益保护而对智能及相关企业施加的压力，这反映了公众对AI发展的关注和担忧。

超级智能成为全球公共事态：人类的选择至关重要

从强智能到超级智能的发展是影响人类命运的全球竞赛，与每个人息息相关。马斯克等上千位科技业者呼吁要负责任地监督AI的发展，让社会有机会逐步适应AI带来的冲击。而人类需要思考让AI做什么不做什么，发展什么样的AI，以及是谁的AI等问题。因为AI的发展不仅是“技术-产业-市场”问题，也是公共问题，如果不能正确认识到这一点，就不能处理好人与AI的关系，必然会遭遇反身性。

面对加速变革的动荡未来，我们准备好了吗？

三、人智关系：贯穿未来的核心主线

变革中的人智关系：多方面的影响与挑战

人智关系是未来的重要主线。科技与新全球化带来了个人关系、生产关系、社会关系和国际关系的重新塑造，而强智能走向超级智能的发展过程使得人智关系在很大程度上影响其他主线的走向。AI带来的变革不仅是科技、产业和经济的，还涉及社会、文化和心理层面，可能引发冲突甚至关系对立。例如在就业方面，新职业、新产业和新经济会创造新的就业机会，但也会有一部分人失去工作。

人智关系发展的九个重要节点：考验群体智慧

2020-2050年期间可能出现九个重要节点，如强智能产生、强智能的军事化、多模态驱动AI走向现实世界等。每个节点都将考验群体智慧，能否形成共识、做出恰当选择并形成发展与安全并重的公共政策非常关键。在这个过程中，需要在科技发展的同时坚守人文观念，因为人比AI更重要。

四、“新三观”：应对未来的关键理念

新三观的内涵：创新未来观、科技价值观和智能发展观

为了在超级智能时代行稳致远，提出“新三观”的理念，包括创新未来观、科技价值观和智能发展观。创新未来观是对科技业态的全景认知，需要长期关注科技创新、智能发展和社会发展走向。科技价值观从人机关系、人智关系和科技与社会关系角度出发，形成以人为本、科技向善的价值观。智能发展观是将人工智能的公共政策、科技产业发展政策和智能社会理念转化为切实可行的措施。新三观的核心是以人为本，发展人本智能。

人本智能的体现：多维度的人本考量

人本智能首先意味着AI普惠、普慧算力，让智能服务于每一个人，防止数字鸿沟延伸为智能鸿沟。智能形态以每个人为中心，分布式端侧智能与中心化云端智能协调发展。要尊重和保护人的隐私安全、个人数据等。科技业者需要重新定义产品服务、企业形态等，实现超级智能的生态和谐发展。

五、处理好十大关系：AI发展的必要条件

发展与规范的关系：寻找不同阶段的平衡点

在AI发展中，发展与规范的关系需要谨慎处理。不同阶段的平衡点不同，早期以发展为主，规范为辅。随着AI的发展，规范的重要性会逐渐增加，以确保AI的健康发展。

加速与对齐的关系：平衡发展的关键

加速与对齐的关系也很重要。对齐有助于加速发展，例如e/acc有助于打破板结建立新的平衡，但e/acc不能忽视人的因素，SuperAlignment也不必过于强调安全而阻碍发展。

集中与分布的关系：力量与利益的平衡

集中与分布的关系不仅涉及利益，还与人智关系的类型相关。中心化与去中心化的选择需要考虑到力量的集中与分散，以及人智关系是依附型还是自主型。

数据与隐私的关系：人本智能的基础要件

数据与隐私的关系在AI发展中不可忽视。数据流动难以避免，但数据确权困难，在保障数据流动和使用的基础上，保护用户数据隐私安全是人本智能的基础。

开放合作与生态保护的关系：构建健康的AI生态

开放合作与生态保护的关系对于AI的长期发展至关重要。建立广泛的开发者与合作伙伴生态，明确上下游之间的边界，如闭源模型与开发者、超级入口与App、开源模型与闭源模型之间的关系，实现竞争合作与互补发展。

彼此竞争与共同发展的关系：避免生态破坏

智能服务企业之间、模型厂商之间、芯片与算力之间，需要在竞争的同时避免过度竞争，防止生态的破坏性内卷，实现共同发展。

智能科技与传统产业的关系：和平变革的路径

智能科技与传统产业的关系是AI发展需要考虑的重要方面。要为传统行业企业赋能，而不是消灭或替代它们，让变革过程更加和平，使智能成为增量创造者而非存量重新切分者。

效率与公平的关系：降低社会摩擦成本

在强智能向超级智能发展进程中，效率与公平的关系是一道难题。企业在追求效率的同时往往难以平衡公平，这会冲击就业和扩大基尼系数。只有认识到企业与社会、强势群体与弱势群体的共生关系，才能降低社会摩擦成本。

技治与政治的关系：超越传统治理边界

随着智能平台的发展，技治与政治的关系变得复杂。超级智能体会深入渗透到经济社会活动的各个方面，超越传统国家的治理边界，从算法治理到智能现实，需要处理好两者之间的关系。

科技与伦理道德的关系：回答根本问题

在科技与伦理道德的关系方面，有许多根本问题需要回答，如在治理问题上人服从机器还是机器服从人，智能能否编辑和增强人，能否读取人脑等。

六、《AI发展21原则》：索引未来共识

原则的提出背景：适应新的发展需求

2017年阿西洛玛会议提出的23条原则已不能完全满足需求，需要在各方交流基础上提出新的原则。《AI发展21原则》旨在索引未来共识，促进主要原则的形成，助力超级智能的普惠与可信赖发展。

原则的具体内容：多方面的规范与引导

这些原则涵盖多个方面，如AI为人、普惠人类，AI是全球性公共事务需要广泛协调，明确AI相关企业的社会企业属性与商业边界，不驱逐人而是创造价值，对AI发展的重要节点进行确认监督，开发超级对齐与安全系统，避免AI对人的控制，实现AI的可解释、透明、可监督、可标识、可区分、可追溯等，采用分级分类原则，提升AI的可确信、可信赖程度，防止对AI系统的反向诱导等不良行为，尊重知识财富和保护权益，保护用户数据信息与隐私，保持开放、协作、分享，维护生态平衡，避免垄断，明确AI相关主体的直接责任，防止滥用AI作恶，探索AI普惠的未来路径等。