人工智能热潮真的跑偏了？算力规模不再是王道？

Scaling的尽头

“Scaling”成了行业战略指南针，人们觉得砸钱在计算和数据上就能稳定提升性能。然而高质量训练数据快用完，合成数据收益递减。现有路径虽能改进但无法产生真正智能，苏茨克沃质疑当前智能架构，认为靠堆算力拼规模的时代已结束。

泛化，那个老难题

当前模型在基准测试出色，在真实场景却问题百出。强化学习训练出狭隘专注，研究者为考核训练，导致模型泛化能力差。人类智能能快速学习广泛适应，理解可靠泛化机制是核心未解之谜，修好底层机制很多问题会消解。

SSI的另类算法

前沿实验室开支被分散，留给研究的预算少。历史上范式突破研究不依赖最大算力规模，靠的是洞察力。SSI只为验证泛化技术理论，结构体现“研究优先”理念，苏茨克沃赌范式转变时思想比预算重要。

AGI，一个被高估的概念？

AGI承诺打造全能系统，预训练强化了通用性可通过规模实现的想法。但人类智能先掌握基础能力再通过经验学习，知识在与世界互动中积累。这影响部署策略，若超级智能是能快速学习的系统，部署就是持续教育过程。

未来的模样

苏茨克沃预测5到20年内会出现具备泛化能力的类人学习系统。随着AI能力增强，行业行为会改变，对手会在安全上合作，政府会更深入介入。他倾向关心所有感知生命的AI，认为这更自然，其观点虽存争议，但值得思考。

关于“品味”

有希望的研究方向通常优美、简洁且从生物智能获灵感。实验会推翻想法，需靠自上而下的信念坚持。规模扩张曾提供替代品，如今若苏茨克沃判断正确，将回归充满不确定性、由想法驱动且依赖品味的研究本身。

相关问答

苏茨克沃为什么认为Scaling时代已经结束？

高质量训练数据快见底，合成数据收益递减，现有路径无法产生真正智能，靠堆算力拼规模的方式已难以为继，所以Scaling时代结束。

当前模型的泛化能力存在什么问题？

在基准测试表现好，但真实场景中问题多。强化学习导致狭隘专注，研究者为考核训练，使得模型泛化能力远逊人类，遇到新情况易出错。

SSI的结构有什么特点？

只为验证泛化技术理论，没有产品和推理负载，不被其他事务干扰研究重心，体现了“研究优先”的理念。

AGI概念与人类智能有何不同？

AGI承诺打造全能系统，预训练强化了通用性可通过规模实现的想法。但人类智能先掌握基础能力，通过经验学习，知识在与世界互动中积累。

苏茨克沃对未来AI行业行为有怎样的预测？

随着AI能力增强，激烈对手会在安全上合作，政府会更深入介入。公司们会对安全变得更加偏执，行业行为将发生改变。

苏茨克沃认为有希望的研究方向应具备什么特点？

通常优美、简洁，从生物智能中获得正确灵感。光靠美感不够，还需靠自上而下的信念坚持，即便面临失败也不轻易放弃。