AI智能体真正发挥作用为何还需十年？

AI智能体当前的困境

功能与认知的缺失

当下的AI智能体存在诸多不足。其智力有限，面对复杂任务往往难以处理。多模态能力也不足，无法很好地融合多种信息。并且缺乏持续学习能力，不能有效记住新学到的知识。比如在一些复杂场景中，它无法像人类一样灵活运用不同知识去解决问题，难以根据新情况调整策略。

行动准确性的问题

ScaleAI的增长主管QuintinAu曾指出，人工智能执行动作存在出错几率。若一个智能体完成一项任务需多个动作，那么整体成功完成任务的概率就会很低。这表明目前AI智能体在实际行动中的稳定性较差，离可靠地完成任务还有很大差距。

AndrejKarpathy的观点与担忧

对开发现状的批评

AndrejKarpathy批评行业过度开发工具。在他看来，当前工具的开发与实际能力不匹配。行业似乎过于追求新工具的推出，而忽视了AI智能体本身基础能力的完善。这可能导致开发出的工具看似先进，但实际应用中却因智能体能力不足而无法充分发挥作用。

对未来的担忧

他担忧未来人类将变得无用。若构建出使人类无用的智能体，不仅人类的价值难以体现，还会出现大量人工智能“垃圾”。这些低质量的AI生成内容会充斥在各个领域，影响信息质量和社会发展，破坏理想的人机合作局面。

实现有效AI智能体的展望

所需的时间预估

Karpathy预测解决AI智能体现有问题大约需要十年时间。这意味着在未来十年内，科研人员需要不断攻克技术难题，提升智能体的认知、学习等能力，让其具备更可靠的执行任务能力，达到真正能有效发挥作用的水平。

理想的发展方向

Karpathy理想的未来是人机合作。他希望AI智能体在编写代码等任务中，能提取准确的文档，主动与人合作，在不确定时咨询人类。这样既能发挥人工智能的优势，又能结合人类的智慧，实现共同进步，创造更有价值的成果。

相关问答

AI智能体目前存在哪些功能不足？

目前AI智能体智力、多模态能力不足，缺乏持续学习和认知能力，执行动作出错几率高，难以可靠地完成复杂任务。

AndrejKarpathy为什么批评行业过度开发工具？

因为工具开发与AI智能体实际能力不匹配，过度开发工具却忽视智能体基础能力完善，导致工具难以充分发挥作用。

AndrejKarpathy担忧的未来是什么样的？

他担忧未来人类变得无用，人工智能“垃圾”泛滥，低质量的AI生成内容充斥，破坏人机合作的良好局面。

解决AI智能体问题为何预计需要十年？

AI智能体存在多方面复杂问题，如提升认知、学习等能力，要攻克众多技术难题，所以预计需十年时间。

Karpathy理想的人机合作是怎样的？

他希望AI智能体在任务中能提取准确文档，不确定时主动与人合作、咨询人类，发挥双方优势共同进步。

当前AI智能体执行任务的成功率如何？

ScaleAI的增长主管指出，若一个智能体完成任务需5个动作，每步都正确的几率只有32%，整体成功率较低。