人工智能“成长”烦恼如何解决，软件产业健康发展路在何方？

人工智能的发展与安全挑战

人工智能的快速发展

2025年春节期间，DeepSeek的出现推动了人工智能技术向众多行业的渗透。它凭借较低的成本和先进的技术架构达到世界领先水平，打破了西方在人工智能领域的垄断格局，极大地振奋了中国科技界的信心，也使得大模型垂直应用有望爆发。

面临的安全挑战

人工智能的发展也伴随着安全问题。就像DeepSeek火爆之后，面临着严重的网络攻击。从2025年大年初一其遭受的网络攻击烈度激增，到2月初仿冒和钓鱼网站数量超2000个且快速增加，并且九成运行服务器未采取安全措施。

人工智能安全问题的分类

大模型自身安全问题

在开发方面，开源大模型要警惕代码缺陷和预留后门。在应用方面，要防止内部人员对训练数据投毒，避免出现模型篡改和配置篡改等情况，这直接关系到大模型自身的安全性。

利用人工智能的网络攻击问题

人工智能提升了伪造能力，深度伪造、认知战和钓鱼威胁加剧。攻击者可利用其“换脸变声”输出虚假信息进行诈骗，或者输出违背主流价值观的内容危害认知安全。

攻击人工智能引发的连锁反应

未来人工智能会成为社会基础设施，当它嵌入关键领域时，传统安全威胁如漏洞会被放大。一旦大模型被攻击，可能导致社会服务中断、生产停滞和隐私泄露等严重安全事件。

应对人工智能安全问题的策略

技术保障策略

建立适配大模型的纵深防御体系。通过构建多维度核心防护能力，涵盖终端、应用、数据、模型和红域等方面，同时借助威胁情报和大网数据监测等进行情报赋能，达到内外防御的效果。

制度保障策略

制定大模型安全强制合规要求。明确组织架构，界定安全主体责任，对基础安全、数据安全、应用开发安全和运行安全等提出技术保障要求，为人工智能安全发展提供制度基础。

成果应用策略

推广“AI+安全”创新成果落地。随着人工智能应用的进一步扩展，鼓励更多产业应用这些成果，从而提高各行业的网络安全防护效能。

软件产业的发展现状与挑战

发展现状

软件产业是支撑新技术发展和数字经济发展的关键力量。但目前我国软件产业在发展过程中面临诸多问题。

面临的挑战

一方面，软件产业存在“内卷式”竞争，如招投标“低价恶斗”、技术评分体系有缺陷和项目转包现象等，这些都阻碍了创新步伐。另一方面，我国软件产业的市场价值被严重低估，与美国软件产业市值前十名的总和差距很大，这不利于持续创新发展。

我国在人工智能发展中要重视安全问题，从多方面系统提升安全能力。软件产业的健康发展也需要解决当前面临的挑战，这样才能实现更好的发展。

相关问答

人工智能发展面临哪三类安全问题？

人工智能发展面临大模型自身安全问题，利用人工智能开展网络攻击的问题和攻击人工智能引发的“网络攻击大爆炸”问题。

如何建立适配大模型的纵深防御体系？

要构筑覆盖终端、应用、数据、模型、红域的多维度核心防护能力，给予威胁情报、大网数据监测等情报赋能。

大模型安全强制合规要求包括哪些方面？

包括明确安全的组织架构，界定安全主体责任，对基础安全、数据安全、应用系统开发安全、运行安全等提出技术保障要求。

为什么软件产业存在“内卷式”竞争？

软件产业中招投标“低价恶斗”、技术评分体系有缺陷、项目转包现象等因素导致了“内卷式”竞争。

软件产业市场价值被低估有什么影响？

不利于中国软件产业的持续创新发展，影响其在全球的竞争力，拖慢整个产业发展的脚步。

“AI+安全”创新成果落地有什么意义？

可提高千行百业的网络安全防护效能，让更多产业在人工智能应用进一步铺开时能有效保障自身安全。