人工智能爆发下，网络安全市场如何应对新风险与机遇？

人工智能发展下的网络安全新挑战

大模型的安全隐患

随着DeepSeek等大模型在众多领域的广泛应用，其安全问题日益凸显。例如开源跨平台大模型工具Ollama默认配置存在未授权访问与模型窃取等安全隐患。多数用户使用Ollama私有化部署且未修改默认配置时，存在数据泄露、算力盗取、服务中断等风险。有机构统计，目前活跃的运行DeepSeek等大模型的服务器高达88.9%没有采取安全措施，这可能导致多种严重后果。

新应用场景带来的风险

AI在越来越多的应用场景落地，新风险和新隐患逐渐暴露。即使完成私有化部署，数据不出域也不意味着安全。像地方政府、央国企等政企单位在接入DeepSeek过程中，涉及模型与企业知识库融合的敏感数据安全访问等问题，还有模型输出结果的“幻觉”可能导致信息误导与决策扭曲等伦理和社会层面的风险。

政企单位的人工智能应用与安全需求

政企单位的应用情况

以央国企为例，许多企业积极接入DeepSeek。如中国石油昆仑大模型完成DeepSeek大模型私有化部署，国家电网推出基于多模态大模型的“光明电力大模型”结合DeepSeek技术，中国华能完成DeepSeek系列模型本地化部署等。不同企业在不同领域利用DeepSeek提供更多智能化解决方案，涉及能源、汽车、科技通信等多领域。

对网络安全的高要求

政企单位对网络安全和数据安全有极高要求。地方政府、央国企和金融机构等，他们的数据较为敏感，需要保护数据安全和隐私。例如在部署模式上，选择本地化或私有化部署以提高数据安全性和隐私保护程度，部分还强调在国产化算力环境部署来进一步降低风险。

网络安全企业的应对措施与市场机遇

不同企业的应对策略

360集团采用“以模制模”的方式，搭建起全流程安全方案，应对大模型的安全问题，包括基座模型的幻觉矫正等。永信至诚发布相关产品及方案，如「元方」原生安全大模型一体机和原生安全行业大模型，满足政企机构对数据安全和隐私保护的要求。

市场规模的增长趋势

不同机构对网络安全市场规模的统计虽有差异，但整体呈增长趋势。艾媒咨询、中研产业研究院等都有相关预测。随着DeepSeek的爆火，政企单位大规模接入将带动网络安全产品和服务的采购需求，如天融信提到大模型会给传统合规需求驱动的网络安全市场带来增量，整个网络安全市场规模有望进一步扩大。

网络安全在人工智能发展过程中面临诸多新挑战，但也迎来新机遇。政企单位的需求促使网络安全企业不断创新应对，网络安全市场前景广阔。

相关问答

人工智能发展给网络安全带来哪些新挑战？

人工智能发展下，大模型存在如Ollama的安全隐患，且新应用场景带来诸如数据、伦理等多方面风险，如数据泄露、决策扭曲等。

政企单位为何重视人工智能应用中的网络安全？

政企单位数据敏感，如央国企在能源、汽车等领域应用DeepSeek时，为防止数据泄露、保证决策正确，需要保障网络安全。

360集团如何应对人工智能的网络安全问题？

360集团运用“以模制模”方式，依托安全大模型技术搭建全链路安全体系，包括矫正模型幻觉、监控智能体行为等。

永信至诚发布的产品有何意义？

永信至诚发布的产品如「元方」一体机，能满足政企机构数据安全和隐私保护要求，为其提供简单高效的AI私有化部署解决方案。

网络安全市场规模为何会增长？

随着DeepSeek爆火，政企单位大规模接入会带动网络安全产品和服务采购需求，不同机构预测市场规模整体呈增长趋势。

大模型的安全问题对企业有哪些影响？

大模型安全问题可能使企业面临数据泄露、算力被盗取等风险，影响企业正常运营和决策，企业需加强安全措施应对。