“清朗·整治AI技术滥用”专项行动能让网络生态变清朗吗？

专项行动第一阶段总体推进情况

聚焦的主要乱象

“清朗·整治AI技术滥用”专项行动自2025年4月启动后，中央网信办将目光聚焦在AI技术滥用的诸多乱象上。像AI换脸拟声这种技术，本可用于娱乐等正当领域，但却被一些人用来侵犯公众权益。还有AI内容标识缺失误导公众的情况，使得用户难以分辨内容的真实性和来源，容易被虚假信息误导，对网络环境和公众造成了不良影响。

重点整治任务部署

中央网信办积极推进第一阶段重点整治任务，部署各地网信部门加大对违规AI产品的处置力度。切断违规产品营销引流渠道，从源头上遏制违规产品的传播。督促重点网站平台健全技术安全保障措施，推动生成合成内容标识加速落地，让网络信息更加透明和可追溯。

第一阶段的显著成果

经过第一阶段的整治，成果斐然。累计处置违规小程序、应用程序、智能体等AI产品3500余款，大量违规产品被清理出网络环境。清理违法违规信息96万余条，让网络空间的信息更加健康。处置账号3700余个，规范了网络用户的行为，为营造清朗网络生态奠定了坚实基础。

各地网信部门的积极作为

北京网信办的工作模式

北京网信办开设了AI技术滥用治理举报渠道，形成了“用户标记—平台核查—联合处置”的工作模式。这种模式充分发挥了用户的监督作用，用户发现问题后进行标记，平台及时核查，然后网信办联合相关部门进行处置。通过这种方式，共处置有关举报26篇，有效打击了AI技术滥用行为。

上海网信办的示范推动

上海网信办致力于推动标识要求落地示范，组织开展了4场法规宣贯和专题交流，覆盖企业400余家。通过这些活动，让企业更加了解标识要求的重要性。目前，属地内重点企业已基本完成显式标识规范上线，使得AI相关内容更加清晰透明。

浙江网信办的督导成效

浙江网信办加大了对属地AI应用和网站平台的督导力度。各平台积极响应，共拦截清理各类违法违规信息及提问2550万余条。这一举措大大减少了网络上的不良信息，提升了网络环境的质量，为用户提供了更健康的网络体验。

其他地区网信办的工作亮点

江苏网信办加强统筹协调，联合省通信管理局等部门排查AI风险域名163个，封堵和取消接入域名18个，有效防范了域名层面的AI风险。天津网信办采用“人工+技术”方式，开展大模型安全监测，通报4批次14个风险问题，及时发现并解决了大模型存在的安全隐患。

重点网站平台的主体责任履行

处置违规AI产品

腾讯积极履行主体管理责任，规范应用程序管理，提高准入门槛。通过优化巡查机制，对违规小程序、应用程序等严格审核，驳回、处置违规小程序、应用程序等共计570余款，从源头上减少了违规AI产品的出现。

清理违规内容

微博通过策略识别、用户举报等多渠道审核，累计处置违规内容4800余条，并公布典型案例。这不仅让违规内容得到清理，还起到了警示作用，让其他用户和平台更加重视合规运营。

加强训练语料管理

通义平台围绕数据生命周期建立安全管理体系，在数据采集、训练、使用等阶段加强训练语料管理。确保训练语料的安全性和合规性，避免因不良语料导致AI产生不当内容，从根本上提升了AI的质量。

强化安全管理措施

抖音建立“红蓝对抗”机制，模拟攻击案例，修复潜在安全漏洞。通过这种方式，优化模型对虚假信息的识别能力，让用户在使用抖音时能够看到更真实、可靠的内容，增强了用户对平台的信任。

落实内容标识要求

阿里、快手、稀宇等重点平台积极推进元数据隐式标识落地落实。使得用户在浏览AI相关内容时，能够更加清楚地了解内容的来源和性质，进一步提高了网络信息的透明度。

防范重点领域安全风险

小红书在模型后置训练阶段输入专业领域数据，提升模型对医疗、金融、未成年人等重点领域问题的理解能力。这有助于避免AI在这些重点领域产生不当内容，更好地保护用户的权益。

专项行动的后续计划

聚焦突出问题

下一步，中央网信办将聚焦AI造谣、低俗内容等7类突出问题。这些问题严重影响了网络生态的健康发展，是后续整治的重点方向。通过集中力量解决这些问题，能够进一步净化网络空间。

构建技术监测体系

为了更好地开展整治工作，中央网信办将构建技术监测体系。利用先进的技术手段，实时监测网络中的AI技术滥用情况，及时发现问题并进行处理，提高整治工作的效率和精准度。

形成处置处罚规范

形成处置处罚规范也是后续工作的重要内容。明确对违规行为的处罚标准，让整治工作有章可循，增强了整治工作的权威性和严肃性，能够更好地约束违规者的行为。

推动长效机制建立

中央网信办还将推动内容标识如期落地，形成长效工作机制。持续维护清朗网络生态，推动人工智能向善向好发展，让网络成为人们获取信息、交流互动的健康平台。

“清朗·整治AI技术滥用”专项行动在第一阶段取得了显著成果，各地网信部门和重点网站平台积极履行职责。后续通过聚焦突出问题、构建技术监测体系等措施，有望进一步净化网络生态，推动人工智能健康发展，为广大用户营造一个更加清朗、安全的网络环境。

相关问答

“清朗·整治AI技术滥用”专项行动第一阶段取得了哪些成果？

第一阶段累计处置违规AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个，各地和平台也积极作为取得相应成效。

北京网信办治理AI技术滥用采用了什么模式？

采用“用户标记—平台核查—联合处置”工作模式，开设举报渠道，共处置有关举报26篇。

上海网信办在推动标识要求落地方面做了哪些工作？

组织开展4场法规宣贯和专题交流，覆盖企业400余家，推动属地内重点企业基本完成显式标识规范上线。

重点网站平台在加强训练语料管理方面有什么举措？

通义平台围绕数据生命周期建立安全管理体系，在数据采集、训练、使用等阶段加强训练语料管理。

专项行动后续将聚焦哪些突出问题？

后续将聚焦AI造谣、低俗内容等7类突出问题，构建技术监测体系，形成长效工作机制。

重点网站平台如何防范重点领域安全风险？

如小红书在模型后置训练阶段输入专业领域数据，提升模型对医疗、金融、未成年人等重点领域问题的理解能力。