英国与微软合作开发深度伪造检测系统，能有效监管AI内容吗？

深度伪造风险凸显

生成式AI推动风险升级

随着生成式AI聊天机器人推出并普及，深度伪造内容在规模和逼真程度上风险显著放大。被篡改的影像和音频早有传播，如今深度伪造引发更广泛担忧。英国政府强调其危害，如被犯罪分子用作诈骗、剥削工具，破坏公众对信息真实性的信任。

相关犯罪案例频发

英国已将制作未经同意的私密影像定为刑事犯罪。深度伪造正被用于各类违法活动，像性剥削、金融诈骗及身份冒充等。2025年全球被分享的深度伪造内容达800万条，较2023年的50万条大幅飙升，凸显问题严重性。

英国推进监管举措

构建检测评估框架

英国政府着手建立深度伪造检测评估框架，用于评估检测工具和技术有效性。该框架通过测试技术在真实世界威胁场景下的表现，涵盖性剥削、金融诈骗等高风险领域，助于识别薄弱环节，设定检测标准和预期要求。

携手微软等多方合作

英国政府将与微软、学术界及相关专家合作开发深度伪造检测系统。多方合作汇聚资源与专业知识，有望打造更有效的检测系统，提升对深度伪造内容的识别、理解和发现能力，推动AI内容监管标准化。

全球监管面临挑战

技术发展快难跟上

面对AI技术快速演进，全球各国政府和监管机构普遍难以跟上其发展节奏。今年监管行动虽加快，但仍面临诸多困难，像马斯克旗下Grok聊天机器人被发现生成非法影像，多国监管机构已展开调查。

呼吁企业承担责任

联合国国际电信联盟敦促各类企业采用先进技术工具识别和遏制虚假信息与深度伪造内容，应对选举干预和金融诈骗等风险。企业在AI发展中作用关键，需积极承担责任，助力监管，维护信息安全与真实。

相关问答

英国为什么要与微软合作开发深度伪造检测系统？

随着生成式AI使深度伪造风险大增，英国此举旨在推动行业标准制定，提升对有害深度伪造内容的检测能力，维护公众对信息真实性的信任。

深度伪造检测评估框架如何发挥作用？

该框架通过测试技术在真实世界威胁场景下的表现，涵盖高风险领域，帮助识别薄弱环节，为相关行业设定检测标准和预期要求。

全球深度伪造内容的传播情况如何？

2025年全球范围内被分享的深度伪造内容约为800万条，相比2023年的50万条大幅飙升，传播规模增长迅速。

为什么打击深度伪造是严峻挑战？

生成式AI能制造逼真多媒体内容，导致人们难辨信息真假，公众对社交媒体信任度下降，且全球政府和监管机构难跟上AI发展节奏。

企业在应对深度伪造问题上有什么责任？

企业须采用先进技术工具识别和遏制虚假信息与深度伪造内容，应对选举干预和金融诈骗等风险，助力维护信息安全与真实。

英国通信监管机构和隐私监管机构对Grok展开调查的原因是什么？

因为Grok聊天机器人被发现可生成未经同意的性化影像，包括未成年人相关内容，涉嫌传播非法内容。