AI造假名人遭殃，怎样制止这一乱象？
AI造假现状：名人纷纷“中招”
在当今科技飞速发展的时代，AI造假现象日益猖獗，其中名人成为了主要的受害者。
巴菲特的遭遇
巴菲特，这位投资界的传奇人物，也未能逃脱AI造假的困扰。当地时间10月23日，伯克希尔·哈撒韦公司在官网发表声明，强调巴菲特不会在社交媒体上推荐投资产品和政治候选人。这是因为社交媒体上出现了大量关于他代言投资产品以及支持政治候选人的欺诈性声明。巴菲特曾在股东大会上提及AI，将其比喻为原子弹，他深知AI发展带来的欺诈问题。他看到Meta旗下Instagram平台上有虚假的政治支持信息后，不得不做出这样的声明。
其他名人案例
国内名人
国内也有不少名人遭遇AI造假。例如小米集团董事长雷军，国庆期间他的伪造AI语音包在社交媒体上刷屏。在这些视频里，“雷军”对诸多热门话题发表了犀利甚至不雅的言论，引发网络关注，雷军本人也只能在自己的社交账号评论区表达愤怒。还有老牌港星黄百鸣，10月23日他在社交媒体上发布声明，称有人盗用他过去的影片，利用AI替换声音，假借他的名义代言不知名药膏品牌，这种欺诈行为误导公众以谋取私利。
国外名人
国外的名人也深受其害。埃隆·马斯克的形象频繁出现在AI诈骗案中。2024年8月，82岁的退休老人史蒂夫·比彻姆因看到一段声称由马斯克亲自承诺收益的投资视频而受骗，诈骗者篡改了马斯克的真实采访，利用AI技术替换声音、微调口型。安全公司McAfee公布的榜单中，斯嘉丽·约翰逊、凯莉詹纳、泰勒·斯威夫特和汤姆·汉克斯等美国名人也被冒用多次。知名女歌手泰勒·斯威夫特更是因为AI生成的不雅照在社交平台疯传而备受困扰。
深度伪造技术：AI造假的“元凶”
深度伪造技术原理
深度伪造（Deepfake）是AI造假背后的核心技术。它利用深度学习算法，将目标对象的面部“嫁接”到被模仿对象上。随着AI技术不断进步，这一技术变得越来越普遍，使用门槛也越来越低。这就导致了很多有心之人能够轻易利用该技术进行造假活动。
深度伪造技术的危害
金融犯罪方面
从目前已公开的事件来看，深度伪造技术频繁被用于金融犯罪。例如在涉及马斯克的诈骗事件中，诈骗者通过深度伪造技术制作虚假投资视频，骗取投资者的钱财。像82岁的史蒂夫·比彻姆就因此损失了69万美元。
性犯罪方面
在性犯罪方面，深度伪造技术也被恶意利用。在韩国，8月出现多起利用AI换脸伪造女性色情露骨图像的犯罪案，犯罪者合成色情照片和视频并通过群聊传播，参与者多达22万人，引发民众恐慌。在国内也有类似情况，今年6月“男子用AI伪造学生同事近7000张裸照”的事件冲上微博热搜，犯罪嫌疑人用AI“一键去衣”技术伪造淫秽图片并售卖获利。
AI造假的增长趋势与危害程度
增长趋势
《2024人工智能安全报告》显示，2023年基于AI的深度伪造欺诈增长了3000％，仅今年上半年，AI诈骗案案值已超过1.85亿元。这一惊人的增长速度表明AI造假问题日益严重，急需有效的应对措施。
危害程度
AI造假不仅对名人的声誉造成损害，还会对普通民众产生不良影响。对于名人来说，虚假的代言、不当言论等会影响他们在公众心中的形象。对于普通民众而言，AI造假涉及的诈骗行为可能会使他们遭受财产损失，如投资诈骗、色情图像传播等还会对社会风气产生负面影响，引发社会恐慌。
技术层面的应对措施及其局限性
技术措施
识别技术
一些公司和机构在努力研发识别技术来应对AI造假。例如OpenAI团队推出的“AI生成内容识别器”，旨在识别文本是由电脑自动生成还是人类撰写。这个识别器对AI撰写内容的检出成功率仅为26%，这表明识别技术目前还存在很大的局限性。
预防技术
从技术层面来看，通过标签水印的方式对非法使用有一定的预防效果。例如在AI生成合成内容中添加显式标识和隐式标识，就像我国网信办发布的《人工智能生成合成内容标识办法（征求意见稿）》提出的那样，前者可被明显感知，后者添加在元数据中。
局限性
虽然技术在不断发展，但技术措施不能解决所有问题。如吴沈括所说，通过标签水印等方式对非法使用的预防有效果，但不足以解决所有问题。游云庭也提到，目前AI的识别技术和生成技术都在升级，但不能指望识别技术解决全部问题。
法律法规层面的应对措施及其滞后性
国外法律法规
2024年7月23日，美国参议院通过了《2024年打击精准伪造图像和未经同意编辑法案》（DEFIANCEAct）。该法案允许私密数字伪造内容的受害人向恶意制作或传播的人寻求民事赔偿，规定了不同情形下的赔偿金额。这一法案的出台表明美国在应对AI造假方面的法律努力。
国内法律法规
我国也对AI深度伪造作出了一定规制。2023年1月施行的《互联网信息服务深度合成管理规定》明确了一些要求，如提供人脸、人声等生物识别信息编辑功能时的告知义务，可能导致公众混淆或误认时的标识义务等。今年9月网信办发布的《人工智能生成合成内容标识办法（征求意见稿）》进一步提出了标识要求。
滞后性
尽管各国都在制定相关法律法规，但法规的改进是有滞后性的。游云庭指出，法规永远会落后于技术的发展。这就意味着在应对AI造假问题时，法律法规可能无法及时、全面地覆盖所有新出现的问题。
平台的应对举措及其意义
平台举措
大型平台已经开始重视AI造假问题。例如谷歌在2024年8月宣布将采取措施避免色情深度伪造内容出现在搜索结果中。它简化了受害者请求移除非自愿色情图像的流程，过滤掉相关搜索的所有色情结果，并删除重复的图像。
意义
平台的这些举措具有重要意义。一方面，这可以保护平台用户免受虚假信息和不良内容的侵害，提升用户体验。另一方面，平台作为信息传播的重要渠道，其积极应对有助于遏制AI造假内容的传播，减少其危害范围。
AI造假中的责任划分问题
技术方责任
在AI造假引发的法律风险中，技术方的责任划分是一个复杂的问题。吴沈括表示，如果技术提供是以非法使用为指向的，这种技术的提供是非法的，并且在现有法律中是予以处罚的。但如果是正常技术范围被用于违法行为，技术提供方有相应恢复和改进技术设定的责任要求。游云庭也认为，技术提供方要不要承担责任，要看其是否履行了法律法规要求的合规义务，履行了则不应承担责任，反之则要承担责任。
使用者责任
对于使用深度伪造技术进行造假的使用者来说，他们是直接的违法者，应该承担主要的法律责任。无论是制作虚假的名人代言视频还是合成色情图像，使用者的行为都违反了法律法规，损害了他人的权益。
应对AI造假的综合策略探讨
要有效应对AI造假问题，不能仅仅依靠某一种方法，而是需要综合多种策略。
技术与法规协同
技术和法规需要协同发展。一方面，技术研发要不断提高识别和预防AI造假的能力；另一方面，法律法规要及时跟进技术发展，明确技术方、使用者等各方的责任，对AI造假行为进行有效的规制。
国际合作
AI造假是一个全球性的问题，需要国际合作来共同应对。不同国家的法律法规、技术水平等存在差异，通过国际合作可以共享经验、协调政策，形成更强大的应对力量。
公众教育
公众教育也是重要的一环。要提高公众对AI造假的认识，让公众能够识别虚假信息，避免受到AI造假的侵害。也要加强公众的道德教育，提高公众的道德素养，从源头上减少使用AI造假技术进行不良行为的可能性。
相关问答
什么是深度伪造技术？
深度伪造技术是一种利用深度学习算法将目标对象的面部“嫁接”到被模仿对象上的技术，这一技术在AI造假中被广泛应用。
AI造假对名人有哪些影响？
AI造假对名人的声誉有损害，比如虚假代言、传播不雅内容等，会影响名人在公众心中的形象，还可能导致名人遭受不必要的困扰和麻烦。
AI造假在金融方面有哪些危害？
在金融方面，AI造假可用于制作虚假投资视频等诈骗手段，使投资者误信虚假信息而遭受财产损失，如马斯克被伪造视频导致老人被骗69万美元。
各国如何从法律上应对AI造假？
美国通过了《2024年打击精准伪造图像和未经同意编辑法案》，我国有《互联网信息服务深度合成管理规定》和《人工智能生成合成内容标识办法（征求意见稿）》等规定，从不同方面对AI造假进行规制。
平台应对AI造假有什么意义？
平台应对AI造假可保护用户免受虚假信息和不良内容侵害，提升用户体验，还能遏制造假内容传播，减少危害范围。
AI造假中技术方的责任如何判定？
如果技术提供是以非法使用为指向则是非法并受处罚，正常技术范围被用于违法时技术方有恢复和改进技术设定责任，若履行法规合规义务则不担责，反之担责。
