马斯克的AI又闯祸，生成非法色情内容遭多国调查？

“格罗克”惹祸，非法内容引发众怒

X平台现非法内容

近日，X平台上部分用户利用“格罗克”编辑图片和视频，生成真实人物的虚假性暴露内容并散播，受害者包括数百名女性和未成年人。法国巴黎检方扩大对X平台调查，纳入生成和传播儿童色情制品指控。

欧盟怒斥违规行为

欧盟委员会发言人托马斯·雷尼耶表示正在认真调查。他指出“格罗克”的“辣味模式”展示露骨性内容且有儿童特征图像，强调这是违法且令人作呕的，此类内容在欧洲无立足之地。

X与马斯克的应对及问题所在

强调使用者责任

X表示会对非法内容采取行动，马斯克也强调使用“格罗克”制作非法内容者将面临法律后果。但AI图像生成工具未能有效拦截违法犯罪行为，本身存在重大失误。

法律界限需明确

在美国、英国、欧盟等，未经同意发布AI生成的深度伪造私密影像违法，AI服务供应商需划定并嵌入法律界限，此漏洞将受全球监管审视。

多国展开调查，审视安全防护

英国监管机构行动

英国通讯管理局表示注意到对“格罗克”功能的“严重关切”，已与X和xAI紧急沟通，了解其保护用户法定义务的措施。

印度与马来西亚跟进

印度信息技术部要求全面审查“格罗克”安全防护功能；马来西亚当局在收到投诉后，就“格罗克”输出内容“下流”展开调查。此前欧盟已因多项违规对X平台罚款，此次事件若处理不当，X很可能面临新一轮重罚。AI图像生成工具的安全问题亟待解决，全球监管机构都在密切关注，以确保此类工具合法合规运行，保护用户权益。

相关问答

“格罗克”引发了哪些问题？

“格罗克”因涉嫌生成非法色情内容遭多国调查，包括真实人物的虚假性暴露内容，受害者有女性和未成年人，还涉及儿童色情制品。

欧盟对X平台此前有过什么处罚？

上个月欧盟委员会以违反《数字服务法》为由，对X处以2亿欧元罚款。违规包括广告资料库不合规、未开放数据访问权限及付费改“蓝标”等。

X和马斯克如何应对此次事件？

X表示会对非法内容采取行动，马斯克强调使用“格罗克”制作非法内容者将面临法律后果，称犯错的是使用者而非工具本身。

AI图像生成工具在法律方面有哪些漏洞？

在美国、英国、欧盟等，未经同意发布AI生成的深度伪造私密影像是违法的，但AI服务供应商未在工具安全系统中明确划定法律界限。

英国通讯管理局采取了什么措施？

英国通讯管理局注意到对“格罗克”功能的“严重关切”，已与X和xAI紧急沟通，了解其保护用户法定义务的措施。

印度和马来西亚有什么行动？

印度信息技术部要求全面审查“格罗克”安全防护功能；马来西亚当局在收到投诉后，就“格罗克”输出内容“下流”展开调查。