Grok涉嫌生成违规图像，马斯克旗下xAI为何遭加州司法部调查？

事件起因与背景

近期，X平台上出现了一些不良现象。部分用户利用Grok编辑图片和视频，生成了真实人物的虚假性暴露内容，受害者涵盖数百名成年女性和未成年人。这些违规图像的出现引发了广泛关注，也成为了此次调查的导火索。

调查展开与要求

当地时间1月14日，美国加州总检察长RobBonta宣布对xAI及其开发的AI模型Grok启动调查。RobBonta明确表示，要求xAI立即就其如何计划阻止此类内容生成和传播给出明确答复。这一调查行动旨在查明真相，维护社会公序良俗。

马斯克的回应

当天早些时间，马斯克表示他并不知道“格罗克（Grok）”生成过任何“裸露的未成年图片”。尽管马斯克称不知情，但此次事件已引起了相关部门的重视，调查仍在进行中，后续结果值得关注。

此次Grok涉嫌生成违规图像事件，凸显了AI技术在发展过程中面临的监管挑战。一方面，AI的强大功能如果被不良利用，会造成严重的社会影响；另一方面，如何有效监管AI技术的应用，成为亟待解决的问题。此次调查不仅关乎xAI和Grok的未来，也为整个AI行业敲响了警钟，促使行业更加重视技术应用的规范性和安全性。

相关问答

加州总检察长为何对xAI及Grok展开调查？

因X平台出现用户利用Grok生成并散播真实人物虚假性暴露内容，包括成年女性和未成年人，引发不良影响。

马斯克对Grok生成违规图像知晓情况如何？

马斯克表示他并不知道“格罗克（Grok）”生成过任何“裸露的未成年图片”。

此次调查主要关注什么？

主要关注xAI如何计划阻止此类违规内容的生成和传播。

Grok生成的违规图像造成了怎样的后果？

导致数百名成年女性和未成年人成为受害者，其虚假性暴露内容在X平台上被散播。

AI技术在应用中面临哪些问题？

此次事件凸显了AI技术若被不良利用会造成严重社会影响，且监管其应用存在挑战。

此次调查对xAI和Grok有何影响？

目前调查正在进行中，结果未知，但无疑会对它们的发展产生重大影响，也给行业敲响了警钟。