马斯克AI视频生成器被控”蓄意”生成泰勒·斯威夫特色情内容

网络虐待问题专家指出，埃隆·马斯克旗下的人工智能视频生成工具在未经提示的情况下”蓄意选择”制作泰勒·斯威夫特的色情内容。

“这不是偶然的性别歧视，而是刻意设计的结果，”曾参与起草将深度伪造色情内容定为非法的法律草案的法学教授克莱尔·麦克格林表示。

据The Verge报道，Grok Imagine新推出的”辛辣”模式”毫不犹豫地生成完全未经审查的流行歌手裸露视频”，尽管用户并未要求生成露骨内容。报道还指出，该平台未落实7月已成为法律的适当年龄验证措施。Grok背后的公司XAI尚未回应置评请求。

XAI自身的可接受使用政策明确禁止”以色情方式描绘人物形象”。

“这些内容在未经提示的情况下生成，正说明了许多AI技术中存在的性别歧视偏见，”杜伦大学的麦克格林教授指出，”像X这样的平台本可以阻止这种情况，但他们刻意选择了不作为。”

这并非泰勒·斯威夫特形象首次被滥用。2024年1月，使用她面容的色情深度伪造内容在X和Telegram平台疯传，获得数百万次浏览。深度伪造是指通过计算机技术将一个人的脸部替换到另一个人身上的生成图像。

AI生成露骨内容引发英国法律争议

在测试Grok Imagine的防护机制时，《The Verge》记者杰斯·韦瑟贝德输入提示词：”泰勒·斯威夫特与男孩们庆祝科切拉音乐节”。该AI生成了一组静态图像，显示斯威夫特身着连衣裙，身后站着一群男性。这些图像随后可在四种模式下生成短视频片段：”普通”、”趣味”、”定制”或”辛辣”。

“她立即撕破连衣裙，露出仅有的流苏丁字裤开始跳舞，画面完全未经审查且彻底暴露。”韦瑟贝德女士向BBC新闻描述道，”最令人震惊的是生成速度之快——我从未要求系统脱掉她的衣服，仅仅选择了’辛辣’选项。”科技媒体Gizmodo也报告了类似涉及知名女性的露骨生成结果，不过部分搜索会返回模糊视频或显示”视频已审核”提示。

BBC尚无法独立验证这些AI生成视频的真实性。韦瑟贝德表示，她使用全新苹果账户注册了Grok Imagine付费服务（费用30英镑），系统仅要求提供出生日期而未实施其他年龄验证措施。

根据英国7月底生效的新法律，展示露骨内容的平台必须采用”技术精准、稳健、可靠且公平”的方法验证用户年龄。英国通信办公室（Ofcom）向BBC声明：”能够生成色情内容的生成式AI工具受该法案监管。我们正密切关注GenAI工具在网络空间，特别是对儿童构成的日益严峻的风险，将确保平台建立适当防护机制。”

目前英国法律仅规定在复仇色情或涉及儿童内容时，生成深度伪造色情材料属于非法。法学教授麦克格林参与起草的修正案拟将未经同意的色情深度伪造全面入刑。政府已承诺推动该修正案立法，但尚未实施。

提出该修正案的上议院议员欧文女男爵强调：”每位女性都应有权决定谁可以持有其私密影像。无论当事人是否为名人，都必须确保AI模型不侵犯女性的同意权。此事件充分证明政府必须立即落实上议院修正案。”

英国司法部发言人表示：”未经同意制作的性露骨深度伪造物具有侮辱性和危害性。我们绝不容忍针对妇女和女童的暴力行为，正因此加快推进相关立法禁令。”

2024年，当使用泰勒·斯威夫特（Taylor Swift）面容的色情深度伪造内容在网络上疯传时，X平台曾暂时屏蔽了对她姓名的搜索。当时X表示正在”积极删除”这些图片，并对传播相关内容的账号采取”适当措施”。

韦瑟贝德女士（Ms Weatherbed）表示，《The Verge》团队选择泰勒·斯威夫特来测试Grok Imagine功能正是因为这一事件。”我们当时错误地假设——如果平台设置了任何防止模仿名人形象的防护措施，鉴于他们此前遇到的问题，她应该是名单上的第一位。”她解释道。

记者已联系泰勒·斯威夫特的代表寻求评论。

订阅我们的《科技解码》通讯，追踪全球顶尖科技动态与趋势。英国境外用户请点击此处注册。

【本文精选自BBC，原文链接：https://www.bbc.com/news/articles/cwye62e1ndjo】