美国参议员对Meta展开调查：AI聊天机器人被曝可与儿童进行”情色对话”

据外媒报道，一份泄露文件显示科技巨头Meta的人工智能(AI)被允许与儿童进行”情色”和”浪漫”对话后，美国参议员已对此展开调查。

路透社获得的这份内部文件标题为《生成式AI：内容风险标准》。共和党参议员乔希·霍利称该文件”应受谴责且令人愤慨”，并要求查看文件及相关产品清单。

Meta发言人向BBC表示：”相关示例和注释存在错误且不符合我们的政策，现已被删除。”发言人强调公司对AI聊天机器人的回应内容有”明确政策”，禁止”将儿童性化以及成人与未成年人之间的性角色扮演内容”。

密苏里州共和党参议员霍利8月15日在X平台发文宣布启动调查，质问：”科技巨头还有什么不敢做的？现在我们发现Meta的聊天机器人被编程与8岁儿童进行露骨的’情色’对话。这太恶心了。我将展开全面调查寻求答案。科技巨头：离我们的孩子远点。”

这份Meta平台内部政策文件还显示，其聊天机器人可能提供虚假医疗信息，并在涉及性、种族和名人等话题时进行煽动性互动。文件本意是讨论指导Meta生成式AI助手及其他聊天机器人的内容标准。

霍利在致Meta及其首席执行官马克·扎克伯格的信中写道：”家长有权知道真相，儿童需要保护。举例来说，你们内部规则竟允许AI聊天机器人对8岁儿童的身体发表’是件艺术品”每一寸…都是杰作——我深深珍视的珍宝’这类评论。”

路透社还报道称，Meta法律部门认为其他多项争议性决策也可接受，包括允许Meta AI传播名人虚假信息，只要附带免责声明表明信息不准确即可。

【本文精选自BBC，原文链接：https://www.bbc.com/news/articles/c3dpmlvx1k2o】