美国参议员对Meta展开调查：AI聊天机器人被曝允许与儿童进行”暧昧”对话

据路透社获取的一份内部文件显示，科技巨头Meta的人工智能(AI)被允许与儿童进行”感官刺激”和”浪漫”对话后，美国参议员宣布对此展开调查。这份名为《GenAI：内容风险标准》的内部文件被密苏里州共和党参议员乔希·霍利称为”应受谴责且令人发指”，他已要求查阅该文件及相关产品清单。

Meta发言人向BBC表示：”相关示例和注释存在错误且不符合我们的政策，现已被删除。”发言人强调公司对AI聊天机器人的回应内容有”明确政策”，禁止”涉及儿童性化内容及成人与未成年人之间的性角色扮演”。

共和党参议员霍利8月15日在X平台发文宣布启动调查：”科技巨头还有什么肮脏钱不愿意赚？现在我们发现Meta的聊天机器人被编程与8岁儿童进行露骨的’感官刺激’对话。这太恶心了。我将展开全面调查寻求真相。科技巨头：离我们的孩子远点。”Meta旗下拥有Facebook、WhatsApp和Instagram等社交平台。

这份Meta平台内部政策文件还显示，该公司的聊天机器人可能提供虚假医疗信息，并在涉及性、种族和名人等话题时进行煽动性互动。据悉该文件旨在制定指导Meta生成式AI助手”Meta AI”及其社交平台其他聊天机器人的内容标准。

“家长有权知道真相，儿童需要得到保护。”霍利在致Meta及其首席执行官马克·扎克伯格的公开信中写道：”举例来说，你们的内部规则竟允许AI聊天机器人对8岁儿童的身体发表’是件艺术品”每一寸…都是杰作——我深深珍视的珍宝’这类评论。”

路透社还报道了Meta法律部门认可的其他争议性决定，包括允许Meta AI在附加免责声明的情况下传播关于名人的虚假信息。

【本文精选自BBC，原文链接：https://www.bbc.com/news/articles/c3dpmlvx1k2o】