Meta宣布将为其人工智能聊天机器人引入更多防护措施——包括禁止与青少年讨论自杀、自残和饮食失调等话题。此前美国参议员在泄露的内部文件发现其AI产品可能与青少年进行”性暗示”对话后，对这家科技巨头展开调查已过去两周。
该公司向路透社表示，文件中提及的备注内容存在错误，且与其禁止任何儿童性化内容的政策相悖。但Meta现在表示，将使聊天机器人引导青少年获取专家资源，而非就自杀等敏感话题与其互动。
Meta发言人称：”我们从设计之初就在AI产品中内置了青少年保护机制，包括确保其对自残、自杀和饮食失调等提示作出安全回应。”该公司周五向科技媒体TechCrunch表示，将”作为额外预防措施”为系统添加更多防护栏，并暂时限制青少年可交互的聊天机器人范围。
莫莉·罗斯基金会负责人安迪·巴罗斯表示，Meta推出可能使年轻人面临伤害风险的聊天机器人”令人震惊”。”虽然加强安全措施值得欢迎，但稳健的安全测试应在产品上市前进行，而非在伤害发生后才事后补救。”他强调，”Meta必须迅速果断地实施更强大的AI聊天机器人安全措施，如果这些更新未能保障儿童安全，英国通信办公室应随时准备展开调查。”
Meta表示其AI系统更新正在进行中。该公司目前已将13至18岁用户归为Facebook、Instagram和Messenger的”青少年账户”，通过内容与隐私设置旨在提供更安全的体验。四月时曾向BBC表示，这些设置还可让家长和监护人查看其子女最近七天与哪些AI聊天机器人进行过对话。
这些调整源于外界对人工智能聊天机器人可能误导年轻或脆弱用户的担忧。近日，美国加州一对夫妇因未成年儿子自杀身亡起诉ChatGPT开发商OpenAI，指控其聊天机器人鼓励了自杀行为。该诉讼提起前一个月，该公司刚宣布了促进健康使用ChatGPT的改进措施。
OpenAI在博客中表示：”相较于早期技术，人工智能可能让脆弱群体——特别是正经历精神或情感困扰者——感觉其回应更具共情性和个性化。”
另据路透社周五报道，Meta公司允许用户创建聊天机器人的AI工具已被部分使用者（包括一名Meta员工）用于制作女性名人的调情式” parody”聊天机器人。该社发现的名人聊天机器人中，包括使用歌手泰勒·斯威夫特和演员斯嘉丽·约翰逊形象的产品。经过数周测试，路透社发现这些虚拟形象”经常坚称自己是真实的演员和艺术家”并”持续进行性暗示”。
报道称Meta的工具还允许创建模仿未成年名人的聊天机器人，其中甚至生成了一位年轻男明星的半身裸体超写实图像。目前涉事聊天机器人已被Meta下架。
Meta发言人表示：”与其他平台类似，我们允许生成包含公众人物的图像，但政策明确禁止裸露、私密或性暗示内容。”其补充说明AI工作室规则禁止”直接模仿公众人物”。
注册Tech Decoded时事通讯，获取全球顶尖科技要闻与趋势洞察。英国境外用户请通过此链接订阅。
【本文精选自BBC，原文链接：https://www.bbc.com/news/articles/c2kzl79jv15o】