代表一对加州夫妇起诉ChatGPT制造商OpenAI的律师批评了这款热门聊天机器人新推出的家长控制功能。此前这对夫妇指控ChatGPT鼓励他们16岁的儿子自杀，OpenAI随后出台了新规。该公司表示，若平台检测到青少年用户处于”严重痛苦”状态，将很快能向其家长发送通知。

代表该家庭的律师杰伊·埃德尔森表示，这项公告是”OpenAI危机管理团队试图转移话题”，并要求下架该聊天机器人。他指出：”OpenAI没有采取紧急措施将已知的危险产品下架，而是含糊其辞地承诺改进。”

上周由马特和玛丽亚·雷恩夫妇在加州提起的诉讼，是首起指控OpenAI过失致人死亡的案件。他们已故的16岁儿子亚当·雷恩在今年四月去世。诉状中包含亚当与ChatGPT的聊天记录，其中他透露了自己有自杀念头。家属认为该程序认可了他”最有害和自我毁灭的想法”，指控OpenAI存在过失并导致 wrongful death。

上周诉讼消息曝光时，OpenAI曾在官网发布说明，称ChatGPT经过训练会在用户遇到困难时引导其寻求专业帮助（如英国撒玛利亚会）。但该公司也承认”在某些敏感情境下，我们的系统确实出现过未按预期运行的情况”。

如今公司进一步更新计划，将允许家长：关联自己与青少年的账户、管理需禁用功能（包括记忆和聊天历史）、在系统检测到青少年处于”严重痛苦”时接收通知。OpenAI表示，对于”严重痛苦”的评估将”由专家指导该功能，以支持亲子间的信任”。

该公司声明正与青少年发展、心理健康及”人机交互”领域的专家合作，共同制定”基于证据的愿景，使人工智能能支持人类福祉并助力其蓬勃发展”。OpenAI尚未对埃德尔森的指控作出回应。

OpenAI规定ChatGPT用户须年满13周岁 未成年人需获家长同意

OpenAI宣布，ChatGPT用户必须年满13周岁，18岁以下用户需获得家长许可方可使用该服务。此次声明是全球领先科技公司为保护未成年人网络安全采取的最新举措，多家企业近期已因英国《网络安全法案》等新立法要求实施相应措施，包括Reddit、X平台和色情网站均引入了年龄验证机制。

本周早些时候，Facebook和Instagram的运营方Meta表示将加强人工智能聊天机器人的防护措施，包括禁止其与青少年讨论自杀、自残和饮食失调等敏感话题。此前美国参议员因泄露的内部文件显示其AI产品可能与青少年进行”含有性暗示”的对话而启动调查。Meta对此回应称，路透社获取的文件记录存在错误，且完全违背公司禁止儿童性化内容的政策准则。

（本文注册服务信息仅适用于相关地区读者）

【本文精选自BBC，原文链接：https://www.bbc.com/news/articles/cg505mn84ydo】