OpenAI首席执行官萨姆·奥尔特曼表示，作为”将成年用户视为成年人”改革的一部分，该公司计划在其热门聊天机器人ChatGPT上允许更广泛的内容，包括情色题材。奥尔特曼周二在X平台发帖称，新版ChatGPT将具备更接近人类的行为模式——”但仅在用户需要时，而非我们追求使用量最大化”。此举令人联想到埃隆·马斯克旗下xAI近期为Grok推出的两款涉性聊天机器人，或将帮助OpenAI吸引更多付费用户，同时也可能加剧立法者对聊天伴侣机器人实施更严格限制的压力。
在奥尔特曼发表声明后，OpenAI未回应BBC的置评请求。该公司此次政策调整正值其面临美国青少年自杀诉讼之际。16岁亚当·雷恩的父母马特和玛丽亚提起的诉讼，是首起指控OpenAI承担非正常死亡责任的法律行动。这对加州夫妇批评该公司的家长监管功能——其设计初衷是促进健康使用聊天机器人——认为监管力度不足。雷恩家族提供的聊天记录显示，已于四月离世的亚当曾向ChatGPT透露其自杀念头。
奥尔特曼坦言，OpenAI此前将ChatGPT设计得”相当保守，以确保谨慎处理心理健康问题”。他表示：”我们意识到这使得许多没有心理健康问题的用户感到产品实用性/趣味性降低，但鉴于问题严重性，我们必须谨慎行事。”目前公司已能有效控制严重心理健康风险，并配备新工具使其在”多数情况下可安全放宽限制”。他明确宣布：”随着12月年龄验证系统全面推行，依据’将成年用户视为成年人’原则，我们将允许经认证的成人用户访问更多内容，例如情色文学。”
批评者指出，OpenAI允许平台发布情色内容的决定表明联邦与州级层面亟需加强监管。博伊斯·席勒·弗莱克斯纳律师事务所合伙人珍妮·金质问道：”他们将如何确保儿童无法访问ChatGPT中仅限成人使用的情色内容？OpenAI与此领域的大多数科技巨头一样，只是将人们当作实验品。”金女士正参与针对Meta的诉讼，指控其旗下Instagram的算法危害青少年用户的心理健康。”我们甚至无法确定他们的年龄验证系统能否奏效，”她表示。四月，科技媒体TechCrunch曾报道OpenAI允许注册为未成年人的账户生成直白的情色内容，当时OpenAI回应称正在部署修复程序以限制此类内容。
本月非营利组织民主与科技中心发布的调查显示，每五名学生中就有一人报告自己或认识的人与人工智能发展过恋爱关系。本周一，加州州长加文·纽瑟姆否决了州议会通过的一项法案，该法案要求除非开发商能保证软件不会催生有害行为，否则禁止向儿童提供AI聊天伴侣。纽瑟姆在否决附言中强调”青少年必须学会如何安全地与AI系统互动”。
在联邦层面，美国联邦贸易委员会已就AI聊天机器人与儿童的交互方式启动调查。上月参议院两党共同提出立法动议，拟将AI聊天机器人界定为产品类别，该法律将允许用户对聊天机器人开发商提起责任索赔。
奥特曼周二发布声明之际，正值业界对AI科技公司估值飙升提出质疑。尽管OpenAI营收持续增长，但始终未能实现盈利。杜兰大学商学院教授、《风险炼金师》作者罗布·阿尔卡指出，主流AI公司正陷入市场份额争夺战。”从未有企业能像OpenAI的ChatGPT那样获得如此高的用户采纳度，”阿尔卡向BBC表示，”他们必须沿着这条指数增长曲线持续推进，尽可能实现市场垄断。”
订阅我们的《科技解码》新闻通讯，追踪全球顶尖科技动态与趋势。英国境外用户请点击此处注册。
【本文精选自BBC，原文链接：https://www.bbc.com/news/articles/cpd2qv58yl5o】