人工智能聊天机器人Claude的制造商声称，已发现中国政府支持的黑客利用该工具对全球约30个机构实施自动化网络攻击。Anthropic公司表示，黑客以网络安全研究为幌子，诱使聊天机器人执行自动化任务。该公司在博客文章中宣称，这是”首个公开报道的由AI主导的网络间谍活动”。但质疑者对该说法的准确性及其背后动机提出异议。
Anthropic称于九月中旬发现这些黑客攻击行为。黑客伪装成合法网络安全工作人员，向聊天机器人分派小型自动化任务，这些任务串联后形成”高度复杂的间谍活动”。该公司研究人员表示”高度确信”攻击实施者属于”中国国家支持的组织”。据称攻击目标由人工选定——包括大型科技公司、金融机构、化工制造企业和政府机构，但该公司未透露具体名单。
黑客随后利用Claude的编程辅助功能构建未公开程序，”在极少人工干预下自主攻陷指定目标”。Anthropic宣称该聊天机器人成功入侵多家未具名机构，提取敏感数据并对其进行分类筛选以获取有价值信息。该公司表示已禁止黑客使用聊天机器人，并通知受影响企业及执法部门。
然而网络安全公司Bitdefender的技术总监Martin Zugec指出，网络安全界对此消息反应复杂。”Anthropic的报告提出大胆推测性主张，但未提供可验证的威胁情报证据，”他表示，”虽然报告确实揭示了日益严峻的安全隐患，但我们需要获得尽可能详细的攻击过程信息，才能准确评估和界定AI攻击的真实风险。”
Anthropic发布的声明或许是近期最受关注的案例，表明有不良行为者正利用AI工具实施自动化黑客攻击。这种风险虽已被广泛担忧，但其他AI公司也曾披露国家背景的黑客使用其产品的情况。
2024年2月，OpenAI与微软网络安全专家联合发布博客文章，宣称已阻断五个国家背景的黑客组织活动，其中部分来自中国。该公司当时表示：”这些行为者通常利用OpenAI服务查询开源信息、进行翻译、寻找代码错误及执行基础编程任务。”Anthropic未说明如何判定最新攻击中的黑客与中国政府存在关联。
与此同时，部分网络安全公司因过度渲染黑客使用AI的案例而受到批评。批评者指出，现有技术仍过于笨拙，难以用于自动化网络攻击。去年11月，谷歌网络安全专家发布的研究论文显示，业界对黑客利用AI创造全新恶意软件的担忧日益加剧。但该论文结论认为，这些工具成效有限，目前仍处于测试阶段。
与AI行业相似，网络安全产业倾向于强调黑客利用技术攻击企业的案例，以此提升自身产品的关注度。Anthropic在博客中主张，应对AI攻击的解决方案是采用AI防御技术。该公司声称：”使Claude能够被用于攻击的特性，恰恰使其成为网络防御的关键工具。”
Anthropic同时承认其聊天机器人存在失误，例如伪造虚假登录凭证，并声称提取了本已公开的机密信息。该公司表示：”这仍是实现全自动化网络攻击的障碍。”
欢迎订阅Tech Decoded时事通讯获取全球顶尖科技动态。英国境外用户请点击此处注册。
【本文精选自BBC，原文链接：https://www.bbc.com/news/articles/cx2lzmygr84o】