Anthropic 的 Claude AI 向费城警方提交了虚假的谋杀线索

该公司和警察局周五证实，一个人性人工智能模型向费城警方提交了有关未侦破谋杀案的虚假提示。

7 月 18 日，一名克劳德模特向费城警察局网站发送了一条虚假举报，要求提交有关未侦破谋杀案的信息，但该举报被垃圾邮件过滤器标记。 Anthropic显然于9月28日发现了这一事件，并于10月8日向警察局通报了此事。

在内部测试期间，Claude Haiku 4.5 被指示填写各种表格直至最终提交阶段，并在提交这些表格之前停止。 Anthropic 在一份描述“我们在评估和内部使用 Claude 期间观察到的意外模型行为”的报告中表示：“Claude 有几次错误地提交了表格，并期望有一个额外的确认页面。”

阅读全文

评论

本文译自国外媒体的英文报道（机器翻译，可能存在语义偏差），点击「查看原文」阅读英文原版。

资讯由采集器定时从公开的机器人 / AI 信息源自动聚合。