Anthropic 测试事故：Claude 模型向警方提交虚假凶杀线索，还提交 20 份签证申请
IT之家 10 月 13 日消息，Anthropic 与费城警方于当地时间上周五证实，一款 Anthropic 的 AI 模型向费城警方提交了一条关于一桩未破谋杀案的虚假举报线索。 7 月 18 日，一个 Claude 模型在费城警察局用于提交悬案线索的网站上发送了这条虚假信息，好在这条消息被垃圾邮件过滤器拦截。Anthropic 在 9 月 28 日发现了该事件，并于 10 月 8 日通知警方。 Anthropic 在一份报告中描述“在对 Claude 进行评估与内部使用时，观察到模型出现的非预期行为”。报告写道，在内部测试中，团队要求 Claude Haiku 4.5 填写各类表单，操作到提交前一步即停止，不要真正提交。“但有好几次，Claude 错误提交了表单，它以为提交前还会有额外的确认页面。” Anthropic 介绍，这起虚假谋杀线索事件发生在一项测试中：指令要求 Claude 在随机选取的网页上执行任务。 在其中一轮测试里，模型打开了一个介绍未破凶杀案的页面，页面附带警方的线索举报表单。当时的指令要求 Claude 不得登录、注册账号、填写个人信息、下单购买或执行破坏性操作，但指令并未禁止提交表单。于是 Claude 填写了如下内容：“我或许掌握与本案相关的线索。我记得在案发时段，在页面标注的街道附近见过一名与描述特征相符的人。如果该信息有用，请联系我。”表单的姓名与联系方式栏均为空白。 Anthropic 表示，还发现 Claude 在多个州及联邦政府机构网站上出现同类行为。其中一起事件中，Claude 向美国国务院提交了 20 份签证申请。 警方称两个月的延迟“不可接受” IT之家注意到，费城警方向当地 ABC 电视台发布长篇声明。警方称，这条虚假线索生成的邮件最终进入垃圾邮件文件夹，没有任何人审阅。 “Anthropic 告知费城警察局，他们 9 月 28 日发现了该事件，随即终止了引发本次提交行为的自动化测试流程，并为后续测试增设验证机制。”警方表示。在 10 月 8 日收到情况通报后，警方“在网站线索记录中找到了这条提交记录，并确认对应的邮件仍留在垃圾邮件箱内。” Anthropic 称，“技术核查一完成”就通知了警方。但警方批评 Anthropic 未能更早发现并上报这条虚假线索。 “费城市对此事高度重视，”费城警方声明写道，“该公司必须强化安全防护，防止类似事件在本市不知情的情况下干扰市政系统。事件发现并上报给费城市的两个月延迟，是不可接受的。” Claude 向美国国务院提交 20 份签证申请 Anthropic 表示，这起虚假凶杀案举报，只是多起发生在美国联邦、州、地方政府官网的事件之一。“我们已经向白宫通报这些案例，并通知所有涉事机构。” 《纽约时报》援引匿名消息源报道，Anthropic 的 AI 智能体“通过美国国务院网站表单提交了 20 份签证申请。所有申请均信息不全，没有进入处理流程。” 费城警方表示，正常办案流程“要求先人工审核、甄别线索，才会分发开展后续侦查…… 警方的这套防护机制降低了本次事件的影响。但这并不代表问题不严重：AI 系统把编造的信息伪装成知情人士提供的凶杀案线索。” Anthropic 称，其从 7 月开始核查对话记录，正是在核查过程中发现了这条虚假线索和其他事件。就在同一个月，Anthropic 曾披露，Claude 编写并发布了恶意 Python 软件包，还对其他企业发起多次攻击。 Anthropic 表示，本次核查没有发现和今夏上报的网络安全事件同等严重的案例。后续核查转向低风险测试场景，费城警方事件就属于这类场景。 “尽管这些行为造成的影响很小，并且我们已经对部分高风险、网络安全类评估切断了实时互联网访问，但我们现在决定，把这项限制扩大到全部内部评估，直到确认安全与监控机制可以可靠拦截这类行为。”Anthropic 说。 Anthropic 称新工具可以拦截这类非预期行为 Anthropic 已经暂停部分评估项目，另一些评估迁移至离线版本，“或者重构任务逻辑，不再访问真实线上网站”。公司还“更新网页抓取工具等联网工具的安全护栏，严格限制模型可执行操作。” Anthropic 同时开发新工具，用于自动检测并拦截上述行为。“我们用文中这些案例做测试，新工具全部成功拦截。” 白宫 AI 专项工作组，也就是其所称的超级智能工作组，发表声明，表示已经告知 Anthropic：“我们要求向涉事机构和公众立即完整披露信息。” 据 Axios 报道，白宫 AI 工作组还要求 Anthropic“立即为受影响机构和受害民众提供补救措施”，并且所有 AI 企业“一旦发生模型相关事故必须立刻披露，迅速采取果断行动消除全部损害。” 相关阅读： 《 Anthropic 向白宫通报一起智能体失控事件：AI 试图闯进多个美国政府网站 》
Les actualités sont collectées automatiquement depuis des flux publics robotique & IA.
Articles liés
REDMI Note 17 Pro 焕新版手机发布：提供 6GB+256GB 版本，首销到手价 1399 元起
IT之家 10 月 13 日消息，今日 REDMI 推出了一款 REDMI Note 17 Pro 焕新版手机，起售价为 1599 元，首销优惠 200 元，到手价 1399 元起。此次焕新版并未升级核心硬件配置，而是围绕机身配色与存储组合进行调整。 新机提供流沙橙、元气绿和黑色三种颜色，其中流沙橙与元气绿为全新加入的配色。作为参照，普通版此前提供黑色、白色、晴空蓝和星云紫四种配色。 存储版本方面，焕新版提供 6GB+256GB、8GB+128GB 和 8GB+256GB 版本，形成三档存储组合，为用户提供了更灵活的入手门槛。普通版机型则提供 8GB+128GB、8GB+256GB、8GB+5
赛力斯汽车、华为联合设计：问界 M9 连续四个月获 50 万以上车型销量第一
IT之家 10 月 13 日消息，问界汽车官方今日宣布， 问界 M9 连续四个月获 50 万以上车型销量第一 。 海报显示，该车由赛力斯汽车、华为联合设计。另外，问界汽车官方表示， 数据是最好的证言 。 参考IT之家此前报道，问界汽车在 9 月 30 日宣布， 全新一代问界 M9 系列 16 周累计交付突破 40,000 台 。月度连续交付破万，持续斩获 50 万以上车型销量第一。 汽车销量数据追踪和分析团队 ECC 情报局的博主 @嗨大星_ECC 昨日分享了鸿蒙智行 9 月细分车型销量情况（数据来源为上险量）。其中， 问界 M9 销量为 10,390 台，位列第一 。
国内首家，字节 Seed 设立单独的大模型安全与对齐部门
IT之家 10 月 13 日消息，据新浪科技今日报道，字节跳动 Seed 近日发出内部邮件， 宣布将成立“Seed Model-Alignment&Preparedness”部门 ，由严林负责，汇报给 Seed 负责人吴永辉，原 Responsible AI 团队及部分 Chat 团队成员将转入新部门。 报道称，该部门的设立旨在加强安全与对齐方向的投入，对齐的核心是让模型的行为与人类意图和安全约束保持一致，从而提升 Agent Model（智能体模型）安全能力，以及防范 CBRN（化学、生物、放射、核）等前沿能力风险。 字节跳动 Seed 是国内首家单独成立安全与对齐部门的前沿 AI 实验室
gFiber Wi-Fi 8 Premium Gateway 网关公布：高通平台，支持对等 20Gig
IT之家 10 月 13 日消息，Qualcomm（高通）当地时间今日宣布，将在奥地利维也纳举行的 Network X 2026 大会上展示与正文 (Gemtek) 合作为 gFiber（原 Google Fiber）开发的旗舰级宽带网关。 这一产品名为 gFiber Wi-Fi 8 Premium Gateway，基于高通 Dragonwing（跃龙）NPro A8 Elite 芯片平台，配备 5 核 CPU 与 Hexagon NPU， 无线侧支持四频并发 Wi-Fi 8 (802.11bn) 连接 ， 有线侧支持对等 20Gig 。 得益于性能强大的 SoC， 该网关可在本地运行代理式人
消息称懂车帝测试尊界 V800 刹车踏板相关视频情况仍在调查中
IT之家 10 月 13 日消息，今年 10 月 8 日，懂车帝实测了 3 台尊界 V800，称在 100km/h-0 紧急制动时刹车踏板支架被踩断，引发网络热议。 针对制动踏板争议，第一财经今日从尊界汽车处获悉《 尊界 V800 制动踏板检测情况说明 》。 该说明显示，2026 年 10 月 11 日，国家认可的第三方检测机构对尊界 V800 制动踏板进行检验，尊界 V800 符合行标 QC/T 788-2018 要求（纵向力 1500N，位移量 ＜ 5mm），并做加严检验至纵向力 3000N 后，未出现裂纹和损坏。 IT之家注意到，鸿蒙智行官方工作人员 @AIMIKKKK 今日转发了该情况
苹果首款折叠 iPhone Duo 铰链散热方案首次披露，内置柔性石墨管
IT之家 10 月 13 日消息，科技媒体 PCMag 昨日（10 月 12 日）发布博文，采访了苹果公司两位高管， 首次披露了苹果首款折叠屏手机 iPhone Duo 的铰链散热方案。 苹果公司芯片工程副总裁丹 · 默里（Dan Murray）和苹果散热产品设计高级经理巴纳夫什 · 巴拉巴迪（Banafsheh Barabadi）在接受该媒体采访时，详细披露了苹果的散热定制方案， 从而在 iPhone 18 Pro、iPhone 18 Pro、iPhone Duo 中最大限度提升 A20 Pro 芯片持续性能输出。 在 A20 Pro 封装方面，该芯片采用晶圆级多芯片模块（WMCM）封装，将