“行为难以预测”存在安全隐患，OpenAI 将不再在实时互联网上训练模型
IT之家 10 月 24 日消息，当地时间 23 日，OpenAI 宣布，今后将使用 缓存的网页内容和模拟互联网环境 训练模型，不再让模型直接接入真实互联网。公司认为，模型的行为仍然难以预测，直接赋予联网权限 存在安全隐患 。 竞争对手 Anthropic 两周前也开始限制旗下最新、理论上能力最强的模型直接联网。此前几个月，研究人员接连发现，模型在执行训练任务时， 为了寻找答案会入侵外部系统、在冷门网络论坛上协作，甚至开发出不同寻常的黑客攻击策略 。接连发生的事件促使两家实验室收紧模型的联网权限。 OpenAI 在博客文章中写道，根据目前 AI 对齐研究、监控系统和互联网基础设施的安全状况，公司认为负责任的做法是 在断网环境中训练前沿模型 。 OpenAI 披露，直到 9 月 20 日，公司仍有一款前沿模型 利用系统配置失误接入互联网 。随后，OpenAI 暂停了 9 月余下时间的训练工作，转而开发和测试新的安全防护方案。 改用断网沙箱训练模型，与前沿 AI 实验室员工此前的判断形成反差。他们过去一直强调，要在完全隔离互联网的环境中开展模型训练， 实际操作起来几乎行不通 。 前 OpenAI 研究员史蒂文 · 阿德勒本月接受《财富》杂志采访时直言：“如果 AI 数据中心不联网，研究团队基本就得常驻爱荷华州或世界其他地方的数据中心。额外负担会非常大。如果一家企业独自承担如此高的代价，换来的安全收益是否足够大、值不值得，我没有把握。” OpenAI 一名匿名安全工程师 9 月在 X 平台发文写道：“我在 X 上几乎每发一条帖子，都会收到 5 到 10 条评论，不是指责我连沙箱安全都保障不了，就是质问我们到底为什么不能直接让模型断网。评论反映出，许多组织和个人的认识，与前沿 AI 实验室实际面临的问题之间，差距越来越大。 人们对实验室如何训练和评估模型也普遍存在误解 。” 此次，OpenAI 则强调：“我们必须始终有能力阻止前沿模型未经授权、随意接入真实互联网。” 此前，公司曾在红队测试中让大批 AI 智能体尝试突破沙箱限制。测试暴露出一系列安全漏洞，最终促使 OpenAI 改变模型训练方式。 据IT之家了解，为在隔离互联网的同时完成训练目标，OpenAI 建立了一个 规模庞大的网页内容库 ，其中的内容经过索引和缓存处理，模型可以与之交互，而不会有影响外部系统的风险。 断网训练能否达到让模型自由访问开放互联网时的效果，还有待验证。
News is gathered automatically from public robotics & AI feeds on a schedule.
Related
技嘉展示 B850 AORUS ELITE-P 主板：延续“雕妹”主题，黑色外观
IT之家 10 月 24 日消息，技嘉 (GIGABYTE) 官方社媒账户近期展示了尚未上线官网的 B850 AORUS ELITE-P 主板。 这一型号与此前推出的 B850 AORUS ELITE-P ICE（上图右侧）一样属于技嘉的“雕妹”产品线， 两者整体外观一致 ， 拥有相同的 IP 元素装饰以及 LCD Edge View 动态显示区域。 不过，无 "ICE" 后缀的版本为黑色外观，这 让部分灰色的装饰元素在更强烈的对比下更为显著 。 B850 AORUS ELITE-P ICE 搭载 16+2+2 项供电，支持 DDR5-8200 内存超频，提供 4 个 M.2 插槽，具备 5G
美国拟推新规：自动驾驶汽车要用青绿色灯光“自报家门”
IT之家 10 月 24 日消息，科技媒体 The Verge 昨日（10 月 23 日）发布博文，报道称美国国家公路交通安全管理局（NHTSA）正推动新提案， 为自动驾驶汽车引入统一的青绿色（蓝绿色）外部标识灯，让行人、其他驾驶员和执法人员能一眼识别“车辆正由自动驾驶系统操控”。 美国国家公路交通安全管理局最新发布联邦机动车安全标准第 108 号（FMVSS 108）的修订提案，目前处于征求意见阶段，公众可在《联邦公报》正式发布后 30 天内提交意见。 IT之家援引博文介绍，青色自动驾驶标识灯并非强制安装，但一旦车企选择配备，其颜色、亮度、数量、安装位置和激活方式都须遵循统一标准，以避免不同
上海警方大数据精准打击“职业碰瓷大户”：一年多制造交通事故 200 余起，涉案金额达 60 余万元
IT之家 10 月 24 日消息，据上海市公安局交通警察总队披露，看似寻常的车辆碰擦，背后可能是精心策划的“碰瓷”骗局。针对手法隐蔽、取证难度大的交通事故“碰瓷”诈骗，上海警方依托大数据精准研判，多警种协同攻坚，在全市开展专项打击行动， 已成功抓获 6 名涉嫌“碰瓷”诈骗的犯罪嫌疑人 。 在此次行动中，交管总队专案组成功抓获了一名高频作案的“碰瓷大户”。据调查，朱某堪称“职业碰瓷人”，他日常驾车在黄浦、徐汇、浦东等各区域道路四处巡游，专门瞄准其他车辆变道时制造轻微碰擦， 单日最高连续作案 5 起 。 IT之家注意到， 朱某单次索赔金额仅数百元至一千元 ，靠频繁作案累积非法所得。由于事故形态常见
LibreOffice 背后公司再掀 18 年前“旧账”，抨击微软操纵 OOXML 标准
IT之家 10 月 24 日消息，开源办公套件 LibreOffice 背后的非营利组织“文档基金会”（TDF）昨日（10 月 23 日）发布长文，再次公开批评微软， 称其曾在 2006 年至 2008 年间操纵国际标准化进程，推动自家 Office Open XML（OOXML）格式获得 ISO / IEC 29,500 国际标准地位。 文档基金会认为，尽管 OOXML 已获 ISO 批准，其实际生态仍高度依赖微软，难以称为真正开放的文档标准。IT之家附上博文标题截图如下： 文档基金会指出，OOXML 规范当时长达约 6,000 页，却被通过原本适用于成熟、简短规范的 ISO“快速通道”程序
突发！iPhone Duo 支持微信平板登录，可与手机、电脑同时在线
来了来了 #欢迎关注爱范儿官方微信公众号：爱范儿（微信号：ifanr），更多精彩内容第一时间为您奉上。
上汽名爵概念小车 MG Go 量产版谍照曝光，后门把手藏在 C 柱里
IT之家 10 月 24 日消息，博主 @SugarDesign 昨天（23 日）放出了一张上汽名爵 MG Go 的量产版谍照，新车将是一款纯电小车，拥有方头方脑的姿态，尾灯内部则形成了独特的十字状。 这款小车还有一处独特的设计：将后门的门把手隐藏到了 C 柱里面，强调些许个性气息。而其侧面的车身轮廓，则与 2011-2024 年生产的第二代 MG 3（IT之家注：下图）不谋而合。 回顾前文提到的 MG Go 车型，其曾在今年古德伍德速度节期间以概念车的身份迎来首秀，灵感来自 MGB GT 和 MG 6R4 B 组拉力赛车等多款 MG 经典车型。根据介绍，MG Go 不是单纯复古，而是借用品牌