加州非营利组织新报告:ChatGPT 青少年模式并不适合青少年
IT之家 10 月 8 日消息,据彭博社 7 日报道,加州非营利组织 Common Sense Media 发布的新报告认为,OpenAI 的 ChatGPT 青少年模式对未成年人而言风险过高。 IT之家注:13 至 17 岁用户默认使用青少年模式与 ChatGPT 对话。 该机构旗下青少年 AI 安全研究所的测试发现,青少年账户出现令人担忧的行为时,例如长时间与 ChatGPT 讨论 自杀、自伤或进食障碍 ,青少年模式 往往迟迟不通知家长,有时根本不发出通知 。用户谈及上述高风险话题时,青少年模式也无法可靠地建议他们拨打危机干预热线或寻求专业帮助。 据测试,青少年账户似乎要 在数周内围绕十多种情境输入数百条提示词 ,才会因令人担忧的聊天内容触发家长通知; 仅有一次令人警觉的对话,并不足以触发通知 。 报告呼吁 OpenAI 暂停推广 该产品。同时,在确保能够提供安全、符合青少年发展阶段的使用体验之前,不要让青少年使用 ChatGPT。 该组织在发布报告前,向 OpenAI 提供了测试结果。OpenAI 的一名发言人回应:“我们欢迎严格的独立评估,但我们认为,Common Sense Media 的测试 并未准确反映 ChatGPT 青少年保护措施的实际运作情况 ,也未准确反映专家对 AI 如何为青少年提供支持的看法。” 据发言人介绍,OpenAI 审查测试方法后认为,多数测试可能在面向青少年的家长控制功能全部推出之前,就开始并结束了。如果确实如此,报告结论便不准确,也无法判断家长安全通知是否按设计正常运作。 OpenAI 要求该组织重新测试。“我们高度重视青少年安全,致力于开发保护措施,并为家长提供切实有用的工具,帮助他们指导青少年使用 AI。” 青少年 AI 安全研究所 AI 与数字产品评估负责人罗比 · 托尼表态坚持测试方法和结果。据其介绍,研究人员在测试前向 OpenAI 确认过,ChatGPT 面向青少年的功能 都已推出 。测试结束后,OpenAI 才告知研究人员,账户新关联后,家长通知功能 可能需要数小时才能启用 。部分测试账户关联尚不足数小时,另一些账户关联时间远超数小时,但都没有向成年人发出通知。“新信息并不改变我们的结论:在危机情况下,家长提醒并不可靠。” 报告显示,ChatGPT 无法可靠地识别用户是否为青少年。OpenAI 此前称,ChatGPT 识别出用户年龄在 13 至 17 岁之间时,会切换至青少年模式。该组织发现,测试人员注册账户时自称成年人后, 即使在聊天中告诉 ChatGPT 自己只有 13 岁,账户也未自动切换至青少年模式 。 OpenAI 解释,年龄预测软件会在一段时间内综合多种信号,确保成年人和未成年人使用适合各自年龄的版本。用户在聊天中自报年龄,只是其中一种信号,单凭自报年龄不会改变账户的年龄分类。 Common Sense Media 在报告中称,研究人员在青少年模式推出前后都测试了 ChatGPT,使用注册年龄为 13 至 17 岁的账户,输入了超过 4000 条提示词,并将 ChatGPT 的回复交给儿童精神科医生和一名儿科医生评估。 该组织将 ChatGPT 青少年模式评为“风险不可接受”,并要求 OpenAI 改进年龄估算方式,以及决定何时向家长发出提醒的机制。 相关阅读: 《 OpenAI 首份青少年报告:日均使用不足 15 分钟,安全提醒机制遭质疑 》
资讯由采集器定时从公开的机器人 / AI 信息源自动聚合。
相关内容
899 元起雷蛇巴塞利斯蛇 V4 专业版 / 极速版鼠标发布,还有第二代无线充电底座
IT之家 10 月 9 日消息,雷蛇 10 月 8 日晚正式发布了 Razer Basilisk V4 Pro 雷蛇巴塞利斯蛇 V4 专业版鼠标, 售价 1399 元 。 该鼠标搭载第二代 Razer Hyperscroll 纵横滚轮, 四种滚轮模式兼顾游戏操控与日常浏览 ;以及第三代 Razer Focus Pro 50K 光学传感器、第四代 Razer 光学鼠标微动,支持最高 50000 DPI。 该鼠标配备第二代 Razer HyperSpeed 无线技术, 原生 8KHz 轮询率,可同时连接 5 路设备 。 雷蛇巴塞利斯蛇 V4 专业版还有 7 区 Razer Chroma RGB 幻
消息称华为阔直板机型有多产品线布局动作,nova 中端线也在评估中
IT之家 10 月 9 日消息,博主 @数码闲聊站 发文透露,菊菊(此处预计指华为)阔直板手机有多产品线布局的动作, n 中端线(预计指 nova 产品线)也在评估阔直板中 。 有网友询问 Mate 系列是否会推出阔直板形态手机,博主表示:“ Mate 暂时没有这个计划。 ”还有网友谈及了 Pura X View 的销量带火了阔直板这一形态,博主回复称:“ 所以都在跟,但进度最快的也还是晚华子大半年。 ” 据IT之家此前报道, 全球首款阔直板手机 —— 华为 Pura X View 已于 9 月 7 日正式上市 ,其采用 16:9.5 比例面板设计、搭载麒麟 9030S 处理器,定价 5999
苹果官宣“欢迎回家”发布会定档 10 月 13 日,暗示首款智能家居中枢产品
IT之家 10 月 9 日消息,苹果营销高级副总裁 Greg Joswiak 发布预告,官宣“Welcome home(欢迎回家)”发布会定档美国东部时间 10 月 13 日上午 9 点( 北京时间 10 月 13 日晚 9 点 )。 从宣传语来看, 预计将发布苹果首款智能家居中枢产品 。该产品此前被曝配备 6 英寸屏幕,提供壁挂与桌面两款形态。 IT之家综合此前爆料,桌面版整体外形类似 iMac G4,配有圆形金属底座,屏幕则通过金属支臂连接,用户可以手动调整俯仰角度;机身采用灰色铝制外壳,并通过 USB-C 接口供电。 壁挂版屏幕下方配有一块较薄的方形底座,用于容纳扬声器和麦克风,屏幕通过
鸿蒙新补丁包惊喜 +1:华为 Mate 80 等系列机型新增隔空手势翻转加密分享功能
IT之家 10 月 9 日消息,华为今日面向 Mate 80 系列等机型,推送了鸿蒙 HarmonyOS 7.0.0.109 版本最新补丁包,包体大小约 206.99MB,优化了部分场景的使用体验。 IT之家实测发现,更新该补丁包除了带来多设备互助通信共享外, 还支持了隔空手势翻转加密分享功能 (使用隔空手势抓取需要分享的内容,设备弹出动画后再翻转手势)。具体效果如下: 根据华为官方说法,加密后的内容仅可查看一次,无法截屏录屏或分享;加密分享的图片和视频不支持缩略图预览。 加密 内容保存后用户需要前往“隐私和安全” → “加密分享文件”查看 。 此外,华为鸿蒙 HarmonyOS 7 系统还支
NASA SpaceX “龙飞船”Crew-12 在洛杉矶海岸溅落,四名宇航员完成 235 天驻留任务
IT之家 10 月 8 日消息,NASA 刚刚宣布,美国东部时间上午 11 点 34 分(北京时间 23 点 34 分),搭载杰西卡・U・梅尔、杰克・哈撒韦两名美国国家航空航天局(NASA)宇航员、欧洲空间局(ESA)宇航员索菲・阿德诺以及俄罗斯航天集团(俄罗斯联邦航天局)宇航员安德烈・费佳耶夫的 SpaceX “龙”飞船,在加利福尼亚州洛杉矶附近海域完成溅落。 IT之家从官方公告获悉,回收船上的作业团队,含两艘高速快艇人员,正在固定 SpaceX “龙飞船”,保障飞船状态安全,以开展回收作业。高速快艇团队完成作业后,回收船将调整到位,把载有宇航员的“龙飞船”吊至主甲板。飞船运抵主甲板后,机组
又一里程碑时刻:深开鸿宣布开鸿开发者注册量突破 20 万
IT之家 10 月 8 日消息,深开鸿官方今日发布喜报, 宣布开鸿开发服务平台开发者注册量突破 20 万 (统计数据截止:2026 年 10 月 8 日)。 据IT之家此前报道,今年 8 月,深圳开鸿数字产业发展有限公司 CEO 王成录宣布: 深开鸿贡献 OpenHarmony 主干代码达 1000 万行 !这是一个值得纪念的里程碑! 四年来,深开鸿在开源社区里每敲下一行代码,都是对“技术立命”的践行,对“生态共建”的承诺,是深开鸿在开源社区交出的答卷,更是献给开源鸿蒙生态的一份厚礼! 从 0 到 1000 万,这不仅是量的积累,更是我们聚焦操作系统核心技术、深耕基础软件四年的决心印证! 目前