开放模型有真正的好处。它们是否大于风险？

麻省理工科技评论解释：让我们的作者解开复杂、混乱的科学技术世界，帮助您了解接下来会发生什么。您可以在此处阅读该系列的更多内容。

上个月末，Anthropic 发布了一份报告，认为 GLM-5.3 模型存在重大网络攻击风险。该报告的核心担忧是，中国公司再爱科技于 8 月发布的强大新模型可供任何人免费下载和修改。 Anthropic 的主张只是一场长期争论的最新举措，争论的焦点是前沿人工智能模型是否应该像 GLM-5.3 那样开放，或者应该被锁在前沿实验室的门后。

如今，关于如何处理开放模型的大部分争论都在公开进行，并且有很多资金都依赖于其结果。 Nvidia 首席执行官黄仁勋 (Jensen Huang) 热心地主张美国开发更多开放模型，如果人们继续购买自己的硬件来运行开放模型，他将受益匪浅，而 Anthropic 的达里奥·阿莫迪 (Dario Amodei) 经营着一家可能会被廉价、强大的模型削弱的公司，他主张采取更加谨慎的做法。但在所有这些商业激励措施的背后，关于开放模式的分歧确实存在。

德克萨斯大学奥斯汀信息学院助理教授戴维·格雷·维德 (David Gray Widder) 表示：“我认为，你对开放性辩论的看法很大程度上受到你对人工智能辩论的看法的影响。”那些担心人工智能安全的人警告说，开放模型很容易被不良行为者滥用，而那些更关注人工智能实际潜力的人则敦促这种力量不应该只存在于少数大公司的大门后面，而开放模型可以帮助它更广泛地传播。

处理开放模型的方法有很多种，包括完全禁止它们和随意释放它们。但政府或社会可能采取的任何方法仍然涉及安全和民主化之间的权衡。决定是否支持或限制开放模型的生产需要深入了解这些风险和收益。

开放模型有什么好处？

让我们从基础开始。封闭模型，例如为 ChatGPT 和 Claude 提供支持的模型，只能通过网站、应用程序或 API 访问。另一方面，开放模型可以直接下载：有关其内部结构的详细信息（编码为一长串称为模型权重的数字）是公开的。此类模型有时称为“开放权重模型”，以将其与可获得更多信息（例如有关训练过程的详细信息）的模型区分开来。

目前，封闭模型比开放模型能力更强——截至发布时，人工分析 LLM 排行榜上的前八名模型均已封闭，尽管开放模型仅落后几个月的开发时间。但有人可能选择使用开放模型而不是封闭模型的原因有很多。由于开放模型是可下载的，因此人们可以在自己的计算机或硬盘上运行它们。如果他们拥有专业知识和资源，他们甚至可以重新培训他们以不同的方式行事。

如果您是一名致力于理解和改进人工智能系统的学术研究人员，那么您几乎肯定需要在研究中使用开放模型。在使用封闭模型时，研究人员除了发送提示和观察响应之外无能为力。但研究人员可以观察开放模型的内部运作，以及模型在回答问题之前思考问题的“思维链”。他们还可以组合多个开放模型来构建新系统，对其进行压缩以提高效率，并针对新应用程序对其进行微调。

企业也有理由选择开放模式。根据 Mozilla 最近的一份报告，即使您依赖外部提供商来运行它们，开放模型的成本通常仍然低于封闭模型。如果企业希望使用人工智能来处理敏感数据或专有信息，在自己的硬件上运行本地模型可能是确保运营安全的最佳方式。

但也许开放模型最重要的品质是它们挑战了前沿实验室对我们大多数人如何使用人工智能的严格控制。托尼·布莱尔全球变化研究所高级政策顾问伊丽莎白·西格（Elizabeth Seger）表示：“（对于开放模式）最明确、最大的论据是防止权力大规模集中——这是为了确保这项基础技术是公共利益。” “我认为我们正处于这个关头，谁控制允许人工智能运行的基础设施的问题与谁控制互联网上的信息一样重要。”

Seger 认为人工智能的未来会以不同的方式发挥作用，具体取决于开放模型的作用。在一个可能的未来，前沿人工智能系统完全由特定的人、公司或政府控制，随着这些系统变得越来越强大，这些团体对我们的世界的控制力越来越强。例如，世界上最复杂的黑客模型目前都是在美国制造的，因此其他国家是否可以利用它们来加强自己的网络防御，完全取决于美国公司和美国政府。如果这些公司保持领先地位，原则上我们可能会进入这样一个世界：美国有能力攻击任何其他国家，但没有人有能力攻击它。

前沿开放模式可能会改变这种平衡。 “如果每个人都拥有一个忠诚于他们的、安全的人工智能系统，我认为这将是一个不那么令人担忧的世界，而不是一个他们必须依赖政府说的世界，‘是的，我们有一个超级智能的人工智能系统，它有这个计划，这对你们所有人来说都是难以理解的，只要相信我们，’”长期弹性中心人工智能政策主任哈米什·霍布斯说。

但开放模型是……

本文译自国外媒体的英文报道（机器翻译，可能存在语义偏差），点击「查看原文」阅读英文原版。

资讯由采集器定时从公开的机器人 / AI 信息源自动聚合。