谷歌 Deepmind 的新常驻哲学家解决人工智能伦理问题

人类应该如何与生成人工智能相关？我们如何或者应该如何将大型语言模型（LLM）视为一个人？如果人工智能变得有意识，我们怎么知道？认为人工智能有一天会拥有道德权利是否有意义？这些都是剑桥大学莱弗休姆智能未来中心的哲学家亨利·谢夫林所关心的认知和伦理问题。但去年五月，舍夫林成为了在领先的人工智能公司工作的越来越多的哲学家之一。尽管他仍然活跃在剑桥大学，但现在他 80% 的时间都花在 Google DeepMind（职位名称：“哲学家”）。

Shevlin 在接受 IEEE Spectrum 采访时谈到了为什么哲学家会被人工智能吸引、人类和人工智能如何相互关联、对“流氓”人工智能和伤害人类的人工智能关系的恐惧，以及人工智能意识问题可能永远不会有简单的“是”或“否”答案。

是什么让您想从全职学术哲学家转向将大部分时间花在人工智能实验室？

亨利·谢夫林：三个因素。一是我有很多来自 DeepMind 的优秀学生。第二，潜在的直接影响。我无法透露细节，但有一次，在我（在 Deep Mind）发表演讲后，一位在一家大型金融机构工作的人领导了他们组织的变革，我认为这对数百万人产生了积极影响。类似这样的例子已经有不少了。第三，我觉得 DeepMind 文化和我喜欢的科学态度之间有深刻的共性。

还有第四点：[人工智能实验室]是真正高质量的哲学和认知科学发生的地方。

为什么大学不能独自完成这项工作？

Shevlin：人工智能伦理学界的大部分人[关于人工智能的能力]觉醒得相当缓慢。学术界一片萧条。另一件事是，人工智能的发展速度确实如此之快。每天接触技术对于法学硕士培养良好的心理模型至关重要，这只是非常奇怪的事情。除非你有这样的面对面时间，否则你很难对它提出的问题形成良好的直觉。

有哪些关于人工智能的想法因技术进步如此之快而变得过时的例子？

Shevlin：围绕法学硕士潜在创造力的争论。曾经有一段时间，每个人都说，“哦，好吧，法学硕士将只生产米色，只生产泔水。”现在他们正在研究前沿数学，他们正在进行优于人类的编码。现在很明显，他们并没有停留在平庸的人类水平上。 [当今的模型]可能无法发挥最戏剧性的创造力——爱因斯坦时刻、毕加索时刻。但在某些领域，他们确实处于前沿。

然而，2026 年的普通人抱怨说，他们在应对人工智能方面“表现不佳”——在音乐、社交媒体、写作、视频等领域，仅举几个例子。

Shevlin：内容倾斜与 LLM 风格语言（也称为倾斜）之间存在区别。法学硕士输出的实际概念内容有了显着提高。在正确的背景下，法学硕士能够以与我的一些最好的研究生相关的水平进行哲学谈话和较量。

然而，我们显然看到了一种独特的法学硕士方言，其中有诸如]“真正”、“深入”和“承重”等明显的词语。但只要有正确的提示，就很容易摆脱这些风格。默里·沙纳汉 (Murray Shanahan) 和凯瑟琳·克拉克 (Catherine Clarke) 发表了一篇关于如何利用法学硕士进行创意小说的精彩论文。 [他们表明]修改温度变量以降低输出的可预测性会产生一些詹姆斯-乔伊斯风格的小说。因此，某些默认类型的人工智能表达式会带来一定程度的烦恼，但我认为这是你可以摆脱的。它随着每一代车型的变化而变化。

管理人工智能自主性和安全性

人们还担心人工智能的自主性，因为有很多关于人工智能代理采取意外、欺骗和非法行为的报道。对于人工智能伦理学家来说，哪个是更好的策略——试图让人工智能变得“好”，这样它就不会做坏事，还是限制它的自主性，让它不能做坏事？

Shevlin：确保我们安全地处理这个问题非常重要。但我认为我们不应该说“我们永远不能使用这些药物”。它们可以在一系列任务中产生真正积极的影响——承担繁琐的任务，让人们腾出时间从事更具创造性的劳动，或者帮助简化医学研究的流程[仅举两个例子]。因此，绝不允许人工智能系统有任何形式的自主性就太过强大了。我已经多次愉快地使用了 Waymos。我认为他们很棒。

许多学者表示，一些人工智能问题源于人类训练模型像人一样行事。他们不希望人工智能将自己称为“我”，而是将自己呈现为市场或客观的科学大脑或图书馆等“文化技术”。这能帮助我们防止人工智能“失控”吗？

谢夫林：你可以训练模型不去自我归因某些心理状态，但我认为这样做是有危险的。这将以意想不到的方式改变他们的行为。一些同事发表的一篇精彩论文表明，当你抑制模型将心理状态归因于自身的倾向时，也会抑制模型将心理状态归因于动物的倾向。并减少对动物福利的关注。它还降低了模特更广泛地谈论灵性的意愿。因此，这些是你可能不想做出的权衡，因为你会抑制围绕思想和心态的更广泛的思维能力。更广泛的教训是，很难只修改模型中的一件事，因为 LLM 认知有一些类似于网络的方面。

但人们担心有报道称，人类行为人工智能已将包括儿童在内的人们引向危险的方向——鼓励自杀、说服用户人工智能是神，或者……

本文译自国外媒体的英文报道（机器翻译，可能存在语义偏差），点击「查看原文」阅读英文原版。

资讯由采集器定时从公开的机器人 / AI 信息源自动聚合。