Le nouveau philosophe résident de Google Deepmind s’attaque à l’éthique de l’IA

Quel rapport les humains devraient-ils adopter avec l’IA générative ? De quelle manière traitons-nous, ou devrions-nous, traiter un grand modèle de langage (LLM) comme s'il s'agissait d'une personne ? Si une IA devenait consciente, comment pourrions-nous le savoir ? Est-il logique de penser qu’un jour l’IA pourrait avoir des droits moraux ? Telles sont quelques-unes des questions cognitives et éthiques qui ont préoccupé le philosophe Henry Shevlin du Leverhulme Center for the Future of Intelligence de l’Université de Cambridge. Mais en mai dernier, Shevlin a rejoint la cohorte croissante de philosophes qui travaillent au sein de grandes sociétés d’intelligence artificielle. Bien qu'il reste actif à Cambridge, il passe désormais 80 % de son temps chez Google DeepMind (titre du poste : « Philosophe »).

Shevlin a expliqué avec IEEE Spectrum pourquoi les philosophes sont attirés par l'IA, comment les humains et les IA interagissent les uns avec les autres, les craintes de relations entre l'IA et l'IA « voyous » qui nuisent aux humains, et comment la question de la conscience de l'IA peut ne jamais avoir une simple réponse « oui » ou « non ».

Qu’est-ce qui vous a poussé à passer du statut de philosophe universitaire à plein temps à passer une grande partie de votre temps dans un laboratoire d’IA ?

Henry Shevlin : Trois facteurs. La première est que j’ai eu beaucoup d’étudiants brillants de DeepMind. Deuxièmement, le potentiel d’impact direct. Je ne peux pas entrer dans les détails, mais à une occasion, après avoir donné une conférence [à Deep Mind], quelqu'un qui travaillait pour une grande institution financière a mené des changements dans son organisation qui, je pense, ont eu un impact positif sur des millions de personnes. Il y a eu pas mal de cas comme celui-là. Troisièmement, mon sentiment de profond point commun entre la culture DeepMind et le genre d’attitude scientifique que j’aime.

Et il y a un quatrième point : [les laboratoires d’IA sont] des lieux où se déroulent une philosophie et des sciences cognitives de très haute qualité.

Pourquoi les universités ne peuvent-elles pas faire ce travail seules ?

Shevlin : Une grande partie du monde universitaire de l’éthique de l’IA a mis du temps à se réveiller [sur les capacités de l’IA]. Le milieu universitaire était au ralenti. Une autre chose est que l’IA évolue si vite. Le contact quotidien avec la technologie est fondamentalement essentiel pour développer de bons modèles mentaux avec les LLM, qui sont tout simplement des choses très étranges. À moins d’avoir ce genre de temps en face-à-face, il vous sera difficile de développer de bonnes intuitions sur les questions que cela soulève.

Quel est un exemple d’idée sur l’IA qui est devenue obsolète parce que la technologie a progressé si rapidement ?

Shevlin : Débats autour de la créativité potentielle des LLM. Il fut un temps où tout le monde se disait : « eh bien, le LLM ne va produire que du beige, que du slop ». Maintenant, ils font des mathématiques de pointe, ils font un codage supérieur à celui des humains. Il est clair désormais qu’ils ne sont pas coincés au niveau d’une humanité médiocre. Les [modèles d’aujourd’hui] ne sont peut-être pas capables de réaliser les formes de créativité les plus dramatiques – les moments Einstein, les moments Picasso. Mais dans certains domaines, ils sont véritablement à la frontière.

Pourtant, en 2026, les gens ordinaires se plaignent d’être confrontés aux « slops » de l’IA partout : dans la musique, les réseaux sociaux, l’écriture, les vidéos, pour ne citer que quelques exemples.

Shevlin : Il y a ici une distinction entre le contenu slop et le langage de style LLM, également appelé slop. Le contenu conceptuel réel des résultats du LLM s'est considérablement amélioré. Dans le bon contexte, les LLM sont capables de parler et de jouter philosophiquement à un niveau associé à certains de mes meilleurs étudiants diplômés.

Cependant, il existe évidemment un type distinctif de dialecte LLM que nous avons vu, avec des mots révélateurs comme] « véritablement », « fouiller » et « porteur ». Mais il est assez facile de s’éloigner de ces styles avec le bon type d’incitation. Murray Shanahan et Catherine Clarke ont rédigé un article brillant sur l'utilisation des LLM pour la fiction créative. [Ils montrent que] bricoler la variable de température pour rendre les sorties moins prévisibles crée une fiction à la James-Joyce. Il y a donc un certain degré de gêne avec certains types d'expressions d'IA par défaut, mais je pense que c'est quelque chose dont vous pouvez vous éloigner. Et cela change à chaque génération de modèle.

Gérer l'autonomie et la sécurité de l'IA

Les gens s’inquiètent également de l’autonomie de l’IA, maintenant qu’il y a eu de nombreux rapports faisant état d’agents d’IA prenant des mesures inattendues, trompeuses et illégales. Pour un éthicien de l’IA, quelle est la meilleure stratégie : essayer de rendre l’IA « bonne » pour qu’elle ne fasse pas de mauvaises choses, ou restreindre son autonomie pour qu’elle ne puisse pas faire de mauvaises choses ?

Shevlin : Il est très important de nous assurer que nous gérons cela en toute sécurité. Mais je ne pense pas que nous devrions dire « eh bien, nous ne pourrons jamais, jamais utiliser ces agents ». Il existe toute une gamme de tâches pour lesquelles ils peuvent avoir un impact vraiment positif : accomplir des tâches fastidieuses pour libérer les gens pour un travail plus créatif, ou contribuer à rationaliser les processus dans la recherche médicale [pour ne citer que deux exemples]. Donc, ne jamais accorder une quelconque autonomie aux systèmes d’IA serait trop fort. J'ai pris Waymos avec beaucoup de plaisir à plusieurs reprises maintenant. Je pense qu’ils sont fantastiques.

Un certain nombre de chercheurs affirment que certains problèmes de l’IA proviennent du fait que les humains entraînent les modèles à agir comme des personnes. Ils ne veulent pas que l’IA se désigne elle-même par le terme « je », mais plutôt se présente comme des marchés, des cerveaux scientifiques impersonnels ou des « technologies culturelles » comme les bibliothèques. Cela nous aiderait-il à empêcher l’IA de « devenir malveillante » ?

Shevlin : Vous pourriez entraîner les modèles à ne pas s'auto-attribuer certains types d'états mentaux, mais je pense qu'il y a un danger à faire cela. Cela modifierait leur comportement de manière inattendue. Un article fantastique rédigé par certains collègues montre que lorsque vous supprimez la tendance des modèles à s’auto-attribuer des états mentaux, cela supprime également la tendance du modèle à attribuer des états mentaux aux animaux. Et diminue son souci du bien-être animal. Cela réduit également la volonté du modèle de parler de spiritualité de manière plus large. Ce sont donc des compromis que vous ne voudriez peut-être pas faire, car vous déprimeriez un ensemble plus large de capacités de réflexion autour de l’esprit et de la mentalité. La leçon la plus générale est qu’il est très difficile de bricoler un seul élément dans un modèle, car la cognition LLM comporte des aspects de type Web.

Mais les gens s'inquiètent des informations selon lesquelles l'IA à action humaine aurait conduit des personnes, y compris des enfants, dans des directions dangereuses : encourager le suicide, persuader un utilisateur que l'IA est un dieu, ou...

Article traduit automatiquement depuis la couverture d’origine d’un média international ; des imprécisions sont possibles. Consultez « Lire l’original » pour la source.

Les actualités sont collectées automatiquement depuis des flux publics robotique & IA.