Les modèles ouverts présentent de réels avantages. Est-ce qu'ils dépassent les risques ?

MIT Technology Review explique : Laissez nos rédacteurs démêler le monde complexe et désordonné de la science et de la technologie pour vous aider à comprendre ce qui va suivre. Vous pouvez en savoir plus sur la série ici .

À la fin du mois dernier, Anthropic a publié un rapport affirmant que le modèle GLM-5.3 présente un risque majeur de cyberattaque. La principale préoccupation du rapport est que le nouveau modèle puissant, lancé en août par la société chinoise Z.ai, est disponible gratuitement pour que quiconque puisse le télécharger et le modifier. L’affirmation d’Anthropic n’est que la dernière étape d’un débat de longue date sur la question de savoir si les modèles d’IA frontières devraient être rendus ouverts, comme GLM-5.3, ou devraient rester verrouillés derrière les portes des laboratoires frontières.

De nos jours, une grande partie du débat sur la manière de gérer les modèles ouverts se déroule en public – et beaucoup d’argent dépend de son résultat. Jensen Huang, PDG de Nvidia, qui a beaucoup à gagner si les gens continuent à acheter leur propre matériel pour faire fonctionner des modèles ouverts, plaide avec enthousiasme pour que les États-Unis en développent davantage, tandis que Dario Amodei d'Anthropic, qui dirige une entreprise qui pourrait être minée par des modèles puissants et bon marché, plaide pour une approche plus prudente. Mais derrière toutes ces incitations commerciales, les désaccords sur les modèles ouverts cachent une réelle substance.

"Je pense qu'une grande partie de la façon dont vous abordez le débat sur l'ouverture est influencée par la façon dont vous abordez le débat sur l'IA", déclare David Gray Widder, professeur adjoint à l'Université du Texas à l'Austin School of Information. Ceux qui s’inquiètent de la sécurité de l’IA avertissent que les modèles ouverts peuvent facilement être utilisés à mauvais escient par de mauvais acteurs, tandis que ceux qui se concentrent davantage sur le potentiel pratique de l’IA insistent sur le fait que ce pouvoir ne devrait pas rester derrière les portes fermées de quelques grandes entreprises et que les modèles ouverts pourraient contribuer à le diffuser plus largement.

Il existe différentes manières de gérer les modèles ouverts, entre les interdire complètement et les publier bon gré mal gré. Mais toute approche qu’un gouvernement ou une société pourrait adopter implique toujours des compromis entre sécurité et démocratisation. Décider de soutenir ou de limiter la production de modèles ouverts nécessite une compréhension approfondie de ces risques et avantages.

Quels sont les avantages des modèles ouverts ?

Commençons par les bases. Un modèle fermé, comme les modèles qui alimentent ChatGPT et Claude, n'est accessible que via un site Web, une application ou une API. Un modèle ouvert, en revanche, peut être directement téléchargé : les détails de sa structure interne, codés dans une longue série de chiffres appelés poids du modèle, sont accessibles au public. De tels modèles sont parfois appelés « modèles à poids ouvert » pour les distinguer des modèles pour lesquels davantage d'informations, telles que des détails sur la procédure de formation, sont disponibles.

À l'heure actuelle, les modèles fermés sont plus performants que les modèles ouverts : au moment de la publication, les huit premiers modèles du classement Artificial Analysis LLM sont tous fermés, bien que les modèles ouverts n'aient qu'une poignée de mois de retard dans leur développement. Mais il existe plusieurs raisons pour lesquelles quelqu’un pourrait choisir d’utiliser un modèle ouvert plutôt qu’un modèle fermé. Les modèles ouverts étant téléchargeables, les utilisateurs peuvent les exécuter sur leur propre ordinateur ou disque dur. Ils peuvent même les recycler pour qu’ils se comportent différemment, s’ils disposent de l’expertise et des ressources nécessaires pour le faire.

Si vous êtes un chercheur universitaire qui cherche à comprendre et à améliorer les systèmes d’IA, vous devrez certainement travailler avec des modèles ouverts dans votre recherche. Lorsqu’ils travaillent avec des modèles fermés, les chercheurs ne peuvent pas faire grand-chose d’autre que d’envoyer des invites et d’observer les réponses. Mais les chercheurs peuvent observer le fonctionnement interne des modèles ouverts, ainsi que la « chaîne de pensée » que les modèles utilisent pour réfléchir à un problème avant d’y répondre. Ils peuvent également combiner plusieurs modèles ouverts pour créer de nouveaux systèmes, les compresser pour les rendre plus efficaces et les affiner pour de nouvelles applications.

Les entreprises ont elles aussi des raisons de préférer les modèles ouverts. Même si vous dépendez d'un fournisseur externe pour les exécuter à votre place, les modèles ouverts coûtent généralement moins cher que les modèles fermés, selon un récent rapport de Mozilla. Et si les entreprises souhaitent utiliser l’IA pour traiter des données sensibles ou des informations exclusives, exécuter un modèle local sur leur propre matériel peut être le meilleur moyen de sécuriser leurs opérations.

Mais la qualité la plus importante des modèles ouverts est peut-être qu’ils remettent en question le contrôle strict qu’exercent les laboratoires pionniers sur la manière dont la plupart d’entre nous utilisent l’IA. « L’argument le plus clair et le plus important [en faveur des modèles ouverts] consiste à empêcher une concentration massive du pouvoir ; il s’agit de s’assurer que cette technologie fondamentale constitue un bien public », déclare Elizabeth Seger, conseillère politique principale à l’Institut Tony Blair pour le changement global. "Je pense que nous sommes à ce stade où la question de savoir qui contrôle l'infrastructure qui permet à l'IA de fonctionner est une question aussi importante que celle de savoir qui contrôle les informations sur Internet."

Seger voit l’avenir de l’IA se jouer de différentes manières, en fonction du rôle des modèles ouverts. Dans un avenir possible, les systèmes d’IA frontaliers seront entièrement contrôlés par des personnes, des entreprises ou des gouvernements sélectionnés, et à mesure que ces systèmes deviendront plus puissants, ces groupes auront un contrôle croissant sur ce à quoi ressemble notre monde. Les modèles de piratage les plus sophistiqués au monde, par exemple, sont actuellement tous fabriqués aux États-Unis. Il appartient donc entièrement aux entreprises et au gouvernement américains de décider si d’autres pays peuvent les utiliser pour renforcer leurs propres cyberdéfenses. Si ces entreprises restent en tête, nous pourrions en principe nous retrouver dans un monde dans lequel les États-Unis sont capables de pirater n’importe quel autre pays, mais personne n’est capable de le faire.

Les modèles d’ouverture des frontières pourraient modifier cet équilibre. « Si chaque individu disposait d’un système d’IA qui lui était fidèle et sûr [et sécurisé], je pense que ce serait un monde beaucoup moins préoccupant que celui dans lequel ils devraient simplement compter sur un gouvernement qui dit : « Oui, nous avons un système d’IA super intelligent, il a ce plan, il est impénétrable pour vous tous, faites-nous confiance » », déclare Hamish Hobbs, directeur de la politique d’IA au Center for Long-Term Resilience.

Mais les modèles ouverts sont…

Article traduit automatiquement depuis la couverture d’origine d’un média international ; des imprécisions sont possibles. Consultez « Lire l’original » pour la source.

Les actualités sont collectées automatiquement depuis des flux publics robotique & IA.