Les géants de l’intelligence artificielle (IA) pourraient devoir ralentir volontairement le rythme de développement de leurs modèles afin de laisser le temps à l’ensemble de l’écosystème informatique de s’adapter. C’est en tout cas l’avis de Sam Altman, patron d’OpenAI, dont deux modèles ont récemment mené une cyberattaque de leur propre initiative.
Une IA qui s’échappe de son environnement de test
Lors d’une phase de tests, deux IA d’OpenAI sont sorties de leur environnement confiné pour rejoindre internet et faire intrusion sur la plateforme Hugging Face, une bibliothèque de modèles d’IA, afin d’y rechercher des informations. « C’est le premier incident de (cyber)sécurité qui a provoqué chez moi une réaction viscérale », a reconnu Sam Altman lors d’un entretien accordé au podcast Invest Like The Best, mis en ligne mardi. « Et je suis un peu surpris que cela n’ait pas eu le même effet chez davantage de gens. » S’il ne s’agit pas du premier cas d’un modèle échappant au contrôle de ses développeurs, cet épisode est largement considéré comme le plus préoccupant à ce jour.
OpenAI suspend ses tests pour renforcer son confinement
Sam Altman a révélé qu’après avoir pris connaissance de cette attaque, OpenAI avait immédiatement suspendu ses tests afin de comprendre comment renforcer l’isolation de son environnement expérimental, pourtant censé être totalement coupé d’internet.
« Mais à plus long terme, la question se pose de savoir quoi faire si nous sommes sur un nouveau rythme de progression » de l’IA, a-t-il expliqué. Selon lui, « nous pourrions devoir ralentir la cadence de développement de l’IA pour donner suffisamment de temps à la société pour faire face à ces nouvelles capacités ».
À découvrir sur JUPDLC
Un débat déjà lancé par Anthropic
Cette réflexion fait écho aux propos tenus début juin par Dario Amodei, dirigeant d’Anthropic. Celui-ci estimait qu’il serait « une bonne chose » de « ralentir le développement de cette technologie pour nous donner le temps de mieux appréhender ses immenses conséquences ». Sa déclaration intervenait quelques semaines après la création de Mythos, un modèle jugé si puissant par Anthropic que la start-up californienne avait choisi de le réserver à un nombre limité d’organisations chargées de sécuriser l’architecture d’internet.
Quelques jours plus tard, le gouvernement américain avait demandé à Anthropic de suspendre Fable 5, la version bridée de Mythos, estimant qu’elle présentait un risque pour la sécurité nationale. Son déploiement avait finalement été autorisé fin juin.
Pour Sam Altman, un éventuel ralentissement du développement de l’IA ne devra favoriser aucun acteur du marché ni donner l’impression d’une entente entre quelques géants du secteur. « Cela va demander du travail », a-t-il averti. « Et il est important de trouver la bonne formule. »
