Mercredi dernier 9 septembre (déjà la préhistoire, à l’heure où les événements s’enchaînent à cadence accélérée), Jacob Coxon, 27 ans, démissionnait de son nouveau travail de recherche chez Anthropic, après trois ans chez Open AI, le principal concurrent. Son annonce le même jour sur un réseau dit social bien connu a été vue 167 millions de fois. Il faut dire que le ton extrêmement alarmiste de son message n’est pas passé inaperçu. Selon lui, aucun des deux poids lourds de l’intelligence artificielle n’agit de manière responsable : ils sont engagés dans une course-poursuite à l’élaboration de modèles toujours plus performants, le but étant d’atteindre le stade où une génération mettrait au point elle-même, sans intervention ni contrôle de la part des humains, la génération suivante. Ce pavé dans la mare, déjà bien anxiogène, a été suivi de réactions qui n’ont pas calmé le jeu, bien au contraire : la plus surréaliste vient de son désormais ex-collègue Evan Hubinger, une figure importante d’Anthropic… qui abonde dans son sens ! Selon lui, il y a au moins 10% de chances que l’IA détruise l’humanité à brève échéance… Rien que ça !
On peut lire des analyses qui prennent un peu de recul, sur Menow (en français, se basant sur un article en anglais paru dans le Times) ou dans le Scientific American. La dernière analyse donne le point de vue, qui se veut dédramatisant, des spécialistes de la sécurité informatique. Un passage vers la fin de l’article, stipulant qu’on ne luttera contre les dérives de l’IA qu’avec encore plus d’IA, ne m’a toutefois pas rassuré plus que ça… Est-ce normal, docteur ?
Peut-on tirer quelques enseignements de cet épisode alors que nous avons encore si peu de recul ? A mon avis oui, en méditant la réaction d’Evan Hubinger. La candeur avec laquelle il tire contre son propre camp est stupéfiante, et selon moi ne peut s’expliquer que de deux manières, qui d’ailleurs ne s’excluent peut-être pas totalement.
- Soit il est parfaitement sincère. Cette hypothèse semble partagée par Jacob Coxon lui-même, selon lequel Anthropic a parfaitement compris les dangers, mais s’estime obligé d’arrivé le premier au but, dans la crainte que des concurrents moins responsables qu’eux n’arrivent avant. Pas impossible, sachant qu’Anthropic est né d’une scission d’Open AI, précisément dans le but de mener des recherches de manière plus responsable…
- Soit il est cynique. Si le but de cette sortie était d’obtenir ou de prolonger une sidération générale, on ne s’y prendrait pas autrement. Cette sidération envers l’IA fonctionne à plein : dans une démocratie qui fonctionne normalement, une sortie comme celle d’Hubinger aurait dû lui valoir, ainsi qu’à ses supérieurs de chez Anthropic, une citation immédiate à comparaître pour trouble grave à l’ordre public.