Sur la protection de la personne humaine à l’ère de l’intelligence artificielle

C’est le sous-titre de la première lettre encyclique Magnifica Humanitas du pape Léon XIV. Elle est constituée de 245 paragraphes répartis, en cinq chapitres, sur un peu plus de 130 pages. Après une assez longue introduction faite de rappels historiques et de nombreuses références à ses prédécesseurs, Léon XIV aborde le vif du sujet au paragraphe 97. Tout au long du texte, il évite soigneusement les déclarations fracassantes et les postures de prophète de l’apocalypse. Sa plume empreinte d’une étonnante sérénité n’en est que plus digne d’attention. Le ton est donné au paragraphe 99 (en gras, c’est moi qui souligne) : 
 
(…) Les prétendues intelligences artificielles ne vivent pas d’expérience, ne possèdent pas de corps, ne connaissent ni la joie ni la douleur, ne mûrissent pas dans la relation, ne savent pas de l’intérieur ce que signifient l’amour, le travail, l’amitié, la responsabilité. Elles n’ont pas de conscience morale : elles ne jugent pas le bien et le mal, ne saisissent pas le sens ultime des situations, n’assument pas le poids des conséquences. Elles peuvent imiter des langages, des comportements, des évaluations, elles peuvent simuler de l’empathie ou de la compréhension, mais elles ne comprennent pas ce qu’elles produisent, car elles n’habitent pas l’horizon affectif, relationnel et spirituel dans lequel l’humain devient sage.
 
Ou encore un peu plus loin au paragraphe 104 :
 
Nous ne pouvons pas considérer l’IA comme moralement neutre. En réalité, tout dispositif technique implique des choix et des priorités : ce qu’il mesure, ce qu’il ignore, ce qu’il optimise, et la manière dont il classe les personnes et les situations. Si un système est conçu ou utilisé de manière à traiter certaines vies comme moins dignes ou à les exclure sans possibilité d’appel, il ne s’agit pas d’un simple instrument “à bien utiliser” ; il introduit déjà un critère qui contredit la dignité inaliénable de la personne.
 
Et enfin le paragraphe 110, qui a déjà retenu l’attention des commentateurs :
 
Désarmer l’IA, c’est (…) la rendre discutable, contestable, et donc habitable (…) Il ne suffit pas de la réglementer : elle doit être désarmée et rendue accessible.
 
On relèvera ça et là dans le texte quelques vœux pieux sur l’irruption de l’IA dans les conflits en cours… Mais le paragraphe 178 sur les nouvelles formes de colonialisme et d’esclavage mériterait d’être cité intégralement : que l’on songe seulement à la seconde colonisation dont de nombreuses cultures sont victimes, en particulier toute l’expression artistique des Aborigènes d’Australie pillée et imitée sans vergogne par les moteurs IA.  On peut lire le texte intégral de Léon XIV ici ou là.