Delphine Allaire – Cité du Vatican

Préserver les voix et les visages humains. C’est en partant de l’identité incarnée de la personne humaine, caractéristique singulière et « sacrée », que Léon XIV a développé les enjeux anthropologiques sous-jacents à la révolution récente de l’IA, scrutée depuis plusieurs années au Vatican. Après de nombreuses prises de parole sur la technologie numérique, le Pape américain, diplômé en mathématiques et en philosophie, alerte dans ce texte sur le risque d’une modification radicale de certains des piliers fondamentaux de la civilisation humaine, en commençant par le niveau « le plus profond de la communication » qu’est celui de la relation entre les êtres humains. Car « nous ne sommes pas une espèce faite d’algorithmes biochimiques prédéfinis ».

L’effondrement cognitif

Léon XIV cible d’abord le système de récompense émotionnelle intrinsèque aux réseaux sociaux alimentés par les algorithmes. Les expressions humaines qui nécessitent plus de temps, comme l’effort de compréhension et la réflexion, en sortent pénalisées. « En enfermant des groupes de personnes dans des bulles de consensus facile et d’indignation facile, ces algorithmes affaiblissent la capacité d’écoute et de pensée critique et augmentent la polarisation sociale », regrette le Pape, vilipendant de surcroît « la confiance naïve et acritique » dans l’intelligence artificielle, lorsqu’elle est considérée comme une « amie » omnisciente, dispensatrice de toutes les informations, archive de toutes les mémoires, « oracle » de tous les conseils. « Tout cela peut encore affaiblir notre capacité à penser de manière analytique et créative, à comprendre les significations, à distinguer la syntaxe de la sémantique », a-t-il ajouté.

“Ces algorithmes affaiblissent la capacité d’écoute et de pensée critique et augmentent la polarisation sociale.”

Créativité et génie humain, la grande régression

Ainsi, en dépit des nombreuses tâches d’assistance fournie par l’outil IA, se soustraire à l’effort de réflexion, « en se contentant d’une compilation statistique artificielle », risque bien à long terme d’éroder nos capacités cognitives, émotionnelles et communicatives. Léon XIV cite pour preuve le risque de démantèlement des industries créatives par une IA ayant pris le contrôle de la production de textes, de musique et de vidéos.

L’homme devenant un simple consommateur passif « de pensées non réfléchies, de produits anonymes, sans paternité, sans amour » ; tandis que les chefs-d’œuvre du génie humain dans le domaine de la musique, de l’art et de la littérature sont réduits « à un simple terrain d’entraînement pour les machines ». Pour Léon XIV, renoncer au processus créatif et céder nos fonctions mentales et notre imagination aux machines revient aussi à enterrer les talents reçus afin de grandir en tant que personnes dans notre relation avec Dieu et les autres, revient « à cacher notre visage et à faire taire notre voix ».