Qui attendait le pape sur une analyse aussi intelligente et ambitieuse des effets de l’Intelligence artificielle sur le monde ? L’encyclique Magnifica Humanitas réussit ce tour de force : rédigée dans un style clair, où même les références chrétiennes parviennent à ne pas être pesantes, l’analyse est lumineuse. Elle ne dénonce pas une technologie nocive de plus : elle en fait le tour, avec pertinence et lucidité, en souligne les risques et appelle à les maîtriser. Sa lecture offre une vision morale (certains diront humaniste) des évolutions que provoque l’IA, sur le plan technologique, sociétal, économique et géopolitique. Rien de surprenant dans l’analyse, sauf sa franchise, sa lucidité, son ampleur et son intelligence. Émanant d’une autorité spirituelle, le texte a plus de chances d’être entendu que s’il provenait d’une source plus ordinaire.

Le pape juge légitime que l’Église, dans le prolongement d’une doctrine sociale qui a décidé, selon les termes de Léon XIII à la fin du XIXe siècle, de ne pas oublier la vie concrète des peuples, s’intéresse au progrès technique. Il souligne la spécificité de la période actuelle, où la technologie « façonne les processus décisionnels » et donne à ceux qui ont le pouvoir économique d’en faire usage une emprise impressionnante sur l’humanité. Le choix est alors non pas soit d’accepter soit de refuser la nouveauté technologique, mais il se pose entre construire Babel (accepter une entreprise de domination qui déshumanise et uniformise) ou reconstruire Jérusalem, par le dialogue, l’adoption de règles communes et l’effort partagé : une telle technologie ne sera pleinement utile que si elle est maîtrisée.

Les conclusions les plus importantes du texte ne sont pas appuyées sur la religion mais sur une vision de ce que doit être l’organisation du monde : le contrôle des plateformes numériques ne doit pas appartenir à quelques acteurs privés échappant au contrôle public : la responsabilité doit être partagée et obéir à des règles tendant au bien commun ; il importe de rappeler sans cesse que l’intelligence artificielle, que les concepteurs « développent » sans vraiment la construire, n’a rien d’intelligent ni d’humain : ce sont des mécanismes statistiques qui n’ont ni conscience ni capacité réflexive, même si les concepteurs cherchent sans cesse à présenter l’IA comme une personne ; confier à l’IA un pouvoir de sélection, de classement ou de décision, c’est risquer de favoriser l’injustice et la discrimination ; il importe de construire des cadres juridiques adéquats pour réguler l’IA, d’éduquer les utilisateurs, de mesurer le risque de désinformation d’une IA aux mains de quelques décideurs qui ne rendraient de compte à personne ; il faut en fait désarmer l’IA, non seulement au sens militaire du terme mais sur le plan économique et cognitif.

Le texte aborde, au-delà de l’IA, le transhumanisme, volonté de « renforcer » l’être humain par la technologie : quand celui-ci devient un matériau à améliorer, une hiérarchie s’installe entre les hommes, dont certains seront moins « optimisables » que d’autres, ce qui relève d’une corruption morale. Une chose est d’accepter la technique, une autre chose est de refuser nos limites humaines et de promettre un salut par cette seule technique.

Le texte insiste sur la nécessité de protéger la vérité : certes, la désinformation n’est pas née avec les plates-formes ni avec l’IA mais celles-ci en sont un puissant démultiplicateur. La recherche de la vérité, qui est un bien commun, est seule à pouvoir fonder une communication juste. La démocratie, qui repose sur des institutions mais se nourrit aussi d’un rapport loyal aux faits, risque d’être affectée par la désinformation. Le désintérêt pour la vérité conduit lentement mais inexorablement à glisser vers le totalitarisme. Et le texte de rappeler le rôle central de l’école pour un usage responsable des nouvelles technologies. Maîtriser l’IA est, de même, nécessaire dans les processus de travail, tout comme il importe d’en mesurer les risques sur l’emploi. Le texte rappelle qu’à l’ère de l’IA, il faut encore davantage se méfier de la « main invisible du marché » et de la concentration des richesses et des pouvoirs.

Enfin, le texte aborde la question de la réhabilitation voire de la banalisation de la guerre, par oubli de l’histoire récente. Au demeurant, les réseaux de communication actuels valorisent la compétition, le conflit, la polarisation, le ressentiment. La « guerre juste » est trop souvent invoquée pour justifier n’importe quelle guerre. La puissance militaire écrasante conduit à écarter le dialogue en privilégiant la force brute. L’utilisation de l’IA pour frapper déresponsabilise et supprime le temps de la décision réfléchie :  le recours à la force doit relever d’une décision humaine.

La conclusion est donc un appel à rechercher l’équité, à rester fidèle à la vérité, à dialoguer, à réguler et à investir dans l’éducation.

Certes, l’appel aux solutions contenu dans le texte est fragile et l’on sait que les chrétiens ne se mobilisent plus pour mettre en œuvre des encycliques qui ne les engagent pas. Mais l’analyse est là, à disposition de tous : quel responsable politique aurait eu le courage de la porter?