|
EN BREF
|
À Paris, le pape Léon XIV a alerté sur les risques d’une intelligence artificielle qui façonnerait les comportements et concentrerait le pouvoir entre les mains de quelques acteurs. Devant Emmanuel Macron puis à l’Unesco, il a défendu une approche où les systèmes numériques restent soumis au discernement humain, à des règles éthiques et à la protection des libertés, en particulier celles des enfants et des jeunes.
Deux heures environ après son arrivée en France, le pontife a appelé à replacer la personne humaine au cœur des décisions technologiques. Sa formule sur le risque de perdre notre humanité dans un « paradis de machines » vise une société où l’efficacité, l’automatisation et la recherche de gains pourraient prendre le pas sur les droits et l’autonomie des individus.
Le propos n’est pas une opposition à toute innovation. Il invite plutôt à examiner la manière dont les technologies sont conçues, déployées et contrôlées. Pour Léon XIV, la diffusion des algorithmes dans les activités quotidiennes rend nécessaire une formation au discernement éthique : comprendre ce qu’un système peut faire, repérer ses limites et savoir quand une décision doit rester humaine.
Des systèmes puissants, mais un pouvoir concentré
Données, infrastructures et capacité de calcul
Les systèmes d’intelligence artificielle reposent sur plusieurs ressources stratégiques : des données, des infrastructures numériques et une puissance de calcul importante. Leur concentration dans les mains d’un petit nombre d’entreprises peut leur donner une influence considérable sur les marchés, l’accès à l’information et les services utilisés par le public.
Le pape a également souligné l’ampleur des investissements annoncés dans le secteur. La question technique se double ainsi d’un enjeu politique : qui contrôle les systèmes et qui bénéficie des gains de productivité qu’ils peuvent générer ? Sans mécanismes de transparence et de responsabilité, les décisions prises par des acteurs privés risquent d’échapper au débat démocratique.
Cette interrogation concerne aussi les usages concrets de l’IA, des outils de communication des associations aux applications intégrées dans des dispositifs autonomes. Des exemples comme l’usage de l’intelligence artificielle pour créer des affiches et gérer la communication digitale des associations ou les expériences associant drones et intelligence artificielle illustrent la diversité des contextes où se posent des questions de contrôle, de sécurité et de responsabilité.
Le discernement humain au cœur de la gouvernance
Encadrer les usages sans imposer l’uniformité
Léon XIV défend une société qui protège la diversité des consciences et prévient les dérives autoritaires. Appliqué aux technologies, ce principe implique de ne pas laisser les systèmes automatisés déterminer seuls ce qui est visible, prioritaire ou acceptable. Les choix de conception — données d’entraînement, objectifs d’optimisation et règles de modération — influencent les résultats et doivent pouvoir être examinés.
Le Vatican a approuvé la création d’une commission chargée de préparer ses positions sur l’IA. Le pape a aussi plaidé pour une réflexion internationale, tandis que son conseiller Paolo Benanti a évoqué la possibilité d’un tribunal international de l’intelligence artificielle. Une telle instance constituerait, selon cette proposition, un contrepoids aux usages abusifs et aux décisions dont les conséquences dépassent les frontières nationales.
Cette approche prolonge une tradition de réflexion sociale associée au nom de Léon XIII, qui avait étudié les bouleversements économiques de la révolution industrielle. Léon XIV présente l’IA comme une transformation susceptible de modifier le travail et les rapports de pouvoir, plutôt que comme une simple évolution technique. Le débat rejoint les échanges sur l’intelligence artificielle et la nature humaine, où la place de la décision humaine demeure centrale.
Protéger les enfants et préserver leur capacité de penser
Des usages éducatifs à encadrer
À l’Unesco, le pape a appelé à protéger les enfants et les jeunes face aux nouvelles technologies. Leur utilisation doit soutenir l’apprentissage et le développement sans réduire leur liberté de penser, de vérifier les informations ou de construire leur propre jugement. La protection des mineurs suppose donc des outils adaptés à leur âge, des règles claires et un accompagnement par les adultes.
L’IA peut apporter un soutien à l’apprentissage, mais elle ne remplace ni l’enseignant ni l’effort de compréhension. Les familles et les établissements doivent notamment aider les élèves à évaluer les réponses générées, à repérer les erreurs et à distinguer une assistance utile d’une délégation complète du travail. Les débats autour de l’utilisation de l’intelligence artificielle dans les devoirs montrent l’importance de cet équilibre entre accompagnement et autonomie.
La protection de la jeunesse ne concerne pas uniquement l’école. Les plateformes et les services numériques doivent aussi limiter les risques d’exploitation des données, de surveillance et d’exposition à des contenus inadaptés. Pour le pape, la vulnérabilité des jeunes ne doit jamais devenir un prétexte à des pratiques abusives.
Une technologie au service des sociétés
À l’Unesco, le directeur général Khaled el-Enany a défendu une intelligence artificielle éthique, accessible, équitable et durable. Cette orientation repose sur une idée simple : l’IA doit renforcer les capacités humaines et contribuer à l’émancipation, plutôt que définir seule les priorités collectives.
Les enjeux dépassent l’éducation et les services numériques. L’automatisation transforme aussi des secteurs industriels, notamment l’automobile, où les logiciels et les systèmes d’aide à la décision prennent une place croissante. Les discussions sur l’intelligence artificielle et la compétition autour des voitures électriques donnent un aperçu de ces changements économiques et technologiques.
Au-delà des performances des modèles, l’enjeu est donc de définir des garde-fous : rendre les systèmes compréhensibles, attribuer clairement les responsabilités, protéger les données et permettre un contrôle indépendant. Pour Léon XIV, maintenir ces garanties est essentiel afin que l’innovation ne transforme pas les personnes en simples sources de données ou en éléments d’un processus automatisé.