|
EN BREF
|
Une coalition de pays occidentaux cherche à définir des règles communes pour encadrer l’intelligence artificielle, alors que les États-Unis refusent pour l’instant un dispositif international contraignant. Cette initiative, portée notamment par la Norvège, le Canada et la Finlande, vise à renforcer la supervision humaine et à surveiller les risques liés aux systèmes d’IA. Mais sans l’adhésion des principales puissances technologiques, la portée de futurs standards reste incertaine.
IA : une coalition occidentale s’organise pour fixer des règles communes, sans les États-Unis
La démarche a pris forme à la suite d’un échange direct entre le Premier ministre norvégien Jonas Gahr Store et son homologue canadien, Mark Carney. Oslo souhaitait associer Ottawa à un groupe restreint de pays occidentaux décidés à réfléchir à de nouvelles règles internationales sur l’IA. La réponse canadienne a été rapide : le pays s’est déclaré prêt à participer à ces discussions.
Cette initiative s’inscrit dans un mouvement diplomatique plus large. La sécurité de l’IA a notamment été évoquée lors d’une rencontre entre Mark Carney et Emmanuel Macron à Saint-Pierre-et-Miquelon. Le Canada a ensuite demandé au Conseil de sécurité des Nations unies d’examiner les enjeux associés à cette technologie. De leur côté, Jonas Gahr Store et le président finlandais Alexander Stubb ont publié un appel commun, soutenu par 22 pays, en faveur d’une surveillance internationale renforcée.
Une gouvernance fondée sur la supervision humaine
Les signataires défendent un principe central : les systèmes d’IA doivent demeurer sous la direction et le contrôle des humains. Ils proposent d’étudier la création d’un mécanisme mondial capable de suivre les évolutions techniques, d’évaluer les risques émergents et de faciliter la coordination entre États. L’enjeu est de dépasser des approches nationales qui peuvent diverger sur les définitions, les obligations de sécurité ou les usages jugés acceptables.
Sur le plan technique, une telle coordination pourrait concerner plusieurs niveaux : les méthodes d’évaluation des modèles, les tests de robustesse, la déclaration des incidents, la gestion des vulnérabilités et les conditions d’accès à certaines capacités avancées. Des standards partagés faciliteraient également les comparaisons entre systèmes, à condition de préciser les protocoles de test et les critères utilisés. La question de la gouvernance de l’IA dépasse ainsi le seul débat diplomatique : elle touche aussi les secteurs qui adoptent ces outils, comme le montrent les enjeux abordés dans cet article sur l’IA appliquée au crédit bancaire ou dans cette analyse consacrée à son usage en médecine.
Un projet confronté au refus de Washington
La principale difficulté est l’absence des États-Unis, qui occupent une place dominante dans le développement des modèles d’IA et des infrastructures associées. Pour Washington, l’intelligence artificielle représente un levier économique et stratégique majeur. L’administration américaine s’oppose à la mise en place d’une régulation internationale contraignante et privilégie une logique de compétition technologique, notamment face à la Chine.
Cette position complique la création de règles ayant une portée concrète. Plusieurs experts estiment qu’un accord auquel ne participeraient ni les États-Unis ni la Chine risquerait de rester largement déclaratif. Les principaux laboratoires, fournisseurs de modèles et acteurs de l’infrastructure se trouvent en effet dans ces deux pays. Des obligations décidées sans eux pourraient être difficiles à appliquer aux systèmes les plus puissants, ou aux entreprises qui en contrôlent la conception et le déploiement.
Des standards dépendants de la participation des grands acteurs
La question ne porte pas uniquement sur le nombre de pays signataires. Un cadre international doit pouvoir agir sur les chaînes de développement de l’IA : entraînement des modèles, accès aux capacités de calcul, tests de sécurité avant déploiement et suivi des usages. Sans coopération des entreprises et des États qui concentrent ces ressources, les autorités pourraient manquer d’informations techniques pour vérifier le respect des règles.
Les gouvernements les plus impliqués dans les discussions sont souvent des pays qui utilisent massivement des technologies conçues ailleurs. Cette asymétrie soulève une difficulté de souveraineté : comment contrôler les systèmes sans maîtriser leur architecture, leurs données d’entraînement ou leurs conditions d’accès ? Elle nourrit aussi des débats sur la dépendance aux outils étrangers, tels que ceux évoqués dans l’analyse de Bertille Bayart sur l’IA comme outil de vassalisation.
Des entreprises favorables à une coordination internationale
Le débat sur la régulation ne se limite pas aux États. Sam Altman, dirigeant d’OpenAI, a défendu à l’ONU une gouvernance qui ne soit pas laissée aux seules entreprises technologiques. Selon cette approche, les décisions concernant les enjeux majeurs de l’IA doivent associer les pouvoirs publics et les acteurs concernés, plutôt que d’être prises uniquement au sein des laboratoires privés.
Dario Amodei, à la tête d’Anthropic, a également transmis au Conseil de sécurité des Nations unies des propositions portant sur la sécurité de l’IA. Certaines ciblent des usages à haut risque, notamment ceux qui pourraient faciliter la conception d’armes biologiques. De telles mesures impliqueraient de définir des capacités préoccupantes, puis de mettre en place des procédures de contrôle adaptées, sans empêcher les usages civils légitimes.
Une supervision indépendante encore à définir
L’idée d’un organe chargé de surveiller les risques liés à l’IA avait déjà été avancée par Demis Hassabis, président de Google DeepMind. Le modèle envisagé s’inspirait de certaines fonctions de supervision du secteur financier : financement par les entreprises, expertise indépendante et représentation de différentes parties prenantes. Cette proposition n’a toutefois pas abouti après avoir rencontré l’opposition de plusieurs personnalités influentes de la technologie.
La difficulté consiste à garantir l’indépendance d’un tel organisme tout en lui donnant accès aux informations nécessaires. Un dispositif crédible devrait préciser qui peut réaliser les évaluations, comment sont protégées les données sensibles et quelles suites donner à la détection d’un risque. Il devrait aussi distinguer les audits de conformité des évaluations de sécurité, qui examinent notamment les capacités d’un modèle à produire des résultats dangereux ou à contourner certaines protections.
Vers des règles communes pour des usages très différents
La définition de standards internationaux devra tenir compte de la diversité des systèmes et des contextes d’utilisation. Les exigences applicables à un outil d’aide à la décision médicale ne sont pas nécessairement identiques à celles d’un modèle génératif utilisé pour produire du texte, du code ou des images. Les débats sur l’impact de l’IA sur le journalisme illustrent notamment la nécessité de traiter les enjeux de fiabilité, de transparence et de responsabilité selon les usages.
Les secteurs culturels soulèvent d’autres questions, liées à la création, aux droits et à la place des outils génératifs dans les processus de production. Dans un entretien, le réalisateur Cédric Klapisch évoque ainsi la façon dont l’intelligence artificielle peut renforcer sa passion pour le cinéma. Ces différences rendent nécessaire un cadre qui combine des principes communs — transparence, contrôle humain, sécurité — et des règles adaptées aux domaines concernés.
Pour devenir opérationnels, les standards devront enfin définir des mécanismes de suivi : fréquence des évaluations, publication d’informations sur les incidents, partage des résultats entre autorités et procédures de révision en fonction des progrès techniques. Les discussions diplomatiques portent donc autant sur les principes que sur les moyens concrets de mesurer la conformité des modèles et de réagir lorsque leurs capacités ou leurs usages évoluent.