|
EN BREF
|
La désinformation prorusse représente une menace croissante pour la fiabilité des réponses fournies par les chatbots basés sur l’intelligence artificielle. Des études récentes ont montré que ces outils, bien qu’utiles, peuvent parfois relayer des informations fictives, notamment celles émanant de réseaux de propagande comme Pravda. En raison de leur fonctionnement probabiliste, ces systèmes sont influencés par la popularité des informations, ce qui leur permet de reproduire des récits erronés comme s’ils étaient des faits avérés.
Propagation des récits faux par les chatbots
Les préoccupations concernant la diffusion de fausses informations par des chatbots ont été mises en lumière lors de tests menés par des observatoires de la désinformation tels que NewsGuard. À travers divers tests, il a été constaté qu’un nombre significatif de ces outils reproduisait des récits faux sans discernement. Par exemple, une enquête a révélé qu’en mars 2025, dans 33 % des cas, les chatbots commerciaux, y compris les plus populaires, reproduisaient des récits promulgués par des acteurs prorusses.
Réseaux de propagande : un défi pour la véracité des informations
Le réseau de sites Pravda, avec un large éventail de publications massives dans différentes langues, est un acteur clé de la désinformation. En 2025, il comptait environ 370 sites et 6 millions d’articles, ce qui lui permet de se positionner en tant que source de désinformation souvent citée par les chatbots. En raison de la nature probabiliste des algorithmes d’intelligence artificielle, les récits favorables à la position du Kremlin sont plus susceptibles d’être relayés, indépendamment de leur véracité.
Variabilité des résultats en fonction des langues
Des études ont montré que les résultats des chatbots pouvaient varier considérablement en fonction de la langue utilisée. Par exemple, dans des langues largement parlées, telles que l’anglais et le français, les chatbots étaient plus enclins à fournir des réponses précises en matière de désinformation. En revanche, pour des langues moins répandues, comme le slovène, le risque de relayer des informations falsifiées était beaucoup plus élevé. Cela soulève la question de la qualité et de l’intégrité des données d’entraînement des chatbots.
Des outils d’IA sous influence
Il est également impératif d’évaluer si les outils d’IA générative, comme Google AI Overview et d’autres plateformes, sont intentionnellement ciblés par des campagnes de désinformation. Certaines observations suggèrent que les contenus de faible qualité, publiés à grande échelle, semblent avoir pour but d’influencer ces systèmes plutôt que de fournir des informations humaines fiables. Cela pose une série de défis pour les développeurs qui cherchent à maintenir la fiabilité de ces outils dans un paysage médiatique complexe.
Mettre en place des garde-fous contre la désinformation
Face à cette situation, les experts suggèrent l’implémentation de garde-fous sur les plateformes d’IA. Cela pourrait inclure l’établissement de listes noires des sites de propagande connus pour protéger les utilisateurs des informations trompeuses. De plus, une approche de liste blanche pourrait être adoptée, où seuls des sites dignes de confiance seraient cités par les chatbots sur des sujets sensibles, tels que la santé ou les élections.