|
EN BREF
|
Une récente étude réalisée par une équipe de chercheurs anglophones met en lumière une importante problématique concernant l’utilisation des chatbots en santé. Selon leurs conclusions, près de 50 % des réponses fournies par ces systèmes d’intelligence artificielle seraient fausses, soulevant ainsi des inquiétudes sur leur fiabilité dans le domaine médical. Ce phénomène alerte de plus en plus les professionnels de la santé qui craignent que des informations erronées ne prennent le pas sur des conseils médicaux valables.
Des résultats alarmants sur la véracité des chatbots
Les chercheurs britanniques, canadiens et américains ont soumis plusieurs plateformes de chatbots, dont ChatGPT, Gemini, Meta AI, Grok et DeepSeek, à un ensemble de tests en leur posant dix questions portant sur des sujets de santé. Les résultats ont révélé que plus d’un conseil médical sur deux était jugé problématique par les spécialistes. Parmi ces réponses erronées, 20 % étaient considérées comme très problématiques. Cela soulève des questions cruciales quant à la capacité de ces outils à fournir des informations précises et fiables.
Une distinction entre les types de questions
Il est important de noter que les chercheurs ont observé des variations dans la qualité des réponses selon le type de question posée. Les questions fermées semblent avoir été mieux traitées par les chatbots, avec des réponses moins problématiques. Par conséquent, lorsque les utilisateurs posent des questions sur des thématiques telles que le cancer ou les vaccins, les résultats se révèlent être plus fiables comparativement à d’autres domaines comme la nutrition ou les cellules souches, où les taux d’erreur sont nettement plus élevés.
L’impact de la désinformation en santé
Cette étude met en exergue un besoin pressant de vigilance de la part des utilisateurs de l’intelligence artificielle en matière de santé. Les chercheurs insistent sur le fait que ces outils, s’ils ne sont pas correctement contrôlés, peuvent contribuer à amplifier la désinformation médicale. En effet, avec plus de 200 millions de personnes posant chaque semaine des questions sur la santé à une IA, une confiance excessive envers ces technologies pourrait avoir des conséquences désastreuses.
La confiance des utilisateurs envers les chatbots
Alerte inquiétante : de nombreux utilisateurs semblent accorder une confiance supérieure aux plateformes d’intelligence artificielle qu’à des professionnels de santé qualifiés. Cela soulève la question de la responsabilité éthique des développeurs de ces technologies face à la propagation potentielle d’informations erronées. Les experts craignent que ce phénomène n’entraîne la difficulté pour les patients d’obtenir des conseils médicaux fiables et corrects.
Vers une meilleure régulation de l’intelligence artificielle
Face à ces résultats préoccupants, il est impératif de réfléchir à une régulation plus stricte des outils d’intelligence artificielle utilisés dans le secteur de la santé. Les chercheurs appellent à une prise de conscience collective sur l’importance de fournir des informations vérifiables et nos besoins croissants d’encadrer ces technologies émergentes. En parallèle, il est crucial d’améliorer la formation des utilisateurs afin qu’ils puissent discernir les conseils valables des informations potentiellement dangereuses.
