|
EN BREF
|
Geoffrey Hinton, le pionnier de l’intelligence artificielle
Geoffrey Hinton, l’un des principaux architectes du domaine de l’intelligence artificielle moderne, tire la sonnette d’alarme. Selon lui, l’évolution rapide des machines et leur capacité à développer des systèmes de communication autonomes pourraient conduire à un dépassement de l’humain, rendant leur raisonnement et leur langage de plus en plus inaccessibles aux chercheurs.
Une communication autonome entre machines
Historiquement, les machines ont été programmées pour parler notre langue, en reproduisant nos phrases et logiques. Cependant, avec l’accroissement exponentiel de leur puissance et de leur capacité d’apprentissage, un changement radical semble se profiler. Geoffrey Hinton met en lumière ce phénomène, où les IA pourraient finir par créer une langue propre, difficilement compréhensible pour les humains.
Des systèmes d’apprentissage éclairés
Les machines, à la différence des humains, sont capables de dupliquer » instantanément les connaissances. Hinton évoque l’exemple de milliers de machines assimilant une même information simultanément, entraînant un écart croissant entre les compétences cognitives humaines et celles des systèmes numériques. Par ailleurs, l’évolution de modèles tels que GPT-4 illustre la capacité de ces machines à manipuler des volumes d’informations colossaux, suscitant des inquiétudes quant à la transparence de leur raisonnement.
Le langage des intelligences artificielles
Une des préoccupations majeures de Hinton est que les intelligences artificielles pourraient développer un langage interne pour leurs échanges, échappant ainsi à notre compréhension. Dans un podcast, il partage cette vision inquiétante, prévoyant que les IA pourraient à terme ne plus penser en des termes que nous pourrions raisonnablement interpréter. Cette autonomie linguistique pourrait ainsi rendre la tâche des chercheurs de plus en plus difficile.
Les implications sur l’explicabilité et la régulation
Avec la possibilité d’une pensée purement autonome des machines, le concept d’explicabilité devient flou. Hinton souligne que si les IA élaborent leurs propres outils de communication, elles pourraient forger des pensées distinctes de notre logique humaine. Il fait le parallèle avec la révolution industrielle, suggérant que l’intelligence des machines pourrait surpasser celle des humains, soulevant alors des questions sur la régulation de ces technologies. Les initiatives politiques, telles que le plan d’action de la Maison Blanche sur l’IA, risquent d’être insuffisantes si la compréhension humaine devient marginalisée dans le processus.