|
EN BREF
|
Une intelligence artificielle révolutionnaire inspirée du cerveau humain par des chercheurs chinois
Des chercheurs de l’Académie chinoise des sciences ont développé un modèle d’intelligence artificielle appelé SpikingBrain, qui s’inspire du fonctionnement du cerveau humain. Ce modèle novateur dépasse les performances des modèles de langage traditionnels tout en consommant moins de données et d’énergie. SpikingBrain représente une avancée significative dans le domaine des réseaux de neurones, proposant une solution efficace face aux limitations des systèmes actuels.
Dépassement des limites des modèles traditionnels
Les modèles de langage récents, tels que ChatGPT ou Gemini, reposent sur des architectures qui exigent une puissance de calcul considérable, entraînant une consommation d’énergie élevée. La situation en Chine est particulièrement complexe en raison de la difficulté d’accéder aux puces graphiques Nvidia, souvent nécessaires pour ces applications. C’est dans ce contexte que les chercheurs ont mis au point SpikingBrain, un modèle capable de rivaliser avec ses prédécesseurs tout en étant nettement plus économe.
Fonctionnement inspiré des neurones biologiques
À l’instar des neurones biologiques, qui échangent des informations via des impulsions électriques, SpikingBrain utilise une architecture connue sous le nom de réseaux de neurones à impulsions (SNN). Cette méthodologie permet à SpikingBrain de fonctionner de manière plus ciblée, activant ses neurones uniquement lorsque cela est nécessaire, contrairement aux modèles traditionnels qui mobilisent l’ensemble de leurs paramètres. Ce mécanisme optimise non seulement l’efficacité mais également la consommation énergétique du modèle.
Performance impressionnante avec moins de données
Les chercheurs ont conçu deux variantes de SpikingBrain, dotées respectivement de 7 milliards et 76 milliards de paramètres. Dans des tests avec des prompts de 4 millions de tokens, le modèle le plus petit a surpassé les performances d’un LLM classique par plus de 100 fois en termes de rapidité. De plus, même lorsque examiné avec un contexte d’un million de tokens, il s’est montré 26,5 fois plus rapide pour générer le premier token. Ce résultat démontre l’efficacité de la méthode employée.
Une réponse à la pénurie de données
Avec la quantité d’informations disponible sur Internet qui ne suffit plus pour entraîner les IA, SpikingBrain propose une alternative prometteuse. Son apprentissage a nécessité moins de 2 % des données traditionnelles utilisées par les modèles de langage classiques, tout en affichant des performances comparables. Ce fait souligne le potentiel de cette nouvelle approche pour allevier la pression sur les ressources de formation des intelligences artificielles.
Accessibilité et avenir de SpikingBrain
SpikingBrain est désormais disponible en licence libre sur GitHub, permettant ainsi à d’autres chercheurs et développeurs de tirer parti de cette innovation. Cette initiative s’inscrit dans un mouvement plus large explorant les structures de type neurones pour améliorer les IA. La combinaison avec des systèmes d’informatique neuromorphique pourrait également faire progresser les capacités de SpikingBrain, tout en continuant à réduire sa consommation d’énergie.