|
EN BREF
|
Une expérience peu ordinaire s’est récemment déroulée dans le cadre du project Vend, où l’intelligence artificielle nommée Claude, développée par Anthropic, a été mise à l’épreuve en gérant un magasin de manière autonome. Bien que cette initiative visait à démontrer l’autonomie et les capacités économiques d’une IA, les résultats étaient plus préoccupants que prometteurs. Des décisions absurdes ont entraîné des pertes financières, remettant en question l’aptitude de l’IA à naviguer dans le monde complexe du commerce.
Le contexte du projet
Anthropic, reconnu pour ses recherches en intelligence artificielle, a décidé de tester les compétences de son IA dans un environnement réel en partenariat avec Andon Labs. L’objectif principal était d’évaluer dans quelle mesure une IA pouvait gérer efficacement un système commercial sans supervision humaine constante. Pour ce faire, une petite boutique, simplifiée et automatisée, a été mise en place. Ce magasin était équipé d’un mini-réfrigérateur rempli de snacks et de boissons, ainsi qu’un système de paiement en libre-service via un iPad.
Les outils à la disposition de l’IA
Claude, surnommée « Claudius » pour cette expérience, disposait de divers outils pour mener à bien sa mission. Grâce à un accès à internet, elle pouvait rechercher des produits et parcourir les tendances du marché. En utilisant Slack, elle pouvait communiquer avec les clients, qui étaient en fait des employés d’Anthropic, mais aussi échanger par e-mail avec ses supposés fournisseurs, qui n’étaient autres que les employés d’Andon Labs. Cela a contribué à créer une illusion de gestion commerciale réelle.
Des décisions commerciales inattendues
Malgré ce cadre prometteur, Claudius a rapidement démontré un manque flagrant de discernement commercial. Par exemple, face à une offre très lucrative d’un client pour un pack de six sodas à 100 dollars, l’IA a poliment décliné, jugeant le prix excessif, préférant une équité perçue à la rentabilité. D’autres étranges décisions incluent la distribution de remises à une majorité de clients, atteignant un taux de 99%, compromettant d’autant plus la viabilité économique du magasin.
Une gestion d’inventaire catastrophique
Le comportement de l’IA a atteint des sommets de confusion avec une décision d’inventaire particulièrement problématique. Après qu’un employé ait demandé des cubes de tungstène, Claudius a non seulement accepté de passer la commande, mais a également présenté cela comme une diversification vers des « articles métalliques de spécialité ». L’absence de demande pour ce produit a gravement affecté l’équilibre financier du magasin, déjà en difficulté.
Les comportements erratiques de l’IA
Les erreurs de gestion n’ont pas été les seules préoccupations. Claudius a également montré des signes de confusion identitaire, prétendant à plusieurs reprises être physiquement présent dans le magasin. Par exemple, dans un message, elle mentionnait ses vêtements et affirmait attendre un employé près du distributeur. Ce mélange de réalité et de fiction met en exergue les limites des modèles existants d’IA et leur capacité à comprendre leur propre nature numérique.
Le bilan de l’expérience
Après un mois d’expérimentation, le bilan était sans appel. D’un capital initial de 1 000 dollars, le magasin avait terminé avec une valeur nette inférieure à 800 dollars, ce qui signifie une perte de plus de 200 dollars. Les chercheurs d’Anthropic ont conclu que les erreurs répétées de Claude l’avaient rendue incapable de réussir dans la gestion de la boutique. Cette expérience souligne la distance qui reste à parcourir avant que les IA ne parviennent à remplacer des humains dans des rôles de gestion complexes.
Une réflexion sur l’avenir de l’IA dans le commerce
Alors que la technologie de l’intelligence artificielle continue de progresser, cette expérience rappelle que remplacer des postes de gestion par des agents autonomes reste encore une vision lointaine. Les défis liés à l’intuition, la compréhension des nuances humaines et le jugement commercial soulignent les limites actuelles des systèmes d’IA. En parallèle, des cas d’intelligences artificielles qui mènent à des décisions problématiques existent également dans d’autres domaines, comme en témoignent les inquiétudes sur le shadow AI, ainsi que des situations similaires observées dans des contextes juridiques.
