Dans son livre « Robot Souls », Eve Poole explore le concept d’intégration de « junk code » – des traits de caractère tels que les émotions et le libre arbitre – dans les systèmes d’IA. Elle propose cette solution pour résoudre les dilemmes éthiques de l’IA, arguant que ces traits humains sont cruciaux pour la survie de la société et devraient être intégrés dans le développement de l’IA pour une automatisation éthique et conforme aux valeurs.
Les humains ont rassemblé le meilleur de l’intelligence humaine pour informer l’IA, dans l’espoir de créer des machines parfaites. Mais les défauts que nous avons laissés de côté pourraient-ils être les pièces manquantes nécessaires pour s’assurer que les robots ne deviennent pas des voyous ?
La société moderne repose intrinsèquement sur les systèmes automatisés et l’intelligence artificielle. Elles font partie intégrante de nos habitudes quotidiennes et ne montrent aucun signe de ralentissement. En fait, l’utilisation de la robotique et de l’assistance automatisée ne cesse d’augmenter.
Cette utilisation omniprésente de l’IA place les technologues et les développeurs devant deux dilemmes éthiques : comment construire des robots dont le comportement est conforme à nos valeurs et comment les empêcher d’agir de manière malhonnête ?
Un auteur suggère qu’une option qui n’est pas suffisamment explorée est de coder plus d’humanité dans les robots, en les dotant de traits tels que l’empathie et la compassion.
Sommaire
L’humanité est-elle la solution ?
Dans un nouveau livre intitulé Robot Souls, publié en août, l’écrivain et universitaire Eve Poole OBE explore l’idée que la solution à l’énigme de la société, à savoir comment s’assurer que l’IA est éthique, réside dans la nature humaine.
Elle affirme que, dans sa quête de perfection, l’homme a supprimé le « code poubelle », notamment les émotions, le libre arbitre et le sens de l’objectif.
Elle a déclaré : « C’est ce « bric-à-brac » qui est au cœur de l’humanité : C’est ce « bric-à-brac » qui est au cœur de l’humanité. Notre code de bric-à-brac est constitué des émotions humaines, de notre propension à commettre des erreurs, de notre inclination à raconter des histoires, de notre sixième sens étrange, de notre capacité à faire face à l’incertitude, d’un sens inébranlable de notre propre libre arbitre et de notre capacité à voir un sens dans le monde qui nous entoure.
« Ce code indésirable est en fait vital pour l’épanouissement de l’homme, car derrière toutes ces propriétés bizarres et fantaisistes se cache une tentative coordonnée d’assurer la sécurité de notre espèce. Ensemble, ils agissent comme une gamme d’améliorateurs avec un thème commun : ils nous maintiennent en communauté pour que la sécurité soit assurée par le nombre. »
Âmes de robots
Alors que l’IA prend de plus en plus de décisions dans notre vie quotidienne et que l’on s’inquiète de plus en plus des préjugés et de la discrimination dans l’IA, M. Poole estime que la réponse pourrait se trouver dans ce que nous avons essayé de retirer des machines autonomes au départ.
Elle a déclaré : « Si nous pouvons déchiffrer ce code, la partie qui fait que nous voulons tous survivre et prospérer ensemble en tant qu’espèce, nous pouvons le partager avec les machines. En leur donnant, à toutes fins utiles, une ‘âme' ».
Dans son nouveau livre, M. Poole propose une série d’étapes à suivre pour que cela devienne une réalité, notamment l’adoption d’un processus de réglementation rigoureux et l’interdiction immédiate des armes autonomes, ainsi que la mise en place d’un régime d’autorisation assorti de règles réservant la décision finale sur la vie et la mort d’un être humain à un autre être humain.
Elle estime que nous devrions également nous mettre d’accord sur les critères de la personnalité juridique et sur une feuille de route pour y parvenir.
Le projet humain
« Parce que les humains sont imparfaits, nous avons négligé de nombreuses caractéristiques lorsque nous avons construit l’IA », explique M. Poole. « On a supposé que les robots dotés de caractéristiques telles que les émotions et l’intuition, qui commettent des erreurs et cherchent un sens et un but, ne fonctionneraient pas aussi bien.
« Mais si l’on s’interroge sur la raison d’être de toutes ces propriétés irrationnelles, il semble qu’elles émergent du code source de l’âme. Car c’est en fait ce code « poubelle » qui nous rend humains et favorise le type d’altruisme réciproque qui maintient l’humanité en vie et la fait prospérer. »
Robot Souls examine les développements de l’IA et passe en revue l’émergence des idées de conscience et d’âme.
Il replace notre « code poubelle » dans ce contexte et affirme qu’il est temps de mettre en avant ce code et de l’utiliser pour réexaminer la manière dont nous programmons l’IA.