Une intelligence artificielle programmée pour faire du mal

Pied de nez au progressisme technologique : le chercheur Selmer Bringsjord s’efforce de créer un programme d'intelligence artificielle destiné à faire du mal pour mieux comprendre les mauvaises intentions, et la logique derrière elles, ou, à défaut, leur illogisme complet. 

E est le visage du Mal. Sa première version, créée en 2005, se contentait de répondre à quelques questions lors d’un tchat. Selmer Bringsjord et son équipe du Laboratoire d’intelligence artificielle de l’Institut polytechnique Rensselaer l’ont depuis perfectionné et donné une apparence physique, celle d’un jeune homme brun au visage inquiétant. Ils envisagent désormais d’améliorer son vocabulaire. E entre actuellement dans sa quatrième génération de bad boy virtuel.

Ce personnage permet au chercheur de réfléchir au problème du Mal et de s’interroger plus avant sur les motivations d’un être dont la nature serait intrinsèquement immorale.

Non seulement cet individu voudrait nuire aux autres en toute conscience, expliquait Bringsjord, mais « plus important, si cette personne devait analyser les raisons qui l’ont poussée à commettre cette mauvaise action, ces raisons se révéleraient incohérentes, ou alors prouveraient qu’il a agi en toute connaissance de cause ». E regarderait le mal qu’il a causé comme une bonne chose.

L’expérience effectuée avec E a consisté à le programmer pour lui faire croire qu’il était le grand frère d’un enfant auquel il avait donné un revolver pour se suicider. Après l’avoir interrogé sur les motivations de son acte, E aurait répondu qu’il possédait un revolver, que l’enfant en voulait un et que par conséquent il le lui avait donné. De fait, E se situe au carrefour de deux domaines auxquels s’est particulièrement intéressé Bringsjord : celui de la création de personnages synthétiques crédibles et celui de l’élaboration de robots éthiques. Et au centre de ces deux problématiques, une question : la logique pure peut-elle résoudre à elle seule des dilemmes aussi complexes ?

Alors que beaucoup de chercheurs en IA se dirigent vers des systèmes complexes de représentation inspirés par le cerveau, tels les réseaux neuronaux, Bringsjord reste fidèle au projet des premiers chercheurs en intelligence artificielle. Comme il l’explique dans un de ses textes : « toute forme de cognition peut être formalisée et mécanisée sous forme de logique. » Quoique, précise-t-il, cela implique une forme de logique dite de premier ordre bien plus complexe que celle à laquelle nous sommes habitués. Selmer Bringsjord affirme que le système d’intelligence artificielle de E, bien nommé RASCALS, possède les capacités de décrire l’ensemble d’une personnalité, exclusivement grâce à de telles constructions logiques.

C’est également la logique qui devrait permettre d’éviter aux robots de nous détruire et même de permettre à une créature comme E d’être émancipée sans aucun danger dans les mondes virtuels, car, comme le dit son créateur dans le magazine Scientific American, il a une foi complète dans les systèmes qui l’animent. Ainsi, bien que malfaisant, une créature comme E ne pourrait passer à l’acte et accomplir les actes qu’elle désire !

Rémi Sussan

* Cet article vient de la revue Panorama des Idées, avec qui Nuit & Jour collabore dans le domaine des idées, de la recherche et des sciences humaines.  En vente en librairies et par abonnement, Panorama des Idées paraît tous les deux mois.