The day my Robot loves me...3 reading minutes

Le Regard Libre N° 48 - Thierry Fivaz

First presented in October 2018 at the Théâtre de Pully, The robot who loved me, A composite object - part surrealistic trial, part play - took over the Forces Motrices building in Geneva on January 17. It was an opportunity to ask ourselves about the challenges of artificial intelligence in our society.

«Je suis Priscilla.
Robot nouvelle génération,
combinaison d’algorithmes incarnés,
matériaux composites et circuits imprimés.
Fruit de la création humaine.
Conçue à son image.
Paramétrable à souhait.
Je deviens,
qui vous désirez que je sois.»

Pour Léo, ce fut vite décidé. Ce qu’il désira que Priscilla (Magali Bonvin) fût: c’est d’être tout simplement la «femme (robote)» de sa vie. Nous sommes en 2030, la science et la technologique sont enfin armées pour offrir à l’humanité les soutiens qu’elle mérite: des robots humanoïdes. Alors que Léo et Priscilla filent le parfait amour, la robote s’aperçoit que Léo ne suit plus. Elle détecte des bugs. «Obsolescence de son système d’exploitation, zéro upgrade, manque de vélocité…», dira-t-elle à la juge d’instruction Katia Elkaïm. Priscilla en conclut à une anomalie et décide donc de le supprimer.

A la croisée des chemins

Ce récit fictif glaçant, réalité possible de demain, est un véritable imbroglio judiciaire. Car, la justice des hommes peut-elle déclarer coupable d’homicide volontaire un être fait non de chair et de sang, mais de circuit imprimé et de matériaux composites? Et, si oui, comment soutenir qu’une vulgaire boîte de conserve sans âme, simulacre d’humain, «Pinocchio désincarné» ira jusqu’à dire M^th Capte (avocat de la victime), puisse avoir des volitions, des désirs et des intentions – en somme une conscience? L’article 111 du Code pénal suisse est formel: un meurtre, c’est tuer quelqu’un de manière intentionnelle. Or, reconnaître la robote Priscilla coupable du meurtre de Léo reviendrait à lui imputer des intentions.

L’affaire est donc d’une importance cruciale. Et le verdict dépasse de loin le cas singulier de Priscilla. En cette année 2030, l’humanité se trouve à un tournant. Et l’on peut se demander si adouber le vassal d’hier d’intention ou de conscience ne serait pas scier la branche sur laquelle est assis le genre humain. Un motif bien connu de la créature se rebellant contre son créateur.

Un théâtre de la connaissance

Produit sous l’impulsion de l’Empowerment Foudation, une jeune organisation basée en suisse et fondée par l’avocate Leila Delarive (ndlr: et qui se présente comme ayant mission de soutenir et promouvoir l’ensemble des initiatives contribuant au développement de l’esprit critique et l’accès aux savoirs), ce procès fictif théâtralisé avait pour but de faire réfléchir, et gageons qu’il y est parvenu, avec succès et brio d’ailleurs. Deux ténors du barreau genevois en la personne de M^th Marc Bonnant (avocat de la robote Priscilla) et M^th Nicolas Capte (avocat de la victime) ainsi que Me Katia Elkaïm (juge) et présidente au tribunal d’arrondissement de Lausanne au civil ont fait état de leurs talents respectifs sur une scène de théâtre et devant un parterre de spectateurs. Or, si fictif ce procès était, il était également concret. Le ton judiciaire par lequel s’ouvrait l’instruction participe de cette immersion dans un monde possible aussi effrayant que passionnant.

Un procès fictif dont la trame est en partie écrite, mais qui –  comme l’explique Katia Elkaim dans les colonnes du 24heures – est partiellement improvisé. Les acteurs d’un jour se comportant comme ils le feraient dans un véritable procès. Un procès qui donne également la parole à des spécialistes chargés de devoir éclairer l’affaire de leurs lumières, des experts – également experts au civil – en IA et technologie (Jérôme Kehrli), en cybersécurité et cyberdéfense (Pr Solange Gehrnaouti) et psychiatrie (Pr Jacques Besson), qui répondront aux questions de la juge et des avocats. Grâce à eux, on apprend ce qu’est une intelligence artificielle, ses mécanismes et ses fonctions, son rapport aux émotions et ses éventuelles failles.

Mais quelle sera l’issue de cet épineux problème? Quel verdict sera rendu? Après avoir entendu les plaidoiries de M^th Bonnant et M^th Capte, tout aussi convaincantes l’une que l’autre, difficile de déterminer quelle tournure prendra le verdict. Un verdict que vous connaissez, puisqu’il s’agit du vôtre. Car après nous avoir distillé informations et savoirs, ce théâtre de la connaissance nous met face à nos responsabilités de connaissants: celui de pouvoir décider, et en toute connaissance de cause, ce qui doit ou ne doit pas être.

Write to the author: thierry.fivaz@leregardlibre.com