La Digital Tech : retour sur un procès insolite

La Digital Tech : retour sur le procès insolite

Le 6 décembre dernier, Open Agora a participé à la Digital Tech Conférence de Rennes. À travers des conférences, des talks et des ateliers, l’événement a tourné autour de 3 thèmes : santé et bien-être, numérique et créativité et l’intelligence artificielle. Les start-ups bretonnes étaient invitées à montrer leurs innovations et présenter leurs produits.

Ainsi, Open Agora a eu la chance d’exposer, mais également de déployer sa solution de vote à l’occasion d’un procès insolite.

Le procès de la rame de métro numéro 42

Nous sommes en 2031, et désormais les objets dotés d’une IA sont reconnu comme personne morale.

A Chanlon, commune de Utopie Métropole, les barrières du passage à niveau n’ont pas fonctionné comme voulu. La nouvelle rame de métro totalement automatisé a malheureusement percuté deux habitants de la ville. Blessé et choqué, ils ont décidé de porter plainte contre la métropole.

C’est dans ce contexte que ce procès a eu lieu. Les membres de la cour, joué par des comédiens de la compagnie Échapée Belle, ont introduit les faits. Puis Maître Gims, avocate de la défense, a appelé 3 experts qui ont débattu et donné leurs points de vue sur l’affaire  :

  • Alexandre Termier, expert en intelligence artificielle, a expliqué que la rame ne fait qu’essayer de trouver une solution optimale en fonction des objectifs que lui ont assigné ses concepteurs. Ici, elle a préféré percuter le véhicule afin de minimiser le bilan humain global estimé.
  • Jean-Marie Bonnin, expert du fonctionnement des systèmes coopératifs et systèmes embarqués, a mis en évidence que la rame dépend des ordres du centre de contrôle. Si cet ordre ne lui parvient pas, elle devra prendre une décision localement.
  • Valérie Viet Triem Tong, experte en sécurité, a indiqué que la décision rendue par l’IA dépend de l’ordre, du nombre et du contenu de ces messages. De même, la prise de décision finale de la rame dépend des messages envoyés par le centre de contrôle.
Digital Tech : procès de la rame de métro n°42

Les explications des scientifiques, ont écarté un certain nombre de pistes. Le jury va ainsi pouvoir prendre une décision éclairées.

Une IA peut-elle être coupable ?

Après les plaidoiries de l’avocate et du procureur, la juge a demandé au jury, le public du procès, de prendre une décision.

Pour cela, Christophe Morvan, fondateur d’Open Agora et greffier pour l’occasion, a expliqué au jury le fonctionnement du système de vote. Le jury devait évaluer le niveau de culpabilité de chacun des mis en cause : Utopie métropole, la rame, son constructeur, ou encore une tiers personne.

Digital Tech : procès de la rame de métro n°42

Ainsi, après délibération, 239 personnes avaient exprimé leurs opinions. Le jury a désigné Utopie Métropole comme responsable du dommage. Plus de 56% des votants ont donné les notes maximum à la commune. Le juge a donc prononcé le verdit.

Grâce à la répartition des points, on peut également remarquer que le constructeur de la rame est également désigné comme responsable à 51%. De plus et contrairement à ce qu’on aurait pu croire au début du procès, M. et Mme Cobe, les victimes de l’accident, n’ont pas été disculpé par l’ensemble du jury. Plus d’un quart d’entre eux ont trouvé que leurs responsabilités dans l’accident étaient importantes.

Finalement, le jury a totalement disculpé la rame de métro. Et il a considéré qu’une intelligence artificielle ne pouvait pas être responsable de ces actes.

Digital Tech 2019 : résultat du procés de la rame de métro

Aujourd’hui, une intelligence artificielle ne peut pas être coupable. Mais avec leur développement, de nombreuses questions éthiques deviennent de plus en plus centrales. Un régime de responsabilité propre aux robots existera-t-il un jour ?


Nous sommes très heureux d’avoir pu participer à la Digital Tech 2019 et espérons pouvoir revenir à la prochaine édition. Merci au Poool et aux équipes d’INRIA Rennes pour nous avoir permis de participer à cette belle expérience.


Pour continuer sur notre blog

Prime au Crédit Agricole

Comment organiser un événement interactif avec Open Agora ?

Partager / Share this...