Les états d’âme des véhicules autonomes

Tout part d’un travail de Jean-François Bonnefon, Azim Shariff, Iyad Rahwan de l’Ecole d’Economie de Toulouse (TSE) – voir ici. Les trois spécialistes en intelligence artificielle et psychologie cognitive posent la question de l’éthique des véhicules autonomes. Ces véhicules doivent permettre de diminuer les accidents de la circulation mais certains cas ne pourront pas être évités et susciteront immanquablement des débats au sein de nos sociétés.

Entre autre exemple, les trois Toulousains prennent le cas d’un véhicule autonome qui se trouve sur une route face à un groupe de piéton, à une distance trop courte pour les éviter et avec un mur sur le côté. Le véhicule autonome doit-il alors tuer (ou risquer de tuer) les piétons et sauver son propriétaire/occupant ou doit-il braquer et tuer potentiellement son occupant en frappant le mur mais en sauvant le groupe de piéton ?

Tuer un enfant ? Un adulte ? Son occupant ?

Plus généralement dans une situation où la mort d’un être humain est inévitable, lequel choisir ? Evidemment plusieurs cas se présentent en fonction du nombre de piétons, de leur nature (enfant, adultes, etc.) et dans les réponses, les chercheurs notent que beaucoup de personnes interrogés pensent que l’on doit éviter les piétons, à condition que l’on ne soit pas soi même dans le véhicule.

On peut imaginer soi même d’autres cas comme par exemple une extension du cas cité ci-dessus mais avec 2 piétons dont inévitablement un va être percuté par le véhicule. Lequel doit-on « choisir » ?

C’est évidemment un thème récurent des romans ou des films d’anticipation qui envisagent des robots dans notre quotidien. Isaac Asimov a théorisé trois lois de la robotique (quatre en fait) il y a longtemps et les véhicules autonomes devront sans doute intégrer ce genre de lois sous peine de migraine électronique. Une charte internationale de la robotique est à l’état d’embryon, va-t-on devoir faire de même avec les véhicules autonomes pour éviter les procès inévitables sur ce genre de cas ?

Source : arXiv:1510.03346 via technologyreview, illustration : PSA