Accueil Nouvelles technologies Accident mortel d’Uber: le logiciel ne pouvait pas reconnaître un piéton hors...

Accident mortel d’Uber: le logiciel ne pouvait pas reconnaître un piéton hors des clous

808
32
PARTAGER
uber volvo xc90

Souvenez-vous, en mars 2018, une voiture Uber en mode autonome avait tué une piétonne. Le régulateur américain des transports NTSB indique que la femme en question avait bien été détectée, mais que le logiciel n’était pas programmé pour la classer en tant que piéton.

L’organisme a publié un nouveau rapport avant une prochaine audition pour déterminer les causes probables et les responsabilités de cet accident qui a coûté la vie à la piétonne et mis un coup d’arrêt temporaire aux essais Uber.

Dans un premier temps, on se demandait si la technologie avait bien détecté la personne qui traversait la route dans le noir au petit matin, avec son vélo à côté d’elle. Dans un rapport préliminaire, la NTSB indique que la voiture a bien « vu » la femme de 49 ans, 6 secondes avant le choc. Largement suffisant pour actionner un freinage d’urgence.

Oui, mais voilà, désormais, l’organisme affirme que la technologie d’Uber « ne prenait pas en compte l’éventualité de piétons traversant hors des clous », ajoutant : « le système ne l’a jamais classée comme piétonne » mais comme un « objet ». Un piéton hors des passages protégés ? Cela existe ?

La voiture ne considérait pas qu’un piéton pouvait traverser hors des passages protégés

Il a fallu attendre le tout dernier moment pour que le logiciel décide d’effectuer ou non un freinage. Et ce fut « non » car un tel freinage ou une manœuvre d’évitement aurait mis en difficulté le véhicule (un SUV NDLA). La seule chose qu’a faite le véhicule est de lancer une alerte sonore. Mais, il était largement trop tard pour que la conductrice réagisse (qui plus est, elle était absorbée par son téléphone NDLA).

Depuis, Uber a mis à jour son logiciel pour prendre en compte ces cas. Les tests ont repris plusieurs mois après, dans d’autres villes. « Dans le sillage de cette tragédie, l’équipe a développé des améliorations essentielles pour accorder encore plus de priorité à la sécurité », a indiqué une porte-parole d’Uber dans un message transmis à l’AFP.

Entre septembre 2016, date des premiers tests, et mars 2018, date de l’accident mortel, les voitures autonomes Uber ont été impliquées dans 37 accidents dont « seulement » deux de la faute du véhicule.

Le délicat équilibre entre prudence et témérité

C’est évidemment peu. Mais, contrairement à un conducteur humain à qui on accorde (trop facilement ?) le bénéfice de l’erreur, on attend des véhicules autonomes une perfection totalement illusoire. En effet, soit les véhicules autonomes sont réglés pour s’arrêter à la moindre alerte et ils seront comme des chatons apeurés, hésitants et maladroits, soit on introduit une dose de « témérité » pour que le véhicule ne s’arrête pas au moindre papier volant ou au moindre piéton au bord du trottoir, et on prend le risque d’accidents.

Outre la tragédie évidente du décès de cette piétonne, on touche ici un point essentiel des véhicules autonomes. A savoir, un logiciel doit-il choisir entre un piéton et ses occupants ? En faisant une manœuvre, le véhicule pourrait sauver la vie du piéton, mais tuer, ou blesser, son ou ses occupants. En ne faisant rien, les occupants ont la vie sauve mais pas le piéton.

Des considérations philosophiques que ne se poseront les logiciels que si on les programme pour cela. Ici, ce n’était visiblement pas le cas. L’audition pour déterminer exactement les causes de cet accident se tiendra le 19 novembre prochain.

Qui est responsable dans un tel cas ?

Outre les considérations techniques et philosophiques, il reste à déterminer les responsabilités dans un tel accident. Un constructeur de véhicule autonome (ici Uber) est-il à incriminer dans l’accident, ou bien est-ce le conducteur « de secours » qui aurait dû être plus alerte au lieu de regarder « The Voice » sur son téléphone ?

Les procureurs de l’Arizona ont décidé en mars 2019 que Uber n’était pas criminellement responsable de ce drame. En revanche la conductrice de « backup » peut toujours être poursuivie.

Pourtant, à la vue de ce nouveau rapport de la NTSB, il semble étrange que l’on exonère de toute charge un constructeur automobile estimant qu’un piéton ne peut pas traverser en dehors des clous et codant son logiciel ainsi. Ce n’est pas un bug, c’est un choix délibéré.

Avec AFP, illustration : Uber

Poster un Commentaire

32 Commentaires sur "Accident mortel d’Uber: le logiciel ne pouvait pas reconnaître un piéton hors des clous"

Notification de
avatar
Trier par:   plus récent | plus ancien | plus de votes
georges
Invité

Non, c’est pas au point, point.
Il n’y a pas de programme adapté pour remplacer un humain et aussi des limites techniques a dépasser.
L’IA c’est pour l’heure de dressage artificiel très limité et manifestement trop limité chez Urber.
La voiture autonome ne sera jamais sur les routes dans les délais comme cela a été proclamé, un jour certainement mais pas de suite.
Donc les responsables de chez Uber devraient être juger pour meurtre, car ils sont responsables de faire circuler des systèmes pas assez évolués pour rouler sur routes ouvertes.
Tant pis pour la pub et les dollars.

Fred21
Invité
Est ce bien de l’IA ? Ça semble plus être un automatisme complexe (le nombre de situations différentes est pharamineux) associé à une base de données (routes, situations) qui s’enrichit jour après jour. L’intelligence artificielle serait de pouvoir raisonner à partir de presque rien. Tout le monde a affronté des multiples situations sur la route à partir de ses simples 20 ou 30 leçons de conduite y compris avoir évité un piéton en dehors des clous. L’intelligence artificielle, tu lui donne les règles des échecs, elle perd ses premières parties, invente des combines avec ses expériences, mémorise son expérience et… Lire la suite >>
georges
Invité

Non l’IA tel celle en question sur les voitures autonomes ce n’est qu’un bête apprentissage d’après des exemples donnés par des humains.
L’IA comme celle de l’homme n’existe pas où alors dans des labos avec des exemples précis.
Sauf que parler d’IA qui n’en est pas, cela fait vendre et rêver.

Bizaro
Invité
Sauf qu’un bébé, va faire des bulles, toucher ses pieds, goutter sa main, gigoter. Sans qu’on lui demande. Il va apprécier, détester, être curieux, sans qu’on lui dise quoi penser. Et pour conséquence il va générer des situations, générer de l’instabilité sans que l’on lui dise. Et donc il va continuer d’apprendre de ces nouvelles situations très simples, de manière autonome. Évidemment le savoir se partage, et couper un bébé du reste de ces congénères ou le priver de senseurs, l’handicapera dans son apprentissage. Car il n’aura pas appris à « cotoyer » d’autres humains, ce qui le modèlera totalement différemment. Il… Lire la suite >>
gigi4lm
Invité

@georges : « L’IA comme celle de l’homme n’existe pas … »
Tant mieux, parce que l’intelligence de l’homme (l’humain) au volant et bien la dernière chose à essayer de reproduire.

Yarduag
Invité

Par définition l’intelligence ne peut être artificielle.
Il serait peut-être plus judicieux de parler de mémoire artificielle.

Bizaro
Invité
IA est pour l’instant un terme marketing. Quand on promeut une technologie, quand on cherche des fonds etc… il faut vendre son produit, donc il faut aussi une part de marketing et de surenchère. Aussi intelligent qu’une balance mécanique sur laquelle on met un poids et se retrouve en déséquilibre. Très intelligemment elle détecte le déséquilibre et nous le fait savoir en déplaçant son aiguille. Plus le déséquilibre de poids entre les plateaux est fort et plus le déplacement de l’aiguille est important. Tout cela de manière « très intelligente »… ou simplement mécanique. Comme les « systèmes intelligents », qui existent depuis des… Lire la suite >>
Joledemago
Invité

On en parle du back-up regardant The Voice ?

Alphasyrius
Invité

Pas sur qu’un humain l’aurai evite… Mon avis, c’est que la faute est celle du pieton, traverser sans eclairage, de nuit, entre les voitures… Je vais etre mechant mais c’est du Darwinisme.
Les systemes de conduite autonome ne seront pas pire que les singes que nous sommes au volant.

Bizaro
Invité
Quel meurtre? Un meurtre c’est quand on a l’intention de donner la mort. Ici UBER n’avait pas l’intention de tuer, ni de faire du mal. Même si leur système est perfectible, ils ont rajoutez une sécurité. La même sécurité qu’il y a dans tous les véhicules roulant actuellement : un humain au volant. La cause de l’accident est simple. Le défunt a choisit de traverser une route en dehors des passages piétons. C’est un tord. Il a choisit de traverser la nuit alors qu’un véhicule arrivait. C’est un péril. On peut légitimement reprocher à la personne derrière le volant de… Lire la suite >>
Phil
Invité

totalement.
Le logiciel a failli, c’est un fait, il y a AMHO une erreur de règles bas niveau qui au vu de l’enquète apparait maintenant.
Mais du point de vue des responsabilités clairement il y a une mise en danger quasi volontaire de la victime et une défaillance de l’humain en backup.
Le soft est là précisément pour être testé et amélioré, uber n’a rien promis et c’est pour ça qu’il a mis un backup derrière le volant.
Je trouve la décision de justice logique.

SGL
Invité

Véhicule autonome… On verra ça après 2030 et quand la 6G sera démocratisée. 😉

Invité

Je serais vous, je me méfierais. Grandement.

Guillaume D.
Invité
Les explications paraissent quand même bien légères… donc le système a déterminé que c’était un objet, il fonce dedans quand même : si c’est du carton, tant mieux, si c’est du béton… tant pis ! Il faudra aussi prévenir les sangliers de bien traverser dans les clous ! D’ailleurs, je ne connais pas les subtilités du code de la route américain, mais en France, un piéton peut traverser hors des passages piétons dès lors qu’il n’y en a pas à moins de 50 mètres… en toute légalité. Et sinon, le système de conduite autonome est sacrément balèze pour savoir détecter… Lire la suite >>
Lovehornby
Invité

Je comprend mieux les ados qui me disaient que « The Voice c’est mortel ! »…

Oldschool45
Invité

On retrouve aussi ici la question posée par le MIT en 2016 avec le dilemme du tramway : en cas d’accident mortel inévitable entre une voiture autonome et plusieurs piétons, quelle victime va choisir la voiture ?
https://www.numerama.com/vroom/434552-une-voiture-autonome-devrait-elle-tuer-un-jeune-ou-un-papi-le-mit-devoile-les-resultats-de-son-etude-ethique.html

Sylvain
Invité

J’imagine que derrière c’est que des calculs de probabilité (x% de tuer mon équipage si je fais rien, y% de chances de tuer le piéton si je fais rien).
Et donc le programme changera de trajectoire ou pas en fonction des probabilités.
Et comme x sera toujours différent de y, il y aura jamais de « dilemme ».

Invité
En fait, ces questions ont déjà été tranchées. Dans les systèmes d’assistance à la conduite et systèmes semi autonomes, les voitures d’aujourd’hui ont déjà des règles de priorisation. Prenons une voiture avec un système d’aide à l’évitement, qui va braquer le volant avec vous en amplifier l’angle de braquage, mais est aussi capable de donner une résistance dans le volant pour ne pas sortir de votre voie. La voiture détecte un risque de collision frontale, inévitable, avec un piéton devant vous. Mais également une voiture arrivant en face, dans la voie opposée, celle que vous choisissez pour éviter le piéton.… Lire la suite >>
wpDiscuz