A San Francisco, la flotte des robotaxis Cruise blanc et rouge fait parler d'elle. Plusieurs incidents sont reportés aux autorités ou plus simplement sur les réseaux sociaux. Le dernier en date est un accident avec un véhicule d'intervention des pompiers. Le véhicule autonome est passé au feu vert, mais le camion avait la priorité avec ses sirènes et ses gyrophares. Les deux véhicules sont entrés en collision, sans trop de gravité ni pour le passager du taxi, ni pour les pompiers.
Si de tels accidents se produisent avec des humains au volant, en revanche, on ne tolère aucune faute de la part de machines qui sont censées être parfaites et ne pas avoir nos travers d'humains. Ici, le véhicule a visiblement ignoré les sirènes qui imposent à tout conducteur de céder la priorité et faciliter le passage des véhicules d'intervention. Une première analyse montre que ce cas est plus compliqué qu'il n'y paraît.
Cruise agrees to cut robotaxi fleet in half following San Francisco crashes
General Motors' Cruise autonomous vehicle unit has agreed to cut its fleet of San Francisco robotaxis in half as authorities investigate two recent crashes in the city. @KPIXtv https://t.co/3oro8HgBkg pic.twitter.com/uhQyo9ngCd
— Betty Yu (@bett_yu) August 20, 2023
Ce sont typiquement ces cas "non banals" qui posent des soucis dans le développement des véhicules autonomes. Un autre cas c'est passé il y a quelques jours avec une voies qui était barrée par des plots de chantiers. Un robotaxi est arrivé et a "bugué" à l'intersection. Arrêté en plein milieu du carrefour, il semblait ne pas savoir quoi faire. Pire, deux autres véhicules Cruise sont arrivés et se sont mis eux aussi à bégayer. Il a fallu l'intervention d'un opérateur pour reprendre le contrôle et dégager l'endroit. Ubuesque.
Un autre cas filmé par un conducteur est celui d'un robotaxi qui roule sur une rue à trois voies. Il change de file pour se retrouver sur la voie du milieu (tout en coupant la route NDLA) puis freine au milieu du carrefour en tournant à gauche alors que la voie du milieu ne lui permet pas. Le conducteur qui le suivait réussit à l'éviter. Mais là encore, cela fait mauvais genre pour des machines et ce, quand bien même des humains font la même erreur quotidiennement.
Cruise a connu des journées compliquées récemment. Le 12 août, les véhicules se sont mystérieusement mis en feux de détresse et immobilisés sur la chaussée. Révolte des machines ? Grève surprise ? Que nenni ! En fait, le réseau mobile était visiblement saturé par un festival dans le coin. Les véhicules ne pouvaient plus communiquer et se sont donc mis en sécurité. Les opérateurs ne pouvaient plus, à distance, reprendre le contrôle des véhicules.
😬 @Cruise self-driving operations had a complete meltdown earlier in North Beach. We overheard on the scanner that all Cruise vehicle agents were tied up at the time (not literally) and so North Beach was going to get a delayed response. But wow, WTF!pic.twitter.com/D89xrSxAdu
— FriscoLive415 (@friscolive415) August 12, 2023
GM Cruise a réponse à tout, mais…
Depuis 3 ans à San Francisco, Cruise (qui appartient à General Motors) est confronté régulièrement à des soucis. A chaque fois une analyse approfondie est menée pour améliorer le logiciel des robotos. A chaque fois ou presque, Cruise a une bonne raison et communique sur les incidents. Concernant la panne de réseau, c'est donc un festival qui a pris la bande passante et rendu les véhicules inopérants.
D'autres fois, ce sont des configurations temporaires des rues, des travaux, qui gênent l'évolution des voitures comme avec ce carrefour et ses plots de chantiers. D'autres constructeurs ont déjà connu des bugs avec des travaux. Quant à l'accident avec le camion de pompiers, la situation était, il est vrai, particulière. Le véhicule a bien entendu les sirènes, mais ne pouvait pas voir le véhicule avant qu'il ne soit dans l'intersection (ce sont des immeubles à ce niveau et des rues perpendiculaires). L'autre souci, c'est que le camion roulait à contre-sens pour pouvoir passer le feu rouge plus facilement.
Le robotaxi s'est donc retrouvé dans une situation compliquée. Et vous ? Vous pensez que vous auriez fait mieux ? Chaque année, des milliers d'accidents se produisent sur des erreurs humaines. Chaque année, des milliers de gens sont désorientés par des travaux, freinent en plein milieu d'un carrefour, sortent à la dernière minute, etc. Mais, comme il s'agit de robots, on s'attend forcément à la perfection et on ne conçoit pas le moindre bug.
Spotted: Three robo cars stalled in the same intersection in San Francisco. This time, it’s @Cruise cars jamming the intersection of Valencia/21 St. in the Mission.
Parking enforcement guy banging on windows trying to communicate w/ Cruise. Traffic backed up for blocks. pic.twitter.com/ShcYYv8XEl
— Dustin Gardiner (@dustingardiner) August 20, 2023
Il faut dire que l'acceptation de ces véhicules autonomes est à ce prix. Pourtant, tous les jours nous empruntons des véhicules autonomes, ascenseur, métro, etc. Les plus poussés sont sans doute les avions qui volent 99% du temps en totale autonomie. Mais, il y a moins de plots de chantier en plein ciel, c'est vrai.
Tout récemment, un maire a fait peindre des lignes dans tous les sens dans son village pour faire ralentir les conducteurs. Imaginez un véhicule autonome qui arrive ici.
😮 Ce nouvel aménagement routier a créé la surprise, voire l’incompréhensionhttps://t.co/Gdd6STbXnt
— Courrier de l'Ouest (@courrierouest) July 21, 2023
12 commentaires
Un point sur le bide de la Roborace ?
L’IA qui contrôle ces voitures n’a pas l’air super évoluée.
Est-ce qu’on aurait fait mieux ? Me concernant, oui. Dès que j’entend une sirène quand je suis au volant, je regarde partout pour voir d’où ça vient. Si c’est sur la même voie que moi, j’utilise clignotants et warning pour communiquer et faire comprendre que j’ai vu le véhicule d’urgence, je regarde où je peux me garer si besoin.
Faut pas oublier que les sirènes des camions de pompier américains sont très puissantes, difficile de ne pas les entendre et donc de se mettre en alerte.
Y’a pas de micro sur leurs robots ?
Bonjour, Peut-être que les informaticiens sont très jeunes et ont peu d’expérience de conduite ??
Par ailleurs les Règles sont différentes suivant les pays donc il faut adapter.
Pas la peine d’aller bien loin. En Allemagne ( RFA à l’époque des Années 60) dans les Carrefours, les véhicules tournant à Gauche, se croisent par l’AVANT alors qu’en France ondoit le faire en passant Derrière !!
Dans le cas des travaux et du camion de pompier, c’est clairement un problème de communication. Pour ce genre de cas, il faut que les véhicules d’urgence puissent communiquer avec les véhicules autonomes autour d’eux, et que les villes communiquent leurs travaux aux gestionnaires de flottes de véhicules autonomes. Après, c’est sûr que si le réseau de communication sature à cause de toutes ces communications, ça risque d’être plus compliqué. Il faudrait peut-être qu’ils utilisent un autre réseau de communication que celui de nos téléphones? Ou alors qu’ils fonctionnent en réseau maillé pour que chaque véhicule soit à la fois émetteur et récepteur en plus du réseau 4G/5G? Après tout, n’importe quelle entreprise sérieuse a un lien internet de secours en cas de soucis sur le principal, pourquoi ça n’en serait pas de même pour un véhicule autonome.
Ça va être drôle quand ce type de véhicules arriveront dans les zones blanches en tout cas.
seb
Utiliser un autre réseau de communication, ça reviendrait à construire un autre réseau. Ce serait hors de prix.
En pratique, il serait préférable de moduler les usages « non indispensables » pour conserver un pourcentage du réseau toujours disponible pour les usages urgents ou prioritaires. Par exemple, réduire momentanément la qualité des vidéos des sites, ou celle des appels visio.
On ne laisse rien passer aux machines c’est vrai.
Mais c’est que les promoteurs de ces technologies le font aussi avec des arguments d’amélioration de la sécurité. Au prétexte que la machine est plus fiable que l’homme. Pour le moment visiblement le but n’est pas atteint tout simplement. Il faut patienter car ces erreurs permettent d’améliorer le système.
Quand il y aura de vraies intelligences artificielles, il y aura un apprentissage de l’erreur.
Un logiciel se doit de balayer toutes les situations, même les plus improbables puisqu’il n’apprend pas.
Pas certains de comprendre comme il faut 🙂
Les IA existent et vous entourent tous les jours. En revanche, l’humain est une « intelligence » supérieure en termes d’apprentissage pour le moment.
Les logiciels apprennent. Enfin ceux qui ont une IA. Mais, s’ils sont prévu pour…Dans les voitures autonomes, les ingés ne mettent pas de logiciel « apprenant » en conduite.
Ils les font potasser en coulisse avant de les charger dans les véhicules. Une fois dans le véhicule, il n’apprennent pas mais envoient les millions de données à une « base » centrale pour que l’itération suivante soit mieux adaptée.
Même les IA « génératrices » ne génèrent pas « au pif ». Elles ont une immense base de connaissance à partir de laquelle elles génèrent un truc. Mais, sauf dans les labos les plus en pointe, les IA génératrices ne « créent » pas au sens de créer sans faire évoluer un précédent.
Un humain est capable de créer à partir de « rien » même s’il se base sur son apprentissage. Sinon on n’aurait pas eu en peinture les courants sortis de « rien » qui n’étaient pas des évolutions d’autres courants.
Mais bon ici le « souci » de l’IA c’est qu’une rue ou une route c’est plein de paramètres aléatoires. C’est à voir si un humain aurait fait différemment d’ailleurs. Sans doute pas même.
Et c’est là le pbm…on attend des machines d’être largemen meilleures que les humains. Pas aussi bonnes ou un peu mieux. Non…largement meilleures voire parfaites.
Prenons un cas où toute conduite manuelle est interdite. Le nombre de tués passent de 3500 à 1750… 50% en moins. C’est bien ou non ?
Ces 1750 tués l’auraient-ils été en cas de conduite manuelle ?
Et si les 1750 tués étaient par exemple notre « zéro mort ». C’est-à-dire que ces tués sont réellement des « accidents » au sens premier du terme, impossibles à prévoir, à éviter (un animal qui déboule, une panne technique soudaine, un arbre qui tombe, etc etc.
Est-ce que l’on acceptera cela ?
Bref le chemin pour les IA conductrice est encore long, mais celui pour que les humains l’acceptent est aussi très long.
ça doit être sympa à regarder dans des petites rues avec des piétons qui se comportent comme des abeilles les vélos qui débordent les trottinettes qui roulent dans n’importe quel sens et les 2/3 roues en interfile permanent tout ceci saupoudré avec des livreurs en double/triple file et bien entendu des travaux parce que il y en a toujours et on fini par un collège juste à coté, elle va être rigolote la voiture « autonome »