C’est l’agence Reuters qui remonte l’affaire. Entre 2019 et 2022, des salariés de Tesla accédaient aux vidéos des caméras des voitures vendues et se partageaient les vidéos « les plus drôles » sur une messagerie privée interne. Selon l’agence, qui a pu interroger 9 anciens employés, certaines de ces vidéos étaient très intrusives dans la vie privée des gens comme une vidéo montrant un piéton entièrement nu approchant une Tesla munie de sa panoplie de caméras de « sécurité » autour d’elle.
Même voiture éteinte, fut un temps
Ce genre de vidéo n’aurait jamais dû être accessible à tous les employés, et combien même, ils n’auraient jamais dû les partager. Evidemment, il y avait dans le lot des accidents, des « road rage » (les Tesla provoquent visiblement une certaine colère chez certains aux USA et ailleurs). Officiellement, les vidéos remontées à Tesla sont anonymisées. Cependant, elles comportent les coordonnées géographiques ce qui peut permettre de remonter jusqu’à un propriétaire du coin.
Il y aurait même eu un moment où les employés Tesla pouvaient avoir des vidéos même voiture éteinte et fermée à clé. Des vidéos de garage, ou autres, hautement préoccupantes d’un point de vue vie privée. Cette possibilité aurait cessé. « Nous pouvions voir à l’intérieur des garages des gens, ou de leurs propriétés privées » assure un ancien employé. Tesla de son côté n’a pas répondu à Reuters.
Pour améliorer l’algorithme de conduite autonomisée
Mais, au fait à quoi servent ces vidéos exactement ? En fait, elles servent à l’IA, l’intelligence artificielle. Tout comme les « captchas » énervants servent à entrainer gratuitement l’IA de Google (si si !), ces vidéos permettent à Tesla (ou à d’autres constructeurs) de marquer les panneaux, les piétons, les cyclistes, etc. pour que l’ordinateur apprenne à reconnaître tout cela en condition réelle et s’améliore avec l’expérience.
Or, les centaines d’employés ou de sous-traitants, payés pour marquer les obstacles sur les vidéos doivent avoir accès à ces vidéos en question. Et c’est donc là que s’organise au moins une fuite. Cela a beau être automatisé au fil des ans, il restait encore récemment des « étiqueteurs » (data labeller en anglais) payés par la société. Les propriétaires ont bien donné leur consentement pour l’utilisation de leurs vidéos à des fins d’amélioration du service. Mais, bien souvent, personne ne lit les « petites lignes », et surtout, on ne pense pas que ces données vont servir de « blagues potaches » entre employés, voire au-delà. Les données sont, en théorie, anonymisées, ce qui rassure et permet de recueillir le consentement.
Sous le coup du RGPD en Europe
Le partage de ces vidéos est, à minima, moralement répréhensible, mais pourrait aussi constituer une violation du contrat de confidentialité. En Europe, cela pourrait même être attaqué sous le principe du RGPD, règlement général sur la protection des données, ultra-restrictif. L’utilisation de vidéo d’un véhicule qui n’est pas en circulation par exemple n’a pas de justification. De plus, l’envoi via une messagerie privée de certains extraits n’a là non plus pas de justification au nom de l’amélioration des systèmes de sécurité de conduite. Cela pourrait donc être attaqué.
Les caméras des Tesla, mais aussi de tout autre véhicule, ou les « dash cams », permettent aussi aux propriétaires des voitures d’espionner les gens. Sous couvert de sécurité de la voiture, on pouvait se connecter au « sentry mode » (mode sentinelle) et regarder autour du véhicule sans que les passants, ou ceux devant qui la voiture était garée, ne le sachent. Désormais, les lumières s’allument et clignotent quand le sentry mode se déclenche ou est déclenché.
Tesla n’est qu’un exemple. C’est aussi parce que ce sont les voitures qui intègrent le plus de caméras pointées vers l’extérieur, et non vers le sol comme souvent dans les voitures qui ont des caméras tout autour d’elles. Après, rien n’empêche non plus les gens d’installer des « dash cam » (ces caméras qui permettent de filmer les accrochages, ou autres, installées sur le parebrise et/ou la lunette arrière) et de se connecter à distance pour regarder. Si la voiture « pointe » vers une maison ou autre, bingo. Tesla se dédouane de l’utilisation frauduleuse du mode sentinelle par un petit message laconique.
Remarque : il est de votre seule responsabilité de consulter et de respecter toutes les réglementations et restrictions locales en vigueur sur la propriété concernant l’utilisation de caméras.
Trop de caméras ?
Les Tesla sont tellement bardées de caméras autour d’elles que la société a décidé de retirer les capteurs ultrason de ses véhicules. La conduite autonomisée de Tesla se base jusqu’à présent sur huit (8) caméras, mais aussi un radar frontal et des capteurs à ultrason. Ces capteurs permettent aussi de se garer avec précision. Selon Tesla, c’est désormais superflu puisqu’il suffit d’utiliser les caméras.
Selon Tesla, c’est « du bon sens » puisqu’après tout les humains ne se servent que de la vision pour conduire. Certes, mais avoir des sens supplémentaires ne serait pas trop mal des fois. Cela doit permettre surtout à Tesla de faire des économies sur la fabrication de ses voitures. Il y a donc trois caméras qui regardent l’avant (en haut du parebrise), deux caméras de chaque côté (une dans l’aile qui regarde vers l’arrière et une dans le montant central) et une dans la malle arrière qui filme tout l’arrière. Sur l’illustration, elles sont numérotées 1, 3, 4 et 5.
Notre avis, par leblogauto.com
Ici, le souci est tout de même que ces vidéos, au début à destination de l’amélioration du système de conduite autonomisée, se sont retrouvées sur des boucles de messagerie interne, mais aussi, sans doute, sortie hors des murs de Tesla ou de leurs sous-traitants. C’est un grave souci de vie privée.
Si cela peut attirer l’attention des propriétaires sur les consentements qu’ils signent, ce sera bénéfique. A quand les autocollants posés (ou des caches intégrés) sur les voitures comme on a sur les ordinateurs portables ?
Ca m’amuse vraiment et ca ne m’étonne pas. A force de signer des consentements pour tout et pour rien, nous n’avons plus de vie privée. La merde, on s’y est mis tout seul dedans. Qu’elle époque formidable !!!! Et dire que le pire est à venir…..
Ben on préfère aller brûler l’interflora au centre de Paris plutôt que la data center de Facebook pendant les manifestations en criant la mort du capitalisme avec nos IPhone et nos Tweets.
Sauf que dans le cas present, le consentement ne valait que pour une utilisation anonymisee des donnees a des fins specifiques….Visionner les images et les envoyer en interne sous forme de memes est une violation claire de ce consentement.
Le captchas et Google? Je veux bien savoir comment ça entraîne l’IA
Google a utilisé les reCaptcha pour que des humains sélectionnent des images de motos, de passages piéton, de cheminée, etc.
Tout cela permet de qualifier des images et ensuite de les faire ingurgiter par l’IA. Le principe de l’IA « apprenante » est de prendre 10 000 échantillons par exemple, des images. Et d’apprendre « ceci est un chat », « ceci est une automobile », etc.
Plus il y a d’échantillons et plus l’IA « sait » reconnaître les objets, les formes.
Le reCaptcha permet de faire gratuitement ce que des humains en Inde ou ailleurs sont payés pour faire….qualifier les images.
C’est connu depuis des années : https://www.techradar.com/news/captcha-if-you-can-how-youve-been-training-ai-for-years-without-realising-it
Ici 2018, mais même avant.
Cela ne « nous coûte rien » et c’est pour cela qu’on l’accepte.
De façon amusante, la NASA avait lancé un appel à volontaire il y a un paquet d’années. On recevait une image d’une section de la Lune et il fallait entourer les cratères avec la bonne taille. Cela a moins bien fonctionné car il n’y avait pas de « carotte » au bout 🙂 avec reCaptacha, les gestionnaires de site ont une protection contre les bots spammeurs et les utilisateurs ont fini par s’y faire….snif.
Merci pour les deux réponses.
Je me coucherais moins bête ce soir
Question peut être bête mais la voiture est elle obligée d’envoyer les données? Elle peut apprendre et utiliser ses caméra de façon autonome non?
Avec des mise à jour qd y a besoin seulement et à sens unique ?
La voiture n’a aucun besoin d’envoyer les images. Mais, cela fait partie des infos qu’on lit à peine et qui sont présentées de la bonne manière, genre « voulez-vous participer à l’amélioration blablabla » (termes mélioratifs, on vous valorise, et on vous promet une amélioration du logiciel).
Cela donne à Tesla (ou d’autres) une mine de données qu’ils peuvent faire analyser par l’IA, mais aussi des humains. Plus l’IA est entrainée et moins elle a besoin d’humains (Tesla a fermé récemment un centre de petites mains payées à entourer les humains, les vélos, etc.
Tesla n’est pas le seul. Quand vous installez un logiciel, on vous demande si vous acceptez d’envoyer des données pour participer à l’amélioration du biniou…en fait on regarde vos comportements, voir s’il n’y a pas des modifs à apporter. En théorie c’est louable…en pratique…moins.
Apple, Android/Google, Microsoft, etc. tous le fond. Nous sommes une mine d’or d’informations et de cas pratiques.
Alors outre cela … c’est plutôt l’utilisation de la Méga Presse qui m’interroge. Le châssis est pressé en trois pièces… ce qui réduit les coûts et permet à Toyota de qualifier les Tesla actuelles d’œuvre d’art ..: sauf que si vous tapez l’auto, elle est difficilement réparable. Les voitures électriques sont plus sujettes aux accidents donc comment cela va se passer pour les clients quand ils vont taper leurs autos?
Pas certain que cela fasse une grosse différence avec une caisse ayant plus d’éléments plus petits mais soudés et conçue pour « travailler » de manière globale afin de protéger ses occupants en cas de choc.
J’ai déjà eu l’occasion de raconter la mésaventure d’un collègue qui s’était fait barrer du loueur préféré de la boite en évitant qqun qui avait dévié sur sa voie en face: Il a pris un plan incliné de bordure de route, cela à certes secoué mais sans dégât de sous-bassements ni même de visible sur jante/pneumatique mais ressenti immédiatement que la voiture ne roulait plus droit: Vrillée, le toit faisait des vagues!
Va réparer cela…
Et cette même journée BYD a présenté en Belgique ces deux tueuses de Tesla.
Les caméras, hors celles derrière le pare-brise et ses essuies-glaces, ne remplacent pas les autres senseurs.
Même pour une simple aide au stationnement, il suffit de faire qq dizaines de km sur une route sale et/ou grassouillée pour se rendre compte au moment de les utiliser pour se garer qu’on n’y voit que dalle. Les capteurs ultrason continuant eux de jouer parfaitement leur rôle (il n’y a qu’une couche de neige/glace qui arrive en pratique à parfois les rendre inopérants l’hiver).
A se demander si Musk conduit pour entériner des décisions aussi stupides.