La récente traversée de San Francisco par Dan Avedikian dans une voiture sans conducteur s'est déroulée pour l'essentiel sans incident.
Mais à un moment donné, le robot-taxi a fait quelque chose à laquelle le professeur de musique de 37 ans ne s'attendait pas : la voiture a fait un signal comme si elle allait tourner à gauche à une intersection, mais elle n'a pas fait.
Avedikian a déclaré que les conducteurs humains font souvent des choses comme celle-ci : faire des choix qui ne semblent pas avoir de sens tout de suite.
» Genre, grand whoop « , a-t-il dit. « C'est le genre de chose que je fais tout le temps. »
Mais ce n'est pas ce qu'il attendait d'un robot.
« Parce que le robot devrait être parfait, non ? dit-il.
Fixer des attentes
Waymo, propriété d'Alphabet, l'un des plus importants constructeurs de voitures autonomes, a récemment annoncé l'expansion de son service à Atlanta et Austin au début de l'année prochaine. Cela signifie que beaucoup plus de gens sont sur le point de voir les véhicules de l'entreprise de la Silicon Valley dans les rues de leur ville. À San Francisco, les Waymos sont déjà omniprésents. Mais les cyclistes peuvent trouver l'expérience déstabilisante, surtout lorsque la conduite n'est pas parfaite.
« Lorsque nous parlons de véhicules autonomes, le prétendu avantage est qu'ils sont de meilleurs conducteurs que nous », a déclaré Nidhi Kalra, chercheur principal en information au sein du groupe de réflexion politique mondial RAND Corporation, qui étudie les voitures sans conducteur.
Elle a déclaré que ce sont les constructeurs de voitures sans conducteur eux-mêmes qui fixent les attentes élevées du public. « Ils affirment que cela va être une expérience extraordinaire », a déclaré Kalra. « Cela va être sûr. Cela va être facile. »
Les campagnes publicitaires de Waymo comportent des lignes telles que : « Le chauffeur Waymo prendra soin de vous et assurera votre sécurité du point A au point B, que ce soit votre premier trajet ou votre centième. »
Les voitures sans conducteur semblent effectivement plus sûres dans certaines situations. Une étude récente de l'Université de Floride centrale déclare : « On s'attend à ce que l'automatisation des systèmes réduise considérablement le nombre d'accidents, puisque les erreurs humaines contribuent jusqu'à 90 % des accidents. »
Mais la recherche montre également qu'il n'y a pas suffisamment de données pour vraiment le savoir : « Malgré les récents progrès démontrés par les véhicules autonomes dans leur potentiel à améliorer la sécurité et le fonctionnement, les différences entre les véhicules autonomes et les véhicules à conduite humaine dans les accidents restent non identifiées en raison de la rareté. des données réelles sur les accidents de véhicules autonomes.
Un équilibre délicat
Waymo tente de trouver un équilibre délicat entre l'image de performances fluides des machines que projette l'entreprise et une expérience conviviale et familière qui gagne la confiance du public.
« Beaucoup de choses que nous faisons sont très humaines », a déclaré Ryan Powell, responsable du design et de la recherche client chez Waymo.
Powell cite les négociations minutieuses de Waymos aux intersections comme une caractéristique humaine.
« Nous pourrions avancer un peu pour signaler aux autres conducteurs ou aux piétons que nous sommes sur le point de prendre ce virage », a-t-il déclaré.
Il y a aussi la voix chaleureuse et soucieuse de la sécurité dans la voiture, qui rappelle aux passagers : « Veuillez vous assurer que c'est clair avant de sortir. »
Le facteur humain mais pas tout à fait
Pour certains, cette voix désincarnée est troublante.
« Il y a ce genre de convivialité inhumaine », a déclaré la dessinatrice et auteure Amy Kurzweil. Le travail de Kurzweil, comme ses mémoires graphiques de 2023, explore les relations homme-machine ; dans un dessin animé pour , elle s'est moquée gentiment des véhicules autonomes et des personnes qui les conduisent.
Kurzweil a déclaré qu'elle avait emmené Waymos plusieurs fois à San Francisco et qu'elle appréciait l'expérience, mais elle a déclaré que le sentiment étrange s'étend au-delà de la voix – par exemple, le volant tourne sans que personne ne soit assis derrière.
« Cela déclenche notre sentiment cauchemardesque qu'il devrait y avoir quelqu'un là-bas, mais il n'y en a pas », a-t-elle déclaré.
Cet écho fantomatique du conducteur humain absent s'inspire des craintes profondément ancrées des gens à l'égard des machines possédant une sorte de conscience humaine.
« Parce que nous insérons souvent des robots dans des tâches et des rôles humains, nous avons ce petit cauchemar en arrière-plan où ils ont en réalité une capacité d'action humaine, ce qu'ils n'ont pas », a déclaré Kurzweil. « Et il y a quelque chose dans la voiture sans conducteur qui est un très bon symbole de cette anxiété. »
Kurzweil fait remonter cette anxiété à , une pièce de 1920 de l'écrivain tchèque Karel Čapek. Il raconte un soulèvement meurtrier d'êtres artificiels ressemblant à des humains, créés par des humains pour accomplir leur gros travail. Ce type d'histoires continue de se dérouler dans notre culture, depuis les impressionnants Replicants du film de 1982 jusqu'au film d'horreur de l'année dernière sur une effrayante poupée IA.
Kurzweil a déclaré qu'elle se demandait si la suppression des éléments que nous associons au fait d'avoir un chauffeur humain pourrait, paradoxalement, rendre les coureurs plus à l'aise.
« Si la machine n'avait pas de siège conducteur ni de volant, elle serait moins étrange », a déclaré Kurzweil.
Powell de Waymo a déclaré que l'entreprise aimerait également se débarrasser de ces éléments. Mais malgré une mesure réglementaire de 2022 qui ouvre la voie à cette possibilité, la National Highway Traffic Safety Administration les exige toujours – pour l’instant.
