Les véhicules autonomes peuvent être amenés à adopter un comportement de conduite dangereux

Les véhicules autonomes peuvent être amenés à adopter un comportement de conduite dangereux

Des chercheurs du département d’informatique de l’UCI ont mis en place un cours sur le campus de l’UCLA pour tester les réactions des voitures sans conducteur aux objets ordinaires placés sur le bord de la route. Leur étude a révélé que les boîtes, les vélos, les poubelles et les cônes de signalisation peuvent provoquer l’arrêt brusque d’un véhicule sans conducteur, créant potentiellement un danger et affectant la livraison des passagers et des marchandises. Crédit : Ziwen Wan / UCI

Lorsqu’une voiture sans conducteur est en mouvement, une mauvaise décision de son système d’évitement des collisions peut conduire à un désastre, mais des chercheurs de l’Université de Californie à Irvine ont identifié un autre risque possible : les véhicules autonomes peuvent être amenés à s’arrêter brusquement ou à conduire de manière indésirable. comportement par le placement d’un objet ordinaire sur le bord de la route.

“Une boîte, un vélo ou un cône de signalisation peuvent être tout ce qui est nécessaire pour effrayer un véhicule sans conducteur et l’amener à s’arrêter dangereusement au milieu de la rue ou sur une bretelle de sortie d’autoroute, créant un danger pour les autres automobilistes et piétons”, a déclaré Qi Alfred Chen, professeur d’informatique à l’UCI et co-auteur d’un article sur le sujet présenté récemment au Network and Distributed System Security Symposium à San Diego.

Chen a ajouté que les véhicules ne peuvent pas faire la distinction entre les objets présents sur la route par pur accident ou ceux laissés intentionnellement dans le cadre d’une attaque physique par déni de service. “Les deux peuvent provoquer un comportement de conduite erratique”, a déclaré Chen.

Chen et son équipe ont concentré leur enquête sur les vulnérabilités de sécurité spécifiques au module de planification, une partie du code logiciel qui contrôle les systèmes de conduite autonome. Ce composant supervise les processus de prise de décision du véhicule régissant le moment de rouler, de changer de voie ou de ralentir et de s’arrêter, entre autres fonctions.

“Le module de planification du véhicule est conçu avec beaucoup de prudence, logiquement, car vous ne voulez pas que des véhicules sans conducteur roulent, hors de contrôle”, a déclaré l’auteur principal Ziwen Wan, Ph.D. UCI. étudiant en informatique. “Mais nos tests ont montré que le logiciel peut pécher par excès d’être trop conservateur, et cela peut conduire à ce qu’une voiture devienne un obstacle à la circulation, ou pire.”






Crédit : Université de Californie, Irvine

Pour ce projet, les chercheurs de la Donald Bren School of Information and Computer Sciences de l’UCI ont conçu un outil de test, baptisé PlanFuzz, qui peut détecter automatiquement les vulnérabilités des systèmes de conduite automatisés largement utilisés. Comme le montrent les démonstrations vidéo, l’équipe a utilisé PlanFuzz pour évaluer trois implémentations de planification comportementale différentes des systèmes de conduite autonome open source de qualité industrielle Apollo et Autoware.

Les chercheurs ont constaté que les cartons et les vélos placés sur le bord de la route provoquaient l’arrêt permanent des véhicules sur les artères et les intersections vides. Dans un autre test, des voitures conduites de manière autonome, percevant une menace inexistante, ont négligé de changer de voie comme prévu.

“Des véhicules autonomes ont été impliqués dans des collisions mortelles, causant d’importants dommages financiers et à la réputation d’entreprises telles qu’Uber et Tesla, nous pouvons donc comprendre pourquoi les fabricants et les fournisseurs de services veulent se tourner vers la prudence”, a déclaré Chen. “Mais les comportements trop conservateurs de nombreux systèmes de conduite autonomes risquent d’avoir un impact sur la fluidité du trafic et la circulation des passagers et des marchandises, ce qui peut également avoir un impact négatif sur les entreprises et la sécurité routière.”

Junjie Shen, Ph.D. UCI, a rejoint Chen et Wan sur ce projet. étudiant en informatique; Jalen Chuang, étudiant de premier cycle en informatique de l’UCI ; Xin Xia, chercheur postdoctoral UCLA en génie civil et environnemental ; Joshua Garcia, professeur adjoint d’informatique à l’UCI ; et Jiaqi Ma, professeur agrégé de génie civil et environnemental à l’UCLA.


B-GAP : une méthode de simulation pour entraîner des véhicules autonomes à naviguer dans des scènes urbaines complexes


Plus d’information:
Lien papier : Ziwen Wan et al, Too Afraid to Drive : Systematic Discovery of Semantic DoS Vulnerability in Autonomous Driving Planning under Physical-World Attacks, (2022)

Fourni par l’Université de Californie, Irvine

Citation: Les véhicules autonomes peuvent être amenés à adopter un comportement de conduite dangereux (2022, 26 mai) récupéré le 26 mai 2022 sur https://techxplore.com/news/2022-05-autonomous-vehicles-dangerous-behavior.html

Ce document est soumis au droit d’auteur. En dehors de toute utilisation loyale à des fins d’étude ou de recherche privée, aucune partie ne peut être reproduite sans l’autorisation écrite. Le contenu est fourni seulement pour information.