Des chercheurs améliorent la sécurité des systèmes intelligents

la cyber-sécurité

Crédit : Pixabay/CC0 Domaine public

Dans un monde de plus en plus connecté et intelligent, les capteurs collectent et partagent de grandes quantités de données pour aider les gens à prendre des décisions.

Qu’il s’agisse du réseau intelligent qui surveille en permanence la consommation d’énergie ou des personnes qui tentent de suivre un état de santé, les gens reçoivent des quantités toujours croissantes de données d’une manière qui peut être difficile à déchiffrer.

Un groupe de chercheurs de la WSU a récemment développé un moyen d’analyser statistiquement des données de capteurs aussi complexes, afin que les algorithmes informatiques qui prennent des décisions basées sur les données puissent être plus résilients et mieux à même de faire face à de petites erreurs. Les travaux ont des applications dans de nombreux domaines, notamment la santé mobile, les maisons intelligentes, le réseau électrique et l’agriculture. Ils ont récemment présenté leur travail à la conférence internationale 2022 sur la conception assistée par ordinateur à San Diego.

« Il s’agit d’une contribution importante et nouvelle dans le domaine de la sécurité des systèmes d’apprentissage automatique », a déclaré Jana Doppa, professeure agrégée d’informatique de la Huie-Rogers Endowed Chair, qui a dirigé les travaux.

Les algorithmes d’apprentissage automatique sont de plus en plus utilisés pour de nombreuses applications, telles que la gestion des réseaux intelligents ou l’agriculture intelligente. Ainsi, par exemple, ils peuvent collecter des données à partir de capteurs dans les champs agricoles et d’instruments météorologiques pour apprendre et prédire les temps d’arrosage optimaux. Les données collectées pour de nombreuses applications intelligentes se présentent sous la forme d’une série chronologique, qui est un ensemble de données qui suit un échantillon dans le temps et fournit une séquence de points de données d’horodatage.

Malheureusement, alors que les ordinateurs collectent des informations et crachent ces lignes et graphiques de séries chronologiques toute la journée, les gens ne sont pas bien équipés pour les lire et les comprendre facilement. Plus important encore, ils pourraient manquer des changements mineurs mais conséquents, même ceux qui sont effectués de manière malveillante.

“Ces types de données de séries chronologiques sont difficiles à comprendre par les humains”, a déclaré Taha Belkhouja, un étudiant diplômé de l’École de génie électrique et d’informatique qui travaille sur le problème depuis trois ans. “Si nous introduisons une petite perturbation sur cette séquence d’horodatages, vous ne saurez pas si nous avons réellement fait la perturbation ou non et si cette lecture est correcte ou non.”

Alors que l’apprentissage automatique est intégré à de plus en plus de systèmes, la sécurité de ces systèmes a été un problème sous-étudié, a déclaré Doppa. Des attaques contradictoires peuvent se produire lorsqu’un attaquant accède à des capteurs intelligents et induit ensuite de petites perturbations dans les données d’une manière qui ne serait pas perceptible par une personne qui regarde les données. Les perturbations peuvent conduire à un échec du processus de prédiction et de prise de décision.

“C’est un défi du point de vue de l’interprétabilité, ce qui signifie que c’est en fait un énorme avantage pour un adversaire qui veut casser certaines de ces infrastructures”, a-t-il déclaré. “Vous ne pouvez pas remarquer ce qui est bien et ce qui est mal.”

Dans leur travail, les chercheurs de la WSU ont introduit une couche de sécurité dans leur algorithme d’apprentissage automatique qui recherche les perturbations potentielles et détermine leur probabilité statistique de se produire, assurant la résilience du système et empêchant les défaillances majeures. Travaillant avec des appareils portables de surveillance de la santé, les chercheurs ont utilisé leur algorithme pour tenir compte automatiquement des perturbations des données des capteurs dans le monde réel et ont amélioré sa précision de 50 % par rapport aux algorithmes d’apprentissage automatique standard qui ne peuvent fonctionner qu’avec des données propres.

Étant donné que l’algorithme examine la probabilité statistique des scénarios, l’équipe WSU a également économisé de l’énergie de calcul par rapport aux algorithmes traditionnels qui doivent être recalibrés après coup. Concrètement, les économies d’énergie se traduiraient par une demande réduite sur les batteries d’un appareil.

Outre Belkhouja et Doppa, les chercheurs de ce projet comprenaient Ganapati Bhat et Yan Yan, professeurs adjoints à l’École de génie électrique et d’informatique, et l’étudiante diplômée Dina Hussein.

“Résoudre ce problème complexe nécessite une expertise dans plusieurs domaines et tous les membres de l’équipe du projet ont apporté des contributions synergiques”, a déclaré Doppa.

Fourni par l’Université de l’État de Washington

Citation: Des chercheurs améliorent la sécurité des systèmes intelligents (8 novembre 2022) récupéré le 8 novembre 2022 sur https://techxplore.com/news/2022-11-smart.html

Ce document est soumis au droit d’auteur. En dehors de toute utilisation loyale à des fins d’étude ou de recherche privée, aucune partie ne peut être reproduite sans l’autorisation écrite. Le contenu est fourni seulement pour information.