Amazon s’installe avec la FTC pour 25 millions de dollars après avoir ” bafoué ” les demandes de confidentialité et de suppression des enfants

Amazon paiera à la FTC une amende de 25 millions de dollars ainsi que “révisera ses pratiques de suppression et mettra en œuvre des mesures de protection de la vie privée strictes” pour éviter les accusations de violation de la loi sur la protection de la vie privée en ligne des enfants afin d’améliorer son IA.

L’interface vocale d’Amazon Alexa est utilisée dans les foyers du monde entier depuis des années, et tout parent qui en a une sait que les enfants adorent jouer avec, lui faire raconter des blagues, voire l’utiliser aux fins prévues, quelle qu’elle soit. En fait, il était si manifestement utile pour les enfants qui ne savent pas écrire ou qui ont un handicap que la FTC a assoupli les règles de la COPPA pour s’adapter à une utilisation raisonnable : certaines analyses spécifiques à un service des données des enfants, comme la transcription, étaient autorisées tant qu’elles n’étaient pas conservées. plus longtemps que raisonnablement nécessaire.

Il semble qu’Amazon ait peut-être adopté une vision plutôt large de l’échelle de temps “raisonnablement nécessaire”, en conservant les données vocales des enfants plus ou moins pour toujours. Comme le dit la FTC :

Amazon a conservé indéfiniment les enregistrements des enfants, à moins qu’un parent ne demande la suppression de ces informations, selon la plainte. Et même lorsqu’un parent a cherché à supprimer ces informations, a déclaré la FTC, Amazon n’a pas réussi à supprimer les transcriptions de ce que les enfants ont dit de toutes ses bases de données.

Les données de géolocalisation n’ont pas non plus été supprimées, un problème que l’entreprise “a échoué à plusieurs reprises à résoudre”.

Cela dure depuis des années – la FTC allègue qu’Amazon était au courant dès 2018 mais n’a agi qu’en septembre de l’année suivante, après que l’agence leur ait donné un coup de pouce utile.

Ce type de timing indique généralement qu’une entreprise aurait continué cette pratique pour toujours. Et apparemment, en raison de “correctifs défectueux et de fiascos de processus”, certaines de ces pratiques se sont poursuivies jusqu’en 2022 !

Vous vous demandez peut-être quel est l’intérêt d’avoir un tas d’enregistrements d’enfants parlant à Alexa ? Eh bien, si vous prévoyez que votre interface vocale parle beaucoup aux enfants, il est certainement utile d’avoir une base de données secrète d’interactions audio sur laquelle vous pouvez former vos modèles d’apprentissage automatique. Et c’est ainsi que la FTC a déclaré qu’Amazon avait justifié sa conservation de ces données.

Les commissaires de la FTC, Bedoya et Slaughter, ainsi que le président Khan, ont écrit une déclaration accompagnant la proposition de règlement et la plainte pour souligner particulièrement ce point :

La Commission allègue qu’Amazon a conservé indéfiniment les données des enfants pour affiner son algorithme de reconnaissance vocale. Amazon n’est pas le seul à chercher apparemment à amasser des données pour affiner ses modèles d’apprentissage automatique ; À l’heure actuelle, avec l’avènement des grands modèles de langage, l’industrie technologique dans son ensemble s’empresse de faire de même.

Le règlement d’aujourd’hui envoie un message à toutes ces entreprises : l’apprentissage automatique n’est pas une excuse pour enfreindre la loi. Les revendications des entreprises selon lesquelles les données doivent être conservées indéfiniment pour améliorer les algorithmes ne l’emportent pas sur les interdictions légales de conservation indéfinie des données. Les données que vous utilisez pour améliorer vos algorithmes doivent être légalement collectées et légalement conservées. Les entreprises feraient bien de tenir compte de cette leçon.

Et donc aujourd’hui, nous avons l’amende de 25 millions de dollars, ce qui est bien sûr moins que négligeable pour une entreprise de la taille d’Amazon. C’est clairement le fait de se conformer aux autres dispositions de l’ordonnance proposée qui leur donnera probablement mal à la tête. La FTC indique que l’ordonnance :

• Interdire à Amazon d’utiliser la géolocalisation, les informations vocales et les informations vocales des enfants soumises aux demandes de suppression des consommateurs pour la création ou l’amélioration de tout produit de données ;
• Exiger que l’entreprise supprime les comptes Alexa inactifs des enfants ;
• Exiger d’Amazon qu’il informe les utilisateurs de l’action FTC-DOJ contre l’entreprise ;
• Exiger d’Amazon qu’il informe les utilisateurs de ses pratiques et contrôles de conservation et de suppression ;
• Interdire à Amazon de déformer ses politiques de confidentialité relatives à la géolocalisation, à la voix et aux informations vocales des enfants ; et
• Mandater la création et la mise en œuvre d’un programme de confidentialité lié à l’utilisation par l’entreprise des informations de géolocalisation.

Ce règlement et cette action sont totalement indépendants de l’autre annoncé aujourd’hui par la FTC, avec la filiale d’Amazon, Ring. Il existe cependant un certain fil conducteur de “ne pas mettre en œuvre les protections de base en matière de confidentialité et de sécurité”.

Dans un communiqué, Amazon a déclaré que “bien que nous ne soyons pas d’accord avec les affirmations de la FTC et que nous nions avoir enfreint la loi, ce règlement met l’affaire derrière nous”. Ils promettent également de “supprimer les profils enfants inactifs depuis plus de 18 mois”, ce qui semble incroyablement long pour conserver ces données. J’ai suivi avec des questions sur cette durée et si les données seront utilisées pour la formation ML, et je mettrai à jour si j’ai une réponse.

Amazon paiera à la FTC une amende de 25 millions de dollars ainsi que “révisera ses pratiques de suppression et mettra en œuvre des mesures de protection de la vie privée strictes” pour éviter les accusations de violation de la loi sur la protection de la vie privée en ligne des enfants afin d’améliorer son IA.

L’interface vocale d’Amazon Alexa est utilisée dans les foyers du monde entier depuis des années, et tout parent qui en a une sait que les enfants adorent jouer avec, lui faire raconter des blagues, voire l’utiliser aux fins prévues, quelle qu’elle soit. En fait, il était si manifestement utile pour les enfants qui ne savent pas écrire ou qui ont un handicap que la FTC a assoupli les règles de la COPPA pour s’adapter à une utilisation raisonnable : certaines analyses spécifiques à un service des données des enfants, comme la transcription, étaient autorisées tant qu’elles n’étaient pas conservées. plus longtemps que raisonnablement nécessaire.

Il semble qu’Amazon ait peut-être adopté une vision plutôt large de l’échelle de temps “raisonnablement nécessaire”, en conservant les données vocales des enfants plus ou moins pour toujours. Comme le dit la FTC :

Amazon a conservé indéfiniment les enregistrements des enfants, à moins qu’un parent ne demande la suppression de ces informations, selon la plainte. Et même lorsqu’un parent a cherché à supprimer ces informations, a déclaré la FTC, Amazon n’a pas réussi à supprimer les transcriptions de ce que les enfants ont dit de toutes ses bases de données.

Les données de géolocalisation n’ont pas non plus été supprimées, un problème que l’entreprise “a échoué à plusieurs reprises à résoudre”.

Cela dure depuis des années – la FTC allègue qu’Amazon était au courant dès 2018 mais n’a agi qu’en septembre de l’année suivante, après que l’agence leur ait donné un coup de pouce utile.

Ce type de timing indique généralement qu’une entreprise aurait continué cette pratique pour toujours. Et apparemment, en raison de “correctifs défectueux et de fiascos de processus”, certaines de ces pratiques se sont poursuivies jusqu’en 2022 !

Vous vous demandez peut-être quel est l’intérêt d’avoir un tas d’enregistrements d’enfants parlant à Alexa ? Eh bien, si vous prévoyez que votre interface vocale parle beaucoup aux enfants, il est certainement utile d’avoir une base de données secrète d’interactions audio sur laquelle vous pouvez former vos modèles d’apprentissage automatique. Et c’est ainsi que la FTC a déclaré qu’Amazon avait justifié sa conservation de ces données.

Les commissaires de la FTC, Bedoya et Slaughter, ainsi que le président Khan, ont écrit une déclaration accompagnant la proposition de règlement et la plainte pour souligner particulièrement ce point :

La Commission allègue qu’Amazon a conservé indéfiniment les données des enfants pour affiner son algorithme de reconnaissance vocale. Amazon n’est pas le seul à chercher apparemment à amasser des données pour affiner ses modèles d’apprentissage automatique ; À l’heure actuelle, avec l’avènement des grands modèles de langage, l’industrie technologique dans son ensemble s’empresse de faire de même.

Le règlement d’aujourd’hui envoie un message à toutes ces entreprises : l’apprentissage automatique n’est pas une excuse pour enfreindre la loi. Les revendications des entreprises selon lesquelles les données doivent être conservées indéfiniment pour améliorer les algorithmes ne l’emportent pas sur les interdictions légales de conservation indéfinie des données. Les données que vous utilisez pour améliorer vos algorithmes doivent être légalement collectées et légalement conservées. Les entreprises feraient bien de tenir compte de cette leçon.

Et donc aujourd’hui, nous avons l’amende de 25 millions de dollars, ce qui est bien sûr moins que négligeable pour une entreprise de la taille d’Amazon. C’est clairement le fait de se conformer aux autres dispositions de l’ordonnance proposée qui leur donnera probablement mal à la tête. La FTC indique que l’ordonnance :

• Interdire à Amazon d’utiliser la géolocalisation, les informations vocales et les informations vocales des enfants soumises aux demandes de suppression des consommateurs pour la création ou l’amélioration de tout produit de données ;
• Exiger que l’entreprise supprime les comptes Alexa inactifs des enfants ;
• Exiger d’Amazon qu’il informe les utilisateurs de l’action FTC-DOJ contre l’entreprise ;
• Exiger d’Amazon qu’il informe les utilisateurs de ses pratiques et contrôles de conservation et de suppression ;
• Interdire à Amazon de déformer ses politiques de confidentialité relatives à la géolocalisation, à la voix et aux informations vocales des enfants ; et
• Mandater la création et la mise en œuvre d’un programme de confidentialité lié à l’utilisation par l’entreprise des informations de géolocalisation.

Ce règlement et cette action sont totalement indépendants de l’autre annoncé aujourd’hui par la FTC, avec la filiale d’Amazon, Ring. Il existe cependant un certain fil conducteur de “ne pas mettre en œuvre les protections de base en matière de confidentialité et de sécurité”.

Dans un communiqué, Amazon a déclaré que “bien que nous ne soyons pas d’accord avec les affirmations de la FTC et que nous nions avoir enfreint la loi, ce règlement met l’affaire derrière nous”. Ils promettent également de “supprimer les profils enfants inactifs depuis plus de 18 mois”, ce qui semble incroyablement long pour conserver ces données. J’ai suivi avec des questions sur cette durée et si les données seront utilisées pour la formation ML, et je mettrai à jour si j’ai une réponse.