par Surprenant littéralement personne, la combinaison des chèques bleus payés et de l’IA générative rend trop facile la diffusion de fausses informations. Lundi matin, une image apparemment générée par l’IA d’une explosion au Pentagone a circulé sur Internet, même si l’événement ne s’est pas réellement produit.
En une demi-heure environ, l’image est apparue sur un compte Twitter vérifié appelé “Bloomberg Feed”, qui pourrait très facilement être confondu avec un vrai compte affilié à Bloomberg, d’autant plus qu’il avait une coche bleue. Ce compte a depuis été suspendu. Le réseau d’information contrôlé par l’État russe RT a également partagé l’image, selon les captures d’écran que les utilisateurs ont capturées avant la suppression du tweet. Plusieurs comptes Twitter avec des centaines de milliers de followers, comme DeItaone, Défenseur OSINT et Tableau des baleines l’a partagé. Même un Réseau de télévision indien rapporté la fausse explosion du Pentagone. L’origine de cette fausse image et de cette nouvelle n’est pas immédiatement claire.
C’est loin d’être la première fois qu’une fausse image réussit à tromper Internet, mais les enjeux sont plus importants lorsque le faux événement est une explosion dans un bâtiment du gouvernement américain, plutôt que le pape portant un manteau Balenciaga. Certains ont rapporté que la fausse image pourrait être liée à un mouvement de 25 points de base du S&P 500, mais la baisse n’a pas duré longtemps, et il n’y a aucun moyen de prouver qu’elle était entièrement le résultat de ce canular. L’incident soulève la question de savoir comment l’IA générative pourrait être utilisée pour jouer sur le marché boursier à l’avenir – après tout, Reddit l’a fait.
La désinformation est un problème aussi ancien qu’Internet, mais la croissance simultanée de l’IA générative et la modification du système de vérification de Twitter constituent un terrain particulièrement fertile. Dès le départ, le plan du propriétaire de Twitter, Elon Musk, de retirer les chèques bleus existants de leur statut et de laisser quiconque payer pour le symbole a été un gâchis. Même si nous savons que les chèques bleus n’indiquent plus la légitimité, il est difficile de briser une habitude visuelle que vous avez cultivée depuis près de 15 ans : si vous voyez un compte appelé “Bloomberg Feed” qui affiche un chèque bleu sur une attaque contre le Pentagone , vous êtes probablement prédisposé à penser que c’est réel. Comme il devient de plus en plus difficile de repérer de fausses images, nous ne continuerons à voir de faux reportages comme celui-ci qu’à l’avenir.
rewrite this content and keep HTML tags
Surprenant littéralement personne, la combinaison des chèques bleus payés et de l’IA générative rend trop facile la diffusion de fausses informations. Lundi matin, une image apparemment générée par l’IA d’une explosion au Pentagone a circulé sur Internet, même si l’événement ne s’est pas réellement produit.
En une demi-heure environ, l’image est apparue sur un compte Twitter vérifié appelé “Bloomberg Feed”, qui pourrait très facilement être confondu avec un vrai compte affilié à Bloomberg, d’autant plus qu’il avait une coche bleue. Ce compte a depuis été suspendu. Le réseau d’information contrôlé par l’État russe RT a également partagé l’image, selon les captures d’écran que les utilisateurs ont capturées avant la suppression du tweet. Plusieurs comptes Twitter avec des centaines de milliers de followers, comme DeItaone, Défenseur OSINT et Tableau des baleines l’a partagé. Même un Réseau de télévision indien rapporté la fausse explosion du Pentagone. L’origine de cette fausse image et de cette nouvelle n’est pas immédiatement claire.
C’est loin d’être la première fois qu’une fausse image réussit à tromper Internet, mais les enjeux sont plus importants lorsque le faux événement est une explosion dans un bâtiment du gouvernement américain, plutôt que le pape portant un manteau Balenciaga. Certains ont rapporté que la fausse image pourrait être liée à un mouvement de 25 points de base du S&P 500, mais la baisse n’a pas duré longtemps, et il n’y a aucun moyen de prouver qu’elle était entièrement le résultat de ce canular. L’incident soulève la question de savoir comment l’IA générative pourrait être utilisée pour jouer sur le marché boursier à l’avenir – après tout, Reddit l’a fait.
La désinformation est un problème aussi ancien qu’Internet, mais la croissance simultanée de l’IA générative et la modification du système de vérification de Twitter constituent un terrain particulièrement fertile. Dès le départ, le plan du propriétaire de Twitter, Elon Musk, de retirer les chèques bleus existants de leur statut et de laisser quiconque payer pour le symbole a été un gâchis. Même si nous savons que les chèques bleus n’indiquent plus la légitimité, il est difficile de briser une habitude visuelle que vous avez cultivée depuis près de 15 ans : si vous voyez un compte appelé “Bloomberg Feed” qui affiche un chèque bleu sur une attaque contre le Pentagone , vous êtes probablement prédisposé à penser que c’est réel. Comme il devient de plus en plus difficile de repérer de fausses images, nous ne continuerons à voir de faux reportages comme celui-ci qu’à l’avenir.
