La diffusion d’une photo générée par IA montrant une explosion au Pentagone aux Etats-Unis a brièvement provoqué une chute des marchés financiers et a obligé le secrétariat d’Etat américain à la Défense à réagir.

Touch Of Light, CC BY-SA 4.0, via Wikimedia Commons

Fausse photo, faux compte Twitter, vrai affolement des marchés. Une fausse image montrant une explosion au Pentagone est brièvement devenue virale sur Twitter lundi, causant un léger affaissement des marchés pendant dix minutes, et relançant le débat autour des risques liés à l’intelligence artificielle (IA). La fausse photographie, apparemment réalisée avec un programme d’IA générative (capable de produire du texte et des images à partir d’une simple requête en langage courant), a obligé le secrétariat d’Etat américain à la Défense à réagir : 

 

    «Nous pouvons confirmer qu’il s’agit d’une fausse information et que le Pentagone n’a pas été attaqué aujourd’hui», a déclaré un porte-parole.

Les pompiers de la zone où se trouve le bâtiment (à Arlington, près de Washington) sont aussi intervenus pour dire sur Twitter qu’aucune explosion ou incident n’avait eu lieu, ni au Pentagone ni à côté. 

 

 

     Lien tweet

 

Heureusement, il était ici facile de s’apercevoir de la supercherie : le bâtiment ne ressemble pas au Pentagone, et il y a de nombreux bugs visuels au niveau du trottoir, des barrières de sécurité et des fenêtres. 

L’incident intervient après que plusieurs fausses photographies produites avec de l’IA générative ont été largement relayées pour montrer les capacités de cette technologie, comme celle de l’arrestation de l’ancien président américain Donald Trump ou celle du Pape en doudoune.

 

« Les utilisateurs se servent de ces outils pour générer des contenus plus efficacement qu’avant (…) mais ils se répandent toujours via les réseaux sociaux », a souligné Sam Altman, le patron d’OpenAI (DALL-E, ChatGPT), lors d’une audition au Congrès mi-mai. 

Les logiciels comme DALL-E 2, Midjourney et Stable Diffusion permettent à des amateurs de créer de fausses images convaincantes sans avoir besoin de maîtriser des logiciels d’édition comme Photoshop.

Mais si l’IA générative facilite la création de faux contenus, le problème de leur dissémination et de leur viralité - les composantes les plus dangereuses de la désinformation - relève, lui, des plateformes, rappellent régulièrement des experts.

 

Yoma