La désinformation par l’intelligence artificielle
Radio-Canada
« Est-il vrai que le Venezuela est un pays si pauvre? » demande un présentateur blond en lançant un reportage. Ce n'est pas un journaliste… ni même un humain, mais un avatar généré par intelligence artificielle.
Présentés comme faisant partie d'une sorte de journal télévisé, ces faux reportages qui appuient le pouvoir vénézuélien sont apparus comme des publicités sur les réseaux sociaux, déclenchant une polémique dans le pays et en ligne. Ce n'est pas un cas isolé.
Selon Shirin Anlen, spécialiste des technologies des médias à l'organisation non gouvernementale Witness, de plus en plus de régions parlent des hypertrucages et des contenus audiovisuels générés par l'intelligence artificielle (IA) comme d'une menace.
En février, une vidéo trafiquée du président américain Joe Biden mettant en garde la population contre une menace extraterrestre a circulé massivement sur les réseaux sociaux.
L'année dernière, un montage du dirigeant ukrainien Volodymyr Zelensky sniffant de la cocaïne et un rap d'Eminem contre le président du Mexique, Andrés Manuel Lopez Obrador, ont aussi attiré l’attention sur Internet. Rien de tout cela n’était réel; tous ces contenus ont été générés par de l'IA.
Dans le cas du Venezuela, les avatars des vidéos House of News Español provenaient du programme de création d'intelligence artificielle Synthesia. La société a signalé celles-ci à YouTube, qui les a retirées.
La porte-parole de Synthesia, Laura Morelli, n'a pas voulu révéler qui était le client à l'origine de ces vidéos, mais a indiqué qu'en ayant violé les conditions et politiques d'utilisation de l'entreprise, il avait été exclu et ne pouvait plus utiliser leurs services. Si vous prétendez être journaliste, si vous prétendez diffuser des infos, vous serez banni, a-t-elle déclaré à l'Agence France-Presse (AFP).
Les présentateurs de House of News, Noah, un blond, et Daren, un homme noir, font partie du catalogue de 93 avatars de Synthesia. Ils ont notamment été utilisés en janvier pour des vidéos de prétendus Américains soutenant un coup d'État au Burkina Faso.
Ce type de programme peut être utilisé par n'importe qui avec un minimum de connaissances, prévient Eduardo Mosqueira, docteur en informatique et professeur à l'Université de La Corogne, en Espagne. Il assure qu'il n'est pas difficile de détecter une vidéo fausse, mais souligne en revanche qu'il est difficile d'en déterminer l'origine : Si [les créateurs et créatrices] ont fait preuve d'un minimum de prudence, je suppose que c'est impossible.
