Jeudi, des chercheurs de Microsoft ont affirmé avoir découvert ce qu’ils pensent être un réseau de comptes fictifs de médias sociaux contrôlés par la Chine et fonctionnant avec l’intention d’utiliser l’IA pour influencer les votes américains.
Selon un représentant de l’ambassade de Chine à Washington, les affirmations selon lesquelles la Chine aurait utilisé l’intelligence artificielle pour créer de faux profils de médias sociaux sont “pleines de préjugés et de spéculations malveillantes” et la Chine soutient l’utilisation responsable de l’intelligence artificielle.
Microsoft a affirmé dans un récent rapport de recherche que les profils de médias sociaux faisaient partie d’une opération présumée de renseignement chinois. Le ministère américain de la justice a établi un lien entre les activités de la campagne et “un groupe d’élite au sein du ministère chinois de la sécurité publique”, selon Microsoft.
Les chercheurs n’ont pas identifié les réseaux de médias sociaux qui ont été touchés, mais leur document contient des captures d’écran.
Selon l’enquête, le paysage des médias sociaux est tendu alors que les Américains se préparent à l’élection présidentielle de 2024.
Le gouvernement des États-Unis a accusé la Russie d’avoir interféré dans l’élection de 2016 par le biais d’une campagne clandestine sur les médias sociaux et a mis en garde contre d’autres tentatives de la part de la Chine, de la Russie et de l’Iran d’influencer l’opinion publique.
Le rapport ne donne que quelques exemples spécifiques d’activités récentes et ne décrit pas en profondeur comment les chercheurs ont déterminé que les messages provenaient de Chine. Le chercheur de Microsoft a utilisé un “modèle d’attribution à multiples facettes”, selon un représentant de l’entreprise, qui est basé sur des “preuves techniques, comportementales et contextuelles”.
Vers mars 2023, la campagne a commencé à utiliser l’IA générative pour produire des contenus en anglais à caractère politique et “imiter les électeurs américains”, selon Microsoft.
L’IA générative peut produire du texte, des graphiques et d’autres médias dès le départ.
Le nouveau matériel est nettement plus “accrocheur que les visuels maladroits utilisés dans les campagnes précédentes par les acteurs étatiques chinois, qui s’appuyaient sur des dessins numériques, des collages de photos d’archives et d’autres conceptions graphiques manuelles”, écrivent les chercheurs.
Le rapport cite en exemple une image générée par l’IA de la Statue de la Liberté portant un fusil d’assaut et accompagnée du texte suivant : “Tout est jeté à la poubelle. JE SUIS LA DÉESSE DE LA VIOLENCE”. Microsoft affirme que l’image provient d’un compte chinois.
Le représentant de Microsoft a affirmé que les comptes détectés s’étaient efforcés de paraître américains en désignant leur pays de résidence comme étant les États-Unis, en affichant des slogans politiques du pays et en utilisant des hashtags liés à des sujets de politique intérieure.
