Facebook bannit les comptes qui utilisent des photos de profil générées par IA

Facebook annonce avoir démantelé deux réseaux de faux comptes sur son réseau social et sur Instagram. Leur point commun : leur photo de profil a été générée à l’aide de l’intelligence artificielle. Ces faux comptes servaient à véhiculer et à renforcer des messages de propagande en faveur du président Donald Trump.

Une fois n’est pas coutume, surtout ces derniers mois, une action entreprise par Facebook est bénéfique pour l’ensemble des usagers, notamment les Américains. Mais, à priori, la même action pourra être répétée dans d’autres pays sous d’autres conditions. Quelle est cette action ? Le réseau social a démantelé un réseau de faux comptes véhiculant des messages de propagande.

Ces comptes, opérés aux États-Unis et au Vietnam, ont été démasqués à cause de leur photo de profil. Ces photos étaient toutes générées par intelligence artificielle. Les hommes et les femmes représentées n’existaient pas. Lors de cette opération, Facebook a travaillé avec plusieurs organismes pour analyser les photos et identifier les incohérences. Car l’intelligence artificielle sait créer des visages, mais elle a encore quelques difficultés avec les symétries et les arrière-plans.

Une influence considérable

Ces comptes étaient répartis sur Facebook et Instagram. Et les chiffres sont très importants. Plus de 600 comptes Facebook. Plus de 400 pages. Plus de 160 groupes. Et une petite centaine de comptes Instagram. Ces comptes, pages et groupes avaient pour but de diffuser des messages politiques en lien avec les États-Unis, mais aussi géopolitiques. Pour cela, il publiait sur leur page et leur groupe et ils surpondéraient certains posts (en likant massivement) et certains groupes (les faux comptes alimentant les faux groupes). Les messages étaient très majoritairement (pour ne pas dire à 100 %) en faveur du président américain Donald Trump. Notez que ces actions auraient un lien avec un groupe médiatique conservateur, The Epoch Times.

Ils étaient destinés aux citoyens américains, notamment trois communautés : chinoises, espagnoles et vietnamiennes. Leur influence était considérable. Plus de 55 millions de comptes ont suivi l’un de ces comptes Facebook et plus de 380 000 comptes se sont inscrits dans ces groupes. Et 92000 personnes ont suivi un ou plusieurs faux comptes sur Instagram. Et pour assurer une certaine visibilité, ils ont même acheté des campagnes d’affichage publicitaire sur Facebook et Instagram dont la valeur se monte à 9,5 millions de dollars. Cette somme aurait été payée en une demi-douzaine de devises différentes, dont en dollars (américains ou canadiens), en wons coréens ou en dongs vietnamiens.

Gardez une longueur d'avance sur la tech