Algorithmes et Audace : La Plateforme Payante de Meta pour l'Abus de l'IA

La machine publicitaire programmatique de la Silicon Valley prétend être un triomphe de l'ingénierie moderne, capable de diffuser des messages commerciaux personnalisés à des milliards d'êtres humains en quelques millisecondes. Pourtant, lorsqu'il s'agit de maintenir les contenus illicites hors de ses plateformes, l'appareil automatisé se révèle étonnamment aveugle. Un rapport du Tech Transparency Project a révélé que Meta a accepté des paiements pour des centaines de publicités présentant du matériel d'abus sexuels d'enfants généré par IA sur Facebook et Instagram.

L'organisme de surveillance basé à Washington a identifié 332 campagnes promotionnelles de ce type dans plusieurs juridictions, notamment aux États-Unis, au Royaume-Uni, en Australie et en Inde. Le mécanisme derrière ces campagnes est aussi cynique que technologiquement simple : de vraies photographies d'enfants – y compris un membre d'une famille royale européenne – ont été manipulées à l'aide de l'intelligence artificielle pour dépeindre des actes sexuels explicites. Les publicités fonctionnaient principalement comme des entonnoirs marketing, dirigeant les utilisateurs vers des logiciels externes, majoritairement développés par des programmeurs chinois, conçus pour générer des images explicites synthétiques.

La défense corporative de Meta s'appuie sur une rhétorique familière concernant la course aux armements de la sécurité numérique. Dans une réponse officielle aux demandes de renseignements, l'entreprise a déclaré : Nous ne tolérons pas les applications de nudification ni aucune forme d'exploitation d'enfants, qu'elle soit réelle ou générée par l'IA. Ces criminels changent constamment de tactique pour échapper à la détection, c'est pourquoi nous continuons à renforcer nos capacités de détection et d'application. L'entreprise a ajouté : Nous avons mis en place des défenses solides, y compris des systèmes qui bloquent les publicités illégales ainsi qu'une surveillance continue au cas où nous manquerions quelque chose initialement : c'est pourquoi de nombreuses publicités qui nous ont été signalées avaient déjà été supprimées, la plupart avaient moins de 200 impressions, et le total des dépenses publicitaires était inférieur à 5 000 $.

De telles assurances officielles s'accordent mal avec la réalité de l'infrastructure de modération automatisée de Meta. Lorsque des chercheurs ont tenté de signaler 55 publicités abusives actives en Inde via l'interface utilisateur standard de la plateforme, le système de Meta a conclu dans 43 cas que le contenu ne violait pas ses normes publicitaires. Ce n'est qu'après la soumission d'enquêtes directes des médias et des chercheurs que l'entreprise a supprimé les contenus restants et suspendu les comptes sous-jacents.

La concentration géographique de ces campagnes met en lumière des lacunes systémiques en matière d'application dans les marchés émergents. Parmi les promotions signalées, 84 ont été diffusées en Inde, dont 78 sont apparues après que les autorités indiennes aient formellement ordonné à Meta de purger tout matériel promouvant l'abus sexuel d'enfants suite à une enquête médiatique antérieure. Certains placements ont été facilités par les propres partenaires officiels d'agences publicitaires de Meta en Chine, connus sous le nom de revendeurs, qui acheminent un volume publicitaire massif sur la plateforme.

Bien que Meta s'acquitte de ses obligations légales aux États-Unis en transmettant le matériel signalé au National Center for Missing and Exploited Children, les critiques soulignent que les forces de l'ordre locales dans des juridictions comme l'Inde restent contournées. Les organisations indiennes de défense des droits de l'enfant ont porté l'affaire devant la Cour suprême du pays, exigeant un signalement obligatoire directement aux autorités locales. Pour une plateforme générant des dizaines de milliards de revenus publicitaires, s'appuyer sur des algorithmes de rejet automatisés qui ne reconnaissent les violations extrêmes qu'après l'intervention de tiers suggère que les coûts de conformité des entreprises restent strictement calculés en fonction des résultats financiers.

Écrit par Andreas Hofer andreas.hofer@alpineweekly.com