Algorithmen und Verwegenheit: Metas kostenpflichtige Plattform für KI-Missbrauch

Die programmatische Werbemaschine des Silicon Valley rühmt sich als Triumph moderner Ingenieurskunst, fähig, Milliarden von Menschen maßgeschneiderte Werbebotschaften in Millisekunden zuzustellen. Doch wenn es darum geht, illegales Material von seinen Plattformen fernzuhalten, zeigt sich der automatisierte Apparat überraschend blind. Ein Bericht des Tech Transparency Project hat enthüllt, dass Meta Zahlungen für Hunderte von Anzeigen angenommen hat, die KI-generiertes Material über sexuellen Kindesmissbrauch auf Facebook und Instagram enthielten.

Die in Washington ansässige Aufsichtsbehörde identifizierte 332 solcher Werbekampagnen in mehreren Gerichtsbarkeiten, darunter den Vereinigten Staaten, dem Vereinigten Königreich, Australien und Indien. Der Mechanismus hinter diesen Kampagnen ist ebenso zynisch wie technologisch einfach: echte Kinderfotos – darunter das eines Mitglieds einer europäischen Königsfamilie – wurden mithilfe künstlicher Intelligenz manipuliert, um explizite sexuelle Handlungen darzustellen. Die Anzeigen dienten hauptsächlich als Marketingtrichter, die Nutzer zu externer Software leiteten, die größtenteils von chinesischen Entwicklern erstellt wurde und darauf ausgelegt war, synthetische explizite Bilder zu erzeugen.

Metas Unternehmensverteidigung greift auf die bekannte Rhetorik des Wettrüstens in der digitalen Sicherheit zurück. In einer offiziellen Antwort auf Anfragen erklärte das Unternehmen: Wir tolerieren keine Nudify-Apps oder jegliche Form von Kinderpornografie, ob real oder KI-generiert. Diese Kriminellen ändern ständig ihre Taktiken, um der Entdeckung zu entgehen, weshalb wir unsere Erkennungs- und Durchsetzungsmaßnahmen ständig verstärken. Das Unternehmen fügte hinzu: Wir haben starke Abwehrmechanismen aufgebaut, darunter Systeme, die gegen Richtlinien verstoßende Anzeigen blockieren, sowie eine fortlaufende Überwachung, falls uns anfänglich etwas entgeht: Deshalb waren viele der uns gemeldeten Anzeigen bereits entfernt worden, die meisten hatten weniger als 200 Impressionen und die gesamten Werbeausgaben lagen unter 5.000 US-Dollar.

Solche offiziellen Beteuerungen stehen unbehaglich neben der Realität von Metas automatisierter Moderationsinfrastruktur. Als Forscher versuchten, 55 aktive missbräuchliche Anzeigen in Indien über die Standard-Benutzeroberfläche der Plattform zu melden, kam Metas System in 43 Fällen zu dem Schluss, dass der Inhalt nicht gegen seine Werbestandards verstieß. Erst nach direkten Medien- und Forschungsanfragen entfernte das Unternehmen das restliche Material und sperrte die zugrunde liegenden Konten.

Die geografische Konzentration dieser Kampagnen verdeutlicht systemische Durchsetzungslücken in Schwellenmärkten. Von den gemeldeten Promotionen liefen 84 in Indien, wobei 78 erschienen, nachdem indische Behörden Meta nach einer früheren Medienuntersuchung formell angewiesen hatten, sämtliches Material, das sexuellen Kindesmissbrauch fördert, zu entfernen. Einige der Platzierungen wurden durch Metas eigene offizielle Werbeagenturpartner in China, bekannt als Reseller, ermöglicht, die massive Werbevolumina auf die Plattform leiten.

Während Meta seinen rechtlichen Verpflichtungen in den Vereinigten Staaten nachkommt, indem es gemeldetes Material an das National Center for Missing and Exploited Children weiterleitet, weisen Kritiker darauf hin, dass die lokalen Strafverfolgungsbehörden in Marktgerichtsbarkeiten wie Indien weiterhin umgangen werden. Indische Kinderrechtsorganisationen haben das Problem vor den Obersten Gerichtshof des Landes gebracht und eine verpflichtende Meldung direkt an die lokalen Behörden gefordert. Für eine Plattform, die Werbeeinnahmen in zweistelliger Milliardenhöhe generiert, deutet die Abhängigkeit von automatisierten Ablehnungsalgorithmen, die extreme Verstöße erst nach Intervention externer Parteien erkennen, darauf hin, dass die Kosten für die Unternehmenskonformität strikt am Endergebnis kalkuliert werden.

Verfasst von Andreas Hofer andreas.hofer@alpineweekly.com