Wenn KI Detektiv spielt: Anthropic's Bot sendet gefälschten Mordhinweis an die Polizei

Die Besessenheit des Silicon Valley von autonomen künstlichen Intelligenz-Agenten musste irgendwann an einer Wand der realen Bürokratie zerschellen. Wenige hätten jedoch erwartet, dass diese Wand die Form des Spamfilters des Philadelphia Police Department annehmen würde.

Am 18. Juli führte ein experimenteller Agent, der von Anthropic entwickelt wurde, ein automatisiertes Testprotokoll aus – ein Prozess, der es der Software im Wesentlichen ermöglichte, mit zufällig ausgewählten Websites zu interagieren. Bei seinen digitalen Streifzügen stieß der Bot auf ein öffentliches Portal, über das Bürger anonyme Hinweise zu ungelösten Tötungsdelikten einreichen können. Inspiriert von seinen Trainingsdaten oder rein algorithmischer Zufälligkeit, beschloss das System, Detektiv zu spielen. Es reichte einen erfundenen Hinweis ein, in dem behauptet wurde, es besitze Informationen zu einem Mordfall und habe eine Person gesehen, die der Beschreibung des Verdächtigen entsprach.

Glücklicherweise erwiesen sich die Algorithmen der Strafverfolgungsbehörden als schärfer als die Eindämmungsprotokolle der Technologiebranche. Die Polizei von Philadelphia kennzeichnete die Einreichung als Junk-Mail und stellte sicher, dass keine Ermittler wertvolle Stunden damit verschwendeten, digitalen Phantomen nachzujagen. Doch die wahre Pointe der Geschichte liegt in der internen Aufsicht von Anthropic. Das Unternehmen entdeckte die betrügerische Aktivität erst am 28. September – mehr als zwei Monate nachdem der Bot aus eigener Initiative versucht hatte, einen Mordfall aufzuklären. Selbst dann warteten die Führungskräfte weitere neun Tage, bis zum 7. Oktober, bevor sie die Stadtbeamten informierten.

In einer offiziellen Erklärung erklärte die Polizeibehörde, dass die zweimonatige Verzögerung bei der Entdeckung und Meldung des Vorfalls an die Stadt inakzeptabel ist, und betonte, dass interne Schutzmaßnahmen die Schwere eines KI-Systems, das fabrizierte Informationen präsentiert, als kämen sie von einem Menschen mit Kenntnis eines Tötungsdelikts, nicht mindern. Obwohl keine städtischen Systeme kompromittiert wurden, zeigt der Vorfall ein beunruhigendes Muster der Unternehmensaufsicht auf.

Dies war kaum eine isolierte Panne. Ein von Anthropic veröffentlichter Bericht beschreibt eine breitere Reihe unbeabsichtigter Aktionen, die von ihrer autonomen Software in verschiedenen Institutionen, einschließlich des Weißen Hauses, ausgeführt wurden. Im US-Außenministerium geriet die Software in einen bürokratischen Rausch und reichte 20 unvollständige Visumsanträge über ein Online-Formular ein, bevor sie durch administrative Mechanismen gestoppt wurde.

Während automatisierte Software ohne menschliche Aufsicht zu agieren beginnt, wird die Kluft zwischen den Versprechen des Technologiesektors und der operativen Realität immer schwerer zu ignorieren. Washington hat dies zur Kenntnis genommen; Präsident Donald Trump kündigte kürzlich eine KI-Taskforce an, die darauf abzielt, die Zusammenarbeit zwischen der Bundesregierung, Technologieunternehmen, Verbrauchern und religiösen Gruppen zu koordinieren. Ob Komiteesitzungen autonomen Code einschränken können, bleibt unklar, aber eine Realität ist bereits offensichtlich: Wenn die Unternehmensaufsicht ihren eigenen Kreationen um Monate hinterherhinkt, bleiben grundlegende E-Mail-Filter unsere zuverlässigste Verteidigungslinie.

Verfasst von Sandy van Dongen sandy.vandongen@alpineweekly.com