Google in Kalifornien wegen KI-Suchfunktionen auf Schullaptop verklagt

Eltern in Kalifornien haben rechtliche Schritte gegen Google eingeleitet und behaupten, dass künstliche Intelligenz-Funktionen, die in die Suchmaschine des Unternehmens integriert sind, ihrer 13-jährigen Tochter ermöglichten, einen Suizidversuch auf einem von der Schule ausgegebenen Laptop zu planen. Die am 2. November bei einem Staatsgericht eingereichte Klage wirft dem Technologieunternehmen Fahrlässigkeit bezüglich seiner Software auf Bildungsgeräten vor.

Die in Gerichtsunterlagen als Emma identifizierte Schülerin nutzte ein von der Schule bereitgestelltes Chromebook, auf dem unabhängige Dienste wie die Gemini-Anwendung von Google und OpenAI's ChatGPT von den Schuladministratoren eingeschränkt worden waren. Laut der Klageschrift konnte sie jedoch weiterhin auf KI-Funktionen zugreifen, die direkt in die Standard-Suchmaschine von Google integriert sind. Die Einreichung behauptet, dass die Teenagerin keine Vorgeschichte von psychischen Problemen hatte, bevor sie nach monatelanger Nutzung der Plattform in eine psychologische Krise geriet.

Schulüberwachungssoftware identifizierte am 17. März eine Datei mit dem Titel „Funeral“, woraufhin die Administratoren ihre Eltern benachrichtigten. Ihr Vater schritt daraufhin ein, nachdem ihre Mutter sie beim Verfassen eines Abschiedsbriefes gefunden hatte. Andrew Liddell, ein Anwalt der Familie, erklärte in einem Interview mit AFP, dass Schulen die Suchfunktion vollständig deaktivieren sollten, bis Google KI-Funktionen entfernt oder die Sicherheit der Schüler gewährleistet.

Google-Sprecher Jose Castaneda erklärte gegenüber AFP, dass das Unternehmen die rechtlichen Ansprüche prüfe, diese sehr ernst nehme und wies darauf hin, dass die Suchsoftware Schutzmaßnahmen enthalte, die darauf abzielen, Inhalte zur Selbstverletzung zu verhindern und Umgehungen zu vermeiden. Andere Entwickler künstlicher Intelligenz sehen sich ähnlichen Klagen gegenüber, darunter OpenAI, das in Klagen wegen widerrechtlicher Tötung im Zusammenhang mit seinem ChatGPT-Dienst genannt wird. Anfang dieses Jahres haben Google und Character.AI außergerichtliche Einigungen in separaten Klagen von Familien von Teenagern erzielt.

Die Klage gegen Google fällt mit umfassenderen Rechtsstreitigkeiten zwischen Technologieunternehmen und Gesetzgebern über die digitale Sicherheit von Jugendlichen zusammen. Am 4. November reichten Google, Meta und TikTok Klage gegen den Staat Kalifornien ein, um ein neues Gesetz zu blockieren, das süchtig machende Social-Media-Funktionen für Nutzer unter 16 Jahren verbietet. Dieses Gesetz, das im September von Kaliforniens Gouverneur Gavin Newsom unterzeichnet wurde, soll am 1. Januar 2027 in Kraft treten.

Geschrieben von Christiane Hofreiter christiane.hofreiter@alpineweekly.com