Google poursuivi en Californie pour les fonctionnalités de recherche IA sur un ordinateur portable scolaire

Des parents en Californie ont intenté une action en justice contre Google, alléguant que les fonctionnalités d'intelligence artificielle intégrées à son moteur de recherche ont permis à leur fille de 13 ans de planifier une tentative de suicide sur un ordinateur portable fourni par l'école. La plainte, déposée le 2 novembre devant un tribunal d'État, accuse l'entreprise technologique de négligence concernant son logiciel sur les appareils éducatifs.

L'élève, identifiée dans les documents judiciaires comme Emma, utilisait un Chromebook fourni par l'école sur lequel des services indépendants tels que l'application Gemini de Google et ChatGPT d'OpenAI avaient été restreints par les administrateurs scolaires. Selon la plainte, elle a néanmoins pu accéder aux fonctionnalités d'IA intégrées directement dans le moteur de recherche standard de Google. Le dossier affirme que l'adolescente n'avait aucun antécédent de problèmes de santé mentale avant d'entrer dans une crise psychologique après des mois d'utilisation de la plateforme.

Le logiciel de surveillance scolaire a identifié un fichier intitulé Funeral le 17 mars, ce qui a incité les administrateurs à avertir ses parents. Son père est ensuite intervenu après que sa mère l'a trouvée en train d'écrire une lettre d'adieu. Andrew Liddell, un avocat représentant la famille, a déclaré dans une interview à l'AFP que les écoles devraient désactiver entièrement la fonction de recherche jusqu'à ce que Google supprime les fonctionnalités d'IA ou assure la sécurité des élèves.

Jose Castaneda, porte-parole de Google, a déclaré à l'AFP que l'entreprise examinait les allégations juridiques, les prenant très au sérieux, et a noté que le logiciel de recherche comprend des protections conçues pour prévenir les contenus d'automutilation et les contournements. D'autres développeurs d'intelligence artificielle sont confrontés à des litiges similaires, y compris OpenAI, qui est nommé dans des procès pour mort injustifiée liés à son service ChatGPT. Plus tôt cette année, Google et Character.AI ont conclu des règlements à l'amiable dans des actions en justice distinctes intentées par des familles d'adolescents.

Le procès contre Google coïncide avec des batailles juridiques plus larges entre les entreprises technologiques et les législateurs concernant la sécurité numérique des jeunes. Le 4 novembre, Google, Meta et TikTok ont intenté une action en justice contre l'État de Californie pour bloquer une nouvelle loi interdisant les fonctionnalités de médias sociaux addictives pour les utilisateurs de moins de 16 ans. Cette loi, signée par le gouverneur de Californie Gavin Newsom en septembre, devrait entrer en vigueur le 1er janvier 2027.

Écrit par Christiane Hofreiter christiane.hofreiter@alpineweekly.com