août 30, 4:01 AM
L'appétit insatiable de l'État pour les contrôles algorithmiques
Face à la montée de la violence chez les jeunes, Canberra prépare une nouvelle vague d'interdictions numériques et de changements de plateforme.
Canberra semble être éternellement convaincue que les pathologies sociales peuvent être résolues en ajoutant quelques interrupteurs aux paramètres logiciels. Face à la hausse des taux de violence chez les jeunes et à des tendances sexuelles inquiétantes, le gouvernement australien envisage désormais des plans pour donner aux utilisateurs la possibilité d'activer ou de désactiver les algorithmes de recommandation.
Cette initiative, défendue par la ministre des Services sociaux Tanya Plibersek en collaboration avec le groupe de campagne Teach Us Consent, suit un schéma familier : identifier une crise culturelle, blâmer le flux et proposer une solution technocratique. Selon les chiffres cités par Plibersek, un compte nouvellement créé pour un jeune garçon ne prend en moyenne que 23 minutes pour être ciblé par du matériel misogyne violent. Parallèlement, 60 % des jeunes déclarent désormais avoir subi une strangulation lors de rencontres sexuelles – une réalité que les ministres attribuent directement à l'amplification algorithmique et aux médias pour adultes.
Pour lutter contre cela, le gouvernement ne se contente pas d'étudier des modifications d'algorithmes. Il examine également l'interdiction récente au Royaume-Uni des représentations de strangulation et de suffocation dans la pornographie pour adultes. L'urgence politique a été intensifiée par le décès d'une jeune fille de 16 ans à Sydney suite à un acte de strangulation sexuelle présumé impliquant l'asphyxie.
Pourtant, on peut se demander quelle sera l'efficacité d'une nouvelle série d'interdictions descendantes. Le bilan réglementaire de Canberra offre de nombreuses raisons de douter. Une interdiction générale des médias sociaux pour les moins de 16 ans est entrée en vigueur en décembre dernier, accompagnée d'exigences obligatoires de vérification de l'âge pour la pornographie. Plibersek a elle-même publiquement concédé que les enfants parviennent à contourner ces limites avec peu d'effort.
Imperturbable face à la porosité des interdictions existantes, le gouvernement se prépare à redoubler d'efforts. Un projet de loi sur le devoir de diligence numérique à venir vise à placer la responsabilité légale directement sur les plateformes technologiques et les entreprises d'intelligence artificielle pour sécuriser les espaces numériques. Une législation supplémentaire sur la vie privée est également en cours d'élaboration pour aborder la question des lunettes connectées équipées d'appareils photo, que le procureur général a demandé au commissaire à la vie privée d'examiner en raison de préoccupations concernant les enregistrements secrets et le chantage.
« Les entreprises technologiques devraient savoir que leurs produits sont sûrs et les rendre sûrs avant de les mettre à la disposition d'un public sans méfiance, » a déclaré Plibersek. Pourtant, transférer l'intégralité du fardeau de l'instruction morale et de la sécurité personnelle aux ingénieurs de la Silicon Valley et aux régulateurs étatiques reste une stratégie curieuse. Lorsque les interdictions précédentes échouent avant même que l'encre ne sèche, ajouter davantage de contrôles produit rarement un résultat différent.
Écrit par Christiane Hofreiter
