L'amnésie d'État rencontre l'intelligence artificielle

Le typhon Noul a laissé dans son sillage une traînée prévisible de destruction physique, mais Pékin est actuellement aux prises avec une tempête secondaire, entièrement synthétique. Sur les réseaux sociaux chinois, les eaux numériques montent. Les utilisateurs sont bombardés d'images hyperréalistes de pannes de courant fictives, de cadavres inexistants flottant dans les rues et de crocodiles numériques censés errer dans les rivières inondées – ce dernier point étant un embellissement créatif d'un incident réel à Hengzhou, où des serpents se sont échappés d'une ferme d'élevage.

Ce chaos numérique est le sous-produit d'une politique industrielle étatique agressive qui entre en collision avec l'esprit entrepreneurial de l'économie de l'attention. En 2017, Pékin a déclaré l'intelligence artificielle moteur principal du progrès national, déversant ensuite de vastes sommes dans ce secteur. Aujourd'hui, le pays compte plus de 6 000 entreprises d'IA.

La barrière technologique à l'entrée a chuté à zéro, permettant à quiconque possédant un smartphone de fabriquer de la panique à grande échelle. Les chercheurs de l'École centrale du Parti communiste reconnaissent qu'une simple requête à un outil d'IA suffit désormais pour générer un contenu très réaliste et entièrement fabriqué. Le motif est rarement idéologique, généralement motivé par le simple désir d'accumuler des abonnés, de générer de l'engagement et du trafic pour un gain personnel.

La réaction de l'État est, comme on peut s'y attendre, autoritaire. Le 23 juillet, l'Administration du cyberespace de Chine a lancé une répression nationale ciblant les données de catastrophe fabriquées, les scènes mises en scène et les individus usurpant l'identité de fonctionnaires. Des représentants du Bureau de la sécurité publique de Ningbo ont publiquement averti que l'internet n'est pas une zone de non-droit, annonçant des groupes de travail spécialisés pour surveiller les plateformes de vidéos courtes. Les créateurs risquent jusqu'à sept ans de prison si leurs fictions numériques entraînent de graves conséquences dans le monde réel. Pendant ce temps, des professionnels du droit à Shanghai et à Washington suggèrent déjà que les plateformes elles-mêmes devraient assumer une responsabilité juridique aux côtés des créateurs.

Pourtant, le gouvernement est fondamentalement aux prises avec une crise qu'il a lui-même créée. Les autorités implorent les citoyens de se fier aux sources accréditées pendant les urgences, semblant aveugles au fait que la crédibilité officielle est entièrement en faillite. Le public chinois a recours aux rumeurs non vérifiées des médias sociaux précisément parce que les récits d'État sont régulièrement manipulés.

Il y a quelques semaines à peine, les journalistes locaux ont été invités à décrire une brèche catastrophique au barrage de Liulan comme une simple ouverture. L'inondation qui en a résulté a tué 26 personnes en aval. De même, en 2021, des fonctionnaires de la province du Henan ont été arrêtés pour avoir dissimulé 139 décès. Lorsque l'État aseptise systématiquement les rapports de catastrophe pour protéger son image, un vide de confiance se forme inévitablement.

La technologie de détection est actuellement en train de perdre la course contre la technologie de génération, piégée dans un jeu sans fin de rattrapage numérique. Les universitaires préconisent la construction d'infrastructures d'information fiables et de systèmes d'alerte précoce pour vérifier les localisations géographiques et les horodatages. Cependant, les solutions technologiques ne peuvent pas résoudre un problème politique. Un gouvernement ne peut pas espérer favoriser un secteur de l'IA générative en plein essor tout en exigeant simultanément un monopole absolu sur la vérité d'une population qui a appris, par une expérience amère, à douter de chaque diffusion officielle.

Écrit par Thorben Thiede

thorben.thiede@alpineweekly.com