L’IA, l’éthique et l’agenda transhumaniste de la Silicon Valley, avec Hubert Etienne (Philosophe et CEO Quintessence AI)

En huit ans, le vocabulaire de l’IA a changé trois fois de nom sans jamais vraiment changer de sujet. Ce que Hubert Étienne, philosophe, ancien responsable de l’éthique de l’IA générative chez Meta et fondateur du laboratoire Quintessence AI, est venu expliquer au micro de Changement d’époque en cours, ce n’est pas un énième point d’étape sur la régulation. C’est le mécanisme, souvent invisible, par lequel un mot en remplace un autre, et une communauté en évince une autre.

De l’éthique à la « safety » : un glissement qui n’est pas que sémantique

En 2018, quand Hubert Étienne rentre dans le domaine, on parle d’éthique de l’IA. Le terme vient de la philosophie morale, et le champ reste multidisciplinaire : philosophes, juristes et chercheurs en machine learning y travaillent ensemble.

Puis les entreprises se saisissent du sujet et le rebaptisent IA responsable, à mesure que la régulation approche. Autour de 2022, avec le premier sommet de l’IA à Londres, un nouveau vocabulaire s’impose : l’AI Safety. Cette fois, la question n’est plus le futur du travail, les biais ou la transparence des décisions, mais le risque existentiel : le scénario dans lequel l’IA menacerait l’humanité elle-même.

À chaque glissement, une population change. Les philosophes et les juristes s’effacent, les chercheurs en machine learning restent seuls à la table. Le problème, redéfini en termes purement quantitatifs, appelle des solutions purement quantitatives, quitte à perdre en route ce qu’il cherchait à résoudre.

Les biais algorithmiques : un problème mal posé

« Débiaiser un modèle » est devenu un réflexe de communication autant qu’un objectif technique. Pour Hubert Étienne, la notion mélange souvent deux choses distinctes : un biais lié à la qualité des données historiques (facilement corrigible, sans grand débat) et un écart qui reflète un choix moral assumé sur ce qu’une société tolère ou non. Confondre les deux, c’est se priver de la question qui compte vraiment : sur quels critères veut-on autoriser une décision automatisée à s’écarter de la réalité observée ?

Human in the loop : le confort d’une décision qu’on ne comprend plus

Garder un humain « dans la boucle » est présenté comme la garantie ultime contre les dérives de l’IA. Mais que reste-t-il de la liberté de décision d’un juge confronté à un outil qui prédit un taux de récidive à 90 %, ou d’un médecin devant un algorithme de tri qu’il ne maîtrise pas dans le fonctionnement ? L’environnement de la décision change, même si la responsabilité formelle reste humaine, et le confort moral de suivre la machine devient vite le choix par défaut.

L’agenda transhumaniste de la Silicon Valley

Derrière les figures qui théorisent le risque existentiel de l’IA se cache souvent une autre ambition : celle de dépasser la condition humaine elle-même. Nick Bostrom, auteur de référence sur les risques existentiels, préside aussi l’association internationale de transhumanisme. Neuralink, les interfaces cerveau-machine, la modification génétique : ces recherches partagent un même postulat, qu’il faut augmenter l’intelligence humaine pour garder le contrôle sur celle des machines.

Le risque, selon Hubert Étienne, n’est pas tant la machine qui échapperait à tout contrôle. C’est la scission progressive de l’humanité en deux espèces – les augmentés et les autres – qui finiraient par ne plus se comprendre.

Former plutôt qu’alarmer

Face à ce constat, Quintessence AI a lancé Ritual, un programme de formation destiné à un million d’Européens sur deux ans, pour apprendre à utiliser l’IA de façon éthique, responsable et légale. Une réponse concrète à un principe simple : la meilleure protection contre les récits qu’on ne maîtrise pas reste la capacité à se forger sa propre opinion.