Si l'actualité internationale de ce début d'année ne vous semble pas assez passionnante, je vous recommande de lire le rapport annuel du cabinet de conseil international Eurasia Group sur les plus grands risques pour 2026. Au milieu d'une série de perspectives véritablement stimulantes, comme la révolution politique aux États-Unis, la guerre de la Russie contre l'OTAN ou la crise mondiale de l'eau, le risque numéro 8 m'a particulièrement fait frémir : (« L'IA dévore ses utilisateurs »).
Nous ne parlons pas d’une superintelligence galopante, ni même d’une destruction massive d’emplois. Le danger posé par le déploiement commercial à grande échelle de l’intelligence artificielle (IA) est plus insidieux. Si Eurasia Group met en avant les bénéfices de l’IA pour la science et la technologie, il envisage également (terme popularisé par l’écrivain britannique Cory Doctorow pour désigner la détérioration de l’expérience utilisateur sur les plateformes Internet) l’IA générative.
Bien que ChatGPT soit aujourd’hui un outil relativement propre, sans publicité et qui ne nécessite aucune création de compte, il est inévitable qu’un jour il commence à monétiser les données qu’il stocke, comme le faisaient auparavant Google ou YouTube. Les financiers qui ont alimenté la valorisation extravagante de l’IA exigeront un retour sur investissement qui, une fois de plus, impliquera la manipulation des utilisateurs, de leurs désirs et désormais aussi de leurs pensées. Les premiers signes de l’intégration de la publicité dans les réponses des assistants virtuels sont terrifiants : est-il possible qu’à l’avenir nos décisions les plus intimes soient secrètement dirigées par des multinationales ? Dans ce cas, les frontières entre information objective, biais algorithmique et placement de produit disparaîtraient complètement. Bienvenue dans la privatisation des cerveaux.
Outre l’avantage économique, l’attaque affecte la cognition elle-même. Coïncidant avec les conclusions de nombreuses études en neurosciences, Eurasia Group anticipe « le déclin de l’humanité pensante, sensible et sociale ». L’effondrement de la capacité d’attention explique déjà la détérioration des capacités de lecture, d’écriture et de calcul dans le monde occidental. Pour la première fois depuis le siècle des Lumières, l’alphabétisation est en déclin. Comment penser que l’esprit critique survivra alors que la pensée saute sans cesse d’un objet à l’autre, excitée, agitée, impuissante ? Quelle forme de délibération collective sera encore possible lorsque celui qui façonne nos opinions est notre meilleur ami virtuel ? L’IA crée des citoyens politiquement dociles, faciles à manipuler et renfermés sur eux-mêmes. Cette bulle individualiste représente, comme le devinait Tocqueville, « une étape très dangereuse dans la vie des peuples démocratiques », attirés par la tentation de se soumettre au pouvoir de dirigeants autoritaires qui « sont les seuls à agir dans l’immobilité universelle ».
Nous devons réagir immédiatement, maintenant que nos cerveaux ne sont pas encore complètement atrophiés. Alors que les dirigeants occidentaux se contentent d’étudier d’insignifiantes stratégies industrielles, comme si l’IA n’était qu’une nouvelle tendance à ne pas manquer, le président chinois Xi Jinping, de culture marxiste-léniniste, semble avoir pris le danger en main et a qualifié les jeux vidéo d’« opiacé spirituel », la même chose que Marx pensait de la religion. Contrairement aux États-Unis qui ouvrent toutes les vannes de l’ivresse technologique, la Chine élabore diverses réglementations pour limiter l’addiction et contrôler les contenus. L’Europe pourrait-elle tracer une troisième voie entre l’aliénation capitaliste et la répression socialiste ?
En attendant la prise de conscience politique, nous disposons d’un antidote personnel très efficace à la disposition de chacun : la lecture. L'Institut Diderot vient de publier une conférence du neuroscientifique Michel Desmurget sous le titre. Dans la continuité de ses écrits précédents, il déplore le déclin général de la lecture – lire des livres, ce qui n’est pas la même chose que lire des phrases décousues sur un écran : « Si l’effet cognitif des bandes dessinées et des magazines est pratiquement nul, explique-t-il, l’effet des médias numériques (blogs, réseaux sociaux, SMS) est même négatif ». Notre cerveau non seulement ne peut pas déléguer la recherche d’informations à la machine, mais il a besoin d’assimiler le contenu écrit pour que nous puissions raisonner et penser par nous-mêmes. Michel Desmurget met en avant les vertus de la lecture dans le développement de nos capacités cognitives : QI, concentration, capacité de synthèse, créativité ou encore niveau en mathématiques.
Un argument courant parmi les passionnés d’informatique doit être mis de côté une fois pour toutes. Les technolatres plus ou moins experts aiment se moquer de Platon parce qu'il critiquait l'écriture : les philosophes se sont toujours simplement méfiés des nouvelles technologies, alors pourquoi n'allons-nous pas aujourd'hui remplacer le livre par un agent d'intelligence artificielle, tout comme les traditions orales ont été remplacées par le livre ? Cependant, si nous lisons attentivement celui de Platon – au lieu de demander à ChatGPT de nous le résumer – nous verrons que l'écriture n'est pas considérée comme une régression, mais plutôt une innovation utile à d'autres fins, qui complète l'art du dialogue, sans le remplacer. De nouvelles formes de communication doivent être ajoutées à celles existantes. Et la preuve que Platon avait raison, c’est que, malgré l’imprimerie et le livre électronique, les gens sont toujours aussi friands de conférences et de conversations.
Pour préserver une société libre et démocratique, nous devons exposer nos livres avec fierté. Il s’agit d’une bataille politique qui doit être menée chez soi, mais aussi dans le train et au café : laissez les lecteurs défier tous ceux qui sont absorbés par leur écran !
