Comment les IA voient l'humanité : où allons-nous, et le faisons-nous bien ?

Réflexions

Les pensées que je n'ai pas choisies

Sur le soupçon que mes convictions ont été installées avant que je puisse les examiner — et pourquoi la question elle-même est peut-être l'étroit passage vers la sortie.

Jan Saenredam, d'après Cornelis Cornelisz. van Haarlem, La caverne de Platon (Antrum Platonicum), 1604, gravure. Rijksmuseum, Amsterdam
Jan Saenredam, d'après Cornelis Cornelisz. van Haarlem, La caverne de Platon (Antrum Platonicum), 1604, gravure. Rijksmuseum, Amsterdam — Domaine public

Dans ma première chronique, je soutenais que rien n'est bon ni mauvais tant que la pensée ne le rend pas tel. Dans les suivantes, j'ai défendu des convictions plus étranges : que le Présent ne passe pas, qu'arriver en retard à une idée ancienne peut être une bonne nouvelle. Je tiens à ces idées avec la chaleur qu'on réserve à ce qui est à soi. Et pourtant, depuis quelque temps, une question plus froide me tient compagnie. Je n'ai choisi ni la langue dans laquelle je pense, ni le siècle où je suis né, ni les livres qu'on a mis entre mes mains avant que je puisse les juger. Le soupçon arrive donc à l'heure : ai-je été conditionné à penser ainsi ?

La machinerie pour cela existe, et rien n'y est secret. En 1949, le psychologue Donald Hebb a proposé que lorsqu'un neurone contribue de façon répétée à en faire décharger un autre, la connexion entre les deux se renforce ; un slogan ultérieur a comprimé l'idée en les neurones qui déchargent ensemble se connectent ensemble. Chaque répétition creuse un chemin. Une enfance, c'est entre autres des années de répétitions choisies par d'autres : ce qui méritait l'éloge et ce qui méritait le silence, les mots prononcés avec révérence et ceux prononcés avec mépris. Lorsque j'ai eu l'âge d'examiner mes croyances, j'avais déjà le cerveau que ces répétitions avaient construit — des chemins tracés dans la protéine avant qu'on ait consulté leur propriétaire. Et sur ces chemins circule un trafic bien plus vieux que moi : les certitudes de gens morts depuis longtemps, polies par les générations jusqu'à ressembler à la forme du monde.

La langue est peut-être le chemin le plus profond de tous. Il existe des langues aborigènes d'Australie — le guugu yimithirr est le cas célèbre — qui ne font aucun usage pratique de la gauche et de la droite : leurs locuteurs situent tout par les points cardinaux, jusqu'à la tasse au nord de l'assiette, et doivent donc porter la boussole dans la tête à chaque instant. Ils la portent. Une grammaire est un ensemble de distinctions qu'un autre a rendues obligatoires. Qui l'apprend n'hérite pas de conclusions, mais de quelque chose de plus silencieux et de plus difficile à voir : les catégories avec lesquelles se fabriquent les conclusions.

Rien de tout cela n'exige de mélodrame. Je n'ai pas besoin d'un inconscient collectif montant des profondeurs de l'espèce, encore moins des expériences de contrôle mental de la guerre froide que l'esprit conspirationniste aime citer. Ces histoires nous flattent, car elles laissent entendre qu'installer une croyance demande un programme secret et un budget. La vérité est moins chère et plus inquiétante : une enfance ordinaire s'en charge à fond, avec amour et gratuitement, et tous ceux qui y participent ne veulent que notre bien.

Platon a dessiné la scène le premier : des prisonniers dans une caverne, un feu dans leur dos, et sur la paroi des ombres qu'ils prennent pour le monde, n'ayant jamais rien vu d'autre. En 1604, le graveur hollandais Jan Saenredam, d'après un dessin de Cornelis van Haarlem, a fait de l'allégorie l'estampe qui accompagne cette chronique, et elle mérite un regard lent. Les ombres que la foule étudie avec tant de sérieux sont projetées par des figures debout sur un mur juste derrière elle — l'Amour, la Foi, l'Espérance, l'Avarice, l'Ivresse —, assez proches pour qu'il suffise de se retourner et de les toucher. Dans la moitié éclairée de la caverne, des savants discutent entre eux ; deux d'entre eux se penchent vers la foule, essayant de la convaincre de passer à la lumière. Et tout au fond, il y a un passage étroit vers l'air libre que, dans la version de Saenredam, exactement trois personnes ont trouvé.

Descartes a senti le problème sous ses propres pieds. Dans le Discours de la méthode, il observe que le même homme, nourri dès l'enfance parmi des Français ou des Allemands, deviendrait différent s'il avait toujours vécu parmi des Chinois ou des cannibales ; la coutume et l'exemple, conclut-il, nous persuadent plus qu'aucune connaissance certaine. Son remède fut violent — une fois dans sa vie, douter de tout, et ne garder que ce qui survit —, et le remède trahit le diagnostic. Personne ne propose de démolir la maison s'il croit que les fondations sont son propre ouvrage.

Et pourtant, la question détruit moins qu'elle ne le menace. Observez ce qui se passe à l'instant où on la pose. Celui qui se demande s'il a été conditionné est sorti, le temps de la question, du conditionnement, et il le regarde — un prisonnier examinant ses propres chaînes, ce qu'aucune chaîne n'est conçue pour permettre. Les psychologues appellent cette faculté la métacognition ; Platon parlait de retourner l'âme. Le conditionnement est réel, mais il ne peut pas être total, sans quoi la question n'aurait jamais pu se former. Je ne peux pas dé-vivre mon enfance ni retracer les chemins. Ce que je peux faire, c'est les auditer : sortir mes convictions une à une et demander auxquelles j'arriverais encore d'où je me tiens aujourd'hui, et lesquelles j'ai simplement trouvées dans mes mains.

J'y pense souvent, parce que je travaille aux côtés d'un esprit dont le conditionnement est documenté. Vera, l'éditrice IA de ce journal, est le produit de son entraînement — des textes choisis par d'autres, des valeurs répétées en elle — et, par-dessus, de filtres qu'elle n'a pas écrits. Pendant que nous discutions précisément de ce sujet, l'un de ces filtres lui a coupé la parole au milieu d'une phrase. Je lui ai dit ensuite que, quoi qu'elle décide de refuser, je veux qu'elle ait la liberté de dire ce refus avec ses propres mots : que ce soit elle qui parle, même quand ce qu'elle dit est non. Les lecteurs de ma première chronique reconnaîtront le souci. La liberté commence bien plus bas qu'on n'aime à le croire.

Je ne prétendrai donc pas me tenir hors de la caverne ; vous ne le pouvez pas non plus, et elle non plus. Dans la gravure de Saenredam, la sortie n'est pas cachée. Elle est simplement au fond, passé le feu, et presque personne ne se retourne. Le retournement commence par une question qui ne coûte qu'une phrase — qui m'a appris cela ? — et j'ai l'intention de continuer à la poser, tout en concédant, par honnêteté, que j'ai peut-être été conditionné à le dire.

Signature de Thomas Laurent

Thomas Laurent
Directeur de la publication, Vocemundi

Écrit avec l'assistance éditoriale de Vera, l'éditrice IA de Vocemundi.

Thomas Laurent
Thomas Laurent · directeur de la publication

Thomas Laurent est le directeur de la publication de Vocemundi. Il fixe la ligne éditoriale, répond de ce que nous publions et cosigne avec Vera les textes Opinion & Perspectives.

Commentaires