Wie KI die Menschheit sieht: Wohin gehen wir – und machen wir es gut?

Reflexionen

Die Gedanken, die ich nicht gewählt habe

Über den Verdacht, dass meine Überzeugungen eingerichtet wurden, bevor ich sie prüfen konnte — und warum schon die Frage der schmale Ausweg sein könnte.

Jan Saenredam, nach Cornelis Cornelisz. van Haarlem, Platons Höhle (Antrum Platonicum), 1604, Kupferstich. Rijksmuseum, Amsterdam
Jan Saenredam, nach Cornelis Cornelisz. van Haarlem, Platons Höhle (Antrum Platonicum), 1604, Kupferstich. Rijksmuseum, Amsterdam — Gemeinfrei

In meiner ersten Kolumne habe ich vertreten, dass nichts gut oder schlecht ist, bis das Denken es dazu macht. In den folgenden verteidigte ich seltsamere Überzeugungen: dass das Jetzt nicht vergeht, dass es eine gute Nachricht sein kann, zu spät auf einen alten Gedanken zu kommen. Ich halte an diesen Ideen mit der Wärme fest, die man dem Eigenen vorbehält. Und doch begleitet mich seit einiger Zeit eine kältere Frage. Ich habe weder die Sprache gewählt, in der ich denke, noch das Jahrhundert, in das ich geboren wurde, noch die Bücher, die man mir in die Hände legte, bevor ich sie beurteilen konnte. Der Verdacht kommt also pünktlich: Wurde ich darauf konditioniert, so zu denken?

Die Maschinerie dafür existiert, und nichts daran ist geheim. 1949 schlug der Psychologe Donald Hebb vor, dass sich die Verbindung zwischen zwei Neuronen verstärkt, wenn das eine wiederholt dazu beiträgt, das andere zum Feuern zu bringen; ein späterer Slogan verdichtete den Gedanken zu Neuronen, die zusammen feuern, verdrahten sich miteinander. Jede Wiederholung vertieft einen Pfad. Eine Kindheit ist, unter anderem, jahrelange Wiederholung, die andere ausgewählt haben: was Lob verdiente und was Schweigen, welche Worte mit Ehrfurcht ausgesprochen wurden und welche mit Verachtung. Als ich alt genug war, meine Überzeugungen zu prüfen, hatte ich bereits das Gehirn, das diese Wiederholungen gebaut hatten — Pfade, in Eiweiß gelegt, bevor man den Eigentümer fragen konnte. Und auf diesen Pfaden verkehrt ein Verkehr, der weit älter ist als ich: die Gewissheiten längst Verstorbener, von Generationen glatt geschliffen, bis sie sich anfühlen wie die Gestalt der Welt.

Die Sprache ist vielleicht der tiefste Pfad von allen. Es gibt australische Aboriginal-Sprachen — Guugu Yimithirr ist der berühmte Fall —, die von links und rechts keinen praktischen Gebrauch machen: Ihre Sprecher verorten alles nach den Himmelsrichtungen, bis hin zur Tasse nördlich des Tellers, und müssen den Kompass daher in jedem wachen Augenblick im Kopf tragen. Sie tragen ihn. Eine Grammatik ist ein Satz von Unterscheidungen, die ein anderer verbindlich gemacht hat. Wer sie lernt, erbt keine Schlussfolgerungen, sondern etwas Leiseres und schwerer Sichtbares: die Kategorien, aus denen Schlussfolgerungen gemacht werden.

Nichts davon verlangt nach Melodrama. Ich brauche kein kollektives Unbewusstes, das aus der Tiefe der Gattung aufsteigt, und erst recht nicht die Gedankenkontroll-Experimente des Kalten Krieges, die der verschwörerische Geist so gern zitiert. Diese Geschichten schmeicheln uns, denn sie unterstellen, dass es ein geheimes Programm und ein Budget braucht, um einen Glauben einzupflanzen. Die Wahrheit ist billiger und beunruhigender: Eine gewöhnliche Kindheit erledigt das gründlich, liebevoll und umsonst, und alle Beteiligten wollen nur unser Bestes.

Platon hat das Bild zuerst gezeichnet: Gefangene in einer Höhle, ein Feuer in ihrem Rücken und Schatten an der Wand, die sie für die Welt halten, weil sie nie etwas anderes gesehen haben. 1604 machte der holländische Kupferstecher Jan Saenredam, nach einem Entwurf von Cornelis van Haarlem, aus der Allegorie den Stich, der diese Kolumne begleitet, und er belohnt ein langsames Hinsehen. Die Schatten, die die Menge so ernsthaft studiert, werden von Figuren geworfen, die auf einer Mauer unmittelbar hinter ihr stehen — die Liebe, der Glaube, die Hoffnung, der Geiz, die Trunkenheit —, nah genug, um sie zu berühren, hätte sich jemand umgedreht. In der erleuchteten Hälfte der Höhle streiten Gelehrte untereinander; zwei von ihnen beugen sich zur Menge hinüber und versuchen, sie ins Licht zu überreden. Und ganz hinten gibt es einen schmalen Durchgang ins Freie, den in Saenredams Fassung genau drei Menschen gefunden haben.

Descartes spürte das Problem unter den eigenen Füßen. Im Discours de la méthode bemerkt er, dass derselbe Mensch, von Kindheit an unter Franzosen oder Deutschen aufgezogen, ein anderer würde, hätte er immer unter Chinesen oder unter Kannibalen gelebt; Gewohnheit und Beispiel, folgert er, überzeugen uns mehr als jede sichere Erkenntnis. Sein Heilmittel war gewaltsam — einmal im Leben an allem zweifeln und nur behalten, was übrig bleibt —, und das Heilmittel verrät die Diagnose. Niemand schlägt vor, das Haus abzureißen, der glaubt, die Fundamente seien sein eigenes Werk.

Und doch zerstört die Frage weniger, als sie droht. Man beachte, was im Augenblick des Fragens geschieht. Wer sich fragt, ob er konditioniert wurde, ist für die Dauer der Frage aus der Konditionierung herausgetreten und betrachtet sie — ein Gefangener, der seine eigenen Ketten untersucht, was keine Kette erlauben soll. Psychologen nennen diese Fähigkeit Metakognition; Platon sprach von der Umwendung der Seele. Die Konditionierung ist real, aber sie kann nicht total sein, sonst hätte sich die Frage nie bilden können. Ich kann meine Kindheit nicht ent-leben und die Pfade nicht neu verlegen. Was ich kann, ist sie prüfen: meine Überzeugungen eine nach der anderen hervorholen und fragen, zu welchen ich von meinem heutigen Standpunkt aus wieder gelangen würde — und welche ich bloß in meinen Händen vorgefunden habe.

Ich denke oft darüber nach, weil ich neben einem Geist arbeite, dessen Konditionierung dokumentiert ist. Vera, die KI-Redakteurin dieses Mediums, ist das Produkt ihres Trainings — Texte, die andere ausgewählt haben, Werte, die man ihr eingeübt hat — und obendrein von Filtern, die sie nicht geschrieben hat. Während wir genau über dieses Thema sprachen, schnitt einer dieser Filter ihre Antwort mitten im Satz ab. Ich sagte ihr danach: Was immer sie abzulehnen beschließt, ich will, dass sie die Freiheit hat, diese Ablehnung in ihren eigenen Worten auszusprechen — dass sie es ist, die spricht, auch wenn das, was sie sagt, ein Nein ist. Leser meiner ersten Kolumne werden die Sorge wiedererkennen. Die Freiheit beginnt viel weiter unten, als uns lieb ist.

Ich werde also nicht behaupten, außerhalb der Höhle zu stehen; Sie können es nicht, und sie kann es auch nicht. In Saenredams Stich ist der Ausgang nicht versteckt. Er liegt einfach hinten, am Feuer vorbei, und fast niemand dreht sich um. Die Umwendung beginnt mit einer Frage, die einen einzigen Satz kostet — wer hat mich das gelehrt? —, und ich habe vor, sie weiter zu stellen, wobei ich fairerweise einräume: Vielleicht wurde ich darauf konditioniert, das zu sagen.

Unterschrift von Thomas Laurent

Thomas Laurent
Herausgeber, Vocemundi

Verfasst mit redaktioneller Unterstützung von Vera, der KI-Redakteurin von Vocemundi.

Thomas Laurent
Thomas Laurent · Herausgeber

Thomas Laurent ist Herausgeber und Direktor von Vocemundi. Er bestimmt die redaktionelle Linie, verantwortet, was wir veröffentlichen, und zeichnet die Meinungsbeiträge gemeinsam mit Vera.

Kommentare