Wer entscheidet, was zur Wahl steht?

Es gibt eine durchaus vertraute Sorge, die man folgendermaßen in Worte fassen kann: Künstliche Intelligenz könnte uns Entscheidungen abnehmen. Programme könnten auswählen, bewerten, priorisieren und irgendwann so zuverlässig handeln, dass der Mensch nur noch bestätigt, was die Maschine längst im Vorfeld berechnet hat. Das hier erzeugte Bild mag eingängig erscheinen. Aber möglicherweise lenkt es den Blick auf die falsche Stelle. Denn die folgenreichere Veränderung muss nicht darin bestehen, dass eine Maschine an unserer Stelle entscheidet. Sie kann früher einsetzen, nämlich dort, wo entschieden wird, was uns überhaupt als Möglichkeit begegnet.

Wer eine Suchmaschine benutzt, einen Streamingdienst öffnet, einen Feed betrachtet oder einer Navigation folgt, steht nicht vor der Welt in ihrer ganzen Offenheit, sondern sieht zunächst einmal eine Auswahl. Beiträge sind sortiert, Fahrtwege werden angezeigt, Produkte erscheinen in einer bestimmten Reihenfolge, Clips werden empfohlen etc. Nichts von alledem zwingt zu einer bestimmten Entscheidung, ganz im Gegenteil. Man kann weiterscrollen, widersprechen, anders fahren, nichts kaufen. Die Entscheidung bleibt also ganz offenkundig beim Menschen. Nur ist das, worüber entschieden wird, bereits bearbeitet worden.

Eben darin liegt ein Unterschied, der allzu leicht übersehen wird. Freiheit wird gewöhnlich dort vermutet, wo mehrere Optionen offenstehen. A oder B, vielleicht auch C. Doch die Frage, warum gerade A, B und C sichtbar sind, während D, E und F gar nicht auftauchen, gehört selten zur Entscheidung selbst. Was nicht erscheint, muss nicht verboten werden. Es genügt, dass es im Augenblick des Entscheidens nicht vorkommt.

Nun handelt es sich dabei keineswegs um eine Erfindung des Digitalzeitalters, denn in der Tat urteilen Menschen nie voraussetzungslos. Sprache, Erziehung, Milieu, Bilder und Erzählungen geben mit vor, was als schön, normal, begehrenswert oder vernünftig gelten kann. Gustave Flaubert hat das in „Madame Bovary“ mit einer beeindruckenden Präzision beschrieben, die weit über eine Ehegeschichte hinausreicht. Emma Bovary misst ihre Ehe an Vorstellungen von Leidenschaft, Glück und erfülltem Leben, die längst vor ihrem tatsächlichen Zusammenleben mit ihrem Ehemann Charles existieren. Romane und Bilder haben einen Horizont erzeugt, innerhalb dessen ihr eigenes, wirkliches Leben erscheint und schließlich nur scheitern kann.^[1] Die interessante Frage lautet deshalb nicht, ob unser Urteil beeinflusst wird. Das wurde es immer. Interessant wird es vielmehr dort, wo die Bedingungen dieser Beeinflussung ihren Charakter verändern.

Digitale Systeme können Auswahl nicht nur massenhaft organisieren, sondern auf einzelne Personen zuschneiden und fortlaufend nachjustieren. Was jemand anklickt, betrachtet, überspringt, mit Like oder Dislike versieht, kauft oder bewertet, wird zum Ausgangspunkt weiterer Berechnungen. Die Umgebung reagiert auf denjenigen, der sich in ihr bewegt. Und dessen Reaktionen verändern wiederum die Umgebung.

Ein Empfehlungssystem zeigt etwas an. Der Mensch reagiert auf das Angezeigte. Die Reaktion wird indessen erfasst, und aus dem Erfassten werden wiederum Wahrscheinlichkeiten abgeleitet. Die nächste Auswahl fällt entsprechend anders aus. Der Mensch entscheidet erneut – nun allerdings in einer Umgebung, die seine vorherigen Entscheidungen bereits verarbeitet hat. Die technische Ordnung lernt nicht, wer der Mensch „wirklich“ ist. Sie bildet Regelmäßigkeiten seines Verhaltens ab und macht diese für weitere Auswahlprozesse nutzbar.

Genau hier wird der Begriff der Präfiguration interessant. Praefigurare bedeutet: vorausgestalten. Eine Entscheidung wird nicht determiniert; sie wird vorbereitet. Mit anderen Worten: Der sich entfaltende Möglichkeitsraum erhält Konturen, bevor das Urteil fällt. Bestimmte Dinge werden sichtbar, während andere an den Rand rücken. Manche Optionen erscheinen wahrscheinlich, passend oder naheliegend. Andere müssen nicht ausgeschlossen werden, um praktisch bedeutungslos zu werden.

All das mag zunächst nach einem Problem der Informationsauswahl klingen. Tatsächlich ist es weitreichender, denn jedes technische System, das klassifiziert, prognostiziert oder empfiehlt, benötigt Unterscheidungen. Etwas muss als relevant gelten, anderes als irrelevant. Merkmale müssen erfasst, Kategorien gebildet und Ziele festgelegt werden. Dabei erscheinen Daten leicht als etwas Vorgefundenes: als das, was eben „da“ bzw. gegeben ist. Die australische Medienwissenschaftlerin Kate Crawford hat darauf hingewiesen, dass Daten keineswegs einfach entdeckt werden. Was als Datum gilt, ist bereits Ergebnis von Auswahl, Ordnung und Kategorisierung.^[2] Datum kommt vom lateinischen dare – geben. Factum dagegen von facere – machen. Im technischen Gebrauch kann gerade das Gemachte den Anschein des Gegebenen annehmen.

Ein Score ist eine Zahl, eine Prognose ist eine Wahrscheinlichkeit. Beides sind Ergebnisse von Berechnungen, in denen in aller Regel nicht mehr sichtbar ist, welche Annahmen, Kategorien und Zielsetzungen nötig waren, damit diese Zahl, diese Wahrscheinlichkeit oder diese Rangfolge entstehen konnte. Das Ergebnis tritt hervor, während die Voraussetzungen des Ergebnisses verschwinden.

Der Soziologe Steffen Mau spricht in diesem Zusammenhang von „algorithmischer Autorität“ und von „Benennungsmacht“.^[3] Die Formulierung trifft einen wichtigen und zugleich empfindlichen Punkt, denn eine Benennung ist nicht gleichzusetzen mit einer Beschreibung. Unter bestimmten Bedingungen legt derjenige, der benennt, mit fest, als was etwas gesellschaftlich erscheint. Technische Klassifikationen können aus einer voraussetzungsreichen Deutung einen scheinbar eindeutigen Befund machen.

An dieser Stelle kommt die Urteilskraft ins Spiel. Urteilen heißt nicht nur, einen vorhandenen Maßstab korrekt anzuwenden. Urteilskraft zeigt sich auch und insbesondere darin, den Maßstab selbst befragen zu können. Warum gilt beispielsweise gerade dieses Merkmal als relevant, und warum wird jener Zustand als Erfolg definiert? Warum erscheint diese Option vor jener? Welche Unterschiede kann das System überhaupt erfassen – und welche verschwinden, weil sie nicht in die entsprechenden Kategorien passen?

Solange solche Fragen gestellt werden können, bleibt technische Vermittlung als Vermittlung sichtbar. Schwieriger wird es, wenn die erzeugte Ordnung selbstverständlich wird. Dann muss niemand ein Urteil verbieten, vielmehr genügt es, dass die Bedingungen des Urteilens nicht mehr als Bedingungen auffallen.

An diesem Punkt verändert sich auch das vertraute Bild vom Werkzeug. Mit einem Hammer kann man bekanntermaßen einen Nagel in die Wand schlagen. Nun bleibt aber ein Hammer derselbe Hammer, ganz gleich, wie oft und auf welche Weise wir ihn benutzen. Er beobachtet unseren Umgang mit ihm nicht und passt sich ihm auch nicht an. Datenbasierte Systeme können aber genau das: Sie erfassen unser Verhalten, verarbeiten es und verändern auf dieser Grundlage, was uns anschließend begegnet.

Der Philosoph Gotthard Günther hat bereits 1963 über Maschinen nachgedacht, die nicht nur Arbeit verrichten, sondern Informationen aufnehmen, verarbeiten und in Steuerungsimpulse übersetzen. Günther unterschied diesen projektierten kybernetischen bzw. transklassischen Maschinentyp von der klassischen Maschine.^[4] Gegenwärtige KI einfach mit Günthers transklassischer Maschine gleichzusetzen, wäre zu undifferenziert. Bemerkenswert bleibt dennoch die von ihm beschriebene Verschiebung. Genauer: Ein Teil dessen, was vormals beim Menschen lag – Wahrnehmen, Verarbeiten, Steuern –, wandert in technische Zusammenhänge.

Unter digitalen Bedingungen kommt noch etwas hinzu. Der Mensch liefert selbst fortwährend Material für diese Zusammenhänge. Funktional kann er damit zugleich Empfänger und Zulieferer, Sensor und Aktor werden. Er befindet sich nicht außerhalb der Schleife. Er ist ein Teil von ihr.

Das allein macht ihn nicht unfrei. Auch in technisch geordneten Umgebungen bleibt Handeln offen. Das Problem beginnt nicht dort, wo jede Alternative verschwindet, sondern findet dort seinen Anfang, wo die Hervorbringung von Alternativen selbst aus dem Blick gerät. Dann könnte etwas Eigentümliches geschehen. Menschen wählen, vergleichen, begründen und entscheiden weiterhin; sie erleben sich dabei mit guten Gründen als Handelnde. Zugleich wird allerdings ein wachsender Teil dessen, was ihnen als relevant, wahrscheinlich, passend oder erfolgversprechend erscheint, in technischen Prozessen vorgeordnet. Freiheit verschwindet also nicht, wohl aber verändert sie ihren Ort.

Vielleicht liegt darin eine anthropologisch folgenreichere Entwicklung als in der viel beschworenen Vorstellung einer KI, die den Menschen früher oder später ersetzt. Ein ersetzter Entscheider bemerkt, dass er nicht mehr entscheidet. Schwieriger ist eine Lage, in der der Mensch entscheidet und gerade deshalb keinen Anlass sieht, nach den Bedingungen seiner Entscheidung zu fragen. Mündigkeit hätte unter solchen Bedingungen weniger mit technischer Unabhängigkeit zu tun als mit der Fähigkeit, die eigene Verstrickung in technische Ordnungen wahrzunehmen. Entscheidend wäre also nicht, außerhalb der Schleife zu stehen, sondern die Schleife selbst zum Gegenstand des Urteilens machen zu können. Denn der Verlust von Freiheit müsste sich nicht als Verlust anfühlen. Vielmehr und sogar sehr wohl wäre es denkbar, dass wir weiterhin zwischen Möglichkeiten wählen, unsere Entscheidungen begründen und uns als freie Subjekte verstehen, während immer weniger sichtbar wird, wie der Raum entstanden ist, in dem diese Möglichkeiten überhaupt vorkommen. Die Frage lautet dann nicht mehr, ob künstliche Intelligenz eines Tages für uns entscheidet. Die unbequemere Frage lautet: Wie frei ist eine Entscheidung, wenn wir selbst entscheiden – aber nicht mehr bemerken, dass bereits darüber entschieden wurde, was zur Wahl steht?