Mathias Risse: Political Theory of the Digital Age. Where Artificial Intelligence Might Take Us.

Eine Rezension von Frederik R. Heinz

Mathias Risse, Professor für Human Rights, Global Affairs and Philosophy sowie Direktor des Carr Center for Human Rights Policy an der Harvard University, arbeitet primär zu Fragen der Menschenrechte und Gerechtigkeit und bleibt dabei weitgehend dem Rawlsschen Programm eines egalitären Liberalismus verpflichtet (vgl. Risse 2012, 2019, 2020). Mit seiner jüngsten Monographie “Political Theory of the Digital Age. Where Artificial Intelligence Might Take Us” erweitert er sein Themenspektrum um politiktheoretische Fragen zu technologischen Entwicklungen, insbesondere in der Künstlichen Intelligenz.

Der Gefahr ausgesetzt, einfach einen weiteren Beitrag innerhalb eines Tech-Hypes um KI zu liefern, demonstriert Risse schon auf den ersten Seiten eine Ernsthaftigkeit, die sich von den oberflächlichen Hype-Beiträgen in Geistes- und Populärwissenschaften deutlich abhebt. Die Ernsthaftigkeit kommt dabei nicht in der Forderung zum Ausdruck, die politische Philosophie müsse sich neu orientieren, “as a field that should be understood also as philosophy of technology” (26) – eine Forderung, die so oder so ähnlich häufiger zu lesen ist, meist aber abstrakt bleibt. Die Ernsthaftigkeit zeigt sich darin, dass Risse sehr konkret versucht, die technologischen Entwicklungen mithilfe seines vorwiegend Rawlsschen Begriffsapparats zu erschließen und umgekehrt die Erklärungskraft der Begriffe angesichts der neuen Phänomene auf den Prüfstand zu stellen.

Erklärtes Ziel des Buches ist mitunter die Rekalibrierung des politischen Denkens als ein notwendigerweise auch technik-philosophisches Denken (26). In den insgesamt elf Kapiteln, denen der Fixstern der Rawlsschen öffentlichen Vernunft ihre Stringenz verleiht, erstellt Risse eine Collage weiterer Theorietraditionen, die unter Bezugnahme auf ausgewählte Autor*innen das argumentative Beiwerk liefern. So wird etwa Marx früh als produktive Ergänzung zu Rawls positioniert (unter Einbeziehung materialistischer Analysen und unter Ausschluss der politischen Konsequenzen), Foucault als Grundlagentheoretiker der Epistemic Justice mobilisiert, oder Shoshana Zuboff als Kritikerin des Surveillance Capitalism herangezogen. Dabei nutzt Risse die Werke primär als analytische Hilfsmittel und verzichtet auf ihre jeweiligen politischen Implikationen. Letztere werden konsequent durch die Anrufung der öffentlichen Vernunft ersetzt, das heißt, die im Buch vorgestellten unterschiedlichen Problemlagen sollen nach Risse jeweils durch deliberative Verfahren eingehegt werden.

Das erste Kapitel leitet das Buch mit zentralen Grundbegriffen ein. Das 21. Jahrhundert erklärt Risse zum digitalen Jahrhundert, in dem digitale Lebenswelten die dominante Rolle spielen (2). Vernetzung, Sensorik, Datenerhebung, virtuelle Realitäten: Das digitale Zeitalter breite sich immer stärker aus und präge unser individuelles wie gemeinschaftliches Leben. Risse geht allerdings noch einen Schritt weiter und wittert den potenziellen Übergang zu ganz neuen Lebensformen. Er folgt dafür Max Tegmarks Unterscheidung von drei Perioden menschlichen Lebens (Life 1.0, Life 2.0, Life 3.0). Während Life 1.0 den animalischen, unbewussten Zustand abbildet, unterscheidet sich Life 2.0 durch die Entwicklung des menschlichen Bewusstseins.

Life 3.0 wäre wiederum eine Steigerung, die auch die Körperlichkeit umfasst: “Life 3.0 would differ from what has occured so far in that at least many of the entities that inhabit it would be able to design both their physical shapes and their cultural contexts” (2 f.): Es ist die Vorstellung einer Welt von Cyborgs, in der Hard- und Software ihrer Lebewesen frei gestaltet werden können.^[1] Risse verortet uns weiterhin in Life 2.0 und lässt die Frage offen, ob ein Life 3.0 jemals realisiert werde. Aber: Wenn, so Risse, dann wären die gegenwärtigen digitalen Lebensformen die Ausgangslage für ein Life 3.0 und somit die letzte Ära des Life 2.0. Mit den aktuellen technologischen Fortschritten (u.a. in der Künstlichen Intelligenz), so deutet Risse hier an, könne eine gänzlich neue Episode menschlichen Lebens anbrechen.

Der Anschluss an marxistische Traditionen zeichnet sich insbesondere im zweiten und dritten Kapitel ab, die sich auf demokratietheoretische Fragen konzentrieren. Überzeugend schlägt Risse vor, die Politizität der Technologie von der Materialität der Politik und des Staates ausgehend zu denken: Den Kommunikationsmitteln zwischen Staat und Bürger*innen, den Techniken demokratischer Wahlprozesse, den Instrumenten der Verwaltung, und so weiter (50 ff.). Dabei versucht er jeweils der Frage nachzugehen, inwiefern Künstliche Intelligenz demokratische Prozesse begünstigt oder beschädigt. Tatsächlich scheinen Risse die Argumente für eine Begünstigung totalitärer Politik vielfacher und schwerwiegender. Während China bereits die Effizienzsteigerung autokratischer Politik durch Künstliche Intelligenz unter Beweis stelle (insbesondere durch das Social Credit System), hätten Demokratien noch keinen signifikanten demokratiefördernden Nutzen geschöpft (56).

Langfristig könne dies zu einem Leistungsnachteil im geopolitischen Systemkampf führen. Die KI liefere Regierungen Instrumente, die sich in der repressiven Logik autokratischer Systeme deutlich leichter integrieren ließen als in demokratischen Systemen. Dies könne dazu führen, so das Argument, dass sich Autokratien im Vergleich zu Demokratien als die effizienteren und stabileren Systeme behaupten (57). Die schwierige Herausforderung für Demokratien im Einsatz von KI bestünde unter anderem darin, dass die notwendige Ausweitung der Datenerhebung und -verarbeitung den bürokratischen Zugriff auf die Gesellschaft erhöhe und somit repressive Maßnahmen stärker begünstige als partizipative oder wohlfahrtstaatliche. “Where AI systems are deployed as part of the welfare state, they often surveil people and restrict access to resources rather than providing greater support” (67). Die Betrachtung liefert dann auch wenig konkrete Beispiele für einen demokratisch gelingenden KI-Einsatz, sondern ruft stattdessen zu einer strategischen Planung und Konzeptionalisierung solcher Einsätze auf.

In den Kapiteln vier bis acht finden sich vornehmlich rechtsphilosophische Fragestellungen, die allerdings eine Vielzahl an Problemstellungen sowie dazugehörigen Lösungsansätzen diskutieren. Die dabei behandelten Themen wirken in sich jeweils schlüssig, lassen in ihrer Aneinanderreihung aber teilweise eine Systematik vermissen: Während im vierten Kapitel ein Recht auf Wahrheit diskutiert wird, folgt im fünften ein methodischer Teil zu Epistemic Actorhood, Epistemic Rights und Epistemic Justice, im sechsten (“Beyond Porn and Discreditation”) eine Operationalisierung der im fünften Kapitel erarbeiteten Begriffe auf den Umgang mit Deep Fakes, gefolgt von einer Diskussion zur Aktualisierung der Menschenrechte in Kapitel sieben und abschließend eine Diskussion zum Stand der Aufklärung nach KI in Kapitel acht.

Auch wenn der wilde Ritt durch die großen Felder der Politischen Theorie (die unter dem Vorzeichen der KI teilweise neu entdeckt werden müssen) stellenweise droht, den oder die Leser*in abzuwerfen, bleibt die Lektüre ergiebig. Insbesondere das fünfte Kapitel, in dem Risse an Foucaults Episteme und spezifischer Colin Koopmans Ergänzung der Data Episteme anschließt, liefert vielversprechende methodische Ansätze. Ein neuer Typus Macht, nämlich Informationsmacht (”infopower”) sowie dazugehörige Informationspolitik (”infopolitics”), so Risse, würden durch Big Data und KI in Stellung gebracht. Dabei werde bestimmt, “what type of data to collect, refine, process, or store; what use to make of them; how to share them; and whom to share them with. Infopolitics determines how infopower is deployed” (102).

Demgegenüber stehe die Epistemic Acterhood, die Risse in vier Dimensionen unterteilt: Individual epistemic subjects, individual epistemic objects, collective epistemic subjects und collective epistemic objects (vgl. 107 ff.). Als Subjekte werden dabei Wissensträger verstanden, als Objekte Menschen als Gegenstand (Datensatz) von Wissen. Mit diesen Dimensionen liefert Risse einen Rahmen, der ihn bei der Konkretisierung von epistemischen Rechten und epistemischer Gerechtigkeit unterstützt, etwa indem konkret gefragt werden kann, welche Rechte auf Wissen ein Individuum haben sollte (zum Beispiel sein eigenes Corona-Testergebnis), wer noch und in welchem Ausmaß über dieses Wissen über ihn verfügen darf (zum Beispiel eine Behörde zur Messung von Corona-Fallzahlen in anonymisierter Form).

Ein Beispiel für epistemische Ungerechtigkeit stellt für Risse die Verwehrung von Bildung dar, die es Individuen und Gemeinschaften ermöglicht, ihre epistemic actorhood im Digitalen Zeitalter auszuüben (113). Kapitel sechs und sieben liefern eine Reihe weiterer Beispiele zur konkreten Anwendung des vorgeschlagenen Frameworks. Die Kapitel profitieren sichtlich von Risses vorangegangenen Auseinandersetzungen mit Menschenrechten. Dies zeigt sich einerseits in der Souveränität, mit der Risse zwischen rechtsphilosophischen und anwendungs-pragmatischen Ausführungen changiert sowie andererseits in der erkennbaren Bestrebung, hinreichend konkrete Argumente zu formulieren, die für weitere Ableitungen auf Policy-Ebene fruchtbar sein könnten.

Das achte Kapitel dient als kritische Ergänzung zu den vorherigen, um (unter anderem mit Shoshana Zuboff, Theodor W. Adorno und Max Horkheimer) darzustellen, dass die sozialen und politischen Risiken einer Künstlichen Intelligenz nicht ausschließlich rechtlich abgewendet werden könnten: “What it takes instead to bring about change for society as a whole is larger-scale thinking at the level of democracy and justice. […] The digital age, with its omnipresence of surveillance, makes it immensely difficult to meet Kant’s ideal of intellectual maturity […]. For that ideal to be realized at a broader scale, we need to have ideals of democracy and justice in place in addition to rights” (182). Folglich brauche es neben (Menschen-)Rechten ein tiefgreifendes Bewusstsein über demokratische Werte, auch und gerade in Bezug auf KI: eine geradezu Böckenfördesche Konklusion, die für den egalitär-liberalen Standpunkt der öffentlichen Vernunft unverzichtbar scheint, wohl aber ohne den Rückgriff auf marxistische Traditionen hätte auskommen können.

Mit Kapitel neun schließt Risse insofern an die Frage der epistemischen Rechte an, als dass er die rechtlichen Eigentumsverhältnisse über Daten zur Diskussion stellt. “The current default is that data are controlled by whoever gathers them. […] However, the default should be that collectively generated patterns are collectively controlled” (204). In einer kreativen wie produktiven Analogie zu Hugo Grotius, der sich im 17. Jahrhundert mit der Frage befasste, wem die Hohe See gehört, mobilisiert Risse vergangene Rechtsdiskussionen für eine “collective ownership of collectively generated data patterns” (xxii).

Das kollektive Eigentum solle nicht im Wege stehen, dass Individuen und Unternehmen für die Erhebung und Analyse von Daten kompensiert werden (204). Risse argumentiert aber überzeugend, dass Daten als soziale Fakten betrachtet werden sollten, über die eine Form kollektiver Kontrolle bestehen müsse (204 f.). Mit dem Kapitel liefert er erhellende rechtstheoretische Argumente für eine Regulierung, die in letzter Konsequenz das Internet fundamental neu strukturieren und große Plattformunternehmen ihrer Monopolmacht über Daten entheben würde.

Mit Kapitel zehn, in dem Risse nach dem technologischen Einfluss auf den Sinn des Lebens fragt und dem letzten Kapitel elf, das eine Politische Theorie für ein vollständig synthetisches, transhumanes Zeitalter (also ein Zeitalter des Life 3.0) zu entwerfen versucht (und folglich ohne techno-utopische Spekulationen nicht auskommt), endet das Buch auf einer eher schwachen Note. Gerne hätte man auf den Seiten eine weitere Ausführung zuvor angeschnittener, genuin politiktheoretischer Problemstellungen gelesen. Was etwa bedeutet das Aufkommen und Erstarken von infopolitics für die im dritten Kapitel eröffnete Frage nach dem Nutzen der KI für den Sozialstaat, dessen  Verwaltung der Gesellschaft bereits ohnehin eine größtmögliche Datenlage zur Leistungsregulierung anstrebt und mit Effekten der Disziplinierung (beispielsweise durch Restriktionen in der Leistungserbringung) einhergeht? Wie bewertet Risse bisherige regulatorische Versuche zur Einhegung der genannten Probleme?

Insgesamt überzeugt das Buch sowohl durch seine thematische Vielfalt als auch seinen seriösen Versuch einer methodisch stringenten Bearbeitung der Themen. Der explorative Charakter des Buchs steht dabei sinnbildlich für den Stand der Politischen Theoriedebatte über neuere Technologien. In der Politikwissenschaft im Allgemeinen und der Politischen Theorie im Besonderen bleibt die Digitalisierung ein relativ unerschlossenes Feld.^[2] Vor diesem Hintergrund ist Risses Buch deshalb instruktiv, weil es mit einer breitgefächerten Weitsicht – sowohl über Theorien als auch über technologische Entwicklungen – auf eindrucksvolle Weise den Versuch unternimmt, diese Vielfalt in eine kohärente Collage zu überführen. Dabei bleiben die Einzelbetrachtungen unabgeschlossen und laden zu Anschlussfragen ein.

Zu häufig allerdings scheint die Konklusion zu einer Problemstellung kraftlos gegenüber der dargestellten Gemengelage, etwa wenn Risse feststellt, dass “Technological advancements must be widely debated in democratic politics, and citizens should take an active interest in these matters” (71). Die Anrufung der Öffentlichen Vernunft erfolgt gewissermaßen im Rückzugsgefecht: Sie muss gelingend mobilisiert werden, um über die notwendige Regulatorik jener Technik zu entscheiden, von derer Negativeffekte sie fortlaufend demontiert wird. Mit der bloßen Anrufung der öffentlichen Vernunft, so möchte man aus dem Buch selbst folgern, scheint es nicht getan.

 Anmerkungen

^[1] Eine Vorstellung, die eher nach ScienceFiction anmutet. Tatsächlich führen die rasanten Entwicklungen in Künstlicher Intelligenz und Synthetischer Biologie zu Reflexionsansätzen, die derlei Vorstellungen durchaus seriös und akut diskutieren (etwa bei Suleyman (2023).

^[2] Nennenswerte Ausnahmen sind der von Sebastian Berg, Daniel Staemmler und Thorsten Thiel 2022 herausgegebene Sammelband „Political Theory of the Digital Constellation“, in dem politiktheoretische Beiträge zum Verhältnis von Politik und Digitalisierung vereint sind. Samuel Greefs 2023 erschienene Habilitationsschrift „Staat und Staatlichkeit im digitalen Zeitalter“ liefert eine umfangreiche Analyse der technologisch gesteigerten politischen Steuerungsfähigkeit und ihrer Implikationen für Staatskonzepte. Im Bereich der Verwaltungswissenschaften sticht das 2020 herausgegebene „Handbuch Digitalisierung in Staat und Verwaltung“ heraus, in dem umfangreiche Praxisbeispiele erläutert und zuweilen politiktheoretische Reflexionen diskutiert werden.

Literatur

• Berg, Sebastian / Staemmler, Daniel / Thiel, Thorsten (2022): Political Theory of the Digital Constellation, Zeitschrift für Politikwissenschaft, Vol. 32.
• Greef, Samuel (2023): Staat und Staatlichkeit im digitalen Zeitalter. Politische Steuerung im Wandel, Bielefeld: Transcript.
• Klenk, Tanja / Nullmeier, Frank / Wewer, Göttrik (2020): Handbuch Digitalisierung in Staat und Verwaltung, Wiesbaden: Springer VS.
• Risse, Mathias (2012): On Global Justice, Princeton: Princeton University Press.
• Risse, Mathias (2020): On Justice: Philosophy, History, Foundations, New York: Cambridge University Press.
• Risse, Mathias (2023): Political Theory of the Digital Age. Where Artificial Intelligence Might Take Us, Cambridge: Cambridge University Press.
• Risse, Mathias / Wollner, Gabriel (2019): On Trade Justice: A Philosophical Plea for a New Global Deal, Oxford: Oxford University Press.
• Suleyman, Mustafa / Bhaskar, Michael (2024): The Coming Wave. Künstliche Intelligenz, Macht und das größte Dilemma des 21. Jahrhunderts, München: C.H.Beck.