Raphaël Doan: «KI begünstigt nicht unbedingt Autoritarismus»

In einer Zeit, in der autoritäre Regime durch ihre angebliche Effizienz überzeugen, widerspricht Raphaël Doan den gängigen Vorurteilen. Seiner Meinung nach könnte künstliche Intelligenz die Politik ebenso vereinfachen wie die Demokratie stärken.

Große Sprachmodelle sind dabei, für Millionen von Nutzern zum wichtigsten Zugangstor zu Informationen zu werden. Künstliche Intelligenz (KI) ist nicht nur in der Lage, die Daten auszuwählen, auf die wir zugreifen, sondern diese auch zusammenzufassen, zu priorisieren und zu interpretieren – und könnte damit unser Verhältnis zur Politik tiefgreifend verändern.

Für Raphaël Doan, Autor von Frankreich zu einer Demokratie machen, diese neuen Technologien sind nicht nur Kontrollinstrumente. Der Essayist und ehemalige Spitzenbeamte vertritt die Ansicht, dass sie die Politik auch verständlicher machen, eine stärkere Bürgerbeteiligung erleichtern und der Volksmacht wieder ihren rechtmäßigen Platz einräumen könnten, auch wenn sie neue Herausforderungen im Hinblick auf die Souveränität mit sich bringen.

Le Regard Libre: Autoritäre Regime haben derzeit Hochkonjunktur, da sie im Vergleich zu Demokratien, die oft als langsam und unentschlossen wahrgenommen werden, als besonders effizient gelten. Sie behaupten jedoch, dass die Demokratie das leistungsfähigste aller Systeme sei. Warum?

Raphaël Doan: Zunächst einmal aus historischen Gründen. Wenn man sich die griechischen Stadtstaaten ansieht, war Athen, die wichtigste Demokratie jener Zeit, zugleich auch die dynamischste, die expansionistischste und in gewisser Weise die für ihre Nachbarn gefürchtetste. In der jüngeren Geschichte war es eine parlamentarische Demokratie, die Dritte Französische Republik, die den Ersten Weltkrieg gewonnen hat. Ich weise daher die gängige Vorstellung zurück, dass Demokratie von Natur aus die Herrschaft schwacher Kompromisse sei.

Eine demokratische Entscheidung genießt eine Legitimität, die eine von einem autoritären Regime auferlegte Entscheidung nicht besitzt. Sie wird daher leichter akzeptiert und umgesetzt. Umgekehrt müssen sich Diktaturen ständig gegen Proteste wappnen und können zudem enorme Fehler begehen, weil sie die Realität ihres eigenen Landes nicht richtig verstehen. Die Geschichte der UdSSR liefert hierfür ein gutes Beispiel.

Sie stützen Ihre Analyse auf historische Beispiele. Allerdings haben technologische Entwicklungen die Lage möglicherweise verändert. In seinem jüngsten Essay Nexus, Yuval Noah Harari vertritt beispielsweise die Ansicht, dass unsere heutige Fähigkeit, riesige Informationsmengen zentral zu verarbeiten, die Macht autoritärer Regime stärken könnte.

Das glaube ich nicht. Man muss zwei Dinge unterscheiden: die Handlungsfähigkeit des Staates und den Ursprung der politischen Entscheidung. Neue Technologien wie die generative künstliche Intelligenz stärken zwar tatsächlich die Verwaltungskapazitäten eines Staates, doch das bedeutet nicht, dass sie zwangsläufig ein autoritäres Regime begünstigen. Ein Staat kann durchaus stark zentralisiert sein und dennoch demokratisch bleiben. Die administrative Zentralisierung ist nicht unvereinbar mit der Macht des Volkes. Im Gegenteil, sie kann sogar dazu beitragen, dass eine demokratisch getroffene Entscheidung effizienter umgesetzt wird. Bei großen nationalen Fragen sehe ich daher keinen Widerspruch zwischen Demokratie und der Zentralisierung der Handlungsmittel.

Ihrer Meinung nach ist das heutige Frankreich keine Demokratie. Warum?

Etymologisch bedeutet «Demokratie» «Herrschaft des Volkes». Doch heute haben wir uns daran gewöhnt, Regime als «Demokratien» zu bezeichnen, die in Wirklichkeit so organisiert sind, dass sie das Volk daran hindern, seinen Willen auszuüben. Es herrscht eine ständige Verwechslung zwischen Demokratie und Rechtsstaatlichkeit. Natürlich kann man es für wünschenswert halten, Einzelpersonen oder Minderheiten vor den Exzessen der Mehrheit zu schützen. Doch dies fällt unter den Liberalismus, nicht unter die Demokratie. Für die Griechen, die diesen Begriff geprägt haben, bezeichnete Demokratie ein System, in dem das Volk selbst die Gesetze erließ und Entscheidungen direkt traf. In ihren Augen wäre das moderne Frankreich sicherlich nicht als solche angesehen worden.

Ist der heute weit verbreitete Begriff «liberale Demokratie» also als Oxymoron zu betrachten?

Während eines Großteils des 18. Jahrhunderts^. und XIX^. Über Jahrhunderte hinweg waren Demokratie und Liberalismus tatsächlich zwei unterschiedliche und bisweilen gegensätzliche Konzepte. Die meisten französischen Revolutionäre beispielsweise strebten mehrheitlich nicht danach, eine Demokratie im griechischen Sinne des Wortes einzuführen. Sie wünschten sich vor allem ein repräsentatives Regierungssystem nach britischem Vorbild. Liberale Denker betrachteten die Demokratie lange Zeit mit Misstrauen, gerade weil sie die individuellen Freiheiten bedrohen konnte. Das ist keine Kritik am Liberalismus, die ich hier vorbringe. Ich stelle lediglich fest, dass es etwas einfach ist, einerseits von den positiven Assoziationen des Begriffs «Demokratie» profitieren zu wollen und andererseits die Macht des Volkes im Namen liberaler Prinzipien einzuschränken. Man kann nicht alles haben.

Diese Spannung zeigt sich heute insbesondere in der zunehmenden Bedeutung der Richter.

Genau. In unseren heutigen Demokratien kommt der Liberalismus weitgehend durch die Befugnisse zum Ausdruck, die den Richtern zum Schutz der individuellen Rechte übertragen wurden. Das Problem ist, dass Richter nicht gewählt werden und über einen immer größeren Auslegungsspielraum verfügen. Wären die Gesetzestexte äußerst präzise und würden sich die Richter darauf beschränken, sie wörtlich anzuwenden – wären sie einfach «das Sprachrohr des Gesetzes», wie es Montesquieu befürwortete –, dann bliebe die Verbindung zum Volkswillen intakt. Doch das ist nicht mehr der Fall. In großen Grundsatzerklärungen oder bestimmten internationalen Übereinkommen werden sehr allgemeine Begriffe verwendet – zum Beispiel «das Wohl des Kindes» –, die viel Raum für Auslegung lassen. Unter diesen Umständen begnügt sich der Richter nicht mehr damit, das Gesetz anzuwenden: Er wirkt an dessen Auslegung mit. Dies entfernt die Ausübung der Macht noch weiter von der Volkssouveränität.

Um Frankreich dem demokratischen Ideal näherzubringen, schlagen Sie die Einführung eines parlamentarischen Referendums vor. Konkret könnte ein Viertel der Abgeordneten «wichtige Fragen» direkt dem Volk zur Abstimmung vorlegen. Was verstehen Sie unter «wichtigen Fragen» und warum glauben Sie, dass etwa hundert Abgeordnete in der Lage wären, diese zu identifizieren? Besteht die Volkssouveränität nicht gerade darin, das Volk diese Fragen selbst formulieren zu lassen, wie es in der Schweiz der Fall ist?

Das ist ein berechtigter Einwand. Tatsächlich ist mein Vorschlag in erster Linie pragmatischer Natur. Die Schweiz hat es geschafft, ein bemerkenswertes Gleichgewicht herzustellen, profitiert aber auch von einer langen Referendumstradition. In Frankreich schlage ich lieber jene Reform vor, die am ehesten dazu führen dürfte, dass Referenden schneller in Anspruch genommen werden. In diesem Sinne gibt es das Parlament bereits, um Gesetze auszuarbeiten. Es erscheint mir daher nur natürlich, ihm auch die Möglichkeit zu übertragen, das Volk direkt anzurufen. In der Praxis würde es übrigens ausreichen, das Referendum auf gemeinsame Initiative zu lockern, das heute aufgrund viel zu hoher Schwellenwerte praktisch unbrauchbar ist.

Was den Begriff «wichtige Frage» angeht, kann ich keine wissenschaftlichen Kriterien vorschlagen. Ich bin einfach der Meinung, dass sich durch das Zusammenspiel zwischen der Mehrheit, der Opposition und dem Präsidenten ganz natürlich die Themen herauskristallisieren würden, die es verdienen, den Bürgern zur Abstimmung vorgelegt zu werden.

Sie erklären, dass die athenische Demokratie nur möglich war, weil sich alle Bürger physisch auf einem einzigen Hügel versammeln konnten, was in Ländern mit mehreren Millionen Einwohnern unmöglich geworden ist. Die digitalen Technologien heben diese Einschränkung heute jedoch auf. Wäre eine Plattform denkbar, die es den Bürgern ermöglicht, direkt über wichtige nationale Fragen abzustimmen oder sogar selbst Gesetzesänderungen vorzuschlagen?

Man könnte sogar noch einen Schritt weiter gehen und sich ein vollständig digitalisiertes Rechtssystem vorstellen, in dem die Bürger ständig Änderungen vorschlagen könnten, ähnlich wie bei einer «Open-Source»-Software. Ich bin dem nicht grundsätzlich abgeneigt, sehe darin jedoch eher praktische als philosophische Hindernisse. Das offensichtlichste Hindernis ist das Vertrauen: Eine physische Wahlurne ist für alle sichtbar, während eine vollständig digitale Abstimmung voraussetzt, dass die Bürger davon überzeugt werden, dass das System absolut zuverlässig ist – was in einem Umfeld starken Misstrauens alles andere als selbstverständlich ist. Ich würde daher Versuche befürworten, insbesondere auf lokaler Ebene, bevor man eine Anwendung bei großen nationalen Entscheidungen in Betracht zieht.

Ein weiterer Einwand gegen die direkte Demokratie lautet, dass die heutigen Probleme viel zu komplex geworden seien, um sie dem Urteil der Bürger zu überlassen. Warum weisen Sie dieses Argument zurück?

Weil es auf einer falschen Annahme beruht. Wenn man beispielsweise die Verwaltungen der hellenistischen Welt nach Alexander dem Großen untersucht, entdeckt man bereits ein Steuerwesen, Vorschriften und Verwaltungsstrukturen von beeindruckender Komplexität. Die Aufgabe der Intelligenz besteht nicht darin, Komplexität und Nuancen hinzuzufügen, sondern sie zu reduzieren. Newton hat nicht erklärt, dass das Universum unverständlich sei; er hat es in wenigen einfachen Gesetzen zusammengefasst. Die Politik sollte dasselbe Ziel verfolgen.

Bei Charles de Gaulle fällt dieses Streben nach Einfachheit besonders auf. Es gelingt ihm, selbst die schwierigsten Situationen sowohl in seinen Reden als auch in seinem Handeln vollkommen verständlich zu machen. Diese Klarheit ist ein immenser Vorteil für einen Staatsmann, aber sie ist auch eine Voraussetzung für die Demokratie. Wenn man behauptet, die Probleme seien zu komplex, um verstanden zu werden, kommt man logischerweise zu dem Schluss, dass die Bürger nicht in der Lage sind, Entscheidungen zu treffen. Umgekehrt gilt: Je einfacher die Themen dargestellt werden, desto stärker können sich die Bürger an der kollektiven Entscheidung beteiligen.

Manche würden Ihnen entgegenhalten, dass Vereinfachung zu Populismus führt. Donald Trump beispielsweise reduziert Probleme oft auf binäre Gegensätze. Ist das nicht eine Gefahr einer allzu simplen Politik?

Ich denke, man muss zwischen Einfachheit und Wahrheit unterscheiden. Das Problem bei Donald Trump ist nicht, dass er Dinge vereinfacht, sondern dass er bei einer Reihe von Themen falsch liegt. Der US-Präsident verfügt übrigens über ein echtes rhetorisches Talent. Er versteht es, einfache, einprägsame und wirkungsvolle Formulierungen zu finden. Wenn diese Fähigkeit in den Dienst treffenderer Analysen gestellt wird, stellt sie eine unbestreitbare politische Stärke dar. Man kann Unsinn auf sehr komplexe Weise ausdrücken, genauso wie man richtige Dinge auf sehr einfache Weise ausdrücken kann. Das sind zwei völlig unterschiedliche Dinge.

In gewisser Weise ist die Welt sogar weniger komplex geworden als früher. Dank des Internets und der künstlichen Intelligenz haben wir innerhalb weniger Sekunden Zugang zu einer Menge an Informationen, die vor einigen Jahrzehnten noch unvorstellbar war.

Heute verstehen wir die Funktionsweise der Welt besser als unsere Vorfahren. Als ein Herrscher wie Ludwig XIV. eine wirtschaftliche Entscheidung traf, verfügte er weder über das theoretische Wissen noch über die Werkzeuge, die uns heute zur Verfügung stehen. Die Wissenschaften haben enorme Fortschritte gemacht und machen viele Phänomene wesentlich verständlicher. Die künstliche Intelligenz ist Teil dieser Entwicklung. Die großen Sprachmodelle sind bereits hervorragende pädagogische Werkzeuge. Sie ermöglichen es, manchmal sehr technische Themen schnell zu erklären. Aus dieser Perspektive können sie tatsächlich dazu beitragen, die Politik zugänglicher zu machen.

Manche befürchten jedoch, dass künstliche Intelligenz die Funktionsweise der Demokratie tiefgreifend verändern könnte. Teilen Sie diese Sorge?

Nein, nicht unbedingt. Meiner Ansicht nach hängt die Demokratie relativ wenig von der Technologie selbst ab. Schließlich wurde sie vor mehr als zweitausend Jahren erfunden. Die KI hingegen wird die Gesellschaft, die Wirtschaft, die Arbeitswelt und, im weiteren Sinne, unser Verhältnis zur Welt tiefgreifend verändern. Sie wird die Demokratie also indirekt beeinflussen, indem sie eher die Bürger selbst als die Institutionen verändert.

Dennoch bleibt es eine Tatsache, dass fundierte demokratische Entscheidungen einen guten Zugang zu Informationen voraussetzen. Die großen Sprachmodelle, die sich im Besitz einer Handvoll US-amerikanischer Unternehmen befinden, werden jedoch für Millionen von Bürgern zum Tor zur Information. Sehen Sie in dieser Konzentration nicht die Gefahr einer Vereinheitlichung des Denkens?

Bei jeder medialen Revolution kamen dieselben Befürchtungen auf. Dem Fernsehen – und zuvor dem Radio – wurde bereits vorgeworfen, Meinungen zu vereinheitlichen. Ich bin mir nicht sicher, ob große Sprachmodelle eine stärkere Wirkung haben als die traditionellen Massenmedien. Viele stellen sich beispielsweise vor, dass KI-Systeme die Nutzer in immer engere kognitive Blasen einschließen werden. Die ersten empirischen Studien scheinen jedoch eher das Gegenteil zu zeigen: Menschen, die bestimmte Verschwörungstheorien vertreten, sind oft weniger überzeugt, nachdem sie sich ausführlich mit einem Sprachmodell ausgetauscht haben.

Ein Verschwörungstheoretiker würde darauf antworten, dass, wenn diese Menschen durch den Kontakt mit einer KI weniger verschwörungstheoretisch werden, dies geradezu der Beweis dafür ist, dass sich ihr Denken vereinheitlicht.

Das ist möglich (Gelächter). Was ich damit sagen will, ist, dass wir noch nicht wissen, in welche Richtung diese Technologie unsere Gesellschaften verändern wird. Die Auswirkungen könnten ganz anders ausfallen, als wir uns das heute vorstellen.

Welche weiteren Risiken für die Demokratie birgt die KI?

Die Wirtschaft wird zunehmend von den großen Sprachmodellen abhängig sein. Je mehr sich künstliche Intelligenz in alle Wirtschaftsbereiche integriert, desto mehr werden die Länder, die diese Modelle kontrollieren, über einen erheblichen strategischen Hebel verfügen. Heute sind die Europäer fast vollständig von US-amerikanischen Unternehmen abhängig. Sollte die US-Regierung morgen beschließen, den Zugang zu bestimmten Modellen aus Gründen der nationalen Sicherheit einzuschränken, hätte sie damit ein wirksames Druckmittel gegenüber der europäischen Wirtschaft in der Hand. Einen ersten Eindruck davon haben wir bereits durch die vorübergehenden Beschränkungen für bestimmte Modelle gewonnen. Derzeit sind die Folgen noch begrenzt, da KI für die Gesamtwirtschaft noch nicht unverzichtbar ist. Doch in zehn Jahren könnte die Situation ganz anders aussehen.

Diese Abhängigkeit ist wechselseitig: Auch Europa verfügt über strategische Technologien, insbesondere in der Halbleiterfertigung.

Zwar besteht eine gegenseitige Abhängigkeit, doch ist sie nicht symmetrisch. Nehmen wir das Beispiel des Unternehmens ASML in den Niederlanden, das die für die Herstellung von Mikrochips unverzichtbaren Maschinen herstellt. Sollte Europa den Export dieser Maschinen einstellen, hätten die amerikanischen Hersteller dennoch einen Vorrat, der es ihnen ermöglichen würde, die Produktion für eine gewisse Zeit fortzusetzen. Dagegen hat die Sperrung des Zugangs zu einem Sprachmodell nahezu unmittelbare Auswirkungen. Die USA verfügen somit über einen regelrechten digitalen Schutzschalter, den Europa derzeit nicht besitzt.

Die einzige Lösung bestünde also darin, unsere eigenen Sprachmodelle zu entwickeln…

Theoretisch ja. In der Praxis ist das jedoch viel schwieriger. Um das Niveau der großen amerikanischen Forschungslabore zu erreichen, wären gigantische Investitionen in Höhe mehrerer Prozentpunkte des BIP pro Jahr erforderlich – ohne jegliche Erfolgsgarantie. Es reicht nicht aus, nur über gute Ingenieure zu verfügen. Man muss die besten Forscher der Welt anziehen, kolossale Recheninfrastrukturen finanzieren und über eine Energieerzeugung verfügen, die diese Rechenzentren versorgen kann. Selbst Mistral, das heute der wichtigste europäische Akteur ist, liegt noch weit hinter den Kapazitäten von OpenAI oder Anthropic zurück. Ich bin mir daher nicht sicher, ob die europäischen Staaten, jeder für sich, eine solche Anstrengung auf Dauer aufrechterhalten können.

Diplom in Wirtschaftswissenschaften und Vorsitzender des Vereins Café-philo, Yann Costa ist Redakteur beim Regard Libre.

Sie haben soeben einen Beitrag aus unserer Reihe «Die Konzentration der Information» gelesen, der in unserer Printausgabe erschienen ist (Le Regard Libre Nr. 129).