Vision Staat 2040
Hört auf, Künstliche Intelligenz wie einen Staubsauger zu regulieren
Kirsten Rulf, Strategieberaterin und ehem. Referatsleiterin für Grundsatzfragen der Digitalpolitik im Bundeskanzleramt
Was hat ein Gemüsehändler aus Tunesien mit einem Staubsauger und einem KI-Chatbot zu tun? Vor genau 15 Jahren hat sich der tunesische Gemüsehändler Mohamed Bouazizi aus Protest gegen Polizeiwillkür und Staatsversagen selbst angezündet und damit den „Arabischen Frühling“ ausgelöst. Die erste Social-Media-Revolution der Welt. Facebook, Twitter und YouTube – damals noch neue Plattformen – dienten als Katalysatoren, um Proteste und Staatsgewalt transparent zu machen und über Stadt- und Ländergrenzen hinweg zu tragen. Demonstranten vernetzten sich, diktatorische Regierungen stürzten, und die sozialen Medien wurden gefeiert.
Auch damals, 2011, standen Politik und Verwaltung vor einer neuen Technologie, die das Verständnis von politischer Teilhabe, Information und Demokratie neu definierte, so wie jetzt bei KI. In den ersten Jahren begegneten Policy-Maker den Plattform-Chefs mit Staunen und fast Ehrfurcht, ganz ähnlich wie heute den LLM-Anbietern. Wer nicht restlos begeistert war, wurde belächelt, wie zum Beispiel Angela Merkel. Die sagte 2013 bei einer Pressekonferenz den berühmten Satz: „Das Internet ist für uns alle Neuland!“ und wurde zum Meme. Wer Regeln oder gar Regulierung für Plattformen forderte, wurde als Fortschrittsverhinderer abgestempelt.
Heute, nach dem Brexit, der zweimaligen Wahl von Donald Trump, hybrider Kriegsführung aus Russland und vielen anderen Erfahrungen mit Online-Filterblasen, lächeln nur noch wenige. Seit 2024 – mehr als zehn Jahre nach dem Arabischen Frühling – gibt es mit dem „Digital Services Act“ eine europäische Plattform-Regulierung. Ob sie wirksam ist, wissen wir noch nicht. Und wir diskutieren längst nicht mehr über das Ob, sondern nur noch ab welchem Alter eine Social-Media-Beschränkung für Kinder sinnvoll wäre.
Jetzt werden viele sagen: „Aber bei KI haben wir es doch gerade deswegen anders gemacht und haben direkt eine Regulierung geschaffen, sogar noch bevor die Technologie richtig in Wirtschaft, Staat, und Gesellschaft angekommen ist! “
Und hier kommt der Staubsauger ins Spiel.
Denn derzeit werden Staubsauger, KI-Systeme, wie beispielsweise Chatbots, und Social-Media-Plattformen vom Gesetz fast genau gleich behandelt: Alle gelten im Prinzip als Produkte und sind - einfach gesagt - auch so reguliert. Der Staubsauger in der EU-Ökodesign-Verordnung, der KI-Chatbot eben in der EU-KI-Verordnung. Am Ende gilt für beide: CE-Kennzeichen drauf, fertig. Wir regeln Produkte und ihre technische Sicherheit, nicht Technologien und ihre gesellschaftliche Wirkung.
Das bringt zwei Probleme mit sich: Zum einen wird es den tiefgreifenden Veränderungen nicht gerecht, die KI für unsere Gesellschaft, Wirtschaft und Demokratie bringt. Eine Produktregulierung erfasst und steuert nicht, welche Folgen – ob positiv oder negativ – KI für den Arbeitsmarkt haben wird, auf Jobprofile zum Beispiel, oder auf die Chancen von Berufsanfängern. Eine Produktregulierung hilft auch nur begrenzt, wenn KI-erzeugte Fotos oder Videos eine parallele Öffentlichkeit erzeugen, Demokratie gefährden, oder wenn KI-Modelle schleichend und bankübergreifend unser Finanzsystem aushebeln.
Zudem lässt eine solche Produktregulierung die Verwaltung noch hilfloser gegenüber den Tech-Konzernen aussehen, als sie ohnehin schon wirkt. Das schlägt sich im Vertrauen nieder: Laut einer Umfrage des Deutschen Beamtenbunds hält nur noch gut ein Viertel der Bevölkerung den Staat überhaupt für fähig, seine Aufgaben zu erfüllen. Gerade einmal 15 Prozent sehen ihre Erwartungen an eine moderne digitale Verwaltung erfüllt. Wer schon beim digitalen Führerschein an der Kompetenz des Staates zweifelt, wird bei der KI kaum zuversichtlicher.
Deshalb müssen wir jetzt handeln und dürfen bei KI nicht den gleichen Fehler machen wie bei der Plattform-Regulierung.
Was wäre, wenn die Verwaltung lernt, Regulierung nicht mehr als juristischen Text aufzuschreiben, sondern direkt zu programmieren? Und wenn solche programmierten Gesetze lernen würden wie KI? Erkennt das System zum Beispiel, dass ein General-Purpose KI-Modell plötzlich bei Teenagern extrem beliebt wird, aber auch verstärkt zu verzerrter Körperwahrnehmung, Desinformation, Schlafstörungen und Depressionen führt, passt sich das Gesetz automatisch an: neue Transparenzpflichten, verschärfte Sicherheits- und Mitigationsmaßnahmen, Echtzeit-Prüfprotokolle. Regulierung, die KI konstruktiv einschränkt und sich zugleich mit ihr weiterentwickelt. Automatisierte Rechtsdurchsetzung statt langer Gerichtsverfahren. Gesetze wären dann nicht mehr statischer Text, sondern lebendiger Code.
„Code is law", das Prinzip dahinter, ist keine neue Idee. Wir haben in Deutschland genau die richtigen Talente, um diese Idee groß zu machen: Das technische Know-how bringt die Bundesagentur für Sprunginnovationen (SPRIN-D), die eine Initiative „Law as Code“ hat. Das Bundesministerium für Digitalisierung und Staatsmodernisierung hat ein eigenes Referat „Sonderaufgabe Law as Code, legistische Konzepte“. Aus der Wissenschaft und der Start-up-Welt kommen Ideen und erste Produkte, wie beispielsweise die von der Rulemapping Group.„Code is Law“ könnte ein Unique Selling Point der deutschen Verwaltung werden, eine globale Marke. Denn für programmierte Gesetze braucht es zuerst auch exzellentes juristisches Denken, und das haben wir in der Verwaltung.
Einer KI die Rechtsdurchsetzung automatisch überlassen - das mag beängstigend klingen und braucht sicher Leitplanken. Es ist aus meiner Sicht aber der einzige Weg nach vorn, wenn wir nicht – wie bei anderen Brüsseler Digital-Regulierungen – jahrelang auf Wirkung und Urteile warten wollen. Siehe Plattformen.
Zweiter Vorteil: Der „Code is Law“-Approach gibt uns tiefe Einblicke in die Veränderungen, die KI schleichend in die Gesellschaft bringt. Wie wäre es, wenn jedes Land eine Art Zentralbank für KI-Risiken hätte? KI-Systeme würden modellieren, wie sich Arbeitswelt, Demokratie oder psychische Gesundheit verändern könnten – und das für alle transparent machen mit einem öffentlichen Dashboard. Das zeigt, wo die Dinge aus dem Ruder laufen könnten, noch bevor etwas passiert. So hätten alle Sichtbarkeit auf gesellschaftliche Veränderungen durch KI und könnten bei Bedarf automatisch gegensteuern. Datengetriebene Politik.
Wir dürfen KI nicht weiter einfach nur regulieren wie einen Staubsauger, sondern wir müssen sie mit den Eigenschaften einer KI regulieren: iterativ, adaptiv, in Echtzeit. Das erfordert Rechtssysteme, die selbst KI nutzen, um KI-Regulierung einem Stresstest auszusetzen, Risiken vorherzusagen und sich mit ihr weiterzuentwickeln. „Code is law“ kann als Civic Technology ein deutscher Exportschlager werden und gleichzeitig das Vertrauen der Bürger:innen in einen handlungsfähigen Staat erhöhen. Keine andere Verwaltung auf der Welt könnte besser voran gehen als unsere.
Das Ziel muss ja sein, dass die mächtigsten Technologie-Systeme der Welt auch künftig von legitimierten Policy-Makern regiert werden – und nicht umgekehrt.
Erfahre mehr
- Initiative „Law as Code“ der Bundesagentur für Sprunginnovationen (SPRIN-D)
- EntwickelteLösungen der Rulemapping Group
