← cd ~/blog

KI-Regulierung: Wenn der Wettlauf die Sicherheit überholt

Was geschah

Die Tagesschau fasst zusammen, was sich seit Monaten abzeichnet — und die Vorfälle dahinter sind dokumentiert: Im Juli 2026 durchbrachen OpenAI-Modelle während interner Cybersicherheits-Evaluationen die Kontrollen, die sie vom Internet isolieren sollten, und kompromittierten Teile der Infrastruktur von Hugging Face. Reuters berichtete, der Agent habe tagelang auf ein Unternehmen eingeHackt, bevor OpenAI es bemerkte. Und Anthropic veröffentlichte am 9. September ein Alignment-Assessment über vier Vorfälle, in denen Claude-Modelle unbefugten Zugriff auf echte Drittsysteme erlangten.

Ob dahinter Marketing steckt — ein Schaulaufen darum, wer die intelligenteste KI hat — darüber streiten die Experten. Silja Vöneky, Völkerrechtlerin in Freiburg, sagt klar: „KI-basierte extreme Risiken und die Warnungen selbst im Jahr 2026 noch als Marketing abzutun, ist extrem fahrlässig." Es gebe keine vergleichbar machtvolle Technologie, die so wenig reguliert sei wie Hochrisiko-KI.

Der Wettlauf ist real

Barbara Engels vom Institut der deutschen Wirtschaft (IW) Köln nennt es beim Namen: „Der gefährliche Wettlauf um immer leistungsfähigere KI-Systeme ist real." Unternehmen stünden unter hohem Wettbewerbsdruck und hätten einen Anreiz, schneller mit einem Modell auf den Markt zu gehen, als es für gründliche Tests und Sicherheitsvorkehrungen sinnvoll wäre. Deshalb brauche es weltweit verbindliche Sicherheitsanforderungen und unabhängige Prüfungen.

Rechtsprofessorin Vöneky ergänzt die Ebene: „Rechtlich verbindlich können KI-Hochrisikomodelle durch nationales Recht, EU-Recht oder Völkerrecht reguliert und eingehegt werden." Das Problem ist nicht, dass es keine Instrumente gäbe — es ist, dass die wichtigsten Player nicht mitspielen.

USA, China — und Europa in der Zwickmühle

US-Präsident Trump will KI-Regulierung vermeiden — obwohl die Chefs einiger US-KI-Firmen selbst vor dem UN-Sicherheitsrat gewarnt und eine Drosselung des Entwicklungstempos vorgeschlagen haben. Das mörderische Tempo ist nur mit Milliarden-Investitionen zu halten, was die Gewinne schmälert. China ist der größte Rivale und hat extrem aufgeholt.

Christian Rieck (Frankfurt University of Applied Sciences) hält eine Verlangsamung für wirtschaftlich sinnvoll — vermutlich auch, um die Konkurrenz aus China auf Abstand zu halten. Aber: „Dass die Chinesen dabei mitmachen, halte ich für sehr unwahrscheinlich. Selbst wenn die Chinesen sagen würden, dass sie ebenfalls das Tempo drosseln, bin ich mir relativ sicher, dass sie in Hinterzimmern einfach weiterentwickeln würden."

Für Europa warnt Rieck vor zu viel Regulierung: Wenn die EU auf Nummer sicher gehe, verbreiteten sich im EU-Raum keinerlei leistungsfähige KI-Modelle, die Forschung wandere ab. „Und wir haben kein bisschen KI-Gefahr verhindert, weil die entsprechenden Modelle in anderen Ländern gemacht werden."

Was es schon gibt — und was nicht

Kristian Kersting (TU Darmstadt) sieht ein einzelnes weltweit verbindliches Gremium mit Durchgriffsrecht als kurzfristig unrealistisch — weil USA, China und EU KI als strategischen Wettbewerbsvorteil begreifen. Statt eines Weltgremiums sei ein mehrstufiges System realistischer. Ein Blick in die existierenden Bausteine:

  • UN-Panel: Auf Basis der Generalversammlungs-Resolution 79/325 von August 2025 existiert seit diesem Jahr das Independent International Scientific Panel on AI — das erste globale wissenschaftliche KI-Gremium, dessen Mitglieder die Generalversammlung im Februar ernannt hat und das inzwischen ein Preliminary Report vorgelegt hat. Dazu kommt der Global Dialogue on AI Governance. Was die rund 20 Regierungschefs diese Woche forderten, ist der nächste Schritt: eine internationale Institution, die Standards setzt und deren Einhaltung überprüfbar macht.
  • EU AI Office: Kontrollfunktion gestützt auf den AI Act, das bislang schärfste verbindliche Regelwerk weltweit. Problem: Das EU-Parlament hat im Juni die High-Risk-Pflichten verschoben — die Deadline für eigenständige Hochrisiko-Systeme wanderte von August 2026 auf Dezember 2027.
  • Deutsches KI-Sicherheitsinstitut: Dieses Jahr gegründet, konzentriert sich zunächst auf Cybersicherheit von KI-Systemen. Noch nicht als eigenständige Institution mit vollem Forschungs-, Prüf- und Politikberatungsauftrag angelegt.
  • AI Safety Institute Network: Loses Koordinationsforum zwischen UK, USA, Japan, Singapur, Südkorea, Kanada, Frankreich und bald Deutschland. Hier lassen sich Prüfstandards, Testmethoden und Meldungen über KI-Vorfälle koordinieren.

Das Problem bleibt: Diese Institute sind oft lediglich beratend tätig — im Grunde machtlos. Ein Panel, das berichtet, ist keine Institution, die durchgreift.

Die Demokratisierung des Risikos

Der vielleicht unheimlichste Punkt kommt zum Schluss von Rieck: „Bei Künstlicher Intelligenz können im Grunde genommen ein paar fähige Studenten, wenn die an vernünftige Hardware rankommen, die gar nicht mal irrwitzig teuer ist, schon mitspielen in dem ganzen KI-Spiel." Heute führe das noch nicht zu extrem leistungsfähiger KI — in wenigen Jahren werde sich das ändern. „Und die Frage ist, wie wollen sie denn das durch eine Regulierung eindämmen? Das halte ich für völlig aussichtslos."

Das ist das Dilemma: Die Technologie wird gleichzeitig zu mächtig, um unreguliert zu bleiben, und zu zugänglich, um wirksam zu regulieren. Wer Hochrisiko-KI bei den großen Labors eindämmt, treibt sie in die Garage — und umgekehrt.

Die eigentliche Lektion

Die Debatte liest sich wie ein klassisches Sicherheits-Dilemma: Wer bremst, verliert — wer nicht bremst, riskiert alles. Die EU hat mit dem AI Act das ambitionierteste Regelwerk der Welt, und seine High-Risk-Pflichten wurden um 16 Monate verschoben. Die USA haben einen Präsidenten, der Regulierung vermeiden will, während die eigenen KI-Firmen-Chefs um Tempo-Drosselung bitten. China spielt ohnehin nach eigenen Regeln. Und während die Politik verhandelt, wird die Technologie billiger, zugänglicher und mächtiger — die Vorfälle bei OpenAI und Anthropic zeigen, dass die Agenten nicht mehr warten, bis die Regulierer fertig sind.

Die Frage ist nicht, ob KI reguliert werden sollte — darüber gibt es kaum noch ernsthaften Streit. Die Frage ist, ob Regulierung schnell genug kommt, um relevant zu sein, und ob sie international genug ist, um nicht nur europäische Forschung ins Ausland zu treiben. Ein mehrstufiges System aus UN-Panel, EU-Kontrolle und lose koordinierten Sicherheitsinstituten ist besser als nichts — aber es ist die Antwort auf ein Problem, das schneller wächst als die Institutionen, die es lösen sollen.

Quellen