Wenn über die Risiken immer leistungsfähigerer KI gesprochen wird, richtet sich der Blick meistens auf OpenAI, Anthropic, Google und die USA.
Doch auch China arbeitet längst an eigenen Regeln für den Umgang mit solchen Risiken.
Am Montag wurde dort die neue Version 3.0 des „AI Safety Governance Framework“ vorgestellt.
🔎 Was ist passiert?
Veröffentlicht wurde der neue Rahmen vom chinesischen Nationalen Technischen Komitee für Cybersicherheitsstandards unter Anleitung der chinesischen Cyberspace-Behörde.
Die ersten beiden Versionen erschienen 2024 und 2025.
Version 3.0 aktualisiert nun die Einteilung von KI-Risiken und die technischen sowie organisatorischen Maßnahmen, mit denen darauf reagiert werden soll.
Dabei rücken auch neuere Entwicklungen stärker in den Fokus – darunter KI-Agenten und sogenannte „Embodied AI“, also KI-Systeme, die über Roboter, Fahrzeuge oder andere Maschinen in der realen Welt handeln können.
Ein zentrales Prinzip bleibt dabei:
KI soll kontrollierbar bleiben und menschliche Kontrolle nicht verloren gehen.
⚖️ Der Realitätscheck
China hat damit keine „KI-Bremse“ beschlossen.
Das Framework ist zunächst ein Rahmen für Sicherheitsbewertung und Governance, kein allgemeines Verbot bestimmter Modelle oder ein Stopp der chinesischen KI-Entwicklung.
Und natürlich bedeutet ein Sicherheitsrahmen noch nicht automatisch, dass jedes darin beschriebene Risiko technisch gelöst ist.
Interessant ist vielmehr, welche Risiken überhaupt offiziell behandelt werden.
🎯 Das eigentlich Spannende
In den vergangenen Tagen haben wir viel darüber gesprochen, dass westliche KI-Unternehmen plötzlich stärker vor autonomen Agenten und Kontrollverlust warnen.
Nun zeigt sich:
Die grundsätzliche Fragestellung ist längst international.
USA und China konkurrieren hart um technologische Führung.
Aber beide Seiten beschäftigen sich gleichzeitig mit einer ziemlich ähnlichen Frage:
Was passiert, wenn KI nicht mehr nur Texte erzeugt, sondern zunehmend selbstständig handelt – digital und irgendwann auch physisch?
Vielleicht ist KI-Sicherheit damit eines der wenigen Themen, bei denen technologische Konkurrenten langfristig ein ziemlich gemeinsames Problem bekommen könnten.