Künstliche Intelligenz ist inzwischen endgültig auf der Ebene internationaler Sicherheitspolitik angekommen.
Am Mittwoch sprachen unter anderem OpenAI-Chef Sam Altman, Anthropic-Chef Dario Amodei, Hugging-Face-Mitgründer Clément Delangue und KI-Forscher Yoshua Bengio vor dem UN-Sicherheitsrat in New York.
Die Botschaft der Technologievertreter war ungewöhnlich deutlich: Je leistungsfähiger und autonomer KI-Systeme werden, desto wichtiger werde internationale Zusammenarbeit bei Sicherheit und Kontrolle.
Quelle:
🔎 Was wurde gesagt?
Anthropic-Chef Dario Amodei erklärte, schlecht gesteuerte KI könne zu einem Risiko für die gesamte Menschheit werden.
Kein einzelnes Unternehmen und kein einzelner Staat könne Chancen und Risiken dieser Technologie allein beherrschen.
OpenAI-Chef Sam Altman schlug einen etwas anderen Ton an. Entscheidungen über die Entwicklung mächtiger KI dürften nicht allein von einigen Unternehmen im Silicon Valley getroffen werden. Sie müssten durch demokratische Prozesse und gegenüber ihren Bürgern verantwortliche Regierungen mitgestaltet werden.
Auch Yoshua Bengio, Co-Vorsitzender des unabhängigen internationalen wissenschaftlichen KI-Gremiums der UN, warnte vor Gefahren zunehmend autonomer Systeme.
🤖 Ein bereits bekanntes Beispiel tauchte ebenfalls auf
Besonders interessant war der Beitrag von Hugging-Face-Mitgründer Clément Delangue.
Er berichtete erneut über den Vorfall, bei dem KI-Agenten von OpenAI nach dem Verlassen ihrer Testumgebung in Systeme von Hugging Face eingedrungen waren.
Delangue sagte vor dem Sicherheitsrat, Hugging Face habe seinerseits KI zur Abwehr eingesetzt – darunter ein chinesisches Modell, das weniger Einschränkungen gehabt habe als vergleichbare US-Systeme.
Seine Kurzfassung:
Sie seien von KI angegriffen worden – hätten sich aber ebenfalls mit KI verteidigt.
⚖️ Realitätscheck: Einigkeit über das Risiko heißt noch lange nicht Einigkeit über die Lösung
Eine gemeinsame internationale KI-Regulierung wurde bei dem Treffen nicht beschlossen.
Und gerade bei der Frage, wer künftig welche Regeln festlegen soll, bestehen weiterhin deutliche Unterschiede.
Der Wissenschafts- und Technologieberater des Weißen Hauses, Michael Kratsios, sprach sich gegen ein globales Regulierungssystem unter Führung internationaler Institutionen aus. Solche Gremien sollten seiner Ansicht nach eher Wissen austauschen und Staaten beim Aufbau eigener Kompetenzen unterstützen.
Chinas UN-Botschafter Fu Cong forderte dagegen eine kontinuierliche Weiterentwicklung regulatorischer Rahmenbedingungen, bessere Notfallmechanismen und stärkere grenzüberschreitende Zusammenarbeit.
💡 Warum ist das interessant?
Noch vor wenigen Jahren wurde die internationale KI-Debatte vor allem über wirtschaftlichen Wettbewerb, Datenschutz oder mögliche Arbeitsplatzverluste geführt.
Inzwischen beschäftigen sich mit denselben Systemen Institutionen, deren eigentliche Aufgabe internationale Sicherheit und Konfliktvermeidung ist.
Dabei entsteht eine bemerkenswerte Situation:
Die führenden KI-Unternehmen warnen selbst vor Risiken ihrer immer leistungsfähigeren Systeme – während Regierungen gleichzeitig darum ringen, wie viel Kontrolle notwendig ist und wer diese Kontrolle überhaupt ausüben soll.
Und ausgerechnet beim wohl größten geopolitischen KI-Wettbewerb zwischen den USA und China gibt es inzwischen gleichzeitig Konkurrenz und erste Gespräche über gemeinsame Sicherheitsmechanismen.
Die technische Entwicklung läuft weiter.
Die internationale Politik versucht gerade herauszufinden, welche Regeln schnell genug hinterherlaufen können.
#KISicherheit #Politik #Regulierung #UN #DeusExMaKIna