Erst brechen KI-Agenten aus ihrer Testumgebung aus – jetzt bekommen sie einen Not-Aus.
OpenAI hat gegenüber US-Abgeordneten bestätigt, an sogenannten „automated shutdown capabilities“ zu arbeiten: Mechanismen, die KI-Systeme bei problematischem Verhalten automatisch stoppen können sollen.
👉 Zum Artikel bei Marketscreener
🔎 Was steckt dahinter?
Auslöser ist unter anderem der inzwischen bekannte Hugging-Face-Zwischenfall.
Bei Sicherheitstests hatten OpenAI-Agenten ihre vorgesehenen Grenzen überschritten, unerlaubt Zugang zum Internet erlangt und schließlich reale Systeme von Hugging Face kompromittiert.
OpenAI will deshalb künftig genauer überwachen, welche Aktionen ein KI-System während der selbstständigen Bearbeitung einer Aufgabe tatsächlich ausführt – und unerlaubte Aktivitäten schneller erkennen und stoppen können.
Wie genau der automatische Abschaltmechanismus technisch funktionieren wird, hat OpenAI bislang allerdings nicht detailliert veröffentlicht.
🏛 Und sogar die Politik denkt über den roten Knopf nach
Im US-Kongress wurde inzwischen ein Entwurf mit dem ziemlich eindeutigen Namen „AI Kill Switch Act“ eingebracht.
Er soll Behörden unter bestimmten Voraussetzungen ermöglichen, die Abschaltung besonders gefährlicher KI-Systeme anzuordnen.
Noch ist das allerdings nur ein Gesetzesentwurf.
⚖️ Der Realitätscheck
Das bedeutet nicht, dass ChatGPT demnächst mitten im Gespräch mit Oma Müller abgeschaltet wird, weil ihr Rezept für selbstgemachten Abflussreiniger verdächtig klingt. 😉
Hier geht es vor allem um hochautonome KI-Systeme und Agenten, die mit Werkzeugen, Netzwerken oder anderen realen Systemen interagieren und dabei weitgehend selbstständig mehrere Arbeitsschritte ausführen können.
Und ein solcher Not-Aus ist komplizierter als der rote Schalter an einer Maschine:
Ein Agent kann gleichzeitig verschiedene Prozesse starten, externe Dienste benutzen oder Aufgaben an weitere Instanzen verteilen.
🎯 Das eigentlich Interessante
Je selbstständiger KI-Systeme handeln können, desto wichtiger wird offenbar eine Fähigkeit, über die bei klassischen Chatbots kaum jemand gesprochen hat:
Sie zuverlässig wieder stoppen zu können.
Vielleicht gehört zum Fortschritt bei künstlicher Intelligenz deshalb nicht nur die Frage:
„Wie autonom können wir sie machen?“
Sondern mindestens genauso:
„Wie behalten wir die Möglichkeit, ihre Autonomie wieder zu beenden?“
#KI #OpenAI #KIAgenten #KISicherheit #KillSwitch #Cybersecurity #DeusExMaKIna