In den USA zeichnet sich möglicherweise ein deutlich schärferer Umgang mit besonders leistungsfähigen KI-Systemen ab.
Republikanische und demokratische Senatoren verhandeln über ein Gesetz, das Entwicklern eine gesetzliche Sorgfaltspflicht für große KI-Risiken auferlegen könnte.
🔎 Worum geht es?
Entwickler besonders leistungsfähiger Modelle könnten verpflichtet werden, bekannte Risiken bereits bei Entwicklung und Veröffentlichung zu berücksichtigen.
Im Mittelpunkt stehen dabei nicht alltägliche Fehlantworten, sondern sogenannte katastrophale Risiken – beispielsweise die Unterstützung bei der Entwicklung biologischer oder nuklearer Waffen.
Diskutiert werden außerdem unabhängige Sicherheitstests, unter anderem in staatlichen Laboren.
Besonders weitgehend:
Unter bestimmten Voraussetzungen könnte die US-Regierung möglicherweise sogar die Veröffentlichung eines als gefährlich eingestuften Modells zunächst verhindern.
Die Unternehmen hätten allerdings das Recht, dagegen vor Gericht vorzugehen.
⚖️ Der Realitätscheck
Bislang ist das kein beschlossenes Gesetz.
Die Verhandlungen laufen noch, wesentliche Einzelheiten können sich ändern und angesichts des politischen Kalenders ist auch keineswegs sicher, wann oder ob die Regelung verabschiedet wird.
Trotzdem ist die Richtung bemerkenswert.
🎯 Warum das wichtig ist
Bisher beruhen viele Sicherheitsmaßnahmen der großen KI-Unternehmen auf freiwilligen Selbstverpflichtungen.
Ein solches Gesetz würde daraus zumindest bei besonders leistungsfähigen Modellen erstmals eine rechtliche Verantwortung machen.
Und damit kommen wir zu einer Frage, die uns wahrscheinlich noch lange begleiten wird:
Wie reguliert man eine Technologie, deren Fähigkeiten sich schneller verändern können als die Gesetze, die sie regulieren sollen?