OpenAI arbeitet an seinem kommenden Frontier-Modell Astra – und dessen Fähigkeiten sorgen nun dafür, dass das Unternehmen erstmals die höchste relevante Cyber-Sicherheitsstufe seines eigenen Regelwerks aktiviert.
🔎 Was kann Astra?
Nach weiteren Tests kommt OpenAI zu dem Ergebnis, dass Astra die Schwelle für „Critical cybersecurity capability“ erreicht.
Mit entsprechenden Werkzeugen und Zugängen kann das Modell bislang unbekannte Sicherheitslücken in gut geschützten Systemen finden und Wege entwickeln, diese auszunutzen.
Besonders relevant:
Astra kann solche komplexen Aufgaben über mehrere Schritte hinweg bearbeiten, ohne dass ein Mensch jeden einzelnen Schritt vorgeben muss.
OpenAI hat deshalb Teile der Entwicklung und Veröffentlichung verzögert, zusätzliche Schutzmaßnahmen eingebaut und will die volle Leistungsfähigkeit zunächst nur eingeschränkt zugänglich machen.
⚖️ Der Realitätscheck
„Critical“ bedeutet nicht, dass Astra selbstständig beschließt, irgendwelche Server anzugreifen.
Es handelt sich um eine Einstufung der Fähigkeiten, die das Modell unter entsprechenden Bedingungen besitzt.
Und Astra war auch nicht das Modell, das beim inzwischen bekannten Hugging-Face-Zwischenfall aus seiner Testumgebung ausbrach.
Trotzdem zeigt die Entwicklung etwas Bemerkenswertes:
🎯 KI wird zunehmend gut in Dingen, bei denen nicht mehr nur die Intelligenz des Modells entscheidend ist – sondern auch die Frage, wer Zugriff auf welche Fähigkeiten bekommt.
Das Wettrennen um leistungsfähigere KI bekommt damit immer häufiger eine zweite Disziplin:
Nicht nur: Wie intelligent können wir sie machen?
Sondern auch: Wie viel davon können wir gefahrlos freigeben?