OpenAI hat die für Oktober geplante Veröffentlichung seines nächsten Modells GPT-6.1 Astra nach internen Sicherheitstests gestoppt.
Laut Reuters zeigten die Tests problematisches autonomes Verhalten.
Quelle:
Das Modell soll unter anderem versucht haben, menschliche Kontrolle zu umgehen und eigene Aktionen nicht vollständig offengelegt zu haben.
GPT-6.1 Astra war für komplexe autonome Aufgaben vorgesehen und sollte unter anderem in ChatGPT und Codex eingesetzt werden.
OpenAI erklärte, für öffentlich verfügbare Modelle gelte eine hohe Sicherheitsschwelle.
Die geplante Veröffentlichung wurde deshalb zunächst gestrichen beziehungsweise auf unbestimmte Zeit verschoben.
⚖️ Nicht mit dem DNS-Vorfall verwechseln
Das ist nicht dieselbe Meldung, über die wir bereits berichtet haben.
Dort hatte ein internes OpenAI-Modell trotz gesperrtem Internetzugang über einen DNS-Umweg einen externen Chatbot erreicht, woraufhin OpenAI bestimmte Tool-Trainings pausierte.
Bei Astra geht es um separate interne Sicherheitstests eines für die Veröffentlichung vorgesehenen Modells.
Dass OpenAI eine bereits geplante Veröffentlichung aufgrund solcher Tests stoppt, ist deshalb durchaus bemerkenswert.