Wie unabhängig kann ein Sicherheitstest sein, wenn das geprüfte KI-Unternehmen selbst über die Veröffentlichung entscheiden darf? Anthropic hat dazu einen ungewöhnlichen Schritt angekündigt: Sechs Forscher der gemeinnützigen Prüforganisation METR bekommen weitreichenden Zugang zu internen Systemen – und dürfen ihre Bewertungen ohne ein grundsätzliches Veto des Unternehmens veröffentlichen.
Quellen:
https://www.anthropic.com/news/an-update-on-independent-evaluators
https://techcrunch.com/2026/10/15/anthropic-is-letting-metr-researchers-look-under-the-hood-with-employee-level-access/
🔎 Was ist passiert?
Am 15. Oktober stellte Anthropic ein neues Verfahren für unabhängige Sicherheitsbewertungen vor. Sechs METR-Mitarbeiter wurden dafür mit firmeneigenen Laptops, Arbeitsplätzen und Zugängen zu Werkzeugen und Informationen ausgestattet, die ungefähr denen von Anthropics eigenen Risikoprüfern entsprechen. So sollen externe Fachleute besser beurteilen können, wie leistungsfähig die Modelle sind, wie Sicherheitsmechanismen funktionieren und welche Risiken intern erkannt werden.
METR soll eigene Bewertungen zu Risiken, Vorfällen und Sicherheitspraktiken veröffentlichen dürfen. Anthropic darf die Veröffentlichung nicht pauschal verhindern. Das Unternehmen kann allerdings Schwärzungen für eng umschriebene vertrauliche Informationen verlangen, etwa Kundeninformationen, anwaltlich geschützte Inhalte oder bestimmte Details der Modellarchitektur. METR darf öffentlich einschätzen, ob solche Schwärzungen gerechtfertigt erscheinen.
Anthropic beschreibt drei Stufen externer Prüfung. Der Zugang für METR ist derzeit die weitreichendste Form; andere Partner arbeiten teils noch mit eingeschränkten Zugängen und Veröffentlichungsrechten.
⚖️ Der Realitätscheck
Das ist ein bemerkenswerter Schritt, aber noch keine staatliche Aufsicht. Anthropic organisiert und ermöglicht die Prüfung freiwillig, bestimmt weiterhin die Zugangsumgebung und behält begrenzte Möglichkeiten, konkrete Informationen schützen zu lassen. Ob sich das Modell in der Praxis bewährt, hängt auch davon ab, wie offen schwierige Befunde dargestellt werden können.
Gerade die Veröffentlichung war bislang ein Streitpunkt. Bereits am 14. Oktober berichteten wir im Artikel „Unabhängige KI-Sicherheitstests: Wie unabhängig dürfen Prüfer sein?“ über den Konflikt zwischen Geschäftsgeheimnissen und öffentlicher Transparenz. Die neue Vereinbarung liefert nun ein konkretes Beispiel dafür, wie sich beide Interessen miteinander verbinden lassen – ohne den Interessenkonflikt vollständig aufzulösen.
Auch die Behauptung, unabhängige Prüfer hätten damit automatisch Zugriff auf alles, wäre falsch: Bestimmte Kategorien bleiben ausdrücklich eingeschränkt.
💡 Warum ist das interessant?
Bei immer leistungsfähigeren KI-Modellen genügt es nicht, wenn Hersteller ihre Sicherheit nur selbst bestätigen. Externe Prüfer brauchen fachliche Unabhängigkeit, Einblick in die relevanten Abläufe und die Möglichkeit, ihre Schlussfolgerungen nachvollziehbar zu veröffentlichen.
Anthropic erprobt dafür nun eine Form eingebetteter Prüfung, die an Kontrollmodelle aus anderen risikoreichen Branchen erinnert. Ob andere KI-Unternehmen folgen und welche Standards daraus entstehen, wird für die Glaubwürdigkeit der gesamten Branche wichtig.