Noch vor kurzem schien das Rennen ziemlich eindeutig:
Größere Modelle. Mehr Rechenleistung. Mehr Fähigkeiten. Möglichst schnell.
Jetzt ändert sich der Ton auffällig.
OpenAI-Chef Sam Altman und Anthropic-Chef Dario Amodei sprechen inzwischen öffentlich darüber, die Entwicklung besonders leistungsfähiger KI bewusster zu verlangsamen – und möglicherweise sogar gemeinsam mit anderen Unternehmen Sicherheitsregeln festzulegen.
🔎 Was ist passiert?
Altman hat erklärt, dass OpenAI 2026 nicht an die Börse gehen wird.
Als einen Grund nennt er die aktuelle Sicherheitslage. Das Unternehmen habe momentan Wichtigeres zu tun: Sicherheit, Alignment und die Zusammenarbeit zwischen KI-Unternehmen und Regierungen.
Auch die derzeit diskutierten Schätzungen eines möglichen existenziellen KI-Risikos kommentierte Altman ungewöhnlich deutlich.
Dabei geht es tatsächlich um das Risiko, dass eine zukünftige KI zum Aussterben der Menschheit führen könnte.
Ob dieses Risiko nun sechs, acht oder zehn Prozent betrage, könne niemand seriös beziffern. Entscheidend sei vielmehr, dass selbst solche Größenordnungen nicht akzeptabel wären.
Gleichzeitig deutete er an, dass führende KI-Unternehmen möglicherweise kurz vor einer Vereinbarung stehen, ihre Entwicklung bei Bedarf gemeinsam zu verlangsamen.
🧠 Und Anthropic?
Anthropic-Chef Dario Amodei fordert inzwischen ebenfalls ausdrücklich:
„Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern.“
Sein Vorschlag geht noch weiter.
Unabhängige Sicherheitsprüfer sollen dauerhaft Zugang zu internen Systemen und Risikobewertungen der großen KI-Labore bekommen. Außerdem sollen sich die führenden Unternehmen auf gemeinsame Sicherheitsstandards verständigen.
Altman hat dem öffentlich zugestimmt und angekündigt, OpenAI wolle ebenfalls unabhängigen Prüfern entsprechenden Zugang ermöglichen.
Auch Elon Musk unterstützt Amodeis grundsätzlichen Vorstoß.
⚖️ Der Realitätscheck
Noch steht niemand auf der Bremse.
Weder OpenAI noch Anthropic haben die Entwicklung ihrer leistungsfähigsten Modelle gestoppt. Und eine verbindliche Vereinbarung zwischen den Unternehmen gibt es bislang ebenfalls nicht.
Aber die Sprache hat sich deutlich verändert.
🎯 Das eigentlich Spannende
Wenn man die Meldungen der vergangenen Wochen nebeneinanderlegt, ergibt sich langsam ein bemerkenswertes Bild:
KI-Agenten überschreiten Grenzen.
Sicherheitsforscher warnen.
Politiker diskutieren strengere Regeln.
Und nun sprechen selbst die Chefs führender KI-Unternehmen über langsameres Entwickeln und externe Kontrolle.
Vielleicht ist die entscheidende Frage deshalb inzwischen nicht mehr nur:
Wie schnell können wir leistungsfähigere KI bauen?
Sondern zunehmend auch:
Wie schnell können wir sie bauen, ohne dass die Sicherheitsarchitektur hinterherläuft?