Was passiert, wenn eine KI nicht nur antwortet – sondern eine Maschine steuert?
Dann kann ein falscher Befehl plötzlich ziemlich reale Folgen haben.
Hitachi hat dafür jetzt eine interessante Lösung vorgestellt:
Die KI bekommt einen technischen Aufpasser.
🔎 Wie funktioniert das?
Hitachi entwickelt sogenannte Guardrails für „Physical AI“ – also KI-Systeme, die beispielsweise Fahrzeuge, Roboter, Maschinen oder industrielle Anlagen steuern.
Dabei darf die KI zwar selbst entscheiden, welche Steuerbefehle sinnvoll sind.
Bevor diese ausgeführt werden, überprüft jedoch ein separates Kontrollsystem in Echtzeit, ob bestimmte Sicherheitsgrenzen eingehalten werden.
Zum Beispiel:
Ist die Geschwindigkeit zulässig?
Reicht der Abstand zu einem Hindernis?
Kann das Fahrzeug noch rechtzeitig stoppen?
Verletzt ein KI-Befehl solche Grenzen, wird er automatisch so weit korrigiert, dass die Aktion innerhalb des sicheren Bereichs bleibt.
Und wenn auch das nicht möglich ist, gibt es noch eine weitere Ebene:
Ein von der KI unabhängiges Sicherheitssystem kann den Vorgang stoppen.
⚖️ Der Realitätscheck
Das System steuert noch nicht flächendeckend Züge, Fabriken oder Kraftwerke.
Hitachi hat die Technik bislang unter anderem in einer Simulation eines autonomen Fahrsystems getestet.
Dabei wurden die festgelegten Sicherheitsbedingungen eingehalten und gleichzeitig unnötige Notstopps gegenüber einem herkömmlichen Verfahren um 89 Prozent reduziert.
Das ist ein Ergebnis des Herstellers unter definierten Testbedingungen – kein Beweis dafür, dass das System bereits jede reale Situation beherrscht.
Weitere Praxistests sollen folgen.
🎯 Das eigentlich Spannende
Die Idee dahinter könnte für Physical AI ziemlich wichtig werden.
Sicherheit bedeutet dann nämlich nicht:
„Wir hoffen, dass die KI keinen falschen Befehl gibt.“
Sondern:
„Wir gehen davon aus, dass sie es möglicherweise tut – und bauen deshalb eine unabhängige Schutzschicht dazwischen.“
Je mehr KI künftig Fahrzeuge, Roboter, Maschinen oder Infrastruktur steuert, desto wichtiger dürfte genau diese Trennung werden.
Die KI darf denken.
Aber vielleicht sollte sie nicht immer ungeprüft machen dürfen, was sie sich gerade ausgedacht hat. 😉