Je stärker Roboter mit generativer und lernender KI arbeiten, desto schwieriger wird eine alte Frage: Wie beweist man eigentlich, dass sie Menschen nicht gefährden?
Quellen:
https://techcrunch.com/2026/10/05/can-safeworld-convince-people-that-gen-ai-robots-wont-hurt-them/
https://www.safeworld.ai/
Das US-Startup SafeWorld, entstanden aus dem Umfeld der Carnegie Mellon University, will genau dafĂĽr neue Testverfahren entwickeln.
Das Unternehmen kommt jetzt mit einer Seed-Finanzierung von mehr als 12 Millionen Dollar aus dem Stealth-Modus.
🔎 Was ist passiert?
Klassische Robotersteuerung ist häufig vergleichsweise vorhersehbar: Wenn Bedingung X erfüllt ist, passiert Aktion Y.
Bei KI-gesteuerten Systemen kann das Verhalten stärker von Wahrscheinlichkeiten, Wahrnehmung und wechselnden Situationen abhängen.
Und ein Fehler bedeutet bei einem Text vielleicht nur eine falsche Antwort. Bei einem Roboterarm kann er bedeuten, dass tatsächlich jemand getroffen wird.
SafeWorld setzt deshalb auf Simulationen. Die echte Steuerungssoftware eines Roboters wird in virtuelle Umgebungen eingebaut und dort mit sehr vielen schwierigen Situationen konfrontiert.
- Ein Mensch kommt hinter einer Ecke hervor.
- Jemand trägt Kisten und verdeckt Teile seines Körpers.
- Eine Person kniet, rennt oder bewegt sich ungewöhnlich.
- Jemand stolpert oder fällt plötzlich hin.
Der Roboter muss solche Situationen erkennen und rechtzeitig reagieren.
So lassen sich gefährliche Grenzfälle testen, ohne dafür ständig echte Menschen vor einen fahrenden Roboter stellen zu müssen.
SafeWorld nutzt dafĂĽr unter anderem Simulationsumgebungen wie Genesis und MuJoCo und arbeitet bereits mit Robotikunternehmen zusammen.
⚖️ Der Realitätscheck
SafeWorld ist noch ein sehr junges Unternehmen.
Simulationen können reale Tests nicht vollständig ersetzen. Die Firma muss erst zeigen, wie zuverlässig sich Risiken aus virtuellen Tests auf reale Einsätze übertragen lassen.
Und SafeWorld ist bislang keine offizielle Zertifizierungsstelle.
đź’ˇ Warum ist das interessant?
Mit zunehmender Verbreitung von Physical AI könnte ein neuer Markt entstehen: unabhängige Sicherheitsprüfungen für KI-gesteuerte Maschinen.
Vereinfacht gesagt wäre das irgendwann eine Art TÜV für KI-Roboter – nicht als heutiger offizieller Status von SafeWorld, sondern als mögliche Richtung für eine Branche, die ihre Systeme künftig nicht nur funktional, sondern auch nachvollziehbar sicher machen muss.