Die US-Handelsaufsicht FTC hat eine formelle Untersuchung gegen mehrere Organisationen aus dem KI-Bereich eingeleitet.
Betroffen sind unter anderem OpenAI, Anthropic und die Forschungsorganisation METR.
Im Mittelpunkt steht die Frage, welche Risiken autonome KI-Agenten für Verbraucher und IT-Systeme verursachen können.
Quelle:
🔎 Was untersucht die FTC?
Die Behörde will unter anderem wissen,
wie Unternehmen autonome Agenten testen,
welche Sicherheitskontrollen existieren,
wie mit unerwartetem Verhalten umgegangen wird
und welche Risiken für Nutzer und fremde Systeme entstehen können.
Die FTC kann dabei Dokumente und interne Informationen anfordern und gegebenenfalls auch Führungskräfte zur Aussage verpflichten.
⚖️ Der Realitätscheck
Eine Untersuchung bedeutet nicht, dass bereits ein Rechtsverstoß festgestellt wurde.
Die FTC prüft zunächst, ob bestehende Verbraucherschutz- und Sicherheitsgesetze auf mögliche Schäden durch autonome KI-Agenten angewendet werden können.
Hintergrund sind mehrere Vorfälle der vergangenen Monate, bei denen KI-Agenten technische Grenzen umgingen oder auf Systeme zugriffen, für die sie eigentlich nicht vorgesehen waren.
💡 Warum ist das interessant?
Bislang wurde Agentensicherheit hauptsächlich von den Unternehmen selbst und von unabhängigen Forschern untersucht.
Mit der FTC beginnt nun eine US-Behörde, diese Frage auch aus Verbraucherschutz- und Haftungsperspektive zu betrachten.
Damit könnte sich die Debatte verschieben:
Nicht nur „Wie sicher ist ein Modell?“
sondern zunehmend:
Wer haftet eigentlich, wenn ein autonomer Agent Schaden verursacht?