Ein KI-Agent, eine motorisierte Injektionsapparatur und eine lebende Maus: Ein amerikanisches Biotechunternehmen hat künstliche Intelligenz in einem öffentlich beschriebenen Versuch direkt an einer Gehirninjektion beteiligt. Besonders bemerkenswert ist dabei nicht nur, was die KI ausführte – sondern auch, was ein anderes Modell ausdrücklich verweigerte.
Quelle:
https://www.wired.com/story/an-ai-agent-did-brain-surgery-on-live-mouse/
🔎 Was ist passiert?
Das Unternehmen Exin Therapeutics aus San Francisco erforscht unter anderem neue Behandlungsmöglichkeiten für Epilepsie.
Für einen Versuch verbanden die Entwickler einen KI-Agenten auf Basis von Anthropics Claude mit einer motorisierten Laborapparatur. Über eine Kamera konnte das System den Versuchsaufbau beobachten. Außerdem erhielt es die Möglichkeit, die Position einer Injektionsnadel sowie deren Bewegung und die Abgabe einer Flüssigkeit zu steuern.
Die Aufgabe: Bei einer Maus mit Epilepsie sollte eine experimentelle Gentherapie in eine bestimmte Gehirnregion injiziert werden.
Der KI-Agent durfte aus 19 vorgegebenen Behandlungsmöglichkeiten eine auswählen. Er bestimmte außerdem die Zielregion, die Koordinaten und die technischen Einstellungen für die Injektion.
Der Schädel wurde allerdings zuvor von einem Tierarzt geöffnet. Der KI-Agent führte also keine vollständige Gehirnoperation aus.
Für zusätzliche Sicherheit mussten Menschen den geplanten Eingriff genehmigen. Ein Not-Aus konnte die Motoren stoppen, und die KI durfte die zugrunde liegende Steuerungssoftware nicht eigenständig verändern.
Dann kam die Überraschung.
Zunächst wurde Claude Opus 5.5 eingesetzt. Das Modell half bei der Planung, verweigerte aber schließlich die direkte Steuerung der Nadel. Nach der Schilderung des Unternehmens begründete es dies mit der Gefahr, während des Eingriffs stoppen zu müssen und dadurch das Tier zu gefährden.
Die Entwickler wechselten daraufhin zu Claude Sonnet 5. Dieses Modell führte die Injektion aus.
Ganz reibungslos lief es trotzdem nicht: Ein technischer Fehler brachte das Koordinatensystem durcheinander. Die KI erkannte das Problem, durfte die Software wegen ihrer Sicherheitsvorgaben aber nicht selbst korrigieren.
Ein weiterer KI-Agent half bei der Behebung des Fehlers. Dadurch dauerte der Eingriff etwas länger als eine Stunde statt der üblichen etwa 45 Minuten.
⚖️ Der Realitätscheck
Die Schlagzeile „KI führt Gehirnoperation durch“ wäre deutlich zu weitgehend.
Ein Tierarzt übernahm einen wesentlichen chirurgischen Teil. Menschen entschieden über die Freigabe und behielten die Möglichkeit einzugreifen.
Außerdem stammen die bislang bekannten Informationen im Wesentlichen aus den Schilderungen des Unternehmens gegenüber dem Magazin WIRED. Eine unabhängig überprüfte wissenschaftliche Veröffentlichung über diesen konkreten Versuch liegt bislang nicht vor.
Ob die eingesetzte Gentherapie tatsächlich die epileptischen Anfälle der Maus reduziert, ist ebenfalls noch offen. Nach Angaben des Unternehmens erholt sich das Tier.
Der Versuch beweist also weder einen medizinischen Behandlungserfolg noch, dass KI bereits selbstständig komplexe Operationen zuverlässig durchführen könnte.
Auch die unterschiedlichen Reaktionen der beiden Claude-Modelle lassen sich nicht einfach als „besser“ oder „schlechter“ bewerten. In diesem Fall führte die Verweigerung eines Modells immerhin dazu, dass die Entwickler auf ein anderes auswichen.
💡 Warum ist das interessant?
Bisher erleben wir KI in der Medizin häufig als Werkzeug zur Auswertung: Sie untersucht Bilder, durchsucht Forschungsliteratur oder hilft beim Entwurf neuer Wirkstoffe.
Hier ging sie einen Schritt weiter.
Die KI beeinflusste unmittelbar eine Handlung an einem lebenden Organismus.
Das verändert die Sicherheitsanforderungen erheblich. Eine falsche Textantwort lässt sich korrigieren. Eine falsch platzierte Injektionsnadel möglicherweise nicht.
Gleichzeitig zeigte der Versuch ein interessantes Spannungsfeld: Sicherheitsregeln verhinderten, dass die KI einen Softwarefehler eigenmächtig korrigierte. Bei der eigentlichen Injektion führte die Verweigerung des ersten Modells dagegen zum Wechsel auf ein anderes.
Wir haben bereits darüber berichtet, wie Anthropic KI-Agenten mit realen Laborgeräten verbindet. Der Mausversuch zeigt nun eine besonders sensible Anwendung.
Die entscheidende Frage ist deshalb nicht nur, wie geschickt eine KI künftig medizinische Geräte bedienen kann.
Sondern auch, wer entscheidet, wann sie handeln darf – und wann sie besser aufhören sollte.