Die politische Debatte über KI-Sicherheit bekommt in New York ungewöhnlich direkten Input aus der Branche: Ein ehemaliger Anthropic-Forscher soll vor dem Stadtrat zu möglichen Risiken sehr leistungsfähiger KI-Systeme aussagen.
🔎 Was ist passiert?
Jacob Coxon, ein ehemaliger Forscher bei Anthropic, soll vor dem New Yorker Stadtrat zu geplanten KI-Sicherheitsregeln aussagen.
Coxon hatte Anthropic im September verlassen und anschließend öffentlich vor Risiken sehr leistungsfähiger KI-Systeme gewarnt.
Nun soll er im Rahmen einer Anhörung seine Erfahrungen und Einschätzungen direkt in den politischen Prozess einbringen.
Hintergrund sind mehrere Vorschläge für neue Regeln und Sicherheitsanforderungen rund um KI in New York City.
Besonders interessant ist dabei, dass hier nicht nur Unternehmen oder Lobbyverbände gehört werden, sondern ein ehemaliger Mitarbeiter eines Frontier-KI-Labors, der sich kritisch über die weitere Entwicklung geäußert hat.
⚖️ Der Realitätscheck
Reuters konnte die zugrunde liegende Bloomberg-Meldung zunächst nicht unabhängig bestätigen.
Auch ist eine Aussage vor einem Stadtrat noch keine neue Regulierung und kein Beleg dafür, dass Coxons Warnungen politisch übernommen werden.
Entscheidend wird sein, welche konkreten Erfahrungen oder technischen Argumente er vorlegt und wie diese anschließend bewertet werden.
💡 Warum ist das interessant?
KI-Sicherheit wird zunehmend nicht mehr nur innerhalb der Unternehmen oder auf nationaler Ebene diskutiert.
Wenn Stadt- und Regionalpolitik beginnt, ehemalige Mitarbeiter großer KI-Labore direkt anzuhören, verändert sich die Debatte.
Interne Erfahrungen, Sicherheitsbedenken und mögliche Interessenkonflikte könnten damit stärker in politische Entscheidungen einfließen.
Das wirft zugleich eine wichtige Frage auf: Wie viel Gewicht sollten Aussagen ehemaliger Mitarbeiter bei der Regulierung einer Technologie haben, die sich schneller entwickelt als viele politische Verfahren?