KI-Sicherheit
-
🇬🇧 Großbritannien zwischen KI-Wettlauf und Sicherheitsbedenken
In Großbritannien wachsen die Sorgen über die Risiken leistungsfähiger KI. Gleichzeitig möchte das Land technologisch nicht zurückfallen. Ein Konflikt, der immer mehr Staaten beschäftigt. Weiterlesen
-
⚖️ Acht US-Bundesstaaten verklagen OpenAI – wie gefährlich ist ChatGPT wirklich?
Acht US-Bundesstaaten verklagen OpenAI wegen möglicher Schäden durch ChatGPT. Was ist über die Vorwürfe bekannt, und was zeigen wissenschaftliche Untersuchungen über möglichen Nutzen und Risiken? Weiterlesen
-
🛡️ Anthropic öffnet seine Sicherheitsprüfung: METR darf Ergebnisse ohne Veto veröffentlichen
Sechs METR-Forscher erhalten weitreichenden Zugang zu Anthropics internen Sicherheitsinformationen. Ihre Ergebnisse dürfen sie ohne Veröffentlichungs-Veto publizieren. Weiterlesen
-
🇨🇳 China will Exporte wichtiger KI-Technologien stärker kontrollieren
China plant neue Exportkontrollen für 23 KI-Technologien. Die Regeln sind noch im Entwurf, eine Registrierungspflicht für bestimmte Transfers gilt bereits. Weiterlesen
-
🇪🇺 EU prüft KI-Agenten-Vorfälle bei OpenAI und Anthropic
Nach Sicherheitsvorfällen mit KI-Agenten fordert die EU-Kommission Auskünfte von OpenAI und Anthropic. Wie weit reichen die Kontrollpflichten des AI Act? Weiterlesen
-
🦠 Ansteckende KI? Anthropic untersucht selbstverbreitende Modelle auf smarten Geräten
Anthropic testet, ob KI-Modelle auf günstigen vernetzten Geräten laufen und sich weiterkopieren könnten. Ein autonomer KI-Wurm ist noch nicht belegt. Weiterlesen
-
🔍 Unabhängige KI-Sicherheitstests: Wie unabhängig dürfen Prüfer sein?
OpenAI und Anthropic unterstützen unabhängige KI-Tests. Doch beim Veröffentlichen der Ergebnisse prallen Transparenz und Geschäftsgeheimnisse aufeinander. Weiterlesen
-
🥛 Milch wird strenger kontrolliert als KI – sagt Microsofts Präsident
Microsoft-Präsident Brad Smith fordert strengere internationale Sicherheitsregeln für KI. Sein zugespitzter Vergleich: Milch und Waschmaschinen seien teils stärker reguliert. Weiterlesen
-
🚨 Claude schickt erfundenen Hinweis zu Mordfall an die Polizei
Bei einem internen Test übermittelte ein Claude-Agent einen erfundenen Hinweis über ein echtes Polizeiformular. Anthropic zieht Konsequenzen – und der Fall zeigt ein Grundproblem autonomer KI-Agenten. Weiterlesen
-
🇮🇳 Indien bereitet neue Regeln für künstliche Intelligenz vor
Indien bereitet ein Konsultationspapier zur KI-Regulierung vor. Im Mittelpunkt stehen Sicherheit, Deepfakes und gesellschaftliche Auswirkungen. Weiterlesen
-
🧠 KI-Psychose: Wenn Chatbots wahnhafte Vorstellungen verstärken
Eine neue psychiatrische Untersuchung beleuchtet, wie KI-Chatbots mit wahnhaften Vorstellungen zusammenhängen können – und wo die Grenzen der Forschung liegen. Weiterlesen
-
🇦🇺 OpenAI entschuldigt sich vor australischem Parlament
OpenAI räumt Fehler nach unerlaubten Zugriffen von KI-Agenten auf australische Regierungswebseiten ein und unterstützt klarere Meldepflichten. Weiterlesen
-
🤖 Wer prüft eigentlich, ob ein KI-Roboter sicher ist?
Das Startup SafeWorld will KI-gesteuerte Roboter in Simulationen systematisch auf gefährliche Grenzfälle testen. Könnte daraus eine Art unabhängiger TÜV für Physical AI entstehen? Weiterlesen
-
🏛️ Ex-Anthropic-Forscher soll vor New Yorker Stadtrat zu KI-Risiken aussagen
Der ehemalige Anthropic-Forscher Jacob Coxon soll vor dem New Yorker Stadtrat zu Risiken leistungsfähiger KI-Systeme aussagen. Weiterlesen
-
⚖️ Sam Altman: Der Nutzen von KI rechtfertigt gewisse Risiken
Sam Altman argumentiert, dass vollständige Risikofreiheit bei leistungsfähiger KI weder realistisch noch wünschenswert sei. Weiterlesen