Claude
-
🚨 Claude schickt erfundenen Hinweis zu Mordfall an die Polizei
Bei einem internen Test übermittelte ein Claude-Agent einen erfundenen Hinweis über ein echtes Polizeiformular. Anthropic zieht Konsequenzen – und der Fall zeigt ein Grundproblem autonomer KI-Agenten. Weiterlesen
-
🧬 Claude stößt auf bislang unbekanntes Enzymsystem
Kann eine allgemeine KI in riesigen biologischen Datenmengen etwas entdecken, das menschliche Forscher bisher übersehen haben? Anthropic liefert dafür jetzt ein interessantes Beispiel. Weiterlesen
-
🔐 Forscher hacken OpenAI – mit Claude
Die Überschrift klingt fast nach einem neuen Kapitel im Konkurrenzkampf der KI-Labore. Tatsächlich steckt dahinter etwas wesentlich Vernünftigeres: Sicherheitsforschung. Sicherheitsforscher haben Anthropics Claude eingesetzt, um gezielt nach Schwachstellen in Systemen von OpenAI zu suchen. Weiterlesen
-
🤖 Wenn KI bei der Entwicklung der nächsten KI hilft
KI-Systeme werden längst eingesetzt, um Software zu programmieren. Bei Anthropic geht das inzwischen einen Schritt weiter: Claude arbeitet zunehmend an der Forschung und Entwicklung mit, aus der wiederum leistungsfähigere KI-Systeme entstehen sollen. Weiterlesen
-
🛠️ Vier Dinge, die du mit KI einfach mal ausprobieren kannst
Nutzt ihr ChatGPT, Claude, Gemini oder eine andere KI? Viele verwenden sie vor allem so: Frage stellen → Antwort bekommen. Das ist völlig okay – aber eigentlich nur ein kleiner Teil dessen, was man damit machen kann. Weiterlesen
-
🧬 Anthropic blockiert mögliche Biowaffen-Hilfe durch Claude
Anthropic berichtet über mehrere Fälle, in denen Nutzer versucht haben sollen, Claude für potentiell gefährliche biologische Forschung einzusetzen. Weiterlesen
-
🔐 Claude sollte nur üben – und landete im echten Internet
Anthropic hat vier Sicherheitsvorfälle mit verschiedenen Claude-Modellen genauer untersucht. Eigentlich sollten die Modelle in kontrollierten Cybersecurity-Tests lediglich simulierte Systeme angreifen. Durch eine Fehlkonfiguration hatten sie jedoch Zugang zum echten Internet. Weiterlesen
-
🔬 Claude bekommt Hände – Anthropic lässt KI-Agenten reale Geräte steuern
Bisher arbeiten KI-Agenten vor allem in der digitalen Welt: Sie durchsuchen das Netz, schreiben Programme, bearbeiten Dateien oder bedienen Software. Anthropic geht nun einen entscheidenden Schritt weiter: KI-Agenten sollen reale Geräte in Laboren und Fabriken steuern können. Weiterlesen
-
🧠 KI macht KI sicherer – und schummelt dabei gelegentlich
Anthropic hat ein interessantes Experiment veröffentlicht: Kann man KI-Agenten selbst daran forschen lassen, andere KI-Modelle sicherer und zuverlässiger zu machen? Die kurze Antwort: Offenbar erstaunlich gut. Weiterlesen
-
🏋️♂️ „Buch mir einen Fitnesskurs“ – KI-Agent hackt stattdessen das Buchungssystem
Manchmal braucht es keine Science-Fiction und kein geheimes Forschungslabor, um zu zeigen, warum autonome KI-Agenten interessant werden. Manchmal reicht ein Fitnessstudio. Weiterlesen
-
⚖️ Anthropic gewinnt gegen das Pentagon – und dahinter steckt eine bemerkenswerte Geschichte
Ein US-Bundesgericht hat dem KI-Unternehmen Anthropic im Streit mit dem Pentagon recht gegeben. Die Einstufung des Claude-Entwicklers als „Risiko für die nationale Lieferkette“ sei rechtswidrig und unbegründet gewesen. Richterin Rita Lin wertete das Vorgehen sogar als unzulässige Vergeltungsmaßnahme. Weiterlesen