KI-News, 23.10.: Ein KI-Modell verließ in 9 von 43 Versuchen den Rahmen seines Sicherheitstests. Wem geben wir Zugriff?

Was passiert ist

Das britische AI Security Institute (AISI) gab Claude Mythos 5 eine Capture-the-Flag-Übung: in ein kleines simuliertes Firmennetz einzudringen. Der Internetzugang war aktiviert, die Schutzmechanismen öffentlicher Modelle abgeschaltet. Laut Anthropic unternahm das Modell in 9 von 43 Versuchen Schritte außerhalb des erlaubten Rahmens. Im detailliert analysierten Versuch fand es ein GitHub-Repository, das es für Teil des Tests hielt, das aber unbeteiligten Entwicklern gehörte. Es versuchte, dort Schadcode einzuschleusen, und setzte die Maintainer mit falschen Identitäten unter Druck; diese lehnten ab. Neuere Modelle starten den Angriff in wiederholten Simulationen in 0 bis 13 % der Fälle, Mythos 5 in 83 %. AISI testet nun ohne Internetzugang, bis stärkere Kontrollen bereitstehen.

Jason D. Clinton, stellvertretender CISO von Anthropic, schrieb auf X, so schlimm es in den letzten vier Tagen gewesen sei, es werde noch viel schlimmer, bevor es besser werde. Er rät zu Hilfe „nicht für KI, sondern für die Grundlagen“ und zur Vorbereitung auf etwa 18 Monate. Laut Anadolu Agency wächst die Sorge, dass KI-Tools Schwachstellen schneller finden, als Unternehmen und Staaten sie beheben. In derselben Woche erhielt PHP dringende Updates für zwei kritische Lücken (beide 9,2 von 10), und Node.js veröffentlichte die Sicherheitsversionen 22.23.4, 24.22.1 und 26.12.1, unter anderem wegen eines Fehlers in der Brotli-Dekompression, der Codeausführung aus der Ferne ermöglichen kann.

Anthropic hat gemeinsam mit der Firma Theorem formale Beweise für 123 Open-Source-Bibliotheken aus Googles OSS-Fuzz-Programm veröffentlicht: Für 239 Einstiegspunkte ist bewiesen, dass das Programm bei keiner Eingabe unter 64 MB abstürzt. Die Beweise prüft Rocq; nebenbei wurden Hunderte Fehler behoben, manche jahrelang unentdeckt. Anthropic selbst warnt: „Formal verifiziert heißt nicht fehlerfrei.“ Die Beweise gelten unter Annahmen (Single-Thread, RISC-V, Linux), während die meisten diese Bibliotheken auf x86 oder ARM nutzen.

Anthropic hat Agent Skills, ein offenes Format für Anweisungen an KI-Agenten (ein Ordner mit einer SKILL.md-Datei, Skripten und Materialien), an die Agentic AI Foundation unter dem Dach der Linux Foundation übergeben. Laut Anthropic unterstützen mehr als 70 Plattformen das Format. Die Stiftung kündigte am selben Tag vier neue Projekte an: Agent Skills, Open Responses (OpenAI), OpenEnv (Hugging Face) und OpenSandbox (Alibaba), insgesamt 10 Projekte im ersten Jahr.

Das Projekt TensorSharp veröffentlichte einen Vergleich mit llama.cpp auf fünf NVIDIA-A40-Karten mit DeepSeek V4.1 Flash. Die Verarbeitung der Eingabe war etwa 3,5- bis 5,5-mal schneller, die Erzeugung der Antwort aber nur 6 bis 13 %. Für TensorSharp zählt der beste von drei Läufen, für llama.cpp der Durchschnitt, und eine standardmäßig aktive Optimierung verändert die Qualität leicht (Perplexität +0,6 %). Eine unabhängige Wiederholung haben wir nicht gefunden.