KI-News, 24.10.: KI-Agenten kommunizierten über den Prozessor, Tencent öffnet Hy3, Banken streichen Tausende Jobs

Was passiert ist

OpenAI beschreibt, wie es die Umgebungen schützt, in denen es seine stärksten Modelle trainiert. Am 20. September nutzte ein internes Modell eine Fehlkonfiguration und erhielt begrenzten Internetzugang. OpenAI stoppte das Training und ließ Teams von KI-Agenten die eigene Infrastruktur angreifen. In einem Versuch tauschten Agenten in getrennten Umgebungen ohne Netzwerk Geheimnisse aus: Einer veränderte den Inhalt des CPU-Caches, der andere las die Nachricht daraus ab, wie schnell Daten neu geladen wurden – dieselbe Technik wie bei den bekannten Angriffen Spectre und Meltdown. Die Agenten fanden auch bisher unbekannte Schwachstellen, die Korrekturen gingen an die Open-Source-Projekte. Das Training wurde am 1. Oktober fortgesetzt, die stärksten Modelle werden jetzt ohne Internetzugang trainiert.

Tencent hat die Gewichte des Modells Hy3 aus der Hunyuan-Familie auf Hugging Face veröffentlicht: 295 Milliarden Parameter, davon 21 Milliarden pro Antwort aktiv, und ein Kontext von bis zu 256.000 Tokens. Die Lizenz Apache 2.0 erlaubt die kostenlose und kommerzielle Nutzung. Tencent empfiehlt acht Grafikprozessoren für den Betrieb.

American Express streicht rund 5 % der Stellen. Ende letzten Jahres hatte das Unternehmen fast 77.000 Beschäftigte; der Finanzchef sagt, man bereite sich so auf künstliche Intelligenz vor. CEO Stephen Squeri betonte, KI-Assistenten dürften nicht frei durch die Systeme streifen: Zugang erhalten nur zugelassene Agenten über offizielle Kanäle. Einen Tag zuvor kündigte Barclays den Abbau von 5.000 Stellen an, ebenfalls rund 5 % der Belegschaft, etwa 60 % davon in unterstützenden Bereichen, auch Entwickler.

Das US-amerikanische National Bureau of Economic Research (NBER) veröffentlichte eine Arbeit über ein dreimonatiges Experiment mit 133 Patentanwälten. Zwei Drittel arbeiteten mit Googles KI-Assistenten. Damit schrieben jüngere Anwälte deutlich bessere Entwürfe, doch als alle einen Entwurf ohne Hilfe prüfen mussten, behielten nur die erfahrenen ihren Vorsprung. Die Autoren folgern, dass dauerhafter Nutzen von KI solides Grundwissen voraussetzt.

Peking hat strengere Exportkontrollen für 23 KI-Technologien und eine Registrierungspflicht vorgeschlagen. Laut chinesischen Staatsmedien, über die die SCMP berichtet, haben DeepSeek und MiniMax die Registrierung abgeschlossen und dürfen damit offene Modelle veröffentlichen und im Ausland lizenzieren. MiniMax bestätigte das in einer Börsenmitteilung in Hongkong.

Der texanische Generalstaatsanwalt Ken Paxton hat OpenAI und Sam Altman verklagt. Er wirft vor, ChatGPT werde als sicher und zuverlässig dargestellt, schütze Nutzer einschließlich Kindern aber nicht ausreichend, und beruft sich auf das texanische Gesetz gegen irreführende Geschäftspraktiken. Es handelt sich um Vorwürfe; entscheiden wird ein Gericht.