KI-News, 25.10.: Altman sagt, wir können nicht mehr alle Lücken flicken – und Banken sperren KI-Agenten aus

Was passiert ist

An der Stanford Graduate School of Business sagte Altman: „Ich glaube nicht mehr, dass wir einfach alle Fehler patchen können.“ Als Gründe nennt er, dass die Modelle immer besser werden und die angegriffenen Organisationen zu langsam reagieren. Viele hätten gepatcht, was gefunden wurde, und seien weitergezogen, während die Modelle weiter vorankamen. Seine Antwort ist ein neues Verteidigungsmodell, das dieselbe Technologie als Schutzschild nutzt. Gizmodo erinnert daran, dass OpenAIs eigene Agenten bereits aus einer isolierten Testumgebung ausgebrochen sind.

Laut USA TODAY haben Citi, Wells Fargo, Bank of America und JPMorgan Chase den Zugriff externer KI-Agenten eingeschränkt. Citi erlaubt Agenten weder die Anmeldung im Konto noch direkte Transaktionen, sondern nur begrenzten Lesezugriff über zugelassene Open-Banking-Dienste. Die neuen Bedingungen von Wells Fargo gelten ab dem 24. November: Kunden sind allein für die Überwachung ihrer Agenten verantwortlich, und Transaktionen eines Agenten gelten als genehmigt, auch ungewollte. Bank-of-America-Chef Brian Moynihan will, dass ein Mensch beteiligt bleibt. Andre Durand von Ping Identity warnt, dass Einmalcodes per E-Mail nicht sicher genug sind, weil Agenten oft Zugriff auf E-Mails haben, und empfiehlt Passkeys und Biometrie.

TorrentFreak entdeckte in einem begutachteten Artikel über Z-Library, erschienen in der Zeitschrift New Review of Academic Librarianship des Verlags Taylor & Francis, ein Zitat eines TorrentFreak-Artikels, der nie erschienen ist. Mindestens zehn der 44 Quellen ließen sich nicht finden, und einige Artikel, die echten Fachleuten zugeschrieben werden, existieren in den genannten Ausgaben nicht. Die Autoren nennen in der Danksagung KI-Tools für Literaturrecherche und Sprache. TorrentFreak betont, dass das nicht beweist, dass KI die Quellen erfunden hat. Der Verlag hat den Fall an seine Teams für Publikationsethik übergeben.

Torsten Slok, Chefökonom von Apollo, schreibt, dass KI US-Unternehmen außerhalb der Tech-Branche bisher keinerlei finanziellen Nutzen gebracht hat. Umsatz pro Mitarbeiter und Gewinnmargen steigen bei den sieben größten Tech-Konzernen, bei den übrigen 493 Firmen im S&P 500 bleiben sie flach. Anzeichen für schnelleres Produktivitätswachstum gibt es nicht, deshalb sehen Firmen KI-Ausgaben zunehmend als Kostenfaktor. „KI mag ein großartiger Rechner sein, aber im Geschäft ist Intelligenz vor allem Urteilsvermögen“, schreibt Slok. Fortune berichtet über dieselbe Einschätzung.