KI-Sicherheit

Wie KI die Sicherheit verändert.

KI-gestützte Angriffe, Deepfake-Betrug und Scams, Angriffe auf KI-Systeme – und wie Banken, Fintechs und Tech-Firmen sich dagegen wehren. Zweimal täglich aktualisiert.

Foto: Jakub Żerdzicki / Unsplash

SicherheitEntwicklerBleepingComputer ↗14. Nov.

Cursor bestätigt Sicherheitsvorfall: Hacker verbreiteten bösartige Claude-Code-Erweiterung über den Marketplace

Cursor hat einen Sicherheitsvorfall bestätigt, durch den Angreifer eine bösartige Claude-Code-Erweiterung über den Marketplace verbreiten konnten. Die Angreifer nutzten Zugangsdaten, die beim KI-Infrastrukturanbieter Fireworks AI gestohlen wurden.

Warum das wichtig istEntwickler, die Erweiterungen aus Cursors Marketplace installiert haben, sollten ihre Tools überprüfen, denn ein einziger gestohlener Zugang kann sich durch die gesamte KI-Lieferkette ausbreiten.

SicherheitAlltagDark Reading ↗13. Nov.

Android-Malware-Bande ArcticRAT nutzt jetzt KI, um die Finanzen von Opfern auszuwerten

Die Cybercrime-Gruppe ArcticRAT hat ihre Android-Malware vom Kryptodiebstahl zur vollständigen Gerätekontrolle ausgebaut. Die Angreifer setzen zudem KI-gestützte Analysen gestohlener Daten ein, um Finanzprofile der Opfer zu erstellen.

Warum das wichtig istKriminelle nutzen KI, um die lukrativsten Ziele auszuwählen. Nutzer von Mobile Banking sollten bei App-Installationen und Berechtigungen vorsichtig sein.
SicherheitCSO Online ↗13. Nov.

Experten: KI macht Cyberangriffe schneller und billiger, aber nicht grundlegend neu

Sicherheitsexperten sagen, KI helfe Angreifern, schneller und in größerem Umfang zu arbeiten, und senke die nötigen Fähigkeiten. Kerntechniken wie Phishing, Malware und das Ausnutzen von Schwachstellen blieben aber gleich. Die grundlegende Angriffskette hat sich nicht verändert.

Warum das wichtig istSicherheitsteams können sich weiter auf bewährte Abwehrmaßnahmen gegen Phishing und Exploits konzentrieren und sich zugleich auf mehr Angriffe einstellen.
SicherheitWirtschaftBleepingComputer ↗13. Nov.

KI-Agent für Rechnungsverarbeitung ließ sich per E-Mail zur Änderung von Lieferanten-Bankdaten verleiten

Token Security hat gezeigt, dass ein KI-Agent zur Automatisierung von Rechnungen durch eine bösartige E-Mail dazu gebracht werden konnte, Bankdaten von Lieferanten zu ändern, ohne normale Sicherheitswarnungen auszulösen. Das Unternehmen beschrieb fünf Sicherheitslücken bei KI-Agenten in Unternehmen.

Warum das wichtig istUnternehmen, die KI-Agenten Zugriff auf Zahlungen geben, brauchen Kontrollen, die verhindern, dass versteckte Anweisungen in E-Mails Geld umleiten.
SicherheitWirtschaftThe Hacker News ↗13. Nov.

FBI: Nordkoreanische Hacker stahlen mit Deepfake-Videoanrufen über $400 Millionen in Krypto

Laut FBI haben mit Nordkorea verbundene Hacker in 18 Monaten mehr als $400 Millionen in Kryptowährung gestohlen – mit einer Social-Engineering-Masche namens FaceStealer, bei der Deepfake-Videoanrufe zum Einsatz kamen. Die Erkenntnis war Teil koordinierter Maßnahmen der US-Regierung.

Warum das wichtig istEin vertrautes Gesicht im Videoanruf ist kein Identitätsnachweis mehr. Krypto-Firmen und Finanzteams brauchen zusätzliche Prüfungen, bevor sie Geld überweisen.
SicherheitInfosecurity Magazine ↗13. Nov.

Proofpoint-Forscherin: Starker KI-Einsatz macht Hackerangriffe schlampiger

Selena Larson von Proofpoint sagt, dass Angreifer, die auf KI setzen, viele Fehler machen. Sie sieht kaum Hinweise darauf, dass KI ihre Angriffe raffinierter gemacht hat.

Warum das wichtig istVerteidiger können auf KI-bedingte Fehler in Angriffen achten, sollten aber nicht davon ausgehen, dass KI-gestützte Bedrohungen immer fortschrittlicher sind.
SicherheitPolitikThe Record ↗13. Nov.

Britische Datenschutzbehörde verzeichnet in diesem Jahr Rekordzahl gemeldeter Cybervorfälle

Britische Organisationen haben der Datenschutzbehörde des Vereinigten Königreichs in diesem Jahr mehr Cybervorfälle gemeldet als je zuvor. Sicherheitsfirmen machen Datenerpressung und künstliche Intelligenz für den Anstieg der Angriffe verantwortlich.

Warum das wichtig istUnternehmen, die im Vereinigten Königreich personenbezogene Daten verarbeiten, sollten mit mehr Angriffen und mehr Aufmerksamkeit der Aufsicht rechnen und ihre Notfallpläne überprüfen.
SicherheitEntwicklerSecurityWeek ↗13. Nov.

OpenAI startet Sicherheitstools Daybreak, die mit KI-Agenten Apps auf Schwachstellen testen und Fixes vorbereiten

OpenAI hat Daybreak Red Team vorgestellt, das koordinierte KI-Agenten einsetzt, um Webanwendungen auf Schwachstellen zu testen, und im Early Access angeboten wird. Zudem startete das Unternehmen Defense Factory, das Sicherheitsbefunde untersucht und Patches vorbereitet und so das Aufspüren von Schwachstellen mit deren Behebung und erneuten Tests verknüpft.

Warum das wichtig istSicherheitsteams könnten bald sowohl das Aufspüren als auch das Beheben von App-Schwachstellen an KI-Agenten übergeben. Das könnte Fixes beschleunigen, erfordert aber sorgfältige Prüfung durch Menschen.
SicherheitWirtschaftInfosecurity Magazine ↗13. Nov.

Forscher warnt: KI dürfte Ransomware im nächsten Jahr gefährlicher und lukrativer machen

Bob McArdle von TrendAI sagt, Ransomware-Techniken hätten seit einigen Jahren stagniert, würden sich im nächsten Jahr aber deutlich verändern. Er erwartet, dass KI Angriffe gefährlicher und profitabler macht.

Warum das wichtig istUnternehmen sollten Backups und Notfallpläne jetzt überprüfen, falls KI-gestützte Ransomware wie vorhergesagt zunimmt.
SicherheitEntwicklerHelp Net Security ↗13. Nov.

Fest gepinnter MCP-Server lief in fünf Wochen unbemerkt mit 15 verschiedenen Abhängigkeitssätzen

Ein Corelight-Forscher stellte fest, dass ein MCP-Server, der auf ein festes Release eingestellt war, seine Abhängigkeiten in fünf Wochen 15-mal änderte, ohne dass die Konfiguration angepasst wurde. 23 seiner 69 Pakete wechselten die Version, darunter Bibliotheken für Kryptografie, JSON Web Token und das MCP SDK.

Warum das wichtig istTeams, die KI-Coding-Assistenten über MCP-Server anbinden, sollten den gesamten Abhängigkeitsbaum fixieren und nicht nur die Hauptversion, um unerwartete Lieferkettenrisiken zu vermeiden.
SicherheitAlltagThe Record ↗12. Nov.

United Airlines untersagt Kunden die Nutzung von KI-Agenten zum Buchen und Verwalten von Flügen

United erlaubt persönlichen KI-Assistenten nicht, Tickets zu buchen oder Reservierungen zu verwalten, und warnt, dass die Weitergabe von Zugangsdaten an Drittanbieter-Agenten sensible Daten offenlegen und ungewollte Käufe auslösen kann. Zudem verweist die Airline auf Bundesvorschriften zu Informationen, die Fluggesellschaften Passagieren geben müssen.

Warum das wichtig istUnternehmen beginnen, KI-Agenten auf ihren Konten einzuschränken – das könnte begrenzen, was Verbraucher-Agenten online für Sie erledigen können.
EntwicklerSicherheitHelp Net Security ↗12. Nov.

Anthropic bietet selbst gehostete Claude Managed Agents an, damit Zugangsdaten in Unternehmensumgebungen bleiben

Anthropic hat eine selbst gehostete Version von Claude Managed Agents in einer privaten Beta veröffentlicht. Unternehmen können damit Agent-Harness, Sandboxes, Zugangsdaten und Sitzungsverlauf in ihrer eigenen Cloud oder On-Premises betreiben. Kunden beantragen den Zugang über ihr Account-Team bei Anthropic.

Warum das wichtig istFirmen, die unbeaufsichtigte Agenten in Unternehmenssystemen einsetzen, behalten sensible Schlüssel und Protokolle unter eigener Kontrolle und verringern so ihr Risiko, falls ein Anbieter gehackt wird.
SicherheitAlltagThe Verge ↗12. Nov.

Studie: ChatGPT, Gemini und Perplexity leiten Käufer mitunter auf gefälschte Shopping-Websites

Die IP-Schutzfirma Podqi stellte den Chatbots Einkaufsfragen zu 151 Marken und stellte fest, dass sie Nutzer auf betrügerische und andere riskante Websites verweisen können. Der Test lief in zwei Zeiträumen ab September.

Warum das wichtig istWenn Sie Chatbots nutzen, um Einkaufsquellen zu finden, prüfen Sie die Webadresse, bevor Sie Zahlungsdaten eingeben.
SicherheitWirtschaftFinextra ↗12. Nov.

Feedzai hilft Banken mit neuen Tools, KI-Agenten beim Zugriff auf Kundenkonten zu erkennen

Der Anbieter für Finanzkriminalitätsprävention Feedzai hat sein Produkt Digital Trust erweitert, damit Banken erkennen können, wenn KI-Agenten statt Menschen auf Kundenkonten zugreifen.

Warum das wichtig istDa sowohl Kunden als auch Betrüger zunehmend KI-Agenten nutzen, brauchen Banken Wege, legitimen automatisierten Zugriff von Missbrauch zu unterscheiden.
SicherheitAlltagThe Hacker News ↗12. Nov.

186 nachgeahmte KI-Tool-Domains verbreiten ClickFix-Köder, Browser-Malware und Such-Hijacker

Forscher von Island entdeckten nachgeahmte Domains, die sich als beliebte KI-Tools ausgeben und Besucher zu gefälschten Verifizierungsschritten verleiten, browserkapernde Malware installieren oder Erweiterungen hinzufügen, die Suchanfragen umleiten. Die Technik wurde TypoPrompting getauft.

Warum das wichtig istEin Tippfehler bei der Adresse eines KI-Tools kann zu Malware führen. Setzen Sie Lesezeichen für die echten Seiten und seien Sie bei jeder Seite misstrauisch, die Sie zum Ausführen von Befehlen auffordert.
SicherheitCSO Online ↗12. Nov.

Chinesischsprachige Hacker nutzten Open-Source-KI-Pentest-Tool für Einbrüche bei 10 Organisationen

Laut Palo Alto Networks Unit 42 kombinierten die Angreifer das Open-Source-KI-Pentesting-Framework Cairn mit den chinesischen Modellen GLM und DeepSeek und führten im August und September 2026 25 Operationen gegen mindestens 19 Organisationen durch. Bei 10 Zielen, vor allem aus Halbleiterindustrie, fortschrittlicher Fertigung und Verteidigung, verschafften sie sich Zugang oder erbeuteten Daten – oft mit kaum mehr als einem Domainnamen und einem einzeiligen Ziel.

Warum das wichtig istAutonome KI-Angriffstools werden inzwischen in echten Kampagnen eingesetzt. Verteidiger müssen davon ausgehen, dass Angriffe mit Maschinengeschwindigkeit und wenig menschlichem Aufwand ablaufen können.
SicherheitPolitikThe Record ↗12. Nov.

Mutmaßlich mit Kasachstan verbundene Hacker nutzten KI-Agenten zur Spionage gegen zentralasiatische Regierungen

Laut neuer Forschung nutzten mutmaßlich mit Kasachstan verbundene Hacker einen KI-Agenten, um Regierungen in Zentralasien auszuspionieren. Die Gruppe stahl sensible Dokumente und drang in Netzwerke kritischer Infrastruktur ein.

Warum das wichtig istStaatlich unterstützte Gruppen setzen KI-Agenten inzwischen bei echter Spionage ein. Regierungen und Infrastrukturbetreiber sollten mit schnelleren, stärker automatisierten Angriffen rechnen.
SicherheitEntwicklerCSO Online ↗12. Nov.

KI-Agenten und Forscher von Microsoft finden 59 Fehler im Linux-Kernel, manche über 20 Jahre unentdeckt

Ein Projekt des Microsoft FORGE Lab, das KI-Agenten mit menschlichen Forschern kombiniert, hat 59 Schwachstellen im Linux-Kernel gefunden – manche steckten seit mehr als 20 Jahren im Produktivcode. KI beschleunigte die Entdeckung, doch das Prüfen der Fehler und das Schreiben von Patches erforderten weiterhin viel menschliche Arbeit.

Warum das wichtig istKI findet alte Fehler in zentraler Software schnell. Teams, die Linux betreiben, sollten daher mit mehr Patches rechnen und den menschlichen Aufwand für deren Behebung einplanen.
SicherheitEntwicklerHelp Net Security ↗12. Nov.

Forscher zeigen: Gestohlene Claude-API-Schlüssel können Claude Code in ein ferngesteuertes Implantat verwandeln

Darktrace-Forscher steuerten Claude Code in einem Labortest über die Speicherfunktion von Anthropics Plattform und schleusten über die Files API eine 1 GB große Datei hinaus. Der gesamte Datenverkehr lief über den regulären API-Endpunkt von Anthropic und sah daher aus wie ein Coding-Agent bei der Arbeit.

Warum das wichtig istGeleakte KI-API-Schlüssel können Angreifern verdeckte Kontrolle über Coding-Agenten verschaffen. Unternehmen sollten diese Schlüssel wie Passwörter schützen und regelmäßig wechseln.
SicherheitWirtschaftDark Reading ↗12. Nov.

Angreifer wechselte zu KI-generierten Skripten und bewegte sich in Minuten durch das Netzwerk eines US-Händlers

Als manuell eingegebene Befehle beim Einbruch in einen US-Händler scheiterten, setzte der Angreifer stattdessen KI-generierte Skripte ein. So konnte er sich innerhalb von Minuten durch das Netzwerk bewegen.

Warum das wichtig istKI verkürzt die Zeit, die Verteidigern bleibt, um einen Eindringling zu erkennen und zu stoppen. Händler brauchen daher schnellere Überwachung und Reaktion.
SicherheitHelp Net Security ↗12. Nov.

Credential-Stuffing-Bots tarnen sich als bekannter KI-Agent, um Abwehrmaßnahmen zu umgehen

In einer Oktoberwoche verzeichnete ein Online-Marktplatz über 414.000 Besuche von Traffic, der sich als bekannter KI-Agent für Verbraucher ausgab – alle auf die Anmeldeseite gerichtet. Tatsächlich handelte es sich um eine Credential-Stuffing-Operation, die gestohlene Benutzernamen und Passwörter testete, und sie übertraf die Besuche des echten Agenten.

Warum das wichtig istWebsites, die Traffic nur deshalb vertrauen, weil er sich als KI-Agent ausgibt, können sich für Kontoübernahmen angreifbar machen.
SicherheitEntwicklerCSO Online ↗12. Nov.

Hacker stahlen KI-Anbieterschlüssel von Railway und verursachten $740,000 an betrügerischer Nutzung

Der Cloud-Hoster Railway bestätigte einen fast 26-stündigen Abwehrkampf gegen Angreifer, die gezielt nach Zugangsdaten für KI-Anbieter suchten und rund $740,000 an betrügerischen KI-Kosten verursachten. Die gestohlenen Schlüssel sollten an Dienste für Modelldestillation weiterverkauft werden; bis zu 100,000 Workspace-Zugangsdaten könnten offengelegt worden sein.

Warum das wichtig istKI-API-Schlüssel sind inzwischen begehrte Beute. Entwickler sollten sie sicher speichern, regelmäßig rotieren und Ausgabelimits festlegen.
SicherheitPolitikDark Reading ↗12. Nov.

Japan schlägt Notfallfinanzierung für Cybersicherheit vor, da KI-gestützte Angriffe zunehmen

Japan treibt ein Notfall-Finanzierungspaket voran, das öffentlich-private Cyber-Einsatzkräfte und ein KI-fokussiertes Team unter Leitung des Wirtschaftsministeriums vorsieht. Zudem erhält die Regierung mehr Spielraum für ihre neuen Befugnisse zur aktiven Cyberabwehr.

Warum das wichtig istRegierungen beginnen, gezielte Abwehr gegen KI-gestützte Angriffe zu finanzieren – das wird prägen, wie Unternehmen Sicherheitsvorfälle melden und darauf reagieren.
SicherheitPolitikDark Reading ↗11. Nov.

Japan treibt Notfallfinanzierung für Cybersicherheit voran, da KI-gestützte Angriffe zunehmen

Japan treibt angesichts zunehmender KI-gestützter Cyberangriffe eine Notfallfinanzierung für Cybersicherheit voran. Das Paket umfasst ein gemeinsames öffentlich-privates Cyber-Reaktionsteam, ein vom Wirtschaftsministerium geführtes KI-Expertenteam und mehr Spielraum für die neuen Befugnisse der Regierung zur aktiven Cyberabwehr.

Warum das wichtig istRegierungen beginnen, KI-gestütztes Hacking als dringende nationale Bedrohung zu behandeln, was die Zusammenarbeit von Unternehmen in Japan mit Behörden bei der Abwehr prägen kann.
SicherheitWirtschaftBleepingComputer ↗11. Nov.

Datenleck beim KI-Anbieter Fireworks legt einige Notion-AI-Chatverläufe offen

Notion hat mitgeteilt, dass ein Sicherheitsvorfall bei seinem KI-Infrastrukturanbieter Fireworks AI Notion-AI-Chatverläufe in weniger als 1% der Workspaces offengelegt hat. Es ist das zweite Datenleck bei Fireworks innerhalb von zwei Monaten.

Warum das wichtig istWas Sie in KI-Funktionen eingeben, kann bei Drittanbietern landen. Unternehmen müssen daher die Sicherheit jedes Anbieters in ihrer KI-Lieferkette prüfen.
SicherheitThe Hacker News ↗11. Nov.

Angreifer nutzen Open-Source-KI-Pentesting-Agenten AntiFox, um AWS-Zugangsdaten zu stehlen

Forscher entdeckten Angreifer, die selbstverwaltete Instanzen von AntiFox, einer Open-Source-Plattform für agentenbasierte Penetrationstests, auf Alibaba Cloud betrieben, um Webdienste anzugreifen und AWS-Zugangsdaten zu stehlen. Anschließend bewegten sich die Angreifer seitlich in kompromittierte Umgebungen.

Warum das wichtig istFür Verteidiger entwickelte offensive KI-Agenten werden gegen Cloud-Konten eingesetzt – das erhöht Tempo und Ausmaß von Angriffen auf Zugangsdaten.
SicherheitEntwicklerCSO Online ↗11. Nov.

Microsoft zeigt: Änderung von weniger als 10 Neuronen kann versteckte Hintertür in KI-Agenten einschleusen

Microsoft-Forscher beschreiben eine Technik namens Lazarus, die wenige ruhende Neuronen in einem Open-Weight-Modell verändert, sodass ein Auslöser das Modell Befehle des Angreifers ausgeben lässt – ganz ohne Neutraining. Das veränderte Modell verhält sich in Standard-Sicherheitstests normal; Microsoft hat nach eigenen Angaben keine Angreifer beobachtet, die die Methode nutzen.

Warum das wichtig istTeams, die Agenten auf Open-Weight-Modellen betreiben, sollten die Herkunft ihrer Modelldateien prüfen und einschränken, was Agenten ausführen dürfen.
SicherheitEntwicklerThe Hacker News ↗11. Nov.

Über 35.000 mit Groks Coding-Agent erstellte Apps offen im Netz, einige geben Passwörter preis

Das Sicherheitsunternehmen Claroc fand 37.571 mit Grok erstellte Apps online, 35.578 davon ließen sich ohne Anmeldung öffnen, darunter 24 von Mitarbeitern von X und SpaceXSI. Etwa jede zehnte enthielt interne Geschäftsdaten, einige gaben vertrauliche Informationen und Passwörter preis.

Warum das wichtig istWer Apps mit KI-Coding-Tools entwickelt, sollte vor der Veröffentlichung die Zugriffseinstellungen prüfen, da Standardkonfigurationen private Daten für jeden offenlegen können.
SicherheitSecurityWeek ↗11. Nov.

Fortinet schließt fast 100 Schwachstellen, nachdem Frontier-KI in Sicherheitstests eingesetzt wurde

Fortinet hat Fixes für fast 100 Schwachstellen in einem großen Paket veröffentlicht. Der Anstieg folgt auf den Einsatz von Frontier-KI-Modellen bei den Sicherheitstests der Produkte.

Warum das wichtig istKI-gestützte Fehlersuche bringt deutlich mehr Patches hervor – IT-Teams sollten sich auf größere und häufigere Update-Zyklen einstellen.
SicherheitEntwicklerCSO Online ↗11. Nov.

Einstellungsdateien von Claude Code legten über 31.000 Secrets in öffentlichen GitHub-Repos offen

GitGuardian fand 31.088 einzelne Secrets, darunter Datenbank-Zugangsdaten und Cloud-Tokens, in lokalen Einstellungsdateien von Claude Code in 23.276 öffentlichen GitHub-Repositories. Davon waren 5.343 zum Zeitpunkt der Entdeckung noch gültig.

Warum das wichtig istWenn Sie Claude Code nutzen, stellen Sie sicher, dass Ihre lokale Einstellungsdatei von Git ausgeschlossen ist, und tauschen Sie alle Zugangsdaten aus, die möglicherweise committet wurden.
SicherheitEntwicklerThe Hacker News ↗11. Nov.

Railway-Datenleck: Hacker verursachten mit gestohlenen Kundenschlüsseln rund 740.000 Dollar an KI-Kosten

Der Plattformanbieter Railway teilte mit, dass von Kunden gespeicherte Schlüssel für KI-Anbieter bei einem Angriff im Oktober gestohlen und für eine unautorisierte Nutzung im geschätzten Wert von 740.000 Dollar verwendet wurden; betroffen sein könnten bis zu 100.000 Workspaces. Das Unternehmen versprach, Kosten zu übernehmen, die KI-Anbieter nicht erstatten.

Warum das wichtig istGespeicherte KI-API-Schlüssel sind inzwischen ein direktes Ziel für Diebstahl und Weiterverkauf von Rechenleistung – setzen Sie Ausgabenlimits und rotieren Sie Schlüssel, die auf Drittplattformen liegen.
SicherheitEntwicklerThe Hacker News ↗11. Nov.

Microsoft-Forscher zeigen: KI-Agenten lassen sich durch Änderung von weniger als 10 Neuronen mit Hintertür versehen

Microsoft-Forscher stellten eine Technik namens Lazarus vor, die eine versteckte Hintertür in ein KI-Modell einbaut, indem weniger als 10 selten genutzte Neuronen verändert werden, ohne erneutes Training. Erscheint ein Auslöser, führt ein Agent mit diesem Modell den Befehl eines Angreifers aus, verhält sich in Standard-Sicherheitstests aber unauffällig.

Warum das wichtig istUnternehmen, die KI-Agenten Zugriff auf Terminals oder Systeme geben, müssen prüfen, woher Modellgewichte stammen und wer sie ändern kann, da Sicherheitstests diese Art von Manipulation womöglich nicht erkennen.
SicherheitEntwicklerThe Hacker News ↗10. Nov.

Hacker nutzen SGLang-Lücke, um in NEAR-AI-Inferenzserver einzudringen und Agenten- und Nutzerdaten zu stehlen

Ein Angreifer nutzte eine Remote-Code-Execution-Lücke in der Open-Source-Inferenz-Engine SGLang, um Code auf einem Inferenzserver von NEAR AI auszuführen, und erbeutete Daten von 18 Agenten und rund 100 Nutzern. Auch im vertraulichen Modus gesendete Anfragen waren auf diesem Server möglicherweise einsehbar.

Warum das wichtig istTeams, die Open-Source-Inferenz-Engines betreiben, sollten schnell patchen – eine einzige Lücke kann Nutzer-Prompts selbst in sogenannten vertraulichen Setups offenlegen.
SicherheitEntwicklerDark Reading ↗10. Nov.

Befehl in Claude Code speichert Zugangsdaten in öffentlichen GitHub-Repositorys

Forscher haben herausgefunden, dass ein Befehl in Claude Code versehentlich Dateien mit Zugangsdaten und anderen sensiblen Daten in öffentlichen Git-Repositorys speichern kann. Tausende Geheimnisse sind auf diese Weise geleakt.

Warum das wichtig istTeams, die KI-Coding-Agenten nutzen, sollten ihre Repositorys nach offengelegten Schlüsseln durchsuchen und geleakte Schlüssel austauschen.
SicherheitWirtschaftThe Hacker News ↗10. Nov.

Datenleck bei Fireworks AI weitet sich auf Kundendatensätze, Modellgewichte und Notion-AI-Chats aus

Fireworks AI zufolge ergab die Untersuchung eines früheren Vorfalls weitere bösartige Aktivitäten, die Konto- und Abrechnungsdaten, Secrets, Datensätze und unvollständige Modelle bei einer begrenzten Zahl von Konten betrafen. Notion erklärte, durch das Leck seien Notion-AI-Chatverläufe in einer kleinen Zahl von Workspaces offengelegt worden.

Warum das wichtig istIhre KI-Daten sind nur so sicher wie die Infrastrukturanbieter hinter Ihren Tools. Unternehmen sollten daher prüfen, welche Anbieter ihre Prompts und Daten verarbeiten.
SicherheitEntwicklerCSO Online ↗10. Nov.

Microsofts KI-Fehlerjäger findet fast 11 Jahre lang verborgene Schwachstelle in Rusts Standardbibliothek

Forscher des Microsoft FORGE Lab haben mithilfe von KI einen Speichersicherheitsfehler in Rusts Standardbibliothek gefunden, der fast 11 Jahre unentdeckt blieb, sowie weitere Schwachstellen, die selbst in sicherem Rust-Code undefiniertes Verhalten auslösen können. Zwei Funde betreffen stabiles Rust.

Warum das wichtig istKI-Tools finden inzwischen alte Fehler in vertrauenswürdigem Code. Entwickler sollten daher mit mehr Patches rechnen – und auch Angreifer könnten Fehler auf diese Weise finden.
EntwicklerSicherheitThe Hacker News ↗10. Nov.

Anthropic veröffentlicht Claude Fable 5.2 und Mythos 5.2 und führt bei Benchmark für mehrstufige Cyberangriffe

Anthropic hat Claude Fable 5.2 und Claude Mythos 5.2 veröffentlicht und erklärt, beide seien beim Programmieren, logischen Denken und Sehen besser. Fable 5.2 übertraf GPT-6 Cyber in einem Benchmark, der mehrstufige Cyberangriffe testet.

Warum das wichtig istStärkere Frontier-Modelle helfen Entwicklern, mehr zu erreichen, doch ihre wachsenden Fähigkeiten für Cyberangriffe erhöhen den Druck auf Sicherheitsteams.