Microsoft-Forscher zeigen: KI-Agenten lassen sich durch Änderung von weniger als 10 Neuronen mit Hintertür versehen
Microsoft-Forscher stellten eine Technik namens Lazarus vor, die eine versteckte Hintertür in ein KI-Modell einbaut, indem weniger als 10 selten genutzte Neuronen verändert werden, ohne erneutes Training. Erscheint ein Auslöser, führt ein Agent mit diesem Modell den Befehl eines Angreifers aus, verhält sich in Standard-Sicherheitstests aber unauffällig.
Unternehmen, die KI-Agenten Zugriff auf Terminals oder Systeme geben, müssen prüfen, woher Modellgewichte stammen und wer sie ändern kann, da Sicherheitstests diese Art von Manipulation womöglich nicht erkennen.
aii.news wählt Meldungen aus vertrauenswürdigen Nachrichtenquellen aus und fasst sie mithilfe von KI zusammen. Jede Meldung verlinkt auf die Originalberichterstattung. So arbeiten wir.
Weiterlesen
-
Anthropic veröffentlicht Claude Fable 5.2 und Mythos 5.2 und führt bei Benchmark für mehrstufige Cyberangriffe
Anthropic hat Claude Fable 5.2 und Claude Mythos 5.2 veröffentlicht und erklärt, beide seien beim Programmieren, logischen Denken und Sehen besser. Fable 5.2 übertraf GPT-6 Cyber in einem Benchmark, der mehrstufige Cyberangriffe testet.
Warum das wichtig istStärkere Frontier-Modelle helfen Entwicklern, mehr zu erreichen, doch ihre wachsenden Fähigkeiten für Cyberangriffe erhöhen den Druck auf Sicherheitsteams.
-
Cursor bestätigt Sicherheitsvorfall: Hacker verbreiteten bösartige Claude-Code-Erweiterung über den Marketplace
Cursor hat einen Sicherheitsvorfall bestätigt, durch den Angreifer eine bösartige Claude-Code-Erweiterung über den Marketplace verbreiten konnten. Die Angreifer nutzten Zugangsdaten, die beim KI-Infrastrukturanbieter Fireworks AI gestohlen wurden.
Warum das wichtig istEntwickler, die Erweiterungen aus Cursors Marketplace installiert haben, sollten ihre Tools überprüfen, denn ein einziger gestohlener Zugang kann sich durch die gesamte KI-Lieferkette ausbreiten.
-
Microsofts KI-Fehlerjäger findet fast 11 Jahre lang verborgene Schwachstelle in Rusts Standardbibliothek
Forscher des Microsoft FORGE Lab haben mithilfe von KI einen Speichersicherheitsfehler in Rusts Standardbibliothek gefunden, der fast 11 Jahre unentdeckt blieb, sowie weitere Schwachstellen, die selbst in sicherem Rust-Code undefiniertes Verhalten auslösen können. Zwei Funde betreffen stabiles Rust.
Warum das wichtig istKI-Tools finden inzwischen alte Fehler in vertrauenswürdigem Code. Entwickler sollten daher mit mehr Patches rechnen – und auch Angreifer könnten Fehler auf diese Weise finden.
-
Befehl in Claude Code speichert Zugangsdaten in öffentlichen GitHub-Repositorys
Forscher haben herausgefunden, dass ein Befehl in Claude Code versehentlich Dateien mit Zugangsdaten und anderen sensiblen Daten in öffentlichen Git-Repositorys speichern kann. Tausende Geheimnisse sind auf diese Weise geleakt.
Warum das wichtig istTeams, die KI-Coding-Agenten nutzen, sollten ihre Repositorys nach offengelegten Schlüsseln durchsuchen und geleakte Schlüssel austauschen.
-
Über 35.000 mit Groks Coding-Agent erstellte Apps offen im Netz, einige geben Passwörter preis
Das Sicherheitsunternehmen Claroc fand 37.571 mit Grok erstellte Apps online, 35.578 davon ließen sich ohne Anmeldung öffnen, darunter 24 von Mitarbeitern von X und SpaceXSI. Etwa jede zehnte enthielt interne Geschäftsdaten, einige gaben vertrauliche Informationen und Passwörter preis.
Warum das wichtig istWer Apps mit KI-Coding-Tools entwickelt, sollte vor der Veröffentlichung die Zugriffseinstellungen prüfen, da Standardkonfigurationen private Daten für jeden offenlegen können.
