Microsoft-onderzoekers tonen aan dat AI-agents een backdoor kunnen krijgen door minder dan 10 neuronen aan te passen
Microsoft-onderzoekers lieten een techniek genaamd Lazarus zien die een verborgen backdoor in een AI-model plant door minder dan 10 zelden gebruikte neuronen te wijzigen, zonder hertraining. Verschijnt een trigger, dan voert een agent die het model gebruikt het commando van een aanvaller uit, terwijl hij zich bij standaard veiligheidstests normaal gedraagt.
Bedrijven die AI-agents toegang geven tot terminals of systemen moeten controleren waar modelgewichten vandaan komen en wie ze kan wijzigen, omdat veiligheidstests dit soort manipulatie mogelijk niet opmerken.
aii.news kiest en vat berichten van betrouwbare nieuwsbronnen samen met hulp van AI. Elk bericht linkt naar de oorspronkelijke verslaggeving. Zo werken we.
Lees verder
-
Anthropic brengt Claude Fable 5.2 en Mythos 5.2 uit, die bovenaan staan in benchmark voor meerfasige cyberaanvallen
Anthropic bracht Claude Fable 5.2 en Claude Mythos 5.2 uit en zegt dat beide beter zijn in programmeren, redeneren en beeldherkenning. Fable 5.2 versloeg GPT-6 Cyber op een benchmark die meerfasige cyberaanvallen test.
Waarom het ertoe doetSterkere frontiermodellen helpen ontwikkelaars meer te doen, maar hun groeiende vaardigheden in cyberaanvallen verhogen de inzet voor securityteams.
-
Cursor bevestigt inbraak waardoor hackers een kwaadaardige Claude Code-extensie via de marketplace verspreidden
Cursor heeft een beveiligingsinbreuk bevestigd waardoor aanvallers een kwaadaardige Claude Code-extensie via de marketplace konden verspreiden. De aanvallers gebruikten inloggegevens die waren gestolen bij AI-infrastructuurprovider Fireworks AI.
Waarom het ertoe doetOntwikkelaars die extensies uit de marketplace van Cursor hebben geïnstalleerd, moeten hun tools controleren, want één gestolen inloggegeven kan zich door de hele AI-toeleveringsketen verspreiden.
-
AI-bugjager van Microsoft vindt bijna 11 jaar verborgen fout in standaardbibliotheek van Rust
Onderzoekers van Microsoft FORGE Lab gebruikten AI om een geheugenveiligheidsbug in de standaardbibliotheek van Rust te vinden die bijna 11 jaar onopgemerkt bleef, plus andere fouten die zelfs in veilige Rust-code ongedefinieerd gedrag kunnen veroorzaken. Twee vondsten treffen stabiele Rust.
Waarom het ertoe doetAI-tools vinden nu oude bugs in vertrouwde code, dus ontwikkelaars moeten meer patches verwachten, en aanvallers kunnen op deze manier ook bugs vinden.
-
Commando in Claude Code blijkt inloggegevens op te slaan in openbare GitHub-repository's
Onderzoekers ontdekten dat een commando in Claude Code per ongeluk bestanden met inloggegevens en andere gevoelige data kan opslaan in openbare Git-repository's. Duizenden geheimen zijn zo uitgelekt.
Waarom het ertoe doetTeams die AI-codeeragents gebruiken, moeten hun repository's scannen op blootgestelde sleutels en gelekte sleutels vervangen.
-
Ruim 35.000 apps gebouwd met Groks coding-agent open online, sommige lekken wachtwoorden
Beveiligingsbedrijf Claroc vond 37.571 met Grok gebouwde apps online, waarvan 35.578 zonder inloggen te openen waren, waaronder 24 gebouwd door medewerkers van X en SpaceXSI. Ongeveer een op de tien bevatte interne bedrijfsgegevens, en sommige lekten vertrouwelijke informatie en wachtwoorden.
Waarom het ertoe doetBouw je apps met AI-codingtools, controleer dan de toegangsinstellingen voordat je publiceert, want standaardinstellingen kunnen privégegevens voor iedereen blootleggen.
