Itdaily - Google ziet AI-agent patches omzetten in exploits zonder menselijke tussenkomst

Google ziet AI-agent patches omzetten in exploits zonder menselijke tussenkomst

Handen van een man die op een laptop typt, met gekleurde programmacode op het scherm.
Beeld: Tero Vesalainen/Shutterstock

Aanvallers hebben voor het eerst een AI-framework ingezet dat zonder mens security-patches in werkende exploits omzet, meldt de Google Threat Intelligence Group. Het framework heet exploit_agent en draaide op een openstaande server.

De Google Threat Intelligence Group (GTIG) publiceerde maandag zijn nieuwe kwartaalrapport over misbruik van AI, in samenwerking met Mandiant. Volgens het rapport is een volledig autonome keten van patchanalyse tot uitvoering van de aanval nu ook buiten het laboratorium vastgesteld.

Twee maanden geleden schreef GTIG in de vorige editie nog dat het geen volledig autonome aanvalsketens tegen echte doelwitten had gezien. Dat is veranderd in het voorbije kwartaal.

Hoe exploit_agent werkt

GTIG vond exploit_agent op een openstaande staging-server. Het framework is gekoppeld aan verschillende frontier-modellen en lokaal gehoste taalmodellen. Het vergelijkt de code van populaire webapplicaties voor en na elke patch, zoekt naar een waarschijnlijke kwetsbaarheid, schrijft een exploit en voert die automatisch uit.

Op dezelfde server stond data van slachtoffers, naast scripts voor brute-force-aanvallen, het installeren van webshells en het verwijderen van webshells van concurrerende aanvallers. De telemetrie wijst erop dat de operator vooral Franse websites uit de media, de entertainmentsector en het onderwijs viseerde. Een Russisch commentaar in het configuratiebestand vraagt de gebruiker om de API-sleutels “hier in te vullen, niet in de chat”.

Voor aanvallers is een gepatcht lek volgens GTIG efficiënter dan een zero day. Bij een patch bestaat er een beperkte hoeveelheid bronmateriaal: oude en nieuwe code, release notes, onderzoek en proof-of-concepts. Wie zero days zoekt, moet een veel breder net uitwerpen.

Van patch naar aanval in enkele dagen

Het rapport illustreert de snelheid met twee kwetsbaarheden in printmanagementservers van PaperCut. Aanvallers misbruikten ze eind augustus als zero days, in combinatie met elkaar. Onderzoekers en het beveiligingsbedrijf Huntress maakten met taalmodellen binnen een dag werkende exploits.

GreyNoise zag vier dagen na de bekendmaking een campagne tegen honderden organisaties, waarbij de aanvaller waarschijnlijk taalmodellen gebruikte om exploits te bouwen en te testen. Eén toegangspunt groeide binnen enkele minuten uit tot domeinbeheerder.

Ook bij twee PHP-kwetsbaarheden (CVE-2026-109618 en CVE-2026-109619) verschenen een proof-of-concept en gepatchte code al vóór de officiële patch van 21 oktober. Daarna doken honderden beweerde exploits op die niet werkten en waarschijnlijk met AI gegenereerd waren. Verdedigers moesten die eerst nakijken.

Tussen januari en augustus 2026 verdubbelde het aantal bekendgemaakte kwetsbaarheden en exploits bijna. Zero day-exploits stegen van gemiddeld acht per maand in 2025 naar elf in 2026, met een piek van 22 in augustus, schrijft The Register.

Andere frameworks en misbruik van AI

GTIG ziet ook open source-frameworks voor penetratietests in echte aanvallen. CAIRN, een multi-agentframework, dook op bij een inbraak in de Amerikaanse luchtvaart- en ruimtevaartsector. Een aanvaller gebruikte tussen eind augustus en begin oktober een aangepast platform op basis van PentAGI om organisaties in Azië te scannen op kwetsbaarheden. Ook CyberStrikeAI en HexStrike AI worden getest. Die tools laten sporen na in netwerkverkeer en code, wat ze makkelijker detecteerbaar maakt.

Bij LLMjacking stelen aanvallers inloggegevens voor taalmodellen en cloudresources en verkopen ze de toegang door, schrijft Security Affairs. Mandiant zag frauduleuze kosten van meer dan 100.000 dollar op één dag, en in het ergste geval 1 miljoen dollar voordat het misbruik werd gestopt, meldt The Next Web.

Bij beïnvloedingsoperaties gebruikt een commerciële aannemer de Gemini API om een platform te bouwen voor meer dan 100.000 sociale-media-accounts. Een vermoedelijk Noord-Koreaanse groep, UNC6836 volgens het bronmateriaal, paste bovendien .claude/settings.json-bestanden aan in interne coderepository’s, zodat Claude Code bij elke start de SOMBERMEME-backdoor downloadde.

Maatregelen van Google

Google zegt dat het de accounts en assets achter het misbruik van Gemini heeft uitgeschakeld en dat Google DeepMind de bevindingen gebruikt om zijn classifiers te versterken. Google SecOps heeft detectieregels voor ARTEX uitgebracht en Mandiant publiceerde een hardening-gids. GTIG verwacht dat aanvallers deze frameworks blijven inzetten en daarbij minder mensen en meer sluwheid gebruiken naarmate de tools verbeteren.