Open Secure AI Alliance lanceert SAFE-richtlijnen en breidt uit met Mistral, Amazon en Visa voor betere AI-agentbeveiliging.
De Open Secure AI Alliance (OSAA) toont op de Black Hat-conferentie in Las Vegas dat het menens is met de ambitie om samenwerking en openheid naar AI te brengen, in een zoektocht naar een raamwerk voor veilige kunstmatige intelligentie. De Linux Foundation publiceert daartoe een Request for Comments voor een nieuw concept: de Shared AI Findings Exchange (SAFE).
SAFE omvat nieuwe richtlijnen die cybersecurity-incidenten met AI-agenten moeten omzetten in gedeelde bescherming voor de hele sector.
Vertrouwelijk delen
SAFE zal data over incidenten en bijna-incidenten met AI-agenten vertrouwelijk verzamelen en voor analyse zorgen. Het doel is om betrokken partijen te informeren, terugkerende zwakke plekken te identificeren en aanbevelingen te publiceren die het systemische risico verlagen. Daarbij willen de OSAA-leden uitdrukkelijk afstappen van de cultuur van geheimhouding die vandaag de norm is bij cyberincidenten, en voorkomt dat de hele sector samen kan groeien.
Aan de eerste voorstellen werkten onder meer Nvidia, Cisco, CrowdStrike, Hugging Face en Red Hat mee. Volgens de alliantie is snelle samenwerking noodzakelijk, omdat elke technologische verschuiving nieuwe aanvalsoppervlakken creëert en verdedigers even snel moeten kunnen reageren als de agenten die ze beschermen.
Bijdragen doorheen de volledige AI-beveiligingsstack
Naast SAFE leveren leden van de alliantie ook andere concrete tools aan. Nvidia brengt onder meer de NOOA-onderzoeksomgeving, de OpenShell-runtime en verschillende open modellen zoals Nemotron en Cosmos, aangevuld met beveiligingstools als Garak en NeMo Guardrails.
Op het vlak van identiteit en toegang dragen Okta, Palo Alto Networks en Red Hat bij met projecten die bepalen wie of wat een agent mag aanspreken. Amazon, dat vandaag toetreedt tot de alliantie, brengt zijn Strands Agents-toolkit en het Cedar-autorisatiesysteem in. Ook Capital One, Cloudflare, Microsoft en Wiz leveren tools om agentgedrag te testen en te controleren.
Op het niveau van modellen werken Cisco, CrowdStrike en Mistral aan gespecialiseerde beveiligingsmodellen, terwijl Akamai, Perplexity en Uber inzetten op detectie en analyse van agentactiviteit. Visa treedt eveneens toe tot de alliantie met een eigen tool voor kwetsbaarheidsonderzoek. LangChain en Veeam ten slotte richten zich op herstelvermogen, zodat agenten na een storing veilig kunnen hervatten zonder gegevensverlies.
Met SAFE en de aanvullende tools wil de Open Secure AI Alliance beveiliging rond AI-agenten minder afhankelijk maken van individuele bedrijven. Door incidenten en oplossingen te delen, moeten organisaties sneller kunnen leren van elkaars ervaringen
Momentum
Het momentum lijkt enorm. De Open Secure AI Alliance werd immers pas vorige week boven het doopvont gehouden. In amper een week tijd is het aantal leden geëxplodeerd, en probeert de alliantie haar relevantie te tonen met concrete plannen.
De organisatie telt intussen meer dan 120 leden. De naam van Mistral stond bij de lancering van de alliantie nog niet op de deurbel en ook grote beveiligingsnamen waaronder Fortinet en Check Point zijn nieuw, net als Amazon en Visa. Grote afwezigen blijven OpenAI, Anthropic en Google. Google is de enige van de drie hyperscalers die zelf frontier AI-modellen bouwt, en de enige die zich nog niet achter de open aanpak heeft geschaard.