Nvidia lanceert nieuwe NIM-microservices binnen NeMo Guardrails om de veiligheid, nauwkeurigheid en controle van AI-toepassingen, en dan specifiek agents, te verbeteren.
Nvidia heeft nieuwe NIM-microservices geïntroduceerd als onderdeel van NeMo Guardrails: een softwareverzameling voor het beheren van AI-veiligheid. Deze microservices helpen bedrijven bij het veiliger en efficiënter implementeren van generatieve AI-oplossingen. Ze richten zich op het voorkomen van schadelijke of ongewenste AI-antwoorden en bieden bescherming tegen pogingen om beperkingen te omzeilen.
De drie nieuwe microservices omvatten:
- Content safety microservice: voorkomt dat AI ongepaste of schadelijke inhoud genereert.
- Topic control microservice: zorgt ervoor dat gesprekken binnen toegestane onderwerpen blijven.
- Jailbreak detection microservice: helpt te voorkomen dat AI-systemen worden gemanipuleerd om ongeoorloofde antwoorden te geven.
Optimalisatie
De microservices maken gebruik van gespecialiseerde taalmodellen met lage latency en zijn geoptimaliseerd voor sectoren zoals gezondheidszorg, productie en retail.
lees ook
Nvidia introduceert nieuwe NIM-microservices voor AI-beveiliging
Nvidia heeft eerder een AI Blueprint voor retail gelanceerd, waarin de nieuwe microservices worden gebruikt voor verbeterde klanteninteracties. Om ontwikkelaars te helpen AI-systemen te testen op kwetsbaarheden, biedt Nvidia ook Garak, een open-source toolkit voor het scannen van AI-toepassingen op beveiligingsproblemen zoals prompt-injecties en datalekken.
Nvidia wijst in zijn aankondiging specifiek naar agentic AI, waarin AI dus semi-autonoom als agent fungeert. Wat beveiliging en guardrails betreft, is het onderscheid tussen agentic AI en een AI die exclusief met menen werkt, niet zo groot. Wel is het door de grotere mate van automie van een agent des te belangrijker dat die binnen verwachtingen functioneert.
De NeMo Guardrails microservices en de Garak-toolkit zijn nu beschikbaar voor bedrijven en ontwikkelaars.