Nvidia stopt ondersteuning voor verschillende talen in zijn NeMo Retriever. Die kan voortaan relevante informatie van datasets naar boven brengen bij AI-prompts, ook als die info in een allegaartje aan talen beschikbaar is.
Nvidia geeft zijn NeMo Retriever een taalbad. NeMo Retriever is deel van de AI-stack van Nvidia en helpt organisaties wanneer ze Retrievel Augmented Generation (RAG) willen gebruiken. Bij RAG wordt een prompt aan een LLM automatisch voorzien van relevante achtergrondinfo. Vraag je bijvoorbeeld wat de status is van een order, dan gaat een LLM het antwoord niet zomaar verzinnen. De prompt wordt achter de schermen uitgerust met info uit de order-database, zodat het AI-model daarin opzoek kan gaan naar een antwoord.
Meertalig
RAG is een efficiënte manier om LLM’s in te zetten op actuele bedrijfsdata, zonder dat het nodig is een complex model zelf te trainen. De NeMo Retriever zorgt er nu voor dat relevante info aan prompts wordt toegevoegd, los van de taal waarin die info beschikbaar is. De retriever vertaalt de informatie naar vectors, zodat AI er efficiënt mee om kan.
Nvidia maakt zich sterk dat de meertaligheid van de tool belangrijk is voor grote bedrijven. Daar zit relevante informatie immers niet exclusief in het Engels verstopt. De meertalige NeMo Retriever is beschikbaar als microservice via de Nvidia API-catalogus.