Red Hat introduceert updates voor Red Hat OpenShift AI en Red Hat Enterprise Linux AI. De aanpassingen moeten bedrijven helpen om AI-modellen efficiënter in te zetten in hybride cloudomgevingen.
Nieuwe functies in OpenShift AI en RHEL AI
De nieuwste versie van Red Hat OpenShift AI, versie 2.18, bevat meerdere verbeteringen gericht op gebruiksgemak en prestaties. OpenShift AI biedt een platform voor het beheer van AI-workloads, met ondersteuning voor MLOps en LLMOps.
Nieuw is onder meer verspreide modelserving via de vLLM-inferentieserver. Die zorgt voor een snellere verwerking door AI-modellen over meerdere GPU’s te verdelen. Verder maakt InstructLab in combinatie met OpenShift AI-data science pipelines het eenvoudiger om modellen af te stemmen op bedrijfsspecifieke data.
lees ook
Red Hat vernieuwt AI-portfolio voor hybride cloudomgevingen
AI-guardrails zorgen ervoor dat modellen minder snel ongewenste resultaten genereren, zoals ongepaste taal of gevoelige informatie. Met het nieuwe lm-eval kunnen organisaties hun AI-modellen testen op verschillende taken, waaronder tekstbegrip en logisch redeneren.
Ook Red Hat Enterprise Linux AI (RHEL AI) krijgt een update naar versie 1.4. Dit platform bevat nu ondersteuning voor het Granite 3.1 8B-model. Dat model werkt in meerdere talen en biedt een groter contextvenster. De release bevat ook een nieuwe visuele interface voor data-analyse en een benchmarktool (DK-bench) om AI-modellen te vergelijken.
InstructLab op IBM Cloud en opleidingen
Daarnaast wordt Red Hat AI InstructLab beschikbaar op IBM Cloud. Deze omgeving biedt bedrijven een manier om AI-modellen veiliger en eenvoudiger te trainen en in te zetten. Organisaties houden hierbij controle over hun data.
Tot slot lanceert Red Hat gratis AI Foundations-trainingen. Die zijn beschikbaar voor klanten en bieden een instaptraject voor zowel beginnende als ervaren gebruikers die AI in hun organisatie willen toepassen.
De nieuwste versies van OpenShift AI en RHEL AI zijn meteen beschikbaar. Red Hat AI InstructLab op IBM Cloud volgt later dit voorjaar.