Snowflake integreert een vroege preview van DeepSeek-R1in Cortex AI. Klanten kunnen een aanvraag indienen om toegang te krijgen tot het model binnen Snowflake Cortex AI.
Snowflake wil meesurfen op de golf van enthousiasme rond DeepSeek-R1. Dat model deed de AI-wereld op zijn grondvesten daveren. Chinese onderzoekers ontwikkelden immers zonder toegang tot geavanceerde hardware en aan een fractie van de prijs een geavanceerd LLM. Volgens vroege benchmarkresultaten van presteert het model op gebieden zoals wiskunde, programmeren en redeneren vergelijkbaar met OpenAI-o1.
Snowflake noemt zichzelf een specialist in AI datacloud. Het bedrijf wil niet alleen data van klanten beheren en ontsluiten voor waardecreatie, maar daar ook recente AI-mogelijkheden bij aanbieden. Dat is noodzakelijk: niemand wil zijn data bij een partij als Snowflake parkeren als dat impliceert dat AI-toepassingen voor die data onbeschikbaar zijn op het platform. De integratie van DeepSeek kan je in die context zien.
Private preview
DeepSeek-R1 is momenteel beschikbaar in een private preview voor serverless inferentie via zowel batchverwerking (SQL-functie) als interactieve toepassingen (Python en REST API). Toegang wordt uitsluitend verleend binnen de aangevraagde Snowflake-account. Het model wordt gehost in de VS binnen de Snowflake-serviceomgeving, zonder dat gegevens worden gedeeld met DeepSeek. Dat kan, aangezien de makers het model open beschikbaar stelden.
lees ook
Binnenwerk DeepSeek-AI beroert gemoederen: hoe werkt het, en wat is gestolen?
Wanneer het model algemeen beschikbaar wordt, kunnen klanten de toegang beheren via role-based access control (RBAC). Beheerders kunnen instellen welke modellen worden goedgekeurd volgens de governancebeleid van hun organisatie.
Cortex AI
Het model kan worden ingezet via Snowflake Cortex AI, waarbij integraties met SQL en Python mogelijk zijn zonder aparte API-sleutels of externe beheertaken. De Cortex Guard-functie kan schadelijke of ongewenste output filteren. Daarnaast is er een REST API beschikbaar voor toepassingen buiten Snowflake.
Snowflake benadrukt dat het met Cortex AI eenvoudig is om generatieve AI-modellen te implementeren en te beheren. In de toekomst wil het bedrijf de efficiëntie van DeepSeek-R1 verder verbeteren om de kosten van inferentie te verlagen.