OpenAI geeft ons een inkijk in nieuwe beveiligingsfuncties voor ChatGPT die bij gevoelige conversaties op een behulpzamere manier reageert.
OpenAI rolt de komende maand nieuwe functies uit in ChatGPT, waaronder ouderlijk toezicht en het automatisch inschakelen van redeneermodellen bij gevoelige gesprekken. Het bedrijf werkt hiervoor samen met medische experts wereldwijd.
Ondersteuning bij geestelijke nood
OpenAI wil ChatGPT bruikbaarder maken in situaties waarin gebruikers mentale of emotionele stress ervaren. Daarom gaat het systeem binnenkort automatisch overschakelen naar redeneermodellen, zoals GPT-5-denken, wanneer het tekenen van ‘acute nood’ detecteert. Deze modellen zijn ontworpen om meer tijd te nemen voor context en redenering. Dat moet leiden tot betrouwbaardere antwoorden in gevoelige gesprekken.
lees ook
GPT-5 krijgt warmere persoonlijkheid en minder beperkingen
De modellen zijn getraind met een methode die ‘deliberatieve afstemming’ heet. Die techniek moet ervoor zorgen dat ze beter omgaan met veiligheidsrichtlijnen en minder vatbaar zijn voor ongepaste input. OpenAI zal gesprekken met dergelijke modellen geleidelijk activeren en nauwgezet evalueren.
Ouderlijk toezicht
Daarnaast komt er extra aandacht voor jongeren. Tieners behoren volgens OpenAI tot de eerste ‘AI-natives’ en gebruiken AI vaak zelfstandig. Daarom introduceert het bedrijf binnenkort ouderlijk toezicht in ChatGPT. Ouders kunnen het account van hun tiener koppelen aan dat van henzelf, basisinstellingen aanpassen zoals het uitschakelen van geheugen en chatgeschiedenis, en notificaties ontvangen als hun kind zich in een crisismoment bevindt.
Medische experts
Om deze nieuwe functies te onderbouwen, werkt OpenAI samen met een Expert Council on Well-Being and AI. Die raad adviseert over jeugdontwikkeling, geestelijke gezondheid en mens-computerinteractie. Verder krijgt het bedrijf ondersteuning van een wereldwijd netwerk van meer dan 250 artsen uit 60 landen. Onder hen bevinden zich psychiaters, kinderartsen en huisartsen die input leveren over hoe de modellen moeten reageren in de context van geestelijke gezondheid.
De komende 120 dagen wil OpenAI verdere stappen delen binnen dit initiatief. De uitrol van functies voor ouderlijk toezicht en het gebruik van redeneermodellen bij crisissituaties markeren de eerste fase van dat plan.