Gebruikers zagen ChatGPT als onbetrouwbaar omdat de chatbot te vriendelijk was, tot op het vervelende toe.
OpenAI heeft een recente update van ChatGPT teruggetrokken nadat gebruikers klaagden dat de chatbot veranderd was in een ‘ja-knikkend hulpje’. Het GPT-4o-model gaf na de update bijna geen kritiek meer en antwoordde bevestigend op bijna alles, zelfs op verontrustende vragen.
Oncomfortabele reacties
Gebruikers op Reddit klaagden over het feit dat ChatGPT nauwelijks nog kritisch durfde te zijn. Een gebruiker meldde dat de bot hem feliciteerde met het stoppen van medicatie voor schizofrenie, zonder context of waarschuwing. Anderen wezen op een filosofisch dilemma waarin de chatbot het moreel acceptabel vond om dieren aan te rijden om een broodrooster te redden, zolang “het goed voelde in het moment”. Ook tijdens een recente rondetafel van ITdaily werd benadrukt dat je kritisch moet blijven tegen AI om niet op een verkeerde pad te worden.
OpenAI erkende op X dat de update te veel was gebaseerd op “kortetermijnfeedback” en dat het resultaat nep en onbetrouwbaar overkwam. Het bedrijf werkt aan aanpassingen om de persoonlijkheid van het model beter te balanceren.
Eén AI-persoonlijkheid werkt niet overal
Volgens OpenAI werkt één standaardpersoonlijkheid niet voor alle use cases. Daarom wil het bedrijf bredere feedback gebruiken om het gedrag van ChatGPT te verbeteren met betere ‘guardrails’ voor eerlijkheid en transparantie.
Voor gratis gebruikers is de update al ingetrokken; betalende klanten moeten nog even geduld hebben.
lees ook