Verschillende acteurs willen het gebruik van door AI gegenereerde deepfakes via OpenAI’s Sora 2 een halt toeroepen.
Na felle kritiek van acteursvakbonden en Hollywoodstudio’s heeft OpenAI nieuwe regels ingevoerd voor zijn Sora 2-videomodel, dat realistische video’s genereert op basis van tekstprompts. De wijziging volgt op zorgen dat bekende personen zonder toestemming worden nagebootst.
Bekende gezichten zonder toestemming
Met Sora 2 kunnen gebruikers in enkele seconden video’s maken waarin beroemdheden, levend of overleden, opduiken of samen optreden. Verschillende acteurs en actrices trokken aan de alarmbel, schrijft SiliconANGLE. Zo sprak SAG-AFTRA-voorzitter Sean Astin van “massaal misbruik van identiteit”, terwijl agentschappen compensatie en strengere regels eisten. “Gebruik zonder toestemming of vergoeding is geen innovatie maar uitbuiting,” aldus UTA.
De kritiek dwong OpenAI tot actie. Het bedrijf verklaarde dat “alle artiesten, performers en individuen het recht hebben te bepalen of en hoe ze gesimuleerd mogen worden.” CEO Sam Altman voegde eraan toe dat hij “diep toegewijd is aan het beschermen van artiesten tegen misbruik van hun stem en gelijkenis.”
Grok achterna
Eerder dit jaar kwam Grok in opspraak nadat xAI zijn videogenerator zonder restricties openbaar maakte. Daarmee konden gebruikers zelfs deepfake naaktbeelden genereren van beroemdheden via de ‘Spicy mode’. Daar is veel kritiek op gekomen, maar in tegenstelling tot Sora 2 zijn de guardrails van Grok zijn tot op dit moment nog niet aangepast. Musk heeft wel op X gedeeld dat er een analysefunctie komt om deepfakes te voorkomen