Het algoritme van Instagram heeft een tijdlang schokkende beelden naar de voorgrond gebracht. Ook minderjarigen kregen gruwelijke video’s te zien op het platform van Meta.
Instagram promootte afgelopen avond gewelddadige en ronduit gruwelijke video’s in de feed van reels, voornamelijk bij jonge gebruikers. Dat meldde VRT na meldingen van jongeren aan NWS.NWS.NWS, maar het probleem deed zich niet alleen in ons land voor. Wereldwijd werden mensen ongevraagd geconfronteerd met schokkende video’s van vechtpartijen, moord en zelfs een man die vertrappeld werd door een olifant.
In strijd met voorwaarden
De beelden zijn in strijd met de voorwaarde van Meta en met de instellingen rond gevoelige inhoud aangegeven door gebruikers zelf. Toch kregen nietsvermoedende mensen die door de Explore-functie van Instagram of de Reels scrolden, dergelijke beelden te zien. VRT linkte bij het initiële stuk naar Tele-Onthaal (telefoonnummer 106) of Awel voor jongeren (telefoonnummer 102) voor mensen die na het zien van een gruwelijke video nood hebben aan een gesprek.
Meta heeft zich inmiddels verontschuldigd en zegt dat het probleem is opgelost. “We hebben een fout opgelost die ervoor zorgde dat sommige gebruikers content zagen in hun Instagram-reels die niet aangeraden mocht worden”, klinkt het.
Over wat het probleem precies was, en hoe het systeem potentieel traumatiserende video’s kon voorschotelen aan jong en oud, lost het bedrijf niets. Het duurde bovendien een tijdje voor Meta überhaupt communiceerde over het probleem, zelfs na internationale verslaggeving erover.
‘Geen link met teruggeschroefde moderatie’
Meta schroeft onder druk van de Amerikaanse president Trump zijn regels rond contentmoderatie op alle platformen drastisch terug, in eerste instantie in de VS. Racistische en transfobische content is voortaan niet meer in strijd met de voorwaarden van Meta. De gruwelijke beelden die gebruikers nu te zien kregen, waren afkomstig van accounts met namen als BlackPeopleBeingHurt.
Hoewel Meta zich niet geroepen voelt om transparantie te bieden over hoe het probleem zich kon voordoen, is een woordvoerder er wel als de kippen bij om te stellen dat het niets te maken heeft met het aangepaste moderatiebeleid. Of die claim klopt, valt niet te controleren. Feit is wel dat Meta eerder aangaf te willen sleutelen aan automatische moderatie-algoritme om die toleranter te maken.
Hoewel Meta licht over het voorval gaat, hebben mensen waaronder jongeren wereldwijd beelden gezien die traumatiserend kunnen zijn. Het is niet de eerste keer dat de Instagram-algoritmes falen, maar vermoedelijk wel de meest ernstige. In het verleden heeft Instagram gebruikers die jonge contentcreators volgden al pornografie voorgeschoteld. Toch blijft het platform immens populair, ook bij adverteerders wiens content afgelopen nacht werd afgewisseld met verminkingen en moord.