Brussel: TikTok overtreedt wet met algoritme dat schadelijke video's blijft pushen

De Europese Commissie concludeert op basis van voorlopig onderzoek dat socialemediaplatform TikTok de digitaledienstenwet (DSA) schendt. Het platform slaagt er volgens Brussel niet in de gevolgen van zijn algoritme goed te beoordelen of effectieve maatregelen te nemen tegen de herhaalde blootstelling aan schadelijke inhoud.

Het probleem zit in de manier waarop het algoritme interacties interpreteert. Wanneer iemand langere tijd kijkt naar video's over gewichtsverlies, isolement of emotionele problemen, beschouwt het systeem dat gedrag als interesse. Hierdoor krijgen gebruikers nieuwe, vergelijkbare berichten te zien, ook al werkt die herhaalde consumptie nadelig uit.

Brussel spreekt in dit verband over een 'rabbit-hole-effect', waarbij aanbevelingen gebruikers stap voor stap meetrekken in een stroom van gelijksoortige inhoud die moeilijk te onderbreken is. De Commissie verbindt deze dynamiek aan mogelijke toename van somberheid en angst, een lager zelfbeeld en de verergering van bestaande mentale problemen.

Tijdens het onderzoek zijn ook de hulpmiddelen bekeken die TikTok heeft ingevoerd om de risico's van het algoritme te beperken. Hoewel het platform mechanismen heeft toegevoegd om aanbevelingen te diversifiëren en gebruikers hun voorkeuren te laten aangeven, oordeelt de Commissie dat de werking daarvan onvoldoende is. Zo zet Brussel vraagtekens bij de effectiviteit van de knop waarmee gebruikers kunnen aangeven ergens niet in geïnteresseerd te zijn.