Fonds Slachtofferhulp wil dat X stopt met naaktbeelden chatbot
DEN HAAG (ANP) – Fonds Slachtofferhulp en expertisecentrum Offlimits eisen dat socialmediaplatform X maatregelen neemt om zijn chatbot Grok aan banden te leggen. Grok is in de afgelopen maanden gebruikt om met kunstmatige intelligentie naaktbeelden te creëren van nietsvermoedende mensen, onder wie kinderen. De organisaties spannen daarom een kort geding aan.
Fonds Slachtofferhulp en Offlimits zeggen dat zulke naaktbeelden “vanuit juridisch oogpunt niet toegestaan en strafbaar zijn”. Ze eisen per direct een verbod van de AI-tool die het mogelijk maakt om die beelden te genereren. Ze willen ook dat Grok en X stoppen met verspreiden van beeldmateriaal van seksueel misbruik van minderjarigen. “Grok genereert en verspreidt kinderpornografisch materiaal”, staat in de dagvaarding.
Doordat de website en apps van Grok en X in de Nederlandse taal zijn opgesteld, maken de praktijken ook slachtoffers in ons land, zeggen de eisers. Robbert Hoving, directeur van Offlimits: “Met AI-tools bewerkte of gemaakte beelden worden gebruikt om slachtoffers online te pesten, te vernederen of seksueel te intimideren. Bovendien zorgt de laagdrempeligheid van dit soort tools ervoor dat het maken en verspreiden hiervan op grote schaal mogelijk is. Het is daarmee een ongeluk in slow motion wat we zien gebeuren en dat vraagt om actie.” Directeur Ineke Sybesma van Fonds Slachtofferhulp: “Voor slachtoffers maakt het niet uit of een beeld ‘echt’ is of met AI gemaakt.”
Nudification tool
De privacytoezichthouder van Ierland is vorige week een onderzoek begonnen naar de ‘nudification tool’ van Grok, oftewel de uitkleedfunctie. Ierland is verantwoordelijk voor het onderzoek, omdat het Europese hoofdkwartier van X in dat land staat. Meerdere landen hebben onderzoeken naar Grok aangekondigd, de chatbot beperkingen opgelegd of zelfs volledig geblokkeerd om de seksueel getinte afbeeldingen.
Offlimits is een expertisebureau over onlinemisbruik. De organisatie kreeg vorig jaar meer dan 250 meldingen van bewerkte en door AI gecreëerde naaktbeelden. Dat is meer dan vier keer zoveel als het jaar ervoor. Melders zijn meestal slachtoffer geworden van onlinepestgedrag of seksuele afpersing.
Het kort geding dient donderdag 12 maart bij de rechtbank Amsterdam.
ANP
