Niet haalbaar om alle misbruik te voorkomen, zegt chatbot Grok

AMSTERDAM (ANP) – Ook de makers van chatbot Grok willen voorkomen dat de dienst wordt gebruikt om kindermisbruik te creëren. “Maar het volledig elimineren van elk misbruik is niet haalbaar, er zullen altijd gebruikers zijn die beveiligingsmaatregelen omzeilen”, hebben de advocaten van het platform gezegd. Grok is eigendom van het bedrijf xAI van Elon Musk.

Bij de rechtbank in Amsterdam diende donderdag een kort geding van Fonds Slachtofferhulp en expertisecentrum Offlimits. Zij eisen een wereldwijd verbod op een functie binnen Grok waarmee met kunstmatige intelligentie naaktbeelden kunnen worden gemaakt. Dat kunnen volwassenen zijn, maar ook kinderen. De afgebeelde personen kunnen virtueel zijn en alleen online bestaan, maar het kan ook om nepbeelden van echte mensen gaan. Bij de eis deelden de organisaties foto’s waarop virtuele kinderen met volwassen mannen te zien zijn.

Behalve het verbod eisen de twee organisaties ook een dwangsom van 100.000 euro voor elke dag dat de naaktbeelden nog met Grok kunnen worden gemaakt.

Maatregelen

Een advocaat van Fonds Slachtofferhulp en Offlimits zei dat hij woensdag nog een foto van de advocaat van Grok had geüpload en bewerkt. “Met een paar simpele opdrachten kleedde Grok hem uit tot op zijn onderbroek. Ik heb een tatoeage met de datum op zijn rug laten zetten, en een filmpje gemaakt waarin hij een sexy dansje doet.” Een advocate van de eisers zei dat ze een foto van zichzelf had geplaatst, waarna Grok het knoopje van haar blouse opendeed en haar borsten groter maakte.

Grok zegt direct maatregelen te nemen bij meldingen over beelden van misbruik. De opdrachten die de eisers hadden ingevoerd, zouden inmiddels een foutmelding opleveren. Volgens de dienst zijn een verbod en een dwangsom daarom helemaal niet nodig. “Grok deelt hetzelfde doel als de eisers en wil voorkomen dat gebruikers misbruik kunnen maken van zijn technologie”, zeiden de advocaten.

Uitspraak

Maar volgens Offlimits en Fonds Slachtofferhulp draait Grok de zaken om. “Het is niet een probleem dat Grok en xAI overkomt. Het is hun eigen bedrijfsmodel om het mogelijk te maken en het is hun eigen keuze om dat niet te veranderen. Voor de rijkste man ter wereld is dit een grapje, voor de rest van de wereld is het een nachtmerrie”, stelden de advocaten. Ze vinden dat de maatregelen van Grok de problemen ook niet oplossen. “Dat mensen kunnen worden uitgekleed, kan niet worden betwist. Dat is mogelijk omdat Grok niet vraagt naar toestemming en niet checkt hoe oud iemand is.”

De rechtbank doet op 26 maart uitspraak.

 

ANP