San Francisco gaat websites aanpakken die AI deepfake naaktfoto’s van vrouwen en meisjes maken

Bijna een jaar nadat door AI gegenereerde naaktfoto’s van middelbare schoolmeisjes een gemeenschap in Zuid-Spanje op zijn kop zetten, veroordeelde een jeugdrechtbank deze zomer 15 van hun klasgenoten tot een jaar voorwaardelijke gevangenisstraf.

Maar de kunstmatige intelligentietool die wordt gebruikt om de schadelijke deepfakes te creëren, is nog steeds gemakkelijk toegankelijk op internet en belooft binnen enkele seconden ‘elke foto die op de website wordt geüpload, te ontdoen van rommel’.

Nu wordt er in Californië een nieuwe poging gedaan om de app en soortgelijke apps te sluiten. Deze week heeft San Francisco een unieke rechtszaak aangespannen. Volgens deskundigen kan deze zaak een precedent scheppen, maar zal er ook veel obstakels zijn.

“De verspreiding van deze afbeeldingen heeft een schokkend aantal vrouwen en meisjes over de hele wereld uitgebuit”, aldus David Chiu, de gekozen stadsadvocaat van San Francisco die de zaak aanspande tegen een groep veelbezochte websites in Estland, Servië, het Verenigd Koninkrijk en elders.

“Deze beelden worden gebruikt om vrouwen en meisjes te pesten, vernederen en bedreigen,” zei hij in een interview met The Associated Press. “En de impact op de slachtoffers is verwoestend geweest voor hun reputatie, mentale gezondheid, verlies van autonomie en in sommige gevallen zelfs voor zelfmoord.”

De rechtszaak die namens de inwoners van Californië is aangespannen, beweert dat de diensten talloze staatswetten hebben overtreden tegen frauduleuze bedrijfspraktijken, niet-consensuele pornografie en seksueel misbruik van kinderen. Maar het kan lastig zijn om te bepalen wie de apps beheert, die niet beschikbaar zijn in app stores voor telefoons, maar nog steeds gemakkelijk te vinden zijn op internet.

Eind vorig jaar werd AP benaderd door een dienst die per e-mail beweerde dat de “CEO is gevestigd en door de hele VS reist”, maar weigerde bewijs te leveren of andere vragen te beantwoorden. AP noemt de specifieke apps die worden aangeklaagd niet om ze niet te promoten.

“Er zijn een aantal sites waarvan we op dit moment niet precies weten wie deze operators zijn en waar ze vandaan opereren, maar we hebben onderzoeksinstrumenten en dagvaardingsbevoegdheid om daar onderzoek naar te doen,” zei Chiu. “En we zullen onze bevoegdheden zeker gebruiken in de loop van deze rechtszaak.”

Veel van de tools worden gebruikt om realistische vervalsingen te maken die foto’s van geklede volwassen vrouwen, waaronder beroemdheden, “naakt” maken zonder hun toestemming. Maar ze zijn ook opgedoken op scholen over de hele wereld, van Australië tot Beverly Hills in Californië, meestal met jongens die de afbeeldingen van vrouwelijke klasgenoten maken die vervolgens wijdverspreid circuleren via sociale media.

In een van de eerste gevallen die in september vorig jaar in Almendralejo (Spanje) breed in de publiciteit kwam, zei een arts van wie de dochter tot een groep meisjes behoorde die vorig jaar slachtoffer werden en die het probleem onder de aandacht van het publiek bracht, dat ze tevreden is met de zwaarte van de straf die hun klasgenoten krijgen na een uitspraak van de rechtbank eerder deze zomer.

Maar het is “niet alleen de verantwoordelijkheid van de maatschappij, van het onderwijs, van ouders en scholen, maar ook de verantwoordelijkheid van de digitale giganten die profiteren van al deze troep”, zei Dr. Miriam al Adib Mendiri vrijdag in een interview.

Ze juichte de actie van San Francisco toe, maar zei dat er meer inspanningen nodig zijn, ook van grotere bedrijven zoals het in Californië gevestigde Meta Platforms en haar dochteronderneming WhatsApp, dat werd gebruikt om de beelden in Spanje te verspreiden.

Terwijl scholen en wetshandhavingsinstanties proberen degenen die deepfakes maken en delen te straffen, worstelen autoriteiten met de vraag wat ze moeten doen met de tools zelf.

In januari legde de uitvoerende macht van de Europese Unie in een brief aan een Spaans lid van het Europees Parlement uit dat de app die in Almendralejo wordt gebruikt “niet lijkt te vallen” onder de nieuwe, vergaande regels van het blok ter verbetering van de online veiligheid, omdat het geen groot genoeg platform is.

Organisaties die de groei van door AI gegenereerd kinderpornografisch materiaal volgen, zullen de zaak in San Francisco nauwlettend volgen.

De rechtszaak “heeft het potentieel om een ​​juridisch precedent te scheppen op dit gebied”, aldus Emily Slifer, beleidsdirecteur bij Thorn, een organisatie die zich inzet tegen seksuele uitbuiting van kinderen.

Een onderzoeker aan de Stanford University zei dat het moeilijker zal zijn om hen voor de rechter te brengen, omdat zoveel verdachten buiten de VS wonen.

Chiu “heeft het moeilijk in deze zaak, maar kan er mogelijk voor zorgen dat een aantal van de sites offline worden gehaald als de gedaagden die de sites beheren de rechtszaak negeren”, aldus Riana Pfefferkorn van Stanford.

Ze zei dat dit zou kunnen gebeuren als de stad bij verstek wint en bevelen verkrijgt die betrekking hebben op domeinnaamregistrars, webhosts en betalingsverwerkers, “die die sites effectief zouden sluiten, zelfs als hun eigenaren nooit in de rechtszaak verschijnen.”