Op X is het voor onbepaalde tijd niet meer mogelijk de zoekterm "Taylor Swift" in te geven, nu zogenoemde "deepnudes" of AI-naaktbeelden van de zangeres op het platform circuleren. Het voorbeeld van Taylor Swift legt eigenlijk een groter probleem bloot: "deepnudes" overspoelen het internet.
"Er ging iets mis. Probeer het nog eens." Wie vandaag de zoekopdracht "Taylor Swift" ingeeft op socialemediaplatform X, vroeger bekend als Twitter, krijgt een foutmelding. X heeft besloten om tijdelijk de zoekopdrachten naar de zangeres te blokkeren.
Sinds vrijdag circuleren zogenoemde "deepnudes" van de Amerikaanse artieste op het platform. Dat zijn naaktfoto's en -video's die door artificiële intelligentie zijn gemaakt. Speciale apps gebruiken daarbij bestaande foto's en filteren de kleren van de persoon op de foto weg.
De beelden gingen al snel viraal. Wie vrijdag zijn X-account opende, zag mogelijk de trending zoekopdracht "Taylor Swift AI" aan de rechterkant van zijn scherm staan. Een van de populairste berichten haalde 45 miljoen views, honderdduizenden likes en zo'n 24.000 reposts. Dat bericht bleef ongeveer 17 uur op het platform staan, voor het team van X het bericht verwijderde.
De Swifties (zo noemen de fans van Swift zichzelf) kwamen sneller in actie. Om te vermijden dat de naaktbeelden verder werden verspreid, overspoelden de fans van de Amerikaanse zangeres het platform met echte foto's en video's. De tag "Protect Taylor Swift" leidde ertoe dat de naaktbeelden naar de achtergrond verdwenen. Accounts die de valse pornografische beelden deelden, werden ook massaal gerapporteerd, zodat het team van X die sneller kon blokkeren.
96 procent van AI-beelden is seksueel getint
Het is niet duidelijk wanneer X de zoekopdrachten precies blokkeerde en of het platform dat ook al voor andere gevallen van AI-naaktbeelden heeft gedaan. Het voorbeeld van Swift is namelijk geen uitzondering.
Artificiële intelligentie wordt steeds vaker ingezet voor pornografische doeleinden. Volgens Sensity, een gespecialiseerd bedrijf uit Amsterdam, bevat 96 procent van alle AI-gegenereerde beelden een seksueel expliciete inhoud en zijn die mogelijk zonder toestemming geplaatst. Enkele websites specialiseren zich zelfs in de verspreiding van AI-pornografie. Een van de meest prominente websites haalt zo'n 17 miljoen bezoekers per maand.
Bekende personen en sterren zijn regelmatig het slachtoffer van "deepnudes". Van de drie meest gevolgde vrouwelijke TikTokkers (Addison Rae, Charli D’Amelio en Bella Poarch) gingen vorige zomer ook al valse suggestieve en expliciete beelden rond op X. Ook actrice Emma Watson, bekend als Hermelien in de Harry Potter-films, werd al gebruikt als het gezicht van seksueel getinte reclamevideo's.
Ook in eigen land werden vrouwen al het slachtoffer van deepfakes. Enkele onbekenden hebben in september nog Instagramfoto's van ex-Miss België Celine Van Ouytsel omgevormd tot valse naaktbeelden. Toen bleek dat tientallen andere vrouwelijke BV's eveneens slachtoffer waren van de praktijk.
Toch beperken de naaktbeelden zich niet tot bekende koppen. Ook "gewone" vrouwen en minderjarige meisjes kunnen het slachtoffer worden van artificiële intelligentie. Een zo'n verhaal in Spanje haalde zelfs de internationale pers. Daar hadden enkele tieners AI-naaktbeelden gemaakt van een 20-tal klasgenoten.
Verschillende onlineaccounts bieden zelfs een "service" aan waarbij ze persoonlijke verzoeken aannemen en tegen betaling het gezicht van een onbekende persoon in een deepfake-nepfoto of -video verwerken.
Niet alleen X
X stuurde een officiële reactie uit over de fake pornografische beelden van Swift. Het platform liet weten dat naaktbeelden die niet vrijwillig zijn gemaakt "strikt verboden" zijn. Account die de beelden verspreiden, worden permanent geblokkeerd.
De reactie kwam echter vrij laat in vergelijking met het snelle optreden van de Swifties. Dat komt omdat eigenaar Elon Musk bij de overname van het platform een groot deel van het moderatieteam ontsloeg. Nu blijven wereldwijd zo'n 2.500 moderators over.
Daarnaast is voor het volledige Nederlandse taalgebied maar een werknemer die berichten controleert op ongepaste, racistische of gewelddadige inhoud. Ter vergelijking: Meta, dat Facebook en Instagram beheert, heeft er wereldwijd 15.000.
Toch is het niet correct om te stellen dat "deepnudes" alleen bij X een probleem zijn. Ook op andere platformen gaan AI-naaktbeelden gemakkelijk rond. Van Instagram en Facebook over Reddit tot Discord en Telegram.
Vooral dat laatste blijkt een probleem in de bestrijding tegen "deepnudes". De valse naaktbeelden van Swift begonnen dan ook bij Telegram en werden later naar X overgezet. Seksueel getinte inhoud floreert op Telegram, omdat er weinig beperkingen gelden. Uit onderzoek van VRT NWS bleek eerder al dat naaktbeelden van minderjarigen er regelmatig in zogenaamde "expose"-groepen worden gedeeld.
Strafbare feiten
Als jouw naaktbeelden of AI-naaktbeelden online zonder je toestemming verspreid worden, dan kan je dat melden bij de socialemediabedrijven waar ze worden verspreid. Je kan ook naar de politie stappen en een klacht indienen. Onder meer Van Ouytsel besloot een klacht in te dienen en een advocaat onder de arm te nemen.
Deepnude-foto's zijn in België dan ook strafbaar. Experte cybercriminaliteit aan de Universiteit Antwerpen Catherine Van de Heyning legde eerder al uit dat "deepnudes" eigenlijk onder de koepel van voyeurisme vallen, omdat je iemand zonder toestemming naakt begluurt. Daarbij maakt het geen verschil dat de beelden "fake" zijn.
Een rechter kan een gevangenisstraf uitspreken van zes maanden tot vijf jaar. In geval van beelden van een minderjarige of als de beelden met slechte bedoelingen zijn verspreid, kan die straf zelfs oplopen tot vijftien jaar.
Minderjarige slachtoffers van deepnudes kunnen terecht bij Child Focus.
Meerderjarige slachtoffers kunnen een melding maken bij het Instituut voor de Gelijkheid van Vrouwen en Mannen.
Heb je een vraag over geweld, misbruik of kindermishandeling, dan kan je terecht bij de hulplijn 1712. Kinderen en jongeren kunnen ook terecht bij Awel, op het nummer 102 of via de website.
Op internationaal niveau proberen politici ondertussen het hoofd te bieden aan de opmars van artificiële intelligentie. Het gevaar zit namelijk niet alleen in naaktbeelden, maar ook in desinformatiecampagnes en aanvallen op iemands reputatie.
De Europese Unie werkt momenteel aan de AI Act, om artificiële intelligentie onder controle houden. In het wetsontwerp staat namelijk te lezen dat sommige AI-systemen een bedreiging zijn voor de mens. Als de wet erdoor komt, moeten ontwikkelaars een app bijvoorbeeld op zodanige wijze ontwerpen dat het niet mogelijk is om illegale content te genereren.
0 件のコメント:
コメントを投稿