Het is een echte hit op sociale media: jezelf veranderen in Barbie of Ken met AI-applicaties. Die glamoureuze selfies, hoe leuk ze er ook uitzien, baren experten wel zorgen. De apps verzamelen heel wat gegevens zoals je foto, je locatie en betalingsgegevens. Daarbovenop kunnen die data ook worden doorverkocht. "Het is geen sciencefiction meer dat hiermee deepfakes kunnen gemaakt worden. Of dat de foto gebruikt wordt voor identiteitsfraude."
Barbie in een kantoor of Ken op een glimmende poster. Het zijn twee van de vele opties waarin je jezelf kan veranderen met applicaties als bairbie.me en barbieselfie.ai. Het enige wat je moet doen is een foto van hoge kwaliteit uploaden, waarna de app via artificiële intelligentie je ombouwt tot de Mattel-pop. Maar hoewel deze applicaties leuk en onschuldig lijken, roepen ze toch ook steeds meer vragen op over onze privacy en de veiligheid van onze data.
Waarschuwing Poolse overheid
Op 4 augustus waarschuwde het Poolse ministerie van Digitalisering al voor de risico's van bairbie.me en barbieselfie.ai. Dat zijn veruit de populairste Barbie-applicaties van het moment. Volgens de Poolse overheidsdienst zijn ze "een bedreiging voor de veiligheid van je gegevens".
Het ministerie benadrukt dat cybercriminelen handig inspelen op populaire films of trends om je gegevens te verzamelen en misbruiken. De apps zijn "een hulpmiddel voor het massaal verzamelen van gegevens van internetgebruikers", aldus het ministerie.
In deze TikTok-video laat gebruiker @deprinceofzhong zien hoe hij er als Kenpop zou uitzien:
App van Warner Brothers
Ook privacy-experten benadrukken dat de apps onze privacy schenden. "Het privacybeleid op de website van barbieselfie.ai strookt niet met de Europese privacywetgeving", benadrukt Nathalie Smuha, onderzoeker Recht, Ethiek en AI aan de KU Leuven. "Een bedrijf moet voor elke specifieke dienst die ze aanbieden een aangepast beleid hebben. Hier zien we dat Warner Brothers, het productiebedrijf achter de Barbiefilm en de app, gewoon een algemeen privacybeleid gebruikt."
De gegevens die het bedrijf verzamelt zijn volgens experten ook verregaand. Wie akkoord gaat met de privacyverklaring van barbieselfie.ai, geeft onder meer toegang tot zijn camera, betalingsgeschiedenis, GPS-locatie en informatie over je socialemediagebruik. Je stemt ook toe dat Warner Brothers jouw gegevens kan verkopen.
"Ook gevoelige gegevens als ras, politieke voorkeur en biometrische gegevens als je gezicht worden opgeslagen, maar dat gebeurt niet zoals het moet", zegt Charlotte Somers, onderzoeker aan Centre for IT & IP Law (KU Leuven). "In hun privacyverklaring staat dat ze deze gegevens bijhouden. Eigenlijk moeten ze gebruikers, vlak voor die een foto uploaden, ook nog eens expliciet toestemming vragen om deze specifieke gegevens te verwerken. Dat doen ze niet."
Bairbie.me nog problematischer
Nog problematischer is de webapplicatie bairbie.me. "Hier is gewoon geen privacyverklaring te bespeuren", zegt Nathalie Smuha. "Er moet altijd een privacybeleid zijn dat je uitlegt welke gegevens ze verzamelen en hoe ze die gebruiken, maar ook hoe je ze kan verwijderen. Dat doet deze app niet. Het voldoet helemaal niet aan de Europese privacywetgeving."
Over het bedrijf dat er achter zit, Rvnway, is ook nog eens bitter weinig geweten. "Dat op zich doet al een alarmbel afgaan", zegt Charlotte Somers. "Je weet niet bij wie je gegevens kunnen terechtkomen. Het is gevaarlijk dat je een foto van je gezicht aan zulke bedrijven geeft en niet weet wat ermee gebeurt. Het is geen sciencefiction meer dat hiermee deepfakes kunnen gemaakt worden. Of dat de foto gebruikt wordt voor identiteitsfraude." Een grote hoeveelheid foto's kan ook gebruikt worden bij de training van systemen die werken op gezichtsherkenning.
Hoe jezelf beschermen?
Het is niet de eerste keer dat populaire foto-apps onder vuur liggen. In juli 2019 werd gewaarschuwd voor de FaceApp, die je 30 jaar ouder laat lijken. Ook hier zou de Russische ontwikkelaar niet zo voorzichtig hebben omgesprongen met gebruikersgegevens.
Volgens Somers en Smuha is er daarom sprake van een groter probleem. "Dit zijn slechts twee van een groot aantal apps die onze privacy schenden", zegt Somers. "Als consument denk je best twee keer na voor je gegevens, zeker een foto, doorstuurt. Als je het toch doet, kan je het bedrijf contacteren om je gegevens te verwijderen."
"Als consument kan je ook klacht indienen, bijvoorbeeld via consumentenbedrijven", vult Smuha aan. "Maar de verantwoordelijkheid om dit aan te pakken mag niet enkel bij burgers liggen. Je mag niet verwachten dat iedereen de privacyverklaring leest. Het probleem ligt bij de bedrijven die zich niet houden aan wettelijke verplichtingen. De autoriteiten moeten sneller in actie treden."
0 件のコメント:
コメントを投稿