Në një reklamë në Facebook, një grua me fytyrë identike me fytyrën e aktores Emma Watson buzëqesh me turp dhe përkulet para kamerës, duke u shfaqur se ka iniciuar një akt seksual. Por gruaja nuk është Watson, ylli i “Harry Potter”. Reklama ishte pjesë e një fushate masive këtë javë për një aplikacion deepfake, i cili lejon përdoruesit të ndërrojnë çdo fytyrë në çdo video që zgjedhin.
Deepfakes janë përmbajtje ku fytyrat ose tingujt hiqen ose manipulohen. Zakonisht, krijuesit e “deepfake” bëjnë video në të cilat të famshëm bëhen të duken sikur po shfaqen me dëshirë në to, edhe pse nuk janë. Gjithnjë e më shumë, teknologjia është përdorur për të bërë pornografi jokonsensuale që shfaq fytyrat e të famshëmve, influencuesve ose çdo personi, përfshirë fëmijët.
Të dielën dhe të hënën, një aplikacion për krijimin e videove “DeepFake FaceSwap” shpërndau më shumë se 230 reklama në shërbimet e Meta, duke përfshirë Facebook, Instagram dhe Messenger, sipas një rishikimi të bibliotekës së reklamave të Meta. Disa nga reklamat shfaqnin atë që dukej si fillimi i videove pornografike me tingullin e njohur të këngës hyrëse të platformës pornografike Pornhub. Pas disa sekondash, fytyrat e grave u ndërruan me ato të aktorëve të famshëm. Kur Lauren Barton, një studente gazetarie në Tenesi, pa të njëjtën reklamë në një aplikacion të veçantë, ajo u trondit aq sa e regjistroi atë në ekran dhe e postoi në Twitter, ku mori mbi 10 milionë shikime, sipas numërimit të shikimeve të Twitter.
Kjo mund të përdoret me nxënësit e shkollave të mesme në shkollat publike që janë ngacmuar. Mund të shkatërrojë jetën e dikujt. Ata mund të kenë telashe në punën e tyre. Dhe kjo është jashtëzakonisht e lehtë për t’u bërë dhe falas. Gjithçka që duhej të bëja ishte të ngarkoja një foto të fytyrës sime dhe kisha akses në 50 shabllone falas. Zëvendëso fytyrën me këdo. Kënaquni me teknologjinë e ndërrimit të fytyrës me AI.
Nga reklamat e Meta, 127 shfaqnin ngjashmërinë e Watson. 74 të tjera shfaqën fytyrën e aktores Scarlett Johansson të ndërruar me ato të grave në video të ngjashme provokuese. Asnjëri nga aktorët nuk iu përgjigj një kërkese për koment. Kushtet e shërbimit për aplikacionin, i cili kushton 8 dollarë në javë, thonë se nuk i lejon përdoruesit të imitojnë të tjerët nëpërmjet shërbimeve të tyre ose të ngarkojnë përmbajtje seksualisht eksplicite. Zhvilluesi i aplikacionit i listuar në App Store quhet Ufoto Limited, në pronësi të një kompanie mëmë kineze, Wondershare. Asnjëra kompani nuk iu përgjigj një kërkese për koment.
