Kako smo mašinsko učenje i AI, neke od najnaprednijih tehnologija, pretvorili u mimove i porno filmove

Deepfake je reč nastala spajanjem deep learning i fake („dubinsko učenje” i „lažno”). U suštini, kreator deepfake-a zamenjuje izgled osoba na već postojećoj slici ili videu, licem druge osobe. Za ove potrebe koriste se napredne tehnologije mašinskog učenja i veštačke inteligencije.

Kao što je verovatno i za očekivati od ljudskog roda, ove tehnike su vrlo brzo počele da se koriste u loše svrhe. Pre svega za pravljenje pornografije. Lik velikog broja poznatih ličnosti širom sveta, uglavnom žena, bez dozvole je iskorišćen za pravljenje erotskog materijala.

Šta više, u oktobru 2019. je kompanija za sajber zaštitu Deeptrace procenila da čak 96 odsto onlajn deepfake-ova ima pornografski sadržaj. Uopšte, broj deepfake videa na mreži raste neverovatnom brzinom. Tako je u julu prošle godine njihov broj procenjen na oko 15.000, a u junu ove godine na približno 50.000.

Mesečno se okači i do 1.000 deepfake porno-filmova

Na nekima od najpopularnijih sajtova za odrasle, mesečno se okači i do 1.000 deepfake porno-filmova. Većina njih tamo i ostaje duže vreme. Kako kaže vlasnik jednog od tih sajtova, oni ove videe tretiraju kao svaki drugi materijal koji se tu nađe bez dozvole učesnika. U ovom slučaju „učesnika”. Problem je što proces brisanja videa sa platforme ima nekoliko koraka, pa koliko god se trudili da ih brzo uklone, korisnici sajta ih mnogo brže ponovo okače.

Drugi, sve češći, način upotrebe tehnologije nije toliko štetan, koliko je čudan. U pitanju su mimovi u kojima kreatori stavljaju svoja lica, ili lica poznatih ličnosti. Upravo ovde se postavlja bitno pitanje. Kako je moguće da jednu toliko naprednu tehnologiju kao što je mašinsko učenje, koristi osoba bez ozbiljnog predznanja?

Zašto gotovo svako može da napravi svoj deepfake?

Odgovor je dala jedna kreatorka na svom YouTube kanalu kroz detaljan tutorijal. Kako kaže u videu koji je za sada pregledalo više od 400.000 ljudi, pravljenje deepfake-a i sinhronizacija sa audio snimkom nije uopšte toliko komplikovan proces. Povod da napravi ovaj video je mim u kome se menja lice muškarca koji se pravi da peva pesmu iz japanske video-igre. Za sada su umesto njega tu pesmu „pevali” Barak Obama i Tanos (lik iz Marvelovih filmova).

Ovaj algoritam za deepfake potekao je u jednom istraživačkom radu iz 2019. godine, koji je prezentovan na konferenciji NeurIPS. Pomenuti algoritam je prilično jednostavan, pa je moguće uz samo par linija koda animirati nečiju fotografiju. Kvalitet samog videa jeste komičan, ali to objašnjava zašto gotovo svako može da napravi svoj deepfake.

Argument pobornika deepfake-a je da postoji niz pozitivnih stvari

Očigledno je da je distorzija lica koja nastaje u ovim mimovima deo humora. Za sada kompleksni, realistični deepfake algoritmi nisu ni dostupni široj javnosti, niti laki za korišćenje. Međutim, brzinom kojom tehnologija napreduje, lako je zamisliti da nam se i ova stvarnost bliži. Tako je Tencent, kineski tehnološki gigant, najavio da će ulagati u ovu tehnologiju.

Argument pobornika deepfake-a je da postoji niz pozitivnih stvari za koje on može biti korišćen. Tako je u februaru časopis Time rekreirao govor Martina Lutera Kinga u VR-u.

Problem je što sada mnogo realističnije izgleda mogućnost da se ova tehnologija koristi za političke manipulacije. Dosadašnih pokušaja jeste bilo, ali su bili neuspešni. Pitanje je dana kada će biti napravljen dovoljno uverljiv video, sa dovoljno uverljivim govorom. Nakon toga ćemo morati da kolektivno napravimo novi odnos prema svakoj vrsti informacija koju dobijamo onlajn.