Deepfake: Tekoälyn avulla tehty videoväärennös

Videon suunnittelija pystyy määrittelemään kaiken, mitä videolla näkyvä henkilö tekee, ja panemaan sanat hänen suuhunsa.

Deepfake-videoiden teossa käytettävä syväoppiva tekoäly pohjautuu kahteen neuroverkkoon, jotka käyttävät eri algoritmeja ja muodostavat keskenään kilpailevan verkoston. Ensimmäiselle eli luovalle algoritmille syötetään ensin suuria määriä dataa henkilöstä, jonka on tarkoitus esiintyä videolla. Kuvan tarkkuus on sitä parempi, mitä enemmän taustamateriaalia on käytössä. Algoritmi analysoi saamastaan datasta henkilön kasvonpiirteet, hiukset, varjot ja muut yksityiskohdat eri kulmista. Sitten se sulauttaa yhteen alkuperäisen kuvan ja toisista kuvista videon suunnittelijan irrottamaa ääntä ja suun liikkeitä, ja tuottaa ehdotuksen deepfakeksi. Toinen eli valvova algoritmi analysoi luovan algoritmin ehdotuksen ja etsii siitä virheitä, jotka saavat videon näyttämään epäluonnolliselta. Luova algoritmi korjaa valvovan algoritmin raportoimat virheet ja tuottaa parannellun ehdotuksen videosta. Video on valmis, kun valvova algoritmi ei enää löydä siitä virheitä.

Elokuvanteossa deepfake-tekniikalla voidaan esimerkiksi tuoda kohtaukseen näyttelijästä nuorempi versio, korjata näyttelijän tekemiä virheitä tai jälkiäänittää hänen repliikkinsä. Videopeleissä tekniikan avulla hahmoista voidaan tehdä luonnollisemman näköisiä. Kuluttaja voi sen avulla kokeilla erilaisia vaatteita tai hiustyylejä.

Deepfake-tekniikalla voidaan luoda väärennettyjä videoita, joissa kohde, kuten joku tunnettu henkilö, näyttää sanovan asioita, joita hän ei todellisuudessa ole koskaan sanonut. Deepfake-videoita on tehty ainakin rikollisiin huijaustarkoituksiin sekä julkkispornoksi.

Maailmanlaajuisesti tunnetuksi deepfake-ilmiö tuli vuonna 2018, kun Reddit-sivuston käyttäjä alkoi ladata sivustoon pornografisia deepfake-videoita. Sen jälkeen deepfake-videoiden määrä on kasvanut nopeasti. Deepfake-tekniikka kehittyy nopeasti, ja videoita voi olla vaikea erottaa aidoista.

Suuret yhtiöt kuten Google, Facebook, Microsoft ja Amazon pyrkivät tunnistamaan ja poistamaan deepfake-videot omista palveluistaan.

Intel väittää kehittämänsä Fakecatcher-ohjelman tunnistavan deepfake-videot reaaliajassa 96 prosentin tarkkuudella. Ohjelma tutkii videossa esiintyvän ihmisen kasvojen värimuutoksia, jotka aiheutuvat veren virtauksen muutoksista verisuonissa. Näitä muutoksia deepfake-videot eivät vielä osaa jäljitellä.