Deepfake
| Osa artikkelisarjaa |
| Tekoäly |
|---|
 |
Deepfake tai syväväärennös[2] on aidolta vaikuttavaa elävää kuvaa ja ääntä sisältävä videoväärennös, joka on tuotettu keinotekoisesti yhdistelemällä kuvia ja videoita koneoppivan tekoälyn avulla. Videon suunnittelija pystyy määrittelemään kaiken, mitä videolla näkyvä henkilö tekee, ja panemaan sanat hänen suuhunsa.[3]
Tekniikka
Deepfake-videoiden teossa käytettävä syväoppiva tekoäly pohjautuu kahteen neuroverkkoon, jotka käyttävät eri algoritmeja ja muodostavat keskenään kilpailevan verkoston. Ensimmäiselle eli luovalle algoritmille syötetään ensin suuria määriä dataa henkilöstä, jonka on tarkoitus esiintyä videolla. Kuvan tarkkuus on sitä parempi, mitä enemmän taustamateriaalia on käytössä. Algoritmi analysoi saamastaan datasta henkilön kasvonpiirteet, hiukset, varjot ja muut yksityiskohdat eri kulmista. Sitten se sulauttaa yhteen alkuperäisen kuvan ja toisista kuvista videon suunnittelijan irrottamaa ääntä ja suun liikkeitä, ja tuottaa ehdotuksen deepfakeksi. Toinen eli valvova algoritmi analysoi luovan algoritmin ehdotuksen ja etsii siitä virheitä, jotka saavat videon näyttämään epäluonnolliselta. Luova algoritmi korjaa valvovan algoritmin raportoimat virheet ja tuottaa parannellun ehdotuksen videosta. Video on valmis, kun valvova algoritmi ei enää löydä siitä virheitä.[3]
Käyttötarkoitukset
Elokuvanteossa deepfake-tekniikalla voidaan esimerkiksi tuoda kohtaukseen näyttelijästä nuorempi versio, korjata näyttelijän tekemiä virheitä tai jälkiäänittää hänen repliikkinsä. Videopeleissä tekniikan avulla hahmoista voidaan tehdä luonnollisemman näköisiä. Kuluttaja voi sen avulla kokeilla erilaisia vaatteita tai hiustyylejä.[4]
Deepfake-tekniikalla voidaan luoda väärennettyjä videoita, joissa kohde, kuten joku tunnettu henkilö, näyttää sanovan asioita, joita hän ei todellisuudessa ole koskaan sanonut.[5] Deepfake-videoita on tehty ainakin rikollisiin huijaustarkoituksiin sekä julkkispornoksi.[3]
Historia
Maailmanlaajuisesti tunnetuksi deepfake-ilmiö tuli vuonna 2018, kun Reddit-sivuston käyttäjä alkoi ladata sivustoon pornografisia deepfake-videoita. Sen jälkeen deepfake-videoiden määrä on kasvanut nopeasti. Deepfake-tekniikka kehittyy nopeasti, ja videoita voi olla vaikea erottaa aidoista.[3]
Tunnistaminen
Suuret yhtiöt kuten Google, Facebook, Microsoft ja Amazon pyrkivät tunnistamaan ja poistamaan deepfake-videot omista palveluistaan.[3][1]
Intel väittää kehittämänsä Fakecatcher-ohjelman tunnistavan deepfake-videot reaaliajassa 96 prosentin tarkkuudella. Ohjelma tutkii videossa esiintyvän ihmisen kasvojen värimuutoksia, jotka aiheutuvat veren virtauksen muutoksista verisuonissa. Näitä muutoksia deepfake-videot eivät vielä osaa jäljitellä.[6]
Lähteet
- ↑ a b Annamari Sipilä: Väärennettyjä videoita ei enää erota aidoista, ja pornosta on lyhyt askel poliittiseen sabotaasiin, varoittaa deepfake-tutkija Nina Schick Helsingin Sanomat. 11.10.2020. Viitattu 28.12.2020.
- ↑ Sanapoimintoja vuodelta 2019: syväväärennös Kotimaisten kielten keskus. Viitattu 28.12.2020.
- ↑ a b c d e Henrik Vinther Nielsen: Virtuaalietsivät metsästävät väärennettyjä videoita Tieteen Kuvalehti. 2.11.2020. Viitattu 28.12.2020.
- ↑ Joseph Foley: 10 deepfake examples that terrified and amused the internet Creative Bloq. 23.3.2020. Viitattu 28.12.2020.
- ↑ S. Nielsen: Deepfake: Elävät kasvokuvat hämmästyttävät ja pelottavat Kotimikro. 29.5.2019. Viitattu 28.12.2020.
- ↑ Intel Says Its Deepfake Detector Has 96% Accuracy Gizmodo. 17.11.2022. Viitattu 26.11.2022. (englanniksi)