Vain kolme päivää ennen parlamenttivaaleja slovakialaisessa sosiaalisessa mediassa alkoi levitä poikkeuksellinen video.
Videolla puhui edistyspuolueen johtaja Michael Šimečka, liberaalina tunnettu poliitikko.
– Nimeni on Michael ja olin aiemmin liberaali tyyppi. Uskoin 70 eri sukupuoleen ja raskaana oleviin miehiin, mutta sitten tulin viisaammaksi ja äänestin [kilpailevaa, äärioikeistolaista puoluetta] Republikaa, Šimečka sanoi videolla.
Oikeasti Šimečka ei ollut sanonut mitään sinne päinkään.
Video oli tekoälyn avulla rakennettu syväväärennös eli deepfake. Videon tekijä oli kopioinut Šimečkan äänen ja pannut sanat hänen suuhunsa. Kasvoja ei videolla näy.
Voit katsoa videon teksitettynä tästä:
Šimečkan edistyspuolue kävi videon julkistamisen aikaan tiukkaa kamppailua populistisen Smer-puolueen kanssa parlamenttivaalien ykköspaikasta. Vaalit käytiin 5,5 miljoonan asukkaan Slovakiassa syyskuun lopussa.
Syväväärennöksillä harhautettiin äänestäjiä
Deepfake-sisältöjen muuttumista yleiseksi harhauttamis- ja vaikuttamiskeinoksi on ennustettu vuosia, mutta tähän asti ne eivät ole aiheuttaneet pelätyn kaltaisia ongelmia.
Nyt syväväärennöksiä käytettiin ensimmäistä kertaa demokraattisen maan vaalien alla niin, että osa äänestäjistä todella luuli väärennöksiä tosiksi.
– Se missä laajuudessa tekoälyä käytettiin Slovakian vaaleissa, on todella merkillepantavaa ja jotain, mitä en ole aiemmin nähnyt, sanoo disinformaatioon erikoistunut datatieteilijä Rolf Fredheim.
Fredheim tutki Slovakian vaaleja kansainvälisessä Reset Tech -järjestön tutkimusprojektissa. Projektin tarkoituksena oli selvittää digijättien reagoimista mahdolliseen disinformaatioon.
On ennustettu, että runsaan vuoden päästä käytävissä Yhdysvaltain presidentinvaaleissa nähdään todellinen deepfake-sisältöjen esiinmarssi. Niistä on saatu jo esimakua vaaliasetelmia haettaessa.
Nyt vaikuttaa siltä, että vastaavaa voidaan nähdä myös Suomen presidentinvaaleissa alkuvuonna ja eurovaaleissa myöhemmin keväällä.
Johtava varautumisasiantuntija Antti Sillanpää Huoltovarmuuskeskuksesta on huolissaan.
– Pidän tätä [Slovakian syväväärennöksiä] erittäin huolestuttavana merkkinä. Se että huijaukset tehtiin hyvin lähellä äänestyspäivää, tekevät asiasta entistä uhkaavamman, Sillanpää sanoo.
Presidentti ”kertoi” äänestävänsä äärioikeistoa
Slovakian edistyspuolueen johtajan ääntä käyttänyt deepfake-video julkaistiin vain tunteja ennen kuin Slovakiassa alkoi vaalirauha. Kolme päivää ennen vaaleja ei saa kampanjoida eikä puhua vaaleista, joten julkaisuaika jätti edistyspuolueelle hyvin vähän aikaa reagoida saati korjata jo viraaliksi ehtineen videon viestiä.
Videon oli tehnyt äärioikeistolainen Republica-puolue. Loppuun oli lisätty lause: ”Tämä video on fiktiota, ja samankaltaisuus on pelkkää sattumaa.”
Slovakialaisella disinformaatiotutkijalla Richard Kuchtalla on asiasta selvä näkemys.
– Se [videon julkaisu] oli harhaanjohtavaa ja epäreilua kampanjointia, sanoo Kuchta.
Myöhemmin samana päivänä Republica julkaisi vielä uuden vastaavan videon.
Tällä kertaa Slovakian presidentti Zuzana Čaputová kehotti äänestämään Republica-puoluetta.
Tässä kuvassa Čaputová on nousemassa puhujanpönttöön YK:n päämajassa New Yorkissa syyskuussa.
Tilanne olisi sama, jos jokin suomalainen puolue panisi presidentti Sauli Niinistön kehottamaan omalla äänellään äänestämään esimerkiksi perussuomalaisia tai vihreitä. Ja videon lopussa olisi huomio, että äänten yhdenmukaisuus on pelkkää sattumaa.
”Tavallisella ihmisellä ei ole mitään mahdollisuutta arvioida teknisesti”
Suomessa vaalideepfake-videon tekijä voisi saada syytteen kunnianloukkauksesta. Silloin videota tutkisi poliisi.
Internetissä syväväärennös pitäisi kuitenkin saada paljastettua todella nopeasti, mikä on vaikeaa. Paljon jää sen varaan, että yleisö osaa päätellä sisällön vääräksi ja että vastuullinen media tarkistaa faktat ja raportoi.
Slovakiassa Republika-puolueen tekemät syväväärennösaudiot olivat teknisesti erinomaisia.
– [Puoluejohtaja Michael Šimečkan] Äänestä ei huomaa, että se on tehty tietokoneella, ja kielioppi on täydellistä. Olisin voinut mennä halpaan, sanoo tutkija Kuchta.
Tässä kuvassa Šimečka puhuu medialle heti vaalien jälkeen.
Antti Sillanpää huomauttaa, että tavallisella ihmisellä ei ole mitään mahdollisuuksia arvioida kehittynyttä deepfake-sisältöä.
– Vaalit ovat tämän tyyppiselle huijaukselle pelottava alusta, koska ajoitus on niin tärkeä.
Slovakiassa Republikan syväväärennökset keräsivät muutamassa tunnissa yli 100 000 näyttökertaa. Ne siis levisivät vauhdilla.
Väärennetystä puhelinkeskustelusta tuli viraali-ilmiö
Rolf Freidheim ja Richard Kuchta uskovat, että Slovakian deepfake-sisältöjä levitettiin ainakin osin koordinoidusti.
– Sisällöllä oli tarkoitus vaikuttaa vaaleihin mahdollisimman paljon, Freidheim sanoo.
Vaalirauhan jo alettua julkaistiin vielä uusia syväväärennöksiä. Uhrina oli jälleen sama edistyspuolueen Šimečka. Uudella syväväärennösvideolla hän keskusteli tunnetun toimittajan Monika Tódován kanssa muun muassa äänten ostamisesta vaalivoiton varmistamiseksi.
Näet videon tästä:
Väärennös oli tehty niin, että se vaikutti salaa nauhoitetulta keskustelulta.
Videon katsoi pelkästään Metan alustoilla yli 60 000 ihmistä. Sen todellinen katsojamäärä voi olla helposti kaksinkertainen, sillä video löytyy kymmenistä eri verkko-ositteista.
Kreml-mielinen sisältö kukoisti Slovakian vaaleissa
Puhelinkeskusteluvideon tekijää ei tiedetä. Se kuitenkin tiedetään, että Slovakian vaaleja hallitsi venäläinen disinformaatio.
Kremlin suosimat Venäjä-mieliset näkemykset muun muassa Ukrainan sodasta levisivät sosiaalisessa mediassa laajasti.
”Ei senttiäkään Ukrainaan” ja ”Olen Venäjän, en USA:n puolella. Jaa jos olet samaa mieltä, lukee Facebookissa levinneissä kuvissa”
– Lisäksi vaalien jälkeen sattui outo juttu. Venäjän tiedustelupalvelu SVR antoi vaalien jälkeen lausunnon, jossa se väitti, että Yhdysvallat olisi yrittänyt manipuloida Slovakian vaaleja Michael Šimečkan edistyspuolueen hyväksi. Aivan kuin he olisivat halunneet osoittaa, että joku muu oli syyllinen, Kuchta kertoo.
Reset Techin tutkimuksen mukaan Kreml-mieliset sisällöt saivat vaalikampanjan aikana lähes 800 000 tykkäystä ja jakoa eri somealuistoilla. Erityisen suosittuja olivat Ukrainan sotaan liittyvät Venäjä-mieliset sisällöt.
Paljon huomioita saivat esimerkiksi valheet Ukrainan presidentistä Zelenskyista sekä väitteet siitä, että Slovakian nykyhallinto ottaisi käskyjä suoraan Yhdysvalloista.
Slovakian vaalit voitti lopulta Kreml-myönteinen Smer-puolue.
Puolueen puheenjohtaja Robert Fico saapui toimittajien eteen vaali-iltana Bratislavassa.
Vielä ovensuukyselyissä Smer-puolue oli ollut tappiolla.
Voimakkaaseen tunnereaktioon yllyttävä sisältö on hälytysmerkki
Huoltovarmuuskeskuksen Antti Sillanpää arvioi, että Suomea suojelee vastaavilta disinformaatiokampanjoilta osin se, että Suomessa turvallisuuspolitiikasta vallitsee laaja yksimielisyys.
Slovakiassa levinneet deepfake-sisällöt kertovat Sillanpään mielestä kuitenkin sen, että pienilläkin kielialueilla yritetään deepfake-kampanjoita.
Ääntä jäljittelevät avoimet ohjelmat ovat kehittyneet tämän vuoden aikana valtavasti. Suomenkielisenkin syväväärennöksen voi tehdä nopeimmillaan minuuteissa, eikä siihen tarvita huipputietokonetta tai valtavaa määrää harjoitusdataa.
Sillanpään mielestä tekninen kehitys on tällä hetkellä niiden puolella, jotka haluavat levittää disinfromaatiota.
Slovakian vaaleissä somejätit eivät vaikuta estäneen syväväärennösten julkaisua omalla alustallaan.
– Somejätit ei kiinnitä riittävää huomiota disinformaatioon tai epäautentisiin kampanjoihin. Tilanne on mennyt huonompaan suuntaan erityisesti Suomen ja Slovakian kaltaisilla pienillä markkinoilla, Sillanpää sanoo.
Samaa mieltä on Rolf Freidman.
– Uskon, että tällä hetkellä vihamieliset toimijat testaavat, miten uudet teknologiat toimivat [vaalivaikuttamisessa]: jos lataan syväväärennöksen Facebookiin, poistetaanko se väärennöksenä. Jos ei, tämä on hyödyllistä tietoa, hän sanoo.
Tekninen kehitys, halpuus, somejättien kiinnostuksen puute sekä Slovakiasta saatu kokemus antavat olettaa, että syväväärennöksiä sisältäviä disinformaatiokampanjoita nähdään jatkossa myös Suomessa.
Antti Sillanpää toivoo kansalaisilta tarkkuutta ja arkijärjen käyttöä erityisesti vaalien alla.
– Jos jokin kuva tai video lähellä äänestyspäivää yllyttää voimakkaaseen tunteelliseen reaktioon mutta poikkeaa yleisesti tunnetusta faktapohjasta, kannattaa olla epäluuloinen.
Kuuntele Maailmanpolitiikan arkipäivää Areenasta
Jutun kuvat:
Slovakian presidentti Zuzana Čaputová: Adam Gray / EPA
edistyspuolueen johtaja Michael Šimečka: Martin Divisek / EPA
Kuvakaappaus Facebookista: Marja Väänänen / YLE
Smer-puolueen puheenjohtaja Robert Fico: Martin Divisek / EPA