Artificiell intelligens har utvecklats i rasande fart under fyra års tid och utnyttjas också inom desinformation. Antalet deepfake-videor verkar ändå inte ha ökat nämnvärt.
Martin Fällman är ansvarig för digital säkerhet på organisationen Civil Rights Defenders. Han berättade i UR-podden Algoritmen år 2019 att vår rädsla för deepfake kan vara farlig, ifall den leder till att vi inte litar på någonting alls. Organisationen Civil Rights Defenders stöttar och finansierar aktörer som arbetar för mänskliga rättigheter ute i världen.
Lätt att göra deepfake i dag
Artificiell intelligens har utvecklats massor under de senaste åren och framställningen av deepfakes har blivit mycket lättare.
– Du behöver inte längre ha en förlaga, det vill säga ett original som du börjar manipulera, utan du kan bara skriva: Finlands president äter en vaniljmunk på stranden i Cannes. Och sedan får du en bild på det, förklarar Martin Fällman.
För fyra år sedan var vi oerhört oroade över vart världen är på väg på grund av deepfake-videor, trots att de var väldigt arbetskrävande att producera. Man filmade en person som spelade rollen av någon annan och sedan manipulerade man bilderna så att talaren såg ut som en känd person.
Exempel på det här är Buzzfeeds världsberömda manipulation av Barack Obama och Yles prisbelönta manipulation av president Sauli Niinistö.
Men desinformation som baserar sig på deepfakes har faktiskt inte ökat, trots att tiderna har varit så oroliga i många delar av världen. Vi har haft en pandemi, Ryssland har invaderat Ukraina och oroligheter har förekommit i många andra delar av världen under de senaste fyra åren.
Pandemin blev en förevändning för odemokratiska och repressiva stater att dra åt snaran ytterligare för civilsamhället.
– Vi på Civil Rights Defenders kunde se en tydlig global trend i att eftersom det av medicinska orsaker var förbjudet att samlas i grupper, så passade man på att förbjuda människor att ha möten över huvud taget, säger Martin Fällman.
Men antalet deepfakes ökade alltså inte. En orsak kanske är att de har varit tekniskt krävande att tillverka och att det är så lätt att lura människor med enklare knep.
De stater som sysslar med intern och extern desinformation har redan en utbyggd infrastruktur för att nå ut med sitt budskap via både ”alternativa medier” och etablerade tidskrifter som stöds av olika stater.
– Tidskrifterna blandar sitt innehåll med dels korrekta nyheter, dels vinklad information som den betalande staten beställer och den formen av desinformation har ökat mycket, förklarar Martin Fällman.
Deepfake inom pornografi och i undervisningssyfte
Men vad deepfake-videor och datorgenererade bilder beträffar delas de i dag främst för skojs skull, inte för att sprida desinformation.
– Det enda negativa som jag hittills noterat att folk använder deepfake-teknologi till, är att framställa pornografiskt material med människor som på riktigt aldrig skulle ställa upp för porrfilm, konstaterar Martin Fällman.
Däremot har det inte förekommit deepfakes med världsledare som skulle säga något chockerande.
De enda deepfakes som gjorts har uttryckligen gjorts i undervisningssyfte för att varna och upplysa allmänheten om att den här teknologin finns och att man därför inte ska tro på allt man ser i sitt flöde.
Martin Fällman, Civil Rights Defenders
De manipulationer som sprids är så enkla att det inte behövs mycket tankearbete för att avslöja dem som manipulationer. Ändå sprids bilderna effektivt när folk inte tänker efter och tror på vad de ser.
Deltog Zelenskyj i Prideparad år 1991?
Den här manipulerade bilden, som föreställer en påstådd Volodymyr Zelenskyj på Prideparad i New York, spreds på sociala medier i höstas för att misstänkliggöra Ukrainas president.
Hade Zelenskyj på riktigt varit på Prideparad i New York år 1991 skulle han ha varit 13 år gammal och personen på bilden ser äldre ut än så.
Redan nu kan artificiell intelligens skapa texter som ser verkliga ut, men artificiell intelligens kan inte tänka. Bildmanipulationer har dessutom funnits sedan man skapade kameran. Det har alltid varit möjligt att manipulera fotografier. Inget av det här är nytt. Det är bara teknologin som är nyare.
Det viktiga är att vi förstår att det finns stater som vill sprida falsk information. Och de väljer de metoder som ger störst effekt med minst investering.
Martin Fällman, Civil Rights Defenders
Tror du att kommande generationer blir bättre på att se skillnad mellan sant och falskt i medieflödet?
– Det är upp till er som arbetar inom media. Vi på Civil Rights Defenders har inte sett någon förändring i kvaliteten av den desinformation som sprids, konstaterar Martin Fällman.
Enligt honom är det viktigt att nya generationer får vägledning i hur man ser skillnad på sant och falskt. Med det allra viktigaste är att sakta ner.
– Vi har så många olika appar för att sprida information. Vi delar snabbt något som vi reagerat på med känsla och så delar våra vänner det och det är just vad spridarna av lögner utnyttjar. Snabbheten utnyttjas för att sprida desinformation, påminner Martin Fällman.
Stanna upp och tänk till innan du delar
En viktig del av källkritiken är att sakta ner i processen och tänka till innan man delar. Det är viktigt att förstå att man inte behöver dela allt som känns spännande eller skojigt.
– Ta ett ögonblick och tänk på vad du har sett. Innehållet kan vara chockerande och berörande, men måste jag dela det direkt? Eller kan jag först ta reda på mer information? föreslår Martin Fällman.
Att tänka efter innan man delar är något som var och en av oss ibland kunde fundera mer på.
Lätt att kapa Facebook-konton
På sistone har allt fler personers Facebook-konton blivit kapade. Ett exempel på det är att en Facebook-kontakt ber dig skicka ditt telefonnummer via Messenger.
Du ska aldrig ge ditt telefonnummer via Messenger om du inte är säker på att det på riktigt är din vän som ber om det. Det är mycket vanligt att folk skapar falska konton.
Martin Fällman, Civil Rights Defenders
Oftast handlar det om standard-bedrägerier. De flesta bedragare bryr sig inte så mycket om vem de låtsas vara, utan de försöker ta sig in på någons konto och använder sedan kontot för helt vanliga tråkiga bedrägerier, berättar Martin Fällman.
En identitetskapning handlar sällan om att komma över särskilt stora mängder hemligstämplad information. Det handlar mest om att man skickar meddelanden till det kapade kontots kontakter och ber om pengar.
Hastigheten kan användas som ett trick för att få människor att vara mindre källkritiska.
Martin Fällman, Civil Rights Defenders
Typiskt för lurendrejare är att skapa en känsla av att det är bråttom.
– Jag vet inte hur många mejl jag har fått av min ”chef”, det vill säga någon som använder en fejkad e-postadress och påstår sig vara min chef, som skriver att det är bråttom och att jag omedelbart måste hjälpa till med att överföra pengar till ett bankkonto, berättar Martin Fällman.
I allmänhet är det frågan om ganska stora summor till ett konto någonstans i Kina. Tanken hos svindlarna är att skicka ett mejl från en auktoritet, signalera att det är bråttom och att du har möjlighet att göra din chef en tjänst.
Och då är det lätt hänt att man inte stannar upp och tänker efter. Exakt samma problem gäller i fråga om källkritiken.
– Därför är det så viktigt med utbildning i källkritik. För det är så lätt i dagens digitala verklighet att göra saker snabbt utan att tänka efter, suckar Martin Fällman.
Men enligt Fällman hjälper det inte att konstant vara rädd för att blir lurad. Inte heller hjälper det att skämmas om man blivit lurad.
Det som är viktigt är att förstå i vems intresse det är att lura och även ha beredskap att klara av situationer där vi blir lurade.
Martin Fällman, Civil Rights Defenders
I allmänhet går världen inte under av att man blivit lurad på nätet. Men det lönar sig att känna till vilka grupper som sprider desinformation och varför. Det finns både ekonomiska och politiska intressen bakom desinformation och alltid är det någon som vinner när någon annan förlorar.