– För drygt ett år sedan införde Snapchat en AI-chattbot som man kan prata med. Över en natt fick alltså alla barn som använde Snapchat en ny AI-kompis som blev deras första kompis i Snapchats grafiska gränssnitt.
Carl Heath, senior forskare för digital resiliens vid det statliga svenska forskningsinstitutet RISE, fokuserar i sitt arbete på desinformation och digital påverkan.
– Snapchats AI-modell är primärt tränad på data från en amerikansk, anglosaxisk kontext. Det gör att vissa typer av värdegrundsfrågor sätts i ljuset av den debattmiljön, snarare än vår svenska eller finska kontext.
Enligt Heath har det här stor betydelse till exempel för en trettonårig flicka som vill veta mer om aborter.
– När hon pratar med sin Snapchat-AI och kanske ber om råd i frågan om aborter, ja då kommer ju den att prata tillbaka med världsbilden av den amerikanska debatten om aborter.
AI-språkmodeller ligger till grund för chattbottar som är tränade på data som innehåller en massa värderingar och diskrimineringsgrunder baserade på den data som modellen tränades på – primärt en amerikansk kontext
Carl Heath, forskare i digital resiliens, desinformation och digital påverkan
AI påverkar både vår kultur och vår debatt
Jag träffar Carl Heath i Riga på en konferens om ny trender inom sociala medier. Konferensen ordnas av Natos kompetenscenter för strategisk kommunikation.
Han deltar i en paneldebatt med rubriken Generativ AI och sociala medier – risker och möjligheter. Diskussionen kretsar ständigt till det amerikanska presidentvalet.
– Det är kanske inte så att abortfrågan nu blir en inhemsk valfråga, men det kan absolut vara så att vår debatt färgas av andra länders debatter. Och där kan ju naturligtvis AI spela en roll.
Vi har länge sagt att Hollywoodfilmer har färgat vår kultur. Är det här samma sak?
– Det är precis på det viset. Vi färgas av kultur i olika typer av medier, vare sig det handlar om radio eller TV, eller böcker för den delen. Det kommer att vara samma sak med AI, språkmodeller och chattbottar.
Det blir viktigt att fundera på vem som har skapat bottarna och varför - det blir viktigt för vår offentliga debatt, men även för vilken teknik vi väljer för skola, vård och andra ställen där perspektiv och värderingar har betydelse
Carl Heath, forskare i digital resiliens, desinformation och digital påverkan
Det här betyder att vi borde vara mer medvetna om vem som skapar de generativa AI-appar, -program och -verktyg vi använder.
– Det blir verkligen viktigt när det handlar om vår offentliga debatt, men också vilken teknik vi väljer att ha i skolorna, vården, omsorgen och många andra ställen där värderingar har betydelse, säger Carl Heath.
Politiska narrativ utmanar demokratin
– Det handlar om hur politiska narrativ uppstår och påverkas. Ett sätt att påverka är att ifrågasätta grundvalarna för vad vi är överens om, säger Heath.
Det här syns tydligt i Donald Trumps valkampanj, men Kamala Harris kampanj är inte heller oskyldig.
– Att ha debatt och tycka olika är centralt i en demokrati. Det är därför vi har demokratiska spelregler. Vi ser nu att fler här hemma, påverkade av den amerikanska debatten, börjar ifrågasätta våra egna spelregler.
Alternativ fakta används för att förvirra
De två partierna talar ofta förbi varandra. De är som om de lever i parallella verkligheter.
– Utöver en polariserad debatt kan det ju också leda till en misstro mot det politiska systemet. En känsla av att ingenting är sant, ingenting är falskt. Vad ska jag bry mig? Och så väljer man kanske att inte rösta.
– För att vi ska kunna ha olika åsikter måste det finnas gemensam fakta att ha åsikter om. Men om en aktör ifrågasätter faktan och hänvisar till alternativ fakta handlar det inte mer om åsikter, enligt Heath.
De två partierna talar ofta förbi varandra. De är som om de lever i parallella verkligheter.
– Utöver en polariserad debatt kan det ju också leda till en misstro mot det politiska systemet. En känsla av att ingenting är sant, ingenting är falskt. Vad ska jag bry mig? Och så väljer man kanske att inte rösta.
Trump kan ses som ett hot mot demokratin
Kan vi gå så långt att vi kallar just presidentkandidat Donald Trump ett hot mot demokratin?
– Min uppfattning är absolut att Trump som kandidat utgör ett hot mot demokratin. Han ifrågasätter de grundläggande spelreglerna för den amerikanska demokratin. Han har ifrågasatt valresultat.
Ett annat problematiskt beteende som Trump har, enligt Heath, är att han vägrar säga om han kommer att acceptera utfallet av valet.
– Det här är exempel som bygger på en slags odemokratisk eller illiberal demokratisk utgångspunkt.
Externa aktörer använder AI mot demokratier
Utomstående aktörer utnyttjar den skepsis som råder mot demokratin i USA. Detta inkluderar främmande länder, mäktiga företag, organisationer och extremt rika personer.
– En aktör som vill påverka ett val blir intresserad av befintliga slitningar och polariserade frågor. De använder dem för att slita isär och påverka valet destruktivt.
Destruktiva aktörer riktar sig mot frågor som migration och manlig identitet. De är skickliga på att analysera och utnyttja de olika plattformernas algoritmer.
Det här ser vi till exempel på plattformen X, vars nuvarande algoritmer tydligt förstärker polariseringen i debattämnen som migration, jämlikhet och klimat.
Flera länder, främst Ryssland, men även Kina och Iran, investerar miljontals euro i att påverka debatten med hjälp av både experter och bottar som förstår amerikansk politisk kultur.
– Ja, de här frågorna är centrala i många demokratier och därför viktiga för dem som vill påverka andra länder.
AI har redan påverkat politikens dynamik
Carl Heath säger att generativ AI har förändrat spelfältet under de senaste två åren. I USA förs kampen om väljarna, speciellt de yngre, på sociala medier. Metoderna är manipulativa och ofta svåra att upptäcka.
– Vi ser att informationspåverkan och desinformation påverkar valet i USA, särskilt genom sociala medier och generativ AI.
Men politisk påverkan kan också göras på ett mer direkt sätt, som till exempel genom att rikta falsk information direkt mot enstaka politiker.
Heath lyfter fram en så kallad deepfake, djupfejk, som nyligen drabbade den amerikanska senatorn Ben Cardin, en demokrat. En djupfejk är när man använder datorframställd video, men hävdar att den är äkta.
En ny era av politisk manipulation växer fram
Cardin blev kontaktad av någon ha trodde var Ukrainas före detta utrikesminister Dmytro Kuleba, som ville ha ett zoommöte med honom.
– Han hade ett zoommöte i realtid. Senatorn trodde att han talade med en före detta ukrainsk politiker, men i själva verket var samtalet fejkat.
Den bild Cardin såg var datormanipulerad så att det såg ut som om han talade med Kuleba. Både han och hans personal blev lurade av både videobilden och rösten.
Det som gjorde att de förstod att de utsattes för en deepfejk var att fejk-Kuleba ställde alltför aggressiva och konfrontativa frågor. Cardin hade talat med Kuleba många gånger förr och avbröt samtalet.
– Den här typen av teknisk innovation för att utöva påverkan i samband med val är något som vi inte har sett förr. Vi kommer att höra talas mer om den sortens situationer i framtiden, också hos oss, säger Carl Heath.
En rättelse klockan 18.22 i mitten av texten:
Enligt Carl Heath vet vi inte varför X har algoritmer som leder till polarisering. Tidigare framstod det som om X medvetet har ändrat sina algoritmer för att öka polariseringen.