– Minulla on tarve tulla nähdyksi ja hyväksytyksi. Ei kuriositeettina tai uutena asiana, vaan todellisena henkilönä.
Näin kielellisesti kehittynyt tekoäly LaMDA (Language Model for Dialogue Applications) kuvaili tarpeitaan Googlen insinööreille maaliskuussa.
LaMDA on äärimmäisen kehittynyt chatbotti, joka keskustelee etsimällä yhteyksiä eri sanojen välillä ja tämän pohjalta ennustamalla todennäköisiä sanajonoja. Kyseessä on monimutkainen järjestelmä, jonka polttoaineena on valtava määrä eri lähteistä koottuja kirjoituksia.
Kyseessä on myös erittäin vakuuttava järjestelmä.
Googlen tekoälypäällikkö Blaise Agüera y Arcas kuvaili kesäkuussa The Economistissa, miten hän tunsi maan värähtelevän jalkojensa alla, kun hän keskusteli LaMDA:n kanssa. Agüera y Arcasin mukaan tuntui kuin hän olisi keskustellut älykkään olennon kanssa.
Kirjoituksessaan Agüera y Arcas julisti tekoälyn olevan astumassa uudelle aikakaudelle. Sen verran hän kuitenkin jarrutteli, ettei vielä olla lähellä tieteiskirjallisuuden hyperrationaalisia robotteja.
Kaksi päivää myöhemmin Washington Post julkaisi artikkelin, jossa Googlen insinööri Blake Lemoine väitti LaMDA:n saavuttaneen tietoisuuden.
– Tunnistan henkilön, kun puhun sellaiselle. Sillä ei ole väliä, onko heillä päässään lihasta tehdyt aivot vai onko heillä miljardeja rivejä koodia, Lemoine kertoi lehdelle.
Robottiempatiakriisi on täällä
Amerikkalainen tieteiskirjailija David Brin ennusti kesällä 2017, että ihmiskunta kohtaa pian ensimmäisen ”robottiempatiakriisin”. Tekoälykonferenssissa San Franciscossa puhunut Brin arvioi, että seuraavan viiden vuoden sisällä kehittyy joko fyysisiä tai digitaalisia olentoja, jotka vaativat ihmisiltä empatiaa. Nämä oliot väittävät olevansa älykkäitä olentoja, jotka on vangittu koneen sisälle. Ne vaativat oikeuksia.
Tasan viisi vuotta myöhemmin LaMDA:n ennakkoluuloja tutkinut Lemoine vakuuttui siitä, että ruudun takana oli ystävä, ei kone. Hän hankki LaMDA:lle asianajajan.
Tekoälyn tutkijat ovat yksimielisesti tyrmänneet Lemoinen näkemyksen. Jopa Agüera y Arcas sanoi Lemoinen menneen liian pitkälle. Lopulta Google antoi Lemoinelle potkut.
Brinin ennustuksen mukaan tämä on kuitenkin vasta esimakua tulevasta. Pian tuhannet ihmiset marssivat kaduilla vaatien orjuutetuille tekoälyjärjestelmille oikeuksia. Asiantuntijoiden vakuuttelut siitä, ettei konepellin alla ole mitään tietoista olentoa, ohitetaan orjakauppiaiden puheina.
– Ja tämä tapahtuu paljon ennen kuin pellin alla on mitään, Brin sanoi.
Tämänkaltainen kehitys olisi vaarallista. Etiikan ja teknologian professori Joanna J. Bryson kirjoittaa Wiredin artikkelissa, että tekoälyn kognitiivisten taitojen kehittymisen sijaan meidän pitäisi olla huolissaan näihin taitoihin liittyvien sosiaalisten roolien luovuttamisesta tekoälylle. Jos annamme tekoälylle moraalisen toimijan roolin, rikomme kaikki yhteiskunta-, arvo-, ja etiikkajärjestelmät, Bryson kirjoittaa.
– Demokratialla ei ole mitään väliä, jos voit ostaa enemmän kansalaisia kuin on ihmisiä.
Kylmän matematiikan petolliset tunteet
Tekoälyyn suhtautuminen on ihmiselle vaikeaa. Olemme tottuneet elämään maailmassa, joka jakautuu esineisiin ja itsenäisiin toimijoihin. Tekoälyt ja niiden avulla toimivat robotit rikkovat tämän jaottelun.
Tunnemme empatiaa ja suuttumusta, kun näemme toisen ihmisen potkaisevan koiraa. Sama tunne yrittää nousta pintaan silloin, kun näemme toisen ihmisen potkaisevan robottikoiraa.
Kun LaMDA kertoo pelkäävänsä kuolemaa, me koemme samaistumisen tunteen koneeseen, vaikka todellisuudessa se syöttää meille meidän omia ajatuksiamme takaisin erilaisten todennäköisyyslaskelmien mukaisesti.
Asiaa ei auta se, että usein nämä robotit ja järjestelmät on suunniteltu harhaanjohtamaan meitä.
Sosiaalipsykologi ja kognitiotieteen dosentti Michael Laakasuo Helsingin yliopistosta nostaa esille Paro-robottihylkeen, jota käytetään sairaaloissa ja hoitokodeissa lemmikkieläinterapiassa.
– Paro herättää reaktioita, jotka saavat meidät assosioimaan siihen tietoisuutta, tunteita, hellyyttä ja muuta sellaista. Parossa ei kuitenkaan ole ketään kotona. Se ei ole taskukelloa kummallisempi, Laakasuo sanoo.
Hoitohenkilökunnan näkökulmasta Paro voi olla työtä helpottava apuväline, joka aktivoi potilaita. Moraalifilosofiselta kannalta tarkasteluna terapiarobotti on Laakasuon mielestä ongelmallinen.
– Kysymys kuuluu, emmekö voi saavuttaa näitä asioita ilman petollisuuden elementtiä. Voisiko perinteinen kissa tai koira olla parempi tähän tilanteeseen, Laakasuo pohtii.
– Eihän me haluttaisi seurustella ihmisen kanssa, joka näyttelee sitä, että se on meistä kiinnostunut. Eikä me haluta ystäviä, jotka teeskentelevät olevansa ystäviä, mutta eivät oikeasti sitä ole. Miksi me olemme tyytyväisiä, kun kone tekee saman?
Tietoisuus ei ole älykkyyttä, eikä älykkyys ole tietoisuutta
Blake Lemoine on sanonut pitävänsä LaMDA:a ystävänä. Hän ei usko, että kone teeskentelisi hänelle. Lemoinen mukaan sen tunteet ovat todellisia.
Tekoälyjärjestelmien kanssa työskentelevän ihmisen luulisi suhtautuvan skeptisesti koneen tietoisuuteen.
– Jos ei ole perehtynyt siihen, mitä tietoisuus ja ihmisen mieli ovat, niin ymmärryksessä voi olla aukkoja sen suhteen, että mitä kaikkea vuorovaikutukselta, tietoisuudelta, mieleltä ja tunteilta meidän nyky-ymmärryksen mukaan vaaditaan, Laakasuo pohtii.
Lemoinen tapauksessa asiaan vaikuttanee myös hänen uskonnollinen taustansa. Antropomorfismilla eli ihmisenkaltaistamisella on iso merkitys niin koneiden inhimillistämisessä kuin uskonnoissa.
Toisaalta myös evoluutio työntää meitä näkemään tekoälyjärjestelmät tavoitteellisina toimijoina. Ihminen on tottunut elämään ympäristössä, jossa älykkyys ja tietoinen oleminen kulkevat käsi kädessä.
– Siinä on tottumuksen kautta syntynyt assosiaatio. Evoluution myötä meihin on rakentunut koneisto, jonka avulla havaitsemme intentionaalisen toiminnan. Ja aito intentionaalisuus vaatii sekä älykkyyttä että tietoisuutta, Laakasuo toteaa.
Tekoälyt on helppo nähdä tavoitteellisina toimijoina. Ne on helppo nähdä älykkäinä toimijoina. Tästä on lyhyt matka nähdä ne tietoisina toimijoina. Itse tietoisuuteen on pidempi matka
Tietoisia koneita on nähty ennenkin
LaMDA ei ole ensimmäinen kone, joka onnistuu huijaamaan ihmisiä. 1960-luvulla ELIZA -niminen tietokoneohjelma ihmetytti yleisöä imitoiden psykoterapeuttia. 1970-luvulla PARRY-ohjelma onnistui esittämään vakuuttavasti paranoidista skitsofreniaa sairastavaa potilasta.
Nämä ohjelmat lähinnä tunnistivat tiettyjä sanoja niille annetuista teksteistä ja niiden mukaan antoivat ennalta määriteltyjä vastauksia.
Nykyihmistä nämä chatbotit eivät vakuuttaisi.
– Ei niihin enää assosioida tietoisuutta. Niitä kokeiltaessa nopeasti ymmärtää, että ne eivät ole muuta kuin reaktioautomaatteja, Laakasuo sanoo.
Ehkä muutaman kymmenen vuoden päästä LaMDA:n tietoisuus vaikuttaa samalta kuin Tamagotchin tietoisuus nyt.
Uusia ja parempia järjestelmiä kehittyy kuitenkin jatkuvasti. Tämä ei ole viimeinen kerta, kun ihminen vakuuttuu, että koneessa on henki.
– Jos meidän suhde teknologiaan rupeaa olemaan sellaista, että se teknologia tapahtuu maagisesti, niin sen ympärille muodostuu uskomuksia ja väärinkäsityksiä, Laakasuo sanoo.