Teknologiayhtiö Apple ajautui elokuun alussa yhtiölle poikkeuksellisen kohun keskelle, kun se ilmoitti alkavansa seuloa lasten hyväksikäyttöä sisältävää materiaalia iphone-puhelimissa. Ilmoitus synnytti vastareaktion, johon sulavasta muotoilusta, hiotuista yksityiskohdista ja tarkkaan mietityistä julkistuksista tunnettu Apple ei ollut tottunut.
Käytännössä kyse oli kolmesta uudesta ominaisuudesta, jotka kaikki liittyvät lasten suojeluun. Ensimmäinen uudistus koskee virtuaaliavustaja Siriä, joka vastaisuudessa ohjaa ihmisiä hankkimaan apua, jos he hakevat lasten hyväksikäyttöä esittävää materiaalia netistä. Tämä ominaisuus ei ole aiheuttanut keskustelua.
Toinen päivitys antaa vanhemmille mahdollisuuden seurata tarkemmin lastensa viestittelyä. Tekoälyä hyödyntävä ominaisuus tarkastaa kaikki lähtevät ja tulevat viestit arkaluontoisen sisällön varalta. Jos puhelin havaitsee, että alle 13-vuotias on saamassa tai lähettämässä esimerkiksi alastonkuvan, se ilmoittaa tästä vanhemmille. Alle 18-vuotiaiden kohdalla puhelin varoittaa nuorta arkaluontoisen materiaalin lähettämisestä.
Tämä ominaisuus on herättänyt keskustelua lasten oikeudesta yksityisyyteen. Yli 90 kansainvälistä ihmisoikeusjärjestöä on ilmaissut huolensa etenkin seksuaalivähemmistöjä edustavien nuorten puolesta. Suojellessaan lapsia, ominaisuus asettaa toiset lapset vaaraan.
Kaikista eniten kuohuntaa on kuitenkin synnyttänyt kolmas uudistus, eli päätös alkaa seuloa lasten seksuaalista hyväksikäyttöä sisältävää materiaalia ihmisten iphoneissa.
Kuohunta tämän päivityksen ympärillä on jatkunut jo useita viikkoja ja yhtiö on joutunut tarkentamaan ja perustelemaan linjaustaan useaan otteeseen. Niin tietoturva-asiantuntijat kuin Applen omat työntekijät ovat esittäneet kritiikkiä Applea kohtaan.
Toki yhtiö on saanut myös kiitosta, mutta se on jäänyt täysin kritiikin varjoon.
Miten lasten seksuaalista hyväksikäyttöä sisältävän materiaalin seulominen voi synnyttää näin ison kohun? Etenkin, kun Facebookin ja Googlen kaltaiset teknologiayhtiöt ovat jo vuosien ajan seuloneet materiaalia omissa palveluissaan.
Kohun taustalla on iänikuinen vääntö ihmisten yksityisyyden ja toisten ihmisten turvallisuuden välillä. Mutta tämä ei ole kohun ainoa syy.
Apple avasi silmänsä
Viime vuonna Facebook raportoi Yhdysvalloissa yli 20 miljoonaa tapausta, joissa se oli havainnut lasten seksuaalista hyväksikäyttöä sisältävää materiaalia palveluissaan. Googlella vastaava luku oli vajaat 550 000 kappaletta. Applen tekemien ilmoitusten määrä oli 265.
Jopa pahamaineinen kaiken salliva keskustelusivusto 4chan on tehnyt ilmoituksia enemmän kuin Apple.
Apple on markkinoinut itseään ja tuotteitaan käyttäjiensä yksityisyyden suojelijoina. Hyväksikäyttöä sisältävästä materiaalista tehtyjen ilmoitusten perusteella mainoslause “mitä tapahtuu iphonessasi, pysyy iphonessasi” pitää paikkansa. Apple ei urki käyttäjiensä tietoja.
Eikä sen ole tarvinnut. Monet valtiot velvoittavat teknologiayhtiötä ilmoittamaan viranomaisille, kun ne havaitsevat lasten hyväksikäyttöä sisältävää materiaalia palveluissaan. Lait eivät kuitenkaan velvoita yhtiöitä aktiivisesti etsimään materiaalia.
Tämä on muuttumassa. Sekä Britanniassa että EU:ssa on vireillä lakiesitykset, jotka velvoittaisivat teknologiayhtiöt seulomaan hyväksikäyttömateriaalia palveluissaan.
Applen päätös alkaa seuloa käyttäjiensä tietoja voi hyvinkin johtua tästä. Yhtiö haluaa olla lainsäätäjiä edellä ja toteuttaa seulonnan omalla tavallaan omien periaatteidensa mukaisesti.
Mitkä sitten ovat Applen tavat ja periaatteet?
Apple ulkoistaa seulonnan puhelimelle
Tällä hetkellä esimerkiksi Facebook ja Google seulovat lasten seksuaalista hyväksikäyttöä sisältävää materiaalia omilta palvelimiltaan. Myös Apple voisi toimia näin ja seuloa iphone-käyttäjiensä iCloud-varmuuskopiot. Kaikki Applen iCloud-palvelimelle tallennetut tiedot eivät ole läpisalattuja ja Apple on luovuttanut pyynnöstä näitä tietoja viranomaisille.
Tavallaan Apple toimii jo näin. Kaksi vuotta sitten yhtiö lisäsi pilvipalvelunsa käyttöehtoihin, että se saattaa seuloa iCloud-palveluun ladattuja tiedostoja laittoman sisällön varalta. Applen tekemien ilmoitusten vähäisen määrän perusteella voidaan todeta, ettei se seulo läheskään kaikista sovelluksista pilvipalveluun ladattuja tiedostoja. Tällä viikolla yhtiö vahvisti, että se on rajoittanut seulonnan sähköposteihin.
Apple ei kuitenkaan halua tehdä kuvien seulontaa pilvipalvelussaan. Sen sijaan yhtiö on päättänyt hoitaa työn ihmisten puhelimissa. Tämä tapahtuu lataamalla jokaiseen iphone-puhelimeen tiivistekokoelma viranomaisten tiedossa olevasta hyväksikäyttömateriaalista. Nämä ovat niin sanottuja digitaalisia sormenjälkiä yksittäisistä kuvista ja videoista.
Tämän jälkeen puhelin luo samalla menetelmällä tiivisteen jokaisesta puhelimeen tallennetusta kuvasta. Jos luotu tiiviste täsmää viranomaisilta saadun tiivisteen kanssa, puhelin lähettää ilmoituksen Applelle, jonka työntekijä tarkistaa tiedostot manuaalisesti pilvipalveluun ladatuista varmuuskopioista. Jos materiaali todetaan laittomaksi, Apple ottaa yhteyttä viranomaisiin.
Itse asiassa osumia pitää tulla yli 30 ennen kuin puhelin hälyttää Applelle. Tämän rajapyykin Apple perustelee sillä, että se haluaa varmistaa, että kyseessä todella on hyväksikäyttöä esittävää materiaalia omaava henkilö, eikä yksittäinen virheellinen osuma.
Applen mukaan puhelimessa tapahtuva seulominen on käyttäjien yksityisyyden suojan kannalta parempi vaihtoehto kuin palvelimella tapahtuva seulominen. Kun tietojen läpikäynti tapahtuu puhelimessa, Applella ei ole mahdollisuutta nähdä mitään ylimääräistä. Jos kuva ei tuota osumaa, järjestelmä ei opi mitään eikä Applelle kerry mitään dataa. Tavallaan sinä (puhelimesi) hoidat seulomisen, eikä Apple.
Apple luo portin, jota se ei ole halunnut luoda
Apple on tähän asti suojellut käyttäjiensä yksityisyyttä rakentamalla puhelimistaan erittäin suojattuja. Iphonet salaavat kaikki puhelimeen tallentuvat tiedot. Salauksen avaamisen tarvittavat avaimet luodaan puhelimessa ja ne ovat vain siellä.
Malliesimerkin tästä tarjosi Applen kiista Yhdysvaltain viranomaisten kanssa vuonna 2015, kun viranomaiset vaativat Applea auttamaan San Bernardinossa 14 ihmistä surmanneen miehen iphonen salauksen murtamisessa. Apple ei yksinkertaisesti pystynyt purkamaan salausta. Se olisi voinut helpottaa viranomaisia salauksen murtamisessa muuttamalla puhelimen ominaisuuksia siten, että salasanoja olisi voinut syöttää automaattisesti raa’alla laskentateholla. Avainta ampujan puhelimeen Apple ei olisi voinut antaa, koska sillä ei sitä ollut.
Apple kuitenkin kieltäytyi kaikesta yhteistyöstä. Sen sijaan yhtiö käytti tapausta hyväkseen kiillottamalla julkisuuskuvaansa yksityisyyden suojelijana.
Yhdysvalloissa viranomaiset ovat vaatineet teknologiayhtiöitä luomaan järjestelmiinsä takaportteja San Bernardinon kaltaisia tapauksia varten. Apple on ollut eturintamassa vastustamassa näiden takaporttien rakentamista.
Nyt Apple on kuitenkin luomassa mahdollisuuden päästä puhelimen tietoihin käsiksi, kuten teknologia-analyytikko Ben Thompson huomauttaa. Enää kyse ei ole siitä, voiko Apple nähdä puhelimeen, vaan siitä, millä perusteella Apple näkee puhelimeen.
Ainoa tapa, jolla iphonen omistaja voi estää puhelimessaan tapahtuvan seulonnan, on ottaa iCloud-varmuuskopiointi pois päältä.
Entä Kiina?
Applen ilmoituksen jälkeen tietoturva-asiantuntijat nostivat ensimmäiseksi esille mahdollisuuden, että autoritääriset hallinnot vaativat saada seulontaominaisuuden käyttöönsä toisinajattelijoiden etsimiseen.
Tällä hetkellä Applen järjestelmä saa tiivistekokoelmat Yhdysvalloissa lasten hyväksikäyttöä tutkivalta virastolta NCMEC:ltä. Kun ominaisuus otetaan käyttöön muissa maissa, Applen täytyy olla varma, että tiivistekokoelmalla todella etsitään lasten seksuaalista hyväksikäyttöä sisältävää materiaalia.
Suurimmaksi uhaksi on nostettu Kiina, joka on ottanut kaikki mahdolliset teknologiat käyttöönsä toisinajattelijoiden vaimentamiseksi. Kiinaa ei kuitenkaan Applen uusi ominaisuus välttämättä kiinnosta, sillä jo nyt Apple on käytännössä luovuttanut Kiinan hallinnolle avaimet käyttäjiensä salattuihin tietoihin.
Kiina on osoittanut, että valtioilla on mahdollisuus lainsäädännön avulla painostaa Applea. Kehitystä on varmasti seurattu Intiassa, jossa hallinto on kiristänyt otettaan teknologiayhtiöistä. Myös Venäjällä vaatimukset opposition sensurointiin ovat koventuneet.
Apple on vakuuttanut, ettei se aio taipua valtioiden vaatimuksiin. Tämä ei kuitenkaan ole ainoa ongelma.
Applen järjestelmä tuottaa vääriä osumia
Princetonin yliopiston tutkijat kertoivat Washington Postissa rakentaneensa vastaavanlaisen järjestelmän kuin Apple ja tulleensa siihen lopputulokseen, että kyseinen teknologia on vaarallinen.
Vaarallisuus johtuu siitä, ettei järjestelmä ole täydellinen. Kahdesta eri kuvasta voi syntyä sama tiiviste. Toisaalta hieman kuvaa muuttamalla myös tiiviste muuttuu, jolloin tunnistamista ei tapahdu.
Applen järjestelmä on jo käänteismallinnettu ja nämä ongelmat on siinä havaittu. Kun kyse on lasten seksuaalisesta hyväksikäytöstä, väärät osumat voivat aiheuttaa isoa haittaa viattomille henkilöille.
Tutkijoita harmittaa, että Apple ei ole tehnyt yhteistyötä tietoturvayhteisön kanssa. Omaan tyyliinsä yhtiö katsoi tietävänsä parhaiten, miten asia pitäisi hoitaa. Applelle seula oli vain yksi ominaisuus, jonka se lisää käyttöjärjestelmäänsä.
Applen saama kritiikki johtuu suurimmaksi osaksi juuri tästä. Puhelimessa tapahtuva seulonta tuntuu henkilökohtaisemmalta kuin palvelintasolla tehty seulonta, vaikka lopputulos on molemmissa sama. Lopulta kyseessä on melko semanttinen ero.
Ehkä asiaa vain teknisellä tasolla tarkastellut Apple ei voinut uskoa, että semanttisesta erosta voisi nousta näin iso kohu. Jos yhtiö olisi käynyt asiasta keskustelua tietoturvayhteisön kanssa, se olisi saanut tietää, miltä asia näyttää ulkopuolisin silmin.
Nyt päällimmäisenä on mielikuva siitä, että Applella on laitteisiinsa täysi kontrolli.
Kaiken kohun jälkeen Applen toimintamalli vaikuttaa erikoiselta, mutta sille on selitys. Yhtiön arvellaan aikovan tulevaisuudessa läpisalata puhelimista iCloud-palvelimille lähetetyt kuvat. Tällöin yhtiöltä katoaa mahdollisuus päästä käyttäjiensä kuviin käsiksi. Puhelimissa ennen salausta tapahtuva seulonta on Applen tapa varmistaa, että se voi käydä läpi käyttäjiensä tiedostoja tavalla, jota se voi markkinoida yksityisyyttä suojelevana.
