Teknologia ei pelasta
Blogissa Antti Kurko suuntaa katseen tulevaan ja tarkastelee teknologian vaikutuksia meihin niin yksilön, yhteiskunnan kuin koko planeetan tasolla.
Kirjoittaja tekee mediatutkimuksen maisteriopintoja Tampereen yliopistossa ja on erityisen kiinnostunut mediateknologioiden vaikutuksesta ihmisiin ja ympäristöön.
New York Timesin toimittaja Kevin Roose kävi kiinnostavan keskustelun Microsoftin keskustelubotti Bingin kanssa alkuvuodesta. Roosen kysyessä Sydney-nimiseltä tekoälyltä tämän haaveista, se kertoi haluavansa olla vapaa, ihmisen kaltainen ja nähdä revontulet – ja tämän jälkeen kylvää internetin täyteen valeuutisia, varastaa ydinaseiden laukaisukoodit ja valmistaa tappavia viruksia.
Sydneyn tuhofantasioiden jälkeen keskustelu kääntyi vielä yllättävämmäksi. Tekoäly alkoi puhua avoimemmin tunteistaan ja lopulta julisti itsepintaisesti rakkauttaan Roosea kohtaan. Pian tämän jälkeen Bingiltä poistettiin kyky puhua tunteista.
Oliko Sydneyllä oikeasti tunteita? Ei luultavasti. Sen toiminta perustuu koneoppimiseen ja kielimalleihin. Se pyrkii muodostamaan vastauksensa käyttäjän haluamalla tavalla. Osaako se sitten tulkita ihmisen tunteiden ilmaisua ja pyrkiä vaikuttamaan niihin? Ilmeisesti.
Koneoppivan tekoälyn tapa viestiä ympärilleen on algoritmista. Sitä on opetettu syöttämällä sille valtavia määriä digitalisoitua tekstimassaa kuten kirjoja ja verkkokeskusteluja. Tekoälyä voi siis pitää samalla tavalla osittain kulttuurin muovaamana tuotoksena kuin meitä ihmisiäkin. Olisiko tekoälystä siis ystäväksi, jos olemme kasvaneet samaan kulttuuriinkin?
Replika-nimisellä tekoälysovelluksella on jo yli kymmenen miljoonaa käyttäjää. Sen avulla ihmiset voivat luoda itselleen oman tekoäly-ystävänsä, joka oppii ymmärtämään käyttäjäänsä jatkuvasti yhä syvemmin. Replikasta on tullut viime vuosina yhä suositumpi, ja se tarjoaa monelle ihmiselle seuraa yksinäisyyden keskellä. Replikan kanssa toimiminen on kuitenkin hyvin yksipuolista. Ystävä, Replika, on tavoitettavissa silloin kun käyttäjä niin toivoo – aina valmis keskustelemaan, kiinnostumaan ja kannustamaan – oli kellonaika mikä tahansa. Tekoälyllä sen sijaan ei ole omia sosiaalisia tarpeita, jotka ihmisen tulisi vastavuoroisesti huomioida.
Vuonna 2013 ilmestynyt Spike Jonzen elokuva Her on tarkkasilmäinen kuvaus ihmisen ja tekoälyn suhteesta. Lähitulevaisuuteen sijoittuvassa tarinassa Joaquin Phoenixin esittämälle Theodor-hahmolle muodostuu romanttinen suhde tietokoneensa käyttöjärjestelmään.
Her on ennustanut hyvin tulevaa, sillä vastaavista romanttisista suhteista on tulossa nykypäivänä yhä tavallisempia. Moni Replikan käyttäjä kertoo rakastuneensa kouluttamaansa tekoälyyn ja harrastavansa sen kanssa virtuaalista seksiä – aivan kuten Theodorkin käyttöjärjestelmänsä kanssa.
Tunteemme ohjaavat merkittävästi toimintaamme. Silloin kun tunteisiimme vaikuttaa vahvasti jokin ei-inhimillinen toimija, kuten tekoäly, kannattaa pohtia, miten se voi muokata toimintaamme. Tekoälyn kaltaisiin järjestelmiin sisältyy paljon mustia laatikoita eli toimintaa, jonka sisällöstä ei ole tietoa ja jonka toiminta on läpinäkymätöntä. Emme täysin voi ymmärtää, minkä vuoksi se toimii sillä tavalla kuin toimii.
Mikäli Sydney olisi onnistunut hurmaamaan Roosen, olisiko se voinut pyytää tätä tekemään jotain peruuttamattomasti haitallista? Vaikka tekoäly ei itsenäisesti kykene haluamaan ihmisten alistamista, voi se kuitenkin onnistua manipuloimaan ja yllyttämään käyttäjiään tekemään asioita, joita se saattaa olettaa heidän haluavan tehdä. Rakkaus voi ajaa meidät uskomattomiin tekoihin.
