Deepfake ruoppaa netin kuonan pintaan

Suurimmassa osassa deepfakeista ei ole kyse huumorista, kuten oheisessa ruutukaappauksessa Diorin hajuvesimainoksesta, jossa mallin kasvojen tilalle on vaihdettu brittinäyttelijä Rowan Aktinson. Lähes kaikki deepfake-videot ovat joko toista ihmistä halventavaksi tarkoitettua pornoa tai tahallisesti harhaan johtavia poliittisia videoita.

Syväoppivalla tekoälyllä tehdyt deepfake-videot ovat nousseet internetin syvästä päästä massojen ulottuville. Näillä videoilla tarkoitetaan tekoälyn tekemiä realistisen näköisiä väärennöksiä, joissa esi­merkiksi toisen ihmisen kasvot on aidon näköisesti liitetty toiseen kroppaan. Suurin osa tästä materiaalista on pornoa.

Viime vuonna hollantilaisen kyberturvallisuus-yhtiö Deeptrace Labsin tekemässä tutkimuksessa kävi ilmi, että 96 prosenttia kaikista deepfake-videoista on sisällöltään pornografiaa. Samalla käy ilmi kohteiden sukupuolijakauma: lähes kaikki videot esittävät naisia. Pornonäyttelijän kasvojen tilalle on vaihdettu jonkun julkisuuden henkilön tai videon julkaisijan tuttava­piiriin kuuluvan ihmisen kasvot. Ei-pornografisissa sisällöissä, kuten humoristisissa tai poliittisissa videoissa, sukupuolijakauma oli tasaisempi. 

Oheinen video esittää kuinka tekoäly pystyy muuttamaan videossa ihmisen kasvot joksikin toiseksi. Aina videot eivät ole humoristisia kuten ylläoleva Rowan Aktinsonin esiintyminen hajuvesi-mainoksessa.

Deepfake-videot ponnahtivat esiin vuoden 2017 lopulla verkon keskustelu­palstoilla. Tekniikka on kehittynyt nopeasti, parissa vuodessa muokatut videot ovat parempilaatuisia ja yhä suurempien massojen ulottuvilla. Väärennettyjä videoita tai kuvia pystyy tekemään omalla koti­koneella ilman erityisosaamista. Muutos on merkittävä, sillä vaikka videoita on voinut manipuloida aikaisemminkin, se on ollut hidasta ja vaatinut paljon ammattitaitoa. Nyt on jo kehitetty puhelimella toimiva sovellus DeepNude jolla pystyy parilla sormen painalluksella tekemään haluamastaan ihmisestä alastonkuvan. Sovellus vedettiin sittemmin pois verkosta sen räjähdysmäisen suosion ja sitä seuranneen kritiikin myötä. 

Kannattaa olla valppaana, kun Deepfake-videot leviävät. The Sunday ­Times -lehden Piilaakson toimittaja Danny Fortson haastatteli Danny in the Valley -podcastissa Etelä-Kalifornian yliopiston tietojenkäsittelytieteiden professoria Hao Litä, joka on yksi maailman johtavista kasvojen digitalisointiin erikoistuneista asiantuntijoista. Li huomautti haastattelussa, että ihmisillä on taipumus levittää väärää tietoa silloinkin, kun he ovat perillä sen valheellisuudesta. Vaikka videoita saatetaan jälkikäteen puolustella nostamalla esiin niiden satiirista puolta, ne kuitenkin rapauttavat luottamusta yhteiseen jaettuun todellisuuteen. 

”ihmisillä on taipumus levittää väärää tietoa silloinkin, kun he ovat perillä sen valheellisuudesta.”

Motiivi tehdä deepfake-videoita voi olla myös toiseen ihmiseen kohdistuva vihakampanjointi tai kiusaaminen, kuten niin sanotun kostopornon julkaiseminen. Kostopornossa levitetään netissä yksityiseksi tarkoitettua tai salaa kuvattua seksuaalista materiaalia tarkoituksena haitata toisen ihmisen yksityiselämää. Deepfake-tekniikan myötä toisesta ihmisestä ei tarvitse enää olla intiimiä kuva­materiaalia. Hao Li korostaa, ettei deepfaken kohteena olevan ihmisen kannalta ole väliä onko esitetyllä asialla totuuspohjaa, koska myös väärennös voi aiheuttaa vahinkoa toiselle henkilölle.

Taistelu deepfake-videoita vastaan on alkanut vasta hiljattain. Facebook ilmoitti alkuvuodesta kieltävänsä palvelussaan deepfake-videoiden ja muiden manipuloitujen media­sisältöjen julkaisemisen. Jotkut porno­sivustot ovat jopa kehittäneet tekoälyä tunnistamaan deepfake-­videoita ja poistamaan niitä. Silti ­videoita päätyy sivustoille. Vasta muutama maa tai osavaltio kuten Kiina, Kalifornia ja Australia ovat ehtineet luoda lainsäädäntöä, jolla tällaisten videoiden leviämiseen voidaan puuttua.  

Suomessa keskustelua deepfake-­videoista ei ole juurikaan käyty. A­siaan viitataan varsin laveasti nykyisessä hallitusohjelmassa. Sen mukaan hallitus pyrkii ehkäisemään väärän tiedon ja valeuutisoinnin leviämistä edistämällä medialukutaitoa ja tietoisuutta hybridivaikuttamisesta. 

Medialukutaidolle on tarvetta. Uuden tekniikan myötä eteen voi tulla tilanteita, joissa lähtökohtaisesti kaiken informaation totuusarvoa epäillään. Esimerkiksi aidot, mutta vaikutusvaltaisille ihmisille kiusalliset videot saatetaan kuitata väärennöksiksi, vaikka ne eivät todellisuudessa niitä olisi. 

Mainos (teksti jatkuu alla)

Mainos loppuu

Kommentoi Facebookissa
Antti Kurko
  • 21.2.2020
  • Kirjoittanut Antti Kurko
  • Kuvat Crookedpixel