Harmaaseen kolmiosaiseen pukuun sonnustautunut mies kääntyy työtuolissaan kirjahyllyn suuntaan. Tyypillisesti käsi tarttuisi johonkin lukuisista sotilasteknologiaa käsittelevistä niteistä.
Mutta ei tänään.
Kirjahyllyn perällä on avaamattomassa laatikossa kaksi Tähtien sota -elokuvasarjan episodeista 1–3 tuttua taisteludroidia.
– Sain nämä eräältä kollegalta. Tämä pakkaus on siinä mielessä osuva, että tässä luetellut droidien ominaisuudet ovat aikalailla samoja kuin millä Nato arvioi asejärjestelmiensä suorituskykyjä. Yksi droidien ominaisuuksista tässä paketissa on kuitenkin liikaa: onni. Teknologian arviointi ei perustu onneen.
Äänessä oleva harmaapukuinen mies on professori Pekka Appelqvist. Tätä nykyä puolustusministeriössä työskentelevä Appelqvist on Suomen johtavia tekoälyn asiantuntijoita.
Tähtien sodan kahdella jalalla kävelevät, luonnollisella kielellä kommunikoivat taistelurobotit ovat tieteiskirjallisuuden heiniä. Nykyäänkin sotilaskäytössä on kuitenkin päivä päivältä enemmän autonomisia järjestelmiä, jotka toimivat ilman ihmisen suoraa ohjausta. Viimeisin maailmalla suurta näkyvyyttä saanut robotti oli Yhdysvaltojen viime vuonna merille laskema miehittämätön Seahunter-taistelualus, jonka ensisijainen tehtävä on metsästää sukellusveneitä. Aluksen todelliset suorituskyvyt ovat kuitenkin hämärän peitossa.
Kun puhutaan autonomisista roboteista, monen päässä alkaa pyöriä kuvia terminaattoreista, droideista, replikanteista ja cyloneista. Tieteissarjojen pohjustamalle kanvaasille moni maalaa omat käsityksensä ajattelevista, ihmiset pian syrjäyttävistä tappajaroboteista.
Ennen kuin mielikuvitus lähtee villiin laukkaan, Appelqvist vetää ohjaksista. Tappaja- tai taistelurobottien sijaan hän puhuu autonomisia piirteitä omaavista asejärjestelmistä. Sanahirviön käyttöä hän perustelee sillä, että autonomia ei ole mustavalkoinen kysymys.
– Se (autonomia) ei ole on tai off. Mieluummin pitäisi puhua autonomisia piirteitä omaavista järjestelmistä, hän selittää.
Appelqvistin mukaan järjestelmäkin pitää pilkkoa pienempiin palasiin, jotta sen autonomisuudesta saa oikean kuvan. Esimerkiksi monien maiden tiedustelulennokit voivat suorittaa partiointitoimintaa hyvinkin itsenäisesti. Sen sijaan laitteen tehtävä, eli tiedustelu, vaatii usein ihmisen tekemää lennokin anturien keräämän datan arviointia, aseiden käytöstä puhumattakaan.
Tekoälyn kehitys on ollut nopeaa. Välillä jopa niin nopeaa, että säätelyn tarpeellisuuteen on monin paikoin herätty vasta sen jälkeen, kun jokin järjestelmä on ollut jo käytössä pitkään. Esimerkiksi vihollisen lentävien kohteiden havaitseminen tutkan välityksellä perustuu tutkajärjestelmiin koodattuihin maalikirjastoihin. Ihmisen rooliksi jää hyväksyä koneen tekemät johtopäätökset ja tarvittaessa päättää jatkotoimenpiteistä.
– Jo pitkän aikaa on toimittu sellaisessa moodissa, että jokin osa operatiivisella päätöksentekijällä käytössä olevista tiedoista johtuu suoraan järjestelmiltä, ei ihmisiltä, Appelqvist toteaa.
– Usein niillä, jotka osallistuvat robottikeskusteluun, puuttuu käsitys siitä, miten riippuvainen moderni sodankäynti on tietojärjestelmistä tai miten pitkälle teknisen järjestelmän tuottaman tilannekuvan pohjalta toimitaan.
Olisiko siis oikeastaan yhdentekevää, tekeekö päätöksen ihminen vai kone, jos se perustuu samaan dataan ja ennalta määriteltyihin kriteereihin?
– Kysymys on erittäin monitahoinen, Appelqvist toteaa. Hän ei halua antaa yksioikoista vastausta.
Sen sijaan Appelqvist nostaa esiin vaihtoehtoja, jotka ovat olleet esillä kansainvälisissä keskusteluissa.
Ääritapauksissa nykysotilaat vain hyväksyvät järjestelmän tekemiä, optimoituja toimenpide-ehdotuksia. Lähitulevaisuudessa tullaan käymään paljon keskustelua siitä, onko ihminen ylipäätään tarpeellinen välikäsi.
Oli kyseessä mikä tahansa sotilaskäytössä oleva järjestelmä, toistaiseksi lähdetään siitä, että jokaisessa asejärjestelmissä pitää ottaa huomioon "riittävä ihmisen arvostelukyky". Termi on väljä. Appelqvistin mukaan on karkeasti eroteltavissa kolme mallia inhimillisen eettisen arvioinnin toteutukselle:
– Pitääkö ihmisen olla jatkuvasti online? Riittääkö, että ihminen evästää järjestelmän, ennen kuin se laitetaan suorittamaan tehtävää? Vai kelpaako, että moraali on aikaisemmassa vaiheessa kovakoodattu suoraan järjestelmään?
Appelqvist haluaa tehdä selvän eron järjestelmän ja alustan (lavetti) välillä. Alusta on esimerkiksi lennokki tai muu fyysinen laite. Järjestelmä on taas laajempi hajautettu kokonaisuus, joka pitää sisällään myös verkon muut toimijat, ohjelmistot ja datan. Usein keskustelu asejärjestelmien säätelystä on tylpistynyt siihen, että halutaan kieltää jokin alusta. Appelqvistin mukaan ei pitäisi katsoa jotain laitetta, vaan pohtia tekoälyn ja informaation jalostamisen pitkäkantoisia vaikutuksia.
Hän huomauttaa, etteivät sodankäyntiä säätelevät Geneven sopimuksetkaan mainitse mitään yksittäistä asetta. Sen sijaan sopimuksissa luetellaan periaatteita, joiden mukaan valtioiden on arvioitava kutakin uutta asetta humanitaarisista näkökulmista. Tämä tekee Geneven sopimuksista toisaalta ajattomia, toisaalta tulkinnanvaraisia.
Autonomisten järjestelmien säätelystä on käyty epävirallista keskustelua Yhdistyneiden kansakuntien tavanomaisten aseiden asevalvontakonventin eli CCW:n alaisuudessa vuodesta 2014 lähtien. Ensimmäiset kaksi vuotta keskustelu oli haparoivaa asiantuntijoiden etsiessä oikeita termejä ja määritelmiä käsiteltäville asioille. Viime vuoden lopulla keskustelut nytkähtivät pykälän virallisemmalle tasolle, kun autonomiset asejärjestelmät nostettiin CCW:n viralliseksi aiheeksi.
– Tulevan vuoden aikana asiantuntijat tulevat käyttämään kaksi viikkoa autonomisten asejärjestelmistä keskustelemiseen. Ydinryhmän kokoonpanon on määrä selvitä pian. Lopuksi kaikki päätökset altistetaan kaikkien YK:n CCW-jäsenvaltioiden tarkasteltaviksi, Appelqvist valottaa.
Suomi voi pyrkiä ydinryhmään tai vaikuttaa laajemman keskustelun kautta. Joka tapauksessa tarjolla on mahdollisuus, jota ei kannata haaskata.
– Kun tällaisiin neuvotteluprosesseihin mennään, niin emme voi lähteä kisaturisteina vain heiluttamaan Suomen lippua. Meidän täytyy ensin miettiä, mitä haluamme, eli mikä on Suomen kansallinen etu. Se meiltä toisinaan unohtuu.
