Tekoälyn kehitys ja kansallisen turvallisuuden tulevaisuus

Miksi tämä on tärkeää? Ensinnäkin sen pitäisi saada meidät suhtautumaan tekoälyyn vähemmän henkeäsalpaavasti ja näkemään se yhtenä osana laajempaa tietokonevallankumousta, joka alkoi 1900-luvun jälkipuoliskolla ja kiihtyi tällä vuosisadalla. Sen pitäisi myös auttaa meitä näkemään, mitä voi olla realistista ja toivottavaa säännellä tulevaisuuden sodankäynnissä ja mitä ei.

Yleisesikuntapäälliköiden entinen varapuheenjohtaja, kenraali Paul Selva, on äskettäin väittänyt, että Yhdysvallat voi olla noin vuosikymmenen päässä siitä, että sillä olisi valmiudet rakentaa autonominen robotti, joka pystyisi päättämään, milloin ampua ja kenet tappaa – vaikkakin hän on myös väittänyt, että Yhdysvalloilla ei ole mitään varsinaista suunnitelmaa rakentaa sellaista olentoa. Mutta jos asiaa ajattelee toisin, niin tavallaan meillä on jo ollut autonomisia tappokoneita jo sukupolven ajan. Edellä mainitsemamme risteilyohjus on ollut käytössä 1970-luvulta lähtien. Sillä on ohjeet lentää tiettyä reittiä ja sitten räjäyttää taistelukärkensä ilman, että kukaan ihminen on mukana. Ja 1990-luvulle tultaessa tiesimme, miten rakennetaan esimerkiksi ”skeet”-ammuksia, jotka voivat loikoilla taistelukentän yllä ja etsiä lämpimiä kohteita, kuten panssarivaunuja, käyttäen ohjelmistoa päättämään, milloin ne sitten tuhotaan. Tappajakone oli siis käytännössä jo päättämässä itse.

Vaikka kenraali Selvan terminaattoria ei rakennettaisikaan, robotiikalle tullaan joissakin tapauksissa todennäköisesti antamaan enemmän päätösvaltaa päättää, milloin voimaa on käytettävä, koska olemme käytännössä jo ylittäneet tämän kynnyksen. Tämä erittäin arkaluonteinen aihe vaatii toki huolellista eettistä ja oikeudellista valvontaa, ja siihen liittyvät riskit ovat vakavia. Nopeus, jolla sotilasoperaatioiden on tapahduttava, luo kuitenkin kannustimia sille, että monissa taktisissa tilanteissa henkilö ei ole mukana päätöksentekosilmukassa. Riippumatta siitä, mitä Yhdysvallat pitää parempana, väkivaltaisen voimankäytön automatisoitua käyttöä koskevista rajoituksista näyttäisi myös olevan suhteellisen vaikea neuvotella (vaikka ne olisivatkin toivottavia), kun otetaan huomioon Venäjän ja ehkä muidenkin maiden todennäköinen vastustus sekä valtavat todentamisongelmat.

Pienille roboteille, jotka pystyvät toimimaan parvina maalla, ilmassa tai vedessä, voidaan esimerkiksi antaa jonkin verran liikkumavaraa sen suhteen, milloin ne käyttävät tappavia kykyjään. Kommunikoimalla keskenään ja käsittelemällä reaaliaikaisesti tietoa vihollisesta ne voisivat keskittää hyökkäykset sinne, missä puolustus on heikointa, taistelumuodossa, jota John Allen ja Amir Husain kutsuvat nopeutensa ja intensiivisyytensä vuoksi ”hypersodaksi”. Muuntyyppiset parvet voisivat hyökätä pysäköityjen lentokoneiden kimppuun; pienetkin räjähteet, jotka räjäytetään tarkasti, voisivat lamauttaa siivet tai moottorit tai aiheuttaa toissijaisia ja paljon suurempia räjähdyksiä. Monilla mailla on valmiudet tällaiseen tulevien kahdenkymmenen vuoden aikana. Vaikka Yhdysvallat pyrkisi välttämään tällaisten parvien käyttöä tappaviin ja hyökkääviin tarkoituksiin, se voi päättää käyttää niitä puolustuskilpinä (ehkä Pohjois-Korean tykistöhyökkäystä vastaan Soulia vastaan) tai häirintäapuvälineinä tunkeutuvien lentokoneiden mukana. Kun UAV:t, jotka pystyvät lentämään kymmenen tuntia ja sata kilometriä, maksavat nykyään vain satoja tuhansia dollareita ja nelikopterit, joiden kantomatka on korkeintaan kilometrin luokkaa, maksavat satoja dollareita, suuntauslinjat ovat selvät – ja monien lennokkien organisoidun käytön edullisuus on ilmeinen.

Missä sääntely voi olla mahdollista ja eettisesti pakottavaa, on sen maantieteellisen ja ajallisen tilan rajoittaminen, jossa tekoälyn tai muiden monimutkaisten algoritmien ohjaamat aseet voivat käyttää tappavaa voimaa. Esimerkiksi edellä mainitut parvet saattaisivat olla käytössä vain laivan läheisyydessä tai taivaalla Korean DMZ:n läheisyydessä tai pienellä etäisyydellä sotilaslentokentästä. Saattaa myös olla fiksua kieltää koneiden antaminen päättää, milloin ihmisiä tapetaan. Voisi olla houkuttelevaa käyttää kasvontunnistusteknologiaa tulevissa roboteissa, jotta ne saisivat metsästää seuraavaa bin Ladenia, Baghdadia tai Soleimania jossakin valtavassa Lähi-idän kaupungissa. Virheiden, hakkeroinnin ja monien muiden toimintahäiriöiden mahdollisuus saattaa kuitenkin olla liian suuri, jotta tällaista voitaisiin sallia. Todennäköisesti on myös järkevää kieltää tekoälyn käyttö suurten ydinvoimaloiden ydinvoiman komento- ja valvontainfrastruktuuriin kohdistuviin hyökkäyksiin. Tällaiset yritykset saattaisivat synnyttää ”käytä tai menetä heidät” -pelkoja tulevassa kriisissä ja siten lisätä ydinsodan riskejä.

Olemme tekoälyn alkuvaiheessa. Emme voi vielä alkaa ennakoida, mihin se on menossa ja mitä se voi tehdä mahdolliseksi kymmenen tai kahdenkymmenen tai kolmenkymmenen vuoden kuluttua. Mutta voimme työskennellä kovemmin ymmärtääksemme, mitä se oikeastaan on – ja myös miettiä kovasti, miten asettaa eettisiä rajoja sen tulevalle kehitykselle ja käytölle. Sodankäynnin tulevaisuus, niin hyvässä kuin pahassa, on kirjaimellisesti vaakalaudalla.