Sotateollisuus ja armeijat ympäri maailmaa ovat aina olleet ensimmäisten joukossa omaksumassa uutta teknologiaa, eikä tekoäly tee tästä poikkeusta. Autonomiset asejärjestelmät (LAWS, Lethal Autonomous Weapons Systems), joita populaarikulttuurissa ja mediassa kutsutaan usein raflaavasti "tappajaroboteiksi", ovat siirtyneet tieteiskirjallisuudesta ja Hollywood-elokuvista suoraan nykyaikaisten taistelukenttien arkeen. Tämä kehitys vie sodankäynnin automatisoinnin tasolle, joka herättää niin syviä moraalisia, juridisia ja filosofisia kysymyksiä, että ne ravistelevat humanitaarisen oikeuden perustuksia: voimmeko koskaan antaa elottomalle koodille oikeutta päättää ihmisen elämästä ja kuolemasta?
Algoritmit juoksuhaudoissa: Älykkäät dronet ja parviäly
Autonominen asejärjestelmä eroaa perinteisestä kauko-ohjatusta dronicte tai ohjuksesta siinä, että sen kriittisiin toimintoihin ei tarvita ihmisen suoraa väliintuloa tai hyväksyntää. Kun aseelle on annettu yleinen tehtävä, maantieteellinen kohdealue ja aikaraami, sen sisäiset tekoälyalgoritmit, tietokonenäkö ja sensorit analysoivat ympäristöä täysin itsenäisesti. Kone etsii kohteita, tekee uhka-arvioita, erottaa maastoajoneuvot siviiliautoista ja tekee lopullisen päätöksen tulen avaamisesta ilman, että ihminen painaa liipaisinta.
Puolustusteollisuus ja sotilasstrategit argumentoivat, että tekoäly tekee sodankäynnistä "humanitaarisempaa" ja tarkempaa. Kone ei tunne pelkoa, paniikkia, vihaa, uupumusta tai kostonhimoa – tekijöitä, jotka ihmisillä johtavat usein siviiliuhreihin ja sotarikoksiin taistelun tuoksinnassa. Algoritmi noudattaa sääntöjä kylmän loogisesti. Lisäksi modernissa sodankäynnissä, jossa hypersoniset ohjukset ja elektroninen sodankäynti toimivat millisekuntien aikajänteellä, ihmisen reaktiokyky on yksinkertaisesti liian hidas. Koneen on tehtävä puolustuspäätökset sekunnin murto-osassa, tai muuten oma tukikohta tai sotalaiva tuhoutuu.
Vastuun tyhjiö ja algoritminen virhe
Ihmisoikeusjärjestöt, Yhdistyneet kansakunnat (YK) ja monet tekoälytutkijat ovat kuitenkin äärimmäisen huolissaan tästä kehityksestä. Suurin juridinen ongelma on vastuun tyhjiö. Jos autonominen asejärjestelmä tekee virheen taistelukentällä – esimerkiksi tulkitsee väärin siviilien eleet tai pommittaa erehdyksessä pakolaiskonvoita – kuka kantaa rikosoikeudellisen vastuun? Ohjelmoija, joka kirjoitti koodin vuosia sitten? Algoritmia kouluttanut insinööri? Komentaja, joka kytki laitteen päälle, vai järjestelmän valmistanut yritys? Konetta itseään ei voida haastaa Haagin kansainväliseen tuomioistuimeen eikä sitä voida rangaista.
Toinen suuri riski liittyy tekoälyn luonteeseen. Kuten olemme nähneet siviilisovelluksissa, tekoäly voi kärsiä "hallusinaatioista" tai tehdä täysin käsittämättömiä virheitä, kun se kohtaa tilanteen, jota ei ollut sen koulutusdatassa. Taistelukenttä on äärimmäisen kaoottinen, täynnä savua, sähköistä häirintää, tuhoa ja yllättäviä inhimillisiä tilanteita. Jos algoritmi tekee virheen siviilimaailmassa, seurauksena voi olla väärä mainossuositus; jos se tekee virheen sodassa, seurauksena on massakuolema. On myös vaara, että kynnys sodan aloittamiseen madaltuu, jos valtiot voivat lähettää rintamalle ihmisten sijasta halpoja koneita, jolloin sodan poliittinen ja inhimillinen hinta laskee yhteiskunnan silmissä.