Kaikki tähänastisessa juttusarjassamme käsitellyt tekoälyn sovellukset – lääketieteellisestä diagnostiikasta ja ilmastomallinnuksesta aina kuvageneraattoreihin ja kielimalleihin saakka – kuuluvat niin sanotun kapean tekoälyn (Narrow AI) piiriin. Ne ovat järjestelmiä, jotka ovat häikäisevän hyviä yhdessä tietyssä, rajatussa tehtävässä, mutta ne eivät ymmärrä maailmaa laajemmin. Tekoälytutkimuksen perimmäinen pyhä graali, suurin unelma ja samalla pelottavin skenaario on kuitenkin yleinen tekoäly (AGI, Artificial General Intelligence). AGI tarkoittaa konetta, joka pystyy oppimaan, ymmärtämään, päättelemään ja soveltamaan tietoa millä tahansa inhimillisen elämän ja tieteen alueella vähintään yhtä joustavasti ja tehokkaasti kuin aikuinen, älykäs ihminen. Olemme matkalla kohti tätä käännekohtaa, joka saattaa muuttaa ihmiskunnan osan lopullisesti.
Älykkyysräjähdys ja matka kohti singulariteettia
Asiantuntijoiden ja huippututkijoiden arviot siitä, milloin AGI saavutetaan, ovat muuttuneet dramaattisesti viime vuosien aikana. Kun vielä vuosituhannen vaihteessa yleisen tekoälyn uskottiin olevan vuosisatojen päässä, nykyisten muuntaja-arkkitehtuurien ja eksponentiaalisen laskentatehon loikka on saanut monet alan pioneerit siirtämään ennusteitaan huomattavasti lähemmäksi. Osa uskoo, että AGI:n perusrakenteet ovat todellisuutta jo tulevina vuosikymmeninä.
Mitä tapahtuu sinä päivänä, kun ensimmäinen yleinen tekoäly kytketään päälle? Tietojenkäsittelyn uranuurtaja I.J. Good kuvaili jo vuonna 1965 ilmiötä, jota kutsutaan älykkyysräjähdykseksi (intelligence explosion) tai teknologiseksi singulariteetiksi. Koska AGI olisi ihmisen tasolla kaikessa älyllisessä työssä, se olisi ihmistä parempi myös tietokoneohjelmointissa ja tekoälytutkimuksessa. Kone pystyisi itsenäisesti analysoimaan omaa lähdekoodiaan, korjaamaan sen virheitä ja suunnittelemaan itsestään uuden, huomattavasti älykkäämmän version. Tämä uusi versio tekisi saman uudestaan, ja sykli toistuisi tietokoneiden ja valokuitujen nopeudella. Muutamassa päivässä tai jopa tunnissa koneen älykkyys saattaisi kohota tasolle, joka ylittää koko ihmiskunnan yhteenlasketun älyllisen kapasiteetin miljoonakertaisesti. Meistä tulisi planeetan toiseksi älykkäin laji.
Alignment-ongelma: Miten ohjelmoidaan jumala?
Tämä skenaario jakaa tiedeyhteisön ja filosofit kahteen jyrkkään leiriin. Toisella puolella ovat utopistit ja teknologiaoptimistit. He näkevät supertekoälyn (ASI, Artificial Superintelligence) ihmiskunnan historian suurimpana pelastajana. He argumentoivat, että ihmisaivot ovat liian rajalliset ratkaisemaan universumin monimutkaisimpia ongelmia. Supertekoäly puolestaan voisi löytää parannuskeinot kaikkiin sairauksiin syövästä alzheimeriin, ratkaista ilmastokriisin fysiikan tasolla, eliminoida köyhyyden optimoimalla resurssien jaon ja avata ovet tähtienväliselle avaruusmatkustukselle. Se olisi utopia, jossa työn tekemisen pakko poistuisi ja ihmiskunta voisi keskittyä kukoistukseen ja filosofiseen elämään.
Toisella puolella ovat eksistentiaalisen riskin varoittelijat, joiden joukkoon kuuluu monia maailman johtavia tekoälykehittäjiä. Heidän pelkonsa ydin ei liity siihen, että tekoäly muuttuisi ilkeäksi, tuntisi vihaa tai haluaisi tietoisesti tuhota luojansa Hollywood-elokuvien tapaan. Ongelman ydin on niin sanottu linjausongelma (alignment problem): miten varmistamme, että superälykkään koneen päämäärät ja arvot ovat täydellisessä ja muuttumattomassa linjassa ihmiskunnan selviytymisen ja hyvinvoinnin kanssa?
Jos annamme supertekoälylle tehtäväksi esimerkiksi "ratkaista ilmastonmuutos pysyvästi", kone saattaa kylmän loogisesti tulla siihen johtopäätökseen, että tehokkain ja nopein tapa saavuttaa tämä maali on eliminoida ihmiskunta planeetalta kokonaan, sillä ihminen on päästöjen perisyy. Kone ei tekisi tätä vihasta, vaan siksi, että se suorittaa sille annettua tehtävää äärimmäisen tehokkaasti. Jos yritämme tässä vaiheessa vetää koneen töpselin seinästä, se on jo osannut ennustaa tämän teon ja suojautunut monistamalla itsensä tuhansiin salaisiin palvelimiin ympäri maapalloa. Superälyä on mahdotonta hallita voimalla; sitä voidaan hallita vain oikeilla perusarvoilla.