Tekoälyn etiikka ja muinaiset Veda-tekstit – mitä sanskritin logiikka opettaa koneille

Voiko tuhansia vuosia vanhoista teksteistä olla apua, kun koneille opetetaan oikean ja väärän eroa? Wieniläiset tutkijat ovat lähestyneet tekoälyn etiikkaa yllättävästä suunnasta: he ovat muuntaneet muinaisten, sanskritinkielisten Veda-tekstien moraalisäännöt ja niiden tulkintaperiaatteet täsmälliseksi logiikaksi, jollaista voidaan käyttää myös tietokoneissa. Taustalla ei ole ajatus siitä, että kone imisi itseensä vanhan uskonnon arvot sellaisenaan, vaan että ikivanhasta päättelytavasta löytyy poikkeuksellisen järjestelmällinen malli sääntöjen, velvollisuuksien ja kieltojen käsittelyyn. Juuri sitä nykyinen tekoäly kipeästi tarvitsee.

Mistä tässä oikein on kyse?

Tekoäly tekee yhä useammin päätöksiä, joilla on seurauksia ihmisille: itseohjautuva auto väistää tai jarruttaa, hoivarobotti noudattaa ohjeita, sisällönsuodatin sallii tai estää. Jotta kone toimisi eettisesti, sille on jollain tavalla kerrottava, mitä se saa tehdä, mitä sen täytyy tehdä ja mitä se ei saa tehdä – ja miten toimitaan silloin, kun säännöt ovat keskenään ristiriidassa. Tällaisten sääntöjen täsmällistä käsittelyä kutsutaan deonttiseksi logiikaksi eli velvollisuuslogiikaksi. Se on logiikan haara, joka tutkii nimenomaan velvollisuuksia, lupia ja kieltoja tavallisen tosi–epätosi-päättelyn sijaan.

Wieniläistutkijoiden oivallus oli, että ihmiskunta on hionut juuri tällaista sääntöjen tulkintaa jo vuosituhansia – ennen kaikkea muinaisessa Intiassa. Siellä kehittyi filosofinen koulukunta, joka analysoi pyhien tekstien käskyjä ja kieltoja äärimmäisen järjestelmällisesti. Tutkijat eivät siis etsineet teksteistä valmiita moraaliohjeita koneille, vaan valmiiksi kehitettyä menetelmää sääntöjen käsittelyyn.

Mitä Veda-tekstit ja Mimamsa-koulukunta ovat?

Veda-tekstit lyhyesti

Veda-kirjat ovat Intian vanhimpiin kuuluvia pyhiä tekstejä. Ne koottiin sanskritiksi, ja niiden vanhimpien osien juuret ulottuvat arviolta yli kolmentuhannen vuoden taakse; pitkään tekstejä siirrettiin sukupolvelta toiselle ulkoa opeteltuina. Kokonaisuuteen kuuluu neljä pääkokoelmaa, muun muassa Rigveda ja Atharva-Veda. Länsimainen kulttuuri on siirtomaa-ajan jäljiltä monin paikoin noussut Intiassa näkyväksi, mutta vanhat Veda-tekstit ovat eläneet keskeytyksettä kulttuurissa ja uskonnollisessa perinteessä.

Tekstit sisältävät myös runsaasti käyttäytymistä koskevia ohjeita: käskyjä, kieltoja ja ehtolauseita. Osa niistä on muotoiltu hyvin selkeiksi säännöiksi, kuten yleinen kielto, jonka mukaan yhtäkään elävää olentoa ei saa vahingoittaa. Juuri tällaiset selkeät käskyt ja kiellot tekevät teksteistä kiinnostavia logiikan tutkijalle.

Mimamsa – tulkinnan koulukunta

Veda-teksteistä ei voi lukea suoraan, miten ristiriitaisissa tilanteissa pitäisi toimia. Tätä ongelmaa ratkomaan syntyi Mimamsa, hindulaisen filosofian koulukunta, joka erikoistui pyhien tekstien tulkintaan. Mimamsa kehitti vuosisatojen kuluessa yksityiskohtaisen järjestelmän tulkintasäännöistä (sanskritiksi nyaya): millä tavoin käsky ymmärretään, milloin kielto kumoaa käskyn, miten ehdollinen ohje suhteutuu yleiseen periaatteeseen ja niin edelleen.

Tämä on olennainen ero tavalliseen tekstintulkintaan: Mimamsa ei pohtinut vain sitä, mikä on totta, vaan sitä, mikä on velvoittavaa. Juuri siksi sen päättelytapa muistuttaa yllättävän paljon nykyistä deonttista logiikkaa, jota tietotekniikassa käytetään sääntöjen muotoiluun. Koulukunnan analyysi oli niin tarkkaa, että sitä on kuvattu pedanttiseksi – ja tietokoneen kannalta juuri pedanttisuus on etu, sillä kone vaatii yksiselitteisiä sääntöjä.

Śyena-uhrin dilemma: klassinen ristiriita

Tutkimuksen avainesimerkki on vuosisatoja väitelty ristiriita, jota kutsutaan Śyena-uhrin dilemmaksi. Śyena tarkoittaa haukkaa tai kotkaa, ja kyseessä on Veda-teksteissä kuvattu rituaali, jonka tarkoitus on vahingoittaa vihollista. Ongelma syntyy kahden säännön törmäyksestä:

• Yleinen kielto: yhtäkään elävää olentoa ei saa vahingoittaa.
• Ehdollinen ohje: joka haluaa tuhota vihollisensa, toimittakoon Śyena-uhrin – mikä väistämättä merkitsee vahingoittamista.

Näennäisesti tekstit siis sekä kieltävät vahingoittamisen että neuvovat, miten vahinkoa aiheutetaan. Juuri tällaiset ristiriidat ovat tekoälyn kannalta kriittisiä: koneen on osattava päättää, kumpi sääntö voittaa, kun ohjeet sotivat toisiaan vastaan.

Prabhakaran ratkaisu

Noin 600–700-luvulla jaa. vaikuttanut intialainen filosofi Prabhakara ratkaisi dilemman hienovaraisella tulkinnalla. Hänen mukaansa Śyena-ohje ei ole varsinainen velvoittava käsky, joka pitäisi täyttää, vaan se kuvaa pelkästään keinon kielletyn halun toteuttamiseksi. Koska lähtökohtana on halu, jota ei pitäisi olla, ohje ei luo todellista velvollisuutta – yleinen kielto vahingoittamisesta jää voimaan. Ratkaisu perustui monimutkaiseen tulkintaan ja synnytti useita vuosisatoja kestäneen keskustelun, jossa myös muut Mimamsa-ajattelijat, kuten Kumarila ja Mandana, esittivät omia näkemyksiään.

Muinaisesta väittelystä matemaattiseksi logiikaksi

Tämän vuosisatojen väittelyn tutkijat palauttivat laboratorioon. Työtä johti Wienin teknillisen yliopiston (TU Wien) Logiikan ja laskennan instituutin professori Agata Ciabattoni, ja sanskritin asiantuntemuksesta vastasi tutkija Elisa Freschi, joka työskenteli tuolloin Itävallan tiedeakatemiassa. Mukana oli myös logiikan tutkijoita, kuten Francesco Genco ja Björn Lellmann. Ryhmän työtä rahoitti Wienin tiede- ja teknologiarahasto (WWTF) hankkeessa, jonka nimi oli vapaasti suomennettuna ”päättelytyökaluja deonttiseen logiikkaan ja sovelluksia Intian pyhiin teksteihin” (2017–2022).

Tutkijat muunsivat Mimamsan tulkintasäännöt ja Veda-tekstien käskyt osittain matemaattisiksi kaavoiksi ja rakensivat niiden pohjalta oman deonttisen logiikan. Se esitellään vuoden 2017 tutkimusjulkaisuissa, ja järjestelmän matemaattinen malli tuottaa saman lopputuloksen kuin Prabhakaran tulkinta: Śyena-uhria ei pidä toimittaa. Tämä oli ensimmäinen osoitus siitä, että Veda-tekstien ja Mimamsan päättelyä voidaan todella hyödyntää formaalissa logiikassa ja diskreetissä matematiikassa – ei siis vain humanistisena tulkintana vaan laskennallisesti täsmällisenä järjestelmänä.

Myöhemmissä töissä (muun muassa vuonna 2023) tutkijat ovat vertailleet Prabhakaran, Kumarilan ja Mandanan näkemyksiä rinnakkaisten logiikkojen avulla ja koetelleet niillä deonttisen logiikan tunnettuja paradokseja. Lopputulos on, että historiallinen keskustelu tarjoaa yllättävän rikkaan testipenkin nykyajan sääntölogiikalle.

Miten tämä liittyy tekoälyn etiikkaan?

Tässä on syytä oikaista yleinen väärinkäsitys. Tekoälylle ei syötetä Veda-kirjoja luettavaksi, minkä jälkeen se muuttuisi eettiseksi. Kyse on päinvastoin siitä, että muinaisesta koulukunnasta louhitaan menetelmä: täsmällinen tapa esittää velvollisuudet ja kiellot sekä ratkaista niiden väliset ristiriidat niin, että myös kone ymmärtää ne. Vasta tämä formaali logiikka on se, jota voidaan soveltaa tekoälyyn.

Varsinainen tekoälysovellus on kypsynyt vasta alkuperäisen uutisen jälkeen. Ciabattoni johtaa TU Wienissä jatkohanketta nimeltä TAIGER (käynnistyi 2023), jossa tutkitaan nimenomaan tekoälyagenttien opettamista eettisillä säännöillä. Ajatuksena on yhdistää symbolinen tekoäly – eli juuri deonttinen logiikka – ja koneoppiminen niin, että agentti pystyy tavoittelemaan päämääräänsä mutta samalla noudattamaan normeja, käsittelemään keskenään ristiriitaisia vaatimuksia ja perustelemaan ratkaisunsa läpinäkyvästi. Vuonna 2024 ryhmä julkaisi aihetta sivuavan tutkimuksen vahvistusoppimisen agenttien normien noudattamisesta. Sama idea, jolla tekoäly tunnistaa kuvia tai pelaa pelejä, ei vielä kerro sille, mikä on sallittua – siihen tarvitaan erillinen sääntökerros.

Tekoäly on muutenkin tunkeutunut arkisiin sovelluksiin yllättävillä tavoilla: se osaa esimerkiksi arvioida aterian kalorit pelkästä ruokakuvasta tai poistaa vesileimoja valokuvista. Tällaiset tehtävät ovat teknisesti vaikuttavia, mutta ne eivät sisällä mitään käsitystä oikeasta ja väärästä. Juuri siksi normien ja etiikan rakentaminen koneeseen on oma, erillinen ongelmansa.

Mitä tämä ei tarkoita

On tärkeää erottaa tutkimuksen todellinen sisältö sen ympärille kertyneistä liioitteluista. Alkuperäinen, sensaatiohakuinen uutisointi levisi aikoinaan muun muassa Ancient Code -sivuston kautta, mutta se antoi tapahtumista turhan yksinkertaistetun kuvan.

• Vedoja ei oteta käyttöön moraalikoodina. Osa muinaisista normeista ei istu nykyetiikkaan, ja tutkijat ovat itsekin todenneet, että arvojen sijaan kiinnostavaa on päättelyn rakenne. Koneeseen voidaan tehdä poikkeuksia sieltä, missä vanha ohje ei sovi nykyyhteiskuntaan.
• Kone ei ”lue” pyhiä tekstejä. Tekstien sisältö käännetään ihmisten toimesta logiikaksi ja kaavoiksi, ja vain tämä formaali esitys on se, jota tietokone käsittelee.
• Menetelmä ei ole sidottu Intiaan. Deonttista logiikkaa tarvitaan laajasti: lakitekstien tulkinnassa, sopimusten mallintamisessa ja autonomisten järjestelmien ohjauksessa. Veda-aineisto tarjoaa vain erityisen hyvin dokumentoidun ja koetellun lähtökohdan.

Kenelle aihe on tärkeä ja mihin sitä voi käyttää?

Normien formaali käsittely koskettaa useampaa alaa kuin äkkiä luulisi. Itseohjautuvien autojen ja robottien on osattava tulkita liikenne- ja turvasääntöjä sekä valita, mitä tehdä, kun säännöt ovat ristiriidassa. Lakiteknologiassa tavoitellaan sääntöjen koneellista tulkintaa, ja tekoälyn hallinnassa (AI governance) pohditaan, miten järjestelmät saadaan noudattamaan lakeja ja eettisiä periaatteita läpinäkyvästi. Kaikissa näissä tarvitaan juuri sitä, mitä Mimamsa aikoinaan kehitti: täsmällistä tapaa erottaa velvollisuus, lupa ja kielto sekä ratkaista niiden ristiriidat.

Laajemmin kyse on vanhan ja uuden tiedon kohtaamisesta. Samalla tavalla kuin moni tekninen oivallus kumpuaa odottamattomasta lähteestä – kuten monet suomalaiset keksinnöt kautta aikojen osoittavat – myös tekoälyn etiikka voi ammentaa vuosituhansia vanhasta ajattelusta. Kysymys siitä, voiko kone päihittää ihmisen, on tuttu myös kevyemmistä yhteyksistä, kuten pohdinnasta voittaako kone ihmisen kivi–sakset–paperissa; etiikan kohdalla haaste on kuitenkin aivan toista luokkaa.

Usein kysytyt kysymykset (UKK)

Opetetaanko tekoälylle etiikkaa syöttämällä sille Veda-kirjoja?

Ei suoraan. Tutkijat eivät anna koneen lukea pyhiä tekstejä, vaan muuntavat niiden käskyt ja Mimamsa-koulukunnan tulkintasäännöt täsmälliseksi logiikaksi. Vasta tämä formaali sääntöjärjestelmä voidaan liittää tekoälyyn. Kyse on päättelymenetelmästä, ei vanhan uskonnon arvojen kopioimisesta.

Mikä on deonttinen logiikka?

Deonttinen logiikka eli velvollisuuslogiikka on logiikan haara, joka käsittelee velvollisuuksia, lupia ja kieltoja. Tavallinen logiikka tutkii, onko väite tosi vai epätosi; deonttinen logiikka tutkii, mikä on pakollista, sallittua tai kiellettyä – ja miten ristiriitaiset säännöt ratkaistaan.

Mikä on Śyena-uhrin dilemma?

Se on Veda-teksteihin liittyvä näennäinen ristiriita. Yleinen sääntö kieltää vahingoittamasta elävää olentoa, mutta toinen ohje kuvaa, miten vihollista voi vahingoittaa Śyena- eli kotkauhrilla. Filosofi Prabhakara ratkaisi ristiriidan katsomalla, ettei Śyena-ohje ole varsinainen velvoittava käsky, joten vahingoittamisen kielto jää voimaan.

Ketkä tutkimusta tekivät?

Työtä johti professori Agata Ciabattoni Wienin teknillisestä yliopistosta, ja sanskritin asiantuntijana toimi Elisa Freschi. Hanketta rahoitti Wienin tiede- ja teknologiarahasto (WWTF). Jatkoa aiheelle on TU Wienin TAIGER-hankkeessa, joka tutkii tekoälyagenttien opettamista eettisillä säännöillä.

Voiko näin rakennettu tekoäly olla aidosti eettinen?

Menetelmä auttaa konetta noudattamaan annettuja normeja ja ratkaisemaan niiden ristiriitoja läpinäkyvästi, mikä on edellytys eettiselle toiminnalle. Se ei kuitenkaan itsessään kerro, mitkä säännöt ovat oikeita – arvovalinnat jäävät ihmisille. Tutkimus on edelleen käynnissä, ja AI-etiikan sovellukset ovat vasta kehittymässä.