Logiikan avulla pyritään ymmärtämään syitä, jotka ovat tekoälyn vastauksien taustalla
Tekoälyn käytössä eivät riitä pelkästään tulokset, vaan on myös ymmärrettävä syitä näiden tuloksien takana.
Logiikka tarjoaa muodollisen viitekehyksen, jonka kautta saadaan matemaattisia vastauksia, jotka ovat sen verran lähellä arkikieltä, että ne voidaan kääntää ihmisymmärrettävään muotoon.
– Logiikkaa voisi kuvata rajapinnaksi matematiikan ja arkikielen välillä, sanoo apulaisprofessori Antti Kuusisto.
Kuusisto kertoo, että ihminen tietää hyvin vähän, mutta samaan aikaa tekee paljon oletuksia asioista.
– Tilastoja käyttämällä asiaa voidaan osittain helpottaa, mikä on erittäin tärkeää, koska tällä tavalla ei jäädä niin voimakkaasti ihmisymmärryksen rajoihin, selittää Kuusisto.
Professori Tomi Janhunen jatkaa ja kertoo, että logiikan käytön yksi hyöty on se, että osa voi olla ihmisen kirjoittamaa logiikkaa ja osa taas koneopittua logiikkaa.
Selitettävyyden kehittäminen on tekoälyn seuraava askel
Tällä hetkellä kielimallit ovat iso bisnes, mutta niissä ei avaudu toimintalogiikka. Tämä tarkoittaa sitä, että saadaan hyviä vastauksia, mutta ei ymmärretä syitä vastauksien takana.
– Lähitulevaisuudessa haluamme saada ihmisymmärrettäviä syitä, jolloin kuviin tulee selittävä tekoäly, jota tutkimme, kertoo Kuusisto.
Janhusen mukaan historian vuosikymmenissä on kehitetty logiikan toteutuksia, eli erilaisia algoritmeja, jotka yrittävät tehdä päättelyä mahdollisimman tehokkaasti.
Monet tekoälymallit on kehitetty sovellettavuus edellä, jolloin ei ymmärretä niiden käytön rajoja. Kun tilannetta lähdetään kartoittamaan matemaattisesti, yksi tapa ratkoa tätä ongelmaa on hyödyntää logiikkaa. Tällöin voidaan saada käsitys tekoälymallin rajoista, eli esimerkiksi siitä, mihin malli ei pysty ja millä koulutusmäärällä se taas pystyy tiettyihin asioihin, sanoo Kuusisto.
Logiikkaa voidaan hyödyntää sovellusriippumattomasti
Janhunen ja Kuusisto ovat tutkineet selitettävää tekoälyä logiikan näkökulmasta Suomen Akatemian rahoittamien hankkeiden avulla.
Suomen Akatemian projektissa Janhunen ja Kuusisto tutkivat muun muassa taulokkodatan perusteella tehtävien kriittisten päätösten selitettävyyttä.
Heidän yhtenä tutkimuskohteenaan oli pankkidata, jota on laajalti käytetty koneoppimismenetelmien testaamiseen. Sen avulla tutkijat selvittivät, voidaanko asiakkaalle myöntää lainaa. Datan avulla on mahdollista saada asiakkaasta selville tiettyjä tietoja, esimerkiksi onko asiakkaalla katetta ja kuinka pitkäaikaista lainaa hän haluaa. Aikaisempien myöntöjen perusteella haetaan selittävää loogista kaavaa.
– Pääasiallisena tuloksena oli metodi, jonka avulla saadaan erittäin lyhyitä ja selkeitä loogisia sääntöjä, jotka usein vastaavat tarkkuudeltaan modernien tekoälymallien avulla saatavia, tulkitsemattomissa olevia luokittelijoita, Janhunen ja Kuusisto kertovat.
Toinen hanke, johon tätä samaa ideaa hyödynnettiin, oli syöpäkasvaimen pahanlaatuisuutta käsittelevän datan analysoiminen.
– Keskeistä tässä menetelmässä on sen sovellusriippumattomuus, toteaa Janhunen.
Logiikalla on merkittävä rooli tekoälyn kehittämisessä
Logiikka on lähestymistapana monikäyttöistä, ja lähitulevaisuudessa tulee selkiytymään, mitä voimme tehdä vielä laajemmasta näkökulmasta, kertoo Janhunen.
– Useilla sovellusalueilla automatisoituihin vastauksiin pitää antaa selitys, ja tämä vaatimus tulee lainsäädännön kautta, sanoo Kuusisto.
Kuusisto kertoo, kuinka tekoälyn kehittäminen ei ole vielä maalissa ja on tulevaisuuden teknologioita, jotka ovat vasta syntymässä.
Tekoälyyn liittyy myös monia uskomuksia, joiden paikkansapitävyys vaihtelee.
– On paljon uskomuksia tekoälystä ja sen teoriasta ja käytännöstä, jotka eivät aina ole täysin totta. Esimerkiksi on olemassa uskomus, jossa kaiken tekoälyn väitetään sitoutuvan johonkin dataan, mutta todellisuudessa tämä ei pidä paikkaansa, sanoo Kuusisto.
Lisätiedot
Tomi Janhunen
Professori, tietojenkäsittelytiede
tomi.janhunen [at] tuni.fi (tomi[dot]janhunen[at]tuni[dot]fi)
Antti Kuusisto
Apulaisprofessori, diskreetti matematiikka
antti.kuusisto [at] tuni.fi (antti[dot]kuusisto[at]tuni[dot]fi)
