Moralities of Intelligent Machines -hanke tutkii ihmisten suhtautumista tekoälyn tekemiin moraalisiin päätöksiin. Hankkeen uusimmassa tutkimuksessa koehenkilöt lukivat lyhyitä kertomuksia, joissa joko robotti, hieman ihmistä muistuttava iRobot, vahvasti ihmistä muistuttava iClooney tai ihminen kohtaa raitiovaunudilemman kaltaisen moraalisen päätöksentekotilanteen ja päättää toimia tietyllä tavalla. Koehenkilöt näkivät myös kuvat näistä toimijoista. Sitten koehenkilöt arvioivat näiden eri toimijoiden tekemien päätösten moraalisuutta. Tutkimuksen rahoitti Jane ja Aatos Erkon säätiö sekä Suomen Akatemia.
Raitiovaunudilemmassa henkilö näkee raiteilla eteenpäin syöksyvän raitiovaunun, jota ei ohjaa kukaan. Vaunu on ajamassa viiden ihmisen yli. Henkilö voi joko olla tekemättä mitään tai ohjata raitiovaunun toiselle raiteelle, jolloin nämä viisi ihmistä pelastuvat, mutta toisella raiteella on yksi henkilö, joka tällöin kuolisi.
Ihmismäisen robotin toimintaa arvioidaan negatiivisemmin
Tutkimuksen mukaan ihmiset arvioivat ihmismäisten iRobotin ja iClooneyn päätöksen vähemmän eettiseksi kuin ihmisen ja perinteisen näköisen robotin tekemän saman päätöksen. MoIM-hankkeen vetäjä, vastaava tutkija Michael Laakasuo liittää tuloksen aiemmassa tutkimuksessa löydettyyn outouden laakso -ilmiöön (the uncanny valley effect).
– Tekoälyn ihmismäisyys koetaan outona tai karmivana, ja tällaisiin robotteihin suhtaudutaan negatiivisemmin kuin konemaisempiin robotteihin. Tämä saattaa johtua esimerkiksi siitä, että ihmistä muistuttavaan olentoon ei osata suhtautua: onko kyseessä eläin, ihminen vai työkalu?
Laakasuon mukaan tutkimuksen tulokset viittaavat siihen, että ihmiset eivät vierasta robotteja moraalisina päätöksentekijöinä, sillä ihmisen ja perinteisen robotit päätökset nähtiin yhtä hyväksyttävänä. Sen sijaan robotin ulkomuodolla on merkitystä niiden moraalisuuden arvioon.
Keskustelu ohjaa tekoälyn sääntelyä
Michael Laakasuon mukaan moraalisia päätöksiä tekevien älykkäiden koneiden määrä kasvaa yhteiskunnassamme. Esimerkkinä ovat itseään ajavat autot.
– On tärkeää tietää, miten ihmiset suhtautuvat älykkäisiin koneisiin ja millaiset asiat vaikuttavat niitä koskeviin moraaliarvioihin. Arvioidaanko esimerkiksi tyylikkään itseään ajavan auton tekemää liikennerikkomusta eri tavoin kuin vähemmän tyylikkään?
Tämä tieto voi vaikuttaa siihen, mihin suuntaan tekoälyä ja robotiikkaa kehitetään. Se voi vaikuttaa myös esimerkiksi tuotteiden brändäykseen. Tieto voi myös muovata tekoälyn sääntelyä koskevaa poliittista keskustelua. Itseohjautuvista autoista voi esimerkiksi tulla eräänlaisia yksityisten yritysten testilaboratorioita: vahingon sattuessa seuraukset voidaan kuitata rahalla ja ihmisen hyvinvointi voidaan vaarantaa teknologisen edistyksen nimissä seurauseettiseen moraaliin vedoten.
– Millaisia robotteja haluamme keskuuteemme: niitä, jotka pelastavat viisi ihmistä raitiovaunun alta uhraten yhden vai niitä, jotka eivät suostu uhraamaan yhtäkään ihmistä, vaikka se tarkoittaisi monen pelastamista? Pitäisikö roboteista kehittää ihmisen näköisiä vai ei, jos tällä kerran on vaikutusta niiden tekojen arvioituun moraalisuuteen?
Lisätietoja:
Tutkijatohtori, dosentti Michael Laakasuo
Digitaalisten ihmistieteiden osasto
michael.laakasuo@helsinki.fi
+358445181521