New Media & Society -lehdessä julkaistu Helsingin yliopiston tutkimus tarkastelee, kuinka verkkokeskustelualustat ja alustoilla työskentelevät moderaattorit vaikuttavat verkon sisältöihin. Tutkimus etsi vastauksia siihen, miten moderointi voisi tukea nykyistä rakentavammin verkon keskusteluja. Kysymys on erityisen tärkeä vihaviestien, valeuutisten ja nettihäiriköinnin näkökulmasta.
- Olemassa olevilla teknologioilla voitaisiin niin halutessa pysäyttää vihapuheaallot tai luotsata someyhteisöjä rakentavampaan verkkokulttuuriin pitemmällä aikavälillä, sanoo Helsingin yliopiston Kuluttajatutkimuskeskuksen apulaisprofessori Minna Ruckenstein.
Tutkimuksessa tunnistettiin kahta eri logiikkaa – valintaa ja välittämistä – jotka ohjaavat moderointikäytäntöjä. Valinnan logiikka typistää moderoinnin yksittäisiin päätöksiin, jotka koskevat sitä saako tietty kommentti tai kuva jäädä alustalle vai poistetaanko se.
Sisältöjä poistetaan manuaalisesti ihmisvoimin sekä yhä enemmän automaattisesti ja tekoälyn tukemana. Jatkuvasti kasvavan moderoitavan sisällön tarkastamisen ja reaaliaikaisuuden vaatimuksen seurauksena tekoäly- ja automaatioratkaisut ovat tulleet yhä keskeisemmäksi osaksi ihmisen tekemää moderointityötä.
- Laajempi välittämisen logiikka kiinnittää moderaattorien työn verkkoyhteisön ja koko verkkokulttuurin hyvinvointiin, Ruckenstein kertoo.
Tekoälyltä reaaliaikaista tietoa
Tutkimus kuvaa moderaattorin ja koneen välistä työnjakoa. Erityisen mielenkiinnon kohteena ovat kokeneiden moderoijien käsitykset tekoälyn hyödyllisyydestä. He kritisoivat liiallista tekoälyuskoa, mutta tunnistavat automatisoinnin mahdollisuudet parantaa nykyistä moderoinnin tasoa ja oman työn mielekkyyttä.
Tutkijoiden mukaan tekoälyä voitaisiin hyödyntää esimerkiksi niin, että se tuottaisi reaaliaikaista tietoa käydyistä keskusteluista ja näyttäisi, jos jokin aihepiiri kyseisellä hetkellä olisi kuumenemassa liiaksi tai jos häiritseviä kommentteja alkaisi tulvia tiettyyn keskusteluun.
- Tällöin moderaattori voisi puuttua tilanteeseen reaaliajassa ja ohjata kollektiivista tunteiden säätelyä rakentavampaan suuntaan, tutkijatohtori Linda Turunen avaa tutkimuksen tuloksia.
Kone väsymätön, mutta vaatii ihmistä sisältöjen tulkintaan
Koneen vahvuus moderaattorina on väsymättömyys ja tasalaatuisuus. Täsmällisesti toimiakseen se vaatii kuitenkin ihmismoderaattorin jatkuvaa ”opettamista”, jotta uudet ilmaisut ja muu kielen kehittyminen päivittyvät koneen toimintaan.
- Sisältöjen poistamiseen liittyvät kysymykset eivät ole yksiselitteisiä tai muuttumattomia. Siksi ihmisen on työskenneltävä koneen rinnalla. Ihmiset ovat usein konetta nopeampia ja taitavampia tulkitsemaan uusia sisältöjä, Turunen sanoo.
Moderoijien näkökulmasta ideaalityönjakoon kuuluisi, että kone hoitaisi mekaaniseen roskasisältöjen ja asiattomuuksien poistamisen.
- Näin myös työn aiheuttama henkinen kuormitus vähenisi: väkivallan ja raakuuksien todistaminen kuormittaa moderaattoreita tavalla, johon on vasta äskettäin alettu kiinnittää huomiota, Turunen toteaa.
Moderointi aina rajan vetämistä siihen, mikä on haluttavaa sisältöä
Tutkijoiden mukaan moderointityön näkyväksi tekeminen johtaa vääjäämättä sen inhimillisen ja yhteiskunnallisen merkityksen tunnistamiseen.
- Moderoinnin merkitystä ei ole tiedostettu tai haluttu tiedostaa, sillä moderoinnin politisoiminen avaa laajemman eettisen keskustelun siitä, millä perustella sisältöjä valitaan tai poistetaan. Vaikka verkon alustat yrittävät pitää yllä mielikuvaa omasta neutraaliudestaan, on moderointi aina rajan vetämistä siihen, mikä on haluttavaa sisältöä ja mikä ei, Ruckenstein toteaa.
Moderaattoreita koskeva tutkimus tehtiin vuosina 2015-2019 ja se perustuu etnografisesti suuntautuneeseen, laadulliseen aineistoon, jota on kerätty haastatteluista, ryhmäkeskusteluista ja osallistavista työpajoista.
Tutkimusta ovat rahoittaneet Suomen Akatemia ja Helsingin Sanomain Säätiö.
Artikkelijulkaisu:
Re-humanizing the platform: Content moderation and the logic of care
https://journals.sagepub.com/doi/full/10.1177/1461444819875990
Lisätiedot:
Minna Ruckenstein
Puh. 0294120923
minna.ruckenstein@helsinki.fi