Vastuullinen julkaisumetriikka täydentää laadullista arviointia

Julkaisumertriikan vastuullinen käyttö toimii yliopistoissa tietojohtamisen tukena.

Julkaisumetriikka eli bibliometriikka on ala, joka tutkii tiedettä käyttäen tutkimusaineistonaan tieteellisiä julkaisuja ja niiden sisältämiä tietoja. Tiedot julkaisun tekijöistä, heidän organisaatioistaan, julkaisun julkaisuajankohta ja julkaisukanava, aihetta kuvaileva asiasanat ja lähdeluettelot ovat esimerkkejä tiedoista, joita voidaan käyttää bibliometrisissä analyyseissä.  
 
Julkaisumetriikan avulla voidaan vastata esimerkiksi seuraaviin kysymyksiin: Ketkä tutkijat tekevät yhteistyötä, mitä aiheita tiedekunnassa tutkitaan ja kuinka paljon julkaisuihin viitataan. Myös muutosta ja trendejä on mahdollista seurata: Ovatko julkaisujen tai yksittäisten julkaisujen kirjoittajien määrät muuttuneet vuosien mittaan?  
 
Julkaisujen tiedoista voidaan myös rakentaa erilaisia indikaattoreita, joilla pyritään kuvaamaan julkaisujen yleisiä piirteitä. Tyypillisimpiä indikaattoreita ovat julkaisujen viittausvaikuttavuutta kuvaavat indikaattorit kuten viittausten määrä ja h-indeksi sekä lehtien viittausvaikuttavuutta kuvaava impact factor. Käytössä on myös uudempia tieteenalojen erilaiset julkaisukäytännöt huomioivia julkaisujen viittausvaikuttavuutta kuvaavia indikaattoreita kuten Top10% indikaattorit ja tieteenalanormalisoidut viittausindeksit. 

Julkaisumetriikan menetelmiä ja indikaattoreita on hyödynnetty myös erilaisissa tutkimuksen- ja tutkijanarvioinneissa ja tiedolla johtamisessa. Niiden avulla voidaankin saada paljon hyödyllistä lisätietoa varsinkin, kun tarkastellaan suurten kokonaisuuksien kuten kokonaisten yliopistojen tai niiden tiedekuntien julkaisutoimintaa.  

Vastuullisen arvioinnin suositukset

Bibliometristen menetelmien ja indikaattoreiden käyttö voi kuitenkin olla myös ongelmallista, bibliometrinen data ja indikaattorit kun vaativat aina tulkintaa. Jos bibliometrisiä indikaattoreita käytetään ainoana tai ensisijaisena arvioinnin välineenä, eikä oteta huomioon esimerkiksi arvioitavan tutkijan tai yksikön tavoitteita, käytössä olevia resursseja ja tieteenalaa, päädytään helposti vääriin johtopäätöksiin. Tiettyyn tarkoitukseen luodun indikaattorin käyttö toiseen tarkoitukseen synnyttää myös ongelmallisen tilanteen. Tyypillinen esimerkki on tieteellisten lehtien laadun tai näkyvyyden arviointiin käytettävien indikaattorien kuten Jufo-tasojen tai lehtien impact factorien käyttäminen yksittäisen tieteellisen artikkelin laadun arvottamiseen. Yksittäinen artikkeli voi olla varsin taiten tehty riippumatta siitä miten arvostetussa lehdessä se on julkaistu.  

Tiedeyhteisö on havahtunut näihin ongelmiin. Viimeisen kymmenen vuoden aikana on ilmestynyt useita vastuullisen arvioinnin suosituksia, joissa otetaan kantaa myös julkaisumetriikan käyttöön. Suosituksia ovat Vastuullisen tutkijanarvioinnin kansallinen suositus (2021), DORA (Declaration on Research Assessment, 2012) ja The Agreement on Reforming Research Assessment (2023). Helsingin yliopisto on sitoutunut näihin suosituksiin. Julkaisumetriikan osalta näiden suositusten keskeinen sanoma on se, että laadullinen arviointi on tutkimuksen arvioinnin ensisijainen menetelmä ja määrällisillä menetelmillä, joihin bibliometriset menetelmät luetaan, tuetaan laadullisen arvioinnin tekemistä.   

Helsingin yliopiston kirjaston julkaisumetriikka-asiantuntijat ovat olleen mukana tekemässä Vastuullisen tutkijanarvioinnin kansalliseen suositukseen sisältyvää suositusta julkaisumetriikan vastuullisesta käytöstä. Suosituksen ydinsanoma, on että jokaisessa bibliometrisessä analyysissä on otettava huomioon arvioinnin kohteen erityispiirteet, kuten tieteenalan julkaisukäytännöt. Sen lisäksi on pohdittava tarkasti mihin kysymyksiin juuri kyseisessä arvioinnissa halutaan vastata. Analyysissä käytetyn datan ja indikaattoreiden tulee soveltua juuri kyseiseen tilanteeseen.  
 
Suositus tuo myös esiin, että avoimuus on tärkeä arvo vastuullisessa julkaisumetriikassa. Kirjaston julkaisumetriikka-asiantuntija pohtivat jokaisen analyysin kohdalla, kuinka suosituksen eri näkökohdat otetaan mahdollisimman hyvin huomioon. Avoimuutta voidaan toteuttaa analyyseissä perustelemalla esimerkiksi sitä, miksi on valittu juuri kyseinen data ja indikaattorit. Datan ja indikaattorien mahdolliset puutteet tuodaan esille. 

Suosituksessa otetaan kantaa myös bibliometriseen asiantuntemukseen ja koulutukseen. Jotta vastuullinen julkaisumetriikka toteutuisi on tunnettava tieteenalojen erilaiset julkaisukäytännöt, bibliometristen indikaattoreiden ominaisuudet ja bibliometrisissa analyyseissä käytettävä data. Tätä tietoa tarvitsevat sekä työkseen julkaisumetriikkaa tekevät että bibliometrisiä analyysejä hyödyntävät henkilöt.   
 

Osaamisen karttuu oppaassa ja verkostoissa

Kansallisen julkaisumetriikkaoppaan (2022) avulla kaikki julkaisumetriikkaa käyttävät voivat tutustua julkaisumetriikan keskeisiin käsitteisiin sekä indikaattorien ja tiedonlähteiden ominaisuuksiin.  Oppaan kehittämisestä vastaa suomalaisia julkaisumetriikan asiantuntijoita yhteen kokoava Finn-ARMA julkaisumetriikkaverkosto. Helsingin yliopiston kirjaston julkaisumetriikka-asiantuntijat ovat osallistuneet oppaan kirjoittamiseen ja sisällön päivittämiseen. Kansallisen julkaisumetriikkaoppaan aineistot ovat keskiössä myös Helsingin yliopiston väitöskirjatutkijoille tarjottavassa julkaisumetriikkakouluksessa ja yliopistolle räätälöidyissä materiaaleissa.  

Tärkeä tapa edistää vastuullisen julkaisumetriikan toteutumista on tutkia tarjolla olevien bibliometristen menetelmien soveltuvuutta Helsingin yliopistossa tehtäviin analyyseihin. Käytännön esimerkki tällaisesta selvitystyöstä on kirjaston julkaisumetriikkaryhmän vuonna 2023 tekemä selvitys siitä kuinka eri tietokantojen YK:n kestävää kehitystä kuvaavat julkaisuryhmittelyt toimivat kun niitä sovelletaan Helsingin yliopiston julkaisuihin. Selvitys on esitelty posterina Nordic Workshop on Bibliometrics and Research Policy 2023 -konferenssissa, jossa käsitellään laajasti bibliometriikan uusia menetelmiä, vastuullisuusnäkökulmaa unohtamatta. (Linkki posteriin) 

Bibliometristen menetelmien suurin etu on se, että niiden avulla meidän on mahdollista analysoida laajoja aineistoja. Vastuullisesti toteutetuista bibliometrisistä analyyseistä voidaan saada paljon hyödyllistä lisätietoa tai vahvistusta laadullisen arvioinnin tueksi. Ajankohtaista onkin edistää julkaisumetriikan hyviä käytäntöjä perinteisten indikaattorien ja analyysien osalta. Lähitulevaisuudessa odottavat uudet huomioon otettavat tekijät. Avoimesti saatavilla olevia julkaisumetriikkatietokantoja kehitetään. Kuinka hyvin nämä uudet datanlähteet soveltuvat Helsingin yliopiston julkaisujen analysointiin? Entäpä tekoäly? Tekoälysovelluksia kehitetään eri aloille eikä julkaisumetriikka ole poikkeus. Tätä kehitystä on syytä seurata tarkasti ja miettiä sen tuomia muutoksia vastuullisuusnäkökulmasta, jotta voimme jatkossakin hyödyntää julkaisumetriikkaa tinkimättä avoimuudesta ja vastuullisuudesta. 

Terhi Sandgren
tietoasiantuntija