Viimeisimmällä Coursera-kurssillani sain tutustua vertaisarviointiin käytännössä. Kurssiin kuului kaksi laajempaa tehtävää, jotka palautettiin raporttina. Jokaisen piti arvioida neljän muun opiskelijan raportit - enemmänkin sai arvioida jos kiinnosti. Lopuksi piti vielä itsearvioida oma tuotoksensa. Arviointikriteerejä oli parikymmentä ja jokaisessa 3 -5 vaihtoehdon asteikko.
Ensimmäinen tehtävä oli helpohko. Kaikki lukemani raportit oli tehty tosissaan, ja niitä oli järkevä arvioida. Toinen tehtävä oli työläs ja vaativa, mutta sen vertaisarviointi sujui nopeasti. Arvioitavien joukossa oli ensinnäkin yksi täysin tyhjä raportti, jonka palauttaja pyysi nöyrästi arvioimaan sen, sillä hän halusi oppia muiden töistä. Motiivi oli hyvä, mutta jäin ihmettelemään millä lihaksilla hän aikoi arvioida muiden töitä. Hämmennys lisääntyi, kun toinenkin lukemistani raporteista oli aivan alkutekijöissään. Ilmiö puhututti myös kurssin keskustelupalstalla.
Ajattelin ensin, että arvioinnista taisi tulla arpomista. Systeemiä kuitenkin korjaa se, että jokaisen osakohdan arvosana muodostuu arvosanojen mediaanista eli keskimmäisestä arvosanasta. Jos neljästä vertaisarvioijasta puolet, siis kaksi, osaa arvioida taiten, saadaan mediaanin avulla tolkullinen arvosana. Esimerkiksi, jos kaksi arvaavaa arvioijaa antaa osakohdalle kolmosen ja kaksi osaavaa arvioijaa viitosen, ja jos tekijä itse vielä arvioi kohdan viitosella, tulee arvosanojen mediaaniksi viitonen. Arvosana lienee kuten pitääkin.