Eesti elanike valmisolek automatiseeritud otsusteks avalikus sektoris

Laadi alla PDF (183.75 KB)

Mida tähendab ADM?
Automatiseeritud otsustamine (Automatic Decision-Making) tähendab ülesannete ja otsuste tegemist algoritmide abil, mis kasutavad kas kindlaid reegleid või õppimisvõimelisi mudeleid, nagu ennustav andmeanalüüs.

• Eesti elanikud suhtuvad Rootsi ja Saksamaa elanikest positiivsemalt automaatsetesse otsustesse ja tehisaru süsteemide (ADM) kasutamisse riigi toetustes ja teenustes. Iga teine Eesti inimene ootab sellest tõhususe kasvu ehk kulude, aja või muude vahendite kokkuhoidu. See osakaal on märgatavalt suurem võrreldes Rootsi ja Saksamaaga.
• Eesti inimesed ootavad enam ka isiklike huvide kaitset ning solidaarsust, samas kui rõhuasetused sotsiaalsele mitmekesisusele ja jätkusuutlikkusele on võrdlusriikidega samal tasemel.
• Teadlikkus automaatsetest otsustussüsteemidest on Eestis aga madal. Positiivse hoiaku aluseks on eelkõige üldine usaldus tehnoloogia ja digiriigi brändi vastu, mitte põhjalik arusaam ADM-süsteemide toimimisest ega usaldus riigiasutuste vastu.
• Automaatsetel otsustussüsteemidel on piiratud võimekus arvestada individuaalseid eripärasid või teha erandeid, mis võivad olla olulised õiglaste otsuste tegemisel​​. Mitmed uuringud rõhutavad, et ADM-i legitiimsuse ja usaldusväärsuse tagamiseks peab kodanikel olema võimalik mõista ning mõjutada otsuste tegemise protsesse, näiteks oma juhtumeid selgitada ja vaidlustada (vaata lisaks Sihitud automaattoetuste teekaart Eestis – Arenguseire Keskus).

Joonis 1. Eesti, Saksamaa ja Rootsi elanike jagunemine suhtumises automatiseeritud haldusotsuste ja tehisaru kasutamise kohta
Allikas: Anu Masso ettekanne konverentsil “Digiühiskond: mõtleme veel“

Riskikartlik skeptik – madal teadlikkus, väike riskitaju, väike andmekirjaoskus.
Tõhususe advokaat – väike riskitaju, usaldab institutsioone, fookus tõhususele.
Sotsiaalne skeptik – nõustub automaatsete otsustega, ent kahtleb arvutisüsteemides. Ennekõike pooldab sotsiaalseid väärtuseid.
Heaolu kaitsja – püüdlus järelvalvele, heaolule ja kaasatusele. Kritiseerib vaid tõhususele keskendumist.
Teadlik avangardist – väga teadlik õigustest ja andmekaitsest. Usaldab ADM-i, kuid mitte riigiasutusi.

Eesti elanikud usaldavad ADM-süsteemide kasutamist riigi teenustes rohkem kui Rootsi ja Saksamaa elanikud, kuid tegelik teadlikkus nende toimimisest ja eripäradest on madal

Kaun jt (2023) ulatuslik küsitlusuuring leiab, et Eesti elanikud on Rootsi ja Saksamaaga võrreldes positiivsemalt meelestatud, et võtta riigi teenustes ja toetustes senisest enam kasutusele automatiseeritud otsuste tegemine ehk ADM. Eesti vastajad andsid kõrgema hinnangu selle sobilikkusele avalikus halduses (Eestis 2,5 vs. 2,2 Rootsis ja Saksamaal). See optimism on märkimisväärne, arvestades, et eestlaste teadlikkus ADM-süsteemidest on tegelikult madal (skoor 1,6 skaalal 1−5). Nii võib usaldus ADM-i vastu põhineda üldisel usaldusel tehnoloogia ja digiriigi brändi vastu, mitte põhjalikul arusaamisel ADM-i toimimisest ega usaldusel riigiasutuste vastu.

Riikide võrdlusuuringus osalenud eestlased hindavad tehisaru tehtud otsuste puhul tõhusust, isiklike huvide kaitset ja solidaarsust kõrgemalt kui Rootsi ja Saksamaa vastajad, ent sotsiaalse mitmekesisuse ja jätkusuutlikkuse küsimuste osas erinevust ei ole​​. Selline eelistuste järjestus võib tugevdada tõhususe ja sotsiaalsete väärtuste vahelist dilemmat, kus kuluefektiivsus võib tulla sotsiaalse mitmekesisuse ning jätkusuutlikkuse arvelt.

Varasemad uuringud on näidanud, et läbipaistvus ja laialdane kodanike osalus on kriitilised tegurid usalduse tagamisel ADM-i vastu. Hollandi teadlased Bovens ja Zouridis rõhutasid juba 2002. aastal, et ADM-süsteemide arendamine peab hõlmama mehhanisme, mis võimaldavad kodanikel mõista ja mõjutada otsuste tegemise protsesse. Sama kinnitas Rootsi 2022. aasta uuring, kus 1700 vastajaga küsitluse põhjal selgus, et vaid väike osa kodanikest teadis ADM-i kasutamisest avalikus sektoris. Lisaks leidsid Rootsi vastajad, et arvutite tehtud otsused on inimese tehtust erapooletumad, kuid vähem õiguspärased, vähem läbipaistvad ning võtavad ADM-süsteemid isiklikke asjaolusid vähem arvesse. Seega on tähtis arvestada, et ADM-süsteemidel on piiratud võimekus arvestada individuaalseid eripärasid või teha erandeid, mis võivad olla olulised õiglaste otsuste tegemisel.

Kuivõrd õiglasena tunnetatakse tehisaru või automatiseeritud süsteemi otsuseid?

Juhtum 1 – Holland

Tulemus: Hollandis tehtud 958 vastajaga küsitlusuuringu põhjal pidas 38% vastajatest ADM-i otsuseid õiglasemaks kui inimeste tehtud otsuseid. Inimeste tehtud otsuseid pidas õiglasemaks 23% ning ligikaudu kolmandik ei suutnud või ei tahtnud valida. Vanemad vastajad usaldasid ADM-i vähem tõenäoliselt, samas kui kõrgema haridustasemega inimesed pidasid ADM-i õiglasemaks. Sugu ei omanud hinnangutele mõju.

Miks peeti tehisaru õiglasemaks? Inimesed pidasid ADM-i õiglasemaks, kuna nad uskusid, et see järgib süstemaatiliselt reegleid, milles ühiskond on kokku leppinud. Kuid usalduse ja õiglustunde seisukohast pidasid kodanikud väga oluliseks ka ADM-i läbipaistvust ja võimalust vaidlustada ADM-i otsuseid, leides, et ADM-süsteemid peaksid sisaldama mehhanisme, mis võimaldaksid inimestel oma juhtumeid selgitada ja vaidlustada.

Mis põhjustas hirme? ADM-süsteemid ei suuda arvestada laiemat konteksti ja teha erandeid. Puuduvad emotsioonid ja empaatia, mis on inimesele omased. Pikaajaliselt võib ADM muuta õigluse mõistet ühiskonnas. Mitmed vastajad leidsid, et ADM võib ühiskonnas kaasa tuua nüansirikkuse vähenemise ning polariseerumise. Oli ka hirme, et ADM-süsteemid võivad muutuda totalitaarseks või ebainimlikuks, kuna tuginevad ainult numbritele ja nn külmadele otsustele.

Juhtum 2 – Saksamaa

Uuringu disain: Saksamaa 2021. aastal tehtud uuringus selgitati osalejatele ADM-süsteemi ja seejärel esitati neile üks neljast võimalikust stsenaariumist: vaktsiinide jaotamise plaani koostas ja otsuse tegi kas ADM-süsteem või inimestest koosnev komisjon ning vaktsineerimisotsus eelistas kas õpetajaid või vange. Seejärel hindasid osalejad otsuse legitiimsust ja jaotusprotsessi õiglust.

Tulemus: 1602 inimest hõlmanud uuringus usaldas automatiseeritud süsteemi otsustajana ligikaudu 60% inimestest, kuid usaldus ADM-i vastu ei mõjutanud seda, kas inimesed peavad legitiimseks ühe või teise sotsiaalse rühma eelistamist vaktsiinide jagamisel. Otsuse sisulises aktsepteerimises oli otsuse tegijast palju olulisem see, kas pooldati vangide või õpetajate eelisvaktsineerimist.

Mida see tähendab? See viitab, et isegi kui ADM-süsteemid on usaldusväärsed ja eetilised, ei pruugita nende otsuseid laialdaselt aktsepteerida. Seega ei pruugi nn usaldusväärne tehisaru (trustworthy AI) lahendada mitmeid eetilisi probleeme, kuna otsuste legitiimsus sõltub eelkõige avalikkuse eelistustest.

Viited:

• Anu Masso ettekanne 9. mail hübriidkonverentsil “Digiühiskond: mõtleme veel”.
• Bovens & Zouridis (2002). Van street-level bureaucratie naar systeem-level bureaucratie. Over ICT, ambtelijke discretie en de democratische rechtsstaat. NJB, afl. 2, p. 65−74.
• Denk, T., Hedström, K., & Karlsson, F. (2022). Citizens’ attitudes towards automated decision-making. Information Polity, 27(3), 391−408.
• Dunleavy, P., & Margetts, H. (2023). Data science, artificial intelligence, and the third wave of digital-era governance. Public Management Review, 25(4), 521−539.
• Helberger, N., Araujo, T., & de Vreese, C. H. (2020). Who is the fairest of them all? Public attitudes and expectations regarding automated decision-making. Computer Law & Security Review, 39, 105456.
• Kaun, A., Stiernstedt, F., & Trenz, H. J. (2023). Automating public administration: Citizens’ attitudes towards automated decision-making across Estonia, Sweden, and Germany. Information, Communication & Society, 26(3), 317−335.
• Lünich, M., & Kieslich, K. (2021). Using automated decision-making (ADM) to allocate Covid-19 vaccinations? Exploring the roles of trust and social group preference on the legitimacy of ADM vs. human decision-making.

Lühiraport “Eesti elanike valmisolek automatiseeritud otsusteks avalikus sektoris” on osa Arenguseire Keskuse uurimissuunast “Personaalriigi tulevik”. Uurimissuuna eesmärk on selgitada andmepõhise personaliseerimise võimalusi sotsiaal- ja haridusvaldkonna teenustes ja toetustes ning koostada alternatiivsed stsenaariumid.