Etikk og bias i kunstig intelligens

Av BERRE Kommunikasjonsbyrå for NTNU/ Nokios-konferansen 2020

I dag benyttes algoritmer i alt fra å velge ut jobbsøkere til å effektivisere industriprosesser. Hvor datadrevet skal det være, og hvor trenger vi digital etikk?

H vor bevisste er egentlig rekrutterere når de søker etter kandidater, på at algoritmer gjør utvalget for dem? Spørsmålet stilles av Leonora Bergsjø, leder av Norsk råd for digital etikk. Hun forteller at bekymringen for digital etikk generelt er lav i offentlige virksomheter, ifølge en rapport av Heather Bloomfield og Lisa Marie Reutter ved NTNU.

– De (virksomhetene, red. anm.) er opptatt av organisasjonskultur og mye annet, men de er ikke så bekymret for etiske problemstiller. Hun understreker at det foreligger mye kompetanse på etikk og digitalisering i Norge, men etterlyser en tverrfaglig og tverrsektoriell samtale om hva teknologien kan gjøre med samfunnet – på godt og vondt.
– For å avdekke det, trenger vi å komme ut av de gode faglige boblene vi sitter i og snakke sammen, slår hun fast.

Ulike områder av KI

Trym Holter er direktør ved Norwegian Open AI lab. Han minner om at det riktignok er en del skremselspropaganda rundt kunstig intelligens:
– Vi skiller mellom den kunstige intelligensen som skal komme og ta over verden, og det forskere og systemutviklere jobber med, som er en mye smalere form for kunstig intelligens, og som forhåpentligvis også er mer håndterbar.

Han trekker frem et eksempel:
– Hvis du klarer å forutsi produksjonen av vindkraft på en bedre og mer treffsikker måte, er det vanskeligere å se nedsiden ved det, enn å se nedsiden ved utstrakt bruk av ansiktsgjenkjenning på en flyplass, eller automatisk behandling av jobbsøknader, sier han.

Bergsjø påpeker også at det kan by på problemer når teknologien utvikles i et globalt marked:
– Det vi tenker på som helt riktig etisk, er ikke nødvendigvis verdien et annet sted, hvor teknologien utvikles og tas i bruk.

Bias i kunstig intelligens

En av de klassiske utfordringene, som det ifølge Holter forskes mye på, er skjeve datasett.
– Innenfor maskinlæring er bias et problem, enten det er en etisk utfordring eller ikke, sier han og beskriver en algoritme hvor man har forsøkt å skille mellom ulv og hund på bilder. Etter å ha lagt algoritmene, viste det seg at ulvene ofte er fotografert på snø. Dermed har det vært snøen algoritmen har gjenkjent, og ikke ulven.
– Det er jo en form for bias, om ikke med noen store etiske implikasjoner, sier han og legger til at det er avgjørende å utvikle gode metoder og awareness, for å se hvor det kan oppstå bias. Holter er overbevist om at etikk kommer til å bli et konkurransefortrinn for bedrifter i fremtiden, på samme måte som bærekraft har en posisjon i dag.

Holter nevner også et annet felt innenfor kunstig intelligens som forskningen vier mye oppmerksomhet, og det er forklarbarheten – explainability. Han sier at dersom en lånesøknad behandles i et kunstig intelligent system, bør svaret alltid følges av en forklaring, slik at menneskene kan se hvilke inngangsdata som drar i den ene og den andre retningen.

Han nevner et eksempel fra NAV, som har prøvd å implementere forklarbarhet når lengden på en sykemelding skulle forutsies. Her ble det lagt til et lag som tok for seg sykdomshistorie, yrke, utdanningsbakgrunn og andre faktorer som kunne tilsi sjansen for en lang eller en kort sykemelding.
– Hvis svaret bare hadde vært 14 dager og 2 uker, punktum, hadde det vært lite tilfredsstillende. Når man gjør det menneskevennlig, blir det mulig å legge til sine egne betraktninger.

Må settes i system

Bergsjø understreker at etisk debatt er en av de tingene regjeringen oppfordrer til i den nasjonale strategien for kunstig intelligens fra 2020, men at vi fortsatt ikke har et digitaletisk råd tilsvarende Digitaliseringsrådet hvor du kan stille inn en digital case og få det diskutert ut fra etiske hensyn.
– Det er masse debatter, men det er ikke satt i system fra regjeringens side.

Hun mener at koronoasituasjonen har bidratt til å få temaet opp på agendaen:
– Det har vært en hastedigitalisering, også i skolen og blant andre grupper som det har vært for lite fokus på, som barn og unge.

Tror du vi vil se en løsning på utfordringene?
– Jeg er optimist by choice, men dette kommer ikke av seg selv, svarer Bergsjø og fortsetter:
– Vi må faktisk få bedre systemer for samarbeid, og ikke overlate etikken til etikeren. Alle må ta ansvar i å tenke på hvilke etiske implikasjoner jobben jeg gjør har i det store systemet. Enhver må myndiggjøres til å tenke at «ja, jeg kan blande meg. Jeg er teknolog, men jeg kan også mene noe om etikk».

Bergsjø poengterer avslutningsvis:
– Gartner snakket i 2019-prognosen sin om hva som ville være suksessfaktorene for KI fremover, og da var digital etikk en av dem. Det er nøkkelen til suksess.
Digital etikk og personvern.