Fire fallgruver som kan komme i veien for etisk og bærekraftig kunstig intelligens

Koronapandemien skjøt fart i digitaliseringen, og med utrullingen av 5G eskalerer innovasjonstakten. 5G gir mulighet for enormt mange flere IOT-enheter, som samler inn data fra ulike sensorer og stemme- og ansiktsgjenkjennelse. Og all denne dataen kan lagres og brukes stadig mer effektivt. Det gir AI-algoritmene mye å jobbe med, og teknologien modnes og blir smartere. AI står for Artificial Intelligence, altså kunstig intelligens, og kan benyttes for å dekode, behandle og analysere store mengder med data. Det åpner et hav av muligheter – men det er også risikoer.

• Oppdag Telias IoT-løsninger

– AI er selvlærende, den er selvskalerende. Det er samtidig få forklaringsmodeller og lite åpenhet. Det mangler også fortsatt et regelverk, sier Anna Felländer, som har grunnlagt AI Sustainability Center.

Europakommisjonen la i våres frem et forslag om en AI-lovgivning, men den er enn så lenge kun under behandling.

— Det betyr at selskapene som bruker AI selv er ansvarlige for hvordan deres bruk påvirker mennesker og samfunn, forklarer Felländer.

Hun er en av Sveriges ledende eksperter på effekten av digitalisering i organisasjoner, samfunn og økonomi. I 2018 startet hun et tverrfaglig forskningsteam for å se nærmere på AI, og har identifisert fire tydelige etiske fallgruver, som organisasjoner må være oppmerksomme på — for å unngå etiske risikoer, som krenking av privatlivet, diskriminering og sosial ekskludering.

1: Umoden data og AI

Den første fallgruven er umoden data – når dataene er utilstrekkelige eller ikke validerte, eller AI-modellen ikke er godt nok opplært. Da kan AI-modellene trekke slutninger som ikke stemmer.

Glenn Barmen, Business Manager i Telia Enterprise, mener man kan se mange eksempler på dette.

– Ny teknologi er spennende og viktig, men vi må holde øynene på ballen. De fleste har sikkert vært borti en «God dag mann økseskaft»-chatbot, der svarene ikke gir mening – det er feil vei å gå. Det er viktig å fokusere på hvor AI kan skape mest verdi for bedriften, og starte med de enkleste og beste tiltakene.

• Se Anna Felländers Telia Talks-foredrag om bærekraftig og etisk AI

2: Misbruk av data

Selv om selskapet følger regler for personvern, kan AI gi innsikt som invaderer folks privatliv. Det kan være vanskelig å finne balansen mellom modellens ytelse og nøyaktighet, og samtidig sørge for at personvernet ivaretas.

– Dette er en slags «Catch 22». For at en AI-modell skal respektere privatlivet, og være rettferdig overfor kundene, trenger man mye data. Jeg trenger altså mye data — hvis jeg skal behandle deg rettferdig uten å bryte privatlivet ditt, forklarer Felländer.

Tillit er nøkkelen. For å lykkes må kundene stole nok på selskapene, til at de er villige til å dele data med dem. Det krever full åpenhet om hvordan persondataene benyttes.

MASKINLÆRING: Maskinene blir stadig flinkere til å lese og analysere data, og kan gjennomgå langt større mengder på mye kortere tid enn før.

3: Verdigrunnlaget

Den tredje fallgruven Felländers team kom frem til er verdigrunnlaget til programmererne eller selskapene som lager AI-modellene. Lite hensiktmessige intensjoner vil raskt bli overført til modellen.

I motsatt fall kan det også skje at programmererne ikke klarer å overføre de gode verdiene til modellen, slik at den likevel ikke følger de etiske prinsippene man faktisk ønsker.

Miguel Silva er CEO og grunnlegger av selskapet Visualyst. De bruker AI til å gå gjennom videomateriale for TV-distributører, for å fange opp ting som kan bryte med regler eller etiske retningslinjer i landet det skal sendes.

For Visualyst er det dermed helt avgjørende å klare å overføre de verdiene og etiske prinsippene som gjelder for hvert land og kanal til sin AI-modell.

– Å skape en AI er egentlig som å føde et barn. Barnet kan gå mange ulike veier, og da er det opp til deg som forelder å se deg i speilet og tenke: Hva er mine verdier? Hva er viktig for meg? Og sånn må du oppdra barnet, du må overføre dine verdier, forklarer Silva.

INNOVERER MED AI: Miguel Silvas startup Visualyst benytetr kunstig intelligens for å forenkle tidkrevende prosesser for film- og tv-bransjenn.

• Les mer om Visualyst, som er med i mentorprogrammet Telia Startup.

4: Forutinntatte data

Det er ikke alltid data reflekterer virkeligheten. For eksempel hvis en AI-algoritme innen helse bare blir brukt til å diagnostisere menn, så kan den faktisk gjøre skade på en kvinnelig bruker.

Eller da Microsofts ansiktsgjenkjenning ikke klarte å kjenne igjen ansiktet til svarte kvinner, fordi modellen hovedsakelig var trent opp med bilder av hvite menn.

– Alle disse fallgruvene og risikoene kan faktisk gjøre at selskapets verdier og etiske prinsipper brytes uten at du er klar over det, påpeker Felländer.

Hun mener at teknologien nå kan gå i to retninger. Alt avhenger av hvorvidt vi klarer å være bevisste nok på disse fallgruvene til at vi styrer teknologien, og at vi ikke risikerer at teknologien styrer oss.

Anders Gjerde er Head of Service Delivery i chatbot-leverandøren Boost.ai. Han har sett mange eksempler på hvordan ny teknologi påvirker bedrifter. 

– Jeg har sett hvor viktig det er å lede teknologien, og ikke la teknologien lede deg. AI skaper mange gode muligheter, og hvis vi klarer å lede den så kan vi sikre arbeidsplasser, og vi kan frigjøre folk fra repetitive og enkle oppgaver. Men det er helt avgjørende å lete etter teknologi som faktisk kan hjelpe – ikke bare teknologi som er spennende.

Etikk som konkurransefortrinn

Det er ingen tvil om at våkne organisasjoner med etiske filtre på AI-løsningene sine, som skaper innovasjoner vi kan stole på, vil ha et konkurransefortrinn i tiden fremover.

Felländer tror de nordiske selskapene er i en unik posisjon til å lede an i nettopp dette arbeidet, fordi vi allerede har et sterkt verdidrevet næringsliv.

– Man ser det samme på børsen. De selskapene som går best, er de som jobber med miljømessige, sosiale og forretningsetiske forhold, og kan vise hvordan de gjør det. Tiden da du kunne skjule noe er over. Du kan ikke lenger jobbe med bærekraftspørsmål uten å vise hvordan du etterlever målene dine. Du slipper ikke lenger unna med «oi, det visste vi ikke».

Hun ønsker likevel å vekke nysgjerrighet rundt hva AI kan bringe. For det er uten tvil et kraftig verktøy, som både bedrifter og det offentlige kan tjene mye på å implementere.

• 6 måter 5G vil forandre fremtiden på