Kunstig intelligens: Et nyttig redskap eller en trussel mot demokrati og personvern?

Kunstig intelligens er en helt avgjørende teknologi, som snart brukes «overalt». Men hva er det egentlig? Og er det noen utfordringer vi bør være spesielt oppmerksomme på?

Tekst: Aud Gjersdal

– Jeg tror vi har det med kunstig intelligens (KI) i dag, slik vi hadde det med datamaskiner på 1980-tallet og internett i 1990-årene; vi skjønner at det er en kjempegod teknologi som kommer til å bli altoppslukende. Alle bruker datamaskiner i dag. Det er bare en del av vår verden. Siden KI klarer å gjøre mer og mer hele tiden, spesielt gjøre ting vi trodde var forbeholdt mennesker, får den større innvirkning enn vi kan forestille oss. Dette er en teknologi som vi har muligheten til å hoppe på, bruke og stå i ledelsen for gjennom offentlige norske bibliotek.

Det sier Morten Goodwin, professor i kunstig intelligens ved Universitetet i Agder. Vi møter ham for å finne ut hva kunstig intelligens egentlig er – og hva det innebærer. Men aller først: Hvordan kan vi se om et program er intelligent?

– Innen kunstig intelligens har vi en formell definisjon, og det er at den kan løse komplekse problemer. Hvis det klarer å løse ett vanskelig nok problem, så er det intelligent. En kalkulator kan løse litt vanskelige problemer og er litt intelligent. Mens et program som spiller sjakk er mye mer intelligent. En kjent forsker innen KI, Alan Turing, definerte KI som menneskelig etterlikning. Altså hvis et program kan snakke og oppføre seg som et menneske så godt at jeg som menneske ikke klarer å se forskjell på mennesket og roboten, da har vi nådd virkelig kunstig intelligens.

Definisjonens bestanddeler

– Regjeringen definerer kunstig intelligens slik: Kunstig intelligente systemer utfører handlinger, fysisk eller digitalt, basert på tolkning og behandling av strukturerte eller ustrukturerte data, i den hensikt å oppnå et gitt mål.

– Systemer i KI er kunstige systemer som dataprogrammer, roboter, apper … et eller annet som er digitalt og ikke biologisk. Hvis jeg som biologisk menneske gjør noe, så er jeg ikke kunstig intelligent, for jeg er av kjøtt og blod. Men om en robot gjør det samme, så er det KI. Dataprogrammer, som er en serie med instruksjoner, kalles også algoritmer. En kaller det ofte en algoritme når det er et konkret og enkelt dataprogram, sier han, og forklarer videre:

– Handlinger er at det kommer en prediksjon – altså et forslag til noe. Det kan være forslag til et menneske om å låne en biblioteksbok. Du har lånt disse bøkene, og her er et forslag til. Eller til en selvkjørende bil der handlingen kan være å kjøre til høyre eller venstre. Eller medisinskfaglig – å gi forslag til en diagnostikk. Det er å gjøre et eller annet, enten digitalt i et program eller fysisk ved at det er en robot som gjør noe.

– Og tolke data?

– Majoriteten av KI har noe data i seg. I bibliotek kan dette være lånere som ikke har levert inn bøkene sine. KI fungerer på nesten hva som helst av data, så lenge det er et eller annet mønster i dem. For eksempel: Er det noe mønster som forteller hvilke bøker som passer for meg?

– Hva med ‘Mål’?

– For å få kunstig intelligensen til å oppnå målene vi setter, er vi avhengig av å definere dette med matematikk. Det vanligste er å gi algoritmene poeng. Dersom den under trening gjør noe riktig, som å foreslå en bok som en leser velger å låne ut, gir vi den plusspoeng. Derimot, hvis algoritmen bommer, som å foreslå en bok som leseren ikke velger å låne, gir vi den isteden minuspoeng. Slik forsøker den kunstige intelligensen hele tiden å få mest mulig poeng, og samtidig bli flinkere og flinkere til å oppnå målene vi har bestemt.

Etiske dilemmaer

Kunstig intelligens vil antakelig få stor betydning for bibliotekene, men finnes det noen etiske problemstillinger vi bør være klar over? Marija Slavkovik er professor i kunstig intelligens ved Universitetet i Bergen og underviser blant annet i KI-etikk, som dreier seg om hvordan vi skal håndtere de moralske, personlige og samfunnsmessige virkningene av å erstatte mennesker med KI-systemer. 

– Det har skjedd en forandring når det gjelder hva datamaskiner gjør og hvem som omgås dem. Før fantes det systemer på størrelse med en bygning eller et rom, det var dører og det ble kontrollert hvem som slapp inn til maskinene for angitte formål. Du visste hvor de var, hvem som eide dem og hvem som hadde tilgang på dem. Nå har du en datamaskin i mikroen, vaskemaskinen og i lommen. Du vet ikke hvem som eier dem. Du betaler for telefonen, men det er applikasjoner på den og du som bruker vet ikke hvem de arbeider for og hvilken informasjon de sender, sier hun.

– Vi må forstå hva det er ok at kunstige aktører gjør og hva som ikke er ok. I KI-etikk er en opptatt av at KI ikke skal virke negativt på omgivelsene samt at teknologien bygges på en måte som hindrer at den opptrer uetisk.

KI-etikk er viktig for alle, mener hun. Men noen ting berører bibliotekarer spesielt. Det gjelder for eksempel programvare som er laget for å finne informasjon eller besvare spørsmål. Ett eksempel er det norske selskapet Iris.ai, som har laget en «virtuell bibliotekar». Personer i et forskningsfelt kan beskrive problemet ved hjelp av 300–500 ord til systemet, og ved hjelp av kunstig intelligens anbefaler det relevant litteratur. Iris.ai tilbyr også programvare som kan trekke data ut fra dokumenter, sette dem sammen og presentere det for brukeren.

– Dette pleide bibliotekarene å gjøre, men disse tjenestene kommer ikke fra personer med erfaring fra bibliotek, men for eksempel fra programvareselskaper. Jeg tror de vil gjenoppfinne det bibliotekarer allerede vet, og kanskje de heller ikke gjør det som er helt selvfølgelig for bibliotekarer å gjøre, sier hun, og mener bibliotekarer bør være tydeligere på hva de kan bidra med – både overfor publikum og de som utvikler programvarene, ikke minst med tanke på kunnskapen om kildekritikk.

Slavkovik mener videre vi må tenke på hvordan bruk av KI forandrer hva vi gjør.

– Når et menneske gjør jobben, tenker det på alt. Når noe går galt, stoler de på erfaringen, de vet hvem de skal ringe til for å få mer informasjon. Når en automatiserer oppgaver, er KI veldig god på å finne mønstre i ting. Men den finner bare mønstre i informasjonen den blir matet med. Den vil ikke nødvendigvis oppdage at informasjon mangler og har definitivt ikke evnen til å be om mer informasjon. Det betyr at vi ødelegger noe, så vi må tenke over hva vi ødelegger og hvordan vi kan kompensere for det.

– Kan bli en trussel for demokratiet

En som er klar på at kunstig intelligens også kan innebære risiko og utfordringer, er Anja Salzmann. Hun er postdoktor ved Det psykologiske fakultet ved Universitetet i Bergen og har forsket på risikoteknologier, slik som de digitale teknologiene.Salzmann er født i tidligere Øst-Tyskland og har opplevd store politiske omveltninger. Hun er spesielt opptatt av hvilken påvirkning KI kan ha på demokratiet.

– Jeg er klar over at systemendring kan skje fordi jeg ikke alltid har levd i et demokrati og vet at vi må kjempe for det. En hodeløs digitalisering av samfunnet kan utvikle seg til en fundamental trussel for våre demokratier. Vi vet for eksempel ikke hvordan demokratiet i USA, opphavsland for mange av de digitale teknologiene som vi daglig bruker i dag, vil utvikle seg.

Det samles inn store mengder data som gjør det mulig å lage svært nøyaktige profiler av oss, forteller hun, og nevner Cambridge Analytica-skandalen i 2018 som viste at det ved hjelp av «psykologisk profilering» var mulig å påvirke personers atferd, emosjoner og valgpreferanser.

– Det er derfor viktig å se nøye på hvem som eier og kontrollerer teknologiene og de dataene som samles om oss, fordi de kan bli brukt til å underminere demokratiske prosesser.

Hun stiller også spørsmål ved de demokratiske prinsippene rundt hva som vises for oss på nett. Algoritmer sørger for at vi eksponeres for det vi allerede er interessert i.

– Men en kan spørre seg: Er det lurt at folk får det de vil se eller hva de egentlig burde se?

 – Eller det de ikke vil ha? En skal jo ha forskjellige syn og motforestillinger?

– Ja, nettopp, det er viktig i et demokrati. Vi må tåle andre sine perspektiver og ideer og være åpen for det som er ubehagelig, men viktig. Særlig med tanke på de store utfordringene kommende generasjoner står overfor. Jeg mener demokratiet er den eneste politiske formen som har potensial for gode løsninger, fordi vi trenger et mangfold av ideer for å løse dem.

Personvern og KI

Et annet område Salzmann mener kan være en utfordring, er personvernet.

– Det er stor fare for at mange av våre smarte maskiner vil undergrave menneskelig autonomi. Det er mennesker som vil ta tilsynelatende objektiv informasjon som maskiner foreslår for god fisk uten å reflektere over det kritisk. Men algoritmer er ikke feilfrie. For å unngå dette blir ofte løsningen å mate maskinene med enda mer data, men det er i mange tilfeller på kollisjonskurs med personvern. Google og Facebook samler masse data om oss og lager profiler for å levere personlig tilpasset reklame.

Disse profilene selges til høystbydende når vi åpner en nettside, forteller hun, og det er de som kan avgjøre hva slags innhold vi får se. Dette skaper en konflikt mellom personvern og KI. KI trenger mye data – og demokratiet trenger personvern.– Personvern er en psykologisk nødvendighet og en fundamental menneskerett forankret i nasjonalt og europeisk lovverk. Et demokrati trenger borgere med mulighet til å tenke og ytre seg fritt, danne seg egne meninger og lytte til andres meninger. I et samfunn uten personvern er det umulig å dyrke disse forutsetningene. Stemmeavlukket er ikke bare én av de viktigste symboler for demokratiske valg, men viser også symbolsk hvor viktig en fri og anonym avstemning er.

Mange spørsmål

Slavkovik oppfordrer oss til å stille spørsmål, for KI er noe vi trenger kunnskap om.

– Du trenger å vite nok om kapasiteten til KI-systemet og vite når en skal og når en ikke skal bruke det. Be om mer informasjon. Hva kan den ikke gjøre? Hva må jeg forandre i mine prosesser for å kunne bruke den? Jeg tror vi er trollbundet av det magiske med KI. At det er så smart. Men det er opp til oss å forstå at det ikke finnes slike ting som magi, bare en teknologi. Vi har ikke alltid tålmodigheten og interessen av å forstå hvordan den virker, men vi bør ha tålmodighet og interesse i å forstå hva den ikke kan gjøre.

Samtidig som KI kan løse mange komplekse problemer, kan det også skape nye, mener Salzmann.

– Det reiser mange fundamentale filosofiske spørsmål. For eksempel, hva betyr det egentlig å være menneske i dette århundret? Fører den økte bruken av maskiner til at vi nedgraderes til kvantifiserte og analyserte dataobjekter? Er vi mennesker bare summen av statistiske kvantifiseringer som usynlige og ikke-transparente algoritmer regner seg frem til? Går vi mot en verden som er mindre human? Vi må tenke over hvordan vi kan bruke KI til å understøtte demokratiske prinsipper og at vi skaper en fremtid som vi og våre barn ønsker å leve i.

Noe er likevel hevet over enhver tvil. Goodwin råder bibliotekarer og biblioteker til å være åpne for KI:

– Hopp på teknologien – og bruk den. Mange av de store teknologigigantene vil helt sikkert bidra i utviklingen av bibliotekverdenen. Bibliotekarene og bibliotekene har kompetanse på bibliotek: Så kjør noen prøveprosjekter og få til ting. Få god kunnskap om hva det kan, og hva det ikke kan gjøre. Hvis man ikke gjør det, så tror jeg det ikke er mange år før det kommer en Google-bibliotekløsning. Slik som allerede har skjedd med Google Maps. Statens kartverk gjør mye fint, men ingen, bortsett fra andre offentlige organer, bruker det. Det kan skje i bibliotekverdenen også.

Denne saken ble først publisert i Bibliotekaren 4/2022