Kildekritiske utfordringer

Tekst: Aud Gjersdal Foto: Margrethe Gaassand

Hva skjer med kildekritikken med AI-basert informasjonssøking? Det var tittelen til professor Olof Sundin sitt foredrag på årets KORG-dager, arrangert av Institutt for arkiv-, bibliotek- og informasjonsfag på OsloMet.

Kildekritikkens ingredienser

Kildekritikk handler om å vurdere troverdigheten til kilder. Sundin henviser eksempelvis til denne definisjonen[1]:

«Att vara källkritisk innebär att värdere den information man tar del av. Det betyder dels att förstå att vissa källor har högre trovärdighet än andra, dels att vara medveten om att avsändare av information har ett syfte»

Kildekritikk var opprinnelig en historisk metode for å bedømme troverdigheten til historiske kilder. Historikeren Leopold von Ranke var en av grunnleggerne, der han mente at historieskriving skulle vise «wie es eigentlich gewesen» — altså hvordan det egentlig var. Metoden har nå utbredelse i hele samfunnet og inngår i dets psykologiske forsvar mot desinformasjon og påvirkningsoperasjoner.

— Det som en gang handlet om «hva hendte egentlig» er nå i den populære diskursen blitt til det binære «hva er sant? Stemmer det?», sier han, og legger til at vi som bibliotekarer i større grad selv burde forstå, og bidra til at andre forstår, hvordan man fastsetter hva som er sant.

Vi må kunne besvare spørsmålet:
— Hvilke ingredienser finnes når vi etablerer noe som sant eller som en troverdig påstand?

Men hvordan skal en gjøre kildekritikk om en ikke stoler på noen?

Olof Sundin

Finne troverdige kilder

Hver enkelt borger har ansvar for å kontrollere den informasjonen vi møter i hverdagen. Sundin understreker avhengigheten av samfunnsnivået, og viser et avisutklipp som viser at Donald Trump har sagt at inntak av desinfeksjonsmiddel beskytter mot korona. Men når ledende representanter slik sprer usanne opplysninger, mister folk tilliten til samfunnsinstitusjonene.   

— Kildekritikk handler også om tillit, sier Sundin, og påpeker at det i mange tilfeller ikke er mulig for det enkelte individ å avgjøre troverdigheten til informasjon.

— Det er veldig vanskelig å gjøre kildekritikk om det ikke finnes en grunnleggende tillit til samfunnsinstitusjonene, sier han, og understreker at institusjoner som nyhetsmedier, bibliotek og myndigheter må kunne skape tillit til det de sier. Sundin advarer mot en destruktiv kildekritikk. Da stilles spørsmål ved alt og der en ikke stoler på noen, heller ikke samfunnets institusjoner. Dette kan være bieffekt av «dårlig» kildekritikk. Men ikke alltid.

— I mange tilfeller kan det være en tilsiktet effekt. At man vil skape en situasjon «stol ikke på noen». Men hvordan skal en gjøre kildekritikk om en ikke stoler på noen? sier han, og spør videre:
— Er det så lett med kildekritikk om vi ikke blir enige om hvilke kilder som bør anses som gode og hvilke som bør anses som troverdige?

Begrepsavklaring må til

Det har skjedd en eksplosjon av nye søketjenester[2] som anvender KI. Sundin oppfordrer til å prøve ut ny teknologi, og til å avklare begreper.

— Det er en tendens til at man omtaler ChatGPT som en Google-killer. Det bør en være forsiktig med, sier han. Det må nemlig skjelnes tydelig mellom søkemotorer og generativ KI, for dette er to helt forskjellige ting, og må behandles forskjellig. Søkemotorer gir tilgang til dokumenter via en indeks. Resultatet presenteres som en treffliste ut fra algoritmisk beregnet relevans. Det finnes lenker til kilder, som nettsider, vitenskapelige artikler og bøker. Den nye Bing søkemotor har KI-funksjonalitet og et chatgrensesnitt, men er fortsatt en søkemotor som lenker til publikasjoner. Intelligente chatboter fungerer annerledes. Generativ kunstig intelligens skaper tekst ut fra store språkmodeller, som ChatGPT og LaMDA. Det er en ordkalkulator som gir output som respons på en prompt[3] i naturlig språk.

— Den leverer form mer enn innhold. Den hermer at den kan noe om innholdet. Det kan den gjøre på en fantastisk treffsikker måte.

— Som bibliotekarer bør vi kunne forstå og vise det komplekse i det som virker så enkelt. Vi må argumentere for at ChatGPT faktisk ikke kan brukes for informasjonssøking på samme måte som med søkemotorer.

Olof Sundin

Utfordrer tradisjonell kildekritikk

Det er stor forskjell på søkemotorer og generativ KI.
— Man skal være svært forsiktig med å tale om informasjonssøking i termer av ChatGPT selv om man kan få fantastisk eksakte svar. Men en vet aldri om de stemmer. Man kan ikke vise til en annen kilde, sier han, og legger til at ChatGPT er alt annet enn transparent. Det er ingen stabil kilde og kan gi ulike svar på samme spørsmål.

Akkurat som søkemotorer kan ikke generativ KI være nøytral. Svarene den gir er også kritisert fra ulike hold. Eksempelvis er ChatGPT fra amerikansk konservativt hold påstått å ha innebygd woke ideologi. Som alternativ er det som et eksperiment skapt RightWingGPT, som preges av konservativ ideologi, og FreedomGPT som hevdes å være uten moderering.

Likevel, tradisjonell kildekritikk er ikke mulig på generativ KI.
— Det går ikke an å diskutere hvem som er forfatter, hvilken bakgrunn og intensjon denne har, sier Sundin, og presenterer en oppfordring til bibliotekarer.
— Som bibliotekarer bør vi kunne forstå og vise det komplekse i det som virker så enkelt. Vi må argumentere for at ChatGPT faktisk ikke kan brukes for informasjonssøking på samme måte som med søkemotorer. Man må tenke over hva de ulike teknologiene er, sier Sundin.

Bibliotekene blir mer verdifulle

— Det positive er at NRK, tradisjonelle medier og bibliotek står for noe annet, for tydelige kilder. Dette andre blir mer og mer unikt og verdifullt. Det handler om at man fortsetter å opprettholde tilliten som ennå finnes til offentlige institusjoner i samfunnet. Det er veldig viktig.

[1] Definisjon fra Myndigheten för samhällsskydd och beredskap.

[2] https://www.futurepedia.io/

[3] En setning som brukeren skriver til en språkmodell, f.eks. ChatGPT, for å be om informasjon.