(OSLOMET): Det ble kalt «Norges første KI-skandale» da det i starten av året ble kjent at Tromsø kommune hadde brukt kunstig intelligens til å lage rapporten og kunnskapsgrunnlaget for nedleggelse av flere skoler og barnehager.
På Data-SKUP fortalte de som avslørte KI-bruken om arbeidet.
Lektorer på Universitetet i Tromsø fortalte om hvordan de fant ut at 7 av 18 av kildene i forskningsgrunnlaget ikke lot seg spore.
Lisa-Mari Ophaug, forteller at da de leste rapporten, bestemte de seg for å sette seg ned å lese alle referansene, for å se hva grunnlaget var.
Lisa-Mari Ophaug fra Universitetet i TromsøFoto: Torill Henriksen
– Det viste seg å være vanskelig. Den første jeg søkte opp fant jeg ikke. Heller ikke den neste på listen. Det visste seg at KI hadde hallusinert.
Jan Nyquist Roskvold forteller at de forsøkte å ringe forlagene i kildelisten, for å finne bøkene.
– Til slutt ringte vi forfatterne, som da svarte at de ikke hadde skrevet disse bøkene.
De ansatte bestemte seg for å ringe Nordlys og iTromsø for å gi de tips om saken.
Roskvold sier at denne saken egentlig ikke handler om KI.
– Sånn vi ser det er det kjernen at en kommune har diktet opp et grunnlag med formål å dempe motstand mot et forhåndsbestemt grunnlag.
– Politisk kaos
Rune Ytreberg, utviklingsredaktør i iTromsø, mener saken er mer enn bare en KI-skandale.
– Det er et kinderegg av skandaler. Det var en skoleskandale, KI-skandale og en økonomisk skandale. Det var et rent politisk kaos, sier Ytreberg.
iTromsø tok over ballen fra Universitet og har fulgt saken gjennom året. Blant annet fikk de innsyn i chatteloggen kommunen hadde med ChatGPT. Lørdag kveld fikk de Data-SKUP-diplom for arbeidet med saken.
– I denne saken ble det brukt ChatGPT uten kontroll, og uten opplæring.
Ytreberg forteller at de dekket alle folkemøter knyttet til reaksjoner på rapporten.
– Det foreldrene sa i disse folkemøtene gjorde at det dukket opp noen røde flagg. Vi måtte spørre oss, er rapporten bare dårlig arbeid, eller er også den KI-generert?
Lagde egen detektor
Ytreberg forteller at de ikke så på kildelisten, slik UiT gjorde, men jobbet med å finne ut om rapporten var skrevet av KI.
– Politisk redaktør i iTromsø, som leser en god del kommunale dokumenter, beskrev rapporten som «glætt». Som at noe var feil. Så vi ville finne ut hvor mye som faktisk var galt.
Etter å ha prøvd flere eksisterende KI-detektorer, og fått forskjellige resultater, bestemte Ytreberg seg for å lage en egen detektor.
– Vi trente en bot til å kjenne igjen KI-tekst. Vi brukte da kommunale dokumenter fra tiden før ChatGPT eksisterte, for å være sikre på at den så hva KI-tekst var.
Avisen avslørte at 50 prosent av teksten var KI-generert.
– Fasiten fikk vi også da vi fikk innsyn i chatteloggene kommunen hadde hatt med ChatGPT. Der hadde de bedt ChatGPT fylle inn tekst i innholdsfortegnelsen. Og da den spurte om den skulle kvalitetssikre, sa personen nei.
