KI gjør innhold billigere – og tillit dyrere

I EU begynte nye åpenhetsplikter etter artikkel 50 i KI-forordningen å gjelde 2. august. Reglene skal blant annet gjøre KI-generert og manipulert innhold lettere å identifisere. I Norge må forordningen først tas inn i EØS-avtalen og gjennomføres i en norsk KI-lov.

Det er et viktig skritt. Men dersom mediebransjen begrenser diskusjonen til hvordan det falske skal merkes, løser vi bare halve tillitsproblemet.

Generativ kunstig intelligens bryter forbindelsen mellom et overbevisende bilde og en faktisk hendelse. Bilder, video og lyd kan nå produseres uten kamera, sted eller øyeblikk. Dermed holder det ikke lenger at journalistisk innhold er ekte. Mediehusene må også kunne dokumentere det.

Redaktørstyrte medier har alltid konkurrert på troverdighet. I KI-alderen må de også konkurrere på etterprøvbarhet.

Publikum kan ikke bære ansvaret alene

Den naturlige reaksjonen på syntetisk innhold er bedre detektorer, vannmerker og advarsler. Slike tiltak er nødvendige, men de begynner etter at innholdet er skapt og må stadig tilpasses nye modeller og manipulasjonsmetoder.

Samtidig overlates mye av vurderingen til den enkelte leser. I Medietilsynets undersøkelse om kritisk medieforståelse klarte bare 25 og 23 prosent å identifisere to KI-genererte bilder korrekt.

Vi kan ikke bygge digital tillit på at hver leser skal vinne et stadig mer avansert gjettespill. Vi trenger fortsatt å oppdage og merke det falske. Men vi må samtidig gjøre det mulig å etterprøve det ekte.

En digital varedeklarasjon

En mulig byggestein er C2PA, en åpen standard som knytter verifiserbar informasjon om digitalt innholds opphav og historikk til filen. Tenk på det som en digital varedeklarasjon.

Et nyhetsbilde kan dokumentere hvem som publiserte det, hvor det kom fra, og hvilke endringer som er registrert. Informasjonen kan følge innholdet fra kameraet, gjennom redigeringen og videre til publisering.

Dette er ingen sannhetsmaskin. Et autentisk bilde kan brukes i feil sammenheng, og fravær av dokumentasjon betyr ikke at noe er falskt. Men teknologien gjør det mulig å undersøke hvem som står bak innholdet, og hva som har skjedd med det underveis.

Ved Universitetet i Bergen og SFI MediaFutures har vi testet hvordan slike proveniensmerker påvirker publikums vurdering av nyhetsbilder. I en fagfellevurdert studie med 6 114 deltakere i Norge, Storbritannia og USA økte merkene opplevelsen av transparens og troverdighet. De styrket også tilliten til nyhetskilden.

Ett ikon løser selvsagt ikke tillitskrisen. Men funnene viser at dokumentert opphav kan ha verdi både for publikum og for mediehusenes merkevarer.

Mediehusene betaler – distribusjonen visker ut verdien

Redaktørstyrte medier investerer i journalister, kildekontroll, presseetikk, teknologi og merkevare. Likevel distribueres innholdet gjennom søkemotorer, sosiale medier og KI-tjenester der avsenderen ofte blir mindre synlig. Bilder kopieres og publiseres på nytt til informasjonen om opphav forsvinner.

Da oppstår et paradoks: Mediehusene betaler for kvaliteten, mens distribusjonskjeden kan fjerne dokumentasjonen som gjør investeringen synlig.

Det er ikke bare et demokratisk problem. Det er et forretningsproblem.

Når profesjonelt og fabrikkert innhold blir vanskeligere å skille, blir dokumentert autentisitet en knappere – og mer verdifull – ressurs. Medier som gjør produksjonskjeden etterprøvbar, får en tydeligere måte å vise hvorfor deres innhold fortjener tillit.

Proveniens bør derfor ikke behandles som et lite merke som legges på til slutt. Det må bygges inn i kameraer, bildearkiver, redigeringsverktøy, publiseringssystemer og distribusjonsavtaler. Informasjonen må også overleve når innholdet beveger seg ut av mediehusets egen nettside eller app.

Norge begynner ikke fra null

Medier24 har tidligere omtalt BBCs arbeid med C2PA og det norske Project Reynir, der blant andre TV 2, NTB, Schibsted, Faktisk.no og Media City Bergen har vært involvert. Underveis ble NTB det første mediehuset i Norge med C2PA-sertifikat. Problemet er derfor ikke mangel på ideer eller piloter.

Men prosjektperioden for Reynir er nå over – samtidig som pliktene etter artikkel 50 nettopp har begynt å gjelde. Pilotene har vist at teknologien fungerer. Det ingen ennå har fått ansvar for, er å ta den videre fra prosjekt til drift.

Neste steg er å få løsningene til å fungere på tvers av virksomheter, verktøy og plattformer. Ingen redaksjon kan etablere denne tillitsinfrastrukturen alene.

Mediebedriftenes Landsforening bør samle mediehus og teknologileverandører rundt felles minimumskrav og forpliktende innføringsplaner. Nkom og Medietilsynet bør samtidig bidra med veiledning som kobler merking av syntetisk innhold med dokumentasjon av autentisk innhold.

Det vanskeligste leddet er plattformene. Enkeltvis har norske mediehus liten makt over hvordan globale søkemotorer, sosiale medier og KI-tjenester håndterer innhold – i dag fjernes opphavsinformasjon ofte allerede ved opplasting. Presset må derfor komme samlet: Krav om å bevare proveniens bør inn i bransjens innholds- og KI-avtaler med plattformselskapene, og inn i arbeidet med den norske KI-loven. Artikkel 50 krever merking av det syntetiske. Ingen regel sikrer ennå at dokumentasjonen av det ekte overlever distribusjonen.

Ikke send regningen til leseren

De kommende årene vil mediehus investere betydelige beløp i KI for å effektivisere produksjon, personalisere produkter og utvikle nye tjenester. Teknologien som gjør innhold billigere å produsere, gjør samtidig tillit dyrere å etablere.

Den regningen kan ikke sendes til hver enkelt leser. Publikum skal ikke måtte være bildeanalytikere, teknologer og sikkerhetseksperter hver gang de åpner en nyhetsstrøm.

Redaktørstyrte medier har allerede sitt viktigste konkurransefortrinn: ansvarlige avsendere, profesjonelle arbeidsprosesser og innhold det står en redaksjon bak. Nå må bransjen sørge for at denne forskjellen også kan dokumenteres digitalt.

I KI-alderen holder det ikke bare å merke det falske. Mediene må gjøre det ekte etterprøvbart.

Om forfatteren: Christoph Trattner er professor ved Universitetet i Bergen og grunnlegger og direktør for SFI MediaFutures. Han forsker på ansvarlig kunstig intelligens, personalisering og tillit i digitale medier.

———————————————-

Dette er et debattinnlegg, og gir uttrykk for skribentens mening. Har du lyst til å skrive i Medier24? Send ditt innlegg til meninger@medier24.no.