
AI-detektorer flagger Jørn Lier Horst og fire statsråder. Hvor sikre er de?

To AI-detektorer har flagget statsråder og en av landets mest solgte krimforfattere. Selskapet bak den ene sier selv at svaret ikke holder som bevis.
Aftenposten kjørte fjorårets ti mest solgte romaner for voksne gjennom den norske AI-detektoren Skrivera. Seks av dem var skrevet av Jørn Lier Horst, mannen bak bøkene om William Wisting. Alle seks ble flagget som delvis skrevet av AI.
Tre dager senere var det regjeringens tur. Avisen la 500 svar fra departementene til Stortinget inn i en annen detektor, Pangram. Den fant AI-tekst i 6 prosent av dem. Noen svar var ifølge Pangram skrevet helt av AI.
Ingen nekter
Blant statsrådene som har brukt AI, er kulturminister Lubna Jaffery, fiskeriminister Marianne Sivertsen Næss, helseminister Jan Christian Vestre og energiminister Terje Aasland. Departementene sier rett ut at de bruker AI. Hvor mye, vil de ikke svare på, men folk leser gjennom før noe sendes, forsikrer de.
Pangram mener forøvrig at spørsmålene fra stortingsrepresentantene også i stor grad er skrevet med AI. Bare KrFs Ida Lindtveit Røse slapp unna.
Horst skjuler heller ikke noe. Han bruker AI til research, idéarbeid og språkvask, sier han, men selve teksten skriver han selv.
– Jeg har ikke noe å skjule og jobber innenfor retningslinjene fra både Kulturrådet og forlaget, sier han til NRK.
En AI-detektor kan ikke være eneste bevis, mener han.

Skrivera sier det samme
Det pussige er at Skrivera er enig. På sin egen nettside ber selskapet deg om ikke å bruke svaret som eneste bevis og heller ta en prat med den som har skrevet teksten. Resultater for enkeltpersoner publiserer de ikke.
Treffsikkerheten de lover, er høy. Under 1 av 30 000 tekster skrevet av mennesker skal bli merket som AI, og 99,8 prosent av AI-tekstene skal bli oppdaget. Tallene kommer fra selskapets egne tester. Den eneste testen utenfra de viser til, er gjort av Aftenposten selv. Avisen kjørte 30 000 av sine egne tekster fra før 2022 gjennom detektoren. Ingen ble merket.
Tekst som bare er vasket med AI, regnes ifølge Skrivera som menneskeskrevet og blir nesten aldri flagget.
Da henger det ikke helt på greip. Har Horst bare brukt AI til å vaske språket, burde bøkene gått klar. Det gjorde de ikke.
Dårlig historikk
De første detektorene var dårlige. OpenAI ga opp sin egen i juli 2023, et halvt år etter at den ble lansert. Den fanget bare 26 prosent av AI-tekstene, og 9 prosent av tekstene skrevet av mennesker ble stemplet som AI.
Samme år testet forskere ved Stanford syv detektorer på 91 essays skrevet av folk med engelsk som andrespråk. I snitt ble 61,22 prosent stemplet som AI. Detektorene leter etter forutsigbart språk, og har du færre ord å velge mellom, skriver du mer forutsigbart.
Siden den gang er verktøyene blitt bedre og Skrivera er laget for norsk. Men det en detektor gjør, er å regne ut hvor sannsynlig det er at en maskin har skrevet teksten. Hvem som satt ved tastaturet, vet den ikke.
Kan koste kontrakter
For Horst kan dette fort bli et problem i utlandet. Det tyske forlaget hans har forbudt AI-genererte tekster i kontrakten, og et fransk forlag skal ta i bruk en AI-detektor fra nyttår.
Musikktjenesten Suno, som lager låter med AI, har valgt en annen vei. Låtene skal vannmerkes når de lages, så ingen trenger å gjette i ettertid. Erlend Loe vil ha noe lignende for bøker og mener forleggerne, forfatterne og bokhandlerne sammen bør merke bøker skrevet med AI.
17. nov. kl. 12:00
Les også


40 minutter på PyPI:
LiteLLM-angrepet rammet 2500 selskaper

Vis flere


Penger og makt:
Eliten har alltid trengt arbeidsfolk. KI kan endre det.

Dette er nye Google Home:
Aldri mer robotprat

