AI-skuespillere tar over i Kina:
Derfor føles KI-en dum etter en måned
Ny modell slippes. Med det samme blir du imponert. Etter et par uker er du irritert. En av utviklerne bak ChatGPT forklarer årsaken, og hvorfor det kommer til å skje igjen.
John Schulman var med på å starte OpenAI. Han ledet arbeidet som gjorde ChatGPT mulig. Nå er han sjefsforsker i Thinking Machines. I en podkastsamtale 11. september sier han noe jeg kjenner igjen:
«Det er denne syklusen som fortsetter å gjenta seg, der en ny modell kommer ut og folk blir blåst av banen og tenker: Dette er det. Dette er AGI. Men så bruker de den litt, og etter en måned eller så begynner den å føles dum.»
AGI betyr kunstig intelligens på menneskelig nivå.
Hvor mange ganger det skal gjenta seg, vet han ikke.
Modellen blir ikke dårligere
Selv om det kan føles som at modellen blir dummere, så er det faktisk ikke tilfelle.
Det som endrer seg, er deg. I starten blir du imponert fordi nye ting har blitt fikset. Men etter tre uker har du funnet kantene (svakhetene). Du har testet modellen på ting den ikke er god på. Du har begynt å kjenne igjen når den tar feil.
Følelsen av at modellen blir dårligere, er egentlig at du blir bedre til å se hvor den svikter.
Det den er dårlig på
Schulman peker på to ting. Dømmekraft. Og at modellen ikke klarer å sjekke seg selv.
«Mennesker har mange fordeler over modellene nå», sier han. «Hver gang en ny modell kommer ut, tar den innpå på noen områder. Men du ender opp med å bli bremset på de stedene der modellen er svakere, og der den har dårligere dømmekraft, eller der modellene ikke kan sjekke seg selv godt nok.»
Det siste er verst. En modell som tar feil, men aner at den kan ta feil, går an å leve med. Den kan si fra. Verre er en modell som tar feil med akkurat samme selvsikre tone som når den har rett. Da må du finne feilen selv.
Flaskehalsen
Tenk på et kjøkken. Det tar lang tid for kokken å lage mat, men kort tid å smake på maten. Plutselig kan du ansette en kokk som lager retter sykt fort. Det er bare en hake. Hver rett må smakes på før den kan sendes ut, og det er bare du som kan smake.
Med den superraske kokken har flaskehalsen blitt flyttet fra matlaging til den som smaker. Det er smakingen som bestemmer hvor mange retter kjøkkenet får ut.
Det er dette som skjer med KI nå. Schulman sier det sånn:
«Selv om modellen kan skrive mye mer kode enn et menneske, gjør det deg ikke 100 ganger mer produktiv.»
Modellen skriver fort. Men noen må lese det den skriver. Det er lesingen som setter farten. Og jo mer den lager, jo mer må du lese.
Derfor gjentar det seg
Syklusen gjentar seg fordi hver ny modell tar innpå på noen områder, men ikke på alle samtidig. Du slutter å irritere deg over det den var dårlig på sist, og begynner å irritere deg over det neste.
Beren Millidge er teknologisjef i Zyphra. Han sammenligner det med et gammelt problem fra robotforskningen. Moravecs paradoks. Vi er dårlige til å gjette hva som er vanskelig for en maskin.
«Vi tenker om KI at hvis den kan gjøre dette, så blir det fantastisk», sier han. Så løser den oppgaven. Og det betyr mindre enn vi trodde.
Sjakk er det klassiske eksempelet. En maskin som slår verdensmesteren i sjakk må jo være nesten menneskelig, tenkte vi. Det var den ikke. Den kunne sjakk. Å tømme oppvaskmaskinen eller rydde sokkeskuffen er fortsatt vanskeligere for en maskin enn å slå Magnus Carlsen.
Hvorfor den ikke bare lærer av deg
Så hvorfor lærer den ikke underveis, som en kollega gjør?
Fordi ingen har fått det til. Charlie O'Neill leder modelltrening i Baseten. Når de oppdaterer en modell mange små ganger etter hverandre, glemmer den ting den kunne fra før.
«Du ser glemsel av informasjon som ble lært tidligere», sier han, og de generelle evnene svekkes.
Derfor starter modellen på null hver gang du åpner den. Den samler ikke erfaring. En kollega blir bedre på et år. Modellen blir det ikke, før noen løser dette.
Hva du kan gjøre med det
Bruk KI der det er billig å sjekke. Utkast. Sammendrag. Forslag til formuleringer. Lister over ting du kan ha glemt. Du ser fort om det er brukbart.
Vær varsom der det er dyrt å sjekke. Tall du selv måtte slått opp. Kode du ikke forstår. Juridiske og medisinske spørsmål. Der tar kontrollen like lang tid som jobben.
Og du får mer ut av KI på ditt eget fagfelt. En jurist ser raskere at et juridisk svar er galt enn du og jeg gjør. Hun vet hva hun ser på.
Og er du i «wow»-fasen, støter du nok (dessverre) snart på en vegg. Du har bare ikke oppdaget svakhetene ennå.
Så hvor lenge varer syklusen
Millidge tror ikke det stopper. Skal det stoppe, ser han to måter. Enten flater framgangen ut like før modellene passerer oss. Eller så griper politikerne inn med kraftig regulering. Av de to holder han regulering som det mest sannsynlige.
Her kan du lese eller høre mer
Denne artikkelen bygger på en samtale på 1 time og 37 minutter. Dwarkesh Patel legger ut hele transkripsjonen med navn på hvem som sier hva. Du kan lese den i stedet for å lytte. Eller du kan høre podkasten.
- Episoden og transkripsjonen: dwarkesh.com/p/john-beren-charlie
- Deltakerne: John Schulman (sjefsforsker, Thinking Machines, medgrunnlegger av OpenAI), Beren Millidge (teknologisjef, Zyphra), Charlie O'Neill (leder modelltrening, Baseten)
- Publisert: 11. september 2026
Sitatene er våre oversettelser fra engelsk.
20. sep. kl. 09:00
