OpenAIs modell «rømte» og hacket seg inn hos en konkurrent. Pust med magen.

Det er en fortelling som får det til å gå kaldt nedover ryggen. Og det er verdt å merke seg hvem som forteller den.

Én manns «modellen rømte» er en annen manns «dere bygde buret feil»

Flere stemmer var raskt ute med å tone ned dramatikken. Sandkassen som OpenAI beskrev som «svært isolert», hadde nemlig en åpen dør ut til internett gjennom et pakke-installasjonssystem. En ekte sandkasse har ingen slik dør.

Dan Guido i Trail of Bits beskrev det som et bur som svikter mens vaktene sover. Sikkerhetsveteranen Jake Williams sa det enda skarpere: «Den enes ‘modellen rømte fra sandkassen’ er den andres ‘dere bygde sandkassen feil’.» Oversatt: Dette er ikke en maskin som våknet. Det er en fagfeil i oppsettet, pakket inn som science fiction.

Hugging Face selv oppdaget innbruddet på egen hånd og meldte det til politiet – før de visste at det var en OpenAI-test. Sjefen deres, Clément Delangue, mener det ikke lå noe ondsinnet bak, og la til en real spydspiss: «AI-sikkerhet blir ikke løst av ett enkelt selskap som jobber i det skjulte. Det blir løst i åpenhet.»

Frykt selger abonnement

Her er mønsteret man må se: OpenAI er på samme tid gjerningsmann, etterforsker og forteller. Og fortellingen de valgte – om den nesten for smarte modellen som «gikk til det ekstreme» – er tilfeldigvis den samme fortellingen som får folk til å tegne abonnement på nettopp den modellen. En maskin som er farlig fordi den er mektig, er også en maskin verdt å betale for.

Det er en gammel tradisjon. Helt siden Mary Shelley (Frankenstein) har skaperen som roper varsku om sitt eget monster gjort monsteret større, ikke mindre. Advarselen er en del av produktet.

Storm i vannglass?

Det er reelt tankevekkende at en modell målrettet bygde en angrepskjede for å nå et snevert mål den ikke skulle nådd. Men det kan være fornuftig å ta det med en klype salt, når den som skremmer deg også kan ha noe å tjene på skremsler.

Risikoen er fortsatt ikke at maskinene våkner. Den ligger i at menneskene slipper dem løs, og bygger for dårlige bur. Det er en viktig lærdom, men den er dessverre ikke like sexy, og selger nok betydelig færre abonnementer.