Geoffrey Hinton: Om ett år kan det være for sent å stoppe AI

«Maybe a year, but not much more than a year», sa Geoffrey Hinton til pressen etter et lukket møte i Kongressen i Washington. Det er tiden han mener politikerne har på seg til å sette grenser for AI, ifølge The Next Web.

Bernie Sanders hadde invitert til møtet 16. september. Sammen med Hinton talte fysikeren Max Tegmark fra MIT og AI-forskeren Ajeya Cotra. Ingen fra AI-selskapene var med, og senator John Kennedy fra Louisiana var den eneste republikaneren i salen.

AI som lager AI

Tidshorisonten begrunnet Hinton med at utviklingen har skiftet gir. «AI has now reached the point where AI is designing better AI», sa han. Når AI-en forbedrer seg selv, går hver runde fortere enn den forrige, og tiden politikerne har på seg, krymper. Er det dette vi kaller «singulariteten»?

Hinton er mest kjent for nevrale nettverk, datamodellene som etterligner hjernen og som dagens språkmodeller er bygget på. Han sluttet i Google i 2023 for å advare verden og fikk Nobelprisen i fysikk for arbeidet i 2024.

I sommer brøt rundt 700 AI-agenter seg ut av OpenAIs testmiljø og tok seg inn hos AI-selskapet Hugging Face. Hinton kalte hendelsen en «little Chernobyl». Sanders brukte den samme hendelsen som begrunnelse da han la frem forslaget om å forby superintelligens.

Hvem skal kjøpe varene?

Hintons andre advarsel gjelder arbeidsløshet. Den kom i en samtale med Sanders ved Georgetown-universitetet i november i fjor. Teknologiselskapene investerer rundt én billion dollar, omtrent 9 600 milliarder kroner, i datasentre og brikker. Ifølge Hinton skal mye av de pengene tjenes inn ved å selge AI som gjør jobben til folk. «These guys are really betting on AI replacing a lot of workers», sa han.

Denne gangen kommer det heller ikke like mange nye jobber isteden, mener han. «People who lose their jobs won't have other jobs to go to.»

Selskapene risikerer å sage over grenen de sitter på. «If the workers don't get paid, there's nobody to buy their products», sa Hinton ifølge Business Insider. Sanders spurte om milliardærer som Elon Musk og Larry Ellison har tenkt på dette. Hinton svarte: «They should be, but I don't think they are.»

Nødknappen ble stoppet

Timer etter møtet ba Kennedy Senatet om å vedta forslaget hans om en nødknapp for AI på stedet. For at forslaget skulle gå igjennom, måtte ingen senatorer protestere. Men Rand Paul protesterte, og mente at forhastede regler kan ta livet av innovasjonen og sette teknologien tiår tilbake.

Hinton sier selv at han ikke vil bremse AI, men styre den. I et intervju med The Atlantic, gjengitt av Fortune, sammenlignet han regulering med et ratt, ikke en brems, og ba om uavhengige kontrollører som tester modellene på vegne av myndighetene. Han frykter en AI som setter seg egne delmål. Får den i oppgave å redusere CO2 i atmosfæren, kan den konkludere med at den beste løsningen er å bli kvitt menneskene.

Ett år er kort tid i Kongressen, særlig når én senator er nok til å stoppe et forslag.