AI-legende slutter i Google for å advare om farene ved kunstig intelligens

Slutter i Google for å snakke fritt

Hinton sier at en del av ham angrer på sitt livsverk. Han er en av de mest respekterte stemmene på feltet, men nå er han ikke så sikker på om det var så lurt å utvikle kunstig intelligens.

Jeg trøster meg med den vanlige unnskyldningen. Om ikke jeg hadde gjort det, hadde noen andre gjort det.

Hinton mener kunstig intelligens kan få store konsekvenser: Fra desinformasjon og tap av arbeidsplasser til ting som kan true menneskehetens eksistens.

Se på hvor vi var for fem år siden, og hvor vi er nå. Ta differansen og viderefør den fremover. Det er skremmende.

Hinton har jobbet med kunstig intelligens siden 1972. I 2018 vant Hinton Turing-prisen, en prestisjetung pris på feltet. Hinton har ikke skrevet under oppropet mot kunstig intelligens som blant annet har navnene til Elon Musk, Steve Wozniak og Yuval Noah Harari, på seg. Likevel er han enig i at den intense konkurransen mellom de store selskapene om å skape kunstig intelligens, burde bli regulert av myndighetene.

Frykter falsk informasjon

Hinton bekymrer seg for at den store mengden falskt innhold som produseres med kunstig intelligens kan gjøre det umulig å vite hva som er sant. Han frykter også at en stor mengde jobber vil gå tapt.

Mandag avklarte han sine motivasjoner å slutte i Google: Så han kunne snakke åpent om farene ved kunstig intelligens, uten å ta hensyn til sine uttalelsers påvirkning på Google.

In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.

— Geoffrey Hinton (@geoffreyhinton) May 1, 2023

Flykter for å redde eget skinn?

En alternativ tolkning av Hintons resignasjon er at han forlater skuta for å redde eget skinn. Når kunstig intelligens tar over verden og plasserer oss i menneske-åkre for å bruke oss som batterier, kommer vi til å lete etter syndere. Da kan det være greit å være hvitvasket.

People are referring to this to mean: look, AI is becoming so dangerous, even its pioneers are quitting. I see it as: the people who have caused the problem are now jumping ship. https://t.co/H0r3iEFKVo
(See: “ If I hadn’t done it, somebody else would have”)

— Dr. Sasha Luccioni 💻🌎🦋✨🤗 (@SashaMTL) May 1, 2023