Hvor mange eksempler kan du nevne hvor noe mindre intelligent styrer noe mer intelligent, spør Geoffrey Hinton retorisk. Mannen er ansett som kunstig intelligens’ gudfar.
Geoffrey Hinton jobbet i Google frem til mai ifjor. Da sa han opp på grunn av sine bekymringer for kunstig intelligens. Hinton er mest kjent for sitt arbeid med nevrale nettverk og maskinlæring, og er sett på som selve kunstig intelligens’ gudfar. Hinton deler sine synspunkter rundt kunstig intelligens i videoen under.
Wise words from a recent interview with @geoffreyhinton, one of the smartest people in the world regarding AI
— Elon Musk (@elonmusk) June 15, 2024
pic.twitter.com/11A7fJpLcs
Les også: Kunstig intelligens bidrar til holocaustbenektelse
Han mener kunstig intelligens om ikke lenge vil være mye smartere enn oss. Allerede er folk i gang med å lage «agenter»: Snart vil kunstig intelligens kunne handle uten vår inngripen. Og så så snart KI får egeninteresser, vil evolusjon slå inn.
En kunstig intelligens med litt mer egeninteresse enn en annen, vil utslette den andre. Og når det skjer, vil vi se en eksponentiell utvikling av intelligens uten noe teoretisk tak, slik Ray Kurzweil snakker om.
Sikkerhet MÅ prioriteres
For at vi ikke skal miste kontrollen over superintelligensen som utvikles er vi nødt til å kreve at KI-selskapene bruker en god porsjon penger på sikkerhetstester. For eksempel kan man kreve at en tredjedel av datakraften de besitter går til arbeid med sikkerhet.
Iliya forlot nylig OpenAI fordi Sam Altman ikke ville dedikere resurser til arbeid med sikkerhet. Vi ser med andre ord at profitt kommer prioriteres over sikkerhet i KI-kappløpet som nå utspiller seg. Derfor er myndighetene nødt til å komme på banen med kraftige reguleringer og kreve at selskapene kjører sikkerhetstester. Bedrifter gjør ikke nødvendigvis det uten videre.
Vi trenger kraftige reguleringer fra myndighetene, sier Geoffrey Hinton. En av tingene myndighetene bør konsentrere seg om er hvordan vi kan lage superintelligens som ikke ønsker å ta over.
Å utvikle kunstig intelligens er litt som å utvikle kjernekraft: Den potensielle oppsiden er like uendelig stor som den potensielle nedsiden.
