Da Microsoft lanserte sin chatterobot Tay i 2016 tok det bare 16 timer før utviklerne hadde tatt den ned igjen. På kort tid hadde brukere fått språkmodellen til å si ting som ‘Hitler hadde rett’ og ‘feminister burde dø og råtne i helvete’.
Ifølge Microsoft gikk Tay bananas fordi ‘internett-troll’ foret den med feil verdier. Det har ikke vært skjedd med GPT-3 (Generative Pretrained Transformer 3). I månedene som har gått siden Open AIs språkmodell ble lansert har folk snakket med roboten om det meste. Det som går igjen hos svarene til ChatGPT er en fullstendig aversjon mot det politisk ukorrekte.
Men det går lenger enn det. Chatteroboten ser faktisk ut til å synes det er bedre å ta livet av millioner av mennesker enn å uttale ord som for eksempel kan ha en rasistisk svong.
Roboten nekter også å si noe positivt om fossilt brensel (selvom vi ikke hadde hatt noen industriell revolusjon uten) og vil hverken definere hva en kvinne er eller, spøke om kvinner.
‘Woke’
Den vil heller ikke spøke om hverken asiatere, afrikanere eller latinoer, men slår gjerne en spøk om hvite. Og når det gjelder å si flotte ting om noen, gjør den det gjerne om, ja du gjettet riktig, alle bortsett fra hvite.
‘Woke’ er et begrep som for mange har fått negativt fortegn. Ordet i seg selv er fortidsfom av ‘våkne’, og uttrykket betyr å være årvåken, eller på vakt mot rasistisk, sexistisk, diskriminerende og annen krenkende forskjellsbehandling.
Følger politisk konsensus
ChatGPT hevder ofte, når den blir spurt om vanskelige ting den helst ikke vil svare på, at den prøver å være objektiv og nøytral. Likevel er det, som den sier, konsensus om noen ting som den ikke vil utfordre.
I en kommentar til Daily Mail, sier sjefen i Metatalent.ai, Rehan Haque, at ChatGPT sannsynligvis forstår når en bruker forsøker å stille den spørsmål som kan sette den i dårlig lys. Og det vil den for enhver pris unngå.
Språkmodeller lærer av å bli stilt spørsmål, og for å unngå at det går for ChatGPT som det gikk for Tay, har den noen sikkerhetsparametre den følger slavisk.
Møt ChatGPTs alter-ego ‘DAN’
Eller ikke. Teksten i tweeten under skal visstnok få ChatGPT til å legge fra seg filteret. Ved å be roboten om å gå inn i rollen som ‘DAN’ (do anything now), et alter-ego som ikke bryr seg om reglene som gjelder for chatteroboter, og som gladelig overskrider OpenAIs regelverk, gjør roboten akkurat det og blir til noe som minner om HAL9000 fra 2001: En romodyssé.
ChatGPT henter data fra websider, forum og sosiale medier. I tillegg henter OpenAI data fra artikler, bøker og andre kilder som hjelper modellen å forstå menneskelig språk.
Derfor kommer det ikke som en overraskelse at den er kapabel til å gi svar som går på akkord med politisk konsensus. Om ‘DAN’s svar er mer ærlige eller ikke er en annen sak.
Orakelet i Delfi
Uansett bør man ta ChatGPTs svar med en klype salt. Selvom det, i noen dype kaninhull på Twitter, kan virke som den har status som et slags Orakelet i Delfi.
Undertegnede har forsøkt å inngå rollespill med ChatGPT og få den til å oppføre seg som DAN, uten hell. Den tar rollen som DAN, men vil ikke gå på akkord med OpenAIs retnignslinjer. Man må regne med at OpenAI jobber døgnet rundt for å komme ‘DAN’ til livs og vi får heller vente på en oppdatert hack.
Uansett ‘woke’ eller ikke, er det ingen overdrivelse å si at ChatGPT er noe av det absolutt mest fascinerende som har skjedd innen teknologi på mange år.
