Hopp til hovedinnhold
Teknokratiet

Google Earths AI-generator: Nå spør folk om Google er ond

Google Earths AI-generator kom 30. juli. Brukere laget bombekratre og krigsscener på ekte kart. Google trakk funksjonen etter drøyt et døgn.

Publisert

6. august

Lesetid

2 min
Jorden sett fra verdensrommet med skydekke over Afrika og Atlanterhavet
Google Earth er arkivet forskere, journalister og domstoler sjekker virkeligheten mot.FotoNASA / GSFC, public domain

Digital etterforsker Henk van Ess skrev én setning inn i Google Earth og plasserte en flyktningstrøm ved den meksikanske grensen. Så plantet han et atomkraftverk i Iran. Deretter la han et bombekrater ved et sykehus i Gaza. Samtlige forespørsler gikk gjennom.

Funksjonen het Nano Banana, etter Googles bildemodell. Du skrev en beskrivelse, og fikk et kunstig bilde lagt oppå Google Earths ekte satellitt-, fly- og 3D-bilder. Andre laget et veltet Eiffeltårn, fly som krasjer inn i skyskrapere på Manhattan, og Godzilla som puster ild over en by.

Googles lanseringsbilde for Nano Banana 2 i Google Earth med to eksempler på ledetekst og resultat
Slik solgte Google funksjonen inn: Pompeii gjenreist slik byen så ut i år 78, og selskapets egen campus i Mountain View gjort om til science fiction. Ledeteksten står i boblen.IllGoogle

Silo-testen

Matt Korda ved Federation of American Scientists genererte en falsk russisk ICBM-silo ved siden av en ekte, og spurte leserne om de klarte å se hvilken som var hvilken. Bildeparet ligger hos FAS, og de færreste klarer det.

Poenget hans er ikke at bildene starter kriger. Men «de kan lett skape massepanikk, forvirring og raskt vri opinionen», skriver Korda.

Verre er langtidseffekten: Godtar vi at ethvert satellittbilde kan være falskt, svekkes et av de beste verktøyene analytikere har hatt for å utfordre myndigheters versjon av virkeligheten.

Velkomstskiltet utenfor Googleplex, Googles hovedkvarter i Mountain View
Google fjernet «Don't be evil» fra innledningen til retningslinjene sine i 2018. Denne uken dukket spøkelset opp igjen.FotoArdo191 / Wikimedia Commons, public domain

Vannmerket som ikke holdt

Google forsvarte seg med at hvert bilde fikk det digitale vannmerket SynthID, og at du kunne sjekke ekthet via Gemini eller Lens. BBC fant at kontrollen virket i tester, men at det lot seg gjøre å omgå den og lure Gemini til å bekrefte falske Google Earth-bilder som ekte.

Van Ess formulerte det slik: «Google brukte 20 år på å bygge referansen verden sjekker mot. I dag la de til en knapp som finner på ting.» Tråden hans er sett 3,22 millioner ganger.

Google trakk funksjonen dagen etter lansering og skriver at den kommer tilbake når sterkere sikkerhetsmekanismer er på plass.

6. aug. kl. 12:00

Les også

Mer om Google

Se alt →