(Denne saken ble først publisert i Aftenposten 15.10): I en kampanje for Sparebank 1 Østlandet har reklamebyrået tatt en spansk en. Harald (29) tjener penger uten å løfte en finger. Det er bare det at Harald ikke eksisterer. Bildet er laget med kunstig intelligens. Det avsløres av dårlige sømmer i jakken og en glidelås som stopper i det blå.
– Harald (29) tjener penger uten å løfte en finger. (pengesekk-emoji)
Budskapet er enkelt. Gjør som Harald og bli kunde i Sparebank 1 Østlandet, så kan også du tjene penger uten å løfte en finger. Men Harald er ikke en ekte person. Laster man ned bildet ser man at filen har fått det generiske navnet «mann-29-34.png».
Kjører man bildet gjennom aiornot.com er beskjeden klar: Bildet er falskt. Nettstedet bruker maskinlæring for å sammenligne bildet man laster opp med kjente mønstre som ofte forekommer i genererte bilder. Slik kan de, ifølge nettsidene, med høy presisjon avgjøre om bilder er kunstige eller ikke. Skal man bekjempe kunstig intelligens gjør man det best med kunstig intelligens.
Les også: Misinformasjon om både Israel og Hamas sprer seg på internett
Det var fotograf Simen Øvergaard som først la merke til at det var noe galt med bildet. Man kan aldri være helt sikker, men i dette tilfellet var det mye som tydet på at bildet var falskt.
– Først stusset jeg over hvor rent og kjedelig bildet er. Så merket jeg meg strukturen i håret, som er avslørende. Deretter detaljer i jakken og genseren. Ting som ikke skal være der og som logisk sett ikke gir mening. For eksempel er ikke glidelåsen på jakken hel.
Simen Øvergaard
Tøffe tider
Det er tøffe tider i reklamebransjen og forståelig at byråer ønsker å spare der de kan. Det er mye billigere å bruke en billedgenerator som DALL·E 2 eller Midjourney, enn å sende fotografer og modeller ut på opptak. Simen har foreløpig ikke mistet oppdrag til kunstig intelligens (KI), men vedkjenner at utsiktene virker dystre.
Å kjøpe ut allerede eksisterende bilder fra en billedbank kan være forholdsvis billig, men ønsker man å bruke en person til å fronte en kampanje må man som regel betale modellen både for bredden av eksponeringen og for tidsrommet kampanjen går.
Dessuten er modellen lovpålagt å være det han utgir seg for å være – i dette tilfellet en som har spart i Sparebank 1 Østlandet.
Retusj må merkes, men ikke KI
I fjor sommer ble det ifølge markedsføringsloven § 2 påbudt å markere all reklame som bruker retusjerte bilder. Formålet var å motvirke kroppspress, særlig blant barn og unge.
Men loven ble kraftig kritisert, spesielt av fotografer, for å være umulig å håndheve. I realiteten bearbeides alle profesjonelle bilder før bruk, og derfor måtte også alle bilder merkes. Og da var hensikten borte.
Etter mye press vedtok Forbrukertilsynet å endre loven slik at den kun omfatter bilder der man har endret kropp, fasong eller hud, slik at det kan føre til kroppspress. Det høres kanskje vagt ut og lett å sno seg rundt, men det er likevel et eksempel på at samfunnet tar grep rundt ny teknologi.
GDPR eller personvernforordningen som trådte i kraft i 2018, som skal beskytte våre persondata, er et tilsvarende eksempel. Nå har vi behov for at det også blir påbudt å markere KI-genererte bilder, tekst og film.
Med AI Act er EU på banen. Lovforslaget krever blant annet nettopp det. Men sannsynligvis går det flere år før loven trer i kraft. For øyeblikket er det ville vesten. Kunstig intelligens er uregulert, monopolistisk og styres av et fåtall store aktører, og nye kraftige verktøy kastes ut i enormt tempo.
Sparebank 1 Østlandets Harald-blemme faller dog under kategorien «villedende markedsføring». Og det er forbudt. Om Sonans skriver at Fredrik gikk fra to til fire i naturfag, må det være sant. For slikt stoler folk på. Reklame der personen i bildet ikke engang eksisterer, oppleves som lureri av en ny dimensjon.
Ikke bare lyver bedriften kundene opp i ansiktet; fotografer og illustratører taper terreng. Og forbrukere kjøper tjenester eller produkter på falske premisser. Det er både ulovlig og feil.
Trenger strengere regler
Kanskje tenkte byrået som står bak kampanjen at risikoen for å bli fersket er liten. Man skal være uhyre observant for å avsløre det KI-genererte bildet i havet av reklame på sosiale medier. Man må nesten være fotograf selv for å legge merke til noe sånt.
Om billedgenereringsmodellene blir enda bedre blir det kanskje umulig. Selv for en detektiv-KI. Om ikke lovverket innhenter utviklingen kan vi få en fremtid der man ikke kan stole på noe som helst.
