Stanford brukte AI til å skifte ut hvit student på reklamebilde

Originalbildet ble tatt under en middag for det kinesiske nyttåret i 2024. To år senere hang det samme motivet i studentboligene på Governor's Corner og ønsket nye studenter velkommen. Men én av de tre på bildet var manipulert bort og skiftet ut.

Billy Ramirez studerer humanbiologi ved Stanford. Han kjente igjen situasjonen, men ikke seg selv: Ansiktet var vekk, og på plassen hans sto en kvinne som ikke finnes. Han la ut sammenligningen på studentappen Fizz, og studentavisen Stanford Review intervjuet ham.

«Først syntes jeg det var hysterisk morsomt at de hadde brukt AI til å endre utseendet vårt fullstendig, inkludert rase og kjønn», sier Ramirez til avisen.

«At identiteten min ble endret og at jeg ble utelatt, gjorde at jeg følte meg bragt til taushet og visket ut av en fremstilling som skulle inkludere meg.»

Ansiktene ble slanket

Men Stanfords avdeling for studentboliger og servering rørte ikke bare Ramirez. De to medstudentene fikk beholde plassen, kjønnet og hudfarven. Til gjengjeld slanket avdelingen ansiktene deres.

Klærne byttet avdelingen også. Der de tre satt i sine egne plagg under middagen, har de to som er igjen på banneret fått Stanford-effekter på seg.

Bryter sine egne regler

Stanford har en egen retningslinje for AI. «All bruk av AI til å produsere eller endre bilder av mennesker, arrangementer, forskning, lokaler eller prestasjoner ved Stanford er strengt forbudt», skriver universitetets PR-direktør Charlene Gage til studentavisen Stanford Daily.

Gage bekrefter at både endringen og den manglende merkingen bryter med retningslinjen. Banneret er tatt ned, og alle ansatte skal få mer opplæring i hvordan materiell som det AI-manipulerte bildet skal kontrolleres.

Færre svarte studenter

Etter at Høyesterett i USA i 2023 forbød å legge vekt på rase ved opptak til universitetene, falt andelen svarte studenter kraftig ved Stanford. Universitetets egne foreløbige tall for kullet som begynte året etter viste en nedgang på 49,4 prosent blant de svarte førsteårsstudentene.

Den oppdiktede kvinnen på banneret er billigere enn en ekte student, og hun sier ja til hva som helst, slik AI-skuespillerne som nå tar over kinesisk reklamefilm gjør.

«De ville vise verden at sånn ser Stanford ut, når det i virkeligheten er oppdiktet», sier Ramirez til nettavisen SF Standard.

I Norge må slankingen merkes

Til sammenligning har Norge hatt regler for akkurat dette siden 1. juli 2022. Er en kropps fasong, størrelse eller hud endret i reklame, skal bildet merkes med et standardisert offentlig merke i et av de øverste hjørnene, stort nok til å dekke omtrent syv prosent av bildeflaten. Hodet og ansiktet regnes som kropp.

De to slankede ansiktene ville altså utløst merkeplikt her. Den oppdiktede kvinnen ville ikke det: Bilder laget med AI må fortsatt ikke merkes i kommersielle sammenhenger.

Ikke første gang

Høsten 2023 avslørte Ole Magnus Kinapel i et innlegg i Aftenposten at Sparebank 1 Østlandet brukte et AI-generert ansikt i en sparekampanje. «Harald (29)» ble presentert som en kunde som tjente penger uten å løfte en finger, men han fantes ikke. Glidelåsen stoppet brått der jakken skiftet farve, og bildefilen het «mann-29-34.png».

Banken tok på seg ansvaret. Kommunikasjonsdirektør Siv Stenseth svarte at AI-genererte bilder skal merkes tydelig, og at personer som fremstilles som kunder, skal være ekte kunder.

Mønsteret går igjen på Stanford. Et oppdiktet menneske står der et ekte skulle stått, og i begge tilfellene var det en utenforstående som oppdaget det, ikke institusjonens egne kontrollrutiner.

Men Stanford gikk et steg lenger. Harald (29) var laget fra bunnen av. Kvinnen på banneret har tatt plassen til en ekte student, i et ekte bilde fra en ekte middag, og de to som fikk bli igjen, ble endret uten å bli spurt.

Kinapel tok den gang til orde for merkeplikt og viste til EUs AI-forordning, som da bare var et forslag. Nå er den på plass: Fra 2. august 2026 må den som bruker AI til å lage deepfakes i EU, opplyse om det. Et ekte bilde der én person er byttet ut og to er slanket, faller rett inn under det. Om en Harald (29), som ligner ingen som finnes, ville vært omfattet, er langt mer uklart.