Britisk organisasjon roper varsko: barn i skolealder bruker KI til å generere uanstendige, falske bilder av andre barn.
KIs skyggeside
Bak all begeistringen KI skaper, vokser det stadig mer uro over hvordan generativ kunstig intelligens kan misbrukes.
Den spanske småbyen Almendralejo ble i september sjokkert da det ble avdekket hvordan skolebarn brukte KI til å lage falske nakenbilder av jenter helt ned i elleveårsalderen.
Det skal ha vært 11 jevnaldrende gutter som sto bak bildene. De fant først vanlige bilder av jentene på sosiale medier før de brukte et KI-program til å gjøre jentene «avkledd».
Dette er en prosess relativt lik det den norske influenseren Linnea Løtvedt opplevde i august.
Les også: KI-influenser tjener opptil 10 000 dollar i måneden – bør vi forby falske mennesker i markedsføring
Britiske organisasjoner slår alarm
Nå er det flere i Storbritannia som advarer mot ny utvikling i denne skremmende trenden. Organisasjonen UK Safer Internet Centre (UKSIC) melder at de opplever en vekst i henvendelser fra skoler.
Skolene melder om elever som bruker KI til å lage grafiske bilder som fremstiller seksuell vold og overgrep mot barn.
I følge UKSICs leder, Emma Hardy, er bildene av skremmende god kvalitet. Hardy og UKSIC er nå nervøse for de potensielle konsekvensene KI-bildene kan skape.
For det første kan det hende at KI-bildene blir spredt på nettet og sees av både fremmede og overgripere. For det andre kan unge briter, i all uvitenhet, produsere KI-bilder som gjør dem i besittelse av både barneporno og overgrepsmateriale. At disse bildene er falske gjør dem ikke mindre ulovlig.
Internett overveldes av KI og falske bilder
I sommer advarte den britiske politiorganisasjonen National Crime Agency (NCA) at KI kunne igangsette en enorm bølge overgrep mot barn. NCA frykter at enkel tilgang til KI-genererte overgrepsbilder vil «normalisere» synet på slikt materiale.
Organisasjonen Internet Watch Foundation (IWF) har advart mot at omfanget av KI-genererte overgrepsbilder begynner å komme ut av kontroll.
I en undersøkelse IWF fant nylig, bare i Storbritannia, over 3.000 ulovlige KI-genererte overgrepsbilder. Alle var tilgjengelig på nettet.
I Norge har justisminister Emilie Enger Mehl også utrykket uro for hvordan KI kan brukes til å skape falske nakenbilder. Å spre slike bilder på nettet er ulovlig i Norge.
