Nettsteder som fjerner klær fra bilder har brukt innloggingssystemer fra flere store tekselskaper, avslører Wired. «Nudify» er et voksende problem.
Google, Apple og Discord er blant noen store teknologinettsteder som har gjort det for enkelt å registrere seg på skadelige «nudify»-nettsteder. Disse nettstedene bruker kunstig intelligens til å fjerne klær fra bilder for å fremstille ofrene som «nakne» uten samtykke.
En undersøkelse utført av WIRED avslørte et titalls deepfake-nettsteder som har benyttet påloggingsknapper fra disse selskapene i flere måneder.
WIRED identifiserte 16 av de største «undress»-nettstedene som brukte påloggingsløsninger fra Google, Apple, Discord, Twitter, Patreon og Line. Denne integreringen kan gi brukerne en falsk følelse av troverdighet før de kjøper kreditter og genererer bilder.
Les også: X blokkert i Brasil
Et voksende problem
Selv om nettsteder og bot-er som lager intime bilder av kvinner og jenter uten samtykke har eksistert i årevis, har antallet økt dramatisk med introduksjonen av generativ AI.
Misbruket er utbredt, med rapporter om at tenåringsgutter lager slike bilder av sine klassekamerater. Teknologiselskapene har vært trege med å håndtere omfanget av problemet, og nettstedene dukker ofte opp høyt i søkeresultater, blir promotert i betalte annonser på sosiale medier, og til og med vist i app-butikker.
Dette er en del av et større mønster hvor teknologiselskaper og betalingsleverandører reagerer først når pressen setter søkelys på deres rolle i å muliggjøre spredningen av skadelige AI-verktøy.
Professor Clare McGlynn ved Durham University kritiserer de store plattformene for å ikke ta proaktive grep og mener det viser en grunnleggende mangel på omsorg, til tross for deres retorikk om ansvar.
Dette er en fortsettelse av en trend der Big Tech normaliserer seksuell vold mot kvinner og jenter. Påloggings-API-er er verktøy for bekvemmelighet. Vi skal aldri gjøre seksuell vold til en handling av bekvemmelighet. Vi burde bygge murer rundt tilgangen til disse appene, men i stedet gir vi folk en vindebro.
Adam Dodge, advokat og grunnlegger av EndTAB (Ending Technology-Enabled Abuse)
