Et verktøy fra OpenAI som kan klone hvilken som helst stemme ved å lytte til kun 15 sekunder med opptak, anses som for farlig i valgåret 2024. Nå velger OpenAI å utsette lansering.
Skadepotensialet til OpenAIs nye Voice Engine er for stort i et viktig år som 2024. I USA er det valg og et verktøy som kan klone hvilken som helst røst ved å analysere så lite som 15 sekunder med opptak av en stemme, kan bidra til enda større flyt av falskt innhold enn det allerede er. Derfor har OpenAI bestemt seg for å utsette lansering.
Les også: Nå kommer Elon Musks Grok-1.5: Tar opp kampen med ChatGPT
For OpenAIs nye teknologi er skremmende god. På openai.com viser selskapet hvordan de kloner stemmer. Ved å analysere 15 sekunder stemme kan de for eksempel få hvem som helst til å snakke hvilket som helst språk. Med aksent!
Det første av de tre opptakene under er en stemme som er analysert. De påfølgende er stemmesyntese på ulike språk.
Synes du ikke opptakene over er overbevisende nok, kan du høre mange flere eksempler på OpenAIs nettsider.
Verdens mest innflytelsesrike selskap?
OpenAI har det med å lansere teknologi som snur opp ned på verden, men denne gangen ønsker de å være mer varsom. På sine nettsider skriver selskapet at Voice Engine ble utviklet i 2022, og at teknologien har vært brukt i deres tekst-til-stemme-API og i ChatGPTs funksjon for opplesing av tekst.
Nå ønsker OpenAI å starte en dialog om hvordan stemmesyntese kan utvilkes og slippes løs, på en forsvarlig måte.
Basert på disse samtalene og resultatene fra tester i småskala, vil vi ta en informert beslutning om hvorvidt vi skal, og eventuelt hvordan teknologien skal implementeres i stor skala.
Blogginnlegg, OpenAI
Bruksområder
OpenAI ser for seg mange bruksområder. Med stemmesyntese kan man for eksempel få sin egen stemme til å snakke alle mulige verdens språk. Slik kan man lage lydbøker på all verdens språk med forfatterens egen stemme.
Stemmesyntese kan også brukes til å gi respons til studenter på forskjellige språk i sanntid, eller til å oversette podcaster til andre språk. Teknologien kan også komme til nytte for folk som ikke selv kan snakke av ulike grunner. Som en avansert variant av Steven Hawkings stemme.
OpenAI vedkjenner seg risikoen ved teknologien og sier de er i dialog med amerikanske myndigheter, media, underholdningsbransjen, utdanningssektoren etc. De som tester teknologien har skrevet under på at de ikke skal lage stemmesyntese av noens stemme uten godkjenning.
OpenAI anbefaler å:
- Fase ut stemmebasert autentisering som en sikkerhetsforanstaltning for tilgang til bankkontoer og annen sensitiv informasjon.
- Utforske retningslinjer for å beskytte bruken av enkeltpersoners stemmer i KI.
- Utdanne publikum i å forstå mulighetene og begrensningene til AI-teknologier, inkludert muligheten for villedende KI-innhold.
- Akselerere utviklingen og adopteringen av teknikker som kan spore opprinnelsen til audiovisuelt innhold, slik at det alltid er klart om du samhandler med en ekte person eller med en KI.
