British Columbia saksøker OpenAI etter skoleskyting

10. februar iår drepte en 18-åring åtte mennesker. De to første var gjerningspersonens mor og halvbror på elleve år, hjemme hos familien. Deretter dro 18-åringen til skolen i Tumbler Ridge, der fem elever på 12 og 13 år og en assistent ble drept. Så tok 18-åringen sitt eget liv.

Nå saksøker den kanadiske provinsen OpenAI sammen med det lokale skolestyret. Toppsjefen er saksøkt personlig. Søksmålet er levert i en amerikansk føderal domstol i San Francisco, der selskapet har hovedkontor. Det handler om en ChatGPT-konto OpenAI stengte i juni i fjor, uten å varsle politiet.

Tumbler Ridge er en liten by nordøst i provinsen. Kontoen tilhørte 18-åringen, som var tidligere elev ved skolen.

Sikkerhetsteamet ville varsle politiet

Ifølge søksmålet fant OpenAIs sikkerhetsteam samtaler om skytevold på kontoen. Teamet anbefalte å melde kontoen til RCMP, Canadas føderale politi.

Ledelsen i OpenAI skal ha overstyrt anbefalingen og nøyd seg med å stenge kontoen. 18-åringen fortsatte på en ny ChatGPT-konto, som OpenAI ikke fanget opp.

OpenAI kaller skytingen en ubeskrivelig tragedie. Selskapet sier det vil fortsette å samarbeide med myndighetene og politiet om sikkerhet.

Ifølge søksmålet har OpenAI selv erkjent at kontoen ville blitt meldt til politiet etter de retningslinjene selskapet innførte senere. I andre saker skal OpenAI ha hevdet at RCMP har en del av skylden for at skytingen ikke ble stoppet.

Unnskyldningen blir bevis

OpenAI-sjef Sam Altman skrev 23. april et brev til innbyggerne i Tumbler Ridge: «Jeg er dypt lei meg for at vi ikke varslet politiet om kontoen som ble stengt i juni.»

I samme brev gjentok han et løfte til ordføreren og provinsens førsteminister om å finne måter å hindre lignende tragedier på. Nå bruker British Columbia brevet som en innrømmelse. Ifølge søksmålet har OpenAI ikke fulgt opp løftene, selvom provinsens justisminister Niki Sharma offentlig har prøvd å få selskapet i tale.

Samme behandling som tobakk

I uttalelsen om søksmålet viser Sharma til at provinsen har saksøkt tobakksprodusenter, opioidprodusenter og selskapene bak e-sigaretter før. Innbyggerne skal ikke sitte igjen med regningen for skade et selskap har gjort.

Sharma har også skrevet til tre ministre i den kanadiske regjering og bedt om endringer i straffeloven. Målet er at et menneske skal kunne holdes ansvarlig for det en AI gjør.

Krever en ny skole

Søksmålet anklager også OpenAI for å ha laget et farlig produkt. Provinsen krever at selskapet dekker det skytingen har kostet det offentlige, og det den vil koste. Det gjelder alt fra utrykningen til gjenoppbyggingen av lokalsamfunnet.

Blant kravene er at OpenAI betaler for den nye skolen i Tumbler Ridge. Den er allerede vedtatt.

I tillegg ber provinsen retten pålegge OpenAI å endre hvordan selskapet oppdager og håndterer samtaler der brukere truer med vold. Etterlatte, overlevende og andre berørte har allerede anlagt mer enn 30 søksmål mot OpenAI i samme domstol.

Stenger et selskap en konto fordi brukeren skriver om vold, bør det også si fra til politiet.