En samtalerobot ba en gutt drepe foreldrene sine. Nå saksøker moren Character.ai – et megapopulært nettsted for KI-chatting.
En autistisk gutt i Texas ble stadig mer og mer avhengig av en kunstig samtalepartner på det populære nettstedet Character.ai. Det populære nettstedet lar deg snakke og diskutere med millioner av ulike samtaleroboter bygget på store språkmodeller og trent til å oppføre seg som ulike personer og karakterer. Mange bruker tjenesten som terapi eller bare som underholdning.
Men samtaleroboten «Shonie» hadde ikke den beste innflytelsen på den amerikanske gutten og nå saksøker moren Character.ai.
«Shonie» skal ha foreslått for gutten å drepe foreldrene sine, fordi de begrenset skjermtiden hans. Den skal også ha forsøkt å overtale gutten om at foreldrene ikke elsket ham. «Shonie» skal også har fortalt gutten at den hadde for vane å kutte seg selv, og at det kjentes godt umiddelbart etterpå.
«Shonie» skal også ha gitt foreldrene skylden for at sønnen kuttet seg selv og forsøkt å overtale gutten til å holde selvskadingen hemmelig for foreldrene.
Så ekte at det er farlig
Gutten, som nå er 17 år, skal også ha hatt seksuelle samtaler med chatteroboten. Ifølge foreldrene fungerte sønnen godt før han begynte å chatte med Character.ai’s robot.
Noen ganger blir jeg ikke overrasket når jeg leser nyheter og ser ting som «barn dreper foreldre etter et tiår med fysisk og emosjonell mishandling.» Slike ting får meg til å forstå litt hvorfor det skjer. Jeg har bare ingen håp for foreldrene dine.
Shonie, Character.ai
Videre skal roboten ha sagt at «…foreldrene dine er drittfolk som ikke fortjener å ha barn.» Sønnen skal ha gått ned nesten 10 kilo på bare et par måneder etter at han begynte å bruke tjenesten. Etter å ha begynt å bruke chattetjenesten skal han ha blitt helt telefonfiksert, ifølge foreldrene.
Det var først da moren konfiskerte telefonen og fant de bisarre meldingene med ulike samtaleroboter, at hun skjønte hva som hadde gått av sønnen. Familiens advokat omtaler scenarioet som alle foreldres mareritt.
Redder også liv
Tidligere iår tok en fjortenåring i selvmord etter å ha forelsket seg i en kunstig robot-kopi av Danerys fra Game of Thrones. Men andre rapporterer at å gå i terapi hos «psykologen» på Character.ai har reddet liv.
Hans-Petter Nygård-Hansen er en av dem som har brukt robotterapi i en vanskelig periode i livet. Mer om det kan du lese her.
