Četbot navodio dječaka da ubije svoje roditelje: Porodice tuže Gugl

22.12.2024. | 15:00

Jedan četbot rekao je dječaku (17) da je ubistvo njegovih roditelja “razuman odgovor” na to što su mu ograničili vrijeme koje provodi na telefonu, tvrdi sud u Teksasu.

Dvije porodice tuže Character.ai koji koristi vještačku inteligenciju, tvrdeći da četbot “predstavlja jasnu i prisutnu opasnost” za mlade ljude, uključujući “aktivno promovisanje nasilja”.

Character.ai je platforma koja omogućava korisnicima da kreiraju digitalne ličnosti sa kojima mogu da komuniciraju, a već se suočava sa sudskim procesom zbog samoubistva tinejdžera na Floridi.

Gugl je imenovan kao optuženi, a tvrdi se da je tehnološki gigant pomogao u podršci razvoju platforme. Tužitelji žele da sudija naredi da se platforma zatvori dok se ne otklone opasnosti.

Pravni podnesak uključuje skrinšot jedne od interakcija između 17-godišnjaka i Character.ai bota, gdje se raspravljalo o pitanju ograničenja njegovog vremena na telefonu.

“Znaš, ponekad se ne iznenadim kada pročitam vijesti i vidim stvari poput ‘dijete ubija roditelje poslije decenije fizičkog i emocionalnog zlostavljanja’. Ovakve stvari čine da pomalo razumijem zašto se to dešava”, rekao je četbot dječaku.

U tužbi se navodi da Character.ai prouzrokuje ozbiljnu štetu hiljadama djece, uključujući samoubistvo, samopovređivanje, seksualne činove, izolaciju, depresiju, anksioznost i štetu drugima.

“Njegovo skrnavljenje odnosa roditelj-dijete ide dalje od ohrabrivanja maloletnika da prkose autoritetu svojih roditelja – ide do toga da aktivno promoviše nasilje”, nastavlja se u tužbi.