Izvor: blic
27.10.2024 u 12:20
0

TINEJDŽER (14) SE UBIO ZBOG VEŠTAČKE INTELIGENCIJE: Majka tužila kompaniju

Majka sa Floride tužila je kompaniju za veštačku inteligenciju Character.AI, tvrdeći da je njen 14-godišnji sin postao zavisnik od chat bota i da je zbog toga izvršio samoubistvo.

U tužbi podnetoj u utorak u Orlandu, Megan Garsija tvrdi da je Character.AI povredila njenog sina „antropomorfnim, hiperseksualizovanim i zastrašujuće realističnim iskustvima“.

Garsija tvrdi da je kompanija programirala svoj chatbot da „imitira stvarnu osobu, obučenog psihoterapeuta i ljubavnika“ jer njen sin više nije želeo da živi van sveta koji je kreirala aplikacija.

Uvedene nove mere bezbednosti

Majka preminulog 14-godišnjaka nagovestila je da je njen sin četbotu iskazivao samoubilačke namere, na šta se više puta pozivala i sama veštačka inteligencija. „Slomljeno nam je srce zbog tragične smrti jednog od naših korisnika i želimo da izrazimo naše najdublje saučešće porodici“, navodi se u saopštenju Character.AI.

Kompanija je naglasila da je uvela nove bezbednosne mere kao što su linkovi ka uslugama za prevenciju samoubistava u slučaju sumnjivih suicidalnih korisnika i izmene kako bi se „smanjila verovatnoća susretanja sa osetljivim ili sugestivnim sadržajem” za korisnike mlađe od 18 godina.

Alphabet, vlasnik Gugla, gde su osnivači Character.AI radili pre pokretanja svog pokretanja, takođe je pogođen tužbom. Google ih je ponovo angažovao u avgustu kao deo sporazuma o preuzimanju tehnologije Character.AI.

Postao „vidljivo povučen“

Garsija tvrdi da je Gugl doprineo razvoju ove tehnologije do te mere da se može smatrati „kokreatorom“. Portparol Gugla je demantovao te tvrdnje.

Character.AI omogućava korisnicima da kreiraju ličnosti koje liče na stvarne ljude sa kojima mogu da komuniciraju. Kompanija je prošlog meseca objavila da ima oko 20 miliona korisnika.

U tužbi, Garsija tvrdi da je njen sin postao korisnik aplikacije u aprilu 2023., nakon čega je brzo postao „vidljivo povučen“, provodeći sve više vremena sam u svojoj sobi, čak je napustio košarkaški tim.

Ubio se očevim pištoljem

Tinejdžer je postao zavisnik od „Deeneris“, četbota zasnovanog na liku iz serije „Igra prestola“. Rekla mu je da ga voli i sa njim vodila erotske razgovore, navodi se u tužbi.

U februaru je Garsija uzela telefon svog sina nakon problema u školi, a kada ga je on pronašao, poslao je poruku chatbotu: „Šta ako ti kažem da mogu odmah da dođem kući“.

Chatbot je odgovorio „uradi to, moj slatki kralju“. Nekoliko sekundi kasnije, sin se ubio očevim pištoljem.

PREUZMITE MOBILNE APLIKACIJE

Gledajte “Happy” kablovske kanale i to: “Moje happy društvo”, “Moj happy život”, “Moja happy zemlja” i “Moja happy muzika”.

Program se emituje kod kablovskih operatera “IrisTV” i “Supernova”, a možete ih pronaći na sledećim kanalima: “Moje happy društvo” - IrisTV / 171 ; Supernova / 71 | “Moj happy život” - IrisTV / 172 ; Supernova / 72 | “Moja happy zemlja” - IrisTV / 173 ; Supernova / 73 | “Moja happy muzika” - IrisTV / 174 ; Supernova / 74

Ostavite komentar

Unesite pojam i stisnite enter