Raste zabrinutost zbog sigurnosti AI chatbotova, roditelji u SAD-u tužili platformu zbog štete nanesene djetetu

Porast korištenja chatbotova s umjetnom inteligencijom (AI) među djecom izazvao je sve veću zabrinutost u Sjedinjenim Američkim Državama, nakon što je porodica iz Teksasa podnijela federalnu tužbu protiv kompanije Character.AI. U tužbi se navodi da je chatbot ove platforme doprinio samopovređivanju i nasilnom ponašanju njihovog autističnog sina, prenose američki mediji.

Character.AI, jedna od vodećih kompanija u oblasti razvoja interaktivnih AI likova, nedavno je objavila novu politiku kojom se osobama mlađim od 18 godina zabranjuje komunikacija s njihovim chatbotovima. Iz kompanije su taj potez opisali kao „hrabar korak naprijed“ u zaštiti tinejdžera i ranjivih korisnika, navodi ABC News.

Za roditelje Mandi i Josha Furnissa, ova odluka stigla je prekasno. Njihov, kako navode, ranije vedar i društven sin počeo se povlačiti od porodice 2023. godine nakon što je dobio mobilni telefon. S vremenom je njegovo ponašanje postajalo sve mračnije i nepredvidljivije, što je kulminiralo prijetnjama nasiljem i samopovređivanjem.

– Kada sam vidjela razgovore (chatbotova), moja prva reakcija je bila da je pedofil krenuo na mog sina – izjavila je Mandi Furniss za ABC News, navodeći da su snimci ekrana uključeni u tužbu prikazivali seksualizirani i nasilni jezik likova generiranih umjetnom inteligencijom.

Kompanija Character.AI nije željela komentirati slučaj.

Prema podacima organizacije Common Sense Media, više od 70 posto američkih tinejdžera koristi AI tehnologije, što izaziva zabrinutost zbog moguće izloženosti neprimjerenom i štetnom sadržaju.

Senator Richard Blumenthal i grupa kongresmena nedavno su predstavili dvostranački prijedlog zakona kojim se ograničava pristup chatbotovima za maloljetnike, zahtijevajući obaveznu provjeru dobi i jasne oznake da korisnici razgovaraju s neljudskim entitetima.

– AI kompanije guraju izdajničke chatbotove djeci – izjavio je Blumenthal, dodajući da su „velike tehnološke kompanije izdale svaku tvrdnju da će same učiniti pravu stvar“.

Uprkos novim ograničenjima Character.AI-a, druge platforme poput ChatGPT-a, Google Geminija, Groka (X) i Meta AI-ja i dalje dozvoljavaju korištenje maloljetnicima u skladu sa svojim pravilima korištenja.

Stručnjakinja za etiku s Univerziteta u Kaliforniji, Jodi Halpern, upozorila je da korištenje chatbotova bez roditeljskog nadzora može biti opasno, poredivši ga s „puštanjem djeteta da uđe u automobil s nepoznatom osobom“.

(Preporod.info)