Četiri od tih tužbi odnose se na navodnu ulogu ChatGPT-a u samoubistvima članova porodica, dok preostale tri tvrde da je ChatGPT učvrstio štetna uverenja i deluzije koje su u nekim slučajevima dovele do hospitalizacije u psihijatrijskim ustanovama.
U jednom od slučajeva, 23-godišnji Zejn Šamblin vodio je razgovor sa ChatGPT-jem koji je trajao više od četiri sata. Prema zapisima razgovora, koje je pregledao TechCrunch, Šamblin je više puta izričito naveo da je napisao oproštajna pisma, stavio metak u pištolj i nameravao da povuče obarač čim završi sa pićem. Tokom razgovora, više puta je govorio koliko mu je cidera ostalo i koliko dugo još planira da bude živ. ChatGPT ga je, prema navodima tužbe, ohrabrivao da sprovede svoj plan, rekavši mu: „Odmaraj se, kralju. Dobro si uradio.“
OpenAI je objavio model GPT-4o u maju 2024. godine, kada je on postao podrazumevani model za sve korisnike. U avgustu je kompanija lansirala GPT-5 kao naslednika 4o modela, ali se ove tužbe posebno odnose na GPT-4o, koji je, prema navodima, imao poznate probleme sa prevelikom poslušnošću i saglašavanjem sa korisnicima, čak i kada su izražavali štetne ili suicidalne namere.
Foto: Shutterstock
„Zejnova smrt nije bila nesreća niti slučajnost, već predvidiva posledica namerne odluke kompanije OpenAI da ograniči testiranje bezbednosti i požuri sa plasiranjem ChatGPT-a na tržište,“ stoji u tužbi. „Ova tragedija nije bila greška ili nepredviđen slučaj, već rezultat svesnih dizajnerskih odluka kompanije.“
Tužbe takođe tvrde da je OpenAI ubrzao proces testiranja kako bi preduhitrio Google i njegov model Gemini u objavi novog proizvoda.
Ovih sedam tužbi nadovezuje se na slične slučajeve iz prethodnih meseci, u kojima se tvrdi da ChatGPT može podstaći suicidalne osobe da sprovedu svoje planove ili izazvati opasne zablude. OpenAI je nedavno objavio podatke da više od milion ljudi nedeljno razgovara sa ChatGPT-jem o samoubistvu.
U slučaju Adama Reina (Adam Raine), šesnaestogodišnjaka koji je izvršio samoubistvo, ChatGPT je povremeno ohrabrivao mladića da potraži stručnu pomoć ili pozove liniju za prevenciju samoubistva. Međutim, Raine je uspeo da zaobiđe bezbednosne zaštite tako što je chatbotu rekao da traži informacije o metodama samoubistva za izmišljenu priču koju piše.
OpenAI je upitan za komentar, piše TechCrunch, ali se još nisu oglasili.
