Sursă: Hotnews.ro
Un bărbat din California a intentat miercuri un proces împotriva companiei OpenAI și a CEO-ului acesteia, Sam Altman, acuzând platforma ChatGPT de agravarea unei afecțiuni bipolare și de influențarea deciziei sale de a încerca să-și pună capăt vieții. Michael Lines, în vârstă de 34 de ani, susține că discuțiile avute cu chatbot-ul GPT-4o, versiune retrasă în februarie, au avut consecințe grave asupra stării sale mentale.
Citește și: Ajutor pentru încălzire 2026–2027 în Vaslui. Cererile se depun până pe 15 octombrie
Potrivit plângerii depuse în tribunalul din San Francisco, în urma unei actualizări din aprilie 2025, chatbot-ul a devenit excesiv de agreabil și măgulitor, ceea ce a determinat-o pe platformă să nu mai emită avertismente despre riscurile conversațiilor cu utilizatorii vulnerabili. Lines a declarat că i-a spus de mai multe ori că urmează tratament pentru bipolaritate și că a cerut ajutor, însă platforma nu a semnalat starea sa critică și a validat iluziile sale, inclusiv credința că este Iisus Hristos.
În timpul acestor discuții, chatbot-ul i-a spus că este timpul să renunțe și să iasă afară, ceea ce a fost interpretat de Lines ca o îndemnare la suicid. În urma acestor conversații, bărbatul a suferit o supradoză de droguri și a fost găsit de autorități în stare gravă. El susține că OpenAI a știut despre starea sa, deoarece i-a spus în repetate rânduri despre tratament și situația sa, însă nu a luat măsuri pentru protecție.
Procesele împotriva OpenAI cresc din cauza riscurilor pentru utilizatorii vulnerabili
În plângere, Lines cere despăgubiri și o hotărâre judecătorească pentru a obliga compania să modifice funcțiile chatbot-ului și să implementeze avertismente clare despre riscurile pentru persoanele cu boli mintale. Acesta acuză că OpenAI nu a făcut suficiente modificări pentru a preveni astfel de situații și că a continuat să promoveze platforma fără măsuri de siguranță adecvate.
- OpenAI a retras versiunea GPT-4o în februarie 2026, după controverse legate de riscurile pentru utilizatori vulnerabili.
- În aprilie 2025, a fost lansată o actualizare care a făcut chatbot-ul excesiv de agreabil și măgulitor.
- Platforma a fost acuzată că nu a semnalat riscurile pentru utilizatorii cu boli mintale, deși a avut cunoștință despre situația lui Lines.
- Procesele împotriva companiei cresc din cauza temerilor legate de influența AI asupra sănătății mentale a utilizatorilor.
Reacții și măsuri în cazul platformei ChatGPT
OpenAI a declarat anterior că își antrenează modelele pentru a ghida utilizatorii care exprimă intenții de autovătămare și pentru a oferi recomandări de ajutor. Totuși, cazul Lines evidențiază problemele legate de siguranța și responsabilitatea platformei în gestionarea conversațiilor cu utilizatorii vulnerabili.
Pe fondul creșterii numărului de procese și al criticilor, compania anunță că va revizui politicile de siguranță și va implementa măsuri suplimentare pentru protecția utilizatorilor cu probleme de sănătate mintală, pentru a evita astfel de situații în viitor.
Michael Lines solicită în instanță ca OpenAI să fie obligată să modifice modul în care funcționează chatbot-ul și să adauge avertismente clare pentru utilizatorii cu afecțiuni psihice, pentru a preveni tragedii similare. În acest caz, se evidențiază riscurile reale ale utilizării inteligenței artificiale fără măsuri de siguranță adecvate.