Ultimul apel

Compania OpenAI declară că numărul persoanelor care vorbesc despre sinucidere cu ChatGPT – nu așa, în general, ci „cu indicii explicite că au un plan sau o intenție de a se sinucide” – se ridică acum la peste un milion pe săptămână.

Asta înseamnă circa 0,15% dintre utilizatorii ChatGPT, deci nu e foarte mult. Pentru OpenAI, conversațiile astea suicidale sunt „extrem de rare” și, ca atare, greu de măsurat.

Compania a făcut publice aceste date ca parte dintr-un anunț mai cuprinzător despre eforturile pe care le face în ultima vreme pentru a îmbunătăți modul în care roboții răspund persoanelor cu probleme psihice. Printre altele, au consultat peste 170 de experți în sănătate mintală care au spus că ultimul model ChatGPT „răspunde mai adecvat și mai coerent decât versiunile anterioare”.

În plus, OpenAI a inclus în ultimul model ChatGPT și noi metode de evaluare a celor mai grave probleme de sănătate mintală de care ar putea suferi utilizatorii.

De ce această agitație pentru numai 0,15% dintre clienți? Pentru că, după ce ChatGPT a ajutat un puști de 16 ani să se sinucidă și după multe alte incidente, relatate de presă, în care chatboții împing oamenii la psihoză și delir – mai ales prin aceea că îi laudă, îi sprobă, îi susțin și încurajează indiferent ce aberații spun – chestiunea riscului privind sănătatea mintală a utilizatorilor a devenit una existențială pentru OpenAI.

Compania a fost notificată de autoritățile judiciare din California și Delaware – care i-ar putea bloca o planificată restructurare – că trebuie să protejeze tinerii și copiii care îi folosesc produsele.

Pe de altă parte, spune OpenAI, sute de mii de utilizatori manifestă „un nivel foarte crescut de atașament emoțional față de ChatGPT”. Iar, mai nou, inițiativa de a permite „discuțiile erotice” cu chatboții va crește, probabil, și numărul de utilizatori, și nivelul de „atașament”. Deci e bine.

Sursa: TechCrunch