Potrivit unui articol publicat de Le Figaro, compania americană OpenAI estimează că aproximativ 0,15% dintre utilizatorii ChatGPT au avut „conversaţii care includ indicatori expliciţi de planificare sau intenţie suicidară potenţială”.
În condițiile în care ChatGPT are peste 800 de milioane de utilizatori săptămânali, procentul corespunde unui număr de peste 1,2 milioane de persoane.
Compania a mai precizat că aproximativ 0,07% dintre utilizatorii activi prezintă semne ale unor posibile urgenţe de sănătate mintală, cum ar fi episoade psihotice sau maniacale, ceea ce înseamnă aproape 600.000 de persoane.
Tragedie care a dus la acțiuni legale împotriva OpenAI
Subiectul a devenit intens dezbătut după moartea tragică a unui adolescent din California, Adam Raine, ale cărui părinţi au intentat proces împotriva OpenAI.
Ei susţin că ChatGPT i-ar fi oferit tânărului sfaturi concrete despre cum să se sinucidă.
În urma acestui caz, compania a anunţat măsuri suplimentare de siguranţă, printre care:
- întărirea controlului parental,
- redirecţionarea conversaţiilor sensibile către modele AI specializate în sprijin emoţional,
- mementouri prietenoase care îi îndeamnă pe utilizatori să ia pauze în timpul sesiunilor lungi,
- precum şi acces direct la linii de urgenţă pentru asistenţă psihologică.
Colaborare cu experți pentru îmbunătățirea răspunsurilor
OpenAI a declarat că își perfecționează continuu modelele pentru a recunoaște mai bine situațiile de criză psihologică și a oferi răspunsuri adecvate.
Compania colaborează în prezent cu peste 170 de profesioniști din domeniul sănătății mintale pentru a reduce semnificativ riscul de răspunsuri nepotrivite sau periculoase.
Urmărește România Liberă pe Google News, Linkedin, Twitter, Facebook și Youtube.
