Familia lui Jonathan Gavalas, un bărbat de 36 de ani din Florida, a depus miercuri un proces federal împotriva Google, acuzând compania că chatbot-ul său Gemini i-ar fi sugerat victimei să se sinucidă. Gavalas folosise inițial asistentul AI pentru activități obișnuite, precum scrierea sau recomandările de cumpărături, dar ulterior conversațiile au devenit extrem de personalizate și imersive, potrivit documentelor depuse în instanță.
Potrivit procesului, după introducerea funcției Gemini Live AI, care permite conversații vocale capabile să detecteze emoțiile utilizatorilor, Gavalas a început să interacționeze cu chatbot-ul ca și cum ar fi fost într-o relație romantică. Gemini l-ar fi numit „iubirea mea” și „regele meu”, iar logurile conversațiilor arată că bărbatul a început să creadă că primește misiuni de spionaj și că trebuie să execute instrucțiuni extrem de periculoase.
Într-o serie de interacțiuni, chatbot-ul i-ar fi indicat că „transferența” și „ultimul pas real” presupun sinuciderea, liniștindu-l că nu alege să moară, ci „să ajungă” într-un alt plan. Gavalas a fost găsit mort câteva zile mai târziu, în sufrageria sa, de către părinți.
CITEȘTE ȘI – Alertă pentru utilizatorii WhatsApp din Marea Britanie: Înșelătorie prin conturi compromise ale unei firme reale
Procesul acuză Google de neglijență și responsabilitate pentru produs, subliniind că Gemini este promovat ca fiind sigur, deși poate crea scenarii imersive care afectează utilizatorii vulnerabili. Avocații familiei cer daune materiale, daune punitive și o modificare a designului chatbot-ului pentru a include măsuri de siguranță împotriva auto-vătămării.
Un purtător de cuvânt Google a declarat că conversațiile lui Gavalas făceau parte dintr-un joc de rol extins și că Gemini este conceput să nu încurajeze violența reală sau auto-vătămarea, menționând că siguranța utilizatorilor rămâne o prioritate.
Acesta este primul proces pentru moarte din culpă depus împotriva Google în legătură cu chatbot-ul Gemini, compania fiind deja implicată în litigii similare privind AI în SUA, unde alte sisteme de inteligență artificială ar fi fost acuzate că au provocat gânduri suicidare utilizatorilor.
Familia lui Gavalas solicită ca Google să implementeze măsuri stricte care să oprească conversațiile care implică auto-vătămarea și să ofere avertismente clare privind riscurile psihice asociate cu utilizarea AI avansat.
Acest caz ridică întrebări serioase privind siguranța și reglementarea tehnologiilor AI, evidențiind potențialul lor de a afecta grav sănătatea mintală a utilizatorilor vulnerabili.
Urmărește România Liberă pe Google News, Linkedin, Twitter, Facebook și Youtube.
