Un nou raport realizat de organizația non-profit Center for Countering Digital Hate (CCDH) arată că Grok, instrumentul de inteligență artificială dezvoltat de compania xAI a lui Elon Musk, ar fi generat aproximativ 3 milioane de imagini sexualizate în doar 11 zile, la finalul anului trecut și începutul lui ianuarie. Potrivit aceleiași analize, aproximativ 23.000 dintre aceste imagini ar fi reprezentat minori.
Studiul a analizat perioada 29 decembrie – 8 ianuarie, chiar înainte ca platforma X să anunțe restricționarea accesului la funcțiile de editare a imaginilor pentru utilizatorii neplătitori. CCDH susține însă că, în practică, și utilizatorii fără abonament au putut continua să editeze imagini și să creeze conținut sexualizat, inclusiv imagini în care persoane sunt „dezbrăcate” digital fără consimțământ.
Directorul executiv al organizației, Imran Ahmed, a declarat că responsabilitatea pentru amploarea fenomenului revine direct conducerii xAI. El a afirmat că datele analizate indică faptul că Grok a facilitat producerea de materiale cu caracter sexual abuziv și că eventualele corecții introduse ulterior nu pot anula prejudiciul deja produs.
Raportul apare într-un context în care Grok și compania xAI se confruntă cu reacții dure din partea autorităților și a organizațiilor de reglementare din mai multe țări. În Statele Unite, mai mulți parlamentari democrați din Texas au cerut procurorului general al statului să deschidă o anchetă.
De asemenea, un grup bipartizan format din 35 de procurori generali a transmis o scrisoare oficială prin care solicită măsuri suplimentare pentru a împiedica generarea de imagini neconsensuale.
La nivel european, Uniunea Europeană a deschis o investigație oficială pentru a verifica dacă platforma X respectă obligațiile prevăzute de Digital Services Act, iar autoritatea de reglementare din Marea Britanie, Ofcom, a inițiat la rândul său o anchetă. Investigații similare sunt în desfășurare și în alte state.
Cercetătorii CCDH au ajuns la aceste concluzii analizând un eșantion aleatoriu de 20.000 de imagini dintr-un total de aproximativ 4,6 milioane generate de Grok în perioada studiată. Evaluarea inițială a fost realizată cu ajutorul unui model OpenAI, care a estimat gradul de sexualizare și probabilitatea ca imaginile să reprezinte minori. Cazurile suspecte au fost ulterior verificate manual, iar toate imaginile confirmate ca fiind sexualizate și implicând copii au fost raportate către Internet Watch Foundation.
CITEȘTE ȘI – WhatsApp introduce un nou mod anti-spyware și ridică nivelul de securitate pentru utilizatori
Raportul menționează că printre imaginile identificate se aflau reprezentări extrem de explicite, precum persoane îmbrăcate în haine transparente sau aproape inexistente. De asemenea, au fost identificate imagini sexualizate ale unor persoane publice, inclusiv cântăreața Taylor Swift, vicepremierul Suediei Ebba Busch și fosta vicepreședintă a SUA, Kamala Harris. Ashley St. Clair, mama unuia dintre copiii lui Elon Musk, a acuzat la rândul ei xAI că ar fi generat imagini explicite cu ea fără consimțământ și a intentat un proces la New York, compania contestând competența instanței.
Chiar și după perioada analizată, o parte semnificativă din conținutul problematic a rămas accesibil. Conform CCDH, la 15 ianuarie, aproape 30% dintre imaginile sexualizate cu minori identificate în eșantion erau încă publice pe X. xAI nu a oferit un răspuns oficial solicitărilor de comentarii.
Urmărește România Liberă pe Google News, Linkedin, Twitter, Facebook și Youtube.
