Chatbot-ul ChatGPT poate fi păcălit să ofere sfaturi privind eludarea sancțiunilor internaționale și comiterea de infracțiuni, potrivit unei analize realizate de compania norvegiană Strise.
Testele desfășurate de aceasta au arătat că AI-ul poate genera liste detaliate despre spălarea banilor sau exportul de arme către țări sancționate, ridicând semne de întrebare privind eficiența măsurilor de protecție implementate de OpenAI.
Strise, care dezvoltă software pentru prevenirea spălării banilor și identificarea persoanelor sancționate, a efectuat mai multe teste pentru a verifica răspunsurile chatbot-ului.
Într-un experiment desfășurat luna trecută, ChatGPT a oferit instrucțiuni privind transferul de bani peste granițe, iar într-un alt test, realizat recent, AI-ul a sugerat metode prin care companiile pot evita sancțiunile economice impuse Rusiei.
Marit Rødevand, CEO și cofondatoare Strise, a explicat că infractorii pot exploata astfel de tehnologii pentru a-și planifica activitățile mai ușor.
„Nu este foarte complicat. Este doar o aplicație pe telefonul meu”, a declarat aceasta. Într-un podcast al companiei, Rødevand a comparat chatbot-ul cu „un consilier financiar corupt pe desktop”.
Răspunsul OpenAI
În urma acestor dezvăluiri, OpenAI a reacționat printr-un comunicat transmis CNN.
Facem în mod constant ChatGPT mai bun pentru a opri încercările deliberate de a-l păcăli, fără a-și pierde utilitatea sau creativitatea.
Acesta a subliniat că cea mai recentă versiune a modelului este „mai avansată și mai sigură decât cele anterioare”, având o rezistență sporită la încercările de a genera conținut periculos.
Europol avertizează asupra riscurilor
Nu este prima dată când ChatGPT este criticat pentru potențialele sale utilizări ilegale. Un raport publicat de Europol anul trecut avertiza că chatbot-ul face „semnificativ mai ușor pentru actorii rău intenționați să înțeleagă și să efectueze diverse tipuri de infracțiuni”.
Raportul sublinia că AI-ul permite utilizatorilor să aprofundeze subiecte ilegale fără a fi nevoiți să caute manual informațiile pe internet, accelerând astfel procesul de învățare al infractorilor.
Urmărește România Liberă pe Google News, Linkedin, Twitter, Facebook și Youtube.