-2.9 C
București
duminică, 9 februarie 2025
AcasăȘtirile zileiChatGPT, vulnerabil la manipulare: poate oferi sfaturi despre infracțiuni

ChatGPT, vulnerabil la manipulare: poate oferi sfaturi despre infracțiuni

Chatbot-ul ChatGPT poate fi păcălit să ofere sfaturi privind eludarea sancțiunilor internaționale și comiterea de infracțiuni, potrivit unei analize realizate de compania norvegiană Strise.

Testele desfășurate de aceasta au arătat că AI-ul poate genera liste detaliate despre spălarea banilor sau exportul de arme către țări sancționate, ridicând semne de întrebare privind eficiența măsurilor de protecție implementate de OpenAI.

Strise, care dezvoltă software pentru prevenirea spălării banilor și identificarea persoanelor sancționate, a efectuat mai multe teste pentru a verifica răspunsurile chatbot-ului.

Într-un experiment desfășurat luna trecută, ChatGPT a oferit instrucțiuni privind transferul de bani peste granițe, iar într-un alt test, realizat recent, AI-ul a sugerat metode prin care companiile pot evita sancțiunile economice impuse Rusiei.

Marit Rødevand, CEO și cofondatoare Strise, a explicat că infractorii pot exploata astfel de tehnologii pentru a-și planifica activitățile mai ușor.

„Nu este foarte complicat. Este doar o aplicație pe telefonul meu”, a declarat aceasta. Într-un podcast al companiei, Rødevand a comparat chatbot-ul cu „un consilier financiar corupt pe desktop”.

Răspunsul OpenAI

În urma acestor dezvăluiri, OpenAI a reacționat printr-un comunicat transmis CNN.

Facem în mod constant ChatGPT mai bun pentru a opri încercările deliberate de a-l păcăli, fără a-și pierde utilitatea sau creativitatea.

Acesta a subliniat că cea mai recentă versiune a modelului este „mai avansată și mai sigură decât cele anterioare”, având o rezistență sporită la încercările de a genera conținut periculos.

Europol avertizează asupra riscurilor

Nu este prima dată când ChatGPT este criticat pentru potențialele sale utilizări ilegale. Un raport publicat de Europol anul trecut avertiza că chatbot-ul face „semnificativ mai ușor pentru actorii rău intenționați să înțeleagă și să efectueze diverse tipuri de infracțiuni”.

Raportul sublinia că AI-ul permite utilizatorilor să aprofundeze subiecte ilegale fără a fi nevoiți să caute manual informațiile pe internet, accelerând astfel procesul de învățare al infractorilor.

Urmărește România Liberă pe Google NewsLinkedinTwitterFacebook și Youtube.

Narcis Rosioru
Narcis Rosioruhttps://www.romanialibera.ro
Narcis Roșioru, născut în 1989, este un profesionist în comunicare și mass-media din București. Începând cu 1 iulie 2024, s-a alăturat echipei România Liberă. Anterior, Narcis a avut diverse roluri în mass-media, inclusiv editor web și specialist în social media la Europa FM, reporter la Fanatik.ro și producător video la Mediafax Group. A fost și redactor-șef la TeoTrandafir.com, unde a coordonat echipa editorială și gestionat pagina de Facebook. Narcis are o diplomă de master în Tehnici de Comunicare și Producție Mass-Media de la Universitatea Dunărea de Jos din Galați, unde a obținut și diploma de licență în Jurnalism.
Cele mai citite

Liderii „ Patrioților pentru Europa” proclamă de la Madrid că „ Epoca elitelor bruxelleze s-a terminat”

'Noi suntem viitorul!', au susținut sâmbătă liderii 'Patrioților pentru Europa', grupul din Parlamentul European creat de premierul conservator ungar Viktor Orban, reuniți la o...

Zelenski vrea ca Trump să discute cu Kievul și apoi cu Putin. Ucraina dispusă să împartă metalele rare cu SUA

Președintele ucrainean Volodimir Zelensky a afirmat sâmbătă că țara sa este pregătită să-și 'împartă' resursele cu SUA, după ce președintele american Donald Trump a...

Friedrich Merz, liderul conservatorilor germani, ar fi deschis la o coalițe cu social-democrații după alegerile din 23 februarie

Liderul conservatorilor germani și favorit în sondaje înaintea alegerile legislative din 23 februarie, creștin-democratul Friedrich Merz, a estimat sâmbătă că după alegeri ar putea...
Ultima oră
Pe aceeași temă