Un nou tip de atac cibernetic exploatează o vulnerabilitate în Google Gemini pentru Workspace, permițând atacatorilor să genereze rezumate de email care par legitime, dar includ instrucțiuni malițioase ce pot direcționa utilizatorii către site-uri de phishing, fără a folosi atașamente sau linkuri directe.
Vulnerabilitate în Google Gemini
Atacul se bazează pe injectarea de comenzi ascunse (prompt injections) în conținutul emailului, pe care Gemini le „citește” și le respectă atunci când creează rezumatul mesajului. Aceste directive malițioase sunt ascunse folosind tehnici HTML și CSS — font de culoare albă și mărime zero — astfel încât ele nu sunt vizibile în clientul de email, dar sunt procesate de modelul AI.
CITEȘTE ȘI – Bitchat – aplicația de mesagerie care funcționează fără internet sau rețea mobilă
Deși astfel de atacuri de tip prompt injection au fost raportate încă din 2024, iar Google a implementat măsuri de protecție pentru a bloca răspunsurile înșelătoare, tehnica continuă să funcționeze. Vulnerabilitatea a fost semnalată de cercetătorul Marco Figueroa prin programul de bug bounty al Mozilla, 0din, destinat inteligenței artificiale generative.
Un exemplu concret arată că Gemini poate genera un mesaj de avertizare fals, indicând că parola Gmail a utilizatorului a fost compromisă, oferind și un număr de telefon fals de asistență. Utilizatorii care au încredere în output-ul Gemini, considerându-l o funcție oficială a Google Workspace, riscă să cadă în capcana atacului.
Pentru a preveni astfel de atacuri, Figueroa recomandă filtrarea și neutralizarea conținutului ascuns în email, precum și aplicarea unor filtre automate care să detecteze mesaje urgente, numere de telefon sau URL-uri suspecte în rezumatele generate de Gemini.
Reprezentanții Google au declarat pentru BleepingComputer că lucrează intens la întărirea sistemelor de apărare împotriva acestor atacuri, prin exerciții de tip red-teaming, iar unele măsuri de protecție sunt în curs de implementare. De asemenea, Google susține că nu există indicii că vulnerabilitatea a fost exploatată în mod real până acum.
Urmărește România Liberă pe Google News, Linkedin, Twitter, Facebook și Youtube.
