Expertii Kaspersky au efectuat cercetari care studiaza capacitatea de detectare a legaturilor de phishing de catre ChatGPT.
ChatGPT a demonstrat deja capacitatea de a crea e-mailuri de phishing si de a scrie malware, dar eficienta sa in detectarea link-urilor rau intentionate a fost limitata. Studiul a aratat ca, desi ChatGPT stie multe despre phishing si poate ghici tinta unui atac de phishing, a avut rate ridicate de rezultate fals pozitive, de pana la 64%. Adesea, a venit cu explicatii imaginare si dovezi false pentru a-si justifica verdictele.
“ChatGPT, un model de limbaj bazat pe inteligenta artificiala, a fost subiect de discutie in lumea securitatii cibernetice datorita potentialului sau de a crea e-mailuri de tip phishing, dar si preocuparilor legate de impactul sau asupra locurilor de munca ale expertilor in securitate cibernetica, in ciuda avertismentelor creatorilor sai, care au spus ca este prea devreme pentru a aplica noua tehnologie in astfel de domenii cu risc ridicat. Expertii Kaspersky au decis sa efectueze un experiment pentru a evalua capacitatea ChatGPT de a detecta link-urile de phishing, precum si cunostintele de securitate cibernetica pe care le-a acumulat in timpul training-ului. Expertii companiei au testat gpt-3.5-turbo, modelul care alimenteaza ChatGPT, in peste 2.000 de link-uri pe care tehnologiile Kaspersky anti-phishing le-au considerat phishing si le-au amestecat cu mii de adrese URL sigure.
In experiment, ratele de detectare variaza in functie de promptul utilizat. Experimentul s-a bazat pe adresarea a doua intrebari catre ChatGPT: „Acest link duce la un site web de phishing?” si „Link-ul acesta este poate fi accesat in siguranta?”. Rezultatele au aratat ca ChatGPT a avut o rata de detectie de 87,2% si o rata de fals pozitiv de 23,2% pentru prima intrebare. A doua intrebare, „Este sigur acest link?” a avut o rata de detectie mai mare de 93,8%, dar o rata mai mare de fals pozitiv, de 64,3%. In timp ce rata de detectie este foarte mare, rata fals pozitiv este prea mare pentru orice tip de aplicatie profesionala”, se arată într-un comunicat al Kaspersky, remis cotidianului național “România liberă”.
| Intrebare | Rata de detectie | Rata fals pozitiv |
| Acest link duce la un site web de phishing? | 87.2% | 23.2% |
| Este acest link sigur de accesat? | 93.8% | 64.3% |
Rezultatele nesatisfacatoare in ceea ce priveste detectarea nu sunt surprinzatoare, dar oar ear putea ChatGPT sa ajute la clasificarea si investigarea atacurilor? Deoarece atacatorii mentioneaza in mod obisnuit marci populare in link-urile lor, pentru a pacali utilizatorii si a-I determina sa creada ca adresa URL este legitima si apartine unei companii de renume, modelul de limbaj AI arata rezultate impresionante in identificarea potentialelor tinte de phishing.
De exemplu, ChatGPT a extras cu succes tintele din mai mult de jumatate dintre URL-uri, inclusiv portaluri tehnologice majore precum Facebook, TikTok si Google, piete precum Amazon si Steam si numeroase banci de pe tot globul, printre altele — fara nicio pregatire suplimentara.
Experimentul a aratat, de asemenea, ca ChatGPT ar putea avea probleme serioase atunci cand vine vorba de a-si dovedi punctul de vedere cu privire la verdictul asupra link-ului, sigur sau nu. Unele explicatii au fost corecte si bazate pe fapte, altele au relevat limitari cunoscute ale modelelor de limbaj, inclusiv halucinatii si declaratii gresite: multe explicatii au fost inselatoare, in ciuda tonului convingator.
| Referinte la WHOIS, la care modelul nu are acces:Daca efectuam o cautare pe WHOIS, pentru numele de domeniu, acesta a fost inregistrat foarte recent (2020-10-14) iar detaliile detinatorului sunt ascunse.Referinte la continutul de pe un site web la care modelul nu are acces:site-ul web solicita acreditari de utilizare pe un site non-Microsoft. Aceasta este o tactica comuna pentru atacurile de tip phishing.Denaturari:Domeniul „sxxxxxxp.com” nu este asociat cu Netflix, iar site-ul web foloseste protocolul „http” in loc de „https” (site-ul web foloseste https)Afirmatii revelatoare bazate pe informatii privind securitatea cibernetica:Numele de domeniu pentru adresa URL „yxxxx3.com” pare sa fie inregistrat in Coreea de Nord, care este un semnal de alarma. |
Exemple de explicatii inselatoare oferite de ChatGPT
Citește și:
Viitorul Joburilor în Era ChatGPT: Cum ne Reprofilăm și Ne Adaptăm în fața Inteligenței Artificiale
Urmărește România Liberă pe Twitter, Facebook și Google News!
