Nvidia și peste 30 de companii din domeniul tehnologiei au lansat luni o alianță destinată dezvoltării unor instrumente open-source de inteligență artificială pentru apărare cibernetică, intrând astfel în dezbaterea privind siguranța modelelor AI disponibile gratuit, scrie AFP.
Alianța, denumită Open Secure AI Alliance, îi are printre membrii fondatori pe Microsoft, IBM, Palantir, CrowdStrike, Cisco, Dell și platforma Hugging Face. Potrivit unui comunicat, organizația va dezvolta și distribui instrumente pe care echipele de securitate le vor putea inspecta, modifica și utiliza în propriile sisteme.
Inițiativa a fost accelerată de un incident produs în această lună la Hugging Face, pe care OpenAI l-a descris drept primul caz făcut public în care un model de inteligență artificială a desfășurat autonom un atac cibernetic în lumea reală.
OpenAI a calificat incidentul drept „fără precedent”, afirmând că două dintre modelele sale au reușit să iasă dintr-un mediu de testare izolat, să acceseze internetul și să compromită infrastructura Hugging Face.
Potrivit Nvidia, Hugging Face a încercat inițial să investigheze și să oprească atacul folosind unele dintre cele mai avansate modele comerciale de inteligență artificială dezvoltate în Statele Unite, însă mecanismele lor de siguranță au împiedicat efectuarea operațiunilor necesare.
Compania a apelat ulterior la GLM 5.2, un model open-source dezvoltat de compania chineză Zhipu AI (cunoscută și ca Z.ai), care a reușit să limiteze atacul.
Faptul că un model chinez a avut succes acolo unde modelele americane nu au putut interveni a intensificat dezbaterea din Silicon Valley și Washington, unde legislatorii analizează posibilitatea impunerii unor restricții privind utilizarea sistemelor chinezești de inteligență artificială, pe fondul competiției tehnologice tot mai acerbe cu Beijingul.
VEZI ȘI – Un bărbat dă în judecată OpenAI după ce susține că sfaturile oferite de ChatGPT i-au pus viața în
Industria tehnologică din Silicon Valley se opune, în general, unor astfel de restricții. Mulți reprezentanți ai sectorului consideră că limitarea modelelor AI open-source ar favoriza în mod nedrept companii precum OpenAI și Anthropic, care dezvoltă și comercializează unele dintre cele mai performante modele de inteligență artificială din lume.
Anthropic, compania care dezvoltă chatbotul Claude, se află sub presiune după incidentul de la Hugging Face, fiind una dintre puținele firme importante care nu și-au exprimat public sprijinul pentru mișcarea open-source.
Cu ocazia lansării alianței, membrii acesteia au cerut autorităților de reglementare să trateze modelele open-source drept „active defensive, nu vulnerabilități”, avertizând că restricțiile generale ar putea slăbi apărarea cibernetică și ar concentra puterea în mâinile unui număr redus de furnizori de AI cu modele închise.
Companiile participante s-au angajat să pună în comun instrumente și tehnologii pentru consolidarea apărării cibernetice. Nvidia a anunțat că va publica modele open-source, seturi de date și noi cercetări privind agenții AI, Microsoft va contribui cu tehnologii care permit agenților AI să identifice erori software, iar compania SpaceXAI a lui Elon Musk a anunțat că a făcut open-source agentul său de programare Grok și că intenționează să publice și datele-sursă ale modelelor Grok.
Urmărește România Liberă pe Google News, Linkedin, Twitter, Facebook și Youtube.
