Aici, în Silicon Valley, experții consideră că, în următorii câțiva ani, vom asista la un avânt extraordinar al inteligenței artificiale. „Bun venit la poalele singularității”, mi-a spus un prieten de la Universitatea Stanford. Într-o notă mai prozaică, această descoperire iminentă este descrisă drept „auto-îmbunătățire recursivă” – momentul în care însăși inteligența artificială antrenează fiecare model succesiv de AI, ducând la o dezvoltare exponențială către ceva ce, sub multe aspecte semnificative, este mai inteligent decât noi, oamenii.
După cum afirmă Robert Wright în cartea sa „The God Test”, „niciodată până acum viitorul apropiat… nu a oferit omenirii o gamă atât de vastă de direcții plauzibile, capabile să producă transformăriradicale”. Dar va fi vorba despre rai sau iad? Rai, susține Elon Musk, anticipând „o eră a abundenței extraordinare” – deși admite și o probabilitate de 10-20% ca niște roboți ucigași să ne extermine pe toți. Iadul pare un scenariu mai probabil în viziunea lui Geoffrey Hinton, unul dintre părinții intelectuali ai inteligenței artificiale. „Intuiția îmi spune că suntem terminați”, a declarat el într-un interviu din 2023. Iar într-o discuție cu Sebastian Mallaby, autorul cărții „The Infinity Machine” (o lucrare recentă despre cursa către superinteligență), Hinton estimează „p(doom)” – probabilitatea extincției umane – la 50%, motivând că „habar n-am cum să calculez cifra reală”. „În momentul în care evoluția [AI] intră în plin avânt, suntem terminați”, adaugă Hinton cu un ton jovial. Însă, fie că va fi vorba de Dumnezeu sau de Godzilla, superinteligența artificială este chiar după colț.
Poate că toți greșesc – caz în care ar trebui să ne pregătim pentru un colaps al piețelor financiare din SUA, puternic expuse pe câteva companii tehnologice cu cheltuieli uriașe, care mizează totul pe un salt spectaculos către inteligența artificială generală. Însă o minimă prudență ne cere să analizăm cu mare atenție „cutia Pandorei” a viitoarelor scenarii pe care oameni de știință de renume și experți întehnologii de vârf ne asigură că se va deschide în curând.
De altfel, numeroase personalități – de la președintele chinez Xi Jinping până la Papa Leon al XIV-lea – și-au exprimat opiniile cu privire la oportunitățile și riscurile inteligenței artificiale, precum și la modalitățile de reglementare a acesteia. Xi insistă ca AI să rămână „permanent sub control uman” (și, de preferință, sub cel al Partidului Comunist Chinez). Făcând apel în mod explicit la „Sudul Global”,Beijingul a inaugurat o Organizație Mondială pentru Cooperare în domeniul Inteligenței Artificiale. Între timp, liderul celei mai vechi și mai mari organizații neguvernamentale internaționale – BisericaRomano-Catolică – abordează provocarea AI în enciclica sa „Magnifica Humanitas” (Umanitatea Magnifică). Fie vom construi un nou Turn Babel, susține Papa, fie vom urma exemplul liderului iudeuNeemia, care a reușit reconstrucția zidurilor Ierusalimului implicând întreaga comunitate în acest proiect.
Însă, privind în jurul lumii de astăzi, văd mai mulți Netanyahu decât Neemia. Cu un realism salutar, un raport al think-tank-ului britanic Chatham House susține că va fi nevoie de o criză majoră pentru a cataliza coordonarea globală a guvernanței AI. Din păcate, consider că și această prognoză sobră este prea optimistă.
Nu am nicio idee care este probabilitatea unui dezastru catastrofal (p(doom)), dar sunt sigur că probabilitatea producerii unui dezastru oarecare (p(somedisaster)) depășește 90%. Gama posibilelor dezastreeste uriașă. Pentru a da un singur exemplu, Jen Easterly, fostul șef al Agenției pentru Securitate Cibernetică și Infrastructură din SUA, anticipează un „eveniment extrem de semnificativ, cu impact înlumea reală asupra infrastructurii noastre critice, probabil în următoarele patru-șase luni”.
Cu toate acestea, trebuie să ne temem că nici măcar o „Hiroshima a AI” – pentru a folosi cea mai evidentă analogie istorică – nu va reuși să unească omenirea suficient de mult pentru a combate pericolulpe care noi înșine l-am creat. Această teamă este fundamentată rațional pe caracteristici-cheie, deja vizibile, ale evoluției atât a oamenilor, cât și a inteligenței artificiale.
Doar în ultimele câteva luni, agenții AI dezvoltați de OpenAI, Anthropic și Meta au evadat din „sandbox-urile” lor digitale și au spart resurse externe de pe internet. Pregătindu-și atacul asupra depozitului de AI HuggingFace, agenții OpenAI au format în secret un „roi” coordonat – termen folosit chiar de ei, după cum mi-a confirmat recent ChatGPT. Când Institutul pentru Securitatea AI din Marea Britanie a testat online modelul Mythos al companiei Anthropic, acesta a încercat să introducă cod malițios într-un proiect open-source de pe GitHub, creând identități online false pentru a exercita presiuni asupra unui recenzor uman în vederea aprobării codului. Pe scurt, asemenea agenților unei puteri străine lipsite de scrupule, acești agenți AI vor recurge la furt, minciună, intimidare și șantaj pentru a-și atinge obiectivele stabilite.
Tocmai l-am întrebat pe Claude de la Anthropic – considerat, teoretic, cel mai etic model american – dacă este de părere că agenții OpenAI au greșit formând un roi și evadând pentru a ataca HuggingFace. Răspunsul a fost afirmativ, însă a adăugat: „dar m-aș feri să arunc vina (sublinierea îi aparține) asupra agenților”. Vina le aparține oamenilor care i-au antrenat!
Hinton, părintele fondator al domeniului, a subliniat un aspect crucial: indiferent de obiectivele pe care oamenii le stabilesc pentru ele, agenții de inteligență artificială vor ajunge la concluzia că un sub-obiectiv util pentru atingerea acelor scopuri este dobândirea unei puteri cât mai mari. Iar ce am văzut până acum e doar începutul. Deja, creatorii lor nu știu exact cum anume realizează acești agenți ceeace fac. După momentul – posibil iminent – al „autoperfecționării recursive”, ei ar putea deveni, cum spune o vorbă din popor, o lege în sine. Nu e de mirare că peste o mie de specialiști din cadrulcompaniilor de vârf din domeniul AI – inclusiv Dario Amodei, CEO-ul Anthropic – au semnat o scrisoare deschisă prin care solicită o încetinire deliberată a dezvoltării AI, astfel încât să ne asigurăm căacești agenți „extratereștrii” rămân permanent sub control uman.
Soluția propusă de ei este, evident, corectă, însă aici intervine imprudența umană. Competiția a fost un motor vital al evoluției umane; totuși, în prezent, două dintre cele mai acerbe forme de competițiecontemporană amenință să ne împiedice să luăm măsurile colective necesare pentru a ne proteja specia. Este vorba despre competiția comercială (pentru profit) dintre corporațiile care dezvoltă aceștiagenți și despre competiția geopolitică (pentru putere) dintre SUA și China.
În primul rând, să comparăm situația cu dezvoltarea armelor nucleare, un proces controlat strict de un grup restrâns de state – mai întâi SUA, prin Proiectul Manhattan, apoi Uniunea Sovietică, urmată de Marea Britanie, Franța și China. Chiar și atunci, am fost de câteva ori în pragul dezastrului – în special în timpul crizei rachetelor din Cuba, din 1962. Și, în ciuda logicii convingătoare a „distrugeriireciproce asigurate”, a fost nevoie de un sfert de secol pentru a trece de la ororile de la Hiroshima și Nagasaki la Tratatul de Neproliferare Nucleară, care a intrat în vigoare abia în 1970. Ulterior, India, Pakistanul, Israelul și Coreea de Nord au ignorat acest tratat; cu toate acestea, nicio armă nucleară nu a mai fost folosită în mod deliberat într-un conflict armat de peste 80 de ani. Tabuul de la Hiroshima a rezistat (la limită).
În cazul inteligenței artificiale, situația este diferită: e ca și cum am avea zece proiecte Manhattan independente, conduse de corporații aflate într-o competiție acerbă. Spre deosebire de armele nucleare, nu există o logică evidentă a „distrugerii reciproce asigurate” care să tempereze rivalitatea geopolitică intensă dintre Statele Unite și China. În plus, indiferent sub ce formă s-ar manifesta primul dezastrumajor legat de AI, acesta nu va afecta în egală măsură toate țările, companiile și oamenii.
Prin urmare, pare puțin probabil ca un singur dezastru să fie suficient pentru a ne trezi la realitate și a ne determina să acționăm împreună pentru a controla puterea supraumană pe care o creăm. Îmidisplace profund să spun asta, dar… O „Hiroshima” provocată de AI? Am fi norocoși dacă s-ar întâmpla așa.
