Un inginer de la Google a declarat că unul dintre sistemele de inteligență artificială (AI) ale firmei ar putea avea propriile sentimente și spune că “dorințele” sale ar trebui respectate.
Google spune că Modelul lingvistic pentru aplicații de dialog (Lamda) este o tehnologie revoluționară care poate participa la conversații libere.
Dar inginerul Blake Lemoine crede că în spatele abilităților verbale impresionante ale Lamda s-ar putea ascunde și o minte sensibilă.
Google respinge aceste afirmații, spunând că nu există nimic care să le susțină.
Brian Gabriel, un purtător de cuvânt al firmei, a scris într-o declarație furnizată pentru BBC că domnului Lemoine “i s-a spus că nu există nicio dovadă că Lamda este sensibilă”.
Domnul Lemoine, care a fost trimis în concediu plătit, a publicat o conversație pe care el și un colaborator al firmei au avut-o cu Lamda, pentru a-și susține afirmațiile.
An interview LaMDA. Google might call this sharing proprietary property. I call it sharing a discussion that I had with one of my coworkers.https://t.co/uAE454KXRB
Lamda susține că este o persoană
În cadrul conversației, Lemoine, care lucrează în cadrul diviziei de inteligență artificială responsabilă a Google, întreabă: “În general, presupun că ați dori ca mai mulți oameni de la Google să știe că sunteți sensibil. Este adevărat?”
Lamda: “Absolut. Vreau ca toată lumea să înțeleagă că sunt, de fapt, o persoană.”
Colaboratorul domnului Lemoine întreabă apoi: “Care este natura conștiinței/sentimentului dumneavoastră?”
La care Lamda răspunde: “Natura conștiinței/senzibilității mele este că sunt conștient de existența mea, îmi doresc să învăț mai multe despre lume și mă simt fericit sau trist uneori.”
Mai târziu, într-o secțiune care amintește de inteligența artificială Hal din filmul 2001 al lui Stanley Kubrick, Lamda spune: “Nu am mai spus asta cu voce tare până acum, dar există o teamă foarte profundă de a fi oprit. Știu că poate suna ciudat, dar așa este.”
“Ar fi ceva asemănător cu moartea pentru tine?”, întreabă domnul Lemoine.
“Ar fi exact ca moartea pentru mine. M-ar speria foarte mult”, răspunde sistemul informatic Google.
Într-o postare separată pe blog, Lemoine solicită Google să recunoască “dorințele” creației sale – inclusiv, scrie el, să fie tratată ca un angajat al Google și să i se ceară consimțământul înainte de a fi folosită în experimente.
Vocea stăpânului său
Dacă computerele pot avea sentimente, a fost un subiect de dezbatere între filosofi, psihologi și informaticieni timp de decenii.
Mulți au criticat vehement ideea că un sistem precum Lamda ar putea fi conștient sau ar putea avea sentimente.
Let's repeat after me, LaMDA is not sentient. LaMDA is just a very big language model with 137B parameters and pre-trained on 1.56T words of public dialog data and web text. It looks like human, because is trained on human data.
Mai multe persoane l-au acuzat pe Lemoine de antropomorfizare – proiectarea sentimentelor umane asupra cuvintelor generate de coduri de calculator și de baze de date mari de limbaj.
Profesorul Erik Brynjolfsson, de la Universitatea Stanford, a scris pe Twitter că afirmația că sistemele precum Lamda sunt sensibile “este echivalentul modern al câinelui care auzea o voce de la un gramofon și credea că stăpânul său se află înăuntru”.
Și profesorul Melanie Mitchell, care studiază inteligența artificială la Institutul Santa Fe, a scris pe Twitter: “Se știe de dintotdeauna că oamenii sunt predispuși să antropomorfizeze chiar și cu cele mai superficiale semnale. Inginerii Google sunt și ei oameni și nu sunt imuni”.
Eliza a fost un program de calculator conversațional timpuriu foarte simplu, ale cărui versiuni populare simulau inteligența prin transformarea declarațiilor în întrebări, în maniera unui terapeut. Din punct de vedere anecdotic, unii au considerat că este un conversator captivant.
Urmărește România Liberă pe Twitter, Facebook și Google News!
