Nate Soares, specialist american în siguranța inteligenței artificiale și președinte al Machine Intelligence Research Institute, estimează la peste 50% probabilitatea ca dezvoltarea unor sisteme IA extrem de avansate să provoace dispariția omenirii în următorul deceniu. Evaluarea, prezentată ca opinie personală, este atât de pesimistă încât i-a influențat inclusiv deciziile financiare.
O estimare care i-a schimbat planificarea financiară
Soares a declarat, într-un interviu, că nu mai contribuie de aproximativ zece ani la fondul său de pensie. El păstrează economiile strânse în perioada în care a lucrat pentru Google, însă nu a continuat alimentarea contului de pensie după plecarea din companie. Decizia este legată de convingerea sa că posibilitatea unei catastrofe provocate de inteligența artificială este suficient de mare pentru a schimba modul în care își planifică viitorul pe termen lung.
„În prezent, nu economisesc pentru pensie. Am un cont 401(k) din perioada în care lucram la Google, dar nu am mai contribuit la el de un deceniu”, a afirmat Nate Soares.
Specialistul nu descrie un risc asociat aplicațiilor obișnuite de inteligență artificială, ci dezvoltării unor sisteme care ar depăși cu mult capacitățile cognitive ale oamenilor. În scenariul analizat de acesta, astfel de sisteme ar putea deveni imposibil de controlat, iar efectele ar fi de natură existențială. Estimarea sa se referă la un interval mai mic de zece ani și depășește pragul de 50%.
Problema controlului asupra sistemelor avansate
Soares lucrează de peste 12 ani în domeniul cunoscut sub denumirea de „AI alignment”, orientat spre dezvoltarea unor sisteme ale căror obiective și comportamente să rămână compatibile cu interesele oamenilor. Această preocupare pornește de la întrebarea dacă oamenii vor putea menține controlul asupra unor tehnologii care ar ajunge să opereze la un nivel superior celui uman.
În cadrul Machine Intelligence Research Institute, organizație nonprofit cu sediul în Berkeley, California, sunt studiate riscurile asociate inteligenței artificiale avansate. Experiența lui Soares include activitatea de inginer la Google și Microsoft, înainte de preluarea conducerii institutului. Parcursul său profesional îl situează în zona cercetătorilor care analizează consecințele pe termen lung ale dezvoltării IA, nu doar beneficiile imediate ale acestor sisteme.
Ce susține, concret, evaluarea specialistului
Declarațiile sale se bazează pe o evaluare personală a riscului, nu pe prezentarea unui eveniment deja produs. Potrivit estimării sale:
- probabilitatea ca IA să provoace dispariția oamenilor în mai puțin de zece ani este de peste 50%;
- cele mai grave consecințe ar putea apărea dacă sistemele devin mult mai inteligente decât oamenii;
- menținerea controlului asupra unor asemenea sisteme reprezintă una dintre principalele dificultăți analizate în domeniul siguranței IA.
| Element | Date prezentate |
|---|---|
| Specialist | Nate Soares |
| Funcție | Președinte al Machine Intelligence Research Institute |
| Estimarea riscului | Peste 50% |
| Interval analizat | Următorii zece ani |
Perspectiva exprimată de Soares se înscrie printre cele mai pesimiste evaluări formulate de cercetători preocupați de riscurile inteligenței artificiale. Ea aduce în discuție nu numai ritmul dezvoltării tehnologice, ci și capacitatea instituțiilor și a cercetătorilor de a anticipa comportamentul unor sisteme foarte complexe.
În același timp, faptul că specialistul își bazează decizia financiară pe această estimare arată cât de serioasă este, pentru el, problema controlului tehnologic. Declarația nu oferă o dată exactă și nu descrie un mecanism concret prin care s-ar produce o eventuală catastrofă. Ea exprimă însă convingerea că riscul este suficient de mare pentru a modifica alegeri personale legate de pensie și de planificarea viitorului.
