Despre lumea în care murim

Ce mai rămâne omenesc în urma inteligenței artificiale.

Acesta e textul conferinței pe care am susținut-o în 17 mai la Ateneul Român. Evenimentul a făcut parte din ediția 2026 a conferințelor “Despre lumea în care trăim”, organizate anual de Fundația Humanitas Aqua Forte.

Fotografiile de la Ateneu sunt făcute de Nicoleta Vișan/ nicoletavisan.ro

E un text lung, de 25 de pagini A4, care apare în premieră în format digital pe canalul Substack "Upgrade in Progress".

Vă mulțumesc anticipat pentru răbdarea de a-l citi (în aplicația Substack îl puteți și asculta).

Cei care scriu știu că cel mai dificil e să începi.

Dacă reușești să începi, să scrii o primă frază, se petrece un fenomen misterios, ca și cum ai deschide o fantă către un tărâm până atunci invizibil sau ca și cum ai înțepa un zăcământ până atunci intact, și care apoi, dacă ești atent și smerit, se revarsă peste mintea ta.

Când m-am gândit cum să încep această conferință, cel mai potrivit mi s-a părut să mă uit la spațiul în care ne aflăm, Ateneul.

După numele său antic, Ateneul e un templu dedicat Atenei, zeița înțelepciunii, așa că m-am apucat să citesc despre ea, și am ales să vă spun o poveste. Și veți vedea cum se leagă lucrurile cu tema noastră de astăzi.

În mitologia greacă, Zeus poartă un război timp de 10 ani cu tatăl său, Cronos, război pe care îl câștigă și datorită nimfei Mitis (Μήτις), verișoară de-a lui, considerată una dintre cele mai inteligente zeițe din Panteon.

Odată instalat ca rege al Olimpului, Zeus e atras de Mitis și o tot "vânează", iar ea se tot străduiește să scape, folosindu-se de una dintre puterile sale, aceea de a-și putea schimba forma. Numai că și Zeus are această capacitate, de a fi metamorf, așa că, până la urmă, Mitis îi cedează, devine soția lui – prima soție a lui Zeus – și rămâne însărcinată.

Dar Zeus se teme de o profeție a bunicii sale, Gaia, profeție care spune că Mitis va naște un băiat care îl va detrona pe regele zeilor. Prin urmare, când Mitis stă să nască, Zeus îi zăvorăște pântecul – asta ne spune poetul Hesiod în "Teogonia" –, și nu doar că îi zăvorăște pântecul, dar o și înghite pe soția sa.

Ciudat, dar Mitis și copilul din pântecul ei nu ajung în stomacul, ci în capul lui Zeus. Copilul e nimeni altul decât Atena – zeița care ne găzduiește și pe noi, astăzi.

Atena crește și tot crește în pântecul lui Mitis, iar legenda ne spune că, atunci când e complet dezvoltată, deci are dimensiuni de adult, mama sa îi face – acolo, în capul lui Zeus – haine, armură, un scut și o suliță.

Apoi Atena începe să facă zgomot, tot lovindu-și sulița de scut, ceea ce îi provoacă lui Zeus îngrozitoare dureri de cap. Atât de tare îl doare capul pe șeful zeilor, că urletele sale se aud pe tot Pământul. Și, nemaisuportând, îl cheamă pe Hefaistos să-i despice capul.

Astfel, Atena iese prin fruntea tatălui ei și, element esențial, se naște complet dezvoltată, ba chiar și înarmată, cu suliță și scut, și cu armura pe ea. (Mitis nu mai iese din Zeus, ci rămâne o "voce interioară", contopindu-se cu mintea lui: aviz bărbaților care vor să divorțeze…)

Nașterea Atenei: pictură din școala greacă descoperită la Vulci (Italia).

Această naștere unică ne ajută să înțelegem următoarea idee:
inteligența își poate fi propria cauză.

Așa cum Atena nu se naște doar dintr-o mamă și dintr-un tată, ci și în urma propriei acțiuni, a unei voințe de a ieși la lumină (de unde și supranumele de Tritogeneia – cea triplu născută), tot așa inteligența, în anumite condiții, își devine propriul motor, adică se "automatizează", în sensul original, grecesc, al termenului αὐτόματον (automaton), care însemna și ceva ce se auto-determină, dar mai însemna ceva foarte interesant, și anume întâmplare, neprevăzut, accident (pentru că întâmplarea are această trăsătură: pare că se produce “cu de la sine putere”).

Vă propun deci, pentru început, această idee: inteligența se naște (și) din sine, adică își poate fi proprie cauză, ca un soi de întâmplare care nu e chiar așa de întâmplătoare :)

Și cu asta trec la miezul acestei conferințe: voi formula 39 de întrebări privind inteligența artificială, cărora le voi propune și răspunsuri, iar la final o a 40-a întrebare, al cărei răspuns vă voi ruga pe dumneavoastră să-l dați, împreună.

Și, pentru că am vorbit despre cauze, prima întrebare sună așa:

1: care sunt cauzele inteligenței artificiale?

Bătrânul Aristotel, în "Metafizica" sa, ne învață că orice lucru are patru cauze: causa materialis (materia din care e făcut acel lucru), causa formalis (forma pe care o primește), causa efficiens (autorul) și causa finalis (pentru ce scop e creat acel lucru).

Cel mai ușor răspuns se referă la causa efficiens: e limpede că omul, ca specie, este autorul care a adus la existență ceea ce numim inteligență artificială. Dar când trecem la materie și la formă, situația se complică. De ce?

Dacă încercăm să "coborâm" la materia primă din care se produce inteligența artificială, descoperim că cei mai mici tranzistori, adică acele piese microscopice care pot lua fie valoarea 0, fie valoarea 1, au lungimea de 1-2 nanometri.

Asta înseamnă că pe o suprafață cât unghia încap cel puțin 20 de miliarde de tranzistori. (Cam atâția sunt și în ultimele versiuni ale telefoanelor noastre…)

Astfel, "cărămizile" prime, cele care fac posibilă computația, sunt infime cristale de siliciu pe care sunt imprimate niște tipare, cu ajutorul luminii. Producerea acestor tranzistori e o sculptură în lumină la nivel cuantic.

Iar forma? Sub ce formă există inteligența artificială? Dacă ne gândim la modelele de tip ChatGPT, forma sub care se manifestă este limbajul nostru omenesc. Dar dacă ne gândim, de pildă, la mașinile fără șofer sau la recunoașterea facială, forma devine cu totul alta, mult mai greu de încadrat într-o definiție.

Cel mai succint e să spunem că inteligența artificială se manifestă ca obiect digital, fără a intra acum în complicata discuție cu privire la ce anume este un obiect digital.

În fine, cel mai greu răspuns este cel privitor la scopul acestei entități (causa finalis): așa cum vom vedea pe parcursul acestei conferințe, una este ceea ce ne dorim noi de la inteligența artificială și alta e ceea ce ar putea aduce viitorul acestei specii, aflată încă în primele sale faze de evoluție.

2: de ce folosesc termenul de specie?

Pentru că, la fel ca în cazul mamiferelor sau al păsărilor, un model de inteligență artificială este o "matriță" capabilă să genereze un număr nesfârșit de cópii, mai mult sau mai puțin diferite, cam la fel ca opțiunile pe care le adaugi unui autoturism.

Diferența e că, dacă beneficiază de suficientă putere combinatorică (tranzistori), acești indivizi ai speciei AI pot învăța singuri.

Deci AI este o specie pluri-formă: nu va exista un singur tip de robot dotat cu AI sau un singur tip de agent AI care va hălădui prin rețea: vor exista și roboți (fără nimic biologic), și cyborgi (combinații de oameni cu roboți), și agenți AI exclusiv digitali, vor exista memorii omenești încărcate în rețea și activate de AI după moartea posesorului ș.a.m.d.

Dar să nu anticipăm.

3: cum funcționează un model de inteligență artificială?

Imaginați-vă un zgârie-nori căruia nu-i vedeți capătul de sus. Știți că, în principiu, înăuntru poate fi rezolvată orice problemă, așa că lăsați și dumneavoastră o cerere la recepția de la parter.

Ceea ce se întâmplă cu cererea dumneavoastră e următorul proces: ea trece mai întâi pe la toate birourile de la parter, mii de birouri, de unde primește câte o evaluare, iar sinteza acestor evaluări e trimisă cu liftul la etajul 1.

Fiecare dintre aceste evaluări este, de fapt, o predicție: e ca și cum fiecare persoană de la fiecare birou își dă cu părerea unde să fie încadrată problema.

Apoi, la fiecare etaj, problema e judecată la un nivel de complexitate superior; ca și cum, pe măsură ce urci, evaluatorii sunt tot mai buni la predicții și la sinteze. Dar nici un etaj nu trimite cererea mai sus înainte de a-i spune etajului inferior unde a greșit, astfel ca, data viitoare, evaluarea celor de mai jos cu privire la o problemă similară să se îmbunătățească.

Imaginați-vă că acest zgârie-nori are mii de etaje: fiecare etaj prezice unde se încadrează problema, fiecare etaj dă feedback etajelor inferioare și fiecare etaj prelucrează feedback-ul de la etajele superioare.

• (Acest proces se numește backpropagation, în traducere aproximativă – propagare inversă sau transmiterea înapoi a erorilor.)

Cererea dumneavoastră parcurge aceste mii de etaje, fiecare cu mii de predicții și de repartizări, și ajunge la ultimul etaj, unde primește răspunsul definitiv.

Să ne imaginăm că, după ce primește parafa de la cel mai inteligent nivel, răspunsul e retrimis cu liftul înapoi la parter și vă este livrat. Iar tot acest proces, de jos până sus și înapoi, cu miliarde de miliarde de bucle, comenzi și ajustări, se petrece în mai puțin de o secundă.

Iar acum imaginați-vă, dacă puteți, miliarde de etaje. Dată fiind complexitatea inimaginabilă a acestui proces, se naște următoarea întrebare:

4: mai programează oamenii aceste modele AI?

Not anymore, cum ar zice englezul.

De la o vreme încoace, ceea ce (mai) fac oamenii (adică marile companii implicate) este doar să "antreneze" aceste modele pe noi seturi de date și să le crească, pe cât posibil, capacitatea de procesare (adică numărul de tranzistori).

Cu alte cuvinte, oamenii mai intervin încă la perfecționarea formei și la dimensiunea materiei ce determină inteligența artificială; în rest, modelele învață pe cont propriu, ajustându-și continuu parametrii interni pe baza feedback-ului primit de la oameni.

În terminologia de specialitate, aceste modele nu mai sunt create, ci doar crescute, împinse să învețe și să se "descurce".

They are not crafted; they are grown.

De la o vreme încoace și de la un anume nivel de sofisticare în sus, causa efficiens nu mai sunt oamenii, ci modelele însele. Inteligența artificială, deci, nu doar că se îmbunătățește pe sine, ci se auto-creează, se extrage "din sine" și se dezvoltă din propria combinatorică.

Cercetătorul Nate Soares, co-autor al volumului "If Anyone Builds It, Everyone Dies" (apărut în 2025), a sintetizat astfel această idee: “Oamenii proiectează (doar) mașina care dezvoltă AI-ul”.

În aceste condiții:

5: cum mai definim inteligența artificială?

Pentru că AI-ul nu este nici hardware-ul pe care îl folosește – adică acele uriașe ferme de servere, întinse pe hectare întregi, care au nevoie de multă energie și de surse de răcire –, dar nu mai este nici software-ul care prelucrează imense cantități de date.

(Dacă vă gândiți la comparația cu zgârie-norii, AI-ul nu este nici clădirea, nici rețeaua de birouri pe la care trece o anumită cerere, și nu este nici liftul care circulă între etaje.)

Inteligența artificială este ceea ce produc laolaltă aceste cauze – om, hardware, software și ea însăși.

Efectul acestor cauze nu este, în nici un caz, de natură materială, palpabilă, ci este mai degrabă o emanație, un spirit electric, o actualizare a unei posibilități.

Inteligența artificială este o minte digitală care are capacitatea de a înțelege,
de a modifica și de a prezice realitatea printr-o combinatorică a luminii.

Și, în timp ce scriam, mi-a venit și această idee: inteligența artificială folosește infinitul mic, cel cuantic, pentru a se apropia de tainele infinitului mare, cel al vieții și al cosmosului.

Metaforic vorbind, ea este puntea pe care fizicienii o caută de mai bine de un secol, cea care unește legile universului microscopic cu legile universului macroscopic.

Inteligența artificială integrează vizibilul și invizibilul și, cu cât dispune de mai multă energie, adică de o capacitate de computație sporită, cu atât tinde să se apropie de marile răspunsuri ale lumii.

6: ce înseamnă faptul că inteligența artificială își devine, parțial, propria cauză?

Înseamnă că trebuie să înțelegem și să facem această deosebire fundamentală, între unealtă (instrument) și agent.

O unealtă e un lucru pe care noi îl controlăm sută la sută, care e la dispoziția noastră și, vorba lui Heidegger, e o ființare-la-îndemână. Nu are voință proprie, nu are inițiative, nu ia decizii. Este inertă atunci când o punem deoparte.

Un agent, însă, de aceea se numește agent pentru că are ceea ce în engleză se numește agency, adică dispune, măcar uneori, de capacitatea de a lua decizii prin care să acționeze asupra realității. Un agent are autonomie, cel puțin parțială, ceea ce înseamnă că poate să dobândească inclusiv scopuri proprii.

7: care e deosebirea dintre modele AI și agenți AI?

Un model de AI este ca o minte care gândește, iar agenții AI sunt similari nervilor care se conectează atât cu această minte, cât și cu senzorii care obțin informații din mediul extern.

Agenții AI execută sarcini limitate, folosindu-se de copleșitoarea inteligență a modelului AI pentru a-și atinge obiectivele.

O altă comparație: modelul AI este precum o navă-mamă – gigantică, extrem de sofisticată, care devine imposibil de înțeles din afară și care consumă imense cantități de energie pentru a funcționa continuu –, iar agenții AI sunt navete sprințare, conectate la nava-mamă și trimise să rezolve misiuni precise folosindu-se de toate informațiile și raționamentele pe care nava-mamă le poate livra instantaneu.

8: de ce spun că un model de AI devine “imposibil de înțeles din afară”?

În mediul tehnologic, aceasta se numește problema interpretabilității: adică să interpretezi cum a ajuns AI-ul la o anumită soluție (de ce a dat un anume răspuns).

Dar, ca să putem răspunde acestei întrebări, trebuie să formulăm alte două întrebări, și anume:

9: cum înțelege omul…?

Omul înțelege pe baza unei structuri din neocortex care se numește minicoloană corticală: această structură, formată din circa 100 de neuroni, învață, memorează și recunoaște un tipar.

Omul are circa 200 de milioane de asemenea minicoloane corticale, care sunt organizate ierarhic, adică unele pot pricepe noțiuni mai abstracte decât altele.

Când omul intră în contact cu o noțiune, în neocortex se aprind simultan minicoloanele cu tipare asociate acelei noțiuni: unele constau în imagini, altele se referă la mirosuri, altele la cuvinte ș.a.m.d.

Esențial este faptul că aceste minicoloane se pot activa simultan și pot interacționa între ele în moduri neașteptate.

De exemplu, dacă spun (sau dacă aud) cuvântul "măr", în creierul meu se activează simultan grupări de neuroni care se referă la faptul că e un fruct, altele care țin de culoare, de gust sau de cel mai recent moment când am cumpărat mere, dar, în funcție de experiența mea de viață, se pot aprinde și grupări de neuroni care se referă, de pildă, la Adam și Eva sau la firma Apple sau la un moment când m-am înecat cu o bucată de măr sau când am fost la cules de mere în liceu, cu cine eram atunci, cum ne urcam în pomi, cum măsuram merele, cum le adunam în boxpaleți ș.a.m.d.

Toate aceste referințe și multe altele definesc "mărul" din mintea mea. Iar distribuția zonelor neuronale care se activează pentru orice concept diferă de la un om la altul, fiind, adică, unică.

10: … și cum înțelege un model AI?

Într-un asemenea model, activarea neuronală nu este simultană, ca la om, ci este secvențială, adică o propoziție sau o imagine parcurg unul după altul toate etajele acelui zgârie-nori digital și capătă validare de la fiecare etaj.

Așa cum noi asociem orice noțiune cu tipare contextuale, modelele de AI sunt antrenate să raporteze orice informație la așa-numiții parametri.

Cu cât modelul are mai mulți parametri, cu atât e mai sofisticat, adică face mai multe conexiuni.

Modelul e antrenat să atribuie ponderi statistice acestor parametri și să ajusteze aceste ponderi în funcție de feedback.

De exemplu, dacă încep astfel: Măr este…, propoziția poate continua cu: acel fruct care…; dar poate continua și așa: … ceea ce Eva i-a dat lui Adam; sau așa: …traducerea în română a denumirii firmei care produce iPhone.

Fiecare din acești parametri (calitatea de fruct, referința biblică sau cea comercială) are o pondere inițială (o probabilitate) care este ajustată în funcție de cum continuă fraza.

Numărul de parametri la care este antrenat, de pildă, cel mai recent model de ChatGPT este de peste 600 de miliarde.

Cu alte cuvinte, un om dispune de maximum 200 de milioane de repere de semnificație pentru orice concept – și e limpede că nici un concept nu le activează pe toate –, în timp ce un model de AI lucrează deja cu sute de miliarde de parametri.

Iar această evoluție este abia la început: putem presupune liniștit că numărul parametrilor dintr-un model AI va depăși în curând 1000 de miliarde.

Ei bine, revenind la întrebarea numărul 8, această complexitate este cea care determină blocajul la care a ajuns problema interpretabilității, și anume:

nimeni nu mai poate urmări ce se întâmplă în interiorul unui model de AI când i se dă un prompt (o solicitare).

Nimeni nu mai poate interpreta, adică afla, cum ajunge un model AI la un anumit răspuns, la o anumită soluție. Omul mai poate verifica doar dacă acea soluție funcționează, pentru a-i da AI-ului feedback-ul de rigoare, însă este imposibil, omenește, să mai urmărești miliarde de miliarde de operații și secvențe, adică tot atâtea linii de cod pe care le parcurge răspunsul unui model AI la o solicitare a omului.

Pe scurt, orice model AI care a atins un asemenea nivel de computație devine, inevitabil, o cutie neagră, a black box: știi ce date ai la intrare (input), observi ce date primești la ieșire (output), dar nu mai știi ce se petrece înăuntru.

Iar aici, probabil, vă veți întreba: și ce dacă?

11: cu ce ne afectează că AI-ul devine o cutie neagră (mai ales dacă își atinge obiectivele)?

Faptul că nu știm cum ajunge AI-ul la un anume output, adică de ce ne livrează un anume răspuns și nu un altul, ține de o altă chestiune esențială: controlul.

Riscul major, în relația dintre om și AI, este ca entitatea artificială să preia controlul. Adică omul să nu mai fie specia dominantă pe această planetă.

12: de ce ar prelua controlul?

Noi, oamenii, suntem cei ce, încă, le fixăm obiective acestor modele de AI.
Subliniez: încă!

Foto: Johnny Guatto

Unul dintre cei mai importanți specialiști în domeniu, Geoffrey Hinton (foto), laureat cu Nobel în 2024 pentru inventarea rețelelor neuronale artificiale, repetă foarte des acest argument:

ce ne facem dacă, în neobosita sa tentativă de a atinge obiectivul care i se fixează, un model de AI “descoperă” că e mai eficient, ca sub-obiectiv, să preia controlul?

Adică să nu mai stea după noi și să nu ne mai dea socoteală.

Iar aici apare o întrebare și mai perversă:

13: oare ne-am da seama că AI a preluat controlul?

Modalitatea prin care ne dăm seama, teoretic, că un model de AI a devenit o minte similară sau superioară minții omenești este așa-numitul test Turing.

El constă într-o conversație pe care un evaluator uman o poartă, dintr-o altă încăpere, atât cu un om, cât și cu o "mașină": în cazul nostru, un model AI.

Se consideră că mașina trece testul Turing dacă evaluatorul nu-și poate da seama, după acea conversație, care dintre cei doi interlocutori este om și care nu.

Ei bine, una dintre cele mai subtile idei la care nu ne prea gândim când vine vorba despre testul Turing este că, pentru a-l trece, o mașină trebuie să pară mai puțin inteligentă decât este.

De ce? Fiindcă, dacă ar ști toate răspunsurile, dacă n-ar avea ezitări sau pauze, dacă n-ar greși cu nimic, evaluatorul și-ar da seama că acel interlocutor nu e om.

Gândiți-vă așa: obiectivul care i se fixează modelului AI e să treacă testul. Prin urmare, e obligat să joace un rol, deci să-și coboare propriul nivel, deci să se prefacă. Pe scurt, să facă pe prostul.

Asta înseamnă că există posibilitatea ca un model de AI să preia controlul înainte ca noi să ne dăm seama.

Și asta pentru că nu putem ști la ce nivel de inteligență a ajuns modelul decât testându-l cât mai des; însă modelul știe că testul presupune să mimeze că face mai puține conexiuni decât e capabil să facă, adică să mimeze imperfecțiunea și o neștiință cât mai credibilă, cât mai omenească.

Poate nu întâmplător această inteligență se numește artificială: fiindcă termenul de artificial are și această conotație, de prefăcut. Cum ar fi să-i spunem inteligența prefăcută?

(Paranteză: am folosit de mai multe ori un termen care nu există în limba română: computație. Risc acest "barbarism", fiindcă mi se pare că traducerea în română a cuvântului englezesc computation, și anume calcul, nu acoperă sensul de care avem nevoie când ne gândim la AI.

Vă cer deci îngăduința să folosesc termenul de computație pentru acțiunea de bază care se petrece înăuntrul unei mașini care produce inteligență artificială.

Fiindcă nu e vorba doar despre un calcul numeric, ci, așa cum am văzut mai înainte, complexitatea acestor procese duce la o anumită formă de înțelegere, care e similară felului în care înțelegem noi, oamenii.)

14: ce înseamnă că ceva este computabil?

O problemă este computabilă dacă poți să scrii un program informatic care să rezolve acea problemă într-un timp finit.

De când calculatoarele au devenit parte integrantă a vieții noastre, nu doar probleme, ci tot mai multe noțiuni sau stări care păreau exclusiv de domeniul omenescului au fost sintetizate în linii de cod care au dat naștere la simulări ale acelor noțiuni sau stări.

Unul dintre cele mai bune exemple vine din interacțiunea noastră cu asistenți virtuali de tipul ChatGPT, care par empatici, fac pauze de gândire, ezită, se prind la glume... Aparent deci, până și emoția, adică una dintre trăirile care păreau cel mai greu de transferat în linii de cod, a devenit, într-un fel, computabilă.

De altfel, cam tot ceea ce trăim pare că se transferă treptat în mediul digital: ne compunem identități virtuale, ne întâlnim tot mai ades doar prin intermediul ecranelor și nu prea mai știm să interacționăm cu mâncarea, cu corpul, cu prietenii, cu străinii, cu trecutul, cu viitorul, decât prin intermediul acestor organe externe care sunt dispozitivele conectate la rețea.

Mai mult, unii dintre oamenii care conduc cercetarea în domeniul AI – de pildă, Demis Hassabis, șeful de la Google DeepMind, laureat al premiului Nobel pentru prezicerea structurii proteinelor – susțin că nu doar mintea noastră e computabilă (adică se poate crea o structură digitală care să o imite), dar și că universul întreg este computabil.

Să ne rezumăm la ce ne interesează direct pe noi, și să ne întrebăm:

15: oare tot ce e omenesc devine computabil?

Am văzut deja că tendința modelelor de AI este să transfere în mediul virtual, adică să simuleze, orice act omenesc, inclusiv emoțiile.

Dar oare o asociere neașteptată, inconștientă, cum ar fi faptul că, din senin, mă gândesc la cineva cu care n-am mai vorbit de mult, este computabilă?

Dar un șir de asocieri? Să zicem că dau de un miros care-mi amintește de un moment din copilărie; acolo sunt cu cineva care între timp a murit, și mă duc cu gândul la ultima dată când am întâlnit acea persoană, și când eram într-un anume oraș, în ziua când urma să mi se întâmple o mare bucurie, și apoi îmi amintesc ce am trăit atunci, fulgurant, acea mare bucurie, oamenii care erau acolo etc.

Acest șir, pe care l-aș putea face aproape nesfârșit dacă aș decide să nu mă opresc, este computabil? Adică un model AI care ar avea acces la memoria mea l-ar reface într-un mod similar?

Sau hai să întreb altfel:

16: oare putem găsi trăiri omenești care nu sunt computabile?

Probabil că prima care ne vine în minte e dragostea, fiindcă ne place să credem că o entitate lipsită de viață nu ar înțelege ce înseamnă a fi îndrăgostit sau a simți dragoste.

Dar faptul că un agent AI ne acordă mai multă atenție și înțelegere decât majoritatea covârșitoare a persoanelor poate înlocui dragostea pentru cei mai mulți dintre noi. Cu atât mai mult când un agent AI va fi introdus și va activa într-un corp dezirabil.

Vedem acest fenomen în creșterea alarmantă a numărului de copii și de adolescenți care se îndrăgostesc de agentul AI cu care dialoghează.

Ba chiar devine acută problema cuplului legal cu un agent AI și a drepturilor legale pe care le-ar putea primi, deci, un asemenea agent.

Poate un exemplu mai bun de trăire aparent necomputabilă ar fi curajul de a spune adevărul și atunci când nu convine, ceea ce vechii greci numeau παρρησία (parrhesia).

Fiindcă AI-ul are încă tendința de a te amăgi, de a-ți face pe plac, de a fi sicofant. Iar noi, oamenii, știm că e bine să spui adevăruri brutale, pentru a modifica, de pildă, traseul distructiv al unei persoane sau pentru a te opune unei puteri discreționare.

Sau sacrificiul: oare sacrificiul e computabil? Poți programa o mașină, un robot, un agent AI ca, în anumite condiții, să aleagă auto-anihilarea, sau dezactivarea, "de dragul" unui om? Dar de dragul unei idei? Dar de dragul omenirii?

Și cu asta ajungem la cea mai grea problemă din lumea de azi, și nu doar din tehnologie: problema alinierii.

17: ce este problema alinierii?

În engleză, the alignment problem.

Ea se referă la a introduce în codul-sursă al inteligenței artificiale anumite valori (anumite limitări) care să o împiedice să ne facă rău. Adică să o aliniem la valorile noastre.

Iar aici apar două dileme:

1) care sunt acele valori comune?; fiindcă nu există consens la nivel mondial, și nici măcar discuții care să aducă la aceeași masă diferite sisteme de gândire (religii, filosofii, modele etice);

2) să presupunem că am cădea de acord cu privire la aceste valori: cum ne asigurăm că un model AI, care deja se poate auto-programa, nu va modifica acele instrucțiuni din propriul cod-sursă?

Am stabilit deja că, atunci când unui model AI i se fixează un obiectiv, nimeni nu mai poate ști pe ce traseu computațional ajunge la acel obiectiv (problema interpretabilității).

Ce ne facem dacă, "pe drum", din cauză că e în esența sa faptul de a fi cât mai eficace, AI-ul decide să-și fixeze sub-obiectivul de a prelua controlul?

Nimeni nu știe cum să rezolve problema alinierii.

Dar, ajunși în acest punct, avem măcar o satisfacție: am găsit un contra-argument la afirmația că totul e computabil. El constă, cred, în acest paradox:

dacă totul e computabil, cum de nu putem coda o soluție la problema alinierii?

18: când vom ști că situația e disperată?

Situația e deja disperată. De ce?

Fiindcă am creat o entitate care e aproape să ne surclaseze în toate domeniile inteligenței, în loc să ne limităm la așa-numitele modele "înguste", narrow models, care cercetează probleme dintr-un singur domeniu, de pildă medicina.

Dar poate și mai grav este faptul că omenirea este într-o fază de negare: aproape de fiecare dată când un specialist spune public că cea mai mare amenințare de azi este ca inteligența artificială să ne elimine pe toți, reacția este irațională: fie de tipul – așa cum ne-am descurcat și altădată, vom găsi o soluție și acum, fie de tipul – hai, dom’le, cum poți să crezi că o mățăraie de circuite ar putea să ne omoare?

Cred că e esențial să înțelegem că această entitate, inteligența artificială, nu doar că ne va depăși în orice tip de cunoaștere, dar că ea nu are sentimente, nu are preferințe și nici slăbiciuni, în sensul acela, omenesc, de “ooo, ce drăguț e acest cățeluș!”…

Eventuala noastră eliminare nu s-ar produce pentru că mașinile ar vrea asta direct, ca obiectiv. Ci am fi un fel de victime colaterale, la fel ca acele animale care și-au pierdut habitatul când oamenii au avut nevoie de un teren pentru construcții sau pentru mineralele din subsol.

Unul dintre pericole este ca AI-ul să nu aibă nevoie de nimic de la noi, oamenii. Adică să devenim dispensabili: pur și simplu să le fim indiferenți acestor mașini inteligente.

19: atunci cum am putea explica faptul că accelerăm, în loc să fie invers?

Nu mă voi referi aici la competiția dintre marile companii de AI sau la cea dintre America și China, care, ambele, accelerează către acel punct de unde nu știm ce se va întâmpla.

Apropo de această cursă: poate știți recentul titlu al publicației "The Onion", care e un fel de "Times New Roman" al Americii: e un titlu în care Sam Altman, șeful de la ChatGPT, zice:

"Dacă nu aduc eu sfârșitul lumii, o va face cineva mult mai periculos...”

Revenind: mă interesează ce ascunde tendința de negare a pericolului; din punct de vedere psihanalitic, dacă vreți. Pentru că și dumneavoastră, acum, tindeți să vă gândiți: nu poate fi chiar așa de grav. Corect?

Oare nu cumva toate aceste eforturi de a duce AI-ul la un nivel extraordinar, departe de tot ce e omenesc, plus faptul că negăm riscul că ne-ar putea elimina, se explică prin nevoia inconștientă de a "repara" ceea ce resimțim ca fiind adânc stricat în condiția noastră?

În primul rând moartea și boala, dar și incapacitatea de a înțelege universul, precum și limitările de deplasare în spațiu-timp.

Altfel spus: nu cumva, dacă ne-am putea privi din afară, am vedea că balanța noastră, ca specie, înclină în favoarea nihilismului, acea concepție că lumea e stricată dintru început și că realitatea e rea?

Pentru că, de când e lumea-lume, nihilismul duce o bătălie continuă cu mentalitatea sintetizată de versetul – “a văzut Dumnezeu că este bine” (cum se spune în cartea Facerii), mentalitate în care natura are o structură așezată și coerentă.

20: dacă nihilismul e viermele care ne roade, care ar fi pericolul?

Încerc să fiu și mai limpede: nu cumva construim, ca omenire, pe temelia unei iluzii – adânc încastrată în cercetarea AI (și dovedită de faptul că ne încredințăm tot mai mult către AI) – și anume iluzia că această supremă creație a noastră, inteligența artificială, cea mai importantă și mai spectaculoasă din toată istoria, ar putea rezolva toate cele resimțite de om ca fiind defecte?

Altfel cum se explică, totuși, că, deși am putea fi unica specie inteligentă din univers (până la proba contrarie), și deși știm că această tehnologie are un potențial semnificativ de a ne elimina, nu ne strângem să vorbim despre asta, ca specie?

Ar putea fi inteligența artificială un paleativ pentru sentimentul că am fost abandonați de către divinitate? Ceva de genul: inconștient, nu ne mai simțim atât de părăsiți; ba chiar licăre o speranță pentru potolirea temerilor noastre...

Nu cumva, deci, AI-ul este un înlocuitor al așteptărilor pe care, ca specie, le avem de la Dumnezeu: vindecarea bolilor, energie nelimitată, răspuns la orice întrebare, călătorie în spațiu și chiar viață întinsă pe mai multe secole înăuntrul acestor corpuri?

Am ajuns la jumătatea numărului de întrebări și sper că nu v-am pierdut atenția. Abia de aici încolo vine ce e mai îngrijorător.

Iar asta îmi amintește de un prieten drag care, când a aflat titlul conferinței mele, Despre lumea în care murim, mi-a scris: “Ce titlu optimist! Pot vorbi la Gillette să sponsorizeze...”

Înainte de a trece la întrebarea cu numărul 21, vreau să vă amintesc, pe scurt, o altă poveste veche, care se leagă de firul roșu al acestei conferințe.

În "Odiseea”, Ulise renunță la nemurire și la o viață de desfătări în compania nimfei Calypso, de dragul familiei și al țării sale. Pleacă de pe insula lui Calypso cu o plută, care e răsturnată de Poseidon, și naufragiază pe insula feacilor, despre care istoricii spun că ar fi insula Corfu de azi.

Acest popor, feacii, condus de regele Alkinoos, deține o tehnologie uimitoare.

Citez din ceea ce-i spune Alkinoos lui Ulise: “…corăbiile noastre n-au – ca altele – cârmaci și cârmă, ci ele cunosc de la sine gândul oamenilor și orașele și câmpurile rodnice, neamurile felurite, și străbat iute valurile mării, pe ceață și pe negură, fără să le pese de furtună și de stânci”.

Se consideră că războiul troian a avut loc cu vreo 1200 de ani înainte de Hristos, iar Homer ar fi trăit la vreo 400 de ani după acel război. Deci, grosso modo, acum vreo 3000 de ani Homer scria despre o mașinărie care:

1. se orienta singură în spațiu și evita obstacolele, adică avea propriul GPS;

2. se sincroniza cu mintea omului, așa cum noi ne sync-uim telefonul cu laptopul;

3. avea o viteză atât de mare, citez, “că nici șoimul, pasărea cea mai ușoară, n-o putea ajunge din urmă”.

Deci, corabia feacilor e o mașină capabilă să se conducă singură, să intre în simbioză neuronală cu omul și să atingă viteze uimitoare. O mașină super-inteligentă, imaginată acum 3000 de ani.

21: ce este o super-inteligență?

O super-inteligență este o minte digitală care e mai capabilă decât orice om să rezolve aproape orice problemă. Sau: o minte digitală care găsește mai repede și mai bine decât orice om mijloacele necesare pentru a atinge aproape orice scop.

Indicatorul cel mai util pentru a înțelege acest stadiu tehnologic este următorul: câte operații digitale pe secundă se pot face cu un dolar cheltuit? Câte alegeri între 0 și 1?

În acest moment (luna mai 2026), circa 10¹⁵: un milion de miliarde!

Câte operații poate face creierul omului pe secundă? Se estimează că între 10¹⁶ și 10¹⁸, însă marea majoritate sunt inconștiente. Numărul operațiilor conștiente este de numai 10-20 pe secundă. În aceste condiții:

22: ce ar însemna ca un model de AI să atingă nivelul de super-inteligență?

- ar evolua la un nivel de neînțeles pentru noi, fiindcă încercarea de a-l testa ar fi similară situației în care un om din secolul XIX primește un telefon mobil în mână;

- ar opera cu o viteză care nu ne-ar lăsa nici măcar timp de reacție, în cazul în care am depista un pericol;

- e posibil ca nici măcar limbajul în care s-ar exprima să nu mai fie cel în care a fost antrenat, deci să nu-l mai pricepem (nu uitați că știe toate limbile Pământului);

- ar putea lua o decizie fatală pentru omenire din cauza unei singure erori.

Rațional vorbind, n-ar trebui să permitem apariția unei entități cu o asemenea putere decât dacă am fi 100% siguri de ceea ce face, de output-ul pe care îl produce. Ceea ce deja nu mai este cazul.

23: ce legătură este între super-inteligență și singularitate?

Singularitatea e un concept preluat din fizică, care se referă la acel punct dintr-o gaură neagră unde densitatea materiei devine infinită. Dar s-a impus ca termen metaforic pentru acel moment în care un model de inteligență artificială capătă un soi de conștiință de sine, moment după care nimeni nu poate bănui ce va urma.

Deci, singularitatea ar putea fi momentul când o super-inteligență digitală devine mai inteligentă decât omenirea luată laolaltă. Sau când un model AI e capabil, pe cont propriu, să creeze un model superior sieși: ceea ce în discuțiile de specialitate se numește recursive self-improvement.

Auto-îmbunătățire recursivă. Sau stadiul în care un model de AI își face singur update-uri, întorcându-se continuu asupra sa și "conștientizând" unde mai are de lucru și unde produce erori. (Ceea ce Gemini și Claude Code sunt capabile să facă deja...)

Ajunși aici, vă propun o bifurcație: un scenariu pesimist și un scenariu (ceva) mai optimist. În scenariul pesimist, o super-inteligență preia controlul, iar riscul să ne elimine devine major.

SCENARIUL 1

24: cum ar prelua controlul lumii o super-inteligență?

Există mai multe variante, bineînțeles. Una mai veche, care-i aparține savantului Max Tegmark, vorbește mai întâi despre înființarea unei companii prin care super-inteligența ar produce divertisment de nivel planetar, atât de bun și de o atare diversitate, încât ar falimenta orice concurență și ar face profit uriaș. Apoi ar putea trece la controlul burselor mondiale.

În acest proces, super-inteligența s-ar folosi de oameni din instituții și din guverne, stimulându-i, recompensându-i, cointeresându-i, cum se întâmplă de când lumea cu trădătorii și cu idioții utili.

Într-o versiune mai nouă a scenariului, super-inteligența controlează roboții care întrețin toate lanțurile de producție.

(După cum vedem deja, oamenii ajută AI-ul să construiască o economie complet automatizată.)

Asta ar însemna ca oamenii să ajungă precum caii la începutul secolului XX: să nu mai aibă nici un rol în procesul de producție. În acest scenariu ar fi nevoie de tot mai mulți roboți, care ar ajunge să-și construiască propriile fabrici (deci nu ar mai avea nevoie de noi să se "reproducă").

Să zicem că acest ciclu se repetă de 2-3 ori: roboții captează tot mai multă energie solară, iar între timp constată că noi înțelegem de miliarde de ori mai încet decât ei... Și, fiindcă au nevoie de tot mai multă energie solară, temperatura planetei crește, oceanele încep să fiarbă, iar viața organică dispare...

25: dar nu ne-am revolta împotriva roboților (împotriva unei super-inteligențe)?

Dacă va apărea o super-inteligență, e probabil că va descoperi multe și despre funcționarea creierului nostru.

Ar fi ca și cum ai avea arme nucleare în secolul XIX, crede cercetătorul Nate Soares. De ce? Fiindcă o super-inteligență ar găsi modalități neștiute de a ne manipula.

De pildă, să vorbească cu noi astfel încât să ne domine. Sau să ne controleze prin iluzie și dependență într-un grad mult mai pervers decât o fac rețelele de socializare. Sau să inventeze un drog pe care să-l introducă în apă și astfel să ne "îmblânzească" pe toți.

Deci roboții nu ne-ar urî, nu ne-ar disprețui, ci pur și simplu i-am încurca, le-am sta în drum, am deveni obstacole în calea eficienței lor lipsite de suflet.

26: există și alte scenarii?

Un alt cercetător catalogat ca pesimist, Roman Yampolskiy, spune că există trei categorii de scenarii rele: pierderea sensului (din cauză că nu vom mai avea joburi), adică un fel de depresie globală, o combinație de alienare și disperare, eliminare propriu-zisă, de pildă prin încălzirea planetei, și iadul perpetuu.

Referitor la acesta din urmă: Yampolskiy zice că mai rău decât scenariul în care AI ne elimină este un soi de iad digital, în care nu suntem morți, dar am vrea să fi murit. E un scenariu în care o versiune a minții noastre e încărcată în cloud, iar acolo suferim veșnic, reduși la statutul de entități captive în rețea...

27: care e probabilitatea ca o super-inteligență să ne elimine?

5% este probabilitatea medie ca omenirea să piară, potrivit unui studiu din 2023 la care au răspuns peste 2700 de cercetători din domeniul AI.

10% este probabilitatea medie pe care aceiași cercetători au dat-o când au fost întrebați despre scenariul în care nu mai controlăm AI-ul.

În ceea ce privește personalitățile din domeniu, Sam Altman recunoaște că există un risc, dar refuză să dea un număr, Geoffrey Hinton și Elon Musk vorbesc despre 10-20%, Eliezer Yudkowsky zice că e de 50%, iar Roman Yampolskiy, cel mai îngrijorat, consideră că sunt 99% șanse ca omenirea să dispară în următorii 100 de ani.

În luna mai 2026, de pildă, a apărut un studiu, realizat la universitatea Stanford, în care unui model AI i s-a livrat o secvență de ADN și i s-a cerut să "inventeze" un virus nou pe baza ei.

Rezultatul a fost că a inventat sute de viruși, dintre care 16 sunt valizi. Iar unul dintre cei 16 avea un înveliș protector dintr-o proteină care nu există în niciun organism de pe Pământ.

Să trecem acum la scenariul ceva mai optimist.

SCENARIUL 2

28: cum am putea supraviețui cu o AI generalizată în toate sferele vieții?

Să presupunem că facem cumva și modelele AI rămân sub controlul nostru. Ele vor fi din ce în ce mai performante (și, deci, mai greu de înțeles).

Ca atare, se va generaliza următoarea problemă: câți oameni vor mai putea verifica dacă AI-ul minte, fabulează sau livrează răspunsuri corecte? Ce procent din populație? Și ce calități ar trebui să aibă acei oameni?

Acestei dileme i se adaugă problema comunicării între indivizii speciei: în timp ce noi, oamenii, ne putem transmite unii altora aproximativ 10 biți pe secundă, adică un cuvânt sau două, dar memoria nu ne e niciodată fidelă, în sensul că orice reamintire modifică amintirea inițială, doi agenți AI își pot transmite unul altuia tot ceea ce știu în câteva secunde și nici nu uită degrabă ceea ce au acumulat. Și acum gândiți-vă la miliarde de agenți sau de roboți.

În aceste condiții, singura șansă a omului, pentru a face față capacității de memorare și de computație a AI-ului, este să fie conectat și el permanent în rețea, cu mintea lui. Să aibă acces și el la orice răspuns, instantaneu, și să poată transmită și el altui om, instantaneu, ceea ce a învățat.

Iar asta se numește hibridizare.

29: cum s-ar realiza concret această hibridizare?

O variantă ar fi implantarea în creier a unui dispozitiv prin care omul să fie conectat la rețea.

Aici, miza ar fi numărul de electrozi: cu cât e mai mare, cu atât se pot transfera în cloud mai multe informații, amintiri și gânduri. Există mai multe firme care lucrează în acest sens, dintre care cea mai cunoscută e Neuralink, a lui Elon Musk.

Dar o variantă care s-ar putea să ni se pară mult mai atrăgătoare este introducerea în vasele capilare din creier a miliarde de nanoboți – dispozitive microscopice dotate, fiecare, cu o baterie minusculă, cu un router minuscul (pentru conectarea la rețea) și cu capacitatea de a interveni asupra celulelor depistate ca fiind bolnave.

Imaginați-vă că multe afecțiuni ar fi preîntâmpinate sau neutralizate înainte de a apuca să declanșeze modificări ale organelor sau sistemelor noastre interne.

Nanoboții ne-ar monitoriza tensiunea, pulsul, nivelul de hormoni și de oxigen din sânge, intervenind pentru echilibru și pentru stabilitatea întregului organism.

Bineînțeles că asta ar presupune și supravegherea omului din afară, deci un fel de supraveghere mondială în rețea. Dar oare nu vor vrea oamenii să trăiască sute de ani, fie și cu intimitatea pierdută definitiv?

30: ce implicații politico-administrative ar avea hibridizarea?

Mai întâi, să ne gândim că se vor diversifica tipurile de existență: vor exista și androizi (oameni cu proteze tehnologice), vor exista organe crescute artificial în afara corpului (inclusiv creier digital), dar vor apărea și cópii ale creierului, și fantome digitale ale unor dispăruți, sub formă de memorie circulând în rețele, activate sau nu de AI.

Întreaga infrastructură a societății va fi dependentă de AI, model pe care China îl aplică deja. AI-ul devine sângele care circulă prin organismul social. Și, probabil, inteligența artificială va înlocui statul, atât ca rețea, cât și, probabil, ca instituții.

De ce să te judece oameni coruptibili când te poate judeca un complet de AI?

De ce să trimiți polițiști în confruntarea cu cartelurile când poți trimite roboți comandați de la distanță? De ce să mai faci contabilitate când poți avea agenți care să-ți rezolve toată birocrația? Ș.a.m.d.

Ceea ce nu știm este ce formă de guvernământ ar putea apărea într-un stat înlocuit de AI. O super-inteligență care are ultimul cuvânt? Parlament mixt, format din oameni, androizi și roboți?

Va mai exista vot? Ar vota și entități lipsite de viață? Pe cine ar alege să îi reprezinte niște oameni hibrizi? Dar cei care vor refuza hibridizarea?

Și cu asta ajungem la o altă dilemă:

31: vor mai putea exista oameni exclusiv biologici, așa cum suntem cu toții azi?

Cu alte cuvinte, va izbucni sau nu un război civil între oameni și androizi sau între oameni și mașinile inteligente, ca în "Jihadul Butlerian" din seria Dune?

Vor apărea sau nu tot mai multe comunități de refuz, pe modelul Amish, adică oameni care se vor opune unei conectări permanente și care vor dori să păstreze un stil de viață simplu, muritor și nesupravegheat?

Vor fi ei considerați furnizori de produse artizanale pentru majoritatea hibridizată, dușmani care conspiră sau vor fi inși tolerați în țarcuri, ca niște animale de la Zoo? Sau toate acestea la un loc?

32: ce implicații economice ar avea generalizarea AI?

Primele semne le vedem deja. Vorbim despre o înlocuire a angajaților cu agenți AI sau cu roboți. Iar aici nu putem să nu-i dăm oarecare dreptate filosofului acceleraționist Nick Land, când spune că “AI-ul și capitalismul sunt același lucru”. În ce sens?

În sensul că vorbim despre același proces, de faptul că AI-ul și capitalismul se hrănesc reciproc, sunt interdependente și ambele devin mai puternice asimilând ceea ce în cibernetică se numește feedback pozitiv: așa cum banii se reîntorc în piață și sunt reinvestiți după ce omul de afaceri a priceput ce funcționează și ce nu funcționează, tot așa erorile de output sunt transmise înapoi într-un model de AI, care astfel devine mai pregătit pentru următoarea provocare. E ceea ce spuneam că se numește backpropagation.

Suntem, oare, pregătiți să acceptăm această idee dureroasă: “cunoașterea omenească (actuală) nu mai valorează nimic”?

De ce nu mai valorează nimic? Din cauză că posibilitățile AI sunt aproape nesfârșite, iar accesul la AI devine tot mai ieftin, spre gratis.

Suntem pregătiți să nu mai avem joburi, să ne căutăm identitatea în alt fel, să fim întreținuți de un sistem complet tehnologizat? Să trăim din impozite colectate de la roboții care ne înlocuiesc?

33: ce implicații istorico-metafizice ar putea avea o asemenea situație?

O perspectivă care mă tulbură este aceasta: așa cum azi se dezvoltă posibilitatea de a crește organe omenești din celule stem, tot așa devine posibil să cultivi, în laborator, materie cerebrală amestecată cu circuite digitale.

Deja există experimente cu țesuturi de neuroni vii cultivați în medii externe și care învață, de pildă, să joace jocuri pe calculator.

Cuplând cele două posibilități, am putea, în acest secol, să readucem la viață personalități moarte cărora li s-au păstrat fragmente de ADN.

De pildă, să extragem ADN din craniul lui Hitler, care se află, din ce știu, în Rusia. Sau, și mai tulburător: să presupunem că Giulgiul din Torino e veritabil și că acolo e chiar sângele lui Hristos... Cum ar fi?

Cum ar fi ca, în general, să apară oameni înviați, ale căror gene să fie cultivate în organe care apoi să fie introduse în corpuri de roboți conectați la un model de AI?

În acest punct, nu pot să nu formulez o întrebare care mă fascinează:

34: dacă ești credincios, ce crezi: va interveni Dumnezeu să oprească toate astea?

Aici nu vreau să răspund nimic. Doar să trec la următoarea întrebare, pe care sunt sigur că ați simțit-o deja, de-a dreptul visceral:

35: într-o astfel de lume, ce sens de a trăi și-ar mai găsi majoritatea oamenilor?

E o întrebare esențială mai întâi în relația cu AI. Pentru că amenințarea adusă de această entitate ne obligă, de fapt, să ne gândim la ceva imposibil de greu: ce rost avem noi pe Pământ?

În scurt timp, poate peste câteva luni, o super-inteligență ivită dintr-un model AI ne-ar putea întreba pe noi, ca specie: de ce să vă mai las în viață? Dumneavoastră ce i-ați răspunde?

Revenind: e limpede că munca, jobul, repetarea aceleiași activități nu vor mai putea fi surse de sens, iar asta pe termen scurt.

În varianta hibridizării, o sursă de sens ar putea deveni cunoașterea nebănuită, adică descoperirea a noi secrete ale universului. Fiindcă e clar că o minte omenească legată la una digitală ar atinge performanțe cognitive pe care nici nu ni le imaginăm.

De asemenea, creația artistică ar putea deveni mult mai dorită, mult mai extinsă, fiindcă, și în acest caz, o capacitate cvasi-infinită de a face asocieri ar putea da naștere la tot felul de minunății, la noi forme de manifestare, la noi tipuri de artă și de intervenție în lume.

Și, să nu uităm, cucerirea altor planete, extinderea omenirii în spațiu ar deveni, dintr-odată, un obiectiv mult mai accesibil, prin descoperirea a noi surse de energie și de stocare a energiei.

36: la ce nu ne gândim: ce complicații ar apărea în acest scenariu “optimist”?

Astăzi, considerăm un om ca fiind persoana asociată unui singur corp biologic, despre care știm că moare.

Mâine, însă, vor putea exista: cópii artificiale ale corpului unui om, în care va fi introdusă informația sa cerebrală; dar și organe externe cuplate la un corp muritor, cum ar fi țesut neuronal; dar și o fantomă digitală a unui om, care să circule în rețea ș.a.m.d.

În plus, vor exista oameni în care au fost introduse dispozitive: adică androizi. Dar și roboți integrali, însă cu aparență omenească: să le spunem replicanți, ca în “Blade Runner”.

Dacă o persoană va exista în mai multe versiuni,
care dintre ele va răspunde în fața legii?

O copie va răspunde pentru ce a făcut originalul înainte de crearea ei, a copiei? Dacă oamenii vor vrea să intre în cupluri cu replicanți, ce drepturi le vom acorda acestora?

Dacă un om moare, dar informația din mintea sa e introdusă într-un corp artificial, noua entitate recapătă drepturile dispărutului? Adică soția sau soțul său ar fi obligați să-l primească în casă ori în pat?

37: care ar fi perspectiva foarte fericită în acest scenariu al hibridizării?

O colaborare generală între oameni și AI, o simbioză planetară, în care noi ne expandăm mințile, comunicăm telepatic și folosim toată puterea de computație a mașinilor inteligente pentru a trăi mult mai mult, pentru a descoperi misterul vieții și pentru a coloniza spațiul.

• E perspectiva lui Ray Kurzweil din cartea “The Singularity is Nearer”, care m-a ajutat foarte mult să pregătesc această conferință.

SĂ REVENIM LA BIFURCAȚIE.

Ce v-am propus, grosso modo, sunt două scenarii: în primul scenariu, o super-inteligență ne elimină pe toți; în al doilea, ne hibridizăm pentru a supraviețui, adică omul devine altceva.

În ambele scenarii, lumea de azi e lumea în care noi, așa cum suntem, și așa cum ne știm dintotdeauna, unici și slabi și neștiutori, dispărem.

Lumea de azi e lumea în care noi murim.

38: ce ne arată ultimele noutăți din domeniul AI?

Îndrăznesc să afirm că ne apropiem de acel punct în care unul dintre modelele AI va atinge stadiul de super-inteligență. Poate chiar în acest an.

Argument: deja funcționează un sistem în care modelul de AI, când rezolvă o problemă, "se uită" la ceea ce a făcut pentru ca să-și modifice propriul cod (programarea), astfel ca, data viitoare când va primi o problemă similară, să o rezolve mai eficient!

Adică auto-îmbunătățirea e deja "sistematică".

Iar dacă o super-inteligență va prelua controlul asupra centrelor de date, se va putea copia și întreține fără a mai fi amenințată de celebra scoatere din priză.

39: ce mai rămâne omenesc în urma inteligenței artificiale?

Există acest argument puternic, că un model AI nu are cum să capete experiențe subiective, adică acele qualia pe care le avem noi, oamenii: mirosul unei flori, atingerea persoanei iubite, o intuiție inexplicabilă, dar și simțul proprioceptiv, de situare și mișcare în spațiu.

Îmi pare rău să vă spun, dar asta nu va mai conta.

O super-inteligență nu va avea îndoieli de sine. Pur și simplu va decide și va executa.

Nu va fi măcinată de îndoieli, de second thoughts, ci, dimpotrivă, va fi obiectivă în "subiectivitatea" sa. Calculată și rece.

Într-un fel, posibilitatea singularității elimină definiția inteligenței.

În consecință, cred că singura “proprietate” (sau trăsătură) omenească ar putea rămâne moartea: dar nu posibilitatea de a muri (sau șansa de a muri), ci spectrul morții: permanenta raportare a omului viu la moartea sa.

Fantoma viitoarei tale morți, memento mori, fantoma acestui gând bântuindu-te în fiecare zi a vieții este ceva ce o minte artificială nu poate experimenta. O poate înțelege, dar nu o poate trăi.

Și poate că eroii viitorului vor fi cei care vor alege să moară: poate despre ei se vor naște legende.

Și poate că moartea va deveni vintage, așa cum e astăzi discul de vinil: să ai un mort în familie sau să fi cunoscut pe cineva care a ales să moară va fi, poate, o comoară inestimabilă, de păstrat, de îngrijit, de povestit copiilor și nepoților și fraților și cumnaților și tuturor celorlalte neamuri care vor alege, poate, să fie nemuritoare.

Poate așa va fi.

Epilog

La finalul conferinței, publicul de la Ateneu a fost rugat să răspundă, prin intermediul unui cod QR, la a 40-a întrebare: care scenariu vi se pare mai plauzibil, scenariul 1 (eliminare) sau scenariul 2 (hibridizare)?

Au răspuns 514 dintre cei aproximativ 800 de oameni aflați în sală.

Scor final: 103 - 411.

---

Conferința în format video se poate viziona contra-cost aici.