Cât de departe poate merge inteligența artificială fără ca omul să devină, la rândul său, doar o sumă de date, un profil sau o predicție? Este una dintre întrebările de fond ridicate de Oscar Valente Cardoso, judecător federal brazilian și profesor de Drept digital, într-un articol publicat la 15 septembrie în L’Osservatore Romano, în care analizează din perspectivă juridică enciclica Magnifica humanitas a Papei Leon al XIV-lea.

Pentru autor, enciclica nu este o lege despre inteligența artificială și nici nu își propune acest lucru. Ea oferă însă ceva poate mai important: un criteriu prin care putem întreba ce loc îi revine tehnologiei într-o societate care vrea să păstreze persoana umană în centru.

În dezbaterea despre inteligența artificială se vorbește adesea despre eficiență, riscuri, transparență, sisteme care trebuie interzise sau responsabilitatea pentru erori. Dar, înaintea tuturor acestora, rămâne o întrebare mai profundă: ce idee despre om vrem să stea la baza dezvoltării inteligenței artificiale?

Magnifica humanitas mută tocmai aici centrul discuției. Progresul tehnic nu poate fi măsurat doar prin ceea ce reușește să facă, prin rapiditate, eficiență sau beneficii economice. Criteriul decisiv rămâne raportul său cu demnitatea persoanei. Omul nu poate fi redus la o variabilă de optimizare, la un profil statistic sau la un obiect de clasificat în funcție de randament și utilitate.

Această perspectivă nu este o respingere a tehnologiei. Dimpotrivă. Ea încearcă să păstreze distincția dintre inovație și tehnocrație: tehnologia poate deveni tot mai performantă, fără ca omul să renunțe la ideea că ea trebuie să rămână un instrument. Problema începe atunci când faptul că „se poate” devine automat și răspunsul la întrebarea „trebuie?”. Dacă ceva poate fi automatizat, nu înseamnă în mod necesar că trebuie automatizat. Dacă un comportament poate fi anticipat, nu înseamnă că o asemenea predicție trebuie să decidă viitorul unei persoane. Dacă ceva poate fi măsurat, nu înseamnă că acea măsurătoare poate defini valoarea omului.

De aici, spune Cardoso, întrebarea antropologică devine inevitabil una juridică. Demnitatea umană, dacă este luată cu adevărat în serios, nu poate rămâne doar o declarație frumoasă. Ea cere limite concrete. Dacă responsabilitatea este umană, o instituție, o companie sau un profesionist nu se pot ascunde în spatele afirmației că „a decis algoritmul”. Dacă autonomia persoanei trebuie protejată, atunci tehnologiile capabile să manipuleze deciziile individuale au nevoie de limite clare. Iar dacă o decizie importantă este luată cu ajutorul unui sistem automatizat, persoana vizată trebuie să poată ști acest lucru, să înțeleagă esențialul procesului și să aibă posibilitatea de a contesta rezultatul.

În acest punct, reflecția propusă de Magnifica humanitas întâlnește deja direcții prezente în principalele instrumente internaționale privind tehnologia: GDPR, AI Act al Uniunii Europene, documentele UNESCO și principiile OCDE. În moduri diferite, toate vorbesc despre transparență, responsabilitate, nediscriminare, control uman și protejarea demnității.

Însă una dintre cele mai puternice idei ale analizei sale privește puterea. Un algoritm poate funcționa perfect și, totuși, să producă o nedreptate. Poate fi extrem de precis și, totuși, să invadeze libertatea unei persoane. Poate fi eficient și, în același timp, să concentreze o putere enormă în mâinile celor care controlează datele, infrastructurile și tehnologia.

De aceea, întrebarea nu mai este doar dacă inteligența artificială este sigură, ci și cine o controlează, cine îi stabilește scopurile, cine îi poate contesta efectele și cine răspunde atunci când ea ajunge să influențeze viața unei persoane.

Într-o lume în care platformele pot decide tot mai mult cine este vizibil, cine are acces la informație, la muncă sau la anumite oportunități, protejarea demnității înseamnă și protejarea libertății în fața unor noi forme de putere.

Magnifica humanitas nu cere oprirea progresului, ci așezarea lui într-o ordine a responsabilității. Nu întreabă doar până unde poate ajunge tehnologia, ci până unde vrem noi să îi permitem să ajungă atunci când intră în spațiul cel mai delicat: viața persoanei.

Pentru că progresul tehnic ne poate extinde capacitățile, dar nu poate decide singur cum trebuie ele folosite. Această alegere rămâne umană, morală, politică și juridică. Și poate tocmai aici se află una dintre cele mai puternice concluzii ale textului publicat în L’Osservatore Romano: în epoca inteligenței artificiale, demnitatea nu mai poate rămâne doar un principiu enunțat. Ea trebuie să devină regulă.

După articolul „Quando la dignità diventa regola”, de Oscar Valente Cardoso, publicat în L’Osservatore Romano, 15 septembrie 2026.

Biroul de Presă al Episcopiei Greco-Catolice de Oradea
Mihaela Caba-Madarasi

Foto: L’Osservatore Romano

***

Redăm mai jos întreg articolul, tradus în limba română:

de OSCAR VALENTE CARDOSO*

Prezentul studiu examinează Magnifica humanitas dintr-o perspectivă juridică, acordând o atenție deosebită posibilității de a transpune demnitatea umană în criterii concrete pentru reglementarea inteligenței artificiale. Obiectivul nu este acela de a atribui enciclicei o forță normativă pe care aceasta nu o deține în ordinile juridice ale statelor, ci de a verifica în ce măsură principiile sale – centralitatea persoanei, responsabilitatea, supravegherea umană, transparența, protecția persoanelor vulnerabile și limitarea puterii tehnologice – converg cu modelele de reglementare deja existente și pot orienta, în perspectivă, noi opțiuni legislative și instituționale. În această cheie, Magnifica humanitas este citită ca o posibilă sursă de rațiuni publice pentru dreptul inteligenței artificiale: nu ca o lege asupra tehnologiei, ci ca o contribuție la înțelegerea limitelor în interiorul cărora tehnologia poate interveni în mod legitim asupra persoanei.

De la întrebarea tehnică la întrebarea antropologică
Magnifica humanitas nu este o lege despre inteligența artificială. Dar poate contribui la explicarea motivului pentru care avem nevoie de anumite legi privind inteligența artificială. Acesta este unul dintre modurile în care enciclica lui Leon al XIV-lea poate fi citită din perspectivă juridică.

Dezbaterea contemporană privind IA tinde, de fapt, să pornească de la întrebări tehnice: ce sisteme trebuie interzise, ce obligații de transparență trebuie impuse, cine trebuie să răspundă pentru erori, ce riscuri trebuie evaluate și ce forme de supraveghere trebuie prevăzute. Sunt chestiuni indispensabile; însă, înaintea lor, există una mai fundamentală: ce concepție despre persoană trebuie să orienteze dezvoltarea și utilizarea inteligenței artificiale?

Magnifica humanitas deplasează problema tocmai pe acest plan. Tehnologia nu este evaluată numai în funcție de eficiența sa, de capacitatea de a inova sau de beneficiile economice pe care le poate produce. Criteriul decisiv este raportul dintre progresul tehnic și demnitatea umană. Ființa umană nu poate deveni o variabilă de optimizare, un ansamblu de date, un profil statistic sau un obiect clasificat potrivit unor criterii de performanță, predictibilitate ori utilitate.

Această abordare nu presupune respingerea tehnologiei. Dimpotrivă, ea permite distingerea dintre inovație și tehnocrație. O societate poate utiliza sisteme din ce în ce mai sofisticate fără a renunța la ideea că tehnica trebuie să rămână un instrument. Problema începe atunci când capacitatea tehnică tinde să se transforme într-un criteriu autonom de legitimitate: dacă un lucru poate fi automatizat, atunci ar trebui automatizat; dacă poate fi anticipat, atunci ar trebui folosit pentru a lua decizii; dacă poate fi măsurat, atunci ar trebui să determine valoarea sau oportunitățile unei persoane. Tocmai aici întrebarea antropologică devine o întrebare juridică.

De la demnitatea abstractă la regula concretă
A afirma că inteligența artificială trebuie să fie „centrată pe ființa umană” este relativ simplu. Mai dificil este să transpunem această formulă în obligații, drepturi și instituții. Iar tocmai în această trecere Magnifica humanitas își arată relevanța deosebită pentru drept.

Demnitatea umană, atunci când este luată în serios, nu rămâne o declarație generală. Ea implică limite concrete. Dacă persoana nu poate fi redusă la propriul profil informațional, atunci nu orice inferență algoritmică poate fi utilizată în mod legitim împotriva sa. Dacă autonomia este o valoare juridică, atunci tehnicile capabile să manipuleze sistematic deciziile individuale trebuie să fie supuse unor restricții. Dacă responsabilitatea rămâne umană, atunci nu este acceptabil ca o administrație, o întreprindere sau un profesionist să se ascundă în spatele afirmației potrivit căreia „algoritmul a decis”.

Aceeași logică este valabilă pentru transparență și supravegherea umană. Nu este vorba despre publicarea fiecărui cod sursă, ci despre garantarea faptului că persoana afectată de o decizie importantă știe că a fost utilizat un sistem automatizat, înțelege elementele esențiale care au influențat rezultatul și dispune de instrumente pentru a-l contesta.

În același fel, simpla prezență formală a unei persoane la finalul unui proces nu este suficientă: cel care exercită supravegherea trebuie să aibă informațiile, competența și autoritatea efectivă necesare pentru a înțelege, critica și, dacă este necesar, a respinge rezultatul produs de mașină. Altfel, intervenția umană devine un gest ritualic care legitimează o decizie deja luată, în esență, în altă parte.

Protecția persoanelor vulnerabile devine regulă împotriva discriminării, manipulării și exploatării fragilității. Responsabilitatea devine obligație de asumare și justificare (accountability). Centralitatea persoanei devine drept la contestare. Critica concentrării tehnologice devine o chestiune de concurență, control al infrastructurilor și distribuire a puterii.

În acest sens, Magnifica humanitas se pretează unei transpuneri juridice concrete.

O convergență deja vizibilă
Aspectul poate cel mai interesant este acela că multe dintre aceste principii sunt deja prezente, pe căi independente, în principalele modele contemporane de reglementare a inteligenței artificiale.

Regulamentul general european privind protecția datelor, GDPR, afirmă că prelucrarea datelor cu caracter personal trebuie concepută în serviciul umanității. Artificial Intelligence Act al Uniunii Europene (AI Act) conturează o inteligență artificială antropocentrică și de încredere, reglementează sistemele cu risc ridicat, impune transparență și supraveghere umană și interzice practici incompatibile cu valorile fundamentale ale ordinii juridice europene.

Recomandarea UNESCO privind etica inteligenței artificiale leagă tehnologia de demnitate, nediscriminare și responsabilitate. Principiile OCDE invocă valori centrate pe ființa umană, transparență, robustețe și accountability. În contexte instituționale foarte diferite se conturează astfel un limbaj comun: demnitate, responsabilitate, control uman, nediscriminare, transparență și posibilitatea de a contesta puterea algoritmică.

Desigur, aceste instrumente preced Magnifica humanitas și nu au fost influențate de aceasta; tocmai de aceea relația este cu atât mai semnificativă: există o convergență normativă. Tradiții religioase, ordini juridice, organizații internaționale și instituții politice diferite ajung, pe căi autonome, la o concluzie asemănătoare: inteligența artificială nu poate fi reglementată numai în funcție de parametri de eficiență și siguranță tehnică, ci trebuie înscrisă într-un cadru de valori care precedă tehnologia și pe care aceasta nu este autorizată să le redefinească singură.

Magnifica humanitas nu introduce, așadar, ex novo aceste principii; le reunește însă într-o concepție coerentă despre persoană și putere. Tocmai această capacitate de a lega între ele probleme pe care dreptul le reglementează separat – datele, discriminarea, responsabilitatea, transparența, vulnerabilitatea, concentrarea economică – constituie una dintre posibilele sale contribuții la dezbaterea juridică.

Limitarea puterii în epoca algoritmică
Contribuția cea mai profundă a enciclicei la dreptul inteligenței artificiale s-ar putea afla tocmai în concepția sa despre putere.

Reglementarea tehnologică este adesea prezentată ca o problemă de gestionare a riscurilor. Această perspectivă este necesară, dar nu suficientă. Unele probleme nu privesc doar riscul ca un sistem să funcționeze defectuos, ci puterea pe care acesta permite să fie exercitată chiar și atunci când funcționează exact așa cum a fost conceput.

Un algoritm poate clasifica în mod corect și totuși să utilizeze criterii ilegitime. Poate anticipa cu mare precizie și, cu toate acestea, să interfereze în mod nejustificat cu libertatea. Poate fi eficient și totuși să producă o concentrare a puterii incompatibilă cu pluralismul. Poate fi transparent din punct de vedere tehnic și, cu toate acestea, să fie inserat într-o structură economică în care puțini actori controlează infrastructurile, datele și capacitatea de calcul.

De aceea, dreptul nu trebuie să se întrebe doar dacă inteligența artificială este sigură, ci și cine o controlează, cine îi stabilește finalitățile, cine îi poate contesta efectele și cine răspunde atunci când utilizarea sa afectează viața oamenilor. Această perspectivă nu este străină de instrumentele existente: interzicerea social scoring-ului prin AI Act și protecția împotriva profilării prin GDPR nu privesc sisteme care funcționează prost, ci sisteme care funcționează prea bine; ele reglementează puterea, nu doar riscul.

Este vorba, în fond, despre o întrebare constituțională foarte veche. Constituționalismul s-a născut pentru a limita puterea. Societatea algoritmică nu face această funcție depășită; o face mai dificilă. Puterea contemporană poate fi publică sau privată, vizibilă sau invizibilă, teritorială sau transnațională. Poate fi exercitată printr-o decizie formal identificabilă sau prin ierarhizarea conținuturilor, crearea de profiluri, anticiparea comportamentelor și distribuirea oportunităților.

Noutatea constă însă în faptul că această putere este tot mai puțin publică și tot mai mult privată: platformele, nu statele, ajung să stabilească cine este vizibil, cine are acces la muncă, la credit și la informație. Este o putere aproape suverană, exercitată în afara garanțiilor pe care constituționalismul le-a construit împotriva puterii suverane. Aici, demnitatea impune ca drepturile fundamentale să fie efective și în raporturile dintre particulari.

De aceea, demnitatea nu se limitează la enunțarea unei valori: ea funcționează ca regulă în trei direcții, interzicând anumite utilizări, impunând necesitatea unei justificări și atribuind responsabilități.

Nu este nevoie să imaginăm valori juridice complet noi. Libertatea, egalitatea, demnitatea, responsabilitatea și dreptul la un proces echitabil rămân esențiale; ceea ce trebuie să se schimbe sunt instrumentele prin care acestea devin efective în fața noilor forme de putere.

Și Magnifica humanitas denunță logica prin care tehnologia este transformată în instrument de dominație, excludere sau moarte și cere ca aceasta să fie dezarmată: întrebarea decisivă nu este cât de departe poate ajunge inteligența artificială, ci în interiorul căror limite vrem să îi permitem să influențeze persoana și societatea.

Progresul tehnic ne poate amplifica posibilitățile. Nu poate decide singur modul în care acestea trebuie utilizate. Această decizie rămâne morală, politică și juridică. Rămâne deschisă o întrebare: cum putem transforma aceste rațiuni publice în reguli, fără a reintroduce un paternalism de stat sau o cenzură morală?

Și tocmai aici demnitatea devine regulă. În epoca inteligenței artificiale, protejarea demnității umane înseamnă și recunoașterea faptului că nicio putere nu devine legitimă doar pentru că a învățat să se exercite prin intermediul unui algoritm.