​EU AI Act se aplica si in Romania: ce obligatii apar pentru firme, institutii, angajatori si publisheri

AI Act se aplica etapizat. Primele interdictii au intrat in vigoare la 2 februarie 2025, iar regulile pentru modelele de inteligenta artificiala de uz general au inceput sa se aplice la 2 august 2025.

De la 2 august 2026 intra in vigoare majoritatea prevederilor generale si, mai ales, obligatiile de transparenta din articolul 50. Acestea urmaresc ca oamenii sa stie cand interactioneaza cu un sistem AI si cand anumite materiale au fost generate sau modificate artificial.

Regulile stricte pentru sistemele cu grad ridicat de risc din domenii precum recrutarea, evaluarea salariatilor, educatia, creditele sau acordarea unor servicii publice vor deveni aplicabile de la 2 decembrie 2027.

Pentru sistemele AI integrate in anumite produse reglementate, precum dispozitive medicale, utilaje sau echipamente de siguranta, termenul relevant este 2 august 2028.

Prin urmare, nu toate obligatiile incep in aceeasi zi. Organizatiile trebuie sa identifice ce sisteme folosesc si in ce categorie intra fiecare dintre acestea.
 

Fiind un regulament european, AI Act este direct aplicabil in Romania. Nu este necesara o lege nationala care sa preia fiecare obligatie in legislatia interna.

Romania trebuie insa sa stabileasca autoritatile care vor face controale, modul in care acestea vor coopera si procedura prin care se vor aplica sanctiunile.

Potrivit informatiilor publicate de ANCOM la 24 iulie 2026, autoritatea a fost propusa sa exercite rolul de autoritate nationala de supraveghere a pietei si de punct national unic de contact.

Supravegherea nu va apartine unei singure institutii. In functie de domeniu, ar putea avea atributii si Banca Nationala a Romaniei, Autoritatea de Supraveghere Financiara, Autoritatea Nationala de Supraveghere a Prelucrarii Datelor cu Caracter Personal, Autoritatea Nationala pentru Protectia Consumatorilor si Inspectia Muncii.

La data comunicarii ANCOM, actul normativ national care urma sa stabileasca procedurile de control si sanctionare se afla inca in proces de elaborare.

Aceasta situatie nu suspenda obligatiile europene. Firmele si institutiile trebuie sa respecte regulile care devin aplicabile, chiar daca mecanismul national de control nu este inca finalizat.

AI Act face diferenta intre furnizor si implementator.

Furnizorul este entitatea care dezvolta un sistem AI sau comanda dezvoltarea acestuia si il introduce pe piata sub propriul nume sau sub propria marca.

Implementatorul este firma, institutia sau profesionistul care foloseste sistemul in cadrul unei activitati profesionale. O societate poate fi implementator chiar daca utilizeaza o aplicatie dezvoltata si administrata de o alta companie.

De exemplu, o firma poate folosi AI pentru:

• redactarea documentelor si mesajelor;
• comunicarea cu clientii printr un chatbot;
• analiza CV urilor;
• evaluarea productivitatii;
• analiza comportamentului consumatorilor;
• aprobarea sau prioritizarea cererilor;
• generarea de texte, imagini, materiale audio sau videoclipuri.

Primul pas pentru conformare este inventarierea acestor utilizari. Compania trebuie sa stie ce aplicatii foloseste, ce date introduce in ele, ce rezultate obtine si daca rezultatele influenteaza decizii referitoare la persoane.

Spre exemplu, un instrument folosit doar pentru corectarea unui text nu ridica aceleasi probleme ca un sistem care decide cine este angajat, concediat sau acceptat pentru acordarea unui credit.
 

Una dintre cele mai discutate reguli ale AI Act priveste continutul generat cu inteligenta artificiala.

De la 2 august 2026, furnizorii sistemelor care genereaza sau modifica texte, imagini, materiale audio ori video trebuie sa integreze solutii prin care continutul artificial sa poata fi identificat in format electronic.

Pentru cei care folosesc si publica materialele, obligatiile depind de tipul continutului.

Deepfake-urile trebuie prezentate ca materiale generate sau manipulate artificial. Regula priveste continutul audio, imagine sau video care poate crea impresia falsa ca o persoana, un obiect, un loc sau un eveniment real este autentic.

O alta regula priveste textele generate sau modificate cu AI si publicate pentru informarea publicului asupra unor chestiuni de interes public.

Aici pot intra articole despre legislatie, politica, economie, sanatate, educatie, justitie, siguranta publica sau activitatea autoritatilor.

Obligatia de etichetare nu se aplica atunci cand materialul a trecut printr-un proces real de verificare umana sau control editorial, iar o persoana fizica sau juridica isi asuma responsabilitatea editoriala pentru publicare.

Cu alte cuvinte, AI Act nu spune ca orice articol la redactarea caruia a fost folosit un instrument AI trebuie insotit automat de eticheta „generat cu AI”.

Un redactor poate folosi inteligenta artificiala pentru documentare, organizarea ideilor, reformulare sau redactarea unei prime versiuni. Daca textul este verificat, corectat, confruntat cu sursele si publicat sub responsabilitatea unei redactii, exceptia privind controlul editorial poate deveni aplicabila.

Situatia este diferita atunci cand un site publica automat texte generate de AI, fara verificare umana reala. In acest caz, publicul trebuie informat clar asupra originii artificiale a materialului.

Publisherii ar trebui sa introduca o procedura editoriala prin care sa stabileasca cine verifica informatiile, cine aproba publicarea, cum sunt pastrate sursele si cand este necesara etichetarea.

AI Act poate avea un impact important asupra recrutarii si administrarii personalului.

Sunt considerate sisteme cu grad ridicat de risc aplicatiile folosite pentru analizarea si filtrarea candidaturilor, evaluarea candidatilor, promovarea sau concedierea salariatilor, repartizarea sarcinilor si monitorizarea performantei.

Regulile complete pentru aceste sisteme vor deveni aplicabile de la 2 decembrie 2027. Totusi, angajatorii care folosesc deja asemenea instrumente nu ar trebui sa astepte acest termen.

Ei trebuie sa verifice ce date analizeaza aplicatia, cum ajunge la un rezultat si daca un om poate controla efectiv recomandarea sistemului.

Un algoritm poate selecta candidatii care urmeaza sa fie chemati la interviu. Poate recomanda promovarea unui salariat sau poate semnala o presupusa scadere a productivitatii. Problema apare atunci cand angajatorul transforma automat recomandarea tehnica intr-o decizie juridica, fara verificarea contextului.

AI Act urmareste sa pastreze controlul uman asupra deciziilor importante si sa reduca riscul discriminarii.

Un sistem antrenat pe date istorice poate repeta dezechilibrele din trecut. De exemplu, poate dezavantaja candidatii mai in varsta, persoanele cu dizabilitati sau salariatii care au avut perioade de absenta pentru cresterea copilului.

O interdictie importanta se aplica deja din 2 februarie 2025. Angajatorii nu pot folosi sisteme AI pentru a deduce emotiile unei persoane la locul de munca, cu exceptia unor utilizari strict medicale sau legate de siguranta.

Astfel, o aplicatie nu ar trebui folosita pentru a masura sinceritatea unui candidat dupa tonul vocii, entuziasmul dupa expresia fetei sau nivelul de implicare al salariatului pe baza imaginilor video.

De mentionat este si faptul ca AI Act nu elimina obligatiile din Codul muncii, GDPR sau legislatia privind nediscriminarea. Aceste reguli se aplica impreuna.

Institutiile publice pot folosi AI pentru analizarea documentelor, prioritizarea cererilor, detectarea fraudelor sau sprijinirea unor decizii administrative.

Riscul devine ridicat atunci cand sistemul influenteaza accesul unei persoane la beneficii sociale, educatie, sanatate, justitie, azil, servicii publice sau alte drepturi esentiale.

Autoritatea nu poate transfera raspunderea asupra algoritmului. Decizia finala trebuie sa ramana explicabila si verificabila.

Pentru anumite sisteme cu grad ridicat de risc, institutiile publice vor trebui sa evalueze impactul asupra drepturilor fundamentale, sa identifice persoanele care pot fi afectate si sa prevada masuri pentru limitarea riscurilor.

AI Act urmareste sa previna situatiile in care o persoana primeste un refuz automat, fara sa inteleaga motivul si fara sa poata solicita o verificare umana.

Regulamentul are efecte si in alte domenii in care deciziile automate pot schimba semnificativ viata unei persoane.

In sectorul financiar, anumite sisteme folosite pentru evaluarea bonitatii persoanelor fizice si pentru stabilirea riscurilor in asigurarile de viata sau sanatate sunt considerate sisteme cu grad ridicat de risc.

In educatie, intra in aceasta categorie sistemele care influenteaza admiterea, evaluarea rezultatelor sau monitorizarea comportamentului elevilor si studentilor in timpul examenelor.

In sanatate si industrie, regulile pot viza sistemele AI integrate in dispozitive medicale, utilaje sau alte produse supuse unor norme europene de siguranta.

Aceste organizatii vor trebui sa combine cerintele AI Act cu regulile sectoriale deja aplicabile, inclusiv GDPR, protectia consumatorilor si normele privind siguranta produselor.

Persoana care foloseste un instrument AI exclusiv in scop personal nu are, de regula, obligatiile unui implementator profesional.

Ea este insa protejata de regulament atunci cand interactioneaza cu firme, institutii sau sisteme automate.

Oamenii trebuie sa poata afla cand discuta cu un chatbot, daca acest lucru nu este evident. Trebuie sa fie informati atunci cand sunt expusi unor deepfake-uri, unor sisteme de recunoastere a emotiilor sau unor instrumente de clasificare biometrica.

Atunci cand o decizie importanta este influentata de un sistem AI cu grad ridicat de risc, persoana afectata trebuie sa poata intelege rolul pe care sistemul l-a avut in luarea deciziei.

AI Act nu inlocuieste drepturile oferite prin GDPR, legislatia muncii sau normele privind protectia consumatorilor. Acesta adauga un nou nivel de protectie, adaptat deciziilor si materialelor generate de algoritmi.

Sanctiunile prevazute de regulament sunt semnificative.

Incalcarea interdictiilor privind practicile AI considerate inacceptabile poate atrage amenzi de pana la 35 de milioane de euro sau pana la 7 la suta din cifra de afaceri mondiala anuala a companiei, fiind luata in calcul valoarea mai mare.

Pentru incalcarea altor obligatii, inclusiv a unor reguli privind transparenta, amenda poate ajunge la 15 milioane de euro sau la 3 la suta din cifra de afaceri mondiala anuala.

Acestea sunt limite maxime. Autoritatile trebuie sa tina cont de gravitatea faptei, durata incalcarii, dimensiunea entitatii si masurile luate pentru remediere.
 
In Romania, procedura concreta de control si sanctionare urmeaza sa fie stabilita prin cadrul legislativ national aflat in pregatire.

Pentru majoritatea firmelor si institutiilor, conformarea nu incepe prin redactarea unui dosar voluminos. Incepe prin cateva intrebari simple:

• Ce instrumente AI folosim?
• Ce date introducem in aceste aplicatii?
• Interactioneaza sistemul direct cu persoane?
• Genereaza continut public?
• Influenteaza angajarea, evaluarea, acordarea unui credit sau accesul la un serviciu?
• Cine verifica rezultatul?
• Cum informam persoana afectata?

Organizatiile trebuie apoi sa stabileasca reguli interne, responsabilitati clare si proceduri de verificare umana.

AI Act nu interzice folosirea inteligentei artificiale. El cere ca utilizarea sa fie transparenta, controlata si proportionala cu efectele pe care le poate produce asupra oamenilor.