Avocaţii BSA: Companiile româneşti riscă amenzi uriaşe din cauza AI

Companiile care folosesc ChatGPT, Claude, Gemini sau alte modele de inteligenţă artificială în propriile produse pot crede, în mod greşit, că respectă automat AI Act, regulamentul Uniunii Europene, potrivit unui comunicat de presă emis de societatea de avocatură Buju Stanciu & Asociaţii (BSA) remis redacţiei.

Conformarea marilor furnizori nu se transferă însă şi companiilor care le integrează tehnologia, avertizează avocaţii societăţii menţionate, arată sursa citată.

Potrivit datelor interne ale societăţii, 85% dintre companii nu ştiu că trebuie să informeze utilizatorii când aceştia interacţionează cu AI, riscând astfel amenzi de până la 15 milioane de euro sau 3% din cifra de afaceri anuală globală, informează comunicatul de presă.

La o lună de când obligaţiile de transparenţă din Regulamentul AI Act au devenit aplicabile, avocaţii societăţii de avocatură Buju Stanciu & Asociaţii (BSA) atrag atenţia asupra unei confuzii pe care o întâlnesc tot mai des în discuţiile cu companiile din România, respectiv presupunerea că, dacă furnizorii modelelor mari (OpenAI, Anthropic, Google) s-au conformat, produsul propriu, construit pe acel model, este şi el conform, transmite sursa citată.

Din aproximativ 40 de companii cu care BSA a discutat în ultima lună, doar 15% făcuseră inventarierea funcţiilor de AI din propriile produse, precizează reprezentanţii firmei de avocatură.

Pe scurt, dacă o companie foloseşte ChatGPT într-un produs propriu, trebuie să informeze clar utilizatorii că interacţionează cu inteligenţa artificială şi, unde este cazul, să marcheze conţinutul generat de AI, în timp ce faptul că OpenAI respectă AI Act nu înseamnă că şi produsul companiei este automat conform, arată societatea.

De la 2 august 2026, obligaţiile de transparenţă prevăzute de articolul 50 din Regulamentul european privind inteligenţa artificială (AI Act) se aplică efectiv, iar Comisia Europeană, împreună cu autorităţile naţionale, a început să le pună în aplicare, astfel că sistemele de tip chatbot trebuie să informeze utilizatorii că vorbesc cu un chatbot bazat pe inteligenţa artificială, iar conţinutul scris, audio, video generat sau modificat de AI trebuie să poarte marcaje care pot fi citite automat de alte sisteme, menţionează sursa citată.

Reacţia marilor jucători a venit rapid şi, în cea mai mare parte, înainte ca autorităţile să facă vreun pas, compania Anthropic anunţând că viitoarele modele Claude vor genera text care conţine un watermark invizibil pentru cititor, urmând să ofere şi un instrument de detecţie, în timp ce Google şi Meta au aderat la Codul de bune practici privind transparenţa conţinutului generat de AI, iar OpenAI încorporează semnale de provenienţă în conţinutul generat, arată datele transmise.

„Este cea mai frecventă întrebare pe care o primim în ultimele săptămâni şi răspunsul surprinde de fiecare dată. Watermark-ul pus de Anthropic sau semnalele de provenienţă ale OpenAI acoperă ceea ce iese din modelul lor, nu ceea ce vede utilizatorul în aplicaţia ta. Dacă ai un chatbot de relaţii cu clienţii construit pe GPT sau pe Claude, obligaţia de a informa clientul că vorbeşte cu o inteligenţă artificială este a ta, pentru că tu ai pus sistemul pe piaţă sub numele tău. Furnizorul modelului nu poate îndeplini această obligaţie în locul tău”, a afirmat Marius Stanciu, partener fondator BSA.

Regulamentul distinge clar între furnizorul unui sistem de AI şi operatorul care îl implementează în activitatea proprie, iar ghidul Comisiei Europene privind aplicarea articolului 50, publicat în iulie 2026, insistă pe faptul că obligaţiile celor două categorii sunt separate şi se cumulează pe lanţul de distribuţie, astfel că o companie care integrează un model de la un furnizor extern într-un produs propriu devine, în multe situaţii, ea însăşi furnizor al unui sistem de AI în sensul AI Act şi trebuie să-şi facă propria evaluare a obligaţiilor, explică avocaţii.

„Din experienţa noastră, problema nu este lipsa de bunăvoinţă, ci faptul că multe companii nici nu au făcut exerciţiul de a-şi inventaria funcţiile de AI din produse. Au un asistent virtual, un generator de descrieri de produs, un instrument care rezumă documente pentru clienţi, toate construite pe API-uri externe, şi nimeni nu s-a întrebat care dintre ele intră sub articolul 50 şi ce trebuie afişat utilizatorului”, a declarat Victor Buju, partener fondator BSA.

Recomandarea avocaţilor BSA pentru companiile care folosesc modele de AI de la furnizori externi are trei paşi, primul fiind inventarul funcţiilor de AI din toate produsele şi canalele orientate către clienţi, făcut anterior oricărui control, informează sursa citată.

Al doilea pas constă în verificarea contractului cu furnizorul de model, respectiv ce obligaţii de transparenţă acoperă efectiv furnizorul şi ce rămâne în sarcina companiei, în timp ce al treilea pas impune corectarea a ceea ce lipseşte, respectiv informarea utilizatorilor că interacţionează cu AI şi marcarea conţinutului generat, acolo unde regulamentul o cere, arată societatea.

„Comisia a lansat deja un instrument public de plângeri şi un canal pentru avertizori, aşa că semnalul unei probleme poate veni foarte bine de la un client nemulţumit sau de la un concurent, nu doar de la o autoritate”, a precizat Victor Buju, partener fondator BSA.

Nerespectarea obligaţiilor de transparenţă poate atrage amenzi de până la 15 milioane de euro sau 3% din cifra de afaceri anuală globală, în funcţie de care sumă este mai mare, iar dincolo de sancţiuni, juriştii subliniază că lipsa unei informări corecte a utilizatorilor expune companiile şi la riscuri pe terenul protecţiei consumatorilor şi al răspunderii civile, arată sursa citată.

Regulile de transparenţă reprezintă doar prima etapă cu impact vizibil pentru publicul larg, în condiţiile în care obligaţiile pentru sistemele de AI cu risc ridicat, care privesc domenii precum educaţia, recrutarea, biometria sau produsele fizice, intră în aplicare în decembrie 2027 şi august 2028, după amânarea decisă prin pachetul Digital Omnibus, în vigoare din iulie 2026, potrivit comunicatului de presă remis redacţiei.