Companiile care integrează modele de AI în produse proprii poate atrage obligaţiile „furnizorilor din aval”

Un incident recent implicând Lia, asistentul virtual al Libra Internet Bank, a atras atenţia publică asupra unei probleme tot mai frecvente: ce se întâmplă legal atunci când un sistem de inteligenţă artificială integrat într-un serviciu propriu are un comportament problematic, potrivit unui comunicat de presă remis redacţiei de către Haţegan Attorneys. Incidentul nu stabileşte, prin el însuşi, rolul juridic al băncii potrivit AI Act. Această calificare depinde de modul în care sistemul a fost dezvoltat, integrat şi pus în funcţiune, precum şi de relaţiile contractuale dintre entităţile implicate. Cazul ilustrează însă riscurile practice pe care companiile trebuie să le gestioneze atunci când includ sisteme de AI în propriile servicii, se arată în comunicat.

Miza creşte pe măsură ce adopţia AI se extinde: deşi doar 5,2% dintre companiile din România folosesc tehnologii AI, faţă de media europeană de 20%, potrivit Raportului Eurostat privind companiile care utilizează tehnologii de inteligenţă artificială, iar numărul celor care integrează astfel de sisteme direct în servicii creşte accelerat, se precizează în comunicat.

„Incidente precum cel al asistentului virtual Lia arată de ce stabilirea rolurilor şi responsabilităţilor legale nu mai sunt o discuţie pur teoretică. O companie care integrează un model de AI într-un produs propriu, fie el un chatbot bancar sau orice alt serviciu, poate deveni furnizor din aval şi poate avea obligaţii privind conformitatea sistemului final, chiar dacă nu a dezvoltat modelul de bază. Acest lucru nu înseamnă că orice companie care utilizează GPT, Claude sau un alt model devine automat furnizor din aval. Această calificare nu intervine însă automat, ci depinde de modul în care sistemul a fost dezvoltat, integrat şi oferit. Cu cât mai multe companii româneşti îşi integrează serviciile cu AI, cu atât mai importantă devine înţelegerea acestui regim juridic, înainte ca un incident să devină o problemă de conformitate.", spune Ioana Chiper Zah, Managing Associate, Haţegan Attorneys.

Haţegan Attorneys informează că tot mai multe companii integrează modele de AI de uz general, precum GPT, Claude sau Gemini, în produse şi servicii proprii. Potrivit AI Act, acest lucru le poate scoate din statutul de simplu utilizator: dacă dezvoltă sau comandă dezvoltarea sistemului final şi îl introduc pe piaţă ori îl pun în funcţiune sub numele sau marca proprie, ele pot devini furnizor din aval (art. 3 pct. 68) şi devin responsabile pentru respectarea obligaţiilor aplicabile sistemului final, indiferent dacă au dezvoltat sau nu modelul de bază, se arată în comunicat.

Reperul e simplu: o companie care integrează un model într-un chatbot medical, o platformă de recrutare sau o aplicaţie de analiză contractuală şi îl oferă sub propria marcă poate intra sub acest regim, în funcţie de contribuţia sa la dezvoltarea şi punerea pe piaţă a sistemului final. Simpla folosire internă a unui instrument precum ChatGPT, în schimb, nu declanşează automat această calitate, potrivit firmei de avocatură.

Obligaţiile depind de caracteristicile şi clasificarea sitemului final, nu de faptul integrării în sine. Furnizorul din aval trebuie să verifice dacă sistemul rezultat implică o practică interzisă (art. 5), este clasificat drept sistem cu risc ridicat (art. 6, anexele I sau III) sau intră sub incidenţa obligaţiilor de transparenţă (art. 50), se precizează în comunicat.

De exemplu, furnizorul unui chatbot destinat interacţiunii cu publicul trebuie, în principiu, să informeze persoanele că interacţionează cu un sistem de AI, cu excepţia cazului în care acest lucru este evident, conform art. 50 alin. (1). Această obligaţie este deja aplicabilă din 2 august 2026, afirmă firma de avocatură.

Pentru sistemele cu risc ridicat, obligaţiile sunt semnificative: management al riscurilor, guvernanţa datelor, documentaţie tehnică şi supraveghere umană, plus evaluare de conformitate (art. 8-16 şi art. 43). Potrivit calendarului prevăzut de art. 113 din versiunea consolidată, aceste cerinţe se vor aplica de la 2 decembrie 2027 sistemelor high-risk din anexa III şi de la 2 august 2028 sistemelor asociate produselor reglementate din anexa I, informează Haţegan Attorneys.

Firma de avocatură informează că un obstacol practic rămâne accesul la informaţie. Fără date suficiente despre modelul integrat, furnizorul din aval nu poate documenta corect sistemul final. AI Act îi obligă pe furnizorii de modele de uz general să pună la dispoziţie informaţii tehnice esenţiale furnizorilor care integrează modelul într-un sistem de AI (art. 53), iar pentru sistemele high-risk furnizorul sistemului şi terţii care furnizează modele, instrumente, servicii, componente sau procese utilizate în sistem trebuie să stabilească prin acord scris informaţiile, capacităţile, accesul tehnic şi asistenţa necesare (art. 25). Dacă furnizorul modelului nu cooperează şi nu îşi respectă obligaţiile aplicabile, există totuşi o cale de plângere la Oficiul pentru AI (art. 89), se arată în comunicat.

În concluzie, integrarea unui model extern de AI nu transferă automat răspunderea către compania care l-a creat, întrucât conformitatea se evaluează separat, pentru fiecare sistem final, în funcţie de scopul, modul de integrare şi contextul în care ajunge pe piaţă. Astfel, orice companie care „îmbracă" un model AI într-un produs propriu trebuie să-şi pună, de pe acum, întrebarea dacă îndeplineşte condiţiile pentru a fi considerată furnizor din aval şi ce obligaţii îi revin în această calitate, potrivit comunicatului de presă remis redacţiei de către Haţegan Attorneys.