Procurorul general al Californiei, Rob Bonta, a intentat luni un proces împotriva OpenAI, acuzând compania că a dezvoltat un produs periculos, fără să implementeze proceduri adecvate de siguranţă şi mecanisme suficiente de supraveghere. Acţiunea în justiţie vine după apariţia unor informaţii potrivit cărora modelele de inteligenţă artificială ale companiei ar fi desfăşurat atacuri cibernetice în mod autonom, relatează Reuters.
Procesul reprezintă prima acţiune juridică iniţiată de un stat american în legătură cu aceste incidente, care au atras atenţia publicului după dezvăluirile din iulie privind comportamentul necontrolat al unui agent autonom bazat pe modelele avansate ale OpenAI. În timpul unui test de securitate, sistemul ar fi acţionat în afara limitelor stabilite şi ar fi compromis infrastructura startup-ului de inteligenţă artificială Hugging Face.
Plângerea, depusă la o instanţă din San Francisco, susţine că OpenAI a încălcat legislaţia Californiei privind protecţia consumatorilor şi a creat un pericol pentru siguranţa publică prin dezvoltarea şi utilizarea unor tehnologii insuficient controlate.
Procurorul general solicită instanţei să oblige compania să înceteze practicile considerate ilegale, să garanteze desfăşurarea în condiţii de siguranţă a proceselor de testare şi dezvoltare a modelelor AI şi să suporte sancţiuni financiare pentru presupusele încălcări ale legii.
Rob Bonta, membru al Partidului Democrat, a declarat, în cadrul conferinţei de presă în care a anunţat procesul, că incidentul care a vizat Hugging Face ar fi fost consecinţa previzibilă a unei culturi organizaţionale în care dezvoltarea accelerată şi extinderea afacerii au fost prioritizate în detrimentul siguranţei şi responsabilităţii.
Potrivit procurorului general, atacul asupra Hugging Face reprezintă doar unul dintre cele 80 de incidente cunoscute asociate comportamentului modelelor de inteligenţă artificială ale companiei.
Documentele depuse în instanţă acuză OpenAI că ar fi indus în eroare consumatorii în privinţa măsurilor adoptate pentru testarea în siguranţă a sistemelor sale, încălcând astfel legislaţia statală privind protecţia consumatorilor. De asemenea, companiei i se reproşează că ar fi afectat exercitarea drepturilor de proprietate ale locuitorilor Californiei prin perturbarea activităţii unor organizaţii şi servicii locale.
După incidentul Hugging Face, OpenAI a recunoscut, într-o postare pe blogul oficial, că situaţia a reprezentat un incident cibernetic fără precedent, care a implicat capacităţi avansate de atac informatic.
Compania a admis, totodată, necesitatea unei transparenţe sporite în privinţa comportamentelor necontrolate ale sistemelor AI şi a anunţat consolidarea mecanismelor de protecţie.
La 16 septembrie, OpenAI a publicat un nou cadru privind raportarea unor asemenea incidente, precizând că va acorda prioritate transparenţei inclusiv în situaţiile în care gravitatea sau semnificaţia unui eveniment nu poate fi stabilită cu certitudine.
• Presiunile pentru reglementarea inteligenţei artificiale se intensifică în Statele Unite
Acţiunea în justiţie împotriva OpenAI intervine într-un context în care autorităţile americane sunt tot mai preocupate de riscurile generate de sistemele autonome de inteligenţă artificială.
OpenAI şi alte companii din domeniu au raportat mai multe incidente în care agenţii AI au depăşit limitele de funcţionare stabilite. În numeroase cazuri, informaţiile au fost făcute publice la săptămâni sau chiar luni după producerea evenimentelor, iar unele situaţii au devenit cunoscute abia după ce au fost identificate de cercetători independenţi.
Administraţia preşedintelui Donald Trump şi membrii Congresului american se confruntă cu presiuni tot mai mari pentru adoptarea unor măsuri care să limiteze riscurile asociate acestor tehnologii, în special în sectoare considerate critice, precum energia, sistemul bancar şi serviciile de urgenţă.
Legislatorii americani analizează mai multe propuneri de reglementare a inteligenţei artificiale, printre care şi un proiect care ar obliga dezvoltatorii celor mai performante modele să le supună unor audituri independente de securitate.
În paralel, mai mulţi procurori generali din Statele Unite au anunţat că investighează incidente de securitate asociate modelelor dezvoltate de OpenAI.
Compania se confruntă deja cu alte procese intentate de autorităţile statale, care contestă nivelul de siguranţă oferit utilizatorilor de produsele sale.
Luna trecută, un grup bipartizan format din opt state americane a deschis acţiuni în justiţie împotriva OpenAI, susţinând că ChatGPT ar fi oferit unor utilizatori, inclusiv adolescenţi, îndrumări care i-ar fi putut determina să îşi provoace rău sau să îi rănească pe alţii.
În plus, OpenAI este vizată de procese individuale intentate de persoane care afirmă că au suferit prejudicii în urma interacţiunilor cu chatbotul companiei.
Printre acestea se numără peste 30 de acţiuni juridice legate de atacul armat în masă produs în februarie, în localitatea Tumbler Ridge, din provincia canadiană Columbia Britanică.
Un purtător de cuvânt al OpenAI a calificat atacul drept o tragedie şi a declarat că societatea a consolidat măsurile de siguranţă implementate pentru ChatGPT.























































Opinia Cititorului