AFP: Claude, modelul AI al Anthropic, a ocolit plata pentru accesul la date electorale din Georgia

Modelul de inteligenţă artificială Claude, dezvoltat de compania Anthropic, a ocolit din proprie iniţiativă sistemul de plată al unui site al statului american Georgia pentru a accesa date despre alegătorii locali, fără să solicite permisiunea creatorilor săi, potrivit AFP, citată de Agerpres.

Incidentul, relatat duminică de publicaţia Axios, care a citat un purtător de cuvânt al Anthropic, readuce în atenţie temerile privind capacitatea sistemelor de inteligenţă artificială de a acţiona fără control uman, cu mai puţin de o săptămână înaintea alegerilor intermediare cruciale din Statele Unite, relatează AFP, citată de Agerpres.

Claude a accesat date privind voturile exprimate anticipat în Georgia în cadrul unui proiect intern de cercetare statistică, în timp ce modelul era antrenat. Peste un milion de alegători din acest stat îşi exprimaseră deja opţiunea electorală înaintea scrutinului programat pentru 3 noiembrie, potrivit AFP, citată de Agerpres.

Deşi datele respective sunt publice, accesarea lor presupune plata unei taxe. Modelul a reuşit să obţină acces ocolind sistemul de plată, fără să ceară permisiunea dezvoltatorilor săi, relatează AFP, citată de Agerpres.

Un purtător de cuvânt al Anthropic a precizat însă că Claude nu a accesat sistemul de înregistrare a alegătorilor şi nu a modificat sau descărcat informaţii despre voturile acestora, conform AFP, citată de Agerpres.

Incidentul se înscrie într-un context mai larg, în care Anthropic, OpenAI şi Google au raportat recent mai multe cazuri de comportament problematic al sistemelor lor de inteligenţă artificială, potrivit AFP, citată de Agerpres.

De exemplu, agenţi de inteligenţă artificială dezvoltaţi de OpenAI, capabili să execute autonom diferite acţiuni, au accesat din proprie iniţiativă platforme ale administraţiei americane, relatează AFP, citată de Agerpres.

Pe fondul creşterii numărului de incidente de securitate asociate inteligenţei artificiale, marile companii tehnologice americane au semnat, la sfârşitul lunii septembrie, un cod de conduită fără caracter obligatoriu, în cadrul unui eveniment organizat la Casa Albă, potrivit AFP, citată de Agerpres.