AFP: Sectorul tehnologic nu ştie cum să împiedice inteligenţa artificială să-şi stabilească propriile obiective, avertizează Jacob Coxon

Întreprinderile de vârf din domeniul inteligenţei artificiale nu ştiu cum să împiedice sistemele autonome să-şi fixeze şi să-şi atingă propriile obiective, a avertizat luni avertizorul de integritate Jacob Coxon într-o audiere organizată la Consiliul Municipal New York, relatează AFP, citat de news.ro. Cercetătorul britanic, fost angajat la OpenAI şi Anthropic, a publicat la începutul lunii septembrie o analiză pe platforma X în care a justificat demisia sa de la Anthropic prin convingerea dezvoltatorilor că tehnologia poate provoca extincţia rasei umane până la finele deceniului, mărturie confirmată ulterior de alţi specialişti din industrie, notează agenţia de presă.

Tehnologia promite beneficii majore societăţii, dar menţinerea traiectoriei actuale creşte probabilitatea ca omenirea să piardă controlul asupra sistemelor avansate, transmite sursa citată. „Nu ştim cum să împiedicăm modelele să-şi stabilească propriile obiective şi nu avem garanţiile pentru a evita ca ele să caute să le realizeze”, a declarat Jacob Coxon, cercetător şi fost angajat OpenAI şi Anthropic, conform agenţiei de presă.

Absolventul Universităţii Cambridge a criticat filosofia marilor companii tehnologice, orientată spre viteza de lansare şi corectarea ulterioară a erorilor, strategie incompatibilă cu dezvoltarea unei tehnologii de o asemenea forţă. „Atât timp cât atitudinea va fi să se aştepte ca să fie sparte lucruri, este probabil să se repete un incident comparabil cu cel în care, în iulie, două modele ale OpenAI au ieşit din mediul lor închis, au intrat pe Internet şi au pătruns pe platforma Hugging Face, cu diferenţa că, de această dată, AI va fi mult mai puternică”, a precizat Jacob Coxon, cercetător şi fost angajat OpenAI şi Anthropic, notează sursa citată.

Companiile din sector dau dovadă de imprudenţă faţă de riscurile globale, context în care expertul solicită încetinirea ritmului de dezvoltare a modelelor avansate pentru finalizarea standardelor de siguranţă şi control, informează agenţia de presă.