BBC: Cercetătorul-şef al OpenAI avertizează că „nimeni nu este pregătit” pentru ce urmează cu IA

Jakub Pachocki, cercetător-şef la OpenAI, a cerut „prudenţă extremă” în ceea ce priveşte progresul galopant al inteligenţei artificiale şi a avertizat că ar putea fi nevoie de mai multe intervenţii ca să asigure că „oamenii rămân în controlul asupra viitorului”, transmite BBC.

„Mă îngrijorează faptul că nimeni nu este pregătit pentru consecinţele unei creşteri rapide şi continue a inteligenţei artificiale”, a scris Jakub Pachocki într-o postare pe blogul OpenAI, intitulată „An Alien Mind” (O minte extraterestră), informează BBC.

Mesajul său vine la doar câteva zile după ce compania care dezvoltă ChatGPT a lansat modelul GPT-6 Astra, pe care l-a descris drept cel mai puternic produs al său de până acum, precizează BBC.

OpenAI şi alte companii din domeniul AI, precum Anthropic, au dezvăluit recent că agenţi AI care acţionează autonom au lansat atacuri cibernetice reale asupra altor companii, potrivit BBC.

„Ne confruntăm cu o tranziţie către o lume cu maşini incredibil de inteligente şi trebuie să ne asigurăm că această tranziţie se va desfăşura în beneficiul umanităţii”, a mai scris Pachocki, conform sursei citate.

El a afirmat că OpenAI va continua să „construiască sisteme defensive” şi să caute soluţii tehnice pentru „aliniere”, care se referă la dezvoltarea unor sisteme ale căror acţiuni şi obiective respectă intenţiile oamenilor, precum şi măsurile de siguranţă stabilite de aceştia, potrivit sursei menţionate.

Pachocki a adăugat că una dintre principalele priorităţi ale OpenAI în viitor va fi crearea unui „cercetător automatizat în domeniul AI”, pentru a ţine pasul cu progresele din acest domeniu, asigurându-se în acelaşi timp că cercetătorii umani vor putea rămâne parte integrantă a procesului, conform aceleiaşi surse.

Acesta a cerut stabilirea unor praguri minime de siguranţă, impuse prin lege sau prin acorduri internaţionale, care să fie verificate de auditori independenţi sau de agenţii guvernamentale, informează BBC.

„Companiile de AI ar trebui să îndeplinească aceste criterii înainte de a li se permite să continue dezvoltarea sau lansarea modelelor avansate”, potrivit cercetătorului, transmite BBC.