Utilizarea agenţilor conversaţionali bazaţi pe inteligenţă artificială transformă radical industria serviciilor pentru clienţi, dar vine la pachet cu riscuri juridice şi reputaţionale, mai ales în contextul aplicării Regulamentului General privind Protecţia Datelor (GDPR), potrivit unui articol semnat de Cristiana Deca, CEO şi cofondator al Decalex Digital.
Soluţiile moderne de call center folosesc deja modele AI pentru a automatiza complet interacţiunile cu clienţii, pentru a sprijini operatorii umani în timp real sau pentru a analiza conversaţiile retrospectiv. Cu toate acestea, creşterea eficienţei vine cu provocări legate de confidenţialitate, transparenţă şi acceptabilitate socială.
Tehnologiile AI sunt capabile să detecteze stările emoţionale ale interlocutorilor, să interpreteze tonul vocii, pauzele şi chiar expresiile faciale în apeluri video. Conform GDPR, astfel de date pot fi considerate sensibile şi pot fi procesate doar în condiţii stricte, cu consimţământ explicit şi informare clară.
Potrivit Cristinei Deca, trei riscuri majore trebuie luate în calcul: lipsa consimţământului real al clientului, interpretările eronate ale emoţiilor şi supravegherea invazivă a angajaţilor. În plus, deciziile bazate exclusiv pe profilare automatizată sunt limitate sever de legislaţia europeană.
Pentru a evita sancţiunile şi pierderea încrederii publicului, companiile trebuie să ofere transparenţă totală privind utilizarea AI, să păstreze intervenţia umană în luarea deciziilor şi să nu utilizeze tehnologia în mod abuziv.
„AI-ul ajută enorm, dar trebuie folosit responsabil, mai ales atunci când prelucrează emoţii - care nu sunt simple date, ci informaţii intime şi complexe”, avertizează autoarea articolului.
Industria call center-elor se află astfel într-un punct de inflexiune, în care echilibrul între eficienţă tehnologică şi protejarea drepturilor fundamentale ale clienţilor şi angajaţilor devine esenţial pentru viitor.