Inteligența artificială generativă a devenit, într-un timp foarte scurt, parte din activitatea de zi cu zi a multor organizații. Instrumente precum ChatGPT, Microsoft Copilot, Gemini sau Claude sunt utilizate pentru redactarea documentelor, analiza informațiilor, traduceri, dezvoltarea de conținut, automatizarea unor procese și sprijinirea procesului decizional.
În acest context, o întrebare devine tot mai relevantă pentru management, departamentele de resurse umane și echipele de conformitate:
Este organizația pregătită să demonstreze că utilizează inteligența artificială într-un mod responsabil și în conformitate cu cerințele EU AI Act?
EU AI Act nu se adresează doar dezvoltatorilor de inteligență artificială
O percepție frecventă este aceea că regulamentul european privind inteligența artificială se aplică exclusiv companiilor care dezvoltă modele AI sau produse software bazate pe această tehnologie.
În realitate, domeniul de aplicare este mult mai larg.
În funcție de rolul pe care îl are o organizație în raport cu un sistem AI – de exemplu, furnizor, importator, distribuitor sau utilizator („deployer”) – pot apărea obligații specifice privind utilizarea, monitorizarea și guvernanța acestor sisteme.
Cu alte cuvinte, simpla utilizare a unor instrumente AI în activitatea profesională poate genera responsabilități care trebuie evaluate și gestionate corespunzător.
Prima provocare nu este tehnologia, ci vizibilitatea
În multe organizații, utilizarea inteligenței artificiale s-a dezvoltat organic.
Angajații adoptă instrumente noi pentru a-și eficientiza activitatea, fără ca acestea să fie întotdeauna inventariate sau integrate într-un cadru intern de guvernanță.
Dacă managementul ar trebui să răspundă astăzi la întrebări precum:
- Ce aplicații AI sunt utilizate în organizație?
- În ce departamente sunt folosite?
- Pentru ce tipuri de activități?
- Cine este responsabil pentru utilizarea acestora?
- Există reguli interne privind utilizarea AI?
- Cum sunt verificate rezultatele generate de aceste sisteme?
multe organizații ar constata că nu dețin încă o imagine completă.
Aceasta reprezintă, de cele mai multe ori, primul pas către conformare: înțelegerea modului în care inteligența artificială este deja utilizată.
Ce înseamnă, în practică, documentația?
Atunci când se discută despre conformitate, termenul „documentație” este adesea asociat cu volume extinse de documente tehnice.
În realitate, pentru majoritatea organizațiilor care utilizează soluții AI dezvoltate de terți, primul obiectiv este construirea unei evidențe clare și documentate privind modul în care aceste instrumente sunt folosite.
Aceasta presupune, printre altele:
- identificarea sistemelor AI utilizate în cadrul organizației;
- documentarea scopului pentru care acestea sunt utilizate;
- definirea responsabilităților privind utilizarea și supravegherea acestora;
- evaluarea riscurilor asociate fiecărui caz de utilizare;
- stabilirea regulilor interne privind utilizarea responsabilă a inteligenței artificiale;
- documentarea măsurilor de control și a supravegherii umane, acolo unde este necesar.
Pentru anumite sisteme AI clasificate ca fiind cu risc ridicat, EU AI Act prevede cerințe suplimentare privind documentația tehnică, trasabilitatea, monitorizarea și gestionarea riscurilor. Aceste obligații diferă în funcție de categoria sistemului și de rolul organizației în lanțul de utilizare.
De unde ar trebui să înceapă o organizație?
Înainte de elaborarea unor politici complexe sau a unor proceduri detaliate, este recomandată realizarea unui exercițiu de cartografiere a utilizării inteligenței artificiale.
Un inventar intern al instrumentelor utilizate poate oferi o imagine clară asupra nivelului actual de maturitate și poate constitui baza pentru dezvoltarea unui program de guvernanță AI.
În practică, acest inventar poate include informații precum:
- aplicațiile AI utilizate;
- departamentele în care sunt implementate;
- scopul utilizării;
- tipurile de date prelucrate;
- existența unei verificări umane a rezultatelor;
- persoanele responsabile;
- politicile sau procedurile interne aplicabile.
Un astfel de demers permite organizației să identifice rapid zonele care necesită măsuri suplimentare și să stabilească prioritățile de conformare.
Conformarea este un proces, nu un document
Pentru majoritatea organizațiilor, conformarea cu EU AI Act nu începe cu elaborarea unor documente complexe și nici cu implementarea unor soluții tehnologice noi.
Ea începe cu o înțelegere clară a modului în care inteligența artificială este utilizată în activitatea curentă și cu dezvoltarea unei culturi organizaționale bazate pe responsabilitate, transparență și control.
Organizațiile care investesc din timp în politici interne, instruirea angajaților și guvernanța utilizării AI nu doar că vor răspunde mai ușor cerințelor legislative, ci vor reduce riscurile operaționale și reputaționale și vor consolida încrederea angajaților, partenerilor și clienților.
Într-un mediu de afaceri în care inteligența artificială evoluează rapid, documentația nu reprezintă doar o obligație de conformitate. Ea devine un instrument esențial de management, care oferă vizibilitate, control și încredere în modul în care tehnologia este utilizată.
Cum vă putem sprijini
La Zen EAP, sprijinim organizațiile în dezvoltarea competențelor și a proceselor necesare pentru utilizarea responsabilă a inteligenței artificiale și conformarea cu cerințele EU AI Act.
Serviciile noastre includ:
- sesiuni de awareness și training pentru management și angajați privind utilizarea responsabilă a AI;
- evaluarea nivelului de maturitate al organizației în utilizarea inteligenței artificiale;
- identificarea și cartografierea sistemelor AI utilizate în cadrul organizației;
- sprijin în elaborarea politicilor, procedurilor și documentației interne privind guvernanța AI;
- consultanță pentru dezvoltarea unui plan de conformare adaptat specificului organizației.
Dacă doriți să înțelegeți modul în care EU AI Act se aplică organizației dumneavoastră sau aveți nevoie de sprijin pentru implementarea unui cadru de guvernanță a inteligenței artificiale, vă invităm să completați formularul de contact. Echipa noastră vă va contacta pentru o discuție inițială, în cadrul căreia vom analiza contextul organizației și vom identifica soluțiile potrivite pentru nevoile dumneavoastră.