Decizia Comisiei din 24 ianuarie 2024 de instituire a Oficiului european pentru inteligența artificială

având în vedere Tratatul privind funcționarea Uniunii Europene,

Inteligența artificială (IA) este o familie de tehnologii cu evoluție rapidă, care poate genera o gamă largă de beneficii economice și societale în întregul spectru de industrii și activități sociale. În același timp, în funcție de circumstanțele legate de aplicarea și utilizarea sa specifică, IA poate genera riscuri și poate aduce prejudicii intereselor publice și drepturilor fundamentale care sunt protejate de dreptul Uniunii.

Comisia a propus un regulament de stabilire a unor norme armonizate privind inteligența artificială (Legea privind inteligența artificială) și de modificare a anumitor acte legislative ale Uniunii, cu scopul de a promova dezvoltarea, utilizarea și adoptarea inteligenței artificiale pe piața internă, care să asigure, în același timp, un nivel ridicat de protecție a intereselor publice, cum ar fi sănătatea și siguranța, precum și protecția drepturilor fundamentale, astfel cum sunt recunoscute și protejate de dreptul Uniunii. Regulamentul propus este una dintre mai multe măsuri ale Comisiei menite să îndeplinească dublul obiectiv de promovare a adoptării IA și de abordare a riscurilor asociate anumitor utilizări ale unei astfel de tehnologii. Printre măsurile incluse în această serie se numără Planul coordonat privind inteligența artificială, revizuit în 2021, inițiative în materie de politici sectoriale care promovează adoptarea IA sau programe de finanțare ale Uniunii, cum ar fi cele instituite prin Regulamentele (UE) 2021/694 și (UE) 2021/695 ale Parlamentului European și ale Consiliului.

Complexitatea și adoptarea în tot mai mare măsură a IA, în special atunci când se bazează pe cele mai avansate modele, precum și necesitatea de a accelera progresele către obiectivele și țintele stabilite în programul de politică privind deceniul digital instituit prin Decizia (UE) 2022/2481 a Parlamentului European și a Consiliului demonstrează necesitatea unor acțiuni suplimentare pentru o mai bună înțelegere a capacităților, tendințelor și riscurilor potențiale și pentru a sprijini dezvoltarea și utilizarea în condiții de siguranță a tehnologiilor IA în Uniune.

Este necesară dezvoltarea expertizei și a capacităților la nivelul Uniunii pentru a promova o astfel de înțelegere, pentru a contribui la punerea în aplicare și asigurarea respectării viitorului regulament de stabilire a unor norme armonizate privind inteligența artificială și pentru a contribui la punerea în aplicare a normelor și principiilor internaționale privind IA, cum ar fi Codul de conduită al G7 și principiile directoare pentru dezvoltatorii de sisteme de IA avansate.

În acest context, ar trebui stabilite bazele unui sistem unic de guvernanță pentru IA în Uniune, prin crearea unei structuri care ar trebui să coordoneze progresele înregistrate în ceea ce privește modelele de inteligență artificială, inclusiv privind modelele de IA de uz general, precum și interacțiunea cu comunitatea științifică. Această structură ar trebui să joace un rol-cheie cu privire la investigații și testare, precum și asigurarea respectării legislației și să aibă o vocație globală.

Prin urmare, în cadrul Comisiei ar trebui instituit un Oficiu european pentru inteligența artificială ca parte a structurii administrative a Direcției Generale Rețele de Comunicare, Conținut și Tehnologie, care să facă obiectul planului său anual de gestionare.

Oficiul european pentru inteligența artificială ar trebui să funcționeze în conformitate cu procesele interne ale Comisiei, iar instituirea sa nu ar trebui să afecteze prerogativele și competențele autorităților naționale competente, precum și ale organelor, oficiilor și agențiilor Uniunii în ceea ce privește supravegherea sistemelor de IA, astfel cum se prevede în viitorul regulament de stabilire a unor norme armonizate privind inteligența artificială și în alte acte legislative sectoriale ale Uniunii. Aceasta nu aduce atingere funcțiilor altor departamente ale Comisiei în domeniile lor de competență respective și nici funcțiilor Serviciului European de Acțiune Externă în domeniul politicii externe și de securitate comune. Oficiul european pentru inteligența artificială ar trebui să își exercite sarcinile, în special cele privind emiterea de orientări, într-un mod care să nu se suprapună cu activitățile desfășurate de organele, oficiile și agențiile relevante ale Uniunii în temeiul legislației sectoriale specifice.

Pentru a permite începerea cât mai curând posibil a pregătirii punerii în aplicare a viitorului regulament de stabilire a unor norme armonizate privind inteligența artificială, prezenta decizie ar trebui să intre în vigoare în regim de urgență, înainte de adoptarea regulamentului respectiv, în urma acordului politic al colegiuitorilor la care s-a ajuns la 8 decembrie 2023. Odată ce regulamentul este adoptat, prezenta decizie poate fi revizuită,

Se instituie Oficiul european pentru inteligența artificială (oficiul).

Oficiul face parte din structura administrativă a Direcției Generale Rețele de Comunicare, Conținut și Tehnologie (direcția generală).

Oficiul îndeplinește sarcinile prevăzute la articolul 3 în scopul punerii în aplicare și al asigurării respectării viitorului regulament de stabilire a unor norme armonizate privind inteligența artificială (viitorul regulament).

Oficiul are următoarele sarcini suplimentare:

contribuția la abordarea strategică, coerentă și eficace a Uniunii în ceea ce privește inițiativele internaționale privind IA, în temeiul articolului 7, în coordonare cu statele membre și în conformitate cu pozițiile și politicile Uniunii;

contribuția la promovarea acțiunilor și a politicilor în cadrul Comisiei care valorifică beneficiile societale și economice ale tehnologiilor IA, în temeiul articolului 5;

sprijinirea dezvoltării, introducerii și utilizării accelerate a unor sisteme și aplicații de IA de încredere care aduc beneficii societale și economice și care contribuie la competitivitatea și la creșterea economică a Uniunii. În special, oficiul promovează ecosistemele de inovare prin colaborarea cu actorii publici și privați relevanți și cu comunitatea întreprinderilor nou-înființate;

monitorizarea evoluției piețelor și a tehnologiilor IA.

În îndeplinirea sarcinilor menționate la alineatele (1) și (2) din prezentul articol, oficiul:

colaborează cu părțile interesate, în special cu experți din comunitatea științifică și cu dezvoltatorii de IA, în temeiul articolului 4;

colaborează cu direcțiile generale și serviciile relevante ale Comisiei în temeiul articolului 5;

cooperează cu toate organismele, oficiile și agențiile relevante ale Uniunii, inclusiv cu întreprinderea comună pentru calculul european de înaltă performanță (întreprinderea comună EuroHPC), în temeiul articolului 6;

cooperează cu autoritățile și organismele statelor membre în numele Comisiei.

Oficiul îndeplinește următoarele sarcini care decurg din viitorul regulament:

dezvoltarea de instrumente, metodologii și criterii de referință pentru evaluarea capacităților modelelor de IA de uz general, în special pentru modelele de IA de uz general de mari dimensiuni care prezintă riscuri sistemice;

monitorizarea punerii în aplicare și a aplicării normelor privind modelele și sistemele de IA de uz general, în special în cazul în care modelul și sistemul sunt dezvoltate de același furnizor;

monitorizarea apariției unor riscuri neprevăzute care decurg din modelele de IA de uz general, inclusiv prin răspunsul la alertele din partea grupului științific;

investigarea posibilelor încălcări ale normelor privind modelele și sistemele de IA de uz general, inclusiv prin colectarea plângerilor și a alertelor, prin acordarea de asistență la elaborarea deciziilor Comisiei și prin efectuarea de evaluări în temeiul viitorului regulament;

asigurarea faptului că, atunci când un sistem de IA intră în domeniul de aplicare al legislației relevante a Uniunii pentru care Comisia are competențe de supraveghere și de asigurare a respectării legislației, cum ar fi al Regulamentului (UE) 2022/2065 al Parlamentului European și al Consiliului sau al Regulamentului (UE) 2022/1925 al Parlamentului European și al Consiliului, supravegherea și asigurarea respectării legislației respective sunt pe deplin coordonate cu supravegherea și asigurarea respectării viitorului regulament;

sprijinirea punerii în aplicare a normelor privind practicile interzise în domeniul IA și sistemele de IA cu grad ridicat de risc în coordonare cu organismele relevante responsabile în temeiul legislației sectoriale, inclusiv facilitarea schimbului de informații și a colaborării între autoritățile naționale, colectarea notificărilor și instituirea unor platforme de informații și baze de date, în special atunci când un model sau un sistem de IA de uz general este integrat într-un sistem de IA cu grad ridicat de risc.

În plus, pentru a contribui la punerea în aplicare efectivă a viitorului regulament, oficiul trebuie să îndeplinească următoarele sarcini:

acordarea de asistență Comisiei la elaborarea deciziilor relevante ale acesteia, a actelor de punere în aplicare și a actelor delegate;

facilitarea aplicării uniforme a viitorului regulament;

acordarea de asistență Comisiei la pregătirea orientărilor și a liniilor directoare pentru a sprijini punerea în aplicare practică a viitorului regulament, precum și elaborarea de instrumente de sprijin, cum ar fi protocoale standardizate și bune practici, în consultare cu serviciile Comisiei și organismele, oficiile și agențiile Uniunii relevante;

acordarea de asistență Comisiei la pregătirea cererilor de standardizare, la evaluarea standardelor existente și la pregătirea specificațiilor comune pentru punerea în aplicare a viitorului regulament;

contribuția la furnizarea de sprijin tehnic, consiliere și instrumente pentru instituirea și funcționarea spațiilor de testare în materie de reglementare a IA, precum și la coordonarea, după caz, cu autoritățile naționale competente care instituie astfel de spații de testare;

efectuarea de evaluări și revizuiri ale viitorului regulament și pregătirea de rapoarte referitoare la acesta;

coordonarea instituirii unui sistem de guvernanță eficace, inclusiv prin pregătirea înființării unor organisme consultative la nivelul Uniunii, precum și monitorizarea instituirii autorităților naționale relevante și a altor organisme la nivel național;

asigurarea funcției de secretariat al Comitetului pentru IA și al subgrupurilor acestuia și furnizarea de sprijin administrativ forumului consultativ și grupului științific, după caz, inclusiv prin furnizarea cadrului administrativ, organizarea de reuniuni și pregătirea documentelor relevante; precum și

încurajarea și facilitarea elaborării unor coduri de bune practici și coduri de conduită la nivelul Uniunii, ținând seama de abordările internaționale, precum și monitorizarea punerii în aplicare și a evaluării codurilor de bune practici.

În îndeplinirea sarcinilor sale care decurg din articolul 3, oficiul cooperează cu părțile interesate, în conformitate cu normele aplicabile în materie de concurență, prin:

instituirea unor forumuri de cooperare pentru furnizorii de modele și sisteme de IA, pentru a promova cele mai bune practici și a contribui la elaborarea de coduri de conduită și coduri de bune practici;

consultarea periodică a părților interesate, inclusiv a experților din comunitatea științifică și din sectorul educațional, a cetățenilor, a societății civile și a partenerilor sociali, după caz, pentru a colecta contribuții în vederea îndeplinirii sarcinilor sale în temeiul articolului 3 alineatul (2);

instituirea unui forum de cooperare cu comunitatea cu sursă deschisă în vederea identificării și a elaborării celor mai bune practici pentru dezvoltarea și utilizarea în condiții de siguranță a modelelor și sistemelor de IA cu sursă deschisă.

Oficiul contribuie la promovarea acțiunilor și a politicilor care valorifică beneficiile societale și industriale ale tehnologiilor IA.

În special, oficiul:

colaborează cu alte direcții generale și servicii relevante ale Comisiei în ceea ce privește îndeplinirea sarcinilor sale care decurg din articolul 2, în special cu Centrul european pentru transparența algoritmilor referitoare la evaluarea și testarea modelelor și sistemelor de IA de uz general;

sprijină alte direcții generale și servicii relevante ale Comisiei pentru a facilita utilizarea modelelor și sistemelor de IA ca instrumente transformatoare în domeniile relevante ale politicilor Uniunii, precum și pentru a sensibiliza publicul cu privire la riscurile emergente.

În îndeplinirea sarcinilor sale care decurg din articolul 3, oficiul stabilește formele adecvate de cooperare cu organismele, oficiile și agențiile Uniunii.

Oficiul contribuie la cooperarea internațională a Comisiei în domeniul IA, inclusiv la politica de inovare și excelență, cu țările terțe și cu organizațiile internaționale, în special prin:

promovarea gestionării responsabile a IA și a abordării Uniunii în ceea ce privește o IA de încredere;

contribuția la cooperarea internațională legată de reglementarea și guvernanța IA;

contribuția la punerea în aplicare a acordurilor internaționale referitoare la normele privind IA, inclusiv prin acordarea de sprijin statelor membre.

În ceea ce privește funcționarii care lucrează în cadrul oficiului, necesarul de resurse umane este acoperit de personalul direcției generale care este deja alocat gestionării acțiunii sau care a fost redistribuit intern în cadrul direcției generale, având în vedere constrângerile bugetare, fără a aduce atingere procedurii de alocare anuală.

În ceea ce privește personalul statutar extern din cadrul oficiului, costurile cu resursele umane sunt acoperite prin redistribuirea creditelor bugetare de la cheltuielile de sprijin administrativ din programul Europa digitală.

Cheltuielile operaționale ale oficiului sunt acoperite din resursele financiare alocate obiectivului specific nr. 2 Inteligența artificială al programului Europa digitală.

Prezenta decizie intră în vigoare la 21 februarie 2024.

Adoptată la Bruxelles, 24 ianuarie 2024Pentru ComisieThierry BretonMembru al Comisiei