Az Európai Unió
Hivatalos Lapja
HU
Jurnalul Ofícial
al Uniunii Europene
RO
AZ EURÓPAI PARLAMENT ÉS A TANÁCS (EU) 2024/1689 RENDELETE
REGULAMENTUL (UE) 2024/1689 AL PARLAMENTULUI EUROPEAN ȘI AL CONSILIULUI
a mesterséges intelligenciára vonatkozó harmonizált szabályok megállapításáról, valamint a 300/2008/EK, a 167/2013/EU, a 168/2013/EU, az (EU) 2018/858, az (EU) 2018/1139 és az (EU) 2019/2144 rendelet, továbbá a 2014/90/EU, az (EU) 2016/797 és az (EU) 2020/1828 irányelv módosításáról (a mesterséges intelligenciáról szóló rendelet)
de stabilire a unor norme armonizate privind inteligența artificială și de modificare a Regulamentelor (CE) nr. 300/2008, (UE) nr. 167/2013, (UE) nr. 168/2013, (UE) 2018/858, (UE) 2018/1139 și (UE) 2019/2144 și a Directivelor 2014/90/UE, (UE) 2016/797 și (UE) 2020/1828 (Regulamentul privind inteligența artificială)
(Text cu relevanță pentru SEE)
AZ EURÓPAI PARLAMENT ÉS AZ EURÓPAI UNIÓ TANÁCSA,
PARLAMENTUL EUROPEAN ȘI CONSILIUL UNIUNII EUROPENE,
tekintettel az Európai Unió működéséről szóló szerződésre és különösen annak 16. és 114. cikkére,
având în vedere Tratatul privind funcționarea Uniunii Europene, în special articolele 16 și 114,
tekintettel az Európai Bizottság javaslatára,
având în vedere propunerea Comisiei Europene,
a jogalkotási aktus tervezete nemzeti parlamenteknek való megküldését követően,
după transmiterea proiectului de act legislativ către parlamentele naționale,
tekintettel az Európai Gazdasági és Szociális Bizottság véleményére (1),
având în vedere avizul Comitetului Economic și Social European (1),
tekintettel az Európai Központi Bank véleményére (2),
având în vedere avizul Băncii Centrale Europene (2),
tekintettel a Régiók Bizottságának véleményére (3),
având în vedere avizul Comitetului Regiunilor (3),
rendes jogalkotási eljárás keretében (4),
hotărând în conformitate cu procedura legislativă ordinară (4),
(1)
E rendelet célja, hogy javítsa a belső piac működését azáltal, hogy egységes jogi keretet állapít meg különösen a mesterségesintelligencia-rendszereknek (MI-rendszerek) az uniós értékekkel összhangban történő, Unión belüli fejlesztésére, forgalomba hozatalára, üzembe helyezésére és használatára vonatkozóan, hogy előmozdítsa az emberközpontú és megbízható mesterséges intelligencia (MI) elterjedését, miközben biztosítja az Unióban az egészség, a biztonság és az Európai Unió Alapjogi Chartájában (a továbbiakban: a Charta) rögzített alapvető jogok – többek között a demokrácia, a jogállamiság és a környezetvédelem – magas szintű védelmét, hogy védelmet biztosítson az MI-rendszerek káros hatásaival szemben, továbbá, hogy támogassa az innovációt. E rendelet biztosítja a mesterséges intelligencián alapuló áruk és szolgáltatások határokon átnyúló szabad mozgását, ezáltal megakadályozva a tagállamokat abban, hogy korlátozásokat vezessenek be az MI-rendszerek fejlesztésére, piaci értékesítésére és használatára vonatkozóan, kivéve, ha ezt e rendelet kifejezetten engedélyezi.
(1)
Scopul prezentului regulament este de a îmbunătăți funcționarea pieței interne prin stabilirea unui cadru juridic uniform, în special pentru dezvoltarea, introducerea pe piață, punerea în funcțiune și utilizarea de sisteme de inteligență artificială (sisteme de IA) în Uniune, în conformitate cu valorile Uniunii, de a promova adoptarea unei inteligențe artificiale (IA) de încredere și centrate pe factorul uman, asigurând în același timp un nivel ridicat de protecție a sănătății, a siguranței, a drepturilor fundamentale consacrate în Carta drepturilor fundamentale a Uniunii Europene (denumită în continuare „carta”), inclusiv a democrației, a statului de drept și a mediului, de a proteja împotriva efectelor dăunătoare ale sistemelor de IA în Uniune, precum și de a sprijini inovarea. Prezentul regulament asigură libera circulație transfrontalieră a bunurilor și serviciilor bazate pe IA, împiedicând astfel statele membre să impună restricții privind dezvoltarea, comercializarea și utilizarea sistemelor de IA, cu excepția cazului în care acest lucru este autorizat în mod explicit de prezentul regulament.
(2)
Ezt a rendeletet a Chartában rögzített uniós értékekkel összhangban kell alkalmazni, előmozdítva a természetes személyek, a vállalkozások, a demokrácia, a jogállamiság és a környezet védelmét, mindeközben fellendítve az innovációt és a foglalkoztatást, és az Uniót vezető szerephez juttatva a megbízható mesterséges intelligencia elterjedése terén.
(2)
Prezentul regulament ar trebui să se aplice în conformitate cu valorile Uniunii consacrate în cartă, facilitând protecția persoanelor fizice, a întreprinderilor, a democrației, a statului de drept și a mediului, stimulând în același timp inovarea și ocuparea forței de muncă și asigurând Uniunii o poziție de lider în adoptarea unei IA de încredere.
(3)
Az MI-rendszerek könnyen alkalmazhatók számos különböző gazdasági ágazatban és a társadalom számos területén, többek között határokon átnyúlóan is, és könnyen mozoghatnak az egész Unión belül. Egyes tagállamok már fontolóra vették olyan nemzeti szabályok elfogadását, amelyek annak biztosítását célozzák, hogy a mesterséges intelligencia megbízható és biztonságos legyen, fejlesztésére és használatára pedig az alapvető jogokkal kapcsolatos kötelezettségekkel összhangban kerüljön sor. Az eltérő nemzeti szabályok a belső piac széttagoltságához vezethetnek, és csökkenthetik az MI-rendszereket fejlesztő, importáló vagy használó gazdasági szereplők jogbiztonságát. Ezért a megbízható MI megvalósítása érdekében az egész Unióban következetes és magas szintű védelmet kell biztosítani, ugyanakkor meg kell előzni az MI-rendszerek, valamint a kapcsolódó termékek és szolgáltatások belső piacon belüli szabad mozgását, innovációját, bevezetését és elterjedését akadályozó különbségeket, és ennek érdekében a gazdasági szereplők számára egységes kötelezettségeket kell megállapítani, valamint az Európai Unió működéséről szóló szerződés (EUMSZ) 114. cikke alapján garantálni kell a közérdeken alapuló kényszerítő indokok és a személyek jogainak egységes védelmét a belső piacon. Annyiban, amennyiben e rendelet különös szabályokat tartalmaz az egyéneknek a személyes adatok kezelése tekintetében való védelmére vonatkozóan az MI-rendszerek bűnüldözés céljából, távoli biometrikus azonosításra történő használatát, az MI-rendszerek bűnüldözés céljából, természetes személyekre vonatkozó kockázatértékelések elvégzésére történő használatát, valamint az MI-rendszerek bűnüldözés céljából, biometrikus kategorizálásra történő használatát érintő korlátozásokkal kapcsolatban, helyénvaló e rendeletet az említett különös szabályok tekintetében az EUMSZ 16. cikkére alapozni. E különös szabályokra és az EUMSZ 16. cikkének alkalmazására tekintettel helyénvaló konzultálni az Európai Adatvédelmi Testülettel.
(3)
Sistemele de IA pot fi implementate cu ușurință într-o mare varietate de sectoare ale economiei și în multe părți ale societății, inclusiv la nivel transfrontalier, și pot circula cu ușurință în întreaga Uniune. Anumite state membre au explorat deja adoptarea unor norme naționale pentru a se asigura că IA este sigură și de încredere și că este dezvoltată și utilizată în conformitate cu obligațiile în materie de drepturi fundamentale. Divergențele dintre normele naționale pot duce la fragmentarea pieței interne și pot reduce gradul de securitate juridică pentru operatorii care dezvoltă, importă sau utilizează sisteme de IA. Prin urmare, ar trebui să se asigure un nivel ridicat și consecvent de protecție în întreaga Uniune pentru a se obține o IA de încredere, iar divergențele care împiedică libera circulație, inovarea, implementarea și adoptarea sistemelor de IA și a produselor și serviciilor conexe în cadrul pieței interne ar trebui să fie prevenite, prin stabilirea unor obligații uniforme pentru operatori și prin garantarea protecției uniforme a motivelor imperative de interes public major și a drepturilor persoanelor în întreaga piață internă, în temeiul articolului 114 din Tratatul privind funcționarea Uniunii Europene (TFUE). În măsura în care prezentul regulament conține norme specifice de protecție a persoanelor fizice în contextul prelucrării datelor cu caracter personal, referitoare la restricțiile de utilizare a sistemelor de IA pentru identificarea biometrică la distanță în scopul aplicării legii, la utilizarea sistemelor de IA pentru evaluarea riscurilor persoanelor fizice în scopul aplicării legii și la utilizarea sistemelor de IA de clasificare biometrică în scopul aplicării legii, este oportun ca prezentul regulament să se întemeieze, în ceea ce privește normele specifice respective, pe articolul 16 din TFUE. Având în vedere normele specifice respective și recurgerea la articolul 16 din TFUE, este oportun să se consulte Comitetul european pentru protecția datelor.
(4)
A mesterséges intelligencia gyorsan fejlődő technológiacsalád, amely az ágazatok és a társadalmi tevékenységek teljes spektrumában gazdasági, környezeti és társadalmi előnyök széles skálájához járul hozzá. Az előrejelzések javításával, a műveleteknek és az erőforrások elosztásának optimalizálásával, valamint az egyének és a szervezetek rendelkezésére álló digitális megoldások személyre szabásával az MI használata kulcsfontosságú versenyelőnyt biztosíthat a vállalkozások számára, és társadalmi és környezeti szempontból kedvező eredményeket hozhat, például az egészségügy, a mezőgazdaság, az élelmiszerbiztonság, az oktatás és képzés, a média, a sport, a kultúra, az infrastruktúra-működtetés, az energia, a közlekedés és a logisztika, a közszolgáltatások, a biztonság, az igazságszolgáltatás, az erőforrás- és energiahatékonyság, a környezetvédelmi monitoring, a biológiai sokféleség és az ökoszisztémák megőrzése és helyreállítása, valamint az éghajlatváltozás mérséklése és az ahhoz való alkalmazkodás terén.
(4)
IA este o familie de tehnologii cu evoluție rapidă, care contribuie la o gamă largă de beneficii economice, de mediu și societale în întregul spectru de industrii și activități sociale. Prin îmbunătățirea previziunilor, optimizarea operațiunilor și a alocării resurselor, precum și prin personalizarea soluțiilor digitale disponibile pentru persoane fizice și organizații, utilizarea IA poate oferi avantaje concurențiale esențiale întreprinderilor și poate sprijini obținerea de rezultate benefice din punct de vedere social și al mediului, în domenii precum îngrijirile de sănătate, agricultura, siguranța alimentară, educația și formarea, mass-media, sportul, cultura, gestionarea infrastructurii, energia, transporturile și logistica, serviciile publice, securitatea, justiția, eficiența energetică și a utilizării resurselor, monitorizarea mediului, conservarea și refacerea biodiversității și ecosistemelor, precum și atenuarea schimbărilor climatice și adaptarea la acestea.
(5)
Ugyanakkor az MI – a konkrét alkalmazásával, használatával és technológiai fejlettségi szintjével kapcsolatos körülményektől függően – kockázatokat is generálhat, valamint sértheti a közérdeket és az uniós jog által védett alapvető jogokat. Az ilyen kár lehet vagyoni vagy nem vagyoni kár, ideértve a fizikai, pszichés, társadalmi vagy gazdasági kárt is.
(5)
În același timp, în funcție de circumstanțele legate de aplicarea și utilizarea sa specifică, precum și de nivelul său specific de dezvoltare tehnologică, IA poate genera riscuri și poate aduce prejudicii intereselor publice și drepturilor fundamentale care sunt protejate de dreptul Uniunii. Un astfel de prejudiciu ar putea fi material sau moral, inclusiv de natură fizică, psihologică, societală sau economică.
(6)
Tekintettel arra a jelentős hatásra, amelyet a mesterséges intelligencia a társadalomra gyakorolhat, valamint figyelemmel a bizalomépítés szükségességére, alapvető fontosságú, hogy a mesterséges intelligencia fejlesztése és szabályozási keretének kidolgozása az Európai Unióról szóló szerződés (EUSZ) 2. cikkében foglalt uniós értékekkel, a Szerződésekben rögzített alapvető jogokkal és szabadságokkal, valamint – az EUSZ 6. cikke értelmében – a Chartával összhangban történjen. Ennek előfeltétele, hogy a mesterséges intelligencia emberközpontú technológia legyen. A mesterséges intelligenciának eszközként kell szolgálnia az emberek számára, azzal a végső céllal, hogy növelje a jólétüket.
(6)
Având în vedere impactul major pe care IA îl poate avea asupra societății și necesitatea de a genera încredere, este esențial ca IA și cadrul său de reglementare să fie dezvoltate în concordanță cu valorile Uniunii consacrate la articolul 2 din Tratatul privind Uniunea Europeană (TUE) și cu drepturile și libertățile fundamentale consacrate în tratate și, potrivit articolului 6 din TUE, în cartă. Ca o condiție prealabilă, IA ar trebui să fie o tehnologie centrată pe factorul uman. Aceasta ar trebui să le servească oamenilor ca un instrument, cu scopul final de a le spori bunăstarea.
(7)
A közérdek következetes és magas szintű védelmének az egészség, a biztonság és az alapvető jogok tekintetében történő biztosítása érdekében közös szabályokat kell megállapítani valamennyi nagy kockázatú MI-rendszerre vonatkozóan. Az említett szabályoknak összhangban kell állniuk a Chartával, megkülönböztetéstől mentesnek kell lenniük, és meg kell felelniük az Unió nemzetközi kereskedelmi kötelezettségvállalásainak. Emellett figyelembe kell venniük a digitális évtizedben érvényre juttatandó digitális jogokról és elvekről szóló európai nyilatkozatot, valamint a mesterséges intelligenciával foglalkozó magas szintű szakértői csoport (a továbbiakban: magas szintű MI-szakértői csoport) megbízható mesterséges intelligenciára vonatkozó etikai iránymutatásait is.
(7)
Pentru a asigura un nivel consecvent și ridicat de protecție a intereselor publice în ceea ce privește sănătatea, siguranța și drepturile fundamentale, ar trebui să fie stabilite norme comune pentru sistemele de IA cu grad ridicat de risc. Normele respective ar trebui să fie în concordanță cu carta și ar trebui să fie nediscriminatorii și în conformitate cu angajamentele comerciale internaționale ale Uniunii. De asemenea, ele ar trebui să țină seama de Declarația europeană privind drepturile și principiile digitale pentru deceniul digital și de Orientările în materie de etică pentru o IA fiabilă ale Grupului independent de experți la nivel înalt privind inteligența artificială.
(8)
Ezért a mesterséges intelligencia belső piacon történő fejlesztésének, használatának és elterjedésének elősegítése érdekében szükség van a mesterséges intelligenciára vonatkozó harmonizált szabályokat meghatározó uniós jogi keretre, amely ugyanakkor garantálja az uniós jog által elismert és oltalmazott közérdek – például az egészség és a biztonság –, valamint az alapvető jogok – köztük a demokrácia, a jogállamiság és a környezetvédelem – magas szintű védelmét. E célkitűzés elérése érdekében szabályokat kell megállapítani bizonyos MI-rendszerek forgalomba hozatalára, üzembe helyezésére és használatára vonatkozóan, biztosítva ezáltal a belső piac zavartalan működését, és lehetővé téve, hogy e rendszerek élvezhessék az áruk és szolgáltatások szabad mozgásának elvéből származó előnyöket. Az említett szabályoknak egyértelműnek és robusztusnak kell lenniük az alapvető jogok védelmét illetően, segíteniük kell az új innovatív megoldásokat, támogatniuk kell az uniós értékekkel összhangban álló MI-rendszereket létrehozó köz- és magánszektorbeli szereplők európai ökoszisztémáját, valamint az Unió valamennyi régiójában ki kell bontakoztatniuk a digitális transzformációban rejlő potenciált. E szabályok megállapításával, valamint az innovációt támogató – a kis- és középvállalkozásokra (kkv-k) és köztük az induló innovatív vállalkozásokra kiemelt hangsúlyt helyező – intézkedések meghatározásával e rendelet egyfelől támogatja azt a célkitűzést, amelynek értelmében elő kell mozdítani a mesterséges intelligencia európai emberközpontú megközelítését, és amelynek értelmében – az Európai Tanács által megállapítottak szerint (5) – az EU-nak globális vezető szerepet kell betöltenie a biztonságos, megbízható és etikus MI fejlesztésében, másfelől pedig biztosítja az etikai elvek védelmét, amint azt az Európai Parlament kifejezetten kérte (6).
(8)
Prin urmare, este necesar un cadru juridic al Uniunii care să stabilească norme armonizate privind IA pentru a încuraja dezvoltarea, utilizarea și adoptarea pe piața internă a IA și care să asigure, în același timp, un nivel ridicat de protecție a intereselor publice, cum ar fi sănătatea și siguranța, și protecția drepturilor fundamentale, inclusiv a democrației, a statului de drept și a mediului, astfel cum sunt recunoscute și protejate de dreptul Uniunii. Pentru atingerea acestui obiectiv, ar trebui să fie stabilite norme care să reglementeze introducerea pe piață, punerea în funcțiune și utilizarea anumitor sisteme de IA, asigurând astfel buna funcționare a pieței interne și permițând sistemelor respective să beneficieze de principiul liberei circulații a bunurilor și a serviciilor. Normele respective ar trebui să fie clare și solide în ceea ce privește protejarea drepturilor fundamentale, sprijinind noile soluții inovatoare, permițând unui ecosistem european de actori publici și privați să creeze sisteme de IA în conformitate cu valorile Uniunii și deblocând potențialul transformării digitale în toate regiunile Uniunii. Prin stabilirea normelor respective, precum și a unor măsuri de susținere a inovării cu un accent special pe întreprinderile mici și mijlocii (IMM), inclusiv pe întreprinderile nou-înființate, prezentul regulament sprijină obiectivul de promovare a abordării europene centrate pe factorul uman față de IA și de poziționare ca lider mondial în dezvoltarea unei IA sigure, de încredere și etice, astfel cum a afirmat Consiliul European (5), și asigură protecția principiilor etice, astfel cum a solicitat în mod expres Parlamentul European (6).
(9)
A nagy kockázatú MI-rendszerek forgalomba hozatalára, üzembe helyezésére és használatára alkalmazandó harmonizált szabályokat a 765/2008/EK európai parlamenti és tanácsi rendelettel (7), a 768/2008/EK európai parlamenti és tanácsi határozattal (8), valamint az (EU) 2019/1020 európai parlamenti és tanácsi rendelettel (9) (a továbbiakban: az új jogszabályi keret) összhangban kell megállapítani. Az e rendeletben meghatározott harmonizált szabályokat ágazatokon átívelően kell alkalmazni, és azok – az új jogszabályi kerettel összhangban – nem érinthetik a meglévő uniós jogszabályokat, különösen az adatvédelemre, a fogyasztóvédelemre, az alapvető jogokra, a foglalkoztatásra és a munkavállalók védelmére, valamint a termékbiztonságra vonatkozó azon jogszabályokat, amelyeket e rendelet kiegészít. Következésképpen valamennyi jog és jogorvoslati lehetőség, amelyeket az ilyen uniós jog a fogyasztók és más olyan személyek számára biztosít, akikre az MI-rendszerek negatív hatást gyakorolhatnak, többek között az esetleges károknak a 85/374/EGK tanácsi irányelv (10) szerinti megtérítése tekintetében, változatlanok és teljes mértékben alkalmazandók maradnak. Továbbá, – a foglalkoztatással és a munkavállalók védelmével összefüggésben – e rendelet ezért nem érintheti a szociálpolitikára vonatkozó uniós jogot és az uniós jognak megfelelő, a foglalkoztatási és a munkafeltételekre vonatkozó nemzeti munkajogot, beleértve a munkahelyi egészségvédelmet és biztonságot, valamint a munkáltatók és munkavállalók közötti kapcsolatot. E rendelet nem érintheti a tagállamokban és uniós szinten elismert alapvető jogoknak – beleértve a sztrájkjognak vagy a sztrájk szabadságának, vagy a tagállamokban fennálló konkrét munkaügyi kapcsolatrendszerek keretébe tartozó egyéb fellépések megtétele jogának vagy szabadságának, valamint a kollektív megállapodásokkal kapcsolatos tárgyalásokhoz és e megállapodások megkötéséhez és érvényesítéséhez való jognak, illetve a kollektív fellépéshez való jognak – a nemzeti jog szerinti gyakorlását sem. E rendelet nem érintheti a platformalapú munkavégzés munkakörülményeinek javítását célzó, a platformalapú munkavégzés munkakörülményeinek javításáról szóló európai parlamenti és tanácsi irányelvben meghatározott rendelkezéseket. Ezen túlmenően e rendelet célja, hogy konkrét követelmények és kötelezettségek megállapításával megerősítse az ilyen meglévő jogok és jogorvoslati lehetőségek hatékonyságát, többek között az MI-rendszerek átláthatósága, műszaki dokumentációja és nyilvántartása tekintetében. Továbbá, az e rendelet alapján az MI-értékláncban részt vevő különböző gazdasági szereplőkre rótt kötelezettségeket, a bizonyos MI-rendszerek használatát korlátozó hatással járó, az uniós jognak megfelelő nemzeti jogszabályok sérelme nélkül kell alkalmazni, amennyiben az ilyen jogszabályok nem tartoznak e rendelet hatálya alá, vagy az e rendelet által elérni kívántaktól eltérő, legitim közérdekű célokat követnek. Például, e rendelet nem érintheti a nemzeti munkajogot és – figyelembe véve a gyermek jogairól szóló ENSZ-egyezménynek a gyermekek digitális környezetet érintő jogairól szóló, 25 (2021) sz. általános észrevételét – a kiskorúak (nevezetesen a 18 év alatti személyek) védelméről szóló jogszabályokat, amennyiben azok nem kifejezetten az MI-rendszerekre vonatkoznak, és más legitim közérdekű célokat követnek.
(9)
Normele armonizate aplicabile introducerii pe piață, punerii în funcțiune și utilizării sistemelor de IA cu grad ridicat de risc ar trebui să fie stabilite în conformitate cu Regulamentul (CE) nr. 765/2008 al Parlamentului European și al Consiliului (7), cu Decizia nr. 768/2008/CE a Parlamentului European și a Consiliului (8) și cu Regulamentul (UE) 2019/1020 al Parlamentului European și al Consiliului (9) (denumite în continuare „noul cadru legislativ”). Normele armonizate prevăzute în prezentul regulament ar trebui să se aplice în toate sectoarele și, în conformitate cu noul cadru legislativ, ar trebui să nu aducă atingere dreptului în vigoare al Uniunii, în special în ceea ce privește protecția datelor, protecția consumatorilor, drepturile fundamentale, ocuparea forței de muncă, protecția lucrătorilor și siguranța produselor, cu care prezentul regulament este complementar. În consecință, toate drepturile și căile de atac prevăzute de dreptul Uniunii pentru consumatori și alte persoane asupra cărora sistemele de IA ar putea avea un impact negativ, inclusiv în ceea ce privește despăgubirea pentru eventuale prejudicii prevăzută în Directiva 85/374/CEE a Consiliului (10), rămân neafectate și pe deplin aplicabile. În plus, în contextul ocupării forței de muncă și al protecției lucrătorilor, prezentul regulament ar trebui așadar să nu aducă atingere dreptului Uniunii privind politica socială și dreptului național al muncii, în conformitate cu dreptul Uniunii, în ceea ce privește condițiile de angajare și de muncă, inclusiv securitatea și sănătatea în muncă și relația dintre angajatori și lucrători. De asemenea, prezentul regulament ar trebui să nu aducă atingere exercitării drepturilor fundamentale, astfel cum sunt recunoscute în statele membre și la nivelul Uniunii, inclusiv dreptului sau libertății de a intra în grevă sau de a întreprinde alte acțiuni care țin de sistemele specifice de relații de muncă din statele membre, precum și dreptului de a negocia, de a încheia și de a pune în aplicare contracte colective de muncă sau de a desfășura acțiuni colective în conformitate cu dreptul intern. Prezentul regulament ar trebui să nu aducă atingere dispozițiilor care vizează îmbunătățirea condițiilor de muncă în ceea ce privește munca prin intermediul platformelor, prevăzute într-o Directivă a Parlamentului European și a Consiliului privind îmbunătățirea condițiilor de muncă pentru lucrul prin intermediul platformelor. În plus, prezentul regulament urmărește să consolideze eficacitatea acestor drepturi și căi de atac existente prin stabilirea unor cerințe și obligații specifice, inclusiv în ceea ce privește transparența, documentația tehnică și păstrarea evidențelor sistemelor de IA. De asemenea, obligațiile impuse diferiților operatori implicați în lanțul valoric al IA în temeiul prezentului regulament ar trebui să se aplice fără a aduce atingere dreptului intern, în conformitate cu dreptul Uniunii, având ca efect limitarea utilizării anumitor sisteme de IA în cazul în care dreptul respectiv nu intră în domeniul de aplicare al prezentului regulament sau urmărește alte obiective legitime de interes public decât cele urmărite de prezentul regulament. De exemplu, dreptul intern al muncii și dreptul intern privind protecția minorilor, și anume a persoanelor cu vârsta sub 18 ani, ținând seama de Comentariul general nr. 25 (2021) la Convenția UNCRC cu privire la drepturile copiilor în legătură cu mediul digital, în măsura în care nu sunt specifice sistemelor de IA și urmăresc alte obiective legitime de interes public, ar trebui să nu fie afectate de prezentul regulament.
(10)
A személyes adatok védelméhez való alapvető jog védelmét különösen az (EU) 2016/679 (11) és az (EU) 2018/1725 (12) európai parlamenti és tanácsi rendelet, valamint az (EU) 2016/680 európai parlamenti és tanácsi irányelv (13) biztosítja. Ezenfelül a 2002/58/EK európai parlamenti és tanácsi irányelv (14) védi a magánéletet és a közlések titkosságát, többek között a személyes és nem személyes adatok végberendezéseken való tárolására és az adatokhoz onnan történő hozzáférésre vonatkozó feltételek meghatározása révén. Az említett uniós jogi aktusok biztosítják a fenntartható és felelős adatkezelés alapját, ideértve azt az esetet is, amikor az adatállományok vegyesen tartalmaznak személyes és nem személyes adatokat. E rendeletnek nem célja, hogy befolyásolja a személyes adatok kezelésére vonatkozó meglévő uniós jogszabályok alkalmazását, az említett jogi eszközöknek való megfelelés ellenőrzéséért felelős független felügyeleti hatóságok feladatait és hatáskörét is beleértve. E rendelet nem érinti továbbá az MI-rendszerek szolgáltatóinak és alkalmazóinak – adatkezelői vagy adatfeldolgozói szerepkörükben fennálló – a személyes adatok védelmére vonatkozó uniós vagy nemzeti jogból fakadó kötelezettségeit, amennyiben az MI-rendszerek tervezése, fejlesztése vagy használata személyes adatok kezelésével jár. Helyénvaló továbbá egyértelművé tenni, hogy az érintetteket továbbra is megilleti az említett uniós jog által számukra biztosított valamennyi jog és garancia, beleértve az egyedi ügyekben történő, kizárólagosan automatizált döntéshozatalhoz, többek között a profilalkotáshoz kapcsolódó jogokat is. Az MI-rendszerek forgalomba hozatalára, üzembe helyezésére és használatára vonatkozó, e rendelettel megállapított harmonizált szabályoknak meg kell könnyíteniük, hogy az érintetteket a személyes adatok és egyéb alapvető jogok védelmére vonatkozó uniós jog értelmében megillető jogok és egyéb jogorvoslatok ténylegesen érvényesüljenek, illetve lehetővé kell tenniük az említett jogok és egyéb jogorvoslatok érintettek általi gyakorlását.
(10)
Dreptul fundamental la protecția datelor cu caracter personal este protejat în special de Regulamentele (UE) 2016/679 (11) și (UE) 2018/1725 (12) ale Parlamentului European și ale Consiliului și de Directiva (UE) 2016/680 a Parlamentului European și a Consiliului (13). Directiva 2002/58/CE a Parlamentului European și a Consiliului (14) protejează, în plus, viața privată și confidențialitatea comunicațiilor, inclusiv prin faptul că prevede condiții pentru stocarea și accesarea pe echipamente terminale a oricăror date cu și fără caracter personal. Respectivele acte legislative ale Uniunii asigură temeiul prelucrării durabile și responsabile a datelor, inclusiv atunci când seturile de date conțin un amestec de date cu caracter personal și date fără caracter personal. Prezentul regulament nu urmărește să aducă atingere aplicării dreptului în vigoare al Uniunii care reglementează prelucrarea datelor cu caracter personal, nici sarcinilor și competențelor autorităților de supraveghere independente care sunt competente să monitorizeze respectarea instrumentelor respective. Prezentul regulament nu aduce atingere nici obligațiilor furnizorilor și implementatorilor de sisteme de IA în rolul lor de operatori de date sau de persoane împuternicite de operatori, care decurg din dreptul Uniunii sau din dreptul național privind protecția datelor cu caracter personal, în măsura în care proiectarea, dezvoltarea sau utilizarea sistemelor de IA implică prelucrarea de date cu caracter personal. De asemenea, este oportun să se clarifice că persoanele vizate continuă să beneficieze de toate drepturile și garanțiile care le sunt acordate de dreptul Uniunii, printre care se numără drepturile legate de procesul decizional individual complet automatizat, inclusiv crearea de profiluri. Normele armonizate pentru introducerea pe piață, punerea în funcțiune și utilizarea sistemelor de IA instituite în temeiul prezentului regulament ar trebui să faciliteze punerea în aplicare efectivă și să permită exercitarea drepturilor persoanelor vizate și a altor căi de atac garantate în temeiul dreptului Uniunii privind protecția datelor cu caracter personal și a altor drepturi fundamentale.
(11)
E rendelet nem sértheti a közvetítő szolgáltatók felelősségére vonatkozó, az (EU) 2022/2065 európai parlamenti és tanácsi rendeletben (15) meghatározott rendelkezéseket.
(11)
Prezentul regulament ar trebui să nu aducă atingere dispozițiilor privind răspunderea furnizorilor de servicii intermediare prevăzute în Regulamentul (UE) 2022/2065 al Parlamentului European și al Consiliului (15).
(12)
Az „MI-rendszer” e rendeletben szereplő fogalmát egyértelműen kell meghatározni, és azt szorosan össze kell hangolni a mesterséges intelligenciával foglalkozó nemzetközi szervezetek munkájával a jogbiztonság szavatolása, valamint a nemzetközi konvergencia és a széles körű elfogadottság előmozdítása érdekében, mindeközben pedig rugalmasságot biztosítva az e téren végbemenő gyors technológiai fejlődéshez való alkalmazkodáshoz. Ezen túlmenően a fogalommeghatározásnak az MI-rendszerek azon alapvető jellemzőin kell alapulnia, amelyek megkülönböztetik azon egyszerűbb hagyományos szoftverrendszerektől vagy programozási megközelítésektől, és az nem terjedhet ki olyan rendszerekre, amelyek kizárólag természetes személyek által műveletek automatikus végrehajtása céljából meghatározott szabályokon alapulnak. Az MI-rendszerek alapvető jellemzői közé tartozik a következtetés képessége. A következtetés képessége egyfelől az olyan kimenetek – például előrejelzések, tartalom, ajánlások vagy döntések – előállításának folyamatára utal, amelyek befolyásolni tudnak fizikai és virtuális környezeteket, másfelől pedig az MI-rendszerek azon képességére, hogy bemenetekből vagy adatokból modelleket vagy algoritmusokat – vagy mindkettőt – tudnak levezetni. A következtetést az MI-rendszer egyidejű építésével együtt lehetővé tévő technikák közé tartoznak a gépi tanulási megközelítések, amelyek adatokból tanulják meg, hogy miként lehet elérni bizonyos célkitűzéseket, valamint a logikai és tudásalapú megközelítések, amelyek kódolt ismeretek vagy a megoldandó feladat szimbolikus ábrázolása alapján következtetnek. Valamely MI-rendszer következtetési kapacitása meghaladja az alapvető adatkezelés körét azáltal, hogy lehetővé teszi a tanulást, az érvelést vagy a modellezést. A „gépalapú” kifejezés arra a tényre utal, hogy az MI-rendszerek gépeken futnak. Az explicit vagy implicit célkitűzésekre való hivatkozás kiemeli, hogy az MI-rendszerek explicit módon meghatározott célkitűzések vagy implicit célkitűzések szerint működhetnek. Az MI-rendszer célkitűzései eltérhetnek az MI-rendszer adott konkrét kontextuson belüli rendeltetésétől. E rendelet alkalmazásában a környezetek alatt azok a környezetek értendők, amelyekben az MI-rendszerek működnek, míg az MI-rendszer által generált kimenetek az MI-rendszerek által ellátott különböző funkciókat tükrözik, és előrejelzéseket, tartalmat, ajánlásokat vagy döntéseket foglalnak magukban. Az MI-rendszereket úgy alakították ki, hogy eltérő szintű autonómiával működjenek, ami azt jelenti, hogy tevékenységeiket illetően bizonyos mértékben függetlenek az emberi közreműködéstől és bizonyos mértékben képesek emberi beavatkozás nélkül működni. Az MI-rendszerek a bevezetésüket követően alkalmazkodóképességet tanúsíthatnak, amely a rendszer használat közbeni változását lehetővé tévő öntanulási képességekre utal. Az MI-rendszerek önállóan vagy termék alkotóelemeként használhatók, függetlenül attól, hogy a rendszert fizikailag integrálták-e a termékbe (beágyazott rendszer), vagy hogy anélkül szolgálja-e a termék funkcionalitását, hogy abba beépítenék (nem beágyazott rendszer).
(12)
Noțiunea de „sistem de IA” din prezentul regulament ar trebui să fie definită în mod clar și ar trebui să fie aliniată îndeaproape la lucrările organizațiilor internaționale care își desfășoară activitatea în domeniul IA, pentru a asigura securitatea juridică și a facilita convergența internațională și acceptarea pe scară largă, oferind în același timp flexibilitatea necesară pentru a ține seama de evoluțiile tehnologice rapide din acest domeniu. În plus, definiția ar trebui să se bazeze pe caracteristicile esențiale ale sistemelor de IA, care le diferențiază de sistemele software sau abordările de programare tradiționale mai simple, și nu ar trebui să acopere sistemele care se bazează pe reguli definite exclusiv de persoane fizice pentru a executa în mod automat anumite operațiuni. O caracteristică esențială a sistemelor de IA este capabilitatea lor de a realiza deducții. Această capabilitate se referă la procesul de obținere a rezultatelor, cum ar fi previziuni, conținut, recomandări sau decizii, care pot influența mediile fizice și virtuale, precum și la capabilitatea sistemelor de IA de a deriva modele sau algoritmi, sau ambele, din date sau din datele de intrare. Printre tehnicile folosite în timpul conceperii unui sistem de IA care fac posibilă realizarea de deducții se numără abordările bazate pe învățarea automată, care presupun a învăța, pe baza datelor, cum pot fi atinse anumite obiective, și abordările bazate pe logică și pe cunoaștere, care presupun realizarea de deducții pornind de la cunoștințe codificate sau de la reprezentarea simbolică a sarcinii de rezolvat. Capacitatea unui sistem de IA de a realiza deducții depășește simpla prelucrare de date, făcând posibile învățarea, raționamentul sau modelarea. Termenul „bazat pe calculator” se referă la faptul că sistemele de IA rulează pe calculatoare. Trimiterea la obiective explicite sau implicite subliniază faptul că sistemele de IA pot funcționa în conformitate cu obiective definite explicite sau cu obiective implicite. Obiectivele sistemului de IA pot fi diferite de scopul preconizat al sistemului de IA într-un context specific. În sensul prezentului regulament, mediile ar trebui să fie înțelese ca fiind contextele în care funcționează sistemele de IA, în timp ce rezultatele generate de sistemele de IA reflectă diferitele funcții îndeplinite de acestea și includ previziuni, conținut, recomandări sau decizii. Sistemele de IA sunt concepute pentru a funcționa cu diferite niveluri de autonomie, ceea ce înseamnă că au un anumit grad de independență a acțiunilor față de implicarea umană și anumite capabilități de a funcționa fără intervenție umană. Adaptabilitatea de care un sistem de IA ar putea da dovadă după implementare se referă la capabilitățile de autoînvățare, care permit sistemului să se modifice în timpul utilizării. Sistemele de IA pot fi utilizate în mod independent sau ca o componentă a unui produs, indiferent dacă sistemul este integrat fizic în produs (încorporat) sau dacă servește funcționalității produsului fără a fi integrat în acesta (neîncorporat).
(13)
Az „alkalmazó” e rendeletben szereplő fogalmát úgy kell értelmezni, hogy az bármely olyan természetes vagy jogi személyt – többek között hatóságot, ügynökséget vagy egyéb szervet – jelöl, aki, illetve amely a felügyelete alá tartozó MI-rendszert használja, kivéve, ha az MI-rendszer használata személyes, nem szakmai jellegű tevékenység keretében történik. Az MI-rendszer típusától függően a rendszer használata az alkalmazótól eltérő személyeket is érinthet.
(13)
Noțiunea de „implementator” menționată în prezentul regulament ar trebui să fie interpretată ca făcând referire la orice persoană fizică sau juridică, inclusiv la o autoritate publică, o agenție sau un alt organism, care utilizează un sistem de IA aflat sub autoritatea sa, cu excepția cazului în care sistemul de IA este utilizat în cursul unei activități personale, fără caracter profesional. În funcție de tipul de sistem de IA, utilizarea sistemului poate afecta alte persoane decât implementatorul.
(14)
A „biometrikus adatok” e rendeletben használt fogalmát a biometrikus adatoknak az (EU) 2016/679 európai parlamenti és tanácsi rendelet 4. cikkének 14. pontjában, az (EU) 2018/1725 európai parlamenti és tanácsi rendelet 3. cikkének 18. pontjában és az (EU) 2016/680 európai parlamenti és tanácsi irányelv 3. cikkének 13. pontjában meghatározott fogalma tükrében kell értelmezni. A biometrikus adatok lehetővé tehetik természetes személyek hitelesítését, azonosítását vagy kategorizálását, valamint természetes személyek érzelmeinek felismerését.
(14)
Noțiunea de „date biometrice” utilizată în prezentul regulament ar trebui să fie interpretată în concordanță cu noțiunea de „date biometrice”, astfel cum este definită la articolul 4 punctul 14 din Regulamentul (UE) 2016/679, la articolul 3 punctul 18 din Regulamentul (UE) 2018/1725 și la articolul 3 punctul 13 din Directiva (UE) 2016/680. Datele biometrice pot permite autentificarea, identificarea sau clasificarea persoanelor fizice, precum și recunoașterea emoțiilor acestora.
(15)
A „biometrikus azonosítás” e rendeletben szereplő fogalmát a következőképpen kell meghatározni: testi, fiziológiai és viselkedési emberi jellemzők – például az arc, a szemmozgás, a testalkat, a hang, a prozódia, a járás, a testtartás, a szívverés, a vérnyomás, a testszag és a billentyűleütések jellegzetességei – automatikus felismerése valamely egyén személyazonosságának megállapítása céljából az említett egyén biometrikus adatainak egyének referencia-adatbázisokban tárolt biometrikus adataival való összevetése révén, függetlenül attól, hogy az egyén hozzájárulását adta-e ehhez vagy sem. Ez kizárja az olyan biometrikus ellenőrzésre szánt MI-rendszereket, amely ellenőrzés magában foglalja a hitelesítést is abból a kizárólagos célból, hogy megerősítse, egy konkrét természetes személy valóban az a személy, akinek állítja magát, és kizárólag abból a célból erősíti meg egy természetes személy személyazonosságát, hogy az hozzáférhessen egy szolgáltatáshoz, feloldhassa egy eszköz zárolását vagy biztonsági hozzáférést kapjon helyiségekhez.
(15)
Noțiunea de „identificare biometrică” menționată în prezentul regulament ar trebui să fie definită drept recunoașterea automată a unor trăsături umane fizice, fiziologice și comportamentale, precum fața, mișcările ochilor, forma corpului, vocea, intonația, mersul, postura, frecvența cardiacă, tensiunea arterială, mirosul, particularitățile de tastare, în scopul de a stabili identitatea unei persoane comparând datele biometrice ale persoanei respective cu date biometrice ale unor persoane stocate într-o bază de date de referință, indiferent dacă persoana în cauză și-a dat sau nu consimțământul. Nu se încadrează aici sistemele de IA destinate a fi utilizate pentru verificarea biometrică, care include autentificarea, al căror unic scop este de a confirma că o anumită persoană fizică este persoana care susține că este și de a confirma identitatea unei persoane fizice cu unicul scop de a-i permite accesul la un serviciu, deblocarea unui dispozitiv sau accesul securizat într-o incintă.
(16)
A „biometrikus kategorizálás” e rendeletben szereplő fogalmát a következőképpen kell meghatározni: természetes személyek meghatározott kategóriákba sorolása biometrikus adataik alapján. E meghatározott kategóriák olyan szempontokhoz kapcsolódhatnak, mint például a nem, életkor, hajszín, szemszín, tetoválások, viselkedés- vagy személyiségjegyek, nyelv, vallás, nemzeti kisebbséghez tartozás, szexuális vagy politikai irányultság. Ez a fogalommeghatározás nem foglalja magában az olyan biometrikus kategorizálási rendszereket, amelyek egy másik kereskedelmi szolgáltatáshoz szervesen kapcsolódó, kizárólag kiegészítő jellegű elemnek minősülnek, ami azt jelenti, hogy az elem – objektív technikai okokból – nem használható a fő szolgáltatás nélkül, és az említett elem vagy funkcionalitás integrációja nem az e rendelet szabályai alkalmazhatóságának elkerülésére szolgáló eszköz. Például az online piactereken használt, arc- vagy testjellemzőket kategorizáló szűrők ilyen kiegészítő jellegű elemnek minősülhetnek, mivel csak a fő szolgáltatással összefüggésben használhatók, mely fő szolgáltatás adott termék olyan értékesítéséből áll, amely lehetővé teszi a fogyasztó számára, hogy előzetesen megjeleníthesse magán a terméket, ezáltal segítve őt a vásárlási döntés meghozatalában. Az online közösségi hálózati szolgáltatások keretében használt szűrők, amelyek arc- vagy testjellemzőket kategorizálnak annak érdekében, hogy a felhasználók képeket vagy videókat tölthessenek fel vagy módosíthassanak, szintén kiegészítő jellegű elemnek minősülhetnek, mivel az ilyen szűrők nem használhatók a közösségi hálózati szolgáltatások által biztosított fő szolgáltatás nélkül, amely a tartalmak online megosztása.
(16)
Noțiunea de „clasificare biometrică” menționată în prezentul regulament ar trebui să fie definită drept încadrarea persoanelor fizice în categorii specifice pe baza datelor lor biometrice. Astfel de categorii specifice se pot referi la aspecte precum sexul, vârsta, culoarea părului, culoarea ochilor, tatuajele, trăsăturile comportamentale sau de personalitate, limba, religia, apartenența la o minoritate națională, orientarea sexuală sau politică. Nu se încadrează aici sistemele de clasificare biometrică care constituie un element pur auxiliar legat intrinsec de un alt serviciu comercial, ceea ce înseamnă că, din motive tehnice obiective, elementul respectiv nu poate fi utilizat fără serviciul principal, iar integrarea acelui element sau a acelei funcționalități nu este un mijloc de a eluda aplicabilitatea normelor prezentului regulament. De exemplu, filtrele care clasifică caracteristicile faciale sau corporale utilizate pe piețele online ar putea constitui un astfel de element auxiliar, deoarece pot fi utilizate numai în legătură cu serviciul principal care constă în vânzarea unui produs, permițând consumatorului să vizualizeze cum ar arăta produsul pe el însuși și ajutându-l să ia o decizie de cumpărare. Filtrele utilizate în cadrul serviciilor de rețele de socializare care clasifică caracteristicile faciale sau corporale pentru a permite utilizatorilor să adauge sau să modifice fotografii sau materiale video ar putea, de asemenea, să fie considerate elemente auxiliare, deoarece un astfel de filtru nu poate fi utilizat fără serviciul principal de rețea de socializare care constă în partajarea de conținut online.
(17)
A „távoli biometrikus azonosító rendszer” e rendeletben említett fogalmát funkcionális értelemben kell meghatározni, olyan MI-rendszerként, amelynek célja természetes személyek – aktív részvételük nélküli, jellemzően távolról történő – azonosítása valamely személy biometrikus adatainak egy referencia-adatbázisban található biometrikus adatokkal való összevetése révén, függetlenül az alkalmazott konkrét technológiától, folyamatoktól vagy biometrikusadat-típusoktól. Az ilyen távoli biometrikus azonosító rendszereket jellemzően több személy vagy viselkedésük egyidejű észlelésére használják annak érdekében, hogy jelentős mértékben megkönnyítsék a természetes személyek aktív közreműködésük nélkül történő azonosítását. Ez kizárja az olyan biometrikus ellenőrzésre szánt MI-rendszereket, amely ellenőrzés magában foglalja a hitelesítést is abból a kizárólagos célból, hogy megerősítse, egy konkrét természetes személy valóban az a személy, akinek állítja magát, és kizárólag abból a célból erősíti meg egy természetes személy személyazonosságát, hogy az hozzáférhessen egy szolgáltatáshoz, feloldhassa egy eszköz zárolását vagy biztonsági hozzáférést kapjon helyiségekhez. Az említett kizárást azon tény indokolja, hogy az ilyen rendszerek a nagy számú személy biometrikus adatainak – az aktív közreműködésük nélkül történő – kezelésére használható távoli biometrikus azonosító rendszerekhez képest valószínűleg csekély hatást gyakorolnak a természetes személyek alapvető jogaira. A „valós idejű” rendszerek esetében a biometrikus adatok rögzítése, az összehasonlítás és az azonosítás azonnal, majdnem azonnal, vagy mindenesetre jelentős késleltetés nélkül történik. E tekintetben nem nyílhat mozgástér az érintett MI-rendszerek „valós idejű” használatára vonatkozóan e rendeletben foglalt szabályok megkerülésére azáltal, hogy kisebb késleltetéseket alkalmaznak. A „valós idejű” rendszerek olyan „élő” vagy „megközelítőleg élő” anyagot – így például videofelvételt – használnak, amelyet kamera vagy hasonló funkciójú más eszköz készített. Az „utólagos” rendszerek esetében ezzel szemben a biometrikus adatokat már rögzítették, és az összevetésre és az azonosításra csak jelentős késleltetéssel kerül sor. Olyan anyagokról van szó, mint például a zártláncú televíziós kamerák vagy magánkészülékek által készített képek vagy videofelvételek, amelyek a rendszer érintett természetes személyek tekintetében történő használata előtt keletkeztek.
(17)
Noțiunea de „sistem de identificare biometrică la distanță” menționată în prezentul regulament ar trebui să fie definită din punct de vedere funcțional ca fiind un sistem de IA destinat identificării persoanelor fizice fără implicarea activă a acestora, de regulă de la distanță, prin compararea datelor biometrice ale unei persoane cu datele biometrice conținute într-o bază de date de referință, indiferent de tehnologia specifică, procesele specifice sau tipurile specifice de date biometrice utilizate. Astfel de sisteme de identificare biometrică la distanță sunt utilizate, de regulă, pentru a percepe mai multe persoane sau comportamentul acestora simultan, cu scopul de a facilita în mod semnificativ identificarea persoanelor fizice fără implicarea lor activă. Nu se încadrează aici sistemele de IA destinate a fi utilizate pentru verificarea biometrică, care include autentificarea, al căror unic scop este de a confirma că o anumită persoană fizică este persoana care susține că este și de a confirma identitatea unei persoane fizice cu unicul scop de a-i permite accesul la un serviciu, deblocarea unui dispozitiv sau accesul securizat într-o incintă. Această excludere este justificată de faptul că, cel mai probabil, astfel de sisteme au un impact minor asupra drepturilor fundamentale ale persoanelor fizice în comparație cu sistemele de identificare biometrică la distanță care pot fi utilizate pentru prelucrarea datelor biometrice ale unui număr mare de persoane fără implicarea lor activă. În cazul sistemelor „în timp real”, captarea datelor biometrice, compararea și identificarea se efectuează instantaneu, aproape instantaneu sau, în orice caz, fără întârzieri semnificative. În acest sens, nu ar trebui să existe posibilități de eludare a normelor prezentului regulament privind utilizarea „în timp real” a sistemelor de IA în cauză prin prevederea unor întârzieri minore. Sistemele „în timp real” implică utilizarea de materiale „în direct” sau „aproape în direct”, cum ar fi înregistrări video generate de o cameră video sau de un alt dispozitiv cu funcționalitate similară. În schimb, în cazul sistemelor de identificare „ulterioară”, datele biometrice au fost deja captate, iar compararea și identificarea au loc numai după o întârziere semnificativă. În acest caz sunt utilizate materiale, cum ar fi imagini sau înregistrări video generate de camere de televiziune cu circuit închis sau de dispozitive private, care au fost generate înainte de utilizarea sistemului în legătură cu persoanele fizice în cauză.
(18)
Az „érzelemfelismerő rendszer” e rendeletben szereplő fogalmát olyan MI-rendszerként kell meghatározni, amely arra szolgál, hogy biometrikus adataik alapján azonosítsa vagy kikövetkeztesse természetes személyek érzelmeit vagy szándékait. A fogalom érzelemre vagy szándékra utal, mint például a következőkre: boldogság, szomorúság, düh, meglepettség, undor, zavar, izgatottság, szégyen, megvetés, elégedettség és derű. Nem foglalja magában a fizikai állapotokat, így például a fájdalmat vagy a kimerültséget, ideértve például az olyan rendszereket, amelyeket hivatásos pilóták vagy járművezetők kimerültségi állapotának detektálására használnak balesetek megelőzése céljából. Ez nem foglalja magában az egyértelműen nyilvánvaló kifejezések, gesztusok vagy mozdulatok puszta detektálását sem, kivéve, ha azokat érzelmek azonosítására vagy kikövetkeztetésére használják. Az említett kifejezések lehetnek alapvető arckifejezések, így például rosszalló tekintet vagy mosoly, vagy gesztusok, így például a kezek, a karok vagy a fej mozgatása, vagy egy személy hangjának jellemzői is, így például a felemelt hang vagy a suttogás.
(18)
Noțiunea de „sistem de recunoaștere a emoțiilor” menționată în prezentul regulament ar trebui să fie definită ca un sistem de IA destinat identificării sau deducerii emoțiilor sau intențiilor persoanelor fizice pe baza datelor lor biometrice. Noțiunea se referă la emoții sau intenții precum fericirea, tristețea, furia, surpriza, dezgustul, stânjeneala, entuziasmul, rușinea, disprețul, satisfacția și amuzamentul. Nu sunt incluse stări fizice, cum ar fi durerea sau oboseala, inclusiv, de exemplu, sistemele utilizate pentru detectarea stării de oboseală a piloților sau conducătorilor auto profesioniști în scopul prevenirii accidentelor. De asemenea, nu este inclusă simpla detectare a expresiilor, gesturilor sau mișcărilor evidente, decât dacă sunt utilizate pentru identificarea sau deducerea emoțiilor. Expresiile respective pot fi expresii faciale de bază, cum ar fi o încruntătură sau un zâmbet, ori gesturi, cum ar fi mișcarea mâinilor, a brațelor sau a capului, ori caracteristici ale vocii unei persoane, cum ar fi o voce ridicată sau vorbitul în șoaptă.
(19)
E rendelet alkalmazásában a „nyilvánosság számára hozzáférhető hely” fogalma alatt bármely olyan fizikai hely értendő, amely meghatározatlan számú természetes személy számára hozzáférhető, függetlenül attól, hogy a szóban forgó hely magán- vagy köztulajdonban van-e, és függetlenül attól a tevékenységtől, amelyre a hely használható, mint például kereskedelemre, például üzletek, éttermek, kávézók, szolgáltatásokra, például bankok, szakmai tevékenységek, vendéglátás, sportra például uszodák, edzőtermek, stadionok, közlekedésre, például busz-, metró- és vasútállomások, repülőterek, közlekedési eszközök, szórakoztatásra például mozik, színházak, múzeumok, koncert- és konferenciatermek, illetve szabadidőre vagy egyébre, például közutak és terek, parkok, erdők, játszóterek. Helyénvaló, hogy egy hely akkor is a nyilvánosság számára hozzáférhetőnek minősüljön, ha az esetleges kapacitási vagy biztonsági korlátozásoktól függetlenül a belépésre bizonyos előre meghatározott olyan feltételek vonatkoznak, amelyeket meghatározatlan számú személy teljesíthet, mint például jegy vagy vonaljegy megvásárlása, előzetes regisztráció vagy bizonyos életkori korlátozás. Ezzel szemben egy hely nem tekinthető a nyilvánosság számára hozzáférhetőnek, ha a hozzáférés a közbiztonsághoz vagy -védelemhez közvetlenül kapcsolódó uniós vagy nemzeti jog alapján vagy az adott helyen hatáskörrel rendelkező személy akaratának egyértelmű kinyilvánítása révén konkrét és meghatározott természetes személyekre korlátozódik. Önmagában a hozzáférés tényleges lehetősége, így például egy záratlan ajtó vagy egy kerítésben lévő nyitott kapu nem jelenti azt, hogy a hely a nyilvánosság számára hozzáférhető az ennek ellenkezőjére utaló jelölések vagy a körülmények, így például belépést tiltó vagy korlátozó táblák megléte esetén. A vállalati és gyárhelyiségek, valamint azok az irodák és munkahelyek, ahová csak az érintett munkavállalók és szolgáltatók léphetnek be, a nyilvánosság számára nem hozzáférhető helyek. Helyénvaló, hogy a börtönök és a határellenőrzési területek ne tartozzanak a nyilvánosság számára hozzáférhető helyek közé. Néhány más terület mind a nyilvánosság számára nem hozzáférhető területeket, mind a nyilvánosság számára hozzáférhető területeket is jelenthet, mint például egy magántulajdonú lakóház folyosója, amelyen keresztül egy orvosi rendelőt lehet megközelíteni, vagy egy repülőtér. Az online terek nem tartoznak ide, mivel nem fizikai helyek. Azt, hogy egy adott hely hozzáférhető-e a nyilvánosság számára, mindazonáltal eseti alapon kell meghatározni, figyelembe véve a szóban forgó egyedi helyzet sajátosságait.
(19)
În sensul prezentului regulament, noțiunea de „spațiu accesibil publicului” ar trebui să fie înțeleasă ca referindu-se la orice spațiu fizic accesibil unui număr nedeterminat de persoane fizice, indiferent dacă spațiul în cauză este proprietate privată sau publică și indiferent de activitatea pentru care poate fi utilizat spațiul, cum ar fi comerț, de exemplu, magazine, restaurante, cafenele; servicii, de exemplu, bănci, activități profesionale, structuri de primire turistică; sport, de exemplu, piscine, săli de sport, stadioane; transporturi, de exemplu, stații de autobuz și de metrou, gări, aeroporturi, mijloace de transport; divertisment, de exemplu, cinematografe, teatre, muzee, săli de concerte și de conferințe, agrement sau altele, de exemplu, drumuri și piețe publice, parcuri, păduri, terenuri de joacă. Totodată, un spațiu ar trebui să fie clasificat ca fiind accesibil publicului și în cazul în care, indiferent de capacitatea potențială sau de restricțiile de securitate, accesul este supus anumitor condiții prestabilite, care pot fi îndeplinite de un număr nedeterminat de persoane, cum ar fi achiziționarea unui bilet sau a unui titlu de transport, înregistrarea prealabilă sau condiția de a avea o anumită vârstă. În schimb, un spațiu nu ar trebui să fie considerat accesibil publicului dacă accesul este limitat la anumite persoane fizice definite ca atare fie prin dreptul Uniunii, fie prin cel intern, în legătură directă cu siguranța sau securitatea publică sau prin manifestarea clară de voință a persoanei care deține autoritatea necesară asupra spațiului. Simpla posibilitate de acces (cum ar fi o ușă descuiată sau o poartă deschisă într-un gard) nu implică faptul că spațiul este accesibil publicului în prezența unor indicații sau circumstanțe care sugerează contrariul (de exemplu, semne care interzic sau restricționează accesul). Sediile întreprinderilor și ale fabricilor, precum și birourile și locurile de muncă care sunt destinate a fi accesate numai de către angajații și prestatorii de servicii competenți sunt spații care nu sunt accesibile publicului. Spațiile accesibile publicului nu ar trebui să includă închisorile sau punctele de control la frontieră. Alte spații pot cuprinde atât spații accesibile publicului, cât și spații care nu sunt accesibile publicului, cum ar fi holul unei clădiri rezidențiale private, care trebuie parcurs pentru a avea acces la un cabinet medical, sau un aeroport. Spațiile online nu sunt nici ele vizate, deoarece nu sunt spații fizice. Cu toate acestea, ar trebui să se stabilească de la caz la caz dacă un anumit spațiu este accesibil publicului, având în vedere particularitățile situației individuale în cauză.
(20)
Az MI-rendszerek lehető legnagyobb mértékű – és az alapvető jogok, az egészség és a biztonság védelme mellett megvalósuló – kiaknázása, valamint az MI-rendszerek feletti demokratikus ellenőrzés lehetővé tétele érdekében, az MI-jártasság részeként biztosítani kell a szolgáltatók, az alkalmazók és az érintett személyek számára az ahhoz szükséges ismereteket, hogy megalapozott döntéseket tudjanak hozni az MI-rendszerekkel kapcsolatban. Az említett ismeretek az adott kontextustól függően változhatnak, és magukban foglalhatják például a technikai elemek MI-rendszer fejlesztési szakasza alatti helyes alkalmazásának a megértését, az MI-rendszer használata során alkalmazandó intézkedéseket, az MI-rendszer kimenetének megfelelő értelmezési módjait, valamint – az érintett személyek esetében – az annak megértéséhez szükséges ismereteket, hogy az MI segítségével hozott döntések hogyan lesznek hatással rájuk. E rendelet alkalmazásával összefüggésben az MI-jártasságnak szavatolnia kell, hogy az MI-értékláncon belüli valamennyi releváns szereplő rendelkezzen e rendelet megfelelő betartásának és helyes érvényesítésének biztosításhoz szükséges tudással. Továbbá, az MI-jártassághoz kapcsolódó intézkedések széles körű végrehajtása és a megfelelő nyomonkövetési intézkedések bevezetése hozzájárulhatna a munkafeltételek javításához, és végső soron fenntarthatná a megbízható MI konszolidációját és innovációs pályáját az Unióban. A Mesterséges Intelligenciával Foglalkozó Európai Testületnek (a továbbiakban: a Testület) támogatnia kell a Bizottságot az MI-jártassághoz kapcsolódó eszközök népszerűsítésében, valamint az MI-rendszerek használatával kapcsolatos, a nyilvánosságot célzó figyelemfelkeltő tevékenységeknek és az MI-rendszerek használatával kapcsolatos előnyök, kockázatok, biztosítékok, jogok és kötelezettségek megértésének az előmozdításában. A Bizottságnak és a tagállamoknak – az érintett érdekelt felekkel együttműködésben – elő kell segíteniük olyan önkéntes magatartási kódexek kidolgozását, amelyek célja az MI-jártasság előmozdítása a mesterséges intelligencia fejlesztésével, működtetésével és használatával foglalkozó személyek körében.
(20)
Pentru a obține beneficii cât mai mari de pe urma sistemelor de IA, protejând în același timp drepturile fundamentale, sănătatea și siguranța, și pentru a permite controlul democratic, alfabetizarea în domeniul IA ar trebui să le ofere furnizorilor, implementatorilor și persoanelor afectate noțiunile necesare pentru a lua decizii în cunoștință de cauză cu privire la sistemele de IA. Aceste noțiuni pot varia în funcție de contextul relevant și pot include înțelegerea aplicării corecte a elementelor tehnice în faza de dezvoltare a sistemului de IA, măsurile care trebuie aplicate în timpul utilizării sale, modalitățile adecvate de interpretare a rezultatelor sistemului de IA și, în cazul persoanelor afectate, cunoștințele necesare pentru a înțelege impactul pe care îl vor avea asupra lor deciziile luate cu ajutorul IA. În contextul aplicării prezentului regulament, alfabetizarea în domeniul IA ar trebui să ofere tuturor actorilor relevanți din lanțul valoric al IA informațiile necesare pentru a asigura conformitatea adecvată și aplicarea corectă a regulamentului. În plus, punerea în aplicare pe scară largă a măsurilor de alfabetizare în domeniul IA și introducerea unor acțiuni subsecvente adecvate ar putea contribui la îmbunătățirea condițiilor de muncă și, în cele din urmă, ar putea susține consolidarea unei IA de încredere și inovarea în acest domeniu în Uniune. Consiliul european pentru inteligența artificială (denumit în continuare „Consiliul IA”) ar trebui să sprijine Comisia pentru a promova instrumente de alfabetizare în domeniul IA, sensibilizarea publicului și înțelegerea beneficiilor, a riscurilor, a garanțiilor, a drepturilor și a obligațiilor care decurg din utilizarea sistemelor de IA. În cooperare cu părțile interesate relevante, Comisia și statele membre ar trebui să faciliteze elaborarea unor coduri de conduită voluntare pentru a promova alfabetizarea în domeniul IA în rândul persoanelor care se ocupă de dezvoltarea, exploatarea și utilizarea IA.
(21)
Az egyenlő versenyfeltételek biztosítása, valamint az egyének jogainak és szabadságainak Unió-szerte történő hatékony védelme érdekében az e rendeletben megállapított szabályokat megkülönböztetésmentes módon kell alkalmazni az MI-rendszerek szolgáltatóira, függetlenül attól, hogy az Unióban vagy harmadik országban letelepedett szolgáltatók-e, valamint az MI-rendszerek Unióban letelepedett alkalmazóira.
(21)
Pentru a asigura condiții de concurență echitabile și o protecție eficace a drepturilor și libertăților persoanelor fizice în întreaga Uniune, normele stabilite prin prezentul regulament ar trebui să se aplice în mod nediscriminatoriu furnizorilor de sisteme de IA, indiferent dacă sunt stabiliți în Uniune sau într-o țară terță, precum și implementatorilor de sisteme de IA stabiliți în Uniune.
(22)
Digitális jellegükre tekintettel egyes MI-rendszereknek akkor is e rendelet hatálya alá kell tartozniuk, ha azokat nem hozzák forgalomba, nem helyezik üzembe vagy nem használják az Unióban. Ez a helyzet például abban az esetben, amikor egy, az Unióban letelepedett gazdasági szereplő bizonyos szolgáltatásokra egy harmadik országban letelepedett gazdasági szereplővel köt szerződést egy olyan MI-rendszer által végzendő tevékenységgel kapcsolatban, amely nagy kockázatúnak minősülne. Ilyen körülmények között a gazdasági szereplő által egy harmadik országban használt MI-rendszer az Unióban jogszerűen gyűjtött és az Unióból továbbított adatokat kezelhet, és az említett MI-rendszer által az említett adatkezelés nyomán előállított adatokat az Unióban működő, vele szerződést kötött gazdasági szereplő rendelkezésére bocsáthatja, anélkül, hogy az említett MI-rendszert forgalomba hoznák, üzembe helyeznék vagy használnák az Unióban. E rendelet kijátszásának megelőzése és az Unióban tartózkodó természetes személyek hatékony védelmének biztosítása érdekében ezt a rendeletet MI-rendszerek harmadik országban letelepedett szolgáltatóira és alkalmazóira is alkalmazni kell, amennyiben az e rendszerek által előállított kimeneteket az Unión belüli használatra szánják. Mindazonáltal a meglévő megállapodások és az azon külföldi partnerekkel való jövőbeli együttműködés iránti különleges igény figyelembevétele érdekében, amelyekkel információ- és bizonyítékcserére kerül sor, e rendelet nem alkalmazandó a harmadik országok hatóságaira és nemzetközi szervezetekre, amennyiben azok együttműködési keretben vagy az Unióval vagy a tagállamokkal folytatott bűnüldözési és igazságügyi együttműködésre vonatkozó – uniós vagy nemzeti szinten kötött – nemzetközi megállapodások keretében járnak el, feltéve, hogy a releváns harmadik ország vagy nemzetközi szervezet megfelelő biztosítékokat nyújt az egyének alapvető jogainak és szabadságainak védelme tekintetében. Ez adott esetben a harmadik országok által az ilyen bűnüldözési és igazságügyi együttműködést támogató konkrét feladatok elvégzésével megbízott szervezetek tevékenységeire is kiterjedhet. Az ilyen együttműködési keret vagy megállapodások kétoldalúan jöttek létre a tagállamok és harmadik országok között, vagy az Európai Unió, az Europol és más uniós ügynökségek, valamint harmadik országok és nemzetközi szervezetek között. A bűnüldöző és igazságügyi hatóságok e rendelet szerinti felügyeletét ellátó illetékes hatóságoknak értékelniük kell, hogy az említett együttműködési keretek vagy nemzetközi megállapodások megfelelő biztosítékokat foglalnak-e magukban az egyének alapvető jogainak és szabadságainak védelme tekintetében. Azon fogadó nemzeti hatóságoknak, valamint azon uniós intézményeknek, szerveknek és hivataloknak, amelyek az Unióban ilyen kimeneteket használnak fel, továbbra is elszámoltathatóknak kell lenniük annak biztosítása tekintetében, hogy a kimenetek felhasználása megfeleljen az uniós jognak. Amikor az említett nemzetközi megállapodásokat a jövőben módosítják, vagy helyettük újakat kötnek, a szerződő feleknek minden tőlük telhetőt meg kell tenniük annak érdekében, hogy az említett megállapodásokat összhangba hozzák e rendelet követelményeivel.
(22)
Având în vedere natura lor digitală, anumite sisteme de IA ar trebui să intre în domeniul de aplicare al prezentului regulament chiar și atunci când nu sunt introduse pe piață, nu sunt puse în funcțiune și nu sunt utilizate în Uniune. Acesta este cazul, de exemplu, al unui operator stabilit în Uniune care contractează anumite servicii unui operator stabilit într-o țară terță în legătură cu o activitate care urmează să fie desfășurată de un sistem de IA care s-ar califica drept prezentând un grad ridicat de risc. În aceste circumstanțe, sistemul de IA utilizat de operator într-o țară terță ar putea prelucra date colectate în Uniune și transferate din Uniune în mod legal și ar putea furniza operatorului contractant din Uniune rezultatele produse de sistemul de IA respectiv ca urmare a prelucrării respective, fără ca sistemul de IA să fie introdus pe piață, pus în funcțiune sau utilizat în Uniune. Pentru a preveni eludarea prezentului regulament și pentru a asigura o protecție eficace a persoanelor fizice situate în Uniune, prezentul regulament ar trebui să se aplice, de asemenea, furnizorilor și implementatorilor de sisteme de IA care sunt stabiliți într-o țară terță, în măsura în care rezultatele produse de sistemele respective sunt destinate a fi utilizate în Uniune. Cu toate acestea, pentru a ține seama de acordurile existente și de nevoile speciale de cooperare viitoare cu partenerii străini cu care se fac schimburi de informații și probe, prezentul regulament nu ar trebui să se aplice autorităților publice ale unei țări terțe și organizațiilor internaționale atunci când acestea acționează în cadrul acordurilor internaționale sau de cooperare încheiate la nivelul Uniunii sau la nivel național pentru cooperarea în materie de aplicare a legii și cooperarea judiciară cu Uniunea sau cu statele membre, cu condiția ca țara terță sau organizația internațională relevantă să ofere garanții adecvate în ceea ce privește protecția drepturilor și libertăților fundamentale ale persoanelor. După caz, acest lucru s-ar putea aplica activităților desfășurate de entitățile cărora țările terțe le-au încredințat îndeplinirea unor sarcini specifice în sprijinul unei astfel de cooperări judiciare și în materie de aplicare a legii. Cadrele de cooperare sau acordurile sus-menționate au fost încheiate bilateral între statele membre și țări terțe sau între Uniunea Europeană, Europol sau alte agenții ale Uniunii, pe de o parte, și țări terțe sau organizații internaționale, pe de altă parte. Autoritățile competente cu supravegherea autorităților de aplicare a legii și a autorităților judiciare în temeiul prezentului regulament ar trebui să evalueze dacă respectivele cadre de cooperare sau acorduri internaționale includ garanții adecvate în ceea ce privește protecția drepturilor și libertăților fundamentale ale persoanelor. Autoritățile naționale destinatare și instituțiile, organele, oficiile și agențiile Uniunii care utilizează astfel de rezultate în Uniune rămân responsabile pentru asigurarea faptului că utilizarea lor respectă dreptul Uniunii. La revizuirea acordurilor internaționale respective sau la încheierea unor acorduri noi în viitor, părțile contractante ar trebui să depună toate eforturile pentru a alinia acordurile respective la cerințele prezentului regulament.
(23)
Ezt a rendeletet az uniós intézményekre, szervekre és hivatalokra is alkalmazni kell, amennyiben azok MI-rendszer szolgáltatójaként vagy alkalmazójaként járnak el.
(23)
Prezentul regulament ar trebui să se aplice, de asemenea, instituțiilor, organelor, oficiilor și agențiilor Uniunii atunci când acestea acționează în calitate de furnizor sau implementator al unui sistem de IA.
(24)
Ha és amennyiben az MI-rendszereket katonai, védelmi vagy nemzetbiztonsági célokra hozzák forgalomba, helyezik üzembe vagy használják módosítással vagy anélkül, azokat ki kell zárni e rendelet hatálya alól, függetlenül attól, hogy az említett tevékenységeket milyen típusú szervezet végzi, így például attól, hogy közjogi vagy magánjogi szervezetről van-e szó. Ami a katonai és védelmi célokat illeti, az ilyen kizárást mind az EUSZ 4. cikkének (2) bekezdése, mind az EUSZ V. címe 2. fejezetének hatálya alá tartozó tagállami és közös uniós védelmi politikának a nemzetközi közjog hatálya alá tartozó sajátosságai indokolják; ez utóbbi tehát a megfelelőbb jogi keret az MI-rendszereknek a halálos erő alkalmazásával összefüggésben, valamint más MI-rendszereknek a katonai és védelmi tevékenységekkel összefüggésben történő szabályozásához. Ami a nemzetbiztonsági célokat illeti, a kizárást indokolja mind az a tény, hogy a nemzetbiztonság az EUSZ 4. cikke (2) bekezdésének megfelelően továbbra is a tagállamok kizárólagos felelőssége, mind a nemzetbiztonsági tevékenységek sajátos jellege és operatív szükségletei, valamint az e tevékenységekre alkalmazandó különös nemzeti szabályok. Mindazonáltal, ha egy katonai, védelmi vagy nemzetbiztonsági célokra kifejlesztett, forgalomba hozott, üzembe helyezett vagy használt MI-rendszert ideiglenesen vagy tartósan más – például polgári vagy humanitárius, bűnüldözési vagy közbiztonsági – célokra használnak, az ilyen rendszer e rendelet hatálya alá tartozik. Ebben az esetben az MI-rendszert nem katonai, védelmi vagy nemzetbiztonsági célokra használó szervezetnek biztosítania kell az MI-rendszer e rendeletnek való megfelelését, kivéve, ha a rendszer már megfelel e rendeletnek. A kizárt – nevezetesen katonai, védelmi vagy nemzetbiztonsági – célból és egy vagy több nem kizárt – például polgári vagy bűnüldözési – célból forgalomba hozott vagy üzembe helyezett MI-rendszerek e rendelet hatálya alá tartoznak, és e rendszerek szolgáltatóinak biztosítaniuk kell az e rendeletnek való megfelelést. Ezekben az esetekben az a tény, hogy egy MI-rendszer e rendelet hatálya alá tartozhat, nem érintheti azt a lehetőséget, hogy a nemzetbiztonsági, védelmi és katonai tevékenységeket végző szervezetek – az e tevékenységeket végző szervezet típusától függetlenül – olyan MI-rendszereket használjanak nemzetbiztonsági, katonai és védelmi célokra, amelyek használata nem tartozik e rendelet hatálya alá. Azon polgári vagy bűnüldözési célból forgalomba hozott MI-rendszerek, amelyeket módosítással vagy módosítás nélkül katonai, védelmi vagy nemzetbiztonsági célokra használnak, nem tartozhatnak e rendelet hatálya alá, függetlenül az említett tevékenységeket végző szervezet típusától.
(24)
În cazul și în măsura în care sistemele de IA sunt introduse pe piață, puse în funcțiune sau utilizate cu sau fără modificarea lor în scopuri militare, de apărare sau de securitate națională, sistemele respective ar trebui să fie excluse din domeniul de aplicare al prezentului regulament, indiferent de tipul de entitate care desfășoară activitățile respective, de exemplu dacă este o entitate publică sau privată. În ceea ce privește scopurile militare și de apărare, o astfel de excludere este justificată atât de articolul 4 alineatul (2) din TUE, cât și de particularitățile politicii de apărare a statelor membre și ale politicii de apărare comune a Uniunii, care intră sub incidența titlului V capitolul 2 din TUE; acestea fac obiectul dreptului internațional public, care este, prin urmare, cadrul juridic mai adecvat pentru reglementarea sistemelor de IA în contextul utilizării forței letale și a altor sisteme de IA în contextul activităților militare și de apărare. În ceea ce privește obiectivele de securitate națională, excluderea este justificată atât de faptul că securitatea națională rămâne responsabilitatea exclusivă a statelor membre în conformitate cu articolul 4 alineatul (2) din TUE, cât și de natura specifică și de nevoile operaționale ale activităților de securitate națională și de normele naționale specifice aplicabile activităților respective. Însă, în cazul în care un sistem de IA dezvoltat, introdus pe piață, pus în funcțiune sau utilizat în scopuri militare, de apărare sau de securitate națională este utilizat, temporar sau permanent, în afara acestui cadru în alte scopuri, de exemplu în scopuri civile sau umanitare, de aplicare a legii sau de securitate publică, un astfel de sistem ar intra în domeniul de aplicare al prezentului regulament. În acest caz, entitatea care utilizează sistemul de IA în alte scopuri decât cele militare, de apărare sau de securitate națională ar trebui să asigure conformitatea sistemului de IA cu prezentul regulament, cu excepția cazului în care sistemul respectă deja prezentul regulament. Sistemele de IA introduse pe piață sau puse în funcțiune pentru un scop care face obiectul excluderii, și anume în scop militar, de apărare sau de securitate națională, și pentru unul sau mai multe scopuri care nu fac obiectul excluderii, de exemplu în scopuri civile sau de aplicare a legii, intră în domeniul de aplicare al prezentului regulament, iar furnizorii sistemelor respective ar trebui să asigure conformitatea cu prezentul regulament. În aceste cazuri, faptul că un sistem de IA poate intra în domeniul de aplicare al prezentului regulament nu ar trebui să afecteze posibilitatea ca entitățile care desfășoară activități de securitate națională, de apărare și militare, indiferent de tipul de entitate care desfășoară activitățile respective, să utilizeze sisteme de IA în scopuri de securitate națională, militare și de apărare, utilizare care este exclusă din domeniul de aplicare al prezentului regulament. Un sistem de IA introdus pe piață în scopuri civile sau de aplicare a legii și care este utilizat cu sau fără modificări în scopuri militare, de apărare sau de securitate națională nu ar trebui să intre în domeniul de aplicare al prezentului regulament, indiferent de tipul de entitate care desfășoară activitățile respective.
(25)
E rendeletnek támogatnia kell az innovációt, tiszteletben kell tartania a tudomány szabadságát, és nem szabad aláásnia a kutatás-fejlesztési tevékenységeket. Ezért ki kell zárni a hatálya alól a kifejezetten és kizárólag tudományos kutatás-fejlesztés céljából kifejlesztett és üzembe helyezett MI-rendszereket. Továbbá biztosítani kell, hogy e rendelet egyéb módon se befolyásolja az MI-rendszerekre vagy -modellekre irányulóan végzett tudományos kutatás-fejlesztési tevékenységet azok forgalomba hozatalát vagy üzembe helyezését megelőzően. Ami az MI-rendszerekkel vagy -modellekkel kapcsolatos termékorientált kutatási, tesztelési és fejlesztési tevékenységeket illeti, e rendelet rendelkezései szintén nem alkalmazandók az említett rendszerek és modellek forgalomba hozatalát vagy üzembe helyezését megelőzően. Az említett kizárás nem érinti az e rendeletnek való megfelelésre vonatkozó kötelezettséget, amennyiben az e rendelet hatálya alá tartozó MI-rendszert ilyen kutatás-fejlesztési tevékenység eredményeként hozzák forgalomba vagy helyezik üzembe, valamint nem érinti az MI szabályozói tesztkörnyezetekre és a valós körülmények közötti tesztelésre vonatkozó rendelkezések alkalmazását. Továbbá, a kifejezetten tudományos kutatás-fejlesztés céljából kifejlesztett és üzembe helyezett MI-rendszerek kizárásának sérelme nélkül, minden egyéb olyan MI-rendszerre, amely kutatás-fejlesztési tevékenység végzésére használható, továbbra is e rendelet rendelkezéseinek kell vonatkozniuk. Mindenesetre bármely kutatás-fejlesztési tevékenységet a tudományos kutatásra vonatkozó elismert etikai és szakmai normáknak megfelelően kell végezni, és az alkalmazandó uniós jognak megfelelően kell folytatni.
(25)
Prezentul regulament ar trebui să sprijine inovarea, ar trebui să respecte libertatea științei și nu ar trebui să submineze activitatea de cercetare și dezvoltare. Prin urmare, este necesar să se excludă din domeniul său de aplicare sistemele și modelele de IA dezvoltate și puse în funcțiune în mod specific în scopul unic al cercetării și dezvoltării științifice. În plus, este necesar să se asigure că prezentul regulament nu afectează într-un alt mod activitatea de cercetare și dezvoltare științifică privind sistemele sau modelele de IA înainte de a fi introduse pe piață sau puse în funcțiune. În ceea ce privește activitatea de cercetare, testare și dezvoltare orientată spre produse aferentă sistemelor sau modelelor de IA, dispozițiile prezentului regulament nu ar trebui, de asemenea, să se aplice înainte ca aceste sisteme și modele să fie puse în funcțiune sau introduse pe piață. Această excludere nu aduce atingere obligației de a respecta prezentul regulament în cazul în care un sistem de IA aflat sub incidența prezentului regulament este introdus pe piață sau pus în funcțiune ca urmare a unei astfel de activități de cercetare și dezvoltare, și nici aplicării dispozițiilor privind spațiile de testare în materie de reglementare în domeniul IA și testarea în condiții reale. În plus, fără a aduce atingere excluderii sistemelor de IA dezvoltate și puse în funcțiune în mod specific în scopul unic al cercetării și dezvoltării științifice, orice alt sistem de IA care poate fi utilizat pentru desfășurarea oricărei activități de cercetare și dezvoltare ar trebui să facă în continuare obiectul dispozițiilor prezentului regulament. În orice caz, toate activitățile de cercetare și dezvoltare ar trebui să se desfășoare în conformitate cu standardele etice și profesionale recunoscute pentru cercetarea științifică, precum și în conformitate cu dreptul aplicabil al Uniunii.
(26)
Az MI-rendszerekre vonatkozó, kötelező erejű szabályok arányos és hatékony rendszerének bevezetése érdekében egyértelműen meghatározott, kockázatalapú megközelítést kell alkalmazni. E megközelítés keretében az ilyen szabályok típusát és tartalmát hozzá kell igazítani az MI-rendszerek által keltett kockázatok intenzitásához és nagyságrendjéhez. Ezért meg kell tiltani bizonyos elfogadhatatlan MI-gyakorlatokat, míg a nagy kockázatú MI-rendszerekre vonatkozóan követelményeket, az érintett gazdasági szereplőkre vonatkozóan pedig kötelezettségeket kell megállapítani, valamint átláthatósági kötelezettségeket kell előírni bizonyos MI-rendszerek tekintetében.
(26)
Pentru a introduce un set proporțional și eficace de norme obligatorii pentru sistemele de IA, ar trebui să fie urmată o abordare bazată pe riscuri clar definită. Această abordare ar trebui să adapteze tipul și conținutul unor astfel de norme la intensitatea și amploarea riscurilor pe care le pot genera sistemele de IA. Prin urmare, este necesar să se interzică anumite practici în domeniul IA care sunt inacceptabile, să se stabilească cerințe pentru sistemele de IA cu grad ridicat de risc și obligații pentru operatorii relevanți și să se stabilească obligații în materie de transparență pentru anumite sisteme de IA.
(27)
Bár a kötelező erejű szabályok arányos és hatékony rendszerének alapját a kockázatalapú megközelítés képezi, fontos emlékeztetni a Bizottság által kinevezett független magas szintű MI-szakértői csoport által a megbízható mesterséges intelligenciára vonatkozóan 2019-ben kidolgozott etikai iránymutatásokra. A magas szintű MI-szakértői csoport ezekben az iránymutatásokban hét nem kötelező erejű etikai elvet dolgozott ki a mesterséges intelligenciára vonatkozóan, amelyek célja, hogy segítsék biztosítani a mesterséges intelligencia megbízhatóságát és etikai megalapozottságát. A hét elv a következő: emberi cselekvőképesség és felügyelet; műszaki stabilitás és biztonság; a magánélet védelme és adatkormányzás; átláthatóság; sokszínűség, a megkülönböztetés tilalma és méltányosság; társadalmi és környezeti jóllét; valamint elszámoltathatóság. Az említett iránymutatások – e rendelet jogilag kötelező érvényű követelményeinek és bármely egyéb alkalmazandó uniós jognak a sérelme nélkül – hozzájárulnak a koherens, megbízható és emberközpontú mesterséges intelligenciának a Chartával és az Unió alapját képező értékekkel összhangban történő kidolgozásához. A magas szintű MI-szakértői csoport iránymutatásai szerint az emberi cselekvőképesség és felügyelet azt jelenti, hogy az MI-rendszereket olyan eszközként kell fejleszteni és használni, amely az embereket szolgálja, tiszteletben tartja az emberi méltóságot és a személyes autonómiát, és amely úgy működik, hogy ember által megfelelő módon ellenőrizhető és felügyelhető legyen. A műszaki stabilitás és biztonság azt jelenti, hogy az MI-rendszereket úgy kell fejleszteni és használni, ami lehetővé teszi a stabilitást a problémák esetén, és a rezilienciát az MI-rendszer használatának vagy teljesítményének a harmadik felek általi jogellenes felhasználás lehetővé tétele érdekében történő megváltoztatására irányuló kísérletekkel szemben, továbbá a nem szándékos károkozás minimálisra csökkentését. A magánélet védelme és az adatkormányzás azt jelenti, hogy az MI-rendszereket a magánélet védelmére vonatkozó és az adatvédelmi szabályokkal összhangban kell fejleszteni és használni, miközben az adatok kezelésének magas szintű minőségi és integritási standardoknak kell megfelelnie. Az átláthatóság azt jelenti, hogy az MI-rendszereket olyan módon kell fejleszteni és használni, amely lehetővé teszi a megfelelő nyomonkövethetőséget és megmagyarázhatóságot, miközben tudatosítja az emberekben, hogy MI-rendszerrel kommunikálnak vagy lépnek kapcsolatba, valamint megfelelően tájékoztatja az alkalmazókat az MI-rendszer képességeiről és korlátairól, az érintett személyeket pedig jogaikról. A sokszínűség, a megkülönböztetés tilalma és a méltányosság azt jelenti, hogy az MI-rendszereket úgy kell fejleszteni és használni, hogy abba bevonják a különböző szereplőket, valamint hogy annak során előmozdítják az egyenlő hozzáférést, a nemek közötti egyenlőséget és a kulturális sokszínűséget, elkerülve mindeközben az uniós vagy a nemzeti jog által tiltott diszkriminatív hatásokat és méltánytalan torzításokat. A társadalmi és környezeti jóllét azt jelenti, hogy az MI-rendszereket fenntartható és környezetbarát módon kell fejleszteni és használni, valamint úgy, hogy az minden ember javát szolgálja, figyelemmel kísérve és felmérve mindeközben az egyénre, a társadalomra és a demokráciára gyakorolt hosszú távú hatásokat. Az említett elvek alkalmazását lehetőség szerint át kell ültetni az MI-modellek tervezésébe és használatába. Azoknak minden esetben alapul kell szolgálniuk az e rendelet szerinti magatartási kódexek kidolgozásához. Valamennyi érdekelt fél – ideértve az ipart, a tudományos köröket, a civil társadalmat és a szabványügyi szervezeteket is – ösztönözve van arra, hogy az önkéntes legjobb gyakorlatok és szabványok kidolgozásához adott esetben vegye figyelembe az etikai elveket.
(27)
Deși abordarea bazată pe riscuri reprezintă temelia pentru un set proporțional și eficace de norme obligatorii, este important să se reamintească Orientările în materie de etică pentru o IA fiabilă din 2019, elaborate de Grupul independent de experți la nivel înalt privind IA numit de Comisie. În orientările respective, grupul de experți a elaborat șapte principii etice fără caracter obligatoriu pentru IA, care sunt menite să contribuie la asigurarea faptului că IA este de încredere și că este solidă din punct de vedere etic. Cele șapte principii sunt: implicarea și supravegherea umană; robustețea tehnică și siguranța; respectarea vieții private și guvernanța datelor; transparența; diversitatea, nediscriminarea și echitatea; bunăstarea socială și de mediu și asumarea răspunderii. Fără a aduce atingere cerințelor obligatorii din punct de vedere juridic prevăzute în prezentul regulament și în orice alt act legislativ aplicabil al Uniunii, aceste orientări contribuie la conceperea unei IA coerente, de încredere și centrate pe factorul uman, în conformitate cu carta și cu valorile pe care se întemeiază Uniunea. Potrivit orientărilor Grupului de experți la nivel înalt privind IA, implicarea și supravegherea umană înseamnă că sistemele de IA sunt dezvoltate și utilizate ca un instrument ce servește oamenilor, respectă demnitatea umană și autonomia personală și funcționează într-un mod care poate fi controlat și supravegheat în mod corespunzător de către oameni. Robustețea tehnică și siguranța înseamnă că sistemele de IA sunt dezvoltate și utilizate într-un mod care asigură robustețea în caz de probleme și reziliența la încercările de a modifica utilizarea sau performanța sistemului de IA în vederea permiterii utilizării ilegale de către terți și care reduce la minimum prejudiciile neintenționate. Respectarea vieții private și guvernanța datelor înseamnă că sistemele de IA sunt dezvoltate și utilizate în conformitate cu normele privind protecția vieții private și a datelor și că, în același timp, se prelucrează date care respectă standarde ridicate de calitate și de integritate. Transparența înseamnă că sistemele de IA sunt dezvoltate și utilizate într-un mod care permite trasabilitatea și explicabilitatea adecvate, aducând totodată la cunoștința oamenilor faptul că interacționează sau comunică cu un sistem de IA și informând în mod corespunzător implementatorii cu privire la capabilitățile și limitele respectivului sistem de IA și persoanele afectate cu privire la drepturile lor. Diversitatea, nediscriminarea și echitatea înseamnă că sistemele de IA sunt dezvoltate și utilizate într-un mod care presupune implicarea a diverși actori și promovează accesul egal, egalitatea de gen și diversitatea culturală, evitând totodată efectele discriminatorii și prejudecățile inechitabile interzise prin dreptul Uniunii sau dreptul intern. Bunăstarea socială și de mediu înseamnă că sistemele de IA sunt dezvoltate și utilizate într-un mod durabil, care respectă mediul și care aduce beneficii tuturor ființelor umane, monitorizându-se și evaluându-se totodată efectele pe termen lung asupra persoanelor, a societății și a democrației. Aplicarea acestor principii ar trebui să fie transpusă, atunci când este posibil, în conceperea și utilizarea modelelor de IA. În orice caz, aceste principii ar trebui să servească drept bază pentru elaborarea codurilor de conduită în temeiul prezentului regulament. Toate părțile interesate, inclusiv industria, mediul academic, societatea civilă și organizațiile de standardizare, sunt încurajate să ia în considerare, după caz, principiile etice pentru dezvoltarea de bune practici și standarde voluntare.
(28)
A mesterséges intelligencia számos hasznos felhasználási módja mellett, azt rendellenesen is fel lehet használni, valamint új és hatékony eszközöket biztosíthat manipulatív, kizsákmányoló és társadalmi ellenőrzési gyakorlatokhoz. Az ilyen gyakorlatok különösen károsak és visszaélésszerűek, és meg kell tiltani őket, mivel ellentétesek az emberi méltóság tiszteletben tartása, a szabadság, az egyenlőség, a demokrácia és a jogállamiság uniós értékeivel, továbbá a Chartában rögzített alapvető jogokkal, ideértve a megkülönböztetésmentességhez, az adatvédelemhez és a magánélet tiszteletben tartásához való jogot, valamint a gyermek jogait is.
(28)
Pe lângă numeroasele utilizări benefice ale IA, aceasta poate fi utilizată și în mod abuziv și poate oferi instrumente noi și puternice pentru practici de manipulare, exploatare și control social. Astfel de practici sunt deosebit de nocive și abuzive și ar trebui să fie interzise deoarece contravin valorilor Uniunii privind respectarea demnității umane, a libertății, a egalității, a democrației și a statului de drept, precum și a drepturilor fundamentale consacrate în cartă, inclusiv dreptul la nediscriminare, la protecția datelor și la viața privată și drepturile copilului.
(29)
Az MI-n alapuló manipulatív technikák felhasználhatók arra, hogy nem kívánt magatartásformákra vegyék rá az embereket, vagy megtévesszék őket azáltal, hogy oly módon ösztönzik őket döntésekre, amely aláássa és csorbítja autonómiájukat, döntéshozatalukat és szabad választásukat. Az olyan MI-rendszerek forgalomba hozatala, üzembe helyezése vagy használata, amelyek célja vagy hatása az emberi magatartás jelentős mértékű olyan torzítása, amely valószínűleg jelentős károkkal, így különösen a testi, pszichológiai egészségre vagy a pénzügyi érdekekre nézve kellően jelentős kedvezőtlen hatásokkal jár, rendkívül veszélyes, és ezért azt be kell tiltani. Az ilyen MI-rendszerek olyan szubliminális alkotóelemeket – például hang-, képi és videoingereket – alkalmaznak, amelyeket a személyek nem képesek észlelni, mivel az említett ingerek túlmutatnak az emberi észlelésen, vagy más olyan manipulatív vagy megtévesztő technikákat használnak, amelyek úgy ássák alá vagy csorbítják a személy autonómiáját, döntéshozatalát vagy szabad választását, hogy az említett technikáknak az emberek nincsenek tudatában, vagy ha tudatában vannak is azoknak, az embereket mégis megtéveszthetik, vagy nem képesek azokat irányítani, vagy azoknak ellenállni. Ezt elősegíthetik például a gép–agy interfészek vagy a virtuális valóság, mivel azok nagyobb fokú ellenőrzést tesznek lehetővé afelett, hogy milyen ingerek kerüljenek megjelenítésre a személyeknek, amennyiben ezek az ingerek érdemben és jelentősen káros módon torzíthatják viselkedésüket. Emellett az MI-rendszerek más módon is kihasználhatják adott személynek vagy személyek egy adott csoportjának az életkoruk, az (EU) 2019/882 európai parlamenti és tanácsi irányelv (16) értelmében vett fogyatékosságuk vagy olyan sajátos társadalmi vagy gazdasági helyzetük miatti sebezhetőségét, amely valószínűleg kiszolgáltatottabbá teszi őket – például a mélyszegénységben élőket, az etnikai vagy vallási kisebbségeket – a kizsákmányolással szemben. Az ilyen MI-rendszerek forgalomba hozhatók, üzembe helyezhetők vagy felhasználhatók azzal a céllal vagy azzal a hatással, hogy jelentősen torzítsák egy személy viselkedését, és oly módon, hogy az az említett személynek vagy egy másik személynek vagy személyek csoportjainak jelentős kárt okoz, vagy észszerű valószínűséggel okozhat jelentős kárt, ideértve az idővel esetlegesen felhalmozódó károkat is, és ezért azt be kell tiltani. Előfordulhat, hogy nem lehetséges a magatartás torzítására irányuló szándék vélelmezése, amikor a torzulás az MI-rendszeren kívüli olyan tényezőkből ered, amelyek kívül esnek a szolgáltató vagy az alkalmazó befolyásán, nevezetesen olyan tényezőkből, amelyek észszerűen nem előreláthatóak, és amelyeket ezért az MI-rendszer szolgáltatója vagy alkalmazója nem tud mérsékelni. Mindenesetre nem szükséges, hogy a szolgáltató vagy az alkalmazó szándékosan okozzon jelentős kárt, feltéve, hogy az ilyen kár a manipulatív vagy kizsákmányoló MI-n alapuló gyakorlatokból ered. Az ilyen MI-gyakorlatokra vonatkozó tilalmak kiegészítik a 2005/29/EK európai parlamenti és tanácsi irányelvben (17) foglalt rendelkezéseket, különösen azt, hogy a fogyasztóknak gazdasági vagy pénzügyi kárt okozó tisztességtelen kereskedelmi gyakorlatok minden körülmények között tilosak, függetlenül attól, hogy azokat MI-rendszereken keresztül vagy más módon valósítják-e meg. A manipulatív és kizsákmányoló gyakorlatok e rendeletben foglalt tilalmai nem érinthetik a gyógykezelés – így például egy mentális betegség pszichológiai kezelése vagy a fizikai rehabilitáció – során alkalmazott jogszerű gyakorlatokat, amennyiben az említett gyakorlatokat az alkalmazandó joggal és orvosi normákkal – például az egyének vagy jogi képviselőik kifejezett hozzájárulásával – összhangban végzik. Emellett az alkalmazandó jognak megfelelő, általános és jogszerű kereskedelmi gyakorlatok – például a reklámok területén – önmagukban nem tekintendők káros manipulatív MI-n alapuló gyakorlatoknak.
(29)
Tehnicile de manipulare bazate pe IA pot fi utilizate pentru a convinge anumite persoane să manifeste comportamente nedorite sau pentru a le înșela, împingându-le să ia decizii într-un mod care le subminează și le afectează autonomia, capacitatea decizională și libera alegere. Introducerea pe piață, punerea în funcțiune sau utilizarea anumitor sisteme de IA având drept obiectiv sau drept efect denaturarea semnificativă a comportamentului uman, caz în care este probabil să se producă prejudicii semnificative, mai ales cu efecte negative suficient de importante asupra sănătății fizice sau psihologice ori a intereselor financiare, sunt deosebit de periculoase și, prin urmare, ar trebui să fie interzise. Astfel de sisteme de IA implementează componente subliminale, cum ar fi stimuli audio, sub formă de imagini sau video, pe care persoanele nu le pot percepe întrucât stimulii respectivi depășesc percepția umană, sau alte tehnici manipulatoare sau înșelătoare care subminează sau afectează autonomia, capacitatea decizională sau libera alegere ale unei persoane în astfel de moduri încât oamenii nu sunt conștienți de astfel de tehnici sau, chiar dacă sunt conștienți de acestea, tot pot fi înșelați sau sunt incapabili să le controleze sau să li se opună. Acest lucru ar putea fi facilitat, de exemplu, de interfețele mașină-creier sau de realitatea virtuală, deoarece acestea permit un nivel mai ridicat de control asupra stimulilor prezentați persoanelor, în măsura în care acești stimuli pot denatura semnificativ comportamentul persoanelor într-un mod deosebit de dăunător. În plus, sistemele de IA pot exploata și în alte moduri vulnerabilitățile unei persoane sau ale unui anumit grup de persoane din cauza vârstei sau a dizabilității acestora în sensul Directivei (UE) 2019/882 a Parlamentului European și a Consiliului (16) sau din cauza unei situații sociale sau economice specifice care este susceptibilă să sporească vulnerabilitatea la exploatare a persoanelor respective, cum ar fi persoanele care trăiesc în sărăcie extremă sau care aparțin minorităților etnice sau religioase. Astfel de sisteme de IA pot fi introduse pe piață, puse în funcțiune sau utilizate având drept obiectiv sau drept efect denaturarea semnificativă a comportamentului unei persoane, într-un mod care cauzează sau este susceptibil în mod rezonabil să cauzeze prejudicii semnificative persoanei respective sau grupului respectiv ori unei alte persoane sau altor grupuri de persoane, inclusiv prejudicii care se pot acumula în timp, și, prin urmare, ar trebui să fie interzise. Este posibil să nu se poată presupune că există intenția de a denatura comportamentul în cazul în care denaturarea rezultă din factori externi sistemului de IA asupra cărora furnizorul sau implementatorul nu deține controlul, și anume factori care ar putea să nu fie prevăzuți în mod rezonabil și, prin urmare, să nu poată fi atenuați de către furnizorul sau implementatorul sistemului de IA. În orice caz, nu este necesar ca furnizorul sau implementatorul să aibă intenția de a cauza un prejudiciu semnificativ, cu condiția ca un astfel de prejudiciu să rezulte din practicile de manipulare sau de exploatare bazate pe IA. Interdicțiile privind astfel de practici în domeniul IA sunt complementare dispozițiilor cuprinse în Directiva 2005/29/CE a Parlamentului European și a Consiliului (17), în special faptul că practicile comerciale neloiale care conduc la prejudicii economice sau financiare pentru consumatori sunt interzise în toate circumstanțele, indiferent dacă sunt puse în aplicare prin intermediul sistemelor de IA sau în alt mod. Interdicțiile privind practicile de manipulare și exploatare prevăzute în prezentul regulament nu ar trebui să afecteze practicile legale în contextul tratamentului medical, cum ar fi tratamentul psihologic al unei boli mintale sau reabilitarea fizică, atunci când practicile respective se desfășoară în conformitate cu dreptul și cu standardele medicale aplicabile, de exemplu în ceea ce privește consimțământul explicit al persoanelor în cauză sau al reprezentanților lor legali. În plus, practicile comerciale comune și legitime, de exemplu în domeniul publicității, care respectă dreptul aplicabil nu ar trebui să fie considerate, în sine, ca reprezentând practici dăunătoare de manipulare bazate pe IA.
(30)
Be kell tiltani a természetes személyek biometrikus adatain – például adott személy arcán vagy ujjnyomatán – alapuló olyan biometrikus kategorizálási rendszereket, amelyek célja, hogy levezessék vagy kikövetkeztessék adott egyének politikai véleményét, szakszervezeti tagságát, vallási vagy világnézeti meggyőződését, faji hovatartozását, szexuális életét vagy szexuális irányultságát. Az említett tilalom nem terjedhet ki az uniós vagy nemzeti joggal összhangban beszerzett biometrikus adatkészletek biometrikus adatok szerint történő jogszerű címkézésére, szűrésére vagy kategorizálására, például képek hajszín vagy szemszín szerinti válogatására, ami felhasználható például a bűnüldözés területén.
(30)
Sistemele de clasificare biometrică care se bazează pe datele biometrice ale persoanelor fizice, cum ar fi fața sau amprentele digitale ale unei persoane, pentru a face presupuneri sau deducții cu privire la opiniile politice, apartenența la un sindicat, convingerile religioase sau filozofice, rasa, viața sexuală sau orientarea sexuală ale unei persoane ar trebui să fie interzise. Această interdicție nu ar trebui să se refere la etichetarea, filtrarea sau clasificarea legală, în funcție de datele biometrice, a seturilor de date biometrice obținute în conformitate cu dreptul Uniunii sau cu dreptul intern, cum ar fi sortarea imaginilor în funcție de culoarea părului sau de culoarea ochilor, care poate fi utilizată, de exemplu, în domeniul aplicării legii.
(31)
A természetes személyek állami vagy magánszereplők általi társadalmi pontozását végző MI-rendszerek diszkriminatív eredményekhez és bizonyos csoportok kirekesztéséhez vezethetnek. Az ilyen rendszerek sérthetik a méltósághoz való jogot és a megkülönböztetés tilalmát, valamint az egyenlőség és az igazságosság értékeit. Az ilyen MI-rendszerek a természetes személyeket vagy azok csoportjait a különböző körülmények között tanúsított közösségi magatartásukhoz, illetve ismert, kikövetkeztetett vagy előre jelzett személyes tulajdonságaikhoz vagy személyiségjegyeikhez társított több adatpont alapján értékelik vagy osztályozzák bizonyos időszakokon keresztül. Az ilyen MI-rendszerek által adott társadalmi pontszám a természetes személyekkel vagy azok egész csoportjával szembeni hátrányos vagy kedvezőtlen bánásmódhoz vezethet olyan társadalmi kontextusokban, amelyek nem függenek össze azzal a kontextussal, amelyben az adatok létrehozása vagy gyűjtése történt, vagy olyan hátrányos bánásmódot okozhat, amely az adott személyek közösségi magatartásának súlyosságához képest aránytalan vagy indokolatlan. Az ilyen elfogadhatatlan pontozási gyakorlatokat alkalmazó és ilyen hátrányos vagy kedvezőtlen eredményekhez vezető MI-rendszereket ezért be kell tiltani. Az említett tilalom nem érintheti a természetes személyek azon jogszerű értékelési gyakorlatát, amelyet konkrét célból, az uniós és a nemzeti joggal összhangban végeznek.
(31)
Sistemele de IA care permit atribuirea unui punctaj social persoanelor fizice de către actori privați sau publici pot genera rezultate discriminatorii și excluderea anumitor grupuri. Acestea pot încălca dreptul la demnitate și nediscriminare, precum și valorile egalității și justiției. Astfel de sisteme de IA evaluează sau clasifică persoanele fizice sau grupurile de persoane pe baza mai multor puncte de date legate de comportamentul lor social în contexte multiple sau de caracteristici personale sau de personalitate cunoscute, deduse sau preconizate de-a lungul anumitor perioade de timp. Punctajul social obținut din astfel de sisteme de IA poate duce la un tratament prejudiciabil sau nefavorabil al persoanelor fizice sau al unor grupuri întregi de astfel de persoane în contexte sociale care nu au legătură cu contextul în care datele au fost inițial generate sau colectate sau la un tratament prejudiciabil care este disproporționat sau nejustificat în raport cu gravitatea comportamentului lor social. Sistemele de IA care implică astfel de practici inacceptabile de atribuire a unui punctaj și care conduc la astfel de rezultate prejudiciabile sau nefavorabile ar trebui, prin urmare, să fie interzise. Această interdicție nu ar trebui să afecteze practicile legale de evaluare a persoanelor fizice care sunt realizate într-un scop specific în conformitate cu dreptul Uniunii și cu dreptul național.
(32)
Az MI-rendszereknek természetes személyek „valós idejű” távoli biometrikus azonosítására, a nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használata különösen tolakodó az érintett személyek jogaira és szabadságaira nézve, mivel hatással lehet a lakosság nagy részének magánéletére, az állandó megfigyelés érzetét keltheti, és közvetve visszatarthat a gyülekezési szabadság és más alapvető jogok gyakorlásától. A természetes személyek távoli biometrikus azonosítására szolgáló MI-rendszerek technikai pontatlansága torzított eredményekhez vezethet, és diszkriminatív hatásokat eredményezhet. Az ilyen torzított eredmények és diszkriminatív hatások különösen relevánsak az életkor, az etnikai és a faji hovatartozás, a nem vagy a fogyatékosságok tekintetében. Ezenkívül a hatás azonnali jellege és az ilyen „valós időben” működő rendszerek használatával kapcsolatos további ellenőrzések vagy korrekciók korlátozott lehetőségei fokozott kockázatot jelentenek az érintett személyek jogaira és szabadságaira nézve a bűnüldözési tevékenységekkel összefüggésben vagy azok hatása miatt.
(32)
Utilizarea sistemelor de IA pentru identificarea biometrică la distanță „în timp real” a persoanelor fizice în spațiile accesibile publicului în scopul aplicării legii este deosebit de intruzivă pentru drepturile și libertățile persoanelor în cauză, în măsura în care poate afecta viața privată a unei părți mari a populației, poate inspira un sentiment de supraveghere constantă și poate descuraja indirect exercitarea libertății de întrunire și a altor drepturi fundamentale. Inexactitățile tehnice ale sistemelor de IA destinate identificării biometrice la distanță a persoanelor fizice pot conduce la rezultate distorsionate de prejudecăți și pot avea efecte discriminatorii. Astfel de rezultate distorsionate și efecte discriminatorii posibile sunt deosebit de relevante în ceea ce privește vârsta, etnia, rasa, sexul sau dizabilitatea. În plus, caracterul imediat al impactului și posibilitățile limitate de a efectua verificări sau corecții suplimentare în ceea ce privește utilizarea unor astfel de sisteme care funcționează în timp real implică riscuri sporite pentru drepturile și libertățile persoanelor vizate în contextul activităților de aplicare a legii sau impactate de acestea.
(33)
E rendszerek bűnüldözési célú használatát ezért meg kell tiltani, kivéve az olyan, kimerítő jelleggel felsorolt és szűken meghatározott helyzeteket, amelyekben a használat feltétlenül szükséges egy olyan jelentős közérdek érvényesítéséhez, amelynek fontossága meghaladja a kockázatokat. Az említett helyzetek közé tartozik a bűncselekmények bizonyos áldozatainak, köztük az eltűnt személyeknek a felkutatása; a természetes személyek életét vagy fizikai biztonságát fenyegető bizonyos veszélyek vagy a terrortámadás veszélye; valamint az e rendelet egyik mellékletében felsorolt bűncselekmények elkövetőinek vagy gyanúsítottjainak a lokalizálása vagy azonosítása, amennyiben az említett bűncselekmények esetében az érintett tagállamban a büntetési tétel felső határa legalább négyévi szabadságvesztés vagy szabadságelvonással járó intézkedés, és ahogyan az említett bűncselekményeket az említett tagállam joga meghatározza. A szabadságvesztés vagy szabadságelvonással járó intézkedés nemzeti joggal összhangban álló e küszöbértéke hozzájárul annak biztosításához, hogy a bűncselekmény kellően súlyos legyen ahhoz, hogy potenciálisan indokolhassa a „valós idejű” távoli biometrikus azonosító rendszerek használatát. Ezenfelül az e rendelet egyik mellékletében foglalt bűncselekménylista a 2002/584/IB tanácsi kerethatározatban (18) felsorolt 32 bűncselekményen alapul, figyelembe véve azt, hogy az említett bűncselekmények közül néhány a gyakorlatban valószínűleg relevánsabb, mint mások, azaz a „valós idejű” távoli biometrikus azonosítás alkalmazása előreláthatóan rendkívül eltérő mértékben szükséges és arányos eszköz lehet a felsorolt különböző bűncselekmények elkövetőinek vagy gyanúsítottjainak lokalizálására vagy azonosítására irányuló gyakorlati lépések tekintetében, továbbá figyelemmel a kár vagy az esetleges negatív következmények súlyossága, valószínűsége és mértéke terén fennálló valószínűsíthető különbségekre. Természetes személyek életét vagy testi biztonságát fenyegető közvetlen veszély az (EU) 2022/2557 európai parlamenti és tanácsi irányelv (19) 2. cikkének 4. pontjában meghatározottak szerinti kritikus infrastruktúrát érintő súlyos zavarokból is fakadhat, amennyiben az ilyen kritikus infrastruktúra megzavarása vagy megsemmisítése közvetlen veszélyt jelentene egy személy életére vagy testi biztonságára, többek között az alapvető ellátások lakosság számára történő biztosítására vagy az állam alapvető funkciói gyakorlására gyakorolt súlyos kár révén. Emellett e rendeletnek fenn kell tartania a bűnüldöző, határellenőrzési, bevándorlási vagy menekültügyi hatóságok azon képességét, hogy az érintett személy jelenlétében személyazonosság-ellenőrzést végezzenek az ilyen ellenőrzésekre vonatkozóan az uniós és a nemzeti jogban meghatározott feltételekkel összhangban. Így különösen, lehetővé kell tenni a bűnüldöző, határellenőrzési, bevándorlási vagy menekültügyi hatóságok számára, hogy – anélkül, hogy e rendelet előzetes engedély beszerzésére kötelezné őket –, az uniós vagy a nemzeti joggal összhangban információs rendszereket használjanak azon személyek azonosítására, akik a személyazonosság-ellenőrzés során vagy megtagadják az azonosítást, vagy képtelenek nyilatkozni személyazonosságukról vagy igazolni azt. Ez lehet például olyan, bűncselekményben érintett személy, aki a bűnüldöző hatóságoknak nem hajlandó felfedni a személyazonosságát, vagy aki baleset vagy egészségi állapota miatt képtelen erre.
(33)
Prin urmare, utilizarea sistemelor respective în scopul aplicării legii ar trebui să fie interzisă, cu excepția situațiilor enumerate în mod exhaustiv și definite în mod precis în care utilizarea este strict necesară pentru un interes public substanțial, a cărui importanță este superioară riscurilor. Situațiile respective implică căutarea anumitor victime ale unor infracțiuni, inclusiv persoane dispărute, anumite amenințări la adresa vieții sau a siguranței fizice a persoanelor fizice sau privind un atac terorist și localizarea sau identificarea autorilor infracțiunilor enumerate într-o anexă la prezentul regulament sau a persoanelor suspectate de acestea, în cazul în care infracțiunile respective se pedepsesc în statul membru în cauză cu o pedeapsă sau o măsură de siguranță privativă de libertate pentru o perioadă maximă de cel puțin patru ani și astfel cum sunt definite în dreptul intern al statului membru respectiv. Un astfel de prag pentru pedeapsa sau măsura de siguranță privativă de libertate în conformitate cu dreptul intern contribuie la asigurarea faptului că infracțiunea ar trebui să fie suficient de gravă pentru a justifica eventual utilizarea sistemelor de identificare biometrică la distanță „în timp real”. În plus, lista infracțiunilor prevăzută în anexa la prezentul regulament se bazează pe cele 32 de infracțiuni enumerate în Decizia-cadru 2002/584/JAI a Consiliului (18), ținând seama de faptul că unele infracțiuni sunt, în practică, susceptibile să fie mai relevante decât altele, în sensul că recurgerea la identificarea biometrică la distanță „în timp real” ar putea, în mod previzibil, fi necesară și proporțională în grade foarte diferite pentru urmărirea practică a localizării sau a identificării unui autor al diferitelor infracțiuni enumerate sau a unei persoane suspectate de acestea, și având în vedere diferențele probabile în ceea ce privește gravitatea, probabilitatea și amploarea prejudiciului sau posibilele consecințe negative. O amenințare iminentă la adresa vieții sau a siguranței fizice a unor persoane fizice ar putea rezulta și dintr-o perturbare gravă a infrastructurii critice, astfel cum este definită la articolul 2 punctul 4 din Directiva (UE) 2022/2557 a Parlamentului European și a Consiliului (19), în cazul în care perturbarea sau distrugerea unei astfel de infrastructuri critice ar genera o amenințare iminentă la adresa vieții sau a siguranței fizice a unei persoane, inclusiv prin afectarea gravă a aprovizionării cu produse de bază a populației sau a exercitării funcțiilor de bază ale statului. În plus, prezentul regulament ar trebui să mențină capacitatea autorităților de aplicare a legii, de control la frontiere, de imigrație sau de azil de a efectua controale de identitate în prezența persoanei vizate, în conformitate cu condițiile prevăzute în dreptul Uniunii și în cel intern pentru astfel de controale. În special, autoritățile de aplicare a legii, de control la frontiere, de imigrație sau de azil ar trebui să poată utiliza sistemele de informații, în conformitate cu dreptul Uniunii sau cu cel intern, pentru a identifica persoane care, în cursul unui control de identitate, fie refuză să fie identificate, fie sunt incapabile să își declare sau să își dovedească identitatea, fără ca autoritățile în cauză să fie obligate prin prezentul regulament să obțină o autorizație prealabilă. Ar putea fi vorba, de exemplu, de o persoană implicată într-o infracțiune care fie nu dorește, fie, din cauza unui accident sau a unei afecțiuni medicale, nu poate să își divulge identitatea autorităților de aplicare a legii.
(34)
Annak érdekében, hogy e rendszerek használata felelős és arányos módon történjen, azt is fontos megállapítani, hogy e kimerítő jelleggel felsorolt és szűken meghatározott helyzetek mindegyikében figyelembe kell venni bizonyos tényezőket, különösen a kérelem alapjául szolgáló helyzet jellegét és a használat valamennyi érintett személy jogaira és szabadságaira gyakorolt következményeit, valamint a használathoz előírt biztosítékokat és feltételeket. Ezen túlmenően a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használata kizárólag a konkrét célszemély személyazonosságának megerősítése érdekében indítható el, és azt az időtartam, valamint a földrajzi és személyi hatály tekintetében a feltétlenül szükséges mértékre kell korlátozni, különös tekintettel a fenyegetésekkel, az áldozattokkal vagy az elkövetőkkel kapcsolatos bizonyítékokra vagy jelzésekre. A valós idejű távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken történő használata csak akkor engedélyezhető, ha a releváns bűnüldöző hatóság elvégezte az alapvetőjogi hatásvizsgálatot, és – amennyiben e rendelet másként nem rendelkezik – nyilvántartásba vette a rendszert az e rendeletben meghatározott adatbázisban. A személyek referencia-adatbázisának a fent említett helyzetek mindegyikében megfelelőnek kell lennie minden egyes felhasználási eset vonatkozásában.
(34)
Pentru a se asigura că sistemele respective sunt utilizate în mod responsabil și proporțional, este de asemenea important să se stabilească faptul că, în fiecare dintre aceste situații enumerate în mod exhaustiv și precis definite, ar trebui să fie luate în considerare anumite elemente, în special în ceea ce privește natura situației care a stat la baza cererii și consecințele utilizării asupra drepturilor și libertăților tuturor persoanelor vizate, precum și garanțiile și condițiile prevăzute pentru utilizare. În plus, ar trebui să se recurgă la utilizarea sistemelor de identificare biometrică la distanță „în timp real” în spațiile accesibile publicului în scopul aplicării legii numai pentru a confirma identitatea persoanei vizate în mod specific și această utilizare ar trebui să se limiteze la ceea ce este strict necesar din punct de vedere al perioadei de timp, precum și al sferei de aplicare geografică și personală, având în vedere în special dovezile sau indicațiile privind amenințările, victimele sau autorul infracțiunii. Utilizarea sistemului de identificare biometrică la distanță în timp real în spațiile accesibile publicului ar trebui să fie autorizată numai dacă autoritatea relevantă de aplicare a legii a finalizat o evaluare a impactului asupra drepturilor fundamentale și, cu excepția cazului în care se prevede altfel în prezentul regulament, a înregistrat sistemul în baza de date prevăzută în prezentul regulament. Baza de date de referință a persoanelor ar trebui să fie adecvată pentru fiecare caz de utilizare în fiecare dintre situațiile menționate mai sus.
(35)
A „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használatához minden esetben valamely tagállam igazságügyi hatóságának vagy független közigazgatási hatóságának kifejezett és egyedi engedélye szükséges, amelynek határozata kötelező érvényű. Az ilyen engedélyt elvben az MI-rendszer egy vagy több személy azonosítása céljából történő használata előtt kell beszerezni. Az említett szabály alól sürgősségi alapon kivételt lehet tenni kellően indokolt esetekben, nevezetesen olyan esetekben, amikor az érintett rendszerek használatának szükségessége ténylegesen és objektíve lehetetlenné teszi az engedély megszerzését az MI-rendszer használatának megkezdése előtt. Az ilyen sürgős helyzetekben az MI-rendszer használatát a feltétlenül szükséges minimumra kell korlátozni, és arra a nemzeti jogban megállapított és maga a bűnüldöző hatóság által az egyes sürgős felhasználási esetek kapcsán meghatározott megfelelő biztosítékokat és feltételeket kell alkalmazni. Ezen túlmenően a bűnüldöző hatóságnak ilyen helyzetekben indokolatlan késedelem nélkül és legkésőbb 24 órán belül kérelmeznie kell az engedélyt, és egyúttal meg kell indokolnia, hogy miért nem volt lehetősége arra, hogy azt korábban megkérje. Ilyen engedély megtagadása esetén a valós idejű biometrikus azonosító rendszereknek az adott engedélyhez kapcsolódó használatát azonnali hatállyal le kell állítani, és az e használathoz kapcsolódó valamennyi adatot el kell vetni és törölni kell. Az ilyen adatok magukban foglalják a valamely MI-rendszer által az említett rendszer használata során közvetlenül szerzett bemeneti adatokat, valamint az említett engedélyhez kapcsolódó használat eredményeit és kimeneteit. Nem foglalják magukban a valamely más uniós vagy nemzeti jogszabállyal összhangban jogszerűen szerzett bemeneteket. Kizárólag a távoli biometrikus azonosító rendszer kimenete alapján semmi esetre sem hozható olyan döntés, amely egy személyre nézve kedvezőtlen joghatással jár.
(35)
Fiecare utilizare a unui sistem de identificare biometrică la distanță „în timp real” în spațiile accesibile publicului în scopul aplicării legii ar trebui să facă obiectul unei autorizări exprese și specifice de către o autoritate judiciară sau o autoritate administrativă independentă a unui stat membru a cărei decizie este obligatorie. O astfel de autorizație ar trebui, în principiu, să fie obținută înainte de utilizarea sistemului de IA în vederea identificării uneia sau mai multor persoane. Ar trebui să fie permise excepții de la această regulă în situații justificate în mod corespunzător din motive de urgență, și anume în situațiile în care necesitatea de a utiliza sistemele în cauză este de natură să facă imposibilă în mod efectiv și obiectiv obținerea unei autorizații înainte de începerea utilizării sistemului de IA. În astfel de situații de urgență, utilizarea sistemului de IA ar trebui să fie limitată la ceea ce este minim și absolut necesar și ar trebui să facă obiectul unor garanții și condiții adecvate, astfel cum sunt stabilite în dreptul intern și specificate de către însăși autoritatea de aplicare a legii în contextul fiecărui caz individual de utilizare urgentă. În plus, în astfel de situații, autoritatea de aplicare a legii ar trebui să solicite o astfel de autorizație și să furnizeze în același timp motivele pentru care nu a fost în măsură să o solicite mai devreme, fără întârzieri nejustificate și cel târziu în termen de 24 de ore. În cazul în care solicitarea unei astfel de autorizații este respinsă, utilizarea sistemelor de identificare biometrică în timp real legate de autorizația respectivă ar trebui să înceteze cu efect imediat și toate datele legate de utilizarea respectivă ar trebui să fie înlăturate și șterse. Aceste date includ datele de intrare dobândite direct de un sistem de IA în cursul utilizării unui astfel de sistem, precum și rezultatele și produsele obținute în cadrul utilizării legate de autorizația respectivă, dar nu ar trebui să includă datele de intrare dobândite în mod legal în conformitate cu un alt act legislativ al Uniunii sau național. În orice caz, nicio decizie care produce un efect juridic negativ asupra unei persoane nu ar trebui să fie luată exclusiv pe baza unui produs al sistemului de identificare biometrică la distanță.
(36)
Annak érdekében, hogy az érintett piacfelügyeleti hatóság és a nemzeti adatvédelmi hatóság az e rendeletben meghatározott követelményekkel és a nemzeti szabályokkal összhangban elláthassa feladatait, e hatóságokat értesíteni kell a valós idejű biometrikus azonosító rendszer minden egyes használatáról. Azon piacfelügyeleti hatóságoknak és nemzeti adatvédelmi hatóságoknak, amelyek értesítést kaptak, évente jelentést kell benyújtaniuk a Bizottságnak a valós idejű biometrikus azonosító rendszerek használatáról.
(36)
Pentru a-și îndeplini sarcinile în conformitate cu cerințele prevăzute în prezentul regulament, precum și în normele naționale, autoritatea relevantă de supraveghere a pieței și autoritatea națională pentru protecția datelor ar trebui să fie notificate cu privire la fiecare utilizare a sistemului de identificare biometrică în timp real. Autoritățile de supraveghere a pieței și autoritățile naționale pentru protecția datelor care au fost notificate ar trebui să prezinte Comisiei un raport anual privind utilizarea sistemelor de identificare biometrică în timp real.
(37)
Továbbá, helyénvaló – az e rendeletben meghatározott kimerítő keretek között – előírni, hogy az ilyen használat egy tagállam területén e rendelettel összhangban csak akkor és annyiban legyen lehetséges, ha és amennyiben az érintett tagállam úgy határozott, hogy nemzeti jogának részletes szabályaiban kifejezetten rendelkezik az ilyen használat engedélyezésének lehetőségéről. Következésképpen a tagállamok e rendelet értelmében továbbra is szabadon dönthetnek arról, hogy egyáltalán nem, vagy csak az e rendeletben meghatározott engedélyezett használat indokolására alkalmas bizonyos célkitűzések tekintetében rendelkeznek ilyen lehetőségről. Az ilyen nemzeti szabályokról az elfogadásuktól számított 30 napon belül értesíteni kell a Bizottságot.
(37)
În plus, este oportun să se prevadă, în cadrul exhaustiv stabilit de prezentul regulament, că o astfel de utilizare pe teritoriul unui stat membru în conformitate cu prezentul regulament ar trebui să fie posibilă numai în cazul și în măsura în care statul membru respectiv a decis să prevadă în mod expres posibilitatea de a autoriza o astfel de utilizare în normele sale detaliate de drept intern. În consecință, în temeiul prezentului regulament, statele membre au în continuare libertatea de a nu prevedea o astfel de posibilitate sau de a prevedea o astfel de posibilitate numai în ceea ce privește unele dintre obiectivele care pot justifica utilizarea autorizată identificate în prezentul regulament. Astfel de norme naționale ar trebui să fie notificate Comisiei în termen de 30 de zile de la adoptare.
(38)
Az MI-rendszerek természetes személyek valós idejű távoli biometrikus azonosítására, a nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használata szükségszerűen magában foglalja biometrikus adatok feldolgozását. E rendelet azon, az EUMSZ 16. cikkén alapuló szabályait, amelyek – bizonyos kivételekre is figyelemmel – tiltják az ilyen használatot, lex specialis-ként kell alkalmazni az (EU) 2016/680 irányelv 10. cikkében foglalt, a biometrikus adatok kezelésére vonatkozó szabályok tekintetében, ennélfogva ezek kimerítően szabályozzák az ilyen használatot és az érintett biometrikus adatok kezelését. Ezért az ilyen használat és adatkezelés csak annyiban lehetséges, amennyiben összeegyeztethető az e rendeletben meghatározott kerettel, és nincs lehetőség arra, hogy e kereten kívül az illetékes hatóságok – amennyiben bűnüldözési célból járnak el – az (EU) 2016/680 irányelv 10. cikkében felsorolt okokból használják az ilyen rendszereket és kezeljék a kapcsolódó adatokat. Ebben az összefüggésben e rendeletnek nem célja, hogy jogalapot biztosítson a személyes adatoknak az (EU) 2016/680 irányelv 8. cikke szerinti kezeléséhez. A valós idejű távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözési céloktól eltérő célokra történő, többek között az illetékes hatóságok általi használatára azonban nem terjedhet ki az e rendeletben meghatározott, a bűnüldözési célú használatra vonatkozó különös keret. Az ilyen, nem bűnüldözési célú használat ezért nem köthető az e rendelet szerinti, engedéllyel kapcsolatos követelményhez és a nemzeti jog azon alkalmazandó, részletes szabályaihoz, amelyek az említett engedélyt érvényre juttathatják.
(38)
Utilizarea sistemelor de IA pentru identificarea biometrică la distanță în timp real a persoanelor fizice în spațiile accesibile publicului în scopul aplicării legii implică în mod necesar prelucrarea de date biometrice. Normele din prezentul regulament care interzic, sub rezerva anumitor excepții, o astfel de utilizare, care se întemeiază pe articolul 16 din TFUE, ar trebui să se aplice ca lex specialis în ceea ce privește normele privind prelucrarea datelor biometrice prevăzute la articolul 10 din Directiva (UE) 2016/680, reglementând astfel în mod exhaustiv această utilizare și prelucrarea datelor biometrice implicate. Prin urmare, o astfel de utilizare și prelucrare ar trebui să fie posibile numai în măsura în care sunt compatibile cu cadrul stabilit de prezentul regulament, fără a exista, în afara cadrului respectiv, posibilitatea ca autoritățile competente, atunci când acționează în scopul aplicării legii, să utilizeze astfel de sisteme și să prelucreze astfel de date în legătură cu utilizarea respectivă din motivele enumerate la articolul 10 din Directiva (UE) 2016/680. În acest context, prezentul regulament nu este menit să ofere temeiul juridic pentru prelucrarea datelor cu caracter personal în baza articolului 8 din Directiva (UE) 2016/680. Cu toate acestea, utilizarea sistemelor de identificare biometrică la distanță în timp real în spații accesibile publicului în alte scopuri decât cele de aplicare a legii, inclusiv de către autoritățile competente, nu ar trebui să facă obiectul cadrului specific privind o astfel de utilizare în scopul aplicării legii stabilit de prezentul regulament. Prin urmare, o astfel de utilizare în alte scopuri decât aplicarea legii nu ar trebui să facă obiectul solicitării unei autorizații în temeiul prezentului regulament și al normelor de drept intern detaliate aplicabile prin care autorizația respectivă poate produce efecte.
(39)
A biometrikus adatok és az MI-rendszerek biometrikus azonosítás céljából történő használatával érintett egyéb személyes adatok kezelésének – a valós idejű távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözési célból történő, e rendeletben szabályozott használatával összefüggő adatkezelés kivételével – továbbra is meg kell felelnie az (EU) 2016/680 irányelv 10. cikkéből eredő valamennyi követelménynek. A bűnüldözéstől eltérő célok esetében az (EU) 2016/679 rendelet 9. cikkének (1) bekezdése és az (EU) 2018/1725 rendelet 10. cikkének (1) bekezdése az említett cikkekben meghatározott korlátozott körű kivételek mellett tiltja a biometrikus adatok kezelését. Az (EU) 2016/679 rendelet 9. cikke (1) bekezdésének alkalmazásában nemzeti adatvédelmi hatóságok már hoztak a távoli biometrikus azonosítás bűnüldözéstől eltérő célokra történő használatának tiltására vonatkozó határozatokat.
(39)
Orice prelucrare de date biometrice și alte date cu caracter personal implicate în utilizarea sistemelor de IA pentru identificarea biometrică, alta decât în legătură cu utilizarea sistemelor de identificare biometrică la distanță în timp real în spații accesibile publicului în scopul aplicării legii, astfel cum este reglementată de prezentul regulament, ar trebui să respecte în continuare toate cerințele care decurg din articolul 10 din Directiva (UE) 2016/680. În ceea ce privește alte scopuri decât aplicarea legii, articolul 9 alineatul (1) din Regulamentul (UE) 2016/679 și articolul 10 alineatul (1) din Regulamentul (UE) 2018/1725 interzic prelucrarea de date biometrice, sub rezerva unor excepții limitate prevăzute la articolele respective. În vederea aplicării articolului 9 alineatul (1) din Regulamentul (UE) 2016/679, utilizarea identificării biometrice la distanță în alte scopuri decât aplicarea legii a făcut deja obiectul unor decizii de interzicere luate de autoritățile naționale pentru protecția datelor.
(40)
Az EUSZ-hez és az EUMSZ-hez csatolt, az Egyesült Királyságnak és Írországnak a szabadságon, a biztonságon és a jog érvényesülésén alapuló térség tekintetében fennálló helyzetéről szóló 21. jegyzőkönyv 6a. cikkével összhangban Írországot nem kötelezik az EUMSZ 16. cikke alapján elfogadott, az e rendelet 5. cikke (1) bekezdése első albekezdésének g) pontjában – amennyiben az a biometrikus kategorizálási rendszereknek a büntetőügyekben folytatott rendőrségi és igazságügyi együttműködés területén végzett tevékenységek céljára történő használatára alkalmazandó –, 5. cikke (1) bekezdése első albekezdésének d) pontjában – amennyiben az az említett rendelkezés hatálya alá tartozó MI-rendszerek használatára alkalmazandó –, 5. cikke (1) bekezdése, első albekezdésének h) pontjában, 5. cikkének (2)–(6) bekezdésében és 26. cikkének (10) bekezdésében meghatározott azon szabályok, amelyek a személyes adatoknak a tagállamok által, az EUMSZ harmadik része V. címe 4. vagy 5. fejezetének alkalmazási körébe tartozó tevékenységek során végzett kezelésére vonatkoznak, amennyiben Írországot nem kötelezik a büntetőügyekben folytatott igazságügyi együttműködés vagy rendőrségi együttműködés formáira vonatkozó olyan szabályok, amelyek megkívánják az EUMSZ 16. cikke alapján meghatározott rendelkezések betartását.
(40)
În conformitate cu articolul 6a din Protocolul nr. 21 privind poziția Regatului Unit și a Irlandei în ceea ce privește spațiul de libertate, securitate și justiție, anexat la TUE și la TFUE, Irlandei nu îi revin obligații în temeiul normelor prevăzute la articolul 5 alineatul (1) primul paragraf litera (g) în măsura în care se aplică utilizării sistemelor de clasificare biometrică pentru activități în domeniul cooperării polițienești și al cooperării judiciare în materie penală, la articolul 5 alineatul (1) primul paragraf litera (d) în măsura în care se aplică utilizării sistemelor de IA care intră sub incidența dispoziției respective, la articolul 5 alineatul (1) primul paragraf litera (h) și alineatele (2)-(6) și la articolul 26 alineatul (10) din prezentul regulament adoptate în temeiul articolului 16 din TFUE, referitoare la prelucrarea datelor cu caracter personal de către statele membre atunci când exercită activități care intră în domeniul de aplicare al părții a treia titlul V capitolul 4 sau 5 din TFUE, în cazurile în care Irlandei nu îi revin obligații în temeiul normelor privind formele de cooperare judiciară în materie penală sau de cooperare polițienească care necesită respectarea dispozițiilor stabilite în temeiul articolului 16 din TFUE.
(41)
Az EUSZ-hez és az EUMSZ-hez csatolt, Dánia helyzetéről szóló 22. jegyzőkönyv 2. és 2a. cikkével összhangban Dániára nézve nem kötelezőek és nem alkalmazandók az EUMSZ 16. cikke alapján elfogadott, az e rendelet 5. cikke (1) bekezdése első albekezdésének g) pontjában – amennyiben az a biometrikus kategorizálási rendszereknek a büntetőügyekben folytatott rendőrségi és igazságügyi együttműködés területén végzett tevékenységek céljára történő használatára alkalmazandó –, 5. cikke (1) bekezdése első albekezdésének d) pontjában – amennyiben az az említett rendelkezés hatálya alá tartozó MI-rendszerek használatára alkalmazandó –, 5. cikke (1) bekezdése első albekezdésének h) pontjában, 5. cikkének (2)–(6) bekezdésében és 26. cikkének (10) bekezdésében meghatározott azon szabályok, amelyek a személyes adatoknak a tagállamok által, az EUMSZ harmadik része V. címe 4. vagy 5. fejezetének alkalmazási körébe tartozó tevékenységek során végzett kezelésére vonatkoznak.
(41)
În conformitate cu articolele 2 și 2a din Protocolul nr. 22 privind poziția Danemarcei, anexat la TUE și la TFUE, Danemarcei nu îi revin obligații în temeiul normelor prevăzute la articolul 5 alineatul (1) primul paragraf litera (g) în măsura în care se aplică utilizării sistemelor de clasificare biometrică pentru activități în domeniul cooperării polițienești și al cooperării judiciare în materie penală, la articolul 5 alineatul (1) primul paragraf litera (d) în măsura în care se aplică utilizării sistemelor de IA care intră sub incidența dispoziției respective, la articolul 5 alineatul (1) primul paragraf litera (h) și alineatele (2)-(6) și la articolul 26 alineatul (10) din prezentul regulament adoptate în temeiul articolului 16 din TFUE, referitoare la prelucrarea datelor cu caracter personal de către statele membre atunci când exercită activități care intră în domeniul de aplicare al părții a treia titlul V capitolul 4 sau 5 din TFUE și Danemarca nu face obiectul aplicării normelor respective.
(42)
Az ártatlanság vélelmével összhangban az Unióban természetes személyekre vonatkozó döntés minden esetben kizárólag e személyek tényleges magatartása alapján hozható. Természetes személyekre vonatkozó döntés soha nem hozható kizárólag a rájuk vonatkozó profilalkotás, személyiségjegyek vagy tulajdonságok – mint például állampolgárság, születési hely, tartózkodási hely, gyermekek száma, adósságszint vagy gépjármű típusa – alapján MI által előre jelzett magatartás alapján, az adott személy bűncselekményben való részvételére vonatkozó, objektív és ellenőrizhető tényeken nyugvó alapos gyanú nélkül, valamint ezek ember általi értékelése nélkül. Ezért meg kell tiltani a természetes személyekre vonatkozó olyan kockázatértékeléseket, amelyek célja az általuk történő elkövetés valószínűségének értékelése vagy egy tényleges vagy potenciális bűncselekmény bekövetkezésének az előrejelzése kizárólag az e személyekre vonatkozó profilalkotás vagy személyiségjegyeik vagy tulajdonságaik értékelése alapján. Ez a tilalom semmi esetre sem vonatkozik az olyan kockázatelemzésekre, illetve nem érinti azokat, amelyek nem az egyénekre vonatkozó profilalkotáson vagy egyének személyiségjegyein vagy tulajdonságain alapulnak, így például azon MI-rendszerekre, amelyek kockázatelemzést használnak a vállalkozások általi pénzügyi csalás valószínűségének gyanús tranzakciók alapján történő értékelésére, vagy az olyan kockázatelemzési eszközökre, amelyekkel például az ismert csempészútvonalak alapján előre jelezhető, hogy a vámhatóságok milyen valószínűséggel tudják meghatározni kábítószerek vagy tiltott áruk helyét.
(42)
În conformitate cu prezumția de nevinovăție, persoanele fizice din Uniune ar trebui să fie întotdeauna judecate în funcție de comportamentul lor real. Persoanele fizice nu ar trebui să fie niciodată judecate în funcție de comportamentul preconizat de IA exclusiv pe baza creării profilurilor lor, a trăsăturilor lor de personalitate sau a unor caracteristici precum cetățenia, locul nașterii, locul de reședință, numărul de copii, nivelul datoriilor sau tipul de autoturism, dacă nu există o suspiciune rezonabilă, bazată pe fapte obiective verificabile, că persoana respectivă este implicată într-o activitate infracțională și dacă nu se face o evaluare în acest sens de către un om. Prin urmare, ar trebui să fie interzise evaluările riscurilor efectuate în legătură cu persoane fizice pentru a evalua probabilitatea ca acestea să comită infracțiuni sau pentru a anticipa producerea unei infracțiuni reale sau potențiale exclusiv pe baza creării profilurilor acestor persoane sau a evaluării trăsăturilor lor de personalitate și a caracteristicilor lor. În orice caz, această interdicție nu privește și nici nu afectează analiza de risc care nu se bazează pe crearea de profiluri ale persoanelor sau pe trăsăturile de personalitate și caracteristicile persoanelor, cum ar fi sistemele de IA care utilizează analiza de risc pentru a evalua probabilitatea de fraudă financiară din partea întreprinderilor pe baza unor tranzacții suspecte sau instrumentele analitice de risc utilizate pentru a prevedea probabilitatea localizării de către autoritățile vamale a stupefiantelor sau a mărfurilor ilicite, de exemplu pe baza rutelor de trafic cunoscute.
(43)
Az arcképek internetről vagy zártláncú televízió-felvételekből való, nem célzott lekérdezésével arcfelismerő adatbázisokat létrehozó vagy ilyeneket bővítő MI-rendszerek forgalomba hozatalát, e konkrét célra történő üzembe helyezését vagy használatát tiltani kell, mivel e gyakorlat növeli a tömeges megfigyelés érzését, és az alapvető jogok, többek között a magánélet tiszteletben tartásához való jog súlyos megsértéséhez vezethet.
(43)
Introducerea pe piață, punerea în funcțiune în scopul specific respectiv și utilizarea sistemelor de IA care creează sau extind baze de date de recunoaștere facială prin extragerea fără scop precis de imagini faciale de pe internet sau din înregistrări TVCI ar trebui să fie interzise, deoarece această practică amplifică sentimentul de supraveghere în masă și poate duce la încălcări grave ale drepturilor fundamentale, inclusiv ale dreptului la viață privată.
(44)
Az érzelmek azonosítását vagy az azokra való következtetést célzó MI-rendszerek tudományos alapjával kapcsolatban komoly aggályok merültek fel, különösen azért, mert az érzelmek kifejezése jelentősen eltér egymástól kultúránként és helyzetenként, sőt akár egyetlen személy esetében is. Az ilyen rendszerek fő hiányosságai közé tartozik a korlátozott megbízhatóság, a specifikusság hiánya, valamint a korlátozott általánosíthatóság. Ezért az olyan MI-rendszerek, amelyek természetes személyek biometrikus adatai alapján azonosítják a természetes személyek érzelmeit vagy szándékait, illetve következtetnek azokra, diszkriminatív eredményekhez vezethetnek és tolakodóak lehetnek az érintett személyek jogaira és szabadságaira nézve. Tekintettel arra, hogy a munka vagy az oktatás területén az erőviszonyok kiegyensúlyozatlanok, amihez e rendszerek tolakodó jellege társul, az ilyen rendszerek bizonyos természetes személyekkel vagy azok egész csoportjával szemben hátrányos vagy kedvezőtlen bánásmódhoz vezethetnek. Ezért a munkahelyhez és az oktatáshoz kapcsolódó helyzetek összefüggésében meg kell tiltani az egyének érzelmi állapotának felderítésére szánt MI-rendszerek forgalomba hozatalát, üzembe helyezését, illetve használatát. Ez a tilalom nem terjedhet ki a szigorúan orvosi vagy biztonsági okokból forgalomba hozott, például a terápiás használatra szánt MI-rendszerekre.
(44)
Există preocupări serioase cu privire la baza științifică a sistemelor de IA care vizează identificarea sau deducerea emoțiilor, în special deoarece exprimarea emoțiilor variază considerabil de la o cultură la alta și de la o situație la alta și chiar la nivelul unei singure persoane. Printre principalele deficiențe ale unor astfel de sisteme se numără fiabilitatea limitată, lipsa specificității și posibilitățile limitate de generalizare. Prin urmare, sistemele de IA care identifică sau deduc emoțiile sau intențiile persoanelor fizice pe baza datelor lor biometrice pot genera rezultate discriminatorii și pot fi intruzive pentru drepturile și libertățile persoanelor în cauză. Având în vedere dezechilibrul de putere în contextul muncii sau al educației, combinat cu caracterul intruziv al acestor sisteme, ele ar putea conduce la un tratament prejudiciabil sau nefavorabil al anumitor persoane fizice sau al unor grupuri întregi de astfel de persoane. Prin urmare, ar trebui să fie interzise introducerea pe piață, punerea în funcțiune și utilizarea sistemelor de IA destinate a fi utilizate pentru a detecta starea emoțională a persoanelor în situații legate de locul de muncă și de educație. Această interdicție nu ar trebui să se aplice sistemelor de IA introduse pe piață strict din motive medicale sau de siguranță, cum ar fi sistemele destinate utilizării în scop terapeutic.
(45)
E rendelet nem érintheti azon gyakorlatokat, amelyeket az uniós jog – többek között az adatvédelmi jog, a megkülönböztetésmentességre vonatkozó jog, a fogyasztóvédelmi jog és a versenyjog – tilt.
(45)
Practicile interzise de dreptul Uniunii, inclusiv dreptul privind protecția datelor, dreptul privind nediscriminarea, dreptul privind protecția consumatorilor și dreptul concurenței, nu ar trebui să fie afectate de prezentul regulament.
(46)
A nagy kockázatú MI-rendszerek csak akkor hozhatók forgalomba az Unión belül, helyezhetők üzembe vagy használhatók, ha megfelelnek bizonyos kötelező követelményeknek. E követelményeknek biztosítaniuk kell, hogy azon nagy kockázatú MI-rendszerek, amelyek az Unióban rendelkezésre állnak vagy amelyek kimenetét más módon felhasználják az Unióban, ne jelentsenek elfogadhatatlan kockázatot az uniós jog által elismert és védett fontos uniós közérdekekre nézve. Az új jogszabályi keret alapján, amint azt a termékekre vonatkozó uniós szabályozásról szóló, 2022. évi bizottsági útmutató – „A kék útmutató” (20) – kifejti, főszabály szerint az uniós harmonizációs jogalkotás több jogi aktusa – így például az (EU) 2017/745 (21) és az (EU) 2017/746 európai parlamenti és tanácsi rendelet (22) vagy a 2006/42/EK európai parlamenti és tanácsi irányelv (23) – is alkalmazható egyetlen termékre, mivel a forgalmazásra vagy az üzembe helyezésre csak akkor kerülhet sor, ha a termék megfelel valamennyi alkalmazandó uniós harmonizációs jogszabálynak. A következetesség biztosítása és a szükségtelen adminisztratív terhek vagy költségek elkerülése érdekében az olyan termék szolgáltatóinak, amely egy vagy több olyan, nagy kockázatú MI-rendszert tartalmaz, amelyre az e rendeletben és az e rendelet egyik mellékletében felsorolt uniós harmonizációs jogszabályokban foglalt követelmények alkalmazandók, rugalmassággal kell rendelkezniük azon működési döntések tekintetében, hogy miként biztosítsák optimális módon az egy vagy több MI-rendszert tartalmazó termék megfelelését az uniós harmonizációs jogszabályokban foglalt valamennyi alkalmazandó követelménynek. A nagy kockázatúként azonosított MI-rendszereket azon rendszerekre kell limitálni, amelyek jelentős káros hatást gyakorolnak az Unióban élő személyek egészségére, biztonságára és alapvető jogaira, és az ilyen limitálásnak minimálisra kell csökkentenie a nemzetközi kereskedelem potenciális korlátozását.
(46)
Sistemele de IA cu grad ridicat de risc ar trebui să fie introduse pe piața Uniunii, puse în funcțiune sau utilizate numai dacă respectă anumite cerințe obligatorii. Cerințele respective ar trebui să asigure faptul că sistemele de IA cu grad ridicat de risc disponibile în Uniune sau ale căror rezultate sunt utilizate în alt mod în Uniune nu prezintă riscuri inacceptabile pentru interesele publice importante ale Uniunii, astfel cum sunt recunoscute și protejate de dreptul Uniunii. Pe baza noului cadru legislativ, astfel cum s-a clarificat în Comunicarea Comisiei intitulată „«Ghidul albastru» din 2022 referitor la punerea în aplicare a normelor UE privind produsele” (20), regula generală este că cel puțin un act juridic din legislația de armonizare a Uniunii, cum ar fi Regulamentele (UE) 2017/745 (21) și (UE) 2017/746 (22) ale Parlamentului European și ale Consiliului sau Directiva 2006/42/CE a Parlamentului European și a Consiliului (23), poate fi aplicabil unui singur produs, deoarece punerea la dispoziție sau punerea în funcțiune poate avea loc numai atunci când produsul respectă întreaga legislație de armonizare a Uniunii aplicabilă. Pentru a se asigura coerența și a se evita sarcinile administrative sau costurile inutile, furnizorii unui produs care conține unul sau mai multe sisteme de IA cu grad ridicat de risc, cărora li se aplică cerințele prezentului regulament și ale legislației de armonizare a Uniunii astfel cum este conținută într-o anexă la prezentul regulament, ar trebui să fie flexibili în ceea ce privește deciziile operaționale cu privire la modul optim de asigurare a conformității unui produs care conține unul sau mai multe sisteme de IA cu toate cerințele aplicabile din respectiva legislație de armonizare a Uniunii. Sistemele de IA identificate ca prezentând un grad ridicat de risc ar trebui să se limiteze la cele care au un impact negativ semnificativ asupra sănătății, siguranței și drepturilor fundamentale ale persoanelor din Uniune, iar o astfel de limitare ar trebui să reducă la minimum orice eventuală restricționare a comerțului internațional.
(47)
Az MI-rendszerek kedvezőtlen hatással lehetnek a személyek egészségére és biztonságára, különösen akkor, ha az ilyen rendszerek termékek biztonsági alkotórészeiként működnek. Az uniós harmonizációs jogszabályok azon célkitűzéseivel összhangban, hogy megkönnyítsék a termékek belső piacon való szabad mozgását, valamint biztosítsák, hogy csak biztonságos és más tekintetben megfelelő termékek kerüljenek a piacra, fontos a termék egésze által a digitális alkotóelemei, többek között az MI-rendszerek miatt esetlegesen előidézett biztonsági kockázatok megfelelő megelőzése és enyhítése. Például az – akár gyártással, akár személyes segítségnyújtással és gondozással összefüggésben használt – egyre önállóbb robotoknak képeseknek kell lenniük arra, hogy biztonságosan működjenek és funkcióikat összetett környezetben lássák el. Hasonlóképpen az egészségügyi ágazatban, ahol az élet és az egészség tekintetében különösen nagy a tét, az egyre kifinomultabb diagnosztikai rendszereknek és az emberi döntéseket támogató rendszereknek megbízhatónak és pontosnak kell lenniük.
(47)
Sistemele de IA ar putea avea un impact negativ asupra sănătății și siguranței persoanelor, în special atunci când funcționează drept componente de siguranță ale produselor. În concordanță cu obiectivele legislației de armonizare a Uniunii de a facilita libera circulație a produselor pe piața internă și de a asigura că numai produsele sigure și conforme în toate privințele ajung pe piață, este important ca riscurile în materie de siguranță care pot fi generate de un produs în ansamblu din cauza componentelor sale digitale, inclusiv a sistemelor de IA, să fie prevenite și atenuate în mod corespunzător. De exemplu, roboții din ce în ce mai autonomi, fie în contextul producției, fie în contextul asistenței și îngrijirii personale, ar trebui să fie în măsură să își desfășoare activitatea și să își îndeplinească funcțiile în condiții de siguranță în medii complexe. În mod similar, în sectorul sănătății, unde mizele privind viața și sănătatea sunt deosebit de ridicate, sistemele de diagnosticare din ce în ce mai sofisticate și sistemele care sprijină deciziile umane ar trebui să fie fiabile și exacte.
(48)
A Charta által védett alapvető jogokra az MI-rendszer által gyakorolt kedvezőtlen hatás mértéke különösen fontos egy adott MI-rendszer nagy kockázatúként való besorolásakor. Az említett jogok közé tartozik az emberi méltósághoz való jog, a magán- és családi élet tiszteletben tartása, a személyes adatok védelme, a véleménynyilvánítás és a tájékozódás szabadsága, a gyülekezés és az egyesülés szabadsága, a megkülönböztetésmentességhez való jog, az oktatáshoz való jog, a fogyasztóvédelem, a munkavállalók jogai, a fogyatékossággal élő személyek jogai, a nemek közötti egyenlőség, a szellemitulajdon-jogok, a hatékony jogorvoslathoz és a tisztességes eljáráshoz való jog, a védelemhez való jog és az ártatlanság vélelme, valamint a megfelelő ügyintézéshez való jog. Az említett jogok mellett fontos kiemelni azon tényt, hogy a gyermekek a Charta 24. cikkében és az Egyesült Nemzetek Szervezetének a gyermekek jogairól szóló egyezményében foglalt – a gyermek jogairól szóló ENSZ-egyezmény digitális környezetre vonatkozó 25. sz. általános észrevételében részletesebben kifejtett – különös jogokkal rendelkeznek; mindkét okmány előírja a gyermekek sebezhetőségének figyelembevételét, valamint a jóllétükhöz szükséges védelem és gondoskodás biztosítását. Azon kár súlyosságának értékelésekor, amelyet egy MI-rendszer tud okozni, figyelembe kell venni a magas szintű környezetvédelemhez való, a Chartában rögzített és az uniós szakpolitikákban végrehajtott alapvető jogot is, többek között a személyek egészségével és biztonságával kapcsolatban.
(48)
Amploarea impactului negativ al sistemului de IA asupra drepturilor fundamentale protejate de cartă este deosebit de relevantă atunci când un sistem de IA este clasificat ca prezentând un grad ridicat de risc. Printre aceste drepturi se numără dreptul la demnitate umană, respectarea vieții private și de familie, protecția datelor cu caracter personal, libertatea de exprimare și de informare, libertatea de întrunire și de asociere, precum, dreptul la nediscriminarea, dreptul la educație, protecția consumatorilor, drepturile lucrătorilor, drepturile persoanelor cu dizabilități, egalitatea de gen, drepturile de proprietate intelectuală, dreptul la o cale de atac eficientă și la un proces echitabil, dreptul la apărare și prezumția de nevinovăție și dreptul la o bună administrare. Pe lângă aceste drepturi, este important să se sublinieze faptul că copiii au drepturi specifice, astfel cum sunt consacrate la articolul 24 din cartă și în Convenția Organizației Națiunilor Unite cu privire la drepturile copilului, detaliată în Comentariul general nr. 25 la aceasta privind mediul digital, ambele impunând luarea în considerare a vulnerabilităților copiilor și asigurarea protecției și îngrijirii necesare pentru bunăstarea lor. Dreptul fundamental la un nivel ridicat de protecție a mediului consacrat în cartă și pus în aplicare în politicile Uniunii ar trebui, de asemenea, să fie luat în considerare atunci când se evaluează gravitatea prejudiciului pe care îl poate cauza un sistem de IA, inclusiv în ceea ce privește sănătatea și siguranța persoanelor.
(49)
Azon nagy kockázatú MI-rendszerek tekintetében, amelyek a 300/2008/EK európai parlamenti és tanácsi rendelet (24), a 167/2013/EU európai parlamenti és tanácsi rendelet (25), a 168/2013/EU európai parlamenti és tanácsi rendelet (26), a 2014/90/EU európai parlamenti és tanácsi irányelv (27), az (EU) 2016/797 európai parlamenti és tanácsi irányelv (28), az (EU) 2018/858 európai parlamenti és tanácsi rendelet (29), az (EU) 2018/1139 európai parlamenti és tanácsi rendelet (30), valamint az (EU) 2019/2144 európai parlamenti és tanácsi rendelet (31) hatálya alá tartozó termékek vagy rendszerek biztonsági alkotórészei, vagy amelyek maguk ilyen termékek vagy rendszerek, helyénvaló e jogi aktusokat módosítani annak érdekében, hogy a Bizottság – az egyes ágazatok műszaki és szabályozási sajátosságai alapján, és anélkül, hogy beavatkozna az említett jogszabályokkal létrehozott meglévő irányítási, megfelelőségértékelési és végrehajtási mechanizmusokba és hatóságok működésébe – figyelembe vegye a nagy kockázatú MI-rendszerekre e rendeletben megállapított kötelező követelményeket, amikor ezen jogi aktusok alapján releváns, felhatalmazáson alapuló vagy végrehajtási jogi aktusokat fogad el.
(49)
În ceea ce privește sistemele de IA cu grad ridicat de risc care sunt componente de siguranță ale produselor sau sistemelor sau care sunt ele însele produse sau sisteme care intră în domeniul de aplicare al Regulamentului (CE) nr. 300/2008 al Parlamentului European și al Consiliului (24), al Regulamentului (UE) nr. 167/2013 al Parlamentului European și al Consiliului (25), al Regulamentului (UE) nr. 168/2013 al Parlamentului European și al Consiliului (26), al Directivei 2014/90/UE a Parlamentului European și a Consiliului (27), al Directivei (UE) 2016/797 a Parlamentului European și a Consiliului (28), al Regulamentului (UE) 2018/858 al Parlamentului European și al Consiliului (29), al Regulamentului (UE) 2018/1139 al Parlamentului European și al Consiliului (30) și al Regulamentului (UE) 2019/2144 al Parlamentului European și al Consiliului (31), este oportun să se modifice respectivele acte legislative pentru a se asigura luarea în considerare de către Comisie, pe baza specificităților tehnice și de reglementare ale fiecărui sector și fără a afecta mecanismele și autoritățile existente de guvernanță, de evaluare a conformității și de aplicare a legislației instituite în acestea, a cerințelor obligatorii pentru sistemele de IA cu grad ridicat de risc prevăzute în prezentul regulament atunci când adoptă orice act delegat sau de punere în aplicare relevant pe baza respectivelor acte legislative.
(50)
Az olyan MI-rendszereket, amelyek az e rendelet egyik mellékletében felsorolt egyes uniós harmonizációs jogszabályok hatálya alá tartozó termékek biztonsági alkotórészei, vagy amelyek maguk ilyen jogszabályok hatálya alá tartozó termékek, helyénvaló e rendelet értelmében nagy kockázatúnak minősíteni, ha az érintett terméket a vonatkozó uniós harmonizációs jogszabály értelmében valamely harmadik félnek minősülő megfelelőségértékelő szervezet által lefolytatott megfelelőségértékelési eljárás alá vonják. Így különösen, ilyen termékek a gépek, a játékok, a felvonók, a robbanásveszélyes légkörben való használatra szánt felszerelések és a védelmi rendszerek, a rádióberendezések, a nyomástartó berendezések, a kedvtelési célú vízi járművek berendezései, a kötélpálya-létesítmények, a gázüzemű berendezések, az orvostechnikai eszközök, az in vitro diagnosztikai orvostechnikai eszközök, a gépjárművek és a légi járművek.
(50)
În ceea ce privește sistemele de IA care sunt componente de siguranță ale produselor sau care sunt ele însele produse care intră în domeniul de aplicare al anumitor acte legislative de armonizare ale Uniunii enumerate într-o anexă la prezentul regulament, este oportun să fie clasificate ca prezentând un grad ridicat de risc în temeiul prezentului regulament în cazul în care produsul respectiv este supus procedurii de evaluare a conformității efectuate de un organism terț de evaluare a conformității în temeiul respectivelor acte legislative de armonizare relevante ale Uniunii. În special, astfel de produse sunt echipamentele tehnice, jucăriile, ascensoarele, echipamentele și sistemele de protecție destinate utilizării în atmosfere potențial explozive, echipamentele radio, echipamentele sub presiune, echipamentele pentru ambarcațiuni de agrement, instalațiile pe cablu, aparatele consumatoare de combustibili gazoși, dispozitivele medicale, dispozitivele medicale pentru diagnostic in vitro, cele din industria auto și aeronautică.
(51)
Az MI-rendszerek e rendelet szerint nagy kockázatú rendszerként való besorolása nem feltétlenül jelenti azt, hogy azon termék, amelynek biztonsági alkotórésze az MI-rendszer vagy maga az MI-rendszer mint termék, a termékre alkalmazandó vonatkozó uniós harmonizációs jogszabályokban megállapított kritériumok alapján nagy kockázatúnak minősül. Ez különösen igaz az (EU) 2017/745 és az (EU) 2017/746 európai parlamenti és tanácsi rendeletre, amelyek a közepes és a nagy kockázatú termékek tekintetében írnak elő harmadik fél általi megfelelőségértékelést.
(51)
Clasificarea unui sistem de IA ca prezentând un grad ridicat de risc în temeiul prezentului regulament nu ar trebui să însemne neapărat că produsul a cărui componentă de siguranță este sistemul de IA sau că sistemul de IA în sine ca produs este considerat ca prezentând un grad ridicat de risc în conformitate cu criteriile stabilite în actele legislative de armonizare relevante ale Uniunii care se aplică produsului. Acesta este, în special, cazul Regulamentelor (UE) 2017/745 și (UE) 2017/746, care prevăd o evaluare a conformității de către un terț pentru produsele cu grad mediu de risc și cu grad ridicat de risc.
(52)
Az önálló MI-rendszereket, nevezetesen azon nagy kockázatú MI-rendszereket, amelyek nem termékek biztonsági alkotórészei, vagy amelyek nem maguk is termékek, helyénvaló nagy kockázatúnak minősíteni, ha rendeltetésük fényében nagy károkozó kockázatot jelentenek a személyek egészségére és biztonságára vagy alapvető jogaira nézve, figyelembe véve a lehetséges kár súlyosságát és bekövetkezési valószínűségét, és ha azokat számos, az e rendeletben megadott, kifejezetten előre meghatározott területen használják. E rendszerek azonosítása ugyanazon módszertanon és kritériumokon alapul, amelyeket előirányoztak a nagy kockázatú MI-rendszerek listájának azon jövőbeli módosításaira is, amelyeknek a technológiai fejlődés gyors üteme, valamint az MI-rendszerek használatában bekövetkező lehetséges változások figyelembevétele érdekében történő, felhatalmazáson alapuló jogi aktusok révén való elfogadására a Bizottságot fel kell hatalmazni.
(52)
În ceea ce privește sistemele de IA autonome, și anume alte sisteme de IA cu grad ridicat de risc decât cele care sunt componente de siguranță ale unor produse sau care sunt ele însele produse, este oportun să fie clasificate ca prezentând un grad ridicat de risc dacă, având în vedere scopul lor preconizat, prezintă un risc ridicat de a aduce prejudicii sănătății și siguranței sau drepturilor fundamentale ale persoanelor, ținându-se seama atât de gravitatea posibilelor prejudicii, cât și de probabilitatea producerii acestora, și dacă sunt utilizate într-o serie de domenii predefinite în mod specific precizate în prezentul regulament. Identificarea sistemelor respective se bazează pe aceeași metodologie și pe aceleași criterii avute în vedere pentru eventuale modificări viitoare ale listei de sisteme de IA cu grad ridicat de risc, modificări pe care Comisia ar trebui să fie împuternicită să le adopte, prin intermediul unor acte delegate, pentru a ține seama de ritmul rapid al dezvoltării tehnologice și de eventualele modificări în utilizarea sistemelor de IA.
(53)
Azt is fontos tisztázni, hogy lehetnek olyan konkrét esetek, amikor az e rendeletben megadott előre meghatározott területeket érintő MI-rendszerek nem járnak a kár jelentős kockázatával az említett területeken védett jogi érdekekre nézve, mert nem befolyásolják jelentősen a döntéshozatalt, vagy nem sértik érdemben az említett érdekeket. E rendelet alkalmazásában a döntéshozatal kimenetelét jelentősen nem befolyásoló MI-rendszerek alatt olyan MI-rendszereket kell érteni, amelyek nem gyakorolnak hatást az – akár emberi, akár automatizált – döntéshozatal érdemére és ezáltal kimenetelére nézve. A döntéshozatal kimenetelét jelentősen nem befolyásoló MI-rendszerek olyan helyzeteket foglalhatnak magukban, amelyekben a következő feltételek közül egy vagy több teljesül. Az első ilyen feltétel az, hogy az MI-rendszer rendeltetése jól körülhatárolt eljárási feladat ellátása legyen, mint például az olyan MI-rendszerek esetében, amelyek a strukturálatlan adatokat strukturált adatokká alakítják át, amelyek kategóriákba rendezik a beérkező dokumentumokat vagy amelyeket nagyszámú beérkező dokumentum közötti ismétlődések kiszűrésére használnak. Az említett feladatok jellege olyan szűk és korlátozott, hogy csak korlátozott kockázatokat jelentenek, amelyeket nem súlyosbít egy MI-rendszernek az e rendelet egyik mellékletében nagy kockázatú felhasználásként felsorolt összefüggésben történő használata. A második feltétel az, hogy az MI-rendszer által ellátott feladat az e rendelet egyik mellékletében felsorolt nagy kockázatú felhasználások céljai szempontjából esetlegesen releváns, korábban elvégzett emberi tevékenység eredményének a javítását célozza. Tekintettel e jellemzőkre, az MI-rendszer kizárólag egy további réteget biztosít az emberi tevékenységhez, ami következésképpen csökkenti a kockázatot. Az említett feltétel volna alkalmazandó például az olyan MI-rendszerekre, amelyek rendeltetése korábban megszövegezett dokumentumok nyelvezetének javítása például a professzionális hangnem, a tudományos nyelvi regiszter vagy a szövegnek egy bizonyos márkaüzenettel való összehangolása tekintetében. A harmadik feltétel az, hogy az MI-rendszer rendeltetése döntéshozatali minták vagy korábbi döntéshozatali mintáktól való eltérések észlelése legyen. A kockázat azért csökkenne, mert az MI-rendszer használata korábban elvégzett emberi értékelést követne, és nem lenne a célja annak kiváltása vagy befolyásolása megfelelő emberi felülvizsgálat nélkül. Az ilyen MI-rendszerek közé tartoznak például azok, amelyek használhatók lennének arra, hogy egy tanár osztályozási szokásaiban fennálló minta alapján utólagosan ellenőrizzék, hogy a tanár eltért-e az osztályozási mintájától, és jelezzék az esetleges következetlenségeket vagy eltéréseket. A negyedik feltétel az, hogy az MI-rendszer rendeltetése olyan feladat ellátása legyen, amely pusztán az e rendelet egyik mellékletében felsorolt MI-rendszerek céljai szempontjából releváns értékelés előkészítését szolgálja, aminél fogva a rendszer kimenetére gyakorolt lehetséges hatás az elvégzendő értékelésre nézve jelentett kockázat tekintetében nagyon alacsony. Az említett feltétel kiterjed többek között a fájlkezelést szolgáló intelligens megoldásokra, amelyek az indexeléstől kezdve a keresésen, valamint a szöveg- és beszédfeldolgozáson keresztül adatok más adatforrásokkal való összekapcsolásáig számos különféle funkciót magukban foglalnak, vagy az eredeti dokumentumok fordítására szolgáló MI-rendszerekre. Mindenesetre az e rendelet egyik mellékletében felsorolt nagy kockázatú felhasználási esetekben használt MI-rendszereket úgy kell tekinteni, hogy jelentős károkozó kockázatokat jelentenek az egészségre, a biztonságra vagy az alapvető jogokra nézve, ha az MI-rendszer az (EU) 2016/679 rendelet 4. cikkének 4. pontja vagy az (EU) 2016/680 irányelv 3. cikkének 4. pontja vagy az (EU) 2018/1725 rendelet 3. cikkének 5. pontja értelmében vett profilalkotással jár. A nyomonkövethetőség és az átláthatóság biztosítása érdekében amennyiben egy szolgáltató megítélése szerint egy MI-rendszer a fent említett feltételek alapján nem nagy kockázatú, az említett rendszer forgalomba hozatalát vagy üzembe helyezését megelőzően dokumentációt kell készítenie az értékelésről, és az említett dokumentációt kérésre az illetékes nemzeti hatóságok rendelkezésére kell bocsátania. Az ilyen szolgáltatót kötelezni kell arra, hogy nyilvántartásba vegye az MI-rendszert az e rendelet alapján létrehozott uniós adatbázisban. Annak érdekében, hogy további iránymutatást nyújtson azon feltételek gyakorlati végrehajtásával kapcsolatban, amelyek mellett az e rendelet egyik mellékletében felsorolt MI-rendszerek kivételesen nem minősülnek nagy kockázatúnak, a Bizottságnak a Testülettel folytatott konzultációt követően iránymutatásokat kell biztosítania, amelyekben meghatározza az említett gyakorlati végrehajtást, mellékelve az MI-rendszerek olyan felhasználási eseteire vonatkozó gyakorlati példák átfogó listáját, amelyek nagy kockázatúak és az olyan felhasználási esetekre vonatkozókat, amelyek nem.
(53)
De asemenea, este important să se clarifice faptul că pot exista cazuri specifice în care sistemele de IA menționate în domenii predefinite specificate în prezentul regulament nu conduc la un risc semnificativ de a aduce prejudicii intereselor juridice protejate în cadrul domeniilor respective, deoarece nu influențează în mod semnificativ procesul decizional sau nu aduc prejudicii substanțiale intereselor respective. În sensul prezentului regulament, un sistem de IA care nu influențează în mod semnificativ rezultatul procesului decizional ar trebui să fie înțeles ca fiind un sistem de IA care nu are un impact asupra substanței și, prin urmare, nici asupra rezultatului procesului decizional, indiferent dacă este uman sau automatizat. Un sistem de IA care nu influențează în mod semnificativ rezultatul procesului decizional ar putea include situații în care sunt îndeplinite una sau mai multe dintre condițiile prezentate în continuare. Prima condiție ar trebui să fie aceea ca sistemul de IA să fie destinat să îndeplinească o sarcină procedurală restrânsă, de exemplu un sistem de IA care transformă date nestructurate în date structurate, un sistem de IA care clasifică pe categorii documentele primite sau un sistem de IA care este utilizat pentru a detecta duplicatele dintr-un număr mare de candidaturi. Aceste sarcini au un caracter atât de restrâns și de limitat încât prezintă doar riscuri reduse, riscuri care nu cresc prin utilizarea unui sistem de IA într-un context enumerat ca utilizare cu grad ridicat de risc într-o anexă la prezentul regulament. A doua condiție ar trebui să fie ca sarcina îndeplinită de sistemul de IA să fie menită să îmbunătățească rezultatul unei activități umane finalizate anterior care poate fi relevantă în sensul utilizărilor cu grad ridicat de risc enumerate într-o anexă la prezentul regulament. Având în vedere aceste caracteristici, sistemul de IA adaugă doar un nivel suplimentar unei activități umane, prezentând în consecință un risc redus. Această condiție s-ar aplica, de exemplu, sistemelor de IA care sunt menite să îmbunătățească limbajul utilizat în documente redactate anterior, de exemplu în ceea ce privește tonul profesional, stilul academic de limbaj sau alinierea textului la mesajele specifice unei anumite mărci. A treia condiție ar trebui să fie aceea ca sistemul de IA să fie destinat să detecteze modelele decizionale sau devierile de la modele decizionale anterioare. Riscul ar fi redus deoarece utilizarea sistemului de IA este ulterioară unei evaluări finalizate anterior de către un om, pe care nu este destinată să o înlocuiască sau să o influențeze fără o revizuire adecvată de către un om. Printre aceste sisteme de IA se numără, de exemplu, cele care, având în vedere un anumit model de notare folosit de un cadru didactic, pot fi utilizate pentru a verifica ex post dacă respectivul cadru didactic s-a abătut de la modelul de notare în cauză și pentru a semnala astfel eventuale inconsecvențe sau anomalii. A patra condiție ar trebui să fie aceea ca sistemul de IA să fie destinat să îndeplinească o sarcină care este doar pregătitoare pentru o evaluare relevantă pentru scopurile sistemelor de IA enumerate într-o anexă la prezentul regulament, făcând astfel ca posibilul impact al rezultatelor sistemului să prezinte un risc foarte scăzut pentru evaluarea ulterioară bazată pe ele. Această condiție se referă, printre altele, la soluțiile inteligente de gestionare a fișierelor, care includ diverse funcții, cum ar fi indexarea, căutarea, prelucrarea textelor și a vorbirii sau corelarea datelor cu alte surse de date, ori la sistemele de IA utilizate pentru traducerea documentelor inițiale. În orice caz, ar trebui să se considere că sistemele de IA utilizate în situații cu grad ridicat de risc enumerate într-o anexă la prezentul regulament prezintă riscuri semnificative de prejudicii la adresa sănătății, siguranței sau drepturilor fundamentale dacă implică crearea de profiluri în sensul articolului 4 punctul 4 din Regulamentul (UE) 2016/679 sau al articolului 3 punctul 4 din Directiva (UE) 2016/680 sau al articolului 3 punctul 5 din Regulamentul (UE) 2018/1725. Pentru a asigura trasabilitatea și transparența, un furnizor care consideră pe baza condițiilor menționate mai sus că un sistem de IA nu prezintă un grad ridicat de risc ar trebui să întocmească documentația pentru evaluare înainte ca sistemul respectiv să fie introdus pe piață sau pus în funcțiune și ar trebui să furnizeze respectiva documentație autorităților naționale competente, la cerere. Furnizorul ar trebui să fie obligat să înregistreze sistemul de IA în baza de date a UE instituită în temeiul prezentului regulament. Pentru a oferi îndrumare suplimentară în vederea punerii în practică a condițiilor în care sistemele de IA enumerate într-o anexă la prezentul regulament nu prezintă, în mod excepțional, un grad ridicat de risc, Comisia ar trebui, după consultarea Consiliului IA, să furnizeze orientări care să detalieze respectiva punere în practică, completate de o listă cuprinzătoare de exemple practice de cazuri de utilizare a sistemelor de IA cu grad ridicat de risc și cazuri de utilizare fără grad ridicat de risc.
(54)
Mivel a biometrikus adatok a személyes adatok egy különleges kategóriáját képezik, helyénvaló a biometrikus rendszerek számos kritikus felhasználási esetét nagy kockázatúnak minősíteni, amennyiben azok használatát a releváns uniós és nemzeti jog megengedi. A természetes személyek távoli biometrikus azonosítására szolgáló MI-rendszerek technikai pontatlansága torzított eredményekhez vezethet, és diszkriminatív hatásokat eredményezhet. Az ilyen torzított eredmények és diszkriminatív hatások kockázata különösen releváns az életkor, az etnikai és a faji hovatartozás, a nem vagy a fogyatékosságok tekintetében. A távoli biometrikus azonosító rendszereket ezért az általuk jelentett kockázatokra tekintettel nagy kockázatúnak kell minősíteni. Az ilyen besorolás kizárja az olyan biometrikus ellenőrzésre – többek között hitelesítésre – szánt MI-rendszereket, amelynek kizárólagos célja, hogy megerősítse, egy konkrét természetes személy az, akinek az említett személy állítja magát, és kizárólag abból a célból erősítse meg egy természetes személy személyazonosságát, hogy az hozzáférhessen egy szolgáltatáshoz, feloldhassa egy eszköz zárolását vagy biztonságos hozzáférést kapjon helyiségekhez. Ezenkívül, az érzékeny jellemzők vagy az (EU) 2016/679 rendelet 9. cikkének (1) bekezdése alapján védett tulajdonságok szerint, biometrikus adatok alapján történő biometrikus kategorizálásra szánt MI-rendszereket – amennyiben azokat e rendelet nem tiltja –, valamint az e rendelet értelmében nem tiltott érzelemfelismerő rendszereket nagy kockázatúnak kell minősíteni. Azon biometrikus rendszerek, amelyeknek kizárólagos célja kiberbiztonsági és személyesadat-védelmi intézkedések lehetővé tétele, nem tekintendők nagy kockázatú MI-rendszereknek.
(54)
Întrucât datele biometrice constituie o categorie specială de date cu caracter personal, este oportun ca mai multe cazuri de utilizare critică a sistemelor biometrice să fie clasificate ca prezentând un grad ridicat de risc, în măsura în care utilizarea acestora este permisă în temeiul dreptului Uniunii și al dreptului intern relevant. Inexactitățile tehnice ale sistemelor de IA destinate identificării biometrice la distanță a persoanelor fizice pot conduce la rezultate distorsionate de prejudecăți și pot avea efecte discriminatorii. Riscul unor astfel de rezultate distorsionate de prejudecăți și efecte discriminatorii este deosebit de relevant în ceea ce privește vârsta, etnia, rasa, sexul sau dizabilitățile. Prin urmare, sistemele de identificare biometrică la distanță ar trebui să fie clasificate ca prezentând un grad ridicat de risc, având în vedere riscurile pe care le implică. Nu se încadrează în această clasificare sistemele de IA destinate a fi utilizate pentru verificarea biometrică, inclusiv pentru autentificare, al cărei unic scop este de a confirma că o anumită persoană fizică este cine susține că este și de a confirma identitatea unei persoane fizice cu unicul scop de a-i permite accesul la un serviciu, deblocarea unui dispozitiv sau accesul securizat într-o incintă. În plus, ar trebui să fie clasificate ca prezentând un grad ridicat de risc sistemele de IA destinate a fi utilizate pentru clasificarea biometrică în funcție de atribute sau caracteristici sensibile protejate în temeiul articolului 9 alineatul (1) din Regulamentul (UE) 2016/679 pe baza datelor biometrice, în măsura în care nu sunt interzise în temeiul prezentului regulament, și sistemele de recunoaștere a emoțiilor care nu sunt interzise în temeiul prezentului regulament. Sistemele biometrice destinate a fi utilizate exclusiv în scopul aplicării măsurilor de securitate cibernetică și de protecție a datelor cu caracter personal nu ar trebui să fie considerate sisteme de IA cu grad ridicat de risc.
(55)
Ami a kritikus infrastruktúrák irányítását és üzemeltetését illeti, az (EU) 2022/2557 irányelv mellékletének 8. pontjában felsorolt kritikus digitális infrastruktúrák és a közúti forgalom irányításában és üzemeltetésében, valamint a víz-, gáz-, fűtés- és villamosenergia-ellátásban biztonsági alkotórészekként használni kívánt MI-rendszereket indokolt nagy kockázatúnak minősíteni, mivel meghibásodásuk vagy hibás működésük nagymértékben veszélyeztetheti az emberek életét és egészségét, és érzékelhető zavarokhoz vezethet a társadalmi és gazdasági tevékenységek szokásos végzésében. A kritikus infrastruktúrák – és ezen belül a kritikus digitális infrastruktúrák – biztonsági alkotórészei olyan rendszerek, amelyeket a kritikus infrastruktúra fizikai épségének, vagy a személyek egészségének és biztonságának, valamint vagyontárgyaknak a közvetlen védelmére használnak, de amelyek nem szükségesek a rendszer működéséhez. Az ilyen alkotórészek meghibásodása vagy hibás működése közvetlenül veszélyeztetheti a kritikus infrastruktúrák fizikai épségét, és ezáltal veszélyt jelent a személyek egészségére és biztonságára, valamint a vagyontárgyakra. A kizárólag kiberbiztonsági célokra szánt alkotórészek nem minősülnek biztonsági alkotórészeknek. Az ilyen kritikus infrastruktúra biztonsági alkotórészei közé tartozhatnak például a felhőszolgáltatási központok víznyomás-vezérlő vagy tűzjelző rendszerei.
(55)
În ceea ce privește gestionarea și exploatarea infrastructurii critice, este oportun să se clasifice ca prezentând un grad ridicat de risc sistemele de IA destinate utilizării drept componente de siguranță în cadrul gestionării și exploatării infrastructurilor digitale critice enumerate la punctul 8 din anexa la Directiva (UE) 2022/2557, a traficului rutier și a aprovizionării cu apă, gaz, încălzire și energie electrică, deoarece defectarea lor sau funcționarea lor defectuoasă poate pune în pericol viața și sănătatea persoanelor la scară largă și poate conduce la perturbări semnificative ale desfășurării obișnuite a activităților sociale și economice. Componentele de siguranță ale infrastructurii critice, inclusiv ale infrastructurii digitale critice, sunt sisteme utilizate pentru a proteja în mod direct integritatea fizică a infrastructurii critice sau sănătatea și siguranța persoanelor și a bunurilor, dar care nu sunt necesare pentru funcționarea sistemului. Defectarea sau funcționarea defectuoasă a unor astfel de componente ar putea conduce în mod direct la riscuri pentru integritatea fizică a infrastructurii critice și, prin urmare, la riscuri pentru sănătatea și siguranța persoanelor și a bunurilor. Componentele destinate a fi utilizate exclusiv în scopuri de securitate cibernetică nu ar trebui să se califice drept componente de siguranță. Printre exemplele de componente de siguranță ale unei astfel de infrastructuri critice se numără sistemele de monitorizare a presiunii apei sau sistemele de control al alarmei de incendiu în centrele de cloud computing.
(56)
Az MI-rendszerek oktatásban való bevezetése fontos a magas színvonalú digitális oktatás és képzés előmozdítása szempontjából, valamint annak lehetővé tétele érdekében, hogy valamennyi tanuló és tanár elsajátítsa és megossza a szükséges digitális készségeket és kompetenciákat, beleértve a médiajártasságot, valamint a kritikai gondolkodást, és így aktív részt vállalhasson a gazdaságban, a társadalomban és a demokratikus folyamatokban. Azonban az oktatásban vagy szakképzésben – különösen minden szinten a személyek oktatási és szakképzési intézményekbe vagy programokba való bejutásáról, felvételéről és az intézményekhez vagy programokhoz való hozzárendeléséről való döntéshozatalra, a személyek tanulási eredményeinek értékelésére, az egyén megfelelő oktatási szintjének felmérésére, érdemi hatást gyakorolva az adott egyén által kapott vagy elérhető oktatás vagy képzés szintjére, vagy vizsgák során a tiltott tanulói magatartás figyelemmel követésére és észlelésére – használt MI-rendszereket nagy kockázatú MI-rendszernek kell minősíteni, mivel meghatározhatják egy személy életének oktatási és szakmai pályáját, és ezáltal hatással lehetnek az említett személy azon képességére, hogy megélhetéséről gondoskodjon. Helytelen tervezés és használat esetén az ilyen rendszerek különösen betolakodóak lehetnek és sérthetik az oktatáshoz és képzéshez való jogot, valamint a megkülönböztetésmentességhez való jogot, és állandósíthatják a megkülönböztetés korábban meglévő mintázatait, például a nőkkel, egyes korcsoportokkal, a fogyatékossággal élőkkel, illetve egyes faji vagy etnikai származású vagy szexuális irányultságú személyekkel szemben.
(56)
Implementarea sistemelor de IA în educație este importantă pentru a promova educația și formarea digitală de înaltă calitate și pentru a permite tuturor cursanților și cadrelor didactice să dobândească și să partajeze aptitudinile și competențele digitale necesare, inclusiv educația în domeniul mass-mediei și gândirea critică, pentru a participa activ la economie, în societate și la procesele democratice. Cu toate acestea, sistemele de IA utilizate în educație sau în formarea profesională, în special pentru stabilirea accesului sau a admiterii, pentru repartizarea persoanelor în instituții sau programe educaționale și de formare profesională la toate nivelurile, pentru evaluarea rezultatelor învățării unei persoane, pentru evaluarea nivelului adecvat de instruire al unei persoane, pentru influențarea semnificativă a nivelului de educație și formare pe care îl vor primi sau îl vor putea accesa persoanele sau pentru monitorizarea și detectarea comportamentului interzis al elevilor și studenților în timpul testelor, ar trebui să fie clasificate drept sisteme de IA cu grad ridicat de risc, deoarece pot determina parcursul educațional și profesional din viața unei persoane și, prin urmare, pot afecta capacitatea acesteia de a-și asigura mijloace de subzistență. Atunci când sunt concepute și utilizate în mod necorespunzător, astfel de sisteme pot fi deosebit de intruzive și pot încălca dreptul la educație și formare, precum și dreptul de a nu fi discriminat și pot perpetua tipare istorice de discriminare, de exemplu împotriva femeilor, a anumitor grupe de vârstă, a persoanelor cu dizabilități sau a persoanelor de anumite origini rasiale ori etnice sau cu o anumită orientare sexuală.
(57)
Nagy kockázatúnak kell tekinteni azon MI-rendszereket is, amelyeket a foglalkoztatás, a munkavállalók irányítása és az önfoglalkoztatáshoz való hozzáférés, különösen személyek felvétele és kiválasztása, a munkával kapcsolatos jogviszony feltételeit érintő döntések, az előléptetéssel és a munkával kapcsolatos szerződéses jogviszonyok megszüntetésével kapcsolatos döntések meghozatala, az egyéni viselkedésen, személyes vonásokon vagy jellemzőkön alapuló feladatkiosztás, valamint a munkával kapcsolatos szerződéses jogviszonyokban álló személyek figyelemmel követése vagy értékelése során használnak, mivel az említett rendszerek érzékelhetően befolyásolhatják e személyek jövőbeli karrierlehetőségeit és megélhetését, valamint a munkavállalói jogokat. A releváns, munkával kapcsolatos szerződéses jogviszonyoknak érdemi módon magukban kell foglalniuk a munkavállalókat és a Bizottság 2021. évi munkaprogramjában említettek szerint a platformokon keresztül szolgáltatásokat nyújtó személyeket. Az ilyen rendszerek a munkaerő-felvételi folyamat egészében, valamint a munkával kapcsolatos szerződéses jogviszonyokban álló személyek értékelése, előléptetése vagy megtartása során állandósíthatják a megkülönböztetés régóta fennálló mintázatait, például a nőkkel, bizonyos korcsoportokkal, a fogyatékossággal élő személyekkel, illetve bizonyos faji vagy etnikai származású, vagy szexuális irányultságú személyekkel szemben. Az ilyen személyek teljesítményének és magatartásának nyomon követésére használt MI-rendszerek alááshatják a személyek adatvédelemhez és a magánélethez való alapvető jogait is.
(57)
De asemenea, sistemele de IA utilizate în domeniul ocupării forței de muncă, al gestionării lucrătorilor și al accesului la activități independente, în special pentru recrutarea și selectarea persoanelor, pentru luarea deciziilor care afectează condițiile relației legate de muncă, pentru promovarea și încetarea relațiilor contractuale legate de muncă, pentru alocarea sarcinilor pe baza comportamentului individual sau a trăsăturilor sau caracteristicilor personale, precum și pentru monitorizarea sau evaluarea persoanelor aflate în relații contractuale legate de muncă, ar trebui să fie clasificate ca prezentând un grad ridicat de risc, deoarece aceste sisteme pot avea un impact semnificativ asupra viitoarelor perspective de carieră, asupra mijloacelor de subzistență ale acestor persoane și asupra drepturilor lucrătorilor. Relațiile contractuale relevante legate de muncă ar trebui să implice într-un mod semnificativ angajații și persoanele care prestează servicii prin intermediul platformelor, astfel cum se menționează în Programul de lucru al Comisiei pentru 2021. Pe tot parcursul procesului de recrutare, precum și în evaluarea, promovarea sau menținerea persoanelor în relații contractuale legate de muncă, astfel de sisteme pot perpetua tipare istorice de discriminare, de exemplu împotriva femeilor, a anumitor grupe de vârstă, a persoanelor cu dizabilități sau a persoanelor de anumite origini rasiale ori etnice sau cu o anumită orientare sexuală. Sistemele de IA utilizate pentru a monitoriza performanța și comportamentul acestor persoane pot, de asemenea, să le submineze drepturile fundamentale la protecția datelor și la viața privată.
(58)
Egy másik olyan terület, ahol az MI-rendszerek használata különös figyelmet érdemel, az egyes olyan alapvető magán- és közszolgáltatások és ellátások elérhetősége és igénybevétele, amelyek ahhoz szükségesek, hogy az emberek teljes mértékben részt vehessenek a társadalomban vagy javítsák életszínvonalukat. Így különösen, azon természetes személyek, akik alapvető állami alapellátásokért és -szolgáltatásokért – nevezetesen egészségügyi szolgáltatásokért, szociális biztonsági ellátásokért, az olyan esetekben védelmet nyújtó szociális szolgáltatásokért, mint az anyaság, a betegség, az ipari balesetek, a függőség vagy az időskor és a munkahely elvesztése, valamint szociális és lakhatási támogatásért – folyamodnak a hatóságokhoz, vagy akik a hatóságoktól ilyenben részesülnek, jellemzően függenek az említett ellátásoktól és szolgáltatásoktól, és kiszolgáltatott helyzetben vannak a felelős hatóságokkal szemben. Ha MI-rendszerek igénybevételével döntik el, hogy a hatóságok megadják, megtagadják, csökkentsék, visszavonják vagy visszaigényeljék-e az ilyen ellátásokat és szolgáltatásokat – ideértve azt is, hogy a kedvezményezettek jogszerűen jogosultak-e az ilyen ellátásokra vagy szolgáltatásokra –, az említett rendszerek jelentős hatást gyakorolhatnak a személyek megélhetésére, és sérthetik az alapvető jogaikat, így például a szociális védelemhez, a megkülönböztetésmentességhez, az emberi méltósághoz vagy a hatékony jogorvoslathoz való jogot, és ezért nagy kockázatúnak kell azokat minősíteni. Mindazonáltal e rendelet nem akadályozhatja az innovatív megközelítések fejlesztését és alkalmazását a közigazgatásban, amely számára előnyös lenne az előírásoknak megfelelő és biztonságos MI-rendszerek szélesebb körű használata, feltéve, hogy az említett rendszerek nem jelentenek nagy kockázatot a természetes és jogi személyekre nézve. Ezenfelül, a természetes személyek hitelpontszámának vagy hitelképességének értékelésére használt MI-rendszereket nagy kockázatú MI-rendszereknek kell minősíteni, mivel ezek határozzák meg e személyek pénzügyi erőforrásokhoz vagy olyan alapvető szolgáltatásokhoz való hozzáférését, mint a lakhatás, a villamos energia és a távközlési szolgáltatások. Az e célokra használt MI-rendszerek személyek vagy csoportok hátrányos megkülönböztetéséhez vezethetnek, és állandósíthatják a – például faji vagy etnikai származáson, nemen, fogyatékosságon, életkoron vagy szexuális irányultságon alapuló – megkülönböztetés régóta fennálló mintázatait, vagy a diszkriminatív hatások új formáit teremthetik meg. Az uniós jog által a pénzügyi szolgáltatások nyújtása terén a csalások felderítése céljából, valamint a prudenciális célokra, a hitelintézetek és biztosítók tőkekövetelményeinek kiszámítása céljából előírt MI-rendszerek azonban e rendelet értelmében nem tekintendők nagy kockázatúnak. Ezenkívül a természetes személyek vonatkozásában egészség- és életbiztosítás esetén a kockázatértékeléshez és az árképzéshez való használatra szánt MI-rendszerek is jelentős hatást gyakorolhatnak a személyek megélhetésére, és ha nem megfelelően tervezik meg, fejlesztik és használják őket, sérthetik a személyek alapvető jogait és súlyos következményekkel járhatnak az emberek életére és egészségére nézve, ideértve a pénzügyi szolgáltatásokból való kirekesztést és a hátrányos megkülönböztetést is. Végül, a természetes személyek segélyhívásainak értékeléséhez és osztályozásához vagy a sürgősségi segélyszolgálatok – többek között a rendőrség és a tűzoltók által biztosított ilyen szolgáltatások és orvosi segítségnyújtás – kirendeléséhez vagy a kirendelési prioritás megállapításához használt MI-rendszereket, valamint a sürgősségi egészségügyi ellátásban alkalmazott betegosztályozási rendszerekhez használt MI-rendszereket szintén nagy kockázatúnak kell tekinteni, mivel nagyon kritikus helyzetekben hoznak döntéseket az emberek élete és egészsége, valamint tulajdona szempontjából.
(58)
Un alt domeniu în care utilizarea sistemelor de IA merită o atenție deosebită este accesul și posibilitatea de a beneficia de anumite prestații și servicii publice și private esențiale, necesare pentru ca oamenii să participe pe deplin în societate sau să își îmbunătățească nivelul de trai. În special, persoanele fizice care solicită sau primesc prestații și servicii esențiale de asistență publică din partea autorităților publice, și anume servicii de îngrijiri de sănătate, prestații de asigurări sociale, servicii sociale care oferă protecție în cazuri precum maternitatea, boala, accidentele de muncă, dependența, bătrânețea, pierderea locului de muncă, precum și asistență socială și legată de locuințe, sunt de regulă dependente de aceste prestații și servicii și se află într-o poziție vulnerabilă în raport cu autoritățile responsabile. În cazul în care sistemele de IA sunt utilizate pentru a stabili dacă astfel de prestații și servicii ar trebui să fie acordate, refuzate, reduse, revocate sau recuperate de autorități, inclusiv dacă beneficiarii au dreptul legitim la astfel de prestații sau servicii, sistemele respective pot avea un impact semnificativ asupra mijloacelor de subzistență ale persoanelor și le pot încălca drepturile fundamentale, cum ar fi dreptul la protecție socială, la nediscriminare, la demnitatea umană sau la o cale de atac efectivă și, prin urmare, ar trebui să fie clasificate ca prezentând un grad ridicat de risc. Cu toate acestea, prezentul regulament nu ar trebui să împiedice dezvoltarea și utilizarea unor abordări inovatoare în administrația publică, care ar putea beneficia de o utilizare mai largă a sistemelor de IA conforme și sigure, cu condiția ca aceste sisteme să nu implice un risc ridicat pentru persoanele fizice și juridice. În plus, sistemele de IA utilizate pentru a evalua punctajul de credit sau bonitatea persoanelor fizice ar trebui să fie clasificate ca sisteme de IA cu grad ridicat de risc, întrucât acestea determină accesul persoanelor respective la resurse financiare sau la servicii esențiale, cum ar fi locuințe, electricitate și telecomunicații. Sistemele de IA utilizate în aceste scopuri pot duce la discriminare între persoane sau între grupuri și pot perpetua tipare istorice de discriminare, de exemplu pe criterii de origine rasială sau etnică, sex, dizabilitate, vârstă sau orientare sexuală, sau pot crea noi forme de impact discriminatoriu. Cu toate acestea, sistemele de IA prevăzute de dreptul Uniunii în scopul detectării fraudelor în furnizarea de servicii financiare și în scopuri prudențiale pentru a calcula cerințele de capital ale instituțiilor de credit și ale întreprinderilor de asigurări nu ar trebui să fie considerate ca prezentând un grad ridicat de risc în temeiul prezentului regulament. În plus, sistemele de IA destinate a fi utilizate pentru evaluarea riscurilor și stabilirea prețurilor pentru asigurarea de sănătate și de viață în cazul persoanelor fizice pot avea, de asemenea, un impact semnificativ asupra mijloacelor de subzistență ale persoanelor și, dacă nu sunt concepute, dezvoltate și utilizate în mod corespunzător, pot încălca drepturile lor fundamentale și pot avea consecințe grave pentru viața și sănătatea oamenilor, cum ar fi excluziunea financiară și discriminarea. În cele din urmă, sistemele de IA utilizate pentru evaluarea și clasificarea apelurilor de urgență ale persoanelor fizice sau pentru distribuirea sau stabilirea priorităților în distribuirea serviciilor de primă intervenție de urgență, inclusiv de către poliție, pompieri și asistența medicală, precum și în cadrul sistemelor de triaj medical de urgență al pacienților, ar trebui de asemenea să fie clasificate ca prezentând un grad ridicat de risc, deoarece iau decizii în situații foarte critice pentru viața și sănătatea persoanelor și pentru bunurile acestora.
(59)
A bűnüldöző hatóságok szerepére és felelősségi körére tekintettel e hatóságoknak az MI-rendszerek bizonyos használatával járó fellépéseit az erőviszonyok jelentős mértékű kiegyensúlyozatlansága jellemzi, és egy természetes személy megfigyeléséhez, letartóztatásához vagy szabadságának elvonásához, valamint a Chartában garantált alapvető jogokra gyakorolt egyéb kedvezőtlen hatásokhoz vezethetnek. Így különösen, ha az MI-rendszert nem tanítják jó minőségű adatokkal, nem felel meg a teljesítménye, pontossága vagy stabilitása tekintetében támasztott megfelelő követelményeknek, vagy a forgalomba hozatalt vagy a más módon történő üzembe helyezést megelőzően nem megfelelően tervezték és tesztelték, akkor diszkriminatív vagy más tekintetben helytelen vagy igazságtalan módon válaszhat ki embereket. Továbbá, akadályozhatja a fontos alapvető eljárási jogoknak – például a hatékony jogorvoslathoz és a tisztességes eljáráshoz való jognak, valamint a védelemhez való jognak és az ártatlanság vélelmének – az érvényre juttatását, különösen akkor, ha az ilyen MI-rendszerek nem kellően átláthatók, megmagyarázhatók és dokumentálhatók. Ezért amennyiben azok használatát a releváns uniós és nemzeti jog megengedi, helyénvaló nagy kockázatúnak minősíteni számos olyan, a bűnüldözéssel összefüggésben használni kívánt MI-rendszert, amelyek pontossága, megbízhatósága és átláthatósága különösen fontos a kedvezőtlen hatások elkerülése, a közvélemény bizalmának megőrzése, valamint az elszámoltathatóság és a hatékony jogorvoslat biztosítása szempontjából. Tekintettel a tevékenységek jellegére és az azokkal kapcsolatos kockázatokra, az említett nagy kockázatú MI-rendszereknek magukban kell foglalniuk különösen azon MI-rendszereket, amelyeket a bűnüldöző hatóságok által vagy nevében, vagy a bűnüldöző hatóságok támogatása érdekében uniós intézmények, szervek, hivatalok vagy ügynökségek által való használatra terveznek természetes személyekre vonatkozó, bűncselekmények áldozatává válás kockázatának értékelésére poligráfként és hasonló eszközként, bűncselekményekkel kapcsolatos nyomozások során vagy büntetőeljárásokban a bizonyítékok megbízhatóságának értékelésére, továbbá amennyiben e rendelet alapján nem tiltott, annak értékelésére, hogy egy természetes személy esetében fennáll-e bűncselekmény elkövetésének vagy ismételt elkövetésének kockázata, nem kizárólag egy természetes személyre vonatkozó profilalkotás vagy természetes személyek vagy csoportok személyiségjegyeinek és személyes jellemzőinek, illetve múltbeli bűnözői magatartásának értékelése alapján, valamint bűncselekmények felderítése, nyomozása vagy büntetőeljárás alá vonása során alkalmazott profilalkotásra . A kifejezetten adó- és vámhatóságok, valamint a pénzmosás elleni uniós jogszabályok szerinti információelemzést végző, igazgatási feladatokat ellátó pénzügyi hírszerző egységek általi, közigazgatási eljárásokban történő használatra szánt MI-rendszerek, nem minősítendők a bűnüldöző hatóságok által bűncselekmények megelőzése, felderítése, nyomozása és büntetőeljárás alá vonása céljából használt nagy kockázatú MI-rendszereknek. Az MI-eszközök bűnüldöző és egyéb releváns hatóságok általi használata nem idézhet elő egyenlőtlenséget vagy kirekesztést. Nem szabad figyelmen kívül hagyni az MI-eszközök használatának a gyanúsítottak védelemhez való jogára gyakorolt hatását, különösen az e rendszerek működésére vonatkozó érdemi információk beszerzésének nehézségét, valamint a kapott eredmények bíróság előtti vitatásának ebből eredő nehézségeit, főként a vizsgálat alatt álló természetes személyek esetében.
(59)
Având în vedere rolul și responsabilitatea lor, acțiunile întreprinse de autoritățile de aplicare a legii care implică anumite utilizări ale sistemelor de IA sunt caracterizate de un grad semnificativ de dezechilibru de putere și pot duce la supravegherea, arestarea sau privarea de libertate a unei persoane fizice, precum și la alte efecte negative asupra drepturilor fundamentale garantate în cartă. În special, în cazul în care nu este alimentat cu date de înaltă calitate, nu îndeplinește cerințe adecvate de performanță, acuratețe sau robustețe sau nu este proiectat și testat în mod corespunzător înainte de a fi introdus pe piață sau pus în funcțiune în alt mod, sistemul de IA poate selecta persoanele într-un mod discriminatoriu sau, la un nivel mai general, în mod incorect ori injust. În plus, exercitarea unor drepturi procedurale fundamentale importante, cum ar fi dreptul la o cale de atac efectivă și la un proces echitabil, precum și dreptul la apărare și prezumția de nevinovăție, ar putea fi împiedicată, în special în cazul în care astfel de sisteme de IA nu sunt suficient de transparente, explicabile și documentate. Prin urmare, este oportun să fie clasificate ca prezentând un grad ridicat de risc, în măsura în care utilizarea lor este permisă în temeiul dreptului Uniunii și al dreptului intern relevant, o serie de sisteme de IA destinate a fi utilizate în contextul aplicării legii, în care acuratețea, fiabilitatea și transparența sunt deosebit de importante pentru a evita efectele negative, pentru a păstra încrederea publicului și pentru a asigura asumarea răspunderii și reparații efective. Având în vedere natura activităților și riscurile aferente, aceste sisteme de IA cu grad ridicat de risc ar trebui să includă, în special, sistemele de IA destinate a fi utilizate de autoritățile de aplicare a legii sau în numele acestora sau de instituțiile, organele, oficiile sau agențiile Uniunii în sprijinul autorităților de aplicare a legii pentru a evalua riscul ca o persoană fizică să devină victimă a infracțiunilor, ca poligrafe și instrumente similare pentru evaluarea fiabilității probelor în cursul investigării sau urmăririi penale a infracțiunilor și, în măsura în care nu se interzice în temeiul prezentului regulament, pentru a evalua riscul ca o persoană fizică să comită o infracțiune sau o recidivă, nu numai pe baza creării de profiluri ale persoanelor fizice, a evaluării trăsăturilor de personalitate și a caracteristicilor lor sau a comportamentului infracțional anterior al persoanelor fizice sau al grupurilor, precum și pentru a crea profiluri în cursul depistării, investigării sau urmăririi penale a infracțiunilor. Sistemele de IA destinate în mod specific utilizării în proceduri administrative de către autoritățile fiscale și vamale, precum și de către unitățile de informații financiare care efectuează sarcini administrative prin care analizează informații în temeiul dreptului Uniunii privind combaterea spălării banilor, nu ar trebui să fie clasificate ca sisteme de IA cu grad ridicat de risc utilizate de autoritățile de aplicare a legii în scopul prevenirii, depistării, investigării și urmăririi penale a infracțiunilor. Utilizarea instrumentelor de IA de către autoritățile de aplicare a legii și de alte autorități relevante nu ar trebui să devină un factor de inegalitate sau de excluziune. Impactul utilizării instrumentelor de IA asupra drepturilor la apărare ale suspecților nu ar trebui să fie ignorat, în special dificultatea de a obține informații semnificative cu privire la funcționarea acestor sisteme și, în consecință, dificultatea de a contesta rezultatele acestora în instanță, în special de către persoanele fizice care fac obiectul investigării.
(60)
A migrációkezelésben, a menekültügyben és a határigazgatásban használt MI-rendszerek olyan személyeket érintenek, akik gyakran különösen kiszolgáltatott helyzetben vannak, és akiknek életét befolyásolja az illetékes hatóságok intézkedéseinek kimenetele. Az ilyen összefüggésben használt MI-rendszerek pontossága, megkülönböztetésmentes jellege és átláthatósága ezért különösen fontos az érintett személyek alapvető jogai, különösen a szabad mozgáshoz, a megkülönböztetésmentességhez, a magánélet és a személyes adatok védelméhez, a nemzetközi védelemhez és a megfelelő ügyintézéshez való jogaik tiszteletben tartásának biztosítása szempontjából. Ezért helyénvaló nagy kockázatúnak minősíteni a migráció, a menekültügy és a határigazgatás területén feladatokat ellátó illetékes hatóságok által vagy nevükben, vagy uniós intézmények, szervek, hivatalok vagy ügynökségek által, poligráfként és hasonló eszközként, vagy olyan célokra használni kívánt MI-rendszereket – amennyiben azok használatát a releváns uniós és nemzeti jog megengedi –, mint a tagállamok területére belépő, illetve vízumot vagy menedékjogot kérelmező természetes személyek által jelentett bizonyos kockázatok felmérése, az illetékes hatóságoknak történő segítségnyújtás a menedékjog, vízum és tartózkodási engedély iránti kérelmek és a kapcsolódó panaszok vizsgálatához, beleértve a bizonyítékok megbízhatóságának kapcsolódó értékelését a jogállást kérelmező természetes személyek jogosultságának megállapítására irányuló célkitűzés tekintetében, természetes személyek felderítése, felismerése vagy azonosítása a migráció, a menekültügy és a határigazgatás összefüggésében, az úti okmányok ellenőrzésének kivételével. Az e rendelet hatálya alá tartozó, a migráció, a menekültügy és a határigazgatás területén működő MI-rendszereknek meg kell felelniük a 810/2009/EK európai parlamenti és tanácsi rendeletben (32), a 2013/32/EU európai parlamenti és tanácsi irányelvben (33) és más vonatkozó jogszabályokban meghatározott vonatkozó eljárási követelményeknek. A tagállamok vagy az uniós intézmények, szervek, hivatalok vagy ügynökségek a migráció, a menekültügy és a határellenőrzés során alkalmazott MI-rendszereket semmilyen körülmények között nem használhatják fel az 1967. január 31-i jegyzőkönyvvel módosított, a menekültek helyzetére vonatkozó 1951. július 28-i genfi ENSZ-egyezmény szerinti nemzetközi kötelezettségeik megkerülésére. Semmilyen módon nem sérthetik meg továbbá a visszaküldés tilalmának elvét, illetve nem tagadhatják meg az Unió területére való belépés biztonságos és eredményes, legális csatornáit, ideértve a nemzetközi védelemhez való jogot is.
(60)
Sistemele de IA utilizate în domeniile migrației, azilului și gestionării controlului la frontiere afectează persoane care se află adesea într-o poziție deosebit de vulnerabilă și care depind de rezultatul acțiunilor autorităților publice competente. Acuratețea, caracterul nediscriminatoriu și transparența sistemelor de IA utilizate în aceste contexte sunt, prin urmare, deosebit de importante pentru a garanta respectarea drepturilor fundamentale ale persoanelor afectate, în special a drepturilor acestora la liberă circulație, nediscriminare, protecția vieții private și a datelor cu caracter personal, protecție internațională și bună administrare. Prin urmare, este oportun să fie clasificate ca prezentând un grad ridicat de risc, în măsura în care utilizarea lor este permisă în temeiul dreptului Uniunii și al dreptului intern relevant, sistemele de IA destinate a fi utilizate de către autoritățile publice competente ori în numele acestora sau de către instituțiile, organele, oficiile sau agențiile Uniunii care au atribuții în domeniile migrației, azilului și gestionării controlului la frontiere ca poligrafe și instrumente similare, pentru a evalua anumite riscuri prezentate de persoanele fizice care intră pe teritoriul unui stat membru sau care solicită viză sau azil, pentru a acorda asistență autorităților publice competente în ceea ce privește examinarea, inclusiv evaluarea conexă a fiabilității probelor, a cererilor de azil, de vize și de permise de ședere și a plângerilor aferente cu privire la obiectivul de stabilire a eligibilității persoanelor fizice care solicită un statut, în scopul detectării, al recunoașterii sau al identificării persoanelor fizice în contextul migrației, al azilului și al gestionării controlului la frontiere, cu excepția verificării documentelor de călătorie. Sistemele de IA din domeniul migrației, azilului și gestionării controlului la frontiere reglementate de prezentul regulament ar trebui să respecte cerințele procedurale relevante stabilite de Regulamentul (CE) nr. 810/2009 al Parlamentului European și al Consiliului (32), de Directiva 2013/32/UE a Parlamentului European și a Consiliului (33) și de alte dispoziții relevante din dreptul Uniunii. Statele membre sau instituțiile, organele, oficiile și agențiile Uniunii nu ar trebui în niciun caz să utilizeze sistemele de IA în domeniul migrației, azilului și gestionării controlului la frontiere ca mijloc de eludare a obligațiilor lor internaționale în temeiul Convenției ONU privind statutul refugiaților întocmită la Geneva la 28 iulie 1951, astfel cum a fost modificată prin Protocolul din 31 ianuarie 1967. De asemenea, respectivele sisteme de IA nu ar trebui să fie utilizate pentru a încălca în vreun fel principiul nereturnării sau pentru a refuza căi legale sigure și eficace de intrare pe teritoriul Uniunii, inclusiv dreptul la protecție internațională.
(61)
Az igazságszolgáltatásra és a demokratikus folyamatok irányítására szánt egyes MI-rendszereket nagy kockázatúnak kell tekinteni, figyelembe véve a demokráciára, a jogállamiságra, az egyéni szabadságokra, valamint a hatékony jogorvoslathoz és a tisztességes eljáráshoz való jogra gyakorolt potenciálisan jelentős hatásukat. Így különösen, az esetleges torzítások, hibák és átláthatatlanság kockázatának kezelése érdekében indokolt nagy kockázatúnak minősíteni az igazságügyi hatóságok által vagy nevében történő használatra szánt azon MI-rendszereket, amelyek célja, hogy segítsék az igazságügyi hatóságokat a ténybeli és a jogi elemek kutatásában és értelmezésében, valamint a jog konkrét tényekre történő alkalmazásában. Az alternatív vitarendezési testületek által e célokra történő használatra szánt MI-rendszereket szintén nagy kockázatúnak kell tekinteni, ha az alternatív vitarendezési eljárás a felekre nézve joghatással jár. Az MI-eszközök alkalmazása támogathatja a bírák döntéshozatali hatáskörét vagy a bírói függetlenséget, de nem válthatja azt fel, mivel a végső döntéshozatalnak ember által irányított tevékenységnek kell maradnia. Az MI-rendszerek nagy kockázatúként való besorolása azonban nem terjedhet ki azokra az MI-rendszerekre, amelyek olyan, tisztán járulékos adminisztratív tevékenységek elvégzésére szolgálnak, amelyek nem befolyásolják a tényleges igazságszolgáltatást az egyedi ügyekben, mint például a bírósági határozatok, dokumentumok vagy adatok anonimizálása vagy álnevesítése, a személyzet közötti kommunikáció, adminisztratív feladatok ellátása.
(61)
Anumite sisteme de IA destinate administrării justiției și proceselor democratice ar trebui să fie clasificate ca prezentând un grad ridicat de risc, având în vedere impactul potențial semnificativ al acestora asupra democrației, statului de drept și libertăților individuale, precum și asupra dreptului la o cale de atac efectivă și la un proces echitabil. În special, pentru a aborda potențialele riscuri de prejudecăți, erori și opacitate, este oportun să fie calificate drept sisteme cu grad ridicat de risc sistemele de IA destinate să fie utilizate de o autoritate judiciară sau în numele acesteia pentru a ajuta autoritățile judiciare să cerceteze și să interpreteze faptele și legea și să aplice legea unui set concret de fapte. Sistemele de IA destinate a fi utilizate de organismele de soluționare alternativă a litigiilor în aceste scopuri ar trebui, de asemenea, să fie considerate ca având un grad ridicat de risc atunci când rezultatele procedurilor de soluționare alternativă a litigiilor produc efecte juridice pentru părți. Utilizarea instrumentelor de IA poate sprijini puterea de decizie a judecătorilor sau independența sistemului judiciar, dar nu ar trebui să le înlocuiască: procesul decizional final trebuie să rămână o activitate umană. Clasificarea sistemelor de IA ca prezentând un grad ridicat de risc nu ar trebui, totuși, să se extindă la sistemele de IA destinate unor activități administrative pur auxiliare care nu afectează administrarea efectivă a justiției în cazuri individuale, cum ar fi anonimizarea sau pseudonimizarea hotărârilor judecătorești, a documentelor sau a datelor, comunicarea între membrii personalului, sarcinile administrative.
(62)
Az (EU) 2024/900 európai parlamenti és tanácsi rendeletben (34) előírt szabályok sérelme nélkül, és a Charta 39. cikkében rögzített szavazati jogot érintő indokolatlan külső beavatkozás, valamint a demokráciára és a jogállamiságra gyakorolt kedvezőtlen hatások kockázatának kezelése érdekében a választások vagy népszavazások eredményének vagy a természetes személyek választásokon vagy népszavazásokon tanúsított szavazási magatartásának befolyásolására tervezett MI-rendszereket nagy kockázatú MI-rendszereknek kell minősíteni, kivéve azon MI-rendszereket – így például a politikai kampányok adminisztratív és logisztikai szempontból történő szervezésére, optimalizálására és strukturálására használt eszközöket –, amelyek kimenetének nincsenek természetes személyek közvetlenül kitéve.
(62)
Fără a aduce atingere normelor prevăzute în Regulamentul (UE) 2024/900 al Parlamentului European și al Consiliului (34) și pentru a aborda riscurile de ingerințe externe nejustificate în dreptul de vot consacrat la articolul 39 din cartă și de efecte adverse asupra democrației și a statului de drept, sistemele de IA destinate a fi utilizate pentru a influența rezultatul unor alegeri sau al unui referendum sau comportamentul de vot al persoanelor fizice în exercitarea votului lor în cadrul alegerilor sau al referendumurilor ar trebui să fie clasificate drept sisteme de IA cu grad ridicat de risc, cu excepția sistemelor de IA la ale căror rezultate persoanele fizice nu sunt expuse în mod direct, cum ar fi instrumentele utilizate pentru organizarea, optimizarea și structurarea campaniilor politice din punct de vedere administrativ și logistic.
(63)
Az, hogy egy MI-rendszer e rendelet értelmében nagy kockázatú MI-rendszernek minősül, nem értelmezhető úgy, mint ami azt jelzi, hogy a rendszer használata jogszerű az uniós jog más jogi aktusai vagy az uniós joggal összeegyeztethető nemzeti jogszabályok, így például a személyes adatok védelmére, illetve a poligráfok, vagy a természetes személyek érzelmi állapotának felderítését szolgáló hasonló eszközök és rendszerek használatára vonatkozó jogi aktusok és jogszabályok alapján. Az ilyen használatra továbbra is kizárólag a Chartából, valamint a másodlagos uniós jog alkalmazandó jogi aktusaiból és a nemzeti jogból eredő alkalmazandó követelményekkel összhangban kerülhet sor. E rendelet nem értelmezhető úgy, mint amely jogalapot teremt személyes adatok kezelésére, ideértve adott esetben a személyes adatok különleges kategóriáit is, kivéve, ha e rendelet kifejezetten másként rendelkezik.
(63)
Faptul că un sistem de IA este clasificat ca sistem de IA cu grad ridicat de risc în temeiul prezentului regulament nu ar trebui să fie interpretat ca indicând că utilizarea sistemului este legală în temeiul altor acte ale dreptului Uniunii sau al dreptului intern compatibil cu dreptul Uniunii, cum ar fi în ceea ce privește protecția datelor cu caracter personal, utilizarea poligrafelor și a instrumentelor similare sau a altor sisteme pentru detectarea stării emoționale a persoanelor fizice. Orice astfel de utilizare ar trebui să continue să aibă loc numai în conformitate cu cerințele aplicabile care decurg din cartă, precum și din legislația secundară aplicabilă a Uniunii și din dreptul intern aplicabil. Prezentul regulament nu ar trebui să fie înțeles ca oferind temeiul juridic pentru prelucrarea datelor cu caracter personal, inclusiv a categoriilor speciale de date cu caracter personal, după caz, cu excepția cazului în care se specifică altfel în cuprinsul prezentului regulament.
(64)
A forgalomba hozott vagy más módon üzembe helyezett, nagy kockázatú MI-rendszerekből eredő kockázatok enyhítése és a magas szintű megbízhatóság biztosítása érdekében bizonyos kötelező követelményeket kell alkalmazni a nagy kockázatú MI-rendszerekre vonatkozóan, figyelembe véve az MI-rendszer rendeltetését és felhasználási kontextusát, továbbá összhangban a szolgáltató által létrehozandó kockázatkezelési rendszerrel. A szolgáltatók által e rendelet kötelező követelményeinek való megfelelés céljából elfogadott intézkedéseknek figyelembe kell venniük az MI-vel kapcsolatos technika általánosan elfogadott, mindenkori állását, arányosnak és hatékonynak kell lenniük e rendelet célkitűzéseinek elérése érdekében. Az új jogszabályi keret alapján, amint azt a termékekre vonatkozó uniós szabályozásról szóló, 2022. évi bizottsági útmutató – „A kék útmutató” – kifejti, főszabály szerint az uniós harmonizációs jogalkotás több jogi aktusa is alkalmazható egyetlen termékre, mivel a forgalmazásra vagy az üzembe helyezésre csak akkor kerülhet sor, ha a termék megfelel valamennyi alkalmazandó uniós harmonizációs jogszabálynak. Az e rendelet szerinti követelmények hatálya alá tartozó MI-rendszerek veszélyei más vonatkozásokat érintenek, mint a meglévő uniós harmonizációs jogszabályok, ezért az e rendelet szerinti követelmények kiegészítenék a meglévő uniós harmonizációs jogszabályokat. Például az MI-rendszert tartalmazó gépek vagy orvostechnikai eszközök jelenthetnek olyan kockázatokat, amelyekre a vonatkozó uniós harmonizációs jogszabályokban meghatározott alapvető egészségvédelmi és biztonsági követelmények nem terjednek ki, mivel az adott ágazati jogszabályok nem foglalkoznak az MI-rendszerekkel összefüggő sajátos kockázatokkal. Ez a különböző jogalkotási aktusok egyidejű és egymást kiegészítő alkalmazását teszi szükségessé. A következetesség biztosítása, valamint a szükségtelen adminisztratív terhek és a szükségtelen költségek elkerülése érdekében az olyan termékek szolgáltatóinak, amelyek egy vagy több olyan, nagy kockázatú MI-rendszert tartalmaznak, amelyre az e rendeletben vagy az új jogszabályi kereten alapuló és az e rendelet egyik mellékletében felsorolt uniós harmonizációs jogszabályokban foglalt követelmények alkalmazandók, rugalmassággal kell rendelkezniük azon működési döntések tekintetében, hogy miként biztosítsák optimális módon az egy vagy több MI-rendszert tartalmazó termék megfelelését az említett uniós harmonizációs jogszabályokban foglalt valamennyi alkalmazandó követelménynek. Az említett rugalmasság jelentheti például a szolgáltató azon döntését, hogy az a rendelet értelmében kötelező szükséges tesztelési és jelentéstételi folyamatok, információk és dokumentáció egy részét az új jogszabályi kereten alapuló és az e rendelet egyik mellékletében felsorolt, meglévő uniós harmonizációs jogszabályok alapján előírt, már meglévő dokumentációba és eljárásokba építi be. Ez semmilyen módon nem gyengítheti a szolgáltató azon kötelezettségét, hogy megfeleljen valamennyi alkalmazandó követelménynek.
(64)
Pentru atenuarea riscurilor generate de sistemele de IA cu grad ridicat de risc introduse pe piață sau puse în funcțiune și pentru a asigura un nivel înalt de credibilitate, ar trebui să se aplice anumite cerințe obligatorii în cazul sistemelor de IA cu grad ridicat de risc, ținând seama de scopul preconizat și de contextul utilizării sistemului de IA și în conformitate cu sistemul de gestionare a riscurilor care urmează să fie instituit de furnizor. Măsurile adoptate de furnizori pentru a se conforma cerințelor obligatorii din prezentul regulament ar trebui să țină seama de stadiul general recunoscut al tehnologiei în materie de IA, să fie proporționale și eficace pentru a îndeplini obiectivele prezentului regulament. Pe baza noului cadru legislativ, astfel cum s-a clarificat în Comunicarea Comisiei intitulată „«Ghidul albastru» din 2022 referitor la punerea în aplicare a normelor UE privind produsele”, regula generală este că cel puțin un act juridic din legislația de armonizare a Uniunii poate fi aplicabil unui singur produs, deoarece punerea la dispoziție sau punerea în funcțiune poate avea loc numai atunci când produsul respectă întreaga legislație de armonizare a Uniunii aplicabilă. Pericolele sistemelor de IA care fac obiectul cerințelor prezentului regulament se referă la aspecte diferite față de legislația existentă de armonizare a Uniunii și, prin urmare, cerințele prezentului regulament ar completa corpul existent al legislației de armonizare a Uniunii. De exemplu, mașinile sau dispozitivele medicale care încorporează un sistem de IA ar putea prezenta riscuri care nu sunt abordate de cerințele esențiale de sănătate și siguranță prevăzute în legislația armonizată relevantă a Uniunii, deoarece legislația sectorială respectivă nu abordează riscurile specifice sistemelor de IA. Acest lucru necesită o aplicare simultană și complementară a diferitelor acte legislative. Pentru a se asigura coerența și a se evita sarcinile administrative și costurile inutile, furnizorii unui produs care conține unul sau mai multe sisteme de IA cu grad ridicat de risc, cărora li se aplică cerințele prezentului regulament și ale legislației de armonizare a Uniunii bazate pe noul cadru legislativ și care figurează într-o anexă la prezentul regulament, ar trebui să fie flexibili în ceea ce privește deciziile operaționale cu privire la modul optim de asigurare a conformității unui produs care conține unul sau mai multe sisteme de IA cu toate cerințele aplicabile din respectiva legislație armonizată a Uniunii. Această flexibilitate ar putea însemna, de exemplu, o decizie a furnizorului de a integra o parte a proceselor de testare și raportare necesare, informațiile și documentația impuse în temeiul prezentului regulament în documentația și în procedurile deja existente impuse în temeiul legislației de armonizare existente a Uniunii bazate pe noul cadru legislativ și care figurează într-o anexă la prezentul regulament. Acest lucru nu ar trebui să submineze în niciun fel obligația furnizorului de a respecta toate cerințele aplicabile.
(65)
A kockázatkezelési rendszernek olyan megszakítás nélkül végzett iteratív folyamatnak kell lennie, amelyet a nagy kockázatú MI-rendszer teljes életciklusára terveztek és működtetnek. Az említett folyamatnak az MI-rendszerek által az egészségre, a biztonságra és az alapvető jogokra jelentett releváns kockázatok azonosítására és enyhítésére kell irányulnia. A kockázatkezelési rendszert rendszeresen felül kell vizsgálni és aktualizálni kell a folyamatos hatékonyságának biztosítása, valamint az e rendelet alapján hozott valamennyi jelentős döntés és intézkedés alátámasztása és dokumentálása érdekében. E folyamatnak biztosítania kell, hogy a szolgáltató azonosítsa a kockázatokat vagy kedvezőtlen hatásokat, és az MI-rendszerek által az egészségre, a biztonságra és az alapvető jogokra jelentett ismert és észszerűen előrelátható kockázatokra vonatkozó enyhítő intézkedéseket vezessen be a rendeltetésük vagy az észszerűen előre látható rendellenes használatuk fényében, ideértve az MI-rendszer és a működési környezete közötti kölcsönhatásból eredő lehetséges kockázatokat is. A kockázatkezelési rendszer révén az MI-vel kapcsolatos technika mindenkori állásának fényében legmegfelelőbb kockázatkezelési intézkedéseket kell elfogadni. A legmegfelelőbb kockázatkezelési intézkedések meghatározásakor a szolgáltatónak dokumentálnia kell és meg kell indokolnia a meghozott döntéseket, és adott esetben be kell vonnia szakértőket és külső érdekelt feleket. A nagy kockázatú MI-rendszerek észszerűen előrelátható rendellenes használatának meghatározásakor a szolgáltatónak ki kell térnie az MI-rendszerek olyan használatára, amelyekre a rendszer rendeltetése nem terjed ki közvetlenül és amelyek nem szerepelnek a használati utasításban, azonban az adott MI-rendszer sajátos jellemzői és használata összefüggésében észszerűen feltételezhető, hogy az előrelátható emberi magatartásból eredhet. A szolgáltató által biztosított használati utasításnak tartalmaznia kell minden olyan ismert vagy előre látható, a nagy kockázatú MI-rendszer rendeltetésszerű használatával vagy az észszerűen előrelátható rendellenes használatával kapcsolatos körülményt, amely kockázatot jelenthet az egészségre és a biztonságra vagy az alapvető jogokra nézve. Ez annak biztosítását célozza, hogy az alkalmazó tisztában legyen azokkal, és figyelembe vegye azokat a nagy kockázatú MI-rendszer használata során. Az e rendelet szerinti észszerűen előrelátható rendellenes használatra vonatkozó kockázatenyhítő intézkedések meghatározása és végrehajtása nem tehet szükségessé a szolgáltató részéről a nagy kockázatú MI-rendszer tekintetében konkrét további tanítást az előrelátható rendellenes használat kezelése céljából. A szolgáltatók azonban ösztönözve vannak ilyen további tanító intézkedések fontolóra vételére, hogy szükség szerint és adott esetben mérsékeljék az észszerűen előrelátható rendellenes használatokat.
(65)
Sistemul de gestionare a riscurilor ar trebui să constea într-un proces iterativ continuu care este preconizat și derulat pe parcursul întregului ciclu de viață al unui sistem de IA cu grad ridicat de risc. Respectivul proces ar trebui să aibă drept scop identificarea și atenuarea riscurilor relevante reprezentate de sistemele de IA pentru sănătate, siguranță și drepturile fundamentale. Sistemul de gestionare a riscurilor ar trebui să fie evaluat și actualizat periodic pentru a se asigura eficacitatea sa continuă, precum și justificarea și documentarea oricăror decizii și acțiuni semnificative luate în temeiul prezentului regulament. Acest proces ar trebui să garanteze faptul că furnizorul identifică riscurile sau efectele negative și pune în aplicare măsuri de atenuare pentru riscurile cunoscute și previzibile în mod rezonabil reprezentate de sistemele de IA pentru sănătate, siguranță și drepturile fundamentale, având în vedere scopul preconizat al acestora și utilizarea necorespunzătoare previzibilă în mod rezonabil ale acestor sisteme, inclusiv posibilele riscuri care decurg din interacțiunea dintre sistemele de IA și mediul în care funcționează. Sistemul de gestionare a riscurilor ar trebui să adopte cele mai adecvate măsuri de gestionare a riscurilor, având în vedere stadiul cel mai avansat al tehnologiei în domeniul IA. Atunci când identifică cele mai adecvate măsuri de gestionare a riscurilor, furnizorul ar trebui să documenteze și să explice alegerile făcute și, după caz, să implice experți și părți interesate externe. Atunci când identifică utilizarea necorespunzătoare previzibilă în mod rezonabil a sistemelor de IA cu grad ridicat de risc, furnizorul ar trebui să acopere utilizările sistemelor de IA în legătură cu care se poate aștepta în mod rezonabil, să rezulte dintr-un comportament uman ușor previzibil în contextul caracteristicilor specifice și al utilizării unui anumit sistem de IA, deși utilizările respective nu sunt acoperite în mod direct de scopul preconizat și nu sunt prevăzute în instrucțiunile de utilizare. Orice circumstanțe cunoscute sau previzibile legate de utilizarea sistemului de IA cu grad ridicat de risc în conformitate cu scopul său preconizat sau în condiții de utilizare necorespunzătoare previzibilă în mod rezonabil, care pot conduce la riscuri pentru sănătate și siguranță sau pentru drepturile fundamentale, ar trebui să fie incluse în instrucțiunile de utilizare care sunt furnizate de furnizor. Scopul este de a se asigura că implementatorul le cunoaște și le ia în considerare atunci când utilizează sistemul de IA cu grad ridicat de risc. Identificarea și punerea în aplicare a măsurilor de atenuare a riscurilor în caz de utilizare necorespunzătoare previzibilă în temeiul prezentului regulament nu ar trebui să necesite din partea furnizorului antrenare suplimentară specifică pentru sistemul de IA cu grad ridicat de risc pentru a aborda utilizarea necorespunzătoare previzibilă. Cu toate acestea, furnizorii sunt încurajați să ia în considerare astfel de măsuri suplimentare de antrenare pentru a atenua utilizările necorespunzătoare previzibile în mod rezonabil, după cum este necesar și adecvat.
(66)
A nagy kockázatú MI-rendszerekre követelményeket kell alkalmazni a kockázatkezelés, a használt adatkészletek minősége és relevanciája, a műszaki dokumentáció és a nyilvántartás, az átláthatóság és az alkalmazóknak nyújtott tájékoztatás, az emberi felügyelet, valamint a stabilitás, a pontosság és a kiberbiztonság tekintetében. Az említett követelmények szükségesek az egészséget, a biztonságot és az alapvető jogokat érintő kockázatok hatékony enyhítéséhez. Mivel észszerűen nem állnak rendelkezésre más, a kereskedelmet kevésbé korlátozó intézkedések, az említett követelmények nem minősülnek a kereskedelem indokolatlan korlátozásának.
(66)
Cerințele ar trebui să se aplice sistemelor de IA cu grad ridicat de risc în ceea ce privește gestionarea riscurilor, calitatea și relevanța seturilor de date utilizate, documentația tehnică și păstrarea evidențelor, transparența și furnizarea de informații către implementatori, supravegherea umană, robustețea, acuratețea și securitatea cibernetică. Aceste cerințe sunt necesare pentru a atenua în mod eficace riscurile pentru sănătate, siguranță și drepturile fundamentale. Nefiind disponibile în mod rezonabil alte măsuri mai puțin restrictive privind comerțul, respectivele restricții în calea comerțului nu sunt astfel nejustificate.
(67)
A kiváló minőségű adatok és a kiváló minőségű adatokhoz való hozzáférés létfontosságú szerepet játszik számos MI-rendszer struktúrájának biztosításában és teljesítményének garantálásában, különösen a modellek tanítását magában foglaló technikák alkalmazása esetén, annak biztosítása érdekében, hogy a nagy kockázatú MI-rendszer rendeltetésszerűen és biztonságosan működjön, és ne váljon az uniós jog által tiltott megkülönböztetés forrásává. A tanításhoz, validáláshoz és teszteléshez használt kiváló minőségű adatkészletekhez megfelelő adatkormányzási és adatgazdálkodási gyakorlatokra van szükség. A tanításhoz, validáláshoz és teszteléshez használt adatkészleteknek, beleértve a címkéket is, relevánsnak, kellően reprezentatívnak, valamint a lehető legnagyobb mértékben hibáktól mentesnek és teljesnek kell lenniük a rendszer rendeltetése szempontjából. Az uniós adatvédelmi jognak, például az (EU) 2016/679 rendeletnek való megfelelés elősegítése érdekében az adatkormányzási és adatgazdálkodási gyakorlatoknak a személyes adatok esetében ki kell terjedniük az adatgyűjtés eredeti céljával kapcsolatos átláthatóságra. Az adatkészleteknek rendelkezniük kell a megfelelő statisztikai tulajdonságokkal is, többek között azon személyek vagy személyek csoportjai tekintetében, akikre vagy amelyekre a nagy kockázatú MI-rendszert használni kívánják, különös figyelemmel az adatkészletekben lévő olyan esetleges torzítások mérséklésére, amelyek valószínűleg hatással lehetnek a személyek egészségére és biztonságára, negatív hatást gyakorolhatnak az alapvető jogokra, vagy az uniós jog által tiltott megkülönböztetéshez vezethetnek, különösen akkor, ha az adatok kimenetei befolyásolják a jövőbeli műveletek bemeneteit (visszacsatolási hurkok). Torzítások előfordulhatnak eredendően például az alapul szolgáló adatkészletekben, különösen akkor, ha múltbeli adatokat használnak, vagy amelyek akkor keletkeznek, amikor a rendszereket valós körülmények között alkalmazzák. Az MI-rendszerek által nyújtott eredményeket befolyásolhatják az ilyen eredendő torzítások, amelyek hajlamosak tovább növekedni, és ezáltal állandósítani és felerősíteni a meglévő diszkriminációt, különösen a bizonyos kiszolgáltatott csoportokhoz – többek között faji vagy etnikai csoportokhoz – tartozó személyek esetében. Az adatkészleteknek a lehető legnagyobb mértékű teljességére és hibamentességére vonatkozó követelmény nem érintheti a magánélet védelmét szolgáló technikák használatát az MI-rendszerek fejlesztésével és tesztelésével összefüggésben. Így különösen, az adatkészleteknek – a rendeltetésük által megkövetelt mértékben – figyelembe kell venniük azon jellemzőket, tulajdonságokat vagy elemeket, amelyek azon sajátos földrajzi, kontextuális, magatartási vagy funkcionális környezethez kapcsolódnak, amelyben az MI-rendszert használni szándékozzák. Az adatkormányzással kapcsolatos követelmények teljesíthetők olyan harmadik felek igénybevételével, amelyek az adatkormányzás, az adatkészlet-integritás, valamint az adat-tanításra, -validálásra és -tesztelésre szolgáló gyakorlatok ellenőrzését magában foglaló, tanúsított megfelelési szolgáltatásokat kínálnak, amennyiben az e rendelet szerinti adatszolgáltatási követelményeknek való megfelelés biztosított.
(67)
Datele de înaltă calitate și accesul la date de înaltă calitate joacă un rol vital în ceea ce privește furnizarea structurii și asigurarea performanței multor sisteme de IA, în special atunci când se utilizează tehnici care implică antrenarea modelelor, pentru a se asigura că sistemul de IA cu grad ridicat de risc funcționează astfel cum s-a prevăzut și în condiții de siguranță și nu devine o sursă de discriminare, interzisă de dreptul Uniunii. Seturile de date de înaltă calitate de antrenare, de validare și de testare necesită punerea în aplicare a unor practici adecvate de guvernanță și gestionare a datelor. Seturile de date de antrenare, de validare și de testare, inclusiv etichetele, ar trebui să fie relevante, suficient de reprezentative și, pe cât posibil, fără erori și complete, având în vedere scopul preconizat al sistemului. Pentru a facilita respectarea dreptului Uniunii în materie de protecție a datelor, cum ar fi Regulamentul (UE) 2016/679, practicile de guvernanță și gestionare a datelor ar trebui să includă, în cazul datelor cu caracter personal, transparența cu privire la scopul inițial al colectării datelor. Seturile de date ar trebui să aibă, de asemenea, proprietățile statistice adecvate, inclusiv în ceea ce privește persoanele sau grupurile de persoane în legătură cu care se intenționează să fie utilizat sistemul de IA cu grad ridicat de risc, acordând o atenție deosebită atenuării posibilelor prejudecăți din seturile de date, care ar putea afecta sănătatea și siguranța persoanelor, ar putea avea un impact negativ asupra drepturilor fundamentale sau ar putea conduce la discriminare interzisă în temeiul dreptului Uniunii, în special în cazul în care datele de ieșire influențează datele de intrare pentru operațiunile viitoare („bucle de feedback”). Prejudecățile pot fi, de exemplu, inerente seturilor de date subiacente, mai ales când sunt utilizate date istorice, sau pot fi generate în timpul implementării în condiții reale a sistemelor. Rezultatele produse de sistemele de IA ar putea fi influențate de aceste prejudecăți inerente care tind să crească treptat și astfel să perpetueze și să amplifice discriminarea existentă, în special pentru persoanele care aparțin anumitor grupuri vulnerabile, inclusiv grupuri rasiale sau etnice. Cerința ca seturile de date să fie, pe cât posibil, complete și fără erori nu ar trebui să afecteze utilizarea tehnicilor de protejare a vieții private în contextul dezvoltării și testării sistemelor de IA. În special, seturile de date ar trebui să țină seama, în măsura în care acest lucru este necesar având în vedere scopul lor preconizat, de particularitățile, caracteristicile sau elementele care sunt specifice cadrului geografic, contextual, comportamental sau funcțional în care este destinat să fie utilizat sistemul de IA. Cerințele legate de guvernanța datelor pot fi respectate prin recurgerea la părți terțe care oferă servicii de conformitate certificate, inclusiv verificarea guvernanței datelor, a integrității seturilor de date și a practicilor de antrenare, validare și testare a datelor, în măsura în care este asigurată respectarea cerințelor în materie de date din prezentul regulament.
(68)
A nagy kockázatú MI-rendszerek fejlesztése és értékelése tekintetében bizonyos szereplőknek, például a szolgáltatóknak, a bejelentett szervezeteknek és más releváns jogalanyoknak, például az európai digitális innovációs központoknak, a tesztelési–kísérleti létesítményeknek és a kutatóknak lehetőséget kell biztosítani, hogy az e rendelethez kapcsolódó tevékenységi területeiken belül hozzáférjenek kiváló minőségű adatkészletekhez és használják őket. A Bizottság által létrehozott közös európai adatterek, valamint a vállalkozások közötti és a kormányzattal való, közérdekből történő adatmegosztás megkönnyítése alapvető fontosságúak lesznek ahhoz, hogy megbízható, elszámoltatható és megkülönböztetésmentes hozzáférést lehessen biztosítani az MI-rendszerek tanításához, validálásához és teszteléséhez szükséges kiváló minőségű adatokhoz. Az egészségügy területén például az európai egészségügyi adattér fogja megkönnyíteni az egészségügyi adatokhoz való megkülönböztetésmentes hozzáférést és az MI-algoritmusok ezen adatkészletek alapján való tanítását a magánéletet védő, biztonságos, időszerű, átlátható és megbízható módon, valamint megfelelő intézményi irányítás mellett. Az adatokhoz való hozzáférést biztosító vagy támogató érintett illetékes hatóságok, beleértve az ágazati hatóságokat is, támogathatják az MI-rendszerek tanításához, validálásához és teszteléséhez szükséges kiváló minőségű adatok szolgáltatását is.
(68)
Pentru dezvoltarea și evaluarea sistemelor de IA cu grad ridicat de risc, anumiți actori, cum ar fi furnizorii, organismele notificate și alte entități relevante, cum ar fi centrele europene de inovare digitală, unitățile de testare și experimentare și cercetătorii, ar trebui să poată accesa și utiliza seturi de date de înaltă calitate în domeniile de activitate ale actorilor respectivi care sunt legate de prezentul regulament. Spațiile europene comune ale datelor instituite de Comisie și facilitarea schimbului de date între întreprinderi și cu administrațiile publice în interes public vor fi esențiale pentru a oferi un acces de încredere, responsabil și nediscriminatoriu la date de înaltă calitate pentru antrenarea, validarea și testarea sistemelor de IA. De exemplu, în domeniul sănătății, spațiul european al datelor privind sănătatea va facilita accesul nediscriminatoriu la datele privind sănătatea și antrenarea algoritmilor IA cu aceste seturi de date, într-un mod care protejează viața privată, sigur, prompt, transparent și fiabil și cu o guvernanță instituțională adecvată. Autoritățile competente relevante, inclusiv cele sectoriale, care furnizează sau sprijină accesul la date pot sprijini, de asemenea, furnizarea de date de înaltă calitate pentru antrenarea, validarea și testarea sistemelor de IA.
(69)
A magánélet tiszteletben tartásához és az adatvédelemhez való jogot az MI-rendszer teljes életciklusa során garantálni kell. E tekintetben az adattakarékosság, valamint a beépített és alapértelmezett adatvédelem uniós adatvédelmi jogszabályokban meghatározott elve alkalmazandó a személyes adatok kezelése során. A szolgáltatók által az említett elveknek való megfelelés biztosítása érdekében hozott intézkedések nemcsak az anonimizálást és a titkosítást foglalhatják magukban, hanem az olyan technológia használatát is, amely lehetővé teszi az algoritmusok adatokhoz rendelését és az MI-rendszer anélkül történő tanítását, hogy a nyers vagy strukturált adatokat a feleknek egymás között át kellene adniuk vagy másolniuk, az e rendeletben foglalt adatkormányzási követelmények sérelme nélkül.
(69)
Dreptul la viața privată și la protecția datelor cu caracter personal trebuie să fie garantat pe parcursul întregului ciclu de viață al sistemului de IA. În acest sens, principiile reducerii la minimum a datelor și protecției datelor începând cu momentul conceperii și în mod implicit, astfel cum sunt prevăzute în dreptul Uniunii privind protecția datelor, sunt aplicabile atunci când sunt prelucrate date cu caracter personal. Măsurile luate de furnizori pentru a asigura respectarea principiilor respective pot include nu numai anonimizarea și criptarea, ci și folosirea unei tehnologii care permite să se aplice algoritmi datelor și antrenarea sistemelor de IA, fără ca aceste date să fie transmise între părți și fără ca înseși datele primare sau datele structurate să fie copiate, fără a aduce atingere cerințelor privind guvernanța datelor prevăzute în prezentul regulament.
(70)
Annak érdekében, hogy megvédjék mások jogát az MI-rendszerekben megjelenő torzításból eredő esetleges megkülönböztetéssel szemben, a szolgáltatók számára kivételesen lehetővé kell tenni, hogy a nagy kockázatú MI-rendszerekkel kapcsolatos torzítás észlelésének és korrekciójának biztosításához feltétlenül szükséges mértékben, figyelemmel a természetes személyek alapvető jogaira és szabadságaira vonatkozó megfelelő biztosítékokra, valamint az e rendeletben és az (EU) 2016/679 rendeletben, az (EU) 2018/1725 rendeletben és az (EU) 2016/680 irányelvben foglalt valamennyi alkalmazandó feltétel alkalmazását követően, az (EU) 2016/679 rendelet 9. cikke (2) bekezdésének g) pontja és az (EU) 2018/1725 rendelet 10. cikke (2) bekezdésének g) pontja értelmében vett jelentős közérdekből a személyes adatok különleges kategóriáit is kezeljék.
(70)
Pentru a proteja dreptul altora împotriva discriminării care ar putea rezulta din prejudecățile inerente sistemelor de IA, furnizorii ar trebui să poată să prelucreze și categorii speciale de date cu caracter personal, ca o chestiune de interes public major în înțelesul articolului 9 alineatul (2) litera (g) din Regulamentul (UE) 2016/679 și al articolului 10 alineatul (2) litera (g) din Regulamentul (UE) 2018/1725, în mod excepțional, în măsura în care este strict necesar în scopul asigurării detectării și corectării prejudecăților în legătură cu sistemele de IA cu grad ridicat de risc, sub rezerva unor garanții adecvate pentru drepturile și libertățile fundamentale ale persoanelor fizice și în urma aplicării tuturor condițiilor prevăzute în temeiul prezentului regulament în plus față de condițiile prevăzute în Regulamentele (UE) 2016/679 și (UE) 2018/1725 și în Directiva (UE) 2016/680.
(71)
A nagy kockázatú MI-rendszerek nyomonkövethetőségéhez, az e rendelet szerinti követelményeknek való megfelelés ellenőrzéséhez, valamint az ilyen rendszerek működésének nyomon követéséhez és a forgalomba hozatal utáni nyomon követéshez elengedhetetlenek az arra vonatkozó átfogó információk, hogy hogyan fejlesztették ki a nagy kockázatú MI-rendszereket, és hogyan teljesítenek teljes élettartamuk során. Ehhez nyilvántartást kell vezetni, és olyan műszaki dokumentációnak kell rendelkezésre állnia, amely tartalmazza az annak értékeléséhez szükséges információkat, hogy az MI-rendszer megfelel-e a vonatkozó követelményeknek, valamint amely megkönnyíti a forgalomba hozatal utáni nyomon követést. Ezeknek az információknak ki kell terjedniük a rendszer általános jellemzőire, képességeire és korlátaira, algoritmusaira, adataira, tanítási, tesztelési és validálási folyamataira, valamint a vonatkozó kockázatkezelési rendszerrel kapcsolatos dokumentációra, és világos és érthető formában kell rendelkezésre állniuk. A műszaki dokumentációt az MI-rendszerek teljes élettartama alatt megfelelően naprakészen kell tartani. Továbbá, a nagy kockázatú MI-rendszereknek a rendszer teljes élettartama alatt technikailag lehetővé kell tenniük az események automatikus rögzítését naplózás révén.
(71)
Deținerea de informații ușor de înțeles cu privire la modul în care au fost dezvoltate sistemele de IA cu grad ridicat de risc și la modul în care acestea funcționează pe toată durata lor de viață este esențială pentru a permite trasabilitatea sistemelor respective, pentru a verifica conformitatea cu cerințele prevăzute în prezentul regulament, precum și pentru monitorizarea funcționării lor și pentru monitorizarea ulterioară introducerii pe piață. Acest lucru presupune păstrarea evidențelor și disponibilitatea unei documentații tehnice care să conțină informațiile necesare pentru a evalua conformitatea sistemului de IA cu cerințele relevante și a facilita monitorizarea ulterioară introducerii pe piață. Aceste informații ar trebui să includă caracteristicile generale, capabilitățile și limitările sistemului, algoritmii, datele, procesele de antrenare, testare și validare utilizate, precum și documentația privind sistemul relevant de gestionare a riscurilor și ar trebui să fie redactate într-o formă clară și cuprinzătoare. Documentația tehnică ar trebui să fie actualizată permanent și în mod adecvat pe toată durata de viață a sistemului de IA. În plus, sistemele de IA cu grad ridicat de risc ar trebui să permită din punct de vedere tehnic înregistrarea automată a evenimentelor, prin intermediul unor fișiere de jurnalizare, de-a lungul duratei de viață a sistemului.
(72)
A bizonyos MI-rendszerek átláthatatlanságával és összetettségével kapcsolatos aggályok kezelése, valamint az alkalmazóknak az e rendelet szerinti kötelezettségeik teljesítéséhez való segítségnyújtás érdekében bizonyos fokú átláthatóságot kell előírni a nagy kockázatú MI-rendszerekre vonatkozóan már azok forgalomba hozatala vagy üzembe helyezése előtt. A nagy kockázatú MI-rendszereket úgy kell megtervezni, hogy az alkalmazók értsék, hogyan működik az MI-rendszer, értékelni tudják annak funkcióját, valamint tisztában legyenek erősségeivel és korlátaival. A nagy kockázatú MI-rendszereket használati utasítás formájában megfelelő információknak kell kísérniük. Az ilyen információknak ki kell terjedniük az MI-rendszer jellemzőire, képességeire és teljesítményének korlátaira. Azok magukban foglalnák a következőkre vonatkozó információkat: a nagy kockázatú MI-rendszer használatával kapcsolatos, olyan esetleges, ismert és előre látható körülmények, ideértve az alkalmazó által végzett, a rendszer viselkedését és teljesítményét befolyásolni képes műveleteket, amelyek mellett az MI-rendszer az egészséget, a biztonságot és az alapvető jogokat érintő kockázatokhoz vezethet, a szolgáltató által előre meghatározott és a megfelelőség szempontjából értékelt változások, valamint a releváns emberi felügyeleti intézkedések, beleértve az MI-rendszerek kimeneteinek az alkalmazók általi értelmezését megkönnyítő technikai intézkedéseket. Az átláthatóság, beleértve a rendszereket kísérő használati utasítást, segíteni hivatott az alkalmazókat a rendszer használatában, valamint támogatni hivatott őket a tájékozott döntéshozatalban. Többek között az alkalmazók számára könnyebb kell, hogy legyen annak megfelelő eldöntése a rájuk alkalmazandó követelmények fényében, hogy mely rendszert kívánják használni, tisztában kell lenniük a rendeltetésszerű és a kizárt felhasználással, és helyesen, megfelelően kell használniuk az MI-rendszert. A használati utasításban szereplő információk olvashatóságának és hozzáférhetőségének javítása érdekében adott esetben szemléltető példákat kell felsorolni például az MI-rendszer korlátaival, valamint a rendeltetésszerű és a kizárt felhasználással kapcsolatban. A szolgáltatóknak biztosítaniuk kell, hogy a teljes dokumentáció, beleértve a használati utasítást is, érdemi, átfogó, hozzáférhető és érthető információkat tartalmazzon, figyelembe véve a megcélzott alkalmazók igényeit és előre látható ismereteit. A használati utasítást a megcélzott alkalmazók által könnyen érthető nyelven kell rendelkezésre bocsátani, az érintett tagállam által meghatározottak szerint.
(72)
Pentru a răspunde preocupărilor legate de opacitatea și complexitatea anumitor sisteme de IA și pentru a-i ajuta pe implementatori să își îndeplinească obligațiile care le revin în temeiul prezentului regulament, ar trebui să fie impusă transparența pentru sistemele de IA cu grad ridicat de risc înainte ca acestea să fie introduse pe piață sau puse în funcțiune. Sistemele de IA cu grad ridicat de risc ar trebui să fie proiectate astfel încât să le permită implementatorilor să înțeleagă modul în care funcționează sistemul de IA, să îi evalueze funcționalitatea și să îi înțeleagă punctele forte și limitările. Sistemele de IA cu grad ridicat de risc ar trebui să fie însoțite de informații adecvate sub formă de instrucțiuni de utilizare. Astfel de informații ar trebui să includă caracteristicile, capabilitățile și limitările performanței sistemului de IA. Acestea ar acoperi informații privind posibile circumstanțe cunoscute și previzibile legate de utilizarea sistemului de IA cu grad ridicat de risc, inclusiv acțiuni ale implementatorului care pot influența comportamentul și performanța sistemului, din cauza cărora sistemul de IA poate genera riscuri pentru sănătate, siguranță și drepturile fundamentale, privind modificările care au fost prestabilite și evaluate din punctul de vedere al conformității de către furnizor și privind măsurile relevante de supraveghere umană, inclusiv măsurile de facilitare a interpretării rezultatelor sistemului de IA de către implementatori. Transparența, inclusiv instrucțiunile de utilizare însoțitoare, ar trebui să ajute implementatorii să utilizeze sistemul și să îi sprijine să ia decizii în cunoștință de cauză. Printre altele, implementatorii ar trebui să fie mai în măsură să aleagă corect sistemul pe care intenționează să îl utilizeze, având în vedere obligațiile care le sunt aplicabile, să fie informați despre utilizările preconizate și interzise și să utilizeze sistemul de IA în mod corect și adecvat. Pentru a spori lizibilitatea și accesibilitatea informațiilor incluse în instrucțiunile de utilizare, ar trebui să fie incluse, după caz, exemple ilustrative, de exemplu privind limitările și utilizările preconizate și interzise ale sistemului de IA. Furnizorii ar trebui să se asigure că toată documentația, inclusiv instrucțiunile de utilizare, conține informații semnificative, cuprinzătoare, accesibile și ușor de înțeles, ținând seama de nevoile și cunoștințele previzibile ale implementatorilor vizați. Instrucțiunile de utilizare ar trebui să fie puse la dispoziție într-o limbă ușor de înțeles de către implementatorii vizați, astfel cum se stabilește de statul membru în cauză.
(73)
A nagy kockázatú MI-rendszereket úgy kell megtervezni és fejleszteni, hogy a természetes személyek felügyelhessék működésüket, valamint biztosíthassák rendeltetésszerű használatukat és hatásaik kezelését a rendszer életciklusa során. E célból a rendszer szolgáltatójának a forgalomba hozatalt vagy üzembe helyezést megelőzően megfelelő emberi felügyeleti intézkedéseket kell meghatároznia. Így különösen, az ilyen intézkedéseknek adott esetben garantálniuk kell azt, hogy a rendszer olyan beépített működési korlátokkal rendelkezzen, amelyeket maga a rendszer nem tud felülbírálni, és reagáljon az emberi üzemeltetőre, valamint hogy az emberi felügyeletet ellátó természetes személyek rendelkezzenek az e feladat ellátásához szükséges szakértelemmel, képzéssel és felhatalmazással. Adott esetben annak biztosítása is alapvető fontosságú, hogy a nagy kockázatú MI-rendszerek rendelkezzenek olyan mechanizmusokkal, amelyek iránymutatást és tájékoztatást nyújtanak az emberi felügyeletet ellátó természetes személy számára az azzal kapcsolatos megalapozott döntéshozatalhoz, hogy szükséges-e, vagy mikor és hogyan szükséges beavatkozni a negatív következmények vagy kockázatok elkerülése érdekében vagy leállítani a rendszert, amennyiben az nem rendeltetésszerűen működik. Tekintettel arra, hogy a bizonyos biometrikus azonosító rendszerek által megállapított hibás egyezés milyen komoly következményekkel járhat az egyénekre nézve, helyénvaló fokozott emberi felügyeleti követelményt előírni e rendszerekre vonatkozóan annak érdekében, hogy az alkalmazó a rendszerből származó azonosítás alapján semmilyen intézkedést vagy döntést ne hozhasson anélkül, hogy azt legalább két természetes személy külön ellenőrizte és megerősítette volna. Az említett személyek lehetnek ugyanazon vagy különböző szervezet tagjai, és köztük lehet a rendszert üzemeltető vagy használó személy is. Ez a követelmény nem okozhat szükségtelen terhet vagy késedelmet, és elegendő lehet, ha a különböző személyek által végzett külön ellenőrzéseket automatikusan rögzítik a rendszer által generált naplók. Tekintettel a bűnüldözés, a migráció, a határellenőrzés és a menekültügy területének sajátosságaira, ez a követelmény nem alkalmazandó azokban az esetekben, amikor az uniós vagy a nemzeti jog úgy ítéli meg, hogy alkalmazása aránytalan.
(73)
Sistemele de IA cu grad ridicat de risc ar trebui să fie concepute și dezvoltate astfel încât persoanele fizice să poată supraveghea funcționarea lor și să se poată asigura că ele sunt utilizate conform destinației lor și că impactul lor este abordat pe parcursul întregului ciclu de viață al sistemului. În acest scop, furnizorul sistemului ar trebui să identifice măsuri adecvate de supraveghere umană înainte de introducerea sa pe piață sau de punerea sa în funcțiune. În special, după caz, astfel de măsuri ar trebui să garanteze că sistemul este supus unor constrângeri operaționale integrate care nu pot fi dezactivate de sistem și care sunt receptive la operatorul uman și că persoanele fizice cărora le-a fost încredințată supravegherea umană au competența, pregătirea și autoritatea necesare pentru îndeplinirea acestui rol. De asemenea, este esențial, după caz, să se asigure faptul că sistemele de IA cu grad ridicat de risc includ mecanisme de ghidare și informare a unei persoane fizice căreia i-a fost încredințată supravegherea umană pentru a lua decizii în cunoștință de cauză pentru a stabili dacă, când și cum să intervină pentru a evita consecințele negative sau riscurile sau pentru a opri sistemul dacă nu funcționează astfel cum s-a prevăzut. Având în vedere consecințele semnificative pentru persoane în cazul unei concordanțe incorecte generate de anumite sisteme de identificare biometrică, este oportun să se prevadă o cerință de supraveghere umană mai strictă pentru sistemele respective, astfel încât implementatorul să nu poată lua nicio măsură sau decizie pe baza identificării rezultate din sistem, decât dacă acest lucru a fost verificat și confirmat separat de cel puțin două persoane fizice. Aceste persoane ar putea proveni de la una sau mai multe entități și ar putea include persoana care operează sau utilizează sistemul. Această cerință nu ar trebui să reprezinte o povară inutilă sau să genereze întârzieri inutile și ar putea fi suficient ca verificările separate efectuate de diferite persoane să fie înregistrate automat în fișierele de jurnalizare generate de sistem. Având în vedere particularitățile din domeniile aplicării legii, migrației, controlului la frontiere și azilului, această cerință nu ar trebui să se aplice în cazul în care dreptul Uniunii sau dreptul intern consideră că aplicarea cerinței respective este disproporționată.
(74)
A nagy kockázatú MI-rendszereknek életciklusuk során következetesen kell teljesíteniük, és a rendeltetésük fényében, valamint a technika általánosan elfogadott, mindenkori állásával összhangban megfelelő szintű pontosságot, stabilitást és kiberbiztonságot kell garantálniuk. A Bizottság, valamint az érintett szervezetek és érdekelt felek ösztönözve vannak arra, hogy fordítsanak kellő figyelmet az MI-rendszerekkel kapcsolatos kockázatok és negatív hatások csökkentésére. A teljesítménymutatók várható szintjét fel kell tüntetni a használati utasításban. A szolgáltatókat arra sürgetik, hogy az említett információkat világos és könnyen érthető, félreértésektől és megtévesztő kijelentésektől mentes módon biztosítsák az alkalmazók számára. A törvényes metrológiára vonatkozó uniós jog, többek között a 2014/31/EU (35) és a 2014/32/EU (36) európai parlamenti és tanácsi irányelv célja a mérések pontosságának biztosítása, valamint a kereskedelmi ügyletek átláthatóságának és tisztességességének elősegítése. Ezzel összefüggésben a Bizottságnak az érintett érdekelt felekkel és szervezetekkel, így például a metrológiai és teljesítményértékelési hatóságokkal együttműködve, adott esetben ösztönöznie kell az MI-rendszerekre vonatkozó referenciaértékek és mérési módszertanok kidolgozását. A Bizottságnak ennek során oda kell figyelnie az MI-vel kapcsolatos metrológia és releváns mérési mutatók területén dolgozó nemzetközi partnerekre, és együtt kell működnie azokkal.
(74)
Sistemele de IA cu grad ridicat de risc ar trebui să funcționeze în mod consecvent pe parcursul întregului lor ciclu de viață și să atingă un nivel adecvat de acuratețe, robustețe și securitate cibernetică, având în vedere scopul lor preconizat și în conformitate cu stadiul de avansare al tehnologiei general recunoscut. Comisia și organizațiile și părțile interesate relevante sunt încurajate să țină seama în mod corespunzător de atenuarea riscurilor și a impacturilor negative ale sistemului de IA. Nivelul preconizat al indicatorilor de performanță ar trebui să fie declarat în instrucțiunile de utilizare însoțitoare. Furnizorii sunt îndemnați să comunice aceste informații implementatorilor într-un mod clar și ușor de înțeles, fără induceri în eroare sau declarații înșelătoare. Dreptul Uniunii privind metrologia legală, inclusiv Directivele 2014/31/UE (35) și 2014/32/UE (36) ale Parlamentului European și ale Consiliului, urmărește să asigure acuratețea măsurătorilor și să contribuie la transparența și echitatea tranzacțiilor comerciale. În acest context, în cooperare cu părțile interesate și organizațiile relevante, cum ar fi autoritățile din domeniul metrologiei și al etalonării, Comisia ar trebui să încurajeze, după caz, elaborarea unor valori de referință și a unor metodologii de măsurare pentru sistemele de IA. În acest sens, Comisia ar trebui să țină seama de partenerii internaționali care lucrează în domeniul metrologiei și al indicatorilor de măsurare relevanți referitori la IA și să colaboreze cu partenerii respectivi.
(75)
A műszaki stabilitás kulcsfontosságú követelmény a nagy kockázatú MI-rendszerek esetében. Reziliensnek kell lenniük az olyan káros vagy más módon nemkívánatos magatartással szemben, amely a rendszer saját, illetve a rendszer működési környezetének korlátaiból eredhet (pl. hibák, tévesztések, következetlenségek, váratlan helyzetek). Ezért technikai és szervezeti intézkedéseket kell hozni a nagy kockázatú MI-rendszerek stabilitásának biztosítása érdekében, például az ilyen káros vagy más módon nemkívánatos magatartás megelőzését vagy minimalizálását szolgáló műszaki megoldások tervezése és fejlesztése révén. Az említett műszaki megoldások magukban foglalhatnak például olyan mechanizmusokat, amelyek lehetővé teszik a rendszer számára, hogy biztonságosan megszakítsa a működését (vészüzemi tervek), ha bizonyos rendellenességek lépnek fel, vagy ha az üzemelésre bizonyos előre meghatározott határokon kívül kerül sor. Az e kockázatokkal szembeni védelem hiánya kihathat a biztonságra, vagy negatívan érintheti az alapvető jogokat, például téves döntések vagy az MI-rendszer által generált helytelen vagy torzított kimenetek miatt.
(75)
Robustețea tehnică este o cerință esențială pentru sistemele de IA cu grad ridicat de risc. Acestea ar trebui să fie reziliente în raport cu comportamentul prejudiciabil sau altfel indezirabil, care poate rezulta din limitările din cadrul sistemelor sau al mediului în care funcționează sistemele (de exemplu, erori, defecțiuni, inconsecvențe, situații neprevăzute). Prin urmare, ar trebui să fie luate măsuri tehnice și organizatorice pentru a asigura robustețea sistemelor de IA cu grad ridicat de risc, de exemplu prin proiectarea și dezvoltarea de soluții tehnice adecvate pentru a preveni sau a reduce la minimum comportamentul prejudiciabil sau altfel indezirabil în alt mod. Soluțiile tehnice respective pot include, de exemplu, mecanisme care permit sistemului să își întrerupă funcționarea în condiții de siguranță (planuri de autoprotecție) în prezența anumitor anomalii sau atunci când funcționarea are loc în afara anumitor limite prestabilite. Incapacitatea de a asigura protecția împotriva acestor riscuri ar putea avea un impact asupra siguranței sau ar putea afecta în mod negativ drepturile fundamentale, de exemplu din cauza unor decizii eronate sau a unor rezultate greșite sau distorsionate de prejudecăți generate de sistemul de IA.
(76)
A kiberbiztonság döntő szerepet játszik annak biztosításában, hogy az MI-rendszerek reziliensek legyenek a rendszer sebezhetőségét kihasználó, rossz szándékú harmadik felek arra irányuló kísérleteivel szemben, hogy megváltoztassák a rendszer használatát, viselkedését vagy teljesítményét, illetve veszélyeztessék a biztonsági tulajdonságait. Az MI-rendszerek elleni kibertámadások befolyásolhatnak MI-specifikus eszközöket, így például tanítóadat-készleteket (pl. adatmérgezés) vagy betanított modelleket (pl. ellenséges támadások vagy következtető támadások), vagy kihasználhatják az MI-rendszer digitális eszközeinek vagy az alapul szolgáló IKT-infrastruktúrának a sebezhetőségét. A kockázatoknak megfelelő kiberbiztonsági szint biztosítása érdekében ezért a nagy kockázatú MI-rendszerek szolgáltatóinak megfelelő intézkedéseket, például biztonsági ellenőrzéseket kell alkalmazniuk, adott esetben figyelembe véve az alapul szolgáló IKT-infrastruktúrát is.
(76)
Securitatea cibernetică joacă un rol esențial în asigurarea rezilienței sistemelor de IA împotriva încercărilor de modificare a utilizării, a comportamentului, a performanței sau de compromitere a proprietăților lor de securitate de către părți terțe răuvoitoare care exploatează vulnerabilitățile sistemului. Atacurile cibernetice împotriva sistemelor de IA se pot folosi de active specifice de IA, cum ar fi seturi de date de antrenament (de exemplu, otrăvirea datelor) sau modele antrenate (de exemplu, atacuri contradictorii sau inferențe din datele membrilor – membership inference), sau pot exploata vulnerabilitățile activelor digitale ale sistemului de IA sau ale infrastructurii TIC subiacente. Pentru a asigura un nivel de securitate cibernetică adecvat riscurilor, furnizorii de sisteme de IA cu grad ridicat de risc ar trebui, prin urmare, să ia măsuri adecvate, cum ar fi controalele de securitate, ținând seama, după caz, și de infrastructura TIC subiacentă.
(77)
Az e rendeletben foglalt, a stabilitásra és a pontosságra vonatkozó követelmények sérelme nélkül, a digitális elemeket tartalmazó termékekre vonatkozó horizontális kiberbiztonsági követelményekről szóló európai parlamenti és tanácsi rendelet hatálya alá tartozó nagy kockázatú MI-rendszerek e rendelet szerinti kiberbiztonsági követelményeknek való megfelelése az említett rendelettel összhangban igazolható az említett rendeletben foglalt alapvető kiberbiztonsági követelményeknek való megfeleléssel. Azon nagy kockázatú MI-rendszerek, amelyek megfelelnek a digitális elemeket tartalmazó termékekre vonatkozó horizontális kiberbiztonsági követelményekről szóló európai parlamenti és tanácsi rendelet alapvető követelményeinek, úgy tekintendők, mint amelyek megfelelnek az e rendeletben foglalt kiberbiztonsági követelményeknek, amennyiben e követelmények teljesülését az említett rendelet alapján kiállított EU-megfelelőségi nyilatkozat vagy annak részei igazolják. E célból az e rendelettel összhangban nagy kockázatú MI-rendszerként besorolt, digitális elemeket tartalmazó termékekkel összefüggő kiberbiztonsági kockázatoknak a digitális elemeket tartalmazó termékekre vonatkozó horizontális kiberbiztonsági követelményekről szóló európai parlamenti és tanácsi rendelet alapján történő értékelése során foglalkozni kell az MI-rendszer kiberrezilienciájára jelentett kockázatokkal jogosulatlan harmadik felek arra irányuló kísérletei tekintetében, hogy a rendszer sebezhetőségének kiaknázása révén megváltoztassák a rendszer használatát, viselkedését vagy teljesítményét, beleértve az olyan MI-specifikus sebezhetőségeket is, mint az adatmérgezés vagy az ellenséges támadások, valamint adott esetben e rendelet követelményeivel összhangban az alapvető jogokat érintő kockázatokkal.
(77)
Fără a aduce atingere cerințelor legate de robustețe și acuratețe prevăzute în prezentul regulament, sistemele de IA cu grad ridicat de risc care intră în domeniul de aplicare al Regulamentului Parlamentului European și al Consiliului privind cerințele orizontale în materie de securitate cibernetică pentru produsele cu elemente digitale, în conformitate cu regulamentul respectiv, pot demonstra conformitatea cu cerințele de securitate cibernetică prevăzute în prezentul regulament prin îndeplinirea cerințelor esențiale de securitate cibernetică prevăzute în regulamentul respectiv. Atunci când îndeplinesc cerințele esențiale ale Regulamentului Parlamentului European și al Consiliului privind cerințele orizontale în materie de securitate cibernetică pentru produsele cu elemente digitale, sistemele de IA cu grad ridicat de risc ar trebui să fie considerate conforme cu cerințele de securitate cibernetică prevăzute în prezentul regulament, în măsura în care îndeplinirea cerințelor respective este demonstrată în declarația de conformitate UE sau în părți ale acesteia emise în temeiul regulamentului respectiv. În acest scop, evaluarea riscurilor în materie de securitate cibernetică asociate unui produs cu elemente digitale clasificat drept sistem de IA cu grad ridicat de risc în conformitate cu prezentul regulament, efectuată în temeiul Regulamentului Parlamentului European și al Consiliului privind cerințele orizontale în materie de securitate cibernetică pentru produsele cu elemente digitale, ar trebui să ia în considerare riscurile la adresa rezilienței cibernetice a unui sistem de IA în ceea ce privește încercările unor părți terțe neautorizate de a-i modifica utilizarea, comportamentul sau performanța, inclusiv vulnerabilitățile specifice IA, cum ar fi otrăvirea datelor sau atacurile contradictorii, precum și, după caz, riscurile la adresa drepturilor fundamentale, astfel cum se prevede în prezentul regulament.
(78)
Az e rendeletben előírt megfelelőségértékelési eljárást kell alkalmazni a digitális elemeket tartalmazó termékekre vonatkozó horizontális kiberbiztonsági követelményekről szóló európai parlamenti és tanácsi rendelet hatálya alá tartozó és e rendelettel összhangban nagy kockázatú MI-rendszerként besorolt, digitális elemeket tartalmazó termékekre vonatkozó alapvető kiberbiztonsági követelményekre. Ez a szabály azonban nem vezethet a digitális elemeket tartalmazó termékekre vonatkozó horizontális kiberbiztonsági követelményekről szóló európai parlamenti és tanácsi rendelet hatálya alá tartozó, digitális elemeket tartalmazó kritikus termékek szükséges megbízhatósági szintjének csökkentéséhez. Ezért e szabálytól eltérve, az e rendelet hatálya alá tartozó és a digitális elemeket tartalmazó termékekre vonatkozó horizontális kiberbiztonsági követelményekről szóló európai parlamenti és tanácsi rendelet értelmében digitális elemeket tartalmazó fontos és kritikus terméknek minősülő olyan nagy kockázatú MI-rendszerekre, amelyekre az e rendelet mellékletében említett, belső ellenőrzésen alapuló megfelelőségértékelési eljárás alkalmazandó, a digitális elemeket tartalmazó termékekre vonatkozó horizontális kiberbiztonsági követelményekről szóló európai parlamenti és tanácsi rendelet megfelelőségértékelésre vonatkozó rendelkezései alkalmazandók az említett rendeletben foglalt kiberbiztonsági követelmények tekintetében. Ebben az esetben az e rendelet hatálya alá tartozó minden egyéb szempont tekintetében az e rendelet mellékletében meghatározott, a belső ellenőrzésen alapuló megfelelőségértékelési eljárásra vonatkozó rendelkezéseket kell alkalmazni. Az ENISA-nak a kiberbiztonsági politika terén rendelkezésre álló ismereteire és szakértelmére, valamint az (EU) 2019/881 európai parlamenti és tanácsi rendelet (37) alapján az ENISA-ra ruházott feladatokra építve a Bizottságnak együtt kell működnie az ENISA-val az MI-rendszerek kiberbiztonságával kapcsolatos kérdésekben.
(78)
Procedura de evaluare a conformității prevăzută de prezentul regulament ar trebui să se aplice în ceea ce privește cerințele esențiale în materie de securitate cibernetică ale unui produs cu elemente digitale care intră sub incidența Regulamentului Parlamentului European și al Consiliului privind cerințele orizontale în materie de securitate cibernetică pentru produsele cu elemente digitale și clasificat drept sistem de IA cu grad ridicat de risc în temeiul prezentului regulament. Totuși, această regulă nu ar trebui să conducă la reducerea nivelului necesar de asigurare pentru produsele critice cu elemente digitale care intră sub incidența Regulamentului Parlamentului European și al Consiliului privind cerințele orizontale în materie de securitate cibernetică pentru produsele cu elemente digitale. Prin urmare, prin derogare de la această regulă, sistemele de IA cu grad ridicat de risc care intră în domeniul de aplicare al prezentului regulament și care sunt calificate, de asemenea, drept produse importante și critice cu elemente digitale în temeiul Regulamentului Parlamentului European și al Consiliului privind cerințele orizontale în materie de securitate cibernetică pentru produsele cu elemente digitale și cărora li se aplică procedura de evaluare a conformității bazată pe control intern prevăzută într-o anexă la prezentul regulament fac obiectul dispozițiilor privind evaluarea conformității din Regulamentul Parlamentului European și al Consiliului privind cerințele orizontale în materie de securitate cibernetică pentru produsele cu elemente digitale în ceea ce privește cerințele esențiale în materie de securitate cibernetică din regulamentul respectiv. În acest caz, pentru toate celelalte aspecte reglementate de prezentul regulament ar trebui să se aplice dispozițiile respective privind evaluarea conformității bazate pe control intern prevăzute într-o anexă la prezentul regulament. Valorificând cunoașterea și cunoștințele de specialitate din ENISA în ceea ce privește politica în materie de securitate cibernetică și sarcinile atribuite ENISA în temeiul Regulamentului (UE) 2019/881 al Parlamentului European și al Consiliului (37), Comisia ar trebui să coopereze cu ENISA în ceea ce privește aspectele legate de securitatea cibernetică a sistemelor de IA.
(79)
Helyénvaló, hogy valamely nagy kockázatú MI-rendszer forgalomba hozataláért vagy üzembe helyezéséért felelősséget vállaljon egy konkrét – a szolgáltatóként meghatározott – természetes vagy jogi személy, függetlenül attól, hogy az említett természetes vagy jogi személy az a személy-e, aki a rendszert tervezte vagy fejlesztette.
(79)
Este oportun ca o anumită persoană fizică sau juridică, definită drept furnizor, să își asume responsabilitatea pentru introducerea pe piață sau punerea în funcțiune a unui sistem de IA cu grad ridicat de risc, indiferent dacă persoana fizică sau juridică respectivă este persoana care a proiectat sau a dezvoltat sistemul.
(80)
A fogyatékossággal élő személyek jogairól szóló ENSZ-egyezmény aláíróiként az Unió és a tagállamok jogi kötelezettséget viselnek azért, hogy megvédjék a fogyatékossággal élő személyeket a megkülönböztetéssel szemben, és előmozdítsák egyenlőségüket, biztosítsák, hogy a fogyatékossággal élő személyek másokkal egyenlő alapon hozzáférjenek az információs és kommunikációs technológiákhoz és rendszerekhez, és biztosítsák a fogyatékossággal élő személyek magánéletének tiszteletben tartását. Tekintettel az MI-rendszerek növekvő jelentőségére és használatára, az egyetemes tervezés elveinek minden új technológiára és szolgáltatásra való alkalmazásának az MI-technológiák által potenciálisan érintett vagy azt használó minden személy – többek között a fogyatékossággal élők – számára biztosítania kell a teljes körű és egyenlő hozzáférést oly módon, hogy az teljes mértékben figyelembe vegye veleszületett méltóságukat és sokféleségüket. Ezért alapvető fontosságú, hogy a szolgáltatók biztosítsák az akadálymentességi követelményeknek, többek között az (EU) 2016/2102 európai parlamenti és tanácsi irányelvnek (38) és az (EU) 2019/882 irányelvnek való maradéktalan megfelelést. A szolgáltatóknak biztosítaniuk kell az e követelményeknek való, kialakítás általi beépített megfelelést. Ezért a szükséges intézkedéseket a lehető legnagyobb mértékben be kell építeni a nagy kockázatú MI-rendszer kialakításába.
(80)
În calitate de semnatare ale Convenției Națiunilor Unite privind drepturile persoanelor cu dizabilități, Uniunea și statele membre sunt obligate din punct de vedere juridic să protejeze persoanele cu dizabilități împotriva discriminării și să promoveze egalitatea acestora, să se asigure că persoanele cu dizabilități au acces, în condiții de egalitate cu ceilalți, la tehnologiile și sistemele informației și comunicațiilor și să garanteze respectarea vieții private a persoanelor cu dizabilități. Având în vedere importanța și utilizarea în creștere a sistemelor de IA, aplicarea principiilor proiectării universale la toate noile tehnologii și servicii ar trebui să asigure accesul deplin și egal al tuturor persoanelor potențial afectate de tehnologiile IA sau care utilizează aceste tehnologii, inclusiv al persoanelor cu dizabilități, într-un mod care să țină seama pe deplin de demnitatea și diversitatea lor inerentă. Prin urmare, este esențial ca furnizorii să asigure conformitatea deplină cu cerințele de accesibilitate, inclusiv cu Directiva (UE) 2016/2102 a Parlamentului European și a Consiliului (38) și cu Directiva (UE) 2019/882. Furnizorii ar trebui să asigure conformitatea cu aceste cerințe din faza de proiectare. Prin urmare, măsurile necesare ar trebui să fie integrate cât mai mult posibil în proiectarea sistemului de IA cu grad ridicat de risc.
(81)
A szolgáltatónak megbízható minőségirányítási rendszert kell létrehoznia, biztosítania kell az előírt megfelelőségértékelési eljárás elvégzését, el kell készítenie a vonatkozó dokumentációt, és létre kell hoznia egy stabil, forgalomba hozatal utáni nyomonkövetési rendszert. A nagy kockázatú MI-rendszerek azon szolgáltatói számára, amelyek a vonatkozó ágazati uniós jog értelmében a minőségirányítási rendszerekre vonatkozó kötelezettségek hatálya alá tartoznak, lehetővé kell tenni, hogy az e rendeletben előírt minőségirányítási rendszer elemeit az említett más ágazati uniós jogszabályban előírt, meglévő minőségirányítási rendszerbe építsék be. Az e rendelet és a meglévő ágazati uniós jog közötti kiegészítő jelleget figyelembe kell venni a jövőbeli szabványosítási tevékenységek során vagy a Bizottság által elfogadott iránymutatásokban is. A nagy kockázatú MI-rendszereket saját használatra üzembe helyező hatóságok a minőségirányítási rendszerre vonatkozó szabályokat elfogadhatják és végrehajthatják a nemzeti vagy adott esetben regionális szinten elfogadott minőségirányítási rendszer részeként, figyelembe véve az ágazat sajátosságait, valamint az érintett hatóság hatásköreit és szervezetét.
(81)
Furnizorul ar trebui să instituie un sistem bine pus la punct de management al calității, să asigure realizarea procedurii necesare de evaluare a conformității, să întocmească documentația relevantă și să instituie un sistem solid de monitorizare după introducerea pe piață. Furnizorii de sisteme de IA cu grad ridicat de risc care fac obiectul unor obligații privind sistemele de management al calității în temeiul dreptului sectorial relevant al Uniunii ar trebui să aibă posibilitatea de a include elementele sistemului de management al calității prevăzut în prezentul regulament ca parte a sistemului existent de management al calității prevăzut în respectivul drept sectorial al Uniunii. Complementaritatea dintre prezentul regulament și dreptul sectorial existent al Uniunii ar trebui, de asemenea, să fie luată în considerare în viitoarele activități de standardizare sau orientări adoptate de Comisie. Autoritățile publice care pun în funcțiune sisteme de IA cu grad ridicat de risc pentru uzul propriu pot adopta și pune în aplicare norme privind sistemul de management al calității ca parte a sistemului de management al calității adoptat la nivel național sau regional, după caz, ținând seama de particularitățile sectorului și de competențele și organizarea autorității publice în cauză.
(82)
E rendelet érvényesítésének lehetővé tétele és az üzemeltetők számára egyenlő versenyfeltételek megteremtése érdekében, valamint figyelembe véve a digitális termékek rendelkezésre bocsátásának különböző formáit, fontos annak biztosítása, hogy minden körülmények között legyen egy olyan, az Unióban letelepedett személy, aki meg tudja adni a hatóságoknak az MI-rendszerek megfelelőségével kapcsolatos minden szükséges információt. Ezért MI-rendszereiknek az Unióban való rendelkezésre bocsátását megelőzően a harmadik országokban letelepedett szolgáltatóknak írásbeli meghatalmazással ki kell nevezniük egy, az Unióban letelepedett meghatalmazott képviselőt. A meghatalmazott képviselő kulcsszerepet játszik a nem az Unióban letelepedett szolgáltatók által az Unióban forgalomba hozott vagy üzembe helyezett nagy kockázatú MI-rendszerek megfelelőségének biztosításában, továbbá az Unióban letelepedett kapcsolattartó szerepét betöltve.
(82)
Pentru a permite aplicarea prezentului regulament și pentru a crea condiții de concurență echitabile pentru operatori și ținând seama de diferitele forme de punere la dispoziție a produselor digitale, este important să se asigure că, în toate circumstanțele, o persoană stabilită în Uniune poate furniza autorităților toate informațiile necesare cu privire la conformitatea unui sistem de IA. Prin urmare, înainte de a-și pune la dispoziție sistemele de IA în Uniune, furnizorii stabiliți în țări terțe ar trebui să desemneze, prin mandat scris, un reprezentant autorizat stabilit în Uniune. Respectivul reprezentant autorizat joacă un rol central în asigurarea conformității sistemelor de IA cu grad ridicat de risc introduse pe piață sau puse în funcțiune în Uniune de furnizorii respectivi care nu sunt stabiliți în Uniune și în îndeplinirea rolului de persoană de contact a acestora stabilită în Uniune.
(83)
Tekintettel az MI-rendszerek értékláncának jellegére és összetettségére, valamint összhangban az új jogszabályi kerettel, alapvető fontosságú a jogbiztonság garantálása és az e rendeletnek való megfelelés megkönnyítése. Ezért egyértelművé kell tenni az említett értéklánc mentén a releváns gazdasági szereplők – így például az MI-rendszerek fejlesztéséhez esetlegesen hozzájáruló importőrök és forgalmazók – szerepét és konkrét kötelezettségeit. Bizonyos helyzetekben az említett gazdasági szereplők egyszerre több szerepben is eljárhatnak, és ezért az említett szerepekhez társuló valamennyi releváns kötelezettséget együttesen kell teljesíteniük. Az üzemeltető például egyszerre járhat el forgalmazóként és importőrként.
(83)
Având în vedere natura și complexitatea lanțului valoric pentru sistemele de IA și în conformitate cu noul cadru legislativ, este esențial să se asigure securitatea juridică și să se faciliteze respectarea prezentului regulament. Prin urmare, este necesar să se clarifice rolul și obligațiile specifice ale operatorilor relevanți de-a lungul lanțului valoric respectiv, cum ar fi importatorii și distribuitorii care pot contribui la dezvoltarea sistemelor de IA. În anumite situații, operatorii respectivi ar putea acționa în mai multe roluri în același timp și, prin urmare, ar trebui să îndeplinească în mod cumulativ toate obligațiile relevante asociate rolurilor respective. De exemplu, un operator ar putea acționa în același timp ca distribuitor și ca importator.
(84)
A jogbiztonság biztosítása érdekében egyértelművé kell tenni, hogy bizonyos konkrét feltételek mellett bármely forgalmazót, importőrt, alkalmazót vagy egyéb harmadik felet úgy kell tekinteni, hogy valamely nagy kockázatú MI-rendszer szolgáltatója, és ezért vállalnia kell valamennyi releváns kötelezettséget. Ilyen helyzet állna elő, ha az említett fél egy már forgalomba hozott vagy üzembe helyezett nagy kockázatú MI-rendszeren feltünteti a nevét vagy a védjegyét, az olyan szerződéses megállapodások sérelme nélkül, amelyek a kötelezettségek másképp történő megosztását írják elő. Ilyen helyzet állna elő akkor is, ha az említett fél jelentős módosítást hajt végre egy már forgalomba hozott vagy már üzembe helyezett nagy kockázatú MI-rendszeren oly módon, hogy az e rendelettel összhangban továbbra is nagy kockázatú MI-rendszer marad, vagy jelentősen módosítja egy olyan MI-rendszer rendeltetését – beleértve az általános célú MI-rendszereket is –, amelyet nem minősítettek nagy kockázatúnak, és amelyet már forgalomba hoztak vagy üzembe helyeztek oly módon, hogy az érintett MI-rendszer ezen rendelettel összhangban nagy kockázatú MI-rendszerré válik. Az említett rendelkezéseket az új jogszabályi kereten alapuló azon egyes uniós harmonizációs jogszabályokban megállapított konkrétabb rendelkezések sérelme nélkül kell alkalmazni, amelyekkel együtt kell e rendeletet alkalmazni. Például az (EU) 2017/745 rendelet 16. cikkének (2) bekezdését – amely megállapítja, hogy bizonyos változtatások nem tekintendők egy adott eszköz olyan módosításának, amely befolyásolhatja az alkalmazandó követelményeknek való megfelelését – továbbra is alkalmazni kell az említett rendelet értelmében vett orvostechnikai eszköznek minősülő nagy kockázatú MI-rendszerekre.
(84)
Pentru a se asigura securitatea juridică, este necesar să se clarifice că, în anumite condiții specifice, orice distribuitor, importator, implementator sau altă parte terță ar trebui să fie considerat drept furnizor al unui sistem de IA cu grad ridicat de risc și, prin urmare, să își asume toate obligațiile relevante. Acest lucru ar fi valabil dacă partea respectivă își pune numele sau marca comercială pe un sistem de IA cu grad ridicat de risc deja introdus pe piață sau pus în funcțiune, fără a aduce atingere dispozițiilor contractuale care prevăd că obligațiile sunt alocate în alt mod. Acest lucru ar fi valabil și dacă partea respectivă aduce o modificare substanțială unui sistem de IA cu grad ridicat de risc care a fost deja introdus pe piață sau a fost deja pus în funcțiune și într-un mod în care acesta rămâne un sistem de IA cu grad ridicat de risc în conformitate cu prezentul regulament sau dacă modifică scopul preconizat al unui sistem de IA, inclusiv al unui sistem de IA de uz general, care nu a fost clasificat ca prezentând un grad ridicat de risc și care a fost deja introdus pe piață sau pus în funcțiune, într-un mod în care sistemul de IA devine un sistem de IA cu grad ridicat de risc în conformitate cu prezentul regulament. Aceste dispoziții ar trebui să se aplice fără a aduce atingere dispozițiilor mai specifice stabilite în anumite acte legislative de armonizare ale Uniunii întemeiate pe noul cadru legislativ, împreună cu care ar trebui să se aplice prezentul regulament. De exemplu, articolul 16 alineatul (2) din Regulamentul (UE) 2017/745, care stabilește că anumite modificări nu ar trebui să fie considerate modificări ale unui dispozitiv care ar putea afecta conformitatea acestuia cu cerințele aplicabile, ar trebui să se aplice în continuare sistemelor de IA cu grad ridicat de risc care sunt dispozitive medicale în sensul regulamentului respectiv.
(85)
Az általános célú MI-rendszerek használhatók önmagukban, nagy kockázatú MI-rendszerként vagy más nagy kockázatú MI-rendszerek alkotóelemeiként. Ezért sajátos jellegük miatt és a felelősségi köröknek a mesterségesintelligencia-értéklánc mentén történő méltányos megosztásának biztosítása érdekében az ilyen rendszerek szolgáltatóinak – függetlenül attól, hogy azokat más szolgáltatók használhatják-e nagy kockázatú MI-rendszerként vagy nagy kockázatú MI-rendszerek alkotóelemeként, és amennyiben e rendelet másként nem rendelkezik – szorosan együtt kell működniük egyrészt a releváns nagy kockázatú MI-rendszerek szolgáltatóival annak érdekében, hogy azok meg tudjanak felelni az e rendelet szerinti releváns kötelezettségeknek, másrészt az e rendelet alapján létrehozott illetékes hatóságokkal.
(85)
Sistemele de IA de uz general pot fi utilizate în sine ca sisteme de IA cu grad ridicat de risc sau pot fi componente ale altor sisteme de IA cu grad ridicat de risc. Prin urmare, având în vedere natura lor specifică și pentru a asigura o partajare echitabilă a responsabilităților de-a lungul lanțului valoric al IA, furnizorii de astfel de sisteme ar trebui, indiferent dacă pot fi utilizate ca sisteme de IA cu grad ridicat de risc ca atare de alți furnizori sau drept componente ale unor sisteme de IA cu grad ridicat de risc și cu excepția cazului în care se prevede altfel în prezentul regulament, să coopereze îndeaproape cu furnizorii sistemelor de IA cu grad ridicat de risc relevante pentru a permite respectarea de către acestea a obligațiilor relevante în temeiul prezentului regulament și cu autoritățile competente instituite în temeiul prezentului regulament.
(86)
Amennyiben az ezen rendeletben meghatározott feltételek alapján az MI-rendszert eredetileg forgalomba hozó vagy üzembe helyező szolgáltató e rendelet alkalmazása céljából többé nem tekinthető szolgáltatónak, és amennyiben e szolgáltató kifejezetten nem zárta ki az MI-rendszer nagy kockázatú MI-rendszerré alakítását, az említett szolgáltatónak mindazonáltal szorosan együtt kell működnie és rendelkezésre kell bocsátania a szükséges információkat, valamint biztosítania kell az észszerűen elvárható technikai hozzáférést és egyéb segítséget, amelyre az e rendeletben meghatározott kötelezettségek teljesítése érdekében szükség van, különösen a nagy kockázatú MI-rendszerek megfelelőségértékelésnek való megfelelés tekintetében.
(86)
În cazul în care, în condițiile prevăzute în prezentul regulament, furnizorul care a introdus inițial sistemul de IA pe piață sau l-a pus în funcțiune nu ar mai trebui să fie considerat furnizor în sensul prezentului regulament și în cazul în care furnizorul respectiv nu a exclus în mod expres schimbarea sistemului de IA într-un sistem de IA cu grad ridicat de risc, primul furnizor ar trebui totuși să coopereze îndeaproape, să pună la dispoziție informațiile necesare și să furnizeze accesul tehnic și alte tipuri de asistență preconizate în mod rezonabil care sunt necesare pentru îndeplinirea obligațiilor prevăzute în prezentul regulament, în special în ceea ce privește respectarea cerințelor privind evaluarea conformității sistemelor de IA cu grad ridicat de risc.
(87)
Továbbá amennyiben egy olyan nagy kockázatú MI-rendszer, amely az új jogszabályi kereten alapuló uniós harmonizációs jogszabályok hatálya alá tartozó terméknek a biztonsági alkotórésze, nem kerül a terméktől függetlenül forgalomba hozatalra vagy üzembe helyezésre, a vonatkozó jogszabályban meghatározott termékgyártónak kell teljesítenie a szolgáltató e rendeletben meghatározott kötelezettségeit, és így különösen biztosítania kell, hogy a végtermékbe beágyazott MI-rendszer megfeleljen e rendelet követelményeinek.
(87)
În plus, în cazul în care un sistem de IA cu grad ridicat de risc care este o componentă de siguranță a unui produs care intră în domeniul de aplicare al legislației de armonizare a Uniunii întemeiate pe noul cadru legislativ nu este introdus pe piață sau pus în funcțiune independent de produs, fabricantul produsului definit în legislația respectivă ar trebui să respecte obligațiile furnizorului stabilite în prezentul regulament și ar trebui, în special, să se asigure că sistemul de IA încorporat în produsul final respectă cerințele prezentului regulament.
(88)
Az MI-értéklánc mentén gyakran több fél is szolgáltat MI-rendszereket, eszközöket és nyújt ilyen szolgáltatásokat, emellett pedig olyan alkotóelemeket vagy folyamatokat is szolgáltat, amelyeket a szolgáltató beépít az MI-rendszerbe olyan különböző célok megvalósítása érdekében, mint például a modellek tanítása, a modellek újratanítása, a modellek tesztelése és értékelése, a szoftverbe való integrálás vagy a modellfejlesztés egyéb vonatkozásai. Ezek a felek fontos szerepet játszanak az értékláncban azon nagy kockázatú MI-rendszer szolgáltatója szempontjából, amelybe MI-rendszereiket, eszközeiket, szolgáltatásaikat, alkotóelemeiket vagy folyamataikat integrálják, és – saját szellemitulajdon-jogaik vagy üzleti titkaik veszélyeztetése nélkül – írásbeli megállapodás révén, a technika általánosan elfogadott, mindenkori állása alapján át kell adnia a szükséges információkat, képességeket, technikai hozzáférést és egyéb segítséget az említett szolgáltatónak, annak érdekében, hogy a szolgáltató teljes mértékben eleget tudjon tenni az e rendeletben foglalt kötelezettségeknek.
(88)
De-a lungul lanțului valoric al IA, numeroase părți furnizează adesea sisteme, instrumente și servicii de IA, dar și componente sau procese care sunt încorporate de furnizor în sistemul de IA, cu diferite obiective, inclusiv antrenarea modelelor, reconversia modelelor, testarea și evaluarea modelelor, integrarea în software sau alte aspecte ale dezvoltării de modele. Respectivele părți au un rol important în lanțul valoric față de furnizorul sistemului de IA cu grad ridicat de risc în care sunt integrate sistemele, instrumentele, serviciile, componentele sau procesele lor de IA și ar trebui să îi ofere acestui furnizor, printr-un acord scris, informațiile, capabilitățile, accesul tehnic și alte tipuri de asistență necesare bazate pe stadiul de avansare al tehnologiei general recunoscut, pentru a permite furnizorului să respecte pe deplin obligațiile prevăzute în prezentul regulament, fără a-și compromite propriile drepturi de proprietate intelectuală sau secrete comerciale.
(89)
Az általános célú MI-modellektől eltérő eszközöket, szolgáltatásokat, folyamatokat vagy MI-alkotóelemeket nyilvánosan hozzáférhetővé tevő harmadik felek nem kötelezhetők arra, hogy megfeleljenek az MI-értéklánc mentén fennálló felelősségi körökre vonatkozó követelményeknek, különösen az azokat használó vagy integráló szolgáltatóval szemben, amennyiben az említett eszközöket, szolgáltatásokat, folyamatokat vagy MI-alkotóelemeket szabad és nyílt forráskódú licenc alapján teszik hozzáférhetővé. A szabad és nyílt forráskódú eszközök, szolgáltatások, folyamatok és MI-alkotóelemek fejlesztőit azonban ösztönözni kell a széles körben elfogadott dokumentációs gyakorlatok, így például modellkártyák és adatlapok alkalmazására, hogy ezáltal felgyorsítsák az információmegosztást az MI-értékláncban, lehetővé téve a megbízható MI-rendszerek előmozdítását az Unióban.
(89)
Părțile terțe care pun la dispoziția publicului instrumente, servicii, procese sau componente de IA, altele decât modelele de IA de uz general, ar trebui să nu fie obligate să respecte cerințe care vizează responsabilitățile de-a lungul lanțului valoric al IA, în special față de furnizorul care le-a utilizat sau le-a integrat, atunci când aceste instrumente, servicii, procese sau componente de IA sunt puse la dispoziție sub licență liberă și deschisă. Dezvoltatorii de instrumente, servicii, procese sau componente de IA libere și cu sursă deschisă, altele decât modelele de IA de uz general, ar trebui să fie încurajați să pună în aplicare practici de documentare adoptate pe scară largă, cum ar fi carduri însoțitoare ale modelelor și fișe de date, ca modalitate de a accelera schimbul de informații de-a lungul lanțului valoric al IA, permițând promovarea unor sisteme de IA fiabile în Uniune.
(90)
A Bizottság önkéntes mintafeltételeket dolgozhat ki és ajánlhat a nagy kockázatú MI-rendszerek szolgáltatói és a nagy kockázatú MI-rendszerekhez használt vagy azokba integrált eszközöket, szolgáltatásokat, alkotóelemeket vagy folyamatokat szolgáltató harmadik felek közötti szerződésekre vonatkozóan, ezzel elősegítve az együttműködést az értéklánc mentén. Az önkéntes mintafeltételek kidolgozása során a Bizottságnak figyelembe kell vennie az egyes ágazatokban vagy üzleti ügyekben alkalmazandó lehetséges szerződéses követelményeket.
(90)
Comisia ar putea elabora și recomanda un model voluntar de clauze contractuale între furnizorii de sisteme de IA cu grad ridicat de risc și părțile terțe care furnizează instrumente, servicii, componente sau procese care sunt utilizate sau integrate în sistemele de IA cu grad ridicat de risc, pentru a facilita cooperarea de-a lungul lanțului valoric. Atunci când elaborează modelul voluntar de clauze contractuale, Comisia ar trebui să ia în considerare și eventualele cerințe contractuale aplicabile în anumite sectoare sau situații economice.
(91)
Tekintettel az MI-rendszerek jellegére, valamint az esetlegesen a használatukkal összefüggésben a biztonság és az alapvető jogok tekintetében felmerülő kockázatokra, ideértve azt is, hogy biztosítani kell az MI-rendszer teljesítményének valós körülmények között történő, megfelelő nyomon követését, helyénvaló konkrét kötelezettségeket meghatározni az alkalmazók számára. Az alkalmazóknak különösen megfelelő technikai és szervezeti intézkedéseket kell hozniuk annak biztosítása érdekében, hogy a használati utasításokkal összhangban használják a nagy kockázatú MI-rendszereket, és bizonyos egyéb kötelezettségeket is elő kell írni az MI-rendszerek működésének nyomon követésére és adott esetben a nyilvántartás vezetésére vonatkozóan. Továbbá, az alkalmazóknak biztosítaniuk kell, hogy a használati utasítás és az emberi felügyelet e rendeletben meghatározott végrehajtására kijelölt személyek rendelkezzenek az említett feladatok megfelelő ellátásához szükséges szakértelemmel, különösen megfelelő szintű MI-jártassággal, képzettséggel és felhatalmazással. Az említett kötelezettségek nem érinthetik az alkalmazóknak a nagy kockázatú MI-rendszerekkel kapcsolatos, uniós vagy nemzeti jog szerinti egyéb kötelezettségeit.
(91)
Având în vedere natura sistemelor de IA și riscurile la adresa siguranței și a drepturilor fundamentale care pot fi asociate cu utilizarea lor, inclusiv în ceea ce privește necesitatea de a asigura o monitorizare adecvată a performanței unui sistem de IA într-un context real, este oportun să se stabilească responsabilități specifice pentru implementatori. Implementatorii ar trebui, în special, să ia măsurile tehnice și organizatorice adecvate pentru a se asigura că utilizează sisteme de IA cu grad ridicat de risc în conformitate cu instrucțiunile de utilizare și ar trebui să fie prevăzute și alte obligații în ceea ce privește monitorizarea funcționării sistemelor de IA și păstrarea evidențelor, după caz. În plus, implementatorii ar trebui să se asigure că persoanele desemnate să pună în aplicare instrucțiunile de utilizare și supravegherea umană, astfel cum sunt prevăzute în prezentul regulament, au competența necesară, în special un nivel adecvat de alfabetizare, formare și autoritate în domeniul IA pentru a îndeplini în mod corespunzător sarcinile respective. Respectivele obligații nu ar trebui să aducă atingere altor obligații ale implementatorilor în ceea ce privește sistemele de IA cu grad ridicat de risc în temeiul dreptului Uniunii sau al dreptului intern.
(92)
E rendelet nem érinti a munkáltatóknak az uniós vagy nemzeti jog és gyakorlat – többek között a 2002/14/EK európai parlamenti és tanácsi irányelv (39) – szerinti, a munkavállalóknak vagy képviselőiknek az MI-rendszerek üzembe helyezésével vagy használatával kapcsolatos döntésekről való tájékoztatására, illetve tájékoztatására és a velük folytatott konzultációra vonatkozó kötelezettségeket. Továbbra is szükséges biztosítani a munkavállalók és képviselőik tájékoztatását a nagy kockázatú MI-rendszerek tervezett munkahelyi bevezetéséről, amennyiben az említett tájékoztatási, illetve tájékoztatási és konzultációs kötelezettségek más jogi eszközökben foglalt feltételei nem teljesülnek. Ezen túlmenően az ilyen tájékoztatáshoz való jog kiegészítő jellegű és szükséges az e rendelet alapjául szolgáló alapvető jogok védelmére irányuló célkitűzés tekintetében. Ebben a rendeletben ezért erre vonatkozó tájékoztatási követelményt kell meghatározni, a munkavállalók meglévő jogainak sérelme nélkül.
(92)
Prezentul regulament nu aduce atingere obligațiilor angajatorilor de a informa sau de a informa și consulta lucrătorii sau reprezentanții acestora în temeiul dreptului și al practicilor Uniunii sau naționale, inclusiv al Directivei 2002/14/CE a Parlamentului European și a Consiliului (39), cu privire la deciziile de punere în funcțiune sau de utilizare a sistemelor de IA. Este în continuare necesar să se asigure informarea lucrătorilor și a reprezentanților acestora cu privire la implementarea planificată a sistemelor de IA cu grad ridicat de risc la locul de muncă în cazul în care nu sunt îndeplinite condițiile pentru respectivele obligații de informare sau de informare și consultare prevăzute în alte instrumente juridice. În plus, un astfel de drept la informare este auxiliar și necesar în raport cu obiectivul de protecție a drepturilor fundamentale care stă la baza prezentului regulament. Prin urmare, prezentul regulament ar trebui să prevadă o cerință de informare în acest sens, fără a afecta drepturile existente ale lucrătorilor.
(93)
Az MI-rendszerekkel kapcsolatos kockázatok keletkezhetnek egyrészt az ilyen rendszerek kialakításának módjából, másrészt származhatnak abból is, ahogyan az MI-rendszereket használják. A nagy kockázatú MI-rendszerek alkalmazói ezért kritikus szerepet játszanak az alapvető jogok védelmében, kiegészítve az MI-rendszer fejlesztése során a szolgáltató kötelezettségeit. Helyzetüknél fogva az alkalmazók képesek a legjobban megérteni, hogy konkrétan hogyan használják majd a nagy kockázatú MI-rendszert, és ezért azonosítani tudnak a fejlesztési szakaszban előre nem látott jelentős potenciális kockázatokat, mivel pontosabban ismerik a felhasználási kontextust, a valószínűleg érintett személyeket vagy személyek csoportjait, ideértve a kiszolgáltatott csoportokat is. Az e rendelet egyik mellékletében felsorolt nagy kockázatú MI-rendszerek alkalmazói szintén kritikus szerepet játszanak a természetes személyek tájékoztatásában, és – amikor természetes személyekkel kapcsolatos döntéseket hoznak vagy segítséget nyújtanak a természetes személyekkel kapcsolatos döntések meghozatalában – adott esetben tájékoztatniuk kell a természetes személyeket arról, hogy esetükben nagy kockázatú MI-rendszert használnak. Ebben a tájékoztatásban szerepelnie kell az MI-rendszer rendeltetésének és a rendszer által hozott döntések típusának. Az alkalmazónak tájékoztatnia kell a természetes személyeket az e rendeletben meghatározott, magyarázathoz való jogukról is. A bűnüldözési célokra használt nagy kockázatú MI-rendszerek tekintetében az említett kötelezettséget az (EU) 2016/680 irányelv 13. cikkével összhangban kell végrehajtani.
(93)
Deși riscurile legate de sistemele de IA pot rezulta din modul în care sunt proiectate sistemele respective, pot decurge riscuri și din modul în care aceste sisteme de IA sunt utilizate. Prin urmare, implementatorii sistemelor de IA cu grad ridicat de risc joacă un rol esențial în garantarea faptului că drepturile fundamentale sunt protejate, completând obligațiile furnizorului la dezvoltarea sistemului de IA. Implementatorii sunt cei mai în măsură să înțeleagă modul în care sistemul de IA cu grad ridicat de risc va fi utilizat concret și, prin urmare, pot identifica potențialele riscuri semnificative care nu au fost prevăzute în faza de dezvoltare, datorită cunoașterii mai exacte a contextului de utilizare, a persoanelor sau a grupurilor de persoane care ar putea fi afectate, inclusiv a grupurilor vulnerabile. Implementatorii de sisteme de IA cu grad ridicat de risc enumerate într-o anexă la prezentul regulament joacă, de asemenea, un rol esențial în informarea persoanelor fizice și ar trebui, atunci când iau decizii sau contribuie la luarea deciziilor referitoare la persoane fizice, după caz, să informeze persoanele fizice că fac obiectul utilizării sistemului de IA cu grad ridicat de risc. Aceste informații ar trebui să includă scopul urmărit și tipul de decizii luate. Implementatorul ar trebui, de asemenea, să informeze persoanele fizice cu privire la dreptul lor la o explicație furnizată în temeiul prezentului regulament. În ceea ce privește sistemele de IA cu grad ridicat de risc utilizate în scopul aplicării legii, această obligație ar trebui să fie pusă în aplicare în conformitate cu articolul 13 din Directiva (UE) 2016/680.
(94)
Az MI-rendszerek bűnüldözési célú, biometrikus azonosításra történő felhasználása során a biometrikus adatok bárminemű kezelésének meg kell felelnie az (EU) 2016/680 irányelv 10. cikkének, amely csak akkor teszi lehetővé az ilyen adatkezelést, ha arra feltétlenül szükség van, az érintett jogaira és szabadságaira vonatkozó megfelelő garanciák mellett, és amennyiben azt az uniós vagy tagállami jog lehetővé teszi. Az ilyen felhasználás engedélyezése esetén tiszteletben kell tartani az (EU) 2016/680 irányelv 4. cikkének (1) bekezdésében meghatározott elveket is, beleértve a kezelés jogszerűségét, a kezelés tisztességes voltát és az átláthatóságot, a célhoz kötöttséget, a pontosságot és a tárolás korlátozását.
(94)
Orice prelucrare a datelor biometrice implicate în utilizarea sistemelor de IA pentru identificarea biometrică în scopul aplicării legii trebuie să respecte articolul 10 din Directiva (UE) 2016/680, care permite o astfel de prelucrare numai atunci când este strict necesară, sub rezerva unor garanții adecvate pentru drepturile și libertățile persoanei vizate, și atunci când este autorizată de dreptul Uniunii sau de dreptul intern. O astfel de utilizare, atunci când este autorizată, trebuie, de asemenea, să respecte principiile prevăzute la articolul 4 alineatul (1) din Directiva (UE) 2016/680, inclusiv legalitatea, echitatea și transparența, limitarea scopului, exactitatea și limitarea stocării.
(95)
Az alkalmazandó uniós jog, különösen az (EU) 2016/679 rendelet és az (EU) 2016/680 irányelv sérelme nélkül, tekintettel a nem valós idejű távoli biometrikus azonosító rendszerek tolakodó jellegére, a nem valós idejű távoli biometrikus azonosító rendszerek használatára vonatkozóan biztosítékokat kell meghatározni. A nem valós idejű távoli biometrikus azonosító rendszereket mindig arányos és jogszerű módon, a feltétlenül szükséges mértékben – tehát célzottan – kell használni az azonosítandó személyek, a helyszín és az időbeli hatály tekintetében, és a használatnak jogszerűen rögzített videofelvételek zárt adatkészlete alapján kell történnie. A nem valós idejű távoli biometrikus azonosító rendszereket semmi esetre sem szabad a bűnüldözés keretében olyan módon felhasználni, hogy az megkülönböztetés nélküli megfigyeléshez vezessen. A nem valós idejű távoli biometrikus azonosításra vonatkozó feltételek semmi esetre sem szolgálhatnak alapul a valós idejű távoli biometrikus azonosításra vonatkozó tilalom és az arra vonatkozó szigorú kivételek megkerüléséhez.
(95)
Fără a aduce atingere dreptului aplicabil al Uniunii, în special Regulamentului (UE) 2016/679 și Directivei (UE) 2016/680, având în vedere caracterul intruziv al sistemelor de identificare biometrică la distanță ulterioară, utilizarea sistemelor de identificare biometrică la distanță ulterioară ar trebui să facă obiectul unor garanții. Sistemele de identificare biometrică la distanță ulterioară ar trebui să fie utilizate întotdeauna într-un mod proporțional, legitim și strict necesar și, prin urmare, adaptat, în ceea ce privește persoanele care urmează să fie identificate, localizarea, acoperirea temporală și pe baza unui set de date închis de înregistrări video obținute în mod legal. În orice caz, sistemele de identificare biometrică la distanță ulterioară nu ar trebui să fie utilizate în cadrul aplicării legii pentru a conduce la o supraveghere arbitrară. Condițiile pentru identificarea biometrică la distanță ulterioară nu ar trebui, în niciun caz, să ofere o bază pentru a eluda condițiile interdicției și excepțiile stricte pentru identificarea biometrică la distanță în timp real.
(96)
Az alapvető jogok védelmének hatékony biztosítása érdekében a nagy kockázatú MI-rendszerek olyan alkalmazóinak, amelyek közjogi szervnek minősülnek vagy amelyek közszolgáltatásokat nyújtó magánszervezetek, továbbá az e rendelet egyik mellékletében felsorolt, bizonyos nagy kockázatú MI-rendszerek alkalmazóinak – így például a bankoknak vagy a biztosítóknak – a használatbavétel előtt alapvetőjogi hatásvizsgálatot kell végezniük. Magánszervezetek is nyújthatnak a magánszemélyek számára fontos, állami jellegű szolgáltatásokat. Az ilyen közszolgáltatásokat nyújtó magánszervezetek közérdekű feladatokkal állnak kapcsolatban, például az oktatás, az egészségügy, a szociális szolgáltatások, a lakhatás és az igazságszolgáltatás területén. Az alapvetőjogi hatásvizsgálat célja, hogy az alkalmazó azonosítsa a valószínűleg érintett egyének vagy egyének csoportjainak jogait érintő konkrét kockázatokat, és azonosítsa az említett kockázatok bekövetkezése esetén meghozandó intézkedéseket. A hatásvizsgálatot a nagy kockázatú MI-rendszer bevezetését megelőzően kell lefolytatni, és aktualizálni kell, ha az alkalmazó úgy ítéli meg, hogy a releváns tényezők bármelyike megváltozott. A hatásvizsgálat keretében azonosítani kell az alkalmazó azon releváns folyamatait, amelyekben a nagy kockázatú MI-rendszert a rendeltetésének megfelelően használni fogják, és tartalmaznia kell annak leírását, hogy a rendszert milyen időtartamon keresztül és milyen gyakran használják majd, valamint azon természetes személyek és csoportok konkrét kategóriáinak leírását, akiket és amelyeket a rendszer a konkrét felhasználási kontextusban valószínűleg érint. A vizsgálatnak ki kell terjednie az említett személyek vagy csoportok alapvető jogaira valószínűleg hatást gyakorló konkrét kár kockázatának azonosítására is. Ezen vizsgálat elvégzése során az alkalmazónak figyelembe kell vennie a hatás megfelelő értékelése szempontjából releváns információkat, többek között, de nem kizárólag a nagy kockázatú MI-rendszer szolgáltatója által a használati útmutatóban megadott információkat. Az azonosított kockázatok fényében az alkalmazóknak meg kell határozniuk az említett kockázatok bekövetkezése esetén meghozandó intézkedéseket, ideértve például az említett konkrét felhasználási kontextusban alkalmazott irányítási intézkedéseket, így például a használati utasítás szerinti emberi felügyeletre vonatkozó szabályokat vagy a panaszkezelési és jogorvoslati eljárásokat, mivel ezek a felhasználás konkrét eseteiben hozzájárulhatnak az alapvető jogokat érintő kockázatok enyhítéséhez. A hatásvizsgálat elvégzését követően az alkalmazónak értesítenie kell az érintett piacfelügyeleti hatóságot. Adott esetben a hatásvizsgálat elvégzéséhez szükséges releváns információk összegyűjtése érdekében a nagy kockázatú MI-rendszerek alkalmazói – különösen ha az MI-rendszereket a közszférában használják – bevonhatják az érintett érdekelt feleket, ideértve az MI-rendszer által valószínűleg érintett személyek csoportjainak képviselőit, független szakértőket és civil társadalmi szervezeteket az ilyen hatásvizsgálatok elvégzésébe és a kockázatok bekövetkezése esetén meghozandó intézkedések kidolgozásába. A Mesterséges Intelligenciával Foglalkozó Európai Hivatalnak (a továbbiakban: MI-hivatal) sablont kell kidolgoznia a megfelelés elősegítése és az alkalmazókra háruló adminisztratív terhek csökkentése érdekében.
(96)
Pentru a se asigura în mod eficient că drepturile fundamentale sunt protejate, implementatorii de sisteme de IA cu grad ridicat de risc care sunt organisme de drept public sau entitățile private care furnizează servicii publice și implementatorii care implementează anumite sisteme de IA cu grad ridicat de risc enumerate într-o anexă la prezentul regulament, cum ar fi entitățile bancare sau de asigurări, ar trebui să efectueze o evaluare a impactului asupra drepturilor fundamentale înainte de a pune aceste sisteme în funcțiune. Serviciile importante pentru persoanele fizice care sunt de natură publică pot fi furnizate și de entități private. Entitățile private care furnizează astfel de servicii publice sunt legați de sarcini de interes public, cum ar fi în domeniul educației, al îngrijirilor de sănătate, al serviciilor sociale, al locuințelor, al administrării justiției. Scopul evaluării impactului asupra drepturilor fundamentale este ca implementatorul să identifice riscurile specifice pentru drepturile persoanelor sau ale grupurilor de persoane care ar putea fi afectate și să identifice măsurile care trebuie luate în cazul materializării riscurilor respective. Evaluarea impactului ar trebui să fie efectuată înainte de implementarea sistemului de IA cu grad ridicat de risc și ar trebui să fie actualizată atunci când implementatorul consideră că oricare dintre factorii relevanți s-au schimbat. Evaluarea impactului ar trebui să identifice procesele relevante ale implementatorului în care sistemul de IA cu grad ridicat de risc va fi utilizat în conformitate cu scopul său preconizat și ar trebui să includă o descriere a perioadei de timp și a frecvenței în care se intenționează utilizarea sistemului, precum și a categoriilor specifice de persoane fizice și grupuri care sunt susceptibile de a fi afectate în contextul specific de utilizare. Evaluarea ar trebui să includă, de asemenea, identificarea riscurilor specifice de prejudiciu care ar putea avea un impact asupra drepturilor fundamentale ale persoanelor sau grupurilor respective. Atunci când efectuează această evaluare, implementatorul ar trebui să țină seama de informațiile relevante pentru o evaluare adecvată a impactului, inclusiv de informațiile furnizate de furnizorul sistemului de IA cu grad ridicat de risc în instrucțiunile de utilizare, dar fără a se limita la aceste informații. Având în vedere riscurile identificate, implementatorii ar trebui să stabilească măsurile care trebuie luate în cazul materializării acestor riscuri, inclusiv, de exemplu, mecanisme de guvernanță în acest context specific de utilizare, cum ar fi mecanisme de supraveghere umană în conformitate cu instrucțiunile de utilizare sau proceduri de tratare a plângerilor și proceduri aferente măsurilor reparatorii, deoarece acestea ar putea fi esențiale pentru atenuarea riscurilor la adresa drepturilor fundamentale în cazuri concrete de utilizare. După efectuarea respectivei evaluări a impactului, implementatorul ar trebui să îi notifice acest lucru autorității relevante de supraveghere a pieței. După caz, pentru a colecta informațiile relevante necesare pentru efectuarea evaluării impactului, implementatorii de sisteme de IA cu grad ridicat de risc, în special atunci când sistemele de IA sunt utilizate în sectorul public, ar putea implica părțile interesate relevante, inclusiv reprezentanții grupurilor de persoane susceptibile de a fi afectate de sistemul de IA, experții independenți și organizațiile societății civile în efectuarea unor astfel de evaluări ale impactului și în conceperea măsurilor care trebuie luate în cazul materializării riscurilor. Oficiul european pentru inteligența artificială (Oficiul pentru IA) ar trebui să elaboreze un model de chestionar pentru a facilita conformitatea și a reduce sarcina administrativă pentru implementatori.
(97)
A jogbiztonság lehetővé tétele érdekében az általános célú MI-modellek fogalmát egyértelműen meg kell határozni, és el kell különíteni az MI-rendszerek fogalmától. A fogalommeghatározásnak az általános célú MI-modellek fő funkcionális jellemzőin kell alapulnia, különös tekintettel a modell általánosságára és különféle feladatok széles körének kompetens elvégzésére való képességére. Ezeket a modelleket jellemzően nagy mennyiségű adattal tanítják, különböző módszerekkel – például önfelügyelt, felügyelet nélküli vagy megerősítéses tanulással. Az általános célú MI-modellek különböző módon kerülhetnek forgalomba, többek között könyvtárakon vagy alkalmazásprogramozási felületeken (API-kon) keresztül, közvetlen letöltés formájában vagy fizikai példányként. Ezek a modellek tovább módosíthatók vagy finomíthatók új modellekké. Bár az MI-modellek az MI-rendszerek alapvető alkotóelemei, önmagukban nem minősülnek MI-rendszereknek. Az MI-modellek további alkotóelemek, például felhasználói felület hozzáadását teszik szükségessé ahhoz, hogy MI-rendszerekké váljanak. Az MI-modelleket jellemzően az MI-rendszerekbe integrálják, és azok részét képezik. E rendelet egyedi szabályokat állapít meg az általános célú MI-modellekre és a rendszerszintű kockázatot jelentő általános célú MI-modellekre vonatkozóan, amelyeket akkor is alkalmazni kell, ha ezek a modellek integráltak vagy egy MI-rendszer részét képezik. Lényeges, hogy az általános célú MI-modellek szolgáltatóira vonatkozó kötelezettségeket alkalmazni kell az általános célú MI-modellek forgalomba hozatalától kezdve. Ha egy általános célú MI-modell szolgáltatója saját modellt épít be saját, MI-rendszerébe, amelyet forgalomba hoz vagy üzembe helyez, az adott modellt úgy kell tekinteni, mint ami forgalomban van, és ezért – az MI-rendszerekre vonatkozó kötelezettségeken felül – az e rendeletben a modellekre vonatkozóan meghatározott kötelezettségeket továbbra is alkalmazni kell. A modellekre vonatkozóan megállapított kötelezettségek nem alkalmazandók abban az esetben, ha egy saját modellt olyan, tisztán belső folyamatokhoz használnak fel, amelyek nem nélkülözhetetlenek egy termék vagy szolgáltatás harmadik felek részére történő nyújtásához, és ez nem érinti a természetes személyek jogait. A rendszerszintű kockázatot jelentő általános célú MI-modellekre mindig vonatkozniuk kell az e rendelet szerinti releváns kötelezettségeknek, tekintettel a potenciális, jelentősen negatív hatásaikra. A fogalommeghatározás nem terjedhet ki a forgalomba hozatal előtt kizárólag kutatási, fejlesztési és prototípus-alkotási tevékenységek céljából használt MI-modellekre. Ez nem érinti az e rendeletnek való megfelelésre vonatkozó kötelezettséget, amennyiben az említett tevékenységeket követően a modellt forgalomba hozzák.
(97)
Noțiunea de modele de IA de uz general ar trebui să fie definită în mod clar și separată de noțiunea de sisteme de IA pentru a asigura securitatea juridică. Definiția ar trebui să se bazeze pe caracteristicile funcționale esențiale ale unui model de IA de uz general, în special pe generalitate și pe capabilitatea de a îndeplini în mod competent o gamă largă de sarcini distincte. Aceste modele sunt, de regulă, antrenate pe volume mari de date, prin diverse metode, cum ar fi învățarea autosupravegheată, nesupravegheată sau prin întărire. Modelele de IA de uz general pot fi introduse pe piață în diferite moduri, inclusiv prin biblioteci, interfețe de programare a aplicațiilor (API), sub formă de descărcare directă sau sub formă de copie fizică. Aceste modele pot fi modificate suplimentar sau calibrate și astfel transformate în modele noi. Deși modelele de IA sunt componente esențiale ale sistemelor de IA, ele nu constituie sisteme de IA în sine. Modelele de IA necesită adăugarea de componente suplimentare, cum ar fi, de exemplu, o interfață cu utilizatorul, pentru a deveni sisteme de IA. Modelele de IA sunt, de regulă, integrate în sistemele de IA și fac parte din acestea. Prezentul regulament prevede norme specifice pentru modelele de IA de uz general și pentru modelele de IA de uz general care prezintă riscuri sistemice, norme care ar trebui să se aplice și atunci când aceste modele sunt integrate sau fac parte dintr-un sistem de IA. Ar trebui să se înțeleagă că obligațiile furnizorilor de modele de IA de uz general ar trebui să se aplice odată ce modelele de IA de uz general sunt introduse pe piață. Atunci când furnizorul unui model de IA de uz general integrează un model propriu în propriul sistem de IA care este pus la dispoziție pe piață sau pus în funcțiune, modelul respectiv ar trebui să fie considerat ca fiind introdus pe piață și, prin urmare, obligațiile prevăzute în prezentul regulament pentru modele ar trebui să se aplice în continuare în plus față de cele pentru sistemele de IA. Obligațiile stabilite pentru modele nu ar trebui în niciun caz să se aplice atunci când un model propriu este utilizat pentru procese pur interne care nu sunt esențiale pentru furnizarea unui produs sau a unui serviciu către terți, iar drepturile persoanelor fizice nu sunt afectate. Având în vedere potențialele lor efecte negative semnificative, modelele de IA de uz general cu risc sistemic ar trebui să facă întotdeauna obiectul obligațiilor relevante în temeiul prezentului regulament. Definiția nu ar trebui să acopere modelele de IA utilizate înainte de introducerea lor pe piață în scopul unic al activităților de cercetare, dezvoltare și creare de prototipuri. Acest lucru nu aduce atingere obligației de a se conforma prezentului regulament atunci când, în urma unor astfel de activități, se introduce pe piață un model.
(98)
Mivel egy modell általánosságát többek között számos paraméter is meghatározhatja, a legalább egymilliárd paramétert tartalmazó és nagy adatmennyiséggel, nagy léptékű önfelügyelet mellett tanított modelleket úgy kell tekinteni, mint amelyek jelentős általánosságot mutatnak, és alkalmasak a különböző feladatok széles körének kompetens elvégzésére.
(98)
În timp ce generalitatea unui model ar putea fi determinată, printre altele, și de o serie de parametri, ar trebui să se considere că modelele cu cel puțin un miliard de parametri și antrenate cu un volum mare de date utilizând autosupravegherea la scară largă prezintă o generalitate semnificativă și îndeplinesc în mod competent o gamă largă de sarcini distincte.
(99)
A nagy generatív MI-modellek az általános célú MI-modellek tipikus példái, mivel rugalmas tartalomelőállítást tesznek lehetővé, például szöveg, audio, képek vagy videó formájában, amelyekbe könnyen beleillik különféle feladatok széles köre.
(99)
Modelele de IA generative de mari dimensiuni sunt un exemplu tipic de model de IA de uz general, având în vedere că permit generarea flexibilă de conținut, cum ar fi sub formă de text, audio, imagini sau video, care pot răspunde cu ușurință unei game largi de sarcini distincte.
(100)
Ha egy általános célú MI-modellt MI-rendszerbe integrálnak vagy ha a modell az MI-rendszer részét képezi, akkor ezt a rendszert általános célú MI-rendszernek kell tekinteni, amennyiben az említett integráció miatt a rendszer képes számos különböző célt szolgálni. Az általános célú MI-rendszerek használhatók közvetlenül, vagy integrálhatók más MI-rendszerekbe.
(100)
Atunci când un model de IA de uz general este integrat într-un sistem de IA sau face parte dintr-un astfel de sistem, acest sistem ar trebui să fie considerat a fi un sistem de IA de uz general atunci când, în urma acestei integrări, acest sistem are capabilitatea de a servi unei varietăți de scopuri. Un sistem de IA de uz general poate fi utilizat direct sau poate fi integrat în alte sisteme de IA.
(101)
Az általános célú MI-modellek szolgáltatói különleges szerepet játszanak és különleges felelősséget viselnek a mesterségesintelligencia-értéklánc mentén, mivel az általuk biztosított modellek számos downstream rendszer alapját képezhetik, amelyeket gyakran downstream szolgáltatók biztosítanak, ez pedig a modellek és azok képességeinek alapos ismeretét teszi szükségessé, egyrészt hogy integrálni tudják a modelleket a termékeikbe, másrészt hogy eleget tegyenek az ezen, illetve más rendeletek szerinti kötelezettségeiknek. Ezért arányos átláthatósági intézkedéseket kell megállapítani, beleértve a dokumentáció elkészítését és naprakészen tartását, valamint az általános célú MI-modellre vonatkozó információk nyújtását a downstream szolgáltatók általi használatra. A műszaki dokumentációt az általános célú MI-modell szolgáltatójának kell elkészítenie és naprakészen tartania annak érdekében, hogy azt kérésre az MI-hivatal és az illetékes nemzeti hatóságok rendelkezésére bocsássa. Az ilyen dokumentációba minimálisan belefoglalandó elemeket meg kell határozni e rendelet konkrét mellékleteiben. A Bizottságot fel kell hatalmazni arra, hogy a folyamatosan változó technológiai fejlődés fényében felhatalmazáson alapuló jogi aktusok révén módosítsa az említett mellékleteket.
(101)
Furnizorii de modele de IA de uz general au un rol și o responsabilitate deosebite de-a lungul lanțului valoric al IA, deoarece modelele pe care le furnizează pot constitui baza pentru o serie de sisteme din aval, adesea furnizate de furnizori din aval care au nevoie de o bună înțelegere a modelelor și a capabilităților acestora, atât pentru a permite integrarea unor astfel de modele în produsele lor, cât și pentru a-și îndeplini obligațiile care le revin în temeiul prezentului regulament sau al altor regulamente. Prin urmare, ar trebui să fie stabilite măsuri proporționale de transparență, inclusiv întocmirea și ținerea la zi a documentației, precum și furnizarea de informații privind modelul de IA de uz general pentru utilizarea sa de către furnizorii din aval. Documentația tehnică ar trebui să fie pregătită și ținută la zi de către furnizorul modelului de IA de uz general în scopul de a o pune, la cerere, la dispoziția Oficiului pentru IA și a autorităților naționale competente. Setul minim de elemente care trebuie incluse în această documentație ar trebui să fie stabilit în anexele specifice la prezentul regulament. Comisia ar trebui să fie împuternicită să modifice anexele respective prin intermediul unor acte delegate în funcție de evoluțiile tehnologice.
(102)
Az olyan szoftverek és adatok, köztük a modellek, amelyeket – a nyílt megosztást, és a felhasználók általi szabad hozzáférést, használatot, módosítást és terjesztést mind eredeti, mind módosított formában lehetővé tévő – szabad és nyílt forráskódú licenc alapján bocsátanak ki, hozzájárulhatnak a kutatáshoz és az innovációhoz a piacon, és jelentős növekedési lehetőségeket biztosíthatnak az uniós gazdaság számára. A szabad és nyílt forráskódú licenc alapján kibocsátott általános célú MI-modelleket magas szintű átláthatóságot és nyitottságot biztosítóként kell tekinteni, amennyiben azok paramétereit – beleértve a súlyokat, a modell architektúrájára vonatkozó információkat és a modellhasználatra vonatkozó információkat – nyilvánosan hozzáférhetővé teszik. A licencet akkor is szabad és nyílt forráskódúnak kell tekinteni, ha lehetővé teszi a felhasználók számára a szoftverek és adatok futtatását, másolását, terjesztését, tanulmányozását, módosítását és tökéletesítését, beleértve a modelleket is, feltéve, hogy feltüntetik a modell eredeti szolgáltatóját, és tiszteletben tartják az azonos vagy összehasonlítható terjesztési feltételeket.
(102)
Software-ul și datele, inclusiv modelele, lansate sub licență liberă și cu sursă deschisă care le permite să fie partajate în mod deschis și pe care utilizatorii le pot accesa, utiliza, modifica și redistribui liber sau versiuni modificate ale acestora, pot contribui la cercetare și inovare pe piață și pot oferi oportunități semnificative de creștere pentru economia Uniunii. Ar trebui să se considere că modelele de IA de uz general lansate sub licențe libere și cu sursă deschisă asigură niveluri ridicate de transparență și deschidere dacă parametrii lor, inclusiv ponderile, informațiile privind arhitectura modelului și informațiile privind utilizarea modelului, sunt puși la dispoziția publicului. Licența ar trebui să fie considerată ca fiind liberă și cu sursă deschisă și atunci când le permite utilizatorilor să ruleze, să copieze, să distribuie, să studieze, să modifice și să îmbunătățească software-ul și datele, inclusiv modelele, cu condiția ca furnizorul inițial al modelului să fie menționat și ca termenii de distribuție identici sau comparabili să fie respectați.
(103)
A szabad és nyílt forráskódú MI-alkotóelemek magukban foglalják az adott MI-rendszer szoftvereit és adatait – beleértve a modelleket és az általános célú MI-modelleket –, eszközeit, szolgáltatásait vagy folyamatait. A szabad és nyílt forráskódú MI-alkotóelemek különböző csatornákon keresztül biztosíthatók, beleértve a szabadon hozzáférhető adattárakon történő fejlesztésüket is. E rendelet alkalmazásában az olyan MI-alkotóelemek, amelyeket díj ellenében bocsátanak rendelkezésre vagy más módon használnak bevétel szerzésére – például az MI-alkotóelemhez kapcsolódó technikai támogatás vagy egyéb szolgáltatások, többek között szoftverplatformon keresztül történő nyújtása vagy a személyes adatoknak kizárólagosan a szoftver biztonságának, kompatibilitásának vagy interoperabilitásának javítása céljából történő felhasználástól eltérő felhasználása révén –, nem részesülhetnek a szabad és nyílt forráskódú MI-alkotóelemekre vonatkozó kivételek előnyeiből, a mikrovállalkozások közötti ügyletek kivételével. Az a tény, hogy MI-alkotóelemeket nyílt adattárakon keresztül rendelkezésre bocsátanak, önmagában nem minősülhet bevételszerzésnek.
(103)
Componentele de IA libere și cu sursă deschisă acoperă software-ul și datele, inclusiv modelele și modelele, instrumentele, serviciile sau procesele de IA de uz general ale unui sistem de IA. Componentele de IA libere și cu sursă deschisă pot fi furnizate prin diferite canale, inclusiv prin dezvoltarea lor în depozite deschise. În sensul prezentului regulament, componentele de IA care sunt furnizate contra unui preț sau monetizate în alt mod, inclusiv prin furnizarea de sprijin tehnic sau de alte servicii, inclusiv prin intermediul unei platforme software, legate de componenta de IA, sau utilizarea datelor cu caracter personal din alte motive decât în scopul exclusiv de îmbunătățire a securității, a compatibilității sau a interoperabilității software-ului, cu excepția tranzacțiilor dintre microîntreprinderi, nu ar trebui să beneficieze de excepțiile prevăzute pentru componentele de IA libere și cu sursă deschisă. Punerea la dispoziție a componentelor de IA prin intermediul depozitelor deschise nu ar trebui, în sine, să constituie o monetizare.
(104)
Az általános célú MI-modellekre előírt átláthatósági követelmények tekintetében kivételeket kell alkalmazni az olyan általános célú MI-modellek szolgáltatóira, amelyeket szabad és nyílt forráskódú licenc alapján bocsátanak ki, és amelyek paramétereit – többek között a súlyokat, a modellarchitektúrára vonatkozó információkat és a modellhasználatra vonatkozó információkat – nyilvánosan hozzáférhetővé teszik, kivéve, ha úgy tekinthető, hogy rendszerszintű kockázatot jelentenek, amely esetben az a körülmény, hogy a modell átlátható és nyílt forráskódú licenccel rendelkezik, nem tekinthető elegendő oknak az e rendelet szerinti kötelezettségeknek való megfelelés kizárására. Mindenesetre, tekintve, hogy az általános célú MI-modellek szabad és nyílt forráskódú licenc alapján történő kibocsátása nem feltétlenül fed fel lényeges információkat a modell tanításához vagy finomhangolásához használt adatkészletről, valamint arról, hogy ezáltal hogyan biztosították a szerzői jognak való megfelelést, az átláthatósággal kapcsolatos követelményeknek való megfelelés alóli, az általános célú MI-modellekre vonatkozó kivétel nem vonatkozhat a modell tanítására használt tartalomról szóló összefoglaló elkészítésének kötelezettségére és az uniós szerzői jognak való megfelelést szolgáló szabályzat elkészítésének kötelezettségére, különösen az (EU) 2019/790 európai parlamenti és tanácsi irányelv (40) 4. cikkének (3) bekezdése szerinti jogfenntartás azonosítására és betartására vonatkozó kötelezettségre.
(104)
Furnizorii de modele de IA de uz general care sunt lansate sub licență liberă și cu sursă deschisă și ai căror parametri, inclusiv ponderile, informațiile privind arhitectura modelului și informațiile privind utilizarea modelului, sunt puși la dispoziția publicului ar trebui să facă obiectul unor excepții în ceea ce privește cerințele legate de transparență impuse modelelor de IA de uz general, cu excepția cazului în care se poate considera că prezintă un risc sistemic, caz în care circumstanța că modelul este transparent și însoțit de o licență cu sursă deschisă nu ar trebui să fie considerată un motiv suficient pentru a exclude respectarea obligațiilor prevăzute în prezentul regulament. În orice caz, având în vedere că lansarea modelelor de IA de uz general sub licență liberă și cu sursă deschisă nu dezvăluie neapărat informații substanțiale cu privire la setul de date utilizat pentru antrenarea sau calibrarea modelului și la modul în care a fost astfel asigurată conformitatea cu dreptul privind drepturile de autor, excepția prevăzută pentru modelele de IA de uz general de la respectarea cerințelor legate de transparență nu ar trebui să se refere la obligația de a prezenta un rezumat cu privire la conținutul utilizat pentru antrenarea modelelor și la obligația de a institui o politică de respectare a dreptului Uniunii privind drepturile de autor, în special pentru a identifica și a respecta rezervarea drepturilor în temeiul articolului 4 alineatul (3) din Directiva (UE) 2019/790 a Parlamentului European și a Consiliului (40).
(105)
Az általános célú MI-modellek, különösen a nagy generatív MI-modellek, amelyek képesek szövegek, képek és egyéb tartalmak létrehozására, egyedülálló innovációs lehetőségeket kínálnak, ugyanakkor kihívást is jelentenek a művészek, szerzők és más alkotók számára, a tekintetben is, hogy milyen módon hozzák létre és terjesztik kreatív tartalmaikat, illetve hogy azt hogyan használják és fogyasztják. Az ilyen modellek kidolgozásához és tanításához hatalmas mennyiségű szöveghez, képhez, videóhoz és egyéb adathoz való hozzáférésre van szükség. A szöveg- és adatbányászati technikák ebben az összefüggésben széles körben alkalmazhatók az olyan tartalmak kinyerésére és elemzésére, amelyek a szerzői és szomszédos jogok védelme alatt állhatnak. A szerzői jogi védelem alatt álló tartalom felhasználásához az érintett jogosult engedélye szükséges, amennyiben nincsenek érvényben szerzői jogi kivételek és korlátozások. Az (EU) 2019/790 irányelv kivételeket és korlátozásokat vezetett be, amelyek bizonyos feltételek mellett lehetővé teszik művek vagy más védelem alatt álló teljesítmények szöveg- és adatbányászat céljából történő többszörözését és kimásolását. E szabályok értelmében a jogosultak fenntarthatják a műveikre vagy más védelem alatt álló teljesítményeikre vonatkozó jogaikat a szöveg- és adatbányászat megakadályozása érdekében, kivéve, ha az tudományos kutatás céljából történik. Amennyiben a kívülmaradási jogot kifejezetten és megfelelő módon fenntartották, az általános célú MI-modellek szolgáltatóinak engedélyt kell szerezniük a jogosultaktól, ha szöveg- és adatbányászatot kívánnak végezni az ilyen műveken.
(105)
Modelele de IA de uz general, în special modelele de IA generative de mari dimensiuni, capabile să genereze text, imagini și alte conținuturi, prezintă oportunități unice de inovare, dar și provocări pentru artiști, autori și alți creatori și pentru modul în care conținutul lor creativ este creat, distribuit, utilizat și consumat. Dezvoltarea și antrenarea unor astfel de modele necesită acces la volume mari de text, imagini, materiale video și alte date. Tehnicile de extragere a textului și a datelor pot fi utilizate pe scară largă în acest context pentru obținerea și analizarea unui astfel de conținut, care poate fi protejat prin drepturi de autor și drepturi conexe. Orice utilizare a unui conținut protejat prin drepturi de autor necesită autorizare din partea titularului de drepturi în cauză, cu excepția cazului în care se aplică excepții și limitări relevante ale drepturilor de autor. Directiva (UE) 2019/790 a introdus excepții și limitări care permit reproduceri și extrageri ale operelor sau ale altor obiecte protejate, în scopul extragerii de text și de date, în anumite condiții. În temeiul acestor norme, titularii de drepturi pot alege să își rezerve drepturile asupra operelor lor sau asupra altor obiecte protejate ale lor pentru a preveni extragerea de text și de date, cu excepția cazului în care acest lucru se face în scopul cercetării științifice. În cazul în care drepturile de neparticipare au fost rezervate în mod expres într-un mod adecvat, furnizorii de modele de IA de uz general trebuie să obțină o autorizație din partea titularilor de drepturi dacă doresc să efectueze extragere de text și de date din astfel de opere.
(106)
Az általános célú MI-modelleket az uniós piacon forgalomba hozó szolgáltatóknak biztosítaniuk kell az e rendeletben foglalt vonatkozó kötelezettségeknek való megfelelést. E célból az általános célú MI-modellek szolgáltatóinak olyan szabályokat kell kialakítaniuk, amely megfelel a szerzői és szomszédos jogokra vonatkozó uniós jognak, különösen a jogosultak által az (EU) 2019/790 irányelv 4. cikkének (3) bekezdése alapján kifejezett jogfenntartásnak való megfelelés érdekében. Minden olyan szolgáltatónak, amely általános célú MI-modellt hoz forgalomba az uniós piacon, meg kell felelnie e kötelezettségnek, függetlenül attól, hogy mely joghatóság területén kerül sor az említett általános célú MI-modellek betanításának alapjául szolgáló, a szerzői jog szempontjából releváns tevékenységre. Erre azért van szükség, hogy egyenlő versenyfeltételeket lehessen biztosítani az általános célú MI-modellek szolgáltatói számára, hogy egyetlen szolgáltató se juthasson versenyelőnyhöz az uniós piacon azáltal, hogy az Unióban biztosítottaknál alacsonyabb szerzői jogi normákat alkalmaz.
(106)
Furnizorii care introduc modele de IA de uz general pe piața Uniunii ar trebui să asigure respectarea obligațiilor relevante prevăzute în prezentul regulament. În acest scop, furnizorii de modele de IA de uz general ar trebui să instituie o politică de respectare a dreptului Uniunii privind drepturile de autor și drepturile conexe, în special pentru a identifica și a respecta rezervarea drepturilor exprimată de titularii de drepturi în temeiul articolului 4 alineatul (3) din Directiva (UE) 2019/790. Orice furnizor care introduce un model de IA de uz general pe piața Uniunii ar trebui să respecte această obligație, indiferent de jurisdicția în care au loc actele relevante pentru drepturile de autor care stau la baza antrenării respectivelor modele de IA de uz general. Acest lucru este necesar pentru a asigura condiții de concurență echitabile între furnizorii de modele de IA de uz general, în care niciun furnizor nu ar trebui să poată obține un avantaj competitiv pe piața Uniunii prin aplicarea unor standarde privind drepturile de autor mai scăzute decât cele prevăzute în Uniune.
(107)
Az általános célú MI-modellek előtanítása és tanítása során felhasznált adatokat – köztük a szerzői jog által védett szövegeket és adatokat – illető átláthatóság növelése érdekében helyénvaló, hogy az ilyen modellek szolgáltatói kellően részletes összefoglalót készítsenek és tegyenek nyilvánosan hozzáférhetővé az általános célú MI-modell tanításához használt tartalomról. Az üzleti titkok és a bizalmas üzleti információk védelmének szükségességét kellően figyelembe véve, ezen összefoglalónak általánosságban véve kell átfogónak lennie, és nem technikai szempontból részletesnek, hogy megkönnyítse a jogos érdekkel rendelkező felek – köztük a szerzői jogok jogosultjai – számára az uniós jog szerinti jogaik gyakorlását és érvényesítését, például a modell tanítására felhasznált fő adatgyűjtemények vagy -készletek – például a nagy magán- vagy nyilvános adatbázisok vagy adatarchívumok – felsorolásával, valamint az egyéb felhasznált adatforrások részletes leírásával. Helyénvaló, hogy az MI-hivatal rendelkezésre bocsássa az összefoglaló mintáját, amelynek egyszerűnek és hatékonynak kell lennie, és lehetővé kell tennie a szolgáltató számára, hogy az előírt összefoglalót részletes leírás formájában bocsássa rendelkezésre.
(107)
Pentru a spori transparența datelor utilizate în preantrenarea și antrenarea modelelor de IA de uz general, inclusiv a textului și a datelor protejate de dreptul privind drepturile de autor, este adecvat ca furnizorii de astfel de modele să elaboreze și să pună la dispoziția publicului un rezumat suficient de detaliat al conținutului utilizat pentru antrenarea modelului de IA de uz general. Ținând seama în mod corespunzător de necesitatea de a proteja secretele comerciale și informațiile comerciale confidențiale, acest rezumat ar trebui să aibă un domeniu de aplicare în general cuprinzător, în loc să fie detaliat din punct de vedere tehnic, pentru a facilita părților cu interese legitime, inclusiv titularilor de drepturi de autor, să își exercite drepturile și să asigure respectarea drepturilor lor în temeiul dreptului Uniunii, de exemplu prin enumerarea principalelor colecții sau seturi de date folosite la antrenarea modelului, cum ar fi bazele de date sau arhivele de date de mari dimensiuni, private sau publice, și prin furnizarea unei explicații narative cu privire la alte surse de date utilizate. Este oportun ca Oficiul pentru IA să furnizeze un model pentru rezumat, care ar trebui să fie simplu, eficace și să permită furnizorului să furnizeze rezumatul solicitat sub formă narativă.
(108)
Az általános célú MI-modellek szolgáltatói számára előírt azon kötelezettségek tekintetében, hogy alakítsanak ki az uniós szerzői jognak való megfelelést célzó szabályokat, és hogy tegyék nyilvánosan hozzáférhetővé a tanításhoz használt tartalom összefoglalóját, az MI-hivatalnak nyomon kell követnie, hogy a szolgáltató teljesítette-e ezeket a kötelezettségeket, anélkül, hogy ellenőrizné vagy az egyes művekre kiterjedően értékelné a tanítási adatokat a szerzői jogoknak való megfelelés tekintetében. E rendelet nem érinti az uniós jogban előírt szerzői jogi szabályok érvényesítését.
(108)
În ceea ce privește obligațiile impuse furnizorilor de modele de IA de uz general de a institui o politică de respectare a dreptul Uniunii privind drepturile de autor și de a pune la dispoziția publicului un rezumat al conținutului utilizat pentru antrenare, Oficiul pentru IA ar trebui să monitorizeze dacă furnizorul și-a îndeplinit obligațiile respective fără a verifica sau a efectua o evaluare operă cu operă a datelor de antrenament în ceea ce privește respectarea drepturilor de autor. Prezentul regulament nu aduce atingere aplicării normelor în materie de drepturi de autor prevăzute în dreptul Uniunii.
(109)
Az általános célú MI-modellek szolgáltatóira alkalmazandó kötelezettségeknek való megfelelésnek a modellszolgáltató típusával összemérhetőnek és arányosnak kell lennie, kizárva a megfelelés szükségességét azon személyek esetében, akik nem szakmai vagy tudományos kutatási célokra fejlesztenek vagy használnak modelleket, mindazonáltal ösztönözve őket arra, hogy önkéntes alapon feleljenek meg ezen követelményeknek. Az említett kötelezettségeknek való megfelelés során – az uniós szerzői jog sérelme nélkül – kellően figyelembe kell venni a szolgáltató méretét, és lehetővé kell tenni a kkv-k – köztük az induló innovatív vállalkozások – számára a megfelelés biztosításának egyszerűsített módjait, amelyek nem jelenthetnek túlzott költségeket, és nem gátolhatják az ilyen modellek használatát. Egy modell módosítása vagy finomhangolása esetén az általános célú MI-modellek szolgáltatóinak kötelezettségeit az említett módosításra vagy finomhangolásra kell korlátozni, például azáltal, hogy a már meglévő műszaki dokumentációt kiegészítik a módosításokra vonatkozó információkkal, beleértve a tanításra használt új adatforrásokat is, az értékláncra vonatkozóan e rendeletben előírt kötelezettségeknek való megfelelés módjaként.
(109)
Respectarea obligațiilor aplicabile furnizorilor de modele de IA de uz general ar trebui să fie corespunzătoare și proporțională cu tipul de furnizor de model, excluzând necesitatea respectării pentru persoanele care dezvoltă sau utilizează modele în alte scopuri decât cele profesionale sau de cercetare științifică, care ar trebui totuși să fie încurajate să respecte în mod voluntar aceste cerințe. Fără a aduce atingere dreptului Uniunii privind drepturile de autor, respectarea obligațiilor respective ar trebui să țină seama în mod corespunzător de dimensiunea furnizorului și să permită modalități simplificate de asigurare a respectării cerințelor pentru IMM-uri, inclusiv pentru întreprinderile nou-înființate, care nu ar trebui să reprezinte un cost excesiv și să descurajeze utilizarea unor astfel de modele. În cazul unei modificări sau calibrări a unui model, obligațiile furnizorilor de modele de IA de uz general ar trebui să se limiteze la modificarea sau calibrarea respectivă, de exemplu prin completarea documentației tehnice deja existente cu informații privind modificările, inclusiv noi surse de date de antrenament, ca mijloc de respectare a obligațiilor privind lanțul valoric prevăzute în prezentul regulament.
(110)
Az általános célú MI-modellek rendszerszintű kockázatokat jelenthetnek, amelyek a teljesség igénye nélkül többek között magukban foglalják a súlyos balesetekhez, a kritikus ágazatok zavaraihoz, valamint a közegészségre és a közbiztonságra gyakorolt súlyos következményekhez kapcsolódó tényleges vagy észszerűen előrelátható negatív hatásokat; a demokratikus folyamatokra, a közbiztonságra és a gazdasági biztonságra gyakorolt tényleges vagy észszerűen előrelátható negatív hatásokat; jogellenes, hamis vagy megkülönböztető tartalom terjesztését. A rendszerszintű kockázatokat úgy kell értelmezni, hogy azok a modell képességeivel és a modell elterjedésével növekednek, a modell teljes életciklusa során felmerülhetnek, és azokat befolyásolják a rendellenes használat körülményei, a modell megbízhatósága, a modell méltányossága és a modell biztonsága, a modell autonómiaszintje, annak eszközökhöz való hozzáférése, az új vagy kombinált modalitások, a kibocsátási és terjesztési stratégiák, a biztosítékok eltávolításának lehetősége és egyéb tényezők. Így különösen, a nemzetközi megközelítések keretében eddig beazonosították annak szükségességét, hogy figyelmet fordítsanak a következőkre: az esetleges szándékos rendellenes használattal vagy az emberi szándékkal való összehangolással kapcsolatos, nem szándékosan előidézett ellenőrzési problémákból eredő kockázatok; vegyi, biológiai, radiológiai és nukleáris kockázatok, például a belépési korlátok eltávolításának módjai többek között a fegyverek fejlesztése, tervezése vagy használata terén; offenzív kiberképességek, például a sebezhetőség feltárásának, kiaknázásának vagy operatív kihasználásának elősegítésére szolgáló módszerek; az interakció és az eszközhasználat hatásai, beleértve például a fizikai rendszerek vezérlésére és a kritikus infrastruktúrákba való beavatkozásra való képességet; az önmagukról másolatot készítő, „önreplikációra” képes vagy más modelleket tanító modellekből eredő kockázatok; az, hogy a modellek hogyan vezethetnek káros torzításhoz és megkülönböztetéshez, ami kockázatot hordoz magában az egyénekre, közösségekre vagy társadalmakra nézve; a dezinformáció elősegítése vagy a magánélet megsértése a demokratikus értékeket és az emberi jogokat fenyegető veszélyek által; annak kockázata, hogy egy adott esemény olyan láncreakcióhoz vezethet, amelynek jelentős negatív hatásai lehetnek egy egész városra, egy teljes tevékenységi területre vagy egy egész közösségre.
(110)
Modelele de IA de uz general ar putea prezenta riscuri sistemice care includ, printre altele, orice efecte negative reale sau previzibile în mod rezonabil în legătură cu accidente majore, perturbări ale sectoarelor critice și consecințe grave pentru sănătatea și siguranța publică, orice efecte negative reale sau previzibile în mod rezonabil asupra proceselor democratice, asupra securității publice și economice, diseminarea de conținut ilegal, fals sau discriminatoriu. Riscurile sistemice ar trebui să fie înțelese ca crescând odată cu capabilitățile modelului și cu amploarea modelului, pot apărea de-a lungul întregului ciclu de viață al modelului și sunt influențate de condițiile de utilizare necorespunzătoare, de fiabilitatea modelului, de echitatea modelului și de securitatea modelului, de nivelul de autonomie a modelului, de accesul său la instrumente, de modalitățile noi sau combinate, de strategiile de lansare și distribuție, de potențialul de eliminare a mecanismelor de protecție și de alți factori. În special, abordările internaționale au identificat până în prezent necesitatea de a acorda atenție riscurilor generate de potențialele utilizări necorespunzătoare intenționate sau de problemele neintenționate de control legate de alinierea la intenția umană; riscurilor chimice, biologice, radiologice și nucleare, cum ar fi modalitățile de reducere a barierelor la intrare, inclusiv pentru dezvoltarea, proiectarea, achiziționarea sau utilizarea de arme; capabilităților cibernetice ofensive, cum ar fi modalitățile care permit descoperirea, exploatarea sau utilizarea operațională a vulnerabilităților; efectelor interacțiunii și ale utilizării instrumentelor, inclusiv, de exemplu, capacitatea de a controla sistemele fizice și de a interfera cu infrastructura critică; riscurilor legate de posibilitatea ca modelele să facă copii după ele însele sau să se „autoreproducă” ori să antreneze alte modele; modurilor în care modelele pot da naștere unor prejudecăți dăunătoare și discriminării cu riscuri pentru indivizi, comunități sau societăți; facilitării dezinformării sau prejudicierii vieții private cu amenințări la adresa valorilor democratice și a drepturilor omului; riscului ca un anumit eveniment să conducă la o reacție în lanț cu efecte negative considerabile care ar putea afecta până la un întreg oraș, o întreagă activitate de domeniu sau o întreagă comunitate.
(111)
Helyénvaló módszertant létrehozni az általános célú MI-modellek rendszerszintű kockázatot jelentő általános célú MI-modellként való besorolására. Mivel a különösen kiterjedt képességek rendszerszintű kockázatokat eredményeznek, az általános célú MI-modell akkor tekintendő rendszerszintű kockázatot jelentőnek, ha megfelelő technikai eszközök és módszertanok alapján értékelt, nagy hatású képességekkel rendelkezik, vagy elterjedtsége miatt jelentős hatással van a belső piacra. Az általános célú MI-modellek esetében a nagy hatású képességek olyan képességeket jelentenek, amelyek megfelelnek a legfejlettebb általános célú MI-modellekben rögzített képességeknek, vagy meghaladják azokat. Adott modell képességeinek teljes kiterjedését jobban meg lehetne érteni a modell forgalomba hozatala után, vagy akkor, amikor az alkalmazók interakcióba lépnek a modellel. A technika állása szerint e rendelet hatálybalépésekor a modellképességekre vonatkozó releváns közelítések egyike az általános célú MI-modell betanításához használt, lebegőpontos műveletekben mért összesített számítási mennyiség. A betanításhoz használt összesített számítási mennyiség magában foglalja az olyan tevékenységek és módszerek során alkalmazott számításokat, amelyek célja a modell képességeinek fokozása a bevezetést megelőzően, mint például az előtanítás, a szintetikus adatelőállítás és a finomhangolás. Ezért meg kell határozni a lebegőpontos műveletek kiinduló küszöbértékét, amely – ha azt egy általános célú MI-modell eléri – azon vélelemhez vezet, hogy a modell rendszerszintű kockázatot jelentő általános célú MI-modell. E küszöbértéket idővel ki kell igazítani, hogy tükrözze a technológiai és az ágazati változásokat, így például az algoritmus fejlesztéseit vagy a nagyobb hardverhatékonyságot, és ki kell azt egészíteni a modellképességre vonatkozó referenciaértékekkel és mutatókkal. Ennek érdekében az MI-hivatalnak együtt kell működnie a tudományos közösséggel, az ágazattal, a civil társadalommal és más szakértőkkel. A küszöbértékeknek, valamint a nagy hatású képességek értékelésére szolgáló eszközöknek és referenciaértékeknek jól előre kell tudniuk jelezni az általánosságot, a modell képességeit, valamint az általános célú MI-modellek kapcsolódó rendszerszintű kockázatait, és figyelembe vehetik a modell forgalomba hozatalának módját vagy az általa esetlegesen érintett felhasználók számát. E rendszer kiegészítéseképpen lehetővé kell tenni a Bizottság számára, hogy egyedi határozatokat hozzon, amelyekkel egy általános célú MI-modellt rendszerszintű kockázatot jelentő általános MI-modellként jelöl meg, ha megállapítást nyer, hogy az ilyen modell a meghatározott küszöbérték által rögzített képességekkel vagy hatással egyenértékű képességekkel vagy hatással rendelkezik. Az említett határozatot az e rendelet mellékletében meghatározott, a rendszerszintű kockázatot jelentő általános célú MI-modell megjelölésére vonatkozó, olyan kritériumok átfogó értékelése alapján kell meghozni, mint például a tanítóadat-készlet minősége vagy mérete, az üzleti és a végfelhasználók száma, az AI-modell bemeneti és kimeneti modalitásai, autonómiaszintje és méretezhetősége, vagy a rendelkezésére álló eszközök. Azon szolgáltató indokolással ellátott kérésére, amelynek modelljét rendszerszintű kockázatot jelentő általános MI-modellként jelöltek meg, a Bizottságnak figyelembe kell vennie a kérelmet, és a Bizottság dönthet úgy, hogy újraértékeli, vajon az általános célú MI-modell továbbra is rendszerszintű kockázatot jelentőnek tekinthető-e.
(111)
Este oportun să se stabilească o metodologie pentru clasificarea modelelor de IA de uz general ca modele de IA de uz general cu riscuri sistemice. Întrucât riscurile sistemice rezultă din capabilități deosebit de ridicate, ar trebui să se considere că un model de IA de uz general prezintă riscuri sistemice dacă are capabilități cu impact ridicat, evaluate pe baza unor instrumente și metodologii tehnice adecvate sau dacă are un impact semnificativ asupra pieței interne din cauza amplorii sale. Capabilități cu impact ridicat în modelele de IA de uz general înseamnă capabilități care corespund capabilităților înregistrate în cele mai avansate modele de IA de uz general sau depășesc capabilitățile respective. Întreaga gamă de capabilități ale unui model ar putea fi mai bine înțeleasă după introducerea sa pe piață sau atunci când implementatorii interacționează cu modelul. În conformitate cu stadiul actual al tehnologiei la momentul intrării în vigoare a prezentului regulament, volumul cumulat de calcul utilizat pentru antrenarea modelului de IA de uz general măsurat în operații în virgulă mobilă este una dintre aproximările relevante pentru capabilitățile modelului. Volumul cumulat de calcul utilizat pentru antrenare include calculul utilizat pentru toate activitățile și metodele menite să consolideze capabilitățile modelului înainte de implementare, cum ar fi preantrenarea, generarea de date sintetice și calibrarea. Prin urmare, ar trebui să fie stabilit un prag inițial de operații în virgulă mobilă, care, dacă este atins de un model de IA de uz general, conduce la prezumția că modelul este un model de IA de uz general cu riscuri sistemice. Acest prag ar trebui să fie ajustat în timp pentru a reflecta schimbările tehnologice și industriale, cum ar fi îmbunătățirile algoritmice sau eficiența hardware sporită, și ar trebui să fie completat cu valori de referință și indicatori pentru capabilitatea modelului. În acest scop, Oficiul pentru IA ar trebui să colaboreze cu comunitatea științifică, cu industria, cu societatea civilă și cu alți experți. Pragurile, precum și instrumentele și valorile de referință pentru evaluarea capabilităților cu impact ridicat ar trebui să fie indicatori puternici ai generalității, ai capabilităților modelului și ai riscului sistemic asociat modelelor de IA de uz general și ar putea lua în considerare modul în care modelul va fi introdus pe piață sau numărul de utilizatori pe care îi poate afecta. Pentru a completa acest sistem, Comisia ar trebui să aibă posibilitatea de a lua decizii individuale de desemnare a unui model de IA de uz general ca model de IA de uz general cu risc sistemic dacă se constată că un astfel de model are capabilități sau un impact echivalent cu cele acoperite de pragul stabilit. Decizia respectivă ar trebui luată pe baza unei evaluări globale a criteriilor pentru desemnarea unui model de IA de uz general cu risc sistemic prevăzute într-o anexă la prezentul regulament, cum ar fi calitatea sau dimensiunea setului de date de antrenament, numărul de utilizatori comerciali și finali, modalitățile referitoare la datele de intrare și de ieșire ale modelului, nivelul său de autonomie și de scalabilitate sau instrumentele la care are acces. La cererea motivată a unui furnizor al cărui model a fost desemnat drept model de IA de uz general cu risc sistemic, Comisia ar trebui să țină seama de cerere și poate decide să reevalueze dacă modelul de IA de uz general poate fi considerat în continuare ca prezentând riscuri sistemice.
(112)
Helyénvaló emellett tisztázni az az általános célú MI-modellek rendszerszintű kockázatot jelentő általános célú MI-modellként való besorolására szolgáló eljárást. Egy olyan általános célú MI-modellt, amely megfelel a nagy hatású képességekre alkalmazandó küszöbértéknek, rendszerszintű kockázatot jelentő általános célú MI-modellnek kell tekinteni. A szolgáltatónak legkésőbb két héttel azt követően értesítenie kell az MI-hivatalt, hogy a követelmények teljesülnek, vagy ismertté válik, hogy egy általános célú MI-modell meg fog felelni a vélelemhez vezető követelményeknek. Ez különösen fontos a lebegőpontos műveletek küszöbértékivel kapcsolatban, mivel az általános célú MI-modellek betanítása jelentős mértékű tervezést igényel, amely magában foglalja a számítási erőforrások előzetes elosztását is, és ezért az általános célú MI-modellek szolgáltatói tudhatják, hogy modelljük a betanítás befejezése előtt el fogja-e érni a küszöbértéket. Az említett értesítéssel összefüggésben a szolgáltatónak képesnek kell lennie annak bizonyítására, hogy egy általános célú MI-modell – sajátos jellemzői miatt – kivételesen nem jelent rendszerszintű kockázatot, és ezért nem minősíthető rendszerszintű kockázatot jelentő általános célú MI-modellnek. Ez az információ értékes az MI-hivatal számára a rendszerszintű kockázatokkal járó általános célú MI-modellek forgalomba hozatalának előrejelzéséhez, és a szolgáltatók már korán kapcsolatba léphetnek az MI-hivatallal. Az említett információ különösen fontos az olyan általános célú MI-modellek tekintetében, amelyeket nyílt forráskódú modellként terveznek kibocsátani, tekintve, hogy a nyílt forráskódú modellek kibocsátását követően nehezebben hajthatók végre az e rendelet szerinti kötelezettségeknek való megfelelés biztosításához szükséges intézkedések.
(112)
De asemenea, este necesar să se clarifice o procedură pentru clasificarea unui model de IA de uz general cu riscuri sistemice. Un model de IA de uz general care respectă pragul aplicabil pentru capabilitățile cu impact ridicat ar trebui să fie prezumat ca fiind un model de IA de uz general cu risc sistemic. Furnizorul ar trebui să notifice Oficiul pentru IA în termen de cel mult două săptămâni de la îndeplinirea cerințelor sau de la data la care devine cunoscut faptul că un model de IA de uz general va îndeplini cerințele care conduc la prezumția respectivă. Acest lucru este deosebit de relevant în legătură cu pragul de operații în virgulă mobilă, deoarece antrenarea modelelor de IA de uz general necesită o planificare considerabilă, care include alocarea în avans a resurselor de calcul și, prin urmare, furnizorii de modele de IA de uz general sunt în măsură să știe dacă modelul lor ar atinge pragul înainte de finalizarea antrenării. În contextul notificării respective, furnizorul ar trebui să poată demonstra că, având în vedere caracteristicile sale specifice, un model de IA de uz general nu prezintă, în mod excepțional, riscuri sistemice și că, prin urmare, nu ar trebui să fie clasificat drept model de IA de uz general cu riscuri sistemice. Aceste informații sunt valoroase deoarece Oficiul pentru IA poate să anticipeze introducerea pe piață a modelelor de IA de uz general cu riscuri sistemice, iar furnizorii pot începe să colaboreze cu Oficiul pentru IA din timp. Aceste informații sunt deosebit de importante în ceea ce privește modelele de IA de uz general care sunt planificate să fie lansate ca sursă deschisă, având în vedere că, după lansarea modelului cu sursă deschisă, măsurile necesare pentru a asigura respectarea obligațiilor prevăzute în prezentul regulament pot fi mai dificil de pus în aplicare.
(113)
Ha a Bizottság tudomást szerez arról, hogy egy általános célú MI-modell megfelel egy olyan rendszerszintű kockázatot jelentő általános célú MI-modellként való besorolás követelményeinek, amely korábban nem volt ismert, vagy amelyről a releváns szolgáltató elmulasztotta értesíteni a Bizottságot, a Bizottságot fel kell hatalmazni az ilyenként való megjelölésre. Egy minősített riasztási rendszernek kell biztosítania, hogy – az MI-hivatal nyomonkövetési tevékenységei mellett – az esetlegesen rendszerszintű kockázatot jelentő általános célú MI-modellként besorolandó általános célú MI-modellekkel foglalkozó tudományos testület is felhívja erre az MI-hivatal figyelmét.
(113)
În cazul în care Comisia constată că un model de IA de uz general îndeplinește cerințele de clasificare ca model de IA de uz general cu risc sistemic, lucru care anterior fie nu fusese cunoscut, fie nu fusese notificat Comisiei de furnizorul relevant, Comisia ar trebui să fie împuternicită să îl desemneze ca atare. Un sistem de alerte calificate ar trebui să asigure faptul că Oficiul pentru IA este informat de către grupul științific cu privire la modele de IA de uz general care ar putea fi clasificate drept modele de IA de uz general cu risc sistemic, pe lângă activitățile de monitorizare ale Oficiului pentru IA.
(114)
A rendszerszintű kockázatot jelentő általános célú MI-modellek szolgáltatóira az általános célú MI-modellek szolgáltatói számára előírt kötelezettségeken túlmenően olyan kötelezettségeknek is vonatkoznia kell, amelyek célja az említett kockázatok azonosítása és enyhítése, valamint a megfelelő szintű kiberbiztonsági védelem biztosítása, függetlenül attól, hogy a modellt önálló modellként vagy egy MI-rendszerbe vagy termékbe ágyazottként szolgáltatják-e. Az említett célkitűzések elérése érdekében e rendeletnek elő kell írnia a szolgáltatók számára, hogy – különösen az első forgalomba hozatal előtt – végezzék el a szükséges modellértékeléseket, ideértve a modellek támadói szempontú tesztelésének elvégzését és dokumentálását, többek között az adott eset függvényében belső vagy független külső tesztelés révén is. Emellett a rendszerszintű kockázatot jelentő általános célú MI-modellek szolgáltatóinak folyamatosan értékelniük és enyhíteniük kell a rendszerszintű kockázatokat, többek között kockázatkezelési szabályzatok – így például elszámoltathatósági és irányítási folyamatok – bevezetése, a forgalomba hozatal utáni nyomon követés végrehajtása, megfelelő intézkedéseknek a modell teljes életciklusa során történő meghozatala, valamint az MI-értéklánc érintett szereplőivel való együttműködés révén.
(114)
Furnizorii de modele de IA de uz general care prezintă riscuri sistemice ar trebui să facă obiectul, pe lângă obligațiile prevăzute pentru furnizorii de modele de IA de uz general, unor obligații menite să identifice și să atenueze riscurile respective și să asigure un nivel adecvat de protecție în materie de securitate cibernetică, indiferent dacă este furnizat ca model de sine stătător sau încorporat într-un sistem sau într-un produs de IA. Pentru a atinge obiectivele respective, prezentul regulament ar trebui să impună furnizorilor să efectueze evaluările necesare ale modelelor, în special înainte de prima lor introducere pe piață, inclusiv efectuarea și documentarea testării contradictorii a modelelor, inclusiv, după caz, prin testări interne sau externe independente. În plus, furnizorii de modele de IA de uz general cu riscuri sistemice ar trebui să evalueze și să atenueze în permanență riscurile sistemice, inclusiv, de exemplu, prin instituirea unor politici de gestionare a riscurilor, cum ar fi procesele de asigurare a răspunderii și de guvernanță, prin punerea în aplicare a monitorizării ulterioare introducerii pe piață, prin luarea de măsuri adecvate de-a lungul întregului ciclu de viață al modelului și prin cooperarea cu actorii relevanți de-a lungul lanțului valoric al IA.
(115)
A rendszerszintű kockázatot jelentő általános célú MI-modellek szolgáltatóinak fel kell mérniük és enyhíteniük kell az esetleges rendszerszintű kockázatokat. Ha az olyan általános célú MI-modell esetében, amely rendszerszintű kockázatokat jelenthet, a kapcsolódó kockázatok azonosítására és megelőzésére irányuló erőfeszítések ellenére a modell fejlesztése vagy használata súlyos váratlan eseményt okoz, az általános célú MI-modell szolgáltatójának indokolatlan késedelem nélkül nyomon kell követnie a váratlan eseményt, és jelentenie kell a Bizottság és az illetékes nemzeti hatóságok részére a releváns információkat és a lehetséges korrekciós intézkedéseket. Továbbá, a szolgáltatóknak megfelelő szintű kiberbiztonsági védelmet kell biztosítaniuk a modell és adott esetben a fizikai infrastruktúrája számára a modell teljes életciklusa során. A rosszindulatú felhasználással vagy támadásokkal kapcsolatos rendszerszintű kockázatokhoz kapcsolódó kiberbiztonsági védelemnek megfelelően szem előtt kell tartania a véletlen modellszivárgást, a jogosulatlan kibocsátásokat, a biztonsági intézkedések megkerülését, valamint a kibertámadásokkal, a jogosulatlan hozzáféréssel vagy a modell-lopással szembeni védelmet. Az említett védelmet megkönnyítheti a modellsúlyok, az algoritmusok, a szerverek és az adatkészletek biztosítása, így például az információbiztonságra vonatkozó operatív biztonsági intézkedések, konkrét kiberbiztonsági politikák, megfelelő technikai és bevált megoldások, valamint kiber- és fizikai hozzáférési ellenőrzések révén, amelyek megfelelnek a releváns körülményeknek és a felmerülő kockázatoknak.
(115)
Furnizorii de modele de IA de uz general cu riscuri sistemice ar trebui să evalueze și să atenueze posibilele riscuri sistemice. Dacă, în pofida eforturilor de identificare și prevenire a riscurilor legate de un model de IA de uz general care poate prezenta riscuri sistemice, dezvoltarea sau utilizarea modelului cauzează un incident grav, furnizorul modelului de IA de uz general ar trebui să urmărească fără întârzieri nejustificate incidentul și să raporteze Comisiei și autorităților naționale competente orice informații relevante și posibile măsuri corective. În plus, furnizorii ar trebui să asigure un nivel adecvat de protecție în materie de securitate cibernetică pentru model și infrastructura fizică a acestuia, dacă este cazul, de-a lungul întregului ciclu de viață al modelului. Protecția în materie de securitate cibernetică legată de riscurile sistemice asociate utilizării răuvoitoare sau atacurilor ar trebui să ia în considerare în mod corespunzător scurgerile accidentale de modele, lansările neautorizate, eludarea măsurilor de siguranță și apărarea împotriva atacurilor cibernetice, a accesului neautorizat sau a furtului de modele. Această protecție ar putea fi facilitată prin securizarea ponderilor modelelor, a algoritmilor, a serverelor și a seturilor de date, de exemplu prin măsuri de securitate operațională pentru securitatea informațiilor, politici specifice în materie de securitate cibernetică, soluții tehnice și consacrate adecvate și controale ale accesului cibernetic și fizic, adecvate circumstanțelor relevante și riscurilor implicate.
(116)
Az MI-hivatalnak ösztönöznie kell és elő kell segítenie a gyakorlati kódexek kidolgozását, felülvizsgálatát és kiigazítását, figyelembe véve a nemzetközi megközelítéseket. Az általános célú MI-modellek valamennyi szolgáltatóját fel lehetne kérni a részvételre. Annak biztosítása érdekében, hogy a gyakorlati kódexek tükrözzék a technika mindenkori állását, és kellően figyelembe vegyék a különböző nézőpontokat, az MI-hivatalnak együtt kell működnie az illetékes nemzeti illetékes hatóságokkal, és adott esetben konzultálnia kell a civil társadalmi szervezetekkel és más érdekelt felekkel és szakértőkkel – egyebek mellett a tudományos testülettel – az ilyen kódexek kidolgozása során. A gyakorlati kódexeknek ki kell terjedniük az általános célú MI-modellek, valamint a rendszerszintű kockázatot jelentő általános célú MI-modellek szolgáltatóira vonatkozó kötelezettségekre. Emellett a rendszerszintű kockázatok tekintetében a gyakorlati kódexeknek elő kell segíteniük egy, a rendszerszintű kockázatok típusára és jellegére vonatkozó uniós szintű kockázati taxonómia létrehozását, ideértve azok forrásait is. A gyakorlati kódexeknek a kockázatok értékelésére és csökkentésére irányuló konkrét intézkedésekre is összpontosulniuk kell.
(116)
Oficiul pentru IA ar trebui să încurajeze și să faciliteze elaborarea, revizuirea și adaptarea unor coduri de bune practici, ținând seama de abordările internaționale. Toți furnizorii de modele de IA de uz general ar putea fi invitați să participe. Pentru a se asigura că codurile de bune practici reflectă stadiul actual al tehnologiei și țin seama în mod corespunzător de un set divers de perspective, Oficiul pentru IA ar trebui să colaboreze cu autoritățile naționale competente relevante și ar putea, după caz, să se consulte cu organizațiile societății civile și cu alte părți interesate și experți relevanți, inclusiv cu grupul științific, pentru elaborarea unor astfel de coduri. Codurile de bune practici ar trebui să se refere la obligațiile furnizorilor de modele de IA de uz general și de modele de IA de uz general care prezintă riscuri sistemice. În plus, în ceea ce privește riscurile sistemice, codurile de bune practici ar trebui să contribuie la stabilirea unei taxonomii a tipurilor și naturii riscurilor sistemice la nivelul Uniunii, inclusiv a surselor acestora. Codurile de bune practici ar trebui să se axeze, de asemenea, pe măsuri specifice de evaluare și de atenuare a riscurilor.
(117)
A gyakorlati kódexeknek központi eszközként kell szolgálniuk az általános célú MI-modellek szolgáltatói számára az e rendeletben előírt kötelezettségek megfelelő betartásához. A gyakorlati kódexeknek alkalmasnak kell lenniük arra, hogy a szolgáltatók támaszkodjanak rájuk a kötelezettségeknek való megfelelés bizonyítása érdekében. A Bizottság végrehajtási jogi aktusok útján határozhat úgy, hogy jóváhagy egy gyakorlati kódexet, és általános érvényességgel ruházza fel azt az Unión belül, vagy – alternatív módon – közös szabályokról rendelkezik a releváns kötelezettségek végrehajtására vonatkozóan, ha – e rendelet alkalmazandóvá válásáig – a gyakorlati kódexet nem lehet véglegesíteni, vagy azt az MI-hivatal nem tartja megfelelőnek. Miután egy harmonizált szabvány közzétételre kerül és az MI-hivatal úgy ítéli meg, hogy az alkalmas a releváns kötelezettségek lefedésére, az európai harmonizált szabványnak való megfelelésnek biztosítania kell a szolgáltatók számára a megfelelés vélelmét. Az általános célú MI-modellek szolgáltatói számára továbbá lehetővé kell tenni, hogy megfelelő alternatív eszközökkel igazolják a megfelelést, ha nem állnak rendelkezésre gyakorlati kódexek vagy harmonizált szabványok, vagy ha úgy döntenek, hogy nem támaszkodnak azokra.
(117)
Codurile de bune practici ar trebui să reprezinte un instrument central pentru respectarea corespunzătoare a obligațiilor prevăzute în prezentul regulament pentru furnizorii de modele de IA de uz general. Furnizorii ar trebui să se poată baza pe coduri de bune practici pentru a demonstra respectarea obligațiilor. Prin intermediul unor acte de punere în aplicare, Comisia poate decide să aprobe un cod de bune practici și să îi acorde o valabilitate generală în Uniune sau, alternativ, să prevadă norme comune pentru punerea în aplicare a obligațiilor relevante, în cazul în care, până la momentul în care prezentul regulament devine aplicabil, un cod de bune practici nu poate fi finalizat sau nu este considerat adecvat de către Oficiul pentru IA. Odată ce un standard armonizat este publicat și evaluat ca fiind adecvat pentru a acoperi obligațiile relevante de către Oficiul pentru IA, furnizorii ar trebui să beneficieze de prezumția de conformitate în cazul în care respectă un standard european armonizat. În plus, furnizorii de modele de IA de uz general ar trebui să poată demonstra conformitatea utilizând mijloace alternative adecvate, dacă nu sunt disponibile coduri de bune practici sau standarde armonizate sau dacă aleg să nu se bazeze pe acestea.
(118)
E rendelet azáltal szabályozza az MI-rendszereket és az MI-modelleket, hogy bizonyos követelményeket és kötelezettségeket ír elő az azokat az Unióban forgalomba hozó, üzembe helyező vagy használó releváns piaci szereplők számára, ezáltal kiegészítve az ilyen rendszereket vagy modelleket az (EU) 2022/2065 rendelet által szabályozott szolgáltatásaikba beépítő közvetítő szolgáltatók kötelezettségeit. Amennyiben az ilyen rendszerek vagy modellek kijelölt online óriásplatformokba vagy nagyon népszerű online keresőprogramokba vannak beágyazva, azokra az (EU) 2022/2065 rendeletben előírt kockázatkezelési keret vonatkozik. Következésképpen, e rendelet vonatkozó kötelezettségeit teljesítettnek kell feltételezni, kivéve, ha az (EU) 2022/2065 rendelet hatálya alá nem tartozó, jelentős rendszerszintű kockázatok merülnek fel, és azokat az ilyen modellekben azonosítják. E kereten belül az online óriásplatformokat és nagyon népszerű online keresőprogramokat üzemeltető szolgáltatók kötelesek értékelni a szolgáltatásaik kialakításából, működéséből és használatából eredő potenciális rendszerszintű kockázatokat, beleértve azt is, hogy a szolgáltatás által használt algoritmikus rendszerek kialakítása hogyan járulhat hozzá az ilyen kockázatokhoz, valamint a potenciális rendellenes használatokból eredő rendszerszintű kockázatokhoz. Az említett szolgáltatók arra is kötelesek, hogy az alapvető jogokra figyelemmel, megfelelő kockázatenyhítési intézkedéseket hozzanak.
(118)
Prezentul regulament reglementează sistemele de IA și modelele de IA prin impunerea anumitor cerințe și obligații pentru actorii relevanți de pe piață care le introduc pe piață, le pun în funcțiune sau le utilizează în Uniune, completând astfel obligațiile pentru furnizorii de servicii intermediare care încorporează astfel de sisteme sau modele în serviciile lor reglementate de Regulamentul (UE) 2022/2065. În măsura în care astfel de sisteme sau modele sunt încorporate în platforme online foarte mari sau în motoare de căutare online foarte mari desemnate, acestea fac obiectul cadrului de gestionare a riscurilor prevăzut în Regulamentul (UE) 2022/2065. În consecință, ar trebui să se presupună că obligațiile corespunzătoare din prezentul regulament sunt îndeplinite, cu excepția cazului în care apar riscuri sistemice semnificative care nu intră sub incidența Regulamentului (UE) 2022/2065 și sunt identificate în astfel de modele. În acest cadru, furnizorii de platforme online foarte mari și de motoare de căutare online foarte mari sunt obligați să evalueze potențialele riscuri sistemice care decurg din proiectarea, funcționarea și utilizarea serviciilor lor, inclusiv modul în care proiectarea sistemelor algoritmice utilizate în cadrul serviciului poate contribui la astfel de riscuri, precum și riscurile sistemice care decurg din potențialele utilizări necorespunzătoare. Acești furnizori sunt, de asemenea, obligați să ia măsuri adecvate de atenuare, cu respectarea drepturilor fundamentale.
(119)
Tekintettel a különböző uniós jogi eszközök hatálya alá tartozó digitális szolgáltatásokkal kapcsolatos innováció gyors ütemére és technológiai fejlődésére, különös tekintettel a szolgáltatás igénybe vevőinek használatára és megítélésére, az e rendelet hatálya alá tartozó MI-rendszerek az (EU) 2022/2065 rendelet értelmében vett közvetítő szolgáltatásként vagy annak részeiként is nyújthatók, amelyet technológiasemleges módon kell értelmezni. Például az MI-rendszerek felhasználhatók online keresőmotorok szolgáltatására, különösen amennyiben egy MI-rendszer, például egy online csevegőrobot elvben valamennyi weboldalon keresést végez, az eredményeket beépíti meglévő ismereteibe, és a frissített ismereteket arra használja fel, hogy egyetlen, különböző információforrásokat ötvöző kimenetet hozzon létre.
(119)
Având în vedere ritmul rapid al inovării și al evoluției tehnologice a serviciilor digitale care intră în domeniul de aplicare al diferitelor instrumente din dreptul Uniunii, în special având în vedere utilizarea și percepția destinatarilor lor, sistemele de IA care fac obiectul prezentului regulament pot fi furnizate ca servicii intermediare sau ca părți ale acestora în sensul Regulamentului (UE) 2022/2065, care ar trebui să fie interpretat într-un mod neutru din punct de vedere tehnologic. De exemplu, sistemele de IA pot fi utilizate pentru a furniza motoare de căutare online, în special în măsura în care un sistem de IA, cum ar fi un chatbot online, efectuează căutări, în principiu, pe toate site-urile web, apoi încorporează rezultatele în cunoștințele sale existente și utilizează cunoștințele actualizate pentru a genera un singur rezultat care combină diferite surse de informații.
(120)
Továbbá, az (EU) 2022/2065 rendelet hatékony végrehajtásának elősegítése érdekében különösen fontosak az e rendeletben az egyes MI-rendszerek szolgáltatóira és alkalmazóira rótt azon kötelezettségek, amelyek lehetővé teszik annak észlelését és közzétételét, hogy e rendszerek kimeneteit mesterségesen hozzák létre vagy manipulálják. Ez különösen alkalmazandó az online óriásplatformokat vagy nagyon népszerű online keresőprogramokat üzemeltető szolgáltatók azon kötelezettségeire, hogy azonosítsák és enyhítsék a mesterségesen létrehozott vagy manipulált tartalom terjesztéséből eredő rendszerszintű kockázatokat, különösen a demokratikus folyamatokra, a civil párbeszédre és a választási folyamatokra – többek között dezinformáció révén – gyakorolt tényleges vagy előrelátható negatív hatások kockázatát.
(120)
În plus, obligațiile impuse prin prezentul regulament furnizorilor și implementatorilor anumitor sisteme de IA pentru a permite detectarea și divulgarea faptului că rezultatele sistemelor respective sunt generate sau manipulate artificial sunt deosebit de relevante pentru a facilita punerea în aplicare efectivă a Regulamentului (UE) 2022/2065. Acest lucru este valabil în special în ceea ce privește obligațiile furnizorilor de platforme online foarte mari sau de motoare de căutare online foarte mari de a identifica și a atenua riscurile sistemice care pot apărea în urma diseminării conținutului care a fost generat sau manipulat artificial, în special riscul privind efectele negative reale sau previzibile asupra proceselor democratice, asupra discursului civic și asupra proceselor electorale, inclusiv prin dezinformare.
(121)
A szabványosításnak kulcsszerepet kell játszania abban, hogy az e rendeletnek való megfelelés biztosítása érdekében megfelelő műszaki megoldások álljanak a szolgáltatók rendelkezésére, a technika mindenkori állásának megfelelően, az uniós piac versenyképességének és növekedésének előmozdítása érdekében. A szolgáltatóknak az 1025/2012/EU európai parlamenti és tanácsi rendelet (41) 2. cikke 1 pontjának c) alpontjában meghatározott – és alapelvárás szerint a technika mindenkori állását tükröző – harmonizált szabványoknak való megfelelés révén is tudniuk kell bizonyítani az e rendelet követelményeinek való megfelelést. Ezért az 1025/2012/EU rendelet 5. és 6. cikkével összhangban ösztönözni kell az érdekek kiegyensúlyozott képviseletét a szabványok kidolgozása terén valamennyi érintett érdekcsoport részvételével, különös tekintettel a kkv-kra, a fogyasztóvédelmi szervezetekre, valamint a környezetvédelmi és szociális érdekelt felekre. A megfelelés elősegítése érdekében a Bizottságnak indokolatlan késedelem nélkül ki kell adnia a szabványosítási kérelmeket. A szabványosítási kérelem elkészítésekor a Bizottságnak – a releváns szakértelem összegyűjtése érdekében – konzultálnia kell a tanácsadó fórummal és a Testülettel. Azonban a harmonizált szabványokra való releváns hivatkozások hiányában a Bizottság számára lehetővé kell tenni, hogy – végrehajtási jogi aktusok révén és a tanácsadó fórummal folytatott konzultációt követően – közös előírásokat állapítson meg az e rendelet szerinti egyes követelményekre vonatkozóan. A közös előírásnak kivételes tartalékmegoldásnak kell lennie, amely megkönnyíti a szolgáltató számára az e rendelet követelményeinek való megfelelésre vonatkozó kötelezettségének teljesítését, ha a szabványosítási kérelmet egyik európai szabványügyi szervezet sem fogadta el, vagy ha a releváns harmonizált szabványok nem kezelik megfelelően az alapvető jogokkal kapcsolatos aggályokat, vagy ha a harmonizált szabványok nem felelnek meg a kérelemnek, vagy ha egy megfelelő harmonizált szabvány elfogadása késedelmet szenved. Amennyiben egy harmonizált szabvány elfogadása terén az ilyen késedelem az említett szabvány műszaki összetettségének tudható be, a Bizottságnak ezt figyelembe kell vennie, mielőtt fontolóra venné közös előírások kidolgozását. A közös előírások kidolgozása során a Bizottság ösztönözve van arra, hogy működjön együtt a nemzetközi partnerekkel és a nemzetközi szabványügyi testületekkel.
(121)
Standardizarea ar trebui să joace un rol esențial în furnizarea de soluții tehnice furnizorilor pentru a asigura conformitatea cu prezentul regulament, în conformitate cu stadiul actual al tehnologiei, pentru a promova inovarea, precum și competitivitatea și creșterea pe piața unică. Conformitatea cu standardele armonizate, astfel cum sunt definite la articolul 2 punctul 1 litera (c) din Regulamentul (UE) nr. 1025/2012 al Parlamentului European și al Consiliului (41), care ar trebui, în mod normal, să reflecte stadiul actual al tehnologiei, ar trebui să fie un mijloc prin care furnizorii să demonstreze conformitatea cu cerințele prezentului regulament. Prin urmare, ar trebui să fie încurajată o reprezentare echilibrată a intereselor, care să implice toate părțile interesate relevante în elaborarea standardelor, în special IMM-urile, organizațiile consumatorilor și părțile interesate din domeniul mediului și din domeniul social, în conformitate cu articolele 5 și 6 din Regulamentul (UE) nr. 1025/2012. Pentru a facilita conformitatea, solicitările de standardizare ar trebui să fie emise de Comisie fără întârzieri nejustificate. Atunci când elaborează solicitarea de standardizare, Comisia ar trebui să consulte forumul consultativ și Consiliul IA pentru a colecta cunoștințele de specialitate relevante. Cu toate acestea, în absența unor trimiteri relevante la standardele armonizate, Comisia ar trebui să poată stabili, prin intermediul unor acte de punere în aplicare și după consultarea forumului consultativ, specificații comune pentru anumite cerințe în temeiul prezentului regulament. Specificația comună ar trebui să constituie o soluție excepțională de rezervă, pentru a facilita obligația furnizorului de a respecta cerințele prezentului regulament, atunci când solicitarea de standardizare nu a fost acceptată de niciuna dintre organizațiile de standardizare europene sau când standardele armonizate relevante abordează insuficient preocupările în materie de drepturi fundamentale ori când standardele armonizate nu corespund solicitării sau atunci când există întârzieri în adoptarea unui standard armonizat adecvat. În cazul în care o astfel de întârziere în adoptarea unui standard armonizat se datorează complexității tehnice a standardului respectiv, acest lucru ar trebui să fie luat în considerare de Comisie înainte de a avea în vedere stabilirea unor specificații comune. Atunci când elaborează specificații comune, Comisia este încurajată să coopereze cu partenerii internaționali și cu organismele de standardizare internaționale.
(122)
Helyénvaló, hogy – a harmonizált szabványok és közös előírások alkalmazásának sérelme nélkül – azon nagy kockázatú MI-rendszerek szolgáltatóit, amelyeket olyan adatokon tanítottak és teszteltek, amelyek tükrözik azt a konkrét földrajzi, viselkedési, kontextuális vagy funkcionális környezetet, amelyben az MI-rendszert használni kívánják, úgy kell tekinteni, hogy megfelelnek az e rendeletben meghatározott adatkormányzási követelményben előírt releváns intézkedésnek. Az e rendeletben meghatározott, a megbízhatóságra és pontosságra vonatkozó követelmények sérelme nélkül, az (EU) 2019/881 rendelet 54. cikkének (3) bekezdésével összhangban azon nagy kockázatú MI-rendszerekről, amelyeket az említett rendelettel összhangban egy kiberbiztonsági rendszer keretében tanúsítottak, vagy amelyekre vonatkozóan megfelelőségi nyilatkozatot állítottak ki, és amelyek hivatkozásait közzétették az Európai Unió Hivatalos Lapjában, vélelmezni kell, hogy megfelelnek az e rendeletben foglalt kiberbiztonsági követelménynek, amennyiben a kiberbiztonsági tanúsítvány vagy megfelelőségi nyilatkozat vagy annak részei kiterjednek e rendelet kiberbiztonsági követelményeire. Ez továbbra sem érinti az említett kiberbiztonsági rendszer önkéntes jellegét.
(122)
Este oportun ca, fără a aduce atingere utilizării standardelor armonizate și a specificațiilor comune, să se prezume că furnizorii unui sistem de IA cu grad ridicat de risc care a fost antrenat și testat pe baza unor date care reflectă cadrul geografic, comportamental, contextual sau funcțional specific în care se intenționează utilizarea sistemului de IA respectă măsura relevantă prevăzută în temeiul cerinței privind guvernanța datelor stabilită în prezentul regulament. Fără a aduce atingere cerințelor legate de robustețe și acuratețe prevăzute în prezentul regulament, în conformitate cu articolul 54 alineatul (3) din Regulamentul (UE) 2019/881, ar trebui să se prezume că sistemele de IA cu grad ridicat de risc care au fost certificate sau pentru care a fost emisă o declarație de conformitate în cadrul unui sistem de securitate cibernetică în temeiul regulamentului respectiv, iar referințele aferente au fost publicate în Jurnalul Oficial al Uniunii Europene, respectă cerința de securitate cibernetică menționată în prezentul regulament, în măsura în care certificatul de securitate cibernetică sau declarația de conformitate sau părți ale acestora acoperă cerința de securitate cibernetică din prezentul regulament. Acest lucru nu aduce atingere caracterului voluntar al respectivului sistem de securitate cibernetică.
(123)
A nagy kockázatú MI-rendszerek magas szintű megbízhatóságának biztosítása érdekében ezeket a rendszereket forgalomba hozataluk vagy üzembe helyezésük előtt megfelelőségértékelésnek kell alávetni.
(123)
Pentru a asigura un nivel ridicat de fiabilitate a sistemelor de IA cu grad ridicat de risc, aceste sisteme ar trebui să facă obiectul unei evaluări a conformității înainte de introducerea lor pe piață sau de punerea lor în funcțiune.
(124)
A gazdasági szereplők terheinek minimalizálása és az esetleges párhuzamosságok elkerülése érdekében helyénvaló, hogy azon nagy kockázatú MI-rendszerek esetében, amelyek az új jogszabályi kereten alapuló meglévő uniós harmonizációs jogszabályok hatálya alá tartozó termékekhez kapcsolódnak, az említett MI-rendszerek e rendelet követelményeinek való megfelelése az említett jogszabályokban már előírt megfelelőségértékelés részeként kerüljön értékelésre. E rendelet követelményeinek alkalmazhatósága ezért nem érintheti a vonatkozó uniós harmonizációs jogszabályok szerinti megfelelőségértékelés konkrét logikáját, módszertanát vagy általános szerkezetét.
(124)
Este oportun ca, pentru a reduce la minimum sarcina impusă operatorilor și pentru a evita eventualele suprapuneri, pentru sistemele de IA cu grad ridicat de risc legate de produse care fac obiectul legislației de armonizare existente a Uniunii bazate pe noul cadru legislativ, conformitatea acestor sisteme de IA cu cerințele prezentului regulament să fie evaluată ca parte a evaluării conformității prevăzute deja în legislația respectivă. Aplicabilitatea cerințelor prezentului regulament nu ar trebui, prin urmare, să afecteze logica specifică, metodologia sau structura generală a evaluării conformității în temeiul legislației de armonizare relevante a Uniunii.
(125)
Tekintettel a nagy kockázatú MI-rendszerek összetettségére és az azokkal kapcsolatos kockázatokra, fontos a nagy kockázatú MI-rendszerekre vonatkozó megfelelőségértékelési eljárás – az úgynevezett harmadik fél általi megfelelőségértékelés – kidolgozása a bejelentett szervezetek bevonásával. Azonban, tekintve a forgalomba hozatal előtti tanúsítást végző szakemberek által a termékbiztonság területén jelenleg fennálló tapasztalatot és a felmerülő kockázatok eltérő jellegét, helyénvaló – legalább e rendelet alkalmazásának kezdeti szakaszában – korlátozni a harmadik fél által végzett megfelelőségértékelés alkalmazási körét azon nagy kockázatú MI-rendszerek esetében, amelyek nem termékekhez kapcsolódnak. Ezért az ilyen rendszerek megfelelőségértékelését főszabályként a szolgáltatónak kell elvégeznie saját felelősségére, a biometriai célokra való felhasználásra szánt MI-rendszerek kivételével.
(125)
Având în vedere complexitatea sistemelor de IA cu grad ridicat de risc și riscurile asociate acestora, este important să se dezvolte o procedură adecvată de evaluare a conformității pentru sistemele de IA cu grad ridicat de risc care implică organisme notificate, așa-numita evaluare a conformității de către terți. Cu toate acestea, având în vedere experiența actuală a organismelor profesionale de certificare înainte de introducerea pe piață în domeniul siguranței produselor și natura diferită a riscurilor implicate, este oportun să se limiteze, cel puțin într-o fază inițială de aplicare a prezentului regulament, domeniul de aplicare al evaluării conformității de către terți pentru sistemele de IA cu grad ridicat de risc, altele decât cele legate de produse. Prin urmare, evaluarea conformității unor astfel de sisteme ar trebui să fie efectuată, ca regulă generală, de către furnizor pe propria răspundere, cu singura excepție a sistemelor de IA destinate a fi utilizate pentru biometrie.
(126)
A harmadik fél általi megfelelőségértékelések szükség szerinti elvégzése érdekében az illetékes nemzeti hatóságoknak e rendelet alapján értesíteniük kell a bejelentett szervezeteket, feltéve hogy azok megfelelnek bizonyos, különösen a függetlenségre, a szakértelemre, az összeférhetetlenség hiányára vonatkozó követelményeknek és megfelelő kiberbiztonsági követelményeknek. Az illetékes nemzeti hatóságoknak a 768/2008/EK határozat I. melléklete R23. cikkének megfelelően a Bizottság által kifejlesztett és kezelt elektronikus bejelentési eszköz útján kell bejelenteniük e szerveket a Bizottságnak és a többi tagállamnak.
(126)
În vederea efectuării de evaluări ale conformității de către terți atunci când este necesar, autoritățile naționale competente ar trebui să comunice lista organismelor notificate în temeiul prezentului regulament, cu condiția ca acestea să îndeplinească un set de cerințe, în special în ceea ce privește independența, competența, absența conflictelor de interese și cerințele minime de securitate cibernetică. Lista acestor organisme notificate ar trebui să fie trimisă de autoritățile naționale competente Comisiei și celorlalte state membre prin intermediul instrumentului de notificare electronică dezvoltat și gestionat de Comisie în temeiul articolului R23 din anexa I la Decizia nr. 768/2008/CE.
(127)
A Kereskedelmi Világszervezetnek a kereskedelem technikai akadályairól szóló megállapodása keretében vállalt uniós kötelezettségekkel összhangban helyénvaló elősegíteni az illetékes megfelelőségértékelő szervezetek által készített megfelelőségértékelési eredmények kölcsönös elismerését, függetlenül attól, hogy mely területen van a székhelyük, feltéve, hogy az említett, egy harmadik ország joga szerint létrehozott megfelelőségértékelő szervezetek megfelelnek e rendelet alkalmazandó követelményeinek, és az Unió e tekintetben megállapodást kötött. Ezzel összefüggésben a Bizottságnak aktívan fel kell térképeznie az említett célt szolgáló lehetséges nemzetközi eszközöket, és törekednie kell különösen arra, hogy harmadik országokkal kölcsönös elismerési megállapodásokat kössön.
(127)
În conformitate cu angajamentele asumate de Uniune în temeiul Acordului Organizației Mondiale a Comerțului privind barierele tehnice în calea comerțului, este adecvat să se faciliteze recunoașterea reciprocă a rezultatelor evaluării conformității obținute de organismele competente de evaluare a conformității, indiferent de teritoriul pe care sunt stabilite acestea, cu condiția ca respectivele organisme de evaluare a conformității instituite în temeiul dreptului unei țări terțe să îndeplinească cerințele aplicabile ale prezentului regulament, iar Uniunea să fi încheiat un acord în acest sens. În acest context, Comisia ar trebui să analizeze în mod activ posibile instrumente internaționale adecvate acestui scop și, în special, să urmărească încheierea de acorduri de recunoaștere reciprocă cu țări terțe.
(128)
Az uniós harmonizációs jogszabályok által szabályozott termékek jelentős módosításának általánosan elfogadott fogalmával összhangban helyénvaló, hogy minden olyan változtatás esetében, amely befolyásolhatja egy nagy kockázatú MI-rendszer e rendeletnek való megfelelését (pl. az operációs rendszer vagy a szoftverarchitektúra megváltoztatása), vagy amikor a rendszer rendeltetése megváltozik, az adott MI-rendszert új MI-rendszernek kell tekinteni, amelyet új megfelelőségértékelésnek kell alávetni. Ugyanakkor az olyan MI-rendszerek algoritmusában és teljesítményében bekövetkező változások, amelyek a forgalomba hozatalt vagy üzembe helyezést követően továbbra is „tanulnak” (nevezetesen automatikusan kiigazítják a funkciók végrehajtásának módját), nem tekintendők jelentős módosításnak, feltéve, hogy az említett változásokat a szolgáltató előre meghatározta és a megfelelőségértékelés időpontjában értékelte.
(128)
În conformitate cu noțiunea stabilită de comun acord de modificare substanțială pentru produsele reglementate de legislația de armonizare a Uniunii, este oportun ca, ori de câte ori se produce o modificare care poate afecta respectarea prezentului regulament de către un sistem de IA cu grad ridicat de risc (de exemplu, modificarea sistemului de operare sau a arhitecturii software) sau atunci când scopul preconizat al sistemului se modifică, respectivul sistem de IA să fie considerat a fi un sistem de IA nou care ar trebui să facă obiectul unei noi evaluări a conformității. Cu toate acestea, modificările care afectează algoritmul și performanța sistemelor de IA care continuă să „învețe” după ce au fost introduse pe piață sau puse în funcțiune și anume, adaptarea automată a modului în care sunt îndeplinite funcțiile nu ar trebui să constituie o modificare substanțială, cu condiția ca modificările respective să fi fost prestabilite de furnizor și evaluate în momentul evaluării conformității.
(129)
A nagy kockázatú MI-rendszereket CE-jelöléssel kell ellátni, amely jelzi az e rendeletnek való megfelelésüket, annak érdekében, hogy szabadon mozoghassanak a belső piacon. A termékbe ágyazott nagy kockázatú MI-rendszerek esetében fizikai CE-jelölést kell elhelyezni, amely kiegészíthető digitális CE-jelöléssel. A kizárólag digitálisan szolgáltatott nagy kockázatú MI-rendszerek esetében digitális CE-jelölést kell használni. A tagállamok nem akadályozhatják indokolatlanul az olyan nagy kockázatú MI-rendszerek forgalomba hozatalát vagy üzembe helyezését, amelyek megfelelnek az e rendeletben meghatározott követelményeknek és CE-jelöléssel vannak ellátva.
(129)
Sistemele de IA cu grad ridicat de risc ar trebui să poarte marcajul CE pentru a indica conformitatea lor cu prezentul regulament, astfel încât să poată circula liber în cadrul pieței interne. Pentru sistemele de IA cu grad ridicat de risc încorporate într-un produs ar trebui să fie aplicat un marcaj CE fizic care poate fi completat de un marcaj CE digital. Pentru sistemele de IA cu grad ridicat de risc furnizate exclusiv digital, ar trebui să fie utilizat un marcaj CE digital. Statele membre ar trebui să nu genereze obstacole nejustificate în calea introducerii pe piață sau a punerii în funcțiune a sistemelor de IA cu grad ridicat de risc care sunt conforme cu cerințele prevăzute în prezentul regulament și care poartă marcajul CE.
(130)
Bizonyos körülmények között az innovatív technológiák gyors rendelkezésre állása döntő fontosságú lehet a személyek egészsége és biztonsága, a környezet védelme és az éghajlat-változás, valamint a társadalom egésze szempontjából. Ezért helyénvaló, hogy a közbiztonsághoz vagy a természetes személyek életének és egészségének védelméhez, a környezetvédelemhez, valamint a kulcsfontosságú ipari és infrastrukturális eszközök védelméhez kapcsolódó kivételes okokból a piacfelügyeleti hatóságok engedélyezhessék olyan MI-rendszerek forgalomba hozatalát vagy üzembe helyezését, amelyek megfelelőségértékelését nem folytatták le. Az e rendeletben előírt, kellően indokolt helyzetekben a bűnüldöző hatóságok vagy a polgári védelmi hatóságok üzembe helyezhetnek egy adott nagy kockázatú MI-rendszert a piacfelügyeleti hatóság engedélye nélkül is, feltéve, hogy a használat során vagy azt követően – indokolatlan késedelem nélkül – kérnek ilyen engedélyt.
(130)
În anumite condiții, disponibilitatea rapidă a tehnologiilor inovatoare poate fi esențială pentru sănătatea și siguranța persoanelor, pentru protecția mediului și combaterea schimbărilor climatice și pentru societate în ansamblu. Prin urmare, este oportun ca, din motive excepționale de siguranță publică sau de protecție a vieții și a sănătății persoanelor fizice, de protecție a mediului și de protecție a activelor industriale și de infrastructură esențiale, autoritățile de supraveghere a pieței să poată autoriza introducerea pe piață sau punerea în funcțiune a unor sisteme de IA care nu au fost supuse unei evaluări a conformității. În situații justificate în mod corespunzător, astfel cum se prevede în prezentul regulament, autoritățile de aplicare a legii sau autoritățile de protecție civilă pot pune în funcțiune un anumit sistem de IA cu grad ridicat de risc fără autorizarea autorității de supraveghere a pieței, cu condiția ca o astfel de autorizare să fie solicitată în timpul utilizării sau după utilizare, fără întârzieri nejustificate.
(131)
A Bizottság és a tagállamok által az MI területén végzett munka megkönnyítése, valamint a nyilvánosság számára biztosított átláthatóság növelése érdekében az olyan nagy kockázatú MI-rendszerek szolgáltatói számára, amelyek nem kapcsolódnak a releváns meglévő uniós harmonizációs jogszabályok hatálya alá tartozó termékekhez, valamint az olyan szolgáltatok számára, akik úgy vélik, hogy az e rendelet egyik mellékletében foglalt nagy kockázatú felhasználási esetek között felsorolt valamely MI-rendszer egy eltérés alapján nem nagy kockázatú, elő kell írni, hogy saját magukat és a nagy kockázatú MI-rendszerükre vonatkozó információkat regisztrálják egy uniós adatbázisban, amelyet a Bizottságnak kell létrehoznia és kezelnie. Az e rendelet egyik mellékletében foglalt nagy kockázatú felhasználási esetek között felsorolt valamely MI-rendszer használata előtt a nagy kockázatú MI-rendszerek azon alkalmazóinak, amelyek hatóságok, ügynökségek vagy közjogi szervek, regisztrálniuk kell magukat egy ilyen adatbázisban, és ki kell választaniuk az általuk használni kívánt rendszert. A többi alkalmazó számára biztosítani kell a jogot, hogy ezt önkéntes alapon tegye meg. Az uniós adatbázis ezen részének nyilvánosan hozzáférhetőnek és ingyenesnek, az információnak pedig könnyen böngészhetőnek, érthetőnek és géppel olvashatónak kell lennie. Az uniós adatbázisnak felhasználóbarátnak is kell lennie, például keresőfunkciók – többek között kulcsszavak révén történő – biztosításával, amelyek lehetővé teszik a nyilvánosság számára, hogy megtalálja a nagy kockázatú MI-rendszerek regisztrációjakor benyújtandó és a nagy kockázatú MI-rendszerek e rendelet egyik mellékletében meghatározott azon felhasználási esetére vonatkozó releváns információkat, amelynek a nagy kockázatú MI-rendszerek megfelelnek. A nagy kockázatú MI-rendszerek bármely jelentős módosítását rögzíteni kell az uniós adatbázisban is. A bűnüldözés, a migráció, a menekültügy és a határellenőrzés igazgatása területén működő nagy kockázatú MI-rendszerek esetében a regisztrációs kötelezettségeket az uniós adatbázis biztonságos, nem nyilvános részében kell teljesíteni. A biztonságos, nem nyilvános részhez való hozzáférést szigorúan a Bizottságra, valamint – az adatbázis megfelelő nemzeti része tekintetében – a piacfelügyeleti hatóságokra kell korlátozni. A kritikus infrastruktúrák területén működő a nagy kockázatú MI-rendszereket csak nemzeti szinten kell nyilvántartásba venni. Az (EU) 2018/1725 rendelettel összhangban a Bizottságnak kell az uniós adatbázis adatkezelőjének lennie. Az uniós adatbázis teljes körű működőképességének biztosítása érdekében a bevezetéskor az adatbázis beállítására irányuló eljárásnak magában kell foglalnia a működési előírások Bizottság általi kidolgozását és egy független ellenőrzési jelentést. A Bizottságnak az uniós adatbázis adatkezelői feladatainak ellátása során figyelembe kell vennie a kiberbiztonsági kockázatokat. Az uniós adatbázis nyilvánosság általi hozzáférhetőségének és használatának maximalizálása érdekében az uniós adatbázisnak – ideértve az annak révén rendelkezésre bocsátott információkat is – meg kell felelnie az (EU) 2019/882 irányelv követelményeinek.
(131)
Pentru a facilita activitatea Comisiei și a statelor membre în domeniul IA, precum și pentru a spori transparența față de public, furnizorii de sisteme de IA cu grad ridicat de risc, altele decât cele legate de produse care intră în domeniul de aplicare al actelor legislative de armonizare relevante existente ale Uniunii, precum și furnizorii care consideră că un sistem de IA care figurează între situațiile cu grad ridicat de risc dintr-o anexă la prezentul regulament nu este, pe baza unei derogări, un sistem de IA cu grad ridicat de risc, ar trebui să aibă obligația de a se înregistra, precum și de a înregistra informații despre propriul sistem de IA într-o bază de date a UE, care urmează să fie creată și gestionată de Comisie. Înainte de a utiliza un sistem de IA care figurează între situațiile cu grad ridicat de risc dintr-o anexă la prezentul regulament, implementatorii sistemelor de IA cu grad ridicat de risc care sunt autorități, agenții sau organisme publice ar trebui să se înregistreze în baza de date respectivă și să selecteze sistemul pe care intenționează să îl utilizeze. Ceilalți implementatori ar trebui să aibă dreptul de a face acest lucru în mod voluntar. Această secțiune a bazei de date a UE ar trebui să fie accesibilă publicului, în mod gratuit, informațiile ar trebui să fie ușor de parcurs, ușor de înțeles și prelucrabile automat. Baza de date a UE ar trebui, de asemenea, să fie ușor de utilizat, de exemplu prin furnizarea de funcționalități de căutare, inclusiv prin intermediul cuvintelor-cheie, care să permită publicului larg să găsească informațiile relevante care trebuie să fie transmise la înregistrarea sistemelor de IA cu grad ridicat de risc și cu privire la cazul de utilizare a sistemelor de IA cu grad ridicat de risc, prevăzute într-o anexă la prezentul regulament, cărora le corespund sistemele de IA cu grad ridicat de risc. Orice modificare substanțială a sistemelor de IA cu grad ridicat de risc ar trebui să se înregistreze, de asemenea, în baza de date a UE. Pentru sistemele de IA cu grad ridicat de risc din domeniul aplicării legii, al migrației, al azilului și al gestionării controlului la frontiere, obligațiile de înregistrare ar trebui să fie îndeplinite în cadrul unei secțiuni securizate, care nu este accesibilă publicului, a bazei de date a UE. Accesul la secțiunea securizată care nu este accesibilă publicului ar trebui să fie strict limitat la Comisie, precum și la autoritățile de supraveghere a pieței în ceea ce privește secțiunea lor națională din baza de date respectivă. Sistemele de IA cu grad ridicat de risc din domeniul infrastructurii critice ar trebui să fie înregistrate exclusiv la nivel național. Comisia ar trebui să fie operatorul bazei de date a UE, în conformitate cu Regulamentul (UE) 2018/1725. Pentru a asigura funcționalitatea deplină a bazei de date a UE, atunci când aceasta este implementată, procedura de stabilire a bazei de date ar trebui să includă dezvoltarea de specificații funcționale de către Comisie și un raport de audit independent. Comisia ar trebui să țină seama de riscurile în materie de securitate cibernetică atunci când își îndeplinește sarcinile de operator de date în baza de date a UE. Pentru a maximiza disponibilitatea și utilizarea bazei de date a UE de către public, baza de date a UE, inclusiv informațiile puse la dispoziție prin intermediul acesteia, ar trebui să îndeplinească cerințele prevăzute în Directiva (UE) 2019/882.
(132)
Bizonyos MI-rendszerek, amelyek rendeltetése a természetes személyekkel való interakció vagy tartalom létrehozása, különleges kockázatot jelenthetnek a hasonmássággal való visszaélés vagy a megtévesztés szempontjából, függetlenül attól, hogy nagy kockázatúnak minősülnek-e vagy sem. Bizonyos körülmények között e rendszerek használatára ezért egyedi átláthatósági kötelezettségeket kell alkalmazni, a nagy kockázatú MI-rendszerekre vonatkozó követelmények és kötelezettségek sérelme nélkül, valamint a bűnüldözés különleges igényei okán hozott célzott kivételek szem előtt tartása mellett. Így különösen, a természetes személyeket értesíteni kell arról, hogy MI-rendszerrel állnak interakcióban, kivéve, ha ez – figyelembe véve a körülményeket és a felhasználási kontextust – egy észszerűen elvárható szinten jól tájékozott, figyelmes és körültekintő természetes személy szemszögéből nyilvánvaló. Az említett kötelezettség végrehajtásakor figyelembe kell venni az életkoruk vagy fogyatékosságuk okán kiszolgáltatott csoportokba tartozó személyek jellemzőit annyiban, amennyiben az MI-rendszer rendeltetésébe beletartozik, hogy az említett csoportokkal is interakciót folytasson. Ezenkívül, a természetes személyeket értesíteni kell, amikor olyan MI-rendszereknek vannak kitéve, amelyek biometrikus adataik feldolgozásával azonosíthatják vagy kikövetkeztethetik az említett személyek érzelmeit vagy szándékait, vagy konkrét kategóriákba sorolhatják őket. Az ilyen konkrét kategóriák vonatkozhatnak olyan szempontokra, mint például a nem, az életkor, a hajszín, a szemszín, a tetoválások, a személyes vonások, az etnikai származás, a személyes preferenciák és az érdeklődési kör. Az ilyen információkat és értesítéseket a fogyatékossággal élő személyek számára akadálymentes formátumban kell megadni.
(132)
Anumite sisteme de IA destinate să interacționeze cu persoane fizice sau să genereze conținut pot prezenta riscuri specifice de uzurpare a identității sau de înșelăciune, indiferent dacă acestea se califică drept sisteme cu grad ridicat de risc sau nu. Prin urmare, în anumite circumstanțe, utilizarea acestor sisteme ar trebui să facă obiectul unor obligații specifice în materie de transparență, fără a aduce atingere cerințelor și obligațiilor pentru sistemele de IA cu grad ridicat de risc și sub rezerva unor excepții specifice pentru a ține seama de nevoia specială de a aplica legea. În special, persoanele fizice ar trebui să fie informate că interacționează cu un sistem de IA, cu excepția cazului în care acest lucru este evident din punctul de vedere al unei persoane fizice rezonabil de bine informată, de atentă și de avizată, ținând seama de circumstanțele și contextul de utilizare. La punerea în aplicare a obligației respective, caracteristicile persoanelor fizice care aparțin grupurilor vulnerabile din motive de vârstă sau dizabilitate ar trebui să fie luate în considerare în măsura în care sistemul de IA este destinat să interacționeze și cu aceste grupuri. În plus, persoanele fizice ar trebui să fie informate atunci când sunt expuse la sisteme de IA care, prin prelucrarea datelor lor biometrice, pot identifica sau deduce emoțiile sau intențiile persoanelor respective sau le pot include în categorii specifice. Astfel de categorii specifice se pot referi la aspecte precum sexul, vârsta, culoarea părului, culoarea ochilor, tatuajele, trăsăturile personale, originea etnică, preferințele și interesele personale. Astfel de informații și notificări ar trebui să fie furnizate în formate accesibile pentru persoanele cu dizabilități.
(133)
A különböző MI-rendszerek nagy mennyiségű szintetikus tartalmat tudnak előállítani, amelyet illetően egyre nehezebbé válik az emberek számára, hogy megkülönböztessék az ember által előállított és autentikus tartalomtól. E rendszerek széles körű rendelkezésre állása és növekvő képességei jelentős hatással vannak az információs ökoszisztéma integritására és az abba vetett bizalomra, új kockázatokat teremtve a nagyléptékű félretájékoztatás és a manipuláció, a csalás, a személyazonossággal való visszaélés és a fogyasztók megtévesztése tekintetében. Az említett hatások, a technológiai haladás gyors üteme és az információk eredetének nyomon követésére szolgáló új módszerek és technikák iránti igény fényében helyénvaló előírni az említett rendszerek szolgáltatói számára, hogy olyan műszaki megoldásokat építsenek be, amelyek lehetővé teszik a géppel olvasható formátumban történő jelölést és annak észlelését, hogy a kimenetet nem ember, hanem MI-rendszer hozta létre vagy manipulálta. Az ilyen technikáknak és módszereknek kellően megbízhatónak, interoperábilisnak, hatékonynak és megbízhatónak kell lenniük, amilyen mértékben ez műszakilag megvalósítható, figyelembe véve az elérhető technikákat vagy az ilyen technikák kombinációját – például vízjeleket, metaadat-azonosításokat, a tartalom eredetének és hitelességének bizonyítására szolgáló kriptográfiai módszereket, naplózási módszereket, ujjnyomatokat vagy adott esetben egyéb technikákat. E kötelezettség végrehajtása során a szolgáltatóknak figyelembe kell venniük a különböző tartalomtípusok sajátosságait és korlátait, valamint a terület releváns technológiai és piaci fejleményeit is, amint azt a technológia általánosan elfogadott, mindenkori állása is tükrözi. Ilyen technikák és módszerek végrehajthatók az MI-rendszer vagy az MI-modell szintjén – ideértve a tartalmat előállító általános célú MI-modelleket is –, ezáltal megkönnyítve e kötelezettségnek az MI-rendszer downstream szolgáltatója általi teljesítését. Az arányosság megőrzése érdekében helyénvaló úgy rendelkezni, hogy ez a jelölési kötelezettség ne terjedjen ki azokra az MI-rendszerekre, amelyek elsősorban a standard szerkesztést segítő funkciót látnak el, vagy olyan MI-rendszerekre, amelyek nem módosítják lényegesen az alkalmazó által szolgáltatott bemeneti adatokat vagy azok szemantikáját.
(133)
O varietate de sisteme de IA poate genera cantități mari de conținut sintetic, pe care oamenii ajung să îl distingă din ce în ce mai greu de conținutul autentic, generat de om. Disponibilitatea pe scară largă și capabilitățile din ce în ce mai mari ale acestor sisteme au un impact semnificativ asupra integrității ecosistemului informațional și a încrederii în acesta, generând noi riscuri de dezinformare și manipulare la scară largă, de fraudă, de uzurpare a identității și de inducere în eroare a consumatorilor. Având în vedere impactul respectiv, ritmul tehnologic rapid și necesitatea unor noi metode și tehnici de urmărire a originii informațiilor, este oportun să se solicite furnizorilor acestor sisteme să încorporeze soluții tehnice care să permită marcarea într-un format prelucrabil automat și detectarea faptului că rezultatul a fost generat sau manipulat de un sistem de IA, și nu de un om. Aceste tehnici și metode ar trebui să fie suficient de fiabile, interoperabile, eficace și robuste, în măsura în care acest lucru este fezabil din punct de vedere tehnic, ținând seama de tehnicile disponibile sau de o combinație de astfel de tehnici, cum ar fi filigrane, identificări prin intermediul metadatelor, metode criptografice pentru a dovedi proveniența și autenticitatea conținutului, metode de înregistrare, amprente digitale sau alte tehnici, după caz. Atunci când pun în aplicare această obligație, furnizorii ar trebui, de asemenea, să țină seama de particularitățile și limitările diferitelor tipuri de conținut și de evoluțiile tehnologice și ale pieței relevante în domeniu, astfel cum se reflectă în stadiul de avansare general recunoscut al tehnologiei. Astfel de tehnici și metode pot fi puse în aplicare la nivelul sistemului de IA sau la nivelul modelului de IA, inclusiv al modelelor de IA de uz general care generează conținut, facilitând astfel îndeplinirea acestei obligații de către furnizorul din aval al sistemului de IA. Este oportun să se aibă în vedere că, pentru a rămâne proporțională, această obligație de marcare nu ar trebui să vizeze sistemele de IA care îndeplinesc în principal o funcție de asistare pentru editarea standard sau sistemele de IA care nu modifică în mod substanțial datele de intrare furnizate de implementator sau semantica acestora.
(134)
Az MI-rendszer szolgáltatói által alkalmazott műszaki megoldásokat illetően azon alkalmazóknak, akik MI-rendszert használnak olyan kép-, audio- vagy videotartalom létrehozására vagy manipulálására, amely érzékelhetően hasonlít meglévő személyekre, tárgyakra, helyekre, entitásokra vagy eseményekre, és egy személy számára megtévesztő módon autentikusnak vagy valóságosnak tűnhet (deepfake), egyértelműen és megkülönböztethetően fel kell tüntetniük, hogy a tartalmat mesterségesen hozták létre vagy manipulálták az MI-kimenet megfelelő címkézésével és mesterséges eredetének közzétételével. Ezen átláthatósági kötelezettségnek való megfelelés nem értelmezhető úgy, hogy az azt jelzi, hogy az MI-rendszer vagy annak kimenete akadályozza a véleménynyilvánítás szabadságához való jogot, valamint a művészet és a tudomány szabadságához való, a Chartában garantált jogot, különösen, ha a tartalom egy nyilvánvalóan kreatív, szatirikus, művészeti, fiktív vagy hasonló munka vagy program részét képezi, a harmadik felek jogaira és szabadságaira vonatkozó megfelelő biztosítékok mellett. Az említett esetekben az e rendeletben meghatározott, a deepfake tartalmakra vonatkozó átláthatósági kötelezettség az ilyen, előállított vagy manipulált tartalom olyan megfelelő módon történő felfedésére korlátozódik, amely nem akadályozza a mű megjelenítését vagy élvezetét, beleértve annak rendes kiaknázását és használatát, a mű hasznosságának és minőségének fenntartása mellett. Emellett helyénvaló hasonló felfedési kötelezettséget előirányozni az MI által előállított vagy manipulált szöveg tekintetében is, amennyiben azt a nyilvánosság közérdekű ügyekről való tájékoztatása céljából teszik közzé, kivéve, ha az MI által létrehozott tartalom emberi felülvizsgálaton vagy szerkesztői ellenőrzésen esett át, és a szerkesztői felelősséget egy természetes vagy jogi személy viseli a tartalom közzétételéért.
(134)
Pe lângă soluțiile tehnice utilizate de furnizorii sistemului de IA, implementatorii care utilizează un sistem de IA pentru a genera sau a manipula conținuturi de imagine, audio sau video care se aseamănă în mod apreciabil cu persoane, obiecte, locuri, entități sau evenimente existente și care ar crea unei persoane impresia falsă că sunt autentice sau adevărate (deepfake-uri), ar trebui, de asemenea, să dezvăluie în mod clar și distinct faptul că respectivul conținut a fost creat sau manipulat în mod artificial prin etichetarea în consecință a rezultatului generat de IA și divulgarea originii sale artificiale. Respectarea acestei obligații de transparență nu ar trebui să fie interpretată în sensul de a indica că utilizarea sistemului de IA sau a rezultatelor sale împiedică dreptul la libertatea de exprimare și dreptul la libertatea artelor și științelor garantate de cartă, în special atunci când conținutul face parte dintr-o lucrare sau dintr-un program în mod evident creativ, satiric, artistic, fictiv sau analog, sub rezerva unor garanții adecvate pentru drepturile și libertățile terților. În cazurile respective, obligația de transparență pentru deepfake-uri prevăzută în prezentul regulament se limitează la divulgarea existenței unui astfel de conținut generat sau manipulat într-un mod adecvat, care să nu împiedice expunerea lucrării sau posibilitatea de a beneficia de aceasta, inclusiv exploatarea și utilizarea normală a acesteia, menținând în același timp utilitatea și calitatea lucrării. În plus, este, de asemenea, oportun să se aibă în vedere o obligație similară de divulgare în ceea ce privește textul generat sau manipulat de IA, în măsura în care acesta este publicat cu scopul de a informa publicul cu privire la chestiuni de interes public, cu excepția cazului în care conținutul generat de IA a fost supus unui proces de verificare editorială sau revizuire umană și responsabilitatea editorială pentru publicarea conținutului este deținută de o persoană fizică sau juridică.
(135)
Az átláthatósági kötelezettségek kötelező jellegének és teljes körű alkalmazandóságának sérelme nélkül a Bizottság ösztönözheti és megkönnyítheti olyan uniós szintű gyakorlati kódexek kidolgozását is, amelyek megkönnyítik a mesterségesen előállított vagy manipulált tartalom észlelésére és címkézésére vonatkozó kötelezettségek hatékony végrehajtását, beleértve adott esetben az észlelési mechanizmusok hozzáférhetővé tételére és az értéklánc más szereplőivel való együttműködés elősegítésére, a tartalom terjesztésére vagy hitelességének és eredetének ellenőrzésére irányuló gyakorlati intézkedések támogatását is annak érdekében, hogy a nyilvánosság képessé váljon a mesterséges intelligencián alapuló tartalmak hatékony megkülönböztetésére.
(135)
Fără a aduce atingere caracterului obligatoriu și aplicabilității depline a obligațiilor privind transparența, Comisia poate, de asemenea, să încurajeze și să faciliteze elaborarea de coduri de bune practici la nivelul Uniunii cu scopul de a facilita punerea în aplicare efectivă a obligațiilor privind detectarea și etichetarea conținutului generat sau manipulat artificial, inclusiv de a sprijini modalitățile practice pentru a oferi accesul, după caz, la mecanisme de detectare și pentru a facilita cooperarea cu alți actori de-a lungul lanțului valoric, pentru a disemina conținutul sau a verifica autenticitatea și proveniența acestuia, astfel încât publicul să poată distinge efectiv conținutul generat de IA.
(136)
Az (EU) 2022/2065 rendelet hatékony végrehajtásának elősegítése érdekében különösen fontosak az e rendeletben az egyes MI-rendszerek szolgáltatóira és alkalmazóira rótt azon kötelezettségek, amelyek lehetővé teszik annak észlelését és közzétételét, hogy e rendszerek kimeneteit mesterségesen hozzák létre vagy manipulálják. Ez különösen igaz az online óriásplatformokat vagy nagyon népszerű online keresőprogramokat üzemeltető szolgáltatók azon kötelezettségeire, hogy azonosítsák és enyhítsék a mesterségesen előállított vagy manipulált tartalom terjesztéséből eredő rendszerszintű kockázatokat, különösen a demokratikus folyamatokra, a civil párbeszédre és a választási folyamatokra – többek között dezinformáció révén – gyakorolt tényleges vagy előrelátható negatív hatások kockázatát. Az MI-rendszerek által előállított tartalmak címkézésére vonatkozó, e rendelet szerinti követelmény nem érinti az (EU) 2022/2065 rendelet 16. cikkének (6) bekezdésében foglalt azon kötelezettséget, hogy a tárhelyszolgáltatók feldolgozzák az említett rendelet 16. cikkének (1) bekezdése alapján kapott, jogellenes tartalomra vonatkozó bejelentéseket, és nem befolyásolhatja az adott tartalom jogellenességére vonatkozó értékelést és döntést. Ezt az értékelést kizárólag a tartalom jogszerűségére vonatkozó szabályokra tekintettel kell elvégezni.
(136)
Obligațiile impuse prin prezentul regulament furnizorilor și implementatorilor anumitor sisteme de IA pentru a permite detectarea și divulgarea faptului că rezultatele sistemelor respective sunt generate sau manipulate artificial sunt deosebit de relevante pentru a facilita punerea în aplicare efectivă a Regulamentului (UE) 2022/2065. Acest lucru este valabil în special în ceea ce privește obligațiile furnizorilor de platforme online foarte mari sau de motoare de căutare online foarte mari de a identifica și a atenua riscurile sistemice care pot apărea în urma diseminării conținutului care a fost generat sau manipulat artificial, în special riscul privind efectele negative reale sau previzibile asupra proceselor democratice, asupra discursului civic și asupra proceselor electorale, inclusiv prin dezinformare. Cerința de etichetare a conținutului generat de sistemele de IA în temeiul prezentului regulament nu aduce atingere obligației prevăzute la articolul 16 alineatul (6) din Regulamentul (UE) 2022/2065 pentru furnizorii de servicii de găzduire de a prelucra notificările privind conținutul ilegal primite în temeiul articolului 16 alineatul (1) din regulamentul respectiv și nu ar trebui să influențeze evaluarea și decizia privind ilegalitatea conținutului specific. Evaluarea respectivă ar trebui să fie efectuată exclusiv în raport cu normele care reglementează legalitatea conținutului.
(137)
Az e rendelet hatálya alá tartozó MI-rendszerekre vonatkozó átláthatósági kötelezettségeknek való megfelelés nem értelmezhető úgy, mint amely azt jelzi, hogy az MI-rendszer használata vagy annak kimenete e rendelet vagy más uniós és tagállami jogszabályok alapján jogszerű, és nem sértheti az MI-rendszerek alkalmazóira vonatkozóan az uniós vagy nemzeti jogban meghatározott egyéb átláthatósági kötelezettségeket.
(137)
Respectarea obligațiilor privind transparența pentru sistemele de IA vizate de prezentul regulament nu ar trebui să fie interpretată ca indicând faptul că utilizarea sistemului de IA sau a rezultatelor sale este legală în temeiul prezentului regulament sau al altor dispoziții din dreptul Uniunii și al statelor membre și nu ar trebui să aducă atingere altor obligații de transparență pentru implementatorii sistemelor de IA prevăzute în dreptul Uniunii sau în cel intern.
(138)
Az MI gyorsan fejlődő technológiacsalád, amelynek tekintetében szabályozási felügyeletre és biztonságos és ellenőrzött kísérleti térre van szükség, a felelősségteljes innovációnak, valamint a megfelelő biztosítékok és kockázatenyhítő intézkedések integrálásának egyidejű biztosítása mellett. Az innovációt előmozdító, időtálló és a zavarokkal szemben reziliens jogi keret biztosítása érdekében a tagállamoknak biztosítaniuk kell, hogy illetékes nemzeti hatóságaik létrehoznak legalább egy MI szabályozói tesztkörnyezetet nemzeti szinten annak érdekében, hogy megkönnyítsék az innovatív MI-rendszerek szigorú szabályozási felügyelet melletti fejlesztését és tesztelését e rendszerek forgalomba hozatala vagy más módon történő üzembe helyezése előtt. A tagállamok ezt a kötelezettséget teljesíthetnék úgy is, hogy részt vesznek már meglévő szabályozói tesztkörnyezetekben, vagy hogy egy vagy több tagállam illetékes hatóságával közösen hoznak létre tesztkörnyezet, amennyiben ez a részvétel egyenértékű nemzeti lefedettséget biztosít a részt vevő tagállamok számára. Az MI szabályozói tesztkörnyezeteket fizikai, digitális vagy hibrid formában is létre lehetne hozni, és azok fogadhatnak fizikai és digitális termékeket egyaránt. A létrehozó hatóságoknak azt is biztosítaniuk kell, hogy az MI szabályozói tesztkörnyezetek rendelkezzenek a működésükhöz szükséges megfelelő erőforrásokkal, ideértve a pénzügyi és humán erőforrásokat is.
(138)
IA este o familie de tehnologii care se dezvoltă rapid și care necesită supraveghere reglementară și un spațiu sigur și controlat pentru experimentare, asigurând, în același timp, inovarea responsabilă și integrarea unor garanții adecvate și a unor măsuri de atenuare a riscurilor. Pentru a asigura un cadru juridic care promovează inovarea, adaptat exigențelor viitorului și rezistent la inovări disruptive, statele membre ar trebui să se asigure că autoritățile lor naționale competente instituie cel puțin un spațiu de testare la nivel național în materie de reglementare în domeniul IA pentru a facilita dezvoltarea și testarea sistemelor de IA inovatoare aflate sub supraveghere reglementară strictă înainte ca aceste sisteme să fie introduse pe piață sau puse în funcțiune în alt mod. Statele membre ar putea, de asemenea, să îndeplinească această obligație prin participarea la spațiile de testare în materie de reglementare deja existente sau prin instituirea unui spațiu de testare în comun cu una sau mai multe autorități competente ale statelor membre, în măsura în care această participare asigură un nivel echivalent de acoperire națională pentru statele membre participante. Spațiile de testare în materie de reglementare în domeniul IA ar putea fi instituite în formă fizică, digitală sau hibridă și pot găzdui atât produse fizice, cât și produse digitale. Autoritățile de instituire ar trebui, de asemenea, să se asigure că spațiile de testare în materie de reglementare în domeniul IA dispun de resursele adecvate pentru funcționarea lor, inclusiv de resurse financiare și umane.
(139)
Az MI szabályozói tesztkörnyezeteknek az MI-vel kapcsolatos innováció előmozdítását kell célozniuk azáltal, hogy a fejlesztési és a forgalomba hozatalt megelőző szakaszban egy ellenőrzött kísérleti és tesztelési környezetet hoznak létre annak biztosítása érdekében, hogy az innovatív MI-rendszerek megfeleljenek e rendeletnek és más releváns uniós és tagállami jogszabályoknak. Ezen felül az MI szabályozói tesztkörnyezeteknek törekedniük kell arra, hogy fokozzák a jogbiztonságot az innovátorok számára, valamint az MI-használatban rejlő lehetőségek, újonnan felmerülő kockázatok és hatások illetékes hatóságok általi felügyeletét és megértését, megkönnyítsék a szabályozói tanulást a hatóságok és a vállalkozások számára, többek között a jogi keret jövőbeli kiigazítása céljából, támogassák az MI szabályozói tesztkörnyezetben részt vevő hatóságokkal való együttműködést és a legjobb gyakorlatok megosztását, valamint felgyorsítsák a piacra jutást, többek között a kkv-k, köztük az induló innovatív vállalkozások előtt álló akadályok felszámolása révén. Az MI szabályozói tesztkörnyezeteknek Unió-szerte széles körben elérhetőnek kell lenniük, és különös figyelmet kell fordítani arra, hogy azokhoz a kkv-k, köztük az induló innovatív vállalkozások is hozzáférjenek. Az MI szabályozói tesztkörnyezetben való részvételnek olyan kérdésekre kell összpontosítania, amelyek jogbizonytalanságot vetnek fel a szolgáltatók és a leendő szolgáltatók körében, az Unión belüli innováció, a mesterséges intelligenciával való kísérletezés és a szabályozó hatóságok általi, tényeken alapuló tanuláshoz való hozzájárulás érdekében. Az MI szabályozói tesztkörnyezetben az MI-rendszerek felügyeletének ezért ki kell terjednie a rendszerek forgalomba hozatala vagy üzembe helyezése előtti fejlesztésére, betanítására, tesztelésére és validálására, valamint az olyan jelentős módosítás fogalmára és bekövetkezésére, amely új megfelelőségértékelési eljárást tehet szükségessé. Amennyiben az ilyen MI-rendszerek fejlesztése és tesztelése során jelentős kockázatok merülnek fel, azokat megfelelő módon csökkenteni kell, illetve ennek sikertelensége esetén a fejlesztési és tesztelési folyamatot fel kell függeszteni. Az MI szabályozói tesztkörnyezeteket létrehozó illetékes nemzeti hatóságoknak adott esetben célszerű együttműködniük más érintett hatóságokkal, többek között az alapvető jogok védelmét felügyelő hatóságokkal, és lehetővé tehetik az MI-ökoszisztémán belüli más szereplők, így például a nemzeti vagy európai szabványügyi szervezetek, a bejelentett szervezetek, a tesztelési és kísérleti létesítmények, a kutató- és kísérleti laboratóriumok, az európai digitális innovációs központok, valamint az érdekelt felek és a civil társadalmi szervezetek bevonását. Az Unió-szerte egységes végrehajtás és a méretgazdaságosság biztosítása érdekében helyénvaló közös szabályokat megállapítani az MI szabályozói tesztkörnyezetek végrehajtására vonatkozóan, valamint meghatározni a tesztkörnyezetek felügyeletében részt vevő érintett hatóságok közötti együttműködés keretét. Az e rendelet alapján létrehozott MI szabályozói tesztkörnyezetek nem sérthetik az egyéb olyan jogszabályokat, amelyek lehetővé teszik az e rendelettől eltérő jogszabályoknak való megfelelés biztosítását célzó egyéb tesztkörnyezetek létrehozását. Az említett egyéb szabályozói tesztkörnyezetekért felelős releváns illetékes hatóságoknak adott esetben célszerű mérlegelniük annak előnyeit, ha az említett tesztkörnyezeteket az MI-rendszerek e rendeletnek való megfelelése biztosításának céljára is igénybe veszik. Az illetékes nemzeti hatóságok és az MI szabályozói tesztkörnyezet résztvevői közötti megállapodás esetén valós körülmények közötti tesztelés is végezhető és felügyelhető az MI szabályozói tesztkörnyezet keretrendszerében.
(139)
Obiectivele spațiilor de testare în materie de reglementare în domeniul IA ar trebui să fie promovarea inovării în domeniul IA prin instituirea unui mediu de experimentare și testare controlat în faza de dezvoltare și în faza anterioară introducerii pe piață, cu scopul de a asigura conformitatea sistemelor de IA inovatoare cu prezentul regulament și cu alte dispoziții relevante din dreptul Uniunii și dreptul intern. În plus, spațiile de testare în materie de reglementare în domeniul IA ar trebui să urmărească sporirea securității juridice pentru inovatori și supravegherea și înțelegerea de către autoritățile competente a oportunităților, a riscurilor emergente și a impactului utilizării IA, facilitarea învățării în materie de reglementare pentru autorități și întreprinderi, inclusiv în vederea viitoarelor adaptări ale cadrului juridic, sprijinirea cooperării și a schimbului de bune practici cu autoritățile implicate în spațiul de testare în materie de reglementare în domeniul IA, precum și accelerarea accesului la piețe, inclusiv prin eliminarea barierelor din calea IMM-urilor, inclusiv a întreprinderilor nou-înființate. Spațiile de testare în materie de reglementare în domeniul IA ar trebui să fie disponibile pe scară largă în întreaga Uniune și ar trebui să se acorde o atenție deosebită accesibilității acestora pentru IMM-uri, inclusiv pentru întreprinderile nou-înființate. Participarea la spațiul de testare în materie de reglementare în domeniul IA ar trebui să se concentreze pe aspecte care fac ca furnizorii și potențialii furnizori să se confrunte cu o lipsă de securitate juridică atunci când încearcă să inoveze, să experimenteze cu IA în Uniune și să contribuie la învățarea bazată pe dovezi în materie de reglementare. Supravegherea sistemelor de IA în spațiul de testare în materie de reglementare în domeniul IA ar trebui, prin urmare, să vizeze dezvoltarea, antrenarea, testarea și validarea acestora înainte ca sistemele să fie introduse pe piață sau puse în funcțiune, precum și noțiunea de modificare substanțială care ar putea necesita o nouă procedură de evaluare a conformității și ocurența unei astfel de modificări. Orice riscuri semnificative identificate în cursul dezvoltării și testării unor astfel de sisteme de IA ar trebui să conducă la o atenuare adecvată și, în cazul în care atenuarea nu este posibilă, la suspendarea procesului de dezvoltare și testare. După caz, autoritățile naționale competente care instituie spații de testare în materie de reglementare în domeniul IA ar trebui să coopereze cu alte autorități relevante, inclusiv cu cele care supraveghează protecția drepturilor fundamentale, și ar putea permite implicarea altor actori din ecosistemul de IA, cum ar fi organizațiile de standardizare naționale sau europene, organismele notificate, unitățile de testare și experimentare, laboratoarele de cercetare și experimentare, centrele europene de inovare digitală și organizațiile relevante ale părților interesate și ale societății civile. Pentru a asigura o punere în aplicare uniformă în întreaga Uniune și economii de scară, este oportun să se stabilească norme comune pentru punerea în aplicare a spațiilor de testare în materie de reglementare în domeniul IA și un cadru de cooperare între autoritățile relevante implicate în supravegherea spațiilor de testare. Spațiile de testare în materie de reglementare în domeniul IA instituite în temeiul prezentului regulament nu ar trebui să aducă atingere altor dispoziții de drept care permit instituirea altor spații de testare cu scopul de a asigura conformitatea cu alte dispoziții de drept decât prezentul regulament. După caz, autoritățile competente relevante responsabile de aceste alte spații de testare în materie de reglementare ar trebui să ia în considerare beneficiile utilizării acestor spații de testare și în scopul asigurării conformității sistemelor de IA cu prezentul regulament. Pe baza unui acord între autoritățile naționale competente și participanții la spațiul de testare în materie de reglementare în domeniul IA, testarea în condiții reale poate fi, de asemenea, efectuată și supravegheată în cadrul spațiului de testare în materie de reglementare în domeniul IA.
(140)
E rendeletnek jogalapot kell biztosítania az MI szabályozói tesztkörnyezetben a szolgáltatók és a leendő szolgáltatók számára ahhoz, hogy felhasználják az eltérő célból gyűjtött személyes adatokat bizonyos közérdekű MI-rendszereknek az MI szabályozói tesztkörnyezetben történő fejlesztése céljából, kizárólag meghatározott feltételek mellett, összhangban az (EU) 2016/679 rendelet 6. cikkének (4) bekezdésével és 9. cikke (2) bekezdésének g) pontjával, valamint az (EU) 2018/1725 rendelet 5., 6. és 10. cikkével összhangban, továbbá az (EU) 2016/680 irányelv 4. cikke (2) bekezdésének és 10. cikkének sérelme nélkül. Az adatkezelők minden egyéb kötelezettsége és az érintettek jogai továbbra is alkalmazandók az (EU) 2016/679 és az (EU) 2018/1725 rendelet, valamint az (EU) 2016/680 irányelv alapján. Így különösen, e rendelet nem biztosíthat jogalapot az (EU) 2016/679 rendelet 22. cikke (2) bekezdésének b) pontja és az (EU) 2018/1725 rendelet 24. cikke (2) bekezdésének b) pontja értelmében. Az MI szabályozói tesztkörnyezetben a szolgáltatóknak és a leendő szolgáltatóknak megfelelő biztosítékokat kell garantálniuk, és együtt kell működniük az illetékes hatóságokkal, többek között azáltal, hogy követik iránymutatásukat, valamint gyorsan és jóhiszeműen járnak el annak érdekében, hogy megfelelően enyhítsék a biztonságot, az egészséget és az alapvető jogokat fenyegető beazonosított, az említett tesztkörnyezetben történő fejlesztés, tesztelés és kísérletezés során esetlegesen felmerülő jelentős kockázatokat.
(140)
Prezentul regulament ar trebui să ofere furnizorilor și potențialilor furnizori din cadrul spațiului de testare în materie de reglementare în domeniul IA temeiul juridic pentru utilizarea datelor cu caracter personal colectate în alte scopuri pentru a dezvolta anumite sisteme de IA de interes public în cadrul spațiului de testare în materie de reglementare în domeniul IA numai în condiții specificate, în conformitate cu articolul 6 alineatul (4) și cu articolul 9 alineatul (2) litera (g) din Regulamentul (UE) 2016/679, precum și cu articolele 5, 6 și 10 din Regulamentul (UE) 2018/1725 și fără a aduce atingere articolului 4 alineatul (2) și articolului 10 din Directiva (UE) 2016/680. Toate celelalte obligații ale operatorilor de date și drepturi ale persoanelor vizate în temeiul Regulamentelor (UE) 2016/679 și (UE) 2018/1725 și al Directivei (UE) 2016/680 rămân aplicabile. În special, prezentul regulament nu ar trebui să ofere un temei juridic în sensul articolului 22 alineatul (2) litera (b) din Regulamentul (UE) 2016/679 și al articolului 24 alineatul (2) litera (b) din Regulamentul (UE) 2018/1725. Furnizorii și potențialii furnizori din cadrul spațiului de testare în materie de reglementare în domeniul IA ar trebui să asigure garanții adecvate și să coopereze cu autoritățile competente, inclusiv urmând orientările acestora și acționând cu promptitudine și cu bună-credință, în ceea ce privește atenuarea în mod adecvat a oricăror riscuri semnificative identificate la adresa siguranței, sănătății și a drepturilor fundamentale care ar putea apărea în timpul dezvoltării, testării și experimentării în spațiul de testare respectiv.
(141)
Az e rendelet egyik mellékletben felsorolt nagy kockázatú MI-rendszerek fejlesztési és forgalombahozatali folyamatának felgyorsítása érdekében fontos, hogy az ilyen rendszerek szolgáltatói vagy leendő szolgáltatói szintén részt vehessenek egy olyan rendszerben, amely az említett MI-rendszerek valós körülmények közötti tesztelésére szolgál, anélkül, hogy részt vennének egy MI szabályozói tesztkörnyezetben. Ilyen esetekben azonban – figyelembe véve az ilyen tesztelés egyénekre gyakorolt lehetséges következményeit – biztosítani kell, hogy e rendelet megfelelő és elégséges garanciákat és feltételeket vezessen be a szolgáltatókra vagy leendő szolgáltatókra vonatkozóan. Ilyen garanciák közé kell, hogy tartozzon többek között a természetes személyek tájékoztatáson alapuló hozzájárulásának előírása a valós körülmények közötti tesztelésben való részvételhez, kivéve a bűnüldözést, amennyiben a tájékoztatáson alapuló hozzájárulás megkérése megakadályozná az MI-rendszer tesztelését. A vizsgálati alanyoknak az ilyen tesztelésben e rendelet alapján történő részvételhez való hozzájárulása különbözik az érintettek ahhoz való hozzájárulásától, hogy személyes adataikat a releváns adatvédelmi jogszabályok alapján kezeljék, és nem sérti azt. Fontosak továbbá a következők: minimalizálni a kockázatokat és lehetővé tenni az illetékes hatóságok általi felügyeletet, és ezért előírni a leendő szolgáltatók számára, hogy a valós körülmények közötti tesztelésre vonatkozó tervet nyújtsanak be az illetékes piacfelügyeleti hatósághoz, regisztrálni a tesztelést – néhány kivételtől eltekintve – az uniós adatbázis erre szolgáló szakaszaiban, korlátozni a tesztelés elvégzésére alkalmas időszakot, és további biztosítékokat előírni a bizonyos kiszolgáltatott csoportokhoz tartozó személyek érdekében, valamint írásbeli megállapodást kötni, amely meghatározza a leendő szolgáltatók és alkalmazók szerepét és felelősségét, és a valós körülmények közötti tesztelésben részt vevő hozzáértő személyzet általi hatékony felügyeletet biztosítani. Továbbá, helyénvaló további biztosítékokat előirányozni annak biztosítása érdekében, hogy az MI-rendszer előrejelzéseit, ajánlásait vagy döntéseit ténylegesen vissza lehessen fordítani és figyelmen kívül lehessen hagyni, valamint hogy a személyes adatok védelem alatt álljanak, és törlésre kerüljenek, ha a vizsgálati alanyok visszavonták a tesztelésben való részvételhez adott hozzájárulásukat, az uniós adatvédelmi jog értelmében érintettségükből adódó jogaik sérelme nélkül. Az adatok továbbítását illetően helyénvaló annak előírása is, hogy a valós körülmények közötti tesztelés céljára gyűjtött és feldolgozott adatokat csak akkor kerüljenek továbbításra harmadik országok számára, ha az uniós jog szerint megfelelő és alkalmazandó biztosítékokat hajtanak végre – különösen a személyes adatoknak az uniós adatvédelmi jog szerinti továbbítására vonatkozó jogalapokkal összhangban –, míg a nem személyes adatok tekintetében az uniós joggal – így például az (EU) 2022/868 (42) és az (EU) 2023/2854 (43) európai parlamenti és tanácsi rendelettel – összhangban megfelelő biztosítékok kerülnek bevezetésre.
(141)
Pentru a accelera procesul de dezvoltare și introducere pe piață a sistemelor de IA cu grad ridicat de risc enumerate într-o anexă la prezentul regulament, este important ca furnizorii sau potențialii furnizori ai acestor sisteme să poată beneficia, la rândul lor, de un regim specific pentru testarea acestor sisteme în condiții reale, fără a participa la un spațiu de testare în materie de reglementare în domeniul IA. Cu toate acestea, în astfel de cazuri, ținând seama de posibilele consecințe ale unor astfel de teste asupra persoanelor fizice, ar trebui să se garanteze faptul că prezentul regulament introduce garanții și condiții adecvate și suficiente pentru furnizori sau potențiali furnizori. Astfel de garanții ar trebui să includă, printre altele, solicitarea consimțământului în cunoștință de cauză al persoanelor fizice de a participa la teste în condiții reale, cu excepția cazurilor legate de aplicarea legii dacă solicitarea consimțământului în cunoștință de cauză ar împiedica testarea sistemului de IA. Consimțământul subiecților de a participa la astfel de teste în temeiul prezentului regulament este distinct de consimțământului persoanelor vizate pentru prelucrarea datelor lor cu caracter personal în temeiul dreptului relevant privind protecția datelor și nu îi aduce atingere acestuia. De asemenea, este important să se reducă la minimum riscurile și să se permită supravegherea de către autoritățile competente și, prin urmare, să se impună potențialilor furnizori să facă demersurile necesare pentru prezentarea unui plan de testare în condiții reale autorității competente de supraveghere a pieței, să se înregistreze testările în secțiuni specifice din baza de date a UE, sub rezerva unor excepții limitate, să se instituie limite privind perioada pentru care se poate efectua testarea și să se impună garanții suplimentare pentru persoanele care aparțin anumitor grupuri vulnerabile, precum și un acord scris care să definească rolurile și responsabilitățile potențialilor furnizori și implementatori și supravegherea eficace de către personalul competent implicat în testarea în condiții reale. În plus, este oportun să se prevadă garanții suplimentare pentru a se asigura că previziunile, recomandările sau deciziile sistemului de IA pot fi efectiv inversate și ignorate și că datele cu caracter personal sunt protejate și sunt șterse atunci când subiecții își retrag consimțământul de a participa la testare, fără a aduce atingere drepturilor lor în calitate de persoane vizate în temeiul dreptului Uniunii privind protecția datelor. În ceea ce privește transferul de date, este, de asemenea, oportun să se prevadă că datele colectate și prelucrate în scopul testării în condiții reale ar trebui să fie transferate către țări terțe numai cu condiția punerii în aplicare a unor garanții adecvate și aplicabile în temeiul dreptului Uniunii, în special în conformitate cu bazele pentru transferul de date cu caracter personal în temeiul dreptului Uniunii privind protecția datelor, în timp ce pentru datele fără caracter personal sunt instituite garanții adecvate în conformitate cu dreptul Uniunii, cum ar fi Regulamentele (UE) 2022/868 (42) și (UE) 2023/2854 (43) ale Parlamentului European și ale Consiliului.
(142)
Annak biztosítására, hogy az MI társadalmi és környezeti szempontból kedvező eredményekhez vezessen, a tagállamok ösztönözve vannak arra, hogy támogassák és mozdítsák elő a társadalmi és környezeti szempontból kedvező eredményeket hozó MI-megoldásokkal – így például a fogyatékossággal élő személyek általi hozzáférhetőség javítását, a társadalmi-gazdasági egyenlőtlenségek kezelését, valamint a környezetvédelmi célok elérését célzó MI-alapú megoldásokkal – kapcsolatos kutatás-fejlesztést, azáltal, hogy elegendő forrást – ideértve az állami és uniós finanszírozást is – allokálnak, valamint – adott esetben és feltéve, hogy a jogosultsági és kiválasztási feltételek teljesülnek – különös figyelmet fordítanak az ilyen célokat előmozdító projektekre. Az ilyen projekteknek az MI-fejlesztők, az egyenlőtlenséggel és a megkülönböztetésmentességgel, az akadálymentességgel, a fogyasztói, környezeti és digitális jogokkal foglalkozó szakértők, valamint a tudományos körök közötti interdiszciplináris együttműködés elvén kell alapulniuk.
(142)
Pentru a se asigura că IA conduce la rezultate benefice din punct de vedere social și ecologic, statele membre sunt încurajate să sprijine și să promoveze cercetarea și dezvoltarea de soluții de IA în sprijinul rezultatelor benefice din punct de vedere social și ecologic, cum ar fi soluțiile bazate pe IA pentru a spori accesibilitatea pentru persoanele cu dizabilități, pentru a combate inegalitățile socioeconomice sau pentru a îndeplini obiectivele de mediu, alocând resurse suficiente, inclusiv finanțare publică și din partea Uniunii, și, după caz și cu condiția îndeplinirii criteriilor de eligibilitate și de selecție, luând în considerare în special proiectele care urmăresc astfel de obiective. Aceste proiecte ar trebui să se bazeze pe principiul cooperării interdisciplinare dintre dezvoltatorii de IA, experții în materie de inegalitate și nediscriminare, accesibilitate, drepturile consumatorilor, de mediu și digitale, precum și cadrele universitare.
(143)
Az innováció előmozdítása és védelme érdekében különösen figyelembe kell venni a kkv-knak – köztük az induló innovatív vállalkozásoknak – mint az MI-rendszerek szolgáltatóinak, illetve alkalmazóinak az érdekeit. E célból a tagállamoknak az említett gazdasági szereplőket célzó, többek között a figyelemfelkeltéssel és a tájékoztatással kapcsolatos kezdeményezéseket kell kidolgozniuk. A tagállamoknak az Unióban bejegyzett székhellyel vagy fiókteleppel rendelkező kkv-k, köztük az induló innovatív vállalkozások számára elsőbbségi hozzáférést kell biztosítaniuk az MI-szabályozói tesztkörnyezetekhez, feltéve, hogy a vállalkozások teljesítik a jogosultsági feltételeket és a kiválasztási szempontokat, és nem zárva ki, hogy ugyanezen feltételek és szempontok teljesítése esetén más szolgáltatók és leendő szolgáltatók is hozzáférjenek a szabályozói tesztkörnyezetekhez. A tagállamoknak ki kell használniuk a meglévő csatornákat, és adott esetben új, célzott csatornákat kell létrehozniuk a kkv-kkal – ideértve az induló innovatív vállalkozásokat is –, az alkalmazókkal, egyéb innovátorokkal és adott esetben a helyi közigazgatási szervekkel folytatott kommunikáció céljára, hogy iránymutatást nyújtsanak részükre, és megválaszolják az e rendelet végrehajtásával kapcsolatos kérdéseket. Adott esetben e csatornáknak együtt kell működniük a szinergiák kialakítása és a kkv-k – köztük az induló innovatív vállalkozások – és az alkalmazók számára nyújtott iránymutatások egységessége érdekében. Emellett a tagállamoknak meg kell könnyíteniük a kkv-k és egyéb érintett érdekelt felek részvételét a szabványalkotási folyamatokban. Ezenkívül figyelembe kell venni a kkv-k – köztük az induló innovatív vállalkozások – mint szolgáltatók sajátos érdekeit és igényeit, amikor bejelentett szervezetek állapítanak meg megfelelőségértékelési díjakat. A Bizottságnak rendszeresen értékelnie kell a kkv-k – köztük az induló innovatív vállalkozások – tanúsítási és megfelelési költségeit az alkalmazókkal folytatott átlátható konzultációk révén, és együtt kell működnie a tagállamokkal az ilyen költségek csökkentése érdekében. A kötelező dokumentációhoz és a hatóságokkal folytatott kommunikációhoz kapcsolódó fordítási költségek például jelentős mértékűek lehetnek a szolgáltatók és más gazdasági szereplők, különösen a kisebb szolgáltatók és gazdasági szereplők számára. A tagállamoknak lehetőség szerint biztosítaniuk kell, hogy az érintett szolgáltatók dokumentációja és a gazdasági szereplőkkel folytatott kommunikáció tekintetében általuk meghatározott és elfogadott nyelvek egyike olyan nyelv legyen, amelyet a lehető legtöbb, határon átnyúló tevékenységet folytató alkalmazó széles körben ért. A kkv-k – köztük az induló innovatív vállalkozások – sajátos igényeinek kezelése érdekében a Bizottságnak a Testület kérésére szabványosított mintákat kell rendelkezésre bocsátania az e rendelet hatálya alá tartozó területekre vonatkozóan. Ezenfelül a Bizottságnak a tagállami erőfeszítéseket a következők révén kell kiegészítenie: egy olyan egységes információs platform biztosítása, amely e rendelettel kapcsolatban könnyen használható információkat nyújt valamennyi szolgáltató és alkalmazó számára; megfelelő kommunikációs kampányok szervezése az e rendeletből eredő kötelezettségekkel kapcsolatos figyelemfelkeltés érdekében; valamint az MI-rendszerekre vonatkozó közbeszerzési eljárások terén a legjobb gyakorlatok közelítésének értékelése és előmozdítása. Azon középvállalkozásoknak, amelyek a 2003/361/EK bizottsági ajánlás (44) melléklete értelmében a közelmúltig kisvállalkozásnak minősültek, hozzá kell férniük az említett intézkedésekhez, mivel az említett új középvállalkozások lehet, hogy néha nem rendelkeznek az e rendelet megfelelő megértéséhez és betartásához szükséges jogi erőforrásokkal és képzéssel.
(143)
Pentru a promova și proteja inovarea, este important să fie luate în considerare în mod deosebit interesele IMM-urilor, inclusiv ale întreprinderilor nou-înființate care sunt furnizori și implementatori de sisteme de IA. În acest scop, statele membre ar trebui să elaboreze inițiative care să vizeze operatorii respectivi, inclusiv în ceea ce privește sensibilizarea și comunicarea informațiilor. Statele membre ar trebui să ofere IMM-urilor, inclusiv întreprinderilor nou-înființate, care au un sediu social sau o sucursală în Uniune, acces prioritar la spațiile de testare în materie de reglementare în domeniul IA, cu condiția ca acestea să îndeplinească condițiile de eligibilitate și criteriile de selecție și fără a împiedica alți furnizori și potențiali furnizori să acceseze spațiile de testare, cu condiția să fie îndeplinite aceleași condiții și criterii. Statele membre ar trebui să utilizeze canalele existente și, după caz, să stabilească noi canale specifice de comunicare cu IMM-urile, inclusiv întreprinderile nou-înființate, implementatorii și alți inovatori și, după caz, cu autoritățile publice locale, pentru a sprijini IMM-urile pe tot parcursul dezvoltării lor, oferind orientări și răspunzând la întrebări cu privire la punerea în aplicare a prezentului regulament. După caz, aceste canale ar trebui să colaboreze pentru a crea sinergii și pentru a asigura omogenitatea orientărilor pe care le furnizează IMM-urilor, inclusiv întreprinderilor nou-înființate, și implementatorilor. În plus, statele membre ar trebui să faciliteze participarea IMM-urilor și a altor părți interesate relevante la procesele de elaborare a standardelor. De asemenea, ar trebui să fie luate în considerare interesele și nevoile specifice ale furnizorilor care sunt IMM-uri, inclusiv întreprinderi nou-înființate, atunci când organismele notificate stabilesc taxe de evaluare a conformității. Comisia ar trebui să evalueze periodic costurile de certificare și de conformitate suportate de IMM-uri, inclusiv de întreprinderile nou-înființate, prin consultări transparente și ar trebui să colaboreze cu statele membre pentru a reduce aceste costuri. De exemplu, costurile de traducere legate de documentația obligatorie și de comunicarea cu autoritățile pot constitui un cost semnificativ pentru furnizori și alți operatori, în special pentru cei de dimensiuni mai mici. Statele membre ar trebui, eventual, să se asigure că una dintre limbile stabilite și acceptate pentru documentația relevantă din partea furnizorilor și pentru comunicarea cu operatorii este o limbă înțeleasă pe larg de un număr cât mai mare de implementatori transfrontalieri. Pentru a răspunde nevoilor specifice ale IMM-urilor, inclusiv ale întreprinderilor nou-înființate, Comisia ar trebui să furnizeze modele standardizate pentru domeniile vizate de prezentul regulament, la solicitarea Consiliului IA. În plus, Comisia ar trebui să completeze eforturile statelor membre prin furnizarea unei platforme unice de informare cu informații ușor de utilizat în ceea ce privește prezentul regulament destinate tuturor furnizorilor și implementatorilor, prin organizarea unor campanii de comunicare adecvate pentru sensibilizarea cu privire la obligațiile care decurg din prezentul regulament și prin evaluarea și promovarea convergenței bunelor practici în cadrul procedurilor de achiziții publice în ceea ce privește sistemele de IA. Întreprinderile mijlocii care până recent se încadrau în categoria de întreprinderi mici în sensul anexei la Recomandarea 2003/361/CE a Comisiei (44) ar trebui să aibă acces la măsurile de sprijin respective, deoarece este posibil ca aceste noi întreprinderi mijlocii să nu dispună uneori de resursele juridice și formarea necesare pentru a asigura respectarea și înțelegerea adecvată a prezentului regulament.
(144)
Az innováció előmozdítása és védelme érdekében az igényalapú MI-platformnak, valamint a Bizottság és a tagállamok által uniós vagy nemzeti szinten végrehajtott valamennyi vonatkozó uniós finanszírozási programnak és projektnek, így például a Digitális Európa programnak és a Horizont Európa keretprogramnak adott esetben hozzá kell járulnia e rendelet célkitűzéseinek eléréséhez.
(144)
Pentru a promova și a proteja inovarea, platforma de IA la cerere și toate programele și proiectele de finanțare relevante ale Uniunii, cum ar fi programele Europa digitală și Orizont Europa, puse în aplicare de Comisie și de statele membre la nivelul Uniunii sau la nivel național, ar trebui, după caz, să contribuie la îndeplinirea obiectivelor prezentului regulament.
(145)
A piaci ismeretek és szakértelem hiányából eredő végrehajtási kockázatok minimalizálása, valamint annak elősegítése érdekében, hogy a szolgáltatók – különösen a kkv-k, köztük az induló innovatív vállalkozások – és a bejelentett szervezetek teljesítsék az e rendelet szerinti kötelezettségeiket, az igényalapú MI-platformnak, az európai digitális innovációs központoknak, valamint a Bizottság és a tagállamok által uniós vagy nemzeti szinten létrehozott tesztelési és kísérleti létesítményeknek hozzá kell járulniuk e rendelet végrehajtásához. Megbízatásuk és hatáskörük keretein belül az igényalapú MI-platform, az európai digitális innovációs központok, valamint a tesztelési és kísérleti létesítmények különösen technikai és tudományos támogatást nyújthatnak a szolgáltatóknak és a bejelentett szervezeteknek.
(145)
Pentru a reduce la minimum riscurile la adresa punerii în aplicare care decurg din lipsa de cunoaștere și de cunoștințe de specialitate de pe piață, precum și pentru a facilita respectarea de către furnizori, cu precădere de către IMM-uri, inclusiv întreprinderile nou-înființate, precum și de către organismele notificate a obligațiilor care le revin în temeiul prezentului regulament, platforma de IA la cerere, centrele europene de inovare digitală și instalațiile de testare și experimentare instituite de Comisie și de statele membre la nivelul Uniunii sau la nivel național ar trebui să contribuie la punerea în aplicare a prezentului regulament. În cadrul misiunii și domeniilor lor de competență respective, platforma de IA la cerere, centrele europene de inovare digitală și instalațiile de testare și experimentare sunt în măsură să ofere, în special, sprijin tehnic și științific furnizorilor și organismelor notificate.
(146)
Ezenfelül néhány gazdasági szereplő rendkívül kis mérete miatt, valamint az innováció költségeit illető arányosság biztosítása érdekében helyénvaló a mikrovállalkozások számára lehetővé tenni, hogy a legköltségesebb kötelezettségek egyikét – nevezetesen a minőségirányítási rendszer létrehozását – egyszerűsített formában teljesítsék, ami csökkentené az említett vállalkozások adminisztratív terheit és költségeit, anélkül, hogy befolyásolná a védelem szintjét és a nagy kockázatú MI-rendszerekre vonatkozó követelményeknek való megfelelés szükségességét. A Bizottságnak útmutatásokat kell kidolgoznia arra vonatkozóan, hogy a mikrovállalkozások számára a minőségirányítási rendszer mely elemei teljesítendők az említett egyszerűsített formában.
(146)
În plus, având în vedere dimensiunea foarte mică a unor operatori și pentru a asigura proporționalitatea în ceea ce privește costurile inovării, este oportun să se permită microîntreprinderilor să îndeplinească într-o manieră simplificată una dintre obligațiile cele mai costisitoare, și anume aceea de a institui un sistem de management al calității, fapt care ar reduce sarcina administrativă și costurile pentru întreprinderile respective, fără a afecta nivelul de protecție și necesitatea de a respecta cerințele pentru sistemele de IA cu grad ridicat de risc. Comisia ar trebui să elaboreze orientări pentru a specifica elementele sistemului de management al calității care trebuie îndeplinite în această manieră simplificată de către microîntreprinderi.
(147)
Helyénvaló, hogy a Bizottság a lehető legnagyobb mértékben megkönnyítse a tesztelési és kísérleti létesítményekhez való hozzáférést a vonatkozó uniós harmonizációs jogszabályok bármelyike alapján létrehozott vagy akkreditált olyan szervek, csoportok vagy laboratóriumok számára, amelyek az említett uniós harmonizációs jogszabályok hatálya alá tartozó termékek vagy eszközök megfelelőségértékelésével kapcsolatos feladatokat látnak el. Ez különösen igaz az orvostechnikai eszközök területén működő, az (EU) 2017/745 és az (EU) 2017/746 rendelet szerinti szakértői testületekre, szakértői laboratóriumokra és referencialaboratóriumokra.
(147)
Este oportun ca, în măsura posibilului, Comisia să faciliteze accesul la instalațiile de testare și experimentare pentru organismele, grupurile sau laboratoarele înființate sau acreditate în temeiul oricăror acte legislative de armonizare relevante ale Uniunii și care îndeplinesc sarcini în contextul evaluării conformității produselor sau dispozitivelor reglementate de respectivele acte legislative de armonizare ale Uniunii. Acest lucru este valabil în special în ceea ce privește grupurile de experți, laboratoarele de expertiză și laboratoarele de referință în domeniul dispozitivelor medicale în temeiul Regulamentelor (UE) 2017/745 și (UE) 2017/746.
(148)
E rendeletnek olyan irányítási keretet kell létrehoznia, amely lehetővé teszi mind e rendelet alkalmazásának nemzeti szintű koordinálását és támogatását, mind az uniós szintű kapacitásépítést és az AI területén érdekelt felek bevonását. E rendelet hatékony végrehajtásához és érvényesítéséhez olyan irányítási keretre van szükség, amely uniós szinten teszi lehetővé a koordinálást és a központosított szaktudás kiépítését. Az MI-hivatalt bizottsági határozat (45) hozta létre, és a küldetése az, hogy az MI területén fejlessze az uniós szakértelmet és kapacitásokat, valamint hogy hozzájáruljon az MI-re vonatkozó uniós jog végrehajtásához. A tagállamoknak segíteniük kell az MI-hivatalt feladatainak végzésében, hogy ezáltal támogassák az uniós szakértelem fejlesztését és az uniós szintű kapacitásépítést, valamint megerősítsék a digitális egységes piac működését. Továbbá, létre kell hozni a tagállamok képviselőiből álló Testületet: egy olyan tudományos testületet, amely összefogja a tudományos közösséget és egy tanácsadó fórumot annak érdekében, hogy e rendelet végrehajtásához az érdekelt felek észrevételei is hozzájáruljanak – uniós és nemzeti szinten. Az uniós szakértelem és kapacitás fejlesztése keretében fel kell használni a meglévő forrásokat és szakértelmet is, különösen az egyéb jogszabályok uniós szintű érvényesítésének összefüggésében kiépített struktúrákkal való szinergiák, valamint a kapcsolódó uniós szintű kezdeményezésekkel – így például az EuroHPC közös vállalkozással és a Digitális Európa program keretében működő MI-tesztelési és kísérleti létesítményekkel – való szinergiák révén.
(148)
Prezentul regulament ar trebui să instituie un cadru de guvernanță care să permită, pe de o parte, coordonarea și sprijinirea aplicării prezentului regulament la nivel național și, pe de altă parte, consolidarea capabilităților la nivelul Uniunii și integrarea părților interesate în domeniul IA. Punerea în aplicare și respectarea efectivă a prezentului regulament necesită un cadru de guvernanță care să permită coordonarea și consolidarea cunoștințelor de specialitate centrale la nivelul Uniunii. Oficiul pentru IA a fost instituit printr-o decizie a Comisiei (45) și are ca misiune să dezvolte cunoștințele de specialitate și capabilitățile Uniunii în domeniul IA și să contribuie la punerea în aplicare a dreptului Uniunii privind IA. Statele membre ar trebui să faciliteze sarcinile Oficiului pentru IA cu scopul de a sprijini dezvoltarea, la nivelul Uniunii, a cunoștințelor de specialitate și a capabilităților Uniunii și de a consolida funcționarea pieței unice digitale. În plus, ar trebui să fie instituit un Consiliu IA compus din reprezentanți ai statelor membre, un grup științific care să integreze comunitatea științifică și un forum consultativ pentru a furniza contribuții ale părților interesate pentru punerea în aplicare a prezentului regulament, la nivelul Uniunii și la nivel național. Dezvoltarea cunoștințelor de specialitate și a capabilităților Uniunii ar trebui să includă și valorificarea resurselor și cunoștințelor de specialitate existente, în special prin sinergii cu structurile create în contextul aplicării la nivelul Uniunii a altor acte legislative și al sinergiilor cu inițiativele conexe de la nivelul Uniunii, cum ar fi Întreprinderea comună EuroHPC și unitățile de testare și experimentare în domeniul IA din cadrul programului „Europa digitală”.
(149)
E rendelet zökkenőmentes, hatékony és összehangolt végrehajtásának elősegítése érdekében létre kell hozni a Testületet. A Testületnek tükröznie kell az MI-ökoszisztémán belüli különböző érdekeket, és a tagállamok képviselőiből kell állnia. A Testület felelősségi körébe kell utalni számos tanácsadói feladatot, többek között vélemények, ajánlások kiadását, tanácsadást, vagy az e rendelet végrehajtásával kapcsolatos kérdésekkel kapcsolatos iránymutatásokhoz való hozzájárulást, például a rendelet érvényesítésével, az e rendeletben megállapított követelményekre vonatkozó műszaki előírásokkal vagy meglévő szabványokkal kapcsolatban, valamint a Bizottságnak, a tagállamoknak és az illetékes nemzeti hatóságoknak az MI-vel kapcsolatos konkrét kérdésekben nyújtott tanácsadást. Annak érdekében, hogy a tagállamok némi rugalmasságot élvezzenek a Testületben részt vevő képviselőik kijelölését illetően, bármely olyan, közigazgatási szervhez tartozó személy lehet ilyen képviselő, aki rendelkezik a releváns hatáskörökkel és jogkörökkel ahhoz, hogy elősegítse a nemzeti szintű koordinációt, és hozzájáruljon a Testület feladatainak teljesítéséhez. A Testületen belül létre kell hozni két állandó alcsoportot, amelyek platformot biztosítanak a piacfelügyeleti hatóságok és a bejelentő hatóságok közötti együttműködéshez és eszmecseréhez a piacfelügyelettel, illetve a bejelentett szervezetekkel kapcsolatos kérdésekben. A piacfelügyelettel foglalkozó állandó alcsoportnak e rendelet tekintetében az (EU) 2019/1020 rendelet 30. cikke értelmében vett igazgatási együttműködési csoportként kell eljárnia. A Bizottságnak az említett rendelet 33. cikkével összhangban piacelemzések vagy tanulmányok készítése révén támogatnia kell a piacfelügyelettel foglalkozó állandó alcsoport tevékenységeit, különösen e rendelet azon aspektusainak azonosítása céljából, amelyek a piacfelügyeleti hatóságok közötti konkrét és sürgős koordinációt igényelnek. A Testület adott esetben, konkrét kérdések megvizsgálása céljából újabb állandó vagy ideiglenes alcsoportokat hozhat létre. A Testületnek adott esetben együtt kell működnie a releváns uniós joggal összefüggésben tevékenykedő releváns uniós szervekkel, szakértői csoportokkal és hálózatokkal is, különösen azokkal, amelyek az adatokra, valamint a digitális termékekre és szolgáltatásokra vonatkozó releváns uniós jog alapján tevékenykednek.
(149)
Pentru a facilita o punere în aplicare armonioasă, efectivă și armonizată a prezentului regulament, ar trebui să fie instituit un Consiliu IA. Consiliul IA ar trebui să reflecte diferitele interese ale ecosistemului de IA și să fie alcătuit din reprezentanți ai statelor membre. Consiliul IA ar trebui să fie responsabil pentru o serie de sarcini consultative, inclusiv emiterea de avize, recomandări, consiliere sau furnizarea unor contribuții sub formă de orientări cu privire la aspecte legate de punerea în aplicare a prezentului regulament, inclusiv cu privire la aspecte de aplicare a legii, la specificații tehnice sau la standarde existente în ceea ce privește cerințele stabilite în prezentul regulament, precum și furnizarea de consiliere Comisiei și statelor lor membre și autorităților naționale competente ale acestora cu privire la chestiuni specifice legate de IA. Pentru a oferi o anumită flexibilitate statelor membre în ceea ce privește desemnarea reprezentanților lor în cadrul Consiliului IA, astfel de reprezentanți pot fi persoane care aparțin unor entități publice care ar trebui să aibă competențele și prerogativele relevante pentru a facilita coordonarea la nivel național și pentru a contribui la îndeplinirea sarcinilor Consiliului IA. Consiliul IA ar trebui să instituie două subgrupuri permanente pentru a oferi o platformă de cooperare și de schimb între autoritățile de supraveghere a pieței și autoritățile de notificare cu privire la aspecte legate de supravegherea pieței și, respectiv, de organismele notificate. Subgrupul permanent pentru supravegherea pieței ar trebui să acționeze în calitate de grup de cooperare administrativă (ADCO) pentru prezentul regulament în sensul articolului 30 din Regulamentul (UE) 2019/1020. În conformitate cu articolul 33 din regulamentul respectiv, Comisia ar trebui să sprijine activitățile subgrupului permanent pentru supravegherea pieței prin efectuarea de evaluări sau studii de piață, în special în vederea identificării aspectelor prezentului regulament care necesită o coordonare specifică și urgentă între autoritățile de supraveghere a pieței. Consiliul IA poate înființa alte subgrupuri permanente sau temporare, după caz, în scopul examinării unor chestiuni specifice. Consiliul IA ar trebui, de asemenea, să coopereze, după caz, cu organismele, grupurile de experți și rețelele relevante ale Uniunii care își desfășoară activitatea în contextul reglementărilor relevante ale dreptului Uniunii, inclusiv, în special, cu cele care își desfășoară activitatea în temeiul reglementărilor relevante ale dreptului Uniunii privind datele, produsele și serviciile digitale.
(150)
Az érintett érdekelt felek e rendelet végrehajtásába és alkalmazásába történő bevonásának biztosítása érdekében tanácsadó fórumot kell létrehozni, amelynek feladata a Testület és a Bizottság tanácsadással és műszaki szakismeretekkel való támogatása. Az érdekelt felek széles körű és a kiegyensúlyozott képviseletének biztosítása érdekében – a kereskedelmi és nem kereskedelmi érdekek, valamint a kereskedelmi érdekek kategóriáján belül a kkv-k és más vállalkozások tekintetében – a tanácsadó fórumnak fel kell ölelnie többek között az ipart, az induló innovatív vállalkozásokat, a kkv-kat, a tudományos köröket, a civil társadalmat – azon belül a szociális partnereket –, valamint az Európai Unió Alapjogi Ügynökségét, az ENISA-t, az Európai Szabványügyi Bizottságot (CEN), az Európai Elektrotechnikai Szabványügyi Bizottságot (CENELEC) és az Európai Távközlési Szabványügyi Intézetet (ETSI).
(150)
Pentru a asigura implicarea părților interesate în punerea în aplicare și aplicarea prezentului regulament, ar trebui să fie instituit un forum consultativ care să furnizeze Consiliului IA și Comisiei consiliere și cunoștințe de specialitate tehnice. Pentru a asigura o reprezentare a părților interesate variată și echilibrată între interesele comerciale și cele necomerciale și, în cadrul categoriei intereselor comerciale, în ceea ce privește IMM-urile și alte întreprinderi, forumul consultativ ar trebui să cuprindă, printre altele, industria, întreprinderile nou-înființate, IMM-urile, mediul academic, societatea civilă, inclusiv partenerii sociali, precum și Agenția pentru Drepturi Fundamentale, ENISA, Comitetul European de Standardizare (CEN), Comitetul European de Standardizare în Electrotehnică (CENELEC) și Institutul European de Standardizare în Telecomunicații (ETSI).
(151)
E rendelet végrehajtásának és érvényesítésének érdekében – különösen az MI-hivatalnak az általános célú MI-modellekkel kapcsolatos tevékenységeit illetően – létre kell hozni egy független szakértőkből álló tudományos testületet. A tudományos testület alkotó független szakértőket az MI területére vonatkozó naprakész tudományos vagy műszaki szakértelmük alapján kell kiválasztani, és a szakértőknek a feladataikat pártatlanul és objektíven kell végezniük, továbbá biztosítaniuk kell a feladataik és tevékenységeik végzése során szerzett információk és adatok titkosságát. Az e rendelet hatékony végrehajtásához szükséges nemzeti kapacitások megerősítése érdekében a tagállamok számára lehetővé kell tenni, hogy végrehajtási tevékenységeikhez a tudományos testület alkotó szakértők állományának támogatását igényeljék.
(151)
Pentru a sprijini punerea în aplicare și respectarea prezentului regulament, în special activitățile de monitorizare ale Oficiului pentru IA în ceea ce privește modelele de IA de uz general, ar trebui să fie instituit un grup științific de experți independenți. Experții independenți din alcătuirea grupului științific ar trebui să fie selectați pe baza cunoștințelor de specialitate științifice sau tehnice actualizate în domeniul IA și ar trebui să își îndeplinească sarcinile cu imparțialitate și obiectivitate și să asigure confidențialitatea informațiilor și a datelor obținute în îndeplinirea sarcinilor și activităților lor. Pentru a permite consolidarea capacităților naționale necesare pentru aplicarea efectivă a prezentului regulament, statele membre ar trebui să poată solicita sprijin echipei de experți care formează grupul științific pentru activitățile lor de aplicare a legii.
(152)
A megfelelő végrehajtásnak és a tagállamok MI-rendszerekre vonatkozó kapacitásainak a támogatása érdekében uniós MI-tesztelési támogató struktúrákat kell kialakítani és a tagállamok rendelkezésére bocsátani.
(152)
Pentru a sprijini o aplicare adecvată a normelor în ceea ce privește sistemele de IA și pentru a consolida capacitățile statelor membre, ar trebui să fie instituite și puse la dispoziția statelor membre structuri ale Uniunii de sprijin pentru testarea IA.
(153)
A tagállamok kulcsszerepet játszanak e rendelet alkalmazásában és érvényesítésében. E tekintetben minden tagállamnak ki kell jelölnie legalább egy bejelentő hatóságot és legalább egy piacfelügyeleti hatóságot mint az e rendelet alkalmazásának és végrehajtásának felügyelete céljából illetékes nemzeti hatóságot. A tagállamok dönthetnek úgy, hogy – sajátos nemzeti szervezeti jellemzőikkel és szükségleteikkel összhangban – bármilyen állami szervet jelölnek ki az e rendelet értelmében vett illetékes nemzeti hatóságok feladatainak ellátására. A tagállamok oldalán a szervezeti hatékonyság növelése, valamint annak érdekében, hogy egyedüli kapcsolattartó pontot határozzanak meg a nyilvánosság és egyéb, tagállami és uniós szintű partnerek felé, minden tagállamnak ki kell jelölnie egy piacfelügyeleti hatóságot, hogy egyedüli kapcsolattartó pontként járjon el.
(153)
Statele membre joacă un rol esențial în aplicarea și respectarea prezentului regulament. În acest sens, fiecare stat membru ar trebui să desemneze cel puțin o autoritate de notificare și cel puțin o autoritate de supraveghere a pieței în calitatea de autorități naționale competente în scopul supravegherii aplicării și punerii în aplicare a prezentului regulament. Statele membre pot decide să numească orice tip de entitate publică pentru a îndeplini sarcinile autorităților naționale competente în sensul prezentului regulament, în conformitate cu caracteristicile și nevoile organizaționale naționale specifice ale acestora. Pentru a spori eficiența organizațională din partea statelor membre și pentru a stabili un punct unic de contact cu publicul și cu alți omologi la nivelul statelor membre și al Uniunii, fiecare stat membru ar trebui să desemneze o autoritate de supraveghere a pieței care să acționeze ca punct unic de contact.
(154)
Az illetékes nemzeti hatóságoknak a jogköreiket függetlenül, pártatlanul és elfogulatlanul kell gyakorolniuk, hogy ezáltal megőrizzék tevékenységeik és feladataik objektivitását, valamint biztosítsák e rendelet alkalmazását és végrehajtását. E hatóságok tagjainak tartózkodniuk kell minden, a hatáskörükkel összeférhetetlen fellépéstől, és be kell tartaniuk az e rendelet szerinti titoktartási szabályokat.
(154)
Autoritățile naționale competente ar trebui să își exercite competențele în mod independent, imparțial și fără prejudecăți, garantând principiile obiectivității activităților și sarcinilor lor și asigurând aplicarea și punerea în aplicare a prezentului regulament. Membrii acestor autorități ar trebui să se abțină de la orice act incompatibil cu natura funcțiilor lor și ar trebui să facă obiectul normelor de confidențialitate în temeiul prezentului regulament.
(155)
Annak biztosítása érdekében, hogy a nagy kockázatú MI-rendszerek szolgáltatói figyelembe tudják venni a nagy kockázatú MI-rendszerek használatával kapcsolatos tapasztalatokat rendszereik továbbfejlesztése, valamint a tervezési és fejlesztési folyamat során, vagy időben meg tudják hozni az esetlegesen szükséges korrekciós intézkedéseket, valamennyi szolgáltatónak rendelkeznie kell egy forgalomba hozatal utáni nyomonkövetési rendszerrel. Adott esetben a forgalomba hozatal utáni nyomon követésnek magában kell foglalnia az egyéb MI-rendszerekkel, többek között más eszközökkel és szoftverekkel való kölcsönhatás elemzését. A forgalomba hozatal utáni nyomon követés nem terjedhet ki a bűnüldöző hatóságnak minősülő alkalmazók érzékeny operatív adataira. E rendszer annak biztosítása szempontjából is kulcsfontosságú, hogy hatékonyabban és időben lehessen kezelni az olyan MI-rendszerekből eredő lehetséges kockázatokat, amelyek a forgalomba hozatalt vagy az üzembe helyezést követően továbbra is „tanulnak”. Ezzel összefüggésben a szolgáltatók számára elő kell írni továbbá, hogy rendelkezzenek olyan rendszerrel, amely révén bejelentik az érintett hatóságoknak az MI-rendszereik használatának eredményeként bekövetkező súlyos váratlan eseményeket, nevezetesen a halálhoz vagy súlyos egészségkárosodáshoz vezető váratlan esemény vagy hibás működést, a kritikus infrastruktúra irányításának és üzemeltetésének súlyos és visszafordíthatatlan zavarát, az alapvető jogok védelmére irányuló, uniós jog szerinti kötelezettségek megsértését, illetve a súlyos vagyoni kárt vagy súlyos környezetkárosítást.
(155)
Pentru a se asigura că furnizorii de sisteme de IA cu grad ridicat de risc pot ține seama de experiența privind utilizarea sistemelor de IA cu grad ridicat de risc pentru îmbunătățirea sistemelor lor și a procesului de proiectare și dezvoltare sau că pot lua orice măsură corectivă posibilă în timp util, toți furnizorii ar trebui să dispună de un sistem de monitorizare ulterioară introducerii pe piață. După caz, monitorizarea ulterioară introducerii pe piață ar trebui să includă o analiză a interacțiunii cu alte sisteme de IA, inclusiv cu alte dispozitive și alt software. Monitorizarea ulterioară introducerii pe piață nu ar trebui să vizeze datele operaționale sensibile ale implementatorilor care sunt autorități de aplicare a legii. Acest sistem este, de asemenea, esențial pentru a se asigura că posibilele riscuri care decurg din sistemele de IA care continuă să „învețe” după ce au fost introduse pe piață sau puse în funcțiune pot fi abordate într-un mod mai eficient și în timp util. În acest context, furnizorii ar trebui, de asemenea, să aibă obligația de a dispune de un sistem pentru a raporta autorităților relevante orice incident grav care decurge din utilizarea sistemelor lor de IA, și anume un incident sau o funcționare defectuoasă care duce la deces sau la daune grave pentru sănătate, la perturbări grave și ireversibile ale gestionării și funcționării infrastructurii critice, la încălcări ale obligațiilor în temeiul dreptului Uniunii menite să protejeze drepturile fundamentale sau la daune grave aduse bunurilor materiale sau mediului.
(156)
Az ezen – uniós harmonizációs jogszabálynak minősülő – rendeletben meghatározott követelmények és kötelezettségek megfelelő és hatékony végrehajtásának biztosítása érdekében az (EU) 2019/1020 rendelettel létrehozott piacfelügyeleti és termékmegfelelőségi rendszert teljes egészében alkalmazni kell. Az e rendelet alapján kijelölt piacfelügyeleti hatóságoknak rendelkezniük kell az e rendeletben és az (EU) 2019/1020 rendeletben meghatározott valamennyi végrehajtási hatáskörrel, és a feladataikat függetlenül, pártatlanul és elfogulatlanul kell végezniük. Bár az MI-rendszerek többsége e rendelet alapján nem tartozik egyedi követelmények és kötelezettségek hatálya alá, a piacfelügyeleti hatóságok intézkedéseket hozhatnak valamennyi MI-rendszer tekintetében, amennyiben azok e rendelet értelmében kockázatot jelentenek. Az e rendelet hatálya alá tartozó uniós intézmények, ügynökségek és szervek sajátos jellege miatt helyénvaló az európai adatvédelmi biztost kijelölni az esetükben illetékes piacfelügyeleti hatóságként. Ez nem érintheti az illetékes nemzeti hatóságok tagállamok általi kijelölését. A piacfelügyeleti tevékenységek nem érinthetik a felügyelt szervezetek azon képességét, hogy feladataikat függetlenül végezzék, amennyiben az ilyen függetlenséget az uniós jog előírja.
(156)
Pentru a se asigura respectarea adecvată și efectivă a cerințelor și a obligațiilor prevăzute în prezentul regulament, și anume în legislația de armonizare a Uniunii, ar trebui să se aplice sistemul de supraveghere a pieței și de conformitate a produselor în ansamblul său, astfel cum a fost instituit prin Regulamentul (UE) 2019/1020. Autoritățile de supraveghere a pieței desemnate în temeiul prezentului regulament ar trebui să dispună de toate competențele de aplicare a dispozițiilor stabilite în prezentul regulament și în Regulamentul (UE) 2019/1020 și ar trebui să își exercite competențele și să își îndeplinească atribuțiile în mod independent, imparțial și fără prejudecăți. Deși majoritatea sistemelor de IA nu fac obiectul unor cerințe și obligații specifice în temeiul prezentului regulament, autoritățile de supraveghere a pieței pot lua măsuri în legătură cu toate sistemele de IA atunci când acestea prezintă un risc în conformitate cu prezentul regulament. Având în vedere natura specifică a instituțiilor, agențiilor și organelor Uniunii care intră în domeniul de aplicare al prezentului regulament, este oportun ca Autoritatea Europeană pentru Protecția Datelor să fie desemnată drept autoritate competentă de supraveghere a pieței pentru acestea. Acest lucru nu ar trebui să aducă atingere desemnării autorităților naționale competente de către statele membre. Activitățile de supraveghere a pieței nu ar trebui să afecteze capacitatea entităților supravegheate de a-și îndeplini sarcinile în mod independent, atunci când independența lor este impusă de dreptul Uniunii.
(157)
E rendelet nem érinti az alapvető jogok védelmére vonatkozó uniós jog alkalmazását felügyelő érintett nemzeti hatóságok és közigazgatási szervek – köztük az egyenlőség előmozdításával foglalkozó szervek és az adatvédelmi hatóságok – hatásköreit, feladatait, jogköreit és függetlenségét. Amennyiben a megbízatásuk miatt szükséges, az említett nemzeti hatóságoknak vagy közigazgatási szerveknek hozzáférést kell biztosítani az e rendelet alapján létrehozott dokumentációhoz is. Külön védintézkedési eljárást kell meghatározni az egészségre, a biztonságra és az alapvető jogokra kockázatot jelentő MI-rendszerekkel szembeni megfelelő és időben történő jogérvényesítés biztosítása érdekében. Az ilyen kockázatot jelentő MI-rendszerekre vonatkozó eljárást a kockázatot jelentő nagy kockázatú MI-rendszerekre, az e rendeletben meghatározott tiltott gyakorlatokra vonatkozó előírást megsértve forgalomba hozott, üzembe helyezett vagy használt tiltott rendszerekre, valamint az e rendeletben meghatározott átláthatósági követelmények megsértésével rendelkezésre bocsátott, és kockázatot jelentő MI-rendszerekre kell alkalmazni.
(157)
Prezentul regulament nu aduce atingere competențelor, sarcinilor, prerogativelor și independenței autorităților sau organismelor publice naționale relevante care supraveghează aplicarea dreptului Uniunii care protejează drepturile fundamentale, inclusiv ale organismelor de promovare a egalității și ale autorităților de protecție a datelor. În cazul în care acest lucru este necesar pentru îndeplinirea mandatului lor, autoritățile sau organismele publice naționale respective ar trebui să aibă, de asemenea, acces la orice documentație creată în temeiul prezentului regulament. Ar trebui să fie stabilită o procedură de salvgardare specifică pentru a se asigura respectarea dispozițiilor în domeniul IA, în mod adecvat și în timp util, în privința sistemelor de IA care prezintă un risc pentru sănătate, siguranță și drepturile fundamentale. Procedura pentru astfel de sisteme de IA care prezintă un risc ar trebui să se aplice sistemelor de IA cu grad ridicat de risc care prezintă un risc, sistemelor interzise care au fost introduse pe piață, puse în funcțiune sau utilizate cu încălcarea interdicției anumitor practici prevăzută în prezentul regulament, precum și sistemelor de IA care au fost puse la dispoziție cu încălcarea cerințelor de transparență prevăzute în prezentul regulament și care prezintă un risc.
(158)
A pénzügyi szolgáltatásokra vonatkozó uniós jog magában foglal olyan belső irányítási és kockázatkezelési szabályokat és követelményeket, amelyek a szabályozott pénzügyi intézményekre alkalmazandók az említett szolgáltatások nyújtása során, többek között akkor is, ha MI-rendszereket vesznek igénybe. Az e rendelet szerinti kötelezettségek és a pénzügyi szolgáltatásokra vonatkozó uniós jogszabályok releváns szabályai és követelményei koherens alkalmazásának és érvényesítésének biztosítása érdekében az említett jogszabályok felügyeletéért és végrehajtásáért felelős illetékes hatóságokat, különösen az 575/2013/EU európai parlamenti és tanácsi rendelet (46), valamint a 2008/48/EK (47), a 2009/138/EK (48), a 2013/36/EU (49), a 2014/17/EU (50) és az (EU) 2016/97 (51) európai parlamenti és tanácsi irányelvben meghatározott illetékes hatóságokat – a saját hatáskörük keretein belül – illetékes hatóságként kell kijelölni e rendelet végrehajtásának felügyelete céljából, ideértve a piacfelügyeleti tevékenységeket is, a szabályozott és felügyelt pénzügyi intézmények által biztosított vagy használt MI-rendszerek tekintetében, kivéve, ha a tagállamok úgy döntenek, hogy ezen piacfelügyeleti feladatok ellátására egy másik hatóságot jelölnek ki. Az említett illetékes hatóságoknak rendelkezniük kell az e rendelet és az (EU) 2019/1020 rendelet szerinti valamennyi hatáskörrel az e rendeletben foglalt követelmények és kötelezettségek érvényesítése érdekében, ideértve az olyan utólagos piacfelügyeleti tevékenységek végzésére vonatkozó hatáskört is, amelyek adott esetben integrálhatók a pénzügyi szolgáltatásokra vonatkozó releváns uniós jog szerinti meglévő felügyeleti mechanizmusaikba és eljárásaikba. Helyénvaló előírni, hogy az 1024/2013/EU tanácsi rendelettel (52) létrehozott egységes felügyeleti mechanizmusban részt vevő, a 2013/36/EU irányelv alapján szabályozott hitelintézetek felügyeletéért felelős nemzeti hatóságoknak – amikor az e rendelet szerinti piacfelügyeleti hatóságokként járnak el – haladéktalanul be kell jelenteniük az Európai Központi Banknak a piacfelügyeleti tevékenységeik során azonosított minden olyan információt, amely az Európai Központi Banknak az említett rendeletben meghatározott prudenciális felügyeleti feladatai szempontjából potenciális jelentőséggel bírhat. A 2013/36/EU irányelv szerint szabályozott hitelintézetekre alkalmazandó szabályok és az e rendelet közötti összhang további növelése érdekében helyénvaló a szolgáltatók kockázatkezeléssel, forgalomba hozatal utáni nyomon követéssel és dokumentációval kapcsolatos egyes eljárási kötelezettségeit belefoglalni a 2013/36/EU irányelv szerinti meglévő kötelezettségekbe és eljárásokba. Az átfedések elkerülése érdekében korlátozott eltéréseket kell előirányozni a szolgáltatók minőségirányítási rendszerével és a nagy kockázatú MI-rendszerek alkalmazóira rótt nyomonkövetési kötelezettséggel kapcsolatban is, amennyiben ezeket a 2013/36/EU irányelv által szabályozott hitelintézetekre alkalmazni kell. A pénzügyi ágazaton belüli következetesség és egyenlő bánásmód biztosítása érdekében ugyanezt a rendszert kell alkalmazni a 2009/138/EK irányelv szerinti biztosítókra és viszontbiztosítókra és biztosítói holdingtársaságokra is, valamint az (EU) 2016/97 irányelv szerinti biztosításközvetítőkre és a pénzügyi intézmények egyéb olyan típusaira, amelyekre a pénzügyi szolgáltatásokra vonatkozó uniós jog alapján létrehozott, a belső irányításra, rendszerekre vagy eljárásokra vonatkozó követelmények vonatkoznak.
(158)
Dreptul Uniunii privind serviciile financiare include norme și cerințe privind guvernanța internă și gestionarea riscurilor care sunt aplicabile instituțiilor financiare reglementate în cursul furnizării acestor servicii, inclusiv atunci când acestea utilizează sisteme de IA. Pentru a asigura, în mod coerent, aplicarea și respectarea obligațiilor prevăzute în prezentul regulament și a normelor și cerințelor relevante ale actelor juridice ale Uniunii în domeniul serviciilor financiare, autoritățile competente responsabile cu supravegherea și aplicarea actelor juridice respective, în special autoritățile competente, astfel cum sunt definite în Regulamentul (UE) nr. 575/2013 al Parlamentului European și al Consiliului (46) și în Directivele 2008/48/CE (47), 2009/138/CE (48), 2013/36/UE (49), 2014/17/UE (50) și (UE) 2016/97 (51) ale Parlamentului European și ale Consiliului, ar trebui să fie desemnate, în limitele competențelor lor respective, drept autorități competente în scopul supravegherii punerii în aplicare a prezentului regulament, inclusiv pentru activitățile de supraveghere a pieței, în ceea ce privește sistemele de IA furnizate sau utilizate de instituțiile financiare reglementate și supravegheate, cu excepția cazului în care statele membre decid să desemneze o altă autoritate pentru a îndeplini aceste sarcini de supraveghere a pieței. Autoritățile competente respective ar trebui să dețină toate competențele în temeiul prezentului regulament și al Regulamentului (UE) 2019/1020 pentru a asigura respectarea cerințelor și a obligațiilor prevăzute în prezentul regulament, inclusiv competențele de a desfășura activități ex post de supraveghere a pieței care pot fi integrate, după caz, în mecanismele și procedurile lor de supraveghere existente în temeiul dispozițiilor relevante ale dreptului Uniunii din domeniul serviciilor financiare. Este oportun să se considere că, atunci când acționează în calitate de autorități de supraveghere a pieței în temeiul prezentului regulament, autoritățile naționale responsabile de supravegherea instituțiilor de credit reglementate în temeiul Directivei 2013/36/UE, care participă la mecanismul unic de supraveghere instituit prin Regulamentul (UE) nr. 1024/2013 al Consiliului (52), ar trebui să raporteze fără întârziere Băncii Centrale Europene orice informații identificate în cursul activităților lor de supraveghere a pieței care ar putea prezenta un interes pentru sarcinile de supraveghere prudențială ale Băncii Centrale Europene, astfel cum se specifică în regulamentul respectiv. Pentru a spori și mai mult coerența dintre prezentul regulament și normele aplicabile instituțiilor de credit reglementate în temeiul Directivei 2013/36/UE, este, de asemenea, oportun să se integreze unele dintre obligațiile procedurale ale furnizorilor în ceea ce privește gestionarea riscurilor, monitorizarea ulterioară introducerii pe piață și documentația în obligațiile și procedurile existente în temeiul Directivei 2013/36/UE. Pentru a evita suprapunerile, ar trebui să fie avute în vedere derogări limitate și în ceea ce privește sistemul de management al calității al furnizorilor și obligația de monitorizare impusă implementatorilor de sisteme de IA cu grad ridicat de risc, în măsura în care acestea se aplică instituțiilor de credit reglementate de Directiva 2013/36/UE. Același regim ar trebui să se aplice întreprinderilor de asigurare și reasigurare și holdingurilor de asigurare în temeiul Directivei 2009/138/CE, intermediarilor de asigurări în temeiul Directivei (UE) 2016/97, precum și altor tipuri de instituții financiare care fac obiectul cerințelor privind guvernanța internă, măsurile sau procesele interne instituite în temeiul dispozițiilor relevante ale dreptului Uniunii din domeniul serviciilor financiare pentru a asigura coerența și egalitatea de tratament în sectorul financiar.
(159)
Valamennyi, a biometria terén alkalmazott nagy kockázatú MI-rendszerekért felelős piacfelügyeleti hatóságnak – az e rendelet egyik mellékletében foglalt felsorolás szerint, amennyiben az említett rendszerek használata a következő területek céljait szolgálja: bűnüldözés, migráció, menekültügy és határellenőrzés, illetve az igazságszolgáltatás és a demokratikus folyamatok – hatékony vizsgálati és korrekciós hatáskörökkel kell rendelkeznie, amelyek magukban foglalják legalább azt, hogy a felügyeleti hatóság hozzáférjen valamennyi kezelt személyes adathoz és a feladatainak teljesítéséhez szükséges valamennyi információhoz. A piacfelügyeleti hatóságoknak képesnek kell lenniük hatásköreik teljes függetlenséggel történő gyakorlására. Az érzékeny operatív adatokhoz való, e rendelet szerinti hozzáférésük semmilyen korlátozása nem érintheti az (EU) 2016/680 irányelv által rájuk ruházott hatásköröket. Az adatoknak az e rendelet szerinti, a nemzeti adatvédelmi hatóságokkal való közlésére vonatkozó kizárás nem érintheti e hatóságok jelenlegi vagy jövőbeli, e rendelet hatályán kívül eső hatásköreit.
(159)
Fiecare autoritate de supraveghere a pieței pentru sistemele de IA cu grad ridicat de risc din domeniul biometriei, astfel cum sunt enumerate într-o anexă la prezentul regulament, în măsura în care sistemele respective sunt utilizate în scopul aplicării legii, al migrației, al azilului și al gestionării controlului la frontiere sau al administrării justiției și al proceselor democratice, ar trebui să aibă competențe de investigare și corective efective, inclusiv cel puțin competența de a obține acces la toate datele cu caracter personal care sunt prelucrate și la toate informațiile necesare pentru îndeplinirea sarcinilor sale. Autoritățile de supraveghere a pieței ar trebui să își poată exercita competențele acționând cu deplină independență. Nicio limitare a accesului acestora la date operaționale sensibile în temeiul prezentului regulament nu ar trebui să aducă atingere competențelor care le sunt conferite prin Directiva (UE) 2016/680. Nicio excludere în ceea ce privește divulgarea de date către autoritățile naționale de protecție a datelor în temeiul prezentului regulament nu ar trebui să afecteze competențele actuale sau viitoare ale autorităților respective în afara domeniului de aplicare al prezentului regulament.
(160)
A piacfelügyeleti hatóságok és a Bizottság számára lehetővé kell tenni, hogy javaslatot tegyenek olyan, a piacfelügyeleti hatóságok által önállóan vagy a Bizottsággal közösen végzendő közös tevékenységekre, például közös vizsgálatokra, amelyek célja – e rendelet vonatkozásában – a megfelelés előmozdítása, a meg nem felelés feltárása, a figyelemfelhívás és az iránymutatás a nagy kockázatú MI-rendszerek azon konkrét kategóriáira tekintettel, amelyekről bebizonyosodik, hogy két vagy több tagállamban jelentenek súlyos kockázatot. A megfelelés előmozdítását célzó közös tevékenységeket az (EU) 2019/1020 rendelet 9. cikkével összhangban kell megvalósítani. Az MI-hivatalnak a közös vizsgálatokhoz koordinációs támogatást kell nyújtania.
(160)
Autoritățile de supraveghere a pieței și Comisia ar trebui să poată propune activități comune, inclusiv investigații comune, care să fie efectuate de autoritățile de supraveghere a pieței sau de autoritățile de supraveghere a pieței în colaborare cu Comisia și care au scopul de a promova conformitatea, de a identifica cazurile de neconformitate, de a sensibiliza și de a oferi orientări în legătură cu prezentul regulament în ceea ce privește anumite categorii de sisteme de IA cu grad ridicat de risc despre care se constată că prezintă un risc grav în două sau mai multe state membre. Activitățile comune de promovare a conformității ar trebui desfășurate în conformitate cu articolul 9 din Regulamentul (UE) 2019/1020. Oficiul pentru IA ar trebui să ofere sprijin sub formă de coordonare pentru investigațiile comune.
(161)
Egyértelművé kell tenni az általános célú MI-modellekre épülő MI-rendszerekkel kapcsolatos uniós és nemzeti szintű feladat- és hatásköröket. A hatáskörök közötti átfedések elkerülése érdekében, amennyiben valamely MI-rendszer általános célú MI-modellre épül és mind a rendszert, mind a modellt ugyanazon szolgáltató biztosítja, a felügyeletet uniós szinten, az MI-hivatalon keresztül kell végezni: ebben az esetben az említett hivatalnak kell gyakorolnia az (EU) 2019/1020 rendelet értelmében vett piacfelügyeleti hatóság hatásköreit. Az MI-rendszerek felügyeletéért minden egyéb esetben továbbra is a nemzeti piacfelügyeleti hatóságok felelősek. Ahhoz azonban, hogy az alkalmazók az általános célú MI-rendszereket közvetlenül használhassák legalább egy, nagy kockázatúnak minősített célra, a piacfelügyeleti hatóságoknak együtt kell működniük az MI-hivatallal a megfelelőségi értékelések elvégzésében, valamint ennek megfelelően tájékoztatniuk kell a Testületet és a többi piacfelügyeleti hatóságot. Továbbá, a piacfelügyeleti hatóságok számára lehetővé kell tenni, hogy az MI-hivatal segítségét kérjék, amennyiben valamely nagy kockázatú MI-rendszer vizsgálatát nem tudják lezárni amiatt, hogy nem férnek hozzá bizonyos, a nagy kockázatú MI-rendszer alapját képező általános célú MI-modellel kapcsolatos információkhoz. Ilyen esetekben az (EU) 2019/1020 rendelet VI. fejezetében foglalt, a határokon átnyúló kölcsönös segítségnyújtásra vonatkozó eljárást kell értelemszerűen alkalmazni.
(161)
Este necesar să se clarifice responsabilitățile și competențele la nivelul Uniunii și la nivel național în ceea ce privește sistemele de IA care au la bază modele de IA de uz general. Pentru a evita suprapunerea competențelor, în cazul în care un sistem de IA se bazează pe un model de IA de uz general, iar modelul și sistemul sunt furnizate de același furnizor, supravegherea ar trebui să aibă loc la nivelul Uniunii prin intermediul Oficiului pentru IA, care, în acest scop, ar trebui să dețină competențele unei autorități de supraveghere a pieței în sensul Regulamentului (UE) 2019/1020. În toate celelalte cazuri, responsabilitatea privind supravegherea sistemelor de IA rămâne în sarcina autorităților naționale de supraveghere a pieței. Cu toate acestea, pentru sistemele de IA de uz general care pot fi utilizate direct de către implementatori pentru cel puțin un scop clasificat ca prezentând un grad ridicat de risc, autoritățile de supraveghere a pieței ar trebui să coopereze cu Oficiul pentru IA pentru a efectua evaluări ale conformității și să informeze în consecință Consiliul IA și alte autorități de supraveghere a pieței. În plus, autoritățile de supraveghere a pieței ar trebui să poată solicita asistență din partea Oficiului pentru IA în cazul în care autoritatea de supraveghere a pieței nu este în măsură să finalizeze o investigație cu privire la un sistem de IA cu grad ridicat de risc din cauza incapacității sale de a accesa anumite informații legate de modelul de IA de uz general care stă la baza sistemului de IA cu grad ridicat de risc. În astfel de cazuri, ar trebui să se aplice mutatis mutandis procedura privind asistența reciprocă transfrontalieră din capitolul VI din Regulamentul (UE) 2019/1020.
(162)
Ahhoz, hogy uniós szinten a lehető legjobban ki lehessen használni a központosított uniós szakértelmet és szinergiákat, az általános célú MI-modellek szolgáltatóira vonatkozó kötelezettségekkel kapcsolatos felügyeleti és érvényesítési hatásköröket a Bizottságnak kell gyakorolnia. Az MI-hivatal számára lehetővé kell tenni minden szükséges intézkedés meghozatalát e rendeletnek az általános célú MI-modellek tekintetében történő hatékony végrehajtásának nyomon követése érdekében. Lehetővé kell tenni számára azt is, hogy az általános célú MI-modellek szolgáltatóira vonatkozó szabályok esetleges megsértésének kivizsgálását mind saját kezdeményezésre – nyomonkövetési tevékenységeinek eredményei nyomán –, mind a piacfelügyeleti hatóságok kérésére, az e rendeletben foglalt feltételekkel összhangban elvégezhesse. A hatékony nyomon követés érdekében az MI-hivatalnak biztosítania kell annak lehetőségét, hogy a downstream szolgáltatók panaszt nyújthassanak be az általános célú MI-modellek és -rendszerek szolgáltatóira vonatkozó szabályok esetleges megsértése kapcsán.
(162)
Pentru a utiliza în mod optim cunoștințele de specialitate centralizate ale Uniunii și sinergiile de la nivelul Uniunii, competențele de supraveghere și de executare a obligațiilor care le revin furnizorilor de modele de IA de uz general ar trebui să fie deținute de Comisie. Oficiul pentru IA ar trebui să fie în măsură să întreprindă toate acțiunile necesare pentru a monitoriza punerea în aplicare efectivă a prezentului regulament în ceea ce privește modelele de IA de uz general. Acesta ar trebui să fie în măsură să investigheze posibilele încălcări ale normelor privind furnizorii de modele de IA de uz general, atât din proprie inițiativă, dând curs rezultatelor activităților sale de monitorizare, cât și la cererea autorităților de supraveghere a pieței, în conformitate cu condițiile stabilite în prezentul regulament. Pentru a sprijini desfășurarea în mod eficace de către Oficiul pentru IA a monitorizării, acesta ar trebui să prevadă posibilitatea ca furnizorii din aval să depună plângeri cu privire la posibile încălcări ale normelor privind furnizorii de sisteme și modele de IA de uz general.
(163)
Az általános célú MI-modellek irányítási rendszereinek kiegészítése céljából a tudományos testületnek támogatnia kell az MI-hivatal nyomonkövetési tevékenységeit, és bizonyos esetekben minősített riasztásokat küldhet az MI-hivatal számára, amelyek utókövetési intézkedésekhez – így például vizsgálatokhoz – vezethetnek. Így kell eljárni, amikor a tudományos testület okkal feltételezi, hogy valamely általános célú MI-modell uniós szinten konkrét és azonosítható kockázatot hordoz. Továbbá, így kell eljárni, amikor a tudományos testület okkal feltételezi, hogy valamely általános célú MI-modell megfelel azon kritériumoknak, amelyek a rendszerszintű kockázatot jelentő általános célú MI-modellként való besoroláshoz vezetnének. A tudományos testületnek az említett feladatok ellátásához szükséges információkkal való ellátása érdekében létre kell hozni egy mechanizmust, amelynek révén a tudományos testület felkérheti a Bizottságot, hogy valamely szolgáltatótól dokumentációt vagy információkat kérjen be.
(163)
În vederea completării sistemelor de guvernanță pentru modelele de IA de uz general, grupul științific ar trebui să sprijine activitățile de monitorizare ale Oficiului pentru IA și poate, în anumite cazuri, să furnizeze Oficiului pentru IA alerte calificate care declanșează acțiuni subsecvente, de exemplu investigații. Acest lucru ar trebui să fie valabil atunci când grupul științific are motive să suspecteze că un model de IA de uz general prezintă un risc concret și identificabil la nivelul Uniunii. În plus, acest lucru ar trebui să fie valabil atunci când grupul științific are motive să suspecteze că un model de IA de uz general îndeplinește criteriile care ar conduce la o clasificare ca model de IA de uz general cu risc sistemic. Pentru ca grupul științific să dispună de informațiile necesare în îndeplinirea sarcinilor respective, ar trebui să existe un mecanism prin care acesta să poată solicita Comisiei să impună furnizorilor să ofere documente sau informații.
(164)
Az MI-hivatal számára lehetővé kell tenni, hogy meghozza azon intézkedéseket, amelyek az általános célú MI-modellek szolgáltatóira vonatkozóan e rendelet által meghatározott kötelezettségek hatékony végrehajtásának és betartásának nyomon követéséhez szükségesek. Az MI-hivatal számára lehetővé kell tenni, hogy az e rendelet által biztosított hatáskörrel összhangban kivizsgálja az esetleges jogsértéseket, többek között azáltal, hogy dokumentációt és információkat kér be, értékeléseket végez, valamint az általános célú MI-modellek szolgáltatóitól intézkedések foganatosítását kéri. Az értékelések végzése során – a független szakértelem bevonása céljából – az MI-hivatal számára lehetővé kell tenni, hogy független szakértőket bízzon meg az értékeléseknek az MI-hivatal nevében való elvégzésével. A kötelezettségeknek való megfelelést többek között a következők révén kell biztosítani: a megfelelő intézkedések meghozatalára való felkérés – ideértve az azonosított rendszerszintű kockázatok esetén hozott kockázatenyhítő intézkedéseket –, valamint a modell forgalmazásának korlátozása, forgalomból való kivonása vagy visszahívása. Amennyiben az e rendelet által előírt eljárási jogokon túlmenően szükséges, az általános célú MI-modellek szolgáltatói biztosíték gyanánt élhetnek az (EU) 2019/1020 rendelet 18. cikkében előírt jogokkal, amelyeket értelemszerűen, az e rendelet által előírt konkrétabb eljárási jogok sérelme nélkül kell alkalmazni.
(164)
Oficiul pentru IA ar trebui să poată lua măsurile necesare pentru a monitoriza punerea în aplicare efectivă și respectarea obligațiilor furnizorilor de modele de IA de uz general prevăzute în prezentul regulament. Oficiul pentru IA ar trebui să fie în măsură să investigheze posibilele încălcări în conformitate cu competențele prevăzute în prezentul regulament, inclusiv prin solicitarea unor documente și informații, prin desfășurarea de evaluări, precum și prin solicitarea luării de măsuri de către furnizorii de modele de IA de uz general. În desfășurarea evaluărilor, pentru a utiliza cunoștințe de specialitate cu caracter independent, Oficiul pentru IA ar trebui să poată implica experți independenți pentru a desfășura evaluările în numele său. Respectarea obligațiilor ar trebui să fie asigurată, printre altele, prin cereri de a lua măsuri adecvate, inclusiv măsuri de atenuare a riscurilor în cazul unor riscuri sistemice identificate, precum și prin restricționarea punerii la dispoziție pe piață, retragerea sau rechemarea modelului. Ca o garanție, în cazul în care aceasta este necesară dincolo de drepturile procedurale prevăzute în prezentul regulament, furnizorii de modele de IA de uz general ar trebui să beneficieze de drepturile procedurale prevăzute la articolul 18 din Regulamentul (UE) 2019/1020, care ar trebui să se aplice mutatis mutandis, fără a aduce atingere drepturilor procedurale mai specifice prevăzute în prezentul regulament.
(165)
A nagy kockázatú MI-rendszerektől eltérő MI-rendszerek e rendelet követelményeivel összhangban történő fejlesztése az etikus és megbízható MI szélesebb körű elterjedéséhez vezethet az Unióban. A nem nagy kockázatú MI-rendszerek szolgáltatóit ösztönözni kell olyan magatartási kódexek létrehozására, ideértve a kapcsolódó irányítási mechanizmusokat is, amelyek célja előmozdítani a nagy kockázatú MI-rendszerekre alkalmazandó kötelező követelmények közül néhány vagy valamennyi önkéntes alkalmazását, az adott rendszerek rendeltetéséhez és alacsonyabb kockázati szintjéhez igazítva, valamint figyelembe véve az olyan, rendelkezésre álló műszaki megoldásokat és iparági legjobb gyakorlatokat, mint például a modell és az adatkártyák. A szolgáltatókat, valamint adott esetben valamennyi – akár nagy, akár nem nagy kockázatú – MI-rendszer és az MI-modellek fejlesztőit ösztönözni kell arra is, hogy önkéntes alapon alkalmazzanak további követelményeket például a következőkkel kapcsolatban: a megbízható mesterséges intelligenciára vonatkozó uniós etikai iránymutatás elemei; környezeti fenntarthatóság; az MI-jártassághoz kapcsolódó intézkedések; inkluzivitás és sokszínűség az MI-rendszerek tervezésében és fejlesztésében – a kiszolgáltatott személyekre és a fogyatékossággal élő személyek számára biztosított akadálymentességre fordított figyelmet is beleértve; az érdekelt feleknek az MI-rendszerek tervezésében és fejlesztésében való részvétele – adott esetben olyan érintett érdekelt felek bevonásával, mint az üzleti és a civil szféra szervezetei, a tudományos körök, a kutatóhelyek, a szakszervezetek és a fogyasztóvédelmi szervezetek –, valamint a fejlesztői csapatoknak a nemek közötti egyensúlyra is kiterjedő sokszínűsége. Hatékonyságuk biztosításának érdekében az önkéntes magatartási kódexeknek egyértelmű célkitűzéseken és az e célkitűzések elérésének mérésére szolgáló fő teljesítménymutatókon kell alapulniuk. Azokat inkluzív módon is kell kialakítani, adott esetben olyan releváns érdekelt felek bevonásával, mint az üzleti és a civil szféra szervezetei, a tudományos körök, a kutatóhelyek, a szakszervezetek és a fogyasztóvédelmi szervezetek. A Bizottság azon technikai akadályok csökkentésének megkönnyítése érdekében, amelyek gátolják a mesterséges intelligencia fejlesztésére irányuló, határokon átnyúló adatcserét, kezdeményezéseket dolgozhat ki – többek között ágazati jellegűeket is – például az adathozzáférési infrastruktúrára, valamint a különböző típusú adatok szemantikai és műszaki interoperabilitására vonatkozóan.
(165)
Dezvoltarea altor sisteme de IA decât cele cu grad ridicat de risc în conformitate cu cerințele prezentului regulament poate duce la o utilizare pe scară mai largă a IA conform unor principii etice și fiabile în Uniune. Furnizorii de sisteme de IA care nu prezintă un grad ridicat de risc ar trebui să fie încurajați să creeze coduri de conduită, inclusiv mecanisme de guvernanță conexe, menite să promoveze aplicarea parțială sau integrală, în mod voluntar, a cerințelor obligatorii aplicabile sistemelor de IA cu grad ridicat de risc, adaptate în funcție de scopul preconizat al sistemelor și de riscul mai scăzut implicat și ținând seama de soluțiile tehnice disponibile și de bunele practici din industrie, cum ar fi modelele și cardurile de date. Furnizorii și, după caz, implementatorii tuturor modelelor de IA și sistemelor de IA cu sau fără grad ridicat de risc ar trebui, de asemenea, să fie încurajați să aplice în mod voluntar cerințe suplimentare legate, de exemplu, de elementele Orientărilor Uniunii în materie de etică pentru o IA fiabilă, de durabilitatea mediului, de măsuri de alfabetizare în domeniul IA, de proiectarea și dezvoltarea sistemelor de IA ținând seama de incluziune și diversitate, inclusiv acordând atenție persoanelor vulnerabile și accesibilității pentru persoanele cu dizabilități, de participarea părților interesate în proiectarea și dezvoltarea sistemelor de IA, cu implicarea, după caz, a părților interesate relevante, cum ar fi întreprinderi și organizații ale societății civile, mediul academic, organizații de cercetare, sindicate și organizații de protecție a consumatorilor, precum și de diversitatea în cadrul echipelor de dezvoltare, inclusiv echilibrul de gen. Pentru a se asigura eficacitatea lor, codurile de conduită voluntare ar trebui să se bazeze pe obiective clare și pe indicatori-cheie de performanță pentru a măsura îndeplinirea obiectivelor respective. Acestea ar trebui, de asemenea, să fie dezvoltate într-un mod incluziv, după caz, cu implicarea părților interesate relevante, cum ar fi întreprinderi și organizații ale societății civile, mediul academic, organizații de cercetare, sindicate și organizații de protecție a consumatorilor. Comisia poate elabora inițiative, inclusiv de natură sectorială, pentru a facilita reducerea barierelor tehnice care împiedică schimbul transfrontalier de date pentru dezvoltarea IA, inclusiv în ceea ce privește infrastructura de acces la date și interoperabilitatea semantică și tehnică a diferitelor tipuri de date.
(166)
Fontos, hogy a forgalomba hozatalkor vagy az üzembe helyezéskor azok a termékekhez kapcsolódó MI-rendszerek is biztonságosak legyenek, amelyek e rendelet értelmében nem nagy kockázatúak, és ezért nem kötelesek megfelelni a nagy kockázatú MI-rendszerekre vonatkozóan meghatározott követelményeknek. E cél elérése érdekében biztonsági hálóként alkalmazni kellene az (EU) 2023/988 európai parlamenti és tanácsi rendeletet (53).
(166)
Este important ca sistemele de IA legate de produse care nu prezintă un risc ridicat în conformitate cu prezentul regulament și care, prin urmare, nu sunt obligate să respecte cerințele prevăzute pentru sistemele de IA cu grad ridicat de risc să fie totuși sigure atunci când sunt introduse pe piață sau puse în funcțiune. Pentru a contribui la acest obiectiv, Regulamentul (UE) 2023/988 al Parlamentului European și a Consiliului (53) ar fi aplicat ca o „plasă de siguranță”.
(167)
Az illetékes hatóságok uniós és nemzeti szinten folytatott megbízható és konstruktív együttműködésének biztosítása érdekében az e rendelet alkalmazásában részt vevő valamennyi félnek tiszteletben kell tartania a feladatai ellátása során megszerzett információk és adatok bizalmas jellegét, az uniós és a nemzeti joggal összhangban. Feladataikat és tevékenységeiket oly módon kell végezniük, hogy védjék különösen a szellemitulajdon-jogokat, a bizalmas üzleti információkat és az üzleti titkokat, e rendelet hatékony végrehajtását, a köz- és nemzetbiztonsági érdekeket, a büntetőjogi és a közigazgatási eljárások integritását, valamint a minősített adatok sértetlenségét.
(167)
Pentru a asigura o cooperare de încredere și constructivă a autorităților competente la nivelul Uniunii și la nivel național, toate părțile implicate în aplicarea prezentului regulament ar trebui să respecte confidențialitatea informațiilor și a datelor obținute în cursul îndeplinirii sarcinilor lor, în conformitate cu dreptul Uniunii sau cu dreptul intern. Acestea ar trebui să își îndeplinească sarcinile și activitățile astfel încât să protejeze, în special, drepturile de proprietate intelectuală, informațiile comerciale confidențiale și secretele comerciale, punerea în aplicare efectivă a prezentului regulament, interesele de securitate publică și națională, integritatea procedurilor penale și administrative și integritatea informațiilor clasificate.
(168)
Az e rendelet szerinti kötelezettségeknek való megfelelést bírságok kiszabása és egyéb végrehajtási intézkedések útján kell biztosítani. A tagállamoknak minden szükséges intézkedést meg kell tenniük az e rendeletben foglalt rendelkezések végrehajtásának biztosítása érdekében, többek között azáltal, hogy hatékony, arányos és visszatartó erejű szankciókat állapítanak meg a megsértésük esetére, és biztosítaniuk kell a kétszeres eljárás alá vonás és a kétszeres büntetés tilalmának tiszteletben tartását. Az e rendelet megsértése esetén alkalmazandó közigazgatási szankciók megerősítése és harmonizálása érdekében meg kell állapítani az egyes konkrét jogsértések esetében kiszabandó közigazgatási bírságok felső határait. A bírságok összegének megállapításakor a tagállamoknak minden egyes esetben figyelembe kell venniük a konkrét helyzet valamennyi releváns körülményét, kellő figyelmet fordítva különösen a jogsértés és következményeinek jellegére, súlyosságára és időtartamára, valamint a szolgáltató méretére, különösen akkor, ha a szolgáltató egy kkv, ideértve az induló innovatív vállalkozásokat (start-up) is. Az európai adatvédelmi biztosnak hatáskörrel kell rendelkeznie arra, hogy pénzbírságot szabjon ki az e rendelet hatálya alá tartozó uniós intézményekre, ügynökségekre és szervekre.
(168)
Respectarea prezentului regulament ar trebui să fie asigurată prin impunerea de sancțiuni și alte măsuri de executare. Statele membre ar trebui să ia toate măsurile necesare pentru a se asigura că sunt puse în aplicare dispozițiile prezentului regulament, inclusiv prin stabilirea unor sancțiuni efective, proporționale și cu efect de descurajare în cazul încălcării acestora, și pentru a respecta principiul ne bis in idem. În scopul de a consolida și armoniza sancțiunile administrative pentru încălcarea prezentului regulament, ar trebui să fie definite limitele superioare pentru stabilirea amenzilor administrative pentru anumite încălcări specifice. Atunci când evaluează cuantumul amenzilor, statele membre ar trebui, în fiecare caz în parte, să țină seama de toate circumstanțele relevante ale situației specifice, acordând atenția cuvenită, în special, naturii, gravității și duratei încălcării și consecințelor acesteia, precum și dimensiunii furnizorului, în special în cazul în care furnizorul este un IMM, inclusiv o întreprindere nou-înființată. Autoritatea Europeană pentru Protecția Datelor ar trebui să aibă competența de a impune amenzi instituțiilor, agențiilor și organelor Uniunii care intră în domeniul de aplicare al prezentului regulament.
(169)
Az általános célú MI-modellek szolgáltatóinak e rendeletben előírt kötelezettségeinek való megfelelést többek között pénzbírságok kiszabása útján kell biztosítani. E célból az említett kötelezettségek megszegése esetére – ideértve a Bizottság által e rendelettel összhangban megkövetelt intézkedéseknek való megfelelés elmulasztását is – megfelelő mértékű pénzbírságokat kell meghatározni, figyelembe véve a megfelelő elévülési időket, az arányosság elvével összhangban. A Bizottság által e rendelet alapján hozott valamennyi határozatot az EUMSZ-szel összhangban az Európai Unió Bírósága felülvizsgálhatja, ideértve a Bíróságnak a büntetések tekintetében az EUMSZ 261. cikke értelmében fennálló korlátlan joghatóságát is.
(169)
Respectarea obligațiilor impuse furnizorilor de modele de IA de uz general în temeiul prezentului regulament ar trebui să fie asigurată, printre altele, prin amenzi. În acest scop, ar trebui să fie stabilite, de asemenea, niveluri adecvate ale amenzilor pentru încălcarea obligațiilor respective, inclusiv pentru nerespectarea măsurilor impuse de Comisie în conformitate cu prezentul regulament, sub rezerva unor termene de prescripție adecvate, în conformitate cu principiul proporționalității. Toate deciziile luate de Comisie în temeiul prezentului regulament fac obiectul controlului jurisdicțional al Curții de Justiție a Uniunii Europene în conformitate cu TFUE, incluzând competența nelimitată a Curții de Justiție cu privire la sancțiuni în temeiul articolului 261 din TFUE.
(170)
Az uniós és a nemzeti jog már jelenleg is hatékony jogorvoslatokat ír elő azon természetes és jogi személyek számára, akik, illetve amelyek jogait és szabadságait az MI-rendszerek kedvezőtlenül érintik. E jogorvoslatok sérelme nélkül, bármely olyan természetes vagy jogi személy, aki vagy amely okkal feltételezi, hogy e rendelet rendelkezéseit megsértették, panaszt nyújthat be a megfelelő piacfelügyeleti hatósághoz.
(170)
Dreptul Uniunii și dreptul intern prevăd deja căi de atac efective pentru persoanele fizice și juridice ale căror drepturi și libertăți sunt afectate în mod negativ de utilizarea sistemelor de IA. Fără a aduce atingere căilor de atac respective, orice persoană fizică sau juridică care are motive să considere că a avut loc o încălcare a prezentului regulament ar trebui să aibă dreptul de a depune o plângere la autoritatea relevantă de supraveghere a pieței.
(171)
Az érintett személyek számára biztosítani kell az ahhoz való jogot, hogy magyarázatot kapjanak abban az esetben, ha valamely alkalmazó döntése elsősorban bizonyos, e rendelet hatálya alá tartozó, nagy kockázatú MI-rendszerek kimenetén alapul, és ha az említett döntés olyan joghatásokat vagy az említett személyeket hasonlóan jelentősen érintő, olyan hatásokat vált ki, amelyek megítélésük szerint kedvezőtlen hatást gyakorolnak egészségükre, biztonságukra vagy alapvető jogaikra nézve. Az említett magyarázatnak egyértelműnek és érdeminek kell lennie, és olyannak, amely az érintett személyek számára alapot biztosít jogaik gyakorlásához. A magyarázathoz való jog nem alkalmazandó azon MI-rendszerek használatára, amelyekre az uniós vagy a nemzeti jogból következően kivételek vagy korlátozások vonatkoznak, valamint csak annyiban alkalmazandó, amennyiben arról az uniós jog még nem rendelkezik.
(171)
Persoanele afectate ar trebui să aibă dreptul de a obține o explicație atunci când decizia implementatorului este bazată în principal pe rezultatele anumitor sisteme de IA cu grad ridicat de risc care intră în domeniul de aplicare al prezentului regulament și în cazul în care decizia respectivă produce efecte juridice sau afectează în mod similar în mod semnificativ persoanele respective într-o manieră pe care acestea o consideră ca având un impact negativ asupra sănătății, siguranței sau drepturilor fundamentale ale acestora. Explicația respectivă ar trebui să fie clară și semnificativă și să ofere un temei pentru exercitarea drepturilor de către persoanele afectate. Dreptul de a obține o explicație nu ar trebui să se aplice în cazul utilizării unor sisteme de IA care fac obiectul unor excepții sau restricții care decurg din dreptul Uniunii sau din dreptul intern și ar trebui să se aplice numai în măsura în care acest drept nu este deja prevăzut în dreptul Uniunii.
(172)
Az e rendelet megsértését bejelentő személyeket az uniós jog alapján védelemben kell részesíteni. Az e rendelet megsértéseinek bejelentésére és az ilyen jogsértéseket bejelentő személyek védelmére tehát alkalmazni kell az (EU) 2019/1937 európai parlamenti és tanácsi irányelvet (54).
(172)
Persoanele care acționează în calitate de avertizori de integritate cu privire la încălcările prezentului regulament ar trebui să fie protejate în temeiul dreptului Uniunii. În ceea ce privește raportarea încălcărilor prezentului regulament și protecția persoanelor care raportează astfel de încălcări ar trebui, prin urmare, să se aplice Directiva (UE) 2019/1937 a Parlamentului European și a Consiliului (54).
(173)
Annak biztosítása érdekében, hogy a szabályozási keret szükség esetén kiigazítható legyen, a Bizottságot fel kell hatalmazni arra, hogy az EUMSZ 290. cikkének megfelelően jogi aktusokat fogadjon a következők módosítása céljából: azon feltételek, amelyek mellett egy MI-rendszert nem minősülhet nagy kockázatúnak; a nagy kockázatú MI-rendszerek listája; a műszaki dokumentációra vonatkozó rendelkezések; az EU-megfelelőségi nyilatkozat tartalma; a megfelelőségértékelési eljárásokra vonatkozó rendelkezések; azon a rendelkezések, amelyek megállapítják, hogy mely nagy kockázatú MI-rendszerekre kell a minőségirányítási rendszerek értékelésén és a műszaki dokumentáció értékelésén alapuló megfelelőségértékelési eljárást alkalmazni; a rendszerszintű kockázatot jelentő általános célú MI-modellek besorolására vonatkozó szabályokban foglalt küszöbérték, referenciaértékek és mutatók, többek között az említett referenciaértékek és mutatók kiegészítése révén; a rendszerszintű kockázatot jelentő általános célú MI-modellek megjelölésére vonatkozó kritériumok; műszaki dokumentáció az általános célú MI-modellek szolgáltatói számára; és az általános célú MI-modellek szolgáltatóira vonatkozó átláthatósági információk. Különösen fontos, hogy a Bizottság az előkészítő munkája során megfelelő konzultációkat folytasson, többek között szakértői szinten is, és hogy e konzultációkra a jogalkotás minőségének javításáról szóló, 2016. április 13-i intézményközi megállapodásban (55) megállapított elvekkel összhangban kerüljön sor. Így különösen, a felhatalmazáson alapuló jogi aktusok előkészítésében való egyenlő részvétel biztosítása érdekében az Európai Parlament és a Tanács a tagállamok szakértőivel egyidejűleg kézhez kap minden dokumentumot, és szakértőik rendszeresen részt vehetnek a Bizottság felhatalmazáson alapuló jogi aktusok előkészítésével foglalkozó szakértői csoportjainak ülésein.
(173)
Pentru a se asigura posibilitatea de adaptare a cadrului de reglementare atunci când este necesar, competența de a adopta acte în conformitate cu articolul 290 din TFUE ar trebui să fie delegată Comisiei pentru a modifica condițiile în care un sistem de IA nu este considerat ca având un grad ridicat de risc, lista sistemelor de IA cu grad ridicat de risc, dispozițiile privind documentația tehnică, conținutul declarației de conformitate UE, dispozițiile privind procedurile de evaluare a conformității, dispozițiile de stabilire a sistemelor de IA cu grad ridicat de risc cărora ar trebui să li se aplice procedura de evaluare a conformității bazată pe evaluarea sistemului de management al calității și pe evaluarea documentației tehnice, pragul, valorile de referință și indicatorii din cadrul normelor pentru clasificarea modelelor de IA de uz general cu risc sistemic, inclusiv prin completarea valorilor de referință și indicatorilor respectivi, criteriile pentru desemnarea modelelor de IA de uz general cu risc sistemic, documentația tehnică pentru furnizorii de modele de IA de uz general și informațiile privind transparența pentru furnizorii de modele de IA de uz general. Este deosebit de important ca, în cursul lucrărilor sale pregătitoare, Comisia să organizeze consultări adecvate, inclusiv la nivel de experți, și ca respectivele consultări să se desfășoare în conformitate cu principiile stabilite în Acordul interinstituțional din 13 aprilie 2016 privind o mai bună legiferare (55). În special, pentru a asigura participarea egală la pregătirea actelor delegate, Parlamentul European și Consiliul primesc toate documentele în același timp cu experții din statele membre, iar experții acestor instituții au acces sistematic la reuniunile grupurilor de experți ale Comisiei însărcinate cu pregătirea actelor delegate.
(174)
A gyors technológiai fejlődésre és az e rendelet hatékony alkalmazásához szükséges műszaki szakértelemre tekintettel, a Bizottságnak 2029. augusztus 2-ig, és ezt követően négyévente értékelnie kell és felül kell vizsgálnia e rendeletet, és jelentést kell tennie az Európai Parlamentnek és a Tanácsnak. Emellett a Bizottságnak – figyelembe véve az e rendelet hatályára gyakorolt hatásokat – évente egyszer el kell végeznie annak vizsgálatát, hogy szükség van-e a nagy kockázatú MI-rendszerek listájának és a tiltott gyakorlatok jegyzékének módosítására. Ezenfelül a Bizottságnak 2028. augusztus 2-ig, és ezt követően négyévente értékelnie kell azt, és jelentést kell tennie az Európai Parlamentnek és a Tanácsnak arról, hogy szükség van-e a következők módosítására, a további intézkedések vagy fellépések szükségességét is beleértve: a nagy kockázatú területekre vonatkozó címek e rendelet mellékletében foglalt felsorolása; az átláthatósági kötelezettségek hatókörébe tartozó MI-rendszerek; a felügyeleti és irányítási rendszer hatékonysága; valamint az általános célú MI-modellek energiahatékony fejlesztésével kapcsolatos szabvány jellegű dokumentumok kidolgozásának előrehaladása. Végül, a Bizottságnak 2028. augusztus 2-ig, és ezt követően háromévente értékelnie kell az önkéntes magatartási kódexek hatását és hatékonyságát, hogy előmozdítsa a nagy kockázatú MI-rendszerekre előírt követelményeknek a nagy kockázatú MI-rendszerektől eltérő MI-rendszerek esetében való alkalmazását és esetleg az ilyen MI-rendszerekre vonatkozó további követelmények alkalmazását.
(174)
Având în vedere evoluțiile tehnologice rapide și cunoștințele de specialitate tehnice necesare pentru aplicarea eficientă a prezentului regulament, Comisia ar trebui să evalueze și să revizuiască prezentul regulament până la 2 august 2029 și, ulterior, o dată la patru ani și să raporteze Parlamentului European și Consiliului în acest sens. În plus, ținând seama de implicațiile pentru domeniul de aplicare al prezentului regulament, Comisia ar trebui să efectueze o evaluare a necesității de a modifica, o dată pe an, lista sistemelor de IA cu grad ridicat de risc și lista practicilor interzise. În plus, până la 2 august 2028 și, ulterior, o dată la patru ani, Comisia ar trebui să evalueze necesitatea de a modifica lista rubricilor de domeniu cu grad ridicat de risc din anexa la prezentul regulament, sistemele de IA care intră în domeniul de aplicare al obligațiilor de transparență, eficacitatea sistemului de supraveghere și de guvernanță și progresele înregistrate în ceea ce privește elaborarea de documente de standardizare privind dezvoltarea eficientă din punct de vedere energetic a modelelor de IA de uz general, inclusiv necesitatea unor măsuri sau acțiuni suplimentare și să raporteze Parlamentului European și Consiliului în acest sens. În cele din urmă, până la 2 august 2028 și, ulterior, o dată la trei ani, Comisia ar trebui să evalueze impactul și eficacitatea codurilor de conduită voluntare în ceea ce privește încurajarea aplicării cerințelor prevăzute pentru sistemele de IA cu grad ridicat de risc în cazul altor sisteme de IA decât cele cu grad ridicat de risc și, eventual, a altor cerințe suplimentare pentru sistemele de IA respective.
(175)
E rendelet végrehajtása egységes feltételeinek biztosítása érdekében a Bizottságra végrehajtási hatásköröket kell ruházni. Ezeket a végrehajtási hatásköröket a 182/2011/EU európai parlamenti és tanácsi rendeletnek (56) megfelelően kell gyakorolni.
(175)
În vederea asigurării unor condiții uniforme pentru punerea în aplicare a prezentului regulament, ar trebui să fie conferite competențe de executare Comisiei. Respectivele competențe ar trebui să fie exercitate în conformitate cu Regulamentul (UE) nr. 182/2011 al Parlamentului European și al Consiliului (56).
(176)
Mivel e rendelet célját – nevezetesen a belső piac működésének javítását és az emberközpontú és megbízható MI elterjedésének előmozdítását, egyúttal az Unióban az egészség, a biztonság és a Chartában rögzített alapvető jogok, többek között a demokrácia, a jogállamiság és a környezetvédelem magas szintű védelmének biztosítását az MI-rendszerek káros hatásaival szemben, valamint az innováció támogatását – a tagállamok nem tudják kielégítően megvalósítani, az Unió szintjén azonban az intézkedés terjedelme és hatása miatt e célok jobban megvalósíthatók, az Unió intézkedéseket hozhat a szubszidiaritásnak az EUSZ 5. cikkében foglalt elvével összhangban. Az arányosságnak az említett cikkben foglalt elvével összhangban e rendelet nem lépi túl az e cél eléréséhez szükséges mértéket.
(176)
Întrucât obiectivul prezentului regulament, și anume de a îmbunătăți funcționarea pieței interne și de a promova adoptarea IA centrate pe factorul uman și fiabile, asigurând în același timp un nivel ridicat de protecție a sănătății, a siguranței și a drepturilor fundamentale consacrate în cartă, inclusiv a democrației, a statului de drept și a mediului împotriva efectelor dăunătoare ale sistemelor de IA din Uniune, și sprijinind inovarea, nu poate fi realizat în mod satisfăcător de către statele membre și, având în vedere amploarea sau efectele acțiunii sale, poate fi realizat mai bine la nivelul Uniunii, aceasta din urmă poate adopta măsuri, în conformitate cu principiul subsidiarității, astfel cum se prevede la articolul 5 din TUE. În conformitate cu principiul proporționalității, astfel cum este definit la articolul respectiv, prezentul regulament nu depășește ceea ce este necesar pentru realizarea obiectivului menționat.
(177)
A jogbiztonság biztosítása, a gazdasági szereplők számára megfelelő alkalmazkodási időszak biztosítása, valamint a piaci zavarok elkerülése érdekében – többek között az MI-rendszerek folytonos használatának biztosítása révén – helyénvaló, hogy e rendelet csak akkor legyen alkalmazandó az alkalmazásának általános időpontja előtt forgalomba hozott vagy üzembe helyezett nagy kockázatú MI-rendszerekre, ha az említett időponttól kezdve az említett rendszerek kialakításában vagy rendeltetésében jelentős változások következnek be. Helyénvaló egyértelművé tenni, hogy e tekintetben a jelentős változás fogalmát úgy kell értelmezni, hogy az lényegében egyenértékű a jelentős módosítás azon fogalmával, amelyet csak az e rendelet szerinti nagy kockázatú MI-rendszerek tekintetében használnak. Kivételesen és a nyilvános elszámoltathatóságra tekintettel, az e rendelet egyik mellékletében felsorolt jogi aktusokkal létrehozott nagy méretű informatikai rendszerek alkotóelemeit képező MI-rendszerek üzemeltetőinek, illetve a hatóságok által használni kívánt nagy kockázatú MI-rendszerek üzemeltetőinek meg kell tenniük a szükséges lépéseket annak érdekében, hogy 2030 végéig és 2030. augusztus 2-ig megfeleljenek e rendelet követelményeinek.
(177)
Pentru a asigura securitatea juridică, a asigura o perioadă de adaptare adecvată pentru operatori și a evita perturbarea pieței, inclusiv prin asigurarea continuității utilizării sistemelor de IA, este oportun ca prezentul regulament să se aplice sistemelor de IA cu grad ridicat de risc care au fost introduse pe piață sau puse în funcțiune înainte de data generală de aplicare a acestuia, numai dacă, de la data respectivă, sistemele respective fac obiectul unor modificări semnificative în ceea ce privește proiectarea sau scopul lor preconizat. Este oportun să se clarifice că, în acest sens, conceptul de modificare semnificativă ar trebui să fie înțeles ca fiind echivalent în esență cu noțiunea de modificare substanțială, care este utilizată numai în ceea ce privește sistemele de IA cu grad ridicat de risc, în temeiul prezentului regulament. În mod excepțional și având în vedere răspunderea publică, operatorii de sisteme de IA care fac parte din sistemele informatice la scară largă instituite prin actele juridice care sunt enumerate într-o anexă la prezentul regulament și operatorii de sisteme de IA cu grad ridicat de risc care sunt destinate a fi utilizate de autoritățile publice ar trebui să ia măsurile necesare pentru a se conforma cerințelor prezentului regulament până la sfârșitul anului 2030 și, respectiv, până la 2 august 2030.
(178)
A nagy kockázatú MI-rendszerek szolgáltatóit ösztönzik arra, hogy – önkéntes alapon – már az átmeneti időszakban kezdjenek el megfelelni e rendelet releváns kötelezettségeinek.
(178)
Furnizorii de sisteme de IA cu grad ridicat de risc sunt încurajați să înceapă să se conformeze, în mod voluntar, obligațiilor relevante aferente prezentului regulament încă din perioada de tranziție.
(179)
Ezt a rendeletet 2026. augusztus 2-től kell alkalmazni. Ugyanakkor – tekintettel az MI bizonyos módokon történő használatához kapcsolódó elfogadhatatlan kockázatra – e rendelet tilalmait és általános rendelkezéseit már 2025. február 2-től alkalmazni kell. Míg az említett tilalmak hatálya az irányítás létrehozásával és e rendelet végrehajtásával válik teljessé, a tilalmak előzetes alkalmazása fontos az elfogadhatatlan kockázatok figyelembevétele, valamint a más – például polgári jogi – eljárásokra való hatásgyakorlás szempontjából. Ezenfelül az irányítással és a megfelelőségértékelési rendszerrel kapcsolatos infrastruktúrának 2026. augusztus 2. előtt működőképesnek kell lennie, ezért a bejelentett szervezetekre és az irányítási struktúrára vonatkozó rendelkezéseket 2025. augusztus 2-től kell alkalmazni. A technológiai fejlődésnek és az általános célú MI-modellek bevezetésének gyors ütemére tekintettel, az általános célú MI-modellek szolgáltatóira vonatkozó kötelezettségeket 2025. augusztus 2-től kell alkalmazni. A gyakorlati kódexeknek 2025. május 2-ig kell elkészülniük annak érdekében, hogy a szolgáltatók számára lehetővé váljon a megfelelés időben való igazolása. Az MI-hivatalnak biztosítania kell, hogy a besorolási szabályok és eljárások a technológiai fejlődés fényében naprakészek legyenek. Emellett a tagállamoknak meg kell állapítaniuk a szankciókra, többek között a közigazgatási bírságokra vonatkozó szabályokat, azokról értesíteniük kell a Bizottságot, és biztosítaniuk kell, hogy azokat e rendelet alkalmazásának kezdőnapjáig megfelelően és hatékonyan végrehajtsák. Ezért a szankciókra vonatkozó rendelkezéseket 2025. augusztus 2-től kell alkalmazni.
(179)
Prezentul regulament ar trebui să se aplice de la 2 august 2026. Cu toate acestea, ținând seama de riscul inacceptabil asociat utilizării IA în anumite moduri, interdicțiile și dispozițiile cu caracter general din prezentul regulament ar trebui să se aplice deja de la 2 februarie 2025. Deși efectul deplin al interdicțiilor respective este corelat cu instituirea guvernanței și cu aplicarea prezentului regulament, aplicarea anticipată a interdicțiilor este importantă pentru a se ține seama de riscurile inacceptabile și pentru a produce efecte asupra altor proceduri, cum ar fi în dreptul civil. În plus, infrastructura legată de guvernanță și de sistemul de evaluare a conformității ar trebui să fie operațională înainte de 2 august 2026; prin urmare, dispozițiile privind organismele notificate și structura de guvernanță ar trebui să se aplice de la 2 august 2025. Având în vedere ritmul rapid al progreselor tehnologice și al adoptării modelelor de IA de uz general, ar trebui ca obligațiile furnizorilor de modele de IA de uz general să se aplice de la 2 august 2025. Codurile de bune practici ar trebui să fie gata până la 2 mai 2025, pentru a permite furnizorilor să demonstreze conformitatea în timp util. Oficiul pentru IA ar trebui să se asigure că normele și procedurile de clasificare sunt actualizate în funcție de evoluțiile tehnologice. În plus, statele membre ar trebui să stabilească și să notifice Comisiei normele privind sancțiunile, inclusiv amenzile administrative, și să se asigure că acestea sunt puse în aplicare în mod corespunzător și efectiv până la data aplicării prezentului regulament. Prin urmare, dispozițiile privind sancțiunile ar trebui să se aplice de la 2 august 2025.
(180)
Az (EU) 2018/1725 rendelet 42. cikkének (1) és (2) bekezdésével összhangban konzultációra került sor az európai adatvédelmi biztossal és az Európai Adatvédelmi Testülettel, aki és amely 2021. június 18-án nyilvánított közös véleményt,
(180)
Autoritatea Europeană pentru Protecția Datelor și Comitetul european pentru protecția datelor au fost consultate în conformitate cu articolul 42 alineatele (1) și (2) din Regulamentul (UE) 2018/1725 și au emis avizul lor comun la 18 iunie 2021,
ELFOGADTA EZT A RENDELETET:
ADOPTĂ PREZENTUL REGULAMENT:
(1) E rendelet a következőkre alkalmazandó:
(1) Prezentul regulament se aplică pentru:
a)
az Unióban MI-rendszereket forgalomba hozó vagy üzembe helyező, vagy általános célú MI-modelleket forgalomba hozó szolgáltatók, függetlenül attól, hogy az említett szolgáltatók letelepedési vagy tartózkodási helye az Unióban vagy harmadik országban van-e;
(a)
furnizorii care introduc pe piață sau pun în funcțiune sisteme de IA sau introduc pe piață modele de IA de uz general în Uniune, indiferent dacă furnizorii respectivi sunt stabiliți sau se află în Uniune sau într-o țară terță;
b)
az MI-rendszerek azon alkalmazói, amelyek letelepedési vagy tartózkodási helye az Unión belül van;
(b)
implementatorii de sisteme de IA care își au sediul sau se află pe teritoriul Uniunii;
c)
az MI-rendszerek azon szolgáltatói és alkalmazói, amelyek letelepedési vagy tartózkodási helye harmadik országban van, amennyiben az MI-rendszer által előállított kimenet használatára az Unióban kerül sor;
(c)
furnizorii și implementatorii de sisteme de IA care își au sediul sau se află într-o țară terță, în cazul în care rezultatele produse de sistemele de IA sunt utilizate în Uniune;
d)
az MI-rendszerek importőrei és forgalmazói;
(d)
importatorii și distribuitorii de sisteme de IA;
e)
azon termékgyártók, amelyek a termékükkel együtt MI-rendszert hoznak forgalomba vagy helyeznek üzembe a saját nevük vagy védjegyük alatt;
(e)
fabricanții de produse care introduc pe piață sau pun în funcțiune un sistem de IA împreună cu produsul lor și sub numele sau marca lor comercială;
f)
a szolgáltatóknak az Unión kívül letelepedett meghatalmazott képviselői;
(f)
reprezentanții autorizați ai furnizorilor, care nu sunt stabiliți în Uniune;
g)
az Unión kívül tartózkodó érintett személyek.
(g)
persoanele afectate care se află în Uniune.
(2) Azon MI-rendszerek esetében, amelyeket a 6. cikk (1) bekezdésével összhangban az I. melléklet B. szakaszában felsorolt uniós harmonizációs jogszabályok hatálya alá tartozó termékekhez kapcsolódó nagy kockázatú MI-rendszerként soroltak be, kizárólag a 6. cikk (1) bekezdését, a 102–109. cikket és a 112. cikket kell alkalmazni. Az 57. cikk csak annyiban alkalmazandó, amennyiben e rendeletnek a nagy kockázatú MI-rendszerekre vonatkozó követelményeit beépítették az említett uniós harmonizációs jogszabályokba.
(2) În cazul sistemelor de IA clasificate ca sisteme de IA prezentând un grad ridicat de risc în conformitate cu articolul 6 alineatul (1), legate de produse care fac obiectul actelor legislative de armonizare ale Uniunii care figurează în anexa I secțiunea B, se aplică numai articolul 6 alineatul (1), articolele 102-109 și articolul 112. Articolul 57 se aplică numai în măsura în care cerințele pentru sistemele de IA cu grad ridicat de risc prevăzute în temeiul prezentului regulament au fost integrate în respectivele acte legislative de armonizare ale Uniunii.
(3) E rendelet nem alkalmazandó az uniós jog hatályán kívül eső területekre, és semmilyen esetben nem érinti a tagállamok nemzetbiztonságra vonatkozó hatásköreit, függetlenül attól, hogy a tagállamok milyen típusú szervezetet bíznak meg az említett hatáskörökkel kapcsolatos feladatok ellátásával.
(3) Prezentul regulament nu se aplică domeniilor care nu intră în sfera de cuprindere a dreptului Uniunii și, în orice caz, nu afectează competențele statelor membre în materie de securitate națională, indiferent de tipul de entitate însărcinată de statele membre să îndeplinească sarcinile legate de competențele respective.
E rendelet nem alkalmazandó az MI-rendszerekre, ha és amennyiben azok forgalomba hozatala, üzembe helyezése vagy használata – módosítással vagy módosítás nélkül – kizárólag katonai, védelmi vagy nemzetbiztonsági célra történik, függetlenül az e tevékenységeket végző szervezet típusától.
Prezentul regulament nu se aplică sistemelor de IA în cazul și în măsura în care sunt introduse pe piață, puse în funcțiune sau utilizate cu sau fără modificări exclusiv în scopuri militare, de apărare sau de securitate națională, indiferent de tipul de entitate care desfășoară activitățile respective.
E rendelet nem alkalmazandó azon MI-rendszerekre, amelyeket nem az Unióban hoztak forgalomba vagy helyeztek üzembe, amennyiben a kimenetet az Unióban kizárólag katonai, védelmi vagy nemzetbiztonsági célra használják, függetlenül az e tevékenységeket végző szervezet típusától.
Prezentul regulament nu se aplică sistemelor de IA care nu sunt introduse pe piață sau puse în funcțiune în Uniune, în cazul în care rezultatul este utilizat în Uniune exclusiv în scopuri militare, de apărare sau de securitate națională, indiferent de tipul de entitate care desfășoară activitățile respective.
(4) E rendelet nem alkalmazandó az (1) bekezdés alapján e rendelet hatálya alá tartozó harmadik országbeli hatóságokra és nemzetközi szervezetekre, amennyiben ezek a hatóságok vagy szervezetek az Unióval, illetve egy vagy több tagállammal folytatott bűnüldözési és igazságügyi együttműködésre vonatkozó nemzetközi együttműködés vagy megállapodások keretében használnak MI-rendszereket, feltéve, hogy az ilyen harmadik ország vagy nemzetközi szervezet megfelelő biztosítékokat nyújt az egyének alapvető jogainak és szabadságainak védelme tekintetében.
(4) Prezentul regulament nu se aplică autorităților publice dintr-o țară terță și nici organizațiilor internaționale care intră în sfera de cuprindere a prezentului regulament în temeiul alineatului (1), în cazul în care respectivele autorități sau organizații utilizează sisteme de IA în cadrul cooperării sau acordurilor internaționale pentru aplicarea legii și pentru cooperarea judiciară cu Uniunea sau cu unul sau mai multe state membre, cu condiția ca o astfel de țară terță sau organizație internațională să ofere garanții adecvate în ceea ce privește protecția drepturilor și libertăților fundamentale ale persoanelor.
(5) E rendelet nem érinti az (EU) 2022/2065 rendelet II. fejezetében foglalt, a közvetítő szolgáltatók felelősségére vonatkozó rendelkezések alkalmazását.
(5) Prezentul regulament nu aduce atingere aplicării dispozițiilor privind răspunderea furnizorilor de servicii intermediare cuprinse în capitolul II din Regulamentul (UE) 2022/2065.
(6) E rendelet nem alkalmazandó a kifejezetten a tudományos kutatás-fejlesztés kizárólagos céljára kifejlesztett és üzembe helyezett MI-rendszerekre vagy MI-modellekre, és azok kimenetére sem.
(6) Prezentul regulament nu se aplică sistemelor de IA sau modelelor de IA, inclusiv rezultatelor acestora, dezvoltate și puse în funcțiune special și exclusiv pentru cercetare și dezvoltare științifică.
(7) A személyes adatok, a magánélet és a közlés bizalmasságának védelmére vonatkozó uniós jog alkalmazandó az e rendeletben megállapított jogokkal és kötelezettségekkel összefüggésben feldolgozott személyes adatokra. E rendelet 10. cikke (5) bekezdésének és 59. cikkének sérelme nélkül, e rendelet nem érinti az (EU) 2016/679 vagy az (EU) 2018/1725 rendeletet, vagy a 2002/58/EK vagy az (EU) 2016/680 irányelvet.
(7) Dreptul Uniunii privind protecția datelor cu caracter personal, a vieții private și a confidențialității comunicațiilor se aplică datelor cu caracter personal prelucrate în legătură cu drepturile și obligațiile prevăzute în prezentul regulament. Prezentul regulament nu afectează Regulamentul (UE) 2016/679 sau (UE) 2018/1725 ori Directiva 2002/58/CE sau (UE) 2016/680, fără a aduce atingere articolului 10 alineatul (5) și articolului 59 din prezentul regulament.
(8) E rendelet nem alkalmazandó semmilyen, az MI-rendszerekkel vagy MI-modellekkel kapcsolatos kutatási, tesztelési és fejlesztési tevékenységre azt megelőzően, hogy azokat forgalomba hozzák vagy üzembe helyezik. Az ilyen tevékenységeket az alkalmazandó uniós joggal összhangban kell végezni. Az említett kizárás nem vonatkozik a valós körülmények közötti tesztelésre.
(8) Prezentul regulament nu se aplică niciunei activități de cercetare, testare sau dezvoltare privind sisteme de IA sau modele de IA, înainte ca acestea să fie introduse pe piață sau puse în funcțiune. Astfel de activități se desfășoară în conformitate cu dreptul aplicabil al Uniunii. Testarea în condiții reale nu face obiectul excluderii menționate.
(9) E rendelet nem érinti a fogyasztóvédelemre és a termékbiztonságra vonatkozó egyéb uniós jogi aktusokban megállapított szabályokat.
(9) Prezentul regulament nu aduce atingere normelor prevăzute de alte acte juridice ale Uniunii referitoare la protecția consumatorilor și la siguranța produselor.
(10) E rendelet nem alkalmazandó azon alkalmazók kötelezettségeire, akik az MI-rendszereket pusztán személyes, nem szakmai tevékenység során használó természetes személyek.
(10) Prezentul regulament nu se aplică obligațiilor implementatorilor persoane fizice care utilizează sisteme de IA în cursul unei activități strict personale, fără caracter profesional.
(11) E rendelet nem zárja ki az Uniót vagy a tagállamokat abból, hogy olyan törvényi, rendeleti vagy közigazgatási rendelkezéseket tartsanak fenn vagy vezessenek be, amelyek kedvezőbbek a munkavállalókra nézve az MI-rendszerek munkáltatók általi használatával kapcsolatos jogaik védelme tekintetében, vagy abból, hogy a munkavállalók számára kedvezőbb kollektív szerződések alkalmazását ösztönözzék vagy tegyék lehetővé.
(11) Prezentul regulament nu împiedică Uniunea sau statele membre să mențină sau să introducă acte cu putere de lege și acte administrative care sunt mai favorabile lucrătorilor privind protejarea drepturilor acestora în ceea ce privește utilizarea sistemelor de IA de către angajatori sau să încurajeze ori să permită aplicarea unor contracte colective de muncă care sunt mai favorabile lucrătorilor.
(12) E rendelet nem alkalmazandó a szabad és nyílt forráskódú licencek alapján kibocsátott MI-rendszerekre, kivéve, ha azokat nagy kockázatú MI-rendszerként, vagy az 5. vagy 50. cikk hatálya alá tartozó MI-rendszerként hozzák forgalomba vagy helyezik üzembe.
(12) Prezentul regulament nu se aplică sistemelor de IA lansate sub licențe libere și cu sursă deschisă, cu excepția cazului în care acestea sunt introduse pe piață sau puse în funcțiune ca sisteme de IA cu grad ridicat de risc sau ca sisteme de IA care intră sub incidența articolului 5 sau a articolului 50.
Practici interzise în domeniul IA
(1) Tilosak a következő MI-gyakorlatok:
(1) Sunt interzise următoarele practici în domeniul IA:
a)
olyan MI-rendszerek forgalomba hozatala, üzembe helyezése vagy használata, amelyek szubliminális technikákat alkalmaznak az adott személy tudatán kívül, vagy célzottan manipulatív vagy megtévesztő technikákat alkalmaznak azzal a céllal vagy olyan hatás érdekében, hogy lényegesen torzítsák egy személy vagy személyek egy csoportjának magatartását azáltal, hogy jelentősen gyengítik a megalapozott döntéshozatalra való képességüket, azt eredményezve, hogy olyan döntést hozzanak, amelyet egyébként nem hoztak volna meg, és oly módon, amely az említett személynek, egy másik személynek vagy személyek egy csoportjának jelentős károsodást okoz vagy ésszerű valószínűséggel okozhat;
(a)
introducerea pe piață, punerea în funcțiune sau utilizarea unui sistem de IA care utilizează tehnici subliminale ce nu pot fi percepute în mod conștient de o persoană sau tehnici intenționat manipulatoare sau înșelătoare, cu scopul sau efectul de a denatura în mod semnificativ comportamentul unei persoane sau al unui grup de persoane prin împiedicarea apreciabilă a capacității acestora de a lua o decizie în cunoștință de cauză, determinându-le astfel să ia o decizie pe care altfel nu ar fi luat-o, într-un mod care aduce sau este susceptibil în mod rezonabil să aducă prejudicii semnificative persoanei respective, unei alte persoane sau unui grup de persoane;
b)
olyan MI-rendszerek forgalomba hozatala, üzembe helyezése vagy használata, amelyek egy természetes személynek vagy a személyek egy meghatározott csoportjának az életkor, fogyatékosság, illetve egyedi szociális vagy gazdasági helyzet miatt fennálló valamilyen sebezhetőségét kihasználják azzal a céllal vagy hatással, hogy lényegesen torzítsák az említett személy vagy az említett csoporthoz tartozó valamely személy magatartását oly módon, amely az említett személynek vagy egy másik személynek jelentős kárt okoz vagy észszerű valószínűséggel okozhat;
(b)
introducerea pe piață, punerea în funcțiune sau utilizarea unui sistem de IA care exploatează oricare dintre vulnerabilitățile unei persoane fizice sau ale unui anumit grup de persoane asociate vârstei, unei dizabilități sau unei situații sociale sau economice specifice, cu scopul sau efectul de a denatura în mod semnificativ comportamentul persoanei respective sau al unei persoane care aparține grupului respectiv într-un mod care aduce sau este susceptibil în mod rezonabil să aducă prejudicii semnificative persoanei respective sau unei alte persoane;
c)
MI-rendszerek forgalomba hozatala, üzembe helyezése vagy használata természetes személyek vagy személyek csoportjai értékelésének vagy osztályozásának céljából egy bizonyos időszakon keresztül, közösségi magatartásuk, illetve ismert, kikövetkeztetett vagy előre jelzett személyes tulajdonságaik vagy személyiségjegyeik alapján, oly módon, hogy a társadalmi pontszám a következő helyzetek egyikéhez vagy mindkettőhöz vezet:
(c)
introducerea pe piață, punerea în funcțiune sau utilizarea unor sisteme de IA pentru evaluarea sau clasificarea persoanelor fizice sau a grupurilor de persoane pe o anumită perioadă de timp, pe baza comportamentului lor social sau a caracteristicilor personale sau de personalitate cunoscute, deduse sau preconizate, cu un punctaj social care conduce la una dintre următoarele situații sau la ambele:
i.
bizonyos természetes személyekkel vagy személyek csoportjaival szembeni hátrányos vagy kedvezőtlen bánásmód olyan szociális kontextusokban, amelyek nem függenek össze azokkal a kontextusokkal, amelyek között az adatokat eredetileg létrehozták vagy gyűjtötték;
(i)
tratamentul prejudiciabil sau nefavorabil aplicat anumitor persoane fizice sau unor grupuri de persoane în contexte sociale care nu au legătură cu contextele în care datele au fost generate sau colectate inițial;
ii.
bizonyos természetes személyekkel vagy személyek csoportjával szembeni olyan hátrányos vagy kedvezőtlen bánásmód, amely indokolatlan vagy aránytalan közösségi magatartásukhoz vagy annak súlyosságához képest;
(ii)
tratamentul prejudiciabil sau nefavorabil aplicat anumitor persoane fizice sau unor grupuri de persoane, care este nejustificat sau disproporționat în raport cu comportamentul social al acestora sau cu gravitatea acestuia;
d)
olyan MI-rendszer forgalomba hozatala, e konkrét célra történő üzembe helyezése vagy használata, amely természetes személyek kockázatértékelését végzi annak érdekében, hogy – kizárólag a természetes személyekre vonatkozó profilalkotás vagy személyiségjegyeik és tulajdonságaik értékelése alapján – felmérje vagy előre jelezze annak kockázatát, hogy egy adott természetes személy bűncselekményt követ el; ez a tilalom nem alkalmazandó azon MI-rendszerekre, amelyek a személyek bűncselekményben való részvételének emberi értékelését támogatják, amely értékelés alapjául már rendelkezésre állnak a bűnözői tevékenységhez közvetlenül kapcsolódó, objektív és ellenőrizhető tények;
(d)
introducerea pe piață, punerea în funcțiune în acest scop specific sau utilizarea unui sistem de IA pentru efectuarea de evaluări ale riscurilor persoanelor fizice cu scopul de a evalua sau de a prevedea riscul ca o persoană fizică să comită o infracțiune, exclusiv pe baza creării profilului unei persoane fizice sau pe baza evaluării trăsăturilor și caracteristicilor sale de personalitate; această interdicție nu se aplică sistemelor de IA utilizate pentru a sprijini evaluarea umană a implicării unei persoane într-o activitate infracțională, care se bazează deja pe fapte obiective și verificabile legate direct de o activitate infracțională;
e)
olyan MI-rendszerek forgalomba hozatala, e konkrét célra történő üzembe helyezése vagy használata, amelyek az arcképek internetről vagy zártláncú televízió-felvételekből való, nem célzott lekérdezésével arcfelismerő adatbázisokat hoznak létre vagy ilyeneket bővítenek;
(e)
introducerea pe piață, punerea în funcțiune în acest scop specific sau utilizarea unor sisteme de IA care creează sau extind bazele de date de recunoaștere facială prin extragerea fără scop precis a imaginilor faciale de pe internet sau de pe înregistrările TVCI;
f)
a természetes személyek érzelmeiből következtetést levonó MI-rendszerek forgalomba hozatala, e konkrét célra történő üzembe helyezése, illetve használata a munkahelyek és az oktatási intézmények területén, kivéve amennyiben az MI-rendszer használata, üzembe helyezése vagy forgalomba hozatala orvosi vagy biztonsági okokból történik;
(f)
introducerea pe piață, punerea în funcțiune în acest scop specific sau utilizarea unor sisteme de IA pentru a deduce emoțiile unei persoane fizice în sfera locului de muncă și a instituțiilor de învățământ, cu excepția cazurilor în care utilizarea sistemului de IA este destinată a fi instituită sau introdusă pe piață din motive medicale sau de siguranță;
g)
olyan biometrikus kategorizálási rendszerek forgalomba hozatala, e konkrét célra történő üzembe helyezése, illetve használata, amelyek természetes személyeket biometrikus adataik alapján egyénileg kategorizálnak, hogy ezáltal levezessék vagy kikövetkeztessék faji hovatartozásukat, politikai véleményüket, szakszervezeti tagságukat, vallási vagy világnézeti meggyőződésüket, szexuális életüket vagy szexuális irányultságukat; ez a tilalom nem terjed ki a jogszerűen megszerzett biometrikus adatkészletek – például képek – biometrikus adatok szerint történő jogszerű címkézésére vagy szűrésére, illetve a biometrikus adatoknak a bűnüldözés területén való kategorizálására;
(g)
introducerea pe piață sau punerea în funcțiune în acest scop specific sau utilizarea de sisteme de clasificare biometrică care clasifică în mod individual persoanele fizice pe baza datelor lor biometrice pentru a deduce sau a intui rasa, opiniile politice, apartenența la un sindicat, convingerile religioase sau filozofice, viața sexuală sau orientarea sexuală ale persoanelor respective; această interdicție nu se referă la etichetarea sau filtrarea seturilor de date biometrice obținute în mod legal, cum ar fi imaginile, pe baza datelor biometrice sau la clasificarea datelor biometrice în domeniul aplicării legii;
h)
„valós idejű” távoli biometrikus azonosító rendszerek használata a nyilvánosság számára hozzáférhető helyeken bűnüldözési célokból, kivéve, ha és amennyiben az ilyen használat a következő célok egyikéhez feltétlenül szükséges:
(h)
utilizarea sistemelor de identificare biometrică la distanță în timp real în spații accesibile publicului în scopul aplicării legii, cu excepția cazului și în măsura în care o astfel de utilizare este strict necesară pentru unul dintre următoarele obiective:
i.
emberrablás, emberkereskedelem vagy szexuális kizsákmányolás konkrét áldozatainak célzott felkutatása, valamint az eltűnt személyek utáni kutatás;
(i)
căutarea în mod specific a anumitor victime ale răpirii, traficului de persoane sau exploatării sexuale a persoanelor, precum și căutarea persoanelor dispărute;
ii.
természetes személyek életét vagy fizikai biztonságát fenyegető konkrét, jelentős és közvetlen veszély, illetve terrortámadás tényleges és valós vagy tényleges és előre látható veszélyének megelőzése;
(ii)
prevenirea unei amenințări specifice, substanțiale și iminente care vizează viața sau siguranța fizică a persoanelor fizice sau a unei amenințări reale și prezente sau reale și previzibile de atac terorist;
iii.
bűncselekmények gyanúsítottjainak lokalizálása vagy azonosítása nyomozás vagy büntetőeljárás lefolytatása vagy büntetőjogi szankció végrehajtása céljából olyan, a II. mellékletben említett bűncselekmény miatt, amelynek esetében az érintett tagállamban a büntetési tétel felső határa legalább négyévi szabadságvesztés vagy szabadságelvonással járó intézkedés.
(iii)
localizarea sau identificarea unei persoane suspectate de săvârșirea unei infracțiuni, în scopul desfășurării unei investigații penale sau al urmăririi penale sau al executării unor sancțiuni penale pentru infracțiuni, menționate în anexa II și pasibile, în statul membru în cauză, de o pedeapsă privativă de libertate sau o măsură de siguranță privativă de libertate pentru o perioadă maximă de cel puțin patru ani.
Az első albekezdés h) pontja nem érinti az (EU) 2016/679 rendelet 9. cikkét a biometrikus adatoknak a bűnüldözéstől eltérő célokból történő kezelése tekintetében.
Litera (h) de la primul paragraf nu aduce atingere articolului 9 din Regulamentul (UE) 2016/679 privind prelucrarea datelor biometrice în alte scopuri decât aplicarea legii.
(2) A „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából, az (1) bekezdés első albekezdésének h) pontjában említett célok bármelyike tekintetében történő használata az említett pontban meghatározott célokból, csak a konkrét célszemély személyazonosságának megerősítése érdekében indítható el, és annak során figyelembe kell venni a következő elemeket:
(2) Sistemele de identificare biometrică la distanță în timp real în spațiile accesibile publicului în scopul aplicării legii pentru oricare dintre obiectivele menționate la alineatul (1) primul paragraf litera (h) se utilizează în scopurile prevăzute la alineatul (1) litera (h) numai pentru a confirma identitatea persoanei vizate în mod specific, ținându-se seama de următoarele elemente:
a)
a lehetséges használatot eredményező helyzet jellege, különösen azon kár súlyossága, valószínűsége és mértéke, amely a rendszer használatának elmaradásakor keletkezne;
(a)
natura situației care determină posibila utilizare, în special gravitatea, probabilitatea și amploarea prejudiciului care ar fi cauzat dacă sistemul nu ar fi utilizat;
b)
a rendszer használatának valamennyi érintett személy jogaira és szabadságaira gyakorolt következményei, különösen e következmények súlyossága, valószínűsége és mértéke.
(b)
consecințele utilizării sistemului asupra drepturilor și libertăților tuturor persoanelor vizate, în special gravitatea, probabilitatea și amploarea acestor consecințe.
Emellett a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából, az e cikk (1) bekezdése első albekezdésének h) pontjában említett célok bármelyike tekintetében történő használatának meg kell felelnie – az annak használatát engedélyező nemzeti joggal összhangban – a használattal kapcsolatos szükséges és arányos biztosítékoknak és feltételeknek, különösen az időbeli, földrajzi és személyi korlátozások tekintetében. A valós idejű távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken történő használata csak akkor engedélyezhető, ha a bűnüldöző hatóság – a 27. cikk rendelkezéseinek megfelelően – elvégezte az alapvetőjogi hatásvizsgálatot, és – a 49. cikkel összhangban – nyilvántartásba vette a rendszert az uniós adatbázisban. Kellően indokolt sürgős esetekben azonban az ilyen rendszerek használata az uniós adatbázisban történő regisztráció nélkül is elindítható, feltéve, hogy az ilyen regisztrációra indokolatlan késedelem nélkül sor kerül.
În plus, utilizarea sistemelor de identificare biometrică la distanță în timp real în spațiile accesibile publicului în scopul aplicării legii pentru oricare dintre obiectivele menționate la alineatul (1) primul paragraf litera (h) de la prezentul articol respectă garanțiile și condițiile necesare și proporționale în ceea ce privește utilizarea în conformitate cu dreptul intern care autorizează utilizarea sistemelor respective, în special în ceea ce privește limitările temporale, geografice și legate de persoane. Utilizarea sistemului de identificare biometrică la distanță în timp real în spațiile accesibile publicului este autorizată numai dacă autoritatea de aplicare a legii a finalizat o evaluare a impactului asupra drepturilor fundamentale, astfel cum se prevede la articolul 27, și a înregistrat sistemul în baza de date a UE, în conformitate cu articolul 49. Cu toate acestea, în cazuri de urgență justificate în mod corespunzător, utilizarea sistemelor respective poate fi inițiată fără înregistrarea în baza de date a UE, cu condiția ca înregistrarea respectivă să fie finalizată fără întârzieri nejustificate.
(3) Az (1) bekezdés első albekezdésének h) pontja és a (2) bekezdés alkalmazása céljából a „valós idejű” távoli biometrikus azonosító rendszer nyilvánosság számára hozzáférhető helyeken, bűnüldözési célokra történő minden használata a használat helye szerinti tagállam igazságügyi hatósága vagy független közigazgatási hatósága – amelynek határozata kötelező erejű – által kiadott előzetes engedélyhez kötött, amelyet indokolt megkeresésre, a (5) bekezdésben említett nemzeti jogszabályok részletes szabályaival összhangban bocsátanak ki. Kellően indokolt sürgős esetben azonban a rendszer használata engedély nélkül is megkezdhető, feltéve, hogy az ilyen engedély megkérésére indokolatlan késedelem nélkül, legkésőbb 24 órán belül sor kerül. Ha az ilyen engedélyt elutasítják, a használatot azonnali hatállyal le kell állítani, valamint az említett használat valamennyi eredményét és kimenetét azonnal meg kell semmisíteni, és törölni kell.
(3) În sensul alineatului (1) primul paragraf litera (h) și al alineatului (2), fiecare utilizare în scopul aplicării legii a unui sistem de identificare biometrică la distanță în timp real în spațiile accesibile publicului face obiectul unei autorizații prealabile acordate de o autoritate judiciară sau de o autoritate administrativă independentă a cărei decizie are efect obligatoriu din statul membru în care urmează să aibă loc utilizarea; autorizația respectivă este emisă pe baza unei cereri motivate și în conformitate cu normele detaliate de drept intern menționate la alineatul (5). Cu toate acestea, într-o situație de urgență justificată în mod corespunzător, utilizarea sistemului poate începe fără autorizație, cu condiția ca autorizația respectivă să fie solicitată fără întârzieri nejustificate, cel târziu în termen de 24 de ore. În cazul în care o astfel de autorizație este refuzată, utilizarea sistemului este oprită cu efect imediat și toate datele, precum și rezultatele și produsele obținute în cadrul utilizării respective sunt înlăturate și șterse imediat.
Az illetékes igazságügyi hatóság vagy olyan független közigazgatási hatóság, amelynek határozata kötelező erejű, csak akkor adhatja meg az engedélyt, ha az elé terjesztett objektív bizonyítékok vagy egyértelmű jelzések alapján meggyőződött arról, hogy az érintett „valós idejű” távoli biometrikus azonosító rendszer használata az (1) bekezdés első albekezdésének h) pontjában meghatározott, a megkeresésben azonosított célok valamelyikének eléréséhez szükséges és azzal arányos, továbbá különösen, hogy az időtartam, valamint a földrajzi és személyi hatály tekintetében a feltétlenül szükséges mértékre korlátozódik. A megkeresésről való döntés során az említett hatóságnak figyelembe kell vennie a (2) bekezdésben említett tényezőket. Kizárólag a „valós idejű” távoli biometrikus azonosító rendszer kimenete alapján nem hozható olyan döntés, amely egy személyre nézve kedvezőtlen joghatással jár.
Autoritatea judiciară competentă sau o autoritate administrativă independentă a cărei decizie are efect obligatoriu acordă autorizația numai dacă este convinsă, pe baza unor dovezi obiective sau a unor indicii clare care i-au fost prezentate, că utilizarea sistemului de identificare biometrică la distanță în timp real în cauză este necesară și proporțională pentru realizarea unuia dintre obiectivele menționate la alineatul (1) primul paragraf litera (h), astfel cum a fost identificat în cerere și, în special, rămâne limitată la ceea ce este strict necesar din punctul de vedere al perioadei de timp, precum și al sferei de aplicare geografică și personală. Atunci când ia o decizie cu privire la cerere, autoritatea respectivă ia în considerare elementele menționate la alineatul (2). Nicio decizie care produce un efect juridic negativ asupra unei persoane nu poate fi luată exclusiv pe baza unui rezultat al sistemului de identificare biometrică la distanță în timp real.
(4) A (3) bekezdés sérelme nélkül, a „valós idejű” biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözési célból történő használatáról minden esetben – az (5) bekezdésben említett nemzeti szabályokkal összhangban – értesíteni kell az érintett piacfelügyeleti hatóságot és a nemzeti adatvédelmi hatóságot. Az értesítésnek tartalmaznia kell legalább a (6) bekezdésben meghatározott információkat, és nem tartalmazhat érzékeny operatív adatokat.
(4) Fără a aduce atingere alineatului (3), fiecare utilizare a unui sistem de identificare biometrică la distanță în timp real în spațiile accesibile publicului în scopul aplicării legii este notificată autorității relevante de supraveghere a pieței și autorității naționale pentru protecția datelor, în conformitate cu normele naționale menționate la alineatul (5). Notificarea conține cel puțin informațiile specificate la alineatul (6) și nu include date operaționale sensibile.
(5) A tagállamok dönthetnek úgy, hogy az (1) bekezdés első albekezdésének h) pontjában, valamint a (2) és (3) bekezdésben felsorolt korlátokon belül és feltételek mellett lehetővé teszik a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözési célokból történő használatának teljes vagy részleges engedélyezését. Az érintett tagállamok a nemzeti jogukban meghatározzák a (3) bekezdésben említett engedélyek kérelmezésére, kiadására és felhasználására, valamint az azokkal kapcsolatos felügyeletre és jelentéstételre vonatkozó szükséges részletes szabályokat. Ezekben a szabályokban azt is meg kell határozni, hogy az (1) bekezdés első albekezdésének h) pontjában felsorolt célok közül melyek tekintetében, valamint az említett bekezdés h) pontjának iii. alpontjában említett bűncselekmények közül melyek tekintetében engedélyezhető az illetékes hatóságok számára az említett rendszerek bűnüldözési célú használata. A tagállamok az említett szabályokról legkésőbb azok elfogadása után 30 nappal értesítik a Bizottságot. A tagállamok az uniós joggal összhangban szigorúbb jogszabályokat is bevezethetnek a távoli biometrikus azonosító rendszerek használatára vonatkozóan.
(5) Un stat membru poate decide să prevadă posibilitatea de a autoriza, integral sau parțial, utilizarea sistemelor de identificare biometrică la distanță în timp real în spațiile accesibile publicului în scopul aplicării legii, în limitele și condițiile enumerate la alineatul (1) primul paragraf litera (h) și la alineatele (2) și (3). Statul membru în cauză stabilește în dreptul său intern normele detaliate necesare pentru solicitarea, eliberarea și exercitarea, precum și pentru supravegherea autorizațiilor menționate la alineatul (3) și pentru raportarea cu privire la acestea. Normele respective specifică, de asemenea, pentru care dintre obiectivele enumerate la alineatul (1) primul paragraf litera (h), inclusiv pentru care dintre infracțiunile menționate la litera (h) punctul (iii) de la alineatul respectiv, pot fi autorizate autoritățile competente să utilizeze respectivele sisteme în scopul aplicării legii. Statele membre notifică normele respective Comisiei în termen de cel mult 30 de zile de la adoptarea acestora. Statele membre pot introduce, în conformitate cu dreptul Uniunii, legi mai restrictive privind utilizarea sistemelor de identificare biometrică la distanță.
(6) Azon tagállami nemzeti piacfelügyeleti hatóságok és nemzeti adatvédelmi hatóságok, amelyek a (4) bekezdésnek megfelelően értesítést kaptak a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözési célból történő használatáról, éves jelentéseket nyújtanak be a Bizottságnak az ilyen használatról. E célból a Bizottság sablont bocsát a tagállamok és a nemzeti piacfelügyeleti és adatvédelmi hatóságok rendelkezésére, amely tartalmazza az azon határozatok számára, valamint azok eredményére vonatkozó információkat, amelyeket – a (3) bekezdés szerinti, engedély iránti megkeresésre – az illetékes igazságügyi hatóságok vagy olyan független közigazgatási hatóság hozott, amelynek határozata kötelező erejű.
(6) Autoritățile naționale de supraveghere a pieței și autoritățile naționale de protecție a datelor din statele membre care au fost notificate cu privire la utilizarea sistemelor de identificare biometrică la distanță în timp real în spațiile accesibile publicului în scopul aplicării legii în temeiul alineatului (4) prezintă Comisiei rapoarte anuale cu privire la utilizarea respectivă. În acest scop, Comisia furnizează statelor membre și autorităților naționale de supraveghere a pieței și de protecție a datelor un model, inclusiv informații privind numărul deciziilor luate de autoritățile judiciare competente sau de o autoritate administrativă independentă a cărei decizie are efect obligatoriu, în ceea ce privește cererile de autorizare în conformitate cu alineatul (3), precum și rezultatul cererilor respective.
(7) A Bizottság a (6) bekezdésben említett éves jelentések nyomán a tagállamokban összesített adatok alapján éves jelentéseket tesz közzé a valós idejű távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken történő, bűnüldözési célú használatáról. Az említett éves jelentések nem tartalmazhatják a kapcsolódó bűnüldözési tevékenységek érzékeny operatív adatait.
(7) Comisia publică rapoarte anuale privind utilizarea sistemelor de identificare biometrică la distanță în timp real în spațiile accesibile publicului în scopul aplicării legii, pe baza datelor agregate din statele membre din cadrul rapoartelor anuale menționate la alineatul (6). Rapoartele anuale respective nu includ date operaționale sensibile ale activităților conexe de aplicare a legii.
(8) Ez a cikk nem érinti az abban az esetben alkalmazandó tilalmakat, ha valamely MI-gyakorlat más uniós jogot sért.
(8) Prezentul articol nu afectează interdicțiile care se aplică în cazul în care o practică în materie de IA încalcă alte dispoziții din dreptul Uniunii.
A nagy kockázatú MI-rendszerekre vonatkozó besorolási szabályok
Norme de clasificare pentru sistemele de IA cu grad ridicat de risc
(1) Tekintet nélkül arra, hogy egy MI-rendszert az a) és b) pontban említett termékektől függetlenül hozzák-e forgalomba vagy helyezik-e üzembe, az említett MI-rendszer nagy kockázatúnak minősül, ha mindkét következő feltétel teljesül:
(1) Indiferent dacă un sistem de IA este introdus pe piață sau pus în funcțiune independent de produsele menționate la literele (a) și (b), respectivul sistem de IA este considerat ca prezentând un grad ridicat de risc în cazul în care sunt îndeplinite cumulativ următoarele două condiții:
a)
az MI-rendszert az I. mellékletben felsorolt uniós harmonizációs jogszabályok hatálya alá tartozó termék biztonsági alkotórészeként kívánják használni, vagy az MI-rendszer önmagában ilyen termék;
(a)
sistemul de IA este destinat a fi utilizat ca o componentă de siguranță a unui produs sau sistemul de IA este el însuși un produs care face obiectul legislației de armonizare a Uniunii care figurează în anexa I;
b)
azon terméket, amelynek biztonsági alkatórésze az a) pont alapján az MI-rendszer, vagy magát az MI-rendszert mint terméket harmadik fél által végzett megfelelőségértékelésnek kell alávetni a terméknek az I. mellékletben felsorolt uniós harmonizációs jogszabályok értelmében való forgalomba hozatala vagy üzembe helyezése érdekében.
(b)
produsul a cărui componentă de siguranță în temeiul literei (a) este sistemul de IA sau sistemul de IA în sine ca produs trebuie să fie supus unei evaluări a conformității de către o terță parte, în vederea introducerii pe piață sau a punerii în funcțiune a produsului respectiv în temeiul legislației de armonizare a Uniunii care figurează în anexa I.
(2) Az (1) bekezdésben említett nagy kockázatú MI-rendszerek mellett a III. mellékletben említett MI-rendszereket nagy kockázatúnak kell tekinteni.
(2) Sistemele de IA menționate în anexa III sunt considerate, pe lângă sistemele de IA cu grad ridicat de risc menționate la alineatul (1), ca prezentând un grad ridicat de risc.
(3) A (2) bekezdéstől eltérve, valamely, a III. mellékletben hivatkozott MI-rendszer nem tekinthető nagy kockázatúnak, amennyiben nem jelent jelentős károkozó kockázatot természetes személyek egészségére, biztonságára vagy alapvető jogaira nézve, többek között azáltal, hogy nem befolyásolja lényegesen a döntéshozatal kimenetelét.
(3) Prin derogare de la alineatul (2), un sistem de IA menționat în anexa III nu poate fi considerat ca prezentând un grad ridicat de risc dacă nu prezintă un risc semnificativ de a aduce prejudicii sănătății, siguranței sau drepturilor fundamentale ale persoanelor fizice, inclusiv prin faptul că nu influențează în mod semnificativ rezultatul procesului decizional.
Az első albekezdés alkalmazandó, amennyiben a következő feltételek bármelyike teljesül:
Primul paragraf se aplică în cazul în care oricare dintre următoarele condiții este îndeplinită:
a)
az MI-rendszer rendeltetése jól körülhatárolt eljárási feladat ellátása;
(a)
sistemul de IA este destinat să îndeplinească o sarcină procedurală restrânsă;
b)
az MI-rendszer rendeltetése egy korábban elvégzett emberi tevékenység eredményének a javítása;
(b)
sistemul de IA este destinat să îmbunătățească rezultatul unei activități umane finalizate anterior;
c)
az MI-rendszer rendeltetése döntéshozatali minták vagy korábbi döntéshozatali mintáktól való eltérések észlelése, és nem célja a korábban elvégzett emberi értékelés megfelelő emberi felülvizsgálat nélküli kiváltása vagy befolyásolása; vagy
(c)
sistemul de IA este destinat să depisteze modelele decizionale sau abaterile de la modelele decizionale anterioare și nu este menit să înlocuiască sau să influențeze evaluarea umană finalizată anterior, fără o revizuire umană adecvată; sau
d)
az MI-rendszer rendeltetése egy, a III. mellékletben felsorolt felhasználási esetek céljainak szempontjából releváns értékeléshez kapcsolódó előkészítő feladat elvégzése.
(d)
sistemul de IA este destinat să îndeplinească o sarcină pregătitoare pentru o evaluare relevantă în scopul cazurilor de utilizare enumerate în anexa III.
Az első albekezdés ellenére egy, a III. mellékletben említett MI-rendszert mindig nagy kockázatúnak kell tekinteni, ha az MI-rendszer természetes személyekre vonatkozó profilalkotást végez.
În pofida primului paragraf, un sistem de IA menționat în anexa III este întotdeauna considerat ca prezentând un grad ridicat de risc dacă creează profiluri ale persoanelor fizice.
(4) Azon szolgáltatónak, amely úgy ítéli meg, hogy valamely, a III. mellékletben említett MI-rendszer nem nagy kockázatú, az adott rendszer forgalomba hozatala vagy üzembe helyezése előtt dokumentálnia kell értékelését. Az ilyen szolgáltatóra a 49. cikk (2) bekezdésében meghatározott regisztrációs kötelezettség vonatkozik. Az illetékes nemzeti hatóságok kérésére a szolgáltatónak be kell nyújtania az értékelés dokumentációját.
(4) Orice furnizor care consideră că un sistem de IA menționat în anexa III nu prezintă un grad ridicat de risc documentează evaluarea sa înainte ca sistemul respectiv să fie introdus pe piață sau pus în funcțiune. Furnizorul respectiv este supus obligației de înregistrare prevăzute la articolul 49 alineatul (2). La cererea autorităților naționale competente, furnizorul pune la dispoziție dovezile documentare în sprijinul evaluării.
(5) A Bizottság a Mesterséges Intelligenciával Foglalkozó Európai Testülettel (a továbbiakban: a Testület) folytatott konzultációt követően legkésőbb 2026. február 2-ig iránymutatásokat nyújt, amelyekben meghatározza e cikknek a 96. cikkel összhangban történő gyakorlati végrehajtását, valamint a nagy kockázatú és a nem nagy kockázatú MI-rendszerek felhasználási eseteire vonatkozó gyakorlati példák átfogó listáját.
(5) După consultarea Consiliului european pentru inteligența artificială (denumit în continuare „Consiliul IA”) și în termen de cel mult 2 februarie 2026, Comisia furnizează orientări care precizează modalitățile privind punerea în aplicare practică a prezentului articol, în conformitate cu articolul 96, împreună cu o listă cuprinzătoare de exemple practice de cazuri de utilizare a sistemelor de IA care prezintă un grad ridicat de risc și a celor care nu prezintă un grad ridicat de risc.
(6) A Bizottság felhatalmazást kap arra, hogy a 97. cikknek megfelelően felhatalmazáson alapuló jogi aktusokat fogadjon el e cikk (3) bekezdése második albekezdésének módosítása céljából, új feltételekkel egészítve ki az ott megállapított feltételeket, vagy módosítva azokat, amennyiben konkrét és megbízható bizonyíték áll rendelkezésre a III. melléklet hatálya alá tartozó, de a természetes személyek egészségére, biztonságára vagy alapvető jogaira nézve károkozó kockázatot nem jelentő MI-rendszerek meglétére vonatkozóan.
(6) Comisia este împuternicită să adopte acte delegate în conformitate cu articolul 97 pentru a modifica alineatul (3) al doilea paragraf de la prezentul articol prin adăugarea de noi condiții față de cele prevăzute la dispoziția menționată sau prin modificarea acestora, în cazul în care există dovezi concrete și fiabile ale existenței unor sisteme de IA care intră în domeniul de aplicare al anexei III, dar care nu prezintă un risc semnificativ de a aduce prejudicii sănătății, siguranței sau drepturilor fundamentale ale persoanelor fizice.
(7) A Bizottság a 97. cikkel összhangban felhatalmazáson alapuló jogi aktusokat fogad el e cikk (3) bekezdése második albekezdésének módosítása céljából az ott meghatározott feltételek bármelyikének törlésével, amennyiben konkrét és megbízható bizonyítékok állnak rendelkezésre arra vonatkozóan, hogy ez szükséges az egészség, a biztonság és az alapvető jogok védelme e rendeletben előírt szintjének fenntartásához.
(7) Comisia adoptă acte delegate în conformitate cu articolul 97 pentru a modifica alineatul (3) al doilea paragraf de la prezentul articol prin eliminarea oricăreia dintre condițiile prevăzute la dispoziția menționată, în cazul în care există dovezi concrete și fiabile că acest lucru este necesar în scopul menținerii nivelului de protecție a sănătății, a siguranței și a drepturilor fundamentale prevăzut în prezentul regulament.
(8) A (3) bekezdés második albekezdésében meghatározott feltételek – e cikk (6) vagy (7) bekezdésével összhangban elfogadott – bármely módosítása nem csökkentheti az egészség, a biztonság és az alapvető jogok védelmének e rendelet által előírt általános szintjét, továbbá biztosítania kell a 7. cikk (1) bekezdése alapján elfogadott, felhatalmazáson alapuló jogi aktusokkal való összhangot, és figyelembe kell vennie a piaci és technológiai fejleményeket.
(8) Orice modificare a condițiilor prevăzute la alineatul (3) al doilea paragraf, adoptată în conformitate cu alineatele (6) și (7) de la prezentul articol, nu reduce nivelul general de protecție a sănătății, a siguranței și a drepturilor fundamentale prevăzut în prezentul regulament și asigură corelarea cu actele delegate adoptate în temeiul articolului 7 alineatul (1) și ține seama de evoluțiile pieței și ale tehnologiei.
Kockázatkezelési rendszer
Sistemul de gestionare a riscurilor
(1) A nagy kockázatú MI-rendszerek tekintetében kockázatkezelési rendszert kell létrehozni, bevezetni, dokumentálni és fenntartani.
(1) Se instituie, se pune în aplicare, se documentează și se menține un sistem de gestionare a riscurilor în legătură cu sistemele de IA cu grad ridicat de risc.
(2) A kockázatkezelési rendszer alatt olyan megszakítás nélkül végzett iteratív folyamatot kell érteni, amelyet a nagy kockázatú MI-rendszer egész életciklusára terveztek és működtetnek, és amely rendszeres és szisztematikus felülvizsgálatot és aktualizálást igényel. A folyamatnak a következő lépéseket kell tartalmaznia:
(2) Sistemul de gestionare a riscurilor este înțeles ca un proces iterativ continuu planificat și derulat pe parcursul întregului ciclu de viață al unui sistem de IA cu grad ridicat de risc, necesitând în mod periodic actualizarea și revizuirea sistematică. Acesta cuprinde următoarele etape:
a)
azon ismert, valamint észszerűen előre látható kockázatok azonosítása és elemzése, amelyeket a nagy kockázatú MI-rendszer rendeltetésszerű használata esetén az egészségre, a biztonságra és az alapvető jogokra jelenthet;
(a)
identificarea și analiza riscurilor cunoscute și previzibile în mod rezonabil pe care sistemul de IA cu grad ridicat de risc le poate prezenta pentru sănătate, siguranță sau drepturile fundamentale atunci când sistemul de IA cu grad ridicat de risc este utilizat în conformitate cu scopul preconizat;
b)
a nagy kockázatú MI-rendszer rendeltetésszerű használata, valamint észszerűen előre látható rendellenes használata esetén felmerülő kockázatok becslése és értékelése;
(b)
estimarea și evaluarea riscurilor care pot apărea atunci când sistemul de IA cu grad ridicat de risc este utilizat în conformitate cu scopul său preconizat și în condiții de utilizare necorespunzătoare previzibilă în mod rezonabil;
c)
egyéb esetlegesen felmerülő kockázatok értékelése a 72. cikkben említett forgalomba hozatal utáni nyomonkövetési rendszerből gyűjtött adatok elemzése alapján;
(c)
evaluarea altor riscuri care ar putea apărea pe baza analizei datelor colectate din sistemul de monitorizare ulterioară introducerii pe piață menționat la articolul 72;
d)
az a) pont alapján azonosított kockázatok kezelésére irányuló megfelelő és célzott kockázatkezelési intézkedések elfogadása.
(d)
adoptarea unor măsuri adecvate și specifice de gestionare a riscurilor, concepute pentru a combate riscurile identificate în temeiul literei (a).
(3) Az e cikkben említett kockázatok alatt csak azok értendők, amelyek a nagy kockázatú MI-rendszer fejlesztése vagy tervezése, vagy a megfelelő műszaki információk biztosítása révén észszerűen enyhíthetők vagy kiküszöbölhetők.
(3) Prezentul articol se referă numai la riscurile care pot fi atenuate sau eliminate în mod rezonabil prin dezvoltarea sau proiectarea sistemului de IA cu grad ridicat de risc sau prin furnizarea de informații tehnice adecvate.
(4) A (2) bekezdés d) pontjában említett kockázatkezelési intézkedések tekintetében kellően figyelembe kell venni az e szakaszban meghatározott követelmények együttes alkalmazásából eredő hatásokat és lehetséges kölcsönhatást a kockázatok hatékonyabb minimalizálása érdekében, egyúttal megfelelő egyensúlyt elérve az említett követelmények teljesítését célzó intézkedések végrehajtása során.
(4) Măsurile de gestionare a riscurilor menționate la alineatul (2) litera (d) țin seama în mod corespunzător de efectele și interacțiunea posibilă care rezultă din aplicarea combinată a cerințelor prevăzute în prezenta secțiune, în vederea reducerii la minimum a riscurilor într-un mod mai eficace, obținându-se totodată un echilibru adecvat în punerea în aplicare a măsurilor de îndeplinire a cerințelor respective.
(5) A (2) bekezdés d) pontjában említett kockázatkezelési intézkedéseket úgy kell kialakítani, hogy az egyes veszélyekhez kapcsolódó releváns fennmaradó kockázatot, valamint a nagy kockázatú MI-rendszerek teljes fennmaradó kockázatát elfogadhatónak ítéljék.
(5) Măsurile de gestionare a riscurilor menționate la alineatul (2) litera (d) sunt de așa natură încât riscul rezidual relevant asociat fiecărui pericol, precum și riscul rezidual global al sistemelor de IA cu grad ridicat de risc să fie considerate a fi acceptabile.
A legmegfelelőbb kockázatkezelési intézkedések meghatározásakor a következőket kell biztosítani:
La identificarea celor mai adecvate măsuri de gestionare a riscurilor se asigură următoarele:
a)
a (2) bekezdés alapján azonosított és értékelt kockázatok megszüntetése vagy csökkentése – amennyiben műszakilag megvalósítható – a nagy kockázatú MI-rendszer megfelelő tervezése és fejlesztése révén;
(a)
eliminarea sau reducerea riscurilor identificate și evaluate în temeiul alineatului (2), în măsura în care acest lucru este fezabil din punct de vedere tehnic prin proiectarea și dezvoltarea adecvată a sistemului de IA cu grad ridicat de risc;
b)
adott esetben a nem megszüntethető kockázatok kezelésére szolgáló kockázatcsökkentő és ellenőrző intézkedések végrehajtása;
(b)
după caz, punerea în aplicare a unor măsuri adecvate de atenuare și control pentru combaterea riscurilor care nu pot fi eliminate;
c)
a 13. cikk alapján előírt tájékoztatás, valamint adott esetben képzés nyújtása az alkalmazók számára.
(c)
furnizarea informațiilor necesare în temeiul articolului 13 și, după caz, formarea implementatorilor.
A nagy kockázatú MI-rendszer használatával kapcsolatos kockázatok megszüntetése vagy csökkentése céljából kellő figyelmet kell fordítani az alkalmazó által elvárt műszaki ismeretekre, tapasztalatokra, oktatásra és képzésre, valamint azon körülményekre, amelyek között a rendszert feltételezhetően használni kívánják.
În vederea eliminării sau reducerii riscurilor legate de utilizarea sistemului de IA cu grad ridicat de risc se acordă atenția cuvenită cunoștințelor tehnice, experienței, educației și formării preconizate din partea implementatorului, precum și contextului prezumtiv în care urmează să fie utilizat sistemul.
(6) A nagy kockázatú MI-rendszereket tesztelni kell a legmegfelelőbb és célzott kockázatkezelési intézkedések azonosítása céljából. A tesztelés biztosítja, hogy a nagy kockázatú MI-rendszerek következetesen működjenek a rendeltetésüknek megfelelően, és megfeleljenek az e szakaszban meghatározott követelményeknek.
(6) Sistemele de IA cu grad ridicat de risc sunt testate în scopul identificării celor mai adecvate măsuri specifice de gestionare a riscurilor. Testarea asigură faptul că sistemele de IA cu grad ridicat de risc funcționează într-un mod coerent cu scopul preconizat și că sunt conforme cu cerințele stabilite în prezenta secțiune.
(7) A tesztelési eljárások a 60. cikkel összhangban valós körülmények közötti tesztelést is magukban foglalhatnak.
(7) Procedurile de testare pot include testarea în condiții reale, în conformitate cu articolul 60.
(8) A nagy kockázatú MI-rendszerek tesztelését adott esetben a fejlesztési folyamat során bármikor, de mindenképpen a forgalomba hozatalt vagy az üzembe helyezést megelőzően kell elvégezni. A tesztelést a nagy kockázatú MI-rendszer rendeltetése szempontjából megfelelő, előzetesen meghatározott mérőszámok és valószínűségi küszöbértékek alapján kell elvégezni.
(8) Testarea sistemelor de IA cu grad ridicat de risc se efectuează, după caz, în orice moment pe parcursul procesului de dezvoltare și, în orice caz, înainte de introducerea pe piață sau de punerea în funcțiune a acestora. Testarea se efectuează pe baza unor indicatori și a unor praguri probabilistice definite în prealabil, care sunt adecvate scopului preconizat al sistemului de IA cu grad ridicat de risc.
(9) Az (1)–(7) bekezdésben meghatározott kockázatkezelési rendszer végrehajtása során a szolgáltatóknak megfontolás tárgyává kell tenniük azt, hogy a nagy kockázatú MI-rendszer – a rendeltetése szempontjából – valószínűleg kedvezőtlen hatást gyakorol-e a 18 év alatti személyekre és adott esetben más kiszolgáltatott csoportokra.
(9) La punerea în aplicare a sistemului de gestionare a riscurilor descris la alineatele (1)-(7), furnizorii analizează dacă, având în vedere scopul său preconizat, sistemul de IA cu grad ridicat de risc este susceptibil să aibă un impact negativ asupra persoanelor cu vârsta sub 18 ani și, după caz, asupra altor grupuri vulnerabile.
(10) A nagy kockázatú MI-rendszerek azon szolgáltatói esetében, amelyek az uniós jog egyéb vonatkozó rendelkezéseinek értelmében belső kockázatkezelési folyamatokra vonatkozó követelmények hatálya alá tartoznak, az (1)–(9) bekezdésben leírt szempontok az említett jog alapján létrehozott kockázatkezelési eljárások részét képezhetik vagy azokhoz társulhatnak.
(10) Pentru furnizorii de sisteme de IA cu grad ridicat de risc care fac obiectul unor cerințe privind procesele interne de gestionare a riscurilor în temeiul altor dispoziții relevante din dreptul Uniunii, aspectele descrise la alineatele (1)-(9) pot face parte din procedurile de gestionare a riscurilor stabilite în temeiul legislației respective sau pot fi combinate cu acestea.
Datele și guvernanța datelor
(1) A modellek adatokkal való tanítását magukban foglaló technikákat használó nagy kockázatú MI-rendszereket olyan tanító-, validálási és tesztadatkészletek alapján kell fejleszteni, amelyek – az ilyen adatkészletek használatakor – megfelelnek a (2)–(5) bekezdésben említett minőségi kritériumoknak.
(1) Sistemele de IA cu grad ridicat de risc care utilizează tehnici ce implică antrenarea de modele de IA cu date se dezvoltă pe baza unor seturi de date de antrenament, de validare și de testare care îndeplinesc criteriile de calitate menționate la alineatele (2)-(5) ori de câte ori sunt utilizate astfel de seturi de date.
(2) A tanító-, a validálási és a tesztadatkészleteket a nagy kockázatú MI-rendszer rendeltetésének megfelelő adatkormányzási és adatgazdálkodási gyakorlatoknak kell alávetni. Ezek a gyakorlatok különösen a következőket érintik:
(2) Seturile de date de antrenament, de validare și de testare fac obiectul unor practici de guvernanță și gestionare a datelor adecvate scopului preconizat al sistemului de IA cu grad ridicat de risc. Practicile respective se referă în special la:
a)
a vonatkozó tervezési döntések;
(a)
opțiunile de proiectare relevante;
b)
az adatgyűjtési eljárások és az adatok eredete, valamint személyes adatok esetében az adatgyűjtés eredeti célja;
(b)
procesele de colectare a datelor și originea datelor, iar în cazul datelor cu caracter personal, scopul inițial al colectării datelor;
c)
a releváns adatelőkészítési műveletek, mint például annotálás, címkézés, tisztítás, frissítés, gazdagítás és összesítés;
(c)
operațiunile relevante de prelucrare în vederea pregătirii datelor, cum ar fi adnotarea, etichetarea, curățarea, actualizarea, îmbogățirea și agregarea;
d)
feltételezések megfogalmazása, különös tekintettel azon információkra, amelyeket az adatoknak az elvárás szerint mérniük kell és meg kell jeleníteniük;
(d)
formularea unor ipoteze, în special în ceea ce privește informațiile pe care datele ar trebui să le măsoare și să le reprezinte;
e)
a szükséges adatkészletek rendelkezésre állásának, mennyiségének és alkalmasságának értékelése;
(e)
o evaluare a disponibilității, a cantității și a adecvării seturilor de date necesare;
f)
az esetleges olyan torzítások vizsgálata, amelyek valószínűleg hatnak a személyek egészségére és biztonságára, negatív hatást gyakorolnak az alapvető jogokra, vagy az uniós jog által tiltott megkülönböztetéshez vezetnek, különösen akkor, ha az adatok kimenetei befolyásolják a jövőbeli műveletek bemeneteit;
(f)
examinarea în vederea identificării unor posibile prejudecăți care sunt susceptibile să afecteze sănătatea și siguranța persoanelor, să aibă un impact negativ asupra drepturilor fundamentale sau să conducă la o discriminare interzisă în temeiul dreptului Uniunii, în special în cazul în care datele de ieșire influențează datele de intrare pentru operațiunile viitoare;
g)
az f) ponttal összhangban azonosított esetleges torzítások felderítését, megelőzését és enyhítését célzó megfelelő intézkedések;
(g)
măsuri adecvate pentru detectarea, prevenirea și atenuarea posibilelor prejudecăți identificate în conformitate cu litera (f);
h)
az e rendeletnek való megfelelést akadályozó releváns adathiányok vagy hiányosságok azonosítása, valamint e hiányok és hiányosságok kezelésének módja.
(h)
identificarea lacunelor sau a deficiențelor relevante în materie de date care împiedică conformitatea cu prezentul regulament și a modului în care acestea pot fi abordate.
(3) A tanító-, a validálási és a tesztadatkészleteknek relevánsnak, kellően reprezentatívnak, valamint – a rendeltetés szempontjából – a lehető legnagyobb mértékben hibáktól mentesnek és teljesnek kell lenniük. Rendelkezniük kell a megfelelő statisztikai tulajdonságokkal is, többek között adott esetben azon személyek vagy személyek csoportjai tekintetében, akikkel vagy amelyekkel kapcsolatosan a nagy kockázatú MI-rendszert használni kívánják. Az említett adatkészletek e jellemzői teljesíthetők az egyes adatkészletek szintjén vagy azok kombinációjának a szintjén.
(3) Seturile de date de antrenament, de validare și de testare sunt relevante, suficient de reprezentative, și pe cât posibil, fără erori și complete, având în vedere scopul preconizat. Acestea au proprietățile statistice corespunzătoare, inclusiv, după caz, în ceea ce privește persoanele sau grupurile de persoane în legătură cu care se intenționează să fie utilizat sistemul de IA cu grad ridicat de risc. Caracteristicile respective ale seturilor de date pot fi îndeplinite la nivelul seturilor de date individuale sau la nivelul unei combinații a acestora.
(4) Az adatkészleteknek – a rendeltetéstől függően szükséges mértékben – figyelembe kell venniük azon jellemzőket vagy elemeket, amelyek azon sajátos földrajzi, kontextuális, magatartási vagy funkcionális környezethez kapcsolódnak, amelyben a nagy kockázatú MI-rendszert használni kívánják.
(4) Seturile de date iau în considerare, în măsura impusă de scopul preconizat, caracteristicile sau elementele specifice cadrului geografic, contextual, comportamental sau funcțional specific în care este destinat să fie utilizat sistemul de IA cu grad ridicat de risc.
(5) A nagy kockázatú MI-rendszerekkel kapcsolatos torzítás észlelésének és korrekciójának biztosításához feltétlenül szükséges mértékben – e cikk (2) bekezdésének f) és g) pontjával összhangban – az ilyen rendszerek szolgáltatói kivételesen kezelhetik a személyes adatok különleges kategóriáit, figyelemmel a természetes személyek alapvető jogaira és szabadságaira vonatkozó megfelelő biztosítékokra. Ahhoz, hogy az ilyen feldolgozás megtörténhessen, az (EU) 2016/679 és az (EU) 2018/1725 rendeletben, valamint az (EU) 2016/680 irányelvben meghatározott rendelkezéseken túlmenően, a következő feltételek mindegyikének teljesülnie kell:
(5) În măsura în care acest lucru este strict necesar pentru a asigura detectarea și corectarea prejudecăților în legătură cu sistemele de IA cu grad ridicat de risc în conformitate cu alineatul (2) literele (f) și (g) de la prezentul articol, furnizorii de astfel de sisteme pot prelucra în mod excepțional categoriile speciale de date cu caracter personal, sub rezerva unor garanții adecvate pentru drepturile și libertățile fundamentale ale persoanelor fizice. În plus față de dispozițiile prevăzute de Regulamentele (UE) 2016/679 și (UE) 2018/1725 și de Directiva (UE) 2016/680, pentru ca o astfel de prelucrare să aibă loc, trebuie să fie respectate toate condițiile următoare:
a)
a torzítás észlelése és korrekciója más adatok – köztük szintetikus vagy anonimizált adatok – feldolgozásával nem valósítható meg hatékonyan;
(a)
depistarea și corectarea prejudecăților nu poate fi realizată în mod eficace prin prelucrarea altor date, inclusiv a datelor sintetice sau anonimizate;
b)
a személyes adatok különleges kategóriái a személyes adatok további felhasználására vonatkozó technikai korlátozások, valamint a legkorszerűbb biztonsági és magánéletvédelmi intézkedések – köztük az álnevesítés – hatálya alá tartoznak;
(b)
categoriile speciale de date cu caracter personal fac obiectul unor limitări tehnice privind reutilizarea datelor cu caracter personal și al unor măsuri avansate de securitate și de protecție a vieții private, inclusiv pseudonimizarea;
c)
a személyes adatok különleges kategóriái olyan intézkedések hatálya alá tartoznak, amelyek célja annak biztosítása, hogy a feldolgozott személyes adatok biztonságosak és védettek legyenek, megfelelő biztosítékok hatálya alá tartozzanak – ideértve a szigorú ellenőrzést és a hozzáférés dokumentálását –, valamint a rendellenes használat elkerülése és annak garantálása, hogy az említett személyes adatokhoz csak felhatalmazott és megfelelő titoktartási kötelezettségek alá tartozó személyek férjenek hozzá;
(c)
categoriile speciale de date cu caracter personal fac obiectul unor măsuri prin care să se asigure că datele cu caracter personal prelucrate sunt securizate și protejate, sub rezerva unor garanții adecvate, inclusiv controale stricte și documentarea accesului, pentru a se evita utilizarea necorespunzătoare și pentru a se asigura că numai persoanele autorizate cu obligații de confidențialitate corespunzătoare au acces la aceste date cu caracter personal;
d)
a különleges kategóriájú személyes adatok nem továbbíthatók, nem ruházhatók át, és nem tehetők harmadik felek által egyéb módon hozzáférhetővé;
(d)
categoriile speciale de date cu caracter personal nu trebuie să fie transmise, transferate sau accesate în alt mod de către alte părți;
e)
a különleges kategóriájú személyes adatok törlésre kerülnek, amint a torzítást korrigálták, vagy a személyes adatok megőrzési időszaka lejárt, attól függően, hogy melyik következik be előbb;
(e)
categoriile speciale de date cu caracter personal sunt șterse după corectarea prejudecăților sau după ce datele cu caracter personal au ajuns la sfârșitul perioadei lor de păstrare, în funcție de care dintre acestea survine mai întâi;
f)
az adatkezelési tevékenységeknek az (EU) 2016/679 és az (EU) 2018/1725 rendelet, valamint az (EU) 2016/680 irányelv szerinti nyilvántartásai tartalmazzák annak magyarázatát, hogy a személyes adatok különleges kategóriáinak kezelése miért volt feltétlenül szükséges a torzítások felderítéséhez és korrekciójához, és hogy ez a cél miért nem volt elérhető más adatok kezelésével.
(f)
evidențele activităților de prelucrare în temeiul Regulamentelor (UE) 2016/679 și (UE) 2018/1725 și al Directivei (UE) 2016/680 includ motivele pentru care a fost strict necesară prelucrarea unor categorii speciale de date cu caracter personal pentru a depista și a corecta prejudecățile și motivele pentru care acest obiectiv nu putea fi realizat prin prelucrarea altor date.
(6) Az MI-modellek tanítását magukban foglaló technikákat nem alkalmazó nagy kockázatú MI-rendszerek fejlesztése esetében a (2)–(5) bekezdés csak a tesztadatkészletekre alkalmazandó.
(6) Pentru dezvoltarea sistemelor de IA cu grad ridicat de risc care nu utilizează tehnici care implică antrenarea de modele de IA, alineatele (2)-(5) se aplică numai seturilor de date de testare.
(1) A nagy kockázatú MI-rendszerek műszaki dokumentációját a rendszer forgalomba hozatala vagy üzembe helyezése előtt kell elkészíteni, és naprakészen kell tartani.
(1) Documentația tehnică a unui sistem de IA cu grad ridicat de risc se întocmește înainte ca sistemul respectiv să fie introdus pe piață sau pus în funcțiune și se actualizează.
A műszaki dokumentációt úgy kell összeállítani, hogy bizonyítsa, hogy a nagy kockázatú MI-rendszer megfelel az e szakaszban meghatározott követelményeknek, és hogy belőle az illetékes nemzeti hatóságok és a bejelentett szervezetek világos és érthető formában hozzájussanak az annak értékeléséhez szükséges információkhoz, hogy az MI-rendszer megfelel-e az említett követelményeknek. A műszaki dokumentációnak tartalmaznia kell legalább a IV. mellékletben meghatározott elemeket. A kkv-k – köztük az induló innovatív vállalkozások – egyszerűsített formában nyújthatják be a IV. mellékletben meghatározott technikai dokumentáció elemeit. E célból a Bizottság létrehozza a kis- és mikrovállalkozások igényeinek megfelelő, egyszerűsített műszaki dokumentációs formanyomtatványt. Amennyiben valamely kkv – például induló innovatív vállalkozás – úgy dönt, hogy a IV. mellékletben előírt információkat egyszerűsített formában nyújtja be, e célra az e bekezdésben említett formanyomtatványt kell használnia. A bejelentett szervezeteknek a megfelelőségértékelés céljára el kell fogadniuk a formanyomtatványt.
Documentația tehnică se întocmește astfel încât să demonstreze că sistemul de IA cu grad ridicat de risc respectă cerințele prevăzute în prezenta secțiune și să furnizeze autorităților naționale competente și organismelor notificate informațiile necesare într-un mod clar și cuprinzător, pentru a evalua conformitatea sistemului de IA cu cerințele respective. Aceasta conține cel puțin elementele prevăzute în anexa IV. IMM-urile, inclusiv întreprinderile nou-înființate, pot furniza într-o manieră simplificată elementele documentației tehnice specificate în anexa IV. În acest scop, Comisia stabilește un formular simplificat de documentație tehnică care vizează nevoile întreprinderilor mici și ale microîntreprinderilor. În cazul în care IMM-urile, inclusiv întreprinderile nou-înființate, optează să furnizeze informațiile solicitate în anexa IV într-o manieră simplificată, acestea utilizează formularul menționat la prezentul alineat. Organismele notificate acceptă formularul în scopul evaluării conformității.
(2) Olyan termékhez kapcsolódó nagy kockázatú MI-rendszer forgalomba hozatala vagy üzembe helyezése esetén, amelyre az I. melléklet A. szakaszában felsorolt uniós harmonizációs jogszabályok vonatkoznak, egyetlen műszaki dokumentációs csomagot kell készíteni, amely tartalmazza az (1) bekezdésben meghatározott valamennyi információt, valamint az említett jogi aktusokban előírt információkat.
(2) În cazul în care este introdus pe piață sau pus în funcțiune un sistem de IA cu grad ridicat de risc legat de un produs care face obiectul actelor legislative de armonizare ale Uniunii care figurează în anexa I secțiunea A, se întocmește o singură documentație tehnică ce conține toate informațiile prevăzute la alineatul (1), precum și informațiile necesare în temeiul respectivelor acte juridice.
(3) A Bizottság felhatalmazást kap arra, hogy a 97. cikknek megfelelően felhatalmazáson alapuló jogi aktusokat fogadjon el, hogy szükség esetén módosítsa a IV. mellékletet annak biztosítása érdekében, hogy a műszaki dokumentáció a műszaki fejlődés fényében minden szükséges információt megadjon annak értékeléséhez, hogy a rendszer megfelel-e az e szakaszban meghatározott követelményeknek.
(3) Comisia este împuternicită să adopte acte delegate în conformitate cu articolul 97 pentru a modifica anexa IV, atunci când este necesar, pentru a se asigura că, având în vedere progresul tehnic, documentația tehnică furnizează toate informațiile necesare pentru evaluarea conformității sistemului cu cerințele prevăzute în prezenta secțiune.
(1) A nagy kockázatú MI-rendszereket úgy kell megtervezni és fejleszteni – többek között megfelelő ember–gép interfész eszközökkel –, hogy azokat a használatuk időtartama alatt természetes személyek hatékonyan felügyelhessék.
(1) Sistemele de IA cu grad ridicat de risc sunt proiectate și dezvoltate astfel încât, prin includerea de instrumente adecvate de interfață om-mașină, să poată fi supravegheate în mod eficace de către persoane fizice în perioada în care sunt utilizate.
(2) Az emberi felügyelet célja az egészséget, a biztonságot vagy az alapvető jogokat érintő azon kockázatok megelőzése vagy minimalizálása, amelyek a nagy kockázatú MI-rendszer rendeltetésszerű használata vagy észszerűen előrelátható rendellenes használata esetén merülhetnek fel, különösen, amennyiben az ilyen kockázatok az e szakaszban meghatározott egyéb követelmények alkalmazásának ellenére tartósan fennállnak.
(2) Supravegherea umană are ca scop prevenirea sau reducerea la minimum a riscurilor pentru sănătate, siguranță sau pentru drepturile fundamentale, care pot apărea atunci când un sistem de IA cu grad ridicat de risc este utilizat în conformitate cu scopul său preconizat sau în condiții de utilizare necorespunzătoare previzibilă în mod rezonabil, în special în cazurile în care astfel de riscuri persistă în pofida aplicării altor cerințe prevăzute în prezenta secțiune.
(3) A felügyeleti intézkedéseknek arányban kell állniuk a nagy kockázatú MI-rendszer kockázataival, autonómia-szintjével és felhasználási kontextusával, és azokat a következő intézkedéstípusok közül az egyik vagy mindkettő révén kell biztosítani:
(3) Măsurile de supraveghere sunt proporționale cu riscurile specifice, cu nivelul de autonomie și cu contextul utilizării sistemului de IA cu grad ridicat de risc și se asigură fie prin unul dintre următoarele tipuri de măsuri, fie prin ambele:
a)
a szolgáltató által a nagy kockázatú MI-rendszer forgalomba hozatala vagy üzembe helyezése előtt azonosított és – amennyiben műszakilag megvalósítható – a nagy kockázatú MI-rendszerbe beépített intézkedések;
(a)
măsuri identificate și încorporate, atunci când este fezabil din punct de vedere tehnic, în sistemul de IA cu grad ridicat de risc de către furnizor înainte ca acesta să fie introdus pe piață sau pus în funcțiune;
b)
a szolgáltató által a nagy kockázatú MI-rendszer forgalomba hozatala vagy üzembe helyezése előtt azonosított, és az alkalmazó általi alkalmazásra megfelelő intézkedések.
(b)
măsuri identificate de furnizor înainte de introducerea pe piață sau punerea în funcțiune a sistemului de IA cu grad ridicat de risc și care sunt adecvate pentru a fi puse în aplicare de implementator.
(4) Az (1), a (2) és a (3) bekezdés végrehajtása céljából a nagy kockázatú MI-rendszert oly módon kell az alkalmazó rendelkezésére bocsátani, hogy az emberi felügyelettel megbízott természetes személyek – adott esetben és arányos módon – képessé váljanak a következőkre:
(4) În scopul punerii în aplicare a alineatelor (1), (2) și (3), sistemul de IA cu grad ridicat de risc este pus la dispoziția implementatorului astfel încât persoanelor fizice cărora li se încredințează supravegherea umană să li se permită, în funcție de următoarele și proporțional cu acestea:
a)
megfelelően megérteni a nagy kockázatú MI-rendszer releváns képességeit és korlátait, valamint tudni kellően nyomon követni annak működését, többek között a rendellenességek, zavarok és a váratlan teljesítmény felderítése és kezelése érdekében;
(a)
să înțeleagă în mod corespunzător capacitățile și limitările relevante ale sistemului de IA cu grad ridicat de risc și să fie în măsură să monitorizeze în mod corespunzător funcționarea acestuia, inclusiv în vederea depistării și abordării anomaliilor, disfuncționalităților și performanțelor neașteptate;
b)
tudatában maradni a nagy kockázatú MI-rendszerek által előállított kimenetre való automatikus vagy túlzott mértékű támaszkodás tendenciájának („automatizálási torzítás”), különösen azon nagy kockázatú MI-rendszerek esetében, amelyeket információ vagy ajánlások nyújtására használnak a természetes személyek által hozandó döntésekhez;
(b)
să rămână conștiente de posibila tendință de a se baza în mod automat sau excesiv pe rezultatele obținute de un sistem de IA cu grad ridicat de risc (prejudecăți legate de automatizare), în special în cazul sistemelor de IA cu grad ridicat de risc utilizate pentru a furniza informații sau recomandări pentru deciziile care urmează să fie luate de persoanele fizice;
c)
helyesen értelmezni a nagy kockázatú MI-rendszer kimenetét, figyelembe véve például a rendelkezésre álló értelmezési eszközöket és módszereket;
(c)
să interpreteze corect rezultatele sistemului de IA cu grad ridicat de risc, ținând seama, de exemplu, de instrumentele și metodele de interpretare disponibile;
d)
bármely konkrét helyzetben dönteni arról, hogy nem használják a nagy kockázatú MI-rendszert, vagy más módon figyelmen kívül hagyják, felülírják vagy visszafordítják a nagy kockázatú MI-rendszer kimenetét;
(d)
să decidă, în orice situație anume, să nu utilizeze sistemul de IA cu grad ridicat de risc sau să ignore, să anuleze sau să inverseze rezultatele sistemului de IA cu grad ridicat de risc;
e)
beavatkozni a nagy kockázatú MI-rendszer működésébe, vagy megszakítani a rendszert egy „stop” gomb vagy olyan, hasonló eljárás révén, amely lehetővé teszi a rendszer biztonságos állapotban történő leállását.
(e)
să intervină în funcționarea sistemului de IA cu grad ridicat de risc sau să întrerupă sistemul prin intermediul unui buton „stop” sau al unei proceduri similare care să permită sistemului să se oprească în condiții de siguranță.
(5) A III. melléklet 1. pontjának a) alpontjában említett nagy kockázatú MI-rendszerek esetében az e cikk (3) bekezdésében említett intézkedéseknek olyanoknak kell lenniük, amelyek biztosítják, hogy emellett az alkalmazó a rendszerből származó azonosítás alapján ne hozzon intézkedést vagy döntést, kivéve, ha az említett azonosítást legalább két, a szükséges kompetenciával, képzettséggel és hatáskörrel rendelkező természetes személy – egymástól függetlenül – ellenőrizte és megerősítette.
(5) În cazul sistemelor de IA cu grad ridicat de risc menționate în anexa III punctul 1 litera (a), măsurile menționate la alineatul (3) de la prezentul articol sunt de așa natură încât să asigure că, în plus, implementatorul nu ia nicio măsură sau decizie pe baza identificării care rezultă din sistem, cu excepția cazului în care identificarea respectivă a fost verificată și confirmată separat de cel puțin două persoane fizice care au competența, pregătirea și autoritatea necesare.
A legalább két természetes személy által egymástól függetlenül végzett ellenőrzésre vonatkozó követelmény nem alkalmazandó a bűnüldözés, a migráció, a határellenőrzés vagy a menekültügy céljaira használt nagy kockázatú MI-rendszerekre, amennyiben az uniós vagy a nemzeti jog e követelmény alkalmazását aránytalannak tekinti.
Cerința unei verificări separate de către cel puțin două persoane fizice nu se aplică sistemelor de IA cu grad ridicat de risc utilizate în scopul aplicării legii sau în domeniul imigrației, al controlului la frontiere ori al azilului, în cazurile în care dreptul Uniunii sau dreptul intern consideră că aplicarea acestei cerințe este disproporționată.
Pontosság, stabilitás és kiberbiztonság
Acuratețe, robustețe și securitate cibernetică
(1) A nagy kockázatú MI-rendszereket úgy kell megtervezni és fejleszteni, hogy megfelelő szintű pontosságot, stabilitást és kiberbiztonságot érjenek el, továbbá, hogy e tekintetben a teljes életciklusuk során következetesen teljesítsenek.
(1) Sistemele de IA cu grad ridicat de risc sunt concepute și dezvoltate astfel încât să atingă un nivel adecvat de acuratețe, robustețe și securitate cibernetică și să funcționeze în mod consecvent în aceste privințe pe parcursul întregului lor ciclu de viață.
(2) A pontosság és a stabilitás (1) bekezdésben meghatározott szintjeinek mérésével kapcsolatos technikai szempontok figyelembevétele érdekében a Bizottság – a releváns érdekelt felekkel és szervezetekkel, így például a metrológiai és teljesítményértékelési hatóságokkal együttműködve – adott esetben ösztönzi a referenciaértékek és mérési módszertanok kidolgozását.
(2) Pentru a aborda aspectele tehnice ale modului de măsurare a nivelurilor adecvate de acuratețe și robustețe prevăzute la alineatul (1) și orice alți indicatori de performanță relevanți, Comisia, în cooperare cu părți interesate și organizații relevante precum autoritățile din domeniul metrologiei și al etalonării încurajează, după caz, elaborarea de valori de referință și metodologii de măsurare.
(3) A nagy kockázatú MI-rendszerek pontossági szintjeit és vonatkozó pontossági mérőszámait a mellékelt használati utasításban kell feltüntetni.
(3) Nivelurile de acuratețe și indicatorii de acuratețe relevanți ai sistemelor de IA cu grad ridicat de risc se declară în instrucțiunile de utilizare aferente.
(4) A nagy kockázatú MI-rendszereknek a lehető leginkább reziliensnek kell lenniük azon hibák, meghibásodások vagy következetlenségek tekintetében, amelyek a rendszeren vagy a rendszer működési környezetén belül előfordulhatnak, különösen a természetes személyekkel vagy más rendszerekkel való kölcsönhatásuk miatt. E tekintetben technikai és szervezeti intézkedéseket kell hozni.
(4) Sistemele de IA cu grad ridicat de risc sunt cât mai reziliente posibil în ceea ce privește erorile, defecțiunile sau incoerențele care pot apărea în cadrul sistemului sau în mediul în care funcționează sistemul, în special din cauza interacțiunii lor cu persoane fizice sau cu alte sisteme. Se iau măsuri tehnice și organizatorice în acest sens.
A nagy kockázatú MI-rendszerek stabilitása elérhető műszaki redundanciamegoldásokkal, amelyek magukban foglalhatnak biztonsági vagy vészüzemi terveket is.
Robustețea sistemelor de IA cu grad ridicat de risc poate fi asigurată prin soluții tehnice redundante, care pot include planuri de rezervă sau de funcționare în caz de avarie.
Azon nagy kockázatú MI-rendszereket, amelyek a forgalomba hozatalt vagy az üzembe helyezést követően is tanulnak, úgy kell fejleszteni, hogy kiküszöböljék vagy a lehető legnagyobb mértékben csökkentsék annak kockázatát, hogy az esetlegesen torzított kimenetek befolyásolják a jövőbeli műveletek bemenetét (visszacsatolási hurkok), valamint biztosítva azt, hogy az ilyen visszacsatolási hurkokat megfelelő kockázatcsökkentő intézkedésekkel kielégítően kezeljék.
Sistemele de IA cu grad ridicat de risc care continuă să învețe după ce au fost introduse pe piață sau puse în funcțiune sunt dezvoltate astfel încât să elimine sau să reducă pe cât posibil riscul ca eventuale rezultate distorsionate de prejudecăți să influențeze datele de intrare pentru operațiunile viitoare (bucle de feedback) și să se asigure că orice astfel de bucle de feedback sunt abordate în mod corespunzător prin măsuri de atenuare adecvate.
(5) A nagy kockázatú MI-rendszereknek reziliensnek kell lenniük a jogosulatlan harmadik felek arra irányuló kísérleteivel szemben, hogy a rendszer sebezhetőségeinek kiaknázása révén megváltoztassák a rendszer használatát, kimeneteit vagy teljesítményét.
(5) Sistemele de IA cu grad ridicat de risc sunt reziliente în ceea ce privește încercările unor părți terțe neautorizate de a le modifica utilizarea, rezultatele sau performanța prin exploatarea vulnerabilităților sistemului.
A nagy kockázatú MI-rendszerek kiberbiztonságának biztosítását célzó műszaki megoldásoknak megfelelőnek kell lenniük a releváns körülmények és a kockázatok szempontjából.
Soluțiile tehnice menite să asigure securitatea cibernetică a sistemelor de IA cu grad ridicat de risc sunt adecvate circumstanțelor relevante și riscurilor.
Az MI-specifikus sebezhetőségek kezelésére szolgáló műszaki megoldásoknak adott esetben magukban kell foglalniuk azon intézkedéseket, amelyek a tanítóadat-készlet manipulálását megkísérlő támadásoknak (adatmérgezés) vagy a tanítás során használt előtanított összetevők manipulálását megkísérlő támadásoknak („modellmérgezés”), a modell hibájának előidézésére szolgáló bemeneteknek (támadó szempontú példák vagy modellkijátszás), a bizalmasság elleni támadásoknak vagy a modellhibáknak a megelőzésére, felderítésére, az azokra való reagálásra, azok megoldására és ellenőrzésére irányulnak.
Soluțiile tehnice pentru abordarea vulnerabilităților specifice ale IA includ, după caz, măsuri de prevenire, depistare, răspuns, soluționare și control în privința atacurilor ce vizează manipularea setului de date de antrenament (otrăvirea datelor) sau a componentelor preantrenate utilizate la antrenament (otrăvirea modelelor), a datelor de intrare concepute să determine modelul de IA să facă o greșeală (exemple contradictorii sau eludarea modelelor), a atacurilor la adresa confidențialității sau a defectelor modelului.
Minőségirányítási rendszer
Sistemul de management al calității
(1) A nagy kockázatú MI-rendszerek szolgáltatóinak minőségirányítási rendszert kell bevezetniük, amely biztosítja az e rendeletnek való megfelelést. Ezt a rendszert írásbeli szabályzatok, eljárások és utasítások formájában szisztematikus és rendezett módon dokumentálni kell, és annak legalább a következő szempontokra kell kiterjednie:
(1) Furnizorii de sisteme de IA cu grad ridicat de risc instituie un sistem de management al calității care asigură conformitatea cu prezentul regulament. Acest sistem este documentat în mod sistematic și ordonat sub formă de politici, proceduri și instrucțiuni scrise și include cel puțin următoarele aspecte:
a)
a jogszabályi rendelkezések tiszteletben tartását célzó stratégia, beleértve a megfelelőségértékelési eljárásoknak, valamint a nagy kockázatú MI-rendszer módosításának kezelését célzó eljárásoknak való megfelelést is;
(a)
o strategie pentru conformitatea cu reglementările, inclusiv conformitatea cu procedurile de evaluare a conformității și cu procedurile de gestionare a modificărilor aduse sistemului de IA cu grad ridicat de risc;
b)
a nagy kockázatú MI-rendszer tervezéséhez, tervezés-ellenőrzéséhez és tervezés-igazolásához alkalmazandó technikák, eljárások és módszeres intézkedések;
(b)
tehnicile, procedurile și acțiunile sistematice care trebuie utilizate pentru proiectarea, controlul proiectării și verificarea proiectării sistemului de IA cu grad ridicat de risc;
c)
a nagy kockázatú MI-rendszer fejlesztésére, minőség-ellenőrzésére és minőségbiztosítására alkalmazandó technikák, eljárások és módszeres intézkedések;
(c)
tehnicile, procedurile și acțiunile sistematice care trebuie utilizate pentru dezvoltarea, controlul calității și asigurarea calității sistemului de IA cu grad ridicat de risc;
d)
a nagy kockázatú MI-rendszer fejlesztése előtt, alatt és után végrehajtandó vizsgálati, tesztelési és validálási eljárások, valamint azok elvégzésének előírt gyakorisága;
(d)
procedurile de examinare, testare și validare care trebuie efectuate înainte, în timpul și după dezvoltarea sistemului de IA cu grad ridicat de risc, precum și frecvența cu care acestea trebuie efectuate;
e)
az alkalmazandó műszaki előírások, beleértve a szabványokat, valamint – amennyiben a vonatkozó harmonizált szabványokat nem alkalmazzák teljes mértékben, vagy azok nem terjednek ki a 2. szakaszban meghatározott valamennyi releváns követelményre – az annak biztosítására szolgáló eszközök, hogy a nagy kockázatú MI-rendszer megfeleljen az említett követelményeknek;
(e)
specificațiile tehnice, inclusiv standardele, care trebuie aplicate și, în cazul în care standardele armonizate relevante nu sunt aplicate integral sau nu vizează toate cerințele relevante prevăzute în secțiunea 2, mijloacele care trebuie utilizate pentru a se asigura că sistemul de IA cu grad ridicat de risc respectă cerințele respective;
f)
adatgazdálkodási rendszerek és eljárások, beleértve az adatszerzést, az adatgyűjtést, az adatelemzést, az adatcímkézést, az adattárolást, az adatszűrést, az adatbányászatot, az adatösszesítést, az adatmegőrzést és a nagy kockázatú MI-rendszerek forgalomba hozatala vagy üzembe helyezése előtt és céljából végzett bármely más, az adatokkal kapcsolatos műveletet;
(f)
sisteme și proceduri pentru gestionarea datelor, inclusiv obținerea datelor, colectarea datelor, analiza datelor, etichetarea datelor, stocarea datelor, filtrarea datelor, extragerea datelor, agregarea datelor, păstrarea datelor și orice altă operațiune privind datele care este efectuată înainte și în scopul introducerii pe piață sau al punerii în funcțiune a sistemelor de IA cu grad ridicat de risc;
g)
a 9. cikkben említett kockázatkezelési rendszer;
(g)
sistemul de gestionare a riscurilor menționat la articolul 9;
h)
a 72. cikkel összhangban a forgalomba hozatal utáni nyomonkövetési rendszer kidolgozása, végrehajtása és fenntartása;
(h)
instituirea, implementarea și întreținerea unui sistem de monitorizare ulterioară introducerii pe piață, în conformitate cu articolul 72;
i)
a 73. cikkel összhangban a súlyos váratlan események bejelentésével kapcsolatos eljárások;
(i)
procedurile legate de raportarea unui incident grav în conformitate cu articolul 73;
j)
az illetékes nemzeti hatóságokkal, egyéb releváns – többek között az adatokhoz való hozzáférést biztosító vagy támogató – hatóságokkal, a bejelentett szervezetekkel, más gazdasági szereplőkkel, ügyfelekkel vagy más érdekelt felekkel folytatott kommunikáció kezelése;
(j)
gestionarea comunicării cu autoritățile naționale competente, cu alte autorități relevante, inclusiv cu cele care furnizează sau sprijină accesul la date, cu organismele notificate, cu alți operatori, cu clienți sau cu alte părți interesate;
k)
valamennyi releváns dokumentáció és információ nyilvántartására szolgáló rendszerek és eljárások;
(k)
sisteme și proceduri pentru păstrarea evidențelor tuturor documentelor și informațiilor relevante;
l)
erőforrás-gazdálkodás, beleértve az ellátás biztonságával kapcsolatos intézkedéseket;
(l)
gestionarea resurselor, inclusiv măsurile legate de securitatea aprovizionării;
m)
elszámoltathatósági keret, amely meghatározza a vezetőség és az egyéb személyzet felelősségi körét az e bekezdésben felsorolt valamennyi szempont tekintetében.
(m)
un cadru de asigurare a răspunderii care stabilește responsabilitățile cadrelor de conducere și ale altor categorii de personal în ceea ce privește toate aspectele enumerate la prezentul alineat.
(2) Az (1) bekezdésben említett szempontok megvalósításának arányosnak kell lennie a szolgáltató szervezetének méretével. A szolgáltatóknak minden esetben tiszteletben kell tartaniuk a nagy kockázatú MI-rendszereik e rendeletnek való megfelelésének biztosításához szükséges szigorúsági mértéket és védelmi szintet.
(2) Punerea în aplicare a aspectelor menționate la alineatul (1) este proporțională cu dimensiunea organizației furnizorului. Furnizorii respectă, indiferent de situație, gradul de precizie și nivelul de protecție necesare pentru a asigura conformitatea cu prezentul regulament a sistemelor lor de IA cu grad ridicat de risc.
(3) A nagy kockázatú MI-rendszerek azon szolgáltatói, amelyek a minőségirányítási rendszerekre vagy a releváns ágazati uniós jog szerinti valamely egyenértékű funkcióra vonatkozó kötelezettségek hatálya alá tartoznak, az (1) bekezdésben felsorolt szempontokat az említett jog alapján létrehozott minőségirányítási rendszerek részévé tehetik.
(3) Furnizorii de sisteme de IA cu grad ridicat de risc care fac obiectul unor obligații în ceea ce privește sistemele de management al calității sau o funcție echivalentă a acestora în temeiul dreptului sectorial relevant al Uniunii pot include aspectele descrise la alineatul (1) ca parte din sistemele de management al calității stabilite în temeiul dreptului respectiv.
(4) Azon szolgáltatók esetében, amelyek a pénzügyi szolgáltatásokra vonatkozó uniós jog értelmében a belső irányításukra, rendszerükre vagy eljárásaikra vonatkozó követelmények hatálya alá tartozó pénzügyi intézmények, az e cikk (1) bekezdésének g), h) és i) pontja kivételével a minőségirányítási rendszer létrehozására vonatkozó kötelezettséget a pénzügyi szolgáltatásokra vonatkozó uniós jog szerinti, belső irányítási rendszerekre vagy eljárásokra vonatkozó szabályoknak való megfeleléssel teljesítettnek kell tekinteni. E célból figyelembe kell venni a 40. cikkben említett harmonizált szabványokat.
(4) În cazul furnizorilor care sunt instituții financiare supuse unor cerințe privind guvernanța internă, măsurile sau procesele interne în temeiul dreptului Uniunii din domeniul serviciilor financiare, se consideră că obligația de instituire a unui sistem de management al calității, cu excepția alineatului (1) literele (g), (h) și (i) de la prezentul articol, este îndeplinită prin respectarea normelor privind măsurile sau procesele de guvernanță internă în temeiul dreptului relevant al Uniunii din domeniul serviciilor financiare. În acest scop, se ține seama de toate standardele armonizate menționate la articolul 40.
A nagy kockázatú MI-rendszerek meghatalmazott képviselői
Reprezentanții autorizați ai furnizorilor de sisteme de IA cu grad ridicat de risc
(1) A nagy kockázatú MI-rendszereiknek az Unió piacán való forgalmazását megelőzően a harmadik országokban letelepedett szolgáltatóknak írásbeli megbízással ki kell nevezniük egy, az Unióban letelepedett meghatalmazott képviselőt.
(1) Înainte de a-și pune la dispoziție sistemele de IA cu grad ridicat de risc pe piața Uniunii, furnizorii stabiliți în țări terțe desemnează, prin mandat scris, un reprezentant autorizat care este stabilit în Uniune.
(2) A szolgáltatónak lehetővé kell tennie a meghatalmazott képviselője számára, hogy elvégezze a szolgáltatótól kapott megbízásban meghatározott feladatokat.
(2) Furnizorul permite reprezentantului său autorizat să îndeplinească sarcinile prevăzute în mandatul primit de la furnizor.
(3) A meghatalmazott képviselőknek el kell ellátniuk a szolgáltatótól kapott megbízásban meghatározott feladatokat. A megbízás egy példányát kérésre a piacfelügyeleti hatóságok rendelkezésére kell bocsátaniuk az Unió intézményeinek egyik hivatalos, az illetékes hatóság által megjelölt nyelvén. E rendelet alkalmazása céljából a megbízásban fel kell hatalmazni a meghatalmazott képviselőt a következő feladatok elvégzésére:
(3) Reprezentantul autorizat îndeplinește sarcinile prevăzute în mandatul primit de la furnizor. Acesta furnizează autorităților de supraveghere a pieței, la cerere, o copie a mandatului, într-una din limbile oficiale ale instituțiilor Uniunii, astfel cum este indicată de autoritatea competentă. În sensul prezentului regulament, mandatul îl autorizează pe reprezentantul autorizat să îndeplinească următoarele sarcini:
a)
annak ellenőrzése, hogy elkészült-e a 47. cikkben említett EU-megfelelőségi nyilatkozat és a 11. cikkben említett műszaki dokumentáció, valamint hogy a szolgáltató elvégzett-e egy megfelelő megfelelőségértékelési eljárást;
(a)
să verifice dacă au fost întocmite declarația de conformitate UE menționată la articolul 47 și documentația tehnică menționată la articolul 11 și dacă furnizorul a desfășurat o procedură corespunzătoare de evaluare a conformității;
b)
a nagy kockázatú MI-rendszer forgalomba hozatalát vagy üzembe helyezését követő tízéves időtartamra az illetékes hatóságok és a 74. cikk (10) bekezdésében említett nemzeti hatóságok vagy szervek számára a következők elérhetővé tétele: azon szolgáltató elérhetőségei, aki vagy amely kinevezte a meghatalmazott képviselőt, a 47. cikkben említett EU-megfelelőségi nyilatkozat egy példánya, a műszaki dokumentáció és adott esetben a bejelentett szervezet által kiadott tanúsítvány;
(b)
să păstreze la dispoziția autorităților competente și a autorităților sau organismelor naționale menționate la articolul 74 alineatul (10), pentru o perioadă de 10 ani de la introducerea pe piață sau punerea în funcțiune a sistemului de IA cu grad ridicat de risc, datele de contact ale furnizorului care a desemnat reprezentantul autorizat, o copie a declarației de conformitate UE menționată la articolul 47, documentația tehnică și, dacă este cazul, certificatul eliberat de organismul notificat;
c)
indokolt kérésre az annak igazolásához szükséges minden információnak és dokumentációnak – beleértve az ezen albekezdés b) pontjában említetteket is – az illetékes hatóság rendelkezésére bocsátása, hogy a nagy kockázatú MI-rendszer megfelel a 2. szakaszban foglalt követelményeknek, ideértve a nagy kockázatú MI-rendszer által automatikusan generált, a 12. cikk (1) bekezdésében említett naplókhoz való hozzáférést is, amennyiben az ilyen naplók a szolgáltató ellenőrzése alatt állnak;
(c)
să furnizeze unei autorități competente, pe baza unei cereri motivate, toate informațiile și documentația, inclusiv cele menționate la litera (b) de la prezentul paragraf, necesare pentru a demonstra conformitatea unui sistem de IA cu grad ridicat de risc cu cerințele prevăzute în secțiunea 2, inclusiv accesul la fișierele de jurnalizare, astfel cum sunt menționate la articolul 12 alineatul (1), generate automat de sistemul de IA cu grad ridicat de risc, în măsura în care aceste fișiere de jurnalizare se află sub controlul furnizorului;
d)
indokolt kérésre együttműködés az illetékes hatóságokkal a nagy kockázatú MI-rendszerrel kapcsolatban – különösen a nagy kockázatú MI-rendszer jelentette kockázatok csökkentését és enyhítését illetően – e hatóságok által tett bármely intézkedés tekintetében;
(d)
să coopereze cu autoritățile competente, în urma unei cereri motivate, cu privire la orice acțiune întreprinsă de acestea din urmă în legătură cu sistemul de IA cu grad ridicat de risc, în special pentru a reduce și a atenua riscurile prezentate de sistemul de IA cu grad ridicat de risc;
e)
adott esetben a 49. cikk (1) bekezdésében említett nyilvántartásba vételi kötelezettségek teljesítése, vagy – ha a nyilvántartásba vételt maga a szolgáltató végzi – a VIII. melléklet A. szakaszának 3. pontjában említett információk helyességének biztosítása.
(e)
după caz, să respecte obligațiile de înregistrare menționate la articolul 49 alineatul (1) sau, dacă înregistrarea este efectuată chiar de furnizor, să se asigure că informațiile menționate la secțiunea A punctul 3 din anexa VIII sunt corecte.
A megbízásban fel kell hatalmazni a meghatalmazott képviselőt arra, hogy az illetékes hatóságok hozzá forduljanak – a szolgáltató mellett vagy helyett – az e rendeletnek való megfelelés biztosításával kapcsolatos minden kérdést illetően.
Mandatul împuternicește reprezentantul autorizat să fie contactat, în afara sau în locul furnizorului, de către autoritățile competente, cu referire la toate aspectele legate de asigurarea conformității cu prezentul regulament.
(4) A meghatalmazott képviselőnek meg kell szüntetnie a megbízást, ha úgy ítéli meg, vagy oka van úgy megítélni, hogy a szolgáltató az e rendelet szerinti kötelezettségeivel ellentétesen jár el. Ilyen esetben a megbízás megszüntetéséről és annak okairól haladéktalanul tájékoztatnia kell a releváns piacfelügyeleti hatóságot és adott esetben a releváns bejelentett szervezetet is.
(4) Reprezentantul autorizat își reziliază mandatul dacă consideră sau are motive să considere că furnizorul acționează contrar obligațiilor care îi revin în temeiul prezentului regulament. Într-un astfel de caz, el informează imediat autoritatea relevantă de supraveghere a pieței, precum și, după caz, organismul notificat relevant, cu privire la rezilierea mandatului și la motivele acesteia.
Az importőrök kötelezettségei
Obligațiile importatorilor
(1) Valamely nagy kockázatú MI-rendszer forgalomba hozatala előtt az importőröknek biztosítaniuk kell, hogy a rendszer megfeleljen e rendeletnek a következők ellenőrzésével:
(1) Înainte de introducerea pe piață a unui sistem de IA cu grad ridicat de risc, importatorii unui astfel de sistem se asigură că sistemul este în conformitate cu prezentul regulament, verificând dacă:
a)
a nagy kockázatú MI-rendszer szolgáltatója elvégezte a 43. cikkben említett releváns megfelelőségértékelési eljárást;
(a)
procedura relevantă de evaluare a conformității menționată la articolul 43 a fost efectuată de furnizorul sistemului de IA cu grad ridicat de risc;
b)
a szolgáltató elkészítette a műszaki dokumentációt a 11. cikknek és a IV. mellékletnek megfelelően;
(b)
furnizorul a întocmit documentația tehnică în conformitate cu articolul 11 și cu anexa IV;
c)
a rendszeren feltüntették az előírt CE-jelölést, valamint mellékelték ahhoz a 47. cikkben említett EU-megfelelőségi nyilatkozatot és a használati utasítást;
(c)
sistemul poartă marcajul CE necesar și este însoțit de declarația de conformitate UE menționată la articolul 47 și de instrucțiunile de utilizare;
d)
a szolgáltató kinevezett egy meghatalmazott képviselőt a 22. cikk (1) bekezdésének megfelelően.
(d)
furnizorul a desemnat un reprezentant autorizat în conformitate cu articolul 22 alineatul (1).
(2) Amennyiben az importőrnek elegendő oka van úgy megítélni, hogy valamely nagy kockázatú MI-rendszer nem felel meg e rendeletnek, vagy azt hamisították, vagy hamisított dokumentációval rendelkezik, addig nem hozhatja forgalomba a rendszert, amíg annak megfelelőségét nem biztosították. Amennyiben a nagy kockázatú MI-rendszer a 79. cikk (1) bekezdése értelmében kockázatot jelent, az importőrnek erről tájékoztatnia kell a rendszer szolgáltatóját, a meghatalmazott képviselőket és a piacfelügyeleti hatóságokat.
(2) În cazul în care un importator are suficiente motive să considere că un sistem de IA cu grad ridicat de risc nu este în conformitate cu prezentul regulament, sau este falsificat ori însoțit de o documentație falsificată, acesta nu introduce sistemul respectiv pe piață înainte de a fi adus în conformitate. În cazul în care sistemul de IA cu grad ridicat de risc prezintă un risc în sensul articolului 79 alineatul (1), importatorul informează în acest sens furnizorul sistemului, reprezentanții autorizați și autoritățile de supraveghere a pieței.
(3) Az importőröknek fel kell tüntetniük a nagy kockázatú MI-rendszeren és annak csomagolásán vagy adott esetben a kísérő dokumentációján a nevüket, bejegyzett kereskedelmi nevüket vagy bejegyzett védjegyüket, valamint azon címet, amelyen velük a nagy kockázatú MI-rendszert illetően kapcsolatba lehet lépni.
(3) Importatorii indică numele lor, denumirea lor comercială înregistrată sau marca lor înregistrată și adresa la care pot fi contactați în privința sistemului de IA cu grad ridicat de risc și pe ambalajul acestuia sau în documentele care îl însoțesc, dacă este cazul.
(4) Az importőröknek biztosítaniuk kell, hogy mindaddig, amíg ők felelnek egy nagy kockázatú MI-rendszerért, adott esetben a tárolási vagy szállítási feltételek ne veszélyeztessék a rendszer 2. szakaszban foglalt követelményeknek való megfelelőségét.
(4) Importatorii se asigură că, pe întreaga perioadă în care un sistem de IA cu grad ridicat de risc se află în responsabilitatea lor, condițiile de depozitare sau de transport, după caz, nu periclitează conformitatea sa cu cerințele prevăzute în secțiunea 2.
(5) Az importőröknek a nagy kockázatú MI-rendszer forgalomba hozatalát vagy üzembe helyezését követő tízéves időtartamig meg kell őrizniük a bejelentett szervezet által kiállított tanúsítvány, adott esetben a használati utasítás és a 47. cikkben említett EU-megfelelőségi nyilatkozat egy-egy példányát.
(5) Importatorii păstrează, timp de 10 ani de la introducerea pe piață sau punerea în funcțiune a sistemului de IA cu grad ridicat de risc, o copie a certificatului eliberat de organismul notificat, după caz, a instrucțiunilor de utilizare și a declarației de conformitate UE menționată la articolul 47.
(6) Az importőröknek indokolt kérésre a releváns illetékes hatóságok rendelkezésére kell bocsátaniuk minden, annak igazolásához szükséges információt és dokumentációt – ideértve az (5) bekezdésben említetteket is –, hogy a nagy kockázatú MI-rendszer megfelel a 2. szakaszban foglalt követelményeknek, az adott illetékes nemzeti hatóság számára könnyen érthető nyelven. E célból az importőröknek biztosítaniuk kell azt is, hogy a műszaki dokumentációt az említett hatóságok rendelkezésére lehessen bocsátani.
(6) Importatorii furnizează autorităților competente relevante, pe baza unei cereri motivate, toate informațiile și documentația necesare, inclusiv cele menționate la alineatul (5), pentru a demonstra conformitatea unui sistem de IA cu grad ridicat de risc cu cerințele prevăzute în secțiunea 2, într-o limbă care poate fi ușor înțeleasă de acestea. În acest scop, aceștia se asigură, de asemenea, că documentația tehnică poate fi pusă la dispoziția autorităților respective.
(7) Az importőröknek együtt kell működniük a releváns illetékes nemzeti hatóságokkal minden olyan intézkedés tekintetében, amelyet az említett hatóságok hoznak egy olyan nagy kockázatú MI-rendszerrel kapcsolatban – különösen az általa jelentett kockázatok csökkentése és enyhítése érdekében –, amelyet az importőrök hoztak forgalomba.
(7) Importatorii cooperează cu autoritățile competente relevante cu privire la orice acțiune întreprinsă de autoritățile respective în legătură cu un sistem de IA cu grad ridicat de risc introdus pe piață de importatori, în special pentru a reduce sau a atenua riscurile prezentate de acesta.
A forgalmazók kötelezettségei
Obligațiile distribuitorilor
(1) Valamely nagy kockázatú MI-rendszer forgalmazását megelőzően a forgalmazóknak ellenőrizniük kell, hogy a nagy kockázatú MI-rendszeren fel van-e tüntetve az előírt CE- jelölés, mellékelték-e ahhoz a 47. cikkben említett EU-megfelelőségi nyilatkozat egy példányát és a használati utasítást, valamint hogy az említett rendszer szolgáltatója, illetve – adott esetben – importőre teljesítette-e a 16. cikk b) és c) pontjában, illetve a 23. cikk (3) bekezdésében foglalt kötelezettségeit.
(1) Înainte de a pune la dispoziție pe piață un sistem de IA cu grad ridicat de risc, distribuitorii verifică dacă acesta poartă marcajul CE necesar, dacă este însoțit de o copie a declarației de conformitate UE menționată la articolul 47 și de instrucțiunile de utilizare și dacă furnizorul și importatorul sistemului respectiv, după caz, au respectat obligațiile lor respective prevăzute la articolul 16 literele (b) și (c) și la articolul 23 alineatul (3).
(2) Amennyiben a forgalmazó a birtokában lévő információk alapján úgy ítéli meg, vagy oka van úgy megítélni, hogy egy nagy kockázatú MI-rendszer nem felel meg a 2. szakaszban meghatározott követelményeknek, nem forgalmazhatja a nagy kockázatú MI-rendszert mindaddig, amíg a rendszert nem hozták összhangba az említett követelményekkel. Továbbá, amennyiben a nagy kockázatú MI-rendszer a 79. cikk (1) bekezdése értelmében kockázatot jelent, a forgalmazónak erről tájékoztatnia kell a rendszer szolgáltatóját vagy adott esetben importőrét.
(2) În cazul în care un distribuitor consideră sau are motive să considere, pe baza informațiilor pe care le deține, că un sistem de IA cu grad ridicat de risc nu este în conformitate cu cerințele prevăzute în secțiunea 2, acesta nu pune la dispoziție pe piață sistemul de IA cu grad ridicat de risc înainte ca sistemul să fie adus în conformitate cu cerințele respective. În plus, în cazul în care sistemul de IA cu grad ridicat de risc prezintă un risc în sensul articolului 79 alineatul (1), distribuitorul informează furnizorul sau importatorul sistemului, după caz, în acest sens.
(3) A forgalmazóknak biztosítaniuk kell, hogy mindaddig, amíg ők felelnek a nagy kockázatú MI-rendszerért, adott esetben a tárolási vagy szállítási feltételek ne veszélyeztessék a rendszer 2. szakaszban foglalt követelményeknek való megfelelőségét.
(3) Distribuitorii se asigură că, atât timp cât un sistem de IA cu grad ridicat de risc se află în responsabilitatea lor, condițiile de depozitare sau de transport, după caz, nu periclitează conformitatea sistemului cu cerințele prevăzute în secțiunea 2.
(4) Azon forgalmazónak, amely a birtokában lévő információk alapján úgy ítéli meg, vagy oka van úgy megítélni, hogy az általa forgalmazott nagy kockázatú MI-rendszer nem felel meg a 2. szakaszban foglalt követelményeknek, meg kell tennie a szükséges korrekciós intézkedéseket ahhoz, hogy a rendszert összhangba hozza az említett követelményekkel, kivonja a forgalomból vagy visszahívja, vagy biztosítania kell, hogy a szolgáltató, az importőr vagy adott esetben bármely érintett üzemeltető megtegye az említett korrekciós intézkedéseket. Amennyiben a nagy kockázatú MI-rendszer a 79. cikk (1) bekezdése értelmében kockázatot jelent, a forgalmazónak erről haladéktalanul tájékoztatnia kell a rendszer szolgáltatóját vagy importőrét, és az érintett nagy kockázatú MI-rendszerért felelős hatóságokat, részletezve különösen a meg nem felelést és a meghozott korrekciós intézkedéseket.
(4) Un distribuitor care consideră sau are motive să considere, pe baza informațiilor pe care le deține, că un sistem de IA cu grad ridicat de risc pe care l-a pus la dispoziție pe piață nu este în conformitate cu cerințele prevăzute în secțiunea 2 ia măsurile corective necesare pentru a aduce sistemul în conformitate cu cerințele respective, pentru a-l retrage sau pentru a-l rechema sau se asigură că furnizorul, importatorul sau orice operator relevant, după caz, ia măsurile corective respective. În cazul în care sistemul de IA cu grad ridicat de risc prezintă un risc în sensul articolului 79 alineatul (1), distribuitorul informează imediat în acest sens furnizorul sau importatorul sistemului și autoritățile competente pentru sistemul de IA cu grad ridicat de risc în cauză, oferind informații detaliate, în special despre neconformitate și orice măsură corectivă întreprinsă.
(5) Valamely releváns illetékes nemzeti hatóság indokolt kérésére a nagy kockázatú MI-rendszerek forgalmazóinak az említett hatóság rendelkezésére kell bocsátaniuk az (1)–(4) bekezdés szerinti tevékenységeikre vonatkozó valamennyi olyan információt és dokumentációt, amely szükséges annak igazolásához, hogy az említett rendszer megfelel a 2. szakaszban meghatározott követelményeknek.
(5) Pe baza unei cereri motivate a unei autorități competente relevante, distribuitorii unor sisteme de IA cu grad ridicat de risc furnizează autorității respective toate informațiile și documentația referitoare la acțiunile lor în temeiul alineatelor (1)-(4), necesare pentru a demonstra conformitatea respectivelor sisteme cu grad ridicat de risc cu cerințele prevăzute în secțiunea 2.
(6) A forgalmazóknak együtt kell működniük a releváns illetékes hatóságokkal minden olyan intézkedés tekintetében, amelyet az említett hatóságok hoznak egy olyan nagy kockázatú MI-rendszerrel kapcsolatban – különösen az általa jelentett kockázat csökkentése vagy enyhítése érdekében –, amelyet a forgalmazók forgalmaznak.
(6) Distribuitorii cooperează cu autoritățile competente relevante cu privire la orice acțiune întreprinsă de autoritățile respective în legătură cu un sistem de IA cu grad ridicat de risc pus la dispoziție pe piață de distribuitori, în special pentru a reduce sau a atenua riscul prezentat de acesta.
Felelősségi körök az MI-értéklánc mentén
Responsabilitățile de-a lungul lanțului valoric al IA
(1) E rendelet alkalmazásában minden forgalmazót, importőrt, alkalmazót vagy egyéb harmadik felet nagy kockázatú MI-rendszer szolgáltatójának kell tekinteni, és arra a szolgáltatónak a 16. cikk szerinti kötelezettségei vonatkoznak a következő körülmények bármelyikének esetében:
(1) Se consideră că orice distribuitor, importator, implementator sau altă parte terță este furnizor al unui sistem de IA cu grad ridicat de risc în sensul prezentului regulament și este supus obligațiilor care îi revin furnizorului în temeiul articolului 16, în oricare dintre următoarele situații:
a)
nevüket vagy védjegyüket egy már forgalomba hozott vagy üzembe helyezett, nagy kockázatú MI-rendszeren helyezik el, olyan szerződéses megállapodások sérelme nélkül, amelyek a kötelezettségek másképp történő megosztását írják elő;
(a)
își aplică numele sau marca comercială pe un sistem de IA cu grad ridicat de risc deja introdus pe piață sau pus în funcțiune, fără a aduce atingere dispozițiilor contractuale care prevăd o repartizare diferită a obligațiilor;
b)
jelentős módosítást hajtanak végre egy már forgalomba hozott vagy már üzembe helyezett nagy kockázatú MI-rendszeren oly módon, hogy az a 6. cikkel összhangban továbbra is nagy kockázatú MI-rendszer marad;
(b)
modifică substanțial un sistem de IA cu grad ridicat de risc care a fost deja introdus pe piață sau a fost deja pus în funcțiune, astfel încât acesta rămâne un sistem de IA cu grad ridicat de risc în temeiul articolului 6;
c)
jelentősen módosítják egy olyan MI-rendszer rendeltetését, beleértve az általános célú MI-rendszereket is, amelyet nem minősítettek nagy kockázatúnak, és amelyet már forgalomba hoztak vagy üzembe helyeztek, oly módon, hogy az érintett MI-rendszer a 6. cikkel összhangban nagy kockázatú MI-rendszerré válik;
(c)
modifică scopul preconizat al un sistem de IA, inclusiv al unui sistem IA de uz general, care nu a fost clasificat ca prezentând un grad ridicat de risc și a fost deja introdus pe piață sau pus în funcțiune, astfel încât sistemul de IA în cauză devine un sistem IA cu grad ridicat de risc în conformitate cu articolul 6.
(2) Amennyiben az (1) bekezdésben említett körülmények fennállnak, az MI-rendszert eredetileg forgalomba hozó vagy üzembe helyező szolgáltató e rendelet alkalmazása céljából többé nem tekinthető az adott konkrét MI-rendszer szolgáltatójának. Az említett eredeti szolgáltatónak szorosan együtt kell működnie az új szolgáltatókkal, és rendelkezésre kell bocsátania a szükséges információkat, valamint biztosítania kell az e rendeletben meghatározott kötelezettségek teljesítéséhez szükséges, észszerűen elvárható technikai hozzáférést és egyéb segítséget, különösen a nagy kockázatú MI-rendszerek megfelelőségértékelésének való megfelelés tekintetében. E bekezdés nem alkalmazandó azokban az esetekben, amikor az eredeti szolgáltató egyértelműen meghatározta, hogy MI-rendszerét nem szabad nagy kockázatú MI-rendszerré alakítani, és ezért az ilyen esetek nem tartoznak a dokumentáció átadására vonatkozó kötelezettség hatálya alá.
(2) În cazul în care se produc circumstanțele menționate la alineatul (1), furnizorul care a introdus inițial pe piață sau a pus în funcțiune sistemul de IA nu mai este considerat furnizorul respectivului sistem de IA în sensul prezentului regulament. Acest furnizor inițial cooperează îndeaproape cu noii furnizori și pune la dispoziție informațiile necesare și oferă accesul tehnic și alte tipuri de asistență preconizate în mod rezonabil care sunt necesare pentru îndeplinirea obligațiilor prevăzute în prezentul regulament, în special în ceea ce privește respectarea cerințelor privind evaluarea conformității sistemelor de IA cu grad ridicat de risc. Prezentul alineat nu se aplică în cazurile în care furnizorul inițial a specificat în mod clar că sistemul său de IA nu trebuie transformat într-un sistem de IA cu grad ridicat de risc și, prin urmare, nu intră sub incidența obligației de a preda documentația.
(3) Az olyan nagy kockázatú MI-rendszerek esetében, amelyek az I. melléklet A. szakaszában felsorolt uniós harmonizációs jogszabályok hatálya alá tartozó termékek biztonsági alkotórészei, a termék gyártóját kell a nagy kockázatú MI-rendszer szolgáltatójának tekinteni, és annak a 16. cikk szerinti kötelezettségek hatálya alá kell tartoznia a következő körülmények közül bármelyik esetében:
(3) În cazul sistemelor de IA cu grad ridicat de risc care sunt componente de siguranță ale unor produse cărora li se aplică actele legislative de armonizare ale Uniunii care figurează în anexa I secțiunea A, fabricantul produselor respective este considerat furnizorul sistemului de IA cu grad ridicat de risc și este supus obligațiilor menționate la articolul 16 în oricare dintre următoarele situații:
a)
a nagy kockázatú MI-rendszert a termékkel együtt, a termék gyártójának neve vagy védjegye alatt hozzák forgalomba;
(a)
sistemul de IA cu grad ridicat de risc este introdus pe piață împreună cu produsul sub numele sau marca comercială a fabricantului produsului;
b)
a nagy kockázatú MI-rendszert a termék gyártójának neve vagy védjegye alatt helyezik üzembe a termék forgalomba hozatalát követően.
(b)
sistemul de IA cu grad ridicat de risc este pus în funcțiune sub numele sau marca comercială a fabricantului produsului după ce produsul a fost introdus pe piață.
(4) A nagy kockázatú MI-rendszer szolgáltatójának és a nagy kockázatú MI-rendszerben használt vagy abba integrált eszközöket, szolgáltatásokat, alkotóelemeket vagy folyamatokat szállító harmadik félnek írásbeli megállapodás révén, a technika általánosan elismert, mindenkori állása alapján meg kell határoznia a szükséges információkat, képességeket, technikai hozzáférést és egyéb segítséget, annak érdekében, hogy a nagy kockázatú MI-rendszer szolgáltatója teljes mértékben eleget tudjon tenni az e rendeletben foglalt kötelezettségeknek. Ez a bekezdés nem alkalmazandó azon harmadik felekre, akik az általános célú MI-modellektől eltérő eszközöket, szolgáltatásokat, folyamatokat vagy alkotóelemeket szabad és nyílt forráskódú licenc alapján tesznek nyilvánosan hozzáférhetővé.
(4) Furnizorul unui sistem de IA cu grad ridicat de risc și partea terță care furnizează un sistem de IA, instrumente, servicii, componente sau procese care sunt utilizate sau integrate într-un sistem de IA cu grad ridicat de risc specifică, printr-un acord scris, pe baza stadiului de avansare general recunoscut al tehnologiei, informațiile, capabilitățile, accesul tehnic și alte tipuri de asistență necesare pentru a permite furnizorului sistemului de IA cu grad ridicat de risc să respecte întru totul obligațiile prevăzute în prezentul regulament. Prezentul alineat nu se aplică terților care pun la dispoziția publicului instrumente, servicii, procese sau componente, în afara modelelor de IA de uz general, sub licență liberă și deschisă.
Az MI-hivatal önkéntes mintafeltételeket dolgozhat ki és ajánlhat a nagy kockázatú MI-rendszerek szolgáltatói és a nagy kockázatú MI-rendszerekhez használt vagy azokba integrált eszközöket, szolgáltatásokat, alkotóelemeket vagy folyamatokat szolgáltató harmadik felek közötti szerződésekre vonatkozóan. Az említett önkéntes mintafeltételek kidolgozása során az MI-hivatalnak figyelembe kell vennie az egyes ágazatokban vagy konkrét üzleti esetekben alkalmazandó lehetséges szerződéses követelményeket. Az önkéntes mintafeltételeket könnyen használható elektronikus formátumban közzé kell tenni és díjmentesen elérhetővé kell tenni.
Oficiul pentru IA poate elabora și recomanda un model voluntar de clauze pentru contractele dintre furnizorii de sisteme de IA cu grad ridicat de risc și părțile terțe care furnizează instrumente, servicii, componente sau procese care sunt utilizate sau integrate în sistemele de IA cu grad ridicat de risc. Atunci când elaborează modelul voluntar de clauze, Oficiul pentru IA ia în considerare eventualele cerințe contractuale aplicabile în anumite sectoare sau situații economice. Modelul voluntar de clauze se publică și este disponibil gratuit într-un format electronic ușor de utilizat.
(5) A (2) és a (3) bekezdés nem sérti azt, hogy a szellemitulajdon-jogokat, a bizalmas üzleti információkat és az üzleti titkokat az uniós és a nemzeti joggal összhangban tiszteletben kell tartani és védeni kell.
(5) Alineatele (2) și (3) nu aduc atingere necesității de a respecta și de a proteja drepturile de proprietate intelectuală și informațiile comerciale confidențiale sau secretele comerciale în conformitate cu dreptul Uniunii și cu dreptul intern.
A nagy kockázatú MI-rendszerek alkalmazóinak kötelezettségei
Obligațiile implementatorilor de sisteme de IA cu grad ridicat de risc
(1) A nagy kockázatú MI-rendszerek alkalmazóinak megfelelő technikai és szervezési intézkedéseket kell tenniük annak biztosítására, hogy ezeket a rendszereket a (3) és (6) bekezdés szerint, a rendszerekhez mellékelt használati utasításoknak megfelelően használják.
(1) Implementatorii sistemelor de IA cu grad ridicat de risc iau măsuri tehnice și organizatorice corespunzătoare pentru a oferi siguranța că utilizează astfel de sisteme în conformitate cu instrucțiunile de utilizare care însoțesc sistemele, în temeiul alineatelor (3) și (6).
(2) Az alkalmazóknak az emberi felügyeletet olyan természetes személyekre kell bízniuk, akik rendelkeznek a szükséges szakértelemmel, képzéssel és hatáskörrel, valamint a szükséges támogatással.
(2) Implementatorii încredințează supravegherea umană unor persoane fizice care au competența, formarea și autoritatea necesare, precum și sprijinul necesar.
(3) Az (1) és a (2) bekezdésben meghatározott kötelezettségek nem sértik az uniós vagy nemzeti jog szerinti egyéb alkalmazói kötelezettségeket, valamint az alkalmazó azon szabadságát, hogy a szolgáltató által megjelölt emberi felügyeleti intézkedések végrehajtása céljából megszervezze saját erőforrásait és tevékenységeit.
(3) Obligațiile de la alineatele (1) și (2) nu aduc atingere altor obligații ale implementatorilor în temeiul dreptului Uniunii sau al dreptului intern și nici libertății implementatorilor de a-și organiza propriile resurse și activități în scopul punerii în aplicare a măsurilor de supraveghere umană indicate de furnizor.
(4) Az (1) és a (2) bekezdés sérelme nélkül, amennyiben az alkalmazó ellenőrzést gyakorol a bemeneti adatok felett, ezen alkalmazónak biztosítania kell, hogy a bemeneti adatok relevánsak és kellően reprezentatívak legyenek a nagy kockázatú MI-rendszer rendeltetése szempontjából.
(4) Fără a aduce atingere alineatelor (1) și (2), în măsura în care exercită controlul asupra datelor de intrare, implementatorul se asigură că datele de intrare sunt relevante și suficient de reprezentative în raport cu scopul preconizat al sistemului de IA cu grad ridicat de risc.
(5) Az alkalmazóknak a használati utasítások alapján nyomon kell követniük a nagy kockázatú MI-rendszer működését, és adott esetben a 72. cikknek megfelelően tájékoztatniuk kell a szolgáltatót. Amennyiben az alkalmazóknak okuk van úgy megítélni, hogy a nagy kockázatú MI-rendszer utasításoknak megfelelő használata azt eredményezheti, hogy az említett MI-rendszer a 79. cikk (1) bekezdésének értelmében vett kockázatot jelent, erről indokolatlan késedelem nélkül tájékoztatniuk kell a szolgáltatót vagy a forgalmazót, valamint a releváns piacfelügyeleti hatóságot, és fel kell függeszteniük az említett rendszer használatát. Amennyiben az alkalmazók súlyos váratlan eseményt azonosítottak, haladéktalanul tájékoztatniuk kell először a szolgáltatót, majd az importőrt vagy a forgalmazót és a releváns piacfelügyeleti hatóságokat is az említett eseményről. Ha az alkalmazó nem tudja elérni a szolgáltatót, a 73. cikket kell értelemszerűen alkalmazni. Ez a kötelezettség nem terjed ki az MI-rendszerek azon alkalmazóinak érzékeny operatív adataira, amelyek bűnüldöző hatóságok.
(5) Implementatorii monitorizează funcționarea sistemului de IA cu grad ridicat de risc pe baza instrucțiunilor de utilizare și, atunci când este cazul, informează furnizorii în conformitate cu articolul 72. În cazul în care au motive să considere că utilizarea sistemului de IA cu grad ridicat de risc în conformitate cu instrucțiunile poate conduce la situația în care sistemul de IA respectiv prezintă un risc în sensul articolului 79 alineatul (1), implementatorii informează fără întârzieri nejustificate furnizorul sau distribuitorul și autoritatea relevantă de supraveghere a pieței și suspendă utilizarea sistemului respectiv. De asemenea, în cazul în care au identificat un incident grav, implementatorii informează imediat mai întâi furnizorul, și apoi importatorul sau distribuitorul și autoritățile relevante de supraveghere a pieței cu privire la incidentul respectiv. În cazul în care implementatorul nu poate comunica cu furnizorul, articolul 73 se aplică mutatis mutandis. Această obligație nu vizează datele operaționale sensibile ale implementatorilor sistemelor de IA care sunt autorități de aplicare a legii.
Azon alkalmazók esetében, amelyek a pénzügyi szolgáltatásokra vonatkozó uniós jog értelmében a belső irányításukra, szabályaikra vagy eljárásaikra vonatkozó követelmények hatálya alá tartozó pénzügyi intézmények, az első albekezdésben meghatározott nyomonkövetési kötelezettséget a pénzügyi szolgáltatásokra vonatkozó releváns jog szerinti, a belső irányítási rendszerekre, eljárásokra és mechanizmusokra vonatkozó szabályoknak való megfeleléssel teljesítettnek kell tekinteni.
În cazul implementatorilor care sunt instituții financiare supuse unor cerințe privind guvernanța internă, măsurile sau procesele interne în temeiul dreptului Uniunii din domeniul serviciilor financiare, se consideră că obligația de monitorizare prevăzută la primul paragraf este îndeplinită prin respectarea normelor privind mecanismele, procesele și măsurile de guvernanță internă în temeiul dreptului relevant din domeniul serviciilor financiare.
(6) A nagy kockázatú MI-rendszerek alkalmazóinak meg kell őrizniük az adott nagy kockázatú MI-rendszer által automatikusan generált naplókat, amennyiben az ilyen naplók az ellenőrzésük alatt állnak a nagy kockázatú MI-rendszer rendeltetésének megfelelő – legalább hat hónapos – időtartamig, kivéve, ha az alkalmazandó uniós vagy nemzeti jog, különösen a személyes adatok védelmére vonatkozó uniós jog másként rendelkezik.
(6) Implementatorii sistemelor de IA cu grad ridicat de risc păstrează fișierele de jurnalizare generate automat de respectivele sisteme de IA cu grad ridicat de risc, în măsura în care aceste fișiere de jurnalizare se află sub controlul lor pentru o perioadă adecvată scopului preconizat al sistemului de IA cu grad ridicat de risc, de cel puțin șase luni, cu excepția cazului în care se prevede altfel în dreptul Uniunii sau în dreptul intern aplicabil, în special în dreptul Uniunii privind protecția datelor cu caracter personal.
Azon alkalmazóknak, amelyek a pénzügyi szolgáltatásokra vonatkozó uniós jog értelmében a belső irányításukra, szabályaikra vagy eljárásaikra vonatkozó követelmények hatálya alá tartozó pénzügyi intézmények, a naplót a pénzügyi szolgáltatásokra vonatkozó megfelelő uniós jog alapján vezetett dokumentáció részeként kell megőrizniük.
Implementatorii care sunt instituții financiare supuse unor cerințe privind guvernanța internă, măsurile sau procesele interne în temeiul dreptului Uniunii din domeniul serviciilor financiare păstrează fișierele de jurnalizare ca parte a documentației păstrate în temeiul dreptului relevant al Uniunii din domeniul serviciilor financiare.
(7) A nagy kockázatú MI-rendszer munkahelyi üzembe helyezése vagy használata előtt azon alkalmazóknak, akik munkáltatók, tájékoztatniuk kell a munkavállalók képviselőit és az érintett munkavállalókat arról, hogy esetükben nagy kockázatú MI-rendszer használatára fog sor kerülni. Ezt a tájékoztatást adott esetben a munkavállalók és képviselőik tájékoztatására vonatkozó uniós és nemzeti jogban és gyakorlatban megállapított szabályokkal és eljárásokkal összhangban kell megadni.
(7) Înainte de a pune în funcțiune sau de a utiliza un sistem de IA cu grad ridicat de risc la locul de muncă, implementatorii care sunt angajatori informează reprezentanții lucrătorilor și lucrătorii afectați că vor fi implicați în utilizarea sistemului de IA cu grad ridicat de risc. Informațiile respective sunt furnizate, după caz, în conformitate cu normele și procedurile prevăzute în dreptul și practicile de la nivelul Uniunii și de la nivel național privind informarea lucrătorilor și a reprezentanților acestora.
(8) A nagy kockázatú MI-rendszerek alkalmazói, amennyiben azok hatóságok vagy uniós intézmények, szervek, hivatalok vagy ügynökségek, eleget tesznek a 49. cikkben említett nyilvántartási kötelezettségeknek. Amennyiben az ilyen alkalmazók megállapítják, hogy az általuk használni kívánt nagy kockázatú MI-rendszer nincs nyilvántartva a 71. cikkben említett uniós adatbázisban, nem használhatják az adott rendszert, és erről tájékoztatják a szolgáltatót vagy a forgalmazót.
(8) Implementatorii sistemelor de IA cu grad ridicat de risc care sunt autorități publice sau instituții, organe, oficii sau agenții ale Uniunii respectă obligațiile de înregistrare menționate la articolul 49. În cazul în care constată că sistemul de IA cu grad ridicat de risc pe care intenționează să îl utilizeze nu a fost înregistrat în baza de date a UE menționată la articolul 71, implementatorii respectivi nu utilizează sistemul respectiv și informează furnizorul sau distribuitorul.
(9) A nagy kockázatú MI-rendszerek alkalmazóinak az e rendelet 13. cikke szerint megadott információkat – adott esetben – arra kell használniuk, hogy eleget tegyenek az (EU) 2016/679 rendelet 35. cikke vagy adott esetben az (EU) 2016/680 irányelv 27. cikke szerinti, adatvédelmi hatásvizsgálat elvégzésére vonatkozó kötelezettségüknek.
(9) După caz, implementatorii de sisteme de IA cu grad ridicat de risc utilizează informațiile furnizate în temeiul articolului 13 din prezentul regulament pentru a-și respecta obligația de a efectua o evaluare a impactului asupra protecției datelor în temeiul articolului 35 din Regulamentul (UE) 2016/679 sau al articolului 27 din Directiva (UE) 2016/680.
(10) Az (EU) 2016/680 irányelv sérelme nélkül, a bűncselekmény elkövetésével gyanúsított vagy a miatt elítélt személyek célzott felkutatására irányuló nyomozás keretében a nem valós idejű távoli biometrikus azonosításra szolgáló, nagy kockázatú MI-rendszert alkalmazó személynek előzetesen vagy indokolatlan késedelem nélkül, de legkésőbb 48 órán belül engedélyt kell kérnie az adott rendszer használatára valamely igazságügyi hatóságtól vagy közigazgatási hatóságtól, amelynek határozata kötelező erejű és bírósági felülvizsgálat tárgyát képezi, kivéve, ha azt egy potenciális gyanúsítottnak a bűncselekményhez közvetlenül kapcsolódó objektív és ellenőrizhető tényeken alapuló kezdeti azonosítására használják. Minden felhasználásnak az adott bűncselekmény nyomozásához feltétlenül szükséges mértékre kell korlátozódnia.
(10) Fără a aduce atingere Directivei (UE) 2016/680, în cadrul unei investigații pentru căutarea în mod specific a unei persoane suspectate sau condamnate de a fi comis o infracțiune, implementatorul unui sistem de IA cu grad ridicat de risc pentru identificarea biometrică la distanță ulterioară solicită o autorizație, ex ante sau fără întârzieri nejustificate și în termen de cel mult 48 de ore, din partea unei autorități judiciare sau a unei autorități administrative a cărei decizie are efect obligatoriu și face obiectul controlului jurisdicțional, pentru utilizarea sistemului respectiv, cu excepția cazului în care este utilizat pentru identificarea inițială a unui potențial suspect pe baza unor fapte obiective și verificabile legate direct de infracțiune. Fiecare utilizare se limitează la ceea ce este strict necesar pentru investigarea unei anumite infracțiuni.
Ha az első albekezdés szerint kérelmezett engedélyt elutasítják, a kért engedélyhez kapcsolódó, nem valós idejű távoli biometrikus azonosító rendszer használatát azonnali hatállyal le kell állítani, és törölni kell az azon nagy kockázatú MI-rendszer használatához kapcsolódó személyes adatokat, amelyre az engedélyt kérték.
În cazul în care autorizația solicitată în temeiul primului paragraf este respinsă, utilizarea sistemului de identificare biometrică la distanță ulterioară legat de autorizația solicitată respectivă se oprește cu efect imediat, iar datele cu caracter personal legate de utilizarea sistemului de IA cu grad ridicat de risc pentru care a fost solicitată autorizația se șterg.
Az ilyen, nem valós idejű távoli biometrikus azonosításra szolgáló, nagy kockázatú MI-rendszert semmilyen esetben sem szabad nem célzott módon bűnüldözési célokra használni bűncselekményhez, büntetőeljáráshoz, bűncselekmény tényleges és valós vagy előre látható veszélyéhez vagy egy konkrét eltűnt személy felkutatásához való kapcsolódás nélkül. Biztosítani kell, hogy a bűnüldöző hatóságok ne hozhassanak kizárólag a nem valós idejű távoli biometrikus azonosító rendszer által adott eredmény alapján olyan döntést, amely egy személyre nézve kedvezőtlen joghatással jár.
În niciun caz, un astfel de sistem de IA cu grad ridicat de risc pentru identificarea biometrică la distanță ulterioară nu se utilizează într-un mod nedirecționat în scopul aplicării legii, dacă nu implică nicio legătură cu o infracțiune, cu o procedură penală, cu o amenințare reală și prezentă sau reală și previzibilă vizând o infracțiune sau căutarea unei anumite persoane dispărute. Se asigură faptul că autoritățile de aplicare a legii nu pot lua nicio decizie care produce un efect juridic negativ asupra unei persoane exclusiv pe baza rezultatelor unor astfel de sisteme de identificare biometrică la distanță ulterioară.
Ez a bekezdés nem sérti az (EU) 2016/679 rendelet 9. cikkét és az (EU) 2016/680 irányelv 10. cikkét a biometrikus adatok feldolgozása tekintetében.
Prezentul alineat nu aduce atingere dispozițiilor de la articolul 9 din Regulamentul (UE) 2016/679 și de la articolul 10 din Directiva (UE) 2016/680 privind prelucrarea datelor biometrice.
Az ilyen, nagy kockázatú MI-rendszerek minden egyes használatát a vonatkozó rendőrségi nyilvántartásban – a célra vagy az alkalmazóra való tekintet nélkül – dokumentálni kell, és kérésre az érintett piacfelügyeleti hatóság és a nemzeti adatvédelmi hatóság rendelkezésére kell bocsátani, kivéve a bűnüldözéssel kapcsolatos érzékeny operatív adatok közzétételét. Ez az albekezdés nem sérti az (EU) 2016/680 irányelv által a felügyeleti hatóságokra ruházott hatásköröket.
Indiferent de scop sau de implementator, fiecare utilizare a acestor sisteme de IA cu grad ridicat de risc este documentată în dosarul relevant al poliției și este pusă la dispoziția autorității relevante de supraveghere a pieței și a autorității naționale pentru protecția datelor, la cerere, exceptând divulgarea datelor operaționale sensibile legate de aplicarea legii. Prezentul paragraf nu aduce atingere competențelor conferite autorităților de supraveghere de Directiva (UE) 2016/680.
Az alkalmazóknak éves jelentéseket kell benyújtaniuk az érintett piacfelügyeleti és nemzeti adatvédelmi hatóságok számára a nem valós idejű távoli biometrikus azonosító rendszerek általuk történő használatáról, kivéve a bűnüldözéssel kapcsolatos érzékeny operatív adatok közzétételét. A jelentések összevonhatók úgy, hogy azok egynél többszöri alkalmazásra is kiterjedjenek.
Implementatorii prezintă autorităților relevante de supraveghere a pieței și autorităților naționale pentru protecția datelor rapoarte anuale cu privire la utilizarea sistemelor de identificare biometrică la distanță ulterioară, exceptând divulgarea datelor operaționale sensibile legate de aplicarea legii. Rapoartele pot fi agregate pentru a cuprinde mai multe implementări.
A tagállamok az uniós joggal összhangban szigorúbb jogszabályokat is bevezethetnek a nem valós idejű távoli biometrikus azonosító rendszerek használatára vonatkozóan.
Statele membre pot introduce, în conformitate cu dreptul Uniunii, legi mai restrictive privind utilizarea sistemelor de identificare biometrică la distanță ulterioară.
(11) E rendelet 50. cikkének sérelme nélkül, a III. mellékletben említett, természetes személyekkel kapcsolatos döntéseket hozó vagy az ilyen döntések meghozatalában segítséget nyújtó, nagy kockázatú MI-rendszerek alkalmazóinak tájékoztatniuk kell a természetes személyeket arról, hogy esetükben nagy kockázatú MI-rendszert használnak. A bűnüldözési célokra használt nagy kockázatú MI-rendszerek esetében alkalmazni kell az (EU) 2016/680 irányelv 13. cikkét.
(11) Fără a afecta dispozițiile de la articolul 50 din prezentul regulament, implementatorii de sisteme de IA cu grad ridicat de risc menționate în anexa III, care iau decizii sau contribuie la luarea deciziilor referitoare la persoane fizice, informează persoanele fizice că fac obiectul utilizării sistemului de IA cu grad ridicat de risc. În cazul sistemelor de IA cu grad ridicat de risc utilizate în scopul aplicării legii, se aplică articolul 13 din Directiva (UE) 2016/680.
(12) Az alkalmazóknak együtt kell működniük a releváns illetékes hatóságokkal a nagy kockázatú MI-rendszerrel kapcsolatos minden olyan intézkedés tekintetében, amelyeket a hatóságok e rendelet végrehajtása érdekében hoznak.
(12) Implementatorii cooperează cu autoritățile competente relevante pentru orice acțiune întreprinsă de respectivele autorități în legătură cu sistemul de IA cu grad ridicat de risc pentru a pune în aplicare prezentul regulament.
A nagy kockázatú MI-rendszerekre vonatkozó alapvetőjogi hatásvizsgálat
Evaluarea impactului sistemelor de IA cu grad ridicat de risc asupra drepturilor fundamentale
(1) A 6. cikk (2) bekezdésében említett nagy kockázatú MI-rendszer bevezetését megelőzően – a III. melléklet 2. pontjában felsorolt területen való használatra szánt nagy kockázatú MI-rendszerek kivételével – azon alkalmazóknak, amelyek közjogi szervek vagy közszolgáltatásokat nyújtó magánszervezetek, valamint a III. melléklet 5. pontjának b) és c) alpontjában említett nagy kockázatú MI-rendszerek alkalmazóinak értékelniük kell azon hatást, amelyet az ilyen rendszerek használata az alapvető jogokra gyakorolhat. E célból az alkalmazóknak értékelést kell végezniük, amely a következőkből áll:
(1) Înainte de a implementa un sistem de IA cu grad ridicat de risc, astfel cum este menționat la articolul 6 alineatul (2), cu excepția sistemelor de IA cu grad ridicat de risc destinate a fi utilizate în domeniul menționat la punctul 2 din anexa III, implementatorii care sunt organisme de drept public sau entități private care furnizează servicii publice și implementatorii de sisteme de IA cu grad ridicat de risc menționate la punctul 5 literele (b) și (c) din anexa III efectuează o evaluare a impactului asupra drepturilor fundamentale pe care îl poate produce utilizarea unor astfel de sisteme. În acest scop, implementatorii efectuează o evaluare care constă în:
a)
az alkalmazó azon folyamatainak leírása, amelyekben a nagy kockázatú MI-rendszert a rendeltetésének megfelelően fogják használni;
(a)
o descriere a proceselor implementatorului în care sistemele de IA cu grad ridicat de risc urmează a fi utilizate în conformitate cu scopul lor preconizat;
b)
azon időszak és gyakoriság leírása, amelyen belül és amellyel az egyes nagy kockázatú MI-rendszereket használni szándékoznak;
(b)
o descriere a perioadei de timp pentru care se intenționează utilizarea fiecărui sistem de IA cu grad ridicat de risc, precum și a frecvenței utilizării respective;
c)
a természetes személyek és csoportok azon kategóriái, akiket a rendszer használata az adott kontextusban valószínűleg érint;
(c)
categoriile de persoane fizice și grupurile susceptibile a fi afectate de utilizarea sa în contextul specific;
d)
az e bekezdés c) pontja alapján azonosított természetes személyek vagy személycsoportok kategóriáira valószínűleg hatást gyakorló konkrét kárkockázatok, figyelembe véve a szolgáltató által a 13. cikk szerint nyújtott információkat;
(d)
riscurile specifice de prejudicii susceptibile a avea un impact asupra categoriilor de persoane fizice sau a grupurilor de persoane identificate în temeiul literei (c) de la prezentul alineat, ținând seama de informațiile comunicate de furnizor în temeiul articolului 13;
e)
az emberi felügyeleti intézkedések végrehajtásának leírása, a használati utasításnak megfelelően;
(e)
o descriere a punerii în aplicare a măsurilor de supraveghere umană, în conformitate cu instrucțiunile de utilizare;
f)
az említett kockázatok bekövetkezése esetén meghozandó intézkedések, ideértve a belső irányítási és panasztételi mechanizmusokra vonatkozó szabályokat.
(f)
măsurile care trebuie să fie luate în cazul în care riscurile respective se materializează, inclusiv mecanismele de guvernanță internă și mecanismele de tratare a plângerilor.
(2) Az (1) bekezdésben megállapított kötelezettség a nagy kockázatú MI-rendszer első használatára vonatkozik. Az alkalmazó hasonló esetekben támaszkodhat a korábban elvégzett alapjogi hatásvizsgálatokra vagy a szolgáltatók által már elvégzett, meglévő hatásvizsgálatokra. Amennyiben a nagy kockázatú MI-rendszer használata során az alkalmazó úgy ítéli meg, hogy az (1) bekezdésben felsorolt elemek bármelyike megváltozott vagy már nem naprakész, az alkalmazónak meg kell tennie a szükséges lépéseket az információk aktualizálására.
(2) Obligația prevăzută la alineatul (1) se aplică primei utilizări a sistemului de IA cu grad ridicat de risc. În cazuri similare, implementatorul poate să se bazeze pe evaluări ale impactului asupra drepturilor fundamentale efectuate anterior sau pe evaluări existente efectuate de furnizor. În cazul în care consideră că, în timpul utilizării sistemului de IA cu grad ridicat de risc, oricare dintre elementele enumerate la alineatul (1) s-a schimbat sau nu mai este actualizat, implementatorul ia măsurile necesare pentru a actualiza informațiile.
(3) Az e cikk (1) bekezdésében említett értékelés elvégzését követően az alkalmazónak értesítenie kell a piacfelügyeleti hatóságot annak eredményeiről, az értesítés részeként benyújtva az e cikk (5) bekezdésében említett kitöltött kérdőívmintát is. A 46. cikk (1) bekezdésében említett esetben az alkalmazók mentesíthetők ezen értesítési kötelezettség alól.
(3) După efectuarea evaluării menționate la alineatul (1) de la prezentul articol, implementatorul notifică autorității de supraveghere a pieței rezultatele sale, transmițând modelul completat menționat la alineatul (5) de la prezentul articol ca parte a notificării. În cazul menționat la articolul 46 alineatul (1), implementatorii pot fi scutiți de această obligație de notificare.
(4) Ha az (EU) 2016/679 rendelet 35. cikke vagy az (EU) 2016/680 irányelv 27. cikke alapján elvégzett adatvédelmi hatásvizsgálat révén már megfeleltek az e cikkben megállapított kötelezettségek bármelyikének, az e cikk (1) bekezdésében említett alapvetőjogi hatásvizsgálatnak ki kell egészítenie az említett adatvédelmi hatásvizsgálatot.
(4) În cazul în care oricare dintre obligațiile prevăzute la prezentul articol este deja respectată ca urmare a evaluării impactului asupra protecției datelor efectuate în temeiul articolului 35 din Regulamentul (UE) 2016/679 sau al articolului 27 din Directiva (UE) 2016/680, evaluarea impactului asupra drepturilor fundamentale menționată la alineatul (1) de la prezentul articol completează respectiva evaluare a impactului asupra protecției datelor.
(5) Az MI-hivatal – többek között egy automatizált eszköz révén – kérdőívmintát dolgoz ki, hogy megkönnyítse az alkalmazók számára az e cikk szerinti kötelezettségeiknek egyszerűsített módon való megfelelést.
(5) Oficiul pentru IA elaborează un model de chestionar, inclusiv prin intermediul unui instrument automatizat, pentru a-i ajuta pe implementatori să își respecte obligațiile care le revin în temeiul prezentului articol într-un mod simplificat.
Autoritățile de notificare
(1) Minden tagállam kijelöl vagy létrehoz legalább egy bejelentő hatóságot, amely a megfelelőségértékelő szervezetek értékeléséhez, kijelöléséhez és bejelentéséhez, valamint nyomon követéséhez szükséges eljárások kialakításáért és végrehajtásáért felel. Az említett eljárásokat valamennyi tagállam bejelentő hatóságainak együttműködésével kell kidolgozni.
(1) Fiecare stat membru desemnează sau instituie cel puțin o autoritate de notificare responsabilă cu instituirea și efectuarea procedurilor necesare pentru evaluarea, desemnarea și notificarea organismelor de evaluare a conformității și pentru monitorizarea acestora. Procedurile respective se elaborează în cooperare între autoritățile de notificare ale tuturor statelor membre.
(2) A tagállamok dönthetnek úgy, hogy az (1) bekezdésben említett értékelést és nyomon követést egy, a 765/2008/EK rendelet szerinti nemzeti akkreditáló testület végzi el az említett rendelet rendelkezéseivel összhangban.
(2) Statele membre pot decide ca evaluarea și monitorizarea menționate la alineatul (1) să fie efectuate de un organism național de acreditare în sensul Regulamentului (CE) nr. 765/2008 și în conformitate cu acesta.
(3) A bejelentő hatóságokat úgy kell létrehozni, megszervezni és működtetni, hogy ne merülhessen fel összeférhetetlenség a megfelelőségértékelő szervezetekkel, továbbá hogy tevékenységük objektivitása és pártatlansága biztosított legyen.
(3) Autoritățile de notificare sunt instituite și organizate și funcționează astfel încât să nu apară niciun conflict de interese cu organismele de evaluare a conformității și să se protejeze obiectivitatea și imparțialitatea activităților lor.
(4) A bejelentő hatóságokat úgy kell megszervezni, hogy a megfelelőségértékelő szervezet bejelentésével kapcsolatos döntéseket az adott szervezet értékelését végzőktől eltérő illetékes személyek hozzák meg.
(4) Autoritățile de notificare sunt organizate astfel încât deciziile cu privire la notificarea organismelor de evaluare a conformității să fie luate de persoane competente, altele decât cele care au efectuat evaluarea organismelor respective.
(5) A bejelentő hatóságok kereskedelmi vagy piaci alapon nem kínálhatnak vagy végezhetnek sem olyan tevékenységet, amelyet megfelelőségértékelő szervezetek végeznek, sem szaktanácsadási szolgáltatást.
(5) Autoritățile de notificare nu oferă și nu prestează nici activități pe care le prestează organismele de evaluare a conformității și nici servicii de consultanță în condiții comerciale sau concurențiale.
(6) A bejelentő hatóságoknak a 78. cikkel összhangban meg kell őrizniük az általuk kapott információk bizalmas jellegét.
(6) Autoritățile de notificare garantează confidențialitatea informațiilor pe care le obțin, în conformitate cu articolul 78.
(7) A bejelentő hatóságoknak megfelelő létszámú hozzáértő személyzettel kell rendelkezniük ahhoz, hogy megfelelően elláthassák feladataikat. A hozzáértő személyzetnek adott esetben rendelkeznie kell a feladatai ellátásához szükséges szakértelemmel olyan területeken, mint az információtechnológiák, a mesterséges intelligencia és a jog, beleértve az alapvető jogok felügyeletét is.
(7) Autoritățile de notificare au la dispoziție un număr adecvat de membri competenți ai personalului în vederea îndeplinirii corespunzătoare a sarcinilor lor. Membrii competenți ai personalului dețin cunoștințele de specialitate necesare, după caz, pentru funcția pe care o îndeplinesc, în domenii precum tehnologiile informației, IA și drept, inclusiv supravegherea drepturilor fundamentale.
A megfelelőségértékelő szervezet bejelentés iránti kérelme
Cererea de notificare a unui organism de evaluare a conformității
(1) A megfelelőségértékelő szervezetnek bejelentés iránti kérelmet kell benyújtania a letelepedési helye szerinti tagállam bejelentő hatóságához.
(1) Organismele de evaluare a conformității depun o cerere de notificare la autoritatea de notificare a statului membru în care sunt stabilite.
(2) A bejelentés iránti kérelemhez csatolnia kell azon megfelelőségértékelési tevékenységek, megfelelőségértékelési modul vagy modulok és MI-rendszertípusok leírását, amelyek tekintetében a megfelelőségértékelő szervezet szakmailag alkalmasnak tekinti magát, továbbá – amennyiben van ilyen – a nemzeti akkreditáló testület által kiállított akkreditálási okiratot, amely tanúsítja, hogy a megfelelőségértékelő szervezet teljesíti a 31. cikkben megállapított követelményeket.
(2) Cererea de notificare este însoțită de o descriere a activităților de evaluare a conformității, a modulului sau modulelor de evaluare a conformității și a tipurilor de sisteme de IA pentru care organismul de evaluare a conformității se consideră a fi competent, precum și de un certificat de acreditare, în cazul în care există, eliberat de un organism național de acreditare care să ateste că organismul de evaluare a conformității satisface cerințele prevăzute la articolul 31.
Csatolni kell minden érvényes, a kérelmező bejelentett szervezet bármely egyéb uniós harmonizációs jogszabály szerinti, meglévő kijelöléseivel kapcsolatos dokumentumot.
Se adaugă orice document valabil referitor la desemnările existente ale organismului notificat solicitant în temeiul oricăror alte acte legislative de armonizare ale Uniunii.
(3) Amennyiben az érintett megfelelőségértékelő szervezet nem tud akkreditálási okiratot benyújtani, be kell nyújtania a bejelentő hatóság számára a 31. cikkben megállapított követelményeknek való megfelelésének ellenőrzéséhez, elismeréséhez és rendszeres nyomon követéséhez szükséges valamennyi igazoló okmányt.
(3) În cazul în care un organism de evaluare a conformității nu poate prezenta un certificat de acreditare, acesta prezintă autorității de notificare toate documentele justificative necesare pentru verificarea, recunoașterea și monitorizarea periodică a conformității acestuia cu cerințele prevăzute la articolul 31.
(4) A bármely egyéb uniós harmonizációs jogszabály alapján kijelölt bejelentett szervezetek esetében az említett kijelölésekhez kapcsolódó valamennyi dokumentum és tanúsítvány felhasználható adott esetben az e rendelet szerinti kijelölésükre irányuló eljárás alátámasztására. A bejelentett szervezet az e cikk (2) és (3) bekezdésében említett dokumentációt minden releváns változás esetén naprakésszé teszi annak érdekében, hogy lehetővé tegye a bejelentett szervezetekért felelős hatóság számára a 31. cikkben megállapított valamennyi követelménynek való folyamatos megfelelés nyomon követését és ellenőrzését.
(4) În cazul organismelor notificate care sunt desemnate în temeiul oricăror alte acte legislative de armonizare ale Uniunii, toate documentele și certificatele legate de aceste desemnări pot fi utilizate pentru a sprijini procedura de desemnare a acestora în temeiul prezentului regulament, după caz. Organismul notificat actualizează documentația menționată la alineatele (2) și (3) de la prezentul articol ori de câte ori au loc modificări relevante, pentru a oferi autorității naționale responsabile de organismele notificate posibilitatea de a monitoriza și de a verifica respectarea continuă a tuturor cerințelor prevăzute la articolul 31.
(1) A bejelentő hatóságok csak olyan megfelelőségértékelő szervezeteket jelenthetnek be, amelyek megfelelnek a 31. cikkben megállapított követelményeknek.
(1) Autoritățile de notificare pot notifica numai organismele de evaluare a conformității care îndeplinesc cerințele prevăzute la articolul 31.
(2) A bejelentő hatóságok a Bizottság által kifejlesztett és kezelt elektronikus bejelentési eszköz alkalmazásával értesítik a Bizottságot és a többi tagállamot az (1) bekezdésben említett minden egyes megfelelőségértékelő szervezetről.
(2) Autoritățile de notificare înștiințează Comisia și celelalte state membre prin intermediul instrumentului de notificare electronică dezvoltat și administrat de Comisie cu privire la fiecare organism de evaluare a conformității menționat la alineatul (1).
(3) Az e cikk (2) bekezdésében említett bejelentésnek tartalmaznia kell részletes információkat a megfelelőségértékelési tevékenységekről, a megfelelőségértékelési modulról vagy modulokról, az érintett MI-rendszerek típusairól, valamint a szakmai alkalmasság releváns igazolását. Amennyiben a bejelentés nem a 29. cikk (2) bekezdésében említett akkreditálási okiraton alapul, a bejelentő hatóságnak rendelkezésre kell bocsátania a Bizottság és a többi tagállam számára a megfelelőségértékelő szervezet alkalmasságát és azon meglévő intézkedéseket igazoló dokumentumokat, amelyeknek biztosítják, hogy az említett szervezetet rendszeresen nyomon fogják követni, és azt, hogy az továbbra is meg fog felelni a 31. cikkben megállapított követelményeknek.
(3) Notificarea menționată la alineatul (2) de la prezentul articol include detalii complete privind activitățile de evaluare a conformității, modulul sau modulele de evaluare a conformității și tipurile de sisteme de IA în cauză, precum și atestarea relevantă a competenței. În cazul în care notificarea nu se bazează pe un certificat de acreditare menționat la articolul 29 alineatul (2), autoritatea de notificare prezintă Comisiei și celorlalte state membre documentele justificative care atestă competența organismului de evaluare a conformității și măsurile adoptate pentru a se asigura că organismul respectiv va fi monitorizat periodic și că va îndeplini în continuare cerințele prevăzute la articolul 31.
(4) Az érintett megfelelőségértékelő szervezet csak akkor végezheti egy bejelentett szervezet tevékenységeit, ha a Bizottság és a többi tagállam nem emel kifogást a bejelentő hatóság általi bejelentést követő két héten belül, amennyiben a bejelentés a 29. cikk (2) bekezdése szerinti akkreditálási okiratot tartalmaz, vagy a bejelentő hatóság általi bejelentést követő két hónapon belül, amennyiben a bejelentés a 29. cikk (3) bekezdése szerinti igazoló dokumentumot tartalmaz.
(4) Organismul de evaluare a conformității în cauză poate exercita activitățile unui organism notificat numai în cazul în care nu există obiecții din partea Comisiei sau a celorlalte state membre, transmise în termen de două săptămâni de la o notificare din partea unei autorități de notificare, în cazul în care se include un certificat de acreditare menționat la articolul 29 alineatul (2), sau în termen de două luni de la o notificare din partea unei autorități de notificare, în cazul în care se includ documentele justificative menționate la articolul 29 alineatul (3).
(5) Amennyiben kifogást emelnek, a Bizottság haladéktalanul konzultációkat kezdeményez a releváns tagállamokkal és a megfelelőségértékelő szervvel. Erre figyelemmel a Bizottság dönt arról, hogy az engedély indokolt-e. A Bizottság döntését az érintett tagállamnak és a releváns megfelelőségértékelő szervnek címezi.
(5) În cazul în care se ridică obiecții, Comisia inițiază fără întârziere consultații cu statele membre relevante și cu organismul de evaluare a conformității. În lumina acestora, Comisia decide dacă autorizația este justificată. Comisia comunică decizia luată statului membru în cauză și organismului relevant de evaluare a conformității.
A bejelentett szervezetekre vonatkozó követelmények
Cerințe cu privire la organismele notificate
(1) A bejelentett szervezeteket a tagállamok nemzeti joga alapján kell létrehozni, és azoknak jogi személyiséggel kell rendelkezniük.
(1) Un organism notificat este instituit în temeiul dreptului intern al unui stat membru și are personalitate juridică.
(2) A bejelentett szervezeteknek eleget kell tenniük azoknak a szervezeti, minőségirányítási, erőforrásokra vonatkozó és eljárási követelményeknek, amelyek a feladataik ellátásához szükségesek, valamint megfelelő kiberbiztonsági követelményeket kell teljesíteniük.
(2) Organismele notificate îndeplinesc cerințele organizatorice, de management al calității, de resurse și în materie de procese care sunt necesare pentru îndeplinirea sarcinilor lor, precum și cerințele adecvate în materie de securitate cibernetică.
(3) A bejelentett szervezetek szervezeti felépítésének, a szervezeten belül a felelősségi körök kijelölésének, a jelentési útvonalaknak és a bejelentett szervezetek működésének biztosítania kell a bejelentett szervezet által végzett megfelelőségértékelési tevékenységek elvégzése és az e tevékenységek eredményei iránti bizalmat.
(3) Structura organizațională, alocarea responsabilităților, liniile de raportare și funcționarea organismelor notificate asigură încrederea în performanța acestora și în rezultatele activităților de evaluare a conformității pe care le desfășoară organismele notificate.
(4) A bejelentett szervezeteknek függetlennek kell lenniük azon nagy kockázatú MI-rendszer szolgáltatójától, amellyel kapcsolatban megfelelőségértékelési tevékenységeket végeznek. A bejelentett szervezeteknek továbbá függetlennek kell lenniük az értékelés tárgyát képező nagy kockázatú MI-rendszerben gazdasági érdekeltséggel rendelkező bármely egyéb üzemeltetőtől, valamint a szolgáltató versenytársaitól is. Ez nem zárhatja ki az olyan értékelt nagy kockázatú MI-rendszerek használatát, amelyek a megfelelőségértékelő szervezet működéséhez szükségesek, illetve az ilyen nagy kockázatú MI-rendszerek személyes célra történő használatát.
(4) Organismele notificate sunt independente de furnizorul unui sistem de IA cu grad ridicat de risc în legătură cu care efectuează activități de evaluare a conformității. Organismele notificate sunt, de asemenea, independente de orice alt operator care are un interes economic în legătură cu sistemele de IA cu grad ridicat de risc evaluate, precum și de orice concurent al furnizorului. Acest lucru nu împiedică utilizarea sistemelor de IA cu grad ridicat de risc evaluate care sunt necesare pentru operațiunile organismului de evaluare a conformității sau utilizarea sistemelor respective de IA cu grad ridicat de risc în scopuri personale.
(5) Sem a megfelelőségértékelő szervezet, sem annak felső szintű vezetése, sem a megfelelőségértékelési feladatok elvégzéséért felelős személyzete nem vehet részt közvetlenül a nagy kockázatú MI-rendszerek tervezésében, fejlesztésében, forgalmazásában vagy használatában, és nem képviselhetik az ilyen tevékenységekben részt vevő feleket sem. Nem folytathatnak olyan tevékenységet, amely ellentétes lehet a bejelentett megfelelőségértékelési tevékenységekkel kapcsolatos döntéshozói függetlenségükkel vagy feddhetetlenségükkel. Ez különösen érvényes a szaktanácsadási szolgáltatásokra.
(5) Nici organismul de evaluare a conformității, personalul său de conducere de nivel superior, nici personalul responsabil cu îndeplinirea sarcinilor acestuia de evaluare a conformității nu sunt direct implicați în proiectarea, dezvoltarea, comercializarea sau utilizarea sistemelor de IA cu grad ridicat de risc și nici nu reprezintă părțile implicate în respectivele activități. Aceștia nu se implică în nicio activitate susceptibilă de a le afecta imparțialitatea sau integritatea în ceea ce privește activitățile de evaluare a conformității pentru care sunt notificați. Această dispoziție se aplică în special serviciilor de consultanță.
(6) A bejelentett szervezetet úgy kell megszervezni és működtetni, hogy tevékenységeinek függetlensége, objektivitása és pártatlansága biztosított legyen. A bejelentett szervezeteknek olyan struktúrát és eljárásokat kell dokumentálniuk és alkalmazniuk, amelyek a szervezetük, a személyzetük és az értékelési tevékenységeik egészében biztosítják a pártatlanság megőrzését, valamint a pártatlanság elveinek az előmozdítását és alkalmazását.
(6) Organismele notificate sunt organizate și funcționează astfel încât să garanteze independența, obiectivitatea și imparțialitatea activităților lor. Organismele notificate documentează și pun în aplicare o structură și proceduri pentru garantarea imparțialității și pentru promovarea și punerea în practică a principiilor imparțialității în întreaga organizație, pentru tot personalul lor și pentru toate activitățile lor de evaluare.
(7) A bejelentett szervezeteknek dokumentált eljárásokkal kell rendelkezniük, amelyek biztosítják, hogy a személyzetük, a bizottságaik, a leányvállalataik, az alvállalkozóik és bármely velük kapcsolatban álló szervezet vagy külső szervezetek munkavállalói – a 78. cikknek megfelelően – tiszteletben tartsák azon információk bizalmasságát, amelyek a megfelelőségértékelési tevékenységek végzése során a birtokukba kerülnek, kivéve, ha azok közzétételét jogszabály írja elő. A bejelentett szervezetek személyzetének be kell tartania a szakmai titoktartás követelményeit minden olyan információ tekintetében, amely az e rendeletben foglalt feladataik végrehajtása során jutott a birtokába, kivéve annak a tagállamnak a bejelentő hatóságaival szemben, ahol a bejelentett szervezetek tevékenységüket végzik.
(7) Organismele notificate dispun de proceduri documentate care să asigure că personalul, comitetele, filialele, subcontractanții lor, precum și orice organism asociat sau membru al personalului organismelor externe respectă, în conformitate cu articolul 78, confidențialitatea informațiilor care le parvin în timpul derulării activităților de evaluare a conformității, cu excepția cazurilor în care divulgarea acestora este impusă prin lege. Personalul organismelor notificate este obligat să păstreze secretul profesional referitor la toate informațiile obținute în cursul îndeplinirii sarcinilor sale în temeiul prezentului regulament, excepție făcând relația cu autoritățile de notificare ale statului membru în care se desfășoară activitățile sale.
(8) A bejelentett szervezeteknek a tevékenységek ellátásához olyan eljárásokkal kell rendelkezniük, amelyek kellően figyelembe veszik a szolgáltató méretét, azon ágazatot, amelyben az működik, annak szerkezetét és az érintett MI-rendszer összetettségi fokát.
(8) Organismele notificate dispun de proceduri pentru desfășurarea activităților, care să țină seama în mod corespunzător de dimensiunile unui furnizor, de sectorul în care acesta își desfășoară activitatea, de structura sa și de gradul de complexitate al sistemului de IA în cauză.
(9) A bejelentett szervezeteknek megfelelőségértékelési tevékenységeikre megfelelő felelősségbiztosítást kell kötniük, kivéve, ha a felelősséget a nemzeti jognak megfelelően az a tagállam vállalja, amelyben a bejelentett szervezet letelepedett, vagy ha az említett tagállam közvetlenül maga felelős a megfelelőségértékelésért.
(9) Organismele notificate încheie o asigurare de răspundere civilă adecvată pentru activitățile lor de evaluare a conformității, cu excepția cazului în care răspunderea este asumată de statul membru pe teritoriul căruia sunt stabilite, în conformitate cu dreptul intern, sau în care însuși statul membru respectiv este direct responsabil pentru evaluarea conformității.
(10) A bejelentett szervezeteknek képesnek kell lenniük az e rendelet szerinti valamennyi feladatukat a legmagasabb fokú szakmai feddhetetlenséggel és a konkrét területen megkövetelt alkalmassággal végezni, függetlenül attól, hogy az említett feladatokat a bejelentett szervezetek maguk végzik-e, vagy az ő nevükben és felelősségi körükben eljárva mások végzik-e.
(10) Organismele notificate sunt capabile să își îndeplinească toate sarcinile în temeiul prezentului regulament cu cel mai înalt grad de integritate profesională și cu competența necesară în domeniul specific, indiferent dacă sarcinile respective sunt realizate de organismele notificate înseși sau în numele și pe răspunderea acestora.
(11) A bejelentett szervezeteknek elegendő belső szakértelemmel kell rendelkezniük ahhoz, hogy hatékonyan értékelni tudják a külső felek által a nevükben elvégzett feladatokat. A bejelentett szervezetnek állandó jelleggel elegendő olyan adminisztratív, műszaki, jogi és tudományos munkatárssal kell rendelkeznie, akik tapasztalattal és ismeretekkel rendelkeznek a vonatkozó MI-rendszertípusokkal, adatokkal és adatszámítással, valamint a 2. szakaszban foglalt követelményekkel kapcsolatban.
(11) Organismele notificate dispun de suficiente competențe interne pentru a putea evalua în mod efectiv sarcinile îndeplinite de părți externe în numele lor. Organismul notificat dispune în permanență de suficient personal administrativ, tehnic, juridic și științific care deține experiență și cunoștințe în ceea ce privește tipurile relevante de sisteme de IA, de date și de calculul datelor, precum și în ceea ce privește cerințele prevăzute în secțiunea 2.
(12) A bejelentett szervezeteknek részt kell venniük a 38. cikkben említett koordinációs tevékenységekben. Emellett közvetlenül részt kell venniük vagy képviseltetni kell magukat az európai szabványügyi szervezetekben, vagy gondoskodniuk kell arról, hogy tisztában legyenek a vonatkozó szabványokkal, és naprakész ismeretekkel rendelkezzenek ezekről.
(12) Organismele notificate participă la activitățile de coordonare menționate la articolul 38. De asemenea, acestea participă direct sau sunt reprezentate în cadrul organizațiilor de standardizare europene sau se asigură că sunt la curent cu situația referitoare la standardele relevante.
A bejelentések változásai
Modificări ale notificărilor
(1) A bejelentő hatóságok – a 30. cikk (2) bekezdésében említett elektronikus bejelentési eszközön keresztül – értesítik a Bizottságot és a többi tagállamot a bejelentett szervezet bejelentésében bekövetkezett minden releváns változásról.
(1) Autoritatea de notificare înștiințează Comisia și celelalte state membre cu privire la orice modificare relevantă adusă notificării unui organism notificat prin intermediul instrumentului de notificare electronică menționat la articolul 30 alineatul (2).
(2) A bejelentés hatályának kiterjesztésére a 29. és a 30. cikkben megállapított eljárásokat kell alkalmazni.
(2) Procedurile prevăzute la articolele 29 și 30 se aplică extinderilor domeniului de aplicare al notificării.
A bejelentést érintő, a hatályának kiterjesztésétől eltérő változásokra a (3)–(9) bekezdésben megállapított eljárásokat kell alkalmazni.
În ceea ce privește modificările aduse notificării, altele decât extinderile domeniului său de aplicare, se aplică procedurile prevăzute la alineatele (3)-(9).
(3) Amennyiben egy bejelentett szervezet úgy dönt, hogy megszünteti a megfelelőségértékelési tevékenységeit, a lehető leghamarabb – és tervezett megszüntetés esetén a tevékenységeinek megszüntetését megelőzően legalább egy évvel – tájékoztatja a bejelentő hatóságot és az érintett szolgáltatókat. A bejelentett szervezet tanúsítványai a bejelentett szervezet tevékenységeinek megszüntetését követő kilenc hónapos időszakra érvényesek maradhatnak, feltéve, hogy egy másik bejelentett szervezet írásban megerősítette, hogy vállalni fogja a felelősséget az említett tanúsítványok hatálya alá tartozó nagy kockázatú MI-rendszerekért. Az utóbbi bejelentett szervezet az említett kilenc hónapos időszak végéig elvégzi az érintett nagy kockázatú MI-rendszerek teljes értékelését, mielőtt új tanúsítványokat adna ki az említett rendszerekre vonatkozóan. Amennyiben a bejelentett szervezet megszüntette tevékenységét, a bejelentő hatóság visszavonja a kijelölést.
(3) În cazul în care un organism notificat decide să își înceteze activitățile de evaluare a conformității, acesta informează autoritatea de notificare și furnizorii vizați cât mai curând posibil și, în cazul unei încetări planificate, cu cel puțin un an înainte de încetarea activităților. Certificatele organismului notificat pot rămâne valabile pentru o perioadă de nouă luni de la încetarea activității organismului notificat, cu condiția ca un alt organism notificat să fi confirmat în scris că își va asuma responsabilitățile pentru sistemele de IA cu grad ridicat de risc care fac obiectul respectivelor certificate. Acest din urmă organism notificat efectuează o evaluare completă a sistemelor de IA cu grad ridicat de risc în cauză până la finalul respectivei perioade de nouă luni, înainte de emiterea de noi certificate pentru aceste sisteme. În cazul în care organismul notificat și-a încetat activitatea, autoritatea de notificare retrage desemnarea.
(4) Amennyiben a bejelentő hatóságnak elegendő oka van úgy megítélni, hogy valamely bejelentett szervezet már nem felel meg a 31. cikkben megállapított követelményeknek, vagy elmulasztja teljesíteni a kötelezettségeit, a bejelentő hatóság a lehető legnagyobb gondossággal kivizsgálja az ügyet. Ezzel összefüggésben tájékoztatja az érintett bejelentett szervezetet a felmerült kifogásokról, és lehetőséget biztosít számára álláspontjának ismertetésére. Ha a bejelentő hatóság arra a következtetésre jut, hogy a bejelentett szervezet már nem felel meg a 31. cikkben megállapított követelményeknek, vagy elmulasztja teljesíteni a kötelezettségeit, adott esetben – az említett követelményeknek való megfelelés vagy az említett kötelezettségek teljesítése elmulasztásának súlyosságától függően – korlátozza, felfüggeszti vagy visszavonja a kijelölést. A bejelentő hatóság ennek megfelelően haladéktalanul tájékoztatja a Bizottságot és a többi tagállamot.
(4) În cazul în care o autoritate de notificare are motive suficiente să considere că un organism notificat nu mai îndeplinește cerințele prevăzute la articolul 31 sau că acesta nu își îndeplinește obligațiile, autoritatea de notificare respectivă investighează fără întârziere chestiunea, cu cea mai mare diligență. În acest context, aceasta informează organismul notificat în cauză cu privire la obiecțiile ridicate și îi oferă posibilitatea de a-și face cunoscute punctele de vedere. În cazul în care ajunge la concluzia că organismul notificat nu mai îndeplinește cerințele prevăzute la articolul 31 sau că nu își îndeplinește obligațiile, autoritatea de notificare restricționează, suspendă sau retrage desemnarea, după caz, în funcție de gravitatea încălcării cerințelor sau a neîndeplinirii obligațiilor. Autoritatea de notificare informează de îndată Comisia și celelalte state membre în consecință.
(5) Amennyiben a kijelölését felfüggesztették, korlátozták, vagy részben vagy egészben visszavonták, a bejelentett szervezet 10 napon belül tájékoztatja az érintett szolgáltatókat.
(5) În cazul în care desemnarea sa a fost suspendată, restricționată sau retrasă integral sau parțial, organismul notificat informează furnizorii în cauză în termen de 10 zile.
(6) A kijelölés korlátozása, felfüggesztése vagy visszavonása esetén a bejelentő hatóság megfelelő lépéseket tesz annak biztosítására, hogy az érintett bejelentett szervezet dokumentumait megőrizzék, valamint más tagállamok bejelentő hatóságai és a piacfelügyeleti hatóságok számára – azok kérésére – rendelkezésre bocsássák.
(6) În caz de restricționare, suspendare sau retragere a unei desemnări, autoritatea de notificare ia măsurile necesare pentru a se asigura că dosarele organismului notificat în cauză sunt păstrate și le pun la dispoziția autorităților de notificare din alte state membre și a autorităților de supravegherea pieței, la cererea acestora.
(7) A kijelölés korlátozása, felfüggesztése vagy visszavonása esetén a bejelentő hatóság:
(7) În caz de restricționare, suspendare sau retragere a unei desemnări, autoritatea de notificare:
a)
értékeli kell, hogy ez milyen hatással jár a bejelentett szervezet által kibocsátott tanúsítványokra nézve;
(a)
evaluează impactul asupra certificatelor eliberate de organismul notificat;
b)
a kijelölést érintő változások bejelentésétől számított három hónapon belül jelentést nyújt be megállapításairól a Bizottság és a többi tagállam számára;
(b)
prezintă Comisiei și celorlalte state membre un raport conținând constatările sale în termen de trei luni de la data la care a notificat modificările aduse desemnării;
c)
a piacon forgalmazott nagy kockázatú MI-rendszerek folyamatos megfelelőségének biztosítása érdekében előírja a bejelentett szervezet számára, hogy – a hatóság által meghatározott észszerű határidőn belül – függesszen fel vagy vonjon vissza minden jogtalanul kiadott tanúsítványt;
(c)
solicită organismului notificat să suspende sau să retragă, într-un interval rezonabil de timp stabilit de către autoritate, orice certificat care a fost eliberat în mod necorespunzător, pentru a asigura menținerea conformității sistemelor de IA cu grad ridicat de risc de pe piață;
d)
tájékoztatja a Bizottságot és a tagállamokat azon tanúsítványokról, amelyek felfüggesztését vagy visszavonását előírta;
(d)
informează Comisia și statele membre cu privire la certificatele pentru care a solicitat suspendarea sau retragerea;
e)
megad a szolgáltató bejegyzett székhelye szerinti tagállam illetékes nemzeti hatóságainak minden releváns információt azon tanúsítványokról, amelyek felfüggesztését vagy visszavonását előírta; az említett hatóság szükség esetén meghozza a megfelelő intézkedéseket az egészséget, a biztonságot vagy az alapvető jogokat fenyegető potenciális kockázat elkerülése érdekében.
(e)
furnizează autorităților naționale competente din statul membru în care furnizorul își are sediul social toate informațiile relevante cu privire la certificatele pentru care a solicitat suspendarea sau retragerea; autoritățile respective iau măsurile corespunzătoare, acolo unde este necesar, pentru evitarea unui risc potențial pentru sănătate, siguranță sau drepturile fundamentale.
(8) A kijelölés felfüggesztése vagy korlátozása esetén a tanúsítványok – a jogtalanul kiállított tanúsítványok kivételével – érvényesek maradnak a következő körülmények egyikének esetén:
(8) Cu excepția certificatelor eliberate în mod necorespunzător și în cazul în care o desemnare a fost suspendată sau restricționată, certificatele rămân valabile în una dintre următoarele circumstanțe:
a)
a bejelentő hatóság – a felfüggesztést vagy korlátozást követő egy hónapon belül – megerősítette, hogy a felfüggesztés vagy a korlátozás által érintett tanúsítványokkal kapcsolatban nem áll fenn az egészséget, a biztonságot vagy az alapvető jogokat fenyegető kockázat, és a bejelentő hatóság felvázolta a felfüggesztés vagy a korlátozás feloldását célzó intézkedések ütemezését; vagy
(a)
autoritatea de notificare a confirmat, în termen de o lună de la suspendare sau restricționare, că nu există niciun risc pentru sănătate, siguranță sau drepturile fundamentale în legătură cu certificatele afectate de suspendare sau de restricționare și a prezentat un calendar pentru acțiunile de remediere a suspendării sau a restricționării; sau
b)
a bejelentő hatóság megerősítette, hogy a felfüggesztés vagy korlátozás folyamán nem fognak kiadni, módosítani vagy újra kiadni a felfüggesztés szempontjából releváns tanúsítványt, és kijelenti, hogy a bejelentett szervezet képes-e folytatni a felfüggesztés vagy a korlátozás időtartamára kiadott, meglévő tanúsítványok nyomon követését, és azokért továbbra is felelősséget vállalni; abban az esetben, ha a bejelentő hatóság megállapítja, hogy a bejelentett szervezet nem képes a kiadott, meglévő tanúsítványokat támogatni, a tanúsítvány hatálya alá tartozó rendszer szolgáltatójának a felfüggesztéstől vagy korlátozástól számított három hónapon belül írásban meg kell erősítenie a bejegyzett székhelye szerinti tagállam illetékes nemzeti hatóságai felé, hogy a felfüggesztés vagy a korlátozás időtartama alatt ideiglenesen egy másik minősített bejelentett szervezet vállalja a bejelentett szervezetnek a tanúsítványok nyomon követésére és az azokért való további felelősségvállalásra vonatkozó feladatait.
(b)
autoritatea de notificare a confirmat că, pe durata suspendării sau restricționării nu se va emite, modifica sau emite din nou niciun certificat relevant pentru suspendare și declară dacă organismul notificat are capabilitatea de a continua să monitorizeze și să rămână responsabil de certificatele existente pe care le-a emis pe perioada suspendării sau a restricționării; în cazul în care autoritatea de notificare stabilește că organismul notificat nu are capabilitatea de a gestiona certificatele existente pe care le-a emis, furnizorul sistemului care face obiectul certificatului confirmă în scris autorităților naționale competente ale statului membru în care își are sediul social, în termen de trei luni de la suspendare sau restricționare, că un alt organism notificat calificat își asumă temporar funcțiile organismului notificat de a monitoriza și de a rămâne responsabil de certificate pe perioada suspendării sau a restricționării.
(9) A kijelölés visszavonása esetén a tanúsítványok – a jogtalanul kiállított tanúsítványok kivételével – a következő körülmények esetén kilenc hónapig érvényben maradnak:
(9) Cu excepția certificatelor eliberate în mod necorespunzător și, în cazul în care desemnarea a fost retrasă, certificatele rămân valabile pe o perioadă de nouă luni în următoarele circumstanțe:
a)
a tanúsítvány hatálya alá tartozó nagy kockázatú MI-rendszer szolgáltatójának bejegyzett székhelye szerinti tagállam illetékes nemzeti hatósága megerősítette, hogy nem áll fenn az egészséget, a biztonságot vagy az alapvető jogokat fenyegető, az érintett nagy kockázatú MI-rendszerekkel kapcsolatos kockázat; és
(a)
autoritatea națională competentă din statul membru în care furnizorul sistemului de IA cu grad ridicat de risc care face obiectul certificatului își are sediul social a confirmat că nu există niciun risc pentru sănătate, siguranță sau drepturile fundamentale asociat sistemelor de IA cu grad ridicat de risc în cauză; și
b)
egy másik bejelentett szervezet írásban megerősítette, hogy közvetlen felelősséget fog vállalni az említett MI-rendszerekért, és a kijelölés visszavonásától számított 12 hónapon belül elvégzi annak értékelését.
(b)
un alt organism notificat a confirmat în scris că își va asuma responsabilitatea imediat pentru respectivele sisteme de IA și își încheie evaluarea în termen de 12 luni de la retragerea desemnării.
Az első albekezdésben említett körülmények esetén a tanúsítvány hatálya alá tartozó rendszer szolgáltatójának székhelye szerinti tagállam illetékes nemzeti hatósága további három hónapos időszakokkal – amelyek összességében nem haladhatják meg a 12 hónapot – meghosszabbíthatja a tanúsítványok ideiglenes érvényességét.
În situația menționată la primul paragraf, autoritatea națională competentă din statul membru în care își are sediul social furnizorul sistemului care face obiectul certificatului poate prelungi valabilitatea provizorie a certificatelor cu perioade suplimentare de trei luni, care nu depășesc 12 luni în total.
Az illetékes nemzeti hatóság vagy a kijelölés megváltozása által érintett bejelentett szervezet feladatait ellátó bejelentett szervezet erről haladéktalanul tájékoztatja a Bizottságot, a többi tagállamot és a többi bejelentett szervezetet.
Autoritatea națională competentă sau organismul notificat care își asumă funcțiile organismului notificat afectat de modificarea desemnării informează imediat în acest sens Comisia, celelalte state membre și celelalte organisme notificate.
A bejelentett szervezetek alkalmasságának vitatása
Contestarea competenței organismelor notificate
(1) A Bizottság szükség esetén kivizsgál minden olyan esetet, amikor okkal vonható kétségbe a bejelentett szervezet alkalmassága, vagy az, hogy a bejelentett szervezet folyamatosan teljesíti-e a 31. cikkben megállapított követelményeket és az alkalmazandó felelősségi köreit.
(1) Dacă este necesar, Comisia investighează toate cazurile în care există motive de îndoială cu privire la competența unui organism notificat sau la îndeplinirea în continuare de către un organism notificat a cerințelor prevăzute la articolul 31 și a responsabilităților sale aplicabile.
(2) A bejelentő hatóság – kérésre – megad a Bizottságnak minden, az érintett bejelentett szervezet bejelentésével vagy alkalmasságának fenntartásával kapcsolatos információt.
(2) Autoritatea de notificare furnizează Comisiei, la cerere, toate informațiile relevante referitoare la notificarea sau menținerea competenței organismului notificat în cauză.
(3) A Bizottság biztosítja, hogy az e cikk alapján lefolytatott vizsgálatai során a birtokába jutott valamennyi érzékeny információt a 78. cikkel összhangban bizalmasan kezeljék.
(3) Comisia se asigură că toate informațiile sensibile obținute în cursul investigațiilor sale în temeiul prezentului articol sunt tratate în mod confidențial în conformitate cu articolul 78.
(4) Amennyiben a Bizottság megbizonyosodik arról, hogy egy bejelentett szervezet nem vagy már nem tesz eleget a rá vonatkozó bejelentés követelményeinek, ennek megfelelően tájékoztatja a bejelentő tagállamot, és felkéri a szükséges korrekciós intézkedések megtételére, ideértve szükség esetén a bejelentés felfüggesztését vagy visszavonását is. Amennyiben a tagállam elmulasztja meghozni a szükséges korrekciós intézkedéseket, a Bizottság végrehajtási jogi aktus útján felfüggesztheti, korlátozhatja vagy visszavonhatja a kijelölést. Az említett végrehajtási jogi aktust a 98. cikk (2) bekezdésében említett vizsgálóbizottsági eljárás keretében kell elfogadni.
(4) În cazul în care constată că un organism notificat nu îndeplinește sau nu mai îndeplinește cerințele pentru a fi notificat, Comisia informează statul membru notificator în consecință și îi solicită acestuia să ia măsurile corective necesare, inclusiv suspendarea sau retragerea notificării, dacă este necesar. În cazul în care statul membru nu ia măsurile corective necesare, Comisia poate, prin intermediul unui act de punere în aplicare, să suspende, să restricționeze sau să retragă desemnarea. Actul de punere în aplicare respectiv se adoptă în conformitate cu procedura de examinare menționată la articolul 98 alineatul (2).
Harmonizált szabványok és szabványosítási szabvány jellegű dokumentumok
Standarde armonizate și documente de standardizare
(1) Azon nagy kockázatú vagy általános célú MI-rendszerekről, amelyek megfelelnek az olyan harmonizált szabványoknak vagy azok részeinek, amelyek hivatkozásait az 1025/2012/EU rendeletnek megfelelően közzétették az Európai Unió Hivatalos Lapjában, vélelmezni kell, hogy megfelelnek az e fejezet 2. szakaszában meghatározott követelményeknek, vagy adott esetben az e rendelet V. fejezetének 2. és 3. szakaszában meghatározott kötelezettségeknek, amennyiben az említett szabványok e követelményekre vagy kötelezettségekre kiterjednek.
(1) Sistemele de IA cu grad ridicat de risc sau modelele de IA de uz general care sunt în conformitate cu standardele armonizate sau cu o parte a acestora, ale căror referințe au fost publicate în Jurnalul Oficial al Uniunii Europene în conformitate cu Regulamentul (UE) nr. 1025/2012, sunt considerate a fi în conformitate cu cerințele stabilite în secțiunea 2 din prezentul capitol sau, după caz, cu obligațiile prevăzute în capitolul V secțiunile 2 și 3 din prezentul regulament, în măsura în care standardele respective vizează cerințele sau obligațiile respective.
(2) A Bizottság – az 1025/2012/EU rendelet 10. cikkével összhangban – indokolatlan késedelem nélkül bocsátja ki az e fejezet 2. szakaszában meghatározott valamennyi követelményre kiterjedő szabványosítási kérelmeket és adott esetben az e rendelet V. fejezetének 2. és 3. szakaszában meghatározott kötelezettségekre kiterjedő szabványosítási kérelmeket. A szabványosítási kérelemben kérni kell az MI-rendszerek erőforrás-teljesítményének javítását célzó jelentéstételi és dokumentációs folyamatokra – így például életciklusa során a nagy kockázatú MI-rendszer energia- és egyéb erőforrás-fogyasztásának csökkentésére –, valamint az általános célú MI-modellek energiahatékony fejlesztésére vonatkozó szabvány jellegű dokumentumokat is. A szabványosítási kérelem elkészítésekor a Bizottság konzultál a Testülettel és a releváns érdekelt felekkel, ideértve a tanácsadó fórumot is.
(2) În conformitate cu articolul 10 din Regulamentul (UE) nr. 1025/2012, Comisia emite, fără întârzieri nejustificate, solicitări de standardizare care vizează toate cerințele prevăzute în secțiunea 2 din prezentul capitol și, după caz, solicitări de standardizare care vizează obligațiile prevăzute în capitolul V secțiunile 2 și 3 din prezentul regulament. De asemenea, în cadrul solicitărilor de standardizare se cere furnizarea de documente privind procesele de raportare și documentare pentru a îmbunătăți performanța în materie de resurse a sistemelor de IA, cum ar fi reducerea consumului de energie și de alte resurse pentru sistemul de IA cu grad ridicat de risc pe parcursul ciclului său de viață, precum și privind dezvoltarea eficientă din punct de vedere energetic a modelelor de IA de uz general. Atunci când elaborează o solicitare de standardizare, Comisia consultă Consiliul IA și părțile interesate relevante, inclusiv forumul consultativ.
Az európai szabványügyi szervezeteknek címzett szabványosítási kérelem kiadásakor a Bizottság meghatározza, hogy a szabványoknak világosnak és konzisztensnek kell lenniük – többek között az I. mellékletben felsorolt meglévő uniós harmonizációs jogszabályok hatálya alá tartozó termékekre vonatkozóan a különböző ágazatokban kidolgozott szabványokkal –, és annak biztosítására kell irányulniuk, hogy az Unióban forgalomba hozott vagy üzembe helyezett nagy kockázatú MI-rendszerek vagy általános célú MI-modellek megfeleljenek az e rendeletben megállapított releváns követelményeknek vagy kötelezettségeknek.
Atunci când adresează o solicitare de standardizare organizațiilor de standardizare europene, Comisia precizează că standardele trebuie să fie clare și coerente inclusiv cu standardele elaborate în diferitele sectoare pentru produsele care fac obiectul legislației existente de armonizare a Uniunii care figurează în anexa I, având drept scop să asigure faptul că sistemele de IA cu grad ridicat de risc sau modelele de IA de uz general introduse pe piață sau puse în funcțiune în Uniune îndeplinesc cerințele sau obligațiile relevante prevăzute în prezentul regulament.
A Bizottság az 1025/2012/EU rendelet 24. cikkének megfelelően felkéri az európai szabványügyi szervezeteket, hogy igazolják az e bekezdés első és második albekezdésében említett célkitűzések elérésére tett erőfeszítéseiket.
Comisia solicită organizațiilor de standardizare europene să furnizeze dovezi ale tuturor eforturilor depuse pentru a îndeplini obiectivele menționate la primul și al doilea paragraf de la prezentul alineat, în conformitate cu articolul 24 din Regulamentul (UE) nr. 1025/2012.
(3) A szabványosítási folyamat résztvevőinek törekedniük kell arra, hogy előmozdítsák az MI-vel kapcsolatos beruházásokat és innovációt – többek között a jogbiztonság, valamint az uniós piac versenyképességének és növekedésének fokozása révén –, hozzájáruljanak a szabványosítás terén folytatott globális együttműködés megerősítéséhez, valamint az MI területén meglévő, az uniós értékekkel, alapvető jogokkal és érdekekkel összhangban álló nemzetközi szabványok figyelembevételéhez, továbbá hogy javítsák a többszereplős irányítást, biztosítva az érdekek kiegyensúlyozott képviseletét és valamennyi érdekelt fél tényleges részvételét az 1025/2012/EU rendelet 5., 6. és 7. cikkével összhangban.
(3) Participanții la procesul de standardizare urmăresc să promoveze investițiile și inovarea în IA, inclusiv prin sporirea securității juridice, precum și competitivitatea și creșterea pieței Uniunii, să contribuie la consolidarea cooperării la nivel mondial în materie de standardizare, ținând seama de standardele internaționale existente în domeniul IA care sunt în concordanță cu valorile, drepturile fundamentale și interesele Uniunii, și să consolideze guvernanța multipartită, asigurând o reprezentare echilibrată a intereselor și participarea efectivă a tuturor părților interesate relevante, în conformitate cu articolele 5, 6 și 7 din Regulamentul (UE) nr. 1025/2012.
(1) A Bizottság elfogadhat az e fejezet 2. szakaszában foglalt követelményekre vagy adott esetben az V. fejezetben 2. és 3. szakaszában meghatározott kötelezettségekre vonatkozó közös előírásokat megállapító végrehajtási jogi aktusokat, amennyiben teljesültek a következő feltételek:
(1) Comisia poate să adopte acte de punere în aplicare de stabilire a specificațiilor comune pentru cerințele prevăzute în secțiunea 2 din prezentul capitol sau, după caz, pentru obligațiile prevăzute în secțiunile 2 și 3 din capitolul V, în cazul în care sunt îndeplinite următoarele condiții:
a)
a Bizottság az 1025/2012/EU rendelet 10. cikkének (1) bekezdése alapján felkért egy vagy több európai szabványügyi szervezetet az e fejezet 2. szakaszában foglalt követelményekre vagy – adott esetben – az V. fejezet 2. és 3. szakaszában foglalt kötelezettségekre vonatkozó harmonizált szabvány kidolgozására, és:
(a)
Comisia a solicitat, în temeiul articolului 10 alineatul (1) din Regulamentul (UE) nr. 1025/2012, uneia sau mai multor organizații de standardizare europene să elaboreze un standard armonizat pentru cerințele prevăzute în secțiunea 2 din prezentul capitol sau, după caz, pentru obligațiile prevăzute în secțiunile 2 și 3 din capitolul V, și:
i.
a felkérést egyik európai szabványügyi szervezet sem fogadta be; vagy
(i)
solicitarea nu a fost acceptată de niciuna dintre organizațiile de standardizare europene; sau
ii.
a felkérés szerinti harmonizált szabványokat nem nyújtották be az 1025/2012/EU rendelet 10. cikkének (1) bekezdésének megfelelően meghatározott határidőn belül; vagy
(ii)
nu sunt prezentate standarde armonizate care să răspundă solicitării respective în termenul stabilit în conformitate cu articolul 10 alineatul (1) din Regulamentul (UE) nr. 1025/2012; sau
iii.
a vonatkozó harmonizált szabványok nem kezelnek kielégítő mértékben alapjogi aggályokat; vagy
(iii)
standardele armonizate relevante nu abordează suficient preocupările legate de drepturile fundamentale; sau
iv.
az említett szabványok nem felelnek meg a felkérésnek; és
(iv)
standardele armonizate nu sunt conforme cu solicitarea; și
b)
az Európai Unió Hivatalos Lapjában nem tettek közzé – az 1025/2012/EU rendeletnek megfelelően – hivatkozást az e fejezet 2. szakaszában említett követelményekre vagy adott esetben az V. fejezet 2. és 3. szakaszában említett kötelezettségekre kiterjedő harmonizált szabványokra, és észszerű időn belül várhatóan nem is tesznek közzé ilyen hivatkozást.
(b)
nicio referință la standardele armonizate care vizează cerințele prevăzute în secțiunea 2 din prezentul capitol sau, după caz, obligațiile prevăzute în secțiunile 2 și 3 din capitolul V, nu a fost publicată în Jurnalul Oficial al Uniunii Europene în conformitate cu Regulamentul (UE) nr. 1025/2012, și nu se preconizează publicarea niciunei astfel de referințe într-un termen rezonabil.
A közös előírások kidolgozása során a Bizottság konzultál a 67. cikkben említett tanácsadó fórummal.
La redactarea specificațiilor comune, Comisia consultă forumul consultativ menționat la articolul 67.
Az e bekezdés első albekezdésében említett végrehajtási jogi aktusokat a 98. cikk (2) bekezdésében említett vizsgálóbizottsági eljárás keretében kell elfogadni.
Actele de punere în aplicare menționate la primul paragraf de la prezentul alineat se adoptă în conformitate cu procedura de examinare menționată la articolul 98 alineatul (2).
(2) A végrehajtási jogi aktus tervezetének kidolgozása előtt a Bizottság tájékoztatja az 1025/2012/EU rendelet 22. cikkében említett bizottságot arról, hogy megítélése szerint teljesülnek az e cikk (1) bekezdésében megállapított feltételek.
(2) Înainte de a pregăti un proiect de act de punere în aplicare, Comisia informează comitetul menționat la articolul 22 din Regulamentul (UE) nr. 1025/2012 că, în opinia sa, sunt îndeplinite condițiile de la alineatul (1).
(3) Azon nagy kockázatú MI-rendszerekről vagy általános célú MI-modellekről, amelyek megfelelnek az (1) bekezdésben említett közös előírásoknak vagy ezen előírások egyes részeinek, azt kell vélelmezni, hogy megfelelnek az e fejezet 2. szakaszában meghatározott követelményeknek, vagy adott esetben megfelelnek az V. fejezet 2. és 3. szakaszában említett kötelezettségeknek, amennyiben az említett közös előírások az említett követelményekre vagy az említett kötelezettségekre is kiterjednek.
(3) Sistemele de IA cu grad ridicat de risc sau modelele de IA de uz general care sunt în conformitate cu specificațiile comune menționate la alineatul (1) sau cu părți ale acestora sunt considerate a fi în conformitate cu cerințele prevăzute în secțiunea 2 din prezentul capitol sau, după caz, a respecta obligațiile prevăzute în secțiunile 2 și 3 din capitolul V, în măsura în care respectivele specificații comune vizează cerințele sau obligațiile respective.
(4) Amennyiben valamely európai szabványügyi szervezet harmonizált szabványt fogad el, és javasolja a Bizottságnak, hogy arra vonatkozóan tegyen közzé hivatkozást az Európai Unió Hivatalos Lapjában, a Bizottság az 1025/2012/EU rendelettel összhangban értékeli a harmonizált szabványt. Amikor egy harmonizált szabvány hivatkozását közzéteszik az Európai Unió Hivatalos Lapjában, a Bizottság hatályon kívül helyezi az (1) bekezdésben említett végrehajtási jogi aktusokat vagy azok azon részeit, amelyek az e fejezet 2. szakaszában meghatározott ugyanazon követelményekre, vagy adott esetben az V. fejezet 2. és 3. szakaszában meghatározott ugyanazon kötelezettségekre vonatkoznak.
(4) În cazul în care un standard armonizat este adoptat de o organizație de standardizare europeană și este propus Comisiei pentru ca referința sa să fie publicată în Jurnalul Oficial al Uniunii Europene, Comisia evaluează standardul armonizat în conformitate cu Regulamentul (UE) nr. 1025/2012. Atunci când referința unui standard armonizat este publicată în Jurnalul Oficial al Uniunii Europene, Comisia abrogă actele de punere în aplicare menționate la alineatul (1) sau acele părți ale lor care vizează aceleași cerințe menționate la secțiunea 2 din prezentul capitol sau, după caz, aceleași obligații prevăzute în secțiunile 2 și 3 din capitolul V.
(5) Amennyiben a nagy kockázatú MI-rendszerek vagy az általános célú MI-modellek szolgáltatói nem felelnek meg az (1) bekezdésben említett közös előírásoknak, megfelelően igazolniuk kell, hogy olyan műszaki megoldásokat fogadtak el, amelyek – azokkal legalább egyenértékű szinten – megfelelnek az e fejezet 2. szakaszában említett követelményeknek, vagy adott esetben megfelelnek az V. fejezet 2. és 3. szakaszában meghatározott kötelezettségeknek.
(5) În cazul în care furnizorii de sisteme de IA cu grad ridicat de risc sau de modele de IA de uz general nu respectă specificațiile comune menționate la alineatul (1), aceștia trebuie să dovedească în mod corespunzător faptul că au adoptat soluții tehnice care îndeplinesc cerințele menționate în secțiunea 2 din prezentul capitol sau, după caz, care respectă obligațiile prevăzute în secțiunile 2 și 3 din capitolul V la un nivel cel puțin echivalent cu acestea.
(6) Amennyiben egy tagállam úgy ítéli meg, hogy valamely közös előírás nem felel meg teljes mértékben a 2. szakaszban meghatározott követelményeknek, vagy adott esetben nem felel meg teljes mértékben az V. fejezet 2. és 3. szakaszában meghatározott kötelezettségeknek, erről részletes magyarázatot mellékelve tájékoztatja a Bizottságot. A Bizottság értékeli az említett információkat, és adott esetben módosítja az érintett közös előírást megállapító végrehajtási jogi aktust.
(6) În cazul în care un stat membru consideră că o specificație comună nu îndeplinește în totalitate cerințele prevăzute în secțiunea 2 sau, după caz, nu respectă în totalitate obligațiile prevăzute în secțiunile 2 și 3 din capitolul V, acesta informează Comisia în acest sens, furnizând o explicație detaliată. Comisia evaluează informațiile respective și, dacă este cazul, modifică actul de punere în aplicare prin care se stabilește specificația comună în cauză.