Официален вестник
на Европейския съюз
BG
Il-Ġurnal Uffiċjali
ta'l-Unjoni Ewropea
MT
РЕГЛАМЕНТ (ЕС) 2024/1689 НА ЕВРОПЕЙСКИЯ ПАРЛАМЕНТ И НА СЪВЕТА
REGOLAMENT (UE) 2024/1689 TAL-PARLAMENT EWROPEW U TAL-KUNSILL
за установяване на хармонизирани правила относно изкуствения интелект и за изменение на регламенти (ЕО) № 300/2008, (ЕС) № 167/2013, (ЕС) № 168/2013, (ЕС) 2018/858, (ЕС) 2018/1139 и (ЕС) 2019/2144 и директиви 2014/90/ЕС, (ЕС) 2016/797 и (ЕС) 2020/1828 (Акт за изкуствения интелект)
li jistabbilixxi regoli armonizzati dwar l-intelliġenza artifiċjali u li jemenda r-Regolamenti (KE) Nru 300/2008, (UE) Nru 167/2013, (UE) Nru 168/2013, (UE) 2018/858, (UE) 2018/1139 u (UE) 2019/2144 u d-Direttivi 2014/90/UE, (UE) 2016/797 u (UE) 2020/1828 (l-Att dwar l-Intelliġenza Artifiċjali)
(текст от значение за ЕИП)
(Test b'rilevanza għaż-ŻEE)
ЕВРОПЕЙСКИЯТ ПАРЛАМЕНТ И СЪВЕТЪТ НА ЕВРОПЕЙСКИЯ СЪЮЗ,
IL-PARLAMENT EWROPEW U L-KUNSILL TAL-UNJONI EWROPEA,
като взеха предвид Договора за функционирането на Европейския съюз, и по-специално членове 16 и 114 от него,
Wara li kkunsidraw it-Trattat dwar il-Funzjonament tal-Unjoni Ewropea, u b'mod partikolari l-Artikoli 16 u 114 tiegħu,
като взеха предвид предложението на Европейската комисия,
Wara li kkunsidraw il-proposta tal-Kummissjoni Ewropea,
след предаване на проекта на законодателния акт на националните парламенти,
Wara li l-abbozz tal-att leġiżlattiv intbagħat lill-parlamenti nazzjonali,
като взеха предвид становището на Европейския икономически и социален комитет (1),
Wara li kkunsidraw l-opinjoni tal-Kumitat Ekonomiku u Soċjali Ewropew (1),
като взеха предвид становището на Европейската централна банка (2),
Wara li kkunsidraw l-opinjoni tal-Bank Ċentrali Ewropew (2),
като взеха предвид становището на Комитета на регионите (3),
Wara li kkunsidraw l-opinjoni tal-Kumitat tar-Reġjuni (3),
в съответствие с обикновената законодателна процедура (4),
Filwaqt li jaġixxu f'konformità mal-proċedura leġiżlattiva ordinarja (4),
(1)
Целта на настоящия регламент е да се подобри функционирането на вътрешния пазар чрез установяване на единна правна рамка, по-специално за разработването, пускането на пазара, пускането в действие и използването на системи с изкуствен интелект (наричани по-долу „системи с ИИ“) в Съюза, в съответствие с ценностите на Съюза, да се насърчи навлизането на ориентиран към човека и надежден изкуствен интелект (ИИ), като същевременно се гарантира високо равнище на защита на здравето, безопасността и основните права, залегнали в Хартата на основните права на Европейския съюз (наричана по-долу „Хартата“), включително демокрацията, принципите на правовата държава и опазването на околната среда, да се осигури защита срещу вредните последици от системите с ИИ в Съюза и да се подкрепят иновациите. С настоящия регламент се гарантира свободното трансгранично движение на стоки и услуги, основани на ИИ, като по този начин не се допуска държавите членки да налагат ограничения върху разработването, предлагането на пазара и използването на системи с ИИ, освен ако това не е изрично разрешено с настоящия регламент.
(1)
L-għan ta' dan ir-Regolament huwa li jtejjeb il-funzjonament tas-suq intern billi jistabbilixxi qafas legali uniformi b'mod partikolari għall-iżvilupp, l-introduzzjoni fis-suq, it-tqegħid fis-servizz u l-użu ta' sistemi ta' intelliġenza artifiċjali (sistemi tal-IA) fl-Unjoni, f'konformità mal-valuri tal-Unjoni, li jippromwovi l-adozzjoni ta' intelliġenza artifiċjali (IA) ċċentrata fuq il-bniedem u affidabbli filwaqt li jiżgura livell għoli ta' protezzjoni tas-saħħa, tas-sikurezza, tad-drittijiet fundamentali kif minquxa fil-Karta tad-Drittijiet Fundamentali tal-Unjoni Ewropea (“il-Karta”), inkluż id-demokrazija, l-istat tad-dritt u l-protezzjoni ambjentali, li jipproteġi kontra l-effetti ta' ħsara tas-sistemi tal-IA fl-Unjoni u li jappoġġa l-innovazzjoni. Dan ir-Regolament jiżgura l-moviment liberu transfruntier tal-oġġetti u s-servizzi bbażati fuq l-IA, u b'hekk jipprevjeni lill-Istati Membri milli jimponu restrizzjonijiet fuq l-iżvilupp, il-kummerċjalizzazzjoni u l-użu ta' sistemi tal-IA, sakemm mhumiex awtorizzati b'mod espliċitu b'dan ir-Regolament.
(2)
Настоящият регламент следва да се прилага в съответствие с ценностите на Съюза, залегнали в Хартата, като се улеснява защитата на физическите лица, предприятията, демокрацията, принципите на правовата държава и опазването на околната среда и същевременно се насърчават иновациите и заетостта и се спомага за превръщането на Съюза в лидер във възприемането на надежден ИИ.
(2)
Jenħtieġ li dan ir-Regolament jiġi applikat f'konformità mal-valuri tal-Unjoni kif minquxa fil-Karta li jiffaċilitaw il-protezzjoni tal-persuni fiżiċi, tal-impriżi, tad-demokrazija, tal-istat tad-dritt u tal-protezzjoni ambjentali filwaqt li jagħti spinta lill-innovazzjoni u l-impjiegi u jagħmel lill-Unjoni minn ta' quddiem nett fl-adozzjoni ta' IA affidabbli.
(3)
Системите с ИИ могат лесно да бъдат внедрени в най-различни сектори на икономиката и в много сфери на обществото, включително в трансграничен план, и да се ползват от свободно движение в целия Съюз. Някои държави членки вече са проучили възможността за приемане на национални правила, за да гарантират, че ИИ е надежден и безопасен и се разработва и използва в съответствие със задълженията, свързани с основните права. Различаващите се национални правила могат да доведат до разпокъсаност на вътрешния пазар и да намалят правната сигурност за операторите, които разработват, внасят или използват системи с ИИ. Ето защо, с цел да се осигури надежден ИИ, следва да се гарантира последователно и високо равнище на защита в целия Съюз, като същевременно се предотвратят различията, възпрепятстващи свободното движение, иновациите, внедряването и възприемането в рамките на вътрешния пазар на системи с ИИ и свързани с тях продукти и услуги, като за целта се предвидят еднакви задължения за операторите и се гарантира еднаква защита на императивните съображения от обществен интерес и на правата на лицата в рамките на целия вътрешен пазар на основание член 114 от Договора за функционирането на Европейския съюз (ДФЕС). Доколкото настоящият регламент съдържа специални правила за защита на физическите лица по отношение на обработването на лични данни във връзка с ограниченията за използването на системи с ИИ за дистанционна биометрична идентификация за правоохранителни цели, за използването на системи с ИИ за оценка на риска за физическите лица за правоохранителни цели и за използването на системи с ИИ за биометрично категоризиране за правоохранителни цели, е целесъобразно правното основание на настоящия регламент, във връзка с тези специални правила, да бъде член 16 ДФЕС. С оглед на тези специални правила и защитата съгласно член 16 ДФЕС е целесъобразно да се проведе консултация с Европейския комитет по защита на данните.
(3)
Is-sistemi tal-IA jistgħu faċilment jiġu implimentati f'varjetà kbira ta' setturi tal-ekonomija u f'ħafna partijiet tas-soċjetà, inkluż b'mod transfruntier, u jistgħu faċilment jiċċirkolaw madwar l-Unjoni. Ċerti Stati Membri diġà esploraw l-adozzjoni ta' regoli nazzjonali biex jiżguraw li l-IA tkun affidabbli u sikura u li tiġi żviluppata u użata f'konformità mal-obbligi tad-drittijiet fundamentali. Regoli nazzjonali diverġenti jistgħu jwasslu għall-frammentazzjoni tas-suq intern u jistgħu jnaqqsu ċ-ċertezza legali tal-operaturi biex jiżviluppaw, jimportaw jew jużaw is-sistemi tal-IA. Għalhekk, jenħtieġ li jkun żgurat livell konsistenti u għoli ta' protezzjoni madwar l-Unjoni kollha sabiex tinkiseb IA affidabbli, filwaqt li jenħtieġ li jiġu evitati d-diverġenzi li jfixklu ċ-ċirkolazzjoni libera, l-innovazzjoni, l-implimentazzjoni u l-adozzjoni tas-sistemi tal-IA u tal-prodotti u tas-servizzi relatati fi ħdan is-suq intern, billi jiġu stabbiliti obbligi uniformi għall-operaturi u tkun żgurata l-protezzjoni uniformi tar-raġunijiet prevalenti ta' interess pubbliku u tad-drittijiet tal-persuni fis-suq intern kollu abbażi tal-Artikolu 114 tat-Trattat dwar il-Funzjonament tal-Unjoni Ewropea (TFUE). Peress li dan ir-Regolament fih regoli speċifiċi dwar il-protezzjoni tal-individwi fir-rigward tal-ipproċessar tad-data personali rigward restrizzjonijiet tal-użu ta' sistemi tal-IA għall-identifikazzjoni bijometrika remota għall-fini tal-infurzar tal-liġi, għall-użu ta' sistemi tal-IA għall-valutazzjonijiet tar-riskju ta' persuni fiżiċi għall-fini tal-infurzar tal-liġi u għall-użu ta' sistemi tal-IA ta' kategorizzazzjoni bijometrika għall-finijiet tal-infurzar tal-liġi, huwa xieraq li dan ir-Regolament, sa fejn huma kkonċernati dawk ir-regoli speċifiċi, jiġi bbażat fuq l-Artikolu 16 TFUE. Fid-dawl ta' dawk ir-regoli speċifiċi u r-rikors għall-Artikolu 16 TFUE, jixraq jiġi kkonsultat il-Bord Ewropew għall-Protezzjoni tad-Data.
(4)
ИИ е бързо развиваща се съвкупност от технологии, които допринасят за извличането на множество икономически, екологични и обществени ползи по протежение на целия спектър от стопански сектори и социални дейности. Като подобрява прогнозирането, оптимизира операциите и разпределянето на ресурсите и персонализира цифровите решения, които са на разположение на физическите лица и организациите, използването на ИИ може да осигури ключови конкурентни предимства за предприятията и да спомогне за постигането на социално и екологично благоприятни резултати, например в областта на здравеопазването, селското стопанство, безопасността на храните, образованието и обучението, медиите, спорта, културата, управлението на инфраструктурата, енергетиката, транспорта и логистиката, публичните услуги, сигурността, правосъдието, ресурсната и енергийната ефективност, мониторинга на околната среда, опазването и възстановяването на биоразнообразието и екосистемите, както и смекчаването на последиците от изменението на климата и адаптирането към него.
(4)
L-IA hi familja ta' teknoloġiji li qed tevolvi malajr u li tikkontribwixxi għal firxa wiesgħa ta' benefiċċji ekonomiċi, ambjentali u soċjetali fl-ispettru kollu tal-industriji u tal-attivitajiet soċjali. B'titjib fil-previżjoni, b'ottimizzazzjoni tal-operazzjonijiet u l-allokazzjoni tar-riżorsi, u b'personalizzazzjoni tas-soluzzjonijiet diġitali disponibbli għall-individwi u l-organizzazzjonijiet, l-użu tal-IA jista' jipprovdi vantaġġi kompetittivi ewlenin lill-impriżi u jappoġġa eżiti b'benefiċċji soċjali u ambjentali, bħal pereżempju fil-kura tas-saħħa, fl-agrikoltura, fis-sikurezza tal-ikel, fl-edukazzjoni u t-taħriġ, fil-media, fl-isports, fil-kultura, fil-ġestjoni tal-infrastruttura, fl-enerġija, fit-trasport u l-loġistika, fis-servizzi pubbliċi, fis-sigurtà, fil-ġustizzja, fl-effiċjenza tar-riżorsi u enerġetika, fil-monitoraġġ ambjentali, fil-konservazzjoni u r-restawr tal-bijodiversità u l-ekosistemi u fil-mitigazzjoni u l-adattament għat-tibdil fil-klima.
(5)
Същевременно, в зависимост от обстоятелствата по отношение на конкретното му приложение, използване и равнище на технологично развитие, ИИ може да доведе до рискове и да накърни обществените интереси и основните права, защитени от правото на Съюза. Тези вреди могат да бъдат имуществени или неимуществени, включително физически, психически, обществени или икономически.
(5)
Fl-istess ħin, skont iċ-ċirkostanzi fir-rigward tal-applikazzjoni, l-użu u l-livell ta' żvilupp teknoloġiku speċifiċi tagħha, l-IA tista' toħloq riskji u tikkawża ħsara lill-interessi pubbliċi u lid-drittijiet fundamentali li huma protetti bil-liġi tal-Unjoni. Din il-ħsara tista' tkun materjali jew mhux materjali, inkluż ħsara fiżika, psikoloġika, soċjetali jew ekonomika.
(6)
Предвид значителното въздействие, което ИИ може да окаже върху обществото, и необходимостта от изграждане на доверие, е от жизненоважно значение ИИ и неговата регулаторна рамка да бъдат разработени в съответствие с ценностите на Съюза, залегнали в член 2 от Договора за Европейския съюз (ДЕС), и основните права и свободи, залегнали в Договорите и, съгласно член 6 ДЕС, в Хартата. Като предварително условие ИИ следва да бъде технология, ориентирана към човека. Той следва да служи като инструмент за хората, като крайната цел е да се повиши тяхното благосъстояние.
(6)
Minħabba l-impatt kbir li jista' jkollha l-IA fuq is-soċjetà u l-ħtieġa li tinbena l-fiduċja, huwa essenzjali li l-IA u l-qafas regolatorju tagħha jiġu żviluppati f'konformità mal-valuri tal-Unjoni minquxa fl-Artikolu 2 tat-Trattat dwar l-Unjoni Ewropea (TUE), id-drittijiet u l-libertajiet fundamentali minquxa fit-Trattati u, skont l-Artikolu 6 TUE, fil-Karta. Bħala prerekwiżit, jenħtieġ li l-IA tkun teknoloġija ċċentrata fuq il-bniedem. Jenħtieġ li sservi bħala għodda għan-nies, bl-għan aħħari li jiżdied il-benesseri tal-bniedem.
(7)
За да се гарантира последователно и високо равнище на защита на обществените интереси по отношение на здравето, безопасността и основните права, следва да бъдат установени общи правила за високорисковите системи с ИИ. Тези правила следва да бъдат в съответствие с Хартата, да бъдат недискриминационни и да са в съответствие с международните търговски ангажименти на Съюза. Освен това те следва да са съобразени с Европейската декларация относно цифровите права и принципи за цифровото десетилетие и Насоките относно етичните аспекти за надежден ИИ на експертната група на високо равнище по въпросите на изкуствения интелект (ЕГВР ИИ).
(7)
Biex ikun żgurat livell konsistenti u għoli ta' protezzjoni tal-interessi pubbliċi fir-rigward tas-saħħa, is-sikurezza, u d-drittijiet fundamentali, jenħtieġ li jiġu stabbiliti regoli komuni għas-sistemi tal-IA b'riskju għoli. Jenħtieġ li dawk ir-regoli jkunu konsistenti mal-Karta, nondiskriminatorji u konformi mal-impenji kummerċjali internazzjonali tal-Unjoni. Jenħtieġ li jqisu wkoll id-Dikjarazzjoni Ewropea dwar id-Drittijiet u l-Prinċipji Diġitali għad-Deċennju Diġitali u l-Linji Gwida dwar l-Etika għal IA affidabbli tal-Grupp ta' Esperti ta' Livell Għoli dwar l-Intelliġenza Artifiċjali (AI HLEG).
(8)
Поради това е необходима правна рамка на Съюза, с която да се установят хармонизирани правила относно ИИ, за да се насърчи разработването, използването и навлизането на ИИ на вътрешния пазар, и която същевременно да осигурява високо равнище на защита на обществените интереси, например здравето и безопасността, и защитата на основните права, включително демокрацията, принципите на правовата държава и опазването на околната среда, признати и защитени от правото на Съюза. За постигането на тази цел следва да бъдат установени правила, уреждащи пускането на пазара, пускането в действие и използването на някои системи с ИИ, и по този начин да се гарантира безпрепятственото функциониране на вътрешния пазар и да се даде възможност на тези системи да се ползват от принципа на свободно движение на стоки и услуги. Тези правила следва да бъдат ясни и надеждни по отношение на защитата на основните права, да благоприятстват нови иновативни решения и да дават възможност за изграждане на европейска екосистема от публични и частни участници, които да създават системи с ИИ в съответствие с ценностите на Съюза и да отключват потенциала на цифровата трансформация във всички региони на Съюза. С установяването на такива правила, както и на мерки в подкрепа на иновациите с отделяне на специално внимание на малките и средните предприятия (МСП), включително новосъздадените предприятия, настоящият регламент подкрепя целта за насърчаване на европейския подход към ИИ, ориентиран към човека, и целта на Съюза да бъде световен лидер в разработването на сигурен, надежден и етичен ИИ, както бе посочено от Европейския съвет (5), и гарантира защитата на етичните принципи, както изрично бе поискано от Европейския парламент (6).
(8)
Għalhekk, huwa meħtieġ qafas legali tal-Unjoni li jistabbilixxi regoli armonizzati dwar l-IA biex jitrawmu l-iżvilupp, l-użu u l-adozzjoni tal-IA fis-suq intern li fl-istess ħin jissodisfa livell għoli ta' protezzjoni tal-interessi pubbliċi, bħas-saħħa u s-sikurezza, u l-protezzjoni tad-drittijiet fundamentali, inkluż id-demokrazija, l-istat tad-dritt u l-protezzjoni ambjentali kif rikonoxxuti u mħarsa bil-liġi tal-Unjoni. Biex jintlaħaq dak l-objettiv, jenħtieġ jiġu stabbiliti regoli li jirregolaw l-introduzzjoni fis-suq, it-tqegħid fis-servizz u l-użu ta' ċerti sistemi tal-IA, u b'hekk ikun żgurat il-funzjonament bla xkiel tas-suq intern u dawk is-sistemi jkunu jistgħu jibbenefikaw mill-prinċipju tal-moviment liberu tal-prodotti u tas-servizzi. Jenħtieġ li dawk ir-regoli jkunu ċari u robusti fil-protezzjoni tad-drittijiet fundamentali, jappoġġaw soluzzjonijiet innovattivi ġodda, li jippermettu ekosistema Ewropea ta' atturi pubbliċi u privati li joħolqu sistemi tal-IA f'konformità mal-valuri tal-Unjoni u jisfruttaw il-potenzjal tat-trasformazzjoni diġitali fir-reġjuni kollha tal-Unjoni. Billi jistabbilixxi dawk ir-regoli kif ukoll miżuri b'appoġġ għall-innovazzjoni b'enfasi partikolari fuq l-intrapriżi mikro, żgħar u ta' daqs medju (SMEs), inkluż negozji ġodda, dan ir-Regolament jappoġġa l-objettiv li jiġi promoss l-approċċ Ewropew iċċentrat fuq il-bniedem għall-IA u li jkun mexxej globali fl-iżvilupp ta' IA sigura, affidabbli u etika kif iddikjarat mill-Kunsill Ewropew (5), u jiżgura l-protezzjoni tal-prinċipji etiċi, kif mitlub speċifikament mill-Parlament Ewropew (6).
(9)
Следва да бъдат установени хармонизирани правила, приложими за пускането на пазара, пускането в действие и използването на високорискови системи с ИИ, в съответствие с Регламент (ЕО) № 765/2008 на Европейския парламент и на Съвета (7), Решение № 768/2008/ЕО на Европейския парламент и на Съвета (8) и Регламент (ЕС) 2019/1020 на Европейския парламент и на Съвета (9) (наричани по-долу „новата законодателна рамка“). Хармонизираните правила, установени в настоящия регламент, следва да се прилагат във всички сектори и, в съответствие с новата законодателна рамка, следва да не засягат действащото право на Съюза, по-специално в областта на защитата на данните, защитата на потребителите, основните права, заетостта, защитата на работниците и безопасността на продуктите, което настоящият регламент допълва. В резултат на това всички права и правни средства за защита, предвидени в това право на Съюза в интерес на потребителите и други лица, върху които системите с ИИ могат да окажат отрицателно въздействие, включително по отношение на обезщетението за евентуални вреди съгласно Директива 85/374/ЕИО на Съвета (10), остават незасегнати и напълно приложими. Наред с това, в контекста на заетостта и защитата на работниците, настоящият регламент не следва да засяга правото на Съюза в областта на социалната политика и националното трудово право, което е в съответствие с правото на Съюза, относно условията на заетост и труд, включително здравословните и безопасни условия на труд и отношенията между работодателите и работниците. Настоящият регламент не следва да засяга и упражняването на основни права, признати в държавите членки и на равнището на Съюза, включително правото или свободата на стачка или на други действия, обхванати от специалните системи на колективни трудови правоотношения в държавите членки, както и правото да се преговаря, да се сключват и прилагат колективни трудови договори или да се предприемат колективни действия в съответствие с националното право. Настоящият регламент не следва да засяга разпоредбите, насочени към подобряване на условията на труд при работа през платформа, предвидени в директива на Европейския парламент и на Съвета относно подобряването на условията на труд при работата през платформа. Освен това настоящият регламент има за цел да повиши ефективността на тези съществуващи права и правни средства за защита чрез установяване на конкретни изисквания и задължения, включително по отношение на прозрачността, техническата документация и поддържането на регистри по отношение на системите с ИИ. Наред с това задълженията, наложени на различните оператори, участващи във веригата за създаване на стойност в областта на ИИ съгласно настоящия регламент, следва да се прилагат, без да се засяга националното право, съвместимо с правото на Съюза и което води до ограничаване на използването на определени системи с ИИ, когато това право е извън приложното поле на настоящия регламент или преследва законни цели от обществен интерес, различни от преследваните с настоящия регламент. Например националното трудово право и правото за закрила на ненавършилите пълнолетие лица, а именно лицата на възраст под 18 години, като се вземе предвид Общ коментар № 25 (2021) на Комитета по правата на детето на Организацията на обединените нации относно правата на децата във връзка с цифровата среда, доколкото те не са конкретно насочени към системите с ИИ и преследват други законни цели от обществен интерес, не следва да бъдат засегнати от настоящия регламент.
(9)
Jenħtieġ li jiġu stabbiliti regoli armonizzati applikabbli għall-introduzzjoni fis-suq, għat-tqegħid fis-servizz u għall-użu tas-sistemi tal-IA b'riskju għoli b'mod konsistenti mar-Regolament (KE) Nru 765/2008 tal-Parlament Ewropew u tal-Kunsill (7), mad-Deċiżjoni Nru 768/2008/KE tal-Parlament Ewropew u tal-Kunsill (8) u mar-Regolament (UE) 2019/1020 tal-Parlament Ewropew u tal-Kunsill (9) (il-Qafas Leġiżlattiv Ġdid). Jenħtieġ li r-regoli armonizzati stabbiliti f'dan ir-Regolament japplikaw fis-setturi kollha u, f'konformità mal-Qafas Leġiżlattiv Ġdid, jenħtieġ li jkunu mingħajr preġudizzju għal-liġijiet eżistenti tal-Unjoni, b'mod partikolari dwar il-protezzjoni tad-data, il-protezzjoni tal-konsumatur, id-drittijiet fundamentali, l-impjiegi, il-protezzjoni tal-ħaddiema u s-sikurezza tal-prodotti, li dan ir-Regolament huwa komplementari għalihom. B'konsegwenza ta' dan, id-drittijiet u r-rimedji kollha previsti minn tali liġijiet tal-Unjoni għall-konsumaturi, u persuni oħra li fuqhom is-sistemi tal-IA jista' jkollhom impatt negattiv, inkluż fir-rigward tal-kumpens għal danni possibbli skont id-Direttiva tal-Kunsill 85/374/KEE (10) jibqgħu mhux affettwati u applikabbli bis-sħiħ. Barra minn hekk, fil-kuntest tal-impjiegi u l-protezzjoni tal-ħaddiema, jenħtieġ għalhekk li dan ir-Regolament ma jaffettwax il-liġi tal-Unjoni dwar il-politika soċjali u l-liġi nazzjonali tax-xogħol, f'konformità mal-liġi tal-Unjoni, fir-rigward tal-kundizzjonijiet tal-impjieg u tax-xogħol, inkluż is-saħħa u s-sikurezza fuq il-post tax-xogħol u r-relazzjoni bejn l-impjegaturi u l-ħaddiema. Jenħtieġ ukoll li dan ir-Regolament ma jaffettwax l-eżerċizzju tad-drittijiet fundamentali kif rikonoxxuti fl-Istati Membri u fil-livell tal-Unjoni, inkluż id-dritt jew il-libertà tal-istrajkjar jew li tittieħed azzjoni oħra koperta mis-sistemi speċifiċi ta' relazzjonijiet industrijali fl-Istati Membri kif ukoll id-dritt tan-negozjar, il-konklużjoni u l-infurzar ta' ftehimiet kollettivi jew id-dritt li tittieħed azzjoni kollettiva f'konformità mad-dritt nazzjonali. Jenħtieġ li dan ir-Regolament ma jaffettwax id-dispożizzjonijiet li għandhom l-għan li jtejbu l-kundizzjonijiet tax-xogħol fix-xogħol fuq il-pjattaformi stabbiliti f’ Direttiva tal-Parlament Ewropew u tal-Kunsill dwar it-titjib tal-kundizzjonijiet tax-xogħol fix-xogħol fuq il-pjattaformi. Barra minn hekk, dan ir-Regolament għandu l-għan li jsaħħaħ l-effettività ta' dawk id-drittijiet u r-rimedji eżistenti billi jistabbilixxi rekwiżiti u obbligi speċifiċi, inkluż fir-rigward tat-trasparenza, id-dokumentazzjoni teknika u ż-żamma tar-rekords tas-sistemi tal-IA. Jenħtieġ ukoll li l-obbligi imposti fuq diversi operaturi involuti fil-katina tal-valur tal-IA skont dan ir-Regolament japplikaw mingħajr preġudizzju għal-liġi nazzjonali, f'konformità mal-liġi tal-Unjoni, bl-effett li jillimitaw l-użu ta' ċerti sistemi tal-IA meta tali liġi taqa' barra mill-kamp ta' applikazzjoni ta' dan ir-Regolament jew tipprova tilħaq objettivi leġittimi ta' interess pubbliku għajr dawk segwiti minn dan ir-Regolament. Pereżempju, jenħtieġ li l-liġi nazzjonali tax-xogħol u l-liġi dwar il-protezzjoni tal-minorenni, jiġifieri persuni taħt l-età ta' 18-il sena, b'kont meħud tal-Kumment Ġenerali Nru 25 (2021) tal-UNCRC (Konvenzjoni tan-Nazzjonijiet Uniti dwar id-Drittijiet tat-Tfal) dwar id-drittijiet tat-tfal fir-rigward tal-ambjent diġitali, sakemm ma jkunux speċifiċi għas-sistemi tal-IA u jippruvaw jilħqu objettivi leġittimi oħra ta' interess pubbliku, ma jiġux affettwati minn dan ir-Regolament.
(10)
Основното право на защита на личните данни е гарантирано по-специално с регламенти (ЕС) 2016/679 (11) и (ЕС) 2018/1725 (12) на Европейския парламент и на Съвета и с Директива (ЕС) 2016/680 на Европейския парламент и на Съвета (13). Директива 2002/58/ЕО на Европейския парламент и на Съвета (14) допълнително защитава личния живот и поверителността на съобщенията, включително чрез установяване на условията за съхраняване на лични и нелични данни в крайно оборудване и достъп до такива данни от крайно оборудване. Посочените правни актове на Съюза осигуряват основата за устойчиво и отговорно обработване на данни, включително когато наборите от данни включват комбинация от лични и нелични данни. Настоящият регламент няма за цел да засегне прилагането на съществуващото право на Съюза, уреждащо обработването на лични данни, включително задачите и правомощията на независимите надзорни органи, компетентни да наблюдават спазването на тези инструменти. Освен това той не засяга задълженията на доставчиците и внедрителите на системи с ИИ в ролята им на администратори или обработващи лични данни, които произтичат от правото на Съюза или националното право относно защитата на личните данни, доколкото проектирането, разработването или използването на системи с ИИ включва обработването на лични данни. Целесъобразно е също така да се поясни, че субектите на данни продължават да се ползват с всички права и гаранции, предоставени им с посоченото право на Съюза, включително правата, свързани с изцяло автоматизираното вземане на индивидуални решения, включително профилирането. Хармонизираните правила относно пускането на пазара, пускането в действие и използването на системи с ИИ, установени съгласно настоящия регламент, следва да улеснят ефективното прилагане и да позволят упражняването на правата на субектите на данни и другите правни средства за защита, гарантирани с правото на Съюза в областта на защитата на личните данни, и на други основни права.
(10)
Id-dritt fundamentali għall-protezzjoni tad-data personali huwa salvagwardjat b'mod partikolari mir-Regolamenti (UE) 2016/679 (11) u (UE) 2018/1725 (12) tal-Parlament Ewropew u tal-Kunsill u d-Direttiva (UE) 2016/680 tal-Parlament Ewropew u tal-Kunsill (13). Barra minn hekk, id-Direttiva 2002/58/KE tal-Parlament Ewropew u tal-Kunsill (14) tipproteġi l-ħajja privata u l-kunfidenzjalità tal-komunikazzjoni, inkluż billi tipprovdi kundizzjonijiet għal kwalunkwe ħżin ta' data personali u mhux personali u l-aċċess fi u minn tagħmir terminali. Dawk l-atti legali tal-Unjoni jipprovdu l-bażi għall-ipproċessar tad-data sostenibbli u responsabbli, inkluż fejn is-settijiet ta' data jinkludu taħlita ta' data personali u mhux personali. Dan ir-Regolament ma għandux l-għan li jaffettwa l-applikazzjoni tal-liġijiet eżistenti tal-Unjoni li jirregolaw l-ipproċessar tad-data personali, inkluż il-kompiti u s-setgħat tal-awtoritajiet superviżorji indipendenti kompetenti biex jimmonitorjaw il-konformità ma' dawk l-istrumenti. Lanqas ma jaffettwa l-obbligi tal-fornituri u tal-implimentaturi tas-sistemi tal-IA fir-rwol tagħhom bħala kontrolluri jew proċessuri tad-data li jirriżultaw mil-liġi tal-Unjoni jew dik nazzjonali dwar il-protezzjoni tad-data personali sa fejn it-tfassil, l-iżvilupp jew l-użu tas-sistemi tal-IA jinvolvu l-ipproċessar ta' data personali. Huwa xieraq ukoll li jiġi ċċarat li s-suġġetti tad-data jkomplu jgawdu d-drittijiet u l-garanziji kollha mogħtija lilhom minn tali liġi tal-Unjoni, inkluż id-drittijiet relatati mat-teħid ta' deċiżjonijiet individwali awtomatizzati biss, inkluż it-tfassil tal-profili. Jenħtieġ li r-regoli armonizzati għall-introduzzjoni fis-suq, għat-tqegħid fis-servizz u għall-użu tas-sistemi tal-IA stabbiliti skont dan ir-Regolament jiffaċilitaw l-implimentazzjoni effettiva u jippermettu l-eżerċizzju tad-drittijiet tas-suġġetti tad-data u rimedji oħra garantiti skont il-liġi tal-Unjoni dwar il-protezzjoni tad-data personali u ta' drittijiet fundamentali oħra.
(11)
Настоящият регламент следва да не засяга разпоредбите относно отговорността на доставчиците на посреднически услуги, установени в Регламент (ЕС) 2022/2065 на Европейския парламент и на Съвета (15).
(11)
Jenħtieġ li dan ir-Regolament ikun mingħajr preġudizzju għad-dispożizzjonijiet dwar ir-responsabbiltà tal-fornituri ta’ servizzi intermedjarji kif stipulat fir-Regolament (UE) 2022/2065 tal-Parlament Ewropew u tal-Kunsill (15).
(12)
Понятието „система с ИИ“ в настоящия регламент следва да бъде ясно определено и тясно съгласувано с резултатите от работата на международни организации в областта на ИИ, за да се гарантира правна сигурност и да се улесни сближаването и широкото приемане в международен план, като същевременно се осигури гъвкавост с цел да се реагира на бързото технологично развитие в тази област. Освен това определението следва да се основава на ключови характеристики на системите с ИИ, които ги отличават от по-прости традиционни софтуерни системи или подходи за програмиране, и не следва да обхваща системи, които се основават на правилата, определени единствено от физически лица за автоматично изпълнение на операциите. Ключова характеристика на системите с ИИ е тяхната способност да правят изводи. Тази способност да се правят изводи се отнася до процеса на получаване на резултати, например прогнози, съдържание, препоръки или решения, които могат да повлияят на физическата и виртуалната среда, както и до способността на системите с ИИ да извличат модели или алгоритми, или и двете, от входяща информация или данни. Техниките, даващи възможност да се правят изводи при изграждането на системи с ИИ, включват подходи за машинно обучение, при които те се учат от данните как да постигнат определени цели, както и основани на логика и знания подходи, при които достигат до изводи от кодирани знания или символично представяне на задачата, която трябва да бъде решена. Способността на дадена система с ИИ да прави изводи надхвърля основната обработка на данни, като дава възможност за обучение, разсъждение или моделиране. Понятието „машинно базиран“ се отнася до факта, че системите с ИИ работят с помощта на машини. С позоваването на явни или подразбиращи цели се подчертава, че системите с ИИ могат да работят в съответствие с ясно определени или с подразбиращи се цели. Целите на дадена система с ИИ може да се различават от предназначението на системата с ИИ в специфичен контекст. За целите на настоящия регламент под „среда“ следва да се разбира контекстът, в който функционират системите с ИИ, а резултатите, генерирани от системата с ИИ, отразяват различни функции, изпълнявани от системите с ИИ, и включват прогнози, съдържание, препоръки или решения. Системите с ИИ са проектирани да функционират с различна степен на автономност, което означава, че те разполагат с известна степен на независимост на действията от участието на човека и на способност за работа без човешка намеса. Адаптивността, която дадена система с ИИ би могла да прояви след внедряването ѝ, се отнася до способностите за самообучение, които позволяват на системата да се променя по време на нейното използване. Системите с ИИ могат да се използват самостоятелно или като компонент на продукт, независимо дали системата е физически интегрирана в продукта (вградена), или обслужва функционалността на продукта, без да бъде интегрирана в него (невградена).
(12)
Jenħtieġ li l-kunċett ta' “sistema tal-IA” f'dan ir-Regolament jiġi ddefinit b'mod ċar u jenħtieġ li jiġi allinjat mill-qrib mal-ħidma tal-organizzazzjonijiet internazzjonali li jaħdmu fuq l-IA biex tiġi żgurata ċ-ċertezza legali, tiġi ffaċilitata l-konverġenza internazzjonali u l-aċċettazzjoni wiesgħa, filwaqt li tingħata l-flessibbiltà biex jiġu akkomodati l-iżviluppi teknoloġiċi rapidi f'dan il-qasam. Barra minn hekk, jenħtieġ li d-definizzjoni tkun ibbażata fuq karatteristiċi ewlenin tas-sistemi tal-IA li jiddistingwuh minn sistemi ta' software tjew approċċi ta' programmazzjoni tradizzjonali aktar sempliċi u jenħtieġ li ma jkoprix sistemi li huma bbażati fuq ir-regoli definiti biss minn persuni fiżiċi biex iwettqu operazzjonijiet b'mod awtomatiku. Karatteristika ewlenija tas-sistemi tal-IA hija l-kapaċità tagħhom li jinferixxu. Din il-kapaċità li jinferixxu tirreferi għall-proċess tal-kisba tal-outputs, bħal previżjonijiet, kontenut, rakkomandazzjonijiet, jew deċiżjonijiet, li jistgħu jinfluwenzaw l-ambjenti fiżiċi u virtwali u għal kapaċità tas-sistemi tal-IA li jidderivaw mudelli jew algoritmi, jew it-tnejn, minn inputs jew data. It-tekniki li jippermettu inferenza waqt li tinbena sistema tal-IA jinkludu approċċi ta' tagħlim awtomatiku li jitgħallmu mid-data dwar kif jistgħu jintlaħqu ċerti objettivi, u approċċi bbażati fuq il-loġika u l-għarfien li jinferixxu minn għarfien ikkodifikat jew rappreżentazzjoni simbolika tal-kompitu li għandu jiġi solvut. Il-kapaċità ta' sistema tal-IA li tinferixxi tmur lil hinn mill-ipproċessar bażiku tad-data billi tippermetti l-apprendiment, ir-raġunament jew l-immudellar. It-terminu “bbażati fuq il-magni” jirreferi għall-fatt li s-sistemi tal-IA jaħdmu bil-magni. Ir-referenza għal objettivi espliċiti jew impliċiti tenfasizza li s-sistemi tal-IA jistgħu joperaw skont objettivi espliċiti definiti jew skont objettivi impliċiti. L-objettivi tas-sistema tal-IA jistgħu jkunu differenti mill-għan maħsub tas-sistema tal-IA f'kuntest speċifiku. Għall-finijiet ta' dan ir-Regolament, jenħtieġ li l-ambjenti jinftiehmu bħala l-kuntesti li fihom joperaw is-sistemi tal-IA, filwaqt li l-outputs iġġenerati mis-sistema tal-IA jirriflettu funzjonijiet differenti mwettqa mis-sistemi tal-IA u jinkludu previżjonijiet, kontenut, rakkomandazzjonijiet jew deċiżjonijiet. Is-sistemi tal-IA huma ddisinjati biex joperaw b'livelli varji ta' awtonomija, li jfisser li għandhom ċertu livell ta' indipendenza tal-azzjonijiet mill-involviment tal-bniedem u ta' kapaċitajiet biex joperaw mingħajr intervent mill-bniedem. L-adattabbiltà li sistema tal-IA tista' turi wara l-implimentazzjoni tirreferi għall-kapaċitajiet ta' awtotagħlim, li jippermettu li s-sistema tinbidel waqt li tkun qed tintuża. Is-sistemi tal-IA jistgħu jintużaw b'mod awtonomu jew bħala komponent ta' prodott, irrispettivament minn jekk is-sistema tkunx integrata fiżikament fil-prodott (inkorporata) jew taqdix il-funzjonalità tal-prodott mingħajr ma tkun integrata fih (mhux inkorporata).
(13)
Понятието „внедрител“, посочено в настоящия регламент, следва да се тълкува като всяко физическо или юридическо лице, включително публичен орган, агенция или друга структура, които използват система с ИИ, върху която упражняват контрол, с изключение на случаите, когато системата с ИИ се използва в процеса на лична непрофесионална дейност. В зависимост от вида на системата с ИИ използването на системата може да засегне лица, различни от внедрителя.
(13)
Jenħtieġ li l-kunċett ta' “implimentatur” imsemmi f'dan ir-Regolament jiġi interpretat bħala kwalunkwe persuna fiżika jew ġuridika, inkluż awtorità pubblika, aġenzija jew korp ieħor, li tuża sistema tal-IA li taħt l-awtorità tagħha, ħlief meta s-sistema tal-IA tintuża matul attività personali mhux professjonali. Skont it-tip ta' sistema tal-IA, l-użu tas-sistema jista' jaffettwa persuni oħra minbarra l-implimentatur.
(14)
Понятието „биометрични данни“, посочено в настоящия регламент, следва да се тълкува с оглед на понятието за биометрични данни съгласно определението в член 4, точка 14 от Регламент (ЕС) 2016/679, член 3, точка 18 от Регламент (ЕС) 2018/1725 и член 3, точка 13 от Директива (ЕС) 2016/680. Биометричните данни могат да позволят удостоверяване на самоличността, идентифициране или категоризиране на физически лица, както и разпознаване на емоции на физически лица.
(14)
Jenħtieġ li l-kunċett ta' “data bijometrika” użat f'dan ir-Regolament jiġi interpretat fid-dawl tal-kunċett ta' data bijometrika kif definit fl-Artikolu 4, il-punt (14) tar-Regolament (UE) 2016/679, l-Artikolu 3, il-punt (18) tar-Regolament (UE) 2018/1725 u l-Artikolu 3, il-punt (13) tad-Direttiva (UE) 2016/680. Id-data bijometrika tista' tippermetti l-awtentikazzjoni, l-identifikazzjoni jew il-kategorizzazzjoni ta' persuni fiżiċi u r-rikonoxximent tal-emozzjonijiet ta' persuni fiżiċi.
(15)
Понятието „биометрична идентификация“, посочено в настоящия регламент, следва да се определи като автоматизираното разпознаване на физически, физиологични и поведенчески характеристики на човека, например лице, движение на очите, форма на тялото, глас, ритъм и интонация на говора, походка, стойка, сърдечен ритъм, кръвно налягане, мирис и особености на натиска на клавиши, с цел установяване на самоличността на дадено лице чрез сравняване на биометрични данни на това лице със съхранени биометрични данни на лица в референтна база данни, независимо дали лицето е дало своето съгласие. Това изключва системите с ИИ, предназначени да бъдат използвани за биометрична проверка, която включва удостоверяване на самоличността, чиято единствена цел е да се потвърди, че конкретно физическо лице е лицето, за което се представя, и да се потвърди самоличността на физическо лице единствено за да се получи достъп до услуга, да се отключи устройство или да се придобие сигурен достъп до помещения.
(15)
Jenħtieġ li l-kunċett ta' “identifikazzjoni bijometrika” imsemmi f'dan ir-Regolament jiġi ddefinit bħala r-rikonoxximent awtomatizzat ta' karatteristiċi fiżiċi, fiżjoloġiċi u ta' mġiba tal-bniedem bħall-wiċċ, il-moviment tal-għajnejn, il-forma tal-ġisem, il-vuċi, il-prosodija, il-mixja, il-qagħda, ir-rata tal-qalb, il-pressjoni tad-demm, ir-riħa, karatteristiċi tal-ittastjar, għall-fini li tiġi stabbilita l-identità ta' individwu billi titqabbel id-data bijometrika ta' dak l-individwu mad-data bijometrika ta' individwi maħżuna f'bażi ta' data ta' referenza, irrispettivament minn jekk l-individwu jkunx ta l-kunsens tiegħu jew le. Dan jeskludi sistemi tal-IA maħsuba biex jintużaw għall-verifika bijometrika, li tinkludi l-awtentikazzjoni, li l-iskop uniku tagħha huwa li tikkonferma li persuna fiżika speċifika hija l-persuna li tiddikjara li hija u li tikkonferma l-identità ta' persuna fiżika għall-iskop uniku li jkollha aċċess għal servizz, li tiftaħ apparat jew li jkollha aċċess sigur għall-bini.
(16)
Понятието „биометрично категоризиране“, посочено в настоящия регламент, следва да се определи като отнасяне на физически лица към конкретни категории въз основа на техните биометрични данни. Подобни конкретни категории могат да са свързани с аспекти като пол, възраст, цвят на косата, цвят на очите, татуировки, поведенчески или личностни черти, език, религия, принадлежност към национално малцинство, сексуална или политическа ориентация. Това не включва системи за биометрично категоризиране, които представляват чисто спомагателна функция, неразривно свързана с друга търговска услуга, което означава, че тази функция не може по обективни технически причини да се използва без основната услуга и интегрирането на тази функция или функционалност не е средство за заобикаляне на приложимостта на правилата на настоящия регламент. Например филтрите за категоризиране на черти на лицето или тялото, използвани на онлайн места за търговия, биха могли да представляват такава спомагателна функция, тъй като могат да се използват само във връзка с основната услуга, която се състои в продажбата на продукт, като позволяват на потребителя да визуализира изображението на продукта върху себе си и му помагат да вземе решение при покупка. Филтрите, използвани в онлайн услугите на социалните мрежи, които категоризират черти на лицето или тялото, за да позволят на ползвателите да добавят или променят снимки или видеоклипове, също могат да се считат за спомагателна функция, тъй като такъв филтър не може да се използва без основната услуга при услугите на социалните мрежи, състояща се в споделяне на съдържание онлайн.
(16)
Jenħtieġ li l-kunċett ta' “kategorizzazzjoni bijometrika” msemmi f'dan ir-Regolament jiġi ddefinit bħala l-assenjazzjoni ta' persuni fiżiċi għal kategoriji speċifiċi abbażi tad-data bijometrika tagħhom. Tali kategoriji speċifiċi jistgħu jkunu relatati ma' aspetti bħas-sess, l-età, il-kulur tax-xagħar, il-kulur tal-għajnejn, it-tatwaġġi, il-karatteristiċi tal-imġiba jew tal-personalità, il-lingwa, ir-reliġjon, l-appartenenza għal minoranza nazzjonali, l-orjentazzjoni sesswali jew dik politika. Dan ma jinkludix sistemi ta' kategorizzazzjoni bijometrika li huma karatteristika purament anċillari intrinsikament marbuta ma' servizz kummerċjali ieħor, li jfisser li l-karatteristika ma tistax, għal raġunijiet tekniċi oġġettivi, tintuża mingħajr is-servizz prinċipali, u l-integrazzjoni ta' dik il-karatteristika jew funzjonalità mhijiex mezz biex tiġi evitata l-applikabbiltà tar-regoli ta' dan ir-Regolament. Pereżempju, il-filtri li jikkategorizzaw il-karatteristiċi tal-wiċċ jew tal-ġisem użati fis-swieq online jistgħu jikkostitwixxu karatteristika anċillari bħal din peress li jistgħu jintużaw biss fir-rigward tas-servizz prinċipali li jikkonsisti fil-bejgħ ta' prodott billi jippermettu lill-konsumatur jara minn qabel kif jidher il-prodott fuqu nnifsu u jgħin lill-konsumatur jieħu deċiżjoni dwar ix-xiri. Il-filtri użati fuq servizzi ta' network soċjali online li jikkategorizzaw karatteristiċi tal-wiċċ jew tal-ġisem biex jippermettu lill-utenti jżidu jew jimmodifikaw stampi jew vidjos jistgħu jitqiesu wkoll bħala karatteristika anċillari peress li tali filtru ma jistax jintuża mingħajr is-servizz prinċipali tas-servizzi tan-network soċjali li jikkonsisti fil-kondiviżjoni tal-kontenut online.
(17)
Понятието „система за дистанционна биометрична идентификация“, посочено в настоящия регламент, следва да се определи функционално като система с ИИ, предназначена за идентифициране на физически лица без тяхното активно участие, обикновено от разстояние, чрез сравняване на биометричните данни на дадено лице с биометричните данни, съдържащи се в референтна база данни, независимо от конкретните използвани технологии, процеси или видове биометрични данни. Такива системи за дистанционна биометрична идентификация обикновено се използват за едновременно наблюдение на множество лица или тяхното поведение с цел да се улесни значително идентифицирането на физически лица без тяхното активно участие. Това изключва системите с ИИ, предназначени да бъдат използвани за биометрична проверка, която включва удостоверяване на самоличността, чиято единствена цел е да се потвърди, че конкретно физическо лице е лицето, за което се представя, и да се потвърди самоличността на физическо лице единствено за да се получи достъп до услуга, да се отключи устройство или да се придобие сигурен достъп до помещения. Това изключване е обосновано от факта, че е вероятно такива системи да оказват незначително въздействие върху основните права на физическите лица в сравнение със системите за дистанционна биометрична идентификация, които могат да се използват за обработването на биометрични данни на голям брой лица без тяхното активно участие. При системите, работещи в реално време, снемането на биометрични данни, сравнението и идентификацията се осъществяват мигновено, почти мигновено или при всички случаи без значително забавяне. В това отношение не следва да има възможност за заобикаляне на правилата на настоящия регламент относно използването в реално време на съответните системи с ИИ и за целта в него следва да се уредят незначителните забавяния. Системите, работещи в реално време, предполагат използването на материал „на живо“ или „почти на живо“, като видеозапис от камера или друго устройство с подобна функция. За разлика от тях при функциониращите впоследствие системи биометричните данни вече са снети и сравняването и идентифицирането се извършват едва след значително забавяне. Това предполага материал, като снимки или видеозаписи от камери от вътрешна система за видеонаблюдение или от частни устройства, които са направени преди използването на системата по отношение на съответните физически лица.
(17)
Jenħtieġ li l-kunċett ta' “sistema ta' identifikazzjoni bijometrika remota” msemmi f'dan ir-Regolament jiġi ddefinit b'mod funzjonali, bħala sistema tal-IA maħsuba għall-identifikazzjoni ta' persuni fiżiċi mingħajr l-involviment attiv tagħhom, tipikament mill-bogħod, permezz tat-tqabbil tad-data bijometrika ta' persuna mad-data bijometrika li tinsab f'bażi ta' data ta' referenza, irrispettivament mit-teknoloġija, mill-proċessi jew mit-tipi partikolari ta' data bijometrika użati. Tali sistemi ta’ identifikazzjoni bijometrika remota tipikament jintużaw biex jipperċepixxu diversi persuni jew l-imġiba tagħhom simultanjament sabiex jiffaċilitaw b'mod sinifikanti l-identifikazzjoni ta' persuni fiżiċi mingħajr l-involviment attiv tagħhom. Dan jeskludi sistemi tal-IA maħsuba biex jintużaw għall-verifika bijometrika, li tinkludi l-awtentikazzjoni, li l-iskop uniku tagħha huwa li tikkonferma li persuna fiżika speċifika hija l-persuna li tiddikjara li hija u li tikkonferma l-identità ta' persuna fiżika għall-iskop uniku li jkollha aċċess għal servizz, li tiftaħ apparat jew li jkollha aċċess sigur għall-bini. Dik l-esklużjoni hija ġġustifikata mill-fatt li tali sistemi x'aktarx ikollhom impatt minuri fuq id-drittijiet fundamentali ta' persuni fiżiċi meta mqabbla mas-sistemi ta’ identifikazzjoni bijometrika remota li jistgħu jintużaw għall-ipproċessar tad-data bijometrika ta' għadd kbir ta' persuni mingħajr l-involviment attiv tagħhom. Fil-każ ta' sistemi “fil-ħin reali”, il-qbid tad-data bijometrika, it-tqabbil u l-identifikazzjoni jsiru b'mod istantanju, kważi istantanju jew fi kwalunkwe każ mingħajr dewmien sinifikanti. F'dan ir-rigward, jenħtieġ li ma jkun hemm l-ebda lok li jiġu evitati r-regoli ta' dan ir-Regolament dwar l-użu “fil-ħin reali” tas-sistemi tal-IA kkonċernati billi jiġi previst xi dewmien żgħir. Is-sistemi “fil-ħin reali” jinvolvu l-użu ta' materjal “dirett” jew “kważi dirett”, bħal filmat, iġġenerat minn kamera jew minn apparat ieħor b'funzjonalità simili. Għall-kuntrarju, fil-każ tas-sistemi “f'ħin aktar tard”, id-data bijometrika tkun diġà nkisbet u t-tqabbil u l-identifikazzjoni jsiru biss wara ċertu dewmien sinifikanti. Dan jinvolvi materjal, bħal stampi jew filmati ġġenerati minn kameras tat-televiżjoni b'ċirkwit magħluq jew minn apparati privati, li jkun ġie ġġenerat qabel tkun intużat is-sistema fir-rigward tal-persuni fiżiċi kkonċernati.
(18)
Понятието „система за разпознаване на емоции“, посочено в настоящия регламент, следва да се определи като система с ИИ, чието предназначение е да определи или да прави изводи за емоциите или намеренията на физически лица въз основа на техните биометрични данни. Това понятие се отнася до емоции или намерения като щастие, тъга, гняв, изненада, отвращение, смущение, вълнение, срам, презрение, удовлетворение и забавление. Не се включват физически състояния като болка или умора, като например системи, използвани за установяване на състояние на умора при професионални пилоти или водачи с цел предотвратяване на произшествия. Освен това то не включва откриването на лесно забележими изражения, жестове или движения, освен ако те не се използват, за да се определят или да се правят изводи за емоциите. Тези изражения могат да бъдат основни изражения на лицето, като например намръщване или усмивка, или жестове като движение на ръцете или главата, или характеристики на човешкия глас, например висок глас или шепот.
(18)
Jenħtieġ li l-kunċett ta' “sistema ta' rikonoxximent tal-emozzjonijiet” imsemmi f'dan ir-Regolament jiġi ddefinit bħala sistema tal-IA għall-fini tal-identifikazzjoni jew l-inferenza ta' emozzjonijiet jew intenzjonijiet ta' persuni fiżiċi abbażi tad-data bijometrika tagħhom. Il-kunċett jirreferi għal emozzjonijiet jew intenzjonijiet bħal kuntentizza, diqa, rabja, sorpriża, disgust, imbarazzament, eċċitament, mistħija, disprezz, sodisfazzjon u divertiment. Ma jinkludix stati fiżiċi, bħal uġigħ jew għeja, inkluż, pereżempju, sistemi użati biex jiġi identifikat l-istat tal-għeja tal-bdoti professjonali jew tas-sewwieqa bl-għan li jiġu evitati l-aċċidenti. Dan lanqas ma jinkludi s-sempliċi kxif ta' espressjonijiet, ġesti jew movimenti faċilment apparenti, sakemm ma jintużawx biex jidentifikaw jew jinferixxu emozzjonijiet. Dawk l-espressjonijiet jistgħu jkunu espressjonijiet bażiċi tal-wiċċ bħal ħarsa bl-ikrah jew tbissima, jew ġesti bħall-moviment tal-idejn, dirgħajn jew ras, jew karatteristiċi tal-vuċi ta' persuna, bħal vuċi mgħollija jew minn taħt l-ilsien.
(19)
За целите на настоящия регламент понятието „обществено достъпно място“ следва да се разбира като означаващо всяко физическо място, което е достъпно за неопределен брой физически лица, независимо дали това място е частна или публична собственост и без значение от дейността, за която мястото може да се използва, като за търговия, например магазини, ресторанти, кафенета, за услуги, например банки, професионални дейности, хотелиерство и ресторантьорство, за спорт, например плувни басейни, спортни зали, стадиони, за транспорт, например автобусни, метро и железопътни гари, летища, транспортни средства, за развлечение, например кина, театри, музеи, концертни и конферентни зали, за отдих или други дейности, например отворени за обществено ползване пътища, площади, паркове, гори, детски площадки. Дадено място следва също така да се класифицира като обществено достъпно ако, независимо от потенциалния капацитет или ограниченията във връзка със сигурността, достъпът до него зависи от някои предварително определени условия, които могат да бъдат изпълнени от неопределен брой лица, като например закупуване на билет или друг превозен документ, предварителна регистрация или навършване на определена възраст. Дадено място не следва обаче да се счита за обществено достъпно, ако достъпът до него е ограничен до конкретни и определени физически лица чрез правото на Съюза или националното право, пряко свързано с обществената безопасност или сигурност, или чрез ясното волеизявление от страна на лицето, което е носител на съответните права по отношение на мястото. Единствено фактическата възможност за достъп, например незаключена врата или отворена порта в ограда, не означава, че мястото е обществено достъпно, при наличие на признаци или обстоятелства, които предполагат обратното, например знаци, забраняващи или ограничаващи достъпа. Помещенията на дадено дружество и фабрика, както и офисите и работните места, до които се предвижда достъп само за съответните служители и доставчици на услуги, не са обществено достъпни места. Обществено достъпните места не следва да включват затворите или зоните за граничен контрол. Други зони могат да се състоят както от зони, които са обществено достъпни, така и от зони, които не са обществено достъпни, като например коридорите в частни жилищни сгради, необходими за достъп до лекарски кабинет, или летищата. Онлайн пространствата не се включват, тъй като те не са физически места. Дали дадено място е достъпно за обществеността обаче следва да се определя отделно във всеки един случай, като се отчитат особеностите на отделния случай.
(19)
Għall-finijiet ta' dan ir-Regolament, jenħtieġ li l-kunċett ta' spazju aċċessibbli għall-pubbliku jinftiehem bħala li jirreferi għal kwalunkwe spazju fiżiku li huwa aċċessibbli għal għadd mhux determinat ta' persuni fiżiċi, u irrispettivament minn jekk l-ispazju inkwistjoni huwiex ta' sjieda privata jew pubblika, irrispettivament mill-attività li għaliha jista' jintuża l-ispazju, bħall-kummerċ, pereżempju, ħwienet, ristoranti, kafetteriji; bħas-servizzi, pereżempju, banek, attivitajiet professjonali, ospitalità; bħas-sport, pereżempju, pixxini, gyms, stadiums; bħat-trasport, pereżempju, stazzjonijiet tal-karozzi tal-linja, tal-metro u tal-ferrovija, ajruporti, mezzi tat-trasport; bħad-divertiment, pereżempju, ċinema, teatri, mużewijiet, swali tal-kunċerti u tal-konferenzi; jew bħar-ikreazzjoni jew mod ieħor, pereżempju, toroq pubbliċi u pjazez, parks, foresti, playgrounds. Jenħtieġ li spazju jiġi kklassifikat bħala aċċessibbli għall-pubbliku anki jekk, irrispettivament mir-restrizzjonijiet potenzjali tal-kapaċità jew tas-sigurtà, l-aċċess ikun soġġett għal ċerti kundizzjonijiet predeterminati li jistgħu jiġu ssodisfati minn għadd mhux determinat ta' persuni, bħax-xiri ta' biljett jew titolu tat-trasport, reġistrazzjoni minn qabel jew li persuna jkollha ċerta età. B'kuntrast ma' dan, jenħtieġ li spazju ma jitqiesx li jkun aċċessibbli għall-pubbliku jekk l-aċċess ikun limitat għal persuni fiżiċi speċifiċi u definiti permezz ta' liġijiet tal-Unjoni jew nazzjonali direttament relatati mas-sikurezza jew is-sigurtà pubblika jew permezz tal-manifestazzjoni ċara tar-rieda mill-persuna li jkollha l-awtorità rilevanti fuq il-post. Il-possibbiltà fattwali ta' aċċess waħedha, bħal bieb mhux imsakkar jew xatba miftuħa f'ċint, ma tfissirx li l-ispazju huwa aċċessibbli għall-pubbliku fil-preżenza ta' indikazzjonijiet jew ċirkostanzi li jissuġġerixxu l-kuntrarju, bħal sinjali li jipprojbixxu jew jirrestrinġu l-aċċess. Il-bini ta' kumpaniji u fabbriki, kif ukoll l-uffiċċji u l-postijiet tax-xogħol li huma maħsuba biex jiġu aċċessati biss mill-impjegati u l-fornituri tas-servizzi rilevanti, huma spazji li mhumiex aċċessibbli għall-pubbliku. Jenħtieġ li l-ispazji aċċessibbli għall-pubbliku ma jinkludux ħabsijiet jew kontroll fil-fruntieri. Xi spazji oħra jistgħu jinkludu spazji mhux aċċessibbli għall-pubbliku kif ukoll spazji aċċessibbli għall-pubbliku, bħall-entrata ta' bini residenzjali privat meħtieġa biex jinkiseb aċċess għal uffiċċju ta' tabib jew ajruport. L-ispazji online ma humiex koperti għax dawn mhumiex spazji fiżiċi. Jekk spazju partikolari jkunx aċċessibbli għall-pubbliku jenħtieġ, madankollu, jiġi determinat abbażi ta' każ b'każ, filwaqt li jitqiesu l-ispeċifiċitajiet tas-sitwazzjoni individwali inkwistjoni.
(20)
За да се извлекат максимални ползи от системите с ИИ, като същевременно се защитават основните права, здравето и безопасността, и за да се даде възможност за демократичен контрол, грамотността в областта на ИИ следва да осигури на доставчиците, внедрителите и засегнатите лица необходимите понятия за вземане на информирани решения относно системите с ИИ. Тези понятия могат да се различават по отношение на съответния контекст и могат да включват разбиране на правилното прилагане на техническите елементи по време на етапа на разработване на системата с ИИ, мерките, които трябва да се прилагат по време на използването ѝ, подходящите начини за тълкуване на резултатите от системата с ИИ и, по отношение на засегнатите лица, знанията, необходими за разбиране на начина, по който решенията, взети с помощта на ИИ, ще окажат въздействие върху тях. В контекста на прилагането на настоящия регламент грамотността в областта на ИИ следва да осигури на всички съответни участници във веригата за създаване на стойност в областта на ИИ необходимата информация, за да се гарантира подходящото спазване и правилното му прилагане. Освен това широкото прилагане на мерки за повишаване на грамотността в областта на ИИ и въвеждането на подходящи последващи действия биха могли да допринесат за подобряване на условията на труд и в крайна сметка да поддържат процеса на утвърждаване и иновации на надеждния ИИ в Съюза. Европейският съвет по изкуствен интелект (наричан по-долу „Съветът по ИИ“) следва да подпомага Комисията с цел насърчаване на инструментите за грамотност в областта на ИИ, обществената осведоменост и разбирането на ползите, рисковете, гаранциите, правата и задълженията във връзка с използването на системи с ИИ. В сътрудничество със съответните заинтересовани страни Комисията и държавите членки следва да улеснят изготвянето на незадължителни кодекси за поведение с цел повишаване на грамотността в областта на ИИ сред лицата, занимаващи се с разработването, експлоатацията и използването на ИИ.
(20)
Biex jinkisbu l-akbar benefiċċji mis-sistemi tal-IA filwaqt li jiġu protetti d-drittijiet fundamentali, is-saħħa u s-sikurezza u biex ikun jista' jsir kontroll demokratiku, jenħtieġ li l-litteriżmu fl-IA jgħammar lill-fornituri, lill-implimentaturi u lill-persuni affettwati bil-kunċetti meħtieġa biex jieħdu deċiżjonijiet infurmati dwar is-sistemi tal-IA. Dawk il-kunċetti jistgħu jvarjaw fir-rigward tal-kuntest rilevanti u jistgħu jinkludu l-fehim tal-applikazzjoni korretta tal-elementi tekniċi matul il-fażi tal-iżvilupp tas-sistema tal-IA, il-miżuri li għandhom jiġu applikati waqt l-użu tagħha, il-modi xierqa li bihom jiġi interpretat l-output tas-sistema tal-IA, u, fil-każ tal-persuni affettwati, l-għarfien meħtieġ biex jifhmu kif id-deċiżjonijiet meħuda bl-assistenza tal-IA ser ikollhom impatt fuqhom. Fil-kuntest tal-applikazzjoni ta' dan ir-Regolament, jenħtieġ li l-litteriżmu fl-IA jipprovdi lill-atturi rilevanti kollha fil-katina tal-valur tal-IA bl-għarfien meħtieġ biex tiġi żgurata l-konformità xierqa u l-infurzar korrett tiegħu. Barra minn hekk, l-implimentazzjoni wiesgħa ta' miżuri ta' litteriżmu fl-IA u l-introduzzjoni ta' azzjonijiet ta' segwitu xierqa jistgħu jikkontribwixxu għat-titjib tal-kundizzjonijiet tax-xogħol u fl-aħħar mill-aħħar isostnu l-konsolidazzjoni, u l-perkors tal-innovazzjoni ta' IA affidabbli fl-Unjoni. Jenħtieġ li l-Bord Ewropew għall-Intelliġenza Artifiċjali (“il-Bord”) jappoġġa lill-Kummissjoni fil-promozzjoni tal-għodod tal-litteriżmu fl-IA, is-sensibilizzazzjoni u l-fehim tal-pubbliku dwar il-benefiċċji, ir-riskji, is-salvagwardji, id-drittijiet u l-obbligi fir-rigward tal-użu ta' sistemi tal-IA. F'kooperazzjoni mal-partijiet ikkonċernati rilevanti, jenħtieġ li l-Kummissjoni u l-Istati Membri jiffaċilitaw it-tfassil ta' kodiċijiet ta' kondotta volontarji biex javvanzaw il-litteriżmu fl-IA fost il-persuni li jittrattaw l-iżvilupp, it-tħaddim u l-użu tal-IA.
(21)
За да се гарантират равнопоставеност и ефективна защита на правата и свободите на физическите лица в целия Съюз, правилата, установени с настоящия регламент, следва да се прилагат недискриминационно за доставчиците на системи с ИИ, независимо дали са установени в Съюза, или в трета държава, както и за внедрителите на системи с ИИ, установени в Съюза.
(21)
Biex ikunu żgurati kundizzjonijiet ekwi u protezzjoni effettiva tad-drittijiet u tal-libertajiet tal-individwi madwar l-Unjoni, jenħtieġ li r-regoli stabbiliti b'dan ir-Regolament japplikaw għall-fornituri tas-sistemi tal-IA b'mod mhux diskriminatorju, irrispettivament minn jekk humiex stabbiliti fl-Unjoni jew f'pajjiż terz, u għall-implimentaturi tas-sistemi tal-IA stabbiliti fl-Unjoni.
(22)
Поради своето цифрово естество някои системи с ИИ следва да попадат в обхвата на настоящия регламент дори когато не се пускат на пазара, не се пускат в действие и не се използват в Съюза. Такъв е например случаят с оператор, установен в Съюза, който сключва договор за определени услуги с оператор, установен в трета държава, във връзка с дейност, която ще се извършва от система с ИИ, която би била определена като високорискова. При тези обстоятелства системата с ИИ, използвана в трета държава от оператора, би могла да обработва данни, които са законно събрани в Съюза и прехвърлени от Съюза, и да предоставя на сключилия договор оператор в Съюза резултата от системата с ИИ, получен въз основа на тази обработка, без системата с ИИ да е била пускана на пазара, пусната в действие или използвана в Съюза. За да не се допусне заобикаляне на настоящия регламент и да се гарантира ефективна защита на физическите лица, намиращи се в Съюза, настоящият регламент следва също така да се прилага за доставчиците и внедрителите на системи с ИИ, установени в трета държава, доколкото резултатът, получен от тези системи, е предназначен да се използва в Съюза. Независимо от това, за да се вземат предвид съществуващите договорености и особените нужди от бъдещо сътрудничество с чуждестранни партньори, с които се обменят информация и доказателства, настоящият регламент не следва да се прилага за публични органи на трета държава и за международни организации, когато те действат в рамките на споразумения за сътрудничество или международни споразумения, сключени на равнището на Съюза или на национално равнище за сътрудничество в областта на правоприлагането и за съдебно сътрудничество със Съюза или с неговите държави членки, при условие че съответната трета държава или международна организация осигурява подходящи гаранции по отношение на защитата на основните права и свободи на лицата. Когато е приложимо, това може да обхваща дейности на субекти, на които третите държави са възложили изпълнението на конкретни задачи в подкрепа на това сътрудничество в областта на правоприлагането и съдебно сътрудничество. Такива рамки за сътрудничество или споразумения са установени двустранно между държави членки и трети държави или между Европейския съюз, Европол и други агенции на Съюза, трети държави и международни организации. Органите, компетентни за надзора на правоохранителните органи и органите на съдебната власт съгласно настоящия регламент, следва да преценят дали тези рамки за сътрудничество или международни споразумения включват подходящи гаранции по отношение на защитата на основните права и свободи на лицата. Националните органи и институциите, органите, службите и агенциите на Съюза, които получават и използват такива резултати в Съюза, продължават да са задължени да гарантират, че използването им е в съответствие с правото на Съюза. Когато тези международни споразумения се преразглеждат или се сключват нови в бъдеще, договарящите страни следва да положат максимални усилия да приведат тези споразумения в съответствие с изискванията на настоящия регламент.
(22)
Fid-dawl tan-natura diġitali tagħhom, jenħtieġ li ċerti sistemi tal-IA jkunu fil-kamp ta' applikazzjoni ta' dan ir-Regolament anki meta ma jiġux introdotti fis-suq, ma jitqiegħdux fis-servizz, u ma jintużawx fl-Unjoni. Pereżempju, dan hu l-każ fejn operatur stabbilit fl-Unjoni jikkuntratta ċerti servizzi lil operatur stabbilit f'pajjiż terz fir-rigward ta' attività li tkun ser titwettaq minn sistema tal-IA u li tikkwalifika bħala b'riskju għoli. F'dawk iċ-ċirkostanzi, is-sistema tal-IA użata f'pajjiż terz mill-operatur tista' tipproċessa d-data miġbura legalment fl-Unjoni u trasferita minnha, u tipprovdi lill-operatur kontraenti fl-Unjoni l-output ta' dik is-sistema tal-IA li jirriżulta minn dak l-ipproċessar, mingħajr ma dik is-sistema tal-IA tiġi introdotta fis-suq, titqiegħed fis-servizz jew tintuża fl-Unjoni. Biex tiġi evitata ċ-ċirkumvenzjoni ta' dan ir-Regolament u biex tiġi żgurata protezzjoni effettiva tal-persuni fiżiċi li jinsabu fl-Unjoni, jenħtieġ li dan ir-Regolament japplika wkoll għall-fornituri u għall-implimentaturi tas-sistemi tal-IA li huma stabbiliti f'pajjiż terz, sa fejn l-output prodott minn dawk is-sistemi ikun maħsub biex jintuża fl-Unjoni. Madankollu, biex jitqiesu l-arranġamenti eżistenti u l-ħtiġijiet speċjali għall-kooperazzjoni futura mas-sħab barranin li magħhom jiġu skambjati informazzjoni u evidenza, jenħtieġ li dan ir-Regolament ma japplikax għall-awtoritajiet pubbliċi ta' pajjiż terz u għal organizzazzjonijiet internazzjonali meta jaġixxu fil-qafas ta' kooperazzjoni jew ta' ftehimiet internazzjonali konklużi fil-livell tal-Unjoni jew nazzjonali għall-infurzar tal-liġi u għall-kooperazzjoni ġudizzjarja mal-Unjoni jew mal-Istati Membri, dment li l-pajjiż terz jew l-organizzazzjoni internazzjonali rilevanti jipprovdu salvagwardji adegwati fir-rigward tal-protezzjoni tad-drittijiet u l-libertajiet fundamentali tal-individwi. Fejn rilevanti, dan jista' jkopri attivitajiet ta' entitajiet fdati mill-pajjiżi terzi biex iwettqu kompiti speċifiċi b'appoġġ għal tali infurzar tal-liġi u kooperazzjoni ġudizzjarja. Tali qafas għall-kooperazzjoni jew ftehimiet ġew stabbiliti b'mod bilaterali bejn l-Istati Membri u pajjiżi terzi jew bejn l-Unjoni Ewropea, il-Europol u aġenziji oħra tal-Unjoni u pajjiżi terzi u organizzazzjonijiet internazzjonali. Jenħtieġ li l-awtoritajiet kompetenti għas-superviżjoni tal-awtoritajiet tal-infurzar tal-liġi u dawk ġudizzjarji skont dan ir-Regolament jivvalutaw jekk dawk l-oqfsa għall-kooperazzjoni jew il-ftehimiet internazzjonali jinkludux salvagwardji adegwati fir-rigward tal-protezzjoni tad-drittijiet u l-libertajiet fundamentali tal-individwi. L-awtoritajiet nazzjonali riċevituri u l-istituzzjonijiet, il-korpi, l-uffiċċji u l-aġenziji tal-Unjoni li jagħmlu użu minn tali outputs fl-Unjoni jibqgħu responsabbli biex jiżguraw li l-użu tagħhom jikkonforma mal-liġi tal-Unjoni. Meta dawk il-ftehimiet internazzjonali jiġu riveduti jew jiġu konklużi oħrajn ġodda fil-futur, jenħtieġ li l-partijiet kontraenti jagħmlu l-akbar sforzi possibbli biex jallinjaw dawk il-ftehimiet mar-rekwiżiti ta' dan ir-Regolament.
(23)
Настоящият регламент следва да се прилага и за институциите, органите, службите и агенциите на Съюза, когато те действат като доставчик или внедрител на система с ИИ.
(23)
Jenħtieġ li dan ir-Regolament japplika wkoll għall-istituzzjonijiet, il-korpi, l-uffiċċji u l-aġenziji tal-Unjoni meta dawn jaġixxu bħala fornitur jew implimentatur ta' sistema tal-IA.
(24)
Ако и доколкото системите с ИИ се пускат на пазара, пускат в действие или използват, със или без изменение на тези системи, за военни цели и цели, свързани с отбраната или националната сигурност, те следва да бъдат изключени от обхвата на настоящия регламент, независимо от това какъв вид субект извършва тези дейности, например дали е публичен, или частен субект. По отношение на военните цели и целите, свързани с отбраната, това изключение е обосновано както от член 4, параграф 2 ДЕС, така и от специфичните особености на политиката за отбрана на държавите членки и общата политика за отбрана на Съюза, обхваната от дял V, глава 2 ДЕС, спрямо които се прилага международното публично право, което поради това е по-подходящата правна рамка за регулиране на системите с ИИ в контекста на употребата на смъртоносна сила и на други системи с ИИ в контекста на военните и отбранителните дейности. По отношение на целите на националната сигурност, изключението е обосновано както от факта, че националната сигурност продължава да бъде отговорност единствено на държавите членки в съответствие с член 4, параграф 2 ДЕС, така и от специфичното естество и оперативни нужди на дейностите в областта на националната сигурност и специалните национални правила, приложими за тези дейности. Въпреки това, ако система с ИИ, разработена, пусната на пазара, пусната в действие или използвана за военни цели и цели, свързани с отбраната или националната сигурност, се използва извън рамките на тези цели временно или се използва постоянно за други цели, например за граждански или хуманитарни цели и за правоохранителни цели или цели, свързани с обществената сигурност, тази система би попаднала в обхвата на настоящия регламент. В този случай субектът, използващ системата с ИИ за цели, различни от военни цели и цели, свързани с отбраната или националната сигурност, следва да гарантира съответствието на системата с ИИ с настоящия регламент, освен ако системата вече не е в съответствие с настоящия регламент. Системите с ИИ, пуснати на пазара или пуснати в действие за изключена цел, а именно военна цел и цел, свързана с отбраната или национална сигурност, и една или повече неизключени цели, например граждански цели или правоохранителни цели, попадат в обхвата на настоящия регламент и доставчиците на тези системи следва да гарантират спазването на настоящия регламент. В тези случаи фактът, че дадена система с ИИ може да попадне в обхвата на настоящия регламент, не следва да засяга възможността субектите, извършващи дейности в областта на националната сигурност и отбраната и военни дейности, независимо от вида на субекта, извършващ тези дейности, да използват за цели в областта на националната сигурност и отбраната и за военни цели системи с ИИ, чието използване е изключено от обхвата на настоящия регламент. Система с ИИ, пусната на пазара за граждански цели или за правоохранителни цели, която се използва, със или без изменение, за военни цели и за цели, свързани с отбраната или националната сигурност, не следва да попада в обхвата на настоящия регламент, независимо от вида на субекта, извършващ тези дейности.
(24)
Jekk, u sa fejn, is-sistemi tal-IA jiġu introdotti fis-suq, jitqiegħdu fis-servizz, jew jintużaw b'modifika jew mingħajr modifika ta' tali sistemi għal finijiet militari, ta' difiża jew ta' sigurtà nazzjonali, dawk jenħtieġ li jiġu esklużi mill-kamp ta' applikazzjoni ta' dan ir-Regolament irrispettivament minn liema tip ta' entità tkun qed twettaq dawk l-attivitajiet, bħal jekk tkunx entità pubblika jew privata. Fir-rigward ta' finijiet militari u ta' difiża, tali esklużjoni hija ġġustifikata kemm mill-Artikolu 4(2) TUE kif ukoll mill-ispeċifiċitajiet tal-politika ta' difiża komuni tal-Istati Membri u tal-Unjoni koperta mill-Kapitolu 2 tat-Titolu V TUE li huma soġġetti għad-dritt internazzjonali pubbliku, li huwa għalhekk il-qafas legali aktar xieraq għar-regolamentazzjoni tas-sistemi tal-IA fil-kuntest tal-użu ta' forza letali u sistemi oħra tal-IA fil-kuntest ta' attivitajiet militari u ta' difiża. Fir-rigward ta' finijiet ta' sigurtà nazzjonali, l-esklużjoni hija ġġustifikata kemm mill-fatt li s-sigurtà nazzjonali tibqa' r-responsabbiltà unika tal-Istati Membri f'konformità mal-Artikolu 4(2) TUE kif ukoll min-natura speċifika u l-ħtiġijiet operazzjonali tal-attivitajiet ta' sigurtà nazzjonali u regoli nazzjonali speċifiċi applikabbli għal dawk l-attivitajiet. Madankollu, jekk sistema tal-IA żviluppata, introdotta fis-suq, imqiegħda fis-servizz jew użata għal finijiet militari, ta' difiża jew ta' sigurtà nazzjonali tintuża barra minn dawk temporanjament jew b'mod permanenti għal finijiet oħra, pereżempju, għal finijiet ċivili jew umanitarji, għal finijiet ta' infurzar tal-liġi jew ta' sigurtà pubblika, tali sistema taqa' fil-kamp ta' applikazzjoni ta' dan ir-Regolament. F'dak il-każ, jenħtieġ li l-entità li tuża s-sistema tal-IA għal finijiet oħra għajr dawk militari, ta' difiża jew ta' sigurtà nazzjonali tiżgura l-konformità tas-sistema tal-IA ma' dan ir-Regolament, sakemm is-sistema ma tkunx diġà konformi ma' dan ir-Regolament. Is-sistemi tal-IA introdotti fis-suq jew imqiegħda fis-servizz għal skop eskluż, jiġifieri militari, ta' difiża jew ta' sigurtà nazzjonali, u skop wieħed jew aktar mhux esklużi, bħal finijiet ċivili jew infurzar tal-liġi, jaqgħu fil-kamp ta' applikazzjoni ta' dan ir-Regolament u jenħtieġ li l-fornituri ta' dawk is-sistemi jiżguraw il-konformità ma' dan ir-Regolament. F'dawk il-każijiet, jenħtieġ li l-fatt li sistema tal-IA tista' taqa' fil-kamp ta' applikazzjoni ta' dan ir-Regolament ma jaffettwax il-possibbiltà li entitajiet li qed iwettqu attivitajiet nazzjonali ta' sigurtà, ta' difiża u militari, irrispettivament mit-tip ta' entità li twettaq dawk l-attivitajiet, jużaw sistemi tal-IA għal finijiet ta' sigurtà, militari u ta' difiża nazzjonali, li l-użu tagħhom huwa eskluż mill-kamp ta' applikazzjoni ta' dan ir-Regolament. Jenħtieġ li sistema tal-IA introdotta fis-suq għal finijiet ċivili jew ta' infurzar tal-liġi li tintuża b'modifika jew mingħajr modifika għal finijiet militari, ta' difiża jew ta' sigurtà nazzjonali ma taqax fil-kamp ta' applikazzjoni ta' dan ir-Regolament, irrispettivament mit-tip ta' entità li twettaq dawk l-attivitajiet.
(25)
Настоящият регламент следва да подкрепя иновациите, да зачита свободата на науката и не следва да е пречка за научноизследователската и развойната дейност. Поради това е необходимо от неговия обхват да бъдат изключени системите и моделите с ИИ, специално разработени и пуснати в действие единствено с цел научноизследователска и развойна дейност. Освен това е необходимо да се гарантира, че настоящият регламент не засяга по друг начин научноизследователската и развойната дейност в областта на системите или моделите с ИИ преди пускането им на пазара или пускането им в действие. По отношение на ориентираната към продуктите научноизследователска, изпитателна и развойна дейност във връзка със системи или модели с ИИ, разпоредбите на настоящия регламент също така не следва да се прилагат преди пускането в действие или пускането на пазара на тези системи и модели. Това изключение не засяга задължението за спазване на настоящия регламент, когато система с ИИ, попадаща в обхвата на настоящия регламент, е пусната на пазара или пусната в действие в резултат на такава научноизследователска и развойна дейност, както и прилагането на разпоредбите относно регулаторните лаборатории в областта на ИИ и изпитването в реални условия. Освен това, без да се засяга изключението по отношение на системите с ИИ, специално разработени и пуснати в действие единствено за целите на научноизследователската и развойната дейност, за всяка друга система с ИИ, която може да се използва за извършването на научноизследователска и развойна дейност, разпоредбите на настоящия регламент следва да продължат да се прилагат. Във всеки случай всяка научноизследователска и развойна дейност следва да се извършва в съответствие с признатите етични и професионални стандарти по отношение на научните изследвания и следва да се провежда в съответствие с приложимото право на Съюза.
(25)
Jenħtieġ li dan ir-Regolament jappoġġa l-innovazzjoni, jirrispetta l-libertà tax-xjenza, u ma jdgħajjifx l-attività ta' riċerka u żvilupp. Għalhekk, jeħtieġ li jiġu esklużi mill-kamp ta' applikazzjoni tagħha s-sistemi u l-mudelli tal-IA żviluppati speċifikament u mqiegħda fis-servizz għall-iskop uniku ta' riċerka u żvilupp xjentifiċi. Barra minn hekk, jeħtieġ li jiġi żgurat li dan ir-Regolament ma jaffettwax b'xi mod ieħor l-attività xjentifika ta' riċerka u żvilupp dwar is-sistemi jew il-mudelli tal-IA qabel ma jitqiegħdu fis-suq jew fis-servizz. Fir-rigward tar-riċerka orjentata lejn il-prodott, l-ittestjar u l-attività ta' żvilupp fir-rigward ta' sistemi jew mudelli tal-IA, id-dispożizzjonijiet ta' dan ir-Regolament jenħtieġ li ma japplikawx ukoll qabel ma dawk is-sistemi u l-mudelli jitqiegħdu fis-servizz jew jiġu introdotti fis-suq. Dik l-esklużjoni hija mingħajr preġudizzju għall-obbligu ta' konformità ma' dan ir-Regolament meta sistema tal-IA li taqa' fil-kamp ta' applikazzjoni ta' dan ir-Regolament tiġi introdotta fis-suq jew titqiegħed fis-servizz bħala riżultat ta' tali attività ta' riċerka u żvilupp u għall-applikazzjoni ta' dispożizzjonijiet dwar ambjenti ta' esperimentazzjoni regolatorja għall-IA u ttestjar fil-kundizzjonijiet tad-dinja reali. Barra minn hekk, mingħajr preġudizzju għall-esklużjoni tas-sistemi tal-IA żviluppati speċifikament u mqiegħda fis-servizz għall-iskop uniku ta' riċerka u żvilupp xjentifiku, jenħtieġ li kwalunkwe sistema oħra tal-IA li tista' tintuża għat-twettiq ta' kwalunkwe attività ta' riċerka u żvilupp tibqa' soġġetta għad-dispożizzjonijiet ta' dan ir-Regolament. Fi kwalunkwe każ, jenħtieġ li kwalunkwe attività ta' riċerka u żvilupp titwettaq f'konformità mal-istandards etiċi u professjonali rikonoxxuti għar-riċerka xjentifika u jenħtieġ li titwettaq f'konformità mal-liġi tal-Unjoni applikabbli.
(26)
За да се въведе пропорционален и ефективен набор от задължителни правила за системите с ИИ, следва да се прилага ясно определен подход, основан на риска. В рамките на този подход видът и съдържанието на правилата следва да се адаптират към интензитета и обхвата на рисковете, които системите с ИИ могат да породят. Поради това е необходимо да се забранят някои неприемливи практики в областта на ИИ, да се установят изисквания за високорисковите системи с ИИ и задължения за съответните оператори, както и да се установят задължения за прозрачност за някои системи с ИИ.
(26)
Biex jiddaħħal sett proporzjonat u effettiv ta' regoli vinkolanti għas-sistemi tal-IA, jenħtieġ jitħaddem approċċ definit b'mod ċar u bbażat fuq ir-riskji. Jenħtieġ li dak l-approċċ ifassal it-tip u l-kontenut ta' dawk ir-regoli skont l-intensità u l-ambitu tar-riskji li jistgħu jiġġeneraw is-sistemi tal-IA. Għalhekk, jeħtieġ li jiġu pprojbiti ċerti prattiki mhux aċċettabbli tal-IA, li jiġu stabbiliti rekwiżiti għal sistemi tal-IA b'riskju għoli u obbligi għall-operaturi rilevanti, u li jiġu stabbiliti obbligi tat-trasparenza għal ċerti sistemi tal-IA.
(27)
Въпреки че основаният на риска подход е основата за пропорционален и ефективен набор от задължителни правила, е важно да се припомнят Насоките относно етичните аспекти за надежден ИИ от 2019 г., разработени от независимата ЕГВР ИИ, определена от Комисията. В тези насоки ЕГВР ИИ е разработила седем необвързващи етични принципа за ИИ, които имат за цел да спомогнат да се гарантира, че ИИ е надежден и етичен. Седемте принципа включват човешки фактор и контрол; техническа стабилност и безопасност; неприкосновеност на личния живот и управление на данните; прозрачност; многообразие, недискриминация и справедливост; обществено и екологично благосъстояние; отчетност. Без да засягат правно обвързващите изисквания на настоящия регламент и на всички други приложими правни актове на Съюза, посочените насоки допринасят за разработването на съгласуван, надежден и ориентиран към човека ИИ в съответствие с Хартата и с ценностите, на които се основава Съюзът. Съгласно Насоките на ЕГВР ИИ човешки фактор и контрол означава, че системите с ИИ се разработват и използват като инструмент, който служи на хората, зачита човешкото достойнство и личната независимост и функционира така, че да може да се контролира и наблюдава от хората по подходящ начин. Техническа стабилност и безопасност означава, че системите с ИИ се разработват и използват по начин, който позволява стабилност в случай на проблеми и устойчивост срещу опити за промяна на използването или действието на системата с ИИ, така че да се даде възможност за незаконно използване от трети лица, и който свежда до минимум непреднамерените вреди. Неприкосновеност на личния живот и управление на данните означава, че системите с ИИ се разработват и използват в съответствие с правилата относно неприкосновеността на личния живот и защитата на данните, като същевременно се обработват данни, които отговарят на високи стандарти по отношение на качеството и целостта. Прозрачност означава, че системите с ИИ се разработват и използват по начин, който позволява подходяща проследимост и разбираемост, като същевременно хората се уведомяват, че комуникират или си взаимодействат със система с ИИ, и внедрителите надлежно се информират за способностите и ограниченията на тази система с ИИ, а засегнатите лица – за техните права. Многообразие, недискриминация и справедливост означава, че системите с ИИ се разработват и използват по начин, който включва различни участници и насърчава равния достъп, равенството между половете и културното многообразие, като същевременно се избягват дискриминационните въздействия и несправедливата предубеденост, които са забранени от правото на Съюза или националното право. Обществено и екологично благосъстояние означава, че системите с ИИ се разработват и използват по устойчив и екологосъобразен начин, както и така, че да са от полза за всички хора, като същевременно се наблюдават и оценяват дългосрочните въздействия върху отделните лица, обществото и демокрацията. Прилагането на тези принципи следва да бъде отразено, когато е възможно, при проектирането и използването на модели с ИИ. При всички случаи те следва да служат като основа за изготвянето на кодекси за поведение съгласно настоящия регламент. Всички заинтересовани страни, включително стопанските сектори, академичните среди, гражданското общество и организациите за стандартизация, се насърчават да вземат предвид, когато е целесъобразно, етичните принципи за разработването на незадължителни най-добри практики и стандарти.
(27)
Filwaqt li l-approċċ ibbażat fuq ir-riskju huwa l-bażi għal sett proporzjonat u effettiv ta' regoli vinkolanti, huwa importanti li jitfakkru l-Linji gwida tal-2019 dwar l-etika għal IA affidabbli żviluppati mill-AI HLEG maħtur mill-Kummissjoni. F'dawk il-linji gwida l-AI HLEG żviluppa seba' prinċipji etiċi mhux vinkolanti għall-IA li huma maħsuba biex jgħinu li jiġi żgurat li l-IA tkun affidabbli u etikament xierqa. Is-seba' prinċipji jinkludu: intervent u sorveljanza mill-bniedem; robustezza u sikurezza teknika; privatezza u governanza tad-data; trasparenza; diversità, nondiskriminazzjoni u ekwità; benesseri tas-soċjetà u tal-ambjent u responsabbiltà. Mingħajr preġudizzju għar-rekwiżiti legalment vinkolanti ta' dan ir-Regolament u kwalunkwe liġi applikabbli oħra tal-Unjoni, dawk il-linji gwida jikkontribwixxu għat-tfassil ta' IA koerenti, affidabbli u ċċentrata fuq il-bniedem, f'konformità mal-Karta u mal-valuri li fuqhom hija msejsa l-Unjoni. Skont il-linji gwida tal-AI HLEG, intervent u sorveljanza mill-bniedem tfisser li s-sistemi tal-IA jiġu żviluppati u użati bħala għodda li taqdi lin-nies, tirrispetta d-dinjità u l-awtonomija personali tal-bniedem, u li tiffunzjona b'mod li jista' jiġi kkontrollat u ssorveljat mill-bniedem kif xieraq. Robustezza u sikurezza teknika tfisser li s-sistemi tal-IA jiġu żviluppati u użati b'mod li jippermetti r-robustezza fil-każ ta' problemi u reżiljenza kontra tentattivi biex jinbidlu l-użu jew il-prestazzjoni tas-sistema tal-IA biex ikun jista' jsir użu illegali minn partijiet terzi, u tiġi minimizzata l-ħsara mhux intenzjonata. Privatezza u governanza tad-data tfisser li s-sistemi tal-IA jiġu żviluppati u użati f'konformità mar-regoli dwar il-privatezza u l-protezzjoni tad-data, filwaqt li tiġi pproċessata data li tissodisfa standards għoljin mil-lat ta' kwalità u integrità. Trasparenza tfisser li s-sistemi tal-IA jiġu żviluppati u użati b'mod li jippermettu traċċabbiltà u spjegabbiltà xierqa, filwaqt li jiżguraw li l-bnedmin ikunu konxji li qed jikkomunikaw jew jinteraġixxu ma' sistema tal-IA kif ukoll jinfurmaw kif xieraq lill-implimentaturi dwar il-kapaċitajiet u l-limitazzjonijiet ta' dik is-sistema tal-IA u lill-persuni affettwati dwar id-drittijiet tagħhom. Diversità, nondiskriminazzjoni u ġustizzja tfisser li s-sistemi tal-IA jiġu żviluppati u użati b'mod li jinkludi atturi differenti u li jippromwovi aċċess ugwali, ugwaljanza bejn il-ġeneri u diversità kulturali filwaqt li jevita impatti diskriminatorji u preġudizzji inġusti li huma pprojbiti mil-liġi tal-Unjoni jew dik nazzjonali. Benesseri tas-soċjetà u tal-ambjent tfisser li s-sistemi tal-IA jiġu żviluppati u użati b'mod sostenibbli u li ma jagħmilx ħsara lill-ambjent kif ukoll b'mod li jkunu ta' benefiċċju għall-bnedmin kollha, filwaqt li jiġu mmonitorjati u vvalutati l-impatti fit-tul fuq l-individwu, is-soċjetà u d-demokrazija. Jenħtieġ li l-applikazzjoni ta' dawk il-prinċipji tiġi riflessa, meta jkun possibbli, fid-disinn u l-użu tal-mudelli tal-IA. Jenħtieġ li fi kwalunkwe każ iservu bħala bażi għall-abbozzar ta' kodiċijiet ta' kondotta skont dan ir-Regolament. Il-partijiet ikkonċernati kollha, inkluż l-industrija, id-dinja akkademika, is-soċjetà ċivili u l-organizzazzjonijiet tal-istandardizzazzjoni, huma mħeġġa jqisu, kif xieraq, il-prinċipji etiċi għall-iżvilupp tal-aħjar prattiki u standards volontarji.
(28)
Въпреки че ИИ има многобройни полезни приложения, с него може да се злоупотребява и той може да осигури нови и мощни инструменти за манипулативни и експлоататорски практики и практики за социален контрол. Тези практики са особено вредни и недобросъвестни и следва да бъдат забранени, тъй като противоречат на ценностите на Съюза за зачитане на човешкото достойнство, свободата, равенството, демокрацията и принципите на правовата държава, и основните права, залегнали в Хартата, включително правото на недискриминация, на защита на данните и на неприкосновеност на личния живот, както и правата на детето.
(28)
Minbarra l-bosta użi ta' benefiċċju tal-IA, din tista' tintuża ħażin ukoll u tipprovdi għodod ġodda u b'saħħithom għal prattiki manipulattivi, ta' sfruttament u ta' kontroll soċjali. Dawn il-prattiki huma partikolarment ta' ħsara u abbużivi u jenħtieġ li jiġu pprojbiti għax imorru kontra l-valuri tal-Unjoni ta' rispett għad-dinjità umana, libertà, ugwaljanza, demokrazija u l-istat tad-dritt u d-drittijiet fundamentali minquxa fil-Karta, fosthom id-dritt ta' nondiskriminazzjoni, għal protezzjoni tad-data u għal privatezza u d-drittijiet tat-tfal.
(29)
Манипулативните техники, използващи ИИ, могат да служат за склоняване на хората към нежелано поведение или за подвеждането им, като ги подтикват да вземат решения по начин, който подкопава и накърнява тяхната независимост, вземане на решения и свободен избор. Пускането на пазара, пускането в действие или използването на някои системи с ИИ с цел или последици, изразяващи се в съществено изменение на човешкото поведение, при което е вероятно да възникнат значителни вреди, по-специално оказващи достатъчно значимо неблагоприятно въздействие върху физическото или психологическото здраве или финансовите интереси, са особено опасни и поради това следва да бъдат забранени. Такива системи с ИИ използват компоненти, действащи на подсъзнанието, например стимули чрез изображения и аудио и видео стимули, които хората не могат да възприемат, тъй като тези стимули са отвъд човешкото възприятие, или други манипулативни или заблуждаващи техники, които подкопават или накърняват независимостта, вземането на решения или свободния избор така, че хората не осъзнават, че се използват такива техники, или дори когато го осъзнават, те все пак могат да бъдат заблудени или не са в състояние да ги контролират или да им устоят. Това може да бъде улеснено например от интерфейси мозък-машина или виртуална реалност, тъй като те позволяват по-висока степен на контрол върху това какви стимули се предоставят на хората, доколкото те могат съществено да променят поведението им по начин, който води до значителна вреда. Наред с това системите с ИИ могат да се възползват и по друг начин от уязвимостта на дадено лице или конкретна група лица поради тяхната възраст, увреждане по смисъла на Директива (ЕС) 2019/882 на Европейския парламенти и на Съвета (16) или конкретно социално или икономическо положение, което има вероятност да направи тези лица по-уязвими на експлоатация, като например лица, живеещи в крайна бедност, етнически или религиозни малцинства. Такива системи с ИИ могат да бъдат пуснати на пазара, пуснати в действие или използвани с цел или последици, изразяващи се в съществено изменение на поведението на дадено лице, и по начин, който причинява или има разумна вероятност да причини значителна вреда на това или на друго лице или групи лица, включително вреди, които могат да се натрупват с течение на времето, поради което следва да бъдат забранени. Може да не е възможно да се приеме, че е налице намерение за изменение на поведението, когато изменението се дължи на фактори, външни за системата с ИИ, които са извън контрола на доставчика или внедрителя, а именно фактори, които може да не са разумно предвидими и поради това да не е възможно доставчикът или внедрителят на системата с ИИ да ги смекчи. Във всеки случай не е необходимо доставчикът или внедрителят да има намерение да причини значителна вреда, при условие че тази вреда произтича от манипулативни или експлоататорски практики, използващи ИИ. Забраните за такива практики в областта на ИИ допълват разпоредбите, съдържащи се в Директива 2005/29/ЕО на Европейския парламент и на Съвета (17), по-специално за забрана при всички обстоятелства на нелоялните търговски практики, водещи до икономически или финансови вреди за потребителите, независимо дали са въведени чрез системи с ИИ, или по друг начин. Забраните за манипулативни и експлоататорски практики в настоящия регламент не следва да засягат законните практики при медицинско лечение, като например психологическо лечение на психично заболяване или физическа рехабилитация, когато тези практики се извършват в съответствие с приложимото право и приложимите медицински стандарти, например за изричното съгласие на лицата или техните законни представители. Освен това общоприетите и законни търговски практики, например в областта на рекламата, които са в съответствие с приложимото право, не следва сами по себе си да се считат за вредни манипулативни практики, използващи ИИ.
(29)
Tekniki manipulattivi bbażati fuq l-IA jistgħu jintużaw biex jipperswadu lin-nies jinvolvu ruħhom f'imġiba mhux mixtieqa, jew biex iqarrqu bihom billi jġiegħluhom jieħdu deċiżjonijiet b'mod li jimmina u jfixkel l-awtonomija, it-teħid ta' deċiżjonijiet u l-għażliet liberi tagħhom. L-introduzzjoni fis-suq, it-tqegħid fis-servizz jew l-użu ta' ċerti sistemi tal-IA bl-objettiv jew bl-effett li jfixklu materjalment l-imġiba tal-bniedem, fejn x'aktarx isseħħ ħsara sinifikanti, b'mod partikolari li jkollhom impatti negattivi importanti biżżejjed fuq is-saħħa fiżika, psikoloġika jew fuq l-interessi finanzjarji, ikunu partikolarment perikolużi u għalhekk jenħtieġ li jiġu pprojbiti. Tali sistemi tal-IA jimplimentaw komponenti subliminali bħall-awdjo, immaġni jew vidjo li l-persuni ma jistgħux jipperċepixxu, peress li dawk l-istimuli jmorru lil hinn mill-perċezzjoni tal-bniedem, jew tekniki manipulattivi jew qarrieqa oħra li jdgħajfu jew ifixklu l-awtonomija, it-teħid ta' deċiżjonijiet jew l-għażla libera tal-persuna b'modi li n-nies ma jkunux konxji ta’ dawn it-tekniki jew, fejn ikunu konxji tagħhom, xorta waħda jkunu ingannati jew ma jkunux jistgħu jikkontrollawhom jew jirreżistuhom. Dan jista' jkun iffaċilitat, pereżempju, minn interfaċċi bejn il-moħħ u l-magna jew realtà virtwali peress li jippermettu livell ogħla ta' kontroll ta' liema stimuli jiġu ppreżentati lill-persuni, sa fejn dawn jistgħu jfixklu materjalment l-imġiba tagħhom b'mod li jagħmel ħsara sinifikanti. Barra minn hekk, is-sistemi tal-IA jistgħu jisfruttaw ukoll il-vulnerabbiltajiet ta' persuna jew ta' grupp speċifiku ta' persuni minħabba l-età tagħhom, diżabbiltà skont it-tifsira tad-Direttiva (UE) 2019/882 tal-Parlament Ewropew u tal-Kunsill (16), jew sitwazzjoni soċjali jew ekonomika speċifika li x'aktarx tirrendi lil dawk il-persuni aktar vulnerabbli għal sfruttament bħal persuni li jgħixu f'faqar estrem u minoranzi etniċi jew reliġjużi. Tali sistemi tal-IA jistgħu jiġu introdotti fis-suq, jitqiegħdu fis-servizz jew jintużaw bl-objettiv jew bl-effett li jfixklu materjalment l-imġiba ta' persuna u b'mod li jikkawżaw jew li raġonevolment x'aktarx jikkawżaw ħsara sinifikanti lil dik il-persuna jew lil persuna jew gruppi oħra ta' persuni, inkluż ħsara li tista' takkumula maż-żmien, u għalhekk jenħtieġ li jiġu pprojbiti. Jista' ma jkunx possibbli li wieħed jassumi li hemm intenzjoni ta' tfixkil tal-imġiba meta t-tfixkil jirriżulta minn fatturi esterni għas-sistema tal-IA li huma barra mill-kontroll tal-fornitur jew tal-implimentatur, jiġifieri fatturi li jistgħu ma jkunux raġonevolment prevedibbli u għalhekk mhux possibbli għall-fornitur jew għall-implimentatur tas-sistema tal-IA biex jimmitiga. Fi kwalunkwe każ, ma huwiex meħtieġ li l-fornitur jew l-implimentatur ikollhom l-intenzjoni li jikkawżaw ħsara sinifikanti, dment li tali ħsara ma tirriżultax mill-prattiki manipulattivi jew ta' sfruttament li ġejjin mill-IA. Il-projbizzjonijiet għal tali prattiki tal-IA huma komplementari għad-dispożizzjonijiet li jinsabu fid-Direttiva 2005/29/KE tal-Parlament Ewropew u tal-Kunsill (17), b'mod partikolari prattiki kummerċjali inġusti li jwasslu għal ħsara ekonomika jew finanzjarja għall-konsumaturi huma pprojbiti fiċ-ċirkostanzi kollha, irrispettivament minn jekk jiġux stabbiliti permezz ta' sistemi tal-IA jew b'xi mod ieħor. Jenħtieġ li l-projbizzjonijiet ta' prattiki manipulattivi u ta' sfruttament f'dan ir-Regolament ma jaffettwaw il-prattiki legali fil-kuntest ta' trattament mediku bħat-trattament psikoloġiku ta' marda mentali jew ir-riabilitazzjoni fiżika, meta dawk il-prattiki jitwettqu f'konformità mal-liġi u l-istandards mediċi applikabbli, pereżempju l-kunsens espliċitu tal-individwi jew tar-rappreżentanti legali tagħhom. Barra minn hekk, jenħtieġ li l-prattiki kummerċjali komuni u leġittimi, pereżempju fil-qasam tar-reklamar, li jikkonformaw mal-liġi applikabbli ma jitqisux fihom infushom bħala li jikkostitwixxu prattiki manipulattivi li jagħmlu ħsara li ġejjin mill-IA.
(30)
Следва да бъдат забранени системите за биометрично категоризиране, които се основават на биометрични данни на физическите лица, като например лицето или пръстовите отпечатъци на дадено лице, за да се направят заключения или изводи относно неговите политически възгледи, членство в синдикални организации, религиозни или философски убеждения, раса, сексуален живот или сексуална ориентация. Тази забрана не следва да обхваща законното обозначаване, филтриране или категоризиране на наборите от биометрични данни, получени в съответствие с правото на Съюза или националното право въз основа на биометрични данни, като например сортиране на изображения според цвета на косата или цвета на очите, които могат да се използват например в правоохранителната област.
(30)
Jenħtieġ li jiġu pprojbiti s-sistemi ta' kategorizzazzjoni bijometrika li huma bbażati fuq id-data bijometrika tal-persuni fiżiċi, bħall-wiċċ jew il-marka tas-swaba' ta' persuna individwali, biex jiddeduċu jew jinferixxu l-opinjonijiet politiċi ta' individwu, is-sħubija fi trade union, it-twemmin reliġjuż jew filosofiku, ir-razza, il-ħajja sesswali jew l-orjentazzjoni sesswali. Jenħtieġ li dik il-projbizzjoni ma tkoprix it-tikkettar, il-filtrazzjoni jew il-kategorizzazzjoni legali ta' settijiet ta' data bijometriċi miksuba f'konformità mal-liġi tal-Unjoni jew dik nazzjonali skont id-data bijometrika, bħall-issortjar ta' immaġnijiet skont il-kulur tax-xagħar jew il-kulur tal-għajnejn, li jistgħu jintużaw pereżempju fil-qasam tal-infurzar tal-liġi.
(31)
Системите с ИИ, осигуряващи социално оценяване на физически лица, извършено от публични или частни субекти, могат да доведат до дискриминационни резултати и изключване на определени групи. Те могат да нарушат правото на достойнство и недискриминация и ценностите на равенството и справедливостта. Подобни системи с ИИ оценяват или класифицират физически лица или групи от такива лица въз основа на множество данни, свързани с тяхното социално поведение в различен контекст, или известни, изведени или предполагаеми лични или личностни характеристики, през определен период от време. Социалната класация, получена от такива системи с ИИ, може да доведе до увреждащо или неблагоприятно третиране на физически лица или на цели групи от такива лица в социален контекст, който няма връзка с контекста, в който първоначално са били генерирани или събрани данните, или до увреждащо третиране, което е непропорционално или неоправдано с оглед на тежестта, която се отдава на тяхното социално поведение. Поради това системите с ИИ, които включват такива неприемливи практики за оценяване и водещи до вредни или неблагоприятни резултати, следва да бъдат забранени. Тази забрана не следва да засяга законните практики за оценяване на физически лица, извършвани за конкретна цел в съответствие с правото на Съюза или националното право.
(31)
Sistemi tal-IA li jipprovdu punteġġ għaċ-ċittadini minn atturi pubbliċi jew privati fir-rigward ta' persuni fiżiċi jistgħu jwasslu għal eżiti diskriminatorji u għall-esklużjoni ta' ċerti gruppi. Jistgħu jiksru d-dritt għad-dinjità u ta' nondiskriminazzjoni u l-valuri tal-ugwaljanza u tal-ġustizzja. Tali sistemi tal-IA jevalwaw jew jikklassifikaw persuni fiżiċi jew gruppi ta' persuni abbażi ta' diversi punti tad-data relatati mal-imġiba soċjali tagħhom f'kuntesti multipli jew karatteristiċi personali jew tal-personalità magħrufa, inferiti jew imbassrin matul ċerti perjodi ta' żmien. Il-punteġġ għaċ-ċittadini miksub minn dawn is-sistemi tal-IA jista' jwassal għal trattament detrimentali jew mhux favorevoli ta' persuni fiżiċi jew ta' gruppi sħaħ tagħhom f'kuntesti soċjali, li ma jkunux marbuta mal-kuntest li fih kienet oriġinarjament iġġenerata jew inġabret id-data, jew għal trattament detrimentali sproporzjonat jew mhux iġġustifikat għall-gravità tal-imġiba soċjali tagħhom. Għalhekk, jenħtieġ li jiġu pprojbiti s-sistemi tal-IA li jinvolvu prattiki ta' punteġġ inaċċettabbli u li jwasslu għal tali eżiti detrimentali jew mhux favorevoli. Jenħtieġ li dik il-projbizzjoni ma taffettwax il-prattiki ta' evalwazzjoni legali ta' persuni fiżiċi li jitwettqu għal skop speċifiku f'konformità mal-liġi tal-Unjoni u nazzjonali.
(32)
Използването на системи с ИИ за дистанционна биометрична идентификация в реално време на физически лица на обществено достъпни места за правоохранителни цели особено силно накърнява правата и свободите на засегнатите лица, доколкото то може да засегне личния живот на голяма част от населението, да породи усещане за постоянно наблюдение и косвено да действа разубеждаващо по отношение на упражняването на свободата на събранията и други основни права. Техническите неточности на системите с ИИ, предназначени за дистанционна биометрична идентификация на физически лица, могат да доведат до опорочени от предубеденост резултати и до дискриминация. Такива възможни опорочени от предубеденост резултати и дискриминационни последици са от особено значение по отношение на възраст, етническа принадлежност, раса, пол или увреждане. Освен това непосредственият ефект и ограничените възможности за допълнителни проверки или корекции във връзка с използването на такива системи, функциониращи в реално време, крият повишен риск за правата и свободите на лицата, които са засегнати при правоохранителните дейности или върху които тези дейности оказват въздействие.
(32)
L-użu tas-sistemi tal-IA għall-identifikazzjoni bijometrika remota “fil-ħin reali” ta' persuni fiżiċi fi spazji aċċessibbli għall-pubbliku għall-finijiet ta' infurzar tal-liġi huwa partikolarment intrużiv għad-drittijiet u l-libertajiet tal-persuni kkonċernati, peress li dan jista' jaffettwa l-ħajja privata ta' parti kbira tal-popolazzjoni, jevoka sentiment ta' sorveljanza kostanti u indirettament jiddisswadi l-eżerċitar tal-libertà ta' għaqda u ta' drittijiet fundamentali oħra. L-inakkuratezzi tekniċi tas-sistemi tal-IA maħsuba għall-identifikazzjoni bijometrika remota ta' persuni fiżiċi jistgħu jwasslu għal riżultati preġudikati u jħallu effetti diskriminatorji. Tali riżultati preġudikati possibbli u effetti diskriminatorji huma partikolarment rilevanti fir-rigward tal-età, l-etniċità, ir-razza, is-sess jew id-diżabilitajiet. Barra minn hekk, l-immedjatezza tal-impatt u l-opportunitajiet limitati għal aktar kontrolli jew korrezzjonijiet fir-rigward tal-użu ta' dawn is-sistemi li joperaw fil-ħin reali jinvolvu riskji akbar għad-drittijiet u l-libertajiet tal-persuni kkonċernati fil-kuntest ta’, jew l-impatt mill-attivitajiet tal-infurzar tal-liġi.
(33)
Поради това използването на тези системи за правоохранителни цели следва да бъде забранено, освен в изчерпателно изброени и подробно определени ситуации, при които използването е строго необходимо за постигане на значителен обществен интерес, чиято важност надделява над рисковете. Тези ситуации включват издирването на някои жертви на престъпления, включително изчезнали лица; някои заплахи за живота или физическата безопасност на физически лица или от терористично нападение; както и установяването на местоположението или самоличността на извършители или заподозрени в извършването на престъпленията, изброени в приложение към настоящия регламент, когато тези престъпления се наказват в съответната държава членка с лишаване от свобода или мярка за задържане с максимален срок не по-малко от четири години, като се отчита определението на тези престъпления в правото на съответната държава членка. Прагът относно срока на лишаването от свобода или на мярката за задържане в съответствие с националното право спомага да се гарантира, че престъплението е достатъчно тежко, за да обоснове евентуално използването на системи за дистанционна биометрична идентификация в реално време. Освен това списъкът на престъпленията, поместен в приложение към настоящия регламент, се основава на 32-те престъпления, изброени в Рамково решение 2002/584/ПВР на Съвета (18), като се отчита, че някои от тези престъпления на практика вероятно имат по-голямо значение от други, доколкото използването на дистанционна биометрична идентификация в реално време би могло да е вероятно необходимо и пропорционално в много различна степен с оглед на практическото установяване на местоположението или самоличността на извършителя или заподозрения за различните изброени престъпления, като се имат предвид също вероятните разлики в тяхната тежест, вероятност и размер на вредата или възможните отрицателни последици. Непосредствена заплаха за живота или физическата безопасност на физически лица може да възникне и от сериозно нарушаване на критична инфраструктура съгласно определението в член 2, точка 4 от Директива (ЕС) 2022/2557 на Европейския парламент и на Съвета (19), когато нарушаването или унищожаването на такава критична инфраструктура би довело до непосредствена заплаха за живота или физическата безопасност на дадено лице, включително чрез сериозно увреждане на снабдяването с основни продукти за населението или на упражняването на основните функции на държавата. Освен това с настоящия регламент следва да се запази възможността правоохранителните органи, органите за граничен контрол, имиграционните органи или органите в областта на убежището да извършват проверки на самоличността в присъствието на засегнатото лице в съответствие с условията, определени в правото на Съюза и в националното право за такива проверки. По-специално, правоохранителните органи, органите за граничен контрол, имиграционните органи или органите в областта на убежището следва да могат да използват информационни системи, в съответствие с правото на Съюза или националното право, за установяване на самоличността на лица, които по време на проверка за установяване на самоличността отказват да бъде установена самоличността им или не са в състояние да посочат или докажат самоличността си, без настоящият регламент да изисква предварително разрешение с тази цел. Това може да бъде например лице, замесено в престъпление, което не желае или не може, поради злополука или здравословно състояние, да разкрие самоличността си пред правоохранителните органи.
(33)
Għalhekk, jenħtieġ li l-użu ta' dawk is-sistemi għall-finijiet ta' infurzar tal-liġi jiġi pprojbit, minbarra f'sitwazzjonijiet elenkati b'mod eżawrjenti u definiti b'mod ristrett, meta l-użu hu strettament meħtieġ biex jinkiseb interess pubbliku sostanzjali li l-importanza tiegħu tisboq ir-riskji. Dawk is-sitwazzjonijiet jinvolvu t-tiftix għal ċerti vittmi tal-kriminalità inkluż il-persuni neqsin; ċerti theddidiet għall-ħajja jew għas-sikurezza fiżika ta' persuni fiżiċi jew ta' attakk terroristiku; u l-lokalizzazzjoni jew l-identifikazzjoni ta' awturi jew suspettati tar-reati kriminali elenkati f'anness ta' dan ir-Regolament, fejn dawk ir-reati kriminali jkunu punibbli fl-Istat Membru kkonċernat b'piena li ċċaħħad il-libertà jew b'ordni ta' detenzjoni għal perjodu massimu ta' mill-inqas erba' snin, u kif inhuma definiti fil-liġi ta' dak l-Istat Membru. Tali limitu fil-piena li ċċaħħad il-libertà jew l-ordni ta' detenzjoni f'konformità mal-liġi nazzjonali jikkontribwixxi biex jiġi żgurat li r-reat jenħtieġ li jkun serju biżżejjed biex potenzjalment jiġġustifika l-użu ta' sistemi ta’ identifikazzjoni bijometrika remota “fil-ħin reali”. Barra minn hekk, il-lista ta’ reati kriminali pprovduta f’anness ta’ dan ir-Regolament hija bbażata fuq it-32 reat kriminali elenkati fid-Deċiżjoni Qafas tal-Kunsill 2002/584/ĠAI (18), b'kont meħud li xi wħud minn dawk ir-reati aktarx li fil-prattika jkunu aktar rilevanti minn oħrajn, fis-sens li r-rikors għal identifikazzjoni bijometrika remota “fil-ħin reali” jkun prevedibbilment meħtieġ u proporzjonat sa gradi varji ħafna biex fil-prattika jkun hemm il-lokalizzazzjoni jew l-identifikazzjoni ta' awtur ta' reat kriminali jew ta' persuna suspettata b'reati kriminali differenti elenkati u b'kunsiderazzjoni tad-differenzi li x'aktarx ikun hemm fil-gravità, fil-probabbiltà u fl-iskala tal-ħsara jew tal-konsegwenzi negattivi possibbli. Theddida imminenti għall-ħajja jew għas-sikurezza fiżika ta' persuni fiżiċi tista' tirriżulta wkoll minn tfixkil serju tal-infrastruttura kritika, kif definit fl-Artikolu 2, il-punt (4) tad-Direttiva (UE) 2022/2557 tal-Parlament Ewropew u tal-Kunsill (19), fejn it-tfixkil jew il-qerda ta' tali infrastruttura kritika tirriżulta f'theddida imminenti għall-ħajja jew għas-sikurezza fiżika ta' persuna, inkluż permezz ta' dannu serju għall-forniment ta' provvisti bażiċi lill-popolazzjoni jew għall-eżerċizzju tal-funzjoni ewlenija tal-Istat. Barra minn hekk, jenħtieġ li dan ir-Regolament jippreserva l-kapaċità tal-awtoritajiet tal-infurzar tal-liġi, tal-kontroll fil-fruntieri, tal-immigrazzjoni jew tal-ażil li jwettqu verifiki tal-identità fil-preżenza tal-persuna kkonċernata f'konformità mal-kundizzjonijiet stipulati fil-liġi tal-Unjoni u f'dik nazzjonali għal tali verifiki. B'mod partikolari, jenħtieġ li l-awtoritajiet tal-infurzar tal-liġi, tal-kontroll fil-fruntiera, tal-immigrazzjoni jew tal-ażil ikunu jistgħu jużaw sistemi ta' informazzjoni, f'konformità mal-liġi tal-Unjoni jew dik nazzjonali, biex jidentifikaw persuni li, matul kontroll tal-identità, jew jirrifjutaw li jiġu identifikati jew ma jkunux jistgħu jiddikjaraw jew jagħtu prova tal-identità tagħhom, mingħajr ma tkun meħtieġa minn dan ir-Regolament li tikseb awtorizzazzjoni minn qabel. Din tista' tkun, pereżempju, persuna involuta f'reat, li ma tkunx trid, jew ma tkunx tista', minħabba aċċident jew kundizzjoni medika, tiddivulga l-identità tagħha lill-awtoritajiet tal-infurzar tal-liġi.
(34)
За да се гарантира, че тези системи се използват по отговорен и пропорционален начин, е важно също така да се определи, че във всяка от тези изчерпателно изброени и подробно определени ситуации следва да се вземат предвид определени елементи, по-специално по отношение на естеството на ситуацията, във връзка с която е искането, и последиците от използването за правата и свободите на всички засегнати лица, както и гаранциите и условията, при които ще премине използването. Освен това използването на системи за дистанционна биометрична идентификация в реално време на обществено достъпни места за правоохранителни цели следва да бъде единствено с цел потвърждаване на самоличността на конкретно лице и следва да бъде ограничено до строго необходимото от гледна точка на срок, както и на териториален обхват и обхват по отношение на лицата, като се вземат предвид по-специално доказателствата или признаците за опасностите, жертвите или извършителя. Използването на системата за дистанционна биометрична идентификация в реално време на обществено достъпни места следва да бъде разрешено само ако съответният правоохранителен орган е извършил оценка на въздействието върху основните права и, освен ако в настоящия регламент не е предвидено друго, е регистрирал системата в базата данни, посочена в настоящия регламент. Референтната база данни на лицата следва да бъде подходяща за всеки случай на използване във всяка от посочените по-горе ситуации.
(34)
Biex ikun żgurat li dawk is-sistemi jintużaw b'mod responsabbli u proporzjonat, hu importanti wkoll li jiġi stabbilit li, f'kull waħda minn dawk is-sitwazzjonijiet elenkati b'mod eżawrjenti u definiti b'mod ristrett, jenħtieġ jitqiesu ċerti elementi, b'mod partikolari fir-rigward tan-natura tas-sitwazzjoni li twassal għat-talba u l-konsegwenzi tal-użu għad-drittijiet u għal-libertajiet tal-persuni kollha kkonċernati u s-salvagwardji u l-kundizzjonijiet previsti fl-użu. Barra minn hekk, jenħtieġ li l-użu tas-sistemi ta’ identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għal finijiet ta' infurzar tal-liġi jiġi implimentat biss biex jikkonferma l-identità tal-individwu fil-mira b'mod speċifiku u jenħtieġ li jkun limitat għal dak li huwa strettament meħtieġ fir-rigward tal-perjodu ta' żmien, kif ukoll il-kamp ta' applikazzjoni ġeografiku u personali, filwaqt li jitqiesu b'mod partikolari l-evidenza jew l-indikazzjonijiet rigward it-theddid, il-vittmi jew l-awtur. Jenħtieġ li l-użu tas-sistema ta’ identifikazzjoni bijometrika remota fil-ħin reali fi spazji aċċessibbli għall-pubbliku jiġi awtorizzat biss jekk l-awtorità rilevanti tal-infurzar tal-liġi tkun lestiet valutazzjoni tal-impatt fuq id-drittijiet fundamentali u, sakemm ma jkunx previst mod ieħor f'dan ir-Regolament, tkun irreġistrat is-sistema fil-bażi tad-data kif stipulat f'dan ir-Regolament. Jenħtieġ li l-bażi ta' data ta' referenza tal-persuni tkun adattata għal kull każ ta' użu f'kull waħda mis-sitwazzjonijiet imsemmija hawn fuq.
(35)
За всяко използване на система за дистанционна биометрична идентификация в реално време на обществено достъпни места за правоохранителни цели следва да се изисква изрично и конкретно разрешение от съдебен орган или от независим административен орган на държава членка, чието решение е задължително. Това разрешение следва по принцип да бъде получено преди използването на системата с ИИ с цел идентифициране на дадено лице или лица. Изключения от това правило следва да се допускат в надлежно обосновани спешни случаи, а именно в ситуации, при които необходимостта от използване на съответните системи е такава, че е практически и обективно невъзможно да бъде получено разрешение преди началото на използването на системата с ИИ. При такива спешни ситуации използването на системата с ИИ следва да бъде ограничено до абсолютно необходимия минимум и да е съпроводено с подходящи гаранции и условия, както са установени в националното право и специално указани в контекста на всеки отделен случай на спешно използване от самия правоохранителен орган. Освен това в такива ситуации правоохранителният орган следва да поиска такова разрешение, като посочи причините, поради които не е могъл да го поиска по-рано, без ненужно забавяне и най-късно в рамките на 24 часа. Ако искането за това разрешение бъде отхвърлено, използването на системи за биометрична идентификация в реално време, свързано с това разрешение, следва да бъде прекратено незабавно и всички данни, свързани с това използване, следва да бъдат премахнати и заличени. Тези данни включват входящите данни, получени пряко от система с ИИ в хода на използването на такава система, както и резултатите от използването, свързано с това разрешение. Това не следва да включва входящи данни, законно придобити в съответствие с друг правен акт на Съюза или национален правен акт. Във всеки случай решение, което поражда неблагоприятни правни последици за дадено лице, не следва да бъде взето единствено въз основа на резултата от системата за дистанционна биометрична идентификация.
(35)
Jenħtieġ li kull użu tas-sistema ta’ identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għal finijiet ta' infurzar tal-liġi jkun soġġett għal awtorizzazzjoni espliċita u speċifika minn awtorità ġudizzjarja jew minn awtorità amministrattiva indipendenti ta' Stat Membru li d-deċiżjoni tagħha tkun vinkolanti. Jenħtieġ li tali awtorizzazzjoni fil-prinċipju tinkiseb qabel l-użu tas-sistema tal-IA bil-ħsieb li tiġi identifikata persuna jew persuni. Jenħtieġ li jitħallew isiru eċċezzjonijiet għal dik ir-regola f'sitwazzjonijiet debitament ġustifikati abbażi ta' urġenza, jiġifieri, f'sitwazzjonijiet meta l-ħtieġa li tintuża s-sistema kkonċernata tkun tali li tagħmilha effettivament u oġġettivament impossibbli li tinkiseb awtorizzazzjoni qabel ma jibda l-użu tas-sistema tal-IA. Jenħtieġ li f'sitwazzjonijiet ta' urġenza bħal dawn, l-użu tas-sistema tal-IA jkun ristrett għall-minimu assolut meħtieġ u jenħtieġ li jkun soġġett għal salvagwardji u għal kundizzjonijiet xierqa, kif determinati fil-liġi nazzjonali u speċifikati fil-kuntest ta' kull każ individwali ta' użu urġenti mill-awtorità tal-infurzar tal-liġi nnifisha. Barra minn hekk, jenħtieġ li f'sitwazzjonijiet bħal dawn l-awtorità tal-infurzar tal-liġi titlob tali awtorizzazzjoni filwaqt li tipprovdi r-raġunijiet għaliex ma setgħetx titlobha qabel, mingħajr dewmien żejjed u f'mhux aktar tard minn 24 siegħa. Jekk tali awtorizzazzjoni tiġi rrifjutata, jenħtieġ li l-użu ta' sistemi ta’ identifikazzjoni bijometrika f'ħin reali marbuta ma' dik l-awtorizzazzjoni jitwaqqaf b'effett immedjat u jenħtieġ li d-data kollha relatata ma' dan l-użu titwarrab u titħassar. Din id-data tinkludi data tal-input miksuba direttament minn sistema tal-IA waqt l-użu ta' tali sistema kif ukoll ir-riżultati u l-outputs tal-użu marbut ma' dik l-awtorizzazzjoni. Jenħtieġ li ma tinkludix input li jkun miksub legalment f'konformità ma' liġi tal-Unjoni jew nazzjonali oħra. Fi kwalunkwe każ, jenħtieġ li l-ebda deċiżjoni li tipproduċi effett legali negattiv fuq persuna ma tittieħed biss abbażi tal-output tas-sistema ta’ identifikazzjoni bijometrika remota.
(36)
За да изпълняват задачите си в съответствие с изискванията, установени в настоящия регламент, както и в националните правила, съответният орган за надзор на пазара и националният орган за защита на данните следва да бъдат уведомявани за всяко използване на системата за биометрична идентификация в реално време. Уведомените за това използване органи за надзор на пазара и национални органи за защита на данните следва да представят на Комисията годишен доклад относно използването на системи за биометрична идентификация в реално време.
(36)
Sabiex iwettqu l-kompiti tagħhom f'konformità mar-rekwiżiti stipulati f'dan ir-Regolament kif ukoll fir-regoli nazzjonali, jenħtieġ li l-awtorità tas-sorveljanza tas-suq rilevanti u l-awtorità nazzjonali għall-protezzjoni tad-data jiġu nnotifikati b'kull użu tas-sistema ta’ identifikazzjoni bijometrika f'ħin reali. Jenħtieġ li l-awtoritajiet tas-sorveljanza tas-suq u l-awtoritajiet nazzjonali tal-protezzjoni tad-data li jkunu ġew innotifikati jippreżentaw rapport annwali lill-Kummissjoni dwar l-użu tas-sistemi ta’ identifikazzjoni bijometrika f'ħin reali.
(37)
Също така е целесъобразно да се предвиди, в рамките на изчерпателната уредба, създадена с настоящия регламент, че такова използване на територията на държава членка в съответствие с настоящия регламент следва да бъде възможно само и доколкото съответната държава членка е решила изрично да предвиди възможността за допускане на такова използване в подробните правила на националното си право. Следователно съгласно настоящия регламент държавите членки са свободни изобщо да не предвиждат такава възможност или да предвидят такава възможност само по отношение на някои от целите, посочени в настоящия регламент, които могат да оправдаят допустимото използване. Тези национални правила следва да бъдат съобщени на Комисията в срок от 30 дни след приемането им.
(37)
Barra minn hekk, jixraq li, fi ħdan il-qafas eżawrjenti stabbilit b'dan ir-Regolament, jenħtieġ li jkun previst li dan l-użu fit-territorju ta' Stat Membru f'konformità ma' dan ir-Regolament ikun possibbli biss meta u sa fejn l-Istat Membru kkonċernat ikun iddeċieda li jipprevedi b'mod espliċitu l-possibbiltà li jawtorizza dan l-użu fir-regoli dettaljati tiegħu tal-liġi nazzjonali. Għaldaqstant, l-Istati Membri huma liberi skont dan ir-Regolament li ma jipprevedu l-ebda possibbiltà bħal din jew li jipprevedu biss din il-possibbiltà fir-rigward ta' wħud mill-objettivi li jistgħu jiġġustifikaw l-użu awtorizzat identifikat f'dan ir-Regolament. Jenħtieġ li tali regoli nazzjonali jiġu nnotifikati lill-Kummissjoni fi żmien 30 jum mill-adozzjoni tagħhom.
(38)
Използването на системи с ИИ за дистанционна биометрична идентификация в реално време на физически лица на обществено достъпни места за правоохранителни цели задължително включва обработването на биометрични данни. Правилата на настоящия регламент, които забраняват, с някои изключения, подобно използване и чието правно основание е член 16 ДФЕС, следва да се прилагат като lex specialis по отношение на правилата относно обработването на биометрични данни, съдържащи се в член 10 от Директива (ЕС) 2016/680, като по този начин се урежда изчерпателно това използване и свързаното с него обработване на биометрични данни. Поради това такова използване и такова обработване следва да бъдат възможни само доколкото са съвместими с рамката, установена с настоящия регламент, без да има възможност извън тази рамка компетентните органи, когато действат с правоохранителни цели, да използват такива системи и да обработват такива данни във връзка с тях на основанията, изброени в член 10 от Директива (ЕС) 2016/680. В този контекст настоящият регламент няма за цел да осигури правно основание на обработването на лични данни съгласно член 8 от Директива (ЕС) 2016/680. Използването обаче на системи за дистанционна биометрична идентификация в реално време на обществено достъпни места за цели, различни от правоохранителни цели, включително от компетентни органи, не следва да бъде обхванато от специалната рамка относно такова използване за правоохранителни цели, установена с настоящия регламент. Поради това спрямо използването за цели, различни от правоохранителни цели, не следва да се прилагат изискването за разрешение съгласно настоящия регламент и приложимите подробни правила на националното право, които може да уреждат това разрешение.
(38)
L-użu tas-sistemi tal-IA għall-identifikazzjoni bijometrika remota fil-ħin reali ta' persuni fiżiċi fi spazji aċċessibbli għall-pubbliku għal finijiet ta' infurzar tal-liġi bilfors jinvolvi l-ipproċessar ta' data bijometrika. Ir-regoli ta' dan ir-Regolament li jipprojbixxu dan l-użu, soġġetta għal ċerti eċċezzjonijiet, u li huma bbażati fuq l-Artikolu 16 TFUE, jenħtieġ japplikaw bħala lex specialis fir-rigward tar-regoli dwar l-ipproċessar tad-data bijometrika li jinsabu fl-Artikolu 10 tad-Direttiva (UE) 2016/680, u b'hekk jirregolaw dan l-użu u l-ipproċessar tad-data bijometrika involuta b'mod eżawrjenti. Għalhekk, jenħtieġ li dawn l-użu u l-ipproċessar ikunu possibbli biss sa fejn ikun kompatibbli mal-qafas stabbilit b'dan ir-Regolament, mingħajr ma jkun hemm ambitu, barra minn dak il-qafas, għall-awtoritajiet kompetenti, meta jaġixxu għall-finijiet ta' infurzar tal-liġi, li jużaw dawn is-sistemi u jipproċessaw din id-data b'rabta magħhom abbażi tar-raġunijiet elenkati fl-Artikolu 10 tad-Direttiva (UE) 2016/680. F'dak il-kuntest, dan ir-Regolament mhux maħsub biex jipprovdi l-bażi legali għall-ipproċessar ta' data personali skont l-Artikolu 8 tad-Direttiva (UE) 2016/680. Madankollu, jenħtieġ li l-użu tas-sistemi ta’ identifikazzjoni bijometrika remota fil-ħin reali fi spazji aċċessibbli għall-pubbliku għal finijiet oħra għajr l-infurzar tal-liġi, inkluż minn awtoritajiet kompetenti, ma jkunx kopert mill-qafas speċifiku rigward dan l-użu għall-finijiet ta' infurzar tal-liġi stabbilit b'dan ir-Regolament. Għalhekk, jenħtieġ li dan l-użu għal finijiet oħra għajr l-infurzar tal-liġi ma jkunx soġġett għar-rekwiżit ta' awtorizzazzjoni skont dan ir-Regolament u r-regoli dettaljati applikabbli tal-liġi nazzjonali li jistgħu jagħtu effett lil dik l-awtorizzazzjoni.
(39)
Всяко обработване на биометрични данни и други лични данни, необходимо за използването на системи с ИИ за биометрична идентификация, различно от обработване във връзка с използването на системи за дистанционна биометрична идентификация в реално време на обществено достъпни места за правоохранителни цели, уредено в настоящия регламент, следва да продължи да отговаря на всички изисквания, произтичащи от член 10 от Директива (ЕС) 2016/680. За цели, различни от правоохранителни цели, с член 9, параграф 1 от Регламент (ЕС) 2016/679 и член 10, параграф 1 от Регламент (ЕС) 2018/1725 се забранява обработването на биометрични данни, като се прилагат ограничен брой изключения, предвидени в посочените членове. В приложение на член 9, параграф 1 от Регламент (ЕС) 2016/679 използването на дистанционна биометрична идентификация за цели, различни от правоохранителни цели, вече е забранявано с решения на националните органи за защита на данните.
(39)
Jenħtieġ li kull ipproċessar tad-data bijometrika u ta' data personali oħra involuta fl-użu tas-sistemi tal-IA għall-identifikazzjoni bijometrika, għajr b'rabta mal-użu tas-sistemi ta’ identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għal finijiet ta' infurzar tal-liġi kif regolat b'dan ir-Regolament, jibqa' jikkonforma mar-rekwiżiti kollha li jirriżultaw mill-Artikolu 10 tad-Direttiva (UE) 2016/680. Għal finijiet għajr l-infurzar tal-liġi, l-Artikolu 9(1) tar-Regolament (UE) 2016/679 u l-Artikolu 10(1) tar-Regolament (UE) 2018/1725 jipprojbixxu l-ipproċessar ta' data bijometrika soġġetta għal eċċezzjonijiet limitati kif previst f'dawk l-Artikoli. Fl-applikazzjoni tal-Artikolu 9(1) tar-Regolament (UE) 2016/679, l-użu tal-identifikazzjoni bijometrika remota għal finijiet oħra għajr l-infurzar tal-liġi diġà kien soġġett għal deċiżjonijiet ta' projbizzjoni mill-awtoritajiet nazzjonali tal-protezzjoni tad-data.
(40)
В съответствие с член 6а от Протокол № 21 относно позицията на Обединеното кралство и Ирландия по отношение на пространството на свобода, сигурност и правосъдие, приложен към ДЕС и към ДФЕС, Ирландия не е обвързана от правилата, предвидени в член 5, параграф 1, първа алинея, буква ж), доколкото се прилагат за използването на системи за биометрично категоризиране за дейности в областта на полицейското и съдебното сътрудничество по наказателноправни въпроси, в член 5, параграф 1, първа алинея, буква г), доколкото се прилагат за използването на системи с ИИ, обхванати от посочената разпоредба, в член 5, параграф 1, първа алинея, буква з) и параграфи 2 – 6 и в член 26, параграф 10 от настоящия регламент, приети на основание член 16 ДФЕС и отнасящи се до обработването на лични данни от държавите членки при осъществяване на дейности, попадащи в обхвата на трета част, дял V, глава 4 или 5 ДФЕС, когато Ирландия не е обвързана от правилата, уреждащи формите на съдебно сътрудничество по наказателноправни въпроси или на полицейско сътрудничество, в рамките на които трябва да бъдат спазвани разпоредбите, установени на основание член 16 ДФЕС.
(40)
F'konformità mal-Artikolu 6a tal-Protokoll Nru 21 dwar il-pożizzjoni tar-Renju Unit u tal-Irlanda fir-rigward tal-ispazju ta' libertà, sigurtà u ġustizzja, kif anness mat-TUE u mat-TFUE, l-Irlanda mhix marbuta bir-regoli stabbiliti fl-Artikolu 5(1), l-ewwel subparagrafu, il-punt (g), sa fejn japplika għall-użu ta' sistemi ta' kategorizzazzjoni bijometrika għal attivitajiet fil-qasam tal-kooperazzjoni tal-pulizija u l-kooperazzjoni ġudizzjarja f'materji kriminali, l-Artikolu 5(1), l-ewwel subparagrafu, il-punt (d), sa fejn japplika għall-użu tas-sistemi tal-IA koperti minn dik id-dispożizzjoni, l-Artikolu 5(1), l-ewwel subparagrafu, il-punt (h), l-Artikolu 5(2) sa (6) u l-Artikolu 26(10) ta' dan ir-Regolament adottat abbażi tal-Artikolu 16 TFUE relatati mal-ipproċessar ta' data personali mill-Istati Membri meta jwettqu attivitajiet li huma fil-kamp ta' applikazzjoni tal-Kapitolu 4 jew tal-Kapitolu 5 tat-Titolu V tal-Parti Tlieta TFUE, meta l-Irlanda mhix marbuta bir-regoli li jirregolaw il-forom ta' kooperazzjoni ġudizzjarja f'materji kriminali jew ta' kooperazzjoni tal-pulizija li jeħtieġu konformità mad-dispożizzjonijiet stabbiliti abbażi tal-Artikolu 16 TFUE.
(41)
В съответствие с членове 2 и 2а от Протокол № 22 относно позицията на Дания, приложен към ДЕС и към ДФЕС, Дания не е обвързана и за нея не се прилагат правилата, предвидени в член 5, параграф 1, първа алинея, буква ж), доколкото се прилагат за използването на системи за биометрично категоризиране за дейности в областта на полицейското и съдебното сътрудничество по наказателноправни въпроси, в член 5, параграф 1, първа алинея, буква г), доколкото се прилагат за използването на системи с ИИ, обхванати от посочената разпоредба, в член 5, параграф 1, първа алинея, буква з) и параграфи 2 – 6 и в член 26, параграф 10 от настоящия регламент, приети на основание член 16 от ДФЕС и отнасящи се до обработването на лични данни от държавите членки при осъществяването на дейности, попадащи в обхвата на трета част, дял V, глава 4 или 5 ДФЕС.
(41)
F'konformità mal-Artikoli 2 u 2a tal-Protokoll Nru 22 dwar il-pożizzjoni tad-Danimarka, kif anness mat-TUE u mat-TFUE, id-Danimarka mhix marbuta bir-regoli stabbiliti fl-Artikolu 5(1), l-ewwel subparagrafu, il-punt (g) sa fejn japplika għall-użu ta' sistemi ta' kategorizzazzjoni bijometrika għal attivitajiet fil-qasam tal-kooperazzjoni tal-pulizija u l-kooperazzjoni ġudizzjarja f'materji kriminali, l-Artikolu 5(1), l-ewwel subparagrafu, il-punt (d), sa fejn japplikaw għall-użu tas-sistemi tal-IA koperti minn dik id-dispożizzjoni, l-Artikolu 5(1), l-ewwel subparagrafu, il-punt (h), (2) sa (6) u l-Artikolu 26(10) ta' dan ir-Regolament adottat abbażi tal-Artikolu 16 TFUE, u lanqas mhi soġġetta għall-applikazzjoni tagħhom, relatati mal-ipproċessar tad-data personali mill-Istati Membri meta jwettqu l-attivitajiet li huma fil-kamp ta' applikazzjoni tal-Kapitolu 4 jew tal-Kapitolu 5 tat-Titolu V tal-Parti Tlieta TFUE.
(42)
В съответствие с презумпцията за невиновност физическите лица в Съюза следва винаги да бъдат съдени въз основа на тяхното действително поведение. Физическите лица никога не следва да бъдат съдени въз основа на прогнозирано от ИИ поведение, базирано единствено на тяхното профилиране, личностни черти или характеристики, например гражданство, място на раждане, местопребиваване, брой деца, равнище на задлъжнялост или вид автомобил, без основателно подозрение за участието на лицето в престъпна дейност въз основа на обективни и проверими факти и без човешка оценка. Поради това следва да се забрани извършването на оценки на риска по отношение на физически лица, за да се оцени вероятността от извършване на престъпление или да се прогнозира извършването на действително или вероятно престъпление единствено въз основа на профилирането им или на оценката на техните личностни черти и характеристики. Във всеки случай тази забрана не се отнася до анализа на вероятността, който не се основава на профилирането на лица или на личностните черти и характеристики на тези лица, като например системи с ИИ, използващи анализ на риска за оценка на риска от финансови измами от страна на предприятия въз основа на подозрителни сделки или инструменти за анализ на риска за прогнозиране на вероятността за откриване на наркотици или незаконни стоки от страна на митническите органи, например въз основа на известни маршрути за трафик.
(42)
Jenħtieġ li f'konformità mal-preżunzjoni tal-innoċenza, il-persuni fiżiċi fl-Unjoni dejjem jiġu ġġudikati fuq l-imġiba reali tagħhom. Jenħtieġ li l-persuni fiżiċi qatt ma jiġu ġġudikati fuq imġiba prevista mill-IA abbażi biss tat-tfassil ta' profili, tal-kwalitajiet u l-karatteristiċi tal-personalità tagħhom, bħan-nazzjonalità, il-post tat-twelid, il-post tar-residenza, l-għadd ta' tfal, il-livell ta' dejn jew it-tip ta' karozza, mingħajr suspett raġonevoli li dik il-persuna tkun involuta f'attività kriminali abbażi ta' fatti verifikabbli oġġettivi u mingħajr il-valutazzjoni ta' tali fatti mill-bniedem. Għalhekk, jenħtieġ li jiġu pprojbiti l-valutazzjonijiet tar-riskju mwettqa fir-rigward ta' persuni fiżiċi sabiex tiġi vvalutata l-probabbiltà li jwettqu offiża jew biex titbassar l-okkorrenza ta' reat kriminali attwali jew potenzjali abbażi biss tat-tfassil ta' profili tagħhom jew tal-valutazzjoni tal-kwalitajiet u l-karatteristiċi tal-personalità tagħhom. Fi kwalunkwe każ, dik il-projbizzjoni ma tirreferix għal u ma ssemmix analitika tar-riskju li mhijiex ibbażata fuq it-tfassil ta' profili ta' individwi jew fuq il-kwalitajiet tal-personalità u l-karatteristiċi ta' individwi, bħal sistemi tal-IA li jużaw analitika tar-riskju biex jivvalutaw l-probabbiltà ta' frodi finanzjarja minn impriżi abbażi ta' tranżazzjonijiet suspettużi jew għodod analitiċi tar-riskju li jipprevedu l-probabbiltà ta' lokalizzazzjoni ta' narkotiċi jew oġġetti illeċiti mill-awtoritajiet doganali, pereżempju abbażi ta' rotot ta' traffikar magħrufa.
(43)
Пускането на пазара, пускането в действие за тази конкретна цел или използването на системи с ИИ, които създават или разширяват бази данни за разпознаване на лица чрез нецеленасочено извличане на лицеви изображения от интернет или записи от видеонаблюдение, следва да бъдат забранени, тъй като тази практика допринася за усещането за масово наблюдение и може да доведе до груби нарушения на основните права, включително правото на неприкосновеност на личния живот.
(43)
Jenħtieġ li l-introduzzjoni fis-suq, it-tqegħid fis-servizz għal dak l-għan speċifiku, jew l-użu ta' sistemi tal-IA li joħolqu jew jespandu bażijiet tad-data tar-rikonoxximent tal-wiċċ permezz ta' scraping mhux immirat tal-immaġnijiet tal-wiċċ mill-internet jew mill-filmati tas-CCTV jiġu pprojbiti, peress li dik il-prattika żżid mas-sens ta' sorveljanza tal-massa u tista' twassal għal ksur serju tad-drittijiet fundamentali, inkluż id-dritt għall-privatezza.
(44)
Съществуват сериозни опасения относно научната основа на системите с ИИ, които имат за цел да определят или да направят изводи за емоциите, по-специално като се има предвид, че изразяването на емоции се различава значително в отделните култури и ситуации и дори при едно и също лице. Сред основните недостатъци на тези системи са ограничената надеждност, липсата на съобразен с конкретния случай подход и ограничената възможност за обобщаване. Поради това системите с ИИ, които определят или правят изводи за емоциите или намеренията на физически лица въз основа на техните биометрични данни, могат да доведат до дискриминационни резултати и да накърнят правата и свободите на съответните лица. Като се има предвид властовото неравновесие в контекста на работата или образованието, съчетано с инвазивния характер на тези системи, подобни системи биха могли да доведат до увреждащо или неблагоприятно третиране на определени физически лица или на цели групи от такива лица. Поради това пускането на пазара, пускането в действие или използването на системи с ИИ, предназначени за определяне на емоционалното състояние на лица в ситуации, свързани с работното място и образованието, следва да бъдат забранени. Тази забрана не следва да обхваща системи с ИИ, пуснати на пазара единствено от медицински съображения или съображения, свързани с безопасността, като например системи, предназначени за терапевтична употреба.
(44)
Hemm tħassib serju dwar il-bażi xjentifika tas-sistemi tal-IA li għandhom l-għan li jidentifikaw jew jinferixxu l-emozzjonijiet, b'mod partikolari peress li l-espressjoni tal-emozzjonijiet tvarja b'mod konsiderevoli bejn il-kulturi u s-sitwazzjonijiet, u anke f'individwu wieħed. Fost in-nuqqasijiet ewlenin ta' sistemi bħal dawn hemm l-affidabbiltà limitata, in-nuqqas ta' speċifiċità u l-ġeneralizzabbiltà limitata. Għalhekk, is-sistemi tal-IA li jidentifikaw jew jinferixxu emozzjonijiet jew intenzjonijiet ta' persuni fiżiċi abbażi tad-data bijometrika tagħhom jistgħu jwasslu għal eżiti diskriminatorji u jistgħu jkunu intrużivi għad-drittijiet u l-libertajiet tal-persuni kkonċernati. Meta jitqies l-iżbilanċ tal-poter fil-kuntest tax-xogħol jew tal-edukazzjoni, flimkien man-natura intrużiva ta' dawn is-sistemi, tali sistemi jistgħu jwasslu għal trattament detrimentali jew sfavorevoli ta' ċerti persuni fiżiċi jew gruppi sħaħ tagħhom. Għalhekk, jenħtieġ li l-introduzzjoni fis-suq, it-tqegħid fis-servizz, jew l-użu ta' sistemi tal-IA maħsuba biex jintużaw biex jiġi identifikat l-istat emozzjonali ta' individwi f'sitwazzjonijiet relatati mal-post tax-xogħol u mal-edukazzjoni jiġu pprojbiti. Jenħtieġ li dik il-projbizzjoni ma tkoprix is-sistemi tal-IA introdotti fis-suq strettament għal raġunijiet mediċi jew ta' sikurezza, bħal sistemi maħsuba għal użu terapewtiku.
(45)
Практиките, които са забранени от правото на Съюза, включително правото в областта на защитата на данните, недискриминацията и защитата на потребителите, както и правото в областта на конкуренцията, не следва да бъдат засегнати от настоящия регламент.
(45)
Jenħtieġ li l-prattiki li huma pprojbiti mil-liġi tal-Unjoni, inkluż il-liġi dwar il-protezzjoni tad-data, il-liġi dwar in-nondiskriminazzjoni, il-liġi dwar il-protezzjoni tal-konsumatur, u l-liġi tal-kompetizzjoni, ma jiġux affettwati minn dan ir-Regolament.
(46)
Високорисковите системи с ИИ следва да се пускат на пазара на Съюза, да се пускат в действие или да се използват само ако отговарят на определени задължителни изисквания. Тези изисквания следва да гарантират, че високорисковите системи с ИИ, които се предлагат в Съюза или резултатите от които се използват по друг начин в Съюза, не пораждат неприемливи рискове за важни обществени интереси на Съюза, признати и защитени от правото на Съюза. Въз основа на новата законодателна рамка, както е пояснено в известието на Комисията „Синьото ръководство“ за прилагане на правилата на ЕС относно продуктите – 2022 г. (20), общото правило е, че повече от един правен акт от законодателството на Съюза за хармонизация, например регламенти (ЕС) 2017/745 (21) и (ЕС) 2017/746 (22) на Европейския парламент и на Съвета или Директива 2006/42/ЕО на Европейския парламент и на Съвета (23), може да е приложим за един продукт, тъй като предоставянето или пускането в действие може да се извърши само когато продуктът е в съответствие с цялото приложимо законодателство на Съюза за хармонизация. За да се гарантира съгласуваност и да се избегне ненужна административна тежест или разходи, доставчиците на продукт, който съдържа една или повече високорискови системи с ИИ, за които се прилагат изискванията на настоящия регламент и на законодателството на Съюза за хармонизация, посочено в приложение към настоящия регламент, следва да разполагат с гъвкавост по отношение на оперативните решения за това как да се гарантира оптимално съответствие на продукт, който съдържа една или повече системи с ИИ, с всички приложими изисквания на законодателството на Съюза за хармонизация. Системите с ИИ, които се определят като високорискови, следва да се ограничат до имащите значително вредно въздействие върху здравето, безопасността и основните права на хората в Съюза, като при това следва да се свежда до минимум всяко възможно ограничаване на международната търговия.
(46)
Jenħtieġ li s-sistemi tal-IA b'riskju għoli jiġu introdotti fis-suq tal-Unjoni, jitqiegħdu fis-servizz jew jintużaw biss jekk ikunu konformi ma' ċerti rekwiżiti obbligatorji. Jenħtieġ li dawk ir-rekwiżiti jiżguraw li s-sistemi tal-IA b'riskju għoli disponibbli fl-Unjoni jew li l-output tagħhom jintuża b'xi mod ieħor fl-Unjoni ma jkunux joħolqu riskji inaċċettabbli għal interessi pubbliċi importanti tal-Unjoni kif rikonoxxuti u mħarsa bil-liġi tal-Unjoni. Abbażi tal-Qafas Leġiżlattiv Ġdid, kif iċċarat fl-avviż tal-Kummissjoni “‘Il-Gwida Blu’ dwar l-implimentazzjoni tar-regoli tal-prodotti tal-UE tal-2022” (20), ir-regola ġenerali hija li aktar minn att legali wieħed tal-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni, bħar-Regolamenti (UE) 2017/745 (21) u (UE) 2017/746 (22) tal-Parlament Ewropew u tal-Kunsill jew id-Direttiva 2006/42/KE tal-Parlament Ewropew u tal-Kunsill (23), jista' jkun applikabbli għal prodott wieħed, peress li l-introduzzjoni fis-suq jew it-tqegħid fis-servizz jista' jseħħ biss meta l-prodott jikkonforma mal-leġiżlazzjoni applikabbli kollha tal-Unjoni dwar l-armonizzazzjoni. Sabiex tiġi żgurata l-konsistenza u jiġu evitati piżijiet jew kostijiet amministrattivi bla bżonn, jenħtieġ li l-fornituri ta' prodott li jkun fih sistemi ta' IA b'riskju għoli waħda jew aktar, li għalihom japplikaw ir-rekwiżiti ta' dan ir-Regolament u tal-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni elenkati f'anness ta' dan ir-Regolament, ikollhom flessibbiltà fir-rigward tad-deċiżjonijiet operazzjonali dwar kif tiġi żgurata l-konformità ta' prodott li jkun fih sistema tal-IA waħda jew aktar mar-rekwiżiti applikabbli kollha tal-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni bl-aħjar mod. Jenħtieġ li s-sistemi tal-IA identifikati bħala b'riskju għoli jkunu limitati għal dawk li għandhom impatt dannuż sinifikanti fuq is-saħħa, is-sikurezza u d-drittijiet fundamentali tal-persuni fl-Unjoni u din il-limitazzjoni jenħtieġ li timminimizza kwalunkwe restrizzjoni potenzjali fuq il-kummerċ internazzjonali.
(47)
Системите с ИИ биха могли да имат неблагоприятни последици за здравето и безопасността на хората, по-специално когато тези системи функционират като защитни елементи на продуктите. В съответствие с целите на законодателството на Съюза за хармонизация – да се улесни свободното движение на продукти на вътрешния пазар и да се гарантира, че на пазара се предлагат само безопасни и съответстващи на изискванията продукти – е важно да бъдат надлежно предотвратени и ограничени рисковете за безопасността, които могат да бъдат породени от даден продукт като цяло поради неговите цифрови компоненти, включително системи с ИИ. Например все по-автономните роботи, независимо дали в контекста на производството, или на личната помощ и грижи, следва да могат да работят и да изпълняват функциите си безопасно в сложна среда. По същия начин, в сектора на здравеопазването, където рисковете за живота и здравето са особено високи, все по-усъвършенстваните системи за диагностика и системите за подпомагане на човешките решения следва да бъдат надеждни и точни.
(47)
Is-sistemi tal-IA jista' jkollhom impatt negattiv fuq is-saħħa u s-sikurezza tal-persuni, b'mod partikolari meta dawn is-sistemi jaħdmu bħala komponenti tas-sikurezza tal-prodotti. B'mod konsistenti mal-objettivi tal-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni biex jiġi ffaċilitat il-moviment liberu tal-prodotti fis-suq intern u biex ikun żgurat li prodotti sikuri u konformi b'xi mod ieħor biss jitqiegħdu fis-suq, hu importanti li jiġu evitati u mitigati kif xieraq ir-riskji għas-sikurezza li jistgħu jiġu ġġenerati minn prodott sħiħ minħabba l-komponenti diġitali tiegħu, inkluż sistemi tal-IA. Pereżempju, jenħtieġ li r-robots dejjem aktar awtonomi, sew fil-kuntest tal-manifattura kif ukoll fil-kuntest tal-assistenza u l-kura personali, ikunu jistgħu joperaw u jwettqu l-funzjonijiet tagħhom mingħajr periklu f'ambjenti kumplessi. Bl-istess mod, fis-settur tas-saħħa fejn l-interessi għall-ħajja u għas-saħħa huma partikolarment għoljin, jenħtieġ li s-sistemi dijanjostiċi dejjem aktar sofistikati u s-sistemi li jappoġġaw id-deċiżjonijiet umani jkunu affidabbli u preċiżi.
(48)
Степента на неблагоприятно въздействие на системата с ИИ върху основните права, защитени от Хартата, е от особено значение, когато дадена система с ИИ се класифицира като високорискова. Тези права включват правото на човешко достойнство, правото на зачитане на личния и семейния живот, защитата на личните данни, свободата на изразяване на мнение и свободата на информация, свободата на събранията и сдруженията, правото на недискриминация, правото на образование, защитата на потребителите, правата на работниците, правата на хората с увреждания, равенството между половете, правата върху интелектуалната собственост, правото на ефективни правни средства за защита и на справедлив съдебен процес, правото на защита и презумпцията за невиновност, както и правото на добра администрация. В допълнение към тези права е важно да се подчертае факта, че децата имат специални права, които са залегнали в член 24 от Хартата и в Конвенцията на Организацията на обединените нации за правата на детето, допълнително разработени в Общ коментар № 25 по Конвенцията на ООН за правата на детето по отношение на цифровата среда, като и в двата акта се изисква да се отчита уязвимостта на децата и да се осигуряват защитата и грижите, необходими за тяхното благосъстояние. Основното право на високо равнище на опазване на околната среда, залегнало в Хартата и отразено в политиките на Съюза, също следва да се взема предвид при оценката на тежестта на вредата, която дадена система с ИИ може да причини, включително във връзка с човешкото здраве и безопасност.
(48)
Il-firxa tal-impatt negattiv ikkawżat mis-sistema tal-IA fuq id-drittijiet fundamentali protetti mill-Karta għandha rilevanza partikolari meta sistema tal-IA tkun qed tiġi klassifikata li għandha riskju għoli. Dawk id-drittijiet jinkludu d-dritt għad-dinjità tal-bniedem, ir-rispett għall-ħajja privata u tal-familja, il-protezzjoni tad-data personali, il-libertà tal-espressjoni u tal-informazzjoni, il-libertà ta' għaqda u ta' assoċjazzjoni, id-dritt għan-nondiskriminazzjoni, id-dritt għall-edukazzjoni, il-protezzjoni tal-konsumatur, id-drittijiet tal-ħaddiema, id-drittijiet tal-persuni b'diżabbiltà, l-ugwaljanza bejn il-ġeneri, id-drittijiet ta' proprjetà intellettwali, id-dritt għal rimedju effettiv u għal proċess imparzjali, id-dritt għad-difiża u l-preżunzjoni ta' innoċenza, u d-dritt għal amministrazzjoni tajba. Minbarra dawk id-drittijiet, hu importanti li jiġi enfasizzat il-fatt li t-tfal għandhom drittijiet speċifiċi kif minqux fl-Artikolu 24 tal-Karta u fil-Konvenzjoni tan-Nazzjonijiet Uniti dwar id-Drittijiet tat-Tfal, żviluppata aktar fil-Kumment Ġenerali Nru 25 tal-UNCRC fir-rigward tal-ambjent diġitali, li t-tnejn li huma jirrikjedu kunsiderazzjoni tal-vulnerabbiltajiet tat-tfal u l-għoti ta' tali protezzjoni u kura kif meħtieġ għall-benesseri tagħhom. Jenħtieġ li d-dritt fundamentali għal livell għoli ta' protezzjoni ambjentali, kif minqux fil-Karta u implimentat fil-politiki tal-Unjoni, jitqies ukoll meta tkun qed tiġi vvalutata s-severità tad-dannu li sistema tal-IA tista' tikkawża, inkluż fir-rigward tas-saħħa u s-sikurezza tal-persuni.
(49)
По отношение на високорисковите системи с ИИ, които са защитни елементи на продукти или системи или които сами по себе си са продукти или системи, попадащи в обхвата на Регламент (ЕО) № 300/2008 на Европейския парламент и на Съвета (24), Регламент (ЕС) № 167/2013 на Европейския парламент и на Съвета (25), Регламент (ЕС) № 168/2013 на Европейския парламент и на Съвета (26), Директива 2014/90/ЕС на Европейския парламент и на Съвета (27), Директива (ЕС) 2016/797 на Европейския парламент и на Съвета (28), Регламент (ЕС) 2018/858 на Европейския парламент и на Съвета (29), Регламент (ЕС) 2018/1139 на Европейския парламент и на Съвета (30) и Регламент (ЕС) 2019/2144 на Европейския парламент и на Съвета (31), е целесъобразно тези актове да бъдат изменени, за да се гарантира, че Комисията отчита – въз основа на техническата и регулаторна специфика на всеки сектор и без да има намеса в съществуващите механизми и органи за управление, оценяване на съответствието и контрол на прилагането, създадени съгласно горепосочените актове – задължителните изисквания за високорисковите системи с ИИ, установени в настоящия регламент, когато приема съответни делегирани актове или актове за изпълнение на основание на горепосочените актове.
(49)
Fir-rigward tas-sistemi tal-IA b'riskju għoli li huma komponenti tas-sikurezza tal-prodotti jew tas-sistemi, jew li huma stess huma prodotti jew sistemi li jaqgħu fil-kamp ta' applikazzjoni tar-Regolament (KE) Nru 300/2008 tal-Parlament Ewropew u tal-Kunsill (24), ir-Regolament (UE) Nru 167/2013 tal-Parlament Ewropew u tal-Kunsill (25), ir-Regolament (UE) Nru 168/2013 tal-Parlament Ewropew u tal-Kunsill (26), id-Direttiva 2014/90/UE tal-Parlament Ewropew u tal-Kunsill (27), id-Direttiva (UE) 2016/797 tal-Parlament Ewropew u tal-Kunsill (28), ir-Regolament (UE) 2018/858 tal-Parlament Ewropew u tal-Kunsill (29), ir-Regolament (UE) 2018/1139 tal-Parlament Ewropew u tal-Kunsill (30), u r-Regolament (UE) 2019/2144 tal-Parlament Ewropew u tal-Kunsill (31), huwa xieraq li dawk l-atti jiġu emendati biex jiġi żgurat li l-Kummissjoni tqis, abbażi tal-ispeċifiċitajiet tekniċi u regolatorji ta' kull settur, u mingħajr ma tinterferixxi mal-governanza, il-valutazzjoni tal-konformità u l-mekkaniżmi ta' infurzar eżistenti u l-awtoritajiet stabbiliti fih, ir-rekwiżiti obbligatorji għas-sistemi tal-IA b'riskju għoli stabbiliti f'dan ir-Regolament meta tadotta kwalunkwe att delegat jew ta' implimentazzjoni rilevanti abbażi ta' dawk l-atti.
(50)
По отношение на системите с ИИ, които са защитни елементи на продукти или които сами по себе си са продукти, попадащи в обхвата на определено законодателство на Съюза за хармонизация, посочено в приложение към настоящия регламент, е целесъобразно те да бъдат класифицирани като високорискови съгласно настоящия регламент, ако съответният продукт преминава през процедура за оценяване на съответствието с орган за оценяване на съответствието – трето лице, съгласно съответното законодателство на Съюза за хармонизация. Подобни продукти са по-специално машини, играчки, асансьори, оборудване и защитни системи, предназначени за използване в потенциално взривоопасна среда, радиооборудване, оборудване под налягане, оборудване за плавателни съдове за отдих, въжени линии, уреди, захранвани с газово гориво, медицински изделия, медицински изделия за инвитро диагностика, автомобили и въздухоплавателни средства.
(50)
Fir-rigward ta' sistemi tal-IA li huma komponenti tas-sikurezza ta' prodotti, jew li huma stess ikunu prodotti, li jaqgħu fil-kamp ta' applikazzjoni ta' ċerta leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni elenkata f’anness ta’ dan ir-Regolament, jixraq li jiġu kklassifikati bħala b'riskju għoli skont dan ir-Regolament jekk il-prodott ikkonċernat jgħaddi mill-proċedura ta' valutazzjoni tal-konformità mwettqa minn korp terz ta' valutazzjoni tal-konformità skont dik il-leġiżlazzjoni rilevanti tal-Unjoni dwar l-armonizzazzjoni. B'mod partikolari, dawn il-prodotti huma makkinarju, ġugarelli, liftijiet, tagħmir u sistemi protettivi maħsuba għal użu f'ambjenti potenzjalment esplożivi, f'tagħmir tar-radju, apparat tal-pressa, tagħmir ta' opri tal-baħar għar-rikreazzjoni, installazzjonijiet tal-funikular, apparati li jaħarqu fjuwils gassużi, apparati mediċi, apparati mediċi dijanjostiċi in vitro, karozzi u avjazzjoni.
(51)
Класифицирането на дадена система с ИИ като високорискова съгласно настоящия регламент не следва непременно да означава, че продуктът, чийто защѝтен елемент е системата с ИИ, или самата система с ИИ като продукт, се счита за високорисков или високорискова съгласно критериите, установени в съответното законодателство на Съюза за хармонизация, приложимо за продукта. Такъв е по-специално случаят с регламенти (ЕС) 2017/745 и (ЕС) 2017/746, в които се предвижда оценяване на съответствието от трето лице за продукти със среден и висок риск.
(51)
Jenħtieġ li l-klassifikazzjoni ta' sistema tal-IA bħala li għandha riskju għoli skont dan ir-Regolament mhux bilfors tkun tfisser li l-prodott li l-komponent tas-sikurezza tiegħu jkun is-sistema tal-IA, jew is-sistema tal-IA stess bħala prodott, jitqiesu li huma b'“riskju għoli” skont il-kriterji stabbiliti fil-leġiżlazzjoni rilevanti tal-Unjoni dwar l-armonizzazzjoni li tapplika għall-prodott. B'mod partikolari, dan huwa l-każ għar-Regolamenti (UE) 2017/745 u (UE) 2017/746, fejn tiġi pprovduta valutazzjoni tal-konformità minn parti terza għal prodotti b'riskju medju u b'riskju għoli.
(52)
По отношение на самостоятелните системи с ИИ, а именно високорисковите системи с ИИ, различни от тези, които са защитни елементи на продукти или които сами по себе си са продукти, е целесъобразно те да бъдат класифицирани като високорискови, ако с оглед на предназначението си представляват висок риск от увреждане на здравето и безопасността или на основните права на хората, като се вземат предвид както тежестта на възможната вреда, така и вероятността от настъпването ѝ, и тези системи с ИИ се използват в някои конкретно и предварително определени области, посочени в настоящия регламент. Идентифицирането на тези системи се основава на същата методика и критерии като предвидените и за евентуални бъдещи изменения на списъка на високорисковите системи с ИИ, които Комисията следва да бъде оправомощена да приеме чрез делегирани актове, за да се вземат предвид бързите темпове на технологично развитие, както и възможните промени в използването на системите с ИИ.
(52)
Fir-rigward ta' sistemi awtonomi tal-IA, jiġifieri sistemi tal-IA b'riskju għoli minbarra dawk li huma komponenti tas-sikurezza tal-prodotti, jew li huma stess ikunu prodotti, jixraq li jiġu klassifikati bħala b’riskju għoli jekk, fid-dawl tal-għan maħsub tagħhom, dawn jippreżentaw riskju għoli ta’ ħsara għas-saħħa u s-sikurezza jew għad-drittijiet fundamentali tal-persuni, filwaqt li jitqiesu kemm is-severità tal-ħsara possibbli u l-probabbiltà li din isseħħ, u jintużaw f’għadd ta’ oqsma speċifikament definiti minn qabel speċifikati f’dan ir-Regolament. L-identifikazzjoni ta’ dawk is-sistemi hija bbażata fuq l-istess metodoloġija u kriterji previsti wkoll għal kull emenda futura tal-lista tas-sistemi tal-IA b’riskju għoli li jenħtieġ li l-Kummissjoni tingħata s-setgħa li tadotta, permezz ta’ atti delegati, biex jitqies il-pass rapidu tal-iżvilupp teknoloġiku, kif ukoll il-bidliet potenzjali fl-użu tas-sistemi tal-IA.
(53)
Важно е също така да се поясни, че може да има особени случаи, в които системите с ИИ, свързани с предварително определени области, посочени в настоящия регламент, не водят до значителен риск от увреждане на правните интереси, защитени в тези области, тъй като не оказват съществено влияние върху вземането на решения или не увреждат съществено тези интереси. За целите на настоящия регламент система с ИИ, която не оказва съществено влияние върху резултата от вземането на решения, следва да се разбира като система с ИИ, която не оказва въздействие върху същността, а оттам и върху резултата от вземането на решения, независимо дали е от човека, или автоматизирано. Система с ИИ, която не оказва съществено влияние върху резултата от вземането на решения, може да включва ситуации, при които са изпълнени едно или повече от посочените по-нататък условия. Първото условие следва да бъде системата с ИИ да е предназначена да изпълнява конкретно определена процедурна задача, като например система с ИИ, която преобразува неструктурирани данни в структурирани данни, система с ИИ, която класифицира входящите документи в категории, или система с ИИ, която се използва за откриване на случаи на дублиране в рамките на голям брой приложения. Тези задачи са с толкова тесен и ограничен характер, че пораждат само ограничени рискове, които не се увеличават чрез използването на система с ИИ в контекст, посочен като високорисково използване в приложение към настоящия регламент. Второто условие следва да бъде задачата, изпълнявана от системата с ИИ, да има за цел подобряване на резултата от извършена преди това човешка дейност, която може да е от значение за целите на видовете високорисково използване, изброени в приложение към настоящия регламент. Като се имат предвид тези характеристики, системата с ИИ представлява само допълнение към човешката дейност с произтичащ от това понижен риск. Това условие например ще е приложимо при системи с ИИ, които имат за цел да подобрят езика, използван във вече изготвени документи, например във връзка с професионалния тон, академичния стил на езика или чрез привеждане на текста в съответствие с определено послание на дадена марка. Третото условие следва да бъде системата с ИИ да е предназначена да открива модели за вземане на решения или отклонения от съществуващи модели за вземане на решения. Рискът ще бъде намален, тъй като използването на системата с ИИ следва предварително извършена човешка оценка, която системата няма за цел да замени или да повлияе без подходящ преглед, извършен от човек. Тези системи с ИИ включват например такива, които, предвид определен модел на оценяване от преподавател, могат да се използват за последваща проверка на вероятността преподавателят да се е отклонил от модела на оценяване, така че да се откроят възможни несъответствия или аномалии. Четвъртото условие следва да бъде системата с ИИ да е предназначена да изпълнява задача, която представлява само подготвителен етап преди извършването на оценка, която е от значение за целите на системите с ИИ, изброени в приложение в настоящия регламент, като по този начин възможното въздействие на резултата от системата намалява в значителна степен от гледна точка на това дали представлява риск за оценката, която ще последва. Това условие обхваща, наред с другото, интелигентни решения за обработка на файлове, които включват различни функции като индексиране, търсене, обработка на текст и реч или свързване на данни с други източници на данни, или системи с ИИ, използвани за превод на първоначални документи. Във всеки случай следва да се счита, че системи с ИИ, използвани в случаи на високорисково използване, посочени в приложение към настоящия регламент, пораждат значителни рискове от вреди за здравето, безопасността или основните права, ако системата с ИИ предполага профилиране по смисъла на член 4, точка 4 от Регламент (ЕС) 2016/679 или член 3, точка 4 от Директива (ЕС) 2016/680, или член 3, точка 5 от Регламент (ЕС) 2018/1725. За да се гарантират проследимост и прозрачност, доставчик, който счита, че дадена система с ИИ не е високорискова въз основа на посочените по-горе условия, следва да изготви документация за оценката, преди системата да бъде пусната на пазара или пусната в действие, и при поискване да предостави тази документация на националните компетентни органи. Този доставчик следва да бъде задължен да регистрира системата с ИИ в базата данни на ЕС, създадена съгласно настоящия регламент. С цел да се дадат допълнителни насоки за практическото изпълнение на условията, съгласно които системи с ИИ, изброени в приложение към настоящия регламент, по изключение не са високорискови, Комисията, след консултация със Съвета по ИИ, следва да предостави насоки, в които да се конкретизира това практическо изпълнение, допълнено от изчерпателен списък с практически примери за случаи на използване на системи с ИИ, които са високорискови, и такива, които не са.
(53)
Huwa importanti wkoll li jiġi ċċarat li jista’ jkun hemm każijiet speċifiċi li fihom is-sistemi tal-IA msemmija f’oqsma predefiniti speċifikati f’dan ir-Regolament ma jwasslux għal riskju sinifikanti ta’ ħsara għall-interessi legali protetti f’dawk l-oqsma minħabba li ma jinfluwenzawx materjalment it-teħid tad-deċiżjonijiet jew ma jagħmlux ħsara sostanzjali lil dawk l-interessi. Għall-finijiet ta’ dan ir-Regolament, jenħtieġ li sistema tal-IA li ma tinfluwenzax materjalment l-eżitu tat-teħid tad-deċiżjonijiet tinftiehem li tkun sistema tal-IA li ma jkollhiex impatt fuq is-sustanza, u b’hekk fuq l-eżitu, tat-teħid tad-deċiżjonijiet, kemm jekk ikun mill-bniedem kif ukoll jekk awtomatizzat. Sistema tal-IA li ma tinfluwenzax materjalment l-eżitu tat-teħid tad-deċiżjonijiet tista’ tinkludi sitwazzjonijiet li fihom tiġi ssodisfata waħda jew aktar mill-kundizzjonijiet li ġejjin. L-ewwel tali kundizzjoni jenħtieġ li tkun li s-sistema tal-IA tkun maħsuba biex twettaq kompitu proċedurali ristrett, bħal sistema tal-IA li tittrasforma data mhux strutturata f’data strutturata, sistema tal-IA li tikklassifika dokumenti li jkunu deħlin f’kategoriji jew sistema tal-IA li tintuża biex jiġu identifikati duplikati fost għadd kbir ta’ applikazzjonijiet. Dawk il-kompiti huma ta’ natura tant ristretta u limitata li joħolqu biss riskji limitati li ma jiżdidux permezz tal-użu ta’ sistema tal-IA f'kuntest li huwa elenkat bħala użu b'riskju għoli f'anness ta' dan ir-Regolament. It-tieni kundizzjoni jenħtieġ li tkun li l-kompitu mwettaq mis-sistema tal-IA jkun maħsub biex itejjeb ir-riżultat ta' attività tal-bniedem li tkun tlestiet qabel li tista' tkun rilevanti għall-finijiet tal-użi b’riskju għoli elenkati f’anness ta’ dan ir-Regolament. Meta jitqiesu dawk il-karatteristiċi, is-sistema tal-IA tipprovdi biss saff addizzjonali għal attività tal-bniedem bil-konsegwenza li r-riskju jkun imnaqqas. Dik il-kundizzjoni tkun tapplika, pereżempju, għal sistemi tal-IA li huma maħsuba biex itejbu l-lingwa użata f'dokumenti diġà abbozzati, pereżempju fir-rigward tat-ton professjonali, l-istil akkademiku tal-lingwa jew billi t-test jiġi allinjat mal-messaġġ li tkun trid twassal marka partikolari. It-tielet kundizzjoni jenħtieġ li tkun li s-sistema tal-IA tkun maħsuba biex tidentifika xejriet ta' teħid ta' deċiżjonijiet jew devjazzjonijiet minn xejriet ta' teħid ta' deċiżjonijiet preċedenti. Ir-riskju jitnaqqas minħabba li l-użu tas-sistema tal-IA jsegwi valutazzjoni mill-bniedem li tkun tlestiet qabel li ma tkunx maħsuba biex tissostitwixxi jew tinfluwenza, mingħajr rieżami xieraq mill-bniedem. Tali sistemi tal-IA jinkludu pereżempju dawk li, minħabba ċertu tendenzi fl-għoti tal-marki minn għalliem, jistgħu jintużaw biex jiġi vverifikat ex post jekk l-għalliem setax iddevja mit-tendenzi fl-għoti tal-marki sabiex jiġu mmarkati inkonsistenzi jew anomaliji potenzjali. Ir-raba' kundizzjoni jenħtieġ li tkun li s-sistema tal-IA tkun maħsuba biex twettaq kompitu li jkun biss preparatorju għal valutazzjoni rilevanti għall-finijiet tas-sistemi tal-IA elenkati f'anness ta' dan ir-Regolament, u b'hekk ikun hemm riskju baxx ħafna li l-impatt possibbli tal-output tas-sistema ser jippreżenta xi riskju għall-valutazzjoni li ssegwi. Dik il-kundizzjoni tkopri, fost l-oħrajn, soluzzjonijiet intelliġenti għat-trattament tal-fajls, li jinkludu diversi funzjonijiet mill-indiċjar, it-tiftix, l-ipproċessar tat-test u tad-diskors jew il-kollegament tad-data ma' sorsi oħra ta' data, jew sistemi tal-IA użati għat-traduzzjoni ta' dokumenti inizjali. Fi kwalunkwe każ, jenħtieġ li s-sistemi tal-IA użati f’każijiet ta’ użu b'riskju għoli elenkati f’anness ta’ dan ir-Regolament jitqiesu li joħolqu riskji sinifikanti ta' ħsara għas-saħħa, għas-sikurezza jew għad-drittijiet fundamentali jekk is-sistema tal-IA timplika tfassil ta' profili skont it-tifsira tal-Artikolu 4, il-punt (4) tar-Regolament (UE) 2016/679 jew l-Artikolu 3, il-punt (4) tad-Direttiva (UE) 2016/680 jew l-Artikolu 3, il-punt (5) tar-Regolament (UE) 2018/1725. Biex jiġu żgurati t-traċċabbiltà u t-trasparenza, jenħtieġ li fornitur li jqis li sistema tal-IA mhijiex b'riskju għoli abbażi ta' dawk il-kundizzjonijiet imsemmija hawn fuq ifassal dokumentazzjoni tal-valutazzjoni qabel ma dik is-sistema tiġi introdotta fis-suq jew titqiegħed fis-servizz u jenħtieġ li jipprovdi dik id-dokumentazzjoni lill-awtoritajiet nazzjonali kompetenti fuq talba. Jenħtieġ li tali fornitur ikun obbligat jirreġistra s-sistema tal-IA fil-bażi tad-data tal-UE stabbilita skont dan ir-Regolament. Bil-ħsieb li tiġi pprovduta gwida ulterjuri għall-implimentazzjoni prattika tal-kundizzjonijiet li skonthom is-sistemi tal-IA elenkati f’anness ta’ dan ir-Regolament huma, fuq bażi eċċezzjonali, mhux b'riskju għoli, jenħtieġ li l-Kummissjoni, wara li tikkonsulta lill-Bord, tipprovdi linji gwida li jispeċifikaw dik l-implimentazzjoni prattika kkompletata b'lista komprensiva ta' eżempji prattiċi ta' każijiet ta' użu ta' sistemi tal-IA li huma b'riskju għoli u każijiet ta’ użu li mhumiex.
(54)
Тъй като биометричните данни представляват специална категория лични данни, е целесъобразно да се класифицират като високорискови няколко случая на критично използване на биометрични системи, доколкото тяхното използване е разрешено съгласно съответното право на Съюза и национално право. Техническите неточности на системите с ИИ, предназначени за дистанционна биометрична идентификация на физически лица, могат да доведат до опорочени от предубеденост резултати и до дискриминация. Рискът от такива опорочени от предубеденост резултати и дискриминация е от особено значение във връзка с възраст, етническа принадлежност, раса, пол или увреждане. Поради това системите за дистанционна биометрична идентификация следва да бъдат класифицирани като високорискови с оглед на рисковете, които пораждат. Тази класификация изключва системите с ИИ, предназначени да бъдат използвани за биометрична проверка, включително за удостоверяване на самоличността, чиято единствена цел е да се потвърди, че конкретно физическо лице е лицето, за което се представя, и да се потвърди самоличността на физическо лице единствено за да се получи достъп до услуга, да се отключи устройство или да се придобие сигурен достъп до помещения. Освен това следва да бъдат класифицирани като високорискови системите с ИИ, предназначени да се използват за биометрично категоризиране в съответствие с чувствителни признаци или характеристики, защитени съгласно член 9, параграф 1 от Регламент (ЕС) 2016/679, въз основа на биометрични данни, доколкото те не са забранени съгласно настоящия регламент, и системи за разпознаване на емоции, които не са забранени съгласно настоящия регламент. Биометричните системи, които са предназначени да се използват единствено с цел да се позволи предприемането на мерки за киберсигурност и за защита на личните данни, не следва да се считат за високорискови системи с ИИ.
(54)
Peress li d-data bijometrika tikkostitwixxi kategorija speċjali ta' data personali, huwa xieraq li diversi każijiet ta' użu kritiku tas-sistemi bijometriċi jiġu kklassifikati bħala b'riskju għoli, sa fejn l-użu tagħhom ikun permess skont il-liġi rilevanti tal-Unjoni u dik nazzjonali. L-inakkuratezzi tekniċi tas-sistemi tal-IA maħsuba għall-identifikazzjoni bijometrika remota ta' persuni fiżiċi jistgħu jwasslu għal riżultati preġudikati u jħallu effetti diskriminatorji. Ir-riskju ta' tali riżultati preġudikati u effetti diskriminatorji huma partikolarment rilevanti fir-rigward tal-età, l-etniċità, ir-razza, is-sess jew id-diżabilitajiet. Jenħtieġ għalhekk li s-sistemi ta’ identifikazzjoni bijometrika remota jiġu kklassifikati bħala b'riskju għoli fid-dawl tar-riskji li jippreżentaw. Tali klassifikazzjoni teskludi sistemi tal-IA maħsuba biex jintużaw għall-verifika bijometrika, inkluż l-awtentikazzjoni, li l-iskop uniku tagħha huwa li tikkonferma li persuna fiżika speċifika hija l-persuna li dik il-persuna tiddikjara li hija u li tikkonferma l-identità ta' persuna fiżika għall-iskop uniku li jkollha aċċess għal servizz, li tiftaħ apparat jew li jkollha aċċess sigur għall-bini. Barra minn hekk, jenħtieġ li s-sistemi tal-IA bbażati fuq data bijometrika maħsuba biex jintużaw għall-kategorizzazzjoni bijometrika skont attributi jew karatteristiċi sensittivi protetti skont l-Artikolu 9(1) tar-Regolament (UE) 2016/679, sakemm dawn ma jkunux ipprojbiti skont dan ir-Regolament, u s-sistemi ta' rikonoxximent tal-emozzjonijiet li mhumiex ipprojbiti skont dan ir-Regolament, jiġu kklassifikati bħala b'riskju għoli. Jenħtieġ li s-sistemi bijometriċi li huma maħsuba li jintużaw biss għall-fini li jippermettu ċ-ċibersigurtà u l-miżuri tal-protezzjoni tad-data personali ma jitqisux li jkunu sistemi tal-IA b’riskju għoli.
(55)
Във връзка с управлението и експлоатацията на критична инфраструктура, е целесъобразно системите с ИИ, предназначени да бъдат използвани като защитни елементи при управлението и експлоатацията на критична цифрова инфраструктура, посочена в точка 8 от приложението към Директива (ЕС) 2022/2557, движението по пътищата и водоснабдяването, газоснабдяването, отоплението и електроенергията, да бъдат класифицирани като високорискови системи с ИИ, тъй като при тях аварията или неизправността може да изложи на риск живота и здравето на множество хора и да доведе до значителни смущения в обичайното осъществяване на социални и икономически дейности. Защитните елементи на критичната инфраструктура, включително критичната цифрова инфраструктура, са системи, използвани за пряка защита на физическата цялост на критичната инфраструктура или на здравето и безопасността на хората и имуществото, но не са необходими за функционирането на системата. Аварията или неизправността на тези елементи може пряко да породи рискове за физическата цялост на критичната инфраструктура и оттук –рискове за здравето и безопасността на хората и имуществото. Елементи, предназначени да се използват единствено за целите на киберсигурността, не следва да се квалифицират като защитни елементи. Сред примерите за защитни елементи на критичната инфраструктура могат да се посочат системите за наблюдение на водното налягане или контролните системи за пожароизвестяване в центровете за изчисления в облак.
(55)
Fir-rigward tal-ġestjoni u t-tħaddim tal-infrastruttura kritika, jixraq li s-sistemi tal-IA maħsuba biex jintużaw bħala komponenti tas-sikurezza fil-ġestjoni u t-tħaddim tal-infrastruttura diġitali kritika kif elenkat fil-punt (8) tal-Anness tad-Direttiva (UE) 2022/2557, tat-traffiku tat-triq u fil-provvista tal-ilma, tal-gass, tat-tisħin u tal-elettriku jiġu kklassifikati bħala b'riskju għoli, għax il-falliment jew il-funzjonament ħażin tagħhom jistgħu jqiegħdu f'riskju l-ħajja u s-saħħa tal-persuni fuq skala kbira u jwasslu għal tfixkil sinifikanti fl-eżekuzzjoni ordinarja tal-attivitajiet soċjali u ekonomiċi. Il-komponenti tas-sikurezza tal-infrastruttura kritika, inkluż l-infrastruttura diġitali kritika, huma sistemi użati biex jipproteġu direttament l-integrità fiżika tal-infrastruttura kritika jew is-saħħa u s-sikurezza tal-persuni u l-proprjetà iżda li mhumiex meħtieġa sabiex is-sistema tiffunzjona. Il-falliment jew il-funzjonament ħażin ta' tali komponenti jista' jwassal direttament għal riskji għall-integrità fiżika tal-infrastruttura kritika u b'hekk għal riskji għas-saħħa u s-sikurezza tal-persuni u l-proprjetà. Jenħtieġ li l-komponenti maħsuba biex jintużaw biss għal finijiet taċ-ċibersigurtà ma jikkwalifikawx bħala komponenti ta' sikurezza. Eżempji ta' komponenti ta' sikurezza ta' tali infrastruttura kritika jistgħu jinkludu sistemi għall-monitoraġġ tas-sistemi ta' kontroll tal-pressjoni tal-ilma jew tal-allarm tan-nar fiċ-ċentri tal-cloud computing.
(56)
Внедряването на системи с ИИ в образованието е важно, за да се насърчи висококачествено цифрово образование и обучение и да се даде възможност на всички учащи се и преподаватели да придобиват и споделят необходимите цифрови умения и компетентности, включително за медийна грамотност и критично мислене, за да участват активно в икономиката, обществото и демократичните процеси. Същевременно системите с ИИ, използвани в образованието или професионалното обучение, по-специално за определяне на достъпа или приема, за разпределяне на лица в институции или програми на всички нива на образованието и професионалното обучение, за оценяване на учебните резултати, за оценяване на подходящото ниво на образование за дадено лице и за оказване на съществено влияние върху нивото на образование и обучение, което лицата ще получат или до което ще могат да имат достъп, или за наблюдение и откриване на забранено поведение на ученици и студенти по време на изпити, следва да се класифицират като високорискови системи с ИИ, тъй като могат да определят образователния и професионалния път на дадено лице и така да повлияят на способността на това лице да осигурява прехраната си. Когато не са правилно проектирани и използвани, тези системи може да са особено инвазивни и е възможно да нарушат правото на образование и обучение, както и правото на недискриминация, и да продължат да възпроизвеждат исторически наложени дискриминационни модели, например срещу жени, определени възрастови групи, хора с увреждания или с определен расов или етнически произход или сексуална ориентация.
(56)
L-implimentazzjoni tas-sistemi tal-IA fl-edukazzjoni huwa importanti biex jiġu promossi l-edukazzjoni u t-taħriġ diġitali ta' kwalità għolja u biex l-istudenti u l-għalliema kollha jkunu jistgħu jiksbu u jikkondividu l-ħiliet u l-kompetenzi diġitali meħtieġa, inkluż il-litteriżmu fil-media, u l-ħsieb kritiku, biex jieħdu sehem attiv fl-ekonomija, fis-soċjetà, u fil-proċessi demokratiċi. Madankollu, is-sistemi tal-IA użati fl-edukazzjoni jew fit-taħriġ vokazzjonali, b'mod partikolari għad-determinazzjoni tal-aċċess jew l-ammissjoni, għall-assenjazzjoni ta' persuni lil istituzzjonijiet jew programmi edukattivi u ta' taħriġ vokazzjonali fil-livelli kollha, għall-evalwazzjoni tal-eżiti tal-apprendiment tal-persuni, għall-valutazzjoni tal-livell xieraq ta' edukazzjoni għal individwu u li materjalment jinfluwenzaw il-livell ta' edukazzjoni u taħriġ li l-individwi ser jirċievu jew ser ikunu jistgħu jaċċessaw jew għall-monitoraġġ u għad-detezzjoni ta' mġiba pprojbita tal-istudenti matul it-testijiet jenħtieġ li jiġu kklassifikati bħala sistemi tal-IA b'riskju għoli, għax jistgħu jiddeterminaw il-kors edukattiv u professjonali tal-ħajja ta' persuna u għalhekk jistgħu jaffettwaw l-abbiltà ta' dik il-persuna li tiżgura l-għajxien. Meta jitfasslu u jintużaw b'mod mhux xieraq, dawn is-sistemi jistgħu jkunu partikolarment intrużivi u jistgħu jiksru d-dritt għal edukazzjoni u taħriġ kif ukoll id-dritt ta' nondiskriminazzjoni, u jipperpetwaw mudelli storiċi ta' diskriminazzjoni, pereżempju kontra n-nisa, ċerti gruppi ta' età, persuni b'diżabbiltà, jew persuni ta' ċerta oriġini razzjali jew etnika jew orjentazzjoni sesswali.
(57)
Системите с ИИ, използвани в областта на заетостта, управлението на работниците и достъпа до самостоятелна заетост, по-специално за подбор и наемане на лица, за вземане на решения, засягащи условията за повишение при отношения във връзка с полагане на труд и прекратяване на договорни отношения във връзка с полагане на труд, за разпределяне на задачи въз основа на индивидуално поведение, личностни черти или характеристики и за наблюдение или оценка на лица, които имат договорни отношения във връзка с полагане на труд, също следва да бъдат класифицирани като високорискови, тъй като тези системи могат в значителна степен да повлияят на бъдещите перспективи за професионално развитие, осигуряването на прехраната на тези лица и правата на работниците. Съответните договорни отношения във връзка с полагането на труд следва по пълноценен начин да включват и служителите и лицата, предоставящи услуги чрез платформи, както е посочено в работната програма на Комисията за 2021 г. По време на целия процес на набиране на персонал и при оценката, повишаването или задържането на лица в договорни отношения във връзка с полагането на труд такива системи могат да продължат да възпроизвеждат исторически наложени дискриминационни модели, например срещу жени, определени възрастови групи, хора с увреждания или с определен расов или етнически произход или сексуална ориентация. Системите с ИИ, използвани за наблюдение на работата и поведението на тези лица, могат също така да накърнят техните основни права на защита на данните и неприкосновеност на личния живот.
(57)
Jenħtieġ li s-sistemi tal-IA użati fl-impjiegi, fil-ġestjoni tal-ħaddiema u fl-aċċess għal impjieg indipendenti, b'mod partikolari għar-reklutaġġ u għall-għażla tal-persuni, għat-teħid ta' deċiżjonijiet li jaffettwaw it-termini tar-relazzjonijiet marbuta max-xogħol, il-promozzjoni u t-terminazzjoni ta' relazzjonijiet kuntrattwali relatati max-xogħol, għall-allokazzjoni ta' kompiti abbażi tal-imġiba individwali, il-kwalitajiet jew il-karatteristiċi personali u għall-monitoraġġ jew l-evalwazzjoni ta' persuni f'relazzjonijiet kuntrattwali relatati max-xogħol, jiġu kklassifikati wkoll bħala b'riskju għoli, peress li dawk is-sistemi jista' jkollhom impatt sinifikanti fuq il-prospetti futuri tal-karriera, l-għajxien ta' dawk il-persuni u d-drittijiet tal-ħaddiema. Jenħtieġ li r-relazzjonijiet kuntrattwali rilevanti relatati max-xogħol ikunu jinvolvu b'mod sinifikattiv lill-impjegati u lill-persuni li jipprovdu servizzi permezz ta' pjattaformi kif imsemmi fil-Programm ta' Ħidma tal-Kummissjoni għall-2021. Tul il-proċess kollu tar-reklutaġġ u fl-evalwazzjoni, fil-promozzjoni, jew fiż-żamma ta' persuni f'relazzjonijiet kuntrattwali relatati max-xogħol, dawn is-sistemi jistgħu jipperpetwaw mudelli storiċi ta' diskriminazzjoni, pereżempju kontra n-nisa, ċerti gruppi ta' età, persuni b'diżabbiltà, jew persuni ta' ċerta oriġini razzjali jew etnika jew orjentazzjoni sesswali. Is-sistemi tal-IA użati għall-monitoraġġ tal-prestazzjoni u tal-imġiba ta' tali persuni jistgħu jdgħajfu wkoll id-drittijiet fundamentali tagħhom għall-protezzjoni tad-data u l-privatezza.
(58)
Друга област, в която използването на системи с ИИ заслужава специално внимание, е достъпът до и ползването на някои основни частни и публични услуги и подпомагане, необходими на хората за пълноценно участие в обществото или за подобряване на техния стандарт на живот. По-специално, физическите лица, които кандидатстват или получават основно обществено подпомагане и услуги от публични органи, а именно здравни услуги, социалноосигурителни обезщетения, социални услуги, осигуряващи закрила в случаи като майчинство, заболяване, трудова злополука, зависимост или старост и загуба на работа, както и на социална помощ и помощ за жилищно настаняване, обикновено зависят от това подпомагане и услуги и са в уязвимо положение по отношение на отговорните органи. Ако системите с ИИ се използват, за да се определи дали това подпомагане и услуги следва да бъдат предоставени, отказани, намалени, отменени или възстановени от органите, включително дали бенефициерите имат законно право да се ползват от това подпомагане или услуги, въпросните системи могат да окажат значително въздействие върху материалната издръжка на тези лица и да нарушат основните им права, като правото на социална закрила, недискриминация, човешко достойнство или ефективни правни средства за защита, и поради това следва да бъдат класифицирани като високорискови. Независимо от това настоящият регламент не следва да възпрепятства разработването и използването на иновативни подходи в публичната администрация, за които по-широкото използване на съвместими и безопасни системи с ИИ би било полезно, при условие че тези системи не пораждат висок риск за юридическите и физическите лица. Наред с това системите с ИИ, използвани за оценка на кредитния рейтинг или кредитоспособността на физически лица, следва да бъдат класифицирани като високорискови системи с ИИ, тъй като те определят какъв достъп ще имат тези лица до финансови ресурси или основни услуги като жилищно настаняване, електроенергия и телекомуникационни услуги. Използваните за тези цели системи с ИИ могат да доведат до дискриминация на лица или групи и да продължат да възпроизвеждат исторически наложени дискриминационни модели, например въз основа на расов или етнически произход, пол, увреждане, възраст, сексуална ориентация, или да създадат нови форми на дискриминация. Системите с ИИ, предвидени в правото на Съюза за целите на разкриването на измами при предлагането на финансови услуги и за пруденциални цели за изчисляване на капиталовите изисквания на кредитните институции и застрахователите, не следва обаче да се считат за високорискови съгласно настоящия регламент. Освен това системите с ИИ, предназначени да се използват за оценка на риска и ценообразуване във връзка със здравно застраховане и животозастраховане на физически лица, също могат да окажат значително въздействие върху осигуряването на прехраната на лицата и ако не са надлежно проектирани, разработени и използвани, могат да нарушат техните основни права и да доведат до сериозни последици за живота и здравето на хората, включително финансово изключване и дискриминация. И на последно място, системите с ИИ, използвани за оценка и класифициране на спешните повиквания от физически лица или за изпращане или определяне на приоритет по отношение на изпращането на службите за спешно реагиране, включително от полицията, пожарната и медицинската помощ, както и на системите за разпределяне на пациенти в областта на спешната здравна помощ, също следва да бъдат класифицирани като високорискови, тъй като те вземат решения в ситуации, които са изключително критични за живота и здравето на хората и за тяхното имущество.
(58)
Qasam ieħor li fih l-użu tas-sistemi tal-IA jixirqilhom kunsiderazzjoni speċjali hu l-aċċess għal ċerti servizzi u benefiċċji privati u pubbliċi essenzjali u t-tgawdija ta' dawn is-servizzi u l-benefiċċji meħtieġa biex in-nies jipparteċipaw bis-sħiħ fis-soċjetà jew biex itejbu l-istandard tal-għajxien tagħhom. B'mod partikolari, il-persuni fiżiċi li japplikaw għal jew li jirċievu benefiċċji u servizzi essenzjali ta' assistenza pubblika mill-awtoritajiet pubbliċi, jiġifieri s-servizzi tal-kura tas-saħħa, il-benefiċċji tas-sigurtà soċjali, is-servizzi soċjali li jipprovdu protezzjoni f'każijiet bħall-maternità, il-mard, l-inċidenti industrijali, id-dipendenza jew ix-xjuħija u t-telf tal-impjieg u l-assistenza soċjali u tal-akkomodazzjoni, huma tipikament dipendenti fuq dawk il-benefiċċji u s-servizzi u f'pożizzjoni vulnerabbli fir-rigward tal-awtoritajiet responsabbli. Jekk is-sistemi tal-IA jintużaw biex jiġi determinat jekk dawn il-benefiċċji u s-servizzi għandhomx jingħataw, jiċċaħħdu, jitnaqqsu, jitneħħew jew jittieħdu lura mill-awtoritajiet, inkluż jekk il-benefiċjarji humiex leġittimament intitolati għal tali benefiċċji jew servizzi, dawk is-sistemi jista' jkollhom impatt sinifikanti fuq l-għajxien tal-persuni u jistgħu jiksru d-drittijiet fundamentali tagħhom, bħad-dritt għall-protezzjoni soċjali, id-dritt ta' nondiskriminazzjoni, għad-dinjità umana jew għal rimedju effettiv u għalhekk jenħtieġ li jiġu kklassifikati bħala b'riskju għoli. Madankollu, jenħtieġ li dan ir-Regolament ma jfixkilx l-iżvilupp u l-użu ta' approċċi innovattivi fl-amministrazzjoni pubblika, li jkunu jistgħu jibbenefikaw minn użu aktar mifrux ta' sistemi tal-IA konformi u sikuri, dment li dawk is-sistemi ma jkunux jinvolvu riskju għoli għall-persuni ġuridiċi u fiżiċi. Barra minn hekk, jenħtieġ li s-sistemi tal-IA użati biex jevalwaw il-kreditu jew għall-evalwazzjoni tal-affidabbiltà kreditizja ta' xi persuni fiżiċi jiġu kklassifikati bħala b'riskju għoli peress li jiddeterminaw l-aċċess ta' dawk il-persuni għal riżorsi finanzjarji jew għal servizzi essenzjali bħall-akkomodazzjoni, l-elettriku, u s-servizzi tat-telekomunikazzjoni. Is-sistemi tal-IA użati għal dawk il-finijiet jistgħu jwasslu għad-diskriminazzjoni bejn persuni jew gruppi u jistgħu jipperpetwaw mudelli storiċi ta' diskriminazzjoni, dħal dik ibbażati fuq l-oriġini razzjali jew etnika, il-ġeneru, id-diżabbiltà, l-età jew l-orjentazzjoni sesswali, jew jistgħu joħolqu forom ġodda ta' impatti diskriminatorji. Madankollu, jenħtieġ li s-sistemi tal-IA previsti mil-liġi tal-Unjoni għall-fini li tiġi identifikata frodi fl-offerta ta' servizzi finanzjarji u għal finijiet prudenzjali biex jiġu kkalkulati r-rekwiżiti kapitali tal-istituzzjonijiet ta' kreditu u tal-impriżi tal-assigurazzjoni ma jitqisux li jkunu b'riskju għoli skont dan ir-Regolament. Barra minn hekk, is-sistemi tal-IA maħsuba biex jintużaw għall-valutazzjoni tar-riskju u l-ipprezzar fir-rigward ta' persuni fiżiċi għall-assigurazzjoni tas-saħħa u tal-ħajja jista' wkoll ikollhom impatt sinifikanti fuq l-għajxien tal-persuni u jekk ma jkunux imfassla, żviluppati u użati kif xieraq, jistgħu jiksru d-drittijiet fundamentali tagħhom u jistgħu jwasslu għal konsegwenzi serji għall-ħajja u għas-saħħa tan-nies, inkluż l-esklużjoni finanzjarja u d-diskriminazzjoni. Fl-aħħar nett, jenħtieġ li anki s-sistemi tal-IA użati biex jiġu evalwati u kklassifikati telefonati ta' emerġenza minn persuni fiżiċi jew biex tintbagħat jew tiġi stabbilita prijorità fid-dispaċċ ta' servizzi tal-ewwel rispons ta' emerġenza, inkluż mill-pulizija, mill-ħaddiema tat-tifi tan-nar u mill-għajnuna medika, kif ukoll tas-sistemi tat-triage tal-pazjenti fil-qasam tal-kura tas-saħħa ta' emerġenza, jiġu kklassifikati bħala b'riskju għoli għax dawn jieħdu deċiżjonijiet f'sitwazzjonijiet kritiċi ħafna għall-ħajja u għas-saħħa tal-persuni u għall-proprjetà tagħhom.
(59)
Предвид техните функции и отговорност, действията на правоохранителните органи, включващи определени видове използване на системи с ИИ, се характеризират със значителна степен на властово неравновесие и могат да доведат до наблюдение, задържане или лишаване от свобода на физическо лице, както и до други неблагоприятни въздействия по отношение на основните права, гарантирани от Хартата. По-специално, ако системата с ИИ не е обучена с висококачествени данни, не отговаря на съответните изисквания по отношение на своето функциониране, точност или надеждност или не е била правилно проектирана и изпитана преди да бъде пусната на пазара или по друг начин пусната в действие, тя може да избира лица по дискриминационен начин или по неправилен или необективен в друго отношение начин. Освен това упражняването на важни процесуални основни права, като правото на ефективни правни средства за защита и на справедлив съдебен процес, както и правото на защита и презумпцията за невиновност, би могло да бъде възпрепятствано, по-специално когато системите с ИИ не са достатъчно прозрачни, разбираеми и документирани. Поради това е целесъобразно редица системи с ИИ, предназначени да бъдат използвани в правоохранителен контекст, където точността, надеждността и прозрачността са особено важни за избягване на неблагоприятни въздействия, запазване на общественото доверие и гарантиране на отчетност и ефективна правна защита, да се класифицират като високорискови, доколкото тяхното използване е разрешено съгласно съответното право на Съюза и национално право. С оглед на естеството на дейностите и свързаните с тях рискове тези високорискови системи с ИИ следва да включват по-специално системи с ИИ, предназначени да бъдат използвани от или от името на правоохранителните органи или от институции, органи, служби или агенции на Съюза в подкрепа на правоохранителните органи за оценка на риска дадено физическо лице да стане жертва на престъпления, например полиграфи и подобни инструменти, за оценка на надеждността на доказателствата в хода на разследването или наказателното преследване на престъпления, и, доколкото това не е забранено съгласно настоящия регламент, за оценка на риска дадено физическо лице да извърши нарушение или повторно нарушение не само въз основа на профилирането на физически лица или на оценката на личностни черти и характеристики или на минало престъпно поведение на физически лица или групи, както и за профилиране в хода на разкриването, разследването или наказателното преследване на престъпления. Системите с ИИ, специално предназначени да се използват за административни производства от данъчните и митническите органи, както и от звената за финансово разузнаване, изпълняващи административни задачи за анализ на информация съгласно правото на Съюза за борба с изпирането на пари, не следва да се класифицират като високорискови системи с ИИ, използвани от правоохранителните органи за целите на предотвратяването, разкриването, разследването и наказателното преследване на престъпления. Използването на инструменти с ИИ от страна на правоохранителните и други съответни органи не следва да се превръща във фактор, обуславящ неравенство или изключване. Въздействието на използването на инструменти с ИИ върху правата на защита на заподозрените лица не следва да се пренебрегва, по-специално трудностите при получаване на съдържателна информация относно функционирането на тези системи и произтичащите от това трудности при оспорване на резултатите от тях в съда, по-специално от страна на физически лица, срещу които се води разследване.
(59)
Minħabba r-rwol u r-responsabbiltà tagħhom, l-azzjonijiet tal-awtoritajiet tal-infurzar tal-liġi li jinvolvu ċerti użi tas-sistemi tal-IA huma kkaratterizzati minn grad sinifikanti ta' żbilanċ fil-poter u jistgħu jwasslu għal sorveljanza, għal arrest jew għal ċaħda tal-libertà ta' persuna fiżika u għal impatti negattivi oħra fuq id-drittijiet fundamentali garantiti fil-Karta. B'mod partikolari, jekk is-sistema tal-IA ma tkunx imħarrġa b'data ta' kwalità għolja, ma tkunx tissodisfa rekwiżiti adegwati fir-rigward tal-prestazzjoni, l-akkuratezza jew ir-robustezza tagħha, jew ma tkunx imfassla u ttestjata kif xieraq qabel ma tiġi introdotta fis-suq jew titqiegħed fis-servizz b'xi mod ieħor, din tista' tindividwa persuni b'mod diskriminatorju jew b'mod skorrett jew inġust. Barra minn hekk, l-eżerċitar ta' drittijiet fundamentali proċedurali importanti, bħad-dritt għal rimedju effettiv u għal proċess ġust kif ukoll id-dritt għal difiża u l-preżunzjoni tal-innoċenza, jista' jiġi mfixkel meta, b'mod partikolari, dawn is-sistemi tal-IA ma jkunux trasparenti, spjegabbli u dokumentati biżżejjed. Għalhekk, sakemm l-użu tagħhom ikun permess skont il-liġi rilevanti tal-Unjoni u dik nazzjonali, jixraq li xi sistemi tal-IA maħsuba biex jintużaw fil-kuntest tal-infurzar tal-liġi jiġu kklassifikati bħala b'riskju għoli, meta l-akkuratezza, l-affidabbiltà u t-trasparenza jkunu partikolarment importanti biex jiġu evitati impatti negattivi, tinżamm il-fiduċja pubblika u jiġu żgurati r-responsabbiltà u rimedju effettiv. Minħabba n-natura tal-attivitajiet u r-riskji relatati magħhom, jenħtieġ li dawk is-sistemi tal-IA b'riskju għoli jinkludu b'mod partikolari s-sistemi tal-IA maħsuba biex jintużaw minn jew f'isem l-awtoritajiet tal-infurzar tal-liġi jew minn istituzzjonijiet, korpi, uffiċċji jew aġenziji tal-Unjoni b'appoġġ għall-awtoritajiet tal-infurzar tal-liġi għall-valutazzjoni tar-riskju ta' persuna fiżika li ssir vittma ta' reati kriminali, bħal poligrafi u għodod simili, għall-evalwazzjoni tal-affidabbiltà tal-evidenza waqt investigazzjoni jew prosekuzzjoni ta' reati kriminali, u, sa fejn mhux ipprojbit skont dan ir-Regolament, għall-valutazzjoni tar-riskju ta' persuna fiżika li twettaq reat jew twettaq reat mill-ġdid mhux biss abbażi tat-tfassil ta' profili ta' persuni fiżiċi jew tal-valutazzjoni tal-kwalitajiet u l-karatteristiċi tal-personalità jew l-imġiba kriminali fil-passat ta' persuni fiżiċi jew gruppi, għat-tfassil ta' profili matul il-kxif, l-investigazzjoni jew il-prosekuzzjoni ta' reati kriminali. Jenħtieġ li s-sistemi tal-IA maħsuba speċifikament biex jintużaw għal proċedimenti amministrattivi mill-awtoritajiet tat-taxxa u tad-dwana kif ukoll mill-unitajiet tal-intelligence finanzjarja li jwettqu kompiti amministrattivi li janalizzaw l-informazzjoni skont il-liġi tal-Unjoni kontra l-ħasil tal-flus ma jiġux klassifikati bħala sistemi tal-IA b'riskju għoli użati mill-awtoritajiet tal-infurzar tal-liġi għall-fini tal-prevenzjoni, il-kxif, l-investigazzjoni u l-prosekuzzjoni ta' reati kriminali. Jenħtieġ li l-użu tal-għodod tal-IA mill-awtoritajiet tal-infurzar tal-liġi u awtoritajiet rilevanti oħra ma jsirx fattur ta' inugwaljanza jew esklużjoni. Jenħtieġ li l-impatt tal-użu tal-għodod tal-IA fuq id-drittijiet tad-difiża tal-persuni suspettati ma jiġix injorat, b'mod partikolari d-diffikultà biex tinkiseb informazzjoni sinifikattiva dwar il-funzjonament ta' dawk is-sistemi u d-diffikultà li tirriżulta biex jiġu kkontestati r-riżultati tagħhom fil-qorti, b'mod partikolari minn persuni fiżiċi li qed jiġu investigati.
(60)
Системите с ИИ, използвани в управлението на миграцията, убежището и граничния контрол, засягат лица, които често са в особено уязвимо положение и които зависят от резултата от действията на компетентните публични органи. Поради това точността, недискриминационният характер и прозрачността на системите с ИИ, използвани в тези ситуации, са особено важни, за да се гарантира зачитането на основните права на засегнатите лица, по-специално правото им на свободно движение, недискриминация, защита на личния живот и личните данни, международна закрила и добра администрация. Поради това е целесъобразно, доколкото използването им е разрешено съгласно съответното право на Съюза и национално право, да бъдат класифицирани като високорискови системите с ИИ, предназначени да бъдат използвани от или от името на компетентните публични органи или от институции, органи, служби или агенции на Съюза, натоварени със задачи в областта на управлението на миграцията, убежището и граничния контрол, например полиграфи и подобни инструменти, за оценка на определени рискове, произтичащи от физически лица, които влизат на територията на държава членка или подават молба за виза или убежище, за подпомагане на компетентните публични органи при разглеждането, включително свързаната с това оценка на надеждността на доказателствата, на молби за убежище, визи и разрешения за пребиваване и свързаните с тях жалби по отношение на целта за установяване на допустимостта на физическите лица, кандидатстващи за статут, с цел откриване, разпознаване или установяване на самоличността на физически лица в контекста на управлението на миграцията, убежището и граничния контрол, с изключение на проверка на документите за пътуване. Системите с ИИ в областта на управлението на миграцията, убежището и граничния контрол, обхванати от настоящия регламент, следва да съответстват на съответните процедурни изисквания, установени в Регламент (ЕО) № 810/2009 на Европейския парламент и на Съвета (32), Директива 2013/32/ЕС на Европейския парламент и на Съвета (33) и друго съответно право на Съюза. Системите с ИИ в контекста на управлението на миграцията, убежището и граничния контрол не следва при никакви обстоятелства да се използват от държавите членки или институциите, органите, службите или агенциите на Съюза като средство за заобикаляне на техните международни задължения съгласно Конвенцията на Организацията на обединените нации за статута на бежанците, съставена в Женева на 28 юли 1951 г. и изменена с Протокола от 31 януари 1967 г. Те не следва да се използват и за нарушаване по какъвто и да било начин на принципа на забрана за връщане или за отказ във връзка с безопасни и ефективни законни възможности за достъп до територията на Съюза, включително правото на международна закрила.
(60)
Is-sistemi tal-IA użati fil-ġestjoni tal-migrazzjoni, tal-ażil u tal-kontroll fil-fruntieri jaffettwaw lil persuni li spiss ikunu f'pożizzjoni partikolarment vulnerabbli u li jiddependu fuq l-eżitu tal-azzjonijiet tal-awtoritajiet pubbliċi kompetenti. Għalhekk, l-akkuratezza, in-natura nondiskriminatorja u t-trasparenza tas-sistemi tal-IA użati f'dawk il-kuntesti huma partikolarment importanti biex ikun żgurat ir-rispett għad-drittijiet fundamentali tal-persuni affettwati, b'mod partikolari d-drittijiet tagħhom ta' moviment liberu, ta' nondiskriminazzjoni, ta' protezzjoni tal-ħajja privata u ta' data personali, ta' protezzjoni internazzjonali u ta' amministrazzjoni tajba. Għalhekk, sa fejn l-użu tagħhom ikun permess skont il-liġi rilevanti tal-Unjoni u nazzjonali, jixraq li jiġu kklassifikati bħala b'riskju għoli s-sistemi tal-IA maħsuba biex jintużaw minn jew f'isem awtoritajiet pubbliċi kompetenti jew minn istituzzjonijiet, korpi, uffiċċji jew aġenziji tal-Unjoni inkarigati b'kompiti fl-oqsma tal-migrazzjoni, l-ażil u l-ġestjoni tal-kontroll tal-fruntieri, bħal pereżempju poligrafi u għodod simili, għall-valutazzjoni ta' ċerti riskji maħluqa minn persuni fiżiċi li jidħlu fit-territorju ta' Stat Membru jew li japplikaw għal viża jew ażil, biex jassistu lill-awtoritajiet pubbliċi kompetenti għall-eżami, inkluż il-valutazzjoni relatata tal-affidabbiltà tal-evidenza, tal-applikazzjonijiet għall-ażil, tal-viża u tal-permessi ta' residenza u tal-ilmenti assoċjati fir-rigward tal-objettiv li tiġi stabbilita l-eliġibbiltà tal-persuni fiżiċi li japplikaw għal status, għall-fini tad-detezzjoni, ir-rikonoxximent jew l-identifikazzjoni ta' persuni fiżiċi fil-kuntest tal-ġestjoni tal-migrazzjoni, l-ażil u l-kontroll tal-fruntieri, bl-eċċezzjoni tal-verifika tad-dokumenti tal-ivvjaġġar. Jenħtieġ li s-sistemi tal-IA fil-qasam tal-ġestjoni tal-migrazzjoni, tal-ażil u tal-kontroll fil-fruntieri koperti b'dan ir-Regolament ikunu konformi mar-rekwiżiti proċedurali rilevanti stabbiliti mir-Regolament (KE) Nru 810/2009 tal-Parlament Ewropew u tal-Kunsill (32), mid-Direttiva 2013/32/UE tal-Parlament Ewropew u tal-Kunsill (33), u minn leġiżlazzjoni rilevanti oħra tal-Unjoni. Jenħtieġ li l-użu tas-sistemi tal-IA fil-ġestjoni tal-migrazzjoni, tal-ażil u tal-kontroll fil-fruntieri, fl-ebda ċirkostanza, ma jintuża mill-Istati Membri jew mill-istituzzjonijiet, mill-korpi, mill-uffiċċji jew mill-aġenziji tal-Unjoni bħala mezz biex jevitaw l-obbligi internazzjonali tagħhom skont il-Konvenzjoni tan-NU dwar l-Istatus tar-Refuġjati magħmula f'Ġinevra fit-28 ta' Lulju 1951 kif emendata mill-Protokoll tal-31 ta' Jannar 1967. Jenħtieġ li lanqas ma jintużaw biex jinkiser il-prinċipju ta' non-refoulement, jew biex jiġu mċaħħda perkorsi legali sikuri u effettivi lejn it-territorju tal-Unjoni, inkluż id-dritt għall-protezzjoni internazzjonali.
(61)
Някои системи с ИИ, предназначени за използване в правораздаването и при демократичните процеси, следва да бъдат класифицирани като високорискови, като се има предвид потенциално значителното им въздействие върху демокрацията, принципите на правовата държава, индивидуалните свободи, както и правото на ефективни правни средства за защита и на справедлив съдебен процес. По-специално, за да се преодолеят рисковете от възможна предубеденост, грешки и непрозрачност, е целесъобразно да се класифицират като високорискови системите с ИИ, предназначени да бъдат използвани от орган на съдебна власт или от негово име, за да подпомагат органите на съдебна власт при проучването и тълкуването на фактите и правото и при прилагането на правото към конкретен набор от факти. Системите с ИИ, предназначени да бъдат използвани от органите за алтернативно разрешаване на спорове за тези цели, също следва да се считат за високорискови, когато резултатите от производството по алтернативно разрешаване на спорове пораждат правни последици за страните. Използването на инструменти с ИИ може да подпомогне, но не следва да заменя правомощията на съда за вземане на решения или независимостта на съдебната власт; окончателното вземане на решение трябва да продължи да бъде ръководено от човека. Класификацията на системите с ИИ като високорискови не следва обаче да обхваща системите с ИИ, предназначени за чисто спомагателни административни дейности, които не засягат самото правораздаване по отделните дела, като например анонимизиране или псевдонимизиране на съдебни решения, документи или данни, комуникация между персонала и административни задачи.
(61)
Jenħtieġ li ċerti sistemi tal-IA maħsuba għall-amministrazzjoni tal-ġustizzja u għall-proċessi demokratiċi jiġu kklassifikati bħala b'riskju għoli, meta jitqies l-impatt potenzjalment sinifikanti tagħhom fuq id-demokrazija, l-istat tad-dritt, il-libertajiet individwali u d-dritt għal rimedju effettiv u għal proċess imparzjali. B'mod partikolari, biex jiġu indirizzati r-riskji ta' preġudizzji, żbalji u opaċità potenzjali, jixraq li s-sistemi maħsuba biex jintużaw minn awtorità ġudizzjarja jew f'isimha biex jgħinu lill-awtoritajiet ġudizzjarji fir-riċerka u l-interpretazzjoni tal-fatti u tal-liġi u fl-applikazzjoni tal-liġi għal sett konkret ta' fatti, jikkwalifikaw bħala sistemi tal-IA b'riskju għoli. Jenħtieġ li s-sistemi tal-IA maħsuba biex jintużaw minn korpi għal soluzzjonijiet alternattivi għat-tilwim għal dawk il-finijiet jitqiesu wkoll li huma b'riskju għoli meta l-eżiti tal-proċedimenti ta' soluzzjoni alternattiva għat-tilwim jipproduċu effetti legali għall-partijiet. L-użu ta' għodod tal-IA jista' jappoġġa s-setgħa tat-teħid ta' deċiżjonijiet tal-imħallfin jew l-indipendenza ġudizzjarja, iżda jenħtieġ li ma jissostitwixxihiex: it-teħid finali ta' deċiżjonijiet irid jibqa' attività mmexxija mill-bniedem. Madankollu, jenħtieġ li l-klassifikazzjoni ta' sistemi tal-IA bħala b'riskju għoli ma testendix għal sistemi tal-IA maħsuba għal attivitajiet amministrattivi purament anċillari li ma jaffettwawx l-amministrazzjoni attwali tal-ġustizzja f'każijiet individwali, bħall-anonimizzazzjoni jew il-psewdonimizzazzjoni ta' deċiżjonijiet ġudizzjarji, ta' dokumenti jew ta' data, il-komunikazzjoni bejn il-persunal jew il-kompiti amministrattivi.
(62)
Без да се засягат правилата, предвидени в Регламент (ЕС) 2024/900 на Европейския парламент и на Съвета (34), и с цел да се преодолеят рисковете от неправомерна външна намеса в упражняването на правото на глас, залегнало в член 39 от Хартата, и от неблагоприятните последици за демокрацията и принципите на правовата държава, системите с ИИ, предназначени да се използват за оказване на влияние върху резултата от избори или референдум или върху поведението на физическите лица при упражняване на правото им на глас в избори или референдум, следва да се класифицират като високорискови системи с ИИ, с изключение на системите с ИИ, на чиито резултати физическите лица не са пряко изложени, като например инструменти, използвани за организиране, оптимизиране и структуриране на политически кампании от административна и логистична гледна точка.
(62)
Mingħajr preġudizzju għar-regoli previsti fir-Regolament (UE) 2024/… tal-Parlament Ewropew u tal-Kunsill (34), u sabiex jiġu indirizzati r-riskji ta' interferenza esterna mhux dovuta fuq id-dritt tal-vot minqux fl-Artikolu 39 tal-Karta, u ta' effetti negattivi fuq id-demokrazija u l-istat tad-dritt, jenħtieġ li s-sistemi tal-IA maħsuba biex jintużaw bil-għan li jinfluwenzaw l-eżitu ta' elezzjoni jew referendum jew l-imġiba tal-votazzjoni ta' persuni fiżiċi fl-eżerċizzju tal-vot tagħhom fl-elezzjonijiet jew fir-referenda jiġu kklassifikati bħala sistemi tal-IA b'riskju għoli bl-eċċezzjoni ta' sistemi tal-IA li l-output tagħhom ma jkunx espost għal persuni fiżiċi, bħal għodod użati għall-organizzazzjoni, l-ottimizzazzjoni u l-istruttura ta' kampanji politiċi minn perspettiva amministrattiva u loġistika.
(63)
Фактът, че дадена система с ИИ е класифицирана като високорискова система с ИИ съгласно настоящия регламент, не следва да се тълкува като указване, че използването на системата е законосъобразно съгласно други актове на правото на Съюза или съгласно националното право, съвместимо с правото на Съюза, като например относно защитата на личните данни и използването на полиграфи и подобни инструменти или други системи за разпознаване на емоционалното състояние на физическите лица. Всяко такова използване следва да продължи да се извършва единствено в съответствие с приложимите изисквания, произтичащи от Хартата и от приложимите актове на вторичното право на Съюза и националното право. Настоящият регламент не следва да се тълкува като предоставящ правно основание за обработването на лични данни, включително, ако е приложимо, на специални категории лични данни, освен когато в него изрично е предвидено друго.
(63)
Jenħtieġ li l-fatt li sistema tal-IA tiġi kklassifikata bħala sistema tal-IA b'riskju għoli skont dan ir-Regolament ma jiġix interpretat bħala indikatur li l-użu tas-sistema huwa legali skont atti oħra tal-liġi tal-Unjoni jew skont il-liġi nazzjonali kompatibbli mal-liġi tal-Unjoni, bħal dwar il-protezzjoni tad-data personali, dwar l-użu tal-poligrafi u ta' għodod simili jew ta' sistemi oħra biex jiġi identifikat l-istat emozzjonali ta' persuni fiżiċi. Jenħtieġ li kull użu bħal dan ikompli jseħħ biss f'konformità mar-rekwiżiti applikabbli li jirriżultaw mill-Karta u mill-atti applikabbli tal-liġi sekondarja tal-Unjoni u tal-liġi nazzjonali. Jenħtieġ li dan ir-Regolament ma jinftiehemx li jipprevedi l-bażi legali għall-ipproċessar tad-data personali, inkluż kategoriji speċjali ta' data personali, meta rilevanti, sakemm mhux speċifikament previst mod ieħor f'dan ir-Regolament.
(64)
За да се ограничат рисковете, произтичащи от високорискови системи с ИИ, пуснати на пазара или пуснати в действие, и за да се гарантира високо равнище на надеждност, за високорисковите системи с ИИ следва да се прилагат някои задължителни изисквания, при които се вземат предвид предназначението и контекстът на използване на системата с ИИ и които са съобразени със системата за управление на риска, която ще бъде създадена от доставчика. Мерките, предприети от доставчиците за спазване на задължителните изисквания на настоящия регламент, следва да са съобразени с общопризнатите съвременни технически постижения в областта на ИИ и да бъдат пропорционални и ефективни за постигане на целите на настоящия регламент. Въз основа на новата законодателна рамка, съгласно обясненията в известието на Комисията „Синьото ръководство“ за прилагане на правилата на ЕС относно продуктите – 2022 г., общото правило е, че повече от един правен акт от законодателството на Съюза за хармонизация може да е приложим за един продукт, тъй като предоставянето на пазара или пускането в действие може да се извърши само когато продуктът е в съответствие с цялото приложимо законодателство на Съюза за хармонизация. Опасностите, свързани със системите с ИИ, обхванати от изискванията на настоящия регламент, се отнасят до аспекти, различни от действащото законодателство на Съюза за хармонизация, поради което изискванията на настоящия регламент ще допълнят действащото законодателство на Съюза за хармонизация. Например машините или медицинските изделия, включващи система с ИИ, могат да представляват рискове, които не са обхванати от съществените изисквания, свързани със здравето и безопасността, установени в съответното законодателство на Съюза за хармонизация, тъй като в това секторно право не се уреждат рисковете, присъщи за системите с ИИ. Поради това е необходимо едновременно и допълващо се прилагане на различните законодателни актове. За да се гарантира съгласуваност и да се избегнат ненужна административна тежест и ненужни разходи, доставчиците на продукт, който съдържа една или повече високорискови системи с ИИ, за които се прилагат изискванията на настоящия регламент и на законодателството на Съюза за хармонизация въз основа на новата законодателна рамка, което е посочено в приложение към настоящия регламент, следва да разполагат с гъвкавост по отношение на оперативните решения за това как да се гарантира оптимално съответствие на продукт, който съдържа една или повече системи с ИИ, с всички приложими изисквания на това законодателство на Съюза за хармонизация. Тази гъвкавост би могла да означава например решение на доставчика да интегрира част от необходимите процеси на изпитване и докладване, информация и документация, изисквани съгласно настоящия регламент, във вече съществуваща документация и процедури, изисквани съгласно съществуващото законодателство на Съюза за хармонизация въз основа на новата законодателна рамка, посочено в приложение към настоящия регламент. Това по никакъв начин не следва да засяга задължението на доставчика да спазва всички приложими изисквания.
(64)
Biex jiġu mitigati r-riskji minn sistemi tal-IA b'riskju għoli introdotti fis-suq jew imqiegħda fis-servizz u biex jiġi żgurat livell għoli ta' affidabbiltà, jenħtieġ li ċerti rekwiżiti obbligatorji japplikaw għas-sistemi tal-IA b'riskju għoli, filwaqt li jitqies l-għan maħsub u l-kuntest tal-użu tas-sistema tal-IA u skont is-sistema ta' ġestjoni tar-riskju li għandha tiġi stabbilita mill-fornitur. Jenħtieġ li l-miżuri adottati mill-fornituri biex jikkonformaw mar-rekwiżiti obbligatorji ta' dan ir-Regolament iqisu l-ogħla livell ta' żvilupp tekniku rikonoxxut b'mod ġenerali dwar l-IA, u jkunu proporzjonati u effettivi biex jintlaħqu l-objettivi ta' dan ir-Regolament. Abbażi tal-Qafas Leġiżlattiv Ġdid, kif iċċarat fl-avviż tal-Kummissjoni “Il-‘Gwida Blu’ dwar l-implimentazzjoni tar-regoli tal-prodotti tal-UE tal-2022” ir-regola ġenerali hija li aktar minn att legali wieħed tal-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni jista’ jkun applikabbli għal prodott wieħed, peress li l-introduzzjoni fis-suq jew it-tqegħid fis-servizz jista' jseħħ biss meta l-prodott jikkonforma mal-leġiżlazzjoni applikabbli kollha tal-Unjoni dwar l-armonizzazzjoni. Il-perikli tas-sistemi tal-IA koperti mir-rekwiżiti ta' dan ir-Regolament jikkonċernaw aspetti differenti mill-leġiżlazzjoni eżistenti tal-Unjoni dwar l-armonizzazzjoni u għalhekk ir-rekwiżiti ta' dan ir-Regolament jikkomplementaw il-korp eżistenti tal-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni. Pereżempju, prodotti ta' makkinarju jew ta' apparati mediċi li jinkorporaw sistema tal-IA jistgħu jippreżentaw riskji mhux indirizzati mir-rekwiżiti essenzjali tas-saħħa u s-sikurezza stipulati fil-leġiżlazzjoni armonizzata rilevanti tal-Unjoni, peress li dik il-liġi settorjali ma tittrattax riskji speċifiċi għas-sistemi tal-IA. Dan jitlob li jkun hemm l-applikazzjoni simultanja u komplementari tad-diversi atti leġiżlattivi. Sabiex tiġi żgurata l-konsistenza u jiġu evitati piż u kostijiet amministrattivi bla bżonn, jenħtieġ li l-fornituri ta' prodott li jkun fih sistema ta' IA b'riskju għoli waħda jew aktar, li għaliha japplikaw ir-rekwiżiti ta' dan ir-Regolament u tal-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni bbażata fuq il-Qafas Leġiżlattiv Ġdid u elenkata f'anness ta' dan ir-Regolament, ikollhom flessibbiltà fir-rigward tad-deċiżjonijiet operazzjonali dwar kif tiġi żgurata l-konformità ta' prodott li jkun fih sistema tal-IA waħda jew aktar mar-rekwiżiti applikabbli kollha ta' dik il-leġiżlazzjoni armonizzata tal-Unjoni bl-aħjar mod. Dik il-flessibbiltà tista' tfisser, pereżempju, deċiżjoni mill-fornitur li jintegra parti mill-proċessi ta' ttestjar u rapportar, informazzjoni u dokumentazzjoni meħtieġa skont dan ir-Regolament fid-dokumentazzjoni u l-proċeduri diġà eżistenti meħtieġa skont il-leġiżlazzjoni eżistenti tal-Unjoni dwar l-armonizzazzjoni bbażata fuq il-Qafas Leġiżlattiv Ġdid u elenkata f'anness ta' dan ir-Regolament. Dan jenħtieġ li bl-ebda mod ma jimmina l-obbligu tal-fornitur li jikkonforma mar-rekwiżiti applikabbli kollha.
(65)
Системата за управление на риска следва да се състои от непрекъснат цикличен процес, който се планира и протича през целия жизнен цикъл на високорисковата система с ИИ. Този процес следва да бъде насочен към установяване и ограничаване на съответните рискове, произтичащи от системите с ИИ, за здравето, безопасността и основните права. Системата за управление на риска следва да подлежи на редовен преглед и за бъде актуализирана, за да се гарантира непрекъснатата ѝ ефективност, както и обосновката и документирането на всички важни решения и действия, предприети съгласно настоящия регламент. Този процес следва да гарантира, че доставчикът установява рисковете или неблагоприятните въздействия и прилага мерки за ограничаване на известните и разумно предвидими рискове, произтичащи от системите с ИИ, за здравето, безопасността и основните права с оглед на тяхното предназначение и разумно предвидима неправилна експлоатация, включително възможните рискове, произтичащи от взаимодействието между системата с ИИ и средата, в която тя работи. Системата за управление на риска следва да предприема най-подходящите мерки за управление на риска с оглед на съвременните технически постижения в областта на ИИ. При определянето на най-подходящите мерки за управление на риска доставчикът следва да документира и обясни направения избор и, когато е целесъобразно, да включи експерти и външни заинтересовани страни. При установяването на разумно предвидима неправилна експлоатация на високорискови системи с ИИ доставчикът следва да обхване използването на системите с ИИ, които, макар и да не са пряко обхванати от предназначението и предвидени в инструкциите за употреба, може все пак да се очаква, че са резултат от лесно предвидимо човешко поведение в контекста на специфичните характеристики и използване на конкретна система с ИИ. Всички известни или предвидими обстоятелства, свързани с използването на високорисковата система с ИИ в съответствие с предназначението ѝ или в условия на разумно предвидима неправилна експлоатация, които могат да породят рискове за здравето и безопасността или за основните права, следва да бъдат включени в инструкциите за употреба, предоставени от доставчика. Целта е да се гарантира, че внедрителят е запознат с тях и ги взема предвид при използването на високорисковата система с ИИ. Определянето и прилагането на мерки за ограничаване на риска в случаи на предвидима неправилна експлоатация съгласно настоящия регламент не следва да изискват осигуряването на конкретно допълнително обучение за високорисковата система с ИИ от страна на доставчика с цел намиране на решение във връзка с предвидимата неправилна експлоатация. Доставчиците обаче се насърчават да обмислят такива допълнителни мерки за обучение с цел ограничаване на случаи на разумно предвидима неправилна експлоатация, когато това е необходимо и целесъобразно.
(65)
Jenħtieġ li s-sistema ta' ġestjoni tar-riskju tkun tikkonsisti fi proċess iterattiv kontinwu li jkun ippjanat u mħaddem tul iċ-ċiklu tal-ħajja kollu ta' sistema tal-IA b'riskju għoli. Jenħtieġ li dak il-proċess ikollu l-għan li jidentifika u jimmitiga r-riskji rilevanti tas-sistemi tal-IA fuq is-saħħa, is-sikurezza u d-drittijiet fundamentali. Jenħtieġ li s-sistema tal-ġestjoni tar-riskju tiġi rieżaminata u aġġornata regolarment biex jiġi żgurat li titkompla l-effettività tagħha, kif ukoll il-ġustifikazzjoni u d-dokumentazzjoni ta' kwalunkwe deċiżjoni u azzjoni sinifikanti meħuda soġġett għal dan ir-Regolament. Jenħtieġ li dan il-proċess jiżgura li l-fornitur jidentifika r-riskji jew l-impatti negattivi u jimplimenta miżuri ta' mitigazzjoni għar-riskji magħrufa u raġonevolment prevedibbli tas-sistemi tal-IA għas-saħħa, għas-sikurezza u għad-drittijiet fundamentali fid-dawl tal-għan maħsub tagħhom u tal-użu ħażin raġonevolment prevedibbli, inkluż ir-riskji possibbli li jirriżultaw mill-interazzjoni bejn is-sistema tal-IA u l-ambjent li topera fih. Jenħtieġ li s-sistema tal-ġestjoni tar-riskju tadotta l-aktar miżuri xierqa ta' ġestjoni tar-riskju fid-dawl tal-ogħla livell ta' żvilupp tekniku fl-IA. Meta jidentifika l-aktar miżuri xierqa ta' ġestjoni tar-riskju, jenħtieġ li l-fornitur jiddokumenta u jispjega l-għażliet li jkunu saru u, meta rilevanti, jinvolvi esperti u partijiet ikkonċernati esterni. Meta jidentifika l-użu ħażin raġonevolment prevedibbli ta' sistemi tal-IA b'riskju għoli, il-fornitur jenħtieġ li jkopri l-użi ta' sistemi tal-IA li, filwaqt li ma jkunux koperti direttament mill-għan maħsub u previst fl-istruzzjoni għall-użu, xorta waħda jistgħu jkunu raġonevolment mistennija li jirriżultaw minn imġiba umana faċilment prevedibbli fil-kuntest tal-karatteristiċi speċifiċi u tal-użu ta' sistema tal-IA partikolari. Jenħtieġ li kwalunkwe ċirkostanza magħrufa jew prevedibbli relatata mal-użu tas-sistema tal-IA b'riskju għoli f'konformità mal-għan maħsub tagħha jew f'kundizzjonijiet ta' użu ħażin raġonevolment prevedibbli, li tista' twassal għal riskji għas-saħħa u s-sikurezza jew għad-drittijiet fundamentali, tiġi inkluża fl-istruzzjonijiet għall-użu li huma pprovduti mill-fornitur. Dan biex jiġi żgurat li l-implimentatur ikun konxju u jqishom meta juża s-sistema tal-IA b'riskju għoli. Jenħtieġ li l-identifikazzjoni u l-implimentazzjoni ta' miżuri ta' mitigazzjoni tar-riskju għal użu ħażin prevedibbli skont dan ir-Regolament ma jirrikjedux taħriġ addizzjonali speċifiku għas-sistema tal-IA b'riskju għoli mill-fornitur biex jiġi indirizzat l-użu ħażin prevedibbli. Madankollu, il-fornituri huma mħeġġa jikkunsidraw tali miżuri ta' taħriġ addizzjonali biex itaffu l-użi ħżiena prevedibbli raġonevoli kif meħtieġ u xieraq.
(66)
По отношение на високорисковите системи с ИИ следва да се прилагат изисквания за управлението на риска, качеството и целесъобразността на използваните набори от данни, техническата документация и поддържането на регистри, прозрачността и предоставянето на информация на внедрителите, човешкия контрол, надеждността, точността и киберсигурността. Тези изисквания са необходими за ефективно ограничаване на рисковете за здравето, безопасността и основните права. Тъй като не съществуват други разумни, по-малко ограничителни мерки за търговията, тези изисквания не представляват необосновани ограничения на търговията.
(66)
Jenħtieġ li r-rekwiżiti japplikaw għas-sistemi tal-IA b'riskju għoli fir-rigward tal-ġestjoni tar-riskju, il-kwalità u r-rilevanza tas-settijiet tad-data użati, id-dokumentazzjoni teknika u ż-żamma tar-rekords, it-trasparenza u l-għoti tal-informazzjoni lill-implimentaturi, is-sorveljanza mill-bniedem, u r-robustezza, l-akkuratezza u ċ-ċibersigurtà. Dawk ir-rekwiżiti huma meħtieġa biex itaffu b'mod effettiv ir-riskji għas-saħħa u s-sikurezza u għad-drittijiet fundamentali. Billi l-ebda miżura oħra anqas restrittiva għall-kummerċ ma tkun raġonevolment disponibbli, dawk ir-rekwiżiti mhumiex restrizzjonijiet mhux ġustifikati għall-kummerċ.
(67)
Висококачествените данни и достъпът до тях имат жизненоважна роля за осигуряването на структура и за гарантирането на функционирането на много системи с ИИ, особено когато се използват техники, включващи обучение на модели, с цел да се гарантира, че високорисковата система с ИИ функционира по предназначение и по безопасен начин и не води до дискриминация, забранена от правото на Съюза. Висококачествените набори от обучителни, валидационни и изпитвателни данни изискват прилагането на подходящи практики за администриране и управление на данни. Наборите от обучителни, валидационни и изпитвателни данни, включително обозначенията, следва да бъдат подходящи, достатъчно представителни и във възможно най-голяма степен пълни и без грешки с оглед на предназначението на системата. За да се улесни спазването на правото на Съюза в областта на защитата на данните, като например Регламент (ЕС) 2016/679, практиките за администриране и управление на данни следва да включват, в случай на лични данни, прозрачност по отношение на първоначалната цел на събирането на данните. Наборите от данни следва също така да имат подходящи статистически свойства, включително по отношение на лицата или групите лица, във връзка с които е предназначена да се използва високорисковата система с ИИ, като се обръща специално внимание на намаляването на възможна предубеденост в наборите от данни, която има вероятност да засегне здравето и безопасността на хората, да окаже отрицателно въздействие върху основните права или да доведе до дискриминация, забранена съгласно правото на Съюза, особено когато резултатите от данните оказват влияние върху входящите данни за бъдещи операции (обратни връзки). Предубедеността може например да бъде присъща за основните набори от данни, особено при използването или генерирането на исторически данни, когато системите се внедряват в реални условия. Резултатите, предоставени от системи с ИИ, могат да се повлияват от такава присъща предубеденост, при която съществува тенденция постепенно да се увеличава и по този начин да затвърждава и засилва съществуващата дискриминация, по-специално по отношение на лица, принадлежащи към определени уязвими групи, включително расови или етнически групи. Изискването наборите от данни да бъдат във възможно най-голяма степен пълни и без грешки не следва да засяга използването на техники за опазване на неприкосновеността на личния живот в контекста на разработването и изпитването на системи с ИИ. По-специално, наборите от данни следва да са съобразени, доколкото това се изисква с оглед на предназначението им, с особеностите, характеристиките или елементите, характерни за конкретната географска, контекстуална, поведенческа или функционална среда, в която системата с ИИ е предназначена да бъде използвана. Изискванията, свързани с администрирането на данни, могат да бъдат спазени чрез използване на услугите на трети лица, които предлагат сертифицирани услуги за осигуряване на съответствие, включително проверка на администрирането на данните, целостта на наборите от данни и практиките за обучение, валидиране и изпитване на данните, доколкото се гарантира спазването на изискванията за данните по настоящия регламент.
(67)
Id-data ta' kwalità għolja u l-aċċess għal data ta' kwalità għolja għandhom rwol vitali fl-għoti tal-istruttura u fl-iżgurar tal-prestazzjoni ta' ħafna sistemi tal-IA, speċjalment meta jintużaw tekniki li jinvolvu t-taħriġ tal-mudelli, bl-għan li jiġi żgurat li s-sistema tal-IA b'riskju għoli taħdem kif suppost u b'mod sikur u ma ssirx sors ta' diskriminazzjoni pprojbit mil-liġi tal-Unjoni. Settijiet tad-data ta' kwalità għolja għal taħriġ, validazzjoni u ttestjar jirrikjedu l-implimentazzjoni ta' prattiki xierqa ta' governanza u ġestjoni tad-data. Jenħtieġ li s-settijiet tad-data għal taħriġ, validazzjoni u ttestjar, inkluż it-tikketti, ikunu rilevanti, rappreżentattivi biżżejjed, u sa fejn possibbli mingħajr żbalji u kompluti fid-dawl tal-għan maħsub tas-sistema. Sabiex tiġi ffaċilitata l-konformità mal-liġi tal-Unjoni dwar il-protezzjoni tad-data, bħar-Regolament (UE) 2016/679, jenħtieġ li l-prattiki ta' governanza u tal-ġestjoni tad-data jinkludu, fil-każ ta' data personali, trasparenza fir-rigward tal-iskop oriġinali tal-ġbir tad-data. Jenħtieġ li s-settijiet tad-data jkollhom ukoll il-proprjetajiet statistiċi xierqa, inkluż fir-rigward tal-persuni jew tal-gruppi ta' persuni li fir-rigward tagħhom hija maħsuba li tintuża s-sistema tal-IA b'riskju għoli, b'attenzjoni speċifika għall-mitigazzjoni tal-preġudizzji possibbli fis-settijiet tad-data, li x'aktarx jaffettwaw is-saħħa u s-sikurezza tal-persuni, ikollhom impatt negattiv fuq id-drittijiet fundamentali jew iwasslu għal diskriminazzjoni pprojbita skont il-liġi tal-Unjoni, speċjalment meta l-outputs tad-data jinfluwenzaw l-inputs għal operazzjonijiet futuri (feedback loops). Il-preġudizzji jistgħu pereżempju jkunu inerenti fis-settijiet tad-data sottostanti, speċjalment meta tkun qed tintuża data storika, jew iġġenerati meta s-sistemi jiġu implimentati f'ambjenti reali. Ir-riżultati pprovduti mis-sistemi tal-IA jistgħu jiġu influwenzati minn tali preġudizzji inerenti li huma inklinati li jiżdiedu gradwalment u b'hekk jipperpetwaw u jamplifikaw id-diskriminazzjoni eżistenti, b'mod partikolari għal persuni li jagħmlu parti minn ċerti gruppi vulnerabbli, inkluż gruppi razzjali jew etniċi. Jenħtieġ li r-rekwiżit li s-settijiet tad-data jkunu kemm jista' jkun kompluti u mingħajr żbalji ma jaffettwax l-użu ta' tekniki li jippreservaw il-privatezza fil-kuntest tal-iżvilupp u l-ittestjar tas-sistemi tal-IA. B'mod partikolari, jenħtieġ li s-settijiet tad-data jqisu, sa fejn ikun meħtieġ mill-għan maħsub tagħhom, il-karatteristiċi jew l-elementi partikolari għall-ambjent jew għall-issettjar ġeografiku, kuntestwali, komportamentali jew funzjonali speċifiku li fih tkun maħsuba li tintuża s-sistema tal-IA. Ir-rekwiżiti relatati mal-governanza tad-data jistgħu jiġu rrispettati billi jsir rikors għal partijiet terzi li joffru servizzi ta' konformità ċċertifikati inkluż verifika tal-governanza tad-data, tal-integrità tas-sett tad-data, u tat-taħriġ tad-data, il-prattiki tal-validazzjoni u tal-ittestjar, sa fejn tiġi żgurata l-konformità mar-rekwiżiti tad-data ta' dan ir-Regolament.
(68)
За разработването и оценката на високорискови системи с ИИ определени участници, като например доставчици, нотифицирани органи и други съответни субекти, например европейски цифрови иновационни центрове, структури за експериментиране и изпитване и научни работници, следва да имат достъп до и да използват висококачествени набори от данни в областите на дейност на тези участници, които са свързани с настоящия регламент. Общите европейски пространства на данни, създадени от Комисията, и улесняването на обмена на данни между предприятията и с държавните органи в името на обществения интерес ще бъдат от основно значение за осигуряването на надежден, отговорен и недискриминационен достъп до висококачествени данни за обучението, валидирането и изпитването на системите с ИИ. Например в областта на здравеопазването европейското пространство на здравни данни ще улесни недискриминационния достъп до здравни данни и обучението на алгоритми на ИИ въз основа на тези набори от данни по сигурен, навременен, прозрачен и надежден начин, при който се запазва неприкосновеността на личния живот, и при подходящо институционално управление. Съответните компетентни органи, включително секторните органи, които предоставят или подпомагат достъпа до данни, могат също така да подкрепят предоставянето на висококачествени данни за обучението, валидирането и изпитването на системите с ИИ.
(68)
Għall-iżvilupp u l-valutazzjoni ta' sistemi tal-IA b'riskju għoli, jenħtieġ li ċerti atturi, bħal fornituri, korpi notifikati u entitajiet rilevanti oħra, bħaċ-Ċentri Ewropej tal-Innovazzjoni Diġitali, il-faċilitajiet tal-esperimentazzjoni u ttestjar, u r-riċerkaturi, ikunu jistgħu jaċċessaw u jużaw settijiet tad-data ta' kwalità għolja fl-oqsma tal-attivitajiet ta' dawk l-atturi li huma relatati ma' dan ir-Regolament. L-ispazji komuni Ewropej tad-data stabbiliti mill-Kummissjoni u l-faċilitazzjoni tal-kondiviżjoni tad-data bejn in-negozji u mal-gvern fl-interess pubbliku ser ikunu strumentali biex jipprovdu aċċess affidabbli, responsabbli u nondiskriminatorju għal data ta' kwalità għolja għat-taħriġ, il-validazzjoni u l-ittestjar tas-sistemi tal-IA. Pereżempju, fil-qasam tas-saħħa, l-ispazju Ewropew tad-data dwar is-saħħa ser jiffaċilita aċċess nondiskriminatorju għal data dwar is-saħħa u t-taħriġ ta' algoritmi tal-IA fuq dawk is-settijiet tad-data, b'mod li jiżgura l-privatezza, li hu sigur, fil-ħin, trasparenti u affidabbli, u b'governanza istituzzjonali xierqa. L-awtoritajiet kompetenti rilevanti, inkluż dawk settorjali, li jipprovdu jew jappoġġaw l-aċċess għad-data, jistgħu jappoġġaw ukoll il-forniment ta' data ta' kwalità għolja għat-taħriġ, il-validazzjoni u l-ittestjar tas-sistemi tal-IA.
(69)
Правото на неприкосновеност на личния живот и на защита на личните данни трябва да бъде гарантирано през целия жизнен цикъл на системата с ИИ. В това отношение принципите на свеждане на данните до минимум и на защита на данните при проектирането и по подразбиране, определени в правото на Съюза в областта на защитата на данните, са приложими при обработването на лични данни. Мерките, предприети от доставчиците за гарантиране на спазването на тези принципи, могат да включват не само анонимизиране и криптиране, но и използване на технологии, които позволяват въвеждането на алгоритми в данните и позволяват обучение на системи с ИИ без предаване между страните или копиране на самите необработени или структурирани данни, без да се засягат изискванията за администриране на данните, предвидени в настоящия регламент.
(69)
Id-dritt għall-privatezza u għall-protezzjoni tad-data personali jrid jiġi ggarantit tul iċ-ċiklu tal-ħajja kollu tas-sistema tal-IA. F'dan ir-rigward, il-prinċipji tal-minimizzazzjoni tad-data u tal-protezzjoni tad-data mid-disinn u b'mod awtomatiku, kif stipulati fil-liġi tal-Unjoni dwar il-protezzjoni tad-data, huma applikabbli meta tiġi pproċessata d-data personali. Il-miżuri meħuda mill-fornituri biex jiżguraw il-konformità ma' dawk il-prinċipji jistgħu jinkludu mhux biss l-anonimizzazzjoni u l-kriptaġġ, iżda wkoll l-użu ta' teknoloġija li tippermetti li l-algoritmi jinġiebu fid-data u li tippermetti t-taħriġ tas-sistemi tal-IA mingħajr it-trażmissjoni bejn il-partijiet jew l-ikkupjar tad-data mhux ipproċessata jew strutturata nnifisha, mingħajr preġudizzju għar-rekwiżiti dwar il-governanza tad-data previsti f'dan ir-Regolament.
(70)
За да се защитят правата на други лица от дискриминацията, която може да произтича от предубеденост в системите с ИИ, доставчиците следва по изключение, доколкото това е строго необходимо за целите на осигуряването на откриване и коригиране на предубедеността във високорисковите системи с ИИ, при спазване на подходящи гаранции за основните права и свободи на физическите лица и след прилагането на всички приложими условия, установени в настоящия регламент, в допълнение към условията, установени в регламенти (ЕС) 2016/679 и (ЕС) 2018/1725 и в Директива (ЕС) 2016/680, да могат да обработват и специални категории лични данни като въпрос от важен обществен интерес по смисъла на член 9, параграф 2, буква ж) от Регламент (ЕС) 2016/679 и член 10, параграф 2, буква ж) от Регламент (ЕС) 2018/1725.
(70)
Biex jiġi protett id-dritt ta' oħrajn mid-diskriminazzjoni li tista' tirriżulta mill-preġudizzju fis-sistemi tal-IA, jenħtieġ li l-fornituri, b'mod eċċezzjonali, sa fejn ikun strettament meħtieġ għall-fini tal-iżgurar tal-kxif u l-korrezzjoni tal-preġudizzji fir-rigward tas-sistemi tal-IA b'riskju għoli, soġġetti għal salvagwardji xierqa għad-drittijiet u l-libertajiet fundamentali tal-persuni fiżiċi u wara l-applikazzjoni tal-kundizzjonijiet applikabbli kollha stabbiliti f'dan ir-Regolament flimkien mal-kundizzjonijiet stabbiliti fir-Regolamenti (UE) 2016/679 u (UE) 2018/1725 u fid-Direttiva (UE) 2016/680, ikunu jistgħu jipproċessaw ukoll kategoriji speċjali ta' data personali, bħala kwistjoni ta' interess pubbliku sostanzjali skont it-tifsira tal-Artikolu 9(2), il-punt (g) tar-Regolament (UE) 2016/679 u l-Artikolu 10(2), il-punt (g) tar-Regolament (UE) 2018/1725.
(71)
Наличието на разбираема информация за начина на разработване на високорисковите системи с ИИ и начина на функционирането им през целия срок на експлоатация е от съществено значение, за да се даде възможност за проследимост на тези системи, проверка на съответствието с изискванията съгласно настоящия регламент, както и мониторинг на тяхното функциониране и мониторинг след пускането на пазара. Това изисква поддържането на регистри и наличието на техническа документация, съдържаща информация, която е необходима за оценяване на съответствието на системата с ИИ с приложимите изисквания и за улесняване на мониторинга след пускането на пазара. Тази информация следва да включва общите характеристики, способностите и ограниченията на системата, използваните алгоритми, данни и процеси на обучение, изпитване и валидиране, както и документация за съответната система за управление на риска, и следва да се изготвя в ясна и разбираема форма. Техническата документация следва да се актуализира по подходящ начин през целия срок на експлоатация на системата с ИИ. Освен това високорисковите системи с ИИ следва технически да позволяват автоматично записване на събития посредством записи по време на срока на експлоатация на системата.
(71)
Huwa essenzjali li jkun hemm informazzjoni komprensibbli dwar kif ġew żviluppati s-sistemi tal-IA b'riskju għoli u kif jaħdmu tul ħajjithom kollha biex tkun tista' ssir it-traċċabbiltà ta' dawk is-sistemi, biex tiġi vverifikata l-konformità mar-rekwiżiti skont dan ir-Regolament, kif ukoll biex isir monitoraġġ tal-operazzjonijiet tagħhom u sorveljanza ta' wara t-tqegħid fis-suq. Għal dan il-għan, hemm bżonn li jinżammu rekords u li jkun hemm disponibbli dokumentazzjoni teknika, bl-informazzjoni meħtieġa biex tiġi vvalutata l-konformità tas-sistema tal-IA mar-rekwiżiti rilevanti u tiġi ffaċilitata s-sorveljanza ta' wara t-tqegħid fis-suq. Jenħtieġ li din l-informazzjoni tkun tinkludi l-karatteristiċi ġenerali, il-kapaċitajiet u l-limitazzjonijiet tas-sistema, tal-algoritmi, tad-data, tat-taħriġ, tal-ittestjar u tal-proċessi ta' validazzjoni użati kif ukoll dokumentazzjoni dwar is-sistema rilevanti tal-ġestjoni tar-riskji u li tkun mfassla f'forma ċara u komprensiva. Jenħtieġ li d-dokumentazzjoni teknika tinżamm aġġornata b'mod xieraq tul il-ħajja tas-sistema tal-IA. Barra minn hekk, jenħtieġ li s-sistemi tal-IA b'riskju għoli jippermettu teknikament ir-reġistrazzjoni awtomatika tal-avvenimenti, permezz ta' reġistri, tul il-ħajja tas-sistema.
(72)
За да се отговори на опасенията, свързани с непрозрачността и сложността на някои системи с ИИ, и да се помогне на внедрителите да изпълняват задълженията си съгласно настоящия регламент, следва да се изисква прозрачност за високорисковите системи с ИИ преди пускането им на пазара или пускането им в действие. Високорисковите системи с ИИ следва да бъдат проектирани по начин, който позволява на внедрителите да разберат как функционира системата с ИИ, да оценят нейната функционалност и да разберат нейните силни страни и ограничения. Високорисковите системи с ИИ следва да се придружават от подходяща информация под формата на инструкции за употреба. Тази информация следва да включва характеристиките, способностите и ограниченията на действието на системата с ИИ. Те ще обхващат информация относно възможните известни и предвидими обстоятелства, свързани с използването на високорисковата система с ИИ, включително действия от страна на внедрителя, които могат да повлияят на поведението и работата на системата и в рамките на които системата с ИИ може да породи рискове за здравето, безопасността и основните права, относно промените, които са предварително определени и чието съответствие е оценено от доставчика, както и относно съответните мерки за човешки контрол, включително мерките за улесняване на тълкуването на резултатите от системата с ИИ от внедрителите. Прозрачността, включително придружаващите инструкции за употреба, следва да подпомага внедрителите при използването на системата, както и при вземането на информирани решения. Внедрителите следва, наред с другото, да разполагат с по-добра възможност да направят правилния избор за системата, която възнамеряват да използват с оглед на приложимите за тях задължения, да бъдат запознати с предвиденото и неразрешеното използване и да използват системата с ИИ правилно и целесъобразно. За да се подобри разбираемостта и достъпността на информацията, включена в инструкциите за употреба, когато е целесъобразно следва да бъдат включени илюстративни примери, например относно ограниченията и относно предвиденото и неразрешеното използване на системата с ИИ. Доставчиците следва да гарантират, че цялата документация, включително инструкциите за употреба, съдържа съдържателна, изчерпателна, достъпна и разбираема информация, като се вземат предвид нуждите и предвидимите познания на внедрителите, за които е предназначена. Инструкциите за употреба следва да се предоставят на език, лесно разбираем за внедрителите, за които са предназначени, който е определен от съответната държава членка.
(72)
Biex jiġi indirizzat it-tħassib relatat mal-opaċità u l-kumplessità ta' ċerti sistemi tal-IA u biex l-implimentaturi jiġu megħjuna jissodisfaw l-obbligi tagħhom skont dan ir-Regolament, jenħtieġ li tkun meħtieġa trasparenza għas-sistemi tal-IA b'riskju għoli qabel ma jiġu introdotti fis-suq jew jitqiegħdu fis-servizz. Jenħtieġ li s-sistemi tal-IA b'riskju għoli jitfasslu b'mod li jippermetti lill-implimentaturi jifhmu kif taħdem is-sistema tal-IA, jevalwaw il-funzjonalità tagħha, u jifhmu l-elementi b'saħħithom u l-limitazzjonijiet tagħha. Jenħtieġ li s-sistemi tal-IA b'riskju għoli jkunu akkumpanjati minn informazzjoni xierqa fil-forma ta' struzzjonijiet dwar l-użu. Jenħtieġ li tali informazzjoni tinkludi l-karatteristiċi, il-kapaċitajiet u l-limitazzjonijiet tal-prestazzjoni tas-sistema tal-IA. Dawk ikopru informazzjoni dwar ċirkostanzi magħrufa u prevedibbli possibbli relatati mal-użu tas-sistema tal-IA b'riskju għoli, inkluż l-azzjoni tal-implimentatur li tista' tinfluwenza l-imġiba u l-prestazzjoni tas-sistema, li skontha s-sistema tal-IA tista' twassal għal riskji għas-saħħa, is-sikurezza, u d-drittijiet fundamentali, dwar il-bidliet li jkunu ġew iddeterminati minn qabel u vvalutati għall-konformità mill-fornitur u dwar il-miżuri rilevanti ta' sorveljanza mill-bniedem, inkluż il-miżuri li jiffaċilitaw l-interpretazzjoni tal-outputs tas-sistema tal-IA mill-implimentaturi. It-trasparenza, inkluż l-istruzzjonijiet ta' akkumpanjament għall-użu, għandha tassisti lill-implimentaturi fl-użu tas-sistema u tappoġġa t-teħid ta' deċiżjonijiet infurmat minnhom., Jenħtieġ li l-implimentaturi, fost l-oħrajn, jkunu f'pożizzjoni aħjar biex jagħmlu l-għażla korretta tas-sistema li beħsiebhom jużaw fid-dawl tal-obbligi applikabbli għalihom, jiġu edukati dwar l-użi maħsuba u preklużi, u jużaw is-sistema tal-IA b'mod korrett u kif xieraq. Biex jissaħħu l-leġibbiltà u l-aċċessibbiltà tal-informazzjoni inkluża fl-istruzzjonijiet tal-użu, meta xieraq, jenħtieġ li jiġu inklużi eżempji illustrattivi, pereżempju dwar il-limitazzjonijiet u dwar l-użi maħsuba u preklużi tas-sistema tal-IA. Jenħtieġ li l-fornituri jiżguraw li d-dokumentazzjoni kollha, inkluż l-istruzzjonijiet għall-użu, ikun fiha informazzjoni sinifikanti, komprensiva, aċċessibbli u li tinftiehem, filwaqt li jitqiesu l-ħtiġijiet u l-għarfien prevedibbli tal-implimentaturi fil-mira. Jenħtieġ li l-istruzzjonijiet għall-użu jkunu disponibbli b'lingwa li tista' tinftiehem faċilment mill-implimentaturi fil-mira, kif determinat mill-Istat Membru kkonċernat.
(73)
Високорисковите системи с ИИ следва да бъдат проектирани и разработени по такъв начин, че физическите лица да могат да следят тяхното функциониране, да гарантират, че те се използват по предназначение и че въздействието им се взема предвид през целия жизнен цикъл на системата. За тази цел доставчикът на системата следва да определи подходящи мерки за човешки контрол преди пускането ѝ на пазара или пускането ѝ в действие. По-специално, когато е целесъобразно, тези мерки следва да гарантират, че за системата се прилагат вградени оперативни ограничения, които не могат да бъдат заобиколени от самата система, и че тя отговаря на човека оператор, както и че физическите лица, на които е възложен човешкият контрол, разполагат с необходимата компетентност, обучение и авторитет за изпълнение на тази роля. Освен това е от съществено значение, когато е целесъобразно, да се гарантира, че високорисковите системи с ИИ включват механизми за даване на насоки и информация на дадено физическо лице, на което е възложен човешки контрол, за да взема информирани решения дали, кога и как да се намеси, за да се избегнат отрицателни последици или рискове, или да се спре системата, ако тя не функционира по предназначение. Предвид сериозните последици за хората в случай на неточно съвпадение, генерирано от някои системи за биометрична идентификация, е целесъобразно да се предвиди изискване за засилен човешки контрол над тези системи, така че внедрителят да не може да предприеме действие или да вземе решение въз основа на установена от системата самоличност, без това да е било проверено и потвърдено най-малко от две физически лица поотделно. Тези лица могат да се числят към един или повече образувания и да включват лицето, което управлява или използва системата. Това изискване не следва да поражда ненужна тежест или да води до забавяне; автоматичното вписване на отделните проверки, извършени от различните лица, в генерираните от системата записи би могло да е достатъчно. Като се имат предвид особеностите на правоохранителната област и областите на миграцията, граничния контрол и убежището, това изискване не следва да се прилага, когато според правото на Съюза или националното право се счита, че прилагането на това изискване е непропорционално.
(73)
Jenħtieġ li s-sistemi tal-IA b'riskju għoli jitfasslu u jiġu żviluppati b'tali mod li l-persuni fiżiċi jkunu jistgħu jissorveljaw il-funzjonament tagħhom, jiżguraw li jintużaw kif maħsub u li l-impatti tagħhom jiġu indirizzati matul iċ-ċiklu tal-ħajja tas-sistema. Għal dak il-għan, jenħtieġ li l-fornitur tas-sistema jidentifika miżuri xierqa ta' sorveljanza mill-bniedem qabel ma tiġi introdotta fis-suq jew imqiegħda fis-servizz. B'mod partikolari, meta xieraq, jenħtieġ li dawn il-miżuri jkunu jiggarantixxu li s-sistema tkun soġġetta għal restrizzjonijiet operazzjonali inkorporati li ma jistgħux jitwarrbu mis-sistema nnifisha u li tkun tirreaġixxi għall-operatur uman, u li l-persuni fiżiċi li lilhom tkun ġiet assenjata sorveljanza mill-bniedem jkollhom il-kompetenza, it-taħriġ u l-awtorità meħtieġa biex jaqdu dak ir-rwol. Huwa essenzjali wkoll, kif xieraq, li jiġi żgurat li s-sistemi tal-IA b'riskju għoli jinkludu mekkaniżmi li jiggwidaw u jinfurmaw lil persuna fiżika li lilha tkun ġiet assenjata s-sorveljanza mill-bniedem biex tieħu deċiżjonijiet infurmati dwar jekk, meta u kif għandha tintervjeni biex jiġu evitati konsegwenzi jew riskji negattivi, jew biex titwaqqaf is-sistema jekk ma taħdimx kif maħsub. Meta jitqiesu l-konsegwenzi sinifikanti għall-persuni fil-każ ta' tqabbil mhux korrett minn ċerti sistemi ta’ identifikazzjoni bijometrika, huwa xieraq li jiġi previst rekwiżit imtejjeb ta' sorveljanza mill-bniedem għal dawk is-sistemi sabiex ma tittieħed l-ebda azzjoni jew deċiżjoni mill-implimentatur abbażi tal-identifikazzjoni li tirriżulta mis-sistema sakemm dan ma jkunx ġie vverifikat u kkonfermat separatament minn mill-inqas żewġ persuni fiżiċi. Dawk il-persuni jistgħu jkunu minn entità waħda jew aktar u jinkludu l-persuna li topera jew li tuża s-sistema. Jenħtieġ li dan ir-rekwiżit ma joħloqx piż jew dewmien bla bżonn u jista' jkun biżżejjed li l-verifiki separati mill-persuni differenti jiġu rreġistrati awtomatikament fir-reġistri ġġenerati mis-sistema. Minħabba l-ispeċifiċitajiet tal-oqsma tal-infurzar tal-liġi, il-migrazzjoni, il-kontroll tal-fruntieri u l-ażil, jenħtieġ li dan ir-rekwiżit ma japplikax fejn il-liġi tal-Unjoni jew dik nazzjonali tqis li l-applikazzjoni ta' dak ir-rekwiżit hija sproporzjonata.
(74)
Високорисковите системи с ИИ следва да функционират стабилно през целия си жизнен цикъл и да съответстват на подходящо ниво на точност, надеждност и киберсигурност, с оглед на тяхното предназначение и в съответствие с общопризнатите съвременни технически постижения. Комисията и съответните организации и заинтересовани страни се насърчават да вземат надлежно предвид ограничаването на рисковете и отрицателното въздействие на системата с ИИ. Очакваното ниво на показателите за ефективност следва да бъде обявено в придружаващите инструкции за употреба. Доставчиците се приканват да съобщават тази информация на внедрителите по ясен и лесно разбираем начин, без възможности за недоразумения или подвеждащи твърдения. Правото на Съюза в областта на законовата метрология, включително директиви 2014/31/ЕС (35) и 2014/32/ЕС (36) на Европейския парламент и на Съвета, има за цел да гарантира точността на измерванията и да спомогне за прозрачността и почтеността на търговските сделки. В този контекст, в сътрудничество със съответните заинтересовани страни и организации, като например органите по метрология и сравнителен анализ, Комисията следва да насърчава, когато е целесъобразно, разработването на сравнителни показатели и методики за измерване за системите с ИИ. При това Комисията следва да вземе под внимание и да си сътрудничи с международните партньори, работещи в областта на метрологията и съответните показатели за измерване, свързани с ИИ.
(74)
Jenħtieġ li s-sistemi tal-IA b'riskju għoli jaħdmu b'mod konsistenti tul iċ-ċiklu tal-ħajja tagħhom u jissodisfaw livell xieraq ta' akkuratezza, robustezza u ċibersigurtà, fid-dawl tal-għan maħsub tagħhom u f'konformità mal-ogħla livell ta' żvilupp tekniku rikonoxxut b'mod ġenerali. Il-Kummissjoni u l-organizzazzjonijiet u l-partijiet ikkonċernati rilevanti huma mħeġġa jqisu kif xieraq il-mitigazzjoni tar-riskji u l-impatti negattivi tas-sistema tal-IA. Jenħtieġ li l-livell mistenni tal-metriċi tal-prestazzjoni jiġi ddikjarat fl-istruzzjonijiet tal-użu li jakkumpanjawhom. Il-fornituri huma mħeġġa jikkomunikaw dik l-informazzjoni lill-implimentaturi b'mod ċar u li jinftiehem faċilment, mingħajr nuqqas ta' fehim jew dikjarazzjonijiet qarrieqa. Il-liġi tal-Unjoni dwar il-metroloġija legali, inkluż id-Direttivi 2014/31/UE (35) u 2014/32/UE (36) tal-Parlament Ewropew u tal-Kunsill, għandha l-għan li tiżgura l-akkuratezza tal-kejl u li tgħin it-trasparenza u l-ġustizzja tat-tranżazzjonijiet kummerċjali. F'dak il-kuntest, f'kooperazzjoni mal-partijiet ikkonċernati u l-organizzazzjoni rilevanti, bħall-awtoritajiet tal-metroloġija u tal-valutazzjoni komparattiva, jenħtieġ li l-Kummissjoni tħeġġeġ, kif xieraq, l-iżvilupp ta' parametri referenzjarji u metodoloġiji ta' kejl għas-sistemi tal-IA. Meta tagħmel dan, jenħtieġ li l-Kummissjoni tieħu nota u tikkollabora mas-sħab internazzjonali li jaħdmu fuq il-metroloġija u l-indikaturi tal-kejl rilevanti relatati mal-IA.
(75)
Техническата надеждност е ключово изискване за високорисковите системи с ИИ. Те следва да бъдат устойчиви на вредно или друго нежелателно поведение, което може да се прояви в резултат на ограничения в системите или средата, в която те работят (например грешки, дефекти, несъответствия, неочаквани ситуации). Поради това следва да се предприемат технически и организационни мерки, за да се гарантира надеждността на високорисковите системи с ИИ, например чрез проектиране и разработване на подходящи технически решения за предотвратяване или свеждане до минимум на вредното или друго нежелано поведение. Тези технически решения могат да включват например механизми, позволяващи на системата безопасно да прекъсне работата си (аварийни планове) при наличието на определени аномалии или когато работата се извършва извън предварително определени граници. Липсата на защита срещу тези рискове може да повлияе на безопасността или да се отрази отрицателно на основните права, например поради неправилни решения или погрешни или опорочени от предубеденост резултати, генерирани от системата с ИИ.
(75)
Ir-robustezza teknika hi rekwiżit ewlieni għas-sistemi tal-IA b'riskju għoli. Jenħtieġ li dawn ikunu reżiljenti fir-rigward ta' mġiba li tagħmel ħsara jew li mhux mixtieqa b'xi mod ieħor li tista' tirriżulta minn limitazzjonijiet fis-sistemi jew fl-ambjent li fih joperaw is-sistemi (eż. żbalji, ħsarat, inkonsistenzi, sitwazzjonijiet mhux mistennija). Għalhekk, jenħtieġ li jittieħdu miżuri tekniċi u organizzattivi biex tiġi żgurata r-robustezza tas-sistemi tal-IA b'riskju għoli, pereżempju billi jitfasslu u jiġu żviluppati soluzzjonijiet tekniċi xierqa biex tiġi evitata jew minimizzata mġiba ta' ħsara jew fi kwalunkwe każ, mhux mixtieqa. Dawk is-soluzzjonijiet tekniċi jistgħu jinkludu pereżempju mekkaniżmi li jippermettu lis-sistema tinterrompi b'mod sikur l-operat tagħha (pjanijiet sikuri) fil-preżenza ta' ċerti anomaliji jew meta l-operazzjoni sseħħ barra minn ċerti limiti predeterminati. In-nuqqas ta' protezzjoni kontra dawn ir-riskji jista' jwassal għal impatti fuq is-sikurezza jew jaffettwa ħażin id-drittijiet fundamentali, pereżempju minħabba deċiżjonijiet żbaljati jew outputs ħżiena jew preġudikati ġġenerati mis-sistema tal-IA.
(76)
Киберсигурността има решаващо значение, за да се гарантира, че системите с ИИ са устойчиви на опити за промяна на тяхното използване, поведение или ефективност или за засягане на техните свойства, свързани със сигурността, от недобросъвестни трети лица, които се възползват от уязвимостта на системата. Кибератаките срещу системи с ИИ могат да засегнат специфични за ИИ ресурси, като например набори от обучителни данни (например чрез „отравяне на данните“) или обучени модели (например чрез враждебни атаки или изводи за принадлежност), или да използват уязвимите места в цифровите ресурси на системата с ИИ или в основната ИКТ инфраструктура. За да се гарантира ниво на киберсигурност, съобразено с рисковете, доставчиците на високорискови системи с ИИ следва да предприемат подходящи мерки, например проверки на сигурността, като отчитат надлежно и основната ИКТ инфраструктура.
(76)
Iċ-ċibersigurtà taqdi rwol kruċjali biex ikunu żgurati sistemi tal-IA reżiljenti kontra tentattivi biex jinbidlu l-użu, l-imġiba jew il-prestazzjoni tal-proprjetajiet tas-sigurtà tagħhom jew li dawn il-proprjetajiet jiġu kompromessi minn partijiet terzi malizzjużi li jisfruttaw il-vulnerabbiltajiet tas-sistema. Iċ-ċiberattakki kontra s-sistemi tal-IA jistgħu jisfruttaw assi speċifiċi għall-IA, bħal settijiet tad-data għat-taħriġ (eż. avvelenament tad-data) jew mudelli mħarrġin (eż. attakki kontradittorji jew inferenza ta' sħubija), jew jisfruttaw vulnerabbiltajiet fl-assi diġitali tas-sistema tal-IA jew fl-infrastruttura sottostanti tal-ICT. Għalhekk, biex ikun żgurat livell ta' ċibersigurtà xieraq għar-riskji, jenħtieġ li l-fornituri tas-sistemi tal-IA b'riskju għoli jieħdu l-miżuri adegwati, bħal kontrolli ta' sigurtà, filwaqt li jqisu wkoll kif xieraq l-infrastruttura sottostanti tal-ICT.
(77)
Без да се засягат изискванията, свързани с надеждността и точността, установени в настоящия регламент, при високорисковите системи с ИИ, които попадат в обхвата на регламент на Европейския парламент и на Съвета относно хоризонтални изисквания за киберсигурност за продукти с цифрови елементи, в съответствие с посочения регламент, може да се докаже съответствие с изискванията за киберсигурност на настоящия регламент, като се изпълнят съществените изисквания за киберсигурност, установени в посочения регламент. Когато високорисковите системи с ИИ съответстват на съществените изисквания на регламент на Европейския парламент и на Съвета относно хоризонтални изисквания за киберсигурност за продукти с цифрови елементи, те следва да се считат за съответстващи на изискванията за киберсигурност, установени в настоящия регламент, доколкото изпълнението на тези изисквания е доказано в ЕС декларацията за съответствие или части от нея, изготвена съгласно посочения регламент. За тази цел при оценката на рисковете за киберсигурността, свързани с продукт с цифрови елементи, класифициран като високорискова система с ИИ съгласно настоящия регламент, извършена съгласно регламент на Европейския парламент и на Съвета относно хоризонтални изисквания за киберсигурност за продукти с цифрови елементи, следва да се вземат предвид рисковете за киберустойчивостта на дадена система с ИИ по отношение на опитите на неоправомощени трети лица да променят нейното използване, поведение или работа, включително специфичните за ИИ уязвими места, като например „отравяне на данни“ или враждебни атаки, както и, ако е целесъобразно, рисковете за основните права, както се изисква в настоящия регламент.
(77)
Mingħajr preġudizzju għar-rekwiżiti relatati mar-robustezza u l-akkuratezza stipulati f'dan ir-Regolament, is-sistemi tal-IA b'riskju għoli li jaqgħu fil-kamp ta' applikazzjoni ta’ Regolament tal-Parlament Ewropew u tal-Kunsill dwar ir-rekwiżiti orizzontali taċ-ċibersigurtà għall-prodotti b'elementi diġitali, f'konformità ma' dak ir-regolament jistgħu juru konformità mar-rekwiżiti taċ-ċibersigurtà ta' dan ir-Regolament billi jissodisfaw ir-rekwiżiti essenzjali taċ-ċibersigurtà stipulati f’ dak ir-regolament. Meta s-sistemi tal-IA b'riskju għoli jissodisfaw ir-rekwiżiti essenzjali ta’ regolament tal-Parlament Ewropew u tal-Kunsill dwar ir-rekwiżiti orizzontali taċ-ċibersigurtà għall-prodotti b'elementi diġitali, jenħtieġ li jitqiesu bħala konformi mar-rekwiżiti taċ-ċibersigurtà stipulati f'dan ir-Regolament sa fejn il-kisba ta' dawk ir-rekwiżiti tintwera fid-dikjarazzjoni ta' konformità tal-UE jew partijiet minnha maħruġa skont dak ir-regolament. Għal dak il-għan, jenħtieġ li l-valutazzjoni tar-riskji taċ-ċibersigurtà, assoċjati ma' prodott b'elementi diġitali kklassifikati bħala sistema tal-IA b'riskju għoli skont dan ir-Regolament, imwettqa skont regolament tal-Parlament Ewropew u tal-Kunsill dwar ir-rekwiżiti orizzontali taċ-ċibersigurtà għall-prodotti b'elementi diġitali, tqis ir-riskji għar-reżiljenza ċibernetika ta' sistema tal-IA fir-rigward ta' tentattivi minn partijiet terzi mhux awtorizzati biex ibiddlu l-użu, l-imġiba jew il-prestazzjoni tagħha, inkluż vulnerabbiltajiet speċifiċi għall-IA bħall-avvelenament tad-data jew attakki kontradittorji, kif ukoll, kif rilevanti, riskji għad-drittijiet fundamentali kif meħtieġ minn dan ir-Regolament.
(78)
Процедурата за оценяване на съответствието, предвидена в настоящия регламент, следва да се прилага по отношение на съществените изисквания за киберсигурност на даден продукт с цифрови елементи, попадащ в обхвата на регламент на Европейския парламент и на Съвета относно хоризонтални изисквания за киберсигурност за продукти с цифрови елементи и класифициран като високорискова система с ИИ съгласно настоящия регламент. Това правило обаче не следва да води до намаляване на необходимото ниво на увереност за критичните продукти с цифрови елементи, обхванати от регламент на Европейския парламент и на Съвета относно хоризонтални изисквания за киберсигурност за продукти с цифрови елементи. Поради това, чрез дерогация от това правило, за високорисковите системи с ИИ, които попадат в обхвата на настоящия регламент и които също така са определени като важни и критични продукти с цифрови елементи съгласно регламент на Европейския парламент и на Съвета относно хоризонтални изисквания за киберсигурност за продукти с цифрови елементи, и за които се прилага процедурата за оценяване на съответствието въз основа на вътрешен контрол, посочена в приложение към настоящия регламент, се прилагат разпоредбите за оценяване на съответствието, съдържащи се в регламент на Европейския парламент и на Съвета относно хоризонтални изисквания за киберсигурност за продукти с цифрови елементи, доколкото това се отнася до съществените изисквания за киберсигурност, установени в посочения регламент. В този случай за всички останали аспекти, обхванати от настоящия регламент, следва да се прилагат съответните разпоредби относно оценяването на съответствието въз основа на вътрешен контрол, установени в приложение към настоящия регламент. Въз основа на знанията и експертния опит на Агенцията на Европейския съюз за киберсигурност (ENISA) относно политиката в областта на киберсигурността и задачите, възложени на ENISA съгласно Регламент (ЕС) 2019/881 на Европейския парламент и на Съвета (37), Комисията следва да си сътрудничи с ENISA по въпроси, свързани с киберсигурността на системите с ИИ.
(78)
Jenħtieġ li l-proċedura ta' valutazzjoni tal-konformità prevista minn dan ir-Regolament tapplika fir-rigward tar-rekwiżiti essenzjali taċ-ċibersigurtà ta' prodott b'elementi diġitali kopert minn Regolament tal-Parlament Ewropew u tal-Kunsill dwar ir-rekwiżiti orizzontali taċ-ċibersigurtà għall-prodotti b'elementi diġitali u kklassifikat bħala sistema tal-IA b'riskju għoli skont dan ir-Regolament. Madankollu, jenħtieġ li din ir-regola ma tirriżultax fit-tnaqqis tal-livell meħtieġ ta' assigurazzjoni għal prodotti kritiċi b'elementi diġitali koperti minn Regolament tal-Parlament Ewropew u tal-Kunsill dwar ir-rekwiżiti orizzontali taċ-ċibersigurtà għall-prodotti b'elementi diġitali. Għalhekk, b'deroga minn din ir-regola, sistemi tal-IA b'riskju għoli li jaqgħu fil-kamp ta' applikazzjoni ta' dan ir-Regolament u li huma kkwalifikati wkoll bħala prodotti importanti u kritiċi b'elementi diġitali skont Regolament tal-Parlament Ewropew u tal-Kunsill dwar ir-rekwiżiti orizzontali taċ-ċibersigurtà għall-prodotti b'elementi diġitali u li għalihom tapplika l-proċedura ta' valutazzjoni tal-konformità bbażata fuq il-kontroll intern stipulata f'anness ta' dan ir-Regolament, huma soġġetti għad-dispożizzjonijiet dwar il-valutazzjoni tal-konformità ta’ Regolament tal-Parlament Ewropew u tal-Kunsill dwar ir-rekwiżiti orizzontali taċ-ċibersigurtà għall-prodotti b'elementi diġitali sa fejn ikunu kkonċernati r-rekwiżiti essenzjali taċ-ċibersigurtà ta' dak ir-Regolament. F'dan il-każ, jenħtieġ li għall-aspetti l-oħra kollha koperti minn dan ir-Regolament japplikaw id-dispożizzjonijiet rispettivi dwar il-valutazzjoni tal-konformità bbażata fuq il-kontroll intern stipulati f'anness ta' dan ir-Regolament. Filwaqt li tibni fuq l-għarfien u l-kompetenza esperta tal-ENISA dwar il-politika taċ-ċibersigurtà u l-kompiti assenjati lill-ENISA skont ir-Regolament (UE) 2019/881 tal-Parlament Ewropew u tal-Kunsill (37), jenħtieġ li l-Kummissjoni tikkoopera mal-ENISA dwar kwistjonijiet relatati maċ-ċibersigurtà tas-sistemi tal-IA.
(79)
Целесъобразно е конкретно физическо или юридическо лице, определено като доставчик, да поеме отговорността за пускането на пазара или пускането в действие на дадена високорискова система с ИИ, независимо дали това физическо или юридическо лице е проектирало или разработило системата.
(79)
Huwa xieraq li persuna fiżika jew ġuridika speċifika, definita bħala l-fornitur, tieħu r-responsabbiltà għall-introduzzjoni fis-suq jew għat-tqegħid fis-servizz ta' sistema tal-IA b'riskju għoli, irrispettivament minn jekk dik il-persuna fiżika jew ġuridika tkunx il-persuna li fasslet jew żviluppat is-sistema.
(80)
Като страни по Конвенцията на Организацията на обединените нации за правата на хората с увреждания Съюзът и държавите членки са правно задължени да защитават хората с увреждания от дискриминация и да насърчават тяхното равенство, да гарантират, че хората с увреждания имат достъп на равна основа с всички останали до информационни и комуникационни технологии и системи, и да гарантират зачитане на неприкосновеността на личния живот на хората с увреждания. Предвид нарастващото значение и използване на системи с ИИ прилагането на принципите за универсален дизайн за всички нови технологии и услуги следва да гарантира пълен и равен достъп на всички, които е възможно да бъдат засегнати от технологиите за ИИ или които ги използват, включително хората с увреждания, по начин, който изцяло отчита присъщото им достойнство и многообразие. Следователно е от съществено значение доставчиците да осигурят пълно съответствие с изискванията за достъпност, включително с Директива (ЕС) 2016/2102 на Европейския парламент и на Съвета (38) и Директива (ЕС) 2019/882. Доставчиците следва да осигурят съответствието с тези изисквания при проектирането. Поради това необходимите мерки следва да бъдат интегрирани във възможно най-голяма степен в проектирането на високорисковата система с ИИ.
(80)
Bħala firmatarji tal-Konvenzjoni tan-Nazzjonijiet Uniti dwar id-Drittijiet ta' Persuni b'Diżabbiltà, l-Unjoni u l-Istati Membri huma legalment obbligati li jipproteġu lill-persuni b'diżabbiltà mid-diskriminazzjoni u li jippromwovu l-ugwaljanza tagħhom, li jiżguraw li l-persuni b'diżabbiltà jkollhom aċċess, fuq bażi ugwali ma' oħrajn, għat-teknoloġiji u s-sistemi tal-informazzjoni u tal-komunikazzjoni, u li jiżguraw ir-rispett għall-privatezza tal-persuni b'diżabbiltà. Minħabba l-importanza u l-użu dejjem akbar tas-sistemi tal-IA, l-applikazzjoni tal-prinċipji tad-disinn universali għat-teknoloġiji u s-servizzi l-ġodda kollha jenħtieġ li tiżgura aċċess sħiħ u ugwali għal kulħadd li potenzjalment jista' jiġi affettwat minn jew li juża teknoloġiji tal-IA, inkluż persuni b'diżabbiltà, b'mod li jqis bis-sħiħ id-dinjità u d-diversità inerenti tagħhom. Għalhekk huwa essenzjali li l-fornituri jiżguraw konformità sħiħa mar-rekwiżiti ta' aċċessibbiltà, inkluż id-Direttiva (UE) 2016/2102 tal-Parlament Ewropew u tal-Kunsill (38) u d-Direttiva (UE) 2019/882. Jenħtieġ li l-fornituri jiżguraw il-konformità ma' dawn ir-rekwiżiti mid-disinn. Għalhekk, jenħtieġ li l-miżuri meħtieġa jiġu integrati kemm jista' jkun fid-disinn tas-sistema tal-IA b'riskju għoli.
(81)
Доставчикът следва да създаде стабилна система за управление на качеството, да гарантира изпълнението на изискваната процедура за оценяване на съответствието, да изготви съответната документация и да създаде надеждна система за мониторинг след пускането на пазара. Доставчиците на високорискови системи с ИИ, които имат задължения по отношение на системите за управление на качеството съгласно съответното секторно право на Съюза, следва да имат възможност да включат елементите на системата за управление на качеството, предвидена в настоящия регламент, като част от съществуващата система за управление на качеството, предвидена в посоченото друго секторно право на Съюза. Взаимното допълване между настоящия регламент и действащото секторно право на Съюза също следва да бъде взето предвид в бъдещите дейности по стандартизация или в насоките, приемани от Комисията. Публичните органи, които пускат в действие високорискови системи с ИИ за свое собствено ползване, могат да приемат и прилагат правилата за системата за управление на качеството като част от приетата на национално или регионално равнище система за управление на качеството, когато е целесъобразно, като вземат предвид особеностите на сектора и компетентността и организацията на съответния публичен орган.
(81)
Jenħtieġ li l-fornitur jistabbilixxi sistema tajba ta' ġestjoni tal-kwalità, jiżgura t-twettiq tal-proċedura mitluba għal valutazzjoni tal-konformità, ifassal id-dokumentazzjoni rilevanti u jistabbilixxi sistema robusta ta' sorveljanza ta' wara t-tqegħid fis-suq. Jenħtieġ li l-fornituri tas-sistemi tal-IA b'riskju għoli li huma soġġetti għal obbligi rigward is-sistemi ta' ġestjoni tal-kwalità skont il-liġi settorjali rilevanti tal-Unjoni jkollhom il-possibbiltà li jinkludu l-elementi tas-sistema ta' ġestjoni tal-kwalità previsti f'dan ir-Regolament bħala parti mis-sistema eżistenti ta' ġestjoni tal-kwalità prevista f'dik il-liġi settorjali l-oħra tal-Unjoni. Jenħtieġ li l-komplementarjetà bejn dan ir-Regolament u l-liġi settorjali eżistenti tal-Unjoni titqies ukoll fl-attivitajiet ta' standardizzazzjoni jew ta' gwida futuri adottati mill-Kummissjoni. L-awtoritajiet pubbliċi li jqiegħdu fis-servizz sistemi tal-IA b'riskju għoli għall-użu tagħhom stess jistgħu jadottaw u jimplimentaw ir-regoli għas-sistema ta' ġestjoni tal-kwalità bħala parti mis-sistema ta' ġestjoni tal-kwalità adottata fil-livell nazzjonali jew reġjonali, kif xieraq, filwaqt li jqisu l-ispeċifiċitajiet tas-settur u l-kompetenzi u l-organizzazzjoni tal-awtorità pubblika kkonċernata.
(82)
За да се даде възможност за прилагането на настоящия регламент и за да се създадат условия на равнопоставеност за операторите, както и предвид различните форми на предоставяне на цифрови продукти, е важно да се гарантира, че при всички обстоятелства установено в Съюза лице може да предостави на органите цялата необходима информация относно съответствието на дадена система с ИИ. Следователно преди да се предоставят техните системи на пазара на Съюза, доставчиците, установени в трети държави, следва да определят с писмено пълномощно упълномощен представител, който е установен в Съюза. Този упълномощен представител има ключово значение за осигуряване на съответствието на високорисковите системи с ИИ, пуснати на пазара или пуснати в действие в Съюза от тези доставчици, които не са установени в Съюза, както и за изпълнение на функциите на лице за връзка, установено в Съюза.
(82)
Biex jiġi ffaċilitat l-infurzar ta' dan ir-Regolament u jinħolqu kundizzjonijiet ekwi għall-operaturi, u filwaqt li jitqiesu l-forom differenti ta' tqegħid għad-dispożizzjoni tal-prodotti diġitali, hu importanti li jkun żgurat li, f'kull ċirkostanza, persuna stabbilita fl-Unjoni tkun tista' tipprovdi l-informazzjoni kollha meħtieġa lill-awtoritajiet dwar il-konformità tas-sistema tal-IA. Għalhekk, qabel ma jagħmlu s-sistemi tal-IA tagħhom disponibbli fl-Unjoni, il-fornituri stabbiliti f'pajjiżi terzi jenħtieġ li jaħtru, b'mandat bil-miktub, rappreżentant awtorizzat stabbilit fl-Unjoni. Dan ir-rappreżentant awtorizzat għandu rwol kruċjali biex jiżgura l-konformità tas-sistemi tal-IA b'riskju għoli introdotti fis-suq jew imqiegħda fis-servizz fl-Unjoni minn dawk il-fornituri li mhumiex stabbiliti fl-Unjoni, u biex iservi bħala l-persuna ta' kuntatt tagħhom stabbilit fl-Unjoni.
(83)
С оглед на естеството и сложността на веригата за създаване на стойност за системите с ИИ и в съответствие с новата законодателна рамка, е от съществено значение да се гарантира правна сигурност и да се улесни спазването на настоящия регламент. Поради това е необходимо да се изяснят функциите и конкретните задължения на съответните оператори по веригата за създаване на стойност, като например вносителите и дистрибуторите, които могат да допринесат за разработването на системи с ИИ. В определени ситуации тези оператори биха могли да имат едновременно повече от една функция и поради това следва кумулативно да изпълняват всички съответни задължения, свързани с тези функции. Например даден оператор може да действа едновременно като дистрибутор и вносител.
(83)
Fid-dawl tan-natura u l-kumplessità tal-katina tal-valur għas-sistemi tal-IA u f'konformità mal-Qafas Leġiżlattiv Ġdid, huwa essenzjali li tiġi żgurata ċ-ċertezza legali u tiġi ffaċilitata l-konformità ma' dan ir-Regolament. Għalhekk, jeħtieġ li jiġu ċċarati r-rwol u l-obbligi speċifiċi tal-operaturi rilevanti tul dik il-katina tal-valur, bħall-importaturi u d-distributuri li jistgħu jikkontribwixxu għall-iżvilupp tas-sistemi tal-IA. F'ċerti sitwazzjonijiet, dawk l-operaturi jistgħu jaġixxu f'aktar minn rwol wieħed fl-istess ħin u għalhekk jenħtieġ li jissodisfaw b'mod kumulattiv l-obbligi rilevanti kollha assoċjati ma' dawk ir-rwoli. Pereżempju, operatur jista' jaġixxi bħala distributur u importatur fl-istess ħin.
(84)
За да се гарантира правна сигурност, е необходимо да се поясни, че при определени специфични условия всеки дистрибутор, вносител, внедрител или друго трето лице следва да се счита за доставчик на високорискова система с ИИ и следователно да поеме всички съответни задължения. Такъв би бил случаят, ако това лице постави името или търговската си марка върху високорискова система с ИИ, която вече е пусната на пазара или пусната в действие, без да се засягат споразумения, предвиждащи, че задълженията се разпределят по друг начин. Такъв би бил и случаят, ако това лице внесе съществено изменение във високорискова система с ИИ, която вече е пусната на пазара или пусната в действие, по такъв начин, че тя да продължи да бъде високорискова система с ИИ в съответствие с настоящия регламент, или ако измени предназначението на система с ИИ, включително система с ИИ с общо предназначение, която не е класифицирана като високорискова и вече е пусната на пазара или пусната в действие, по такъв начин, че системата с ИИ да стане високорискова система с ИИ в съответствие с настоящия регламент. Тези разпоредби следва да се прилагат, без да се засягат специалните разпоредби, установени в някои секторни законодателни актове на Съюза за хармонизация въз основа на новата законодателна рамка, заедно с които следва да се прилага настоящият регламент. Например член 16, параграф 2 от Регламент (ЕС) 745/2017, съгласно който определени изменения не следва да се считат за промени на изделие, които могат да се отразят на съответствието му с приложимите изисквания, следва да продължи да се прилага за високорисковите системи с ИИ, които са медицински изделия по смисъла на посочения регламент.
(84)
Biex tiġi żgurata ċ-ċertezza legali, jeħtieġ li jiġi ċċarat li, taħt ċerti kundizzjonijiet speċifiċi, jenħtieġ li kwalunkwe distributur, importatur, implimentatur jew parti terza oħra titqies bħala fornitur ta' sistema ġdida tal-IA b'riskju għoli u għalhekk tassumi l-obbligi rilevanti kollha. Dan ikun il-każ jekk dik il-parti tqiegħed isimha jew it-trademark tagħha fuq sistema tal-IA b'riskju għoli diġà introdotta fis-suq jew imqiegħda fis-servizz, mingħajr preġudizzju għall-arranġamenti kuntrattwali li jistipulaw li l-obbligi jiġu allokati mod ieħor. Dan ikun ukoll il-każ jekk dik il-parti tagħmel modifika sostanzjali f'sistema tal-IA b'riskju għoli li tkun diġà introdotta fis-suq jew diġà tqiegħdet fis-servizz b'mod li tibqa' sistema tal-IA b'riskju għoli f'konformità ma' dan ir-Regolament, jew jekk timmodifika l-għan maħsub ta' sistema tal-IA, inkluż sistema tal-IA bi skop ġenerali, li ma tkunx ġiet ikklassifikata bħala b'riskju għoli u li tkun diġà introdotta fis-suq jew imqiegħda fis-servizz, b'mod li s-sistema tal-IA ssir sistema tal-IA b'riskju għoli f'konformità ma' dan ir-Regolament. Jenħtieġ li dawk id-dispożizzjonijiet japplikaw mingħajr preġudizzju għal dispożizzjonijiet aktar speċifiċi stabbiliti f'ċerti leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni bbażata fuq il-Qafas Leġiżlattiv Ġdid, li flimkien miegħu għandu japplika dan ir-Regolament. Pereżempju, jenħtieġ li l-Artikolu 16(2), tar-Regolament (UE) 2017/745, li jistabbilixxi li ċerti bidliet m'għandhomx jitqiesu bħala modifiki ta' apparat li jistgħu jaffettwaw il-konformità tiegħu mar-rekwiżiti applikabbli, ikompli japplika għal sistemi tal-IA b'riskju għoli li huma apparati mediċi skont it-tifsira ta' dak ir-Regolament.
(85)
Системите с ИИ с общо предназначение могат да се използват като високорискови системи с ИИ сами по себе си или да бъдат компоненти на други високорискови системи с ИИ. Ето защо поради специфичното си естество и за да се гарантира справедливо разпределяне на отговорността по веригата за създаване на стойност в областта на ИИ, доставчиците на такива системи, независимо дали те могат да се използват сами по себе си като високорискови системи с ИИ от други доставчици, или като компоненти на високорискови системи с ИИ, и освен ако не е предвидено друго съгласно настоящия регламент, следва да си сътрудничат тясно с доставчиците на съответните високорискови системи с ИИ, за да им се даде възможност да спазват съответните задължения съгласно настоящия регламент, както и с компетентните органи, създадени съгласно настоящия регламент.
(85)
Sistemi tal-IA bi skop ġenerali jistgħu jintużaw bħala sistemi tal-IA b'riskju għoli waħedhom jew ikunu komponenti ta' sistemi oħra tal-IA b'riskju għoli. Għaldaqstant, minħabba n-natura partikolari tagħhom u sabiex jiġi żgurat tqassim ġust tar-responsabbiltajiet tul il-katina ta' valur tal-IA, jenħtieġ li l-fornituri ta' tali sistemi, irrispettivament minn jekk jistgħux jintużaw bħala sistemi tal-IA b'riskju għoli bħala tali minn fornituri oħra jew bħala komponenti ta' sistemi tal-IA b'riskju għoli u dment li ma jkunx previst mod ieħor skont dan ir-Regolament, jikkooperaw mill-qrib mal-fornituri tas-sistemi tal-IA b'riskju għoli rilevanti biex jiffaċilitaw il-konformità tagħhom mal-obbligi rilevanti skont dan ir-Regolament u mal-awtoritajiet kompetenti stabbiliti skont dan ir-Regolament.
(86)
Когато съгласно условията, предвидени в настоящия регламент, доставчикът, който първоначално е пуснал на пазара системата с ИИ или я е пуснал в действие, вече не следва да се счита за доставчик за целите на настоящия регламент и когато този доставчик не е изключил изрично промяната на системата с ИИ във високорискова система с ИИ, първоначалният доставчик следва въпреки това да си сътрудничи тясно и да предостави необходимата информация, както и да осигури разумно очакваните технически достъп и друга помощ, които са необходими за изпълнението на задълженията, установени в настоящия регламент, по-специално по отношение на спазването на оценката на съответствието на високорисковите системи с ИИ.
(86)
Meta, skont il-kundizzjonijiet stabbiliti f'dan ir-Regolament, jenħtieġ li l-fornitur li inizjalment ikun introduċa s-sistema tal-IA fis-suq jew qiegħdha fis-servizz ma jibqax jitqies bħala l-fornitur għall-finijiet ta' dan ir-Regolament, u meta dak il-fornitur ma jkunx eskluda espressament il-bidla tas-sistema tal-IA f'sistema tal-IA b'riskju għoli, jenħtieġ li dan il-fornitur preċedenti madankollu jikkoopera mill-qrib u jagħmel disponibbli l-informazzjoni meħtieġa u jipprovdi l-aċċess tekniku raġonevolment mistenni u assistenza oħra meħtieġa għat-twettiq tal-obbligi stipulati f'dan ir-Regolament, b'mod partikolari fir-rigward tar-rispett tal-valutazzjoni tal-konformità tas-sistemi tal-IA b'riskju għoli.
(87)
Освен това когато високорискова система с ИИ, която е защѝтен елемент на продукт, попадащ в обхвата на законодателството на Съюза за хармонизация въз основа на новата законодателна рамка, не е пусната на пазара или пусната в действие независимо от продукта, производителят на продукта съгласно определението в съответното законодателство, следва да спазва задълженията на доставчика, установени в настоящия регламент, и следва по-специално да гарантира, че системата с ИИ, вградена в крайния продукт, съответства на изискванията на настоящия регламент.
(87)
Barra minn hekk, meta sistema tal-IA b'riskju għoli li tkun komponent tas-sikurezza ta' prodott li jaqa' fil-kamp ta' applikazzjoni tal-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni bbażata fuq il-Qafas Leġiżlattiv Ġdid ma tkunx introdotta fis-suq jew ma titqiegħedx fis-servizz indipendentement mill-prodott, jenħtieġ li l-manifattur tal-prodott definit f'dik il-leġiżlazzjoni jikkonforma mal-obbligi tal-fornitur stabbilit f'dan ir-Regolament u jenħtieġ li, b'mod partikolari, jiżgura li s-sistema tal-IA inkorporata fil-prodott finali tikkonforma mar-rekwiżiti ta' dan ir-Regolament.
(88)
В рамките на веригата за създаване на стойност в областта на ИИ множество лица често доставят системи, инструменти и услуги с ИИ, но също така и компоненти или процеси, които са интегрирани от доставчика в системата с ИИ с различни цели, включително обучение и повторно обучение на модели и изпитване и оценка на модели, интегриране в софтуера или други аспекти на разработването на модели. Тези лица заемат важно място във веригата за създаване на стойност по отношение на доставчика на високорисковата система с ИИ, в която са интегрирани техните системи, инструменти, услуги, компоненти или процеси с ИИ, и следва да предоставят чрез писмено споразумение на този доставчик необходимата информация, капацитет, технически достъп и друга помощ въз основа на общопризнатите съвременни технически постижения, за да се даде възможност на доставчика да изпълни изцяло задълженията, установени в настоящия регламент, без да се излагат на риск собствените им права върху интелектуалната собственост или търговски тайни.
(88)
Tul il-katina tal-valur tal-IA diversi partijiet spiss jipprovdu sistemi tal-IA, għodod u servizzi iżda wkoll komponenti jew proċessi li jiġu inkorporati mill-fornitur fis-sistema tal-IA, b'diversi objettivi inkluż it-taħriġ tal-mudell, it-taħriġ mill-ġdid tal-mudell, l-ittestjar u l-evalwazzjoni tal-mudell, l-integrazzjoni fis-software, jew aspetti oħra tal-iżvilupp tal-mudell. Dawk il-partijiet għandhom rwol importanti fil-katina tal-valur għall-fornitur tas-sistema tal-IA b'riskju għoli li fiha jiġu integrati s-sistemi, l-għodod, is-servizzi, il-komponenti jew il-proċessi tal-IA tagħhom, u jenħtieġ li jipprovdu, permezz ta' ftehim bil-miktub lil dan il-fornitur, l-informazzjoni, il-kapaċitajiet, l-aċċess tekniku u assistenza oħra meħtieġa abbażi tal-ogħla livell ta' żvilupp tekniku rikonoxxut b'mod ġenerali, sabiex il-fornitur ikun jista' jikkonforma bis-sħiħ mal-obbligi stipulati f'dan ir-Regolament, mingħajr ma jikkompromettu d-drittijiet tal-proprjetà intellettwali jew is-sigrieti kummerċjali tagħhom stess.
(89)
Трети лица, които предоставят публичен достъп до инструменти, услуги, процеси или компоненти с ИИ, различни от модели на ИИ с общо предназначение, не следва да са задължени да спазват изискванията, насочени към отговорността по веригата за създаване на стойност в областта на ИИ, по-специално по отношение на доставчика, който ги е използвал или интегрирал, когато тези инструменти, услуги, процеси или компоненти с ИИ са достъпни в рамките на безплатен лиценз с отворен код. Разработчиците на безплатни инструменти, услуги, процеси или компоненти с ИИ с отворен код, различни от модели на ИИ с общо предназначение, следва да се насърчават да прилагат широко възприети практики за документиране, например карти за модели и информационни фишове, като начин за ускоряване на обмена на информация по веригата за създаване на стойност в областта на ИИ, което ще даде възможност да се популяризират надеждни системи с ИИ в Съюза.
(89)
Partijiet terzi li jagħmlu aċċessibbli għall-pubbliku l-għodod, is-servizzi, il-proċessi, jew il-komponenti tal-IA għajr il-mudelli tal-IA bi skop ġenerali, jenħtieġ li ma jingħatawx il-mandat li jikkonformaw mar-rekwiżiti mmirati lejn ir-responsabbiltajiet tul il-katina tal-valur tal-IA, b'mod partikolari lejn il-fornitur li jkun użahom jew integrahom, meta dawk l-għodod, servizzi, proċessi, jew komponenti tal-IA jsiru aċċessibbli b'liċenzja libera u b’sors miftuħ. Jenħtieġ li l-iżviluppaturi ta' għodod, servizzi, proċessi jew komponenti tal-IA liberi u b'sors miftuħ jitħeġġu jimplimentaw prattiki ta' dokumentazzjoni adottati b'mod wiesa', bħal kards mudell u skedi tad-data, bħala mod biex titħaffef il-kondiviżjoni tal-informazzjoni tul il-katina tal-valur tal-IA, u dan jippermetti l-promozzjoni ta' sistemi tal-IA affidabbli fl-Unjoni.
(90)
Комисията би могла да разработи и препоръча незадължителни примерни договорни условия между доставчиците на високорискови системи с ИИ и трети лица, които доставят инструменти, услуги, компоненти или процеси, използвани или интегрирани във високорискови системи с ИИ, за да се улесни сътрудничеството по веригата за създаване на стойност. При разработването на незадължителни примерни договорни условия Комисията следва също така да взема предвид възможните договорни изисквания, приложими в конкретни сектори или стопански дейности.
(90)
Il-Kummissjoni tista' tiżviluppa u tirrakkomanda mudelli volontarji ta' termini kuntrattwali bejn il-fornituri ta' sistemi tal-IA b'riskju għoli u l-partijiet terzi li jipprovdu għodod, servizzi, komponenti jew proċessi li jintużaw jew jiġu integrati f'sistemi tal-IA b'riskju għoli, biex tiġi ffaċilitata l-kooperazzjoni tul il-katina tal-valur. Meta tiżviluppa mudelli volontarji ta' termini kuntrattwali, jenħtieġ li l-Kummissjoni qis ir-rekwiżiti kuntrattwali possibbli applikabbli f'setturi jew każijiet ta' negozju speċifiċi.
(91)
Предвид естеството на системите с ИИ и евентуалните рискове за безопасността и основните права, свързани с тяхното използване, включително по отношение на необходимостта да се гарантира подходящ мониторинг на работата на дадена система с ИИ в реални условия, е целесъобразно да се определят конкретни отговорности за внедрителите. Внедрителите следва по-специално да предприемат подходящи технически и организационни мерки, за да гарантират, че използват високорискови системи с ИИ в съответствие с инструкциите за употреба, а също така следва да се предвидят някои други задължения по отношение на мониторинга на функционирането на системите с ИИ и по отношение на поддържането на регистри, когато е целесъобразно. Освен това внедрителите следва да гарантират, че лицата, на които е възложено да изпълняват инструкциите за употреба и човешкия контрол съгласно настоящия регламент, притежават необходимата компетентност, по-специално подходящо ниво на грамотност, обучение и авторитет в областта на ИИ, за да изпълняват правилно тези задачи. Тези задължения не следва да засягат други задължения на внедрителите във връзка с високорискови системи с ИИ съгласно правото на Съюза или националното право.
(91)
Minħabba n-natura tas-sistemi tal-IA u r-riskji għas-sikurezza u għad-drittijiet fundamentali possibbilment assoċjati mal-użu tagħhom, inkluż fir-rigward tal-ħtieġa li jkun żgurat monitoraġġ xieraq tal-prestazzjoni tas-sistema tal-IA f'ambjent tal-ħajja reali, jixraq jiġu stabbiliti responsabbiltajiet speċifiċi għall-implimentaturi. Jenħtieġ li l-implimentaturi, b'mod partikolari, jieħdu miżuri tekniċi u organizzattivi biex jiżguraw li jużaw sistemi tal-IA b'riskju għoli f'konformità mal-istruzzjonijiet tal-użu u jenħtieġ li jiġu previsti ċerti obbligi oħra fir-rigward tal-monitoraġġ tal-funzjonament tas-sistemi tal-IA u fir-rigward taż-żamma tar-rekords, kif xieraq. Barra minn hekk, jenħtieġ li l-implimentaturi jiżguraw li l-persuni assenjati biex jimplimentaw l-istruzzjonijiet għall-użu u għas-sorveljanza mill-bniedem kif stipulat f'dan ir-Regolament ikollhom il-kompetenza meħtieġa, b'mod partikolari livell adegwat ta' litteriżmu, taħriġ u awtorità fir-rigward tal-IA biex iwettqu dawk il-kompiti kif suppost. Jenħtieġ li dawk l-obbligi jkunu mingħajr preġudizzju għal obbligi oħra tal-implimentatur fir-rigward tas-sistemi tal-IA b'riskju għoli skont il-liġi tal-Unjoni jew dik nazzjonali.
(92)
Настоящият регламент не засяга задълженията на работодателите да информират или да информират и консултират работниците или техните представители съгласно правото и практиката на Съюза или националното право и практика, включително Директива 2002/14/ЕО на Европейския парламент и на Съвета (39), относно решения за пускане в действие или използване на системи с ИИ. Продължава да е необходимо да се гарантира предоставянето на информация на работниците и техните представители относно планираното внедряване на високорискови системи с ИИ на работното място, когато не са изпълнени условията за тези задължения за информиране или информиране и консултиране, предвидени в други правни актове. Освен това подобно право на информиране допълва и е необходимо за постигането на целта за защита на основните права, залегнала в основата на настоящия регламент. Поради това в настоящия регламент следва да бъде предвидено изискване за информиране в този смисъл, без да се засягат съществуващите права на работниците.
(92)
Dan ir-Regolament huwa mingħajr preġudizzju għall-obbligi għall-impjegaturi li jinfurmaw jew jinfurmaw u jikkonsultaw lill-ħaddiema jew lir-rappreżentanti tagħhom skont id-dritt u l-prattika tal-Unjoni jew nazzjonali, inkluż id-Direttiva 2002/14/KE tal-Parlament Ewropew u tal-Kunsill (39), dwar deċiżjonijiet biex jitqiegħdu fis-servizz jew jintużaw sistemi tal-IA. Jibqa' meħtieġ li tiġi żgurata l-informazzjoni tal-ħaddiema u tar-rappreżentanti tagħhom dwar l-użu ppjanat ta' sistemi tal-IA b'riskju għoli fuq il-post tax-xogħol fejn il-kundizzjonijiet għal dawk l-obbligi ta' informazzjoni jew ta' informazzjoni u konsultazzjoni fi strumenti legali oħra ma jkunux issodisfati. Barra minn hekk, tali dritt għall-informazzjoni huwa anċillari u meħtieġ għall-objettiv tal-protezzjoni tad-drittijiet fundamentali li huwa l-bażi ta' dan ir-Regolament. Għalhekk, jenħtieġ li jiġi stabbilit rekwiżit ta' informazzjoni għal dak l-għan f'dan ir-Regolament, mingħajr ma jiġi affettwat l-ebda dritt eżistenti tal-ħaddiema.
(93)
Рисковете, свързани със системите с ИИ, могат да произтичат от начина, по който са проектирани тези системи, но могат да се дължат и на начина, по който се използват тези системи с ИИ. По тази причина внедрителите на високорискова система с ИИ имат решаващо значение за гарантиране на защитата на основните права, като допълват задълженията на доставчика при разработването на системата с ИИ. Внедрителите могат най-добре да разберат как конкретно ще бъде използвана високорисковата система с ИИ и следователно могат да установят потенциални значителни рискове, които не са били предвидени на етапа на разработване, тъй като разполагат с по-точни знания за контекста на използване и лицата или групите лица, които има вероятност да бъдат засегнати, включително уязвимите групи. Внедрителите на високорискови системи с ИИ, изброени в приложение към настоящия регламент, също имат решаващо значение за информирането на физическите лица и следва, когато вземат решения или подпомагат вземането на решения, свързани с физическите лица, когато е приложимо, да ги информират, че спрямо тях се използва високорискова система с ИИ. Тази информация следва да включва предназначението и вида на решенията, които се вземат. Внедрителят следва също така да информира физическите лица за правото им да получат обяснение, предвидено в настоящия регламент. По отношение на високорисковите системи с ИИ, използвани за правоохранителни цели, това задължение следва да се прилага в съответствие с член 13 от Директива (ЕС) 2016/680.
(93)
Filwaqt li r-riskji relatati mas-sistemi tal-IA jistgħu jirriżultaw mill-mod kif jiġu ddisinjati sistemi bħal dawn, ir-riskji jistgħu jinħolqu wkoll minn kif jintużaw sistemi tal-IA bħal dawn. L-implimentaturi ta' sistema tal-IA b'riskju għoli għaldaqstant għandhom rwol kritiku fl-iżgurar li jiġu protetti d-drittijiet fundamentali, filwaqt li jikkomplementaw l-obbligi tal-fornitur meta jiżviluppa s-sistema tal-IA. L-implimentaturi jinsabu fl-aħjar pożizzjoni biex jifhmu kif is-sistema tal-IA b'riskju għoli ser tintuża b'mod konkret u għalhekk jistgħu jidentifikaw riskji sinfikanti potenzjali li ma kinux previsti fil-fażi tal-iżvilupp, minħabba għarfien aktar preċiż tal-kuntest tal-użu, tal-persuni jew tal-gruppi ta' persuni li x'aktarx jiġu affettwati, inkluż gruppi vulnerabbli. L-implimentaturi ta' sistemi tal-IA b'riskju għoli elenkati f'anness ta' dan ir-Regolament ukoll għandhom rwol kruċjali li jinfurmaw lil persuni fiżiċi u, meta jieħdu deċiżjonijiet jew jassistu fit-teħid ta' deċiżjonijiet relatati mal-persuni fiżiċi, jenħtieġ li fejn applikabbli jinfurmaw lill-persuni fiżiċi li huma soġġetti għall-użu ta' sistema tal-IA b'riskju għoli. Jenħtieġ li din l-informazzjoni tinkludi l-għan maħsub u t-tip ta' deċiżjonijiet li tieħu. Jenħtieġ li l-implimentatur jinforma wkoll lill-persuni fiżiċi dwar id-dritt tagħhom għal spjegazzjoni pprovdut skont dan ir-Regolament. Fir-rigward tas-sistemi tal-IA b'riskju għoli użati għall-finijiet tal-infurzar tal-liġi, jenħtieġ li dak l-obbligu jiġi implimentat f'konformità mal-Artikolu 13 tad-Direttiva (UE) 2016/680.
(94)
Всяко обработване на биометрични данни, свързано с използването на системи с ИИ за биометрична идентификация за правоохранителни цели, трябва да бъде в съответствие с член 10 от Директива (ЕС) 2016/680, който позволява такова обработване само когато това е строго необходимо, при спазване на подходящи гаранции за правата и свободите на субекта на данните, и когато това е разрешено от правото на Съюза или правото на държава членка. При такова разрешено използване трябва също така да се спазват принципите, установени в член 4, параграф 1 от Директива (ЕС) 2016/680, включително законосъобразност, добросъвестност и прозрачност, ограничаване в рамките на целта, точност и ограничаване на съхранението.
(94)
Jenħtieġ li kwalunkwe pproċessar ta' data bijometrika involut fl-użu tas-sistemi tal-IA għall-identifikazzjoni bijometrika għall-fini ta' infurzar tal-liġi jikkonforma mal-Artikolu 10 tad-Direttiva (UE) 2016/680, li jippermetti dan l-ipproċessar biss meta strettament meħtieġ, soġġett għal salvagwardji xierqa għad-drittijiet u l-libertajiet tas-suġġett tad-data, u meta awtorizzat mil-liġi tal-Unjoni jew ta' Stat Membru. Tali użu, meta awtorizzat, għandu jirrispetta wkoll il-prinċipji stabbiliti fl-Artikolu 4(1) tad-Direttiva (UE) 2016/680 inkluż il-legalità, il-ġustizzja u t-trasparenza, il-limitazzjoni tal-iskop, il-preċiżjoni, l-akkuratezza u l-limitazzjoni tal-ħżin.
(95)
Без да се засяга приложимото право на Съюза, по-специално Регламент (ЕС) 2016/679 и Директива (ЕС) 2016/680, като се има предвид инвазивният характер на системите за последваща дистанционна биометрична идентификация, използването на тези системи следва да е придружено с гаранции. Системите за последваща дистанционна биометрична идентификация следва винаги да се използват по начин, който е пропорционален, законосъобразен и строго необходим, и следователно конкретизиран, по отношение на лицата, които трябва да бъдат идентифицирани, местоположението и времевия обхват, и въз основа на затворен набор от данни от законно придобити видеозаписи. Във всеки случай системите за последваща дистанционна биометрична идентификация не следва да се използват в правоохранителен контекст с цел неизбирателно наблюдение. Условията за последващата дистанционна биометрична идентификация не следва в никакъв случай да предоставят основание за заобикаляне на условията на забраната и строгите изключения по отношение на дистанционната биометрична идентификация в реално време.
(95)
Mingħajr preġudizzju għal-liġi applikabbli tal-Unjoni, b'mod partikolari r-Regolament (UE) 2016/679 u d-Direttiva (UE) 2016/680, meta titqies in-natura intrużiva tas-sistemi ta’ identifikazzjoni bijometrika remota “f'ħin aktar tard”, l-użu ta' sistemi ta’ identifikazzjoni bijometrika remota “f'ħin aktar tard” jenħtieġ li jkun soġġett għal salvagwardji. Jenħtieġ li s-sistemi ta’ identifikazzjoni bijometrika remota “f'ħin aktar tard” dejjem jintużaw b'mod li jkun proporzjonat, leġittimu u strettament meħtieġ, u għalhekk immirat, fir-rigward tal-individwi li għandhom jiġu identifikati, il-post, il-kamp ta' applikazzjoni temporali u abbażi ta' sett ta' data magħluq ta' filmati miksuba legalment. Fi kwalunkwe każ, jenħtieġ li s-sistemi ta’ identifikazzjoni bijometrika remota “f'ħin aktar tard” ma jintużawx fil-qafas tal-infurzar tal-liġi biex iwasslu għal sorveljanza indiskriminata. Fi kwalunkwe każ jenħtieġ li l-kundizzjonijiet għall-identifikazzjoni bijometrika remota “f'ħin aktar tard” ma jipprovdux bażi biex jiġu evitati l-kundizzjonijiet tal-projbizzjoni u l-eċċezzjonijiet stretti għall-identifikazzjoni bijometrika remota f'ħin reali.
(96)
За да се гарантира по ефективен начин защитата на основните права, внедрителите на високорискови системи с ИИ, които са публични органи, или частните субекти, предоставящи публични услуги, както и внедрителите на някои високорискови системи с ИИ, изброени в приложение към настоящия регламент, като например банкови институции или застрахователи, следва да извършват оценка на въздействието върху основните права преди пускането в действие. Услуги от обществен характер, които са от значение за физическите лица, могат да се предоставят и от частни субекти. Частните субекти, предоставящи такива публични услуги, са свързани с изпълнението на задачи от обществен интерес, например в областите на образованието, здравеопазването, социалните услуги, жилищното настаняване и правораздаването. Целта на оценката на въздействието върху основните права е внедрителят да установи конкретните рискове за правата на лицата или групите лица, които е вероятно да бъдат засегнати, и да набележи мерките, които да бъдат предприети при настъпване на тези рискове. Оценката на въздействието следва да се извърши преди внедряването на високорисковата система с ИИ и следва да се актуализира, когато внедрителят счете, че някой от съответните фактори се е променил. В оценката на въздействието следва да се определят съответните процеси на внедрителя, в рамките на които високорисковата система с ИИ ще бъде използвана в съответствие с нейното предназначение, и следва да се посочи срокът, в който системата е предназначена да се използва, и честотата, с която тя е предназначена да се използва, както и конкретните категории физически лица и групи, които е вероятно да бъдат засегнати в конкретния контекст на използване. Оценката следва да включва и установяването на конкретните рискове от настъпване на вреди, които е вероятно да окажат въздействие върху основните права на тези лица или групи. При извършването на тази оценка внедрителят следва да вземе предвид информацията, която е от значение за правилната оценка на въздействието, включително, но не само, информацията, предоставена от доставчика на високорисковата система с ИИ в инструкциите за употреба. С оглед на установените рискове внедрителите следва да определят мерките, които да бъдат предприети при настъпване на тези рискове, включително например правила за управление в този конкретен контекст на използване, като например механизми за човешки контрол в съответствие с инструкциите за употреба или процедури за разглеждане на жалби и правна защита, тъй като те биха могли да бъдат от основно значение за ограничаване на рисковете за основните права в конкретни случаи на използване. След извършването на тази оценка на въздействието внедрителят следва да уведоми съответния орган за надзор на пазара. Когато е целесъобразно, за да се събере съответната информация, необходима за извършване на оценката на въздействието, внедрителите на високорискова система с ИИ, по-специално когато системите с ИИ се използват в публичния сектор, биха могли да включат съответните заинтересовани страни, включително представители на групи лица, които е вероятно да бъдат засегнати от системата с ИИ, независими експерти и организации на гражданското общество, в извършването на такива оценки на въздействието и разработването на мерки, които да бъдат предприети в случай на настъпване на рисковете. Европейската служба по изкуствен интелект (наричана по-долу „Службата по ИИ“) следва да разработи образец на въпросник, за да се улесни спазването на изискванията и да се намали административната тежест за внедрителите.
(96)
Biex ikun żgurat b'mod effiċjenti li d-drittijiet fundamentali jiġu protetti, jenħtieġ li l-implimentaturi ta' sistemi tal-IA b'riskju għoli li huma korpi rregolati mil-liġi pubblika, jew entitajiet privati li jipprovdu servizzi pubbliċi u implimentaturi ta’ ċerti sistemi tal-IA b'riskju għoli elenkati f'anness ta' dan ir-Regolament, bħal entitajiet bankarji jew tal-assigurazzjoni, iwettqu valutazzjoni tal-impatt fuq id-drittijiet fundamentali qabel ma jibdew jużawha. Servizzi importanti għal individwi li huma ta' natura pubblika jistgħu jiġu pprovduti wkoll minn entitajiet privati. L-entitajiet privati li jipprovdu tali servizzi pubbliċi huma marbuta ma' kompiti fl-interess pubbliku bħal fl-oqsma tal-edukazzjoni, il-kura tas-saħħa, is-servizzi soċjali, l-akkomodazzjoni, l-amministrazzjoni tal-ġustizzja. L-għan tal-valutazzjoni tal-impatt fuq id-drittijiet fundamentali huwa li l-implimentatur jidentifika r-riskji speċifiċi għad-drittijiet tal-individwi jew tal-gruppi ta' individwi li x'aktarx jiġu affettwati u jidentifika l-miżuri li għandhom jittieħdu fil-każ li dawk ir-riskji jimmaterjalizzaw. Jenħtieġ li l-valutazzjoni tal-impatt titwettaq qabel l-użu tas-sistema tal-IA b'riskju għoli, u jenħtieġ li tiġi aġġornata meta l-implimentatur iqis li jkun inbidel xi wieħed mill-fatturi rilevanti. Jenħtieġ li l-valutazzjoni tal-impatt tidentifika l-proċessi rilevanti tal-implimentatur li fihom ser tintuża s-sistema tal-IA b'riskju għoli f'konformità mal-għan maħsub tagħha, u jenħtieġ li tinkludi deskrizzjoni tal-perjodu ta' żmien u l-frekwenza li fihom is-sistema tkun maħsuba li tintuża kif ukoll ta' kategoriji speċifiċi ta' persuni fiżiċi u gruppi li x'aktarx jiġu affettwati fil-kuntest speċifiku tal-użu. Jenħtieġ li l-valutazzjoni tinkludi wkoll l-identifikazzjoni ta' riskji speċifiċi ta' ħsara li x'aktarx ikollhom impatt fuq id-drittijiet fundamentali ta' dawk il-persuni jew gruppi. Meta jwettaq din il-valutazzjoni, jenħtieġ li l-implimentatur iqis l-informazzjoni rilevanti għal valutazzjoni xierqa tal-impatt, inkluż iżda mhux biss, l-informazzjoni mogħtija mill-fornitur tas-sistema tal-IA b'riskju għoli fl-istruzzjonijiet għall-użu. Fid-dawl tar-riskji identifikati, jenħtieġ li l-implimentaturi jiddeterminaw il-miżuri li għandhom jittieħdu f'każ tal-materjalizzazzjoni ta' dawk ir-riskji, inkluż pereżempju arranġamenti ta' governanza f'dak il-kuntest speċifiku tal-użu, bħal arranġamenti għas-sorveljanza mill-bniedem skont l-istruzzjonijiet tal-użu jew, it-trattament tal-ilmenti u l-proċeduri ta' rimedju, peress li dawn jistgħu jkunu strumentali fil-mitigazzjoni tar-riskji għad-drittijiet fundamentali f'każijiet konkreti ta' użu. Wara li jwettaq dik il-valutazzjoni tal-impatt, jenħtieġ li l-implimentatur jinnotifika lill-awtorità tas-sorveljanza tas-suq rilevanti. Meta xieraq, biex tinġabar l-informazzjoni rilevanti meħtieġa biex titwettaq il-valutazzjoni tal-impatt, l-implimentaturi tas-sistema tal-IA b'riskju għoli, b'mod partikolari meta jintużaw sistemi tal-IA fis-settur pubbliku, jistgħu jinvolvu lill-partijiet ikkonċernati rilevanti, inkluż ir-rappreżentanti ta' gruppi ta' persuni li x'aktarx ikunu affettwati mis-sistema tal-IA, esperti indipendenti, u organizzazzjonijiet tas-soċjetà ċivili fit-twettiq ta' dawn il-valutazzjonijiet tal-impatt u fit-tfassil tal-miżuri li għandhom jittieħdu fil-każ tal-materjalizzazzjoni tar-riskji. Jenħtieġ li l-Uffiċċju Ewropew għall-Intelliġenza Artifiċjali (l-Uffiċċju għall-IA) jiżviluppa mudell għal kwestjonarju sabiex jiffaċilita l-konformità u jnaqqas il-piż amministrattiv għall-amministraturi.
(97)
Понятието „модели на ИИ с общо предназначение“ следва да бъде ясно определено и разграничено от понятието „системи с ИИ“, за да се гарантира правна сигурност. Определението следва да се основава на ключовите функционални характеристики на модел на ИИ с общо предназначение, по-специално общ характер и способност за компетентно изпълнение на широк набор от отделни задачи. Тези модели обикновено се обучават въз основа на голямо количество данни чрез различни методи, като например обучение (самообучение) със и без надзор и обучение с утвърждение. Моделите на ИИ с общо предназначение могат да бъдат пускани на пазара по различни начини, включително чрез библиотеки, приложно-програмни интерфейси (API), за директно изтегляне или с физическо копие. Тези модели могат да бъдат допълнително изменени или усъвършенствани в нови модели. Въпреки че моделите на ИИ са основни компоненти на системите с ИИ, сами по себе си те не представляват системи с ИИ. Моделите на ИИ изискват добавянето на допълнителни компоненти, като например потребителски интерфейс, за да се превърнат в системи с ИИ. Моделите на ИИ обикновено са интегрирани в системите с ИИ и са част от тях. В настоящия регламент се предвиждат специални правила за моделите на ИИ с общо предназначение и за моделите на ИИ с общо предназначение, пораждащи системни рискове, които следва да се прилагат и когато тези модели са интегрирани в система с ИИ или са част от нея. Приема се, че задълженията на доставчиците на модели на ИИ с общо предназначение следва да се прилагат след пускането на тези модели на пазара. Когато доставчикът на модел на ИИ с общо предназначение интегрира собствен модел в своя собствена система с ИИ, която се предоставя на пазара или се пуска в действие, този модел следва да се счита за пуснат на пазара и поради това задълженията, установени в настоящия регламент по отношение на моделите, следва да продължат да се прилагат в допълнение към задълженията за системите с ИИ. Задълженията, установени за моделите, във всички случаи не следва да се прилагат, когато собствен модел се използва за чисто вътрешни процеси, които не са от съществено значение за предоставянето на продукт или услуга на трети лица, и когато правата на физическите лица не са засегнати. Като се има предвид възможното им значително отрицателно въздействие, за моделите на ИИ с общо предназначение, пораждащи системен риск, следва винаги да се прилагат съответните задължения съгласно настоящия регламент. Определението не следва да обхваща модели на ИИ, използвани преди пускането им на пазара единствено с цел научноизследователска и развойна дейност и дейности по създаване на прототипи. Това не засяга задължението за спазване на настоящия регламент, когато след такива дейности на пазара се пуска модел.
(97)
Jenħtieġ li l-kunċett ta' mudelli tal-IA bi skop ġenerali jiġi ddefinit b'mod ċar u jkun distint mill-kunċett ta' sistemi tal-IA biex ikun hemm ċertezza legali. Jenħtieġ li d-definizzjoni tkun ibbażata fuq il-karatteristiċi funzjonali ewlenin ta' mudell tal-IA bi skop ġenerali, b'mod partikolari l-ġeneralità u l-kapaċità li jwettaq b'mod kompetenti firxa wiesgħa ta' kompiti distinti. Dawn il-mudelli huma tipikament imħarrġa fuq ammonti kbar ta' data, permezz ta' diversi metodi, bħal tagħlim awtosorveljat, mhux sorveljat jew rinforzat. Il-mudelli tal-IA bi skop ġenerali jistgħu jiġu introdotti fis-suq b'diversi modi, inkluż permezz ta' libreriji, interfaċċi għall-ipprogrammar tal-applikazzjonijiet (APIs), bħala tniżżil dirett, jew bħala kopja fiżika. Dawn il-mudelli jistgħu jiġu mmodifikati jew irfinati aktar f'mudelli ġodda. Għalkemm il-mudelli tal-IA huma komponenti essenzjali tas-sistemi tal-IA, waħedhom ma jikkostitwixxux sistemi tal-IA. Il-mudelli tal-IA jeħtieġu ż-żieda ta' komponenti ulterjuri, bħal pereżempju interfaċċa tal-utent, biex isiru sistemi tal-IA. Il-mudelli tal-IA tipikament jiġu integrati fis-sistemi tal-IA u jiffurmaw parti minnhom. Dan ir-Regolament jipprevedi regoli speċifiċi għal mudelli tal-IA bi skop ġenerali u għal mudelli tal-IA bi skop ġenerali li joħolqu riskji sistemiċi, li jenħtieġ li japplikaw ukoll meta dawn il-mudelli jkunu integrati jew jiffurmaw parti minn sistema tal-IA. Jenħtieġ li jinftiehem li l-obbligi għall-fornituri ta' mudelli tal-IA bi skop ġenerali jenħtieġ li japplikaw ladarba l-mudelli tal-IA bi skop ġenerali jiġu introdotti fis-suq. Meta l-fornitur ta' mudell tal-IA bi skop ġenerali jintegra mudell proprju fis-sistema tal-IA tiegħu stess li jiġi introdott fis-suq jew jitqiegħed fis-servizz, jenħtieġ li dak il-mudell jitqies li ġie introdott fis-suq u, għalhekk, jenħtieġ li l-obbligi f'dan ir-Regolament għall-mudelli jkomplu japplikaw flimkien ma' dawk għas-sistemi tal-IA. Fi kwalunkwe każ jenħtieġ li l-obbligi stabbiliti għall-mudelli ma japplikawx meta mudell proprju jintuża għal proċessi purament interni li ma jkunux essenzjali għall-forniment ta' prodott jew servizz lil partijiet terzi u d-drittijiet tal-persuni fiżiċi ma jiġux affettwati. Meta jitqiesu l-effetti negattivi sinifikanti potenzjali tagħhom, jenħtieġ li l-mudelli tal-IA bi skop ġenerali b'riskju sistemiku dejjem ikunu soġġetti għall-obbligi rilevanti skont dan ir-Regolament. Jenħtieġ li d-definizzjoni ma tkoprix il-mudelli tal-IA użati qabel l-introduzzjoni tagħhom fis-suq għall-iskop uniku ta' attivitajiet ta' riċerka, żvilupp u ħolqien ta' prototipi. Dan huwa mingħajr preġudizzju għall-obbligu ta' konformità ma' dan ir-Regolament meta, wara tali attivitajiet, mudell jiġi introdott fis-suq.
(98)
Въпреки че общият характер на даден модел би могъл, наред с другото, да се определя и от редица параметри, следва да се счита, че модели с поне един милиард параметри, обучени с голямо количество данни и проявяващи в голяма степен самонадзор, се отличават със значителна степен на общ характер и компетентно изпълняват широк набор от отделни задачи.
(98)
Filwaqt li l-ġeneralità ta' mudell tista', fost kriterji oħra, tiġi ddeterminata wkoll minn għadd ta' parametri, jenħtieġ li l-mudelli b'mill-inqas biljun parametru u mħarrġa b'ammont kbir ta' data bl-użu ta' awtosuperviżjoni fuq skala kbira jitqiesu li juru ġeneralità sinifikanti u li jwettqu b'mod kompetenti firxa wiesgħa ta' kompiti distintivi.
(99)
Големите генеративни модели на ИИ са типичен пример за модел на ИИ с общо предназначение, като се има предвид, че те дават възможност за гъвкаво генериране на съдържание, например под формата на текст, аудиоматериали, изображения или видеоматериали, което лесно може да покрие широк спектър от отделни задачи.
(99)
Il-mudelli ġenerattivi kbar tal-IA huma eżempju tipiku għal mudell tal-IA bi skop ġenerali, peress li jippermettu ġenerazzjoni flessibbli ta' kontenut, bħal fil-forma ta' test, awdjo, immaġnijiet jew vidjo, li jista' jakkomoda faċilment firxa wiesgħa ta' kompiti distintivi.
(100)
Когато модел на ИИ с общо предназначение е интегриран в система с ИИ или е част от нея, тази система следва да се счита за система с ИИ с общо предназначение, когато поради тази интеграция системата е в състояние да обслужва най-различни цели. Системата с ИИ с общо предназначение може да бъде използвана пряко или може да бъде интегрирана в други системи с ИИ.
(100)
Meta mudell tal-IA bi skop ġenerali jiġi integrat f'sistema tal-IA jew jifforma parti minnha, jenħtieġ li din is-sistema titqies bħala sistema tal-IA bi skop ġenerali meta, minħabba din l-integrazzjoni, din is-sistema jkollha l-kapaċità li taqdi varjetà ta' skopijiet. Sistema tal-IA bi skop ġenerali tista' tintuża direttament, jew tista' tkun integrata f'sistemi oħra tal-IA.
(101)
Доставчиците на модели на ИИ с общо предназначение имат особено значение и отговорност по веригата за създаване на стойност в областта на ИИ, тъй като моделите, които предоставят, могат да бъдат основа за набор от системи надолу по веригата, често предоставяни от доставчици надолу по веригата, които трябва добре да разбират моделите и техните способности, както за да могат да интегрират такива модели в своите продукти, така и за да изпълняват задълженията си съгласно настоящия или други регламенти. Поради това следва да се определят пропорционални мерки за прозрачност, включително изготвяне и актуализиране на документацията и предоставяне на информация относно модела на ИИ с общо предназначение за използването му от доставчиците надолу по веригата. Техническата документация следва да се изготвя и актуализира от доставчика на модели на ИИ с общо предназначение с цел предоставянето ѝ при поискване на Службата по ИИ и на националните компетентни органи. Минималният набор от елементи, които трябва да бъдат включени в тази документация, следва да бъде посочен в конкретни приложения към настоящия регламент. На Комисията следва да бъде предоставено правомощието да изменя тези приложения чрез делегирани актове с оглед на технологичното развитие.
(101)
Il-fornituri ta' mudelli tal-IA bi skop ġenerali għandhom rwol u responsabbiltà partikolari tul il-katina tal-valur tal-IA, peress li l-mudelli li jipprovdu jistgħu jiffurmaw il-bażi għal firxa ta' sistemi downstream, spiss ipprovduti minn fornituri downstream li jeħtieġu għarfien tajjeb tal-mudelli u tal-kapaċitajiet tagħhom, kemm biex jippermettu l-integrazzjoni ta' mudelli bħal dawn fil-prodotti tagħhom, kif ukoll biex jissodisfaw l-obbligi tagħhom skont dan ir-regolament jew skont regolamenti oħra. Għalhekk, jenħtieġ li jiġu stabbiliti miżuri proporzjonati ta' trasparenza, inkluż it-tfassil u ż-żamma aġġornata tad-dokumentazzjoni, u l-għoti ta' informazzjoni dwar il-mudell tal-IA bi skop ġenerali għall-użu tiegħu mill-fornituri downstream. Jenħtieġ li d-dokumentazzjoni teknika titħejja u tinżamm aġġornata mill-fornitur tal-mudell tal-IA bi skop ġenerali bl-għan li ssir disponibbli, fuq talba, għall-Uffiċċju għall-IA u għall-awtoritajiet nazzjonali kompetenti. Jenħtieġ li s-sett minimu ta' elementi li għandhom jiġu inklużi f'tali dokumentazzjoni jiġi stipulat fl-annessi speċifiċi ta' dan ir-Regolament. Jenħtieġ li l-Kummissjoni tingħata s-setgħa li temenda dawk l-annessi permezz ta' atti delegati fid-dawl tal-iżviluppi teknoloġiċi li qed jevolvu.
(102)
Софтуер и данни, включително модели, предоставени с безплатен лиценз с отворен код, който им позволява да бъдат споделяни свободно и чрез който ползвателите могат свободно да ги достъпват, използват, променят и разпространяват в променен или непроменен вид, могат да допринесат за научните изследвания и иновациите на пазара и да осигурят значителни възможности за растеж на икономиката на Съюза. Следва да се обмисли използването на модели на ИИ с общо предназначение, представени с безплатни лицензи с отворен код, за да се гарантират високи равнища на прозрачност и отвореност, ако техните параметри, включително теглата, информацията за архитектурата на модела и информацията за използването на модела са публично достъпни. Лицензът следва да се счита за безплатен и с отворен код и когато дава възможност на ползвателите да използват, копират, разпространяват, изучават, променят и подобряват софтуер и данни, включително модели, при условие че се посочва първоначалният доставчик на модела и се спазват еднакви или сходни условия на разпространение.
(102)
Software u data, inkluż mudelli, rilaxxati taħt liċenzja libera u b'sors miftuħ li tippermettilhom jiġu kondiviżi b'mod miftuħ u fejn l-utenti jistgħu jaċċessaw, jużaw, jimmodifikaw u jiddistribwixxu mill-ġdid liberament il-verżjonijiet tagħhom jew il-verżjonijiet modifikati tagħhom, jistgħu jikkontribwixxu għar-riċerka u l-innovazzjoni fis-suq u jistgħu jipprovdu opportunitajiet sinifikanti ta' tkabbir għall-ekonomija tal-Unjoni. Jenħtieġ li jiġu kkunsidrati mudelli tal-IA bi skop ġenerali rilaxxati b'liċenzji liberi u b'sors miftuħ biex jiġu żgurati livelli għoljin ta' trasparenza u ftuħ jekk il-parametri tagħhom, inkluż il-piżijiet, l-informazzjoni dwar l-arkitettura tal-mudell, u l-informazzjoni dwar l-użu tal-mudell ikunu disponibbli għall-pubbliku. Jenħtieġ li l-liċenzja titqies b'liċenzja libera u b'sors miftuħ anke meta tippermetti lill-utenti jaħdmu, jikkupjaw, jiddistribwixxu, jistudjaw, jibdlu u jtejbu s-software u d-data, inkluż mudelli bil-kundizzjoni li l-fornitur oriġinali tal-mudell jiġi kkreditat u li jiġu rrispettati t-termini identiċi jew komparabbli tad-distribuzzjoni.
(103)
Безплатните компоненти с ИИ с отворен код обхващат софтуера и данните, включително модели и модели, инструменти, услуги или процеси с ИИ с общо предназначение на дадена система с ИИ. Безплатните компоненти с ИИ с отворен код могат да бъдат предоставяни по различни начини, включително чрез разработването им в хранилища със свободен достъп. За целите на настоящия регламент компонентите с ИИ, които се предоставят срещу заплащане или се възмездяват по друг начин, включително чрез предоставянето на техническа поддръжка или други услуги, включително чрез софтуерна платформа, свързани с компонента с ИИ, или използването на лични данни по причини, различни от изключителната цел за подобряване на сигурността, съвместимостта или оперативната съвместимост на софтуера, с изключение на сделките между микропредприятия, не следва да се ползват от изключенията, предвидени за безплатните компоненти с ИИ с отворен код. Предоставянето на компоненти с ИИ чрез хранилища със свободен достъп не следва само по себе си да представлява възмездяване.
(103)
Komponenti tal-IA b'liċenzja libera u b'sors miftuħ ikopru s-software u d-data, inkluż mudelli u mudelli, għodod, servizzi jew proċessi tal-IA bi skop ġenerali ta' sistema tal-IA. Komponenti tal-IA b'liċenzja libera u b'sors miftuħ jistgħu jiġu pprovduti permezz ta' kanali differenti, inkluż l-iżvilupp tagħhom f'repożitorji miftuħa. Għall-finijiet ta' dan ir-Regolament, jenħtieġ li l-komponenti tal-IA li jiġu pprovduti bi ħlas jew monetizzati b'xi mod ieħor, inkluż bil-forniment ta' appoġġ tekniku jew servizzi oħra, fosthom permezz ta' pjattaforma tas-software, relatati mal-komponent tal-IA, jew l-użu ta' data personali għal raġunijiet għajr esklużivament għat-titjib tas-sigurtà, il-kompatibbiltà jew l-interoperabbiltà tas-software, bl-eċċezzjoni ta' tranżazzjonijiet bejn mikroimpriżi, ma jibbenefikawx mill-eċċezzjonijiet ipprovduti għall-komponenti tal-IA b'liċenzja libera u b'sors miftuħ. Jenħtieġ li fih innifsu, il-fatt li l-komponenti tal-IA jsiru disponibbli permezz ta' repożitorji miftuħa ma jikkostitwixxix monetizzazzjoni.
(104)
За доставчиците на модели на ИИ с общо предназначение, които са предоставени с безплатен лиценз с отворен код и чиито параметри, включително теглата, информацията за архитектурата на модела и информацията за използването на модела, са публично достъпни, следва да се прилагат изключения по отношение на свързаните с прозрачността изисквания, наложени на моделите на ИИ с общо предназначение, освен когато може да се счита, че те пораждат системен риск, като в този случай обстоятелството, че моделът е прозрачен и придружен от лиценз с отворен код, не следва да се счита за достатъчна причина за изключване на спазването на задълженията съгласно настоящия регламент. Във всеки случай, като се има предвид, че предоставянето на модели на ИИ с общо предназначение с безплатен лиценз с отворен код не разкрива непременно съществена информация относно набора от данни, използван за обучението или финото регулиране на модела, и относно това как по този начин се гарантира спазването на авторското право, предвиденото за моделите на ИИ с общо предназначение изключение от съответствието с изискванията, свързани с прозрачността, не следва да се отнася до задължението за изготвяне на обобщение на съдържанието, използвано за обучение на модели, и задължението за въвеждане на политика за спазване на правото на Съюза в областта на авторското право, по-специално за установяване и съблюдаване на запазването на права съгласно член 4, параграф 3 от Директива (ЕС) 2019/790 на Европейския парламент и на Съвета (40).
(104)
Il-fornituri ta' mudelli tal-IA bi skop ġenerali li jiġu rilaxxati b'liċenzja libera u b'sors miftuħ, u li l-parametri tagħhom, inkluż il-piżijiet, l-informazzjoni dwar l-arkitettura tal-mudell, u l-informazzjoni dwar l-użu tal-mudell, isiru disponibbli għall-pubbliku, jenħtieġ li jkunu soġġetti għal eċċezzjonijiet fir-rigward tar-rekwiżiti relatati mat-trasparenza imposti fuq il-mudelli tal-IA bi skop ġenerali, sakemm ma jkunux jistgħu jitqiesu li jippreżentaw riskju sistemiku, f'liema każ iċ-ċirkostanza li l-mudell ikun trasparenti u akkumpanjat minn liċenzja b'sors miftuħ jenħtieġ li ma titqiesx bħala raġuni suffiċjenti biex tiġi eskluża l-konformità mal-obbligi skont dan ir-Regolament. Fi kwalunkwe każ, minħabba li r-rilaxx ta' mudelli tal-IA bi skop ġenerali b'liċenzja libera u b'sors miftuħ mhux neċessarjament jiżvela informazzjoni sostanzjali dwar is-sett tad-data użat għat-taħriġ jew għall-irfinar tal-mudell u dwar kif b'hekk ġiet żgurata l-konformità mal-liġi dwar id-drittijiet tal-awtur, jenħtieġ li l-eċċezzjoni prevista għall-mudelli tal-IA bi skop ġenerali mill-konformità mar-rekwiżiti relatati mat-trasparenza ma tikkonċernax l-obbligu li jingħata sommarju dwar il-kontenut użat għat-taħriġ tal-mudell u l-obbligu li tiġi stabbilita politika ta' konformità mal-liġi tal-Unjoni dwar id-drittijiet tal-awtur, b'mod partikolari biex tiġi identifikata u konformi mar-riżerva tad-drittijiet skont l-Artikolu 4(3) tad-Direttiva (UE) 2019/790 tal-Parlament Ewropew u tal-Kunsill (40).
(105)
Моделите на ИИ с общо предназначение, по-специално големите генеративни модели на ИИ, способни да генерират текст, изображения и друго съдържание, представляват уникални възможности за иновации, но също така са свързани и с трудности за хората на изкуството, авторите и другите творци, както и за начина, по който тяхното творческо съдържание се създава, разпространява, използва и потребява. Разработването и обучението на такива модели изисква достъп до големи количества текст, изображения, видеоматериали и други данни. Техниките за извличане на информация от текст и данни могат да се използват широко в този контекст за извличане и анализ на такова съдържание, което може да бъде защитено с авторско право и сродните му права. Всяко използване на защитено с авторско право съдържание изисква разрешение от съответните носители на права, освен ако не се прилагат съответните изключения и ограничения, свързани с авторското право. С Директива (ЕС) 2019/790 бяха въведени изключения и ограничения, които позволяват възпроизвеждането и извличането на откъси от произведения или други обекти за целите на извличането на информация от текст и данни при определени условия. Съгласно тези правила носителите на права могат да изберат да запазят правата си върху своите произведения или други обекти, за да предотвратят извличането на информация от текст и данни, освен ако това не се извършва за целите на научни изследвания. Когато правото на отказ е изрично запазено по подходящ начин, доставчиците на модели на ИИ с общо предназначение трябва да получат разрешение от носителите на права, ако желаят да извършват извличане на информация от текст и данни за такива произведения.
(105)
Il-mudelli tal-IA bi skop ġenerali, b'mod partikolari mudelli tal-IA ġenerattivi kbar, li kapaċi jiġġeneraw test, immaġnijiet, u kontenut ieħor, jippreżentaw opportunitajiet uniċi ta' innovazzjoni iżda wkoll sfidi għall-artisti, l-awturi, u kreaturi oħra u l-mod kif il-kontenut kreattiv tagħhom jinħoloq, jitqassam, jintuża u jiġi kkunsmat. L-iżvilupp u t-taħriġ ta' mudelli bħal dawn jeħtieġu aċċess għal ammonti kbar ta' testi, immaġnijiet, vidjows, u data oħra. It-tekniki tal-estrazzjoni tat-test u tad-data jistgħu jintużaw b'mod estensiv f'dan il-kuntest għall-irkupru u l-analiżi ta' tali kontenut, li jista' jiġi protett bid-drittijiet tal-awtur u bi drittijiet relatati. Kwalunkwe użu ta' kontenut protett bid-drittijiet tal-awtur jeħtieġ l-awtorizzazzjoni tad-detentur tad-drittijiet ikkonċernat sakemm ma japplikawx eċċezzjonijiet u limitazzjonijiet rilevanti tad-drittijiet tal-awtur. Id-Direttiva (UE) 2019/790 introduċiet eċċezzjonijiet u limitazzjonijiet li jippermettu r-riproduzzjonijiet u l-estrazzjonijiet ta' xogħlijiet jew materjal ieħor, għall-fini tal-estrazzjoni tat-test u tad-data, taħt ċerti kundizzjonijiet. Skont dawn ir-regoli, id-detenturi tad-drittijiet jistgħu jagħżlu li jirriżervaw id-drittijiet tagħhom fuq ix-xogħlijiet jew materjal ieħor tagħhom biex jipprevjenu l-estrazzjoni tat-test u tad-data, sakemm dan ma jsirx għall-finijiet ta' riċerka xjentifika. Meta d-drittijiet ta' nonparteċipazzjoni jkunu ġew espressament riżervati b'mod xieraq, il-fornituri ta' mudelli tal-IA bi skop ġenerali jeħtieġ li jiksbu awtorizzazzjoni mid-detenturi tad-drittijiet jekk ikunu jridu jwettqu estrazzjoni tat-test u tad-data fuq tali xogħlijiet.
(106)
Доставчиците, които пускат на пазара на Съюза модели на ИИ с общо предназначение, следва да гарантират спазването на съответните задължения, установени в настоящия регламент. За тази цел доставчиците на модели на ИИ с общо предназначение следва да въведат политика за спазване на правото на Съюза в областта на авторското право и сродните му права, по-специално за установяване и съблюдаване на запазването на права, изразено от носителите на права съгласно член 4, параграф 3 от Директива (ЕС) 2019/790. Всеки доставчик, който пуска на пазара на Съюза модел на ИИ с общо предназначение, следва да спазва това задължение, независимо от юрисдикцията, в която се извършват действията, свързани с авторското право, които са в основата на обучението на тези модели на ИИ с общо предназначение. Това е необходимо, за да се гарантира равнопоставеност на доставчиците на модели на ИИ с общо предназначение, при което нито един доставчик не следва да може да получи конкурентно предимство на пазара на Съюза чрез прилагане на по-ниски стандарти в областта на авторското право от предвидените в Съюза.
(106)
Jenħtieġ li l-fornituri li jintroduċu mudelli tal-IA bi skop ġenerali fis-suq tal-Unjoni jiżguraw il-konformità mal-obbligi rilevanti f'dan ir-Regolament. Għal dak l-għan, jenħtieġ li l-fornituri ta' mudelli tal-IA bi skop ġenerali jistabbilixxu politika biex jikkonformaw mal-liġi tal-Unjoni dwar id-drittijiet tal-awtur u drittijiet relatati, b'mod partikolari biex jidentifikaw u jikkonformaw mar-riżerva tad-drittijiet espressa mid-detenturi tad-drittijiet skont l-Artikolu 4(3) tad-Direttiva (UE) 2019/790. Jenħtieġ li kwalunkwe fornitur li jintroduċi mudell tal-IA bi skop ġenerali fis-suq tal-Unjoni jikkonforma ma' dan l-obbligu, irrispettivament mill-ġuriżdizzjoni li fiha jseħħu l-atti rilevanti għad-drittijiet tal-awtur li jirfdu t-taħriġ ta' dawk il-mudelli tal-IA bi skop ġenerali. Dan huwa meħtieġ biex jiġu żgurati kundizzjonijiet ekwi fost il-fornituri ta' mudelli tal-IA bi skop ġenerali meta l-ebda fornitur ma jkun jista' jikseb vantaġġ kompetittiv fis-suq tal-Unjoni billi japplika standards tad-drittijiet tal-awtur aktar baxxi minn dawk ipprovduti fl-Unjoni.
(107)
За да се повиши прозрачността по отношение на данните, които се използват при предварителното обучение и обучението на модели на ИИ с общо предназначение, включително текст и данни, защитени от правото в областта на авторското право, е целесъобразно доставчиците на такива модели да изготвят и оповестяват публично достатъчно подробно обобщение на съдържанието, използвано за обучение на модела на ИИ с общо предназначение. Като се отчита надлежно необходимостта от защита на търговските тайни и поверителната търговска информация, това обобщение следва като цяло да бъде изчерпателно по своя обхват, а не технически подробно, за да улесни лицата със законни интереси, включително носителите на авторски права, да упражняват и прилагат правата си съгласно правото на Съюза, например чрез изброяване на основните събрани данни или набори от данни, които са използвани при обучението по модела, като например големи частни или публични бази данни или архиви с данни, и чрез предоставяне на описателно разяснение за други използвани източници на данни. Целесъобразно е Службата по ИИ да осигури образец на обобщението, който следва да бъде опростен, ефективен и да позволява на доставчика да предостави изискваното обобщение в описателна форма.
(107)
Sabiex tiżdied it-trasparenza dwar id-data li tintuża fit-taħriġ minn qabel u fit-taħriġ ta' mudelli tal-IA bi skop ġenerali, inkluż it-test u d-data protetti mil-liġi dwar id-drittijiet tal-awtur, huwa xieraq li l-fornituri ta' tali mudelli jfasslu u jagħmlu disponibbli għall-pubbliku sommarju dettaljat biżżejjed tal-kontenut użat għat-taħriġ tal-mudell tal-IA bi skop ġenerali. Filwaqt li titqies kif xieraq il-ħtieġa li jiġu protetti s-sigrieti kummerċjali u l-informazzjoni kummerċjali kunfidenzjali, jenħtieġ li dan is-sommarju jkun ġeneralment komprensiv fil-kamp ta' applikazzjoni tiegħu minflok ma jkun teknikament dettaljat biex jiffaċilita lill-partijiet b'interessi leġittimi, inkluż id-detenturi tad-drittijiet tal-awtur, biex jeżerċitaw u jinfurzaw id-drittijiet tagħhom skont il-liġi tal-Unjoni, pereżempju billi jelenka l-ġabriet jew is-settijiet ewlenin tad-data li jkunu ħarrġu l-mudell, bħal bażijiet tad-data privati jew pubbliċi kbar jew arkivji tad-data, u billi jipprovdi spjegazzjoni narrattiva dwar sorsi oħra ta' data użati. Huwa xieraq li l-Uffiċċju għall-IA jipprovdi mudell għas-sommarju, li jenħtieġ li jkun sempliċi, effettiv, u jippermetti lill-fornitur jipprovdi s-sommarju meħtieġ f'forma narrattiva.
(108)
По отношение на задълженията, наложени на доставчиците на модели на ИИ с общо предназначение, да въведат политика за спазване на правото на Съюза в областта на авторското право и да оповестят публично обобщение на съдържанието, използвано за обучението, Службата по ИИ следва да следи дали доставчикът е изпълнил тези задължения, без да проверява или да извършва оценка на обучителните данни за всяко отделно произведение от гледна точка на спазването на авторското право. Настоящият регламент не засяга прилагането на правилата в областта на авторското право, предвидени в правото на Съюза.
(108)
Fir-rigward tal-obbligi imposti fuq il-fornituri ta' mudelli tal-IA bi skop ġenerali biex jistabbilixxu politika biex jikkonformaw mal-liġi tal-Unjoni dwar id-drittijiet tal-awtur u jagħmlu disponibbli għall-pubbliku sommarju tal-kontenut użat għat-taħriġ, jenħtieġ li l-Uffiċċju għall-IA jimmonitorja jekk il-fornitur ikunx issodisfa dawk l-obbligi mingħajr ma jivverifika jew jipproċedi biex jivvaluta wieħed wieħed kull xogħol tad-data tat-taħriġ fir-rigward tal-konformità mad-drittijiet tal-awtur. Dan ir-Regolament ma jaffettwax l-infurzar tar-regoli dwar id-drittijiet tal-awtur kif previst fil-liġi tal-Unjoni.
(109)
Спазването на задълженията, приложими за доставчиците на модели на ИИ с общо предназначение, следва да бъде съизмеримо и пропорционално на вида доставчик на модели, като се изключва необходимостта от спазването им за лицата, които разработват или използват модели за непрофесионални или научноизследователски цели, които въпреки това следва да бъдат насърчавани да спазват тези изисквания на доброволна основа. Без да се засяга правото на Съюза в областта на авторското право, спазването на тези задължения следва да е надлежно съобразено с размера на доставчика и да дава възможност за опростени начини за постигане на съответствие за МСП, включително новосъздадени предприятия, които не следва да представляват прекомерни разходи и да не възпират използването на такива модели. В случай на изменение или фино регулиране на даден модел задълженията на доставчиците на модели на ИИ с общо предназначение следва да бъдат ограничени до това изменение или фино регулиране, например чрез допълване на вече съществуващата техническа документация с информация за измененията, включително нови източници на обучителни данни, като начин да се гарантира спазването на задълженията по веригата за създаване на стойност, предвидени в настоящия регламент.
(109)
Jenħtieġ li l-konformità mal-obbligi applikabbli għall-fornituri tal-mudelli tal-IA bi skop ġenerali tkun proporzjonata għat-tip ta' fornitur tal-mudell, bl-esklużjoni tal-ħtieġa ta' konformità għall-persuni li jiżviluppaw jew jużaw mudelli għal skopijiet ta' riċerka mhux professjonali jew xjentifika, li madankollu jenħtieġ li jiġu mħeġġa jikkonformaw b'mod volontarju ma' dawn ir-rekwiżiti. Mingħajr preġudizzju għal-liġi tal-Unjoni dwar id-drittijiet tal-awtur, jenħtieġ li l-konformità ma' dawk l-obbligi tqis kif xieraq id-daqs tal-fornitur u tippermetti modi simplifikati ta' konformità għall-SMEs inkluż in-negozji ġodda, li jenħtieġ li ma jirrappreżentawx kost eċċessiv u ma jiskoraġġixxux l-użu ta' tali mudelli. Fil-każ ta' modifika jew irfinar ta' mudell, jenħtieġ li l-obbligi għall-fornituri ta’ mudelli tal-IA bi skop ġenerali jkunu limitati għal dik il-modifika jew irfinar, pereżempju billi d-dokumentazzjoni teknika diġà eżistenti tiġi kkomplementata b'informazzjoni dwar il-modifiki, inkluż sorsi ġodda ta' data tat-taħriġ, bħala mezz biex jikkonformaw mal-obbligi tal-katina tal-valur previsti f'dan ir-Regolament.
(110)
Моделите на ИИ с общо предназначение биха могли да породят системни рискове, които включват, но не се ограничават до действителни или разумно предвидими отрицателни последици във връзка с големи аварии, смущения в критични сектори и сериозни последици за общественото здраве и безопасност; действителни или разумно предвидими отрицателни последици за демократичните процеси, обществената и икономическата сигурност; разпространението на незаконно, невярно или дискриминационно съдържание. Следва да се приеме, че системните рискове нарастват заедно със способностите и обхвата на модела, могат да възникнат по време на целия жизнен цикъл на модела и се влияят от условията на неправилна експлоатация, надеждността, добросъвестността и сигурността на модела, степента на автономност на модела, неговия достъп до инструменти, новите или комбинираните условия, стратегиите за предоставяне и разпространение, възможността за премахване на предпазните механизми и други фактори. По-специално, досега международните подходи са установили необходимостта да се обърне внимание на рисковете, произтичащи от възможна умишлена неправилна експлоатация или непреднамерени проблеми с контрола, свързан с привеждането в съответствие с човешките намерения; химичните, биологичните, радиологичните и ядрените рискове, като например начините, по които могат да бъдат намалени пречките за достъп, включително за разработване, придобиване на дизайн или използване на оръжия; офанзивните киберспособности, като например средствата, позволяващи откриване, експлоатация или оперативно използване на уязвими места; последиците от взаимодействието и използването на инструменти, включително например капацитета за контрол на физическите системи и за намеса в критичната инфраструктура; рисковете, свързани с възможността моделите да изготвят свои собствени копия, да се самовъзпроизвеждат или да обучават други модели; начините, по които моделите могат да доведат до вредна предубеденост и дискриминация с рискове за физически лица, общности или общества; улесняването на дезинформацията или накърняването на неприкосновеността на личния живот чрез заплахи за демократичните ценности и правата на човека; риска дадено събитие да доведе до верижна реакция със значителни отрицателни последици, които биха могли да засегнат цял град, цяла област на дейност или цяла общност.
(110)
Il-mudelli tal-IA bi skop ġenerali jistgħu joħolqu riskji sistemiċi li jinkludu, iżda mhumiex limitati għal, kwalunkwe effett negattiv reali jew raġonevolment prevedibbli fir-rigward ta' aċċidenti kbar, tfixkil ta' setturi kritiċi u konsegwenzi serji għas-saħħa u s-sikurezza pubblika; kwalunkwe effett negattiv attwali jew raġonevolment prevedibbli fuq il-proċessi demokratiċi, is-sigurtà pubblika u ekonomika; id-disseminazzjoni ta' kontenut illegali, falz jew diskriminatorju. Ir-riskji sistemiċi jenħtieġ li jinftiehmu li jiżdiedu bil-kapaċitajiet tal-mudell u l-kopertura tal-mudell, jistgħu jinħolqu tul iċ-ċiklu tal-ħajja kollu tal-mudell, u huma influwenzati minn kundizzjonijiet ta' użu ħażin, l-affidabbiltà tal-mudell, l-imparzjalità tal-mudell u sigurtà tal-mudell, il-livell ta' awtonomija tal-mudell, l-aċċess tiegħu għal għodod, modalitajiet ġodda jew ikkombinati, strateġiji ta' rilaxx u distribuzzjoni, il-potenzjal li jitneħħew il-konfini u fatturi oħra. B'mod partikolari, l-approċċi internazzjonali s'issa identifikaw il-ħtieġa li tingħata attenzjoni għar-riskji minn użu ħażin intenzjonat potenzjali jew kwistjonijiet mhux intenzjonati ta' kontroll relatati mal-allinjament mal-intenzjoni tal-bniedem; riskji kimiċi, bijoloġiċi, radjoloġiċi u nukleari, bħall-modi li bihom jistgħu jitnaqqsu l-ostakli għad-dħul, inkluż għall-iżvilupp, l-akkwist tad-disinn, jew l-użu tal-armi; kapaċitajiet ċibernetiċi offensivi, bħall-modi ta' skoperta tal-vulnerabbiltà, l-isfruttament, jew l-użu operazzjonali jistgħu jiġu attivati; l-effetti tal-interazzjoni u l-użu tal-għodda, inkluż pereżempju l-kapaċità li jiġu kkontrollati s-sistemi fiżiċi u ssir interferenza mal-infrastruttura kritika; riskji minn mudelli li jipproduċu kopji tagħhom infushom jew li jagħmlu “awtoreplikazzjoni” jew iħarrġu mudelli oħrajn; il-modi li bihom il-mudelli jistgħu jwasslu għal preġudizzju ta' ħsara u diskriminazzjoni b'riskji għall-individwi, il-komunitajiet jew is-soċjetajiet; il-faċilitazzjoni tad-diżinformazzjoni jew il-ħsara lill-privatezza b'theddid għall-valuri demokratiċi u d-drittijiet tal-bniedem; riskju li avveniment partikolari jista' jwassal għal reazzjoni katina b'effetti negattivi konsiderevoli li jistgħu jaffettwaw sa belt sħiħa, attività ta' dominju sħiħ jew komunità sħiħa.
(111)
Целесъобразно е да се създаде методика за класифициране на моделите на ИИ с общо предназначение като модели на ИИ с общо предназначение, пораждащи системен риск. Тъй като системните рискове произтичат от особено големи способности, следва да се счита, че моделът на ИИ с общо предназначение поражда системни рискове, ако има способности с висока степен на въздействие, оценени въз основа на подходящи технически инструменти и методики, или значително въздействие върху вътрешния пазар поради своя обхват. Способностите с висока степен на въздействие при моделите на ИИ с общо предназначение означава способности, които съответстват на или надхвърлят способностите, регистрирани в най-напредналите модели на ИИ с общо предназначение. Пълният набор от способности на даден модел би могъл да бъде по-добре разбран след пускането му на пазара или при взаимодействието на внедрителите с модела. В зависимост от съвременните технически постижения към момента на влизане в сила на настоящия регламент общото количество изчисления, използвани за обучението на модела на ИИ с общо предназначение, измерено при операции с плаваща запетая, е една от значимите приблизителни стойности за способностите на модела. Общото количество изчисления, използвано за обучение, включва изчисленията, използвани за всички дейности и методи, които са предназначени да подобрят способностите на модела преди внедряването, като например предварително обучение, генериране на синтетични данни и фино регулиране. Поради това следва да се определи първоначален праг за операции с плаваща запетая, който, ако бъде достигнат от даден модел на ИИ с общо предназначение, води до презумпцията, че това е модел на ИИ с общо предназначение, пораждащ системен риск. Този праг следва да бъде коригиран с течение на времето, за да отразява технологичните и промишлените промени, като например подобрения в алгоритмите или повишена ефективност на хардуера, и следва да бъде допълван с референтни стойности и показатели за способностите на модела. За тази цел Службата по ИИ следва да работи с научната общност, стопанския сектор, гражданското общество и други експерти. Праговете, както и инструментите и референтните показатели за оценка на способностите с висока степен на въздействие следва да бъдат добри прогнозни фактори за общия характер, способностите и свързания системен риск на моделите на ИИ с общо предназначение и биха могли да вземат предвид начина, по който моделът ще бъде пуснат на пазара, или броя на ползвателите, които той може да засегне. За да се допълни тази система, Комисията следва да има възможност да взема индивидуални решения за определяне на модел на ИИ с общо предназначение като модел на ИИ с общо предназначение, пораждащ системен риск, ако се установи, че този модел има способности или въздействие, равностойни на тези, обхванати от определения праг. Това решение следва да се вземе въз основа на цялостна оценка на критериите за определяне на модели на ИИ с общо предназначение, пораждащи системен риск, посочени в приложение към настоящия регламент, като например качество или размер на набора от обучителни данни, брой на бизнес ползвателите и крайните ползватели, свързаните с него условия за входящи данни и резултати, степен на автономност и възможности за увеличаване на мащаба или инструментите, до които той има достъп. При обосновано искане от доставчик, чийто модел е определен като модел на ИИ с общо предназначение, пораждащ системен риск, Комисията следва да вземе предвид искането и може да реши да направи нова преценка дали все още може да се счита, че моделът на ИИ с общо предназначение поражда системни рискове.
(111)
Huwa xieraq li tiġi stabbilita metodoloġija għall-klassifikazzjoni tal-mudelli tal-IA bi skop ġenerali bħala mudelli tal-IA bi skop ġenerali b'riskji sistemiċi. Peress li r-riskji sistemiċi jirriżultaw minn kapaċitajiet partikolarment għoljin, jenħtieġ li l-mudell tal-IA bi skop ġenerali jitqies li jippreżenta riskji sistemiċi jekk ikollu kapaċitajiet b'impatt għoli, evalwati abbażi ta' għodod u metodoloġiji tekniċi xierqa, jew impatt sinifikanti fuq is-suq intern minħabba l-kopertura tiegħu. Kapaċitajiet b'impatt kbir f'mudelli tal-IA bi skop ġenerali tfisser kapaċitajiet li jaqblu mal-kapaċitajiet irreġistrati fl-aktar mudelli avvanzati tal-IA bi skop ġenerali jew jaqbżuhom. Il-firxa sħiħa ta' kapaċitajiet f'mudell tista' tinftiehem aħjar wara l-introduzzjoni tiegħu fis-suq jew meta l-implimentaturi jinteraġixxu mal-mudell. Skont l-ogħla livell ta' żvilupp tekniku fil-mument tad-dħul fis-seħħ ta' dan ir-Regolament, l-ammont kumulattiv ta' komputazzjoni użat għat-taħriġ tal-mudell tal-IA bi skop ġenerali mkejjel f'operazzjonijiet b'punt varjabbli huwa wieħed mill-approssimazzjonijiet rilevanti għall-kapaċitajiet tal-mudell. L-ammont kumulattiv ta’ komputazzjoni użat għat-taħriġ jinkludi l-komputazzjoni użata fl-attivitajiet u l-metodi kollha li huma maħsuba biex itejbu l-kapaċitajiet tal-mudell qabel l-implimentazzjoni, bħal taħriġ minn qabel, ġenerazzjoni ta' data sintetika u rfinar. Għalhekk, jenħtieġ li jiġi stabbilit limitu inizjali tal-operazzjonijiet b'punt varjabbli, li, jekk jiġi ssodisfat minn mudell tal-IA bi skop ġenerali, iwassal għal preżunzjoni li l-mudell huwa mudell tal-IA bi skop ġenerali b'riskji sistemiċi. Jenħtieġ li dan il-limitu jiġi aġġustat maż-żmien biex jirrifletti l-bidliet teknoloġiċi u industrijali, bħat-titjib algoritmiku jew żieda fl-effiċjenza tal-hardware, u jenħtieġ li jiġi ssupplimentat b'parametri referenzjarji u indikaturi għall-kapaċità tal-mudell. Biex jikkontribwixxi għal dan, jenħtieġ li l-Uffiċċju għall-IA jinvolvi ruħu mal-komunità xjentifika, l-industrija, is-soċjetà ċivili u esperti oħra. Jenħtieġ li l-limiti, kif ukoll l-għodod u l-parametri referenzjarji għall-valutazzjoni ta' kapaċitajiet b'impatt għoli, ikunu jistgħu jbassru sew il-ġeneralità, il-kapaċitajiet u r-riskju sistemiku assoċjat ta' mudelli tal-IA bi skop ġenerali, u jistgħu jqisu l-mod kif il-mudell ser jiġi introdott fis-suq jew l-għadd ta' utenti li jista' jaffettwa. Biex tikkomplementa din is-sistema, jenħtieġ ikun hemm il-possibbiltà li l-Kummissjoni tieħu deċiżjonijiet individwali li jiddeżinjaw mudell tal-IA bi skop ġenerali bħala mudell tal-IA bi skop ġenerali b'riskju sistemiku jekk jinstab li tali mudell għandu kapaċitajiet jew impatt ekwivalenti għal dawk koperti mil-livell limitu stabbilit. Jenħtieġ li dik id-deċiżjoni tittieħed abbażi ta' valutazzjoni ġenerali tal-kriterji għad-deżinjazzjoni ta' mudell tal-IA bi skop ġenerali b'riskju sistemiku stipulat f'anness ta' dan ir-Regolament, bħall-kwalità jew id-daqs tas-sett tad-data tat-taħriġ, l-għadd ta' negozji u utenti finali, il-modalitajiet tal-input u tal-output tiegħu, il-livell ta' awtonomija u skalabbiltà tiegħu, jew l-għodod li għandu aċċess għalihom. Fuq talba motivata ta' fornitur li l-mudell tiegħu jkun ġie ddeżinjat bħala mudell tal-IA bi skop ġenerali b'riskju sistemiku, jenħtieġ li l-Kummissjoni tqis it-talba u tista' tiddeċiedi li tivvaluta mill-ġdid jekk il-mudell tal-IA bi skop ġenerali għadux jista' jitqies li jippreżenta riskji sistemiċi.
(112)
Необходимо е също така да се изясни процедурата за класифициране на модел на ИИ с общо предназначение, пораждащ системен риск. Модел на ИИ с общо предназначение, който отговаря на приложимия праг за способности с висока степен на въздействие, следва да се счита за модел на ИИ с общо предназначение, пораждащ системен риск. Доставчикът следва да уведоми Службата по ИИ най-късно две седмици след като бъдат изпълнени изискванията или стане известно, че даден модел на ИИ с общо предназначение ще отговаря на изискванията, свързани с презумпцията. Това е от особено значение във връзка с прага на операции с плаваща запетая, тъй като обучението на модели на ИИ с общо предназначение преминава през значително планиране, което включва предварително разпределяне на изчислителните ресурси, и следователно доставчиците на модели на ИИ с общо предназначение са в състояние да знаят дали техният модел би достигнал прага преди завършване на обучението. В контекста на това уведомяване доставчикът следва да може да докаже, че поради конкретните си характеристики даден модел на ИИ с общо предназначение по изключение не поражда системни рискове и че поради това не следва да бъде класифициран като модел на ИИ с общо предназначение, пораждащ системен риск. Тази информация е ценна, за да даде възможност на Службата по ИИ да предвиди пускането на пазара на модели на ИИ с общо предназначение, пораждащи системен риск, а на доставчиците да могат да започнат работа със Службата по ИИ на ранен етап. Информацията е особено важна по отношение на модели на ИИ с общо предназначение, за които се планира да бъдат пуснати с отворен код, като се има предвид, че след пускането на модел с отворен код може да е по-трудно да се приложат необходимите мерки за гарантиране на спазването на задълженията съгласно настоящия регламент.
(112)
Jeħtieġ ukoll li tiġi ċċarata proċedura għall-klassifikazzjoni ta' mudell tal-IA bi skop ġenerali b'riskji sistemiċi. Jenħtieġ li mudell tal-IA bi skop ġenerali li jissodisfa l-limitu applikabbli għal kapaċitajiet b'impatt għoli jitqies li huwa mudell tal-IA bi skop ġenerali b'riskju sistemiku. Jenħtieġ li l-fornitur jinnotifika lill-Uffiċċju għall-IA mhux aktar tard minn ġimagħtejn wara li jiġu ssodisfati r-rekwiżiti jew isir magħruf li mudell tal-IA bi skop ġenerali ser jissodisfa r-rekwiżiti li jwasslu għall-preżunzjoni. Dan huwa partikolarment rilevanti fir-rigward tal-limitu tal-operazzjonijiet b'punt varjabbli minħabba li t-taħriġ ta' mudelli tal-IA bi skop ġenerali jirrikjedi ippjanar konsiderevoli li jinkludi l-allokazzjoni bil-quddiem tar-riżorsi tal-komputazzjoni u, għalhekk, il-fornituri ta' mudelli tal-IA bi skop ġenerali jistgħu jkunu jafu jekk il-mudell tagħhom jilħaqx il-limitu qabel ma jitlesta t-taħriġ. Fil-kuntest ta' dik in-notifika, jenħtieġ li l-fornitur ikun jista' juri li minħabba l-karatteristiċi speċifiċi tiegħu, mudell tal-IA bi skop ġenerali b'mod eċċezzjonali ma jippreżentax riskji sistemiċi, u li għalhekk jenħtieġ li ma jiġix ikklassifikat bħala mudell tal-IA bi skop ġenerali b'riskji sistemiċi. Dik l-informazzjoni hija siewja għall-Uffiċċju għall-IA biex jantiċipa l-introduzzjoni fis-suq ta' mudelli tal-IA bi skop ġenerali b'riskji sistemiċi u l-fornituri jistgħu jibdew jinvolvu ruħhom mal-Uffiċċju għall-IA minn kmieni. Dik l-informazzjoni hija partikolarment importanti fir-rigward tal-mudelli tal-IA bi skop ġenerali li huma ppjanati li jiġu rilaxxati bħala sors miftuħ, minħabba li, wara r-rilaxx tal-mudell b'sors miftuħ, il-miżuri meħtieġa biex tiġi żgurata l-konformità mal-obbligi skont dan ir-Regolament jistgħu jkunu aktar diffiċli biex jiġu implimentati.
(113)
Ако на Комисията стане известен фактът, че даден модел на ИИ с общо предназначение отговаря на изискванията за класифициране като модел ИИ с общо предназначение, пораждащ системен риск, който преди това не е бил известен или за който съответният доставчик не е уведомил Комисията, на Комисията следва да бъде предоставено правомощието да го определи като такъв. Системата за приоритетни сигнали следва да гарантира, че Службата по ИИ е информирана от експертната група за модели на ИИ с общо предназначение, които евентуално следва да бъдат класифицирани като модели на ИИ с общо предназначение, пораждащи системен риск, в допълнение към дейностите по мониторинг на Службата по ИИ.
(113)
Jekk il-Kummissjoni ssir taf bil-fatt li mudell tal-IA bi skop ġenerali jissodisfa r-rekwiżiti biex jiġi kklassifikat bħala mudell tal-IA bi skop ġenerali b'riskju sistemiku, li qabel jew ma kienx magħruf jew li l-fornitur rilevanti naqas milli jinnotifika lill-Kummissjoni, jenħtieġ li l-Kummissjoni tingħata s-setgħa li tiddeżinjah bħala tali. Jenħtieġ li jkun hemm sistema ta' allerti kwalifikati li tiżgura li l-Uffiċċju għall-IA jiġi mgħarraf mill-bord b'mudelli tal-IA bi skop ġenerali li x'aktarx għandhom jiġu kklassifikati bħala mudelli tal-IA bi skop ġenerali b'riskju sistemiku, minbarra l-attivitajiet ta' monitoraġġ tal-Uffiċċju għall-IA.
(114)
За доставчиците на модели на ИИ с общо предназначение, пораждащи системни рискове, следва да се прилагат, в допълнение към задълженията, предвидени за доставчиците на модели на ИИ с общо предназначение, задължения, насочени към установяване и ограничаване на тези рискове и осигуряване на подходящо равнище на защита на киберсигурността, независимо дали тези модели се предоставят като самостоятелни модели, или са вградени в система с ИИ или продукт. За постигането на тези цели настоящият регламент следва да изисква от доставчиците да извършват необходимите оценки на модела, по-специално преди първото му пускане на пазара, включително провеждане и документиране на конкурентно изпитване на модели, когато е целесъобразно и чрез вътрешни или независими външни изпитвания. Освен това доставчиците на модели на ИИ с общо предназначение, пораждащи системен риск, следва непрекъснато да оценяват и ограничават системните рискове, включително например чрез въвеждане на политики за управление на риска, като например процеси на отчетност и администриране, проследяване след пускането на пазара, предприемане на подходящи мерки през целия жизнен цикъл на модела и сътрудничество със съответните участници по веригата за създаване на стойност в областта на ИИ.
(114)
Jenħtieġ li l-fornituri ta' mudelli tal-IA bi skop ġenerali li jippreżentaw riskji sistemiċi jkunu soġġetti, minbarra l-obbligi previsti għall-fornituri ta' mudelli tal-IA bi skop ġenerali, għal obbligi mmirati lejn l-identifikazzjoni u l-mitigazzjoni ta' dawk ir-riskji u l-iżgurar ta' livell adegwat ta' protezzjoni taċ-ċibersigurtà, irrispettivament minn jekk jiġix ipprovdut bħala mudell awtonomu jew inkorporat f'sistema tal-IA jew fi prodott. Sabiex jintlaħqu dawk l-objettivi, jenħtieġ li dan ir-Regolament jirrikjedi li l-fornituri jwettqu l-evalwazzjonijiet tal-mudell meħtieġa, b'mod partikolari qabel l-ewwel introduzzjoni tiegħu fis-suq, inkluż it-twettiq u d-dokumentazzjoni tal-ittestjar kontradittorju tal-mudelli, anke, kif xieraq, permezz ta' ttestjar intern jew indipendenti estern. Barra minn hekk, jenħtieġ li l-fornituri ta' mudelli tal-IA bi skop ġenerali b'riskji sistemiċi jivvalutaw u jimmitigaw kontinwament ir-riskji sistemiċi, inkluż pereżempju billi jistabbilixxu politiki ta' ġestjoni tar-riskju, bħal proċessi ta' responsabbiltà u governanza, jimplimentaw sorveljanza ta' wara l-introduzzjoni fis-suq, jieħdu miżuri xierqa tul iċ-ċiklu tal-ħajja kollu tal-mudell u jikkooperaw ma' atturi rilevanti tul il-katina tal-valur tal-IA.
(115)
Доставчиците на модели на ИИ с общо предназначение, пораждащи системен риск, следва да оценяват и ограничават възможните системни рискове. Ако въпреки усилията за установяване и предотвратяване на рискове, свързани с модел на ИИ с общо предназначение, който може да поражда системни рискове, разработването или използването на модела причини сериозен инцидент, доставчикът на модел на ИИ с общо предназначение следва без ненужно забавяне да проследи инцидента и да докладва на Комисията и на националните компетентни органи за всяка съответна информация и възможни коригиращи действия. Освен това доставчиците следва да гарантират подходящо равнище на защита на киберсигурността на модела и неговата физическа инфраструктура, ако е целесъобразно, през целия жизнен цикъл на модела. Защитата на киберсигурността от системни рискове, свързани с недобросъвестно използване или атаки, следва надлежно да отчита случайни фактори като изтичане на модел, неразрешено предоставяне, заобикаляне на мерките за безопасност и защита срещу кибератаки, неразрешен достъп или кражба на модел. Тази защита може да бъде улеснена чрез осигуряване на тегла на моделите, алгоритми, сървъри и набори от данни, например чрез оперативни мерки за информационна сигурност, специфични политики за киберсигурност, подходящи технически и изпитани решения и контрол на кибердостъпа и физическия достъп, съобразени със съответните обстоятелства и рискове.
(115)
Jenħtieġ li l-fornituri ta' mudelli tal-IA bi skop ġenerali b'riskji sistemiċi jivvalutaw u jimmitigaw ir-riskji sistemiċi possibbli. Jekk, minkejja l-isforzi biex jiġu identifikati u evitati riskji relatati ma' mudell tal-IA bi skop ġenerali li jista' jippreżenta riskji sistemiċi, l-iżvilupp jew l-użu tal-mudell jikkawża inċident serju, jenħtieġ li l-fornitur tal-mudell tal-IA bi skop ġenerali mingħajr dewmien żejjed iżomm rekord tal-inċident u jirrapporta kwalunkwe informazzjoni rilevanti u miżuri korrettiva possibbli lill-Kummissjoni u lill-awtoritajiet nazzjonali kompetenti. Barra minn hekk, jenħtieġ li l-fornituri jiżguraw livell adegwat ta' protezzjoni taċ-ċibersigurtà għall-mudell u l-infrastruttura fiżika tiegħu, jekk ikun xieraq, tul iċ-ċiklu tal-ħajja kollu tal-mudell. Jenħtieġ li l-protezzjoni taċ-ċibersigurtà relatata mar-riskji sistemiċi assoċjati mal-użu malizzjuż ta' mudell jew attakki tqis kif xieraq ir-rilaxx aċċidentali minn mudell, ir-rilaxxi mhux awtorizzati, iċ-ċirkomvenzjoni tal-miżuri ta' sikurezza, u d-difiża kontra l-attakki ċibernetiċi, l-aċċess mhux awtorizzat jew is-serq tal-mudell. Dik il-protezzjoni tista' tiġi ffaċilitata billi jiġu żgurati piżijiet tal-mudell, algoritmi, servers, u settijiet ta' data, pereżempju permezz ta' miżuri ta' sigurtà operazzjonali għas-sigurtà tal-informazzjoni, politiki speċifiċi dwar iċ-ċibersigurtà, soluzzjonijiet tekniċi u stabbiliti adegwati, u kontrolli tal-aċċess ċibernetiku u fiżiku, adattati għaċ-ċirkostanzi rilevanti u r-riskji involuti.
(116)
Службата по ИИ следва да насърчава и улеснява изготвянето, прегледа и адаптирането на кодекси за добри практики, като взема предвид международните подходи. Всички доставчици на модели на ИИ с общо предназначение биха могли да бъдат поканени да участват. За да се гарантира, че кодексите за добри практики отразяват съвременните технически постижения и са надлежно съобразени с набор от различни гледни точки, Службата по ИИ следва да си сътрудничи със съответните национални компетентни органи и би могла, когато е целесъобразно, да се консултира с организации на гражданското общество и други съответни заинтересовани страни и експерти, включително експертната група, за изготвянето на такива кодекси. Кодексите за добри практики следва да включват задълженията на доставчиците на модели на ИИ с общо предназначение и на модели на ИИ с общо предназначение, пораждащи системен риск. Освен това, по отношение на системните рискове, кодексите за добри практики следва да спомогнат за установяването на таксономия на вида и естеството на системните рискове на равнището на Съюза, включително техните източници. Кодексите за добри практики следва също така да бъдат съсредоточени върху конкретни мерки за оценка и ограничаване на риска.
(116)
Jenħtieġ li l-Uffiċċju għall-IA jħeġġeġ u jiffaċilita t-tfassil, ir-rieżami u l-adattament tal-kodiċijiet ta' prattika, filwaqt li jqis l-approċċi internazzjonali. Il-fornituri kollha ta' mudelli tal-IA bi skop ġenerali jistgħu jiġu mistiedna jipparteċipaw. Biex jiġi żgurat li l-kodiċijiet ta' prattika jirriflettu l-ogħla livell ta' żvilupp tekniku u jqisu kif xieraq sett varjat ta' perspettivi, jenħtieġ li l-Uffiċċju għall-IA jikkollabora mal-awtoritajiet nazzjonali kompetenti rilevanti, u jista', fejn xieraq, jikkonsulta mal-organizzazzjonijiet tas-soċjetà ċivili u partijiet ikkonċernati u esperti rilevanti oħra, inkluż il-bord, għat-tfassil ta' tali kodiċijiet. Jenħtieġ li l-kodiċijiet ta' prattika jkopru l-obbligi għall-fornituri ta' mudelli tal-IA bi skop ġenerali u ta' mudelli tal-IA bi skop ġenerali li jippreżentaw riskji sistemiċi. Barra minn hekk, fir-rigward tar-riskji sistemiċi, jenħtieġ li l-kodiċijiet ta' prattika jgħinu biex tiġi stabbilita tassonomija tar-riskju tat-tip u n-natura tar-riskji sistemiċi fil-livell tal-Unjoni, inkluż is-sorsi tagħhom. Jenħtieġ li l-Kodiċijiet ta' Prattika jkunu ffukati wkoll fuq valutazzjoni tar-riskju speċifika u miżuri ta' mitigazzjoni.
(117)
Кодексите за добри практики следва да представляват основен инструмент за правилното спазване на задълженията, предвидени в настоящия регламент за доставчиците на модели на ИИ с общо предназначение. Доставчиците следва да могат да се основават на кодекси за добри практики, за да докажат спазването на задълженията. Комисията може да реши да одобри чрез акт за изпълнение кодекс за добри практики и да осигури общата му приложимост в рамките на Съюза или, като друга възможност, да предвиди общи правила за изпълнението на съответните задължения, ако до началото на прилагането на настоящия регламент даден кодекс за добри практики не може да бъде подготвен или не се счита за подходящ от Службата по ИИ. След като даден хармонизиран стандарт бъде публикуван и оценен като подходящ за покриване на съответните задължения от Службата по ИИ, съответствието с европейски хармонизиран стандарт следва да дава на доставчиците презумпция за съответствие. Освен това доставчиците на модели на ИИ с общо предназначение следва да могат да докажат съответствие, като използват други подходящи средства, ако няма кодекси за добри практики или хармонизирани стандарти или ако решат да не разчитат на тях.
(117)
Jenħtieġ li l-kodiċijiet ta' prattika jirrappreżentaw għodda ċentrali għall-konformità xierqa mal-obbligi previsti skont dan ir-Regolament għall-fornituri ta' mudelli tal-IA bi skop ġenerali. Jenħtieġ li l-fornituri jkunu jistgħu jiddependu fuq kodiċijiet ta' prattika biex juru l-konformità mal-obbligi. Permezz ta' atti ta' implimentazzjoni, il-Kummissjoni tista' tiddeċiedi li tapprova kodiċi ta' prattika u tagħtih validità ġenerali fl-Unjoni, jew, alternattivament, li tipprovdi regoli komuni għall-implimentazzjoni tal-obbligi rilevanti, jekk, sa meta dan ir-Regolament isir applikabbli, kodiċi ta' prattika ma jkunx jista' jiġi ffinalizzat jew ma jitqiesx adegwat mill-Uffiċċju għall-IA. Ladarba standard armonizzat jiġi ppubblikat u vvalutat bħala xieraq biex ikopri l-obbligi rilevanti mill-Uffiċċju għall-IA, jenħtieġ li l-konformità ma' standard armonizzat Ewropew tagħti lill-fornituri l-preżunzjoni tal-konformità. Barra minn hekk, jenħtieġ li l-fornituri ta' mudelli tal-IA bi skop ġenerali jkunu jistgħu juru l-konformità bl-użu ta' mezzi adegwati alternattivi, jekk il-kodiċijiet ta' prattika jew l-istandards armonizzati ma jkunux disponibbli, jew jagħżlu li ma jiddependux fuqhom.
(118)
С настоящия регламент се уреждат системите с ИИ и моделите на ИИ, като се налагат определени изисквания и задължения за съответните пазарни участници, които ги пускат на пазара, пускат в действие или използват в Съюза, като по този начин се допълват задълженията на доставчиците на посреднически услуги, които интегрират такива системи или модели в своите услуги, които се уреждат от Регламент (ЕС) 2022/2065. Доколкото тези системи или модели са вградени в определени много големи онлайн платформи или много големи онлайн търсачки, за тях се прилага рамката за управление на риска, предвидена в Регламент (ЕС) 2022/2065. Следователно съответните задължения съгласно настоящия регламент следва да се считат за изпълнени, освен ако в такива модели не възникнат и се установят значителни системни рискове, които не са обхванати от Регламент (ЕС) 2022/2065. В тази контекст от доставчиците на много големи онлайн платформи и много големи онлайн търсачки се изисква да оценяват потенциалните системни рискове, произтичащи от проектирането, функционирането и използването на техните услуги, включително начина, по който проектирането на алгоритмични системи, използвани в услугата, може да допринесе за появата на такива рискове, както и системните рискове, произтичащи от еветуална неправилна експлоатация. Тези доставчици са длъжни също така да предприемат подходящи мерки за ограничаване при спазване на основните права.
(118)
Dan ir-Regolament jirregola s-sistemi tal-IA u l-mudelli tal-IA billi jimponi ċerti rekwiżiti u obbligi għall-atturi rilevanti tas-suq li qed jintroduċuhom fis-suq, iqegħduhom fis-servizz jew fl-użu fl-Unjoni, u b'hekk jikkomplementa l-obbligi għall-fornituri tas-servizzi intermedjarji li jinkorporaw tali sistemi jew mudelli fis-servizzi tagħhom irregolati bir-Regolament (UE) 2022/2065. Sal-punt li tali sistemi jew mudelli jkunu inkorporati fi pjattaformi online kbar ħafna ddeżinjati jew f'magni tat-tiftix online kbar ħafna, dawn ikunu soġġetti għall-qafas ta' ġestjoni tar-riskju previst fir-Regolament (UE) 2022/2065. Konsegwentement, jenħtieġ li l-obbligi korrispondenti ta' dan ir-Regolament jiġu preżunti li ġew issodisfati, dment li ma jitfaċċawx riskji sistemiċi sinifikanti mhux koperti mir-Regolament (UE) 2022/2065 u jiġu identifikati f'tali mudelli. F'dan il-qafas, il-fornituri tal-pjattaformi online kbar ħafna u tal-magni tat-tiftix online kbar ħafna huma obbligati jivvalutaw ir-riskji sistemiċi potenzjali li jirriżultaw mid-disinn, il-funzjonament u l-użu tas-servizzi tagħhom, inkluż kif id-disinn tas-sistemi algoritmiċi użati fis-servizz jista' jikkontribwixxi għal tali riskji, kif ukoll riskji sistemiċi li jirriżultaw minn użi ħżiena potenzjali. Dawk il-fornituri huma obbligati wkoll li jieħdu miżuri ta' mitigazzjoni xierqa b'rispett għad-drittijiet fundamentali.
(119)
Предвид бързия темп на иновациите и технологичното развитие на цифровите услуги, попадащи в обхвата на различните инструменти на правото на Съюза, по-специално като се има предвид използването и възприемането им от страна на техните получатели, системите с ИИ, които са предмет на настоящия регламент, могат да бъдат предоставяни като посреднически услуги или части от тях по смисъла на Регламент (ЕС) 2022/2065, който следва да се тълкува по технологично неутрален начин. Например системите с ИИ могат да се използват за предоставяне на онлайн търсачки, по-специално доколкото дадена система с ИИ, като например онлайн чатбот, извършва търсене по принцип на всички уебсайтове, след това интегрира резултатите в съществуващите си знания и използва актуализираните знания, за да генерира единен резултат, който съчетава различни източници на информация.
(119)
Meta wieħed iqis il-pass mgħaġġel tal-innovazzjoni u l-evoluzzjoni teknoloġika tas-servizzi diġitali fil-kamp ta' applikazzjoni ta' strumenti differenti tad-dritt tal-Unjoni b'mod partikolari meta wieħed iżomm f'moħħu l-użu u l-perċezzjoni tar-riċevituri tagħhom, is-sistemi tal-IA soġġetti għal dan ir-Regolament jistgħu jiġu previsti bħala servizzi intermedjarji jew partijiet minnhom skont it-tifsira tar-Regolament (UE) 2022/2065, li jenħtieġ li jiġi interpretat b'mod teknoloġikament newtrali. Pereżempju, is-sistemi tal-IA jistgħu jintużaw biex jipprovdu magni tat-tiftix online, b'mod partikolari, sal-punt li sistema tal-IA bħal chatbot online twettaq tfittxijiet, fil-prinċipju, tas-siti web kollha, imbagħad tinkorpora r-riżultati fl-għarfien eżistenti tagħha u tuża l-għarfien aġġornat biex tiġġenera output uniku li jikkombina sorsi differenti ta' informazzjoni.
(120)
Освен това задълженията, наложени с настоящия регламент на доставчиците и внедрителите на някои системи с ИИ с цел откриване и оповестяване, че резултатите от тези системи са изкуствено генерирани или обработени, са от особено значение с оглед на ефективното прилагане на Регламент (ЕС) 2022/2065. Това се отнася по-специално за задълженията на доставчиците на много големи онлайн платформи или много големи онлайн търсачки да установяват и ограничават системните рискове, които могат да възникнат поради разпространението на съдържание, което е било изкуствено генерирано или обработено, и по-специално риска от действителни или предвидими отрицателни последици за демократичните процеси, гражданския дебат и изборните процеси, включително чрез дезинформация.
(120)
Barra minn hekk, l-obbligi imposti fuq il-fornituri u l-implimentaturi ta' ċerti sistemi tal-IA f'dan ir-Regolament biex jippermettu l-kxif u d-divulgazzjoni li l-outputs ta' dawk is-sistemi jiġu ġġenerati jew immanipulati b'mod artifiċjali huma partikolarment rilevanti biex tiġi ffaċilitata l-implimentazzjoni effettiva tar-Regolament (UE) 2022/2065. Dan japplika b'mod partikolari fir-rigward tal-obbligi tal-fornituri ta' pjattaformi online kbar ħafna jew ta' magni tat-tiftix online kbar ħafna biex jidentifikaw u jimmitigaw ir-riskji sistemiċi li jistgħu jirriżultaw mid-disseminazzjoni ta' kontenut li jkun ġie ġġenerat jew immanipulat b'mod artifiċjali, b'mod partikolari r-riskju tal-effetti negattivi reali jew prevedibbli fuq il-proċessi demokratiċi, id-diskors ċiviku u l-proċessi elettorali, inkluż permezz tad-diżinformazzjoni.
(121)
Стандартизацията следва да заема ключово място за осигуряването на технически решения на доставчиците, за да се гарантира спазването на настоящия регламент, съобразно съвременните технически постижения, с цел да се насърчат иновациите, както и конкурентоспособността и растежът на единния пазар. Съответствието с хармонизираните стандарти по смисъла на определението в член 2, точка 1, буква в) от Регламент (ЕС) № 1025/2012 на Европейския парламент и на Съвета (41), които обикновено се очаква да отразяват съвременните технически постижения, следва да бъде средство за доказване на спазването на изискванията на настоящия регламент от доставчиците. Поради това следва да се насърчава балансирано представителство на интереси с участието в разработването на стандарти на всички съответни заинтересовани страни, по-специално МСП, организации на потребители и представляващите екологични и социални интереси заинтересовани страни в съответствие с членове 5 и 6 от Регламент (ЕС) № 1025/2012. За да се улесни съответствието, исканията за стандартизация следва да се отправят от Комисията без ненужно забавяне. При изготвянето на искането за стандартизация Комисията следва да се консултира с консултативния форум и със Съвета по ИИ, за да събере съответния експертен опит. При липсата на съответни позовавания на хармонизирани стандарти обаче Комисията следва да може да установява, чрез актове за изпълнение и след консултация с консултативния форум, общи спецификации за някои изисквания съгласно настоящия регламент. Общата спецификация следва да бъде извънредно алтернативно решение, за да се улесни изпълнението на задължението на доставчика да спазва изискванията на настоящия регламент, когато искането за стандартизация не е било прието от някоя от европейските организации за стандартизация или когато съответните хармонизирани стандарти не отразяват в достатъчна степен опасенията, свързани с основните права, или когато хармонизираните стандарти не отговарят на искането, или когато има забавяне в приемането на подходящ хармонизиран стандарт. Когато това забавяне в приемането на хармонизиран стандарт се дължи на техническата сложност на стандарта, това следва да се вземе предвид от Комисията, преди да се разгледа възможността за установяване на общи спецификации. При разработването на общи спецификации Комисията се насърчава да си сътрудничи с международни партньори и международни органи за стандартизация.
(121)
Jenħtieġ li l-istandardizzazzjoni taqdi rwol ewlieni biex tipprovdi soluzzjonijiet tekniċi lill-fornituri ħalli tkun żgurata l-konformità ma' dan ir-Regolament, f'konformità mal-ogħla livell ta' żvilupp tekniku, biex tippromwovi l-innovazzjoni kif ukoll il-kompetittività u t-tkabbir fis-suq uniku. Jenħtieġ li l-konformità mal-istandards armonizzati kif definiti fl-Artikolu 2, il-punt (1)(c) tar-Regolament (UE) Nru 1025/2012 tal-Parlament Ewropew u tal-Kunsill (41), li normalment mistennija jirriflettu l-ogħla livell ta' żvilupp tekniku, tkun mezz biex il-fornituri juru l-konformità mar-rekwiżiti ta' dan ir-Regolament. Għalhekk jenħtieġ li titħeġġeġ rappreżentazzjoni bilanċjata tal-interessi li tinvolvi l-partijiet ikkonċernati rilevanti kollha fl-iżvilupp tal-istandards, b'mod partikolari l-SMEs, l-organizzazzjonijiet tal-konsumaturi u l-partijiet ikkonċernati fil-qasam tal-ambjent u dak soċjali f'konformità mal-Artikoli 5 u 6 tar-Regolament (UE) Nru 1025/2012. Sabiex tiġi ffaċilitata l-konformità, jenħtieġ li t-talbiet ta' standardizzazzjoni jinħarġu mill-Kummissjoni mingħajr dewmien żejjed. Meta tkun qed tħejji t-talba ta' standardizzazzjoni, jenħtieġ li l-Kummissjoni tikkonsulta lill-forum konsultattiv u lill-Bord sabiex tiġbor l-kompetenza esperta rilevanti. Madankollu, fin-nuqqas ta' referenzi rilevanti għal standards armonizzati, jenħtieġ li l-Kummissjoni tkun tista' tistabbilixxi, permezz ta' atti ta' implimentazzjoni, u wara konsultazzjoni mal-forum konsultattiv, speċifikazzjonijiet komuni għal ċerti rekwiżiti skont dan ir-Regolament. Jenħtieġ li l-ispeċifikazzjoni komuni tkun soluzzjoni ta' riżerva eċċezzjonali biex jiġi ffaċilitat l-obbligu tal-fornitur li jikkonforma mar-rekwiżiti ta' dan ir-Regolament, meta t-talba ta' standardizzazzjoni ma tkunx ġiet aċċettata minn xi waħda mill-organizzazzjonijiet Ewropej tal-istandardizzazzjoni, jew meta l-istandards armonizzati rilevanti ma jindirizzawx biżżejjed it-tħassib dwar id-drittijiet fundamentali, jew meta l-istandards armonizzati ma jikkonformawx mat-talba, jew meta jkun hemm dewmien fl-adozzjoni ta' standard armonizzat xieraq. Fejn tali dewmien fl-adozzjoni ta' standard armonizzat ikun dovut għall-kumplessità teknika ta' dak l-istandard, jenħtieġ li dan jiġi kkunsidrat mill-Kummissjoni qabel ma jiġi maħsub l-istabbiliment ta' speċifikazzjonijiet komuni. Meta tiżviluppa speċifikazzjonijiet komuni, il-Kummissjoni hija mħeġġa tikkoopera mas-sħab internazzjonali u mal-korpi internazzjonali tal-istandardizzazzjoni.
(122)
Без да се засяга използването на хармонизирани стандарти и общи спецификации, е целесъобразно да се счита, че доставчиците на високорискова система с ИИ, която е била обучена и изпитана въз основа на данни, отразяващи конкретната географска, контекстуална, поведенческа или функционална среда, в която системата с ИИ е предназначена да бъде използвана, съответстват на съответната мярка, предвидена съгласно изискването за администриране на данни, определено в настоящия регламент. Без да се засягат изискванията, свързани с надеждността и точността, установени в настоящия регламент, в съответствие с член 54, параграф 3 от Регламент (ЕС) 2019/881 високорисковите системи с ИИ, които са сертифицирани или за които е издадена декларация за съответствие по схема за киберсигурност съгласно посочения регламент и данните за които са били публикувани в Официален вестник на Европейския съюз, следва да се считат за съответстващи на изискването за киберсигурност съгласно настоящия регламент, доколкото сертификатът за киберсигурност или декларацията за съответствие, или части от тях включват изискването за киберсигурност съгласно настоящия регламент. Това не засяга доброволния характер на тази схема за киберсигурност.
(122)
Jixraq li, mingħajr preġudizzju għall-użu ta' standards armonizzati u speċifikazzjonijiet komuni, ikun jenħtieġ li l-fornituri tas-sistema tal-IA b'riskju għoli li tkun ġiet imħarrġa u ttestjata fuq data li tirrifletti l-issettjar ġeografiku, komportamentali, kuntestwali jew funzjonali speċifiku li fih tkun maħsuba li tintuża s-sistema tal-IA, jiġu preżunti li jikkonformaw mal-miżura rilevanti prevista fir-rekwiżit dwar il-governanza tad-data stipulata f'dan ir-Regolament. Mingħajr preġudizzju għar-rekwiżiti relatati mar-robustezza u l-akkuratezza stipulati f'dan ir-Regolament, f'konformità mal-Artikolu 54(3) tar-Regolament (UE) 2019/881, jenħtieġ li s-sistemi tal-IA b'riskju għoli li jkunu ġew iċċertifikati jew li għalihom tkun inħarġet dikjarazzjoni ta' konformità taħt skema taċ-ċibersigurtà skont dak ir-Regolament u li r-referenzi tagħhom ikunu ġew ippubblikati f'Il-Ġurnal Uffiċjali tal-Unjoni Ewropea, jiġu preżunti li jikkonformaw mar-rekwiżit taċ-ċibersigurtà ta' dan ir-Regolament dment li ċ-ċertifikat taċ-ċibersigurtà jew id-dikjarazzjoni tal-konformità jew partijiet minnha jkopru r-rekwiżit taċ-ċibersigurtà ta' dan ir-Regolament. Dan jibqa' mingħajr preġudizzju għan-natura volontarja ta' dik l-iskema ta' ċibersigurtà.
(123)
За да се гарантира високо ниво на надеждност на високорисковите системи с ИИ, те следва да подлежат на оценяване на съответствието преди пускането им на пазара или пускането им в действие.
(123)
Biex ikun żgurat livell għoli ta' affidabbiltà tas-sistemi tal-IA b'riskju għoli, jenħtieġ li dawk is-sistemi jkunu soġġetti għal valutazzjoni tal-konformità qabel ma jiġu introdotti fis-suq jew imqiegħda fis-servizz.
(124)
За да се сведе до минимум тежестта за операторите и да се избегне всякакво възможно дублиране, за високорисковите системи с ИИ, свързани с продукти, които са обхванати от съществуващото законодателство на Съюза за хармонизация въз основа на новата законодателна рамка, е целесъобразно съответствието на тези системи с ИИ с изискванията на настоящия регламент да се оценява като част от оценяването на съответствието, което вече е предвидено съгласно посоченото право. Следователно приложимостта на изискванията на настоящия регламент не следва да засяга специфичната логика, методика или обща структура за оценяване на съответствието съгласно съответното законодателство на Съюза за хармонизация.
(124)
Jixraq li, biex jitnaqqas kemm jista' jkun il-piż fuq l-operaturi u tkun evitata kwalunkwe duplikazzjoni possibbli, għas-sistemi tal-IA b'riskju għoli relatati ma' prodotti koperti bil-leġiżlazzjoni eżistenti tal-Unjoni dwar l-armonizzazzjoni bbażata fuq il-Qafas Leġiżlattiv Ġdid, jenħtieġ li l-konformità ta' dawk is-sistemi tal-IA mar-rekwiżiti ta' dan ir-Regolament tiġi vvalutata bħala parti mill-valutazzjoni tal-konformità diġà prevista f'dik il-liġi. Għalhekk, jenħtieġ li l-applikabbiltà tar-rekwiżiti ta' dan ir-Regolament ma taffettwax il-loġika, il-metodoloġija jew l-istruttura ġenerali speċifiċi ta' valutazzjoni tal-konformità skont il-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni.
(125)
С оглед на сложността на високорисковите системи с ИИ и свързаните с тях рискове, е важно да се разработи подходяща процедура за оценяване на съответствието за високорискови системи с ИИ, включваща нотифицирани органи, т.нар. оценяване на съответствието от трето лице. Като се има предвид обаче настоящият опит в областта на безопасността на продуктите на професионалните сертифициращи органи преди пускането на пазара, както и различното естество на свързаните с тези продукти рискове, е целесъобразно да се ограничи, поне в началната фаза на прилагане на настоящия регламент, приложното поле на оценяването на съответствието от трето лице за високорисковите системи с ИИ, различни от свързаните с продукти. Поради това оценяването на съответствието на такива системи следва като общо правило да се извършва от доставчика на негова отговорност, като единствено изключение са системите с ИИ, предназначени да се използват за биометрични цели.
(125)
Minħabba l-kumplessità tas-sistemi tal-IA b'risku għoli u r-riskji li huma assoċjati magħhom, huwa importanti li tiġi żviluppata proċedura adegwata ta' valutazzjoni tal-konformità għal sistemi tal-IA b'risku għoli li jinvolvu korpi notifikati, l-hekk imsejħa valutazzjoni tal-konformità minn parti terza. Madankollu, minħabba l-esperjenza attwali ta' ċertifikaturi professjonali ta' qabel l-introduzzjoni fis-suq fil-qasam tas-sikurezza tal-prodotti u n-natura differenti tar-riskji involuti, jixraq li l-kamp ta' applikazzjoni tal-valutazzjoni tal-konformità minn parti terza jiġi limitat, mill-inqas f'fażi inizjali tal-applikazzjoni ta' dan ir-Regolament għas-sistemi tal-IA b'riskju għoli għajr dawk relatati mal-prodotti. Għalhekk, jenħtieġ li l-valutazzjoni tal-konformità ta' sistemi bħal dawn titwettaq bħala regola ġenerali mill-fornitur taħt ir-responsabbiltà tiegħu stess, bl-unika eċċezzjoni tas-sistemi tal-IA maħsuba biex jintużaw għall-bijometrija.
(126)
С цел извършване на оценяване на съответствието от трето лице, когато това се изисква, националните компетентни органи следва да нотифицират съгласно настоящия регламент нотифицираните органи, при условие че последните отговарят на набор от изисквания, по-специално относно независимостта, компетентността и отсъствието на конфликти на интереси и на подходящи изисквания за киберсигурност. Националните компетентни органи следва да изпращат нотификацията за тези органи до Комисията и другите държави членки чрез средството за електронно нотифициране, разработено и управлявано от Комисията съгласно член R23 от приложение I към Решение № 768/2008/ЕО.
(126)
Biex issir valutazzjoni tal-konformità minn parti terza meta dan ikun meħtieġ, jenħtieġ li l-korpi notifikati jiġu nnotifikati skont dan ir-Regolament mill-awtoritajiet kompetenti nazzjonali, dment li dawn jikkonformaw ma' sett ta' rekwiżiti, b'mod partikolari dwar l-indipendenza, il-kompetenza u n-nuqqas ta' kunflitti ta' interess u rekwiżiti ta' ċibersigurtà adegwati. Jenħtieġ li n-notifika ta' dawk il-korpi tintbagħat mill-awtoritajiet nazzjonali kompetenti lill-Kummissjoni u lill-Istati Membri l-oħra permezz tal-għodda elettronika ta' notifika żviluppata u ġestita mill-Kummissjoni skont l-Artikolu R23 tal-Anness I tad-Deċiżjoni Nru 768/2008/KE.
(127)
В съответствие с ангажиментите на Съюза съгласно Споразумението на Световната търговска организация за техническите пречки пред търговията е целесъобразно да се улесни взаимното признаване на резултатите от оценяването на съответствието, получени от компетентни органи за оценяване на съответствието, независимо от територията, на която са създадени, при условие че тези органи за оценяване на съответствието, създадени съгласно правото на трета държава, отговарят на приложимите изисквания на настоящия регламент и че Съюзът е сключил споразумение в това отношение. В този контекст Комисията следва активно да проучи възможните международни инструменти за тази цел и по-специално да се стреми към сключване на споразумения за взаимно признаване с трети държави.
(127)
F'konformità mal-impenji tal-Unjoni skont il-Ftehim tal-Organizzazzjoni Dinjija tal-Kummerċ dwar l-Ostakli Tekniċi għall-Kummerċ, huwa xieraq li jiġi ffaċilitat ir-rikonoxximent reċiproku tar-riżultati tal-valutazzjoni tal-konformità prodotti minn korpi kompetenti tal-valutazzjoni tal-konformità, indipendenti mit-territorju li fih ikunu stabbiliti, dment li dawk il-korpi ta' valutazzjoni tal-konformità stabbiliti skont il-liġi ta' pajjiż terz jissodisfaw ir-rekwiżiti applikabbli ta' dan ir-Regolament u l-Unjoni tkun ikkonkludiet ftehim skont dan. F'dan il-kuntest, jenħtieġ li l-Kummissjoni tesplora b'mod attiv strumenti internazzjonali possibbli għal dak l-għan u b'mod partikolari tfittex il-konklużjoni ta' ftehimiet ta' rikonoxximent reċiproku ma' pajjiżi terzi.
(128)
В съответствие с общоприетото понятие за съществено изменение за продукти, регулирани от законодателството на Съюза за хармонизация, е целесъобразно дадена система с ИИ да се счита за нова система с ИИ, която следва да бъде подложена на ново оценяване на съответствието всеки път, когато настъпи промяна, която може да засегне съответствието на високорискова система с ИИ с настоящия регламент (например промяна на операционната система или на софтуерната архитектура), или когато предназначението на системата се промени. Въпреки това промените на алгоритъма или на действието на системи с ИИ, които продължават да се обучават след пускането им на пазара или пускането им в действие, а именно автоматично адаптират начина, по който се изпълняват функциите, не следва да се смятат за съществено изменение, при условие че тези промени са били предварително определени от доставчика и оценени към момента на оценяването на съответствието.
(128)
F'konformità mal-kunċett stabbilit b'mod komuni ta' modifika sostanzjali għall-prodotti regolati mil-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni, huwa xieraq li kull meta sseħħ bidla li tista' taffettwa l-konformità ta' sistema tal-IA b'riskju għoli ma' dan ir-Regolament (eż. bidla fis-sistema operattiva jew fl-arkitettura tas-software), jew meta jinbidel l-għan maħsub tas-sistema, jenħtieġ li dik is-sistema tal-IA titqies bħala sistema ġdida tal-IA li jenħtieġ li ssirilha valutazzjoni tal-konformità ġdida. Madankollu, il-bidliet li jseħħu fl-algoritmu u l-prestazzjoni tas-sistemi tal-IA li jkomplu “jitgħallmu” wara li jiġu introdotti fis-suq jew jitqiegħdu fis-servizz, jiġifieri l-adattament awtomatiku ta' kif jitwettqu l-funzjonijiet, jenħtieġ li ma jikkostitwixxux modifika sostanzjali, dment li dawk il-bidliet ikunu ġew iddeterminati minn qabel mill-fornitur u vvalutati fil-mument tal-valutazzjoni tal-konformità.
(129)
Високорисковите системи с ИИ следва да носят маркировката „СЕ“, указваща тяхното съответствие с настоящия регламент с цел свободно движение в рамките на вътрешния пазар. За високорисковите системи с ИИ, вградени в продукт, следва да се постави физическа маркировка „СЕ“, която може да бъде допълнена с цифрова маркировка „СЕ“. За високорисковите системи с ИИ, предоставяни само в цифров вид, следва да се използва цифрова маркировка „CE“. Държавите членки не следва да създават необосновани пречки пред пускането на пазара или пускането в действие на високорискови системи с ИИ, които съответстват на изискванията, предвидени в настоящия регламент, и носят маркировката „СЕ“.
(129)
Jenħtieġ li s-sistemi tal-IA b'riskju għoli jkollhom il-markatura CE biex jindikaw il-konformità tagħhom ma' dan ir-Regolament b'tali mod li jkunu jistgħu jiċċaqilqu liberament fis-suq intern. Għal sistemi tal-IA b'risku għoli inkorporati fi prodott, jenħtieġ li titwaħħal markatura CE fiżika, u tista' tiġi kkomplementata minn markatura CE diġitali. Għas-sistemi tal-IA b'risku għoli pprovduti biss b'mod diġitali, jenħtieġ li tintuża markatura CE diġitali. Jenħtieġ li l-Istati Membri ma joħolqux xkiel mhux ġustifikat għall-introduzzjoni fis-suq jew għat-tqegħid fis-servizz ta' sistemi tal-IA b'riskju għoli li jikkonformaw mar-rekwiżiti stabbiliti f'dan ir-Regolament u jkollhom il-markatura CE.
(130)
При определени условия бързото осигуряване на иновативни технологии може да бъде от решаващо значение за здравето и безопасността на хората, опазването на околната среда и изменението на климата, както и за обществото като цяло. Поради това е целесъобразно по извънредни причини, свързани с обществената сигурност или защитата на живота и здравето на физическите лица, опазването на околната среда и защитата на ключови промишлени и инфраструктурни активи, органите за надзор на пазара да могат да разрешават пускането на пазара или пускането в действие на системи с ИИ, които не са преминали оценяване на съответствието. В надлежно обосновани случаи, предвидени в настоящия регламент, правоохранителните органи или органите за гражданска защита могат да пуснат в действие конкретна високорискова система с ИИ без разрешението на органа за надзор на пазара, при условие че такова разрешение е поискано без ненужно забавяне по време на използването или след него.
(130)
F'ċerti kundizzjonijiet, id-disponibbiltà rapida ta' teknoloġiji innovattivi tista' tkun kruċjali għas-saħħa u s-sikurezza tal-persuni, il-protezzjoni tal-ambjent u t-tibdil fil-klima u għas-soċjetà kollha kemm hi. Għalhekk jixraq li, għal raġunijiet eċċezzjonali ta' sigurtà pubblika jew ta' protezzjoni tal-ħajja u tas-saħħa tal-persuni fiżiċi, il-ħarsien tal-ambjent u l-protezzjoni ta' assi prinċipali industrijali u tal-infrastruttura, l-awtoritajiet tas-sorveljanza tas-suq jkunu jistgħu jawtorizzaw l-introduzzjoni fis-suq jew it-tqegħid fis-servizz ta' sistemi tal-IA li ma tkunx saritilhom valutazzjoni tal-konformità. F'sitwazzjonijiet debitament ġustifikati kif previst f’ dan ir-Regolament, l-awtoritajiet tal-infurzar tal-liġi jew l-awtoritajiet tal-protezzjoni ċivili jistgħu jqiegħdu fis-servizz sistema speċifika tal-IA b'risku għoli mingħajr l-awtorizzazzjoni tal-awtorità tas-sorveljanza tas-suq, dment li tali awtorizzazzjoni tintalab matul jew wara l-użu mingħajr dewmien żejjed.
(131)
С цел да се улесни работата на Комисията и на държавите членки в областта на ИИ, както и за да се повиши прозрачността пред обществеността, от доставчиците на високорискови системи с ИИ, различни от свързаните с продукти, попадащи в обхвата на съответното действащо законодателство на Съюза за хармонизация, както и от доставчиците, които считат, че дадена система с ИИ, включена в случаите на високорискова употреба, посочени в приложение към настоящия регламент, не е високорискова въз основа на дерогация, следва да се изисква да се регистрират и да впишат информацията за своята система с ИИ в база данни на ЕС, която да бъде създадена и управлявана от Комисията. Преди да използват такава система с ИИ, включена в случаите на високорискова употреба в приложение към настоящия регламент, внедрителите на високорискови системи с ИИ, които са публични органи, агенции или структури, следва да се регистрират в тази база данни и да изберат системата, която възнамеряват да използват. Останалите внедрители следва да имат право да направят това на доброволна основа. Този раздел на базата данни на ЕС следва да бъде публично достъпен, безплатен, а информацията следва да бъде лесна за навигация, разбираема и машинночетима. Базата данни на ЕС следва също така да бъде лесна за ползване, например като осигурява функции за търсене, включително чрез ключови думи, за да се даде възможност на широката общественост да намери съответната информация, която трябва да бъде предоставена при регистрацията на високорискови системи с ИИ, както и информация за случаите на употреба на високорисковите системи с ИИ, посочени в приложение към настоящия регламент, на които отговарят високорисковите системи с ИИ. Всяко съществено изменение на високорискови системи с ИИ също следва да се регистрира в базата данни на ЕС. За високорисковите системи с ИИ в правоохранителната област и в областта на управлението на миграцията, убежището и граничния контрол задълженията за регистрация следва да се изпълняват в защитен непубличен раздел на базата данни на ЕС. Достъпът до защитения непубличен раздел следва да бъде строго ограничен до Комисията, както и до органите за надзор на пазара по отношение на техния национален раздел на тази база данни. Високорисковите системи с ИИ в областта на критичната инфраструктура следва да се регистрират само на национално равнище. Комисията следва да бъде администратор на базата данни на ЕС в съответствие с Регламент (ЕС) 2018/1725. За да се гарантира цялостна готовност на базата данни при нейното въвеждане, процедурата по създаване на базата данни на ЕС следва да включва разработването на функционални спецификации от Комисията и независим одитен доклад. Комисията следва да вземе предвид рисковете, свързани с киберсигурността, когато изпълнява задачите си като администратор на данни по отношение на базата данни на ЕС. За да се увеличи максимално достъпността и използването на базата данни на ЕС от обществеността, базата данни на ЕС, включително информацията, предоставяна чрез нея, следва да отговаря на изискванията на Директива (ЕС) 2019/882.
(131)
Sabiex tiġi ffaċilitata l-ħidma tal-Kummissjoni u tal-Istati Membri fil-qasam tal-IA u biex tiżdied it-trasparenza lejn il-pubbliku, jenħtieġ li l-fornituri tas-sistemi tal-IA b'riskju għoli għajr dawk relatati ma' prodotti li jaqgħu fil-kamp ta' applikazzjoni tal-leġiżlazzjoni eżistenti rilevanti tal-Unjoni dwar l-armonizzazzjoni, kif ukoll fornituri li jqisu li sistema tal-IA elenkata fil-każijiet ta’ użu b'riskju għoli f'anness ta' dan ir-Regolament mhix ta' riskju għoli abbażi ta' deroga, ikunu mitluba jirreġistraw lilhom infushom u l-informazzjoni dwar is-sistema tal-IA tagħhom f'bażi tad-data tal-UE, li trid tiġi stabbilita u ġestita mill-Kummissjoni. Qabel ma jużaw sistema tal-IA elenkata fil-każijiet ta’ użu b'riskju għoli f’anness ta’ dan ir-Regolament, jenħtieġ li l-implimentaturi ta' sistemi tal-IA b'riskju għoli li jkunu awtoritajiet, aġenziji jew korpi pubbliċi, jirreġistraw lilhom infushom f'tali bażi tad-data tal-UE u jagħżlu s-sistema li beħsiebhom jużaw. Jenħtieġ li implimentaturi oħra jkunu intitolati li jagħmlu dan b'mod volontarju. Jenħtieġ li din it-taqsima tal-bażi tad-data tal-UE tkun aċċessibbli għall-pubbliku, mingħajr ħlas, u jenħtieġ li l-informazzjoni tkun faċilment navigabbli, tinftiehem u tinqara mill-magni. Jenħtieġ li l-bażi tad-data tkun faċli għall-utent ukoll, pereżempju billi tipprovdi funzjonalitajiet ta' tiftix, inkluż permezz ta' keywords, li jippermettu lill-pubbliku ġenerali jsib informazzjoni rilevanti li trid tiġi ppreżentata mar-reġistrazzjoni tas-sistemi tal-IA b'riskju għoli u dwar il-każ ta’ użu tas-sistemi tal-IA b'riskju għoli, stipulati f’anness ta' dan ir-Regolament, li għalihom jikkorrispondu s-sistemi tal-IA b'riskju għoli. Jenħtieġ li kwalunkwe modifika sostanzjali tas-sistemi tal-IA b'riskju għoli tiġi rreġistrata wkoll fil-bażi tad-data tal-UE. Għal sistemi tal-IA b'riskju għoli fil-qasam tal-infurzar tal-liġi, tal-migrazzjoni, tal-ażil u tal-ġestjoni tal-kontroll fil-fruntieri, jenħtieġ li l-obbligi ta' reġistrazzjoni jiġu ssodisfati f'taqsima sigura mhux pubblika tal-bażi tad-data tal-UE. Jenħtieġ li l-aċċess għat-taqsima sigura mhux pubblika jkun strettament limitat għall-Kummissjoni kif ukoll għall-awtoritajiet tas-sorveljanza tas-suq fir-rigward tat-taqsima nazzjonali tagħhom ta’ dik il-bażi tad-data. Jenħtieġ li s-sistemi tal-IA b’riskju għoli fil-qasam tal-infrastruttura kritika jiġu rreġistrati biss fil-livell nazzjonali. Jenħtieġ li l-Kummissjoni tkun il-kontrollur tal-bażi tad-data tal-UE, f’konformità mar-Regolament (UE) 2018/1725. Sabiex tiġi żgurata l-funzjonalità sħiħa tal-bażi tad-data tal-UE, meta tiġi implimentata, jenħtieġ li l-proċedura għall-istabbiliment tal-bażi tad-data tinkludi l-iżvilupp ta' speċifikazzjonijiet funzjonali mill-Kummissjoni u rapport tal-awditjar indipendenti. Jenħtieġ li l-Kummissjoni tqis ir-riskji taċ-ċibersigurtà meta twettaq il-kompiti tagħha bħala kontrollur tad-data fil-bażi tad-data tal-UE. Sabiex jiġu mmassimizzati d-disponibbiltà u l-użu tal-bażi tad-data tal-UE mill-pubbliku, il-bażi tad-data tal-UE, inkluż l-informazzjoni disponibbli permezz tagħha, jenħtieġ li tikkonforma mar-rekwiżiti skont id-Direttiva (UE) 2019/882.
(132)
Някои системи с ИИ, предназначени да взаимодействат с физически лица или да генерират съдържание, могат да породят особени рискове от измама на основата на прилика или заблуда, независимо дали отговарят на критериите за високорискови системи, или не. Поради това при определени обстоятелства при използването на тези системи следва да се прилагат специални задължения за прозрачност, без да се засягат изискванията и задълженията за високорискови системи с ИИ и при прилагане на целеви изключения с цел да се вземат предвид особените правоохранителни нужди. По-специално, физическите лица следва да бъдат уведомявани, че взаимодействат със система с ИИ, освен ако това не е очевидно от гледна точка на физическо лице, което е в разумни граници осведомено, наблюдателно и съобразително предвид обстоятелствата и контекста на използване. При изпълнението на това задължение следва да се вземат предвид характеристиките на физическите лица, принадлежащи към уязвими групи поради своята възраст или увреждане, доколкото системата с ИИ е предназначена да взаимодейства и с тези групи. Наред с това, физическите лица следва да бъдат уведомявани, когато са изложени на системи с ИИ, които чрез обработване на биометричните им данни могат да определят или да направят изводи за емоциите или намеренията на тези лица или да ги отнесат към конкретни категории. Подобни конкретни категории може да са свързани с аспекти като пол, възраст, цвят на косата, цвят на очите, татуировки, личностни черти, етнически произход, лични предпочитания и интереси. Тази информация и уведомленията следва да се предоставят в достъпни формати за хората с увреждания.
(132)
Ċerti sistemi tal-IA maħsuba biex jinteraġixxu ma' persuni fiżiċi jew biex jiġġeneraw kontenut jistgħu joħolqu riskji speċifiċi ta' personifikazzjoni jew qerq irrispettivament minn jekk dawn jikkwalifikawx li għandhom riskju għoli jew le. Għalhekk, f'ċerti ċirkostanzi, jenħtieġ li l-użu ta' dawn is-sistemi jkun soġġett għal obbligi speċifiċi tat-trasparenza mingħajr preġudizzju għar-rekwiżiti u l-obbligi tas-sistemi tal-IA b'riskju għoli u soġġett għal eċċezzjonijiet immirati biex jittieħed kont tal-ħtieġa speċjali tal-infurzar tal-liġi. B'mod partikolari, jenħtieġ li l-persuni fiżiċi jiġu nnotifikati li qed jinteraġixxu ma' sistema tal-IA, sakemm dan ma jkunx ovvju mill-perspettiva ta' persuna fiżika li tkun raġonevolment infurmata tajjeb, osservanti u prudenti, filwaqt li jitqiesu ċ-ċirkostanzi u l-kuntest tal-użu. Meta jiġi implimentat dak l-obbligu, jenħtieġ li jitqiesu l-karatteristiċi tal-persuni fiżiċi li jagħmlu parti minn gruppi vulnerabbli minħabba l-età jew id-diżabbiltà tagħhom sal-punt li s-sistema tal-IA tkun maħsuba biex tinteraġixxi ma' dawk il-gruppi wkoll. Barra minn hekk, jenħtieġ li l-persuni fiżiċi jiġu nnotifikati meta jkunu esposti għal sistemi tal-IA li, bl-ipproċessar tad-data bijometrika tagħhom, jistgħu jidentifikaw jew jinferixxu l-emozzjonijiet jew l-intenzjonijiet ta' dawk il-persuni jew jassenjawhom għal kategoriji speċifiċi. Tali kategoriji speċifiċi jistgħu jkunu relatati ma' aspetti bħas-sess, l-età, il-kulur tax-xagħar, il-kulur tal-għajnejn, tatwaġġi, karatteristiċi personali, l-oriġini etnika, il-preferenzi u l-interessi personali. Jenħtieġ li din l-informazzjoni u n-notifiki jiġu pprovduti b'formati aċċessibbli għall-persuni b'diżabbiltà.
(133)
Различни системи с ИИ могат да генерират големи количества синтетично съдържание, което хората все по-трудно могат да разграничават от генерирано от човека и автентично съдържание. Широката наличност и нарастващият капацитет на тези системи оказват значително влияние върху почтеността и доверието в информационната екосистема, което поражда нови рискове от масивно навлизане на невярна информация и манипулиране, измами на основата на прилика и заблуда на потребителите. С оглед на това въздействие, бързия темп на развитие на технологиите и необходимостта от нови методи и техники за проследяване на произхода на информацията е целесъобразно да се изисква от доставчиците на тези системи да вграждат технически решения, позволяващи маркиране в машинночетим формат и разпознаване, че резултатът е генериран или обработен от система с ИИ, а не от човек. Тези техники и методи следва да бъдат достатъчно надеждни, оперативно съвместими, ефективни и сигурни, доколкото това е технически осъществимо, и да се основават на наличните техники или на комбинация от такива техники, например водни знаци, идентифициране на метаданни, криптографски методи за доказване на произхода и автентичността на съдържанието, методи за регистриране, пръстови отпечатъци или други техники, в зависимост от случая. При изпълнението на това задължение доставчиците следва също така да отчитат особеностите и ограниченията на различните видове съдържание и технологичното и пазарното развитие в тази област, които намират отражение в общопризнатото най-съвременно равнище на технологиите. Тези техники и методи могат да бъдат приложени на равнището на системата с ИИ или на равнището на модела на ИИ, включително при модели на ИИ с общо предназначение, генериращи съдържание, като по този начин се улеснява изпълнението на това задължение от доставчика надолу по веригата на системата с ИИ. За да бъде пропорционално това задължение за маркиране, е целесъобразно да се предвиди то да няма приложение при системи с ИИ, изпълняващи предимно помощна функция при стандартно редактиране, или за системи с ИИ, които не променят съществено входящите данни, въведени от внедрителя, или тяхната семантика.
(133)
Diversi sistemi tal-IA jistgħu jiġġeneraw kwantitajiet kbar ta' kontenut sintetiku li jsir dejjem aktar diffiċli għall-bnedmin biex jiddistingwu minn kontenut iġġenerat mill-bniedem u kontenut awtentiku. Id-disponibbiltà wiesgħa u l-kapaċitajiet dejjem akbar ta' dawk is-sistemi għandhom impatt sinifikanti fuq l-integrità u l-fiduċja fl-ekosistema tal-informazzjoni, filwaqt li jżidu riskji ġodda ta' miżinformazzjoni u manipulazzjoni fuq skala kbira, frodi, personifikazzjoni u qerq tal-konsumatur. Fid-dawl ta' dawk l-impatti, il-pass teknoloġiku mgħaġġel u l-ħtieġa ta' metodi u tekniki ġodda biex tiġi traċċata l-oriġini tal-informazzjoni, jixraq li l-fornituri ta' dawk is-sistemi jinkorporaw soluzzjonijiet tekniċi li jippermettu l-immarkar f'format li jinqara mill-magni u l-kxif li l-output ikun ġie ġġenerat jew immanipulat minn sistema tal-IA u mhux minn bniedem. Jenħtieġ li tali tekniki u metodi jkunu affidabbli, interoperabbli, effettivi u robusti biżżejjed sa fejn dan ikun teknikament fattibbli, filwaqt li jitqiesu t-tekniki disponibbli jew taħlita ta' tali tekniki, bħal marki tal-ilma, identifikazzjonijiet tal-metadata, metodi kriptografiċi biex jiġu ppruvati l-provenjenza u l-awtentiċità tal-kontenut, il-metodi ta' reġistrazzjoni, il-marki tas-swaba' jew tekniki oħra, skont kif ikun xieraq. Meta jimplimentaw dan l-obbligu, jenħtieġ li l-fornituri jqisu wkoll l-ispeċifiċitajiet u l-limitazzjonijiet tat-tipi differenti ta' kontenut u l-iżviluppi teknoloġiċi u tas-suq rilevanti f'dan il-qasam, kif rifless fl-ogħla livell ta' żvilupp tekniku rikonoxxut b'mod ġenerali. Tali tekniki u metodi jistgħu jiġu implimentati fil-livell tas-sistema tal-IA jew fil-livell tal-mudell tal-IA, inkluż mudelli tal-IA bi skop ġenerali li jiġġeneraw kontenut, u b'hekk jiġi ffaċilitat it-twettiq ta' dan l-obbligu mill-fornitur downstream tas-sistema tal-IA. Biex jibqa' proporzjonat, huwa xieraq li jiġi previst li dan l-obbligu tal-immarkar jenħtieġ li ma jkoprix sistemi tal-IA li primarjament iwettqu funzjoni ta' assistenza għall-editjar standard jew għas-sistemi tal-IA li ma jbiddlux b'mod sostanzjali d-data tal-input ipprovduta mill-implimentatur jew is-semantika tagħha.
(134)
Освен техническите решения, приложени от доставчиците на системата с ИИ, и внедрителите, които използват система с ИИ за генериране или обработване на изображения, аудио или видео съдържание, наподобяващи до голяма степен съществуващи лица, предмети, места, субекти или събития, които е вероятно някой да приеме за истински или достоверни (т.нар. „убедителни фалшификати“), следва също по ясен и разпознаваем начин да оповестят обстоятелството, че съдържанието е било изкуствено генерирано или обработено, като обозначат по подходящ начин продукта от работата на ИИ и разкрият неговия изкуствен произход. Спазването на това задължение за прозрачност не следва да се тълкува в смисъл, че използването на системата с ИИ или резултатите от нея възпрепятства правото на свобода на изразяване на мнение и правото на свобода на изкуствата и науките, гарантирани от Хартата, по-специално когато съдържанието е част от произведение или програма, които имат очевиден творчески, сатиричен, артистичен, художествен или подобен характер, при прилагане на подходящи гаранции за правата и свободите на трети лица. В тези случаи задължението за прозрачност по отношение на убедителните фалшификати, предвидено в настоящия регламент, се ограничава до оповестяване на наличието на такова генерирано или обработено съдържание по подходящ начин, който не възпрепятства показването или използването на произведението, включително нормалната му експлоатация и употреба, като същевременно се запазват полезността и качеството на произведението. Освен това е целесъобразно да се предвиди подобно задължение за оповестяване във връзка с текст, който е генериран или обработен от ИИ, доколкото той е публикуван с цел информиране на обществеността по въпроси от обществен интерес, освен ако генерираното от ИИ съдържание не е преминало преглед от човек или подложено на редакторски контрол и редакционната отговорност за публикуването му се носи от физическо или юридическо лице.
(134)
Minbarra s-soluzzjonijiet tekniċi użati mill-fornituri tas-sistema tal-IA, l-implimentaturi li jużaw sistema tal-IA biex jiġġeneraw jew jimmanipulaw kontenut ta' immaġni, awdjo jew vidjo li jixbah b'mod sinifikattiv lil persuni, oġġetti, postijiet, entitajiet jew avvenimenti eżistenti u li jidher b'mod falz li persuna tkun awtentika jew veritiera (deep fakes), jenħtieġ li jiddivulgaw ukoll b'mod ċar u distint li l-kontenut inħoloq jew ġie mmanipulat b'mod artifiċjali billi jittikkettaw l-output tal-intelliġenza artifiċjali kif xieraq u jiddivulgaw l-oriġini artifiċjali tiegħu. Jenħtieġ li l-konformità ma' dan l-obbligu ta' trasparenza ma tiġix interpretata bħala li tindika li l-użu tas-sistema tal-IA jew tal-output tagħha jimpedixxi d-dritt għal-libertà tal-espressjoni u d-dritt għal-libertà tal-arti u x-xjenzi ggarantiti fil-Karta, b'mod partikolari fejn il-kontenut ikun parti minn ħidma jew programm evidentement kreattiv, satiriku, artistiku, fittizju jew analoġu, soġġett għal salvagwardji xierqa għad-drittijiet u l-libertajiet ta' partijiet terzi. F'dawk il-każijiet, l-obbligu ta' trasparenza għal deep fakes stipulat f'dan ir-Regolament huwa limitat għad-divulgazzjoni tal-eżistenza ta' tali kontenut iġġenerat jew manipulat b'mod xieraq li ma jfixkilx il-wiri jew it-tgawdija tax-xogħol, inkluż l-isfruttament u l-użu normali tiegħu, filwaqt li jinżammu l-utilità u l-kwalità tax-xogħol. Barra minn hekk, huwa xieraq ukoll li jiġi previst obbligu ta' divulgazzjoni simili fir-rigward ta' test iġġenerat mill-IA jew manipulat sal-punt li jiġi ppubblikat bl-għan li l-pubbliku jiġi infurmat dwar kwistjonijiet ta' interess pubbliku sakemm il-kontenut iġġenerat mill-IA ma jkunx għadda minn proċess ta' rieżami mill-bniedem jew kontroll editorjali u persuna fiżika jew ġuridika jkollha r-responsabbiltà editorjali għall-pubblikazzjoni tal-kontenut.
(135)
Без да се засягат задължителният характер и пълната приложимост на задълженията за прозрачност, Комисията може също да насърчава и улеснява изготвянето на кодекси за добри практики на равнището на Съюза с цел да се допринесе за ефективното изпълнение на задълженията за откриване и обозначаване на изкуствено генерирано или обработено съдържание, включително да се съдейства във връзка с практически правила, които да осигурят при необходимост достъпност на механизмите за откриване и да подпомагат сътрудничеството с други участници по веригата за създаване на стойност, разпространение на съдържание или проверка на неговата автентичност и произход, за да се даде възможност на обществеността действително да разпознава генерираното от ИИ съдържание.
(135)
Mingħajr preġudizzju għan-natura obbligatorja u l-applikabbiltà sħiħa tal-obbligi ta' trasparenza, il-Kummissjoni tista' tħeġġeġ u tiffaċilita wkoll it-tfassil ta' kodiċijiet ta' prattika fil-livell tal-Unjoni biex tiffaċilita l-implimentazzjoni effettiva tal-obbligi rigward il-kxif u t-tikkettar ta' kontenut iġġenerat jew immanipulat b'mod artifiċjali, inkluż biex tappoġġa arranġamenti prattiċi biex, kif xieraq, il-mekkaniżmi ta' kxif isiru aċċessibbli u tiġi ffaċilitata l-kooperazzjoni ma' atturi oħra tul il-katina tal-valur, id-disseminazzjoni tal-kontenut jew il-verifika tal-awtentiċità u l-provenjenza tiegħu biex il-pubbliku jkun jista' jiddistingwi b'mod effettiv il-kontenut iġġenerat mill-IA.
(136)
Задълженията, наложени в настоящия регламент на доставчиците и внедрителите на някои системи с ИИ с цел откриване и обозначаване, че резултатите от тези системи са изкуствено генерирани или обработени, са от особено значение с оглед на ефективното прилагане на Регламент (ЕС) 2022/2065. Това се отнася по-специално за задълженията на доставчиците на много големи онлайн платформи или много големи онлайн търсачки да установяват и ограничават системните рискове, които могат да възникнат поради разпространението на съдържание, което е било изкуствено генерирано или обработено, и по-специално риска от действителни или предвидими отрицателни последици за демократичните процеси, гражданския дебат и изборните процеси, включително чрез дезинформация. Изискването съгласно настоящия регламент за обозначаване на съдържание, генерирано от системи с ИИ, не засяга задължението по член 16, параграф 6 от Регламент (ЕС) 2022/2065 на доставчиците на хостинг услуги да обработват уведомления за незаконно съдържание, получени съгласно член 16, параграф 1 от посочения регламент, и не следва да влияе на оценката и решението относно незаконния характер на конкретното съдържание. Тази преценка следва да се извършва единствено с оглед на правилата, уреждащи законосъобразността на съдържанието.
(136)
L-obbligi imposti fuq il-fornituri u l-implimentaturi ta' ċerti sistemi tal-IA f'dan ir-Regolament biex jippermettu l-kxif u d-divulgazzjoni li l-outputs ta' dawk is-sistemi jiġu ġġenerati jew immanipulati b'mod artifiċjali huma partikolarment rilevanti biex tiġi ffaċilitata l-implimentazzjoni effettiva tar-Regolament (UE) 2022/2065. Dan japplika b'mod partikolari fir-rigward tal-obbligi tal-fornituri ta' pjattaformi online kbar ħafna jew ta' magni tat-tiftix online kbar ħafna biex jidentifikaw u jimmitigaw ir-riskji sistemiċi li jistgħu jirriżultaw mid-disseminazzjoni ta' kontenut li jkun ġie ġġenerat jew immanipulat b'mod artifiċjali, b'mod partikolari r-riskju tal-effetti negattivi reali jew prevedibbli fuq il-proċessi demokratiċi, id-diskors ċiviku u l-proċessi elettorali, inkluż permezz tad-diżinformazzjoni. Ir-rekwiżit li jiġi ttikkettat il-kontenut iġġenerat mis-sistemi tal-IA skont dan ir-Regolament huwa mingħajr preġudizzju għall-obbligu fl-Artikolu 16(6) tar-Regolament (UE) 2022/2065 għall-fornituri ta' servizzi ta' hosting li joħorġu avviżi dwar kontenut illegali riċevut skont l-Artikolu 16(1) ta' dak ir-Regolament u jenħtieġ li ma jinfluwenzax il-valutazzjoni u d-deċiżjoni dwar l-illegalità tal-kontenut speċifiku. Jenħtieġ li din l-evalwazzjoni ssir biss b'riferiment għar-regoli li jirregolaw il-legalità tal-kontenut.
(137)
Спазването на задълженията за прозрачност относно системите с ИИ, обхванати от настоящия регламент, не следва да се тълкува като знак, че използването на системата с ИИ или на резултатите от нея е законосъобразно съгласно настоящия регламент или друго законодателство на Съюза и на държава членка, и не следва да засяга други задължения за прозрачност за внедрители на системи с ИИ, предвидени в правото на Съюза или в националното право.
(137)
Jenħtieġ li l-konformità mal-obbligi tat-trasparenza għas-sistemi tal-IA koperti minn dan ir-Regolament ma tiġix interpretata li tindika li l-użu tas-sistema tal-IA jew tal-output tagħha huwa legali skont dan ir-Regolament jew dritt ieħor tal-Unjoni u tal-Istati Membri u jenħtieġ li tkun mingħajr preġudizzju għal obbligi oħra ta' trasparenza għall-implimentaturi tas-sistemi tal-IA stabbiliti fil-liġi tal-Unjoni jew dik nazzjonali.
(138)
ИИ е бързо развиваща се съвкупност от технологии, която изисква регулаторен надзор и безопасно и контролирано пространство за експериментиране, като същевременно се гарантира отговорното новаторство и интегрирането на подходящи предпазни мерки и мерки за ограничаване на риска. За да се гарантира благоприятна за иновациите, ориентирана към бъдещето и устойчива на смущения правна рамка, държавите членки следва да гарантират, че националните им компетентни органи създават най-малко една регулаторна лаборатория в областта на ИИ на национално равнище, за да се улесни разработването и изпитването на иновативни системи с ИИ под строг регулаторен надзор, преди тези системи да бъдат пуснати на пазара или пуснати в действие по друг начин. Държавите членки биха могли да изпълнят това задължение и чрез участие във вече съществуващи регулаторни лаборатории или съвместно създаване на лаборатория с компетентните органи на една или повече държави членки, доколкото това участие осигурява равностойно национално покритие за участващите държави членки. Регулаторните лаборатории в областта на ИИ могат да бъдат създадени във физическа, цифрова или хибридна форма и да включват както физически, така и цифрови продукти. Създаващите ги органи следва също така да гарантират, че регулаторните лаборатории в областта на ИИ разполагат с подходящи ресурси за функционирането си, включително финансови и човешки ресурси.
(138)
L-IA hija familja ta' teknoloġiji li qed tiżviluppa b'mod rapidu li tirrikjedi sorveljanza regolatorja u spazju sikur u kkontrollat għall-esperimentazzjoni, filwaqt li tiżgura innovazzjoni u integrazzjoni responsabbli ta' salvagwardji u miżuri ta' mitigazzjoni tar-riskju xierqa. Sabiex jiġi żgurat qafas legali li jippromwovi l-innovazzjoni, jibqa' validu fil-futur u jkun reżiljenti għat-tfixkil, jenħtieġ li l-Istati Membri jiżguraw li l-awtoritajiet kompetenti nazzjonali tagħhom jistabbilixxu mill-inqas ambjent wieħed ta' esperimentazzjoni regolatorja għall-IA fil-livell nazzjonali biex jiffaċilitaw l-iżvilupp u l-ittestjar ta' sistemi innovattivi tal-IA taħt sorveljanza regolatorja stretta qabel ma dawn is-sistemi jiġu introdotti fis-suq jew inkella jitqiegħdu fis-servizz. L-Istati Membri jistgħu jissodisfaw ukoll dan l-obbligu billi jipparteċipaw f'ambjenti ta' esperimentazzjoni regolatorji diġà eżistenti jew jistabbilixxu b'mod konġunt ambjent ta' esperimentazzjoni ma' awtorità kompetenti waħda jew aktar tal-Istati Membri, dment li din il-parteċipazzjoni tipprovdi livell ekwivalenti ta' kopertura nazzjonali għall-Istati Membri parteċipanti. Ambjenti ta' esperimentazzjoni regolatorja għall-IA jistgħu jiġu stabbiliti f'forma fiżika, diġitali jew ibrida u jistgħu jakkomodaw prodotti fiżiċi kif ukoll diġitali. Jenħtieġ li l-awtoritajiet kostitwenti jiżguraw ukoll li l-ambjenti ta' esperimentazzjoni regolatorja għall-IA jkollhom ir-riżorsi adegwati għall-funzjonament tagħhom, inkluż ir-riżorsi finanzjarji u umani.
(139)
Целите на регулаторните лаборатории в областта на ИИ следва да бъдат: насърчаване на иновациите в областта на ИИ чрез създаване на контролирана среда за експериментиране и изпитване във фазата на разработване и преди пускането на пазара с цел да се гарантира съответствието на иновативните системи с ИИ с настоящия регламент и друго съответно право на Съюза и национално право. В допълнение регулаторните лаборатории в областта на ИИ следва да имат за цел подобряване на правната сигурност за новаторите и надзора и разбирането от страна на компетентните органи на възможностите, нововъзникващите рискове и въздействието на използването на ИИ, улесняване на натрупването на регулаторен опит от страна на органите и предприятията, включително с оглед на бъдещи изменения на правната рамка, подкрепа за сътрудничеството и обмена на най-добри практики с органите, участващи в регулаторната лаборатория в областта на ИИ, както и ускоряване на достъпа до пазарите, включително чрез премахване на пречките пред МСП, включително новосъздадените предприятия. Следва да се предостави широк достъп до регулаторните лаборатории в областта на ИИ на територията на Съюза, като се обърне специално внимание на достъпността им за МСП, включително новосъздадените предприятия. Участието в регулаторните лаборатории в областта на ИИ следва да е насочено към въпроси, които пораждат правна несигурност за доставчиците и потенциалните доставчици при въвеждането на иновации и експериментирането с ИИ в Съюза и да допринася за основан на факти регулаторен опит. Поради това надзорът върху системите с ИИ в регулаторните лаборатории в областта на ИИ следва да обхваща тяхното разработване, обучение, изпитване и валидиране, преди системите да бъдат пуснати на пазара или пуснати в действие, както и концепцията за и настъпването на съществено изменение, което може да изисква провеждането на нова процедура за оценяване на съответствието. Всички значителни рискове, установени по време на разработването и изпитването на такива системи с ИИ, следва да водят до адекватни ограничителни мерки, а при липса на такива — до спиране на процеса на разработване и изпитване. Когато е целесъобразно, националните компетентни органи, които създават регулаторни лаборатории в областта на ИИ, следва да си сътрудничат с други съответни органи, включително упражняващите надзор върху защитата на основните права, и биха могли да позволят привличането на други участници в екосистемата на ИИ, като например национални или европейски организации за стандартизация, нотифицирани органи, структури за изпитване и експериментиране, лаборатории за научни изследвания и експерименти, европейски цифрови иновационни центрове и съответни заинтересовани страни и организации на гражданското общество. За да се гарантират еднакво прилагане в целия Съюз и икономии на мащаба, е целесъобразно да се установят общи правила за създаването на регулаторните лаборатории в областта на ИИ и рамка за сътрудничество между съответните органи, участващи в надзора на лабораториите. Регулаторните лаборатории в областта на ИИ, създадени съгласно настоящия регламент, не следва да засягат друго право, допускащо създаването на други лаборатории и чиято цел е да се гарантира спазването на правни норми извън настоящия регламент. Когато е целесъобразно, съответните компетентни органи, които отговарят за други регулаторни лаборатории, следва да преценят доколко би било полезно използването им и с цел осигуряване на съответствието на системите с ИИ с настоящия регламент. По споразумение между националните компетентни органи и участниците в регулаторната лаборатория в областта на ИИ в такава лаборатория също така може да се извършва изпитване в реални условия и върху него да се осъществява надзор.
(139)
Jenħtieġ li l-objettivi tal-ambjenti ta' esperimentazzjoni regolatorja għall-IA jkunu li jrawmu l-innovazzjoni tal-IA billi jistabbilixxu ambjent ikkontrollat ta' esperimentazzjoni u ttestjar fil-fażi tal-iżvilupp u ta' qabel il-kummerċjalizzazzjoni biex jiżguraw il-konformità tas-sistemi innovattivi tal-IA ma' dan ir-Regolament u ma' liġijiet tal-Unjoni jew nazzjonali oħra rilevanti. Barra minn hekk, l-ambjenti ta' esperimentazzjoni regolatorja għall-IA jenħtieġ li jimmiraw li jsaħħu ċ-ċertezza legali għall-innovaturi u s-sorveljanza u l-fehim mill-awtoritajiet kompetenti tal-opportunitajiet, tar-riskji emerġenti u tal-impatti tal-użu tal-IA, biex jiġi ffaċilitat it-tagħlim regolatorju għall-awtoritajiet u għall-intrapriżi, inkluż bil-ħsieb ta' adattamenti futuri tal-qafas legali, biex jiġu appoġġati l-kooperazzjoni u l-kondiviżjoni tal-aħjar prattiki mal-awtoritajiet involuti fl-ambjent ta' esperimentazzjoni regolatorja għall-IA, u biex jitħaffef l-aċċess għas-swieq, inkluż billi jitneħħew l-ostakli għall-SMEs, inkluż in-negozji ġodda. Jenħtieġ li l-ambjenti ta' esperimentazzjoni regolatorja għall-IA jkunu disponibbli b'mod wiesa' madwar l-Unjoni, u jenħtieġ li tingħata attenzjoni partikolari lill-aċċessibbiltà tagħhom għall-SMEs, inkluż in-negozji ġodda. Jenħtieġ li l-parteċipazzjoni fl-ambjent ta' esperimentazzjoni regolatorja għall-IA tiffoka fuq kwistjonijiet li jqajmu inċertezza legali għall-fornituri u l-fornituri prospettivi biex jinnovaw, jesperimentaw bl-IA fl-Unjoni u jikkontribwixxu għal tagħlim regolatorju bbażat fuq l-evidenza. Għalhekk, jenħtieġ li s-superviżjoni tas-sistemi tal-IA fl-ambjent ta' esperimentazzjoni regolatorja għall-IA tkopri l-iżvilupp, it-taħriġ, l-ittestjar u l-validazzjoni tagħhom qabel ma s-sistemi jiġu introdotti fis-suq jew imqiegħda fis-servizz, kif ukoll il-kunċett u l-okkorrenza ta' modifika sostanzjali li tista' tirrikjedi proċedura ġdida ta' valutazzjoni tal-konformità. Kwalunkwe riskju sinifikanti identifikat matul l-iżvilupp u l-ittestjar ta' tali sistemi tal-IA jenħtieġ li jirriżulta f'mitigazzjoni adegwata u, fin-nuqqas ta' din, fis-sospensjoni tal-proċess tal-iżvilupp u tal-ittestjar. Fejn xieraq, jenħtieġ li l-awtoritajiet nazzjonali kompetenti li jkunu qed jistabbilixxu ambjenti ta' esperimentazzjoni regolatorja għall-IA jikkooperaw ma' awtoritajiet rilevanti oħra, inkluż dawk li jissorveljaw il-protezzjoni tad-drittijiet fundamentali, u jistgħu jagħtu lok għall-involviment ta' atturi oħra fl-ekosistema tal-IA bħal organizzazzjonijiet nazzjonali jew Ewropej tal-istandardizzazzjoni, korpi notifikati, faċilitajiet tal-ittestjar u tal-esperimentazzjoni, laboratorji tar-riċerka u tal-esperimentazzjoni, Ċentri Ewropej tal-Innovazzjoni Diġitali u organizzazzjonijiet rilevanti tal-partijiet ikkonċernati u tas-soċjetà ċivili. Biex ikunu żgurati implimentazzjoni uniformi madwar l-Unjoni u l-ekonomiji ta' skala, jixraq jiġu stabbiliti regoli komuni għall-implimentazzjoni tal-ambjenti ta' esperimentazzjoni regolatorja għall-IA u qafas għall-kooperazzjoni bejn l-awtoritajiet rilevanti involuti fis-superviżjoni tal-ambjenti ta' esperimentazzjoni. Jenħtieġ li l-ambjenti ta' esperimentazzjoni regolatorja għall-IA stabbiliti skont dan ir-Regolament ikunu mingħajr preġudizzju għal liġijiet oħra li jippermettu l-istabbiliment ta' ambjenti ta' esperimentazzjoni oħra bil-għan li jiżguraw il-konformità ma' liġijiet għajr dan ir-Regolament. Meta xieraq, jenħtieġ li l-awtoritajiet kompetenti rilevanti inkarigati minn dawk l-ambjenti ta' esperimentazzjoni regolatorja l-oħra jikkunsidraw il-benefiċċji tal-użu ta' dawk l-ambjenti ta' esperimentazzjoni anki għall-fini li jiżguraw il-konformità tas-sistemi tal-IA ma' dan ir-Regolament. Bi qbil bejn l-awtoritajiet nazzjonali kompetenti u l-parteċipanti fl-ambjent ta' esperimentazzjoni regolatorja għall-IA, l-ittestjar fil-kundizzjonijiet tad-dinja reali jista' jsir u jiġi ssorveljat ukoll fil-qafas tal-ambjent ta' esperimentazzjoni regolatorja għall-IA.
(140)
В съответствие с член 6, параграф 4 и член 9, параграф 2, буква ж) от Регламент (ЕС) 2016/679 и членове 5, 6 и 10 от Регламент (ЕС) 2018/1725 и без да се засягат член 4, параграф 2 и член 10 от Директива (ЕС) 2016/680, настоящият регламент следва да предостави на доставчиците и потенциалните доставчици в регулаторните лаборатории в областта на ИИ правното основание за използването, само при определени условия, на лични данни, събирани за други цели, с оглед на разработването на определени системи с ИИ в обществен интерес в рамките на регулаторната лаборатория в областта на ИИ. Всички други задължения на администраторите на данни и правата на субектите на данни съгласно регламенти (ЕС) 2016/679 и (ЕС) 2018/1725 и Директива (ЕС) 2016/680 остават приложими. По-специално настоящият регламент не следва да предоставя правно основание по смисъла на член 22, параграф 2, буква б) от Регламент (ЕС) 2016/679 и член 24, параграф 2, буква б) от Регламент (ЕС) 2018/1725. Доставчиците и потенциалните доставчици в регулаторната лаборатория в областта на ИИ следва да осигурят подходящи гаранции и да си сътрудничат с компетентните органи, включително като следват техните насоки и действат бързо и добросъвестно, за да ограничат по подходящ начин всички установени значителни рискове за безопасността, здравето и основните права, които могат да се проявят по време на разработването, изпитването и експериментирането в лабораторията.
(140)
Jenħtieġ li dan ir-Regolament jipprovdi l-bażi legali għall-fornituri u l-fornituri prospettivi fl-ambjent ta' esperimentazzjoni regolatorja għall-IA biex jużaw id-data personali miġbura għal finijiet oħra għall-iżvilupp ta' ċerti sistemi tal-IA fl-interess pubbliku fi ħdan l-ambjent ta' esperimentazzjoni regolatorja għall-IA, f'kundizzjonijiet speċifiċi biss, f'konformità mal-Artikolu 6(4) u l-Artikolu 9(2), il-punt (g) tar-Regolament (UE) 2016/679, u mal-Artikoli 5, 6 u 10 tar-Regolament (UE) 2018/1725, u mingħajr preġudizzju għall-Artikolu 4(2) u l-Artikolu 10 tad-Direttiva (UE) 2016/680. L-obbligi l-oħra kollha tal-kontrolluri tad-data u d-drittijiet tas-suġġetti tad-data skont ir-Regolamenti (UE) 2016/679 u (UE) 2018/1725 u d-Direttiva (UE) 2016/680 jibqgħu applikabbli. B'mod partikolari, jenħtieġ li dan ir-Regolament ma jipprovdix bażi legali skont it-tifsira tal-Artikolu 22(2), il-punt (b) tar-Regolament (UE) 2016/679 u l-Artikolu 24(2), il-punt (b) tar-Regolament (UE) 2018/1725. Jenħtieġ li l-fornituri u l-fornituri prospettivi fl-ambjent ta' esperimentazzjoni regolatorja tal-IA jiżguraw salvagwardji xierqa u jikkooperaw mal-awtoritajiet kompetenti, inkluż billi jimxu mal-gwida tagħhom u jaġixxu malajr u b'bona fide biex jimmitigaw b'mod adegwat kwalunkwe riskju identifikat għas-sikurezza, is-saħħa u għad-drittijiet fundamentali li jista' jinqala' waqt l-iżvilupp, l-ittestjar, u l-esperimentazzjoni f’dak l-ambjent ta' esperimentazzjoni.
(141)
За да се ускори процесът на разработване и пускане на пазара на високорисковите системи с ИИ, чийто списък се съдържа в приложение към настоящия регламент, е важно доставчиците или потенциалните доставчици на такива системи да могат да ползват специален режим за изпитване на тези системи в реални условия и без да участват в регулаторна лаборатория в областта на ИИ. В такива случаи обаче, предвид евентуалните последици, които това изпитване може да има върху хората, следва да се гарантира, че настоящият регламент въвежда подходящи и достатъчни гаранции и условия по отношение на доставчиците или потенциалните доставчици. Тези гаранции следва да включват, наред с другото, искането на информирано съгласие от физическите лица за участие в изпитвания в реални условия, освен в правоохранителната област, когато искането на информирано съгласие би попречило на изпитването на системата с ИИ. Съгласието на субектите на данни да участват в такива изпитвания в съответствие с настоящия регламент е различно от съгласието на субектите на данни личните им данни да бъдат обработвани съгласно съответното законодателство за защита на данните и не засяга това съгласие. Важно е също така рисковете да бъдат сведени до минимум и компетентните органи да могат да упражняват надзор, във връзка с което да се въведат изисквания потенциалните доставчици да представят на компетентния орган за надзор на пазара план за изпитване в реални условия, да регистрират изпитването в специални раздели на базата данни на ЕС с ограничен брой изключения, да определят ограничения на срока, в който може да се извърши изпитването, както и да се изискват допълнителни гаранции за лица, принадлежащи към определени уязвими групи, и писмено споразумение, в което се установяват функциите и отговорностите на потенциалните доставчици и внедрителите и ефективен надзор от страна на компетентния персонал, участващ в изпитванията в реални условия. Освен това е целесъобразно да се предвидят допълнителни гаранции, за да се гарантира, че прогнозите, препоръките или решенията на дадена система с ИИ могат ефективно да се отменят и пренебрегнат, както и че личните данни са защитени и се заличават, след като субектите в изпитването са оттеглили съгласието си за участие в изпитването, без да се засягат правата им като субекти на данни съгласно правото на Съюза в областта на защитата на данните. По отношение на предаването на данни е целесъобразно също така да се предвиди, че данните, събирани и обработвани за целите на изпитването в реални условия, следва да се предават на трети държави само при прилагане на подходящи и приложими гаранции съгласно правото на Съюза, по-специално в съответствие с основанията за предаване на лични данни съгласно правото на Съюза относно защитата на данните, докато по отношение на неличните данни се прилагат подходящи гаранции в съответствие с правото на Съюза, като например регламенти (ЕС) 2022/868 (42) и (ЕС) 2023/2854 (43) на Европейския парламент и на Съвета.
(141)
Biex jitħaffef il-proċess tal-iżvilupp u l-introduzzjoni fis-suq tas-sistemi tal-IA b'riskju għoli elenkati f' anness ta' dan ir-Regolament, huwa importanti li l-fornituri jew il-fornituri prospettivi ta' dawn is-sistemi jkunu jistgħu jibbenefikaw ukoll minn reġim speċifiku għall-ittestjar ta' dawk is-sistemi f'kundizzjonijiet tad-dinja reali, mingħajr ma jieħdu sehem f'ambjent ta' esperimentazzjoni regolatorja għall-IA. Madankollu, f'każijiet bħal dawn, filwaqt li jitqiesu l-konsegwenzi possibbli ta' tali ttestjar fuq individwi, jenħtieġ li jiġi żgurat li dan ir-Regolament jintroduċi garanziji u kundizzjonijiet xierqa u suffiċjenti għall-fornituri jew il-fornituri prospettivi. Jenħtieġ li tali garanziji jinkludu, fost l-oħrajn, talba għal kunsens infurmat ta' persuni fiżiċi biex jieħdu sehem fl-ittestjar fil-kundizzjonijiet tad-dinja reali, bl-eċċezzjoni tal-infurzar tal-liġi fejn it-tiftix ta' kunsens infurmat jipprevjeni s-sistema tal-IA milli tiġi ttestjata. Il-kunsens tas-suġġetti biex jieħdu sehem f'tali ttestjar skont dan ir-Regolament huwa distint minn u mingħajr preġudizzju għall-kunsens tas-suġġetti tad-data għall-ipproċessar tad-data personali tagħhom skont il-liġi rilevanti dwar il-protezzjoni tad-data. Huwa importanti wkoll li jiġu minimizzati r-riskji u li tkun tista' ssir sorveljanza mill-awtoritajiet kompetenti u għalhekk ikun meħtieġ li l-fornituri prospettivi jkollhom pjan ta' ttestjar fid-dinja reali sottomess lill-awtorità kompetenti tas-sorveljanza tas-suq, jirreġistraw l-ittestjar f'taqsimiet iddedikati fil-bażi tad-data għall-UE soġġett għal xi eċċezzjonijiet limitati, jistabbilixxu limitazzjonijiet fuq il-perjodu li għalih jista' jsir l-ittestjar u jirrikjedu salvagwardji addizzjonali għal persuni vulnerabbli li jagħmlu parti minn ċerti gruppi vulnerabbli, kif ukoll ftehim bil-miktub li jiddefinixxi r-rwoli u r-responsabbiltajiet tal-fornituri u l-implimentaturi prospettivi u sorveljanza effettiva mill-persunal kompetenti involut fl-ittestjar fid-dinja reali. Barra minn hekk, huwa xieraq li jiġu previsti salvagwardji addizzjonali biex jiġi żgurat li t-tbassir, ir-rakkomandazzjonijiet jew id-deċiżjonijiet tas-sistema tal-IA jkunu jistgħu jitreġġgħu lura u jiġu injorati b'mod effettiv u li d-data personali tiġi protetta u titħassar meta s-suġġetti jkunu rtiraw il-kunsens tagħhom biex jipparteċipaw fl-ittestjar mingħajr preġudizzju għad-drittijiet tagħhom bħala suġġetti tad-data skont il-liġi tal-Unjoni dwar il-protezzjoni tad-data. Fir-rigward tat-trasferiment tad-data, huwa xieraq ukoll li jiġi previst li d-data miġbura u pproċessata għall-fini tal-ittestjar fil-kundizzjonijiet tad-dinja reali jenħtieġ li tiġi ttrasferita lil pajjiżi terzi biss fejn jiġu implimentati salvagwardji xierqa u applikabbli skont il-liġi tal-Unjoni, b'mod partikolari f'konformità mal-bażijiet għat-trasferiment ta' data personali skont il-liġi tal-Unjoni dwar il-protezzjoni tad-data, filwaqt li għad-data mhux personali jiġu stabbiliti salvagwardji xierqa f'konformità mal-liġi tal-Unjoni, bħar-Regolamenti (UE) 2022/868 (42) u (UE) 2023/2854 (43) tal-Parlament Ewropew u tal-Kunsill.
(142)
За да се гарантира, че ИИ води до благоприятни за обществото и околната среда резултати, държавите членки се насърчават да подкрепят и поощряват научните изследвания и разработването на решения в областта на ИИ, способстващи за постигането на такива резултати — например основани на ИИ решения за увеличаване на достъпността за хората с увреждания, противодействие на социално-икономическите неравенства или постигане на екологичните цели, чрез разпределяне на достатъчно ресурси, включително публично финансиране и финансиране от Съюза, и когато е целесъобразно и при условие че са изпълнени критериите за допустимост и подбор, разглеждане на проекти, които преследват тези цели. Такива проекти следва да се основават на принципа на интердисциплинарното сътрудничество между разработчици на ИИ, експерти по въпросите на неравенството и недискриминацията, достъпността, правата на потребителите, правата, свързани с околната среда, и цифровите права, както и академичните среди.
(142)
Biex jiġi żgurat li l-IA twassal għal eżiti ta' benefiċċju soċjali u ambjentali, l-Istati Membri huma mħeġġa jappoġġaw u jippromwovu r-riċerka u l-iżvilupp ta' soluzzjonijiet tal-IA li jappoġġaw eżiti ta' benefiċċju soċjali u ambjentali, bħal soluzzjonijiet ibbażati fuq l-IA biex tiżdied l-aċċessibbiltà għall-persuni b'diżabbiltà, jiġu indirizzati l-inugwaljanzi soċjoekonomiċi jew biex jintlaħqu miri ambjentali, billi jallokaw ir-riżorsi suffiċjenti, inkluż finanzjament pubbliku u tal-Unjoni, u, fejn xieraq u dment li l-kriterji tal-eliġibbiltà u tal-għażla jiġu ssodisfati, b'kunsiderazzjoni partikolari għal proġetti li għandhom tali objettivi. Jenħtieġ li proġetti bħal dawn ikunu bbażati fuq il-prinċipju ta' kooperazzjoni interdixxiplinari bejn l-iżviluppaturi tal-IA, l-esperti dwar l-inugwaljanza u n-nondiskriminazzjoni, l-aċċessibbiltà, il-konsumatur, id-drittijiet ambjentali u diġitali, kif ukoll l-akkademiċi.
(143)
С цел насърчаване и защита на иновациите е важно да се обърне специално внимание на интересите на МСП, включително новосъздадените предприятия, които са доставчици или внедрители на системи с ИИ. За тази цел държавите членки следва да разработят инициативи, насочени към тези оператори, включително за повишаване на осведомеността и съобщаването на информация. Държавите членки следва да осигуряват на МСП, включително новосъздадените предприятия, които имат седалище или клон в Съюза, приоритетен достъп до регулаторните лаборатории в областта на ИИ, при условие че те отговарят на условията за допустимост и на критериите за подбор, без да се възпрепятства достъпът на други доставчици и потенциални доставчици до лабораториите, при условие че са изпълнени същите условия и критерии. Държавите членки следва да използват наличните, а когато е целесъобразно - да създават нови, специални канали за комуникация с МСП, новосъздадени предприятия, внедрители, други новатори и - в зависимост от случая - органи на местна власт, с цел да подпомагат МСП по пътя им на развитие чрез даване на насоки и отговаряне на запитвания във връзка с прилагането на настоящия регламент. Когато е целесъобразно, тези канали следва да работят заедно, за да се създадат полезни взаимодействия и да се гарантира еднообразност на насоките за МСП, включително новосъздадените предприятия, и внедрителите. Наред с това държавите членки следва да улесняват участието на МСП и на други заинтересовани страни в процесите на разработване на стандарти. Освен това, при определянето на таксите за оценяване на съответствието нотифицираните органи следва да вземат предвид особените интереси и нужди на доставчиците, които са МСП, включително новосъздадени предприятия. Комисията следва да оценява редовно разходите на МСП, включително новосъздадените предприятия, за сертифициране и привеждане в съответствие чрез прозрачни консултации и следва да работи с държавите членки за понижаването на тези разходи. Така например разходите за превод, свързани със задължителната документация и комуникацията с органите, могат да представляват значителни разходи за доставчиците и другите оператори, по-специално за по-малките. Държавите членки следва по възможност да гарантират, че един от езиците, определени и приети от тях за съответната документация на доставчиците и за комуникация с операторите, е език, които в значителна степен се разбира от възможно най-голям брой трансгранични внедрители. За да се отговори на специфичните нужди на МСП, включително новосъздадените предприятия, Комисията следва да осигури стандартизирани образци за областите, обхванати от настоящия регламент, по искане на Съвета по ИИ. Освен това Комисията следва да допълни усилията на държавите членки, като осигури единна информационна платформа с лесна за ползване информация относно настоящия регламент, предназначена за всички доставчици и внедрители, като организира подходящи комуникационни кампании за повишаване на осведомеността относно задълженията, произтичащи от настоящия регламент, и като оценява и насърчава сближаването на най-добрите практики, прилагани в рамките на процедурите за възлагане на обществени поръчки във връзка със системите с ИИ. Средните предприятия, които доскоро са съответствали на критериите за малки предприятия по смисъла на приложението към Препоръка 2003/361/ЕО на Комисията (44), следва да имат достъп до тези мерки за подкрепа, тъй като е възможно тези нови средни предприятия да не разполагат с правните ресурси и обучението, необходими, за да се гарантира правилното разбиране и спазване на настоящия регламент.
(143)
Sabiex tiġi promossa u protetta l-innovazzjoni, huwa importanti li jitqiesu b'mod partikolari l-interessi tal-SMEs, inkluż in-negozji ġodda, li huma fornituri jew implimentaturi ta' sistemi tal-IA. Għal dak il-għan, jenħtieġ li l-Istati Membri jiżviluppaw inizjattivi, immirati lejn dawk l-operaturi, inkluż għas-sensibilizzazzjoni u l-komunikazzjoni tal-informazzjoni. L-Istati Membri jenħtieġ li jipprovdu lill-SMEs, inkluż in-negozji ġodda, li jkollhom uffiċċju reġistrat jew fergħa fl-Unjoni, aċċess prijoritarju għal ambjenti ta' esperimentazzjoni regolatorja għall-IA dment li jissodisfaw il-kundizzjonijiet tal-eliġibbiltà u l-kriterji tal-għażla u mingħajr ma jipprekludu lil fornituri u fornituri prospettivi oħra milli jaċċessaw l-ambjenti regolatorji dment li l-istess kundizzjonijiet u kriterji jiġu ssodisfati. L-Istati Membri jenħtieġ li jużaw il-mezzi eżistenti u, meta xieraq, jistabbilixxu mezzi ddedikati ġodda għall-komunikazzjoni mal-SMEs, inkluż man-negozji ġodda, mal-implimentaturi, ma' innovaturi oħrajn, u kif xieraq, mal-awtoritajiet pubbliċi lokali, biex jappoġġaw lill-SMEs fil-perkors kollu tal-iżvilupp tagħhom billi jipprovdu gwida u jwieġbu domandi dwar l-implimentazzjoni ta' dan ir-Regolament. Meta xieraq, dawn il-mezzi jenħtieġ li jaħdmu flimkien biex joħolqu sinerġiji u jiżguraw l-omoġeneità fil-gwida tagħhom lill-SMEs, inkluż in-negozji ġodda, u l-implimentaturi. Jenħtieġ li l-Istati Membri jiffaċilitaw ukoll il-parteċipazzjoni tal-SMEs u ta' partijiet ikkonċernati rilevanti oħra fil-proċess tal-iżvilupp tal-istandardizzazzjoni. Barra minn hekk, meta l-korpi notifikati jistabbilixxu tariffi għall-valutazzjoni tal-konformità, jenħtieġ li jitqiesu l-interessi u l-ħtiġijiet speċifiċi tal-fornituri li huma SMEs, inkluż negozji ġodda. Jenħtieġ li l-Kummissjoni tevalwa b'mod regolari l-kostijiet ta' ċertifikazzjoni u konformità għall-SMEs inkluż għan-negozji ġodda, permezz ta' konsultazzjonijiet trasparenti u jenħtieġ li taħdem mal-Istati Membri biex tnaqqas dawn il-kostijiet. Pereżempju, il-kostijiet tat-traduzzjoni relatata mad-dokumentazzjoni obbligatorja u l-komunikazzjoni mal-awtoritajiet jistgħu jikkostitwixxu kost sinifikanti għall-fornituri u għal operaturi oħra, b'mod partikolari għal dawk fuq skala iżgħar. Jenħtieġ li l-Istati Membri possibbilment jiżguraw li waħda mil-lingwi determinati u aċċettati minnhom għad-dokumentazzjoni tal-fornituri rilevanti u għall-komunikazzjoni mal-operaturi tkun waħda li tinftiehem b'mod wiesa' mill-akbar għadd ta' implimentaturi transfruntieri possibbli. Sabiex jiġu indirizzati l-ħtiġijiet speċifiċi tal-SMEs inkluż tan-negozji ġodda, jenħtieġ li l-Kummissjoni tipprovdi mudelli standardizzati għall-oqsma koperti minn dan ir-Regolament fuq talba tal-Bord. Barra minn hekk, jenħtieġ li l-Kummissjoni tikkomplementa l-isforzi tal-Istati Membri billi tipprovdi pjattaforma ta' informazzjoni unika b'informazzjoni faċli biex tintuża fir-rigward ta' dan ir-Regolament għall-fornituri u l-implimentaturi kollha, billi torganizza kampanji ta' komunikazzjoni adatti biex tqajjem kuxjenza dwar l-obbligi li jirriżultaw minn dan ir-Regolament, u billi tevalwa u tippromwovi l-konverġenza tal-aħjar prattiki fil-proċeduri tal-akkwist pubbliku fir-rigward tas-sistemi tal-IA. Jenħtieġ li l-intrapriżi ta' daqs medju li sa reċentement kienu jikkwalifikaw bħala intrapriżi żgħar skont it-tifsira tal-Anness tar-Rakkomandazzjoni tal-Kummissjoni 2003/361/KE (44) jkollhom aċċess għal dawk il-miżuri ta' appoġġ peress li dawk l-intrapriżi ġodda ta' daqs medju ġodda xi drabi jistgħu ma jkollhomx ir-riżorsi legali u t-taħriġ meħtieġa biex jiżguraw fehim xieraq ta' dan ir-Regolament u konformità miegħu.
(144)
С цел насърчаване и защита на иновациите платформата за ИИ по заявка, всички съответни програми и проекти на Съюза за финансиране, като например програмите „Цифрова Европа“ и „Хоризонт Европа“, изпълнявани от Комисията и държавите членки на национално равнище или на равнището на Съюза, следва, когато е целесъобразно, да допринасят за постигането на целите на настоящия регламент.
(144)
Sabiex tiġi promossa u protetta l-innovazzjoni, jenħtieġ li l-pjattaforma tal-IA fuq talba, il-programmi u l-proġetti ta' finanzjament rilevanti kollha tal-Unjoni, bħall-Programm Ewropa Diġitali, Orizzont Ewropa, implimentati mill-Kummissjoni u mill-Istati Membri fil-livell tal-Unjoni jew nazzjonali, jikkontribwixxu, kif xieraq, għall-kisba tal-objettivi ta' dan ir-Regolament.
(145)
За да се сведат до минимум рисковете за правоприлагането, произтичащи от липсата на знания и експертен опит на пазара, както и за да се улесни спазването на задълженията по настоящия регламент от страна на доставчиците, по-специално МСП, включително новосъздадените предприятия, и нотифицираните органи, платформата за ИИ по заявка, европейските цифрови иновационни центрове и структурите за изпитване и експериментиране, създадени от Комисията и държавите членки на национално равнище или на равнището на Съюза, следва да допринасят за прилагането на настоящия регламент. В рамките на своята мисия и области на компетентност платформата за ИИ по заявка, европейските цифрови иновационни центрове и структурите за изпитване и експериментиране могат да предоставят по-специално техническа и научна подкрепа на доставчиците и нотифицираните органи.
(145)
Sabiex jiġu minimizzati r-riskji għall-implimentazzjoni li jirriżultaw minn nuqqas ta' għarfien u kompetenza esperta fis-suq kif ukoll biex tiġi ffaċilitata l-konformità tal-fornituri, b'mod partikolari l-SMEs, inkluż in-negozji ġodda, u l-korpi notifikati mal-obbligi tagħhom skont dan ir-Regolament, jenħtieġ li l-pjattaforma tal-IA fuq talba, iċ-Ċentri Ewropej tal-Innovazzjoni Diġitali u l-Faċilitajiet tal-ittestjar u tal-esperimentazzjoni stabbiliti mill-Kummissjoni u mill-Istati Membri fil-livell tal-Unjoni jew nazzjonali jikkontribwixxu għall-implimentazzjoni ta' dan ir-Regolament. Fil-missjonijiet u l-oqsma ta' kompetenza rispettivi tagħhom, il-pjattaforma tal-IA fuq talba, iċ-Ċentri Ewropej tal-Innovazzjoni Diġitali u l-Faċilitajiet tal-ittestjar u tal-esperimentazzjoni jistgħu jipprovdu b'mod partikolari appoġġ tekniku u xjentifiku lill-fornituri u lill-korpi notifikati.
(146)
Освен това, предвид твърде малкия размер на някои оператори и с цел да се гарантира пропорционалност по отношение на разходите за иновации, е целесъобразно да се даде възможност на микропредприятията да изпълнят едно от най-скъпо струващите задължения, а именно създаването на система за управление на качеството, по опростен начин, което би намалило административната тежест и разходите за тези предприятия, без да се засягат равнището на защита и необходимостта от съответствие с изискванията за високорисковите системи с ИИ. Комисията следва да разработи насоки с цел да се определят елементите на системата за управление на качеството, които трябва да бъдат изпълнени по този опростен начин от микропредприятията.
(146)
Barra minn hekk, fid-dawl tad-daqs żgħir ħafna ta' xi operaturi u sabiex tiġi żgurata l-proporzjonalità fir-rigward tal-kostijiet tal-innovazzjoni, jixraq li l-mikrointrapriżi jitħallew jissodisfaw wieħed mill-aktar obbligi għaljin, jiġifieri l-istabbiliment ta' sistema ta' ġestjoni tal-kwalità, b'mod simplifikat li tnaqqas il-piż amministrattiv u l-kostijiet għal dawk l-intrapriżi mingħajr ma jiġi affettwat il-livell ta' protezzjoni u l-ħtieġa ta' konformità mar-rekwiżiti għas-sistemi tal-IA b'riskju għoli. Jenħtieġ li l-Kummissjoni tiżviluppa linji gwida biex tispeċifika l-elementi tas-sistema ta' ġestjoni tal-kwalità li għandhom jiġu ssodisfati b'dan il-mod simplifikat mill-mikrointrapriżi.
(147)
Целесъобразно е Комисията да улеснява, доколкото е възможно, достъпа до структури за изпитване и експериментиране на органи, групи или лаборатории, създадени или акредитирани съгласно съответното законодателство на Съюза за хармонизация, които изпълняват задачи в контекста на оценяването на съответствието на продукти или изделия, попадащи в обхвата на посоченото законодателство на Съюза за хармонизация. Такъв е по-специално случаят с експертните групи, специализираните лаборатории и референтните лаборатории в областта на медицинските изделия съгласно регламенти (ЕС) 2017/745 и (ЕС) 2017/746.
(147)
Jixraq li l-Kummissjoni tiffaċilita, sa fejn ikun possibbli, l-aċċess għall-faċilitajiet tal-ittestjar u tal-esperimentazzjoni għall-korpi, il-gruppi jew il-laboratorji stabbiliti jew akkreditati skont kwalunkwe leġiżlazzjoni rilevanti tal-Unjoni dwar l-armonizzazzjoni u li jissodisfaw kompiti fil-kuntest ta' valutazzjoni tal-konformità ta' prodotti jew ta' apparati koperti minn dik il-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni. Dan hu partikolarment il-każ fir-rigward tal-gruppi ta' esperti, il-laboratorji esperti u l-laboratorji ta' referenza fil-qasam tal-apparati mediċi skont ir-Regolamenti (UE) 2017/745 u (UE) 2017/746.
(148)
С настоящия регламент следва да се създаде рамка за управление, която да позволява координация и подкрепа при прилагането на настоящия регламент на национално равнище, както и изграждане на капацитет на равнището на Съюза и включване на заинтересованите страни в областта на изкуствения интелект. Ефективното изпълнение и прилагане на настоящия регламент изискват рамка за управление, която да дава възможност за координация и изграждане на експертен опит на централно ниво, на равнището на Съюза. Службата по ИИ беше създадена с решение на Комисията (45) с мисията да развива експертния опит и способностите на Съюза в областта на ИИ и да допринася за прилагането на правото на Съюза в областта на ИИ. Държавите членки следва да улесняват изпълнението на задачите на Службата по ИИ с цел да се подпомогне развитието на експертния опит на Съюза и на способностите на равнището на Съюза и да се укрепи функционирането на цифровия единен пазар. Наред с това следва да бъдат създадени Съвет по ИИ, съставен от представители на държавите членки, експертна група, с която да се привлече научната общност, и консултативен форум, чрез който заинтересованите страни да допринасят за прилагането на настоящия регламент както на национално равнище, така и на равнището на Съюза. Развитието на експертния опит и способностите на Съюза следва да включва също така използването на съществуващите ресурси и експертен опит, по-специално чрез полезни взаимодействия със структури, изградени в контекста на прилагането в рамките на Съюза на друго законодателство, както и полезни взаимодействия със свързани инициативи на равнището на Съюза, например Съвместното предприятие за европейски високопроизводителни изчисления (EuroHPC) и съоръженията за изпитване и експериментиране с ИИ в рамките на програмата „Цифрова Европа“.
(148)
Jenħtieġ li dan ir-Regolament jistabbilixxi qafas ta' governanza li jippermetti kemm il-koordinazzjoni u l-appoġġ tal-applikazzjoni ta' dan ir-Regolament fil-livell nazzjonali, kif ukoll it-tisħiħ tal-kapaċitajiet fil-livell tal-Unjoni u l-integrazzjoni tal-partijiet ikkonċernati fil-qasam tal-IA. L-implimentazzjoni u l-infurzar effettivi ta' dan ir-Regolament jirrikjedu qafas ta' governanza li jippermetti l-koordinazzjoni u l-bini ta' kompetenza esperta ċentrali fil-livell tal-Unjoni. L-Uffiċċju għall-IA ġie stabbilit b'Deċiżjoni tal-Kummissjoni (45) u għandu bħala l-missjoni tiegħu li jiżviluppa l-għarfien espert u l-kapaċitajiet tal-Unjoni fil-qasam tal-IA u li jikkontribwixxi għall-implimentazzjoni tal-liġi tal-Unjoni dwar l-IA. Jenħtieġ li l-Istati Membri jiffaċilitaw il-kompiti tal-Uffiċċju għall-IA bil-ħsieb li jiġi appoġġat l-iżvilupp tal-kompetenza esperta u l-kapaċitajiet tal-Unjoni fil-livell tal-Unjoni u li jissaħħaħ il-funzjonament tas-suq uniku diġitali. Barra minn hekk, jenħtieġ li jiġi stabbilit Bord magħmul minn rappreżentanti tal-Istati Membri, bord għall-integrazzjoni tal-komunità xjentifika u forum konsultattiv biex jikkontribwixxi l-kontribut tal-partijiet ikkonċernati għall-implimentazzjoni ta' dan ir-Regolament, fil-livell tal-Unjoni u dak nazzjonali. Jenħtieġ li l-iżvilupp tal-kompetenza esperta u tal-kapaċitajiet tal-Unjoni jinkludi wkoll l-użu tar-riżorsi u l-kompetenza esperta eżistenti, b'mod partikolari permezz ta' sinerġiji ma' strutturi mibnija fil-kuntest tal-infurzar fil-livell tal-Unjoni ta' liġijiet u sinerġiji oħra ma' inizjattivi relatati fil-livell tal-Unjoni, bħall-Impriża Konġunta EuroHPC u l-faċilitajiet tal-ittestjar u tal-esperimentazzjoni tal-IA taħt il-Programm Ewropa Diġitali.
(149)
С цел подпомагане на безпрепятственото, ефективно и хармонизирано прилагане на настоящия регламент следва да бъде създаден Съвет по ИИ. Той следва да отразява различните интереси в рамките на екосистемата на ИИ и да се състои от представители на държавите членки. Съветът по ИИ следва да отговаря за изпълнението на редица консултативни задачи, включително да приема становища, препоръки, съвети или да допринася за приемането на насоки по въпроси, свързани с изпълнението на настоящия регламент, включително по въпроси на прилагането, техническите спецификации или съществуващите стандарти във връзка с изискванията, установени в настоящия регламент, и да консултира Комисията и държавите членки и техните национални компетентни органи по конкретни въпроси, свързани с ИИ. За да се осигури известна гъвкавост за държавите членки при определянето на техните представители в Съвета по ИИ, представители могат да бъдат всички лица, принадлежащи към публични субекти, които следва да разполагат със съответните компетентност и правомощия да улесняват координацията на национално равнище и да допринасят за изпълнението на задачите на Съвета по ИИ. Съветът по ИИ следва да създаде две постоянни подгрупи, които да осигуряват платформа за сътрудничество и обмен между органите за надзор на пазара и нотифициращите органи по въпроси, свързани съответно с надзора на пазара и нотифицираните органи. Постоянната подгрупа за надзор на пазара следва да действа като група за административно сътрудничество (ADCO група) за настоящия регламент по смисъла на член 30 от Регламент (ЕС) 2019/1020. В съответствие с член 33 от същия регламент Комисията следва да подпомага дейностите на постоянната подгрупа за надзор на пазара чрез извършване на оценки или проучвания на пазара, по-специално с цел да се установят аспекти на настоящия регламент, изискващи специфична и спешна координация между органите за надзор на пазара. Съветът по ИИ може да създаде други постоянни или временни подгрупи, когато това е целесъобразно за разглеждането на конкретни въпроси. Съветът по ИИ следва също така да си сътрудничи, когато е целесъобразно, със съответните органи, експертни групи и мрежи на Съюза, извършващи дейност в контекста на съответното право на Съюза, включително по-специално извършващите дейност съгласно правото на Съюза в областта на данните и цифровите продукти и услуги.
(149)
Sabiex tiġi ffaċilitata implimentazzjoni bla xkiel, effettiva u armonizzata ta' dan ir-Regolament, jenħtieġ jiġi stabbilit Bord. Jenħtieġ li l-Bord jirrifletti d-diversi interessi tal-ekosistema tal-IA u jkun magħmul minn rappreżentanti tal-Istati Membri. Jenħtieġ li l-Bord ikun responsabbli għal għadd ta' kompiti konsultattivi, inkluż l-għoti ta' opinjonijiet, rakkomandazzjonijiet, pariri jew kontribut għall-gwida dwar kwistjonijiet relatati mal-implimentazzjoni ta' dan ir-Regolament, inkluż dwar kwistjonijiet ta' infurzar, speċifikazzjonijiet tekniċi jew standards eżistenti rigward ir-rekwiżiti stipulati f'dan ir-Regolament u l-għoti ta' pariri lill-Kummissjoni u lill-Istati Membri u l-awtoritajiet nazzjonali kompetenti tagħhom dwar kwistjonijiet speċifiċi relatati mal-IA. Sabiex tingħata xi flessibbiltà lill-Istati Membri fid-deżinjazzjoni tar-rappreżentanti tagħhom fil-Bord, tali rappreżentanti jistgħu jkunu kwalunkwe persuna li tappartjeni għal entitajiet pubbliċi li jenħtieġ li jkollha l-kompetenzi u s-setgħat rilevanti biex tiffaċilita l-koordinazzjoni fil-livell nazzjonali u tikkontribwixxi għall-kisba tal-kompiti tal-Bord. Jenħtieġ li l-Bord jistabbilixxi żewġ sottogruppi permanenti biex tiġi pprovduta pjattaforma għall-kooperazzjoni u l-iskambju fost l-awtoritajiet tas-sorveljanza tas-suq u l-awtoritajiet tan-notifika dwar kwistjonijiet relatati rispettivament mas-sorveljanza tas-suq u l-korpi notifikati. Jenħtieġ li s-sottogrupp permanenti għas-sorveljanza tas-suq jaġixxi bħala l-grupp ta' kooperazzjoni amministrattiva (ADCO) għal dan ir-Regolament skont it-tifsira tal-Artikolu 30 tar-Regolament (UE) 2019/1020. F'konformità mal-Artikolu 33 ta' dak ir-Regolament, jenħtieġ li l-Kummissjoni tappoġġa l-attivitajiet tas-sottogrupp permanenti għas-sorveljanza tas-suq billi twettaq evalwazzjonijiet jew studji tas-suq, partikolarment bil-ħsieb li tidentifika aspetti ta' dan ir-Regolament li jirrikjedu koordinazzjoni speċifika u urġenti fost l-awtoritajiet tas-sorveljanza tas-suq. Il-Bord jista' jistabbilixxi sottogruppi permanenti jew temporanji oħra kif xieraq għall-fini tal-eżaminazzjoni ta' kwistjonijiet speċifiċi. Jenħtieġ li l-Bord jikkoopera wkoll, kif xieraq, mal-korpi, il-gruppi ta' esperti u n-networks rilevanti tal-Unjoni attivi fil-kuntest tal-liġijiet rilevanti tal-Unjoni, inkluż b'mod partikolari dawk attivi skont il-liġijiet rilevanti tal-Unjoni dwar id-data, il-prodotti u s-servizzi diġitali.
(150)
За да се гарантира участието на заинтересованите страни в изпълнението и прилагането на настоящия регламент, следва да се създаде консултативен форум, който да консултира и да предоставя технически експертни становища на Съвета по ИИ и на Комисията. За да се гарантира разнообразно и балансирано представителство на заинтересованите страни, свързани с търговски и нетърговски интереси и, в рамките на категорията на търговските интереси, на МСП и други предприятия, консултативният форум следва да включва, наред с другото, стопанския сектор, новосъздадените предприятия, МСП, академичните среди, гражданското общество, включително социалните партньори, както и Агенцията за основните права, ENISA, Европейския комитет по стандартизация (CEN), Европейския комитет за стандартизация в електротехниката (CENELEC) и Европейския институт за стандарти в далекосъобщенията (ETSI).
(150)
Bil-ħsieb li jiġi żgurat l-involviment tal-partijiet ikkonċernati fl-implimentazzjoni u l-applikazzjoni ta' dan ir-Regolament, jenħtieġ li jiġi stabbilit forum konsultattiv biex jagħti pariri u jipprovdi kompetenza esperta teknika lill-Bord u lill-Kummissjoni. Sabiex tiġi żgurata rappreżentanza varjata u bbilanċjata tal-partijiet ikkonċernati bejn l-interess kummerċjali u dak mhux kummerċjali u, fil-kategorija tal-interessi kummerċjali, fir-rigward tal-SMEs u impriżi oħra, jenħtieġ li l-forum konsultattiv jinkludi, fost l-oħrajn, l-industrija, in-negozji ġodda, l-SMEs, id-dinja akkademika, is-soċjetà ċivili, inkluż is-sħab soċjali, kif ukoll l-Aġenzija għad-Drittijiet Fundamentali, l-ENISA, il-Kumitat Ewropew għall-Istandardizzazzjoni (CEN), il-Kumitat Ewropew għall-Istandardizzazzjoni Elettroteknika (CENELEC) u l-Istitut Ewropew tal-Istandards tat-Telekomunikazzjoni (ETSI).
(151)
За да се подпомогне изпълнението и прилагането на настоящия регламент, и по-специално дейностите по мониторинг на Службата по ИИ по отношение на моделите на ИИ с общо предназначение, следва да се създаде експертна група, съставена от независими експерти. Независимите експерти, които влизат в състава на експертната група, следва да бъдат подбрани въз основа на актуални научни или технически експертни познания в областта на ИИ, да изпълняват задачите си безпристрастно и обективно и да гарантират поверителността на информацията и данните, получени при изпълнението на задачите и дейностите си. За да се даде възможност за укрепване на националния капацитет, необходим за ефективното прилагане на настоящия регламент, държавите членки следва да могат да искат съдействие от експертите, влизащи в състава на експертната група, във връзка с дейностите си по прилагане на регламента.
(151)
Jenħtieġ li jiġi stabbilit bord ta' esperti indipendenti biex jiġu appoġġati l-implimentazzjoni u l-infurzar ta' dan ir-Regolament, b'mod partikolari l-attivitajiet ta' monitoraġġ tal-Uffiċċju għall-IA fir-rigward tal-mudelli tal-IA bi skop ġenerali. Jenħtieġ li l-esperti indipendenti li jikkostitwixxu l-bord jintgħażlu abbażi ta' kompetenza esperta xjentifika jew teknika aġġornata fil-qasam tal-IA u għandhom iwettqu l-kompiti tagħhom b'imparzjalità u oġġettività u jiżguraw il-kunfidenzjalità tal-informazzjoni u tad-data miksuba fit-twettiq tal-kompiti u l-attivitajiet tagħhom. Sabiex ikun possibli t-tisħiħ tal-kapaċitajiet nazzjonali meħtieġa għall-infurzar effettiv ta' dan ir-Regolament, jenħtieġ li l-Istati Membri jkunu jistgħu jitolbu appoġġ mill-grupp ta' esperti li jikkostitwixxu l-bord għall-attivitajiet ta' infurzar tagħhom.
(152)
С цел да се допринесе за адекватното правоприлагане по отношение на системите с ИИ и да се укрепи капацитетът на държавите членки, следва да се създадат структури на Съюза за подкрепа на изпитванията в областта на ИИ, които да бъдат на разположение на държавите членки.
(152)
Jenħtieġ li jiġu stabbiliti u mqiegħda għad-dispożizzjoni tal-Istati Membri, strutturi ta' appoġġ tal-Unjoni għall-ittestjar tal-IA sabiex jiġi appoġġat l-infurzar adegwat fir-rigward tas-sistemi tal-IA u jissaħħu l-kapaċitajiet tal-Istati Membri.
(153)
Държавите членки заемат ключово място в прилагането и изпълнението на настоящия регламент. Във връзка с това всяка държава членка следва да определи най-малко един нотифициращ орган и най-малко един орган за надзор на пазара в качеството им на национални компетентни органи за целите на надзора върху прилагането и изпълнението на настоящия регламент. Държавите членки могат да решат да определят всякакъв вид публичен субект да изпълнява задачите на националните компетентни органи по смисъла на настоящия регламент, в съответствие със своите конкретни национални организационни характеристики и нужди. С цел да се повиши ефективността на организацията от страна на държавите членки и да се създаде единно звено за контакт с обществеността и други партньори на равнището на държавите членки и на Съюза, всяка държава членка следва да определи орган за надзор на пазара, който да изпълнява функциите на единно звено за контакт.
(153)
L-Istati Membri jaqdu rwol ewlieni fl-applikazzjoni u fl-infurzar ta' dan ir-Regolament. F'dak ir-rigward, jenħtieġ li kull Stat Membru jiddeżinja minn tal-inqas awtorità tan-notifika waħda u minn tal-inqas awtorità tas-sorveljanza tas-suq waħda bħala awtoritajiet kompetenti nazzjonali bil-għan li jiġu ssorveljati l-applikazzjoni u l-implimentazzjoni ta' dan ir-Regolament. L-Istati Membri jistgħu jiddeċiedu li jaħtru kwalunkwe tip ta' entità pubblika biex twettaq il-kompiti tal-awtoritajiet kompetenti nazzjonali skont it-tifsira ta' dan ir-Regolament, f'konformità mal-karatteristiċi u l-ħtiġijiet organizzattivi nazzjonali speċifiċi tagħhom. Sabiex tiżdied l-effiċjenza tal-organizzazzjoni fuq in-naħa tal-Istati Membri u biex jiġi stabbilit punt uniku ta' kuntatt għall-pubbliku u għal kontropartijiet oħra fil-livell tal-Istati Membri u f'dak tal-Unjoni, jenħtieġ li kull Stat Membru jiddeżinja awtorità tas-sorveljanza tas-suq biex taġixxi bħala punt uniku ta' kuntatt.
(154)
Националните компетентни органи следва да упражняват правомощията си независимо, безпристрастно и непредубедено, за да бъдат спазени принципите за обективност в дейностите и задачите им и да се гарантира прилагането и изпълнението на настоящия регламент. Членовете на тези органи следва да се въздържат от всякакви действия, несъвместими с техните задължения, и да спазват правилата за поверителност съгласно настоящия регламент.
(154)
Jenħtieġ li l-awtoritajiet kompetenti nazzjonali jeżerċitaw is-setgħat tagħhom b'mod indipendenti, imparzjali u mingħajr preġudizzju sabiex jissalvagwardaw il-prinċipji tal-oġġettività tal-attivitajiet u l-kompiti tagħhom u biex jiżguraw l-applikazzjoni u l-implimentazzjoni ta' dan ir-Regolament. Jenħtieġ li l-membri ta' dawn l-awtoritajiet joqogħdu lura minn kwalunkwe azzjoni inkompatibbli mad-dmirijiet tagħhom u jenħtieġ li jkunu soġġetti għal regoli ta' kunfidenzjalità skont dan ir-Regolament.
(155)
За да се гарантира, че доставчиците на високорискови системи с ИИ могат да вземат предвид опита от използването на високорискови системи с ИИ с цел да подобряват своите системи и процеса на проектиране и разработване, или че могат своевременно да предприемат евентуални коригиращи действия, всички доставчици следва да разполагат със система за мониторинг след пускането на пазара. Когато е целесъобразно, мониторингът след пускането на пазара следва да включва анализ на взаимодействието с други системи с ИИ, включително други устройства и софтуер. Мониторингът след пускането на пазара не следва да обхваща чувствителни оперативни данни на внедрители, които са правоохранителни органи. Тази система е от ключово значение и с оглед на това да се гарантира, че възможните рискове, произтичащи от системите с ИИ, които продължават да се обучават след пускането им на пазара или пускането им в действие, могат да бъдат преодолени по-ефикасно и своевременно. В този контекст от доставчиците следва също да се изисква да разполагат със система за докладване до съответните органи за всякакви сериозни инциденти, които произтичат от използването на техните системи с ИИ и представляват инцидент или неизправност, водещ(а) до смърт или сериозно увреждане на здравето, сериозно и необратимо нарушаване на управлението и експлоатацията на критична инфраструктура, нарушения на задължения съгласно правото на Съюза, имащо за цел да защитава основните права, или сериозно увреждане на имущество или на околната среда.
(155)
Sabiex ikun żgurat li l-fornituri tas-sistemi tal-IA b'riskju għoli jkunu jistgħu jqisu l-esperjenza bl-użu tas-sistemi tal-IA b'riskju għoli għat-titjib tas-sistemi tagħhom u tal-proċess tad-disinn u l-iżvilupp, jew ikunu jistgħu jieħdu xi azzjoni korrettiva possibbli fil-ħin, jenħtieġ li l-fornituri kollha jkollhom fis-seħħ sistema ta' sorveljanza ta' wara t-tqegħid fis-suq. Meta jkun rilevanti, jenħtieġ li s-sorveljanza ta' wara t-tqegħid fis-suq tinkludi analiżi tal-interazzjoni ma' sistemi oħra tal-IA inkluż apparati u software ieħor. Jenħtieġ li s-sorveljanza ta' wara t-tqegħid fis-suq ma tkoprix data operazzjonali sensittiva ta' implimentaturi li huma awtoritajiet tal-infurzar tal-liġi. Din is-sistema hi kruċjali wkoll biex ikun żgurat li r-riskji possibbli li jirriżultaw mis-sistemi tal-IA li jkomplu “jitgħallmu” wara li jiġu introdotti fis-suq jew jitqiegħdu fis-servizz ikunu jistgħu jiġu indirizzati b'mod aktar effiċjenti u fil-ħin. F'dan il-kuntest, jenħtieġ li l-fornituri jkunu wkoll meħtieġa jkollhom fis-seħħ sistema biex jirrapportaw lura lill-awtoritajiet rilevanti kwalunkwe inċident serju li jirriżulta mill-użu tas-sistemi tal-IA tagħhom, jiġifieri inċident jew funzjonament ħażin li jwassal għal mewt jew ħsara serja għas-saħħa, tfixkil serju u irriversibbli tal-ġestjoni u tal-operat ta' infrastruttura kritika, ksur tal-obbligi skont liġijiet tal-Unjoni maħsuba biex jipproteġu d-drittijiet fundamentali jew dannu serju lill-proprjetà jew lill-ambjent.
(156)
С оглед да се гарантира подходящо и ефективно прилагане на изискванията и задълженията, установени с настоящия регламент, който е част от законодателството на Съюза за хармонизация, системата за надзор на пазара и съответствие на продуктите, установена с Регламент (ЕС) 2019/1020, следва да се прилага в своята цялост. Органите за надзор на пазара, определени съгласно настоящия регламент, следва да разполагат с всички правомощия за осигуряване на спазването, установени съгласно настоящия регламент и Регламент (ЕС) 2019/1020, и следва да упражняват своите правомощия и да изпълняват своите задължения независимо, безпристрастно и непредубедено. Въпреки че за по-голямата част от системите с ИИ не се прилагат специални изисквания и задължения съгласно настоящия регламент, органите за надзор на пазара могат да предприемат мерки по отношение на всички системи с ИИ, когато те представляват риск в съответствие с настоящия регламент. Поради особеното естество на институциите, агенциите и органите на Съюза, попадащи в обхвата на настоящия регламент, е целесъобразно Европейският надзорен орган по защита на данните да бъде определен за компетентен орган за надзор на пазара по отношение на тях. Това не следва да засяга определянето на национални компетентни органи от държавите членки. Дейностите по надзор на пазара не следва да засягат способността на поднадзорните субекти да изпълняват задачите си по независим начин, когато тази независимост се изисква от правото на Съюза.
(156)
Sabiex ikun żgurat infurzar xieraq u effettiv tar-rekwiżiti u l-obbligi stipulati b'dan ir-Regolament, li huwa leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni, jenħtieġ li s-sistema tas-sorveljanza tas-suq u tal-konformità tal-prodotti stabbilita bir-Regolament (UE) 2019/1020 tapplika fl-intier tagħha. Jenħtieġ li l-awtoritajiet tas-sorveljanza tas-suq deżinjati skont dan ir-Regolament ikollhom is-setgħat kollha ta' infurzar stabbiliti f'dan ir-Regolament u fir-Regolament (UE) 2019/1020 u jenħtieġ li jeżerċitaw is-setgħat tagħhom u jwettqu dmirijiethom b'mod indipendenti, imparzjali u mingħajr preġudizzju. Minkejja li l-maġġoranza tas-sistemi tal-IA mhumiex soġġetti għal rekwiżiti u obbligi speċifiċi skont dan ir-Regolament, l-awtoritajiet tas-sorveljanza tas-suq jistgħu jieħdu miżuri fir-rigward tas-sistemi kollha tal-IA meta jippreżentaw riskju f'konformità ma' dan ir-Regolament. Minħabba n-natura speċifika tal-istituzzjonijiet, l-aġenziji u l-korpi tal-Unjoni li jaqgħu fil-kamp ta' applikazzjoni ta' dan ir-Regolament, huwa xieraq li l-Kontrollur Ewropew għall-Protezzjoni tad-Data jiġi deżinjat bħala awtorità kompetenti tas-sorveljanza tas-suq għalihom. Jenħtieġ li dan ikun mingħajr preġudizzju għad-deżinjazzjoni tal-awtoritajiet nazzjonali kompetenti mill-Istati Membri. Jenħtieġ li l-attivitajiet ta' sorveljanza tas-suq ma jaffettwawx il-kapaċità tal-entitajiet taħt superviżjoni li jwettqu l-kompiti tagħhom b'mod indipendenti, meta tali indipendenza tkun meħtieġa mil-liġi tal-Unjoni.
(157)
Настоящият регламент не засяга компетентността, задачите, правомощията и независимостта на съответните национални публични органи или структури, които упражняват надзор върху прилагането на правото на Съюза за защита на основните права, включително органите по въпросите на равенството и органите за защита на данните. Когато това е необходимо за упражняването на техните правомощия, тези национални публични органи или структури следва също така да имат достъп до всяка документация, изготвена съгласно настоящия регламент. Следва да се установи специална предпазна процедура, за да се гарантира адекватното и навременно осигуряване на спазването по отношение на системите с ИИ, които представляват риск за здравето, безопасността и основните права. Процедурата за такива системи с ИИ, представляващи риск, следва да се прилага за високорисковите системи с ИИ, представляващи риск, забранените системи, които са били пуснати на пазара, пуснати в действие или използвани в нарушение на определените в настоящия регламент забранени практики, и системите с ИИ, които са били предоставени в нарушение на установените в настоящия регламент изисквания за прозрачност и представляващи риск.
(157)
Dan ir-Regolament huwa mingħajr preġudizzju għall-kompetenzi, il-kompiti, is-setgħat u l-indipendenza tal-awtoritajiet jew il-korpi pubbliċi nazzjonali rilevanti li jissorveljaw l-applikazzjoni tal-liġi tal-Unjoni li tipproteġi d-drittijiet fundamentali, inkluż il-korpi tal-ugwaljanza u l-awtoritajiet tal-protezzjoni tad-data. Fejn meħtieġ għall-mandat tagħhom, jenħtieġ li dawk l-awtoritajiet jew il-korpi pubbliċi jkollhom aċċess ukoll għal kwalunkwe dokumentazzjoni maħluqa skont dan ir-Regolament. Jenħtieġ li tiġi stabbilita proċedura ta' salvagwardja speċifika biex jiġi żgurat infurzar adegwat u f'waqtu kontra s-sistemi tal-IA li jippreżentaw riskju għas-saħħa, is-sikurezza u d-drittijiet fundamentali. Jenħtieġ li l-proċedura għal tali sistemi tal-IA li jippreżentaw riskju tiġi applikata għas-sistemi tal-IA b'riskju għoli li jippreżentaw riskju, għas-sistemi pprojbiti li ġew introdotti fis-suq, tqiegħdu fis-servizz jew ntużaw bi ksur tal-prattiki pprojbiti stabbiliti f'dan ir-Regolament u għas-sistemi tal-IA li saru disponibbli bi ksur tar-rekwiżiti ta' trasparenza stabbiliti f'dan ir-Regolament u li jippreżentaw riskju.
(158)
Правото на Съюза в областта на финансовите услуги включва правила и изисквания за вътрешно управление и управление на риска, които са приложими за регулираните финансови институции в процеса на предоставяне на тези услуги, включително когато те използват системи с ИИ. За да се гарантира съгласувано изпълнение и прилагане на задълженията по настоящия регламент и на съответните правила и изисквания съгласно правните актове на Съюза в областта на финансовите услуги, органите, компетентни за надзора и прилагането съгласно тези правни актове, и по-специално компетентните органи по смисъла на Регламент (ЕС) 575/2013 на Европейския парламент и на Съвета (46) и директиви 2008/48/ЕО (47), 2009/138/ЕО (48), 2013/36/ЕС (49), 2014/17/ЕС (50) и (ЕС) 2016/97 (51) на Европейския парламент и на Съвета, следва да бъдат определени, в рамките на съответната им компетентност, за компетентни органи за целите на надзора на прилагането на настоящия регламент, включително за дейностите по надзор на пазара по отношение на системите с ИИ, предоставяни или използвани от регулирани и поднадзорни финансови институции, освен ако държавите членки не решат да определят друг орган, който да изпълнява тези задачи по надзор на пазара. Тези компетентни органи следва да разполагат с всички правомощия съгласно настоящия регламент и Регламент (ЕС) 2019/1020 за налагане на изпълнението на изискванията и задълженията по настоящия регламент, включително правомощия за извършване на дейности по надзор след пускане на пазара, които могат да бъдат включени, когато е целесъобразно, в техните налични надзорни механизми и процедури съгласно съответното право на Съюза в областта на финансовите услуги. Целесъобразно е да се предвиди, че когато действат като органи за надзор на пазара съгласно настоящия регламент, националните органи, отговорни за надзора над кредитните институции, регулирани съгласно Директива 2013/36/ЕС, които участват в единния надзорен механизъм, създаден с Регламент (ЕС) № 1024/2013 на Съвета (52), следва незабавно да докладват на Европейската централна банка всяка информация, установена в хода на дейностите им по надзор на пазара, която може да представлява потенциален интерес във връзка със задачите на Европейската централна банка по упражняване на пруденциален надзор, определени в посочения регламент. За да се подобри още повече съгласуваността между настоящия регламент и правилата, приложими за кредитните институции, регулирани съгласно Директива 2013/36/ЕС, е целесъобразно също така някои от процедурните задължения на доставчиците във връзка с управлението на риска, мониторинга след пускането на пазара и документирането да бъдат включени в съществуващите задължения и процедури съгласно Директива 2013/36/ЕС. За да се избегне припокриване, следва да се предвидят и ограничени дерогации във връзка със системата за управление на качеството на доставчиците и задължението за мониторинг, наложено на внедрителите на високорискови системи с ИИ, доколкото те се прилагат за кредитни институции, регулирани с Директива 2013/36/ЕС. Същият режим следва да се прилага за застрахователните и презастрахователните предприятия и застрахователните холдинги съгласно Директива 2009/138/ЕО и за застрахователните посредници съгласно Директива (ЕС) 2016/97, както и за други видове финансови институции, за които се прилагат изискванията по отношение на вътрешното управление, механизмите или процесите, установени съгласно съответното право на Съюза в областта на финансовите услуги, с цел да се гарантира последователност и равно третиране във финансовия сектор.
(158)
Il-liġi tal-Unjoni dwar is-servizzi finanzjarji tinkludi regoli u rekwiżiti interni dwar il-governanza u l-ġestjoni tar-riskju li huma applikabbli għall-istituzzjonijiet finanzjarji regolati waqt il-forniment ta' dawk is-servizzi, inkluż meta jużaw is-sistemi tal-IA. Sabiex ikunu żgurati applikazzjoni u infurzar koerenti tal-obbligi skont dan ir-Regolament u tar-regoli u r-rekwiżiti rilevanti tal-atti legali tal-Unjoni dwar is-servizzi finanzjarji, jenħtieġ li l-awtoritajiet kompetenti għas-superviżjoni u l-infurzar ta' dawk l-atti legali, b'mod partikolari l-awtoritajiet kompetenti kif definiti fir-Regolament (UE) Nru 575/2013 tal-Parlament Ewropew u tal-Kunsill (46) u d-Direttivi 2008/48/KE (47), 2009/138/KE (48), 2013/36/UE (49), 2014/17/UE (50) u (UE) 2016/97 (51) tal-Parlament Ewropew u tal-Kunsill, jiġu ddeżinjati, fil-kompetenzi rispettivi tagħhom, bħala awtoritajiet kompetenti għall-fini tas-superviżjoni tal-implimentazzjoni ta' dan ir-Regolament, inkluż għal attivitajiet ta' sorveljanza tas-suq, fir-rigward tas-sistemi tal-IA pprovduti jew użati minn istituzzjonijiet finanzjarji regolati u sorveljati sakemm l-Istati Membri ma jiddeċidux li jiddeżinjaw awtorità oħra biex twettaq dawn il-kompiti ta' sorveljanza tas-suq. Jenħtieġ li dawk l-awtoritajiet kompetenti jkollhom is-setgħat kollha skont dan ir-Regolament u r-Regolament (UE) 2019/1020 biex jinfurzaw ir-rekwiżiti u l-obbligi ta' dan ir-Regolament, inkluż is-setgħat li jwettqu l-attivitajiet ta' sorveljanza tas-suq ex post li jistgħu jiġu integrati, kif xieraq, fil-mekkaniżmi u l-proċeduri superviżorji eżistenti tagħhom skont il-liġi rilevanti tal-Unjoni dwar is-servizzi finanzjarji. Huwa xieraq li jiġi previst li jenħtieġ li, meta jaġixxu bħala awtoritajiet tas-sorveljanza tas-suq skont dan ir-Regolament, l-awtoritajiet nazzjonali responsabbli għas-superviżjoni tal-istituzzjonijiet ta' kreditu regolati skont id-Direttiva 2013/36/UE, li jkunu qed jipparteċipaw fil-Mekkaniżmu Superviżorju Uniku stabbilit bir-Regolament tal-Kunsill (UE) Nru 1024/2013 (52), jirrappurtaw, mingħajr dewmien, lill-Bank Ċentrali Ewropew kwalunkwe informazzjoni identifikata matul l-attivitajiet tagħhom ta' sorveljanza tas-suq li tista' tkun ta' interess potenzjali għall-kompiti superviżorji prudenzjali tal-Bank Ċentrali Ewropew kif speċifikat f'dak ir-Regolament. Biex tkompli tissaħħaħ il-konsistenza bejn dan ir-Regolament u r-regoli applikabbli għall-istituzzjonijiet ta' kreditu rregolati skont id-Direttiva 2013/36/UE, jixraq ukoll li xi wħud mill-obbligi proċedurali tal-fornituri fir-rigward tal-ġestjoni tar-riskju, il-monitoraġġ ta' wara t-tqegħid fis-suq u tad-dokumentazzjoni jiġu integrati fl-obbligi u l-proċeduri eżistenti skont id-Direttiva 2013/36/UE. Sabiex ikun evitat it-trikkib, jenħtieġ li jiġu previsti wkoll derogi limitati fir-rigward tas-sistema ta' ġestjoni tal-kwalità tal-fornituri u l-obbligu ta' monitoraġġ impost fuq l-implimentaturi ta' sistemi tal-IA b'riskju għoli sa fejn dawn ikunu japplikaw għall-istituzzjonijiet ta' kreditu regolati bid-Direttiva 2013/36/UE. Jenħtieġ li l-istess reġim japplika għall-impriżi tal-assigurazzjoni u tar-riassigurazzjoni u l-kumpaniji azzjonarji tal-assigurazzjoni skont id-Direttiva 2009/138/KE u l-intermedjarji tal-assigurazzjoni skont id-Direttiva (UE) 2016/97 u tipi oħra ta' istituzzjonijiet finanzjarji soġġetti għal rekwiżiti rigward il-governanza interna, l-arranġamenti jew il-proċessi stabbiliti skont il-liġi rilevanti tal-Unjoni dwar is-servizzi finanzjarji biex jiġu żgurati l-konsistenza u t-trattament ugwali fis-settur finanzjarju.
(159)
Всеки орган за надзор на пазара на високорисковите системи с ИИ в областта на биометричните данни, чийто списък се съдържа в приложение към настоящия регламент — доколкото системите се използват за правоохранителни цели или за целите на миграцията, убежището, управлението на граничния контрол или правораздаването и демократичните процеси — следва да разполага с ефективни правомощия за разследване и с коригиращи правомощия, включително най-малко правомощието да получава достъп до всички лични данни, които се обработват, и до цялата информация, необходима за изпълнението на неговите задачи. Органите за надзор на пазара следва да могат да упражняват правомощията си, като действат напълно независимо. Ограниченията на достъпа им до чувствителни оперативни данни съгласно настоящия регламент не следва да засягат правомощията, предоставени им с Директива (ЕС) 2016/680. Случаите, в които се изключва разкриването на данни пред националните органи за защита на данните съгласно настоящия регламент, не следва да засягат настоящите или бъдещите правомощия на тези органи извън обхвата на настоящия регламент.
(159)
Jenħtieġ li kull awtorità tas-sorveljanza tas-suq għal sistemi tal-IA b'riskju għoli fil-qasam tal-bijometrika, kif elenkati f'anness ta' dan ir-Regolament sakemm dawk is-sistemi jintużaw għall-finijiet tal-infurzar tal-liġi, il-migrazzjoni, l-ażil u l-ġestjoni tal-kontroll fil-fruntieri, jew tal-amministrazzjoni tal-ġustizzja u tal-proċessi demokratiċi, ikollha setgħat investigattivi u korrettivi effettivi, inkluż mill-inqas is-setgħa li tikseb aċċess għad-data personali kollha li tkun qed tiġi pproċessata u għall-informazzjoni kollha meħtieġa għat-twettiq tal-kompiti tagħha. Jenħtieġ li l-awtoritajiet tas-sorveljanza tas-suq ikunu jistgħu jeżerċitaw is-setgħat tagħhom billi jaġixxu b'indipendenza sħiħa. Jenħtieġ li kwalunkwe limitazzjoni tal-aċċess tagħhom għal data operazzjonali sensittiva skont dan ir-Regolament tkun mingħajr preġudizzju għas-setgħat mogħtija lilhom mid-Direttiva (UE) 2016/680. Jenħtieġ li l-ebda esklużjoni fuq id-divulgazzjoni tad-data lill-awtoritajiet tal-protezzjoni tad-data nazzjonali skont dan ir-Regolament ma taffettwa s-setgħat attwali jew futuri ta' dawk l-awtoritajiet lil hinn mill-kamp ta' applikazzjoni ta' dan ir-Regolament.
(160)
Органите за надзор на пазара и Комисията следва да могат да предлагат съвместни дейности, включително съвместни разследвания, които да се провеждат от органите за надзор на пазара или от органите за надзор на пазара съвместно с Комисията, и да имат за цел насърчаване на постигането на съответствие, установяване на несъответствие, повишаване на осведомеността и осигуряване на насоки във връзка с настоящия регламент по отношение на конкретни категории високорискови системи с ИИ, за които е установено, че представляват сериозен риск в две или повече държави членки. Съвместни дейности за насърчаване на постигането на съответствие следва да се извършват съгласно член 9 от Регламент (ЕС) 2019/1020. Службата по ИИ следва да предоставя координационна подкрепа за съвместни разследвания.
(160)
Jenħtieġ li l-awtoritajiet tas-sorveljanza tas-suq u l-Kummissjoni jkunu jistgħu jipproponu attivitajiet konġunti, inkluż investigazzjonijiet konġunti, li għandhom jitwettqu mill-awtoritajiet tas-sorveljanza tas-suq jew mill-awtoritajiet tas-sorveljanza tas-suq b'mod konġunt mal-Kummissjoni, li jkollhom l-għan li jippromwovu l-konformità, jidentifikaw in-nonkonformità, iqajmu kuxjenza u jipprovdu gwida fir-rigward ta' dan ir-Regolament b'rabta ma' kategoriji speċifiċi ta' sistemi tal-IA b'riskju għoli li jinstabu li jippreżentaw riskju serju f'żewġ Stati Membri jew aktar. Jenħtieġ li l-attivitajiet konġunti għall-promozzjoni tal-konformità jitwettqu f'konformità mal-Artikolu 9 tar-Regolament (UE)2019/1020. Jenħtieġ li l-Uffiċċju għall-IA jipprovdi appoġġ ta' koordinazzjoni għall-investigazzjonijiet konġunti.
(161)
Необходимо е да се изяснят отговорностите и компетентността на равнището на Съюза и на национално равнище по отношение на системите с ИИ, изградени въз основа на модели на ИИ с общо предназначение. За да се избегне припокриването на компетентност, когато дадена система с ИИ се основава на модел на ИИ с общо предназначение и моделът и системата се предоставят от един и същи доставчик, надзорът следва да се извършва на равнището на Съюза чрез Службата по ИИ, която следва да разполага с правомощията на орган за надзор на пазара по смисъла на Регламент (ЕС) 2019/1020 за тази цел. Във всички останали случаи националните органи за надзор на пазара продължават да носят отговорност за надзора на системите с ИИ. За системите с ИИ с общо предназначение обаче, които могат да се използват пряко от внедрителите с най-малко едно предназначение, класифицирано като високорисково, органите за надзор на пазара следва да си сътрудничат със Службата по ИИ, за да извършат оценки на съответствието, и да информират съответно Съвета по ИИ и другите органи за надзор на пазара. Освен това органите за надзор на пазара следва да могат да искат съдействие от Службата по ИИ, когато органът за надзор на пазара не е в състояние да приключи дадено разследване на високорискова система с ИИ поради невъзможност да получи достъп до определена информация, свързана с модела на ИИ с общо предназначение, въз основа на който е изградена високорисковата система с ИИ. В такива случаи следва да се прилага mutatis mutandis процедурата за трансгранична взаимопомощ, предвидена в глава VI от Регламент (ЕС) 2019/1020.
(161)
Jenħtieġ li jiġu ċċarati r-responsabbiltajiet u l-kompetenzi fil-livell tal-Unjoni u dak nazzjonali fir-rigward tas-sistemi tal-IA li huma mibnija fuq mudelli tal-IA bi skop ġenerali. Biex jiġu evitati kompetenzi duplikati, meta sistema tal-IA tkun ibbażata fuq mudell tal-IA bi skop ġenerali u l-mudell u s-sistema jiġu pprovduti mill-istess fornitur, jenħtieġ li s-superviżjoni ssir fil-livell tal-Unjoni permezz tal-Uffiċċju għall-IA, li għandu jkollu s-setgħat ta' awtorità tas-sorveljanza tas-suq skont it-tifsira tar-Regolament (UE) 2019/1020 għal dan il-għan. Fil-każijiet l-oħra kollha, l-awtoritajiet tas-sorveljanza tas-suq nazzjonali jibqgħu responsabbli għas-superviżjoni tas-sistemi tal-IA. Madankollu, għal sistemi tal-IA bi skop ġenerali li jistgħu jintużaw direttament mill-implimentaturi għal mill-inqas skop wieħed li huwa kklassifikat bħala b'riskju għoli, jenħtieġ li l-awtoritajiet tas-sorveljanza tas-suq jikkooperaw mal-Uffiċċju għall-IA biex iwettqu evalwazzjonijiet tal-konformità u jinfurmaw lill-Bord u lill-awtoritajiet tas-sorveljanza tas-suq l-oħra skont il-każ. Barra minn hekk, meta l-awtorità tas-sorveljanza tas-suq ma tkunx tista' tikkonkludi investigazzjoni dwar sistema tal-IA b'riskju għoli minħabba li ma jkollhiex aċċess għal ċerta informazzjoni relatata mal-mudell tal-IA bi skop ġenerali li fuqu tkun mibnija s-sistema tal-IA b'riskju għoli, jenħtieġ li l-awtoritajiet tas-sorveljanza tas-suq ikunu jistgħu jitolbu għajnuna mill-Uffiċċju għall-IA. F'każijiet bħal dawn, jenħtieġ li tapplika mutatis mutandis il-proċedura rigward l-assistenza reċiproka f'każijiet transfruntieri fil-Kapitolu VI tar-Regolament (UE) 2019/1020.
(162)
За да се използват по най-добрия начин централизираният експертен опит на Съюза и полезните взаимодействия на равнището на Съюза, правомощията за надзор и осигуряване на спазване по отношение на задълженията на доставчиците на модели на ИИ с общо предназначение следва да бъдат от компетентността на Комисията. Службата по ИИ следва да може да извършва всички необходими действия за мониторинг на ефективното прилагане на настоящия регламент по отношение на моделите на ИИ с общо предназначение. Тя следва да може да разследва евентуални нарушения на правилата относно доставчиците на модели на ИИ с общо предназначение както по собствена инициатива, на основание на резултатите от своите дейности по мониторинг, така и по искане на органите за надзор на пазара, в съответствие с условията, установени в настоящия регламент. За да се допринесе за извършването на ефективен мониторинг от страна на Службата по ИИ, следва да се предвиди възможността доставчиците надолу по веригата да подават жалби във връзка с евентуални нарушения на правилата относно доставчиците на модели на ИИ с общо предназначение и системи с ИИ с общо предназначение.
(162)
Biex isir l-aħjar użu mill-kompetenza esperta u s-sinerġiji ċentralizzati tal-Unjoni fil-livell tal-Unjoni, jenħtieġ li s-setgħat ta' superviżjoni u infurzar tal-obbligi fuq il-fornituri ta' mudelli tal-IA bi skop ġenerali jkunu kompetenza tal-Kummissjoni. Jenħtieġ li l-Uffiċċju għall-IA jkun jista' jwettaq l-azzjonijiet kollha meħtieġa biex jissorvelja l-implimentazzjoni effettiva ta' dan ir-Regolament fir-rigward tal-mudelli tal-IA bi skop ġenerali. Jenħtieġ li jkun jista' jinvestiga ksur possibbli tar-regoli dwar il-fornituri ta' mudelli tal-IA bi skop ġenerali kemm fuq inizjattiva tiegħu stess, b'segwitu għar-riżultati tal-attivitajiet ta' monitoraġġ tiegħu, kif ukoll fuq talba mill-awtoritajiet tas-sorveljanza tas-suq f'konformità mal-kundizzjonijiet stipulati f'dan ir-Regolament. Jenħtieġ li, biex tappoġġa l-monitoraġġ effettiv tal-Uffiċċju għall-IA, tipprevedi l-possibbiltà li l-fornituri downstream iressqu lmenti dwar ksur possibbli tar-regoli dwar il-fornituri ta' sistemi tal-IA u ta’ mudelli tal-IA bi skop ġenerali.
(163)
С цел допълване на системите за управление на моделите на ИИ с общо предназначение, експертната група следва да подпомага дейностите по мониторинг на Службата по ИИ и да може в определени случаи да отправя приоритетни сигнали до Службата по ИИ, които да водят до последващи действия, например разследвания. Такъв следва да бъде случаят, когато експертната група има основания да предполага, че даден модел на ИИ с общо предназначение представлява конкретен и установим риск на равнището на Съюза. Освен това такъв следва да бъде случаят, когато експертната група има основания да предполага, че даден модел на ИИ с общо предназначение отговаря на критериите, които биха довели до класифицирането му като модел на ИИ с общо предназначение, пораждащ системен риск. За да може експертната група да разполага с информацията, необходима за изпълнението на тези задачи, следва да има механизъм, чрез който експертната група да може да отправи искане към Комисията с цел да бъде изискана документация или информация от даден доставчик.
(163)
Bil-ħsieb li jikkomplementa s-sistemi ta' governanza għall-mudelli tal-IA bi skop ġenerali, jenħtieġ li l-bord jappoġġa l-attivitajiet ta' monitoraġġ tal-Uffiċċju għall-IA u jista', f'ċerti każijiet, jipprovdi allerti kwalifikati lill-Uffiċċju għall-IA li jiskattaw segwitu bħal investigazzjonijiet. Dan jenħtieġ li jkun il-każ meta l-bord ikollu raġuni biex jissuspetta li mudell tal-IA bi skop ġenerali joħloq riskju konkret u identifikabbli fil-livell tal-Unjoni. Barra minn hekk, dan jenħtieġ li jkun il-każ meta l-bord ikollu raġuni biex jissuspetta li mudell tal-IA bi skop ġenerali jissodisfa l-kriterji li jwasslu għal klassifikazzjoni bħala mudell tal-IA bi skop ġenerali b'riskju sistemiku. Sabiex il-bord ikollu l-informazzjoni meħtieġa għat-twettiq ta' dawk il-kompiti, jenħtieġ li jkun hemm mekkaniżmu li permezz tiegħu l-bord ikun jista' jitlob lill-Kummissjoni titlob dokumentazzjoni jew informazzjoni mingħand fornitur.
(164)
Службата по ИИ следва да може да предприема необходимите действия за мониторинг на ефективното изпълнение и спазване на установените в настоящия регламент задължения на доставчиците на модели на ИИ с общо предназначение. Службата за ИИ следва да може да разследва евентуални нарушения в съответствие с правомощията, предвидени в настоящия регламент, включително като изисква документация и информация, като извършва оценки, както и като изисква предприемането на мерки от доставчиците на модели на ИИ с общо предназначение. При извършването на оценките, с цел да използва независим експертен опит, Службата по ИИ следва да може да привлича независими експерти, които да извършват оценките от нейно име. Спазването на задълженията следва да бъде осигурено, наред с другото, чрез искания за предприемане на подходящи мерки, включително мерки за ограничаване на риска в случай на установени системни рискове, както и чрез ограничаване на предоставянето на пазара на даден модел, неговото изтегляне или изземване. Като гаранция в случай на необходимост, освен процесуалните права, предвидени в настоящия регламент, доставчиците на модели на ИИ с общо предназначение следва да разполагат с процесуалните права съгласно член 18 от Регламент (ЕС) 2019/1020, които следва да се прилагат, mutatis mutandis, без да се засягат специалните процесуални права, предвидени в настоящия регламент.
(164)
Jenħtieġ li l-Uffiċċju għall-IA jkun jista' jieħu l-azzjonijiet meħtieġa biex jimmonitorja l-implimentazzjoni effettiva u l-konformità mal-obbligi għall-fornituri ta' mudelli tal-IA bi skop ġenerali stabbiliti f'dan ir-Regolament. Jenħtieġ li l-Uffiċċju għall-IA jkun jista' jinvestiga ksur possibbli f'konformità mas-setgħat previsti f'dan ir-Regolament, inkluż billi jitlob dokumentazzjoni u informazzjoni, billi jwettaq evalwazzjonijiet, kif ukoll billi jitlob miżuri mill-fornituri ta' mudelli tal-IA bi skop ġenerali. Meta jwettaq l-evalwazzjonijiet, sabiex isir użu minn kompetenza esperta indipendenti, jenħtieġ li l-Uffiċċju għall-IA jkun jista' jinvolvi esperti indipendenti biex iwettqu l-evalwazzjonijiet f'ismu. Jenħtieġ li l-konformità mal-obbligi tkun infurzabbli, fost l-oħrajn, permezz ta' talbiet biex jittieħdu miżuri xierqa, inkluż miżuri ta' mitigazzjoni tar-riskju fil-każ ta' riskji sistemiċi identifikati kif ukoll ir-restrizzjoni tad-disponibbiltà fis-suq, l-irtirar jew is-sejħa lura tal-mudell. Bħala salvagwardja, fejn meħtieġ lil hinn mid-drittijiet proċedurali previsti f'dan ir-Regolament, jenħtieġ li l-fornituri ta' mudelli tal-IA bi skop ġenerali jkollhom id-drittijiet proċedurali previsti fl-Artikolu 18 tar-Regolament (UE) 2019/1020, li għandhom japplikaw mutatis mutandis, mingħajr preġudizzju għal drittijiet proċedurali aktar speċifiċi previsti minn dan ir-Regolament.
(165)
Разработването на системи с ИИ, различни от високорискови системи с ИИ, в съответствие с изискванията на настоящия регламент може да доведе до по-широко внедряване на етичен и надежден ИИ в Съюза. Доставчиците на системи с ИИ, които не са високорискови, следва да бъдат насърчавани да изготвят кодекси за поведение, включително свързани с тях управленски механизми, предназначени да поощряват прилагането на доброволна основа на някои или на всички задължителни изисквания, приложими за високорисковите системи с ИИ и адаптирани с оглед на предназначението на системите и по-ниския риск, като вземат предвид наличните технически решения и най-добрите практики в сектора, например карти за модели и данни. Доставчиците и, когато е целесъобразно, внедрителите на всички системи с ИИ — високорискови или не, както и на всички модели с ИИ, следва също да бъдат насърчавани да прилагат на доброволна основа допълнителни изисквания, свързани например с елементи на Насоките на Съюза относно етичните аспекти за надежден ИИ, екологичната устойчивост, мерките относно грамотността в областта на ИИ, приобщаващия характер и многообразието при проектирането и разработването на системи с ИИ, включително повишеното внимание към уязвимите лица и достъпността за хора с увреждания, участието на заинтересованите страни чрез привличане, когато е целесъобразно, на заинтересовани страни като професионални организации и организации на гражданското общество, академични среди, научноизследователски организации, синдикати и организации за защита на потребителите, в проектирането и разработването на системи с ИИ, както и многообразието на екипите от разработчици, включително баланса между половете. За да се гарантира, че незадължителните кодекси за поведение са ефективни, те следва да се основават на ясни цели и ключови показатели за ефективност, за да може да бъде оценено постигането на тези цели. Те следва също така да бъдат разработени по приобщаващ начин, когато е целесъобразно - с участието на съответните заинтересовани страни, като професионални организации и организации на гражданското общество, академични среди, научноизследователски организации, синдикати и организации за защита на потребителите. Комисията може да разработва инициативи, включително от секторен характер, за да улесни преодоляването на техническите пречки пред трансграничния обмен на данни за разработването на ИИ, включително свързаните с инфраструктурата за достъп до данни и семантичната и техническата оперативна съвместимост на различните видове данни.
(165)
L-iżvilupp ta' sistemi tal-IA minbarra sistemi tal-IA b'riskju għoli f'konformità mar-rekwiżiti ta' dan ir-Regolament, jista' jwassal għal użu akbar ta' IA etika u affidabbli fl-Unjoni. Jenħtieġ li l-fornituri ta' sistemi tal-IA li mhumiex b'riskju għoli jiġu mħeġġa joħolqu kodiċijiet tal-kondotta, inkluż mekkaniżmi ta' governanza relatati, maħsuba biex irawmu l-applikazzjoni volontarja ta' xi wħud mir-rekwiżiti obbligatorji jew tar-rekwiżiti kollha applikabbli għas-sistemi tal-IA b'riskju għoli, adattati fid-dawl tal-għan maħsub tas-sistemi u r-riskju aktar baxx involut u filwaqt li jitqiesu s-soluzzjonijiet tekniċi disponibbli u l-aħjar prattiki tal-industrija bħal kards mudell u kards tad-data. Jenħtieġ li l-fornituri u, kif xieraq, l-implimentaturi tas-sistemi kollha tal-IA, b'riskju għoli jew le, u l-mudelli tal-IA jiġu wkoll mħeġġa japplikaw fuq bażi volontarja rekwiżiti addizzjonali relatati, pereżempju, mal-elementi tal-Linji Gwida tal-Unjoni dwar l-Etika għal IA Affidabbli, sostenibbiltà ambjentali, miżuri ta' litteriżmu fl-IA, disinn u żvilupp inklużivi u diversi tas-sistemi tal-IA, inkluż l-attenzjoni għall-persuni vulnerabbli u l-aċċessibbiltà għall-persuni b'diżabbiltà, il-parteċipazzjoni tal-partijiet ikkonċernati bl-involviment kif xieraq, tal-partijiet ikkonċernati rilevanti bħall-organizzazzjonijiet tan-negozju u tas-soċjetà ċivili, id-dinja akkademika, l-organizzazzjonijiet tar-riċerka, it-trade unions u l-organizzazzjonijiet tal-protezzjoni tal-konsumatur fid-disinn u l-iżvilupp tas-sistemi tal-IA, u d-diversità tat-timijiet tal-iżvilupp, inkluż il-bilanċ bejn il-ġeneri. Sabiex jiġi żgurat li l-kodiċijiet ta' kondotta volontarji jkunu effettivi, jenħtieġ li jkunu bbażati fuq objettivi ċari u indikaturi ewlenin tal-prestazzjoni biex titkejjel il-kisba ta' dawk l-objettivi. Jenħtieġ li dawn jiġu żviluppati wkoll b'mod inklużiv, kif xieraq, bl-involviment tal-partijiet ikkonċernati rilevanti bħall-organizzazzjonijiet tan-negozju u tas-soċjetà ċivili, id-dinja akkademika, l-organizzazzjonijiet tar-riċerka, it-trade unions u l-organizzazzjonijiet tal-protezzjoni tal-konsumatur. Il-Kummissjoni tista' tiżviluppa inizjattivi, inkluż ta' natura settorjali, biex tiffaċilita t-tnaqqis tax-xkiel tekniku li jfixkel l-iskambju transfruntier tad-data għall-iżvilupp tal-IA, inkluż dwar l-infrastruttura tal-aċċess għad-data, u l-interoperabbiltà semantika u teknika ta' tipi differenti ta' data.
(166)
Важно е системите с ИИ, свързани с продукти, които не са високорискови в съответствие с настоящия регламент и поради това не е задължително да отговарят на изискванията, установени за високорисковите системи с ИИ, да бъдат въпреки това безопасни при пускането им на пазара или пускането им в действие. За да се допринесе за постигането на тази цел, допълнителна гаранция ще представлява възможността за прилагане на Регламент (ЕС) 2023/988 на Европейския парламент и на Съвета (53).
(166)
Hu importanti li s-sistemi tal-IA relatati ma' prodotti li mhumiex b'riskju għoli f'konformità ma' dan ir-Regolament, u għalhekk ma għandhomx għalfejn jikkonformaw mar-rekwiżiti stipulati għal sistemi tal-IA b'riskju għoli, xorta waħda jkunu sikuri meta jiġu introdotti fis-suq jew meta jitqiegħdu fis-servizz. B'kontribut għal dan l-objettiv, ir-Regolament (UE) 2023/988 tal-Parlament Ewropew u tal-Kunsill (53) japplika bħala xibka ta' sikurezza.
(167)
За да се гарантира надеждно и конструктивно сътрудничество между компетентните органи на равнището на Съюза и на национално равнище, всички страни, участващи в прилагането на настоящия регламент, следва да зачитат поверителността на информацията и данните, получавани при изпълнението на техните задачи, в съответствие с правото на Съюза и националното право. Те следва да изпълняват задачите и дейностите си по такъв начин, че да закрилят по-специално правата върху интелектуалната собственост, поверителната търговска информация и търговските тайни, ефективното прилагане на настоящия регламент, обществените интереси и националната сигурност, независимостта на наказателните или административните производства и неприкосновеността на класифицираната информация.
(167)
Sabiex tkun żgurata kooperazzjoni fiduċjuża u kostruttiva tal-awtoritajiet kompetenti fil-livell tal-Unjoni u dak nazzjonali, jenħtieġ li l-partijiet kollha involuti fl-applikazzjoni ta' dan ir-Regolament jirrispettaw il-kunfidenzjalità tal-informazzjoni u tad-data miksuba fit-twettiq tal-kompiti tagħhom, f'konformità mal-liġi tal-Unjoni jew il-liġi nazzjonali. Jenħtieġ li jwettqu l-kompiti u l-attivitajiet tagħhom b'tali mod li jipproteġu, b'mod partikolari, id-drittijiet tal-proprjetà intellettwali, l-informazzjoni kummerċjali kunfidenzjali u s-sigrieti kummerċjali, l-implimentazzjoni effettiva ta' dan ir-Regolament, l-interessi tas-sigurtà pubblika u nazzjonali, l-integrità tal-proċedimenti kriminali u amministrattivi, u l-integrità tal-informazzjoni klassifikata.
(168)
Спазването на настоящия регламент следва да може да се гарантира чрез налагането на санкции и други мерки за изпълнение. Държавите членки следва да предприемат всички необходими мерки, за да гарантират прилагането на разпоредбите на настоящия регламент, включително чрез установяването на ефективни, пропорционални и възпиращи санкции за тяхното нарушаване, за да осигурят зачитането на принципа non bis in idem. С цел подсилване и хармонизиране на административните санкции за нарушения на настоящия регламент, следва да се установят горните граници за определяне на административните глоби и имуществени санкции за някои конкретни нарушения. При определянето на размера на глобите и имуществените санкции държавите членки следва във всеки отделен случай да вземат предвид всички обстоятелства на конкретния случай, като надлежно отчитат по-специално естеството, тежестта и продължителността на нарушението и неговите последици, както и размера на доставчика, по-специално ако доставчикът е МСП, включително новосъздадено предприятие. Европейският надзорен орган по защита на данните следва да има правомощията да налага глоби на институциите, агенциите и органите на Съюза, попадащи в обхвата на настоящия регламент.
(168)
Għalhekk jenħtieġ li l-konformità ma' dan ir-Regolament tkun infurzabbli permezz tal-impożizzjoni ta' penali u miżuri ta' infurzar oħra. Jenħtieġ li l-Istati Membri jieħdu l-miżuri meħtieġa kollha biex jiżguraw li d-dispożizzjonijiet ta' dan ir-Regolament jiġu implimentati, inkluż billi jistabbilixxu penali effettivi, proporzjonati u dissważivi għall-ksur tagħhom, u biex jiġi rrispettat il-prinċipju ta' ne bis in idem. Sabiex jissaħħu u jiġu armonizzati l-penali amministrattivi għall-ksur ta' dan ir-Regolament, jenħtieġ li jiġu stabbiliti l-limiti massimi għall-istabbiliment tal-multi amministrattivi għal ċertu ksur speċifiku. Meta jivvalutaw l-ammont tal-multi, jenħtieġ li l-Istati Membri, f'kull każ individwali, iqisu ċ-ċirkostanzi rilevanti kollha tas-sitwazzjoni speċifika, b'kunsiderazzjoni xierqa b'mod partikolari għan-natura, il-gravità u d-durata tal-ksur u tal-konsegwenzi tiegħu u għad-daqs tal-fornitur, b'mod partikolari jekk il-fornitur ikun SME jew negozju ġdid. Jenħtieġ li l-Kontrollur Ewropew għall-Protezzjoni tad-Data jkollu s-setgħa jimponi multi fuq l-istituzzjonijiet, l-aġenziji u l-korpi tal-Unjoni li jaqgħu fil-kamp ta' applikazzjoni ta' dan ir-Regolament.
(169)
Спазването на задълженията на доставчиците на модели на ИИ с общо предназначение, наложени с настоящия регламент, следва да може да се гарантира, наред с другото, чрез глоби. За тази цел следва да се определят и подходящи размери на глобите за нарушение на тези задължения, включително неизпълнението на мерките, изисквани от Комисията в съответствие с настоящия регламент, при прилагане на подходящи давностни срокове в съответствие с принципа на пропорционалност. Всички решения, приемани от Комисията съгласно настоящия регламент, подлежат на контрол от Съда на Европейския съюз в съответствие с ДФЕС, включително на пълната юрисдикция на Съда във връзка със санкциите съгласно член 261 ДФЕС.
(169)
Jenħtieġ li l-konformità mal-obbligi fuq il-fornituri ta' mudelli tal-IA bi skop ġenerali imposti skont dan ir-Regolament tkun infurzabbli, fost l-oħrajn, permezz ta' multi. Għal dak l-għan, jenħtieġ li jiġu stabbiliti wkoll livelli xierqa ta' multi għall-ksur ta' dawk l-obbligi, inkluż in-nuqqas ta' konformità mal-miżuri mitluba mill-Kummissjoni f'konformità ma' dan ir-Regolament, soġġett għal perjodi ta' limitazzjoni xierqa f'konformità mal-prinċipju tal-proporzjonalità. Id-deċiżjonijiet kollha meħuda mill-Kummissjoni skont dan ir-Regolament huma soġġetti għal rieżami mill-Qorti tal-Ġustizzja tal-Unjoni Ewropea f'konformità mat-TFUE, inkluża l-ġuriżdizzjoni illimitata tal-Qorti tal-Ġustizzja fir-rigward tal-penali skontl-Artikolu 261 TFUE.
(170)
В правото на Съюза и националното право вече са предвидени ефективни правни средства за защита на физическите и юридическите лица, чиито права и свободи са неблагоприятно засегнати от използването на системи с ИИ. Без да се засягат тези правни средства за защита, всяко физическо или юридическо лице, което има основания да счита, че е налице нарушение на настоящия регламент, следва да има правото да подаде жалба до съответния орган за надзор на пазара.
(170)
Il-liġi tal-Unjoni u l-liġi nazzjonali diġà jipprovdu rimedji effettivi għall-persuni fiżiċi u ġuridiċi li d-drittijiet u l-libertajiet tagħhom jiġu affettwati b'mod negattiv mill-użu tas-sistemi tal-IA. Mingħajr preġudizzju għal dawk ir-rimedji, jenħtieġ li kwalunkwe persuna fiżika jew ġuridika li jkollha raġunijiet biex tqis li kien hemm ksur ta' dan ir-Regolament tkun intitolata tressaq ilment lill-awtorità tas-sorveljanza tas-suq rilevanti.
(171)
Засегнатите лица следва да имат правото да получат обяснение, в случай че дадено решение, взето от внедрител преди всичко въз основа на резултата от работата на определени високорискови системи с ИИ, попадащи в обхвата на настоящия регламент, поражда правни последици за тях или по сходен начин ги засяга в значителна степен по начин, който според тях оказва неблагоприятно въздействие върху тяхното здраве, безопасност или основни права. Това обяснение следва да бъде ясно и изчерпателно и да дава основание на засегнатите лица да упражнят правата си. Правото на получаване на обяснение не следва да се прилага относно използването на системи с ИИ, по отношение на които от правото на Съюза или от националното право произтичат изключения или ограничения, и следва да се прилага само доколкото това право все още не е предвидено в законодателството на Съюза.
(171)
Jenħtieġ li l-persuni affettwati jkollhom id-dritt li jiksbu spjegazzjoni meta deċiżjoni tal-implimentatur tkun ibbażata prinċipalment fuq l-output minn ċerti sistemi tal-IA b'riskju għoli li jaqgħu fil-kamp ta' applikazzjoni ta' dan ir-Regolament u meta dik id-deċiżjoni tipproduċi effetti legali jew taffettwa b'mod sinifikanti b'mod simili lil dawk il-persuni b'mod li jqisu li għandu impatt negattiv fuq is-saħħa, is-sikurezza jew id-drittijiet fundamentali tagħhom. Jenħtieġ li dik l-ispjegazzjoni tkun ċara u sinifikanti u jenħtieġ li tipprovdi bażi li fuqha l-persuni affettwati jkunu jistgħu jeżerċitaw id-drittijiet tagħhom. Jenħtieġ li d-dritt li tinkiseb spjegazzjoni ma japplikax għall-użu ta' sistemi tal-IA li fir-rigward tagħhom joħorġu eċċezzjonijiet jew restrizzjonijiet mil-liġi tal-Unjoni jew dik nazzjonali u jenħtieġ li japplika biss sa fejn dan id-dritt ma jkunx diġà previst fil-liġi tal-Unjoni.
(172)
Лица, сигнализиращи за нередности във връзка с нарушения на настоящия регламент, следва да бъдат защитени в съответствие с правото на Съюза. Поради това по отношение на подаването на сигнали за нарушения на настоящия регламент и защитата на лицата, които подават сигнали за такива нарушения, следва да се прилага Директива (ЕС) 2019/1937 на Европейския парламент и на Съвета (54).
(172)
Jenħtieġ li l-persuni li jaġixxu bħala informaturi dwar il-ksur ta' dan ir-Regolament jiġu protetti skont il-liġi tal-Unjoni. Għalhekk, jenħtieġ li d-Direttiva (UE) 2019/1937 tal-Parlament Ewropew u tal-Kunsill (54) tapplika għar-rappurtar ta' ksur ta' dan ir-Regolament u għall-protezzjoni tal-persuni li jirrappurtaw tali ksur.
(173)
С цел да се гарантира, че регулаторната рамка може да бъде адаптирана при необходимост, на Комисията следва да бъде делегирано правомощието да приема актове в съответствие с член 290 ДФЕС за изменение на условията, при които дадена система с ИИ не се смята за високорискова, списъка на високорисковите системи с ИИ, разпоредбите относно техническата документация, съдържанието на ЕС декларацията за съответствие, разпоредбите относно процедурите за оценяване на съответствието, разпоредбите за определяне на високорисковите системи с ИИ, за които се прилага процедурата за оценяване на съответствието въз основа на оценката на системата за управление на качеството и оценката на техническата документация, праговете, референтните стойности и показателите, включително чрез допълване на тези референтни стойности и показатели, в правилата за класифициране на моделите на ИИ с общо предназначение, пораждащи системен риск, критериите за определяне на моделите на ИИ с общо предназначение, пораждащи системен риск, техническата документация за доставчиците на модели на ИИ с общо предназначение и информацията с цел прозрачност за доставчиците на модели на ИИ с общо предназначение. От особена важност е по време на подготвителната си работа Комисията да проведе подходящи консултации, включително на експертно равнище, и тези консултации да бъдат проведени в съответствие с принципите, заложени в Междуинституционалното споразумение от 13 април 2016 г. за по-добро законотворчество (55). По-специално, с цел осигуряване на равно участие при подготовката на делегираните актове, Европейският парламент и Съветът получават всички документи едновременно с експертите от държавите членки, като техните експерти получават систематично достъп до заседанията на експертните групи на Комисията, занимаващи се с подготовката на делегираните актове.
(173)
Sabiex ikun żgurat li l-qafas regolatorju jista' jiġi adattat fejn meħtieġ, jenħtieġ li s-setgħa li jiġu adottati atti f'konformità mal-Artikolu 290 TFUE tiġi ddelegata lill-Kummissjoni biex temenda l-kundizzjonijiet li taħthom sistema tal-IA ma titqiesx li tkun ta' riskju għoli, il-lista tas-sistemi tal-IA b'riskju għoli, id-dispożizzjonijiet dwar id-dokumentazzjoni teknika, il-kontenut tad-dikjarazzjoni ta' konformità tal-UE, id-dispożizzjonijiet dwar il-proċeduri ta' valutazzjoni tal-konformità, id-dispożizzjonijiet li jistabbilixxu s-sistemi tal-IA b'riskju għoli li għalihom jenħtieġ tapplika l-proċedura ta' valutazzjoni tal-konformità bbażata fuq il-valutazzjoni tas-sistema ta' ġestjoni tal-kwalità u fuq il-valutazzjoni tad-dokumentazzjoni teknika, il-limitu massimu, il-paramentri referenzjarji u l-indikaturi, inkluż billi jiġu ssupplimentati dawk il-paramentri referenzjarji u l-indikaturi fir-regoli għall-klassifikazzjoni ta' mudelli tal-IA bi skop ġenerali b'riskju sistemiku, il-kriterji għad-deżinjazzjoni ta' mudelli tal-IA bi skop ġenerali b'riskju sistemiku, id-dokumentazzjoni teknika għall-fornituri ta' mudelli tal-IA bi skop ġenerali u t-trasparenza tal-informazzjoni għall-fornituri ta' mudelli tal-IA bi skop ġenerali. Hu partikolarment importanti li tul il-ħidma preparatorja tagħha, il-Kummissjoni twettaq konsultazzjonijiet xierqa, inkluż fil-livell ta' esperti, u li dawk il-konsultazzjonijiet isiru f'konformità mal-prinċipji stabbiliti fil-Ftehim Interistituzzjonali tat-13 ta' April 2016 dwar it-Tfassil Aħjar tal-Liġijiet (55). B'mod partikolari, biex tiġi żgurata parteċipazzjoni ugwali fit-tħejjija tal-atti delegati, il-Parlament Ewropew u l-Kunsill jirċievu d-dokumenti kollha fl-istess ħin li jirċevuhom l-esperti tal-Istati Membri, u l-esperti tagħhom sistematikament ikollhom aċċess għal-laqgħat tal-gruppi ta' esperti tal-Kummissjoni li jittrattaw it-tħejjija ta' atti delegati.
(174)
Предвид бързото технологично развитие и техническия експертен опит, необходим за ефективното прилагане на настоящия регламент, Комисията следва да направи оценка и преглед на настоящия регламент до 2 август 2029 г. и на всеки четири години след това, и да докладва на Европейския парламент и на Съвета. Освен това, с оглед на последиците за обхвата на настоящия регламент, Комисията следва веднъж годишно да прави оценка на необходимостта от изменение на списъка на високорисковите системи с ИИ и на списъка на забранените практики. Наред с това, до 2 август 2028 г. и на всеки четири години след това Комисията следва да оценява и да докладва на Европейския парламент и на Съвета за необходимостта от изменение на наименованията на високорисковите области в приложението към настоящия регламент, системите с ИИ, попадащи в обхвата на задълженията за прозрачност, ефективността на системата за надзор и управление и напредъка по разработването на стандартизационни документи за енергийно ефективно разработване на модели на ИИ с общо предназначение, включително за необходимостта от допълнителни мерки или действия. И на последно място, до 2 август 2028 г. и на всеки три години след това Комисията следва да оценява въздействието и ефективността на незадължителните кодекси за поведение с цел да се насърчи прилагането на изискванията, предвидени за високорисковите системи с ИИ, по отношение на системи, различни от високорискови системи с ИИ, и евентуално на други допълнителни изисквания за такива системи с ИИ.
(174)
Minħabba l-iżviluppi teknoloġiċi rapidi u l-kompetenza esperta teknika meħtieġa biex dan ir-Regolament jiġi implimentat b’mod effettiv, jenħtieġ li l-Kummissjoni tevalwa u tirrieżamina dan ir-Regolament sat-2 ta’ Awwissu 2029 u kull erba' snin minn hemm 'il quddiem u tirrapporta lura lill-Parlament Ewropew u lill-Kunsill. Barra minn hekk, filwaqt li tqis l-implikazzjonijiet għall-kamp ta' applikazzjoni ta' dan ir-Regolament, jenħtieġ li l-Kummissjoni twettaq valutazzjoni tal-ħtieġa li darba fis-sena jiġu emendati l-lista tas-sistemi tal-IA b'riskju għoli u l-lista ta' prattiki pprojbiti. Barra minn hekk, sat-2 ta’ Awwissu 2028 u kull erba' snin wara dan, jenħtieġ li l-Kummissjoni tevalwa u tirrapporta lura lill-Parlament Ewropew u lill-Kunsill dwar il-ħtieġa li jiġu emendati l-lista tal-intestaturi ta’ oqsma b'riskju għoli fl-anness ta' dan ir-Regolament, is-sistemi tal-IA fil-kamp ta' applikazzjoni tal-obbligi tat-trasparenza, l-effettività tas-sistema tas-superviżjoni u tal-governanza u l-progress fl-iżvilupp ta' strumenti ta' standardizzazzjoni dwar l-iżvilupp effiċjenti fl-użu tal-enerġija ta' mudelli tal-IA bi skop ġenerali, inkluż il-ħtieġa għal aktar miżuri jew azzjonijiet. Fl-aħħar nett, sat-2 ta’ Awwissu 2028 u kull tliet snin minn hemm 'il quddiem, jenħtieġ li l-Kummissjoni tevalwa l-impatt u l-effettività tal-kodiċijiet tal-kondotta volontarji biex trawwem l-applikazzjoni tar-rekwiżiti previsti għas-sistemi tal-IA b'riskju għoli fil-każ ta' sistemi tal-IA għajr sistemi tal-IA b'riskju għoli u possibbilment rekwiżiti addizzjonali oħra għal tali sistemi tal-IA.
(175)
За да се гарантират еднакви условия за изпълнение на настоящия регламент, на Комисията следва да бъдат предоставени изпълнителни правомощия. Тези правомощия следва да бъдат упражнявани в съответствие с Регламент (ЕС) № 182/2011 на Европейския парламент и на Съвета (56).
(175)
Sabiex ikunu żgurati kundizzjonijiet uniformi għall-implimentazzjoni ta' dan ir-Regolament, jenħtieġ li l-Kummissjoni tingħata setgħat ta' implimentazzjoni. Jenħtieġ li dawk is-setgħat ikunu eżerċitati f'konformità mar-Regolament (UE) Nru 182/2011 tal-Parlament Ewropew u tal-Kunsill (56).
(176)
Доколкото целта на настоящия регламент, а именно да се подобри функционирането на вътрешния пазар и да се насърчи навлизането на ориентиран към човека и надежден ИИ, като същевременно се гарантира високо равнище на защита на здравето, безопасността, основните права, залегнали в Хартата, включително демокрацията, принципите на правовата държава и опазването на околната среда, срещу вредното въздействие на системите с ИИ в Съюза и да се подкрепят иновациите, не може да бъде постигната в достатъчна степен от държавите членки, а поради мащаба или последиците на действието може да бъде по-добре постигната на равнището на Съюза, Съюзът може да приеме мерки в съответствие с принципа на субсидиарност, уреден в член 5 от Договора за Европейския съюз. В съответствие с принципа на пропорционалност, уреден в същия член, настоящият регламент не надхвърля необходимото за постигането на тази цел.
(176)
Minħabba li l-objettiv ta' dan ir-Regolament, jiġifieri li jtejjeb il-funzjonament tas-suq intern u jippromwovi l-adozzjoni ta' IA ċċentrata fuq il-bniedem u affidabbli, filwaqt li jiżgura livell għoli ta' protezzjoni tas-saħħa, tas-sikurezza u tad-drittijiet fundamentali minquxa fil-Karta, inkluż id-demokrazija, l-istat tad-dritt u l-protezzjoni ambjentali kontra l-effetti ta' ħsara tas-sistemi tal-IA fl-Unjoni u jappoġġa l-innovazzjoni, ma jistax jinkiseb b'mod suffiċjenti mill-Istati Membri u jista' pjuttost, minħabba l-iskala jew l-effetti tal-azzjoni, jinkiseb aħjar fil-livell tal-Unjoni, l-Unjoni tista' tadotta miżuri f'konformità mal-prinċipju ta’ sussidjarjetà kif stabbilit fl-Artikolu 5 TUE. F'konformità mal-prinċipju ta’ proporzjonalità, kif stabbilit f'dak l-Artikolu, dan ir-Regolament ma jmurx lil hinn minn dak meħtieġ sabiex jinkiseb dak l-objettiv.
(177)
С цел да се гарантира правна сигурност, да се осигури подходящ срок за адаптация за операторите и да се избегнат смущения на пазара, включително чрез осигуряване на непрекъснатост в използването на системите с ИИ, е целесъобразно настоящият регламент да се прилага за високорисковите системи с ИИ, които са били пуснати на пазара или пуснати в действие преди общата начална дата на прилагането му, само в случай че след тази дата бъдат извършени значителни промени в проекта или предназначението на тези системи. Следва да се поясни, че в този контекст понятието „значителна промяна“ следва да се разбира като равностойно по същество на понятието „съществено изменение“, което се използва само по отношение на високорисковите системи с ИИ съгласно определението в настоящия регламент. По изключение и с оглед на публичната отчетност операторите на системи с ИИ, които са компоненти на широкомащабните информационни системи, създадени с правните актове, чийто списък е приложен към настоящия регламент, и операторите на високорискови системи с ИИ, предназначени да бъдат използвани от публични органи, следва да предприемат мерките, необходими, за да се съобразят с изискванията на настоящия регламент, съответно до края на 2030 г. и в срок до 2 август 2030 г.
(177)
sabiex tiġi żgurata ċ-ċertezza legali, jiġi żgurat perjodu ta' adattament xieraq għall-operaturi u jiġi evitat tfixkil fis-suq, inkluż billi tiġi żgurata l-kontinwità tal-użu tas-sistemi tal-IA, jixraq li dan ir-Regolament japplika għas-sistemi tal-IA b'riskju għoli li jkunu ġew introdotti fis-suq jew tqiegħdu fis-servizz qabel id-data ġenerali tal-applikazzjoni tagħhom, biss jekk, minn dik id-data, dawk is-sistemi jkunu soġġetti għal bidliet sinifikanti fid-disinn jew fl-għan maħsub tagħhom. Jixraq li jiġi ċċarat li, f'dan ir-rigward, il-kunċett ta' bidla sinifikanti jenħtieġ li jinftiehem bħala ekwivalenti fis-sustanza għall-kunċett ta' modifika sostanzjali, li jintuża biss fir-rigward tas-sistemi tal-IA b'riskju għoli skont dan ir-Regolament. Fuq bażi eċċezzjonali u fid-dawl tal-obbligu ta' responsabbiltà pubblika, jenħtieġ li l-operaturi ta' sistemi tal-IA li huma komponenti tas-sistemi tal-IT fuq skala kbira stabbiliti bl-atti legali elenkati f'anness ta' dan ir-Regolament u l-operaturi tas-sistemi tal-IA b'riskju għoli li huma maħsuba biex jintużaw mill-awtoritajiet pubbliċi jieħdu l-passi meħtieġa, rispettivament, biex jikkonformaw mar-rekwiżiti ta' dan ir-Regolament sa tmiem l-2030 u sat-2 ta’ Awwissu 2030.
(178)
Доставчиците на високорискови системи с ИИ се насърчават да започнат да спазват на доброволна основа съответните задължения, предвидени съгласно настоящия регламент, още по време на преходния период.
(178)
Il-fornituri ta' sistemi tal-IA b'riskju għoli huma mħeġġa biex matul il-perjodu tranżitorju jibdew diġà jikkonformaw, fuq bażi volontarja, mal-obbligi rilevanti ta' dan ir-Regolament.
(179)
Настоящият регламент следва да се прилага от 2 август 2026 г. Същевременно, като се има предвид неприемливият риск, свързан с използването на ИИ по определени начини, забраните, както и общите разпоредби на настоящия регламент следва да се прилагат още от 2 февруари 2025 г. Въпреки че тези забрани ще влязат напълно в действие, след като бъде установено управлението и прилагането на настоящия регламент, предварителното им прилагане е важно с оглед да се вземе предвид неприемливият риск и да се въздейства върху други процедури, например в гражданското право. Наред с това, инфраструктурата, свързана с управлението и системата за оценяване на съответствието, следва да започне да функционира преди 2 август 2026 г., поради което разпоредбите относно нотифицираните органи и структурата на управление следва да се прилагат от 2 август 2025 г. Като се има предвид бързият темп на технологичния напредък и възприемането на модели на ИИ с общо предназначение, задълженията на доставчиците на модели на ИИ с общо предназначение следва да се прилагат от 2 август 2025 г. Кодексите за добри практики следва да бъдат готови в срок до 2 май 2025 г., за да се даде възможност на доставчиците своевременно да докажат спазването им. Службата по ИИ следва да гарантира, че правилата и процедурите за класифициране са актуални с оглед на технологичното развитие. Освен това държавите членки следва да установят и изпратят до Комисията правилата относно санкциите, включително административните глоби и имуществени санкции, и да гарантират, че те се прилагат правилно и ефективно към началната дата на прилагане на настоящия регламент. Поради това разпоредбите относно санкциите следва да се прилагат от 2 август 2025 г.
(179)
Jenħtieġ li dan ir-Regolament japplika mit-2 ta’ Awwissu 2026. Madankollu, b'kunsiderazzjoni għar-riskju inaċċettabbli assoċjat mal-użu tal-IA b'ċerti modi, jenħtieġ li l-projbizzjonijiet kif ukoll id-dispożizzjonijiet ġenerali ta’ dan ir-Regolament japplikaw diġà mit-2 ta’ Frar 2025. Filwaqt li l-effett sħiħ ta' dawk il-projbizzjonijiet isegwi bl-istabbiliment tal-governanza u l-infurzar ta' dan ir-Regolament, l-antiċipazzjoni tal-applikazzjoni tal-projbizzjonijiet hija importanti biex jitqiesu r-riskji inaċċettabbli u biex ikollha effett fuq proċeduri oħra, bħal fid-dritt ċivili. Barra minn hekk, jenħtieġ li l-infrastruttura relatata mal-governanza u mas-sistema tal-valutazzjoni tal-konformità tkun operattiva qabel it-2 ta’ Awwissu 2026, u għalhekk jenħtieġ li d-dispożizzjonijiet dwar il-korpi notifikati u l-istruttura ta' governanza japplikaw mit-2 ta’ Awwissu 2025. Minħabba l-pass mgħaġġel tal-avvanzi teknoloġiċi u l-adozzjoni ta' mudelli tal-IA bi skop ġenerali, jenħtieġ li l-obbligi għall-fornituri ta' mudelli tal-IA bi skop ġenerali japplikaw mit-2 ta’ Awwissu 2025. Jenħtieġ li l-kodiċijiet ta' prattika jkunu lesti sat-2 ta’ Mejju 2025 bil-ħsieb li l-fornituri jkunu jistgħu juru l-konformità fil-ħin. Jenħtieġ li l-Uffiċċju għall-IA jiżgura li r-regoli u l-proċeduri ta' klassifikazzjoni jkunu aġġornati fid-dawl tal-iżviluppi teknoloġiċi. Barra minn hekk, jenħtieġ li l-Istati Membri jistabbilixxu u jinnotifikaw lill-Kummissjoni r-regoli dwar il-penali, inkluż il-multi amministrattivi, u jiżguraw li dawn jiġu implimentati sew u b'mod effettiv sad-data tal-applikazzjoni ta' dan ir-Regolament. Għalhekk jenħtieġ li d-dispożizzjonijiet dwar il-penali japplikaw mit-2 ta’ Awwissu 2025.
(180)
В съответствие с член 42, параграфи 1 и 2 от Регламент (ЕС) 2018/1725 беше проведена консултация с Европейския надзорен орган по защита на данните и Европейския комитет по защита на данните, които представиха съвместното си становище на 18 юни 2021 г.,
(180)
Il-Kontrollur Ewropew għall-Protezzjoni tad-Data u l-Bord Ewropew għall-Protezzjoni tad-Data ġew ikkonsultati f'konformità mal-Artikolu 42(1) u (2) tar-Regolament (UE) 2018/1725 u taw l-opinjoni konġunta tagħhom fit-18 ta' Ġunju 2021,
ПРИЕХА НАСТОЯЩИЯ РЕГЛАМЕНТ:
ADOTTAW DAN IR-REGOLAMENT:
1. Настоящият регламент се прилага по отношение на:
1. Dan ir-Regolament japplika għal:
a)
доставчици, които пускат на пазара или пускат в действие системи с ИИ или пускат на пазара модели на ИИ с общо предназначение в Съюза, независимо дали тези доставчици са установени или се намират на територията на Съюза или в трета държава;
(a)
il-fornituri li jintroduċu fis-suq jew li jqiegħdu fis-servizz sistemi tal-IA jew li jintroduċu fis-suq mudelli tal-IA bi skop ġenerali fl-Unjoni, irrispettivament minn jekk dawk il-fornituri jkunux stabbiliti jew ikunux jinsabu fl-Unjoni jew f'pajjiż terz;
б)
внедрители на системи с ИИ, чието място на установяване е на територията на Съюза или които се намират на територията на Съюза;
(b)
l-implimentaturi ta' sistemi tal-IA li għandhom il-post ta' stabbiliment tagħhom fl-Unjoni jew li jinsabu fiha;
в)
доставчици и внедрители на системи с ИИ, чието място на установяване е в трета държава или които се намират в трета държава, когато резултатът, получен от системата с ИИ, се използва в Съюза;
(c)
il-fornituri u l-implimentaturi ta' sistemi tal-IA li għandhom il-post ta' stabbiliment f'pajjiż terz jew li jinsabu f'pajjiż terz, meta l-output prodott mis-sistema tal-IA jintuża fl-Unjoni;
г)
вносители и дистрибутори на системи с ИИ;
(d)
l-importaturi u d-distributuri ta' sistemi tal-IA;
д)
производители на продукти, които пускат на пазара или пускат в действие система с ИИ заедно със своя продукт и със своето име или търговска марка;
(e)
il-manifatturi tal-prodotti li jintroduċu fis-suq jew li jqiegħdu fis-servizz sistema tal-IA flimkien mal-prodott tagħhom u taħt isimhom jew bit-trademark tagħhom stess;
е)
упълномощени представители на доставчици, които не са установени в Съюза;
(f)
ir-rappreżentanti awtorizzati tal-fornituri, li mhumiex stabbiliti fl-Unjoni;
ж)
засегнати лица, които се намират в Съюза.
(g)
il-persuni affettwati li jinsabu fl-Unjoni.
2. За системи с ИИ, които са класифицирани като високорискови системи с ИИ в съответствие с член 6, параграф 1, които са свързани с продукти, обхванати от законодателството на Съюза за хармонизация, посочено в раздел Б от приложение I, се прилагат само член 6, параграф 1 и членове 102 – 109 и 112. Член 57 се прилага само доколкото изискванията за високорисковите системи с ИИ съгласно настоящия регламент са били включени в това законодателство на Съюза за хармонизация.
2. Għas-sistemi tal-IA klassifikati bħala sistemi tal-IA b'riskju għoli f'konformità mal-Artikolu 6(1) relatati ma' prodotti koperti bil-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni elenkata fit-Taqsima B tal-Anness I, japplikaw biss l-Artikolu 6(1), l-Artikoli 102 sa 109 u l- Artikolu 112. L-Artikolu 57 japplika biss sa fejn ir-rekwiżiti għas-sistemi tal-IA b'riskju għoli skont dan ir-Regolament ikunu ġew integrati f'dik il-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni.
3. Настоящият регламент не се прилага в области извън обхвата на правото на Съюза и не засяга компетентността на държавите членки по отношение на националната сигурност, независимо от вида на субекта, на който държавите членки са възложили изпълнението на задачите във връзка с тази компетентност.
3. Dan ir-Regolament ma japplikax għal oqsma barra mill-kamp ta' applikazzjoni tad-dritt tal-Unjoni, u ma għandux, fi kwalunkwe każ, jaffettwa l-kompetenzi tal-Istati Membri fir-rigward tas-sigurtà nazzjonali, irrispettivament mit-tip ta' entità fdata mill-Istati Membri biex twettaq il-kompiti fir-rigward ta' dawk il-kompetenzi.
Настоящият регламент не се прилага за системи с ИИ, ако и доколкото те са пуснати на пазара, пуснати в действие или използвани със или без изменение на тези системи изключително за военни цели и цели, свързани с отбраната или националната сигурност, независимо от вида на субекта, който извършва тези дейности.
Dan ir-Regolament ma japplikax għal sistemi tal-IA fejn u sakemm jiġu introdotti fis-suq, jitqiegħdu fis-servizz jew jintużaw b'modifika jew mingħajr modifika esklużivament għal fini militari, ta' difiża jew ta' sigurtà nazzjonali, irrispettivament mit-tip tal-entità li twettaq dawk l-attivitajiet.
Настоящият регламент не се прилага за системи с ИИ, които не са пуснати на пазара или пуснати в действие в Съюза, когато резултатите се използват в Съюза изключително за военни цели и цели, свързани с отбраната или националната сигурност, независимо от вида на субекта, който извършва тези дейности.
Dan ir-Regolament ma japplikax għal sistemi tal-IA li ma jiġux introdotti fis-suq jew imqiegħda fis-servizz fl-Unjoni, meta l-output jintuża fl-Unjoni esklużivament għal fini militari, ta' difiża jew ta' sigurtà nazzjonali, irrispettivament mit-tip tal-entità li twettaq dawk l-attivitajiet.
4. Настоящият регламент не се прилага за публични органи в трета държава, нито за международни организации, попадащи в обхвата на настоящия регламент съгласно параграф 1, когато тези органи или организации използват системи с ИИ в рамките на международно сътрудничество или споразумения за правоприлагане и съдебно сътрудничество със Съюза или с една или повече държави членки, при условие че тази трета държава или международна организация осигурява подходящи гаранции по отношение на защитата на основните права и свободи на физическите лица.
4. Dan ir-Regolament la japplika għal awtoritajiet pubbliċi f'pajjiż terz u lanqas għal organizzazzjonijiet internazzjonali li jaqgħu fil-kamp ta' applikazzjoni ta' dan ir-Regolament skont il-paragrafu 1, meta dawk l-awtoritajiet jew l-organizzazzjonijiet jużaw sistemi tal-IA fil-qafas ta' kooperazzjoni jew ftehimiet internazzjonali għall-infurzar tal-liġi u l-kooperazzjoni ġudizzjarja mal-Unjoni jew ma' Stat Membru wieħed jew aktar, dment li tali pajjiż terz jew organizzazzjoni internazzjonali tipprovdi salvagwardji adegwati fir-rigward tal-protezzjoni tad-drittijiet fundamentali u l-libertajiet tal-individwi.
5. Настоящият регламент не засяга прилагането на разпоредбите относно отговорността на доставчиците на посреднически услуги, установени в глава II от Регламент (ЕС) 2022/2065.
5. Dan ir-Regolament ma għandux jaffettwa l-applikazzjoni tad-dispożizzjonijiet dwar ir-responsabbiltà tal-fornituri tas-servizzi intermedjarji kif stipulat fil-Kapitolu II tar-Regolament (UE) 2022/2065.
6. Настоящият регламент не се прилага за системите с ИИ или моделите на ИИ, които са специално разработени и пуснати в действие единствено с цел научноизследователска и развойна дейност, включително за техните резултати.
6. Dan ir-Regolament ma japplikax għal sistemi jew mudelli tal-IA, inkluż l-output tagħhom, speċifikament żviluppati u mqiegħda fis-servizz għall-iskop uniku tar-riċerka u l-iżvilupp xjentifiċi.
7. Правото на Съюза относно защитата на личните данни, неприкосновеността на личния живот и поверителността на съобщенията се прилага за личните данни, обработвани във връзка с правата и задълженията, предвидени в настоящия регламент. Настоящият регламент не засяга регламенти (ЕС) 2016/679 и (ЕС) 2018/1725, нито директиви 2002/58/ЕО и (ЕС) 2016/680, без да се засягат член 10, параграф 5 и член 59 от настоящия регламент.
7. Il-liġi tal-Unjoni dwar il-protezzjoni ta' data personali, il-privatezza u l-kunfidenzjalità tal-komunikazzjoni tapplika għal data personali pproċessata b'rabta mad-drittijiet u l-obbligi stabbiliti f'dan ir-Regolament. Dan ir-Regolament ma għandux jaffettwa r-Regolament (UE) 2016/679 jew (UE) 2018/1725 jew id-Direttiva 2002/58/KE jew (UE) 2016/680, mingħajr preġudizzju għall-Artikolu 10(5) u l-Artikolu 59 ta' dan ir-Regolament.
8. Настоящият регламент не се прилага за научноизследователски дейности, изпитвания или развойни дейности по отношение на системи с ИИ или модели на ИИ преди пускането на пазара или пускането в действие на тези системи или модели. Тези дейности се извършват в съответствие с приложимото право на Съюза. Изпитването в реални условия не попада в обхвата на това изключение.
8. Dan ir-Regolament ma japplika għall-ebda attività ta' riċerka, ittestjar jew żvilupp fir-rigward ta' sistemi tal-IA jew mudelli tal-IA qabel ma jiġu introdotti fis-suq jew jitqiegħdu fis-servizz. Tali attivitajiet għandhom jitwettqu f'konformità mal-liġi tal-Unjoni applikabbli. L-ittestjar fil-kundizzjonijiet tad-dinja reali ma għandux ikun kopert minn dik l-esklużjoni.
9. Настоящият регламент не засяга правилата, установени в други правни актове на Съюза, свързани със защитата на потребителите и безопасността на продуктите.
9. Dan ir-Regolament huwa mingħajr preġudizzju għar-regoli stabbiliti minn atti legali oħra tal-Unjoni relatati mal-protezzjoni tal-konsumatur u s-sikurezza tal-prodotti.
10. Настоящият регламент не се прилага за задълженията на внедрители, които са физически лица, използващи системи с ИИ в рамките на изцяло лична непрофесионална дейност.
10. Dan ir-Regolament ma japplikax għall-obbligi ta' implimentaturi li huma persuni fiżiċi li jużaw sistemi tal-IA waqt attività purament personali mhux professjonali.
11. Настоящият регламент не e пречка Съюзът или държавите членки да запазят или въведат законови, подзаконови или административни разпоредби, които са по-благоприятни за работниците по отношение на защитата на правата им във връзка с използването от работодателите на системи с ИИ, нито да насърчават или разрешават прилагането на колективни трудови договори, които са по-благоприятни за работниците.
11. Dan ir-Regolament ma jipprekludix lill-Unjoni jew lill-Istati Membri milli jżommu jew jintroduċu liġijiet, regolamenti jew dispożizzjonijiet amministrattivi li huma aktar favorevoli għall-ħaddiema f'termini ta' protezzjoni tad-drittijiet tagħhom fir-rigward tal-użu tas-sistemi tal-IA mill-impjegaturi, jew milli jħeġġu jew jippermettu l-applikazzjoni ta' ftehimiet kollettivi li huma aktar favorevoli għall-ħaddiema.
12. Настоящият регламент не се прилага за системи с ИИ, предоставени с безплатен лиценз с отворен код, освен ако не са пуснати на пазара или пуснати в действие като високорискови системи с ИИ или като система с ИИ, попадаща в обхвата на член 5 или 50.
12. Dan ir-Regolament ma japplikax għas-sistemi tal-IA rilaxxati b'liċenzji liberi u b'sors miftuħ sakemm ma jiġux introdotti fis-suq jew mqiegħda fis-servizz bħala sistemi tal-IA b'riskju għoli jew bħala sistema tal-IA li taqa' taħt l-Artikolu 5 jew 50.
Забранени практики в областта на ИИ
Prattiki tal-IA pprojbiti
1. Забраняват се следните практики в областта на ИИ:
1. Il-prattiki tal-IA li ġejjin għandhom ikunu pprojbiti:
a)
пускането на пазара, пускането в действие или използването на система с ИИ, която си служи със техники, действащи на подсъзнанието и отвъд рамките на съзнаваното от човека, или с умишлено манипулативни или измамни техники, с цел или последици, изразяващи се в съществено изменение на поведението на дадено лице или група лица чрез значително нарушаване на способността за вземане на информирано решение, като по този начин се подтиква да вземе решение, което в противен случай не би взело, по начин, който причинява или има разумна вероятност да причини значителни вреди на същото или на друго лице, или на група лица;
(a)
l-introduzzjoni fis-suq, it-tqegħid fis-servizz jew l-użu ta' sistema tal-IA li tuża tekniki subliminali li persuna ma tkunx konxja tagħhom jew tekniki intenzjonalment manipulattivi jew qarrieqa, bil-għan jew bir-riżultat li materjalment ifixklu l-imġiba ta' persuna jew ta' grupp ta' persuni billi jdgħajfu b'mod sinifikanti l-abbiltà tagħha li tieħu deċiżjoni infurmata, u minħabba f'hekk huma jieħdudeċiżjoni li kieku ma kinux jieħdu b'mod li jikkawża jew li aktarx raġonevolament jikkawża ħsara sinifikanti lil dik il-persuna, lil persuna oħra jew lil grupp ta' persuni;
б)
пускането на пазара, пускането в действие или използването на система с ИИ, която използва някое от уязвимите места на дадено физическо лице или на конкретна група лица, дължащи се на възраст, увреждане или конкретно социално или икономическо положение, с цел или последици, изразяващи се в съществено изменение на поведението на това лице или на лице, спадащо към тази група, по начин, който причинява или има разумна вероятност да причини значителни вреди на същото или на друго лице;
(b)
l-introduzzjoni fis-suq, it-tqegħid fis-servizz jew l-użu ta' sistema tal-IA li tisfrutta kwalunkwe waħda mill-vulnerabbiltajiet ta' persuna fiżika jew ta' grupp speċifiku ta' persuni minħabba l-età, diżabbiltà jew sitwazzjoni soċjali jew ekonomika speċifika, bl-għan jew bir-riżultat li tfixkel materjalment l-imġiba ta' dik il-persuna jew ta' persuna li tappartjeni għal dak il-grupp b'mod li jikkawża jew li raġonevolment aktarx jikkawża ħsara sinifikanti lil dik il-persuna jew lil persuna oħra;
в)
пускането на пазара, пускането в действие или използването на системи с ИИ с цел оценка или класифициране на физически лица или групи от лица през определен период от време въз основа на тяхното социално поведение или известни, изведени или предполагаеми лични или личностни характеристики, като социалната класация води до едната или и до двете посочени по-долу последици:
(c)
l-introduzzjoni fis-suq, it-tqegħid fis-servizz jew l-użu ta' sistemi tal-IA għall-evalwazzjoni jew il-klassifikazzjoni ta' persuni fiżiċi jew gruppi ta' persuni tul ċertu perjodu ta' żmien abbażi tal-imġiba soċjali tagħhom jew ta' karatteristiċi personali jew tal-personalità magħrufa, inferiti jew previsti, fejn il-punteġġ għaċ-ċittadini jwassal għal wieħed minn dawn li ġejjin jew għat-tnejn li huma:
i)
увреждащо или неблагоприятно третиране на определени физически лица или на групи лица в социален контекст, който няма връзка с контекста, в който първоначално са били генерирани или събрани данните;
(i)
trattament detrimentali jew mhux favorevoli ta' ċerti persuni fiżiċi jew ta' gruppi ta' persuni f'kuntesti soċjali li mhumiex relatati mal-kuntesti li fihom id-data kienet oriġinarjament iġġenerata jew miġbura;
ii)
увреждащо или неблагоприятно третиране на определени физически лица или на групи лица, което е неоправдано или непропорционално с оглед на тяхното социално поведение или на тежестта, която му се отдава;
(ii)
trattament detrimentali jew mhux favorevoli ta' ċerti persuni fiżiċi jew ta' gruppi ta' persuni li ma jkunx ġustifikat jew li jkun sproporzjonat għall-imġiba soċjali tagħhom jew għall-gravità tagħha;
г)
пускането на пазара, пускането в действие с това конкретно предназначение или използването на система с ИИ за извършване на оценки на риска по отношение на физически лица с цел да се прецени или предвиди вероятността дадено физическо лице да извърши престъпление, въз основа единствено на профилирането на дадено физическо лице или на оценката на личностните му черти и характеристики; тази забрана не се прилага за системи с ИИ, използвани за подпомагане на извършването от човек на оценка на участието на дадено лице в престъпна дейност, която вече е изградена на основата на обективни и проверими факти, пряко свързани с престъпна дейност;
(d)
l-introduzzjoni fis-suq, it-tqegħid fis-servizz għal dan l-għan speċifiku, jew l-użu ta' sistema tal-IA biex isiru valutazzjonijiet tar-riskju ta' persuni fiżiċi sabiex jiġi vvalutat jew imbassar ir-riskju li persuna fiżika twettaq reat kriminali, abbażi biss tat-tfassil ta' profil ta' persuna fiżika jew fuq il-valutazzjoni tal-karatteristiċi tal-personalità tagħha; din il-projbizzjoni ma għandhiex tapplika għas-sistemi tal-IA użati biex jappoġġaw il-valutazzjoni mill-bniedem tal-involviment ta' persuna f'attività kriminali, li diġà hija bbażata fuq fatti oġġettivi u verifikabbli marbuta direttament ma' attività kriminali;
д)
пускането на пазара, пускането в действие с това конкретно предназначение или използването на системи с ИИ, които създават или разширяват бази данни за разпознаване на лица чрез нецеленасочено извличане на лицеви изображения от интернет или записи от видеонаблюдение;
(e)
l-introduzzjoni fis-suq, it-tqegħid fis-servizz għal dan l-għan speċifiku, jew l-użu ta' sistemi tal-IA li joħolqu jew jespandu l-bażijiet tad-data tar-rikonoxximent tal-wiċċ permezz ta' scraping mhux immirat tal-immaġnijiet tal-wiċċ mill-internet jew minn filmati tas-CCTV;
е)
пускането на пазара, пускането в действие с това конкретно предназначение или използването на системи с ИИ с цел да се направят заключения за емоциите на дадено физическо лице на работното място или в образователните институции, освен в случаите, когато системата с ИИ е предназначена да бъде внедрена или пусната на пазара по медицински съображения или съображения, свързани с безопасността;
(f)
l-introduzzjoni fis-suq, it-tqegħid fis-servizz għal dan l-għan speċifiku, jew l-użu ta' sistemi tal-IA biex jiġu inferiti l-emozzjonijiet ta' persuna fiżika fl-oqsma tal-post tax-xogħol u tal-istituzzjonijiet edukattivi ħlief fejn l-użu tas-sistema tal-IA jkun maħsub biex tiġi introdotta fis-suq jew mqiegħda fis-servizz għal raġunijiet mediċi jew ta' sikurezza;
ж)
пускането на пазара, пускането в действие с това конкретно предназначение или използването на системи за биометрично категоризиране, които категоризират по индивидуализиран начин физическите лица въз основа на техните биометрични данни с цел да се направят заключения или логически изводи за тяхната раса, политически възгледи, членство в синдикални организации, религиозни или философски убеждения, сексуален живот или сексуална ориентация; тази забрана не обхваща обозначаването или филтрирането на законно придобити набори от биометрични данни, например основани на биометрични данни изображения, или категоризиране на биометрични данни в правоохранителната област;
(g)
l-introduzzjoni fis-suq jew it-tqegħid fis-servizz għal dan l-iskop speċifiku, jew l-użu ta' sistemi ta' kategorizzazzjoni bijometrika li jikkategorizzaw individwalment lill-persuni fiżiċi abbażi tad-data bijometrika tagħhom biex jiddeduċu jew jinferixxu r-razza, l-opinjonijiet politiċi, is-sħubija fi trade union, it-twemmin reliġjuż jew filosofiku, il-ħajja sesswali jew l-orjentazzjoni sesswali tagħhom; din il-projbizzjoni ma tkopri l-ebda tikkettar jew iffiltrar ta' settijiet tad-data bijometrika miksuba legalment, bħal immaġnijiet, ibbażati fuq data bijometrika jew kategorizzazzjoni ta' data bijometrika fil-qasam tal-infurzar tal-liġi;
з)
използването на системи за дистанционна биометрична идентификация в реално време на обществено достъпни места за правоохранителни цели, освен ако и доколкото такова използване е строго необходимо за една от следните цели:
(h)
l-użu ta' sistemi ta’ identifikazzjoni bijometrika remota “fil-ħin reali” f'żoni aċċessibbli għall-pubbliku għall-finijiet tal-infurzar tal-liġi, dment li u sakemm dan l-użu jkun strettament meħtieġ għal wieħed mill-objettivi li ġejjin:
i)
целево издирване на конкретни жертви на отвличане, трафик на хора и сексуална експлоатация на хора, както и издирване на изчезнали лица;
(i)
it-tfittxija mmirata għal vittmi speċifiċi ta' ħtif, traffikar ta' bnedmin jew sfruttament sesswali ta' bnedmin kif ukoll it-tfittxija għal persuni neqsin;
ii)
предотвратяване на конкретна, значителна и непосредствена заплаха за живота или физическата безопасност на физически лица или на действителна и настояща или действителна и предвидима заплаха от терористично нападение;
(ii)
il-prevenzjoni ta' theddida speċifika, sostanzjali u imminenti għall-ħajja jew għas-sikurezza fiżika ta' persuni fiżiċi jew theddida ġenwina u preżenti jew ġenwina u prevedibbli ta' attakk terroristiku;
iii)
установяване на местонахождението или самоличността на лице, заподозряно в извършването на престъпление, за целите на провеждането на разследване или наказателно преследване или на изпълнението на наказание за престъпления, посочени в приложение II и наказуеми в съответната държава членка с лишаване от свобода или мярка за задържане с максимален срок не по-малко от четири години.
(iii)
il-lokalizzazzjoni jew l-identifikazzjoni ta' persuna suspettata li wettqet reat kriminali, għall-fini tat-twettiq ta' investigazzjoni kriminali jew il-prosekuzzjoni jew l-eżekuzzjoni ta' piena kriminali għal reati, imsemmija fl-Anness II u punibbli fl-Istat Membru kkonċernat b'sentenza ta' kustodja jew ordni ta' detenzjoni għal perjodu massimu ta' mill-inqas erba' snin.
Първа алинея, буква з) не засяга член 9 от Регламент (ЕС) 2016/679 за обработването на биометрични данни за цели, различни от правоохранителни цели.
Il-punt (h) tal-ewwel subparagrafu huwa mingħajr preġudizzju għall-Artikolu 9 tar-Regolament (UE) 2016/679 għall-ipproċessar ta' data bijometrika għal finijiet oħra għajr l-infurzar tal-liġi.
2. Използването на системи за дистанционна биометрична идентификация в реално време на обществено достъпни места за правоохранителни цели за която и да е от целите, посочени в параграф 1, първа алинея, буква з), се извършва за целите, посочени в същата буква, само с оглед на потвърждаването на самоличността на конкретно лице и при отчитане на следните елементи:
2. L-użu ta' sistemi ta’ identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għall-finijiet tal-infurzar tal-liġi għal kwalunkwe wieħed mill-objettivi msemmija fil-paragrafu 1, l-ewwel subparagrafu, il-punt (h) għandu jiġi implimentat għall-finijiet stipulati f’ dak biss biex tiġi kkonfermata l-identità tal-individwu speċifikament taħt mira u għandu jqis l-elementi li ġejjin:
a)
естеството на ситуацията, която води до евентуалното използване, и по-специално тежестта, вероятността от настъпването и мащабът на вредата, която би била причинена, ако системата не се използва;
(a)
in-natura tas-sitwazzjoni li twassal għall-użu possibbli, b'mod partikolari s-serjetà, il-probabbiltà u l-iskala tal-ħsara li kienet tiġi kkawżata kieku s-sistema ma ntużatx;
б)
последиците от използването на системата за правата и свободите на всички засегнати лица, и по-специално тежестта, вероятността от настъпването и мащабът на тези последици.
(b)
il-konsegwenzi tal-użu tas-sistema għad-drittijiet u l-libertajiet tal-persuni kollha kkonċernati, b'mod partikolari s-serjetà, il-probabbiltà u l-iskala ta' dawk il-konsegwenzi.
Освен това използването на системи за дистанционна биометрична идентификация в реално време на обществено достъпни места за правоохранителни цели за някоя от целите, посочени в параграф 1, първа алинея, буква з) от настоящия член, трябва да съответства на необходимите и пропорционални гаранции и условия за използване в съответствие с националното право, което допуска такова използване, и по-специално по отношение на времевите, териториалните ограничения и ограниченията по отношение на лицата. Използването на системи за дистанционна биометрична идентификация в реално време на обществено достъпни места се разрешава само ако правоохранителният орган е извършил оценката на въздействието върху основните права, посочена в член 27, и е регистрирал системата в базата данни на ЕС в съответствие с член 49. В надлежно обосновани спешни случаи обаче използването на тези системи може да започне без регистрация в базата данни на ЕС, при условие че регистрацията бъде извършена без ненужно забавяне.
Barra minn hekk, l-użu ta' sistemi ta’ identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għall-finijiet tal-infurzar tal-liġi għal kwalunkwe wieħed mill-objettivi msemmija fil-paragrafu 1, l-ewwel subparagrafu, il-punt (h) ta' dan l-Artikolu għandu jikkonforma mas-salvagwardji u l-kundizzjonijiet meħtieġa u proporzjonati fir-rigward tal-użu f'konformità mal-liġi nazzjonali li tawtorizza l-użu tagħhom, b'mod partikolari fir-rigward tal-limitazzjonijiet temporali, ġeografiċi u personali. L-użu tas-sistema ta’ identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għandu jiġi awtorizzat biss jekk l-awtorità tal-infurzar tal-liġi tkun lestiet valutazzjoni tal-impatt fuq id-drittijiet fundamentali kif previst fl-Artikolu 27 u tkun irreġistrat is-sistema fil-bażi tad-data tal-UE skont l-Artikolu 49. Madankollu, f'każijiet ta' urġenza debitament ġustifikati, l-użu ta' tali sistemi jista' jinbeda mingħajr ir-reġistrazzjoni fil-bażi tad-data tal-UE, dment li tali reġistrazzjoni titlesta mingħajr dewmien żejjed.
3. За целите на параграф 1, първа алинея, буква з) и параграф 2, за всяко използване за правоохранителни цели на система за дистанционна биометрична идентификация в реално време на обществено достъпни места се изисква предварително разрешение, което се издава от съдебен орган или от независим административен орган, чието решение е задължително, на държавата членка, в която ще се осъществи използването, след получаване на мотивирано искане и в съответствие с подробните правила на националното право, посочени в параграф 5. В надлежно обосновани спешни случаи обаче използването на системата може да започне без разрешение, при условие че такова разрешение се поиска без ненужно забавяне, най-късно в рамките на 24 часа. Ако искането за разрешение бъде отхвърлено, използването се прекратява незабавно и всички данни, както и резултатите от това използване, незабавно се премахват и заличават.
3. Għall-finijiet tal-paragrafu 1, l-ewwel subparagrafu, il-punt (h) u l-paragrafu 2, kull użu għall-finijiet tal-infurzar tal-liġi ta' sistema ta’ identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għandu jkun soġġett għal awtorizzazzjoni minn qabel mogħtija minn awtorità ġudizzjarja jew awtorità amministrattiva indipendenti li d-deċiżjoni tagħha hija vinkolanti tal-Istat Membru li fih ser isir l-użu, maħruġa wara talba motivata u f'konformità mar-regoli dettaljati tal-liġi nazzjonali msemmija fil-paragrafu 5. Madankollu, f'sitwazzjoni ta' urġenza debitament ġustifikata, l-użu ta' tali sistema jista' jinbeda mingħajr awtorizzazzjoni dment li dik l-awtorizzazzjoni tintalab mingħajr dewmien żejjed, sa mhux aktar tard minn 24 siegħa wara. Jekk tali awtorizzazzjoni tiġi rrifjutata, l-użu għandu jitwaqqaf b'effett immedjat u d-data kollha, kif ukoll ir-riżultati u l-outputs ta' dak l-użu għandhom jiġu skartati u mħassra minnufih.
Компетентният съдебен орган или независим административен орган, чието решение е задължително, издава разрешението само ако въз основа на обективни доказателства или данни за ясни признаци, които са му представени, се убеди, че използването на въпросната система за дистанционна биометрична идентификация в реално време е необходимо и пропорционално за постигането на една от целите, посочени в параграф 1, първа алинея, буква з), която се посочва в искането, и по-специално се ограничава до строго необходимото по отношение на времевия и териториалния обхват и обхвата по отношение на лицата. Когато взема решение по искането, този орган взема предвид елементите, посочени в параграф 2. Не може да бъде взето решение, пораждащо неблагоприятни правни последици за дадено лице, единствено въз основа на резултата от системата за дистанционна биометрична идентификация в реално време.
L-awtorità ġudizzjarja kompetenti jew awtorità amministrattiva indipendenti li d-deċiżjoni tagħha tkun vinkolanti għandha tagħti l-awtorizzazzjoni biss meta tkun sodisfatta, abbażi ta' evidenza oġġettiva jew indikazzjonijiet ċari ppreżentati lilha, li l-użu tas-sistema ta’ identifikazzjoni bijometrika remota “fil-ħin reali” ikkonċernata hu meħtieġ u proporzjonat biex jintlaħaq wieħed mill-objettivi speċifikati fil-paragrafu 1, l-ewwel subparagrafu, il-punt (h), kif identifikat fit-talba u, b'mod partikolari, jibqa' limitat għal dak li huwa strettament meħtieġ fir-rigward tat-tul ta' żmien u l-firxa ġeografika u personali. Meta tiddeċiedi dwar it-talba, dik l-awtorità għandha tqis l-elementi msemmijin fil-paragrafu 2. L-ebda deċiżjoni li tipproduċi effett legali negattiv fuq persuna ma tista' tittieħed abbażi biss tal-output tas-sistema ta’ identifikazzjoni bijometrika remota “fil-ħin reali”.
4. Без да се засяга параграф 3, за всяко използване на система за дистанционна биометрична идентификация в реално време на обществено достъпни места за правоохранителни цели се уведомяват съответният орган за надзор на пазара и националният орган за защита на данните в съответствие с националните правила, посочени в параграф 5. Уведомлението съдържа най-малко информацията, посочена в параграф 6, и не включва чувствителни оперативни данни.
4. Mingħajr preġudizzju għall-paragrafu 3, kull użu ta' sistema ta' identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għal finijiet tal-infurzar tal-liġi għandu jiġi notifikat lill-awtorità tas-sorveljanza tas-suq rilevanti u lill-awtorità nazzjonali għall-protezzjoni tad-data f'konformità mar-regoli nazzjonali msemmija fil-paragrafu 5. Bħala minimu, in-notifika għandha tinkludi l-informazzjoni speċifikata fil-paragrafu 6 u ma għandhiex tinkludi data operazzjonali sensittiva.
5. Държава членка може да реши да предвиди възможността за пълно или частично разрешаване на използването на системи за дистанционна биометрична идентификация в реално време на обществено достъпни места за правоохранителни цели в рамките на ограниченията и при условията, изброени в параграф 1, първа алинея, буква з) и в параграфи 2 и 3. Съответните държави членки установяват в националното си право необходимите подробни правила за подаване на искания за разрешенията, посочени в параграф 3, за тяхното издаване и изпълнение, както и за надзора и докладването по отношение на тях. В тези правила се конкретизира също така по отношение на кои от целите, посочени в параграф 1, първа алинея, буква з), включително по отношение на кои престъпления, посочени в буква з), точка iii) от същата разпоредба, на компетентните органи може да бъде разрешено да използват тези системи за правоохранителни цели. Държавите членки съобщават на Комисията тези правила най-късно 30 дни след приемането им. Държавите членки могат да въведат, в съответствие с правото на Съюза, по-ограничителни законови разпоредби относно използването на системи за дистанционна биометрична идентификация.
5. Stat Membru jista' jiddeċiedi li jipprevedi l-possibbiltà li jawtorizza għalkollox jew parzjalment l-użu ta' sistemi ta’ identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għall-finijiet tal-infurzar tal-liġi skont il-limiti u l-kundizzjonijiet elenkati fil-paragrafu 1, l-ewwel subparagrafu, il-punt (h), u l-paragrafi 2 u 3. L-Istati Membri kkonċernati għandhom jistabbilixxu fil-liġi nazzjonali tagħhom ir-regoli dettaljati meħtieġa għat-talba, il-ħruġ u l-eżerċitar tal-awtorizzazzjonijiet imsemmija fil-paragrafu 3, kif ukoll għas-superviżjoni u r-rappurtar relatati magħhom. Dawk ir-regoli għandhom jispeċifikaw ukoll fir-rigward ta' liema objettivi elenkati fil-paragrafu 1, l-ewwel subparagrafu, il-punt (h), inkluż liema reati kriminali msemmija fil-punt (h)(iii) tiegħu, l-awtoritajiet kompetenti jistgħu jkunu awtorizzati jużaw dawk is-sistemi għall-finijiet tal-infurzar tal-liġi. L-Istati Membri għandhom jinnotifikaw dawk ir-regoli lill-Kummissjoni sa mhux aktar tard minn 30 jum wara l-adozzjoni tagħhom. L-Istati Membri jistgħu jintroduċu, f'konformità mal-liġi tal-Unjoni, liġijiet aktar restrittivi dwar l-użu ta' sistemi ta’ identifikazzjoni bijometrika remota.
6. Националните органи за надзор на пазара и националните органи за защита на данните на държавите членки, които са били уведомени за използването на системи за дистанционна биометрична идентификация в реално време на обществено достъпни места за правоохранителни цели съгласно параграф 4, представят на Комисията годишни доклади относно това използване. За тази цел Комисията осигурява на държавите членки и на националните органи за надзор на пазара и за защита на данните образец, включващ информация за броя на решенията, взети от компетентните съдебни органи или от независим административен орган, чието решение е задължително, по отношение на искания за разрешения в съответствие с параграф 3 и за резултатите от тях.
6. L-awtoritajiet nazzjonali tas-sorveljanza tas-suq u l-awtoritajiet nazzjonali tal-protezzjoni tad-data tal-Istati Membri li ġew notifikati dwar l-użu ta' sistemi ta’ identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għal finijiet tal-infurzar tal-liġi skont il-paragrafu 4 għandhom jippreżentaw lill-Kummissjoni rapporti annwali dwar it-tali użu. Għal dak il-għan, il-Kummissjoni għandha tipprovdi lill-Istati Membri u lill-awtoritajiet nazzjonali tas-sorveljanza tas-suq u tal-protezzjoni tad-data, mudell, fejn jinkludi informazzjoni dwar l-għadd tad-deċiżjonijiet meħuda mill-awtoritajiet ġudizzjarji kompetenti jew awtorità amministrattiva indipendenti li d-deċiżjoni tagħha hija vinkolanti fuq talbiet għal awtorizzazzjonijiet f'konformità mal-paragrafu 3 u r-riżultat tagħhom.
7. Комисията публикува годишни доклади относно използването на системи за дистанционна биометрична идентификация в реално време на обществено достъпни места за правоохранителни цели на базата на обобщени данни в държавите членки, основани на посочените в параграф 6 годишни доклади. Тези годишни доклади не съдържат чувствителни оперативни данни от съответните правоохранителни дейности.
7. Il-Kummissjoni għandha tippubblika rapporti annwali dwar l-użu ta' sistemi ta’ identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għal finijiet tal-infurzar tal-liġi abbażi tad-data aggregata fl-Istati Membri bbażati fuq ir-rapporti annwali msemmija fil-paragrafu 6. Dawk ir-rapporti annwali ma għandhomx jinkludu data operazzjonali sensittiva tal-attivitajiet relatati tal-infurzar tal-liġi.
8. Настоящият член не засяга забраните, които се прилагат, когато дадена практика в областта на ИИ нарушава друго право на Съюза.
8. Dan l-Artikolu ma għandux jaffettwa l-projbizzjonijiet li japplikaw meta prattika tal-IA tikser liġi oħra tal-Unjoni.
Правила за класифициране на системи с ИИ като високорискови
Regoli ta' klassifikazzjoni għas-sistemi tal-IA b'riskju għoli
1. Без оглед на това дали дадена система с ИИ се пуска на пазара или се пуска в действие независимо от продуктите, посочени в букви а) и б), тази система с ИИ се счита за високорискова, когато са изпълнени следните две условия:
1. Irrispettivament minn jekk sistema tal-IA tiġix introdotta fis-suq jew imqiegħda fis-servizz b'mod indipendenti mill-prodotti msemmija fil-punti (a) u (b), dik is-sistema tal-IA għandha titqies bħala riskju għoli jekk tkun tissodisfa ż-żewġ kundizzjonijiet li ġejjin:
a)
системата с ИИ е предназначена да се използва като защѝтен елемент на продукт или самата система с ИИ е продукт, попадащ в обхвата на законодателството на Съюза за хармонизация, посочено в приложение I;
(a)
is-sistema tal-IA hija maħsuba biex tintuża bħala komponent tas-sikurezza ta' prodott, jew is-sistema tal-IA tkun hi stess prodott, kopert bil-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni elenkata fl-Anness I;
б)
продуктът, чийто защѝтен елемент съгласно буква а) е системата с ИИ, или самата система с ИИ като продукт трябва да премине оценяване на съответствието от трето лице с оглед на пускането на пазара или пускането в действие на посочения продукт в съответствие със законодателството на Съюза за хармонизация, посочено в приложение I.
(b)
il-prodott li l-komponent tas-sikurezza tiegħu skont il-punt (a) huwa s-sistema tal-IA, jew is-sistema tal-IA hi stess bħala prodott, jeħtieġ issirlu valutazzjoni tal-konformità minn parti terza, bil-ħsieb li dak il-prodott jiġi introdott fis-suq jew imqiegħed fis-servizz skont il-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni elenkata fl-Anness I.
2. В допълнение към високорисковите системи с ИИ, посочени в параграф 1, за високорискови се считат и системите с ИИ, посочени в приложение III.
2. Minbarra s-sistemi tal-IA b'riskju għoli msemmija fil-paragrafu 1, is-sistemi tal-IA msemmija fl-Anness III għandhom ukoll jitqiesu bħala b'riskju għoli.
3. Чрез дерогация от параграф 2, система с ИИ, посочена в приложение III, не се счита за високорискова, ако не представлява значителен риск от увреждане на здравето, безопасността или основните права на физическите лица, включително като не оказва съществено влияние върху резултата от вземането на решения.
3. B'deroga mill-paragrafu 2, sistema tal-IA msemmija fl-Anness III ma għandhiex titqies bħala b'riskju għoli fejn ma toħloqx riskju sinifikanti ta' ħsara, għas-saħħa, għas-sikurezza jew għad-drittijiet fundamentali tal-persuni fiżiċi, inkluż billi ma tinfluwenzax materjalment l-eżitu tat-teħid tad-deċiżjonijiet.
Първа алинея се прилага, когато е изпълнено някое от следните условия:
L-ewwel subparagrafu għandu japplika fejn tiġi ssodisfata kwalunkwe waħda mill-kundizzjonijiet li ġejjin:
a)
системата с ИИ е предназначена да изпълнява точно формулирана процедурна задача;
(a)
is-sistema tal-IA hija maħsuba biex twettaq kompitu proċedurali ristrett;
б)
системата с ИИ е предназначена да подобри резултата от извършена преди това човешка дейност;
(b)
is-sistema tal-IA hija maħsuba biex ittejjeb ir-riżultat ta' attività mill-bniedem li tkun tlestiet qabel;
в)
системата с ИИ е предназначена да открива модели за вземане на решения или отклонения от предходни модели за вземане на решения и не е предназначена да замени или повлияе на направената преди това човешка оценка, без да бъде извършен подходящ преглед от човек; или
(c)
is-sistema tal-IA hija maħsuba biex tikxef xejriet ta' teħid ta' deċiżjonijiet jew devjazzjonijiet minn xejriet ta' teħid ta' deċiżjonijiet preċedenti u mhijiex maħsuba biex tissostitwixxi jew tinfluwenza l-valutazzjoni mill-bniedem li tkun tlestiet qabel, mingħajr rieżami xieraq mill-bniedem; jew
г)
системата с ИИ е предназначена да изпълнява подготвителна задача с оглед на извършването на оценка, която е от значение за целите на случаите на използване, посочени в приложение III.
(d)
is-sistema tal-IA hija maħsuba biex twettaq kompitu preparatorju għal valutazzjoni rilevanti għall-finijiet tal-każijiet ta' użu elenkati fl-Anness III.
Независимо от първа алинея, система с ИИ, посочена в приложение III, винаги се счита за високорискова, когато извършва профилиране на физически лица.
Minkejja l-ewwel subparagrafu, sistema tal-IA msemmija fl-Anness III għandha dejjem titqies bħala b'riskju għoli meta s-sistema tal-IA twettaq tfassil tal-profili ta' persuni fiżiċi.
4. Доставчик, който счита, че дадена система с ИИ, посочена в приложение III, не е високорискова, документира своята оценка, преди тази система да бъде пусната на пазара или пусната в действие. За такъм доставчик се прилага задължението за регистрация, установено в член 49, параграф 2. При поискване от националните компетентни органи доставчикът предоставя документацията за оценката.
4. Fornitur li jqis li sistema tal-IA msemmija fl-Anness III mhix b'riskju għoli għandu jiddokumenta l-valutazzjoni tiegħu qabel ma dik is-sistema tiġi introdotta fis-suq jew titqiegħed fis-servizz. Tali fornitur għandu jkun soġġett għall-obbligu ta' reġistrazzjoni stipulat fl-Artikolu 49(2). Fuq talba tal-awtoritajiet nazzjonali kompetenti, il-fornitur għandu jipprovdi d-dokumentazzjoni tal-valutazzjoni.
5. Комисията, след консултация с Европейския съвет по изкуствен интелект (наричан по-долу „Съветът по ИИ“) и не по-късно от 2 февруари 2026 г., дава насоки, с които конкретизира практическото прилагане на настоящия член в съответствие с член 96, заедно с изчерпателен списък с практически примери за случаи на употреба на системи с ИИ, които са високорискови, и такива, които не са високорискови.
5. Il-Kummissjoni għandha, wara li tikkonsulta lill-Bord Ewropew għall-Intelliġenza Artifiċjali (il-“Bord”), u mhux aktar tard mit-2 ta’ Frar 2026, tipprovdi linji gwida li jispeċifikaw l-implimentazzjoni prattika ta' dan l-Artikolu f'konformità mal-Artikolu 96 flimkien ma' lista komprensiva ta' eżempji prattiċi ta' każijiet ta' użu ta' sistemi tal-IA b'riskju għoli u mingħajr riskju għoli.
6. На Комисията се предоставя правомощието да приема делегирани актове в съответствие с член 97 за изменение на параграф 3, втора алинея от настоящия член чрез добавяне на нови условия към установените в посочената разпоредба или за изменението им, когато има конкретни и достоверни доказателства за наличието на системи с ИИ, които попадат в обхвата на приложение III, но не пораждат значителен риск от увреждане на здравето, безопасността или основните права на физическите лица.
6. Il-Kummissjoni għandha tadotta atti delegati f'konformità mal-Artikolu 97 biex temenda l-kundizzjonijiet stabbiliti fil-paragrafu 3, l-ewwel subparagrafu, ta' dan l-Artikolu. Il-Kummissjoni tingħata s-setgħa li tadotta atti delegati f'konformità mal-Artikolu 97 sabiex temenda l-paragrafu 3, it-tieni subparagrafu, ta’ dan l-Artikolu billi żżid kundizzjonijiet ġodda ma' dawk stabbiliti fih, jew billi timmodifikahom, meta jkun hemm evidenza konkreta u affidabbli tal-eżistenza ta' sistemi tal-IA li jaqgħu fil-kamp ta' applikazzjoni tal-Anness III iżda li ma joħolqux riskju sinifikanti ta' ħsara għas-saħħa, għas-sikurezza jew għad-drittijiet fundamentali ta' persuni fiżiċi.
7. Комисията приема делегирани актове в съответствие с член 97 за изменение на параграф 3, втора алинея от настоящия член чрез заличаване на някое от условията, установени в посочената разпоредба, когато има конкретни и достоверни доказателства, че това е необходимо за поддържането на равнището на защита на здравето, безопасността и основните права, предвидено в настоящия регламент.
7. Il-Kummissjoni għandha tadotta atti delegati f'konformità mal-Artikolu 97 sabiex temenda l-paragrafu 3, it-tieni subparagrafu, ta’ dan l-Artikolu billi tħassar kwalunkwe waħda mill-kundizzjonijiet stabbiliti fih, fejn ikun hemm evidenza konkreta u affidabbli li dan ikun meħtieġ biex jinżamm il-livell ta' protezzjoni tas-saħħa, tas-sikurezza u tad-drittijiet fundamentali previsti f’dan ir-Regolament.
8. Приетите в съответствие с параграфи 6 и 7 от настоящия член изменения на условията, установени в параграф 3, втора алинея, не може да намаляват общото равнище на защита на здравето, безопасността и основните права, предвидено в настоящия регламент, трябва да осигуряват съгласуваност с делегираните актове, приети съгласно член 7, параграф 1, и да са съобразени с пазарното и технологичното развитие.
8. Kwalunkwe emenda għall-kundizzjonijiet stabbiliti fil-paragrafu 3, it-tieni subparagrafu, adottati f’konformità mal-paragrafi 6 u 7 ta’ dan l-Artikolu, ma għandhiex tnaqqas il-livell ġenerali ta' protezzjoni tas-saħħa, tas-sikurezza u tad-drittijiet fundamentali previsti f’dan ir-Regolament u għandha tiżgura konsistenza mal-atti delegati adottati skont l-Artikolu 7(1), u tqis l-iżviluppi teknoloġiċi u tas-suq.
Съответствие с изискванията
1. Високорисковите системи с ИИ трябва да съответстват на изискванията, установени в настоящия раздел, като се взема предвид тяхното предназначение, както и общоприетите съвременни технически постижения в областта на ИИ и свързаните с ИИ технологии. При осигуряването на съответствие с тези изисквания се взема предвид системата за управление на риска, посочена в член 9.
1. Is-sistemi tal-IA b'riskju għoli għandhom jikkonformaw mar-rekwiżiti stabbiliti f'din it-Taqsima, b'kunsiderazzjoni tal-għan maħsub tagħhom kif ukoll tal-ogħla żvilupp tekniku ġeneralment rikonoxxut fir-rigward tal-IA u teknoloġiji relatati mal-IA. Meta tkun qed tiġi żgurata l-konformità ma' dawk ir-rekwiżiti għandha titqies is-sistema ta' ġestjoni tar-riskju msemmija fl-Artikolu 9.
2. Когато даден продукт съдържа система с ИИ, за която се прилагат изискванията на настоящия регламент, както и изискванията на законодателството на Съюза за хармонизация, посочено в раздел А от приложение I, доставчиците носят отговорност за осигуряване на пълното съответствие на продукта с всички приложими изисквания съгласно приложимото законодателство на Съюза за хармонизация. С оглед на осигуряване на съответствието на високорисковите системи с ИИ, посочени в параграф 1, с изискванията, установени в настоящия раздел, и с цел да се осигури съгласуваност, да се избегне дублиране и да се сведе до минимум допълнителната тежест, доставчиците могат да изберат да включат, когато е целесъобразно, необходимите процеси на изпитване и докладване, информация и документация, които предоставят за своя продукт, във вече съществуваща документация и процедури, изисквани съгласно законодателството на Съюза за хармонизация, посочено в раздел А от приложение I.
2. Meta prodott ikun fih sistema tal-IA, li għaliha japplikaw ir-rekwiżiti ta' dan ir-Regolament kif ukoll ir-rekwiżiti tal-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni elenkati fit-Taqsima A tal-Anness I, il-fornituri għandhom ikunu responsabbli biex jiżguraw li l-prodott tagħhom ikun kompletament konformi mar-rekwiżiti applikabbli kollha skont il-leġiżlazzjoni applikabbli tal-Unjoni dwar l-armonizzazzjoni. Meta jkunu qed jiżguraw il-konformità ta' sistemi tal-IA b'riskju għoli msemmija fil-paragrafu 1 mar-rekwiżiti stipulati f'din it-Taqsima, u sabiex jiżguraw il-konsistenza, jevitaw id-duplikazzjonijiet u jimminimizzaw il-piżijiet addizzjonali, il-fornituri għandu jkollhom għażla li jintegraw, skont il-każ, il-proċessi ta' ttestjar u ta' rapportar, l-informazzjoni u d-dokumentazzjoni meħtieġa li jipprovdu fir-rigward tal-prodott tagħhom fid-dokumentazzjoni u l-proċeduri diġà eżistenti u li huma meħtieġa skont il-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni elenkata fit-Taqsima A tal-Anness I.
Система за управление на риска
Sistema ta' ġestjoni tar-riskju
1. Във връзка с високорисковите системи с ИИ се създава, прилага, документира и поддържа система за управление на риска.
1. Għandha tiġi stabbilita, implimentata, dokumentata u miżmuma sistema ta' ġestjoni tar-riskju fir-rigward tas-sistemi tal-IA b'riskju għoli.
2. Системата за управление на риска се разбира като непрекъснат цикличен процес, планиран и протичащ през целия жизнен цикъл на високорисковата система с ИИ и изискващ редовен и систематичен преглед и актуализиране. Тя включва следните стъпки:
2. Is-sistema ta' ġestjoni tar-riskju għandha tinftiehem bħala proċess iterattiv kontinwu ppjanat u li jseħħ tul iċ-ċiklu tal-ħajja kollu ta' sistema tal-IA b'riskju għoli, li jirrikjedi rieżami u aġġornament sistematiċi regolari. Għandu jkun fiha l-passi li ġejjin:
a)
установяване и анализ на известните и разумно предвидимите рискове, които високорисковата система с ИИ може да породи по отношение на здравето, безопасността и основните права, когато високорисковата система с ИИ се използва в съответствие с предназначението си;
(a)
l-identifikazzjoni u l-analiżi tar-riskji magħrufa u raġonevolment prevedibbli li s-sistema tal-IA b'riskju għoli tista' toħloq għas-saħħa, għas-sikurezza jew għad-drittijiet fundamentali meta s-sistema tal-IA b'riskju għoli tintuża f'konformità mal-għan maħsub tagħha;
б)
прогноза и оценка на рисковете, които могат да възникнат, когато високорисковата система с ИИ се използва в съответствие с предназначението си и в условия на разумно предвидима неправилна експлоатация;
(b)
l-istima u l-evalwazzjoni tar-riskji li jistgħu jitfaċċaw meta s-sistema tal-IA b'riskju għoli tintuża f'konformità mal-għan maħsub tagħha u f'kundizzjonijiet ta' użu ħażin raġonevolment prevedibbli;
в)
оценка на други евентуално възникващи рискове въз основа на анализ на данните, събрани от системата за мониторинг след пускането на пазара, посочена в член 72;
(c)
l-evalwazzjoni ta' riskji oħra li jistgħu jinħolqu abbażi tal-analiżi tad-data miġbura mis-sistema ta' sorveljanza ta' wara t-tqegħid fis-suq imsemmija fl-Artikolu 72;
г)
приемане на подходящи и целенасочени мерки за управление на риска, разработени с цел преодоляване на рисковете, установени съгласно буква а).
(d)
l-adozzjoni ta' miżuri ta' ġestjoni tar-riskju xierqa u mmirati mfassla biex jindirizzaw ir-riskji identifikati skont il-punt (a).
3. Рисковете, посочени в настоящия член, се отнасят само до тези, които могат да бъдат разумно ограничени или отстранени при разработването или проектирането на високорисковата система с ИИ или чрез предоставянето на подходяща техническа информация.
3. Ir-riskji msemmija f'dan l-Artikolu għandhom jikkonċernaw biss dawk li jistgħu jiġu mitigati jew eliminati b'mod raġonevoli bl-iżvilupp jew id-disinn tas-sistema tal-IA b'riskju għoli, jew bl-għoti ta' informazzjoni teknika adegwata.
4. Мерките за управление на риска, посочени в параграф 2, буква г), трябва да са надлежно съобразени с последиците и възможното взаимодействие в резултат на съчетаното прилагане на изискванията, установени в настоящия раздел, с цел по-ефективното свеждане до минимум на рисковете, като същевременно се постигне подходящ баланс при прилагането на мерките за изпълнение на тези изисквания.
4. Il-miżuri ta' ġestjoni tar-riskju msemmija fil-paragrafu 2, il-punt (d) għandhom iqisu kif xieraq l-effetti u l-interazzjoni possibbli li jirriżultaw mill-applikazzjoni kkombinata tar-rekwiżiti stipulati f'din it-Taqsima, bil-għan li jiġu minimizzati r-riskji b'mod aktar effettiv filwaqt li jinkiseb bilanċ xieraq fl-implimentazzjoni tal-miżuri biex jiġu ssodisfati dawk ir-rekwiżiti.
5. Мерките за управление на риска, посочени в параграф 2, буква г), трябва да са такива, че съответният остатъчен риск, свързан с всяка опасност, както и общият остатъчен риск на високорисковите системи с ИИ, да се считат за приемливи.
5. Il-miżuri ta' ġestjoni tar-riskju msemmija fil-paragrafu 2, il-punt (d) għandhom ikunu tali li r-riskju residwu rilevanti assoċjat ma' kull periklu kif ukoll ir-riskju residwu ġenerali tas-sistemi tal-IA b'riskju għoli jitqies aċċettabbli.
При определянето на най-подходящите мерки за управление на риска се гарантира следното:
Fl-identifikazzjoni tal-aktar miżuri xierqa ta' ġestjoni tar-riskju, għandu jkun żgurat dan li ġej:
a)
отстраняване или намаляване на рисковете, установени и оценени съгласно параграф 2, доколкото е технически осъществимо, чрез адекватно проектиране и разработване на високорисковата система с ИИ;
(a)
l-eliminazzjoni jew it-tnaqqis tar-riskji identifikati u evalwati skont il-paragrafu 2 sa fejn hu teknikament possibbli permezz ta' disinn u żvilupp adegwati tas-sistema tal-IA b'riskju għoli;
б)
когато е целесъобразно, прилагане на адекватни мерки за ограничаване и контрол по отношение на рисковете, които не могат да бъдат отстранени;
(b)
meta xieraq, l-implimentazzjoni ta' miżuri adegwati ta' mitigazzjoni u ta' kontroll li jindirizzaw ir-riskji li ma jistgħux jiġu eliminati;
в)
предоставяне на необходимата информация съгласно член 13 и, където е целесъобразно, обучение на внедрителите.
(c)
l-għoti ta' informazzjoni meħtieġa skont l-Artikolu 13, u, meta xieraq, taħriġ lill-implimentaturi.
С оглед на отстраняването или намаляването на рисковете, свързани с използването на високорисковата система с ИИ, се отчитат надлежно техническите познания, опитът, образованието и обучението, които се очакват от внедрителя, и предполагаемият контекст, в който системата е предназначена да се използва.
Bil-ħsieb tal-eliminazzjoni jew it-tnaqqis tar-riskji relatati mal-użu tas-sistema tal-IA b'riskju għoli, għandha tingħata kunsiderazzjoni dovuta lill-għarfien tekniku, l-esperjenza, l-edukazzjoni, it-taħriġ li għandu jkun mistenni mill-implimentatur u l-kuntest preżunt li fih tkun maħsuba li tintuża s-sistema.
6. Високорисковите системи с ИИ се изпитват с цел набелязване на най-подходящите и целенасочени мерки за управление на риска. Изпитванията трябва да гарантират, че високорисковите системи с ИИ функционират стабилно с оглед на предназначението си и че са в съответствие с изискванията, установени в настоящия раздел.
6. Is-sistemi tal-IA b'riskju għoli għandhom jiġu ttestjati għall-finit tal-identifikazzjoni tal-aktar miżuri ta' ġestjoni tar-riskju xierqa u mmirati. L-ittestjar għandu jiżgura li s-sistemi tal-IA b'riskju għoli jaħdmu b'mod konsistenti għall-għan maħsub tagħhom u li jkunu konformi mar-rekwiżiti stipulati f'din it-Taqsima.
7. Процедурите за изпитване може да включват изпитване в реални условия в съответствие с член 60.
7. Il-proċeduri tal-ittestjar jistgħu jinkludu ttestjar fil-kundizzjonijiet tad-dinja reali skont l-Artikolu 60.
8. Изпитването на високорисковите системи с ИИ се извършва, когато е целесъобразно, във всеки момент от процеса на разработване и — при всички случаи — преди пускането им на пазара или пускането им в действие. Изпитването се извършва спрямо предварително определени показатели и вероятностни прагове, които са подходящи с оглед на предназначението на високорисковата система с ИИ.
8. L-ittestjar ta' sistemi tal-IA b'riskju għoli għandu jitwettaq, kif xieraq, fi kwalunkwe ħin matul il-proċess ta' żvilupp, u, fi kwalunkwe każ, qabel l-introduzzjoni tagħhom fis-suq jew it-tqegħid fis-servizz. L-ittestjar għandu jitwettaq ma' metrika definita minn qabel u limiti massimi probabilistiċi li huma adattati għall-għan maħsub tas-sistema tal-IA b'riskju għoli.
9. При прилагането на системата за управление на риска, предвидена в параграфи 1—7, доставчиците разглеждат въпроса дали, с оглед на предназначението на високорисковата система с ИИ, е вероятно тя да окаже неблагоприятно въздействие върху ненавършили 18 години лица и, в зависимост от случая, върху други уязвими групи.
9. Meta jkunu qed jimplimentaw is-sistema ta' ġestjoni tar-riskju kif previst fil-paragrafi 1 sa 7, il-fornituri għandhom iqisu jekk, fid-dawl tal-għan maħsub tagħha, is-sistema tal-IA b'riskju għoli x'aktarx ikollha impatt negattiv fuq il-persuni taħt it-18-il sena u, kif xieraq, fuq gruppi oħra vulnerabbli.
10. За доставчиците на високорискови системи с ИИ, спрямо които се прилагат изисквания по отношение на вътрешните процеси за управление на риска съгласно други относими разпоредби на правото на Съюза, аспектите, предвидени в параграфи 1—9, могат да бъдат част от процедурите за управление на риска, установени съгласно това право, или да се съчетават с тях.
10. Għall-fornituri ta' sistemi tal-IA b'riskju għoli li huma soġġetti għal rekwiżiti rigward il-proċessi ta' ġestjoni tar-riskju interni skont dispożizzjonijiet rilevanti oħra tal-liġi tal-Unjoni, l-aspetti previsti fil-paragrafi 1 sa 9 jistgħu jkunu parti mill-proċeduri ta' ġestjoni tar-riskju stabbiliti skont dik il-liġi, jew ikkombinati magħhom.
Данни и администриране на данните
Data u governanza tad-data
1. Високорисковите системи с ИИ, при които се използват техники, свързани с обучение с данни на модели с ИИ, се разработват въз основа на набори от обучителни, валидационни и изпитвателни данни, които отговарят на критериите за качество, посочени в параграфи 2—5, когато се използват такива набори от данни.
1. Sistemi tal-IA b'riskju għoli li jagħmlu użu minn tekniki li jinvolvu t-taħriġ ta' mudelli tal-IA b'data għandhom jiġu żviluppati abbażi ta' settijiet tad-data għal taħriġ, validazzjoni u ttestjar li jissodisfaw il-kriterji tal-kwalità msemmija fil-paragrafi 2 sa 5, kull meta jintużaw dawn is-settijiet tad-data.
2. По отношение на наборите от обучителни, валидационни и изпитвателни данни се прилагат практики за администриране и управление на данните, подходящи с оглед на предназначението на системата с ИИ. Тези практики се отнасят по-специално до:
2. Is-settijiet tad-data għal taħriġ, validazzjoni u ttestjar għandhom ikunu soġġetti għal prattiki ta' governanza u ġestjoni tad-data xierqa għall-għan maħsub tas-sistema tal-IA b'riskju għoli. Dawk il-prattiki għandhom jikkonċernaw b'mod partikolari:
a)
съответните проектантски решения;
(a)
l-għażliet ta' disinn rilevanti;
б)
процесите на събиране на данни и произхода на данните и в случай на лични данни — първоначалната цел на събирането на данните;
(b)
il-proċessi tal-ġbir tad-data u l-oriġini tad-data, u fil-każ ta' data personali, l-iskop oriġinali tal-ġbir tad-data;
в)
съответните операции по подготовка на данните, като анотиране, обозначаване, изчистване, актуализиране, обогатяване и агрегиране;
(c)
operazzjonijiet rilevanti ta' pproċessar ta' tħejjija tad-data, bħall-annotazzjoni, it-tikkettar, it-tindif, l-aġġornament, l-arrikkiment u l-aggregazzjoni;
г)
формулирането на допускания, по-специално по отношение на информацията, която данните следва да измерват и представят;
(d)
il-formulazzjoni ta' suppożizzjonijiet, b'mod partikolari fir-rigward tal-informazzjoni li d-data suppost tkejjel u tirrappreżenta;
д)
оценка на наличието, количеството и годността на необходимите набори от данни;
(e)
valutazzjoni tad-disponibbiltà, il-kwantità u l-adegwatezza tas-settijiet tad-data li huma meħtieġa;
е)
преглед с оглед на евентуална предубеденост, която има вероятност да засегне здравето и безопасността на хората, да окаже отрицателно въздействие върху основните права или да доведе до дискриминация, забранена съгласно правото на Съюза, по-специално когато резултатите от данните оказват влияние върху входящите данни за бъдещи операции;
(f)
l-eżami fid-dawl ta' preġudizzji possibbli li x'aktarx jaffettwaw is-saħħa u s-sikurezza tal-persuni, ikollhom impatt negattiv fuq id-drittijiet fundamentali jew iwasslu għal diskriminazzjoni pprojbita skont il-liġi tal-Unjoni, speċjalment fejn l-outputs tad-data jinfluwenzaw l-inputs għal operazzjonijiet futuri;
ж)
подходящи мерки за откриване, предотвратяване и смекчаване на евентуална предубеденост, установена съгласно буква е);
(g)
miżuri xierqa għall-kxif, il-prevenzjoni u l-mitigazzjoni tal-preġudizzji possibbli identifikati skont il-punt (f);
з)
откриване на съответни пропуски или недостатъци в данните, които възпрепятстват съответствието с настоящия регламент, и на начините за отстраняване на тези пропуски и недостатъци.
(h)
l-identifikazzjoni ta' lakuni jew nuqqasijiet rilevanti fid-data li jfixklu l-konformità ma' dan ir-Regolament, u kif dawk il-lakuni u n-nuqqasijiet jistgħu jiġu indirizzati.
3. Наборите от обучителни, валидационни и изпитвателни данни трябва да са подходящи, достатъчно представителни и във възможно най-голяма степен без грешки и пълни с оглед на предназначението на системата. Те трябва да притежават подходящите статистически свойства, включително, когато е приложимо, по отношение на лицата или групите лица, по отношение на които високорисковата система с ИИ е предназначена да се използва. Тези характеристики на наборите от данни могат да са налични на равнището на отделните набори от данни или по отношение на комбинация от тях.
3. Is-settijiet tad-data għal taħriġ, validazzjoni u ttestjar għandhom ikunu rilevanti, rappreżentattivi biżżejjed, u kemm jista' jkun possibbli, mingħajr żbalji u kompluti fid-dawl tal-għan maħsub. Għandu jkollhom il-proprjetajiet statistiċi adatti, inkluż, fejn applikabbli, fir-rigward tal-persuni jew il-gruppi ta' persuni fir-rigward ta' min is-sistema tal-IA b'riskju għoli tkun maħsuba li tintuża. Dawk il-karatteristiċi tas-settijiet tad-data jistgħu jiġu ssodisfati fil-livell ta' settijiet tad-data individwali jew fil-livell ta' taħlita tagħhom.
4. Наборите от данни трябва да са съобразени — доколкото това е необходимо с оглед на предназначението — с характеристиките или елементите, характерни за конкретната географска, контекстуална, поведенческа или функционална среда, в която високорисковата система с ИИ е предназначена да бъде използвана.
4. Is-settijiet tad-data għandhom iqisu, sa fejn ikun mitlub mill-għan maħsub, il-karatteristiċi jew l-elementi li jkunu partikolari għall-ambjent ġeografiku, kuntestwali, komportamentali jew funzjonali speċifiku li fih tkun maħsuba li tintuża s-sistema tal-IA b'riskju għoli.
5. Доколкото това е строго необходимо, за да се гарантира откриване и коригиране на предубеденост във високорисковите системи с ИИ в съответствие с параграф 2, букви е) и ж) от настоящия член, доставчиците на такива системи могат по изключение да обработват специални категории лични данни при спазването на подходящи гаранции за основните права и свободи на физическите лица. Освен разпоредбите, предвидени в регламенти (ЕС) 2016/679 и (ЕС) 2018/1725 и Директива (ЕС) 2016/680, за да може да се извърши такова обработване, трябва да бъдат изпълнени всички посочени по-долу условия:
5. Sal-punt li jkun strettament meħtieġ għall-fini li jiġu żgurati l-kxif u l-korrezzjoni tal-preġudizzju fir-rigward tas-sistemi tal-IA b'riskju għoli f'konformità mal-paragrafu (2), il-punti (f) u (g) ta' dan l-Artikolu, il-fornituri ta' tali sistemi jistgħu jipproċessaw b'mod eċċezzjonali kategoriji speċjali ta' data personali, soġġett għal salvagwardji xierqa għad-drittijiet u l-libertajiet fundamentali tal-persuni fiżiċi. Minbarra d-dispożizzjonijiet stipulati fir-Regolamenti (UE) 2016/679 u (UE) 2018/1725, id-Direttiva (UE) 2016/680, sabiex iseħħ tali pproċessar iridu jiġu ssodisfati l-kundizzjonijiet kollha li ġejjin:
a)
откриването и коригирането на предубедеността не могат да се осъществят ефективно чрез обработването на други данни, включително синтетични или анонимизирани данни;
(a)
il-kxif u l-korrezzjoni ta' preġudizzju ma jistgħux jiġu ssodisfati b'mod effettiv bl-ipproċessar ta' data oħra, inkluż data sintetika jew anonimizzata;
б)
по отношение на специалните категории лични данни се прилагат технически ограничения, свързани с повторното използване на личните данни, както и най-съвременни мерки за сигурност и опазване на неприкосновеността на личния живот, включително псевдонимизация;
(b)
il-kategoriji speċjali ta' data personali huma soġġetti għal limitazzjonijiet tekniċi fuq l-użu mill-ġdid tad-data personali u miżuri ta' sigurtà u preservazzjoni tal-privatezza tal-ogħla livell ta' żvilupp tekniku, inkluża l-psewdonimizzazzjoni;
в)
по отношение на специалните категории лични данни се прилагат мерки, с които се гарантира, че обработваните лични данни са обезопасени, защитени, спрямо тях се прилагат подходящи гаранции, включително строг контрол и документиране на достъпа, с цел да се избегне злоупотреба и да се гарантира, че само оправомощени лица имат достъп до тези лични данни със съответните задължения за спазване на поверителност;
(c)
il-kategoriji speċjali ta' data personali huma soġġetti għal miżuri biex jiġi żgurat li d-data personali pproċessata tkun sigura, protetta, soġġetta għal salvagwardji xierqa, inkluż kontrolli stretti u dokumentazzjoni tal-aċċess, biex jiġi evitat l-użu ħażin u jiġi żgurat li persuni awtorizzati biss jkollhom aċċess għal dik id-data personali b'obbligi xierqa ta' kunfidenzjalità;
г)
специалните категории лични данни не се предоставят, не се предават, нито достъпват по друг начин от други лица;
(d)
il-kategoriji speċjali ta' data personali ma għandhomx jiġu trażmessi, trasferiti jew aċċessati b'xi mod ieħor minn partijiet oħra;
д)
специалните категории лични данни се заличават, след като предубедеността бъде коригирана или личните данни достигнат края на срока си на съхранение, като се взема предвид по-рано настъпилото от двете събития;
(e)
il-kategoriji speċjali ta' data personali jitħassru ladarba l-preġudizzju jkun ġie kkoreġut jew id-data personali tkun laħqet tmiem il-perjodu ta' żamma tagħha, skont liema jiġi l-ewwel;
е)
записите за дейностите по обработване съгласно регламенти (ЕС) 2016/679 и (ЕС) 2018/1725 и Директива (ЕС) 2016/680 включват причините, поради които обработването на специални категории лични данни е било строго необходимо за откриване и коригиране на предубедеността и не било възможно тази цел да се постигне чрез обработване на други данни.
(f)
ir-rekords tal-attivitajiet ta' pproċessar skont ir-Regolamenti (UE) 2016/679 u (UE) 2018/1725 u d-Direttiva (UE) 2016/680 jinkludu r-raġunijiet għaliex l-ipproċessar ta' kategoriji speċjali ta' data personali kien strettament meħtieġ biex jinkixfu u jiġu kkoreġuti l-preġudizzji u għaliex dak l-objettiv ma setax jintlaħaq bl-ipproċessar ta' data oħra.
6. При разработването на високорискови системи с ИИ, които не използват техники, включващи обучение на модели с ИИ, параграфи 2—5 се прилагат само за наборите от изпитвателни данни.
6. Għall-iżvilupp ta' sistemi tal-IA b'riskju għoli li ma jużawx tekniki li jinvolvu t-taħriġ ta' mudelli tal-IA, il-paragrafi 2 sa 5 japplikaw biss għas-settijiet tad-data tal-ittestjar.
1. Техническата документация на дадена високорискова система с ИИ се изготвя, преди тя да бъде пусната на пазара или пусната в действие, и се поддържа актуална.
1. Id-dokumentazzjoni teknika ta' sistema tal-IA b'riskju għoli għandha titfassal qabel ma dik is-sistema tiġi introdotta fis-suq jew titqiegħed fis-servizz u għandha tinżamm aġġornata.
Техническата документация се изготвя по такъв начин, че да показва, че високорисковата система с ИИ съответства на изискванията, установени в настоящия раздел, и да предоставя на националните компетентни органи и нотифицираните органи цялата необходима информация в ясна и разбираема форма с цел оценяване на съответствието на системата с ИИ с посочените изисквания. Тя съдържа най-малко елементите, установени в приложение IV. МСП, включително новосъздадените предприятия, могат да предоставят по опростен начин елементите на техническата документация, посочени в приложение IV. За тази цел Комисията създава опростен формуляр за техническа документация, съобразен с нуждите на малките предприятия и микропредприятията. Когато МСП, включително новосъздадените предприятия, изберат да предоставят по опростен начин информацията, изисквана съгласно приложение IV, те използват формуляра, посочен в настоящия параграф. Нотифицираните органи приемат формуляра за целите на оценяването на съответствието.
Id-dokumentazzjoni teknika għandha titfassal b'mod li turi li s-sistema tal-IA b'riskju għoli tikkonforma mar-rekwiżiti stipulati f'din it-Taqsima u tipprovdi lill-awtoritajiet kompetenti nazzjonali u lill-korpi notifikati bl-informazzjoni meħtieġa f'forma ċara u komprensiva biex tiġi vvalutata l-konformità tas-sistema tal-IA ma' dawk ir-rekwiżiti. Bħala minimu, għandu jkun fiha l-elementi stipulati fl-Anness IV. L-SMEs, inkluż in-negozji ġodda, jistgħu jipprovdu l-elementi tad-dokumentazzjoni teknika speċifikata fl-Anness IV b'mod simplifikat. Għal dan il-għan, il-Kummissjoni għandha tistabbilixxi formola simplifikata ta' dokumentazzjoni teknika mmirata lejn il-ħtiġijiet tal-intrapriżi żgħar u mikro. Meta SME, inkluż negozju ġdid, tagħżel li tipprovdi l-informazzjoni rikjesta fl-Anness IV b'mod simplifikat, hija għandha tuża l-formola msemmija f'dan il-paragrafu. Il-korpi notifikati għandhom jaċċettaw il-formola għall-finijiet tal-valutazzjoni tal-konformità.
2. Когато се пуска на пазара или пуска в действие високорискова система с ИИ, свързана с продукт, обхванат от законодателството на Съюза за хармонизация, посочено в раздел А от приложение I, се изготвя един набор от техническа документация, съдържаща цялата посочена в параграф 1 информация, както и информацията, изисквана съгласно тези правни актове.
2. Meta sistema tal-IA b'riskju għoli relatata ma' prodott kopert mil-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni elenkata fit-Taqsima A tal-Anness I tiġi introdotta fis-suq jew titqiegħed fis-servizz, għandu jitfassal sett uniku ta' dokumentazzjoni teknika bl-informazzjoni kollha stipulata fil-paragrafu 1, kif ukoll l-informazzjoni meħtieġa skont dawk l-atti legali.
3. На Комисията се предоставя правомощието да приема делегирани актове в съответствие с член 97 за изменение на приложение IV, когато това е необходимо, за да се гарантира, че предвид техническия напредък техническата документация предоставя цялата информация, необходима за оценяване на съответствието на системата с установените в настоящия раздел изисквания.
3. Il-Kummissjoni għandha s-setgħa li tadotta atti delegati f'konformità mal-Artikolu 97 sabiex temenda l-Anness IV, meta meħtieġ, biex tiżgura li, fid-dawl tal-progress tekniku, id-dokumentazzjoni teknika tipprovdi l-informazzjoni kollha meħtieġa għal valutazzjoni tal-konformità tas-sistema mar-rekwiżiti stipulati f'din it-Taqsima.
Прозрачност и предоставяне на информация на внедрителите
Trasparenza u għoti tal-informazzjoni lill-implimentaturi
1. Високорисковите системи с ИИ се проектират и разработват така, че да се гарантира, че функционирането им е достатъчно прозрачно, за да позволи на внедрителите да тълкуват резултатите, получени от системата, и да ги използват по подходящ начин. Осигурява се подходящ вид и степен на прозрачност с оглед изпълнение на приложимите задължения на доставчика и внедрителя, установени в раздел 3.
1. Is-sistemi tal-IA b'riskju għoli għandhom jiġu ddisinjati u żviluppati b'tali mod li jkun żgurat li t-tħaddim tagħhom ikun trasparenti biżżejjed biex l-implimentaturi jkunu jistgħu jinterpretaw output ta' sistema u jużawh sew. Għandhom jiġu żgurati tip u livell xierqa ta' trasparenza bil-ħsieb li tinkiseb konformità mal-obbligi rilevanti tal-fornitur u l-implimentatur stipulati fit-Taqsima 3.
2. Високорисковите системи с ИИ се придружават от инструкции за употреба в подходящ цифров или друг формат, които включват кратка, пълна, вярна и ясна информация, която е относима, достъпна и разбираема за внедрителите.
2. Mas-sistemi tal-IA b'riskju għoli għandhom jingħataw struzzjonijiet għall-użu b'format diġitali xieraq jew b'xi format ieħor li jinkludu informazzjoni konċiża, kompluta, korretta u ċara li tkun rilevanti, aċċessibbli u li tinftiehem mill-implimentaturi.
3. Инструкциите за употреба съдържат най-малко следната информация:
3. L-istruzzjonijiet għall-użu għandu jkun fihom mill-anqas l-informazzjoni li ġejja:
a)
идентификационните данни и данните за връзка с доставчика и когато е приложимо, същите данни за неговия упълномощен представител;
(a)
l-identità u d-dettalji ta' kuntatt tal-fornitur u, meta applikabbli, tar-rappreżentant awtorizzat tiegħu;
б)
характеристиките, способностите и ограниченията в действието на високорисковата система с ИИ, включително:
(b)
il-karatteristiċi, il-kapaċitajiet u l-limitazzjonijiet tal-prestazzjoni tas-sistema tal-IA b'riskju għoli, inkluż:
i)
нейното предназначение;
ii)
нивото на точност, включително използваните за него показатели, на надеждност и на киберсигурност, посочено в член 15, спрямо което е изпитана и валидирана високорисковата система с ИИ и което може да се очаква, както и всички известни или предвидими обстоятелства, които могат да окажат въздействие върху очакваното ниво на точност, надеждност и киберсигурност;
(ii)
il-livell ta' akkuratezza, inkluż il-metrika, ir-robustezza u ċ-ċibersigurtà tagħha msemmija fl-Artikolu 15 li abbażi tiegħu tkun ġiet ittestjata u vvalidata s-sistema tal-IA b'riskju għoli u li jista' jkun mistenni, u kull ċirkostanza magħrufa u prevedibbli li tista' tħalli impatt fuq dak il-livell mistenni ta' akkuratezza, robustezza u ċibersigurtà;
iii)
всички известни или предвидими обстоятелства, свързани с използването на високорисковата система с ИИ в съответствие с предназначението ѝ или в условия на разумно предвидима неправилна експлоатация, които могат да доведат до рискове за здравето и безопасността или за основните права, посочени в член 9, параграф 2;
(iii)
kwalunkwe ċirkostanza magħrufa jew prevedibbli, relatata mal-użu tas-sistema tal-IA b'riskju għoli f'konformità mal-għan maħsub tagħha jew f'kundizzjonijiet ta' użu ħażin raġonevolment prevedibbli, li tista' twassal għal riskji għas-saħħa u s-sikurezza jew għad-drittijiet fundamentali msemmija fl-Artikolu 9(2);