Eiropas Savienības
Oficiālais Vēstnesis
LV
Službeni list
Europske unije
HR
EIROPAS PARLAMENTA UN PADOMES REGULA (ES) 2024/1689
UREDBA (EU) 2024/1689 EUROPSKOG PARLAMENTA I VIJEĆA
ar ko nosaka saskaņotas normas mākslīgā intelekta jomā un groza Regulas (EK) Nr. 300/2008, (ES) Nr. 167/2013, (ES) Nr. 168/2013, (ES) 2018/858, (ES) 2018/1139 un (ES) 2019/2144 un Direktīvas 2014/90/ES, (ES) 2016/797 un (ES) 2020/1828 (Mākslīgā intelekta akts)
o utvrđivanju usklađenih pravila o umjetnoj inteligenciji i o izmjeni uredaba (EZ) br. 300/2008, (EU) br. 167/2013, (EU) br. 168/2013, (EU) 2018/858, (EU) 2018/1139 i (EU) 2019/2144 te direktiva 2014/90/EU, (EU) 2016/797 i (EU) 2020/1828 (Akt o umjetnoj inteligenciji)
(Dokuments attiecas uz EEZ)
EIROPAS PARLAMENTS UN EIROPAS SAVIENĪBAS PADOME,
EUROPSKI PARLAMENT I VIJEĆE EUROPSKE UNIJE,
ņemot vērā Līgumu par Eiropas Savienības darbību un jo īpaši tā 16. un 114. pantu,
uzimajući u obzir Ugovor o funkcioniranju Europske unije, a posebno njegove članke 16. i 114.,
ņemot vērā Eiropas Komisijas priekšlikumu,
uzimajući u obzir prijedlog Europske komisije,
pēc leģislatīvā akta projekta nosūtīšanas valstu parlamentiem,
nakon prosljeđivanja nacrta zakonodavnog akta nacionalnim parlamentima,
ņemot vērā Eiropas Ekonomikas un sociālo lietu komitejas atzinumu (1),
uzimajući u obzir mišljenje Europskoga gospodarskog i socijalnog odbora (1),
ņemot vērā Eiropas Centrālās bankas atzinumu (2),
uzimajući u obzir mišljenje Europske središnje banke (2),
ņemot vērā Reģionu komitejas atzinumu (3),
uzimajući u obzir mišljenje Odbora regija (3),
saskaņā ar parasto likumdošanas procedūru (4),
u skladu s redovnim zakonodavnim postupkom (4),
(1)
Šīs regulas mērķis ir uzlabot iekšējā tirgus darbību, nosakot vienotu tiesisko regulējumu, jo īpaši mākslīgā intelekta sistēmu (MI sistēmu) izstrādei, laišanai tirgū, nodošanai ekspluatācijā un lietošanai Savienībā saskaņā ar Savienības vērtībām, veicināt uz cilvēku orientēta un uzticama mākslīgā intelekta (MI) ieviešanu, vienlaikus nodrošinot augstu veselības, drošuma, Pamattiesību hartā (Harta) nostiprināto pamattiesību, tostarp demokrātijas un tiesiskuma, un vides aizsardzības līmeni, aizsargāt pret MI sistēmu radītām kaitīgām sekām Savienībā un atbalstīt inovāciju. Šī regula nodrošina uz MI bāzētu preču un pakalpojumu brīvu apriti pāri robežām, tādējādi nepieļaujot, ka dalībvalstis uzliek ierobežojumus MI sistēmu izstrādei, laišanai tirgū un lietošanai, ja vien šī regula tos nepārprotami neatļauj.
(1)
Svrha je ove Uredbe poboljšati funkcioniranje unutarnjeg tržišta utvrđivanjem ujednačenog pravnog okvira, osobito za razvoj, stavljanje na tržište, stavljanje u upotrebu i korištenje sustava umjetne inteligencije („UI sustavi”) u Uniji, u skladu s vrijednostima Unije, promicati prihvaćanje antropocentrične i pouzdane umjetne inteligencije uz istodobno jamčenje visoke razine zaštite zdravlja, sigurnosti i temeljnih prava kako su sadržana u Povelji Europske unije o temeljnim pravima („Povelja”), uključujući demokraciju, vladavinu prava i zaštitu okoliša, zaštitu od štetnih učinaka UI sustavâ u Uniji, te podupirati inovacije. Ovom se Uredbom osigurava slobodno prekogranično kretanje robe i usluga temeljenih na umjetnoj inteligenciji, čime se države članice sprečava da nametnu ograničenja razvoju, stavljanju na tržište i korištenju UI sustavâ, osim ako je to izričito odobreno ovom Uredbom.
(2)
Šī regula būtu jāpiemēro saskaņā ar Hartā nostiprinātajām Savienības vērtībām, veicinot fizisku personu, uzņēmumu, demokrātijas, tiesiskuma un vides aizsardzību, vienlaikus veicinot inovāciju un nodarbinātību un padarot Savienību par līderi uzticama MI ieviešanā.
(2)
Ova bi se Uredba trebala primjenjivati u skladu s vrijednostima Unije sadržanima u Povelji i trebala bi olakšati zaštitu fizičkih osoba, poduzeća, demokracije, vladavine prava i okoliša, a istodobno poticati inovacije i zapošljavanje te učiniti Uniju predvodnikom u prihvaćanju pouzdane umjetne inteligencije.
(3)
MI sistēmas var viegli ieviest daudzos un dažādos ekonomikas sektoros un daudzās sabiedrības daļās, arī pāri robežām, un tās var būt apritē visā Savienībā. Dažas dalībvalstis jau ir izskatījušas iespēju pieņemt valsts līmeņa noteikumus ar mērķi nodrošināt to, ka MI ir uzticams un drošs un to izstrādā un izmanto saskaņā ar pienākumiem ievērot pamattiesības. Atšķirīgi valstu noteikumi var izraisīt iekšējā tirgus sadrumstalotību un mazināt juridisko noteiktību operatoriem, kuri izstrādā, importē vai izmanto MI sistēmas. Tāpēc visā Savienībā būtu jānodrošina konsekvents un augsts aizsardzības līmenis, lai panāktu uzticamu MI, turpretim atšķirības, kuras kavē MI sistēmu un saistīto produktu un pakalpojumu brīvu apriti, inovāciju, ieviešanu un izmantošanu iekšējā tirgū, būtu jānovērš, nosakot vienotus pienākumus operatoriem un garantējot sevišķi svarīgu sabiedrības interešu un personu tiesību vienotu aizsardzību visā iekšējā tirgū, pamatojoties uz Līguma par Eiropas Savienības darbību (LESD) 114. pantu. Ciktāl šī regula satur konkrētus noteikumus par indivīdu aizsardzību attiecībā uz personas datu apstrādi saistībā ar ierobežojumiem MI sistēmu lietošanā biometriskajai tālidentifikācijai tiesībaizsardzības nolūkos, MI sistēmu lietošanā fizisku personu radītā riska novērtējuma veikšanai tiesībaizsardzības nolūkos un biometriskās kategorizācijas MI sistēmu lietošanā tiesībaizsardzības nolūkos, ir piemēroti par šīs regulas pamatu, ciktāl tas attiecas uz minētajiem konkrētajiem noteikumiem, noteikt LESD 16. pantu. Ņemot vērā minētos konkrētos noteikumus un LESD 16. panta izmantošanu, ir lietderīgi apspriesties ar Eiropas Datu aizsardzības kolēģiju.
(3)
UI sustavi mogu se lako uvesti u brojne različite sektore gospodarstva i mnoge dijelove društva, među ostalim i preko granica, te lako cirkulirati u cijeloj Uniji. Neke su države članice već razmotrile donošenje nacionalnih pravila kojima bi se zajamčilo da umjetna inteligencija bude pouzdana i sigurna te da se razvija i upotrebljava u skladu s obvezama u području temeljnih prava. Divergentna nacionalna pravila mogu dovesti do fragmentacije unutarnjeg tržišta i smanjiti pravnu sigurnost za operatere koji razvijaju, uvoze ili upotrebljavaju UI sustave. Stoga bi za postizanje pouzdane umjetne inteligencije trebalo osigurati dosljednu i visoku razinu zaštite u cijeloj Uniji, dok bi divergencije koje otežavaju slobodnu cirkulaciju, inovacije te uvođenje i prihvaćanje UI sustava i povezanih proizvoda i usluga na unutarnjem tržištu trebalo spriječiti utvrđivanjem ujednačenih obveza za operatere i jamčenjem ujednačene zaštite prevladavajućih razloga od javnog interesa i pravâ osoba na cijelom unutarnjem tržištu na temelju članka 114. Ugovora o funkcioniranju Europske unije (UFEU). U mjeri u kojoj ova Uredba sadržava specifična pravila o zaštiti pojedinaca u pogledu obrade osobnih podataka u vezi s ograničenjima korištenja UI sustavâ za daljinsku biometrijsku identifikaciju u svrhu kaznenog progona, korištenja UI sustavâ za procjene rizika u pogledu fizičkih osoba u svrhu kaznenog progona i korištenja UI sustavâ za biometrijsku kategorizaciju u svrhu kaznenog progona, primjereno je ovu Uredbu, u mjeri u kojoj se odnosi na ta specifična pravila, temeljiti na članku 16. UFEU-a. S obzirom na ta specifična pravila i pozivanje na članak 16. UFEU-a, primjereno je zatražiti mišljenje Europskog odbora za zaštitu podataka.
(4)
MI ir tehnoloģiju kopa, kas strauji attīstās un sniedz dažādus ieguvumus ekonomikai, videi un sabiedrībai visās nozarēs un sociālajās darbībās. Uzlabojot prognozēšanu, optimizējot darbības un resursu piešķiršanu un personalizējot indivīdiem un organizācijām pieejamos digitālos risinājumus, MI lietošana var nodrošināt būtiskas konkurences priekšrocības uzņēmumiem un sekmēt sabiedrībai un videi labvēlīgus rezultātus, piemēram, veselības aprūpē, lauksaimniecībā, pārtikas nekaitīguma nodrošināšanā, izglītībā un mācībās, mediju, sporta un kultūras jomā, infrastruktūras apsaimniekošanā, enerģētikā, transportā un loģistikā, sabiedriskajos pakalpojumos, drošībā, tieslietās, resursefektivitātē un energoefektivitātē, vides monitoringā, biodaudzveidības un ekosistēmu saglabāšanā un atjaunošanā un klimata pārmaiņu mazināšanas un pielāgošanās tām jomā.
(4)
Umjetna inteligencija skup je tehnologija koji se brzo razvija i doprinosi širokom spektru gospodarskih, okolišnih i društvenih koristi u cijelom nizu industrija i društvenih aktivnosti. Zahvaljujući boljem predviđanju, optimizaciji operacija i dodjeli resursa te personalizaciji digitalnih rješenja dostupnih pojedincima i organizacijama, korištenje umjetne inteligencije može poduzećima pružiti ključne konkurentske prednosti te podupirati društveno i okolišno korisne ishode, na primjer u zdravstvu, poljoprivredi, sigurnosti hrane, obrazovanju i osposobljavanju, medijima, sportu, kulturi, upravljanju infrastrukturom, energetici, prometu i logistici, javnim uslugama, sigurnosti, pravosuđu, resursnoj i energetskoj učinkovitosti, praćenju stanja okoliša, očuvanju i obnovi bioraznolikosti i ekosustavâ te ublažavanju klimatskih promjena i prilagodbi njima.
(5)
Tajā pašā laikā atkarībā no MI konkrētā lietojuma apstākļiem, izmantošanas un tehnoloģiskās attīstības pakāpes, tas var radīt riskus un nodarīt kaitējumu sabiedrības interesēm un pamattiesībām, kuras aizsargā Savienības tiesību akti. Šāds kaitējums var būt materiāls vai nemateriāls, tostarp fizisks, psiholoģisks, sabiedrisks vai ekonomisks.
(5)
Istodobno, ovisno o okolnostima njezine specifične primjene, korištenja i razine tehnološkog razvoja, umjetna inteligencija može stvoriti rizike i uzrokovati štetu javnim interesima i temeljnim pravima zaštićenima pravom Unije. Ta šteta može biti materijalna ili nematerijalna, uključujući tjelesnu, psihološku, društvenu ili ekonomsku štetu.
(6)
Ņemot vērā MI potenciālo lielo ietekmi uz sabiedrību un nepieciešamību veidot uzticēšanos, ir būtiski, lai MI un tā tiesiskais regulējums tiktu izstrādāts saskaņā ar Savienības vērtībām, kas nostiprinātas Līguma par Eiropas Savienību (LES) 2. pantā, un Līgumos nostiprinātajām pamattiesībām un brīvībām un, ievērojot LESD 6. pantu – Hartā. Priekšnosacījums tam – MI vajadzētu būt uz cilvēku orientētai tehnoloģijai. Tai vajadzētu būt cilvēkiem domātam instrumentam, kura galvenais mērķis ir vairot cilvēku labklājību.
(6)
S obzirom na velik učinak koji umjetna inteligencija može imati na društvo i potrebu za izgradnjom povjerenja, ključno je da se umjetna inteligencija i njezin regulatorni okvir razvijaju u skladu s vrijednostima Unije sadržanima u članku 2. Ugovora o Europskoj uniji (UEU), temeljnim pravima i slobodama sadržanima u Ugovorima i, na temelju članka 6. UEU-a, u Povelji. Umjetna inteligencija neophodno bi trebala biti antropocentrična tehnologija. Trebala bi služiti kao alat namijenjen ljudima s krajnjim ciljem povećanja njihove dobrobiti.
(7)
Lai nodrošinātu konsekventu un augstu sabiedrības interešu aizsardzības līmeni attiecībā uz veselību, drošību un pamattiesībām, būtu jāizveido kopīgi noteikumi augsta riska MI sistēmām. Minētajiem noteikumiem būtu jāsaskan ar Hartu un jābūt nediskriminējošiem un saskaņā ar Savienības starptautiskās tirdzniecības saistībām. Tajos būtu jāņem vērā arī Eiropas deklarācija par digitālajām tiesībām un principiem digitālajai desmitgadei un Mākslīgā intelekta augsta līmeņa ekspertu grupas (AI HLEG) Ētikas vadlīnijas uzticamam mākslīgajam intelektam.
(7)
Kako bi se osigurala dosljedna i visoka razina zaštite javnih interesa u smislu zdravlja, sigurnosti i temeljnih prava, trebalo bi utvrditi zajednička pravila za visokorizične UI sustave. Ta bi pravila trebala biti dosljedna s Poveljom, nediskriminirajuća i usklađena s međunarodnim trgovinskim obvezama Unije. Njima bi se ujedno trebalo uzeti u obzir Europsku deklaraciju o digitalnim pravima i načelima za digitalno desetljeće i Etičke smjernice za pouzdanu umjetnu inteligenciju koje je sastavila Stručna skupina na visokoj razini za umjetnu inteligenciju.
(8)
Tāpēc ir nepieciešams Savienības tiesiskais regulējums, kas nosaka saskaņotus noteikumus MI jomā ar mērķi veicināt MI izstrādi, ieviešanu un izmantošanu iekšējā tirgū, kas vienlaikus nodrošina augstu aizsardzības līmeni tādām sabiedrības interesēm kā veselība un drošība, un pamattiesību aizsardzība, tostarp demokrātija, tiesiskums un vides aizsardzība, kā tas atzīts un aizsargāts Savienības tiesību aktos. Lai sasniegtu minēto mērķi, būtu jānosaka noteikumi par dažu MI sistēmu laišanu tirgū, nodošanu ekspluatācijā un lietošanu, tādējādi nodrošinot netraucētu iekšējā tirgus darbību un ļaujot saistībā ar minētajām sistēmām izmantot preču un pakalpojumu brīvas aprites principa radītos ieguvumus. Minētajiem noteikumiem vajadzētu būt skaidriem un stingriem, lai aizsargātu pamattiesības, atbalstītu jaunus novatoriskus risinājumus, nodrošinātu Eiropas ekosistēmu publiskā un privātā sektora dalībniekiem, kas izstrādā MI sistēmas saskaņā ar Savienības vērtībām, un atraisītu digitālās pārveides potenciālu visos Savienības reģionos. Paredzot minētos noteikumus, kā arī pasākumus inovācijas atbalstam, īpašu uzmanību pievēršot maziem un vidējiem uzņēmumiem (MVU), tostarp jaunuzņēmumiem, šī regula atbalsta Eiropadomes (5) nosprausto Savienības mērķi – veicināt uz cilvēku orientētu pieeju MI un būt pasaules līderei droša, uzticama un ētiska mākslīgā intelekta attīstīšanā, kā arī tā nodrošina ētikas principu aizsardzību, kā to īpaši lūdzis Eiropas Parlaments (6).
(8)
Stoga je potreban pravni okvir Unije kojim se utvrđuju usklađena pravila o umjetnoj inteligenciji kako bi se poticali razvoj, korištenje i prihvaćanje umjetne inteligencije na unutarnjem tržištu i istodobno ostvarila visoka razina zaštite javnih interesa, kao što su zdravlje i sigurnost te zaštita temeljnih prava, uključujući demokraciju, vladavinu prava i zaštitu okoliša, kako su priznata i zaštićena pravom Unije. Da bi se postigao taj cilj, trebalo bi utvrditi pravila kojima se uređuju stavljanje na tržište, stavljanje u upotrebu i korištenje određenih UI sustava, te tako osigurati neometano funkcioniranje unutarnjeg tržišta i omogućiti da ti sustavi ostvaruju koristi od načela slobodnog kretanja robe i usluga pogoduju. Ta bi pravila trebala biti jasna i snažna u zaštiti temeljnih prava, podupirati nova inovativna rješenja i pogodovati europskom ekosustavu javnih i privatnih aktera koji stvaraju UI sustave u skladu s vrijednostima Unije te ostvariti potencijal digitalne transformacije u svim regijama Unije. Utvrđivanjem tih pravila i mjera za potporu inovacijama s osobitim naglaskom na malim i srednjim poduzećima (MSP-ovi), uključujući start-up poduzeća, ovom se Uredbom doprinosi cilju promicanja europskog antropocentričnog pristupa umjetnoj inteligenciji i globalnog vodstva u razvoju sigurne, pouzdane i etične umjetne inteligencije kako je navelo Europsko vijeće (5) te se osigurava zaštita etičkih načela u skladu s izričitim zahtjevom Europskog parlamenta (6).
(9)
Augsta riska MI sistēmu laišanai tirdzniecībā, nodošanai ekspluatācijā un lietošanai piemērojamie saskaņotie noteikumi būtu jānosaka saskaņā ar Eiropas Parlamenta un Padomes Regulu (EK) Nr. 765/2008 (7), Eiropas Parlamenta un Padomes Lēmumu Nr. 768/2008/EK (8) un Eiropas Parlamenta un Padomes Regulu (ES) 2019/1020 (9) (“Jaunais tiesiskais regulējums”). Šīs regulas saskaņotie noteikumi būtu jāpiemēro visos sektoros un saskaņā ar Jauno tiesisko regulējumu un tiem nebūtu jāskar spēkā esošie Savienības tiesību akti, jo īpaši tie akti datu aizsardzības, patērētāju aizsardzības, pamattiesību, nodarbinātības, darba ņēmēju aizsardzības un produktu drošības jomā, kurus šī regula papildina. Tādējādi netiek skartas un ir pilnībā piemērojamas visas tiesības un tiesiskās aizsardzības līdzekļi, kas šajos Savienības tiesību aktos paredzēti patērētājiem un citām personām, kuras MI sistēmas var nelabvēlīgi ietekmēt, tostarp tas attiecas uz iespējamo zaudējumu atlīdzināšanu, ievērojot Padomes Direktīvu 85/374/EEK (10). Turklāt saskaņā ar Savienības tiesību aktiem – saistībā ar nodarbinātību un darba ņēmēju aizsardzību šai regulai nevajadzētu ietekmēt Savienības tiesību aktus sociālās politikas jomā un valstu darba tiesības, kas skar nodarbinātības apstākļus, darba apstākļus, tostarp veselību un drošību darbā, un attiecības starp darba devējiem un darba ņēmējiem. Šai regulai arī nevajadzētu ietekmēt dalībvalstīs un Savienības līmenī atzīto pamattiesību īstenošanu, tostarp tiesības vai brīvību streikot vai veikt citu rīcību, kas paredzēta konkrētajās dalībvalstu darba attiecību sistēmās, kā arī tiesības apspriest, noslēgt un izpildīt koplīgumus vai kolektīvi rīkoties saskaņā ar valsts tiesību aktiem. Šai regulai nebūtu jāietekmē Eiropas Parlamenta un Padomes Direktīvā par darba nosacījumu uzlabošanu platformu darbā paredzētie noteikumi, kuru mērķis ir uzlabot darba apstākļus platformu darbā. Papildus tam šīs regulas mērķis ir stiprināt šādu esošo tiesību un tiesiskās aizsardzības līdzekļu efektivitāti, nosakot konkrētas prasības un pienākumus, tostarp attiecībā uz MI sistēmu pārredzamību, tehnisko dokumentāciju un uzskaiti. Turklāt pienākumi, kas šajā regulā paredzēti dažādiem operatoriem, kuri iesaistīti MI vērtības ķēdē, būtu jāpiemēro, neskarot valstu tiesību aktus, atbilstoši Savienības tiesību aktiem, ar ierobežojošu ietekmi uz dažu MI sistēmu lietošanu, ja šādi tiesību akti neietilpst šīs regulas darbības jomā vai tiem ir leģitīmi sabiedrības interešu mērķi, kas nav šīs regulas mērķi. Piemēram, šai regulai nebūtu jāietekmē valsts darba tiesības un tiesību akti par nepilngadīgo, proti, personu, kas jaunākas par 18 gadiem, aizsardzību, ņemot vērā ANO Vispārējo komentāru Nr. 25 (2021) par bērnu tiesībām saistībā ar digitālo vidi, ciktāl tie konkrēti neattiecas uz MI sistēmām un tiem ir citi leģitīmi sabiedrības interešu mērķi.
(9)
Usklađena pravila koja se primjenjuju na stavljanje na tržište, stavljanje u upotrebu i korištenje visokorizičnih UI sustava trebala bi biti utvrđena u skladu s Uredbom (EZ) br. 765/2008 Europskog parlamenta i Vijeća (7), Odlukom br. 768/2008/EZ Europskog parlamenta i Vijeća (8) i Uredbom (EU) 2019/1020 Europskog parlamenta i Vijeća (9) (novi zakonodavni okvir). Usklađena pravila utvrđena u ovoj Uredbi trebala bi se primjenjivati u svim sektorima i, u skladu s novim zakonodavnim okvirom, ne bi trebala dovoditi u pitanje postojeće pravo Unije, osobito ono u području zaštite podataka, zaštite potrošača, temeljnih prava, zapošljavanja, zaštite radnika i sigurnosti proizvoda, koje ova Uredba dopunjuje. Kao posljedica toga sva prava i pravna sredstva predviđena tim pravom Unije za potrošače i druge osobe na koje UI sustavi mogu imati negativan učinak, među ostalim i u pogledu naknade potencijalne štete na temelju Direktive Vijeća 85/374/EEZ (10), i dalje su nepromijenjeni i u potpunosti se primjenjuju. Nadalje, u kontekstu zapošljavanja i zaštite radnika, ova Uredba stoga ne bi trebala utjecati na pravo Unije o socijalnoj politici i nacionalno radno pravo, u skladu s pravom Unije, koje se odnosi na zapošljavanje i radne uvjete, uključujući zdravlje i sigurnost na radu te odnos između poslodavaca i radnika. Ova Uredba ne bi trebala utjecati ni na ostvarivanje temeljnih prava priznatih u državama članicama i na razini Unije, uključujući pravo ili slobodu štrajka ili poduzimanja drugih mjera obuhvaćenih specifičnim sustavima država članica u području radnih odnosa, kao i pravo na dogovaranje, kroz pregovore, na sklapanje i provedbu kolektivnih ugovora ili na poduzimanje kolektivnih mjera u skladu s nacionalnim pravom. Ova Uredba ne bi trebala utjecati na odredbe čiji je cilj poboljšanje radnih uvjeta u radu putem platformi utvrđene u direktivi Europskog parlamenta i Vijeća o poboljšanju radnih uvjeta u radu putem platformi. Usto, cilj je ove Uredbe ojačati djelotvornost tih postojećih prava i pravnih sredstava utvrđivanjem posebnih zahtjeva i obveza, među ostalim i u pogledu transparentnosti, tehničke dokumentacije i vođenja evidencije o UI sustavima. Nadalje, obveze koje su na temelju ove Uredbe nametnute različitim operaterima uključenima u lanac vrijednosti umjetne inteligencije trebale bi se primjenjivati ne dovodeći u pitanje nacionalno pravo, u skladu s pravom Unije, koje ima učinak ograničavanja korištenja određenih UI sustava ako takvo pravo nije obuhvaćeno područjem primjene ove Uredbe ili ako se njime žele ostvariti drugi legitimni ciljevi od javnog interesa koji nisu ciljevi koji se nastoje ostvariti ovom Uredbom. Na primjer, ova Uredba ne bi trebala utjecati na nacionalno radno pravo ni na pravo o zaštiti maloljetnika, odnosno osoba mlađih od 18 godina, uzimajući u obzir Opću napomenu Ujedinjenih naroda br. 25 (2021.) o pravima djece u pogledu digitalnog okružja, u mjeri u kojoj ono nije specifično za UI sustave i njime se žele ostvariti drugi legitimni ciljevi od javnog interesa.
(10)
Pamattiesības uz personas datu aizsardzību ir aizsargātas jo īpaši ar Eiropas Parlamenta un Padomes Regulām (ES) 2016/679 (11) un (ES) 2018/1725 (12) un Eiropas Parlamenta un Padomes Direktīvu (ES) 2016/680 (13). Papildus Eiropas Parlamenta un Padomes Direktīva 2002/58/EK (14) aizsargā privāto dzīvi un saziņas konfidencialitāti, tostarp, paredzot nosacījumus personas datu un nepersondatu glabāšanai galiekārtās un piekļuvei tiem no galiekārtām. Minētie Savienības tiesību akti nodrošina pamatu ilgtspējīgai un atbildīgai datu apstrādei, arī gadījumos, kad datu kopās ir gan personas dati, gan nepersondati. Šīs regulas mērķis nav ietekmēt to spēkā esošo Savienības tiesību aktu piemērošanu, kas reglamentē personas datu apstrādi, tostarp to neatkarīgo uzraudzības iestāžu uzdevumus un pilnvaras, kas ir kompetentas uzraudzīt atbilstību minētajiem instrumentiem. Tā arī neietekmē MI sistēmu nodrošinātāju un uzturētāju – kā datu pārziņu vai apstrādātāju – pienākumus, kas izriet no Savienības vai valsts tiesību aktiem par personas datu aizsardzību, ciktāl MI sistēmu projektēšana, izstrāde vai lietošana ietver personas datu apstrādi. Ir lietderīgi arī precizēt, ka datu subjektiem joprojām ir visas tiesības un garantijas, kas tiem piešķirtas ar šādiem Savienības tiesību aktiem, tostarp tiesības, kas saistītas tikai ar automatizētu individuālu lēmumu pieņemšanu, tostarp profilēšanu. Saskaņotiem noteikumiem par MI sistēmu laišanu tirgū, nodošanu ekspluatācijā un lietošanu, kas paredzēti šajā regulā, būtu jāveicina efektīva īstenošana un jādara iespējama datu subjektu tiesību un citu tiesiskās aizsardzības līdzekļu, kas garantēti Savienības tiesību aktos par personas datu un citu pamattiesību aizsardzību, izmantošana.
(10)
Temeljno pravo na zaštitu osobnih podataka osobito je zajamčeno uredbama (EU) 2016/679 (11) i (EU) 2018/1725 (12) Europskog parlamenta i Vijeća te Direktivom (EU) 2016/680 Europskog parlamenta i Vijeća (13). Direktivom 2002/58/EZ Europskog parlamenta i Vijeća (14) dodatno se štiti privatni život i povjerljivost komunikacija, među ostalim i pružanjem uvjeta za svu pohranu osobnih i neosobnih podataka u terminalnoj opremi te pristup tim podacima s terminalne opreme. Ti su pravni akti Unije temelj za održivu i odgovornu obradu podataka, među ostalim i onda kada skupovi podataka uključuju kombinaciju osobnih i neosobnih podataka. Ovom se Uredbom ne nastoji utjecati na primjenu postojećeg prava Unije kojim se uređuje obrada osobnih podataka, uključujući zadaće i ovlasti neovisnih nadzornih tijela nadležnih za praćenje usklađenosti s tim instrumentima. Ona usto ne utječe na obveze dobavljačâ UI sustava i subjekata koji uvode te sustave u njihovoj ulozi voditelja obrade podataka ili izvršitelja obrade podataka koje proizlaze iz prava Unije o zaštiti osobnih podataka ili nacionalnog prava o zaštiti osobnih podataka u mjeri u kojoj dizajniranje, razvoj ili korištenje UI sustava uključuje obradu osobnih podataka. Također je primjereno pojasniti da ispitanici i dalje uživaju sva prava i jamstva koja su im dodijeljena tim pravom Unije, među ostalim i prava povezana s isključivo automatiziranim pojedinačnim donošenjem odluka, uključujući izradu profila. Usklađena pravila o stavljanju na tržište, stavljanju u upotrebu i korištenju UI sustava uspostavljena ovom Uredbom trebala bi olakšati djelotvornu provedbu i omogućiti ostvarivanje prava ispitanikâ i drugih pravnih sredstava zajamčenih na temelju prava Unije o zaštiti osobnih podataka i drugih temeljnih prava.
(11)
Šai regulai nevajadzētu skart noteikumus par starpnieku pakalpojumu sniedzēju atbildību, kā noteikts Eiropas Parlamenta un Padomes Regulā (ES) 2022/2065 (15).
(11)
Ovom se Uredbom ne bi trebale dovoditi u pitanje odredbe o odgovornosti pružatelja usluga posredovanja kako su utvrđene u Uredbi (EU) 2022/2065 Europskog parlamenta i Vijeća (15).
(12)
“MI sistēmas” jēdziens šajā regulā būtu skaidri jādefinē un cieši jāsaskaņo ar MI jomas starptautisko organizāciju darbu, lai nodrošinātu juridisko noteiktību, veicinātu starptautisko konverģenci un plašu atzīšanu, vienlaikus nodrošinot elastību, kas vajadzīga, lai pielāgotos tehnoloģiju straujajai attīstībai šajā jomā. Turklāt definīcijas pamatā vajadzētu būt MI sistēmu galvenajām iezīmēm, kas to atšķir no vienkāršākām tradicionālajām programmatūras sistēmām vai programmēšanas pieejām, un tam nebūtu jāattiecas uz sistēmām, kuru pamatā ir tikai fizisku personu definēti noteikumi darbību automātiskai izpildei. MI sistēmu galvenā iezīme ir to spēja izdarīt secinājumus. Šī spēja secināt attiecas uz tādu iznākumu iegūšanas procesu kā prognozes, saturs, ieteikumi vai lēmumi, kas var ietekmēt fizisko un virtuālo vidi, un MI sistēmu spēju atvasināt modeļus vai algoritmus, vai abus, no ievaddatiem vai datiem. Paņēmieni, kas ļauj izdarīt secinājumus, veidojot MI sistēmu, ietver mašīnmācīšanās pieejas, kas mācās no datiem, kā sasniegt konkrētus mērķus, un uz loģiku un zināšanām balstītas pieejas, kas no kodētām zināšanām vai risināmā uzdevuma simboliska atspoguļojuma izdara secinājumus. MI sistēmas spēja izsecināt pārsniedz vienkāršu datu apstrādi, nodrošinot mācīšanās, spriešanas un modelēšanas procesus. Termins “mašinizēta” nozīmē to, ka MI sistēmas darbina mašīnas. Atsauce uz eksplicītiem vai implicītiem mērķiem uzsver, ka MI sistēmas var darboties saskaņā ar eksplicīti noteiktiem mērķiem vai implicītiem mērķiem. MI sistēmas mērķi konkrētā kontekstā var atšķirties no MI sistēmas paredzētā nolūka. Šajā regulā vide būtu jāsaprot kā konteksts, kurā MI sistēmas darbojas, savukārt MI sistēmas radītie iznākumi atspoguļo dažādas funkcijas, ko veic MI sistēmas, un ietver prognozes, saturu, ieteikumus vai lēmumus. MI sistēmas ir projektētas darbībai dažādās autonomijas pakāpēs, kas nozīmē, ka tās zināmā mērā darbojas neatkarīgi no cilvēka iesaistīšanās un spēj darboties bez cilvēka iejaukšanās. Pielāgošanās spēja, kāda MI sistēmai varētu būt pēc ieviešanas, attiecas uz pašmācīšanās spējām, kas ļauj sistēmai mainīties lietošanas laikā. MI sistēmas var izmantot kā savrupas sistēmas vai kā produkta sastāvdaļu neatkarīgi no tā, vai sistēma ir fiziski integrēta produktā (iegulta) vai nodrošina produktam funkcionalitāti, nebūdama tajā integrēta (neiegulta).
(12)
Pojam „UI sustav” u ovoj bi Uredbi trebalo jasno definirati i usko ga uskladiti s radom međunarodnih organizacija koje se bave umjetnom inteligencijom kako bi se zajamčila pravna sigurnost te olakšala međunarodna konvergencija i široka prihvaćenost i pritom omogućila fleksibilnost za prilagođavanje brzom tehnološkom napretku u tom području. Nadalje, ta bi se definicija trebala temeljiti na ključnim značajkama UI sustavâ po kojima se razlikuje od jednostavnijih tradicionalnih softverskih sustava ili pristupâ programiranju te ne bi trebao obuhvaćati sustave koji se temelje na pravilima koja su definirale isključivo fizičke osobe za automatsko izvršavanje operacija. Ključna značajka UI sustava njihova je sposobnost zaključivanja. Ta sposobnost zaključivanja odnosi se na proces dobivanja izlaznih vrijednosti, kao što su predviđanja, sadržaj, preporuke ili odluke, koje mogu utjecati na fizička i virtualna okružja, te na sposobnost UI sustava da izvode modele ili algoritme, ili i modele i algoritme, iz ulaznih vrijednosti ili podataka. Tehnike koje omogućuju zaključivanje pri izgradnji UI sustava uključuju pristupe strojnog učenja koji s pomoću podataka uče kako postići određene ciljeve te pristupe temeljene na logici i znanju koji izvode zaključke iz kodiranog znanja ili simboličkog prikaza zadatka koji treba riješiti. Sposobnost UI sustava da zaključuje nadilazi osnovnu obradu podataka omogućujući učenje, rezoniranje ili modeliranje. Pojam „strojni” odnosi se na činjenicu da je rad UI sustava pogonjen strojevima. Upućivanjem na eksplicitne ili implicitne ciljeve ističe se da UI sustavi mogu raditi u skladu s eksplicitno definiranim ciljevima ili implicitnim ciljevima. Ciljevi UI sustava mogu se u specifičnom kontekstu razlikovati od namjene UI sustava. Za potrebe ove Uredbe okružja bi trebalo razumjeti kao kontekste u kojima UI sustavi rade, a izlazne vrijednosti koje UI sustav generira odražavaju različite funkcije UI sustava i uključuju predviđanja, sadržaj, preporuke ili odluke. UI sustavi dizajnirani su tako da rade s promjenjivim razinama autonomije, što znači da imaju određeni stupanj neovisnosti djelovanja od ljudske uključenosti i sposobnosti rada bez ljudske intervencije. Prilagodljivost koju bi UI sustav mogao pokazati nakon uvođenja odnosi se na sposobnosti samostalnog učenja, koje sustavu omogućuju da se mijenja dok je u upotrebi. UI sustavi mogu se upotrebljavati samostalno ili kao komponenta nekog proizvoda, neovisno o tome je li sustav fizički integriran u proizvod (ugrađen) ili služi funkcionalnosti proizvoda, a da nije integriran u njega (neugrađen).
(13)
Šajā regulā minētais jēdziens “uzturētājs” būtu jāinterpretē kā jebkura fiziska vai juridiska persona, tostarp publiskā sektora iestāde, aģentūra vai cita struktūra, kura lieto MI sistēmu, kas ir tās pārziņā, izņemot gadījumus, kad MI sistēmu lieto personiskas neprofesionālas darbības veikšanai. Atkarībā no MI sistēmas veida sistēmas lietošana var ietekmēt personas, kas nav uzturētājs.
(13)
Pojam „subjekt koji uvodi sustav” iz ove Uredbe trebalo bi tumačiti kao svaku fizičku ili pravnu osobu, uključujući tijelo javne vlasti, javnu agenciju ili drugo javno tijelo, koja upotrebljava UI sustav u okviru svoje nadležnosti, osim ako se UI sustav upotrebljava u osobnoj neprofesionalnoj djelatnosti. Ovisno o vrsti UI sustava, njegovo korištenje može utjecati na osobe koje nisu subjekt koji ga uvodi.
(14)
Šajā regulā izmantotais jēdziens “biometriskie dati” būtu jāinterpretē, ņemot vērā biometrisko datu jēdzienu, kā definēts Regulas (ES) 2016/679 4. panta 14. punktā, Regulas (ES) 2018/1725 3. panta 18. punktā un Direktīvas (ES) 2016/680 3. panta 13. punktā. Biometriskie dati var ļaut autentificēt, identificēt vai kategorizēt fiziskas personas un atpazīt fizisku personu emocijas.
(14)
Pojam „biometrijski podaci” koji se upotrebljava u ovoj Uredbi trebalo bi tumačiti s obzirom na pojam biometrijskih podataka kako je definiran u članku 4. točki 14. Uredbe (EU) 2016/679, članku 3. točki 18. Uredbe (EU) 2018/1725 i članku 3. točki 13. Direktive (EU) 2016/680. Biometrijski podaci mogu omogućiti autentifikaciju, identifikaciju ili kategorizaciju fizičkih osoba i prepoznavanje njihovih emocija.
(15)
Šajā regulā minētais jēdziens “biometriskā identifikācija” būtu jādefinē kā cilvēka fizisko, fizioloģisko un uzvedības īpašību, piemēram, sejas, acu kustību, ķermeņa formas, balss, prosodijas, gaitas, stājas, sirdsdarbības ātruma, asinsspiediena, smaržas, taustiņsitienu raksturlielumu, automātiska atpazīšana, lai konstatētu personas identitāti, salīdzinot šīs personas biometriskos datus ar atsauces datubāzē glabātiem personu biometriskajiem datiem, neatkarīgi no tā, vai persona ir devusi piekrišanu vai nav. Tas izslēdz MI sistēmas, kuras paredzēts izmantot biometriskajai verifikācijai, kas ietver autentifikāciju, kuras vienīgais nolūks ir apstiprināt, ka konkrēta fiziska persona ir persona, par ko tā uzdodas, un apstiprināt fiziskas personas identitāti vienīgi nolūkā piekļūt pakalpojumam, atbloķēt ierīci vai iegūt drošības piekļuvi telpām.
(15)
Pojam „biometrijska identifikacija” iz ove Uredbe trebalo bi definirati kao automatizirano prepoznavanje fizičkih, fizioloških i bihevioralnih obilježja ljudi, kao što su lice, pokreti očiju, izrazi lica, oblik tijela, glas, govor, hod, držanje, srčani ritam, krvni tlak, miris i način tipkanja, u svrhu utvrđivanja identiteta pojedinca usporedbom njegovih biometrijskih podataka s biometrijskim podacima pojedinaca pohranjenima u referentnoj bazi podataka, neovisno o tome je li dotični pojedinac dao privolu. To isključuje UI sustave namijenjene za biometrijsku provjeru, uključujući autentifikaciju, čija je jedina svrha potvrditi da je određena fizička osoba doista ona kojom se predstavlja i potvrditi identitet fizičke osobe isključivo radi pristupa usluzi, otključavanja uređaja ili sigurnog pristupa prostorijama.
(16)
Šajā regulā minētais jēdziens “biometriskā kategorizācija” būtu jādefinē kā fizisku personu iedalīšana konkrētās kategorijās, pamatojoties uz viņu biometriskajiem datiem. Šādas konkrētas kategorijas var būt saistītas ar tādiem aspektiem kā dzimums, vecums, matu krāsa, acu krāsa, tetovējumi, personības iezīmes, valoda, reliģija, piederība nacionālajai minoritātei, seksuālā vai politiskā orientācija. Tas neietver biometriskās kategorizācijas sistēmas, kas ir tikai papildfunkcija, kura ir cieši saistīta ar citu komercpakalpojumu, proti, tas nozīmē, ka objektīvu tehnisku iemeslu dēļ šo funkciju nevar izmantot bez galvenā pakalpojuma, un šīs funkcijas vai funkcionalitātes integrēšana nav līdzeklis, lai apietu šīs regulas noteikumu piemērojamību. Piemēram, filtri, kas kategorizē sejas vai ķermeņa iezīmes un ko izmanto tiešsaistes tirdzniecības vietās, varētu būt šāda papildfunkcija, jo tos var izmantot tikai saistībā ar galveno pakalpojumu – produkta pārdošanu –, dodot patērētājam iespēju pašam redzēt produkta attēlojumu un palīdzot viņam pieņemt lēmumu par pirkumu. Par palīgfunkcijām varētu uzskatīt arī filtrus, ko izmanto tiešsaistes sociālo tīklu pakalpojumos, kuri kategorizē sejas vai ķermeņa iezīmes, lai lietotāji varētu pievienot vai pārveidot attēlus vai videomateriālus, jo šādu filtru nevar izmantot bez sociālā tīkla pakalpojumu galvenā pakalpojuma, kas ietver satura kopīgošanu tiešsaistē.
(16)
Pojam „biometrijska kategorizacija” iz ove Uredbe trebalo bi definirati kao razvrstavanje fizičkih osoba u određene kategorije na temelju njihovih biometrijskih podataka. Te specifične kategorije mogu se odnositi na aspekte kao što su spol, dob, boja kose, boja očiju, tetovaže, značajke ponašanja ili osobnosti, jezik, vjera, pripadnost nacionalnoj manjini, spolna ili politička orijentacija. To ne uključuje sustave za biometrijsku kategorizaciju koji su isključivo pomoćni element intrinzično povezan s drugom komercijalnom uslugom, što znači da se taj element iz objektivnih tehničkih razloga ne može upotrebljavati bez glavne usluge i da integracija tog elementa ili funkcionalnosti nije sredstvo za zaobilaženje primjenjivosti pravila ove Uredbe. Na primjer, filtri za kategorizaciju značajki lica ili tijela koji se upotrebljavaju na internetskim tržištima mogli bi biti takav pomoćni element jer se mogu upotrebljavati samo u vezi s glavnom uslugom koja se sastoji od prodaje proizvoda tako što se potrošaču omogućuje da pregleda prikaz proizvoda na sebi i tako što pomaže u donošenju odluke o kupnji. Filtri koji se upotrebljavaju na internetskim društvenim mrežama i kojima se kategoriziraju značajke lica ili tijela kako bi se korisnicima omogućilo dodavanje ili izmjena slika ili videozapisa također bi se mogli smatrati pomoćnim elementom jer se takvi filtri ne mogu upotrebljavati bez glavne usluge društvenih mreža koja se sastoji od dijeljenja sadržaja na internetu.
(17)
Šajā regulā minētais jēdziens “biometriskā tālidentifikācija sistēma” būtu jādefinē funkcionāli kā MI sistēma, kas paredzēta fizisku personu identifikācijai bez to aktīvas iesaistīšanas, parasti no attāluma, salīdzinot personas biometriskos datus ar atsauces datubāzē esošajiem biometriskajiem datiem, neatkarīgi no konkrētās izmantotās tehnoloģijas, procesa vai biometrisko datu veida. Šādas biometriskās tālidentifikācijas sistēmas parasti izmanto, lai uztvertu vairākas personas vai to uzvedību vienlaikus nolūkā būtiski atvieglot fizisku personu identificēšanu bez to aktīvas iesaistīšanās. Tas izslēdz MI sistēmas, kuras paredzēts izmantot biometriskajai verifikācijai, kas ietver autentifikāciju, kuras vienīgais nolūks ir apstiprināt, ka konkrēta fiziska persona ir persona, par ko tā uzdodas, un apstiprināt fiziskas personas identitāti vienīgi nolūkā piekļūt pakalpojumam, atbloķēt ierīci vai iegūt drošības piekļuvi telpām. Minēto izslēgšanu pamato ar to, ka šādām sistēmām, visticamāk, ir neliela ietekme uz fizisku personu pamattiesībām salīdzinājumā ar biometriskās tālidentifikācijas sistēmām, kuras var izmantot liela skaita personu biometrisko datu apstrādei bez to aktīvas iesaistīšanās. Reāllaika sistēmu gadījumā biometrisko datu iegūšana, salīdzināšana un identifikācija notiek uzreiz, gandrīz uzreiz vai, jebkurā gadījumā, bez būtiskas aiztures. Šajā ziņā nevajadzētu būt iespējai apiet šīs regulas noteikumus par attiecīgo MI sistēmu lietošanu reāllaikā, paredzot nelielas aiztures. Reāllaika sistēmās izmanto “tiešraides” vai “gandrīz tiešraides” materiālu, piemēram, videomateriālu, ko ģenerē kamera vai cita ierīce ar līdzīgu funkcionalitāti. Turpretī vēlāklaika sistēmu gadījumā biometriskie dati jau ir iegūti, un salīdzināšana un identifikācija notiek tikai pēc būtiskas aiztures. Tās izmanto materiālu, piemēram, attēlus vai videomateriālus, ko ģenerējušas videonovērošanas sistēmas kameras vai privātas ierīces pirms sistēmas lietošanas attiecībā uz attiecīgajām fiziskajām personām.
(17)
Pojam „sustav za daljinsku biometrijsku identifikaciju” iz ove Uredbe trebalo bi definirati funkcionalno kao UI sustav namijenjen identifikaciji fizičkih osoba bez njihova aktivnog sudjelovanja, obično na daljinu, usporedbom biometrijskih podataka dotične osobe s biometrijskim podacima iz referentne baze podataka, bez obzira na specifičnu tehnologiju, specifične postupke ili specifične vrste biometrijskih podataka koji se upotrebljavaju. Takvi sustavi za daljinsku biometrijsku identifikaciju obično se upotrebljavaju za istodobno percipiranje više osoba ili njihova ponašanja kako bi se znatno olakšala identifikacija fizičkih osoba bez njihova aktivnog sudjelovanja. To isključuje UI sustave namijenjene za biometrijsku provjeru, uključujući autentifikaciju, čija je jedina svrha potvrditi da je određena fizička osoba doista ona kojom se predstavlja i potvrditi identitet fizičke osobe isključivo radi pristupa usluzi, otključavanja uređaja ili sigurnog pristupa prostorijama. To je isključenje opravdano činjenicom da će takvi sustavi vjerojatno manje utjecati na temeljna prava fizičkih osoba nego sustavi za daljinsku biometrijsku identifikaciju koji se mogu upotrebljavati za obradu biometrijskih podataka velikog broja osoba bez njihova aktivnog sudjelovanja. U slučaju sustava u stvarnom vremenu prikupljanje biometrijskih podataka, usporedba i identifikacija odvijaju se trenutačno, gotovo trenutačno ili u svakom slučaju bez znatnog vremenskog odmaka. U tom pogledu ne bi trebao postojati prostor za zaobilaženje pravila iz ove Uredbe o korištenju dotičnih UI sustava u stvarnom vremenu predviđanjem kratkih vremenskih odmaka. Sustavi u stvarnom vremenu uključuju korištenje materijala snimljenog „uživo” ili „gotovo uživo”, kao što je videozapis, zabilježenog kamerom ili drugim uređajem sa sličnom funkcijom. S druge strane, u slučaju sustava za naknadnu identifikaciju biometrijski su podaci već prethodno prikupljeni te se usporedba i identifikacija provode tek nakon znatnog vremenskog odmaka. To uključuje materijal, kao što su fotografije ili videozapisi zabilježeni nadzornim kamerama ili privatnim uređajima, snimljen prije nego što je sustav upotrijebljen za identifikaciju dotičnih fizičkih osoba.
(18)
Šajā regulā minētais jēdziens “emociju uztveršanas sistēma” būtu jādefinē kā MI sistēma, kuras mērķis ir identificēt vai izsecināt fizisku personu emocijas vai nodomus, pamatojoties uz viņu biometriskajiem datiem. Šis jēdziens attiecas uz tādām emocijām vai nodomiem kā laime, skumjas, dusmas, pārsteigums, nepatika, apmulsums, satraukums, kauns, nicinājums, gandarījums un bauda. Tas neietver fizisku stāvokli, piemēram, sāpes vai nogurumu; tostarp, piemēram, uz sistēmām, ko izmanto, lai noteiktu profesionālu pilotu vai vadītāju noguruma stāvokli negadījumu novēršanas nolūkā. Tas neattiecas arī uz acīmredzamu izpausmju, žestu vai kustību vienkāršu atpazīšanu, ja vien tos neizmanto emociju identificēšanai vai izsecināšanai. Šīs izpausmes var būt vienkāršas sejas izteiksmes, piemēram, saraukta piere vai smaids, vai žesti, piemēram, plaukstu, roku vai galvas kustība, vai personas balss īpašības, piemēram, pacelta balss vai čuksti.
(18)
Pojam „sustav za prepoznavanje emocija” iz ove Uredbe trebalo bi definirati kao UI sustav namijenjen prepoznavanju emocija ili namjera fizičkih osoba ili izvođenju zaključaka o njihovim emocijama ili namjerama na temelju njihovih biometrijskih podataka. Taj se pojam odnosi na emocije ili namjere kao što su sreća, tuga, ljutnja, iznenađenje, gađenje, osramoćenost, uzbuđenje, sram, prijezir, zadovoljstvo i zabavljenost. Ne uključuje fizička stanja, kao što su bol ili umor, među ostalim, primjerice, sustave koji se upotrebljavaju za otkrivanje stanja umora kod profesionalnih pilota ili vozača u svrhu sprečavanja nesreća. To također ne uključuje samo otkrivanje lako vidljivih izraza, gesta ili pokreta, osim ako se upotrebljavaju za identifikaciju ili izvođenje zaključaka o emocijama. Ti izrazi mogu biti osnovni izrazi lica, kao što su namrštenost ili osmjeh, ili geste kao što su pokreti ruku ili glave, ili značajke glasa osobe, kao što su podignut glas ili šaptanje.
(19)
Šajā regulā jēdziens “publiski piekļūstama vieta” būtu jāsaprot kā atsauce uz jebkuru fizisku vietu, kas ir piekļūstama nenoteiktam fizisku personu skaitam neatkarīgi no tā, vai minētā vieta ir publisks vai privāts īpašums, un neatkarīgi no tā, kādām aktivitātēm vietu var izmantot, piemēram, tirdzniecībai (piemēram, veikali, restorāni, kafejnīcas); pakalpojumu sniegšanai, piemēram, bankas, profesionālā darbība, viesmīlība; sportam, piemēram, peldbaseini, sporta zāles, stadioni; transportam, piemēram, autoostas, metro un dzelzceļa stacijas, lidostas, transportlīdzekļi; izklaidei, piemēram, kinoteātri, teātri, muzeji, koncertzāles un konferenču zāles; atpūtai vai citādiem mērķiem, piemēram, koplietošanas ceļi un laukumi, parki, meži, rotaļu laukumi. Vieta būtu jāklasificē kā publiski piekļūstama arī tad, ja – neatkarīgi no potenciālās kapacitātes vai drošības ierobežojumiem – piekļuve ir atkarīga no konkrētiem iepriekš noteiktiem nosacījumiem, kuriem var atbilst nenoteikts personu skaits, piemēram, tās ir iegādājušās biļeti vai transporta lietošanas tiesības, veikušas iepriekšēju reģistrāciju vai sasniegušas konkrētu vecumu. Vietu turpretī nevajadzētu uzskatīt par publiski piekļūstamu, ja piekļuve attiecas tikai uz konkrētām un definētām fiziskām personām, kā noteikts ar Savienības vai valsts tiesību aktiem, kas ir tieši saistīti ar sabiedrības drošumu vai sabiedrisko drošību, vai ja tādu gribu skaidri paudusi persona, kurai ir attiecīgās pilnvaras attiecībā uz konkrēto vietu. Faktiskā piekļuves iespēja pati par sevi (piemēram, atslēgtas durvis, atvērti vārti nožogojuma vietā) nenozīmē, ka vieta ir publiski piekļūstama, ja ir norādes vai apstākļi, kas liecina par pretējo (piemēram, zīmes, kas aizliedz vai ierobežo piekļuvi). Uzņēmumu un rūpnīcu telpas, kā arī biroji un darba vietas, kurām paredzēts piekļūt tikai attiecīgajiem darbiniekiem un pakalpojumu sniedzējiem, nav publiski piekļūstamas vietas. Cietumi vai robežkontroles zonas nebūtu jāuzskata par publiski piekļūstamām vietām. Dažas citas teritorijas var ietvert gan vietas, kas nav publiski piekļūstamas, gan vietas, kas ir publiski piekļūstamas, piemēram, privātas dzīvojamās ēkas gaitenis, kas nepieciešams, lai piekļūtu ārsta kabinetam, vai lidostu. Arī tiešsaistes vietas nav aptvertas, jo tās nav fiziskas vietas. Tomēr tas, vai konkrēta vieta ir publiski piekļūstama, būtu jānosaka katrā gadījumā atsevišķi, ņemot vērā konkrētās individuālās situācijas specifiku.
(19)
Za potrebe ove Uredbe pojam „javno mjesto” trebalo bi razumjeti kao svako fizičko mjesto koje je dostupno neodređenom broju fizičkih osoba, bez obzira na to je li dotično mjesto u privatnom ili javnom vlasništvu i na aktivnost za koju se to mjesto može upotrebljavati, kao što su trgovina npr. trgovine, restorani, kafići, usluge npr. banke, profesionalne aktivnosti, ugostiteljstvo, sport npr. bazeni, teretane, stadioni, prijevoz npr. autobusne i željezničke postaje, postaje podzemne željeznice, zračne luke, prijevozna sredstva, zabava npr. kina, kazališta, muzeji, koncertne i konferencijske dvorane odnosno aktivnosti u slobodno vrijeme ili druge svrhe npr. javne ceste i trgovi, parkovi, šume, igrališta. Mjesto bi trebalo klasificirati kao javno i ako, bez obzira na potencijalni kapacitet ili sigurnosna ograničenja, pristup tom mjestu podliježe određenim unaprijed utvrđenim uvjetima koje može ispuniti neodređen broj osoba, kao što su kupnja ulaznice ili prijevozne karte, prethodna registracija ili određena dob. S druge strane, mjesto se ne bi trebalo smatrati javnim ako je pristup ograničen na specifične i definirane fizičke osobe putem prava Unije ili nacionalnog prava koje je izravno povezano s javnom sigurnošću ili zaštitom odnosno putem jasnog iskaza volje osobe koja ima odgovarajuće ovlasti na tom mjestu. Sama činjenična mogućnost pristupa kao što su otključana vrata ili otvoreni ulaz u ogradi ne znači da je mjesto javno ako postoje naznake ili okolnosti koje upućuju na suprotno kao što su znakovi kojima se zabranjuje ili ograničava pristup. Poslovni prostori poduzećâ i tvornica te uredi i mjesta rada kojima mogu pristupiti samo relevantni zaposlenici i pružatelji usluga nisu javna mjesta. Javna mjesta ne bi trebala uključivati zatvore ili graničnu kontrolu. Neka druga mjesta mogu se sastojati i od mjesta koja su javna mjesta i od mjesta koja to nisu, kao što je hodnik privatne stambene zgrade potreban za pristup liječničkoj ordinaciji ili zračna luka. Nisu obuhvaćeni internetski prostori jer oni nisu fizički prostori. Ipak, činjenicu je li određeno mjesto javno trebalo bi utvrditi na pojedinačnoj osnovi i pritom uzeti u obzir specifične okolnosti konkretne situacije.
(20)
Lai gūtu vislielāko labumu no MI sistēmām, vienlaikus aizsargājot pamattiesības, veselību un drošību, un lai nodrošinātu demokrātisku kontroli, MI pratībai būtu jāsniedz sagādātājiem, uzturētājiem un skartajām personām nepieciešamie jēdzieni, lai tie varētu pieņemt uz informāciju balstītus lēmumus par MI sistēmām. Minētie jēdzieni var atšķirties atkarībā no attiecīgā konteksta, un tie var ietvert izpratni par tehnisko elementu pareizu piemērošanu MI sistēmas izstrādes posmā, pasākumiem, kas piemērojami tās izmantošanas laikā, piemērotiem veidiem, kā interpretēt MI sistēmas iznākumu, un – skarto personu gadījumā – zināšanas, kas vajadzīgas, lai izprastu, kā lēmumi, kas pieņemti ar MI palīdzību, tās ietekmēs. Šīs regulas piemērošanas kontekstā MI pratībai būtu jāsniedz visiem attiecīgajiem MI vērtības ķēdes dalībniekiem zināšanas, kas vajadzīgas, lai nodrošinātu pienācīgu atbilstību un tās pareizu izpildi. Turklāt MI pratības pasākumu plaša īstenošana un atbilstošu turpmāko pasākumu ieviešana varētu palīdzēt uzlabot darba apstākļus un galu galā uzturēt uzticama MI konsolidāciju un inovāciju Savienībā. Eiropas Mākslīgā intelekta padomei (MI padomei) būtu jāatbalsta Komisija MI pratības rīku, sabiedrības informētības un izpratnes veicināšanā par ieguvumiem, riskiem, aizsardzības pasākumiem, tiesībām un pienākumiem saistībā ar MI sistēmu lietošanu. Komisijai un dalībvalstīm sadarbībā ar attiecīgajām ieinteresētajām personām būtu jāveicina brīvprātīgu rīcības kodeksu izstrāde, lai uzlabotu MI pratību to personu vidū, kuras nodarbojas ar MI izstrādi, darbību un lietošanu.
(20)
Kako bi se ostvarile najveće koristi od UI sustava i istodobno zaštitila temeljna prava, zdravlje i sigurnost te omogućila demokratska kontrola, pismenost u području umjetne inteligencije trebala bi dobavljačima, subjektima koji uvode sustav i osobama na koje utječe umjetna inteligencija osigurati vladanje potrebnim pojmovima kako bi mogli donositi informirane odluke o UI sustavima. Ti se pojmovi mogu razlikovati s obzirom na relevantni kontekst i mogu uključivati razumijevanje pravilne primjene tehničkih elemenata tijekom faze razvoja UI sustava, mjera koje treba primijeniti tijekom njegova korištenja, prikladnih načina tumačenja izlaznih vrijednosti UI sustava i, u slučaju osoba na koje utječe umjetna inteligencija, znanje potrebno za razumijevanje načina na koji će odluke donesene uz pomoć umjetne inteligencije utjecati na njih. U kontekstu primjene ove Uredbe pismenost u području umjetne inteligencije trebala bi svim relevantnim akterima u vrijednosnom lancu umjetne inteligencije pružiti uvide potrebne za osiguravanje odgovarajuće usklađenosti i njezina pravilnog izvršavanja. Nadalje, široka provedba mjera pismenosti u području umjetne inteligencije i uvođenje odgovarajućih daljnjih mjera mogli bi doprinijeti poboljšanju radnih uvjeta i u konačnici podržati konsolidaciju i inovacijski put pouzdane umjetne inteligencije u Uniji. Europsko vijeće za umjetnu inteligenciju („Vijeće za umjetnu inteligenciju”) trebalo bi podupirati Komisiju u promicanju alata za pismenost u području umjetne inteligencije, javne svijesti te razumijevanja koristi, rizika, zaštitnih mjera, prava i obveza povezanih s korištenjem UI sustava. U suradnji s relevantnim dionicima Komisija i države članice trebale bi olakšati izradu dobrovoljnih kodeksa ponašanja kako bi se unaprijedila pismenost u području umjetne inteligencije među osobama koje se bave razvojem, radom i korištenjem umjetne inteligencije.
(21)
Lai nodrošinātu vienlīdzīgus konkurences apstākļus un indivīdu tiesību un brīvību efektīvu aizsardzību visā Savienībā, šīs regulas noteikumiem būtu jāattiecas uz MI sistēmu nodrošinātājiem nediskriminējošā veidā neatkarīgi no tā, vai tie iedibināti Savienībā vai trešā valstī, un uz Savienībā iedibinātiem MI sistēmu uzturētājiem.
(21)
Kako bi se osigurali jednaki uvjeti i djelotvorna zaštita prava i sloboda pojedinaca u cijeloj Uniji, pravila utvrđena ovom Uredbom trebala bi se primjenjivati na dobavljače UI sustava na nediskriminirajući način, bez obzira na to imaju li poslovni nastan u Uniji ili trećoj zemlji, i na subjekte koji uvode UI sustave s poslovnim nastanom u Uniji.
(22)
Ņemot vērā to digitālo raksturu, šai regulai būtu jāattiecas uz dažām MI sistēmām, pat ja tās nav laistas tirgū, nodotas ekspluatācijā vai izmantotas Savienībā. Tā tas ir, piemēram, ja Savienībā iedibināts operators iepērk dažus pakalpojumus no trešās valstīs iedibināta operatora saistībā ar darbību, ko veic MI sistēma, kura uzskatāma par augsta riska sistēmu. Minētajos apstākļos MI sistēma, ko operators izmanto trešā valstī varētu apstrādāt datus, kas likumīgi savākti Savienībā un nosūtīti no tās, un nodot pakalpojumus iepirkušajam Savienības operatoram minētās MI sistēmas iznākumus, kas izriet no minētās datu apstrādes, minēto MI sistēmu nelaižot tirgū, nenododot ekspluatācijā vai neizmantojot Savienībā. Lai novērstu šīs regulas noteikumu apiešanu un nodrošinātu Savienībā esošo fizisko personu efektīvu aizsardzību, šai regulai būtu jāattiecas arī uz MI sistēmu nodrošinātājiem un uzturētājiem, kuri iedibināti trešā valstī, ciktāl minēto sistēmu radītie iznākumi ir paredzēti izmantošanai Savienībā. Tomēr, lai ņemtu vērā esošo kārtību un īpašu nepieciešamību turpmāk sadarboties ar ārvalstu partneriem, ar kuriem notiek informācijas un pierādījumu apmaiņa, šī regula nebūtu jāpiemēro trešo valstu publiskām iestādēm un starptautiskām organizācijām, ja to darbība notiek sadarbības vai starptautisku nolīgumu ietvaros, kas noslēgti Eiropas vai valstu līmenī tiesībaizsardzības un tiesu iestāžu sadarbības nolūkā ar Savienību vai dalībvalstīm, ar noteikumu, ka attiecīgā trešā valsts vai starptautiskā organizācija nodrošina pienācīgus aizsardzības pasākumus attiecībā uz personu pamattiesību un pamatbrīvību aizsardzību. Attiecīgā gadījumā tas var attiekties uz tādu vienību darbībām, kurām trešās valstis uzticējušas veikt konkrētus uzdevumus, atbalstot šādu tiesībaizsardzības un tiesu iestāžu sadarbību. Šāda sadarbības sistēma vai nolīgumi ir izstrādāti divpusēji starp dalībvalstīm un trešām valstīm vai starp Eiropas Savienību, Eiropolu un citām Savienības aģentūrām un trešām valstīm un starptautiskām organizācijām. Iestādēm, kuru kompetencē ir tiesībaizsardzības un tiesu iestāžu uzraudzība saskaņā ar šo regulu, būtu jānovērtē, vai minētās sadarbības sistēmas vai starptautiskie nolīgumi ietver pienācīgus aizsardzības pasākumus attiecībā uz personu pamattiesību un pamatbrīvību aizsardzību. Saņēmēju valstu iestādes un Savienības iestādes, struktūras, biroji un aģentūras, kas izmanto šādus iznākumus Savienībā, joprojām ir atbildīgas par to, lai nodrošinātu, ka to izmantošana atbilst Savienības tiesību aktiem. Kad minētie starptautiskie nolīgumi tiek pārskatīti vai turpmāk tiek noslēgti jauni nolīgumi, līgumslēdzējām pusēm būtu jādara viss iespējamais, lai minētos nolīgumus saskaņotu ar šīs regulas prasībām.
(22)
Određeni bi UI sustavi s obzirom na njihov digitalni karakter trebali biti obuhvaćeni područjem primjene ove Uredbe čak i ako nisu stavljeni na tržište ni u upotrebu niti se upotrebljavaju u Uniji. To se, primjerice, odnosi na operatera s poslovnim nastanom u Uniji koji od operatera s poslovnim nastanom u trećoj zemlji naruči određene usluge povezane s aktivnošću koju obavlja UI sustav koji bi se smatrao visokorizičnim. U tim bi okolnostima UI sustav kojim se služi operater u trećoj zemlji mogao obrađivati podatke koji su zakonito prikupljeni u Uniji i preneseni iz nje te operateru ugovaratelju u Uniji dostaviti izlazne podatke UI sustava koje su rezultat te obrade, a da taj UI sustav nije stavljen ni na tržište ni u upotrebu niti se upotrebljava u Uniji. Kako bi se spriječilo zaobilaženje ove Uredbe i osigurala djelotvorna zaštita fizičkih osoba koje se nalaze u Uniji, ova bi se Uredba trebala primjenjivati i na dobavljače UI sustava i subjekte koji ih uvode koji imaju poslovni nastan u trećoj zemlji, u mjeri u kojoj se u Uniji namjeravaju upotrebljavati izlazni podaci tih sustava. Međutim, kako bi se uzeli u obzir postojeći aranžmani i posebne potrebe za budućom suradnjom sa stranim partnerima s kojima se razmjenjuju informacije i dokazi, ova se Uredba ne bi trebala primjenjivati na tijela javne vlasti treće zemlje ni na međunarodne organizacije kada djeluju u okviru suradnje ili međunarodnih sporazuma koji su na razini Unije ili na nacionalnoj razini sklopljeni s Unijom ili državama članicama radi suradnje u područjima kaznenog progona i pravosuđa, pod uvjetom da relevantna treća zemlja ili međunarodna organizacija osigura odgovarajuće zaštitne mjere u pogledu zaštite temeljnih prava i sloboda pojedinaca. To prema potrebi može obuhvaćati aktivnosti subjekata kojima su treće zemlje povjerile izvršavanje posebnih zadaća za potporu takvoj suradnji u područjima kaznenog progona i pravosuđa. Takvi okviri za suradnju ili sporazumi uspostavljeni su bilateralno između država članica i trećih zemalja ili između Europske unije, Europola i drugih agencija Unije te trećih zemalja i međunarodnih organizacija. Tijela nadležna za nadzor tijela kaznenog progona i pravosudnih tijela na temelju ove Uredbe trebala bi procijeniti uključuju li ti okviri za suradnju ili međunarodni sporazumi odgovarajuće zaštitne mjere u pogledu zaštite temeljnih prava i sloboda pojedinaca. Nacionalna tijela primatelji i institucije, tijela, uredi i agencije Unije koji se služe takvim izlaznim podacima u Uniji i dalje snose odgovornost za osiguravanje usklađenosti njihova korištenja s pravom Unije. Pri reviziji tih međunarodnih sporazuma ili sklapanju novih sporazuma u budućnosti ugovorne stranke trebale bi uložiti najveće moguće napore u usklađivanje tih sporazuma sa zahtjevima ove Uredbe.
(23)
Šī regula būtu jāpiemēro arī Savienības iestādēm, struktūrām, birojiem, un aģentūrām, kad tās rīkojas kā MI sistēmas nodrošinātājs vai uzturētājs.
(23)
Ova bi se Uredba trebala primjenjivati i na institucije, tijela, urede i agencije Unije kada djeluju kao dobavljač UI sustava ili subjekt koji ga uvodi.
(24)
Ja un ciktāl MI sistēmas tiek laistas tirgū, nodotas ekspluatācijā vai izmantotas ar šādu sistēmu modifikāciju vai bez tās militārām, aizsardzības vai valsts drošības vajadzībām, tās būtu jāizslēdz no šīs regulas piemērošanas jomas neatkarīgi no tā, kāda veida vienība veic minētās darbības, piemēram, neatkarīgi no tā, vai tā ir publiska vai privāta vienība. Attiecībā uz militāriem un aizsardzības mērķiem šāda izslēgšana ir pamatota gan ar LES 4. panta 2. punktu, gan ar dalībvalstu un Savienības kopējās aizsardzības politikas īpatnībām, ko reglamentē Līguma par Eiropas Savienību (LES) V sadaļas 2. nodaļa un uz ko attiecas starptautiskās publiskās tiesības, kas tādējādi ir piemērotāks tiesiskais regulējums MI sistēmu reglamentēšanai saistībā ar letāla spēka izmantošanu un citu MI sistēmu reglamentēšanai militāro un aizsardzības darbību kontekstā. Attiecībā uz valsts drošības mērķiem izslēgšana ir pamatota gan ar to, ka valsts drošība joprojām ir vienīgi dalībvalstu atbildība saskaņā ar LES 4. panta 2. punktu, gan ar valsts drošības darbību specifisko raksturu un operatīvajām vajadzībām, kā arī ar konkrētiem valsts noteikumiem, kas piemērojami minētajām darbībām. Tomēr, ja MI sistēmu, kas izstrādāta, laista tirgū, nodota ekspluatācijā vai tiek izmantota militāriem, aizsardzības vai valsts drošības mērķiem, uz laiku vai pastāvīgi izmanto citiem mērķiem (piemēram, civiliem vai humanitāriem mērķiem, tiesībaizsardzības vai sabiedriskās drošības mērķiem), šāda sistēma ietilptu šīs regulas piemērošanas jomā. Tādā gadījumā vienībai, kas MI sistēmu izmanto nevis militāriem, aizsardzības vai valsts drošības mērķiem, bet citiem mērķiem, būtu jānodrošina MI sistēmas atbilstība šai regulai, ja vien sistēma tai jau neatbilst. MI sistēmas, kas laistas tirgū vai nodotas ekspluatācijā izslēgtiem mērķiem, t. i., militāriem, aizsardzības vai valsts drošības mērķiem, un vienam vai vairākiem mērķiem, kas nav izslēgti, piemēram, civiliem mērķiem vai tiesībaizsardzībai, ietilpst šīs regulas piemērošanas jomā, un minēto sistēmu nodrošinātājiem būtu jānodrošina atbilstība šai regulai. Minētajos gadījumos tam, ka MI sistēma var ietilpt šīs regulas piemērošanas jomā, nebūtu jāietekmē iespēja vienībām, kas veic valsts drošības, aizsardzības un militārās darbības, – neatkarīgi no vienības, kas veic minētās darbības, veida – lietot tās MI sistēmas valsts drošības, militārajiem un aizsardzības mērķiem, kuru lietošana ir izslēgta no šīs regulas piemērošanas jomas. MI sistēmai, kas laista tirgū civiliem vai tiesībaizsardzības mērķiem un ko ar modifikāciju vai bez tās izmanto militāriem, aizsardzības vai valsts drošības mērķiem, nebūtu jāietilpst šīs regulas piemērošanas jomā neatkarīgi no vienības, kas veic minētās darbības, veida.
(24)
Ako se i u mjeri u kojoj se UI sustavi stavljaju na tržište, stavljaju u upotrebu ili se upotrebljavaju, s izmjenama ili bez njih, u vojne svrhe, obrambene svrhe ili u svrhe povezane s nacionalnom sigurnošću, te bi sustave trebalo isključiti iz područja primjene ove Uredbe neovisno o tome koja vrsta subjekta obavlja te aktivnosti, primjerice bez obzira na to radi li se o javnom ili privatnom subjektu. Kad je riječ o vojnim i obrambenim svrhama, takvo je isključenje opravdano i člankom 4. stavkom 2. UEU-a i posebnostima obrambene politike država članica i zajedničke obrambene politike Unije obuhvaćene glavom V. poglavljem 2. UEU-a koje podliježu međunarodnom javnom pravu, koje je stoga primjereniji pravni okvir za reguliranje UI sustavâ u kontekstu korištenja smrtonosne sile i drugih UI sustava u kontekstu vojnih i obrambenih aktivnosti. Kad je riječ o nacionalnoj sigurnosti, isključenje je opravdano kako činjenicom da nacionalna sigurnost ostaje isključiva odgovornost država članica, u skladu s člankom 4. stavkom 2. UEU-a, tako i posebnom prirodom i operativnim potrebama aktivnosti povezanih s nacionalnom sigurnošću i posebnim nacionalnim pravilima koja se primjenjuju na te aktivnosti. Međutim, ako se UI sustav koji je razvijen, stavljen na tržište, stavljen u upotrebu ili se njime služi u vojne svrhe, obrambene svrhe ili u svrhe povezane s nacionalnom sigurnošću privremeno ili trajno upotrebljava u druge svrhe, na primjer civilne ili humanitarne, u svrhu kaznenog progona ili za potrebe javne sigurnosti, takav bi sustav bio obuhvaćen područjem primjene ove Uredbe. U tom bi slučaju subjekt koji UI sustav upotrebljava u svrhe koje nisu vojne svrhe, obrambene svrhe ili svrhe povezane s nacionalnom sigurnošću trebao osigurati usklađenost UI sustava s ovom Uredbom, osim ako je sustav s njome već usklađen. UI sustavi koji se stavljaju na tržište ili u upotrebu u isključene svrhe, odnosno vojne svrhe, obrambene svrhe ili svrhe povezane s nacionalnom sigurnošću, i u jednu ili više svrha koje nisu isključene, kao što su civilne svrhe ili kazneni progon, obuhvaćeni su područjem primjene ove Uredbe i dobavljači tih sustava trebali bi osigurati usklađenost s ovom Uredbom. U tim slučajevima činjenica da UI sustav može biti obuhvaćen područjem primjene ove Uredbe ne bi trebala utjecati na mogućnost da subjekti koji provode aktivnosti povezane s nacionalnom sigurnošću te obrambene i vojne aktivnosti, bez obzira na vrstu subjekta koji te aktivnosti obavlja, upotrebljavaju UI sustave čija je upotreba isključena iz područja primjene ove Uredbe u svrhe povezane s nacionalnom sigurnošću te vojne i obrambene svrhe. UI sustav koji se stavlja na tržište u civilne svrhe ili u svrhu kaznenog progona i koji se, s izmjenama ili bez njih, upotrebljava u vojne svrhe, obrambene svrhe ili u svrhe povezane s nacionalnom sigurnošću ne bi trebao biti obuhvaćen područjem primjene ove Uredbe, bez obzira na vrstu subjekta koji obavlja te aktivnosti.
(25)
Šai regulai būtu jāatbalsta inovācija un būtu jāievēro zinātnes brīvība, un tai nebūtu jākavē pētniecības un izstrādes darbība. Tāpēc no tās darbības jomas ir jāizslēdz MI sistēmas un modeļi, kas konkrēti izstrādāti un nodoti ekspluatācijā vienīgi zinātniskās pētniecības un izstrādes nolūkā. Turklāt ir jānodrošina, ka šī regula citādi neietekmē zinātniskās pētniecības un izstrādes darbību saistībā ar MI sistēmām vai modeļiem pirms to laišanas tirgū vai nodošanas ekspluatācijā. Šīs regulas noteikumi nebūtu jāpiemēro arī uz produktiem orientētai pētniecības, testēšanas un izstrādes darbībai saistībā ar MI sistēmām vai modeļiem pirms minēto sistēmu un modeļu nodošanas ekspluatācijā vai laišanas tirgū. Minētā izslēgšana neskar pienākumu ievērot šo regulu, ja MI sistēma, kas ietilpst šīs regulas darbības jomā, tiek laista tirgū vai nodota ekspluatācijā šādas pētniecības un izstrādes darbības rezultātā, un MI “regulatīvo smilškastu” noteikumu un noteikumu par testēšanu reālos apstākļos piemērošanu. Turklāt, neskarot MI sistēmu izslēgšanu, kuras konkrēti izstrādātas un nodotas ekspluatācijā vienīgi zinātniskās pētniecības un izstrādes nolūkā, uz jebkuru citu MI sistēmu, ko var lietot jebkādu pētniecības un izstrādes darbību veikšanai, arī turpmāk būtu jāattiecina šīs regulas noteikumi. Jebkurā gadījumā ikviena pētniecības un izstrādes darbība būtu jāveic saskaņā ar atzītiem zinātniskās pētniecības ētikas un profesionālajiem standartiem un saskaņā ar piemērojamiem Savienības tiesību aktiem.
(25)
Ovom bi se Uredbom trebale podupirati inovacije, trebala bi se poštovati sloboda znanosti te se njome ne bi smjele ugrožavati aktivnosti istraživanja i razvoja. Stoga je iz njezina područja primjene potrebno isključiti UI sustave i modele koji su posebno razvijeni i stavljeni u upotrebu isključivo u svrhu znanstvenog istraživanja i razvoja. Nadalje, potrebno je osigurati da ova Uredba na drugi način ne utječe na aktivnosti znanstvenog istraživanja i razvoja UI sustava ili modela prije njihova stavljanja na tržište ili u upotrebu. Kad je riječ o aktivnostima istraživanja, testiranja i razvoja u vezi s UI sustavima ili modelima usmjerenima na proizvode, odredbe ove Uredbe ne bi se trebale primjenjivati ni prije nego što se ti sustavi i modeli stave u upotrebu ili na tržište. Tim isključenjem ne dovodi se u pitanje obveza usklađivanja s ovom Uredbom ako se UI sustav obuhvaćen područjem primjene ove Uredbe stavlja na tržište ili u upotrebu kao rezultat takve aktivnosti istraživanja i razvoja niti se dovodi u pitanje primjena odredaba o regulatornim izoliranim okruženjima za umjetnu inteligenciju i testiranju u stvarnim uvjetima. Nadalje, ne dovodeći u pitanje isključenje UI sustava koji su posebno razvijeni i stavljeni u upotrebu isključivo u svrhu znanstvenog istraživanja i razvoja, svi ostali UI sustavi koji se mogu upotrebljavati za obavljanje bilo kakvih aktivnosti istraživanja i razvoja trebali bi i dalje podlijegati odredbama ove Uredbe. U svakom slučaju, aktivnosti istraživanja i razvoja trebale bi se provoditi u skladu s priznatim etičkim i profesionalnim standardima za znanstvena istraživanja i u skladu s primjenjivim pravom Unije.
(26)
Lai ieviestu samērīgu un iedarbīgu saistošu noteikumu kopumu MI sistēmām, būtu jāizmanto skaidri noteikta, uz risku balstīta pieeja. Minētajai pieejai šādu noteikumu veids un saturs būtu jāpielāgo MI sistēmu potenciāli radīto risku intensitātei un apmēram. Tāpēc ir jāaizliedz daži nepieņemami MI prakses veidi, jānosaka prasības augsta riska MI sistēmām un pienākumi attiecīgajiem operatoriem un jānosaka pārredzamības pienākumi attiecībā uz dažām MI sistēmām.
(26)
Kako bi se uveo proporcionalan i djelotvoran skup obvezujućih pravila za UI sustave, trebalo bi slijediti jasno definiran pristup temeljen na riziku. Vrsta i sadržaj tih pravila u tom bi pristupu trebali biti primjereni intenzitetu i opsegu rizika koje mogu stvoriti UI sustavi. Stoga je potrebno zabraniti određene neprihvatljive prakse u području umjetne inteligencije te utvrditi zahtjeve za visokorizične UI sustave i obveze za relevantne operatere te obveze u pogledu transparentnosti za određene UI sustave.
(27)
Lai gan uz risku balstītā pieeja ir samērīga un efektīva saistošu noteikumu kopuma pamats, ir svarīgi atgādināt 2019. gada Ētikas vadlīnijas uzticamam mākslīgajam intelektam, kuras izstrādājusi Komisijas ieceltā neatkarīgā AI HLEG. Minētajās vadlīnijās AI ALEG izstrādāja septiņus nesaistošus ar MI saistītus ētikas principus, kuru mērķis ir palīdzēt nodrošināt, lai MI būtu uzticams un ētiski pamatots. Minētie septiņi principi ietver cilvēka darbībspēju un virsvadību; tehnisko robustumu un drošumu; privātumu un datu pārvaldību; pārredzamību; daudzveidību, nediskriminēšanu un taisnīgumu; sociālo un vides labbūtību un pārskatatbildību. Neskarot šīs regulas un citu piemērojamo Savienības tiesību aktu juridiski saistošās prasības, minētās vadlīnijas palīdz projektēt saskaņotu, uzticamu un uz cilvēku orientētu MI saskaņā ar Hartu un vērtībām, uz kuru pamata ir dibināta Savienība. Saskaņā ar AI HLEG vadlīnijām cilvēka darbībspēja un virsvadība nozīmē, ka MI sistēmas tiek projektētas un lietotas kā instruments, kas kalpo cilvēkiem, respektē cilvēka cieņu un personisko autonomiju un darbojas tādā veidā, ko cilvēki var pienācīgi kontrolēt un virsvadīt. Tehniskais robustums un drošums nozīmē, ka MI sistēmas tiek projektētas un lietotas tā, lai nodrošinātu robustumu problēmu gadījumā un noturību pret mēģinājumiem mainīt MI sistēmas lietošanu vai veiktspēju tā, ka trešās personas to var lietot nelikumīgi, un lai līdz minimumam samazinātu neparedzētu kaitējumu. Privātums un datu pārvaldība nozīmē, ka MI sistēmas tiek projektētas un lietotas saskaņā ar privātuma un datu aizsardzības noteikumiem, savukārt datus apstrādā atbilstoši augstiem kvalitātes un integritātes standartiem. Pārredzamība nozīmē, ka MI sistēmas tiek projektētas un lietotas tā, lai būtu iespējama pienācīga izsekojamība un izskaidrojamība un vienlaikus lai cilvēki apzinātos, ka sazinās vai ir saskarē ar MI sistēmu, kā arī lai pienācīgi informētu uzturētājus par MI sistēmas spējām un ierobežojumiem un skartās personas – par to tiesībām. Daudzveidība, nediskriminēšana un taisnīgums nozīmē, ka MI sistēmas tiek projektētas un lietotas tā, lai aptvertu dažādus dalībniekus un veicinātu vienlīdzīgu piekļuvi, dzimumu līdztiesību un kultūru daudzveidību un vienlaikus lai netiktu pieļauta diskriminējoša ietekme un netaisnīgi aizspriedumi, ko aizliedz Savienības vai valsts tiesību akti. Sociālā un vides labbūtība nozīmē, ka MI sistēmas tiek projektētas un lietotas ilgtspējīgā un videi nekaitīgā veidā, kā arī tā, lai ieguvēji būtu visi cilvēki un vienlaikus tiktu uzraudzīta un novērtēta ilgtermiņa ietekme uz indivīdu, sabiedrību un demokrātiju. Minēto principu piemērošana, cik vien iespējams, būtu jāintegrē MI modeļu projektēšanā un lietošanā. Jebkurā gadījumā tiem būtu jākalpo par pamatu šajā regulā noteiktajai rīcības kodeksu izstrādei. Visas ieinteresētās personas, tostarp nozare, akadēmiskā vide, pilsoniskā sabiedrība un standartizācijas organizācijas, tiek mudinātas brīvprātīgas paraugprakses un standartu izstrādē pienācīgi ņemt vērā minētos ētikas principus.
(27)
Iako je pristup temeljen na riziku osnova za razmjeran i djelotvoran skup obvezujućih pravila, važno je podsjetiti na Etičke smjernice za pouzdanu umjetnu inteligenciju iz 2019. koje je izradila neovisna Stručna skupina za umjetnu inteligenciju koju je imenovala Komisija. U tim je smjernicama Stručna skupina za umjetnu inteligenciju razvila sedam neobvezujućih etičkih načela za umjetnu inteligenciju kojima se nastoji osigurati pouzdanost i etička prihvatljivost umjetne inteligencije. Tih sedam načela uključuju ljudsko djelovanje i nadzor; tehničku otpornost i sigurnost; privatnost i upravljanje podacima; transparentnost; raznolikost, nediskriminaciju i pravednost; dobrobit društva i okoliša te odgovornost. Ne dovodeći u pitanje pravno obvezujuće zahtjeve iz ove Uredbe i bilo koje drugo primjenjivo pravo Unije, te smjernice doprinose dizajniranju koherentne, pouzdane i antropocentrične umjetne inteligencije, u skladu s Poveljom i vrijednostima na kojima se Unija temelji. Prema smjernicama Stručne skupine za umjetnu inteligenciju, „ljudsko djelovanje i nadzor” znači da se UI sustavi razvijaju i upotrebljavaju kao alat koji služi ljudima, poštuje ljudsko dostojanstvo i osobnu autonomiju te funkcionira na način koji ljudi mogu na odgovarajući način kontrolirati i nadzirati. Tehnička otpornost i sigurnost znači da se UI sustavi razvijaju i upotrebljavaju na način kojim se omogućuje otpornost u slučaju problema i odupiranje pokušajima promjene korištenja ili učinkovitosti UI sustava s ciljem da se trećim stranama omogući nezakonita upotreba, te kojim se nenamjerna šteta svodi na najmanju moguću mjeru. Privatnost i upravljanje podacima znači da se UI sustavi razvijaju i upotrebljavaju u skladu s pravilima o privatnosti i zaštiti podataka, pri čemu se obrađuju podaci koji ispunjavaju visoke standarde u pogledu kvalitete i cjelovitosti. Transparentnost znači da se UI sustavi razvijaju i upotrebljavaju na način kojim se omogućuje odgovarajuća sljedivost i objašnjivost, uz istodobno informiranje ljudi o tome da komuniciraju ili su u interakciji s UI sustavom te propisno obavješćivanje subjekata koji uvode sustav o sposobnostima i ograničenjima tog UI sustava, a osoba na koje utječe UI sustav o njihovim pravima. Raznolikost, nediskriminacija i pravednost znači da se UI sustavi razvijaju i upotrebljavaju na način koji uključuje različite aktere i kojim se promiču jednak pristup, rodna ravnopravnost i kulturna raznolikost, pri čemu se izbjegavaju diskriminirajući učinci i nepravedne pristranosti koji su zabranjeni pravom Unije ili nacionalnim pravom. Dobrobit društva i okoliša znači da se UI sustavi razvijaju i upotrebljavaju na održiv i okolišno prihvatljiv način i u korist svih ljudi, uz istodobno praćenje i procjenu dugoročnih učinaka na pojedinca, društvo i demokraciju. Ta bi se načela trebala primjenjivati i pri dizajniranju i korištenju UI modela, kada je to moguće. Ona bi u svakom slučaju trebala služiti kao osnova za izradu kodeksa ponašanja na temelju ove Uredbe. Sve dionike, uključujući industriju, akademsku zajednicu, civilno društvo i organizacije za normizaciju, potiče se da prema potrebi uzmu u obzir etička načela za razvoj dobrovoljnih najboljih praksi i normi.
(28)
Līdztekus daudziem lietderīgiem MI lietošanas veidiem to var lietot arī ļaunprātīgi, un tā var sniegt nebijušus un spēcīgus rīkus manipulatīvas, ekspluatatīvas un sociālās kontroles prakses īstenošanai. Šāda prakse ir īpaši kaitējoša un ļaunprātīga un būtu jāaizliedz, jo tā ir pretrunā Savienības vērtībām attiecībā uz cilvēka cieņu, brīvību, līdztiesību, demokrātiju un tiesiskumu un pamattiesībām, kas nostiprinātas Hartā, ieskaitot tiesības uz nediskriminēšanu, datu aizsardzību un privātumu un bērna tiesības.
(28)
Osim brojnih korisnih primjena umjetne inteligencije, ona se može i zloupotrijebiti te omogućiti nove i moćne alate za manipulativne i izrabljivačke prakse te prakse društvene kontrole. Takve su prakse osobito štetne i predstavljaju zlouporabu te bi ih trebalo zabraniti jer su protivne Unijinim vrijednostima poštovanja ljudskog dostojanstva, slobode, ravnopravnosti, demokracije i vladavine prava te temeljnih prava sadržanih u Povelji, uključujući pravo na nediskriminaciju, zaštitu podataka i privatnost te prava djeteta.
(29)
MI iespējotas manipulatīvas metodes var izmantot, lai pārliecinātu personas iesaistīties nevēlamā rīcībā vai lai maldinātu tās, vedinot pieņemt lēmumus tādā veidā, kas grauj un vājina to autonomiju, lēmumu pieņemšanu un brīvu izvēli. Tādu konkrētu MI sistēmu laišana tirgū, nodošana ekspluatācijā vai lietošana, kuru mērķis vai sekas ir cilvēka uzvedības būtiska iespaidošana, kā dēļ var rasties būtisks kaitējums, jo īpaši pietiekami būtiska nelabvēlīga ietekme uz fizisko un psiholoģisko veselību vai finanšu interesēm, ir īpaši bīstama un tāpēc būtu jāaizliedz. Šādas MI sistēmas izmanto zemapziņai adresētus elementus, piemēram, audio, attēlu vai video stimulus, kurus personas kā tādus nespēj uztvert, jo tie darbojas ārpus cilvēka uztveres, vai citus manipulatīvus vai maldinošus paņēmienus, kas grauj vai vājina personas autonomiju, lēmumu pieņemšanu vai brīvu izvēli tā, ka cilvēki neapzinās minētos paņēmienus vai – pat ja tos apzinās – viņi joprojām var tikt maldināti vai nespēj tos kontrolēt vai tiem pretoties. To varētu veicināt, piemēram, mašīnas–smadzeņu saskarnes vai virtuālā realitāte, jo tās ļauj vairāk kontrolēt to, kādi stimuli personām tiek piedāvāti, ciktāl tās var būtiski iespaidot personu uzvedību tā, ka tiek nodarīts būtisks kaitējums. Turklāt MI sistēmas var arī citādi izmantot kādas personas vai konkrētas personu grupas neaizsargātību to vecuma, invaliditātes Eiropas Parlamenta un Padomes Direktīvas (ES) 2019/882 (16) nozīmē vai konkrētas sociālas vai ekonomiskas situācijas dēļ, kas var padarīt minētās personas neaizsargātākas pret izmantošanu, piemēram, personas, kas dzīvo galējā nabadzībā, etniskās vai reliģiskās minoritātes. Šādas MI sistēmas var laist tirgū, nodot ekspluatācijā vai lietot ar mērķi vai sekām – būtiska personas uzvedības iespaidošana – un tā, ka tiek nodarīts vai var pamatoti uzskatīt, ka var tikt nodarīts būtisks kaitējums minētajai vai kādai citai personai vai personu grupām, tostarp kaitējums, kas var tikt uzkrāts laika gaitā, un tāpēc tās būtu jāaizliedz. Pieņemt, ka nodoms ir iespaidot uzvedību, var būt neiespējami, ja iespaidošana izriet no faktoriem, kas nav saistīti ar MI sistēmu un ir ārpus nodrošinātāja vai uzturētāja kontroles, proti, faktoriem, kurus pamatoti nevar paredzēt un kurus tādēļ MI sistēmas nodrošinātājs vai uzturētājs nevar mazināt. Jebkurā gadījumā nodrošinātājam vai uzturētājam nav noteikti jābūt nodomam radīt būtisku kaitējumu, ar noteikumu, ka šāds kaitējums izriet no manipulatīvas vai ekspluatatīvas MI iespējotas prakses. Šādas MI prakses aizliegumi papildina Eiropas Parlamenta un Padomes Direktīvā 2005/29/EK (17) ietvertos noteikumus, jo īpaši to, ka negodīga komercprakse, kas rada ekonomisku vai finansiālu kaitējumu patērētājiem, jebkuros apstākļos ir aizliegta neatkarīgi no tā, vai tā tiek īstenota ar MI sistēmām vai citādi. Šajā regulā noteiktajiem manipulatīvas un ekspluatatīvas prakses aizliegumiem nebūtu jāietekmē likumīga prakse medicīniskās aprūpes kontekstā, piemēram, garīgas slimības psiholoģiska ārstēšana vai fiziska rehabilitācija, ja minētā prakse tiek veikta saskaņā ar piemērojamiem tiesību aktiem un medicīniskajiem standartiem, piemēram, ar personu vai to juridisko pārstāvju nepārprotamu piekrišanu. Turklāt vispārpieņemta un leģitīma komercprakse, piemēram, reklāmas jomā, kas atbilst piemērojamiem tiesību aktiem, pati par sevi nebūtu jāuzskata par kaitīgu manipulatīvu MI iespējotu praksi.
(29)
Manipulativne tehnike omogućene umjetnom inteligencijom mogu se upotrebljavati kako bi se osobe navelo na neželjeno ponašanje ili kako bi ih se obmanulo tako da ih se potiče na odluke na način kojim se podriva i narušava njihova autonomija, donošenje odluka i slobodan izbor. Stavljanje na tržište, stavljanje u upotrebu ili korištenje određenih UI sustava s ciljem ili učinkom bitnog iskrivljavanja ljudskog ponašanja, pri čemu je vjerojatno da će nastati znatna šteta, osobito ona koja ima dovoljno velike štetne učinke na fizičko ili psihološko zdravlje odnosno financijske interese, osobito su opasni te bi ih stoga trebalo zabraniti. U takvim se UI sustavima upotrebljavaju subliminalne komponente kao što su zvučni i slikovni podražaji te videopodražaji koje osobe ne mogu percipirati jer nadilaze ljudsku percepciju ili se upotrebljavaju druge manipulativne ili prijevarne tehnike kojima se podriva ili narušava autonomija, donošenje odluka ili slobodan izbor osobe na način da ljudi svjesno ne percipiraju te tehnike ili zbog kojih su, ako ih i jesu svjesni, svejedno prevareni ili ih ne mogu kontrolirati niti im se oduprijeti. To bi se, na primjer, moglo olakšati sučeljima mozak-računalo ili virtualnom stvarnošću jer se njima omogućuje viši stupanj kontrole toga koji se podražaji prikazuju osobama, u mjeri u kojoj bi oni mogli bitno iskriviti njihovo ponašanje na znatno štetan način. Osim toga, UI sustavi mogu na drugi način iskorištavati ranjivosti osobe ili određene skupine osoba zbog njihove dobi, invaliditeta u smislu Direktive (EU) 2019/882 Europskog parlamenta i Vijeća (16) ili određene socijalne ili gospodarske situacije zbog kojih bi te osobe mogle biti izloženije iskorištavanju, kao što su osobe koje žive u ekstremnom siromaštvu i etničke ili vjerske manjine. Takvi UI sustavi mogu se staviti na tržište, staviti u upotrebu ili se upotrebljavati s ciljem ili učinkom bitnog iskrivljavanja ponašanja osobe i to na način kojim se toj osobi ili drugoj osobi ili skupinama osoba uzrokuje znatan šteta ili je se može razumno očekivati da će se prouzročiti takva šteta, što uključuje štetu koja se može akumulirati s vremenom, te bi ih stoga trebalo zabraniti. Možda nije moguće pretpostaviti postojanje namjere da se iskrivi ponašanje ako je to iskrivljavanje ponašanja posljedica čimbenika izvan UI sustava koji su izvan kontrole dobavljača ili subjekta koji uvodi sustav, odnosno čimbenika koje dobavljač UI sustava ili subjekt koji ga uvodi ne mogu u razumnoj mjeri predvidjeti i stoga ublažiti. U svakom slučaju, nije potrebno da dobavljač UI sustava ili subjekt koji ga uvodi ima namjeru prouzročiti znatnu štetu pod uvjetom da ta šteta proizlazi iz manipulativne ili izrabljivačke prakse omogućene umjetnom inteligencijom. Zabrane takvih praksi u području umjetne inteligencije komplementarne su odredbama sadržanima u Direktivi 2005/29/EZ Europskog parlamenta i Vijeća (17), osobito u pogledu toga da su nepoštene poslovne prakse koje dovode do gospodarske ili financijske štete potrošačima zabranjene u svim okolnostima, bez obzira na to provode li se putem UI sustavâ ili na drugi način. Zabrane manipulativnih i izrabljivačkih praksi iz ove Uredbe ne bi trebale utjecati na zakonite prakse u kontekstu liječenja, kao što je psihološko liječenje mentalnih bolesti ili fizička rehabilitacija, ako se te prakse provode u skladu s primjenjivim pravom i medicinskim standardima, kao što su izričita privola pojedinaca ili njihovih zakonskih zastupnika. Osim toga, uobičajene i zakonite poslovne prakse, primjerice u području oglašavanja, koje su u skladu s primjenjivim pravom ne bi same po sebi trebalo smatrati štetnom manipulativnom praksom omogućenom umjetnom inteligencijom.
(30)
Būtu jāaizliedz biometriskās kategorizācijas sistēmas, kuru pamatā ir fizisku personu biometriskie dati, piemēram, personas seja vai pirkstu nospiedumi, lai atvedinātu vai izsecinātu personas politiskos uzskatus, dalību arodbiedrībās, reliģisko vai filozofisko pārliecību, rasi, dzimumdzīvi vai seksuālo orientāciju. Minētajam aizliegumam nebūtu jāattiecas uz tādu biometrisko datu kopu likumīgu marķēšanu, filtrēšanu vai kategorizēšanu, kas iegūtas saskaņā ar Savienības vai valsts tiesību aktiem attiecībā uz biometriskajiem datiem, piemēram, attēlu šķirošanu pēc matu krāsas vai acu krāsas, ko var izmantot, piemēram, tiesībaizsardzības jomā.
(30)
Trebalo bi zabraniti sustave biometrijske kategorizacije koji se temelje na biometrijskim podacima fizičkih osoba, kao što su lice ili otisak prstiju pojedinca, kako bi se deduciralo ili izvelo zaključke o njegovim političkim mišljenjima, članstvu u sindikatima, vjerskim ili filozofskim uvjerenjima, rasi, spolnom životu ili seksualnoj orijentaciji. Ta zabrana ne bi trebala obuhvaćati zakonito označivanje, filtriranje ili kategorizaciju skupova biometrijskih podataka prikupljenih u skladu s pravom Unije ili nacionalnim pravom na temelju biometrijskih podataka, kao što je razvrstavanje slika prema boji kose ili boji očiju, koji se, primjerice, mogu upotrebljavati u području kaznenog progona.
(31)
MI sistēmas, ar ko publiski vai privāti dalībnieki nodrošina fizisko personu sociālo novērtēšanu, var radīt diskriminējošus iznākumus un dažu grupu atstumtību. Tās var pārkāpt tiesības uz cieņu un nediskriminēšanu un līdztiesības un tiesiskuma vērtības. Šādas MI sistēmas izvērtē vai klasificē fiziskas personas vai personu grupas noteiktā laikposmā, pamatojoties uz vairākiem datu punktiem, kas saistīti ar to sociālo uzvedību dažādos kontekstos vai zināmām, izsecinātām vai prognozētām personas vai personības īpašībām. Šādu MI sistēmu radītais sociālā novērtējuma rezultāts var izraisīt kaitējošu vai nelabvēlīgu attieksmi pret fiziskām personām vai veselām fizisku personu grupām sociālos kontekstos, kas nav saistīti ar to kontekstu, kurā dati tika sākotnēji ģenerēti vai savākti, vai kaitējošu attieksmi, kas nav pamatota vai samērīga ar personu sociālās uzvedības “smagumu”. Tāpēc MI sistēmas, kas ietver šādu nepieņemamu vērtēšanas praksi un rada šādus kaitīgus vai nelabvēlīgus rezultātus, būtu jāaizliedz. Minētajam aizliegumam nebūtu jāietekmē fizisku personu likumīga novērtēšanas prakse, ko īsteno konkrētā nolūkā saskaņā ar Savienības vai valsts tiesību aktiem.
(31)
UI sustavi koji omogućuju društveno vrednovanje fizičkih osoba koje upotrebljavaju javni ili privatni akteri mogu rezultirati diskriminatornim ishodima i isključivanjem određenih skupina. Njima se može prekršiti pravo na dostojanstvo i nediskriminaciju te vrijednosti kao što su ravnopravnost i pravda. Takvi UI sustavi evaluiraju ili klasificiraju fizičke osobe ili skupine fizičkih osoba na temelju višestrukih podataka povezanih s njihovim društvenim ponašanjem u višestrukim kontekstima ili poznatih, izvedenih ili predviđenih osobnih značajki ili značajki osobnosti tijekom određenih razdoblja. Društveni rejting dobiven takvim UI sustavima može rezultirati štetnim ili nepovoljnim tretmanom fizičkih osoba ili cijelih skupina fizičkih osoba u društvenim kontekstima koji nisu povezani s kontekstom u kojima su podaci izvorno generirani ili prikupljeni odnosno štetnim tretmanom koji je nerazmjeran ili neopravdan u odnosu na težinu posljedica njihova društvenog ponašanja. Stoga bi UI sustave koji uključuju takve neprihvatljive prakse vrednovanja i koji rezultiraju takvim štetnim ili nepovoljnim ishodima trebalo zabraniti. Ta zabrana ne bi trebala utjecati na zakonite prakse evaluacije fizičkih osoba koje se provode u specifičnu svrhu u skladu s pravom Unije i nacionalnim pravom.
(32)
MI sistēmu lietošana fizisku personu reāllaika biometriskajai tālidentifikācijai publiski piekļūstamās vietās tiesībaizsardzības nolūkos ir īpaši aizskarošu attiecībā uz konkrēto personu tiesībām un brīvībām, ciktāl tā var ietekmēt lielas sabiedrības daļas privāto dzīvi, izraisīt pastāvīgas novērošanas sajūtu un netieši atturēt no pulcēšanās brīvības un citu pamattiesību īstenošanas. Fizisku personu biometriskajai tālidentifikācijai paredzētu MI sistēmu tehniskās neprecizitātes var novest pie neobjektīviem rezultātiem un radīt diskriminējošas sekas. Šādi iespējami neobjektīvi rezultāti un diskriminējošas sekas ir īpaši saistīti ar vecumu, etnisko piederību, rasi, dzimumu vai invaliditāti. Turklāt tūlītējā ietekme un ierobežotas iespējas veikt turpmākas pārbaudes vai labojumus attiecībā uz šādu reāllaikā darbojošos sistēmu lietošanu rada pastiprinātu risku attiecīgo personu tiesībām un brīvībām tiesībaizsardzības darbību vai to ietekmes kontekstā.
(32)
Korištenje UI sustava za daljinsku biometrijsku identifikaciju fizičkih osoba u stvarnom vremenu na javnim mjestima u svrhu kaznenog progona osobito je intruzivno za prava i slobode dotičnih osoba, u onoj mjeri u kojoj može utjecati na privatni život velikog dijela stanovništva, pobuditi doživljaj stalnog nadzora i neizravno odvratiti od ostvarivanja slobode okupljanja i drugih temeljnih prava. Tehničke netočnosti UI sustava namijenjenih daljinskoj biometrijskoj identifikaciji fizičkih osoba mogu rezultirati pristranim rezultatima i imati diskriminacijske učinke. Takvi potencijalni pristrani rezultati i diskriminacijski učinci osobito su relevantni s obzirom na dob, etničku pripadnost, rasu, spol ili invaliditet. Osim toga, neposrednost učinka i ograničene mogućnosti za dodatne provjere ili ispravke u pogledu korištenja takvih sustava koji funkcioniraju u stvarnom vremenu nose povećane rizike za prava i slobode dotičnih osoba u kontekstu aktivnosti kaznenog progona ili na koje aktivnosti kaznenog progona utječu.
(33)
Tāpēc minēto sistēmu izmantošana tiesībaizsardzības nolūkos būtu jāaizliedz, izņemot izsmeļoši uzskaitītas un šauri definētas situācijas, kurās sistēmu izmantošana ir absolūti nepieciešama tādu būtisku sabiedrības interešu īstenošanai, kuru nozīme atsver riskus. Minētās situācijas ietver konkrētu noziegumos cietušo, tostarp pazudušu personu, meklēšanu; konkrētus draudus fizisku personu dzīvībai vai fiziskajai drošībai vai teroristu uzbrukuma draudus; un šīs regulas pielikumā uzskaitīto noziedzīgo nodarījumu izdarītāju vai aizdomās turēto atrašanās vietas noteikšanu vai identificēšanu, ja par minētajiem noziedzīgajiem nodarījumiem attiecīgajā dalībvalstī saskaņā ar minētās dalībvalsts tiesību aktiem ir paredzēts brīvības atņemšanas sods vai ar brīvības atņemšanu saistīts drošības līdzeklis, kura maksimālais ilgums ir vismaz četri gadi. Šāda robežvērtība brīvības atņemšanas sodam vai ar brīvības atņemšanu saistītam drošības līdzeklim saskaņā ar valsts tiesību aktiem palīdz nodrošināt to, ka noziedzīgajam nodarījumam vajadzētu būt pietiekami smagam, lai potenciāli pamatotu reāllaika biometriskās tālidentifikācijas sistēmas lietošanu. Turklāt noziedzīgo nodarījumu, kas paredzēti šīs regulas pielikumā, pamatā ir 32 Padomes Pamatlēmumā 2002/584/TI (18) uzskaitīti noziedzīgi nodarījumi, ņemot vērā, ka daži no minētajiem nodarījumiem praksē, iespējams, būs būtiskāki nekā citi, proti, paredzams, ka reāllaika biometriskās tālidentifikācijas sistēmas lietošana varētu būt nepieciešama un samērīga ļoti atšķirīgā pakāpē atkarībā no praktiskajām darbībām dažādo uzskaitīto noziedzīgo nodarījumu izdarītāja vai aizdomās turētā atrašanās vietas noteikšanai vai identificēšanai, ņemot vērā iespējamās atšķirības kaitējuma smaguma, iespējamības un apmēra vai iespējamo negatīvo seku ziņā. Nenovēršamus draudus fizisku personu dzīvībai vai fiziskajai drošībai varētu radīt arī Eiropas Parlamenta un Padomes Direktīvas (ES) 2022/2557 (19) 2. panta 4. punktā definētās kritiskās infrastruktūras nopietni traucējumi, ja šādas kritiskās infrastruktūras traucējumu vai iznīcināšanas rezultātā nenovēršami tiktu apdraudēta personas dzīvība vai fiziskā drošība, tostarp, nopietni kaitējot pamatapgādes nodrošināšanai iedzīvotājiem vai valsts pamatfunkciju īstenošanai. Papildus tam šajā regulā būtu jāsaglabā tiesībaizsardzības, robežkontroles, imigrācijas vai patvēruma iestādēm iespēja attiecīgās personas klātbūtnē veikt identitātes pārbaudes saskaņā ar nosacījumiem, kas attiecībā uz šādām pārbaudēm paredzēti Savienības un valsts tiesību aktos. Jo īpaši tiesībaizsardzības, robežkontroles, imigrācijas vai patvēruma iestādēm vajadzētu būt iespējai lietot informācijas sistēmas saskaņā ar Savienības vai valsts tiesību aktiem, lai identificētu personas, kuras identitātes pārbaudes laikā vai nu atsakās tikt identificētas, vai nespēj norādīt vai apliecināt savu identitāti, un šajā regulā tām nebūtu jāparedz prasība saņemt iepriekšēju atļauju. Tā varētu būt, piemēram, noziedzīgā nodarījumā iesaistīta persona, kas nevēlas atklāt savu identitāti tiesībaizsardzības iestādēm vai to nespēj negadījuma vai medicīniska stāvokļa dēļ.
(33)
Stoga bi trebalo zabraniti korištenje tih sustava u svrhu kaznenog progona, osim u taksativno popisanim i usko definiranim situacijama u kojima je ono nužno za ostvarenje znatnog javnog interesa, čija važnost premašuje rizike. Te situacije uključuju potragu za određenim žrtvama kaznenih djela, uključujući nestale osobe, određene prijetnje životu ili tjelesnoj sigurnosti fizičkih osoba ili prijetnje od terorističkih napada i lociranje ili identifikaciju počiniteljâ kaznenih djela ili osumnjičenikâ za kaznena djela iz priloga ovoj Uredbi, ako je za ta kaznena djela u dotičnoj državi članici zapriječena kazna zatvora ili oduzimanja slobode u maksimalnom trajanju od najmanje četiri godine i kako su definirana u pravu te države članice. Takvim pragom za kaznu zatvora ili oduzimanje slobode u skladu s nacionalnim pravom doprinosi se osiguravanju toga da kazneno djelo bude dovoljno teško da bi se moglo opravdati korištenje sustava za daljinsku biometrijsku identifikaciju u stvarnom vremenu. Nadalje, popis kaznenih djela naveden u prilogu ovoj Uredbi temelji se na 32 kaznena djela navedena u Okvirnoj odluci Vijeća 2002/584/PUP (18), uzimajući u obzir da su neka od tih kaznenih djela u praksi vjerojatno relevantnija od drugih, u smislu da bi primjena daljinske biometrijske identifikacije u stvarnom vremenu mogla biti predvidljivo potrebna i proporcionalna u vrlo promjenjivim opsezima za praktičnu provedbu lokalizacije ili identifikacije počinitelja različitih navedenih kaznenih djela ili osumnjičenika za ta kaznena djela i s obzirom na vjerojatne razlike u težini, vjerojatnosti i razmjeru štete ili mogućih negativnih posljedica. Izravna prijetnja životu ili tjelesnoj sigurnosti fizičkih osoba mogla bi također rezultirati iz ozbiljnog poremećaja kritične infrastrukture, kako je definirana u članku 2. točki 4. Direktive (EU) 2022/2557 Europskog parlamenta i Vijeća (19), ako bi poremećaj u radu ili uništenje takve kritične infrastrukture prouzročili izravnu prijetnju životu ili tjelesnoj sigurnosti osobe, među ostalim i putem teške štete pružanju osnovne opskrbe stanovništva ili izvršavanju temeljne funkcije države. Osim toga, ovom bi se Uredbom trebala očuvati sposobnost tijela kaznenog progona, tijela nadležnih za nadzor granica, tijela nadležnih za imigraciju ili tijela nadležnih za azil da provode provjere identiteta u prisutnosti dotične osobe, u skladu s uvjetima utvrđenima za takve provjere u pravu Unije i nacionalnom pravu. Tijela kaznenog progona, tijela nadležna za nadzor granica, tijela nadležna za imigraciju ili tijela nadležna za azil osobito bi se trebala moći koristiti informacijskim sustavima, u skladu s pravom Unije ili nacionalnim pravom, za identifikaciju osoba koje se tijekom provjere identiteta odbijaju identificirati ili nisu u stanju navesti ili dokazati svoj identitet, a da pritom ne moraju pribaviti prethodno odobrenje na temelju ove Uredbe. To bi, na primjer, mogla biti osoba uključena u kazneno djelo, koja nije voljna ili koja zbog nesreće ili zdravstvenog stanja nije u stanju otkriti svoj identitet tijelima kaznenog progona.
(34)
Lai nodrošinātu, ka minētās sistēmas tiek lietotas atbildīgi un samērīgi, ir svarīgi arī noteikt, ka katrā no izsmeļoši uzskaitītajām un šauri definētajām situācijām būtu jāņem vērā daži elementi, it īpaši situācijas raksturs, kurš pamato sistēmas lietošanu, lietošanas ietekme uz visu attiecīgo personu tiesībām un brīvībām, un saistībā ar lietošanu paredzētie aizsardzības pasākumi un nosacījumi. Turklāt reāllaika biometriskās tālidentifikācijas sistēmu lietošana publiski piekļūstamās vietās tiesībaizsardzības nolūkos būtu jāizvērš tikai, lai apstiprinātu konkrētas personas identitāti, un tai būtu jānotiek tikai tiktāl, cik tas ir absolūti nepieciešams laikposma, kā arī ģeogrāfiskā un personiskā tvēruma ziņā, jo īpaši, ņemot vērā pierādījumus vai norādes par draudiem, cietušajiem vai nodarījuma izdarītāju. Reāllaika biometriskās tālidentifikācijas sistēmu lietošana publiski piekļūstamās vietās būtu jāatļauj vienīgi tad, ja attiecīgā tiesībaizsardzības iestāde ir pabeigusi novērtējumu par ietekmi uz pamattiesībām un, ja vien šajā regulā nav paredzēts citādi, ir reģistrējusi sistēmu datubāzē, kā noteikts šajā regulā. Personu atsauces datubāzei vajadzētu būt piemērotai katram lietošanas gadījumam katrā no iepriekš minētajām situācijām.
(34)
Kako bi se osiguralo odgovorno i proporcionalno korištenje tih sustava, važno je i utvrditi da bi u svakoj od tih taksativno popisanih i usko definiranih situacija trebalo uzeti u obzir određene elemente, osobito u pogledu prirode situacije zbog koje se zahtijeva njihova upotreba i posljedica te upotrebe za prava i slobode svih dotičnih osoba te u pogledu zaštitnih mjera i uvjeta propisanih za tu upotrebu. Osim toga, sustavi za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima u svrhu kaznenog progona trebali bi se upotrebljavati samo za potvrđivanje identiteta konkretno ciljanog pojedinca i ta bi upotreba trebala biti ograničena na ono što je nužno kad je riječ o razdoblju te zemljopisnom i personalnom području primjene, uzimajući osobito u obzir dokaze ili naznake u vezi s prijetnjama, žrtvama ili počiniteljem. Upotrebu sustava za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima trebalo bi odobriti samo ako je relevantno tijelo kaznenog progona dovršilo procjenu učinka na temeljna prava i, osim ako je drukčije predviđeno u ovoj Uredbi, registriralo sustav u bazi podataka kako je utvrđeno u ovoj Uredbi. Referentna baza podataka osoba trebala bi biti primjerena za svaki slučaj korištenja u svakoj od gore navedenih situacija.
(35)
Katram reāllaika biometriskās tālidentifikācijas sistēmas lietošanas gadījumam publiski piekļūstamās vietās tiesībaizsardzības nolūkos vajadzētu saņemt skaidru un konkrētu atļauju no tiesu iestādes vai dalībvalsts neatkarīgas administratīvās iestādes, kuras lēmums ir saistošs. Šāda atļauja principā būtu jāsaņem pirms MI sistēmas lietošanas personas vai personu identificēšanai. Izņēmumi no minētā noteikuma būtu pieļaujami pienācīgi pamatotās situācijās steidzamu iemeslu dēļ, proti, situācijās, kurās nepieciešamība lietot attiecīgās sistēmas padara atļaujas iegūšanu pirms MI sistēmas lietošanas sākšanas faktiski un objektīvi neiespējamu. Šādās steidzamās situācijās MI sistēmas lietošanai būtu jāaprobežojas ar absolūti nepieciešamo minimumu un uz to būtu jāattiecina pienācīgi aizsardzības pasākumi un nosacījumi, kā to nosaka valsts tiesību akti un katra atsevišķa steidzamas lietošanas gadījuma kontekstā precizē pati tiesībaizsardzības iestāde. Turklāt tiesībaizsardzības iestādei šādās situācijās bez liekas kavēšanās un ne vēlāk kā 24 stundu laikā būtu jāpieprasa šāda atļauja, vienlaikus norādot iemeslus, kāpēc tā nav varējusi to pieprasīt agrāk. Ja šāda atļauja tiek noraidīta, būtu nekavējoties jāpārtrauc lietot reāllaika biometriskās identifikācijas sistēmas, kas saistītas ar minēto atļauju, un visi dati, kas saistīti ar šādu lietošanu, būtu jāatmet un jādzēš. Šādi dati ietver ievades datus, ko MI sistēma tieši ieguvusi šādas sistēmas lietošanas gaitā, kā arī ar minēto atļauju saistītās lietošanas rezultātus un iznākumus. Tam nebūtu jāiekļauj ievades dati, kas likumīgi iegūti saskaņā ar citiem Savienības vai valsts tiesību aktiem. Jebkurā gadījumā neviens lēmums, kas personai rada nelabvēlīgas tiesiskas sekas, nebūtu jāpieņem, balstoties vienīgi uz biometriskās tālidentifikācijas sistēmas iznākumu.
(35)
Uvjet za svaku upotrebu sustava za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima u svrhu kaznenog progona trebalo bi biti izričito i specifično odobrenje pravosudnog tijela ili neovisnog upravnog tijela države članice čija je odluka obvezujuća. Takvo bi odobrenje u načelu trebalo pribaviti prije upotrebe UI sustava radi identifikacije jedne ili više osoba. Iznimke od tog pravila trebalo bi dopustiti u propisno opravdanim situacijama na temelju hitnosti, odnosno u situacijama u kojima je potreba za upotrebom dotičnih sustava takva da je praktično i objektivno nemoguće pribaviti odobrenje prije početka upotrebe UI sustava. U takvim hitnim situacijama upotreba UI sustava trebala bi biti ograničena na apsolutno nužni minimum te podlijegati odgovarajućim zaštitnim mjerama i uvjetima, kako je utvrđeno u nacionalnom pravu i kako je odredilo sâmo tijelo kaznenog progona u kontekstu svakog pojedinačnog hitnog slučaja upotrebe. Osim toga, tijelo kaznenog progona trebalo bi u takvim situacijama zatražiti takvo odobrenje uz navođenje razloga zbog kojih ga nije moglo zatražiti ranije, bez nepotrebne odgode, a najkasnije u roku od 24 sata. Ako je takvo odobrenje odbijeno, upotrebu sustavâ za biometrijsku identifikaciju u stvarnom vremenu povezanu s tim odobrenjem trebalo bi smjesta zaustaviti te bi sve podatke povezane s takvom upotrebom trebalo odbaciti i izbrisati. Takvi podaci uključuju ulazne podatke koje je UI sustav izravno prikupio tijekom upotrebe takvog sustava te rezultate i izlazne podatke upotrebe povezane s tim odobrenjem. Ne bi trebali uključivati ulazne podatke koji su zakonito pribavljeni u skladu s drugim pravom Unije ili nacionalnim pravom. U svakom slučaju, odluku koja proizvodi negativan pravni učinak na osobu ne bi trebalo donijeti isključivo na temelju izlaznih podataka sustava za daljinsku biometrijsku identifikaciju.
(36)
Lai attiecīgā tirgus uzraudzības iestāde un valstu datu aizsardzības iestāde varētu pildīt savus uzdevumus saskaņā ar šajā regulā un valsts noteikumos paredzētajām prasībām, tās būtu jāinformē par katru reāllaika biometriskās identifikācijas sistēmas lietošanas gadījumu. Valstu tirgus uzraudzības iestādēm un valsts datu aizsardzības iestādēm, kuras ir informētas, būtu jāiesniedz Komisijai gada ziņojums par reāllaika biometriskās identifikācijas sistēmu lietošanu.
(36)
Kako bi obavljali svoje zadaće u skladu sa zahtjevima utvrđenima u ovoj Uredbi i nacionalnim pravilima, relevantno tijelo za nadzor tržišta i nacionalno tijelo za zaštitu podataka trebali bi biti obaviješteni o svakom korištenju sustava za biometrijsku identifikaciju u stvarnom vremenu. Tijela za nadzor tržišta i prijavljena nacionalna tijela za zaštitu podataka trebala bi Komisiji podnositi godišnje izvješće o korištenju sustava za biometrijsku identifikaciju u stvarnom vremenu.
(37)
Turklāt šīs regulas izveidotajā izsmeļošajā regulējumā ir lietderīgi noteikt, ka minētajai lietošanai dalībvalsts teritorijā saskaņā ar šo regulu vajadzētu būt iespējamai tikai, ja un ciktāl attiecīgā dalībvalsts ir nolēmusi savos sīki izstrādātajos valsts tiesību aktu noteikumos skaidri paredzēt iespēju atļaut šādu lietošanu. Tādējādi šī regula dalībvalstīm ļauj neparedzēt šādu iespēju nemaz vai paredzēt to tikai attiecībā uz dažiem mērķiem, ar kuriem var pamatot šajā regulā noteikto atļauto lietošanu. Šādi valsts noteikumi būtu jāpaziņo Komisijai 30 dienu laikā pēc to pieņemšanas.
(37)
Nadalje, primjereno je u kontekstu iscrpnog okvira utvrđenog ovom Uredbom predvidjeti da bi takvo korištenje na državnom području države članice u skladu s ovom Uredbom trebalo biti moguće samo ako i u mjeri u kojoj je dotična država članica odlučila izričito predvidjeti mogućnost odobravanja takvog korištenja u svojim podrobnim pravilima nacionalnog prava. Stoga države članice na temelju ove Uredbe i dalje mogu slobodno odlučiti da neće uopće predvidjeti takvu mogućnost ili mogu predvidjeti takvu mogućnost samo u odnosu na neke od ciljeva kojima se može opravdati odobreno korištenje utvrđeno u ovoj Uredbi. O takvim nacionalnim pravilima trebalo bi obavijestiti Komisiju u roku od 30 dana od njihova donošenja.
(38)
MI sistēmu lietošana fizisku personu reāllaika biometriskajai tālidentifikācijai publiski piekļūstamās vietās tiesībaizsardzības nolūkos neizbēgami ietver biometrisko datu apstrādi. Šīs regulas noteikumi, kas aizliedz (ar dažiem izņēmumiem) šādu lietošanu un pamatojas uz LESD 16. pantu, būtu jāpiemēro kā lex specialis attiecībā uz Direktīvas (ES) 2016/680 10. panta noteikumiem par biometrisko datu apstrādi, tādējādi izsmeļoši regulējot šādu lietošanu un ar to saistīto biometrisko datu apstrādi. Tāpēc šādai lietošanai un datu apstrādei vajadzētu būt iespējamai tikai, ciktāl tā ir saderīga ar šajā regulā noteikto satvaru, bez darbības jomas ārpus minētā satvara, kurā kompetentās iestādes, rīkojoties tiesībaizsardzības nolūkā, varētu lietot šādas sistēmas un apstrādāt šādus datus saistībā ar tām, pamatojoties uz Direktīvas (ES) 2016/680 10. pantā uzskaitītajiem iemesliem. Minētajā kontekstā šī regula nav paredzēta juridiskā pamata nodrošināšanai Direktīvas (ES) 2016/680 8. pantā noteiktajai personas datu apstrādei. Tomēr reāllaika biometriskās tālidentifikācijas sistēmu lietošana publiski piekļūstamās vietās nolūkos, kas nav tiesībaizsardzība, tostarp no kompetento iestāžu puses, nebūtu jāiekļauj šajā regulā noteiktajā konkrētajā regulējumā attiecībā uz šādu lietošanu tiesībaizsardzības nolūkos. Tāpēc šajā regulā noteiktā prasība saņemt atļauju un piemērojamie sīki izstrādātie valsts tiesību aktu noteikumi, kas minēto atļauju var ieviest, nebūtu jāattiecina uz šādu lietošanu nolūkos, kas nav tiesībaizsardzība.
(38)
Korištenje UI sustavâ za daljinsku biometrijsku identifikaciju pojedinaca u stvarnom vremenu na javnim mjestima u svrhu kaznenog progona nužno uključuje obradu biometrijskih podataka. Pravila iz ove Uredbe kojima se, podložno određenim iznimkama, zabranjuje takvo korištenje, koja se temelje na članku 16. UFEU-a, trebala bi se primjenjivati kao lex specialis u odnosu na pravila o obradi biometrijskih podataka iz članka 10. Direktive (EU) 2016/680, čime se na iscrpan način uređuje takvo korištenje i obrada biometrijskih podataka. Stoga bi takvo korištenje i obrada trebali biti mogući samo u onoj mjeri u kojoj su u skladu s okvirom utvrđenim ovom Uredbom, pri čemu ne bi trebao postojati prostor, izvan tog okvira, da nadležna tijela koja djeluju u svrhu kaznenog progona upotrebljavaju takve sustave i obrađuju takve povezane podatke na temelju razloga navedenih u članku 10. Direktive (EU) 2016/680. U tom kontekstu svrha ove Uredbe nije pružanje pravne osnove za obradu osobnih podataka na temelju članka 8. Direktive (EU) 2016/680. Međutim, korištenje sustavâ za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima u druge svrhe osim kaznenog progona, među ostalim kad ih upotrebljavaju nadležna tijela, ne bi trebalo biti obuhvaćeno posebnim okvirom o takvom korištenju u svrhu kaznenog progona utvrđenim ovom Uredbom. Takvo korištenje u druge svrhe osim kaznenog progona stoga ne bi trebalo podlijegati zahtjevu za odobrenje na temelju ove Uredbe te važećim podrobnim pravilima nacionalnog prava kojima se daje učinak tom odobrenju.
(39)
Biometrisko datu un citu personas datu apstrādei saistībā ar MI sistēmu lietošanu biometriskajai identifikācijai, kas nav saistīta ar reāllaika biometriskās tālidentifikācijas sistēmu lietošanu publiski piekļūstamās vietās tiesībaizsardzības nolūkos, kā to reglamentē šī regula, arī turpmāk būtu jāatbilst visām prasībām, kas izriet no Direktīvas (ES) 2016/680 10. panta. Nolūkos, kas nav tiesībaizsardzība, Regulas (ES) 2016/679 9. panta 1. punkts un Regulas (ES) 2018/1725 10. panta 1. punkts aizliedz biometrisko datu apstrādi, ievērojot minētajos pantos paredzētos ierobežotos izņēmumus. Piemērojot Regulas (ES) 2016/679 9. panta 1. punktu, uz biometriskās tālidentifikācijas lietošanu nolūkos, kas nav tiesībaizsardzība, jau attiecās valsts datu aizsardzības iestāžu lēmumi par aizliegšanu.
(39)
Svaka obrada biometrijskih podataka i drugih osobnih podataka povezana s korištenjem UI sustavâ za biometrijsku identifikaciju, osim obrade povezane s korištenjem sustavâ za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima u svrhu kaznenog progona kako je uređeno ovom Uredbom, i dalje bi trebala ispunjavati sve zahtjeve koji proizlaze iz članka 10. Direktive (EU) 2016/680. U svrhe koje nisu kazneni progon, člankom 9. stavkom 1. Uredbe (EU) 2016/679 i člankom 10. stavkom 1. Uredbe (EU) 2018/1725 zabranjuje se obrada biometrijskih podataka koji podliježu ograničenim iznimkama kako je predviđeno u tim člancima. Primjenom članka 9. stavka 1. Uredbe (EU) 2016/679 nacionalna tijela za zaštitu podataka već su donijela odluke o zabrani upotrebe daljinske biometrijske identifikacije u svrhe koje nisu kazneni progon.
(40)
Saskaņā ar 6.a pantu LES un LESD pievienotajā Protokolā Nr. 21 par Apvienotās Karalistes un Īrijas nostāju saistībā ar brīvības, drošības un tiesiskuma telpu Īrijai nav saistoši noteikumi, kas paredzēti šīs regulas 5. panta 1. punkta pirmās daļas g) apakšpunktā, ciktāl to piemēro biometriskās kategorizācijas sistēmu lietošanai saistībā ar darbībām policijas un tiesu iestāžu sadarbībā krimināllietās, 5. panta 1. punkta pirmās daļas d) apakšpunktā, ciktāl tos piemēro MI sistēmu lietošanai, uz ko minētais noteikums attiecas, 5. panta 1. punkta pirmās daļas h) apakšpunktā, 5. panta 2. līdz 6. punktā un 26. panta 10. punktā un kas pieņemti, pamatojoties uz Līguma par Eiropas Savienības darbību 16. pantu, un skar personas datu apstrādi dalībvalstīs, veicot darbības, uz ko attiecas LESD Trešās daļas V sadaļas 4. vai 5. nodaļas darbības joma, ja Īrijai nav saistoši noteikumi, ar ko reglamentē veidus tiesu iestāžu sadarbībai krimināllietās vai policijas sadarbības veidus, sakarā ar kuriem ir jāievēro noteikumi, kas paredzēti, pamatojoties uz LESD 16. pantu.
(40)
U skladu s člankom 6.a Protokola br. 21 o stajalištu Ujedinjene Kraljevine i Irske s obzirom na područje slobode, sigurnosti i pravde, priloženog UEU-u i UFEU-u, Irsku ne obvezuju pravila utvrđena u članku 5. stavku 1. prvom podstavku točki (g), u mjeri u kojoj se primjenjuje na korištenje sustavâ biometrijske kategorizacije za aktivnosti u području policijske suradnje i pravosudne suradnje u kaznenim stvarima, u članku 5. stavku 1. prvom podstavku točki (d), u mjeri u kojoj se primjenjuje na korištenje UI sustava obuhvaćenih tom odredbom, u članku 5. stavku 1. prvom podstavku točki (h), u članku 5. stavcima od 2. do 6. i u članku 26. stavku 10. ove Uredbe, donesena na temelju članka 16. UFEU-a, koja se odnose na obradu osobnih podataka koju vrše države članice pri obavljanju aktivnosti koje su obuhvaćene dijelom trećim glavom V. poglavljem 4. ili poglavljem 5. UFEU-a ako Irsku ne obvezuju pravila koja uređuju oblike pravosudne suradnje u kaznenim stvarima ili policijske suradnje za koja se zahtijeva usklađenost s odredbama utvrđenima na temelju članka 16. UFEU-a.
(41)
Saskaņā ar 2. un 2.a pantu LES un LESD pievienotajā Protokolā Nr. 22 par Dānijas nostāju Dānijai nav saistoši un nav jāpiemēro noteikumi, kas paredzēti šīs regulas 5. panta 1. punkta pirmās daļas g) apakšpunktā, ciktāl to piemēro biometriskās kategorizācijas sistēmu lietošanai saistībā ar darbībām policijas un tiesu iestāžu sadarbībā krimināllietās, 5. panta 1. punkta pirmās daļas d) apakšpunktā, ciktāl tos piemēro MI sistēmu lietošanai, uz ko minētais noteikums attiecas, 5. panta 1. punkta pirmās daļas h) apakšpunktā, 2. līdz 6. punktā un 26. panta 10. punktā un kas pieņemti, pamatojoties uz Līguma par Eiropas Savienības darbību 16. pantu, un skar personas datu apstrādi dalībvalstīs, veicot darbības, uz ko attiecas LESD Trešās daļas V sadaļas 4. vai 5. nodaļas darbības joma.
(41)
U skladu s člancima 2. i 2.a Protokola br. 22 o stajalištu Danske, priloženog UEU-u i UFEU-u, Dansku ne obvezuju pravila utvrđena u članku 5. stavku 1. točki (g), u mjeri u kojoj se primjenjuje na korištenje sustavâ biometrijske kategorizacije za aktivnosti u području policijske suradnje i pravosudne suradnje u kaznenim stvarima, u članku 5. stavku 1. prvom podstavku točki (d), u mjeri u kojoj se primjenjuju na korištenje UI sustava obuhvaćenih tom odredbom, u članku 5. stavku 1. prvom podstavku točki (h), u članku 5. stavcima od 2. do 6. i u članku 26. stavku 10. ove Uredbe, donesena na temelju članka 16. UFEU-a, niti ona podliježe primjeni tih pravila koja se odnose na obradu osobnih podataka koju vrše države članice pri obavljanju aktivnosti koje su obuhvaćene dijelom trećim glavom V. poglavljem 4. ili poglavljem 5. UFEU-a.
(42)
Saskaņā ar nevainīguma prezumpciju fiziskas personas Savienībā vienmēr būtu jāvērtē pēc to faktiskās uzvedības. Fiziskas personas nekad nevajadzētu vērtēt pēc MI prognozētas uzvedības, pamatojoties tikai uz to profilēšanu, personiskajām īpašībām vai rakstura iezīmēm, piemēram, valstspiederību, dzimšanas vietu, dzīvesvietu, bērnu skaitu, parāda līmeni vai automobiļa veidu, ja, balstoties uz objektīviem pārbaudāmiem faktiem, nav pamatotu aizdomu par personas iesaistīšanos noziedzīgā darbībā un ja nav cilvēka veikta novērtējuma par to. Tāpēc būtu jāaizliedz riska novērtējumi, ko veic attiecībā uz fiziskām personām, lai novērtētu to nodarījuma izdarīšanas risku vai lai prognozētu faktiska vai iespējama noziedzīga nodarījuma notikšanu, pamatojoties tikai uz personu profilēšanu vai novērtējot to personiskās īpašības un rakstura iezīmes. Jebkurā gadījumā minētais aizliegums neattiecas uz riska analīzi, kas nav balstīta uz personu profilēšanu vai to personiskajām īpašībām un rakstura iezīmēm, piemēram, MI sistēmām, kas izmanto riska analīzi, lai novērtētu uzņēmumu īstenotas finanšu krāpšanas iespējamību, pamatojoties uz aizdomīgiem darījumiem, vai riska analīzes rīkus, lai prognozētu iespējamību, ka muitas dienesti, piemēram, pamatojoties uz zināmiem tirdzniecības maršrutiem, nosaka narkotiku vai nelikumīgu preču atrašanās vietu.
(42)
U skladu s pretpostavkom nedužnosti, fizičke osobe u Uniji uvijek bi trebalo prosuđivati na temelju njihova stvarnog ponašanja. Fizičke osobe nikada ne se bi trebale prosuđivati na temelju ponašanja koje je umjetna inteligencija predvidjela isključivo na temelju njihova profiliranja, obilježja osobnosti ili značajki kao što su državljanstvo, mjesto rođenja, mjesto boravišta, broj djece, razina duga ili vrsta automobila, bez opravdane sumnje da je ta osoba uključena u kriminalnu aktivnost na temelju objektivnih provjerljivih činjenica i bez ljudske procjene tih činjenica. Stoga bi trebalo zabraniti procjene rizika u pogledu fizičkih osoba u svrhu procjene vjerojatnosti da će počiniti kaznena djela ili u svrhu predviđanja počinjenja stvarnog ili potencijalnog kaznenog djela isključivo na temelju profiliranja tih osoba ili procjene njihovih obilježja osobnosti i značajki. U svakom slučaju, ta se zabrana ne odnosi niti se dotiče analitike rizika koja se ne temelji na profiliranju pojedinaca ili na obilježjima osobnosti i značajkama pojedinaca, kao što su UI sustavi koji upotrebljavaju analitiku rizika u svrhu procjene vjerojatnosti počinjenja financijskih prijevara od strane poduzeća na temelju sumnjivih transakcija ili alate za analizu rizika kako bi predvidjeli vjerojatnost lokalizacije narkotika ili nezakonite robe od strane carinskih tijela, primjerice na temelju poznatih krijumčarskih ruta.
(43)
Tādu MI sistēmu laišana tirgū, nodošana ekspluatācijā minētajam konkrētajam mērķim vai lietošana, kuras izveido vai paplašina sejas atpazīšanas datubāzes, nemērķorientēti rasmojot sejas attēlus no interneta vai videonovērošanas sistēmu video, būtu jāaizliedz, jo minētā prakse pastiprina masveida novērošanas sajūtu un var izraisīt rupjus pamattiesību, tostarp tiesību uz privātumu, pārkāpumus.
(43)
Trebalo bi zabraniti stavljanje na tržište, stavljanje u upotrebu u tu specifičnu svrhu ili korištenje UI sustava koji stvaraju ili proširuju baze podataka za prepoznavanje lica neciljanim prikupljanjem prikaza lica s interneta ili iz snimaka CCTV-a jer ta praksa doprinosi osjećaju masovnog nadzora i može dovesti do teških kršenja temeljnih prava, uključujući pravo na privatnost.
(44)
Ir nopietnas bažas par tādu MI sistēmu zinātnisko pamatojumu, kuru mērķis ir identificēt vai izsecināt emocijas, jo īpaši tāpēc, ka emociju izpausmes dažādās kultūrās un situācijās un pat vienas personas gadījumā ievērojami atšķiras. Šādu sistēmu galvenie trūkumi ir ierobežotā uzticamība, specifiskuma trūkums un ierobežotā vispārināmība. Tāpēc MI sistēmas, kas identificē vai izsecina fizisku personu emocijas vai nodomus, pamatojoties uz to biometriskajiem datiem, var radīt diskriminējošus rezultātus un var aizskart attiecīgo personu tiesības un brīvības. Ņemot vērā nevienlīdzīgo spēku samēru darba vai izglītības jomā un to, ka šīs sistēmas pēc būtības ir aizskarošas, šādas sistēmas varētu izraisīt kaitējošu vai nelabvēlīgu attieksmi pret konkrētām fiziskām personām vai to grupām. Tāpēc būtu jāaizliedz tādu MI sistēmu laišana tirgū, nodošana ekspluatācijā vai lietošana, kuras paredzēts lietot, lai noteiktu personu emocionālo stāvokli situācijās, kas saistītas ar darba vietu un izglītību. Minētajam aizliegumam nebūtu jāattiecas uz MI sistēmām, kas laistas tirgū tikai un vienīgi medicīnisku vai drošības iemeslu dēļ, piemēram, uz sistēmām, kas paredzētas lietošanai terapeitiskos nolūkos.
(44)
Postoji ozbiljna zabrinutost u pogledu znanstvene osnove UI sustavâ čiji je cilj utvrđivanje emocija ili izvođenje zaključaka o njima, osobito s obzirom na to da se izražavanje emocija znatno razlikuje među kulturama i situacijama, pa čak kod istog pojedinca. Među ključnim su nedostacima takvih sustava ograničena pouzdanost, nedostatak specifičnosti i ograničena mogućnost generalizacije. Stoga UI sustavi koji identificiraju emocije ili namjere fizičkih osoba ili izvode zaključke o njihovim emocijama ili namjerama na temelju njihovih biometrijskih podataka mogu dovesti do diskriminatornih ishoda te biti intruzivni za prava i slobode dotičnih osoba. S obzirom na neravnotežu moći u kontekstu rada ili obrazovanja, u kombinaciji s intruzivnom prirodom tih sustava, takvi bi sustavi mogli dovesti do štetnog ili nepovoljnog tretmana određenih fizičkih osoba ili cijelih skupina određenih fizičkih osoba. Stoga bi trebalo zabraniti stavljanje na tržište, stavljanje u upotrebu ili korištenje UI sustava namijenjenih za otkrivanje emocionalnog stanja pojedinaca u situacijama povezanima s radnim mjestom i obrazovanjem. Ta zabrana ne bi trebala obuhvaćati UI sustave koji se stavljaju na tržište isključivo iz medicinskih ili sigurnosnih razloga, kao što su sustavi namijenjeni terapijskoj upotrebi.
(45)
Šai regulai nevajadzētu ietekmēt praksi, kas ir aizliegta ar Savienības tiesību aktiem, tostarp tiesību aktiem datu aizsardzības, diskriminācijas novēršanas, patērētāju tiesību aizsardzības un konkurences jomā.
(45)
Ova Uredba ne bi trebala utjecati na prakse koje su zabranjene pravom Unije, među ostalim u okviru prava o zaštiti podataka, nediskriminacijskog prava, prava o zaštiti potrošača i prava tržišnog natjecanja.
(46)
Augsta riska MI sistēmas būtu jālaiž Savienības tirgū, jānodod ekspluatācijā vai jālieto tikai tad, ja tās atbilst konkrētām obligātām prasībām. Minētajām prasībām būtu jānodrošina, ka augsta riska MI sistēmas, kuras pieejamas Savienībā vai kuru iznākumus citādā veidā izmanto Savienībā, nerada nepieņemamus riskus svarīgām Savienības sabiedrības interesēm, kas ir atzītas un aizsargātas Savienības tiesību aktos. Pamatojoties uz jauno tiesisko regulējumu, kas precizēts Komisijas paziņojumā ““Zilā rokasgrāmata” par ES produktu noteikumu īstenošanu 2022. gadā” (20), vispārējais noteikums ir tāds, ka vairāk nekā vienu Savienības saskaņošanas tiesību aktu, piemēram, Eiropas Parlamenta un Padomes Regulas (ES) 2017/745 (21) un (ES) 2017/746 (22) vai Eiropas Parlamenta un Padomes Direktīvu 2006/42/EK (23), var piemērot vienam produktam, jo darīt pieejamu vai nodot ekspluatācijā to var tikai tad, ja produkts atbilst visiem piemērojamiem Savienības saskaņošanas tiesību aktiem. Lai nodrošinātu konsekvenci un izvairītos no nevajadzīga administratīvā sloga vai izmaksām, tāda produkta nodrošinātājiem, kas ietver vienu vai vairākas augsta riska MI sistēmas, uz kurām attiecas šīs regulas vai šīs regulas pielikumā uzskaitīto Savienības saskaņošanas tiesību aktu prasības, vajadzētu būt elastīgiem attiecībā uz operatīviem lēmumiem par to, kā optimāli nodrošināt produkta, kas ietver vienu vai vairākas MI sistēmas, atbilstību visām piemērojamām Savienības saskaņošanas tiesību aktu prasībām. Kā augsta riska sistēmas būtu jāidentificē tikai tās MI sistēmas, kurām ir ievērojama kaitējoša ietekme uz personu veselību, drošību un pamattiesībām Savienībā, un šādam ierobežojumam būtu jāsamazina jebkādu iespējamu starptautiskās tirdzniecības ierobežojumu rašanos.
(46)
Visokorizični UI sustavi trebali bi se stavljati na tržište Unije ili u upotrebu odnosno upotrebljavati se samo ako ispunjavaju određene obvezne zahtjeve. Tim bi se zahtjevima trebalo osigurati da visokorizični UI sustavi koji su dostupni u Uniji ili čije se izlazne vrijednosti na drugi način upotrebljavaju u Uniji ne predstavljaju neprihvatljiv rizik za važne javne interese Unije koji su priznati i zaštićeni pravom Unije. Na temelju novog zakonodavnog okvira, kako je pojašnjeno u obavijesti Komisije pod nazivom „‚Plavi vodič’ o provedbi pravila EU-a o proizvodima 2022.” (20), opće je pravilo da se više od jednog pravnog akta zakonodavstva Unije o usklađivanju, kao što su uredbe (EU) 2017/745 (21) i (EU) 2017/746 (22) Europskog parlamenta i Vijeća ili Direktiva 2006/42/EZ Europskog parlamenta i Vijeća (23), može primjenjivati na jedan proizvod jer se stavljanje na raspolaganje ili u upotrebu može provesti samo ako je proizvod u skladu sa svim primjenjivim zakonodavstvom Unije o usklađivanju. Kako bi se osigurala dosljednost i izbjegla nepotrebna administrativna opterećenja ili troškovi, dobavljači proizvoda koji sadržava jedan ili više visokorizičnih UI sustava, na koje se primjenjuju zahtjevi iz ove Uredbe i zahtjevi iz zakonodavstva Unije o usklađivanju navedeni u prilogu ovoj Uredbi, trebali bi biti fleksibilni u pogledu operativnih odluka o tome kako na najbolji način osigurati usklađenost proizvoda koji sadržava jedan ili više UI sustava sa svim primjenjivim zahtjevima zakonodavstva Unije o usklađivanju. UI sustavi utvrđeni kao visokorizični trebali bi biti ograničeni samo na one koji imaju znatan štetan učinak na zdravlje, sigurnost i temeljna prava osoba u Uniji i takvim bi se ograničenjem trebalo svesti na najmanju moguću mjeru bilo kakvo potencijalno ograničenje u pogledu međunarodne trgovine.
(47)
MI sistēmas varētu negatīvi ietekmēt personu veselību un drošību, jo īpaši, ja šādas sistēmas darbojas kā produktu drošības sastāvdaļas. Saskaņā ar Savienības saskaņošanas tiesību aktu mērķiem veicināt produktu brīvu apriti iekšējā tirgū un gādāt, ka tirgū nonāk tikai droši un cita veida prasībām atbilstoši produkti, ir svarīgi pienācīgi novērst un mazināt drošības riskus, kurus var radīt produkts kopumā tā digitālo sastāvdaļu, arī MI sistēmu, dēļ. Piemēram, arvien autonomākiem robotiem gan ražošanas, gan personīgās palīdzības un aprūpes kontekstā vajadzētu spēt droši darboties un veikt savas funkcijas sarežģītās vidēs. Tāpat veselības aprūpes nozarē, kur runa ir par veselību un dzīvību, arvien sarežģītākām diagnostikas sistēmām un cilvēka lēmumus atbalstošām sistēmām vajadzētu būt uzticamām un pareizām.
(47)
UI sustavi mogli bi nepovoljno utjecati na zdravlje i sigurnost osoba, osobito ako ti sustavi funkcioniraju kao sigurnosne komponente proizvoda. U skladu s ciljevima zakonodavstva Unije o usklađivanju, kako bi se olakšalo slobodno kretanje proizvoda na unutarnjem tržištu i kako bi se zajamčilo da na tržište dolaze samo sigurni i sukladni proizvodi, važno je da se propisno spriječe i ublaže mogući sigurnosni rizici koje proizvod u cijelosti može predstavljati zbog svojih digitalnih komponenti, uključujući UI sustave. Na primjer, sve autonomniji roboti, bilo u kontekstu proizvodnje ili osobne skrbi i njege, trebali bi moći funkcionirati na siguran način i obavljati svoje zadaće u složenim okružjima. Slično tome, u zdravstvenom sektoru u kojem su rizici za život i zdravlje osobito visoki, sve sofisticiraniji dijagnostički sustavi i sustavi koji pomažu ljudima u donošenju odluka trebali bi biti pouzdani i točni.
(48)
Tas, cik liela ir MI sistēmas izraisītā kaitējošā ietekme uz Hartā aizsargātajām pamattiesībām, ir īpaši svarīgi, klasificējot MI sistēmu kā augsta riska. Minētās tiesības ietver tiesības uz cilvēka cieņu, privātās un ģimenes dzīves neaizskaramību, personas datu aizsardzību, vārda un informācijas brīvību, pulcēšanās un biedrošanās brīvību, diskriminācijas aizliegumu, tiesības uz izglītību, patērētāju tiesību aizsardzību, darba ņēmēju tiesības, personu ar invaliditāti tiesības, dzimumu līdztiesību, intelektuālā īpašuma tiesības, tiesības uz efektīvu tiesību aizsardzību un taisnīgu tiesu, tiesības uz aizstāvību un nevainīguma prezumpciju, kā arī tiesības uz labu pārvaldību. Papildus minētajām tiesībām ir svarīgi uzsvērt, ka bērniem ir konkrētas tiesības, kas noteiktas Hartas 24. pantā un ANO Konvencijā par bērna tiesībām, kuras pilnveidotas minētās ANO konvencijas Vispārējā komentārā Nr. 25 par digitālo vidi; abos dokumentos ir noteikts, ka ir jāņem vērā bērnu neaizsargātība un jānodrošina viņu labklājībai nepieciešamā aizsardzība un gādība. Novērtējot kaitējuma smagumu, ko MI sistēma var nodarīt, arī attiecībā uz personu veselību un drošību, būtu jāņem vērā arī pamattiesības uz augstu vides aizsardzības līmeni, kuras ir nostiprinātas Hartā un īstenotas Savienības politikā.
(48)
Razmjer nepovoljnih učinaka UI sustava na temeljna prava zaštićena Poveljom posebno je važan pri klasificiranju UI sustava kao visokorizičnog. Ta prava uključuju pravo na ljudsko dostojanstvo, poštovanje privatnog i obiteljskog života, zaštitu osobnih podataka, slobodu izražavanja i informiranja, slobodu okupljanja i udruživanja, pravo na nediskriminaciju, pravo na obrazovanje, zaštitu potrošača, prava radnika, prava osoba s invaliditetom, rodnu ravnopravnost, prava intelektualnog vlasništva, pravo na djelotvoran pravni lijek i na pošteno suđenje, pravo na obranu i pretpostavku nedužnosti te pravo na dobru upravu. Povrh tih prava, važno je naglasiti činjenicu da djeca imaju posebna prava sadržana u članku 24. Povelje i u Konvenciji Ujedinjenih naroda o pravima djeteta, podrobnije razrađena u Općoj napomeni br. 25 Odbora UN-a o pravima djece u pogledu digitalnog okružja, kojima se zahtijeva da se vodi računa o njihovoj ranjivosti te da se osiguraju zaštita i skrb potrebni za njihovu dobrobit. Pri procjeni težine štete koju pojedini UI sustav može prouzročiti, među ostalim i u pogledu zdravlja i sigurnosti osoba, trebalo bi uzeti u obzir i temeljno pravo na visoku razinu zaštite okoliša koje je utvrđeno u Povelji i provodi se u politikama Unije.
(49)
Attiecībā uz augsta riska MI sistēmām, kuras ir produktu vai sistēmu drošības sastāvdaļas vai pašas ir produkti vai sistēmas, uz ko attiecas Eiropas Parlamenta un Padomes Regula (EK) Nr. 300/2008 (24), Eiropas Parlamenta un Padomes Regula (ES) Nr. 167/2013 (25), Eiropas Parlamenta un Padomes Regula (ES) Nr. 168/2013 (26), Eiropas Parlamenta un Padomes Direktīva 2014/90/ES (27), Eiropas Parlamenta un Padomes Direktīva (ES) 2016/797 (28), Eiropas Parlamenta un Padomes Regula (ES) 2018/858 (29), Eiropas Parlamenta un Padomes Regula (ES) 2018/1139 (30) un Eiropas Parlamenta un Padomes Regula (ES) 2019/2144 (31), ir lietderīgi grozīt minētos aktus, lai nodrošinātu, ka Komisija, pamatojoties uz katras nozares tehniskajām un regulatīvajām īpatnībām un neiejaucoties nozarēs pastāvošajos pārvaldes, atbilstības novērtēšanas un izpildes mehānismos un tajās izveidotajās iestādēs, ņem vērā šajā regulā noteiktās obligātās prasības augsta riska MI sistēmām, kad tā pieņem attiecīgus deleģētos vai īstenošanas aktus, pamatojoties uz minētajiem tiesību aktiem.
(49)
Kad je riječ o visokorizičnim UI sustavima koji su sigurnosne komponente proizvodâ ili sustavâ odnosno koji su sâmi proizvodi ili sustavi obuhvaćeni područjem primjene Uredbe (EZ) br. 300/2008 Europskog parlamenta i Vijeća (24), Uredbe (EU) br. 167/2013 Europskog parlamenta i Vijeća (25), Uredbe (EU) br. 168/2013 Europskog parlamenta i Vijeća (26), Direktive 2014/90/EU Europskog parlamenta i Vijeća (27), Direktive (EU) 2016/797 Europskog parlamenta i Vijeća (28), Uredbe (EU) 2018/858 Europskog parlamenta i Vijeća (29), Uredbe (EU) 2018/1139 Europskog parlamenta i Vijeća (30) i Uredbe (EU) 2019/2144 Europskog parlamenta i Vijeća (31), primjereno je te akte izmijeniti kako bi se osiguralo da Komisija, na temelju tehničkih i regulatornih posebnosti svakog sektora te bez uplitanja u postojeće mehanizme upravljanja, ocjenjivanja sukladnosti i izvršavanja te rad tijela koja su u njima utvrđena, pri donošenju svih relevantnih delegiranih akata ili provedbenih akata na temelju tih akata uzima u obzir obvezne zahtjeve za visokorizične UI sustave utvrđene u ovoj Uredbi.
(50)
Attiecībā uz augsta riska MI sistēmām, kuras ir produktu drošības sastāvdaļas vai pašas ir produkti, uz ko attiecas daži Savienības saskaņošanas tiesību akti, kas uzskaitīti šīs regulas pielikumā, ir lietderīgi tās klasificēt kā augsta riska sistēmas, kā paredzēts šajā regulā, ja attiecīgajam produktam piemēro atbilstības novērtēšanas struktūras, kas ir trešā persona, veiktu atbilstības novērtēšanas procedūru, ievērojot attiecīgos Savienības saskaņošanas tiesību aktus. Proti, tādi produkti ir mašīnas, rotaļlietas, lifti, iekārtas un aizsardzības sistēmas, kas paredzētas lietošanai sprādzienbīstamā vidē, radioiekārtas, spiediena iekārtas, atpūtas kuģu aprīkojums, trošu ceļu iekārtas, gāzveida kurināmā iekārtas, medicīniskās ierīces, in vitro diagnostikas medicīniskās ierīces, pašgājēji un aviācija.
(50)
Kad je riječ o UI sustavima koji su sigurnosne komponente proizvodâ ili koji su sâmi proizvodi, a obuhvaćeni su područjem primjene određenog zakonodavstva Unije o usklađivanju navedenog u prilogu ovoj Uredbi, primjereno ih je klasificirati kao visokorizične na temelju ove Uredbe ako je dotični proizvod predmet postupka ocjenjivanja sukladnosti koji provodi tijelo za ocjenjivanje sukladnosti kao treća strana na temelju relevantnog zakonodavstva Unije o usklađivanju. Takvi su proizvodi osobito strojevi, igračke, dizala, oprema i zaštitni sustavi namijenjeni za korištenje u potencijalno eksplozivnim atmosferama, radijska oprema, tlačna oprema, oprema za rekreacijska plovila, žičare, aparati na plinovita goriva, medicinski proizvodi i in vitro dijagnostički medicinski proizvodi, automobili i zrakoplovi.
(51)
Tam, ka MI sistēmu klasificē kā augsta riska sistēmu, ievērojot šo regulu, nebūtu obligāti jānozīmē, ka produktu, kura drošības sastāvdaļa ir attiecīgā MI sistēma, vai pašu MI sistēmu kā produktu uzskata par augsta riska saskaņā ar kritērijiem, kas noteikti attiecīgajos Savienības saskaņošanas tiesību aktos, kurus piemēro minētajam produktam. Tas jo īpaši attiecas uz Regulām (ES) 2017/745 un (ES) 2017/746, kurās paredzēta trešās personas veikta atbilstības novērtēšana vidēja riska un augsta riska produktiem.
(51)
Klasifikacija UI sustava kao visokorizičnog na temelju ove Uredbe ne bi nužno trebala značiti da se proizvod čija je sigurnosna komponenta UI sustav ili da se sâm UI sustav kao proizvod smatra „visokorizičnim” na temelju kriterija utvrđenih u relevantnom zakonodavstvu Unije o usklađivanju koje se primjenjuje na taj proizvod. To se osobito odnosi na uredbe (EU) 2017/745 i (EU) 2017/746 ako je predviđeno da treća strana provodi ocjenjivanje sukladnosti za srednjorizične i visokorizične proizvode.
(52)
Savrupas MI sistēmas, proti, augsta riska MI sistēmas, kuras nav produktu drošības sastāvdaļas vai kuras pašas ir produkti, ir lietderīgi klasificēt kā augsta riska sistēmas, ja, pamatojoties uz to paredzēto nolūku, tās rada augstu kaitējuma risku personu veselībai, drošībai vai pamattiesībām, ņemot vērā gan iespējamā kaitējuma smagumu, gan tā iespējamību, un ja tās lieto vairākās iepriekš konkrēti noteiktās jomās, kā precizēts šajā regulā. Minēto sistēmu identifikācija pamatojas uz tādu pašu metodiku un kritērijiem, kādi paredzēti arī jebkādiem turpmākiem augsta riska MI sistēmu saraksta grozījumiem, kurus Komisija būtu jāpilnvaro pieņemt ar deleģētajiem aktiem, lai ņemtu vērā tehnoloģiju attīstības straujo tempu, kā arī iespējamās izmaiņas MI sistēmu lietošanā.
(52)
Kad je riječ o samostalnim UI sustavima, odnosno visokorizičnim UI sustavima koji nisu sigurnosne komponente proizvoda ili koji su sâmi proizvodi, primjereno ih je klasificirati kao visokorizične ako, s obzirom na njihovu namjenu, kod njih postoji visok rizik od štete za zdravlje i sigurnost ili temeljna prava osoba, uzimajući u obzir i težinu moguće štete i njezinu vjerojatnost nastanka, te ako se upotrebljavaju u nekoliko posebnih unaprijed definiranih područja navedenih u ovoj Uredbi. Utvrđivanje tih sustava temelji se na istoj metodologiji i kriterijima predviđenima i za sve buduće izmjene popisa visokorizičnih UI sustava koje bi Komisija trebala biti ovlaštena donijeti delegiranim aktima kako bi se uzeo u obzir brz tempo tehnološkog razvoja i moguće promjene u korištenju UI sustavâ.
(53)
Ir arī svarīgi precizēt, ka var būt konkrēti gadījumi, kad MI sistēmas, kas attiecas uz iepriekš noteiktām jomām, kuras norādītas šajā regulā, nerada būtisku kaitējuma risku minētajās jomās aizsargātajām juridiskajām interesēm, jo būtiski neietekmē lēmumu pieņemšanu vai būtiski nekaitē minētajām interesēm. Šīs regulas nolūkos ar MI sistēmu, kas būtiski neietekmē lēmumu pieņemšanas iznākumu, būtu jāsaprot MI sistēma, kas neietekmē cilvēka vai automatizētas lēmumu pieņemšanas būtību un līdz ar to arī tās iznākumu. MI sistēma, kas būtiski neietekmē lēmumu pieņemšanas iznākumu, varētu ietvert situācijas, kurās ir izpildīts viens vai vairāki turpmāk minētie nosacījumi. Pirmajam šādam nosacījumam vajadzētu būt, ka MI sistēma ir paredzēta šaura procedūras uzdevuma veikšanai, piemēram, MI sistēma, kas nestrukturētus datus pārveido strukturētos datos, MI sistēma, kas ienākošos dokumentus klasificē kategorijās, vai MI sistēma, ko lieto, lai plašajā pieteikumu klāstā atklātu dublikātus. Minētie uzdevumi ir tik šauri un ierobežoti, ka tie rada tikai ierobežotus riskus, kurus nepaaugstina MI sistēmu lietošana kādā no kontekstiem, kas šīs regulas pielikumā ir uzskaitīti kā augsta riska lietošanas gadījumi. Otrajam nosacījumam vajadzētu būt tādam, ka MI sistēmas uzdevums ir uzlabot iepriekš pabeigtas cilvēka darbības rezultātu, kam var būt nozīme šīs regulas pielikumā uzskaitīto augsta riska lietošanas gadījumu uzskaitījuma nolūkos. Ņemot vērā minētās iezīmes, MI sistēma nodrošina tikai papildu slāni cilvēka darbībai ar attiecīgi zemāku risku. Minētais nosacījums attiektos, piemēram, uz MI sistēmām, kuru mērķis ir uzlabot valodu, kas lietota iepriekš sagatavotos dokumentos, piemēram, piešķirt profesionālu toni, izmantot akadēmisku valodas stilu vai tekstu pielāgot vēstījumiem, kas saistīti ar kādu noteiktu zīmolu. Trešajam nosacījumam vajadzētu būt tādam, ka MI sistēma ir paredzēta tam, lai atklātu lēmumu pieņemšanas modeļus vai novirzes no iepriekšējiem lēmumu pieņemšanas modeļiem. Risks būtu mazāks, jo MI sistēmas lietošana notiek pēc iepriekš pabeigta novērtējuma, ko veicis cilvēks, un tā nav paredzēta, lai šo novērtējumu aizstātu vai ietekmētu, bez pienācīgas cilvēka veiktas pārskatīšanas. Šādas MI sistēmas ietver, piemēram, sistēmas, ko, ņemot vērā konkrētu skolotāja klasifikācijas modeli, var izmantot, lai ex post pārbaudītu, vai skolotājs varētu būt novirzījies no attiecīgā klasifikācijas modeļa, un lai tādējādi norādītu uz iespējamām neatbilstībām vai anomālijām. Ceturtajam nosacījumam vajadzētu būt tādam, ka MI sistēma ir paredzēta tikai sagatavošanās uzdevuma veikšanai saistībā ar novērtējumu, kam ir nozīme šīs regulas pielikumā uzskaitīto MI sistēmu nolūkos, tādējādi panākot, ka sistēmas iznākuma iespējamā ietekme rada ļoti mazu risku novērtējumam, kas pēc tam tiek veikts. Minētais nosacījums cita starpā attiecas uz viediem lietu apstrādes risinājumiem, kas ietver dažādas funkcijas, sākot ar indeksēšanu, meklēšanu, teksta un runas apstrādi vai datu sasaisti ar citiem datu avotiem, vai MI sistēmas, ko lieto sākotnējo dokumentu tulkošanai. Jebkurā gadījumā būtu jāuzskata, ka MI sistēmas, kas tiek lietotas augsta riska gadījumos, kas uzskaitīti šīs regulas pielikumā, rada būtiskus kaitējuma riskus veselībai, drošībai vai pamattiesībām, ja MI sistēma ietver profilēšanu Regulas (ES) 2016/679 4. panta 4. punkta vai Direktīvas (ES) 2016/680 3. panta 4. punkta, vai Regulas (ES) 2018/1725 3. panta 5. punkta nozīmē. Lai nodrošinātu izsekojamību un pārredzamību, nodrošinātājam, kurš uzskata, ka MI sistēma, pamatojoties uz iepriekš minētajiem nosacījumiem, nav augsta riska sistēma, būtu jāsagatavo novērtējuma dokumentācija pirms minētās sistēmas laišanas tirgū vai nodošanas ekspluatācijā un pēc pieprasījuma šī dokumentācija būtu jāiesniedz valsts kompetentajām iestādēm. Šādam nodrošinātājam vajadzētu būt pienākumam reģistrēt MI sistēmu ES datubāzē, kas izveidota saskaņā ar šo regulu. Lai sniegtu turpmākus norādījumus par to nosacījumu praktisko īstenošanu, saskaņā ar kuriem MI sistēmas, kas uzskaitītas šīs regulas pielikumā, izņēmuma kārtā nav augsta riska sistēmas, Komisijai pēc apspriešanās ar padomi būtu jāsniedz pamatnostādnes, kurās precizē minēto praktisko īstenošanu, pievienojot visaptverošu sarakstu ar praktiskiem piemēriem, kas parāda augsta riska MI sistēmu lietošanas gadījumus un tādus gadījumus, kas nav.
(53)
Važno je pojasniti i da mogu postojati posebni slučajevi u kojima UI sustavi na koje se upućuje u unaprijed definiranim područjima navedenima u ovoj Uredbi ne dovode do znatnog rizika od štete za pravne interese zaštićene na temelju tih područja jer bitno ne utječu na donošenje odluka ili ne štete znatno tim interesima. Za potrebe ove Uredbe UI sustav koji bitno ne utječe na ishod donošenja odluka trebalo bi razumjeti kao UI sustav koji ne utječe na sadržaj, a time ni na ishod donošenja odluka, bilo da je odluke donose ljudi ili da je donošenje odluka automatizirano. UI sustav koji bitno ne utječe na ishod donošenja odluka mogao bi uključivati situacije u kojima je ispunjen jedan od sljedećih uvjeta ili više njih. Prvi takav uvjet trebao bi biti da je UI sustav namijenjen obavljanju uske postupovne zadaće, kao što je UI sustav koji pretvara nestrukturirane podatke u strukturirane podatke, UI sustav koji dolazne dokumente klasificira u kategorije ili UI sustav koji se upotrebljava za otkrivanje duplikata među velikim brojem primjena. Te su zadaće toliko uske i ograničene da predstavljaju samo ograničene rizike koji se ne povećavaju korištenjem UI sustava u kontekstu koji je naveden kao visokorizična upotreba u prilogu ovoj Uredbi. Drugi uvjet trebao bi biti da je zadaća koju obavlja UI sustav namijenjena poboljšanju rezultata prethodno završene ljudske aktivnosti koja može biti relevantna za potrebe visokorizičnih upotreba navedenih u prilogu ovog Uredbi. S obzirom na te značajke UI sustav samo je dodatak ljudskoj aktivnosti uz posljedično smanjeni rizik. Na primjer, taj bi se uvjet primjenjivao na UI sustave namijenjene poboljšanju jezika koji se upotrebljava u prethodno izrađenim dokumentima, primjerice u vezi s profesionalnim tonom, akademskim stilom jezika ili usklađivanjem teksta s određenim porukama robne marke. Treći uvjet trebao bi biti da je namjena UI sustava otkrivanje obrazaca donošenja odluka ili odstupanja od prethodnih obrazaca donošenja odluka. Rizik bi se smanjio jer korištenje UI sustava slijedi nakon prethodno dovršene ljudske procjene, koju ono ne namjerava zamijeniti niti utjecati na nju bez odgovarajućeg preispitivanja koje provodi čovjek. Takvi UI sustavi obuhvaćaju, na primjer, sustave koji se na temelju određenog obrasca nastavnikova ocjenjivanja mogu upotrebljavati za ex post provjeru toga je li nastavnik možda odstupio od svojeg obrasca ocjenjivanja kako bi se upozorilo na moguće nedosljednosti ili nepravilnosti. Četvrti uvjet trebao bi biti da je UI sustav namijenjen obavljanju zadaće koja je samo pripremna za procjenu relevantnu za svrhe UI sustava navedenih u prilogu ovoj Uredbi, čime se mogući učinak izlaznih vrijednosti sustava čini vrlo niskim u smislu predstavljanja rizika za procjenu koja treba uslijediti. Taj uvjet obuhvaća, među ostalim, pametna rješenja za postupanje s datotekama, koja uključuju različite funkcije poput indeksiranja, pretraživanja, obrade teksta i govora ili povezivanja podataka s drugim izvorima podataka, ili UI sustave koji se upotrebljavaju za prevođenje početnih dokumenata. U svakom slučaju, za UI sustave koji se upotrebljavaju u slučajevima visokih rizika koji su navedeni u prilogu ovoj Uredbi trebalo bi smatrati da predstavljaju znatne rizike od štete za zdravlje, sigurnost ili temeljna prava fizičkih osoba ako UI sustav podrazumijeva izradu profila u smislu članka 4. točke 4. Uredbe (EU) 2016/679 ili članka 3. točke 4. Direktive (EU) 2016/680 ili članka 3. točke 5. Uredbe (EU) 2018/1725. Kako bi se osigurale sljedivost i transparentnost, dobavljač koji na temelju prethodno navedenih uvjeta smatra da UI sustav nije visokorizičan trebao bi sastaviti dokumentaciju o ocjenjivanju prije nego što taj sustav bude stavljen na tržište ili u upotrebu i trebao bi tu dokumentaciju na zahtjev dostaviti nacionalnim nadležnim tijelima. Taj dobavljač trebao bi biti obvezan registrirati UI sustav u bazi podataka EU-a uspostavljenoj na temelju ove Uredbe. Kako bi se pružilo dodatno usmjeravanje za praktičnu provedbu uvjeta na temelju kojih UI sustavi navedeni u prilogu ovoj Uredbi iznimno nisu visokorizični, Komisija bi nakon savjetovanja s Vijećem za umjetnu inteligenciju trebala pružiti smjernice u kojima se precizira ta praktična provedba, dopunjene sveobuhvatnim popisom praktičnih primjera slučajeva upotrebe UI sustava koji su visokorizični i primjera upotrebe UI sustava koji nisu visokorizični.
(54)
Tā kā biometriskie dati ir īpaša personas datu kategorija, ir lietderīgi vairākus biometrisko sistēmu kritiskās lietošanas gadījumus klasificēt kā augsta riska gadījumus, ciktāl šo sistēmu lietošana ir atļauta saskaņā ar attiecīgajiem Savienības un valsts tiesību aktiem. Fizisku personu biometriskajai tālidentifikācijai paredzētu MI sistēmu tehniskās neprecizitātes var novest pie neobjektīviem rezultātiem un radīt diskriminējošas sekas. Šādu neobjektīvu rezultātu risks un diskriminējošas sekas ir īpaši saistītas ar vecumu, etnisko piederību, rasi, dzimumu vai invaliditāti. Tāpēc, ņemot vērā biometriskās tālidentifikācijas sistēmu radītos riskus, tās būtu jāklasificē kā augsta riska sistēmas. Šāda klasifikācija izslēdz MI sistēmas, kuras paredzēts lietot biometriskajai verifikācijai, tostarp autentifikācijai, kuras vienīgais nolūks ir apstiprināt, ka konkrēta fiziska persona ir persona, par ko tā uzdodas, un apstiprināt fiziskas personas identitāti vienīgi nolūkā piekļūt pakalpojumam, atbloķēt ierīci vai iegūt drošības piekļuvi telpām. Turklāt MI sistēmas, ko paredzēts lietot biometriskajai kategorizācijai pēc sensitīviem atribūtiem vai raksturlielumiem, ko aizsargā atbilstīgi Regulas (ES) 2016/679 9. panta 1. punktam, pamatojoties uz biometriskajiem datiem, ciktāl tās nav aizliegtas šajā regulā, un emociju atpazīšanas sistēmas, kas nav aizliegtas šajā regulā, būtu jāklasificē kā augsta riska sistēmas. Biometriskās sistēmas, ko paredzēts lietot tikai kiberdrošības un personas datu aizsardzības pasākumu nodrošināšanai, nebūtu jāuzskata par augsta riska MI sistēmām.
(54)
Budući da biometrijski podaci čine posebnu kategoriju osobnih podataka, nekoliko kritičnih slučajeva korištenja biometrijskih sustava primjereno je klasificirati visokorizičnima, u mjeri u kojoj je njihovo korištenje dopušteno na temelju relevantnog prava Unije i nacionalnog prava. Tehničke netočnosti UI sustava namijenjenih daljinskoj biometrijskoj identifikaciji fizičkih osoba mogu rezultirati pristranim rezultatima i imati diskriminacijske učinke. Rizik od takvih pristranih rezultata i diskriminacijskih učinaka osobito je relevantna s obzirom na dob, etničku pripadnost, rasu, spol ili invaliditet. Stoga bi sustave za daljinsku biometrijsku identifikaciju trebalo klasificirati kao visokorizične s obzirom na rizike koje predstavljaju. Takva klasifikacija isključuje UI sustave namijenjene za biometrijsku provjeru, uključujući autentifikaciju, čija je jedina svrha potvrditi da je određena fizička osoba doista osoba kojom se predstavlja i potvrditi identitet fizičke osobe isključivo u svrhu pristupa usluzi, otključavanja uređaja ili sigurnog pristupa prostorijama. Osim toga, UI sustave namijenjene za biometrijsku kategorizaciju u skladu s osjetljivim atributima ili značajkama zaštićenima na temelju članka 9. stavka 1. Uredbe (EU) 2016/679 na osnovi biometrijskih podataka, u mjeri u kojoj nisu zabranjeni na temelju ove Uredbe, i sustave za prepoznavanje emocija koji nisu zabranjeni na temelju ove Uredbe trebalo bi klasificirati kao visokorizične. Biometrijski sustavi namijenjeni isključivo za omogućavanje kibernetičke sigurnosti i mjera zaštite osobnih podataka ne bi se trebali smatrati visokorizičnim UI sustavima.
(55)
Attiecībā uz kritiskās infrastruktūras pārvaldību un darbību ir lietderīgi kā augsta riska sistēmas klasificēt tās MI sistēmas, kuras paredzēts lietot kā drošības sastāvdaļas Direktīvas (ES) 2022/2557 pielikuma 8. punktā uzskaitītās kritiskās digitālās infrastruktūras pārvaldībā un darbībā, ceļu satiksmē, kā arī ūdens, gāzes un elektroenerģijas piegādē un apkures nodrošināšanā, jo sistēmu darbības atteice vai traucējumi var plašā mērogā apdraudēt cilvēku veselību un dzīvību un izraisīt ievērojamus traucējumus sociālo un saimniecisko darbību parastajā norisē. Kritiskās infrastruktūras, tostarp kritiskās digitālās infrastruktūras, drošības sastāvdaļas ir sistēmas, ko lieto, lai tieši aizsargātu kritiskās infrastruktūras fizisko integritāti vai cilvēku veselību un drošību un mantas drošību, bet kas nav nepieciešamas sistēmas darbībai. Šādu sastāvdaļu atteice vai darbības traucējumi var tieši radīt riskus kritiskās infrastruktūras fiziskajai integritātei un tādējādi riskus cilvēku veselībai un drošībai un mantas drošībai. Sastāvdaļas, ko paredzēts lietot tikai kiberdrošības nolūkos, nebūtu uzskatāmas par drošības sastāvdaļām. Šādas kritiskās infrastruktūras drošības sastāvdaļu piemēri var būt sistēmas ūdens spiediena uzraudzībai vai ugunsgrēka signalizācijas sistēmas mākoņdatošanas Centros.
(55)
Kad je riječ o upravljanju kritičnom infrastrukturom i njezinu radu, primjereno je kao visokorizične klasificirati one UI sustave koji su namijenjeni upotrebi kao sigurnosne komponente u upravljanju kritičnom digitalnom infrastrukturom navedenom u točki 8. Priloga Direktivi (EU) 2022/2557 i radu takve infrastrukture, u cestovnom prometu te u opskrbi vodom, plinom, grijanjem i električnom energijom jer bi njihov kvar ili neispravnost mogli ugroziti život i zdravlje osoba u velikim razmjerima te znatno poremetiti uobičajeno odvijanje društvenih i gospodarskih aktivnosti. Sigurnosne komponente kritične infrastrukture, uključujući kritičnu digitalnu infrastrukturu, sustavi su koji se upotrebljavaju za izravnu zaštitu fizičkog integriteta kritične infrastrukture ili zdravlja i sigurnosti osoba i imovine, ali koji nisu potrebni za funkcioniranje sustava. Kvar ili neispravnost takvih komponenti može izravno dovesti do rizika za fizički integritet kritične infrastrukture, a time i do rizika za zdravlje i sigurnost osoba i imovine. Komponente namijenjene korištenju isključivo u svrhe kibernetičke sigurnosti ne bi trebalo smatrati sigurnosnim komponentama. Primjeri sigurnosnih komponenti takve kritične infrastrukture mogu uključivati sustave za praćenje tlaka vode ili sustave za kontrolu protupožarnog alarma u centrima za računalstvo u oblaku.
(56)
MI sistēmu ieviešana izglītībā ir svarīga, lai veicinātu kvalitatīvu digitālo izglītību un apmācību un lai visi izglītojamie un skolotāji varētu apgūt un kopīgot nepieciešamās digitālās prasmes un kompetences, tostarp medijpratību un kritisko domāšanu, lai aktīvi piedalītos ekonomikas, sabiedrības un demokrātiskajos procesos. Tomēr MI sistēmas, ko lieto izglītībā un arodmācībās, jo īpaši, lai noteiktu personu piekļuvi izglītības un arodmācību iestādēm vai programmām visos līmeņos vai lai izlemtu par personu iestāšanos tajās, lai personas tajās uzņemtu, lai izvērtētu personu mācīšanās rezultātus, lai novērtētu attiecīgo personas izglītības līmeni un būtiski ietekmētu tās izglītības un apmācības līmeni, ko personas saņems vai kam tās spēj piekļūt, vai lai pārbaudījumu laikā uzraudzītu un konstatētu audzēkņu neatļautu uzvedību, būtu jāklasificē kā augsta riska MI sistēmas, jo tās var noteikt izglītības vai profesionālo ievirzi personas dzīvē un tādējādi varētu ietekmēt minētās personas spēju nodrošināt sev iztiku. Ja šādas sistēmas ir nepareizi projektētas un tiek neatbilstīgi lietotas, tās var būt īpaši aizskarošas un var pārkāpt tiesības uz izglītību un apmācību, kā arī tiesības uz nediskriminēšanu un nostiprināt vēsturiskos diskriminācijas modeļus, piemēram, pret sievietēm, noteiktām vecuma grupām, personām ar invaliditāti vai personām ar noteiktu rases vai etnisko izcelsmi vai dzimumorientāciju.
(56)
Uvođenje UI sustavâ u obrazovanje važno je kako bi se promicalo visokokvalitetno digitalno obrazovanje i osposobljavanje te kako bi se svim učenicima i nastavnicima omogućilo da steknu i dijele potrebne digitalne vještine i kompetencije, uključujući medijsku pismenost i kritičko razmišljanje, kako bi aktivno sudjelovali u gospodarstvu, društvu i demokratskim procesima. Međutim, UI sustave koji se upotrebljavaju u obrazovanju ili strukovnom osposobljavanju, osobito za odlučivanje o pristupu ili upisu, za razvrstavanje osoba u ustanove ili programe za obrazovanje i strukovno osposobljavanje na svim razinama, za evaluaciju ishoda učenja osoba, za procjenu odgovarajuće razine obrazovanja pojedinca i bitan utjecaj na razinu obrazovanja i osposobljavanja koju će pojedinci steći ili kojoj će moći pristupiti odnosno za praćenje i otkrivanje zabranjenog ponašanja učenika tijekom testiranja trebalo bi klasificirati kao visokorizične UI sustavi jer mogu odrediti obrazovni i profesionalni tijek života osobe i stoga mogu utjecati na njezinu mogućnost da osigura sredstva za život. Ako se dizajniraju i upotrebljavaju na nepravilan način, takvi sustavi mogu biti osobito intruzivni i kršiti pravo na obrazovanje i osposobljavanje i pravo na nediskriminaciju te perpetuirati povijesne obrasce diskriminacije, primjerice protiv žena, određenih dobnih skupina, osoba s invaliditetom odnosno osoba određenog rasnog ili etničkog podrijetla ili seksualne orijentacije.
(57)
MI sistēmas, kuras lieto nodarbinātībā, darba ņēmēju pārvaldībā un piekļuvē pašnodarbinātībai, jo īpaši personu darbā līgšanā un atlasē, lēmumu pieņemšanā, kas skar darba attiecību, paaugstināšanas amatā un darba līgumattiecību izbeigšanas kārtību, uzdevumu sadalē, pamatojoties uz individuālo uzvedību vai personības iezīmēm vai īpašībām, un darba līgumattiecībās esošu personu pārraudzībā vai izvērtēšanā, arī būtu jāklasificē kā augsta riska sistēmas, jo minētās sistēmas var ievērojami ietekmēt karjeras iespējas nākotnē, minēto personu labklājību un darba ņēmēju tiesības. Attiecīgajām darba līgumattiecībām būtu jēgpilni jāietver darba ņēmēji un personas, kuras sniedz pakalpojumus, izmantojot platformas, kā norādīts Komisijas darba programmā 2021. gadam. Darbā līgšanas procesā un izvērtēšanas, paaugstināšanas amatā vai darba līgumattiecību uzturēšanas ietvaros minētās sistēmas var nostiprināt vēsturiskos diskriminācijas modeļus, piemēram, attiecībā uz sievietēm, dažām vecuma grupām, personām ar invaliditāti vai personām ar noteiktu etnisko vai rasisko piederību vai seksuālo orientāciju. MI sistēmas, ko lieto šādu personu snieguma un uzvedības pārraudzībai, var arī apdraudēt viņu pamattiesības uz datu aizsardzību un privātumu.
(57)
UI sustavi koji se upotrebljavaju za zapošljavanje, kadrovsko upravljanje i pristup samozapošljavanju, osobito za zapošljavanje i odabir osoba, za donošenje odluka koje utječu na uvjete radnog odnosa, promaknuće ili otkazivanje radnih ugovornih odnosa, za dodjelu zadataka na osnovi individualnog ponašanja, osobnih obilježja ili značajki i za praćenje ili evaluaciju osoba u radnim ugovornim odnosima također bi trebali biti klasificirani kao visokorizični jer bi ti sustavi mogli znatno utjecati na buduće izglede za razvoj karijere, sredstva za život tih osoba i radnička prava. Relevantni radni ugovorni odnosi trebali bi na smislen način uključivati zaposlenike i osobe koji pružaju usluge putem platformi kako je navedeno u programu rada Komisije za 2021. U cijelom procesu zapošljavanja i pri evaluaciji, promaknuću ili zadržavanju osoba u radnim ugovornim odnosima takvi sustavi mogu perpetuirati povijesne obrasce diskriminacije, primjerice protiv žena, određenih dobnih skupina, osoba s invaliditetom odnosno osoba određenog rasnog ili etničkog podrijetla ili seksualne orijentacije. UI sustavi koji se upotrebljavaju za praćenje učinkovitosti i ponašanja takvih osoba mogu ujedno narušavati njihova temeljna prava na zaštitu osobnih podataka i privatnost.
(58)
Cita joma, kurā MI sistēmu lietošanai ir jāpievērš īpaša uzmanība, ir piekļuve dažiem privātiem un sabiedriskiem pamatpakalpojumiem un pabalstiem, kas cilvēkiem nepieciešami, lai viņi varētu pilnvērtīgi piedalīties sabiedrības norisēs vai uzlabot savu dzīves līmeni, un šādu pakalpojumu un pabalstu izmantošana. Jo īpaši fiziskas personas, kuras piesakās pamata sociālās palīdzības pabalstiem un pakalpojumiem vai saņem tos no publiskām iestādēm, proti, veselības aprūpes pakalpojumus, sociālās nodrošināšanas pabalstus, sociālos pakalpojumus, kas nodrošina aizsardzību tādos gadījumos kā maternitāte, slimība, nelaimes gadījumi darbā, atrašanās apgādībā vai vecums un darba zaudēšana, kā arī sociālā palīdzība un palīdzība mājokļa jomā, parasti ir atkarīgas no minētajiem pabalstiem un pakalpojumiem un atrodas neaizsargātā pozīcijā attiecībā pret atbildīgajām iestādēm. Ja MI sistēmas lieto, lai noteiktu, vai iestādēm šādi pabalsti un pakalpojumi būtu jāpiešķir, jāatsaka, jāsamazina, jāatsauc vai jāatgūst, tostarp, lai noteiktu, vai labuma guvējiem ir likumīgas tiesības uz šādiem pabalstiem vai pakalpojumiem, minētajām sistēmām var būt ievērojama ietekme uz personu iztiku, un tās var pārkāpt tādas personu pamattiesības kā tiesības uz sociālo aizsardzību, nediskriminēšanu, cilvēka cieņu vai efektīvu tiesību aizsardzību, un tāpēc tās būtu jāklasificē kā augsta riska sistēmas. Tomēr šai regulai nevajadzētu kavēt inovatīvu pieeju izstrādi un izmantošanu valsts pārvaldē, kas gūtu labumu no prasībām atbilstošu un drošu MI sistēmu plašākas lietošanas ar noteikumu, ka minētās sistēmas nerada augstu risku fiziskām un juridiskām personām. Turklāt MI sistēmas, ko lieto fizisku personu kredītnovērtējuma vai kredītspējas izvērtēšanai, būtu jāklasificē kā augsta riska MI sistēmas, jo tās nosaka minēto personu piekļuvi finanšu resursiem vai tādiem būtiskiem pakalpojumiem kā mājoklis, elektroenerģija un telesakaru pakalpojumi. Minētajiem nolūkiem lietotās MI sistēmas var izraisīt diskrimināciju starp personām vai grupām un var nostiprināt vēsturiskos diskriminācijas modeļus, piemēram, pamatojoties uz rasisko vai etnisko izcelsmi, dzimumu, invaliditāti, vecumu vai seksuālo orientāciju, vai var radīt jaunus diskriminējošas ietekmes veidus. Tomēr MI sistēmas, kas Savienības tiesību aktos paredzētas, lai atklātu krāpšanu finanšu pakalpojumu piedāvāšanā un prudenciālos nolūkos aprēķinātu kredītiestāžu un apdrošināšanas sabiedrību kapitāla prasības, nebūtu jāuzskata par augsta riska sistēmām saskaņā ar šo regulu. Turklāt MI sistēmas, ko paredzēts lietot riska novērtēšanai un cenu noteikšanai saistībā ar fiziskām personām veselības un dzīvības apdrošināšanas gadījumā, var būt ievērojama ietekme uz personu iztiku un, ja tās netiek pienācīgi projektētas, izstrādātas un lietotas, var pārkāpt viņu pamattiesības un radīt nopietnas sekas cilvēku dzīvībai un veselībai, tostarp finansiālu atstumtību un diskrimināciju. Visbeidzot, MI sistēmas, ko lieto fizisku personu ārkārtas palīdzības izsaukumu novērtēšanai un klasificēšanai vai ārkārtas pirmās reaģēšanas dienestu, tostarp policijas, ugunsdzēsēju un medicīniskās palīdzības sniedzēju, nosūtīšanai vai nosūtīšanas prioritāšu noteikšanai, kā arī neatliekamās medicīniskās aprūpes pacientu triāžas sistēmām, arī būtu jāklasificē kā augsta riska sistēmas, jo tās pieņem lēmumus personu veselībai un dzīvībai un to īpašumam izšķirīgi svarīgās situācijās.
(58)
Još jedno područje u kojem UI sustavima treba posvetiti posebnu pozornost jest dostupnost i uživanje određenih osnovnih privatnih i javnih usluga i naknada potrebnih za potpuno sudjelovanje u društvu ili poboljšanje životnog standarda osoba. Osobito, fizičke osobe koje podnose zahtjev za osnovne naknade i usluge javne pomoći od tijela javne vlasti ili ih od njih primaju, odnosno zdravstvene usluge, naknade socijalne sigurnosti, socijalne usluge kojima se pruža zaštita u slučajevima kao što su majčinstvo, bolest, nesreće na radu, uzdržavanost ili starost i gubitak zaposlenja te socijalna i stambena pomoć, obično ovise o tim naknadama i uslugama te su u ranjivom položaju u odnosu na nadležna tijela. Ako se UI sustavi upotrebljavaju za određivanje toga trebaju li tijela takve naknade i usluge dodijeliti, uskratiti, smanjiti, ukinuti ili tražiti njihov povrat, uključujući određivanje toga imaju li korisnici legitimno pravo na takve naknade ili usluge, ti sustavi mogu znatno utjecati na sredstva za život tih osoba i kršiti njihova temeljna prava, kao što je pravo na socijalnu zaštitu, nediskriminaciju, ljudsko dostojanstvo ili djelotvorno pravno sredstvo, te bi ih stoga trebalo klasificirati kao visokorizične. Međutim, ova Uredba ne bi trebala otežavati razvoj i primjenu inovativnih pristupa u javnoj upravi, koja bi imala koristi od šire upotrebe usklađenih i sigurnih UI sustava, pod uvjetom da ti sustavi ne podrazumijevaju velik rizik za pravne i fizičke osobe. Usto, UI sustave koji se upotrebljavaju za evaluaciju kreditnog rejtinga ili kreditne sposobnosti fizičkih osoba trebalo bi klasificirati kao visokorizične jer određuju pristup tih osoba financijskim resursima ili osnovnim uslugama kao što su stanovanje, električna energija i telekomunikacijske usluge. UI sustavi koji se upotrebljavaju u tu svrhu mogu dovesti do diskriminacije osoba ili skupina te perpetuirati povijesne obrasce diskriminacije, primjerice na temelju rasnog ili etničkog podrijetla, roda, invaliditeta, dobi ili seksualne orijentacije, ili mogu stvoriti nove vrste diskriminacijskih učinaka. Međutim, UI sustavi predviđeni pravom Unije u svrhu otkrivanja prijevara u ponudi financijskih usluga i u bonitetne svrhe za izračun kapitalnih zahtjeva kreditnih institucija i društava za osiguranje ne bi se trebali smatrati visokorizičnima na temelju ove Uredbe. Nadalje, UI sustavi namijenjeni procjeni rizika i određivanju cijena u odnosu na fizičke osobe za zdravstveno i životno osiguranje mogu znatno utjecati i na sredstva za život tih osoba, a ako nisu propisno dizajnirani, razvijeni i korišteni, mogu kršiti njihova temeljna prava i dovesti do ozbiljnih posljedica za život i zdravlje ljudi, uključujući financijsku isključenost i diskriminaciju. Na kraju, UI sustavi koji se upotrebljavaju za evaluaciju i klasifikaciju hitnih poziva fizičkih osoba ili za dispečiranje ili određivanje prioriteta pri dispečiranju hitnih službi, uključujući policiju, vatrogasce i medicinsku pomoć, kao i sustavi za trijažu pacijenata pri pružanju hitne skrbi, isto bi se trebali smatrati visokorizičnima jer donose odluke u situacijama koje su kritične za život i zdravlje osoba te za njihovu imovinu.
(59)
Ņemot vērā tiesībaizsardzības iestāžu lomu un atbildību, to darbībām, kuras ietver dažus MI sistēmu lietošanas veidus, ir raksturīga ievērojama varas nesamērība, un to rezultāts var būt fiziskas personas novērošana, aizturēšana vai tās brīvības atņemšana, kā arī cita veida nelabvēlīga ietekme uz Hartā garantētajām pamattiesībām. Proti, ja MI sistēma nav apmācīta ar augstas kvalitātes datiem, neatbilst attiecīgām veiktspējas, precizitātes vai robustuma prasībām vai nav pienācīgi projektēta un testēta pirms laišanas tirgū vai citādas nodošanas ekspluatācijā, tā var norādīt uz cilvēkiem diskriminējošā vai kā citādi nekorektā vai netaisnīgā veidā. Turklāt var tikt traucēta būtisku procesuālo pamattiesību, piemēram, tiesību uz efektīvu tiesību aizsardzību un taisnīgu tiesu, kā arī tiesību uz aizstāvību un nevainīguma prezumpcijas, īstenošana, it īpaši, ja šādas MI sistēmas nav pietiekami pārredzamas, izskaidrojamas un dokumentētas. Tāpēc ir lietderīgi klasificēt kā augsta riska sistēmas, ciktāl to lietošanu atļauj attiecīgie Savienības vai valsts tiesību akti, vairākas MI sistēmas, kas paredzētas izmantošanai tiesībaizsardzības kontekstā, kurā precizitāte, uzticamība un pārredzamība ir īpaši svarīga, lai novērstu kaitējošu ietekmi, saglabātu sabiedrības uzticēšanos un nodrošinātu pārskatatbildību un efektīvu tiesisko aizsardzību. Ņemot vērā attiecīgo darbību raksturu un ar tām saistītos riskus, pie minētajām augsta riska MI sistēmām jo īpaši būtu jāpieskaita MI sistēmas, ko tiesībaizsardzības iestādēs vai to vārdā, vai Savienības iestādēs, struktūrās, birojos vai aģentūrās, kas atbalsta tiesībaizsardzības iestādes, lai novērtētu risku, ka fiziska persona varētu kļūt par cietušo personu noziedzīgos nodarījumos, paredzēts lietot kā melu detektorus vai līdzīgus rīkus, pierādījumu uzticamības izvērtēšanai noziedzīgu nodarījumu izmeklēšanas vai kriminālvajāšanas gaitā un, ciktāl to neaizliedz šī regula, lai novērtētu risku, ka fiziska persona varētu izdarīt vai atkārtoti izdarīt nodarījumu, pamatojoties ne tikai uz fizisku personu profilēšanu vai novērtējot personiskās īpašības un rakstura iezīmes vai iepriekšēju noziedzīgu rīcību, profilēšanai noziedzīgu nodarījumu atklāšanas, izmeklēšanas vai kriminālvajāšanas gaitā. MI sistēmas, kuras konkrēti paredzētas lietošanai administratīvajā procesā nodokļu un muitas iestādēs, kā arī finanšu ziņu vākšanas vienībās, kas veic administratīvus uzdevumus informācijas analizēšanai, ievērojot Savienības tiesību aktus nelikumīgi iegūtu līdzekļu legalizēšanas novēršanas jomā, nebūtu jāklasificē kā augsta riska MI sistēma, ko tiesībaizsardzības iestādes lieto noziedzīgu nodarījumu novēršanai, atklāšanai, izmeklēšanai un kriminālvajāšanai par tiem. MI rīku lietošanai tiesībaizsardzības un citās attiecīgās iestādēs nevajadzētu kļūt par nevienlīdzības vai atstumtības faktoru. MI rīku lietošanas ietekme uz aizdomās turēto personu tiesībām uz aizstāvību nebūtu jāignorē, jo īpaši grūtības iegūt jēgpilnu informāciju par minēto sistēmu darbību un no tā izrietošās grūtības apstrīdēt to rezultātus tiesā, jo īpaši fiziskām personām, par kurām tika veikta izmeklēšana.
(59)
S obzirom na njihovu ulogu i odgovornost, postupcima tijelâ kaznenog progona koji uključuju određene oblike korištenja UI sustavâ svojstvena je znatna neravnoteža moći i mogu dovesti do nadzora, uhićenja ili oduzimanja slobode fizičkih osoba, kao i do drugih nepovoljnih učinaka na temeljna prava zajamčena Poveljom. Posebice, ako UI sustav nije treniran s pomoću visokokvalitetnih podataka, ne ispunjava odgovarajuće zahtjeve u pogledu svoje učinkovitosti, točnosti ili otpornosti ili nije pravilno dizajniran i testiran prije stavljanja na tržište ili u upotrebu, može izdvajati ljude na diskriminatoran ili na drugačije netočan ili nepravedan način. Nadalje, ostvarivanje važnih postupovnih temeljnih prava, kao što su pravo na djelotvorno pravno sredstvo i na pošteno suđenje te pravo na obranu i pretpostavku nedužnosti, moglo bi biti otežano, osobito ako takvi UI sustavi nisu dovoljno transparentni, objašnjivi i dokumentirani. Stoga je primjereno, u mjeri u kojoj je njihovo korištenje dopušteno na temelju relevantnog prava Unije i nacionalnog prava, klasificirati kao visokorizične one UI sustave koji su namijenjeni korištenju u kontekstu kaznenog progona ako su točnost, pouzdanost i transparentnost osobito važne kako bi se izbjegli nepovoljni utjecaji, zadržalo povjerenje javnosti te osigurala odgovornost i djelotvorna pravna zaštita. S obzirom na prirodu tih aktivnosti i s njima povezane rizike, ti visokorizični UI sustavi trebali bi osobito uključivati UI sustave namijenjene za korištenje od strane tijela kaznenog progona ili u njihovo ime ili za korištenje od strane institucija, tijela, ureda ili agencija Unije radi potpore tijelima kaznenog progona za procjenu rizika fizičke osobe da postane žrtva kaznenih djela, kao poligrafi i slični alati, za evaluaciju pouzdanosti dokaza tijekom istrage ili progona kaznenih djela i, u mjeri u kojoj to nije zabranjeno na temelju ove Uredbe, za procjenu rizika da fizička osoba počini ili ponovno počini kazneno djelo ne isključivo na osnovi izrade profila fizičkih osoba ili procjene osobina i značajki ili prethodnog kriminalnog ponašanja fizičkih osoba ili skupina, za izradu profila tijekom otkrivanja, istrage ili progona kaznenih djela. UI sustave posebno namijenjene za upravne postupke poreznih i carinskih tijela i financijsko-obavještajnih jedinica koje provode administrativne zadaće analize informacija na temelju prava Unije o sprečavanju pranja novca ne bi trebalo klasificirati kao visokorizične UI sustave koje tijela kaznenog progona upotrebljavaju u svrhu sprečavanja, otkrivanja, istrage i progona kaznenih djela. Tijela kaznenog progona ni druga relevantna tijela ne bi smjela koristiti UI alate tako da postanu čimbenik nejednakosti ili isključenosti. Ne bi se trebao zanemariti utjecaj korištenja UI alata na prava osumnjičenika na obranu, osobito s obzirom na poteškoću u dobivanju smislenih informacija o funkcioniranju tih sustava i posljedičnu poteškoću u osporavanju njihovih rezultata na sudu, osobito za fizičke osobe pod istragom.
(60)
Migrācijas un patvēruma jomā un robežkontroles pārvaldībā lietotās MI sistēmas ietekmē personas, kuri bieži ir īpaši neaizsargātā pozīcijā un ir atkarīgi no kompetento publisko iestāžu darbības rezultāta. Tāpēc minētajos kontekstos lietoto MI sistēmu precizitāte, nediskriminējošais raksturs un pārredzamība ir īpaši svarīga skarto personu pamattiesību ievērošanas garantēšanai, jo īpaši viņu tiesību brīvi pārvietoties, tiesību uz nediskriminēšanu, privātuma un personas datu aizsardzību, starptautisko aizsardzību un labu pārvaldību īstenošanai. Tāpēc ir lietderīgi klasificēt kā augsta riska sistēmas, ciktāl to lietošanu atļauj attiecīgie Savienības vai valsts tiesību akti, MI sistēmas, ko kompetentajās publiskajās iestādēs vai to vārdā, vai Savienības iestādēs, struktūrās, birojos vai aģentūrās, kurām uzticēti pienākumi migrācijas, patvēruma un robežkontroles pārvaldības jomā, paredzēts lietot kā melu detektorus un līdzīgus rīkus, lai novērtētu dažus riskus, kurus rada fiziskas personas, kas ieceļo dalībvalsts teritorijā vai piesakās vīzai vai patvērumam, sniegtu palīdzību kompetentām publiskām iestādēm, tostarp, veicot saistītu pierādījumu patiesuma novērtēšanu, patvēruma, vīzu un uzturēšanās atļauju pieteikumu un saistīto sūdzību izskatīšanā ar mērķi noteikt fizisku personu, kuras piesakās uz kādu statusu, atbilstību kritērijiem, nolūkā atklāt, atpazīt vai identificēt fiziskas personas saistībā ar migrācijas, patvēruma vai robežkontroles pārvaldību, izņemot ceļošanas dokumentu verifikāciju. MI sistēmām migrācijas, patvēruma un robežkontroles pārvaldības jomā, uz kurām attiecas šī regula, būtu jāatbilst attiecīgajām procesuālajām prasībām, kas noteiktas Eiropas Parlamenta un Padomes Regulā (EK) Nr. 810/2009 (32), Eiropas Parlamenta un Padomes Direktīvā 2013/32/ES (33) un citos attiecīgajos Savienības tiesību aktos. Dalībvalstīm vai Savienības iestādēm, struktūrām, birojiem vai aģentūrām nekādā gadījumā nebūtu jālieto MI sistēmas migrācijas, patvēruma un robežkontroles pārvaldībā kā līdzekli, lai apietu savas starptautiskās saistības saskaņā ar 1951. gada 28. jūlijā Ženēvā parakstīto ANO Konvenciju par bēgļa statusu, kas grozīta ar 1967. gada 31. janvāra protokolu. Tās arī nebūtu jālieto, lai jebkādā veidā pārkāptu neizraidīšanas principu vai liegtu drošas un efektīvas likumīgas iespējas iekļūt Savienības teritorijā, tostarp tiesības uz starptautisko aizsardzību.
(60)
UI sustavi koji se upotrebljavaju u području migracija, azila i upravljanja nadzorom državne granice utječu na osobe koje su često u osobito ranjivu položaju i koje ovise o ishodu postupaka nadležnih tijela javne vlasti. Točnost, nediskriminacija i transparentnost UI sustava koji se upotrebljavaju u tim kontekstima stoga su posebno važne kako bi se zajamčilo poštovanje temeljnih prava zahvaćenih osoba, osobito njihovih prava na slobodno kretanje, nediskriminaciju, zaštitu privatnog života i osobnih podataka, međunarodnu zaštitu i dobru upravu. Stoga je primjereno klasificirati kao visokorizične, u mjeri u kojoj je njihovo korištenje dopušteno na temelju relevantnog prava Unije i nacionalnog prava, UI sustave namijenjene za korištenje od strane nadležnih tijela javne vlasti ili institucija, tijela, ureda ili agencija Unije ili u njihovo ime, a koji su zaduženi za zadaće u području migracija, azila i upravljanja nadzorom državne granice, kao poligrafe i slične alate, za procjenu određenih rizika koje predstavljaju fizičke osobe koje ulaze na državno područje države članice ili podnose zahtjev za vizu ili azil, za pomoć nadležnim tijelima javne vlasti u razmatranju, uključujući povezanu procjenu pouzdanosti dokaza, zahtjevâ za azil, viza i boravišnih dozvola te povezanih pritužbi u pogledu cilja utvrđivanja prihvatljivosti fizičkih osoba koje podnose zahtjev za određeni status, u svrhu otkrivanja, priznavanja ili identifikacije fizičkih osoba u kontekstu migracija, azila i upravljanja nadzorom državne granice, uz iznimku provjere putnih isprava. UI sustavi koji se upotrebljavaju u području migracija, azila i upravljanja nadzorom državne granice obuhvaćeni ovom Uredbom trebali bi biti u skladu s relevantnim postupovnim zahtjevima utvrđenima Uredbom (EZ) 810/2009 Europskog parlamenta i Vijeća (32), Direktivom 2013/32/EU Europskog parlamenta i Vijeća (33) i drugim relevantnim pravom Unije. Države članice odnosno institucije, tijela, uredi ili agencije Unije ni u kojem slučaju ne bi smjeli koristiti UI sustave u području migracija, azila i upravljanja nadzorom državne granice kao sredstvo za zaobilaženje svojih međunarodnih obveza na temelju Konvencije UN-a o statusu izbjeglica potpisane u Ženevi 28. srpnja 1951., kako je izmijenjena Protokolom od 31. siječnja 1967. Njima se ne bi trebalo ni na koji način kršiti načelo zabrane prisilnog udaljenja ili vraćanja niti uskraćivati sigurne i djelotvorne zakonite načine za dolazak na područje Unije, uključujući pravo na međunarodnu zaštitu.
(61)
Dažas MI sistēmas, kas paredzētas izmantošanai tiesvedībā un demokrātiskajos procesos, būtu jāklasificē kā augsta riska sistēmas, ņemot vērā to potenciāli ievērojamo ietekmi uz demokrātiju, tiesiskumu, individuālajām brīvībām, kā arī tiesībām uz efektīvu tiesību aizsardzību un taisnīgu tiesu. Jo īpaši, lai mazinātu potenciālu neobjektivitātes, kļūdu un nepārredzamības risku, ir lietderīgi kvalificēt par augsta riska sistēmām tās MI sistēmas, kuras paredzēts lietot tiesu iestādē vai tās vārdā, lai palīdzētu tiesu iestādēm faktu un tiesību normu interpretēšanā un tiesību normu piemērošanā konkrētam faktu kopumam. MI sistēmas, ko minētajos nolūkos paredzēts lietot strīdu izšķiršanas ārpustiesas kārtībā struktūrās, arī būtu jāuzskata par augsta riska sistēmām, ja strīdu izšķiršanas ārpustiesas kārtībā izskatīšanas iznākums pusēm rada tiesiskas sekas. MI rīku lietošana var atbalstīt tiesnešu lēmumu pieņemšanas pilnvaras vai tiesu neatkarību, bet tai nevajadzētu to aizstāt: galīgajai lēmumu pieņemšanai arī turpmāk jābūt cilvēka virzītai darbībai. Tomēr MI sistēmu klasificēšana par augsta riska sistēmām nebūtu jāattiecina uz MI sistēmām, kuras paredzētas tikai tādu administratīvu papilddarbību veikšanai, kam nav ietekmes uz faktisko tiesvedību atsevišķās lietās, piemēram, tiesas nolēmumu, dokumentu vai datu anonimizācijai vai pseidonimizācijai, saziņai starp darbiniekiem un administratīvu uzdevumu veikšanai.
(61)
Određene UI sustave namijenjene sudovanju i demokratskim procesima trebalo bi klasificirati kao visokorizične s obzirom na njihov potencijalno velik utjecaj na demokraciju, vladavinu prava, osobne slobode te pravo na djelotvoran pravno sredstvo i na pošteno suđenje. Točnije, radi odgovora na rizike od mogućih pristranosti, pogrešaka i netransparentnosti, primjereno je klasificirati kao visokorizične one UI sustave koji su namijenjeni korištenju od strane pravosudnog tijela ili u njegovo ime za pomoć pravosudnim tijelima u istraživanju i tumačenju činjenica i prava te primjeni prava na konkretan skup činjenica. UI sustavi namijenjeni korištenju od strane tijela za alternativno rješavanje sporova u te svrhe također bi se trebali smatrati visokorizičnima ako ishodi postupka alternativnog rješavanja sporova proizvode pravne učinke za stranke. Alati umjetne inteligencije mogu biti potpora ovlasti sudaca za donošenje odluka ili neovisnosti sudstva, ali ih ne bi smjeli zamijeniti: konačno donošenje odluka mora i dalje biti aktivnost koju obavljaju ljudi. Klasifikacija UI sustava kao visokorizičnih ne bi se trebala odnositi na UI sustave namijenjene isključivo pomoćnim administrativnim aktivnostima koje ne utječu na stvarno sudovanje u pojedinačnim slučajevima, kao što su anonimizacija ili pseudonimizacija sudskih odluka, dokumenata ili podataka, komunikacija među osobljem ili administrativne zadaće.
(62)
Neskarot Eiropas Parlamenta un Padomes Regulā (ES) 2024/900 (34) paredzētos noteikumus un lai novērstu riskus, kas saistīti ar nepamatotu ārēju iejaukšanos Hartas 39. pantā nostiprinātajās tiesībās balsot un nelabvēlīgu ietekmi uz demokrātiju un tiesiskumu, MI sistēmas, ko paredzēts lietot, lai ietekmētu vēlēšanu vai referenduma rezultātus vai fizisku personu balsošanas uzvedību, kad tās piedalās vēlēšanās vai referendumos, būtu jāklasificē kā augsta riska MI sistēmas, izņemot MI sistēmas, kuru iznākuma fiziskas personas nav tieši pakļautas to ietekmei, piemēram, rīki, ko lieto, lai organizētu, optimizētu un strukturētu politiskās kampaņas no administratīvā un loģistikas viedokļa.
(62)
Ne dovodeći u pitanja pravila predviđena u Uredbi (EU) 2024/900. Europskog parlamenta i Vijeća (34), te kako bi se uklonili rizici od neopravdanog vanjskog uplitanja u pravo glasa utvrđeno u članku 39. Povelje i od nerazmjernih učinaka na demokraciju i vladavinu prava, UI sustave namijenjene za korištenje kako bi se utjecalo na ishod izbora ili referenduma ili na ponašanje fizičkih osoba tijekom glasovanja na izborima ili referendumima trebalo bi klasificirati kao visokorizične UI sustave, uz iznimku UI sustava čijim izlaznim vrijednostima fizičke osobe nisu izravno izložene, kao što su alati koji se upotrebljavaju za organizaciju, optimizaciju i strukturiranje političkih kampanja s administrativnog i logističkog stajališta.
(63)
Fakts, ka MI sistēma saskaņā ar šo regulu ir klasificēta kā augsta riska MI sistēma, nebūtu jāinterpretē kā norāde, ka sistēmas lietošana ir likumīga citu Savienības tiesību aktu vai ar tiem saderīgu valsts tiesību aktu ietvaros, piemēram, attiecībā uz personas datu aizsardzību, melu detektoru un tamlīdzīgu rīku vai citu sistēmu lietošanu fizisku personu emocionālā stāvokļa noteikšanai. Šāda lietošana būtu jāturpina tikai saskaņā ar piemērojamajām prasībām, kas izriet no Hartas un no attiecīgajiem Savienības sekundārajiem tiesību aktiem un dalībvalstu tiesību aktiem. Nebūtu jāuzskata, ka šī regula nodrošina juridisko pamatu personas datu, tostarp – attiecīgā gadījumā – īpašu kategoriju personas datu, apstrādei, ja vien šajā regulā nav konkrēti noteikts citādi.
(63)
Činjenicu da je pojedini UI sustav klasificiran kao visokorizičan na temelju ove Uredbe ne bi trebalo tumačiti kao da je korištenje tog sustava zakonito na temelju drugih pravnih akata Unije ili nacionalnog prava usklađenog s pravom Unije, primjerice prava o zaštiti osobnih podataka, o korištenju poligrafa i sličnih alata ili drugih sustava kojima se utvrđuje emocionalno stanje fizičkih osoba. Svako takvo korištenje trebalo bi se i dalje ostvarivati samo u skladu s primjenjivim zahtjevima koji proizlaze iz Povelje te primjenjivih akata sekundarnog prava Unije i nacionalnog prava. Ovu Uredbu ne bi trebalo tumačiti kao pružanje pravne osnove za obradu osobnih podataka, uključujući, ako je to relevantno, posebne kategorije osobnih podataka, osim ako je u ovoj Uredbi izričito predviđeno drugačije.
(64)
Lai mazinātu tirgū laisto vai ekspluatācijā nodoto augsta riska MI sistēmu radītos riskus un nodrošinātu augstu uzticamības līmeni, augsta riska MI sistēmām būtu jāpiemēro dažas obligātas prasības, ņemot vērā paredzēto MI sistēmas lietošanas nolūku un saskaņā ar riska pārvaldības sistēmu, kura nodrošinātājam jāizveido. Pasākumos, ko nodrošinātāji pieņēmuši, lai izpildītu šīs regulas obligātās prasības, būtu jāņem vērā vispāratzītie jaunākie sasniegumi MI jomā, tiem vajadzētu būt samērīgiem un efektīviem, lai sasniegtu šīs regulas mērķus. Pamatojoties uz Jauno tiesisko regulējumu, kā precizēts Komisijas paziņojumā ““Zilā rokasgrāmata” par ES produktu noteikumu īstenošanu 2022. gadā”, vispārējs noteikums ir tāds, ka vairāk nekā vienu Savienības saskaņošanas tiesību aktu var piemērot vienam produktam, jo to darīt pieejamu vai nodot ekspluatācijā var tikai tad, ja produkts atbilst visiem piemērojamiem Savienības saskaņošanas tiesību aktiem. MI sistēmu apdraudējumi, uz kuriem attiecas šīs regulas prasības, attiecas uz citiem aspektiem, nevis spēkā esošajiem Savienības saskaņošanas tiesību aktiem, un tāpēc šīs regulas prasības papildinātu esošo Savienības saskaņošanas aktu struktūru. Piemēram, mašīnas vai medicīniskās ierīces, kas ietver MI sistēmu, varētu radīt riskus, uz kuriem neattiecas būtiskās veselības un drošības prasības, kas noteiktas attiecīgajos Savienības saskaņošanas tiesību aktos, jo minētie nozaru tiesību akti neattiecas uz MI sistēmām raksturīgiem riskiem. Tāpēc vienlaikus un papildinoši ir jāpiemēro dažādi tiesību akti. Lai nodrošinātu konsekvenci un izvairītos no nevajadzīga administratīvā sloga un nevajadzīgām izmaksām, tāda produkta nodrošinātājiem, kas ietver vienu vai vairākas augsta riska MI sistēmas, uz kurām attiecas šīs regulas un šīs regulas pielikumā uzskaitīto Savienības saskaņošanas tiesību aktu, kuru pamatā ir Jaunais tiesiskais regulējums, prasības, vajadzētu būt elastīgiem attiecībā uz operatīviem lēmumiem par to, kā optimāli nodrošināt produkta, kas ietver vienu vai vairākas MI sistēmas, atbilstību visām piemērojamām minēto Savienības saskaņoto tiesību aktu prasībām. Minētā elastība varētu nozīmēt, piemēram, nodrošinātāja lēmumu daļu no nepieciešamajiem testēšanas un ziņošanas procesiem, šajā regulā prasīto informāciju un dokumentāciju integrēt jau esošā dokumentācijā un procedūrās, kas prasītas saskaņā ar šīs regulas pielikumā uzskaitītajiem esošajiem Savienības saskaņošanas tiesību aktiem, kuru pamatā ir Jaunais tiesiskais regulējums. Tam nekādā veidā nevajadzētu ietekmēt nodrošinātāja pienākumu ievērot visas piemērojamās prasības.
(64)
Kako bi se smanjili rizici visokorizičnih UI sustava koji su stavljeni na tržište ili u upotrebu i kako bi se osigurala visoka razina pouzdanosti, na visokorizične UI sustave trebali bi se primjenjivati određeni obvezni zahtjevi, uzimajući u obzir namjenu i kontekst korištenja UI sustava i u skladu sa sustavom upravljanja rizikom koji treba uspostaviti dobavljač. Mjerama koje dobavljači donose radi usklađivanja s obveznim zahtjevima ove Uredbe trebalo bi uzeti u obzir općepriznata najnovija dostignuća u području umjetne inteligencije i te bi mjere trebale biti razmjerne i djelotvorne za postizanje ciljeva ove Uredbe. Na temelju novog zakonodavnog okvira, kako je pojašnjeno u obavijesti Komisije pod nazivom „‚Plavi vodič’ o provedbi pravila EU-a o proizvodima 2022.”, opće je pravilo da se više od jednog pravnog akta zakonodavstva Unije o usklađivanju može primjenjivati na jedan proizvod jer se stavljanje na raspolaganje ili u upotrebu može provesti samo ako je proizvod u skladu sa svim primjenjivim zakonodavstvom Unije o usklađivanju. Opasnosti UI sustavâ obuhvaćene zahtjevima ove Uredbe odnose se na različite aspekte od onih u postojećem zakonodavstvu Unije o usklađivanju te bi se stoga zahtjevima ove Uredbe dopunio postojeći skup zakonodavstva Unije o usklađivanju. Na primjer, strojevi ili medicinski proizvodi u koje je ugrađen UI sustav mogli bi predstavljati rizike koji nisu obuhvaćeni osnovnim zdravstvenim i sigurnosnim zahtjevima utvrđenima u relevantnom zakonodavstvu Unije o usklađivanju jer se to sektorsko pravo ne bavi rizicima specifičnima za UI sustave. Zbog toga je potrebna istovremena i komplementarna primjena raznih zakonodavnih akata. Kako bi se osigurala dosljednost i izbjeglo nepotrebno administrativno opterećenje i nepotrebni troškovi, dobavljači proizvoda koji sadržava jedan ili više visokorizičnih UI sustava, na koje se primjenjuju zahtjevi iz ove Uredbe i zahtjevi iz zakonodavstva Unije o usklađivanju na temelju novog zakonodavnog okvira i navedeni u prilogu ovoj Uredbi, trebali bi biti fleksibilni u pogledu operativnih odluka o tome kako na najbolji način osigurati usklađenost proizvoda koji sadržava jedan ili više UI sustava sa svim primjenjivim zahtjevima zakonodavstva Unije o usklađivanju. Ta bi fleksibilnost mogla značiti, na primjer, odluku dobavljača da dio potrebnih postupaka testiranja i izvješćivanja, informacija i dokumentacije koji se zahtijevaju na temelju ove Uredbe integrira u već postojeću dokumentaciju i postupke koji se zahtijevaju na temelju postojećeg zakonodavstva Unije o usklađivanju koje se temelji na novom zakonodavnom okviru i koje je navedeno u prilogu ovoj Uredbi. To ni na koji način ne bi trebalo umanjiti obvezu dobavljača da poštuje sve primjenjive zahtjeve.
(65)
Riska pārvaldības sistēmu būtu jāveido nepārtrauktam iteratīvam procesam, ko plāno un kas norit visā augsta riska MI sistēmas darbmūžā. Minētā procesa mērķim vajadzētu būt identificēt un mazināt MI sistēmu attiecīgos riskus veselībai, drošībai un pamattiesībām. Riska pārvaldības sistēma būtu regulāri jāpārskata un jāatjaunina, lai nodrošinātu tās pastāvīgu efektivitāti, kā arī visu nozīmīgo lēmumu un darbību, kas veiktas, ievērojot šo regulu, pamatotību un dokumentāciju. Šim procesam būtu jānodrošina, ka nodrošinātājs identificē riskus vai nelabvēlīgu ietekmi un īsteno riska mazināšanas pasākumus attiecībā uz MI sistēmu zināmajiem un saprātīgi paredzamajiem riskiem veselībai, drošībai un pamattiesībām, ņemot vērā to paredzēto nolūku un saprātīgi paredzamu nepareizu lietošanu, tostarp iespējamos riskus, ko rada mijiedarbība starp MI sistēmu un vidi, kurā tā darbojas. Riska pārvaldības sistēmai būtu jāpieņem vispiemērotākie riska pārvaldības pasākumi, ņemot vērā jaunākos sasniegumus MI jomā. Identificējot vispiemērotākos riska pārvaldības pasākumus, nodrošinātājam būtu jādokumentē un jāizskaidro izdarītās izvēles un attiecīgā gadījumā jāiesaista eksperti un ārējās ieinteresētās personas. Identificējot augsta riska MI sistēmu saprātīgi paredzamu nepareizu lietošanu, nodrošinātājam būtu jāaptver tādi MI sistēmu lietojumi, kuri nav tieši saistīti ar paredzēto nolūku un kuri ir paredzēti lietošanas instrukcijā, tomēr var saprātīgi sagaidīt, ka tie izrietēs no viegli paredzamas cilvēka uzvedības konkrētas MI sistēmas konkrēto īpašību un lietojuma kontekstā. Visi zināmie vai paredzamie apstākļi, kas saistīti ar augsta riska MI sistēmas lietošanu atbilstoši tai paredzētajam nolūkam vai saprātīgi paredzamas nepareizas lietošanas apstākļos un kas var radīt risku veselībai un drošībai vai pamattiesībām, būtu jāiekļauj nodrošinātāja sniegtajās lietošanas instrukcijās. Tas ir vajadzīgs, lai nodrošinātu, ka uzturētājs ir informēts un ņem tās vērā, izmantojot augsta riska MI sistēmu. Lai identificētu un īstenotu riska mazināšanas pasākumus paredzamai nepareizai lietošanai saskaņā ar šo regulu, nodrošinātājam, lai novērstu paredzamu nepareizu lietošanu, nebūtu vajadzīgi īpaša papildu apmācība augsta riska MI sistēmai. Tomēr nodrošinātāji tiek mudināti apsvērt šādus papildu apmācības pasākumus, lai mazinātu saprātīgi paredzamu nepareizu lietošanu, ja tie ir nepieciešami un piemēroti.
(65)
Sustav upravljanja rizikom trebao bi se sastojati od kontinuiranog iterativnog procesa koji se planira i izvodi tijekom cijelog životnog ciklusa visokorizičnog UI sustava. Taj bi proces trebao biti usmjeren na utvrđivanje i ublažavanje relevantnih rizika UI sustavâ za zdravlje, sigurnost i temeljna prava. Sustav upravljanja rizikom trebalo bi redovito preispitivati i ažurirati kako bi se osigurala njegova kontinuirana djelotvornost, kao i obrazlaganje i dokumentiranje svih važnih donesenih odluka i poduzetih mjera koje podliježu ovoj Uredbi. Tim bi procesom trebalo osigurati da dobavljač utvrdi rizike ili nepovoljne učinke i provede mjere za ublažavanje poznatih i razumno predvidljivih rizika UI sustavâ za zdravlje, sigurnost i temeljna prava s obzirom na njihovu namjenu i razumno predvidljivu pogrešnu upotrebu, uključujući moguće rizike koji proizlaze iz interakcije između UI sustava i okružja u kojem djeluje. Sustav upravljanja rizikom trebao bi primjenjivati najprikladnije mjere upravljanja rizikom s obzirom na najnovija dostignuća u području umjetne inteligencije. Pri utvrđivanju najprikladnijih mjera upravljanja rizikom dobavljač bi trebao dokumentirati i objasniti donesene odluke te, prema potrebi, uključiti stručnjake i vanjske dionike. Pri utvrđivanju razumno predvidljive pogrešne upotrebe visokorizičnih UI sustava dobavljač bi trebao obuhvatiti korištenja UI sustavâ za koja se, iako nisu izravno obuhvaćena namjenom i navedena u uputama za korištenje, ipak može razumno pretpostaviti da će proizaći iz lako predvidljivog ljudskog ponašanja u kontekstu specifičnih značajki i korištenja određenog UI sustava. Sve poznate i predvidljive okolnosti povezane s korištenjem visokorizičnog UI sustava u skladu s njegovom namjenom ili u uvjetima razumno predvidljive pogrešne upotrebe, koja može prouzročiti rizike za zdravlje i sigurnost ili temeljna prava, trebale bi biti navedene u uputama za korištenje koje pruža dobavljač. Time treba osigurati da ih je subjekt koji uvodi sustav svjestan i da ih uzme u obzir pri korištenju visokorizičnog UI sustava. Utvrđivanje i provedba mjera za ublažavanje rizika od predvidljive pogrešne upotrebe na temelju ove Uredbe ne bi trebali iziskivati posebno dodatno osposobljavanje za visokorizični UI sustav od strane dobavljača kako bi ih se riješila razumno predvidljiva pogrešna upotreba. Međutim, dobavljače se potiče da razmotre takve dodatne mjere osposobljavanja kako bi se ublažile razumno predvidljive pogrešne upotrebe ako je to potrebno i primjereno.
(66)
Prasībām būtu jāattiecas uz augsta riska MI sistēmām saistībā ar riska pārvaldību, izmantoto datu kopu kvalitāti un nozīmīgumu, tehnisko dokumentāciju un uzskaiti, pārredzamību un informācijas sniegšanu uzturētājiem, cilvēka virsvadību un robustumu, precizitāti un kiberdrošību. Minētās prasības ir nepieciešamas, lai efektīvi mazinātu riskus veselībai, drošībai un pamattiesībām. Ņemot vērā to, ka citi tirdzniecību mazāk ierobežojoši pasākumi nav saprātīgi pieejami, minētās prasības nav nepamatoti tirdzniecības ierobežojumi.
(66)
Zahtjevi bi se trebali primjenjivati na visokorizične UI sustave u pogledu upravljanja rizikom, kvalitete i relevantnosti korištenih skupova podataka, tehničke dokumentacije i vođenja evidencije, transparentnosti i pružanja informacija subjektima koji uvode sustav, ljudskog nadzora te otpornosti, točnosti i kibernetičke sigurnosti. Ti su zahtjevi potrebni kako bi se djelotvorno ublažili rizici za zdravlje, sigurnost i temeljna prava. S obzirom na to da druge mjere kojima se manje ograničava trgovina nisu u razumnoj mjeri dostupne ti zahtjevi nisu neopravdana ograničenja u području trgovine.
(67)
Augstas kvalitātes datiem un piekļuvei augstas kvalitātes datiem ir būtiska loma daudzu MI sistēmu struktūras nodrošināšanā un veiktspējas nodrošināšanā, jo īpaši, ja tiek izmantotas metodes, kas ietver modeļu apmācīšanu, ar mērķi nodrošināt, ka augsta riska MI sistēma darbojas, kā paredzēts, un droši un ka tā nekļūst par Savienības tiesību aktos aizliegtas diskriminācijas avotu. Lai nodrošinātu augstas kvalitātes datu kopas apmācībai, validēšanai un testēšanai, ir jāīsteno atbilstoša datu pārvaldība un pārvaldības prakse. Apmācības, validēšanas un testēšanas datu kopām, tostarp marķējumiem, vajadzētu būt atbilstošām, pietiekami reprezentatīvām un, cik vien iespējams, bez kļūdām un pilnīgām, ņemot vērā sistēmas paredzēto nolūku. Lai veicinātu atbilstību Savienības datu aizsardzības tiesību aktiem, piemēram, Regulai (ES) 2016/679, datu pārvaldībā un pārvaldības praksē – personas datu gadījumā – būtu jāietver pārredzamība attiecībā uz datu vākšanas sākotnējo nolūku. Datu kopām vajadzētu būt arī atbilstošiem statistiskajiem raksturlielumiem, tostarp attiecībā uz personām vai personu grupām, attiecībā uz kurām ir paredzēts lietot augsta riska MI sistēmu, īpašu uzmanību pievēršot tādas iespējamās neobjektivitātes mazināšanai datu kopās, kura varētu ietekmēt personu veselību un drošību, kurai varētu būt negatīva ietekme uz pamattiesībām vai kura varētu izraisīt diskrimināciju, kas ir aizliegta Savienības tiesību aktos, jo īpaši, ja izvaddati ietekmē ievaddatus turpmākām darbībām (atgriezeniskās saites cilpas). Neobjektivitāte, piemēram, var būt raksturīga pamatā esošajām datu kopām, jo īpaši tad, ja tiek izmantoti vēsturiski dati, vai radīta tad, kad sistēmas tiek izmantotas reālās pasaules apstākļos. MI sistēmu sniegtos rezultātus varētu ietekmēt šāda raksturīga neobjektivitāte, kas tiecas pakāpeniski palielināties un tādējādi turpināt un pastiprināt esošo diskrimināciju, jo īpaši attiecībā uz personām, kas pieder pie dažām neaizsargātām grupām, tostarp rasiskām vai etniskām grupām. Prasībai par to, ka datu kopām jābūt pēc iespējas pilnīgām un bez kļūdām, nebūtu jāietekmē privātumu aizsargājošu metožu izmantošana MI sistēmu izstrādes un testēšanas kontekstā. Jo īpaši datu kopās, ciktāl to nosaka to paredzētais nolūks, būtu jāņem vērā iezīmes, raksturlielumi vai elementi, kas raksturīgi konkrētajai ģeogrāfiskajai, kontekstuālajai, uzvedības vai funkcionālajai videi, kurā MI sistēmu paredzēts lietot. Ar datu pārvaldību saistītās prasības var izpildīt, izmantojot trešās personas, kas piedāvā sertificētus atbilstības pakalpojumus, tostarp datu pārvaldības, datu kopu integritātes un datu apmācības, validēšanas un testēšanas prakses verifikāciju, ciktāl tiek nodrošināta atbilstība šīs regulas datu prasībām.
(67)
Visokokvalitetni podaci i pristup njima imaju ključnu ulogu u pružanju strukture i osiguravanju učinkovitosti mnogih UI sustava, posebno kad se upotrebljavaju tehnike s treniranjem modelâ, s ciljem da visokorizični UI sustav funkcionira kako je predviđeno i sigurno te da ne postane izvor diskriminacije koja je zabranjena pravom Unije. Visokokvalitetni skupovi podataka za treniranje, validaciju i testiranje zahtijevaju provedbu odgovarajućih praksi upravljanja i rukovanja podacima. Skupovi podataka za treniranje, validaciju i testiranje, uključujući oznake, trebali bi biti relevantni, dovoljno reprezentativni i u najvećoj mogućoj mjeri biti bez pogrešaka te potpuni s obzirom na namjenu sustava. Kako bi se olakšala usklađenost s pravom Unije o zaštiti podataka, kao što je Uredba (EU) 2016/679, prakse upravljanja i rukovanja podacima trebale bi u slučaju osobnih podataka uključivati transparentnost u vezi s izvornom svrhom prikupljanja podataka. Skupovi podataka trebali bi imati i odgovarajuća statistička obilježja, među ostalim i u pogledu osoba ili skupina osoba u vezi s kojima se visokorizični UI sustav namjerava koristiti, pri čemu se posebna pažnja posvećuje ublažavanju mogućih pristranosti u skupovima podataka, koje bi mogle utjecati na zdravlje i sigurnost osoba, negativno utjecati na temeljna prava ili dovesti do diskriminacije zabranjene pravom Unije, osobito ako izlazne vrijednosti utječu na ulazne vrijednosti za buduće operacije (povratne veze). Pristranosti mogu primjerice biti inherentne temeljnim skupovima podataka, osobito kad se upotrebljavaju povijesni podaci, ili se mogu generirati kad se sustavi implementiraju u stvarnom svijetu. Na rezultate koje pružaju UI sustavi mogle bi utjecati takve inherentne pristranosti koje imaju tendenciju postupnog povećanja, čime se perpetuira i pojačava postojeća diskriminacija, posebno za osobe koje pripadaju određenim skupinama ranjivih osoba, uključujući rasne ili etničke skupine. Zahtjev da skupovi podataka u najvećoj mogućoj mjeri budu potpuni i bez pogrešaka ne bi trebao utjecati na primjenu tehnika za zaštitu privatnosti u kontekstu razvoja i testiranja UI sustavâ. U skupovima podataka osobito se u obzir uzimaju, u mjeri u kojoj to iziskuje njihova namjena, obilježja, značajke ili elementi specifični za zemljopisno, kontekstualno, bihevioralno ili funkcionalno okružje u kojem se UI sustav namjerava upotrebljavati. Zahtjevi povezani s upravljanjem podacima mogu se ispuniti angažiranjem trećih strana koje nude certificirane usluge usklađivanja, uključujući provjeru upravljanja podacima, cjelovitosti skupa podataka te prakse treniranja, validacije i testiranja podataka, u mjeri u kojoj je osigurana usklađenost sa zahtjevima u pogledu podataka iz ove Uredbe.
(68)
Augsta riska MI sistēmu izstrādes un novērtēšanas nolūkā dažiem dalībniekiem, piemēram, nodrošinātājiem, paziņotajām struktūrām un citām attiecīgajām struktūrām, piemēram, Eiropas digitālās inovācijas centriem, testēšanas un eksperimentēšanas struktūrām un pētniekiem, būtu jāvar piekļūt augstas kvalitātes datu kopām un izmantot tās minēto dalībnieku darbības jomās, kas ir saistītas ar šo regulu. Komisijas izveidotās Eiropas vienotās datu telpas un datu kopīgošanas atvieglošana uzņēmumu starpā un ar valdības iestādēm sabiedrības interešu labā būs ļoti būtiska, lai nodrošinātu uzticēšanos raisošu, pārskatāmu un nediskriminējošu piekļuvi augstas kvalitātes datiem MI sistēmu apmācībai, validēšanai un testēšanai. Piemēram, veselības jomā Eiropas veselības datu telpa veicinās nediskriminējošu piekļuvi veselības jomas datiem un MI algoritmu apmācībai minētajās datu kopās privātumu saglabājošā, drošā, savlaicīgā, pārredzamā un uzticamā veidā ar pienācīgu institucionālo pārvaldi. Arī attiecīgās kompetentās iestādes, tostarp nozaru iestādes, nodrošinot vai atbalstot piekļuvi datiem, var atbalstīt augstas kvalitātes datu piegādāšanu MI sistēmu apmācībai, validēšanai un testēšanai.
(68)
Kad je riječ o razvoju i procjeni visokorizičnih UI sustava, određeni akteri, kao što su dobavljači, prijavljena tijela i drugi relevantni subjekti, na primjer europski centri za digitalne inovacije, centri za testiranje i eksperimentiranje te istraživači, trebali bi imati pristup visokokvalitetnim skupovima podataka unutar područjâ aktivnosti tih aktera povezanih s ovom Uredbom. Zajednički europski podatkovni prostori koje je uspostavila Komisija te olakšavanje razmjene podataka među poduzećima i s državnim upravama u javnom interesu bit će ključni za osiguravanje pouzdanog, odgovornog i nediskriminirajućeg pristupa visokokvalitetnim podacima za treniranje, validaciju i testiranje UI sustavâ. Na primjer, u području zdravstva zajednički europski prostor za zdravstvene podatke olakšat će nediskriminirajući pristup zdravstvenim podacima i treniranje algoritama umjetne inteligencije s pomoću tih skupova podataka tako da se očuvaju privatnost, sigurnost, pravovremenost, transparentnost i pouzdanost uz odgovarajuće institucijsko upravljanje. Relevantna nadležna tijela, uključujući sektorska tijela, koja pružaju ili olakšavaju pristup podacima, mogu olakšati i pružanje visokokvalitetnih podataka za treniranje, validaciju i testiranje UI sustavâ.
(69)
Tiesības uz privātumu un personas datu aizsardzību ir jāgarantē visā MI sistēmas darbmūžā. Šajā sakarā personas datu apstrādes gadījumā ir piemērojami datu minimizēšanas, integrētas datu aizsardzības un datu aizsardzības pēc noklusējuma principi, kā noteikts Savienības datu aizsardzības tiesību aktos. Neskarot šajā regulā paredzētās datu pārvaldības prasības, nodrošinātāju veiktie pasākumi, lai nodrošinātu atbilstību minētajiem principiem, var ietvert ne tikai anonimizāciju un šifrēšanu, bet arī tādas tehnoloģijas lietošanu, kas ļauj algoritmus ievadīt datos un ļauj apmācīt MI sistēmas, nepārsūtot starp pusēm vai nekopējot pašus neapstrādātos vai strukturētos datus.
(69)
Pravo na privatnost i zaštitu osobnih podataka mora biti zajamčeno tijekom cijelog životnog ciklusa UI sustava. U tom su pogledu načela smanjenja količine podataka te tehničke i integrirane zaštite podataka, kako su utvrđena u pravu Unije o zaštiti podataka, primjenjiva tijekom obrade osobnih podataka. Mjere koje dobavljači poduzimaju kako bi osigurali usklađenost s tim načelima mogu uključivati ne samo anonimizaciju i kriptiranje, nego i upotrebu tehnologije kojom se omogućuje dovođenje algoritama u podatke i treniranje UI sustavâ bez prijenosa između strana ili kopiranja samih neobrađenih ili strukturiranih podataka, ne dovodeći u pitanje zahtjeve u pogledu upravljanja podacima predviđene u ovoj Uredbi.
(70)
Lai citu tiesības aizsargātu pret diskrimināciju, kas varētu izrietēt no MI sistēmu neobjektivitātes, nodrošinātājiem izņēmuma kārtā, ciktāl tas ir absolūti nepieciešams, lai nodrošinātu neobjektivitātes atklāšanu un labošanu saistībā ar augsta riska MI sistēmām, ievērojot atbilstošus fizisku personu pamattiesību un pamatbrīvību aizsardzības pasākumus un pēc visu šajā regulā paredzēto piemērojamo nosacījumu piemērošanas papildus Regulās (ES) 2016/679 un (ES) 2018/1725 un Direktīvā (ES) 2016/680 paredzētajiem nosacījumiem, būtu jāvar apstrādāt arī īpašu kategoriju personas datus svarīgās sabiedrības interesēs Regulas (ES) (ES) 2016/679 9. panta 2. punkta g) apakšpunkta un Regulas (ES) 2018/1725 10. panta 2. punkta g) apakšpunkta nozīmē.
(70)
Kako bi se prava drugih osoba zaštitila od diskriminacije koja bi mogla proizaći iz pristranosti UI sustavâ, dobavljači bi iznimno trebali, u mjeri u kojoj je to nužno u svrhu otkrivanja i ispravljanja pristranosti u vezi s visokorizičnim UI sustavima, podložno odgovarajućim zaštitnim mjerama za temeljna prava i slobode fizičkih osoba i nakon primjene svih primjenjivih uvjeta utvrđenih na temelju ove Uredbe, dodatno uz uvjete utvrđene u uredbama (EU) 2016/679 i (EU) 2018/1725 te Direktivi (EU) 2016/680, moći obrađivati i posebne kategorije osobnih podataka kao pitanje od znatnog javnog interesa u smislu članka 9. stavka 2. točke (g) Uredbe (EU) 2016/679 i članka 10. stavka 2. točke (g) Uredbe (EU) 2018/1725.
(71)
Saprotama informācija par to, kā izstrādātas augsta riska MI sistēmas un kā tās darbojas visā savā darbmūžā, ir ļoti būtiska, lai nodrošinātu minēto sistēmu izsekojamību, pārbaudītu atbilstību šajā regulā noteiktajām prasībām, kā arī veiktu darbības pārraudzību un pēctirgus pārraudzību. Tam nepieciešama uzskaite un tādas tehniskās dokumentācijas pieejamība, kura ietver informāciju, kas nepieciešama, lai novērtētu MI sistēmas atbilstību attiecīgajām prasībām un atvieglotu pēctirgus pārraudzību. Šādai informācijai būtu jāietver ziņas par sistēmas vispārīgajiem raksturlielumiem, spējām un ierobežojumiem, algoritmiem, datiem, apmācību, izmantotajiem testēšanas un validēšanas procesiem, kā arī attiecīgās riska pārvaldības sistēmas dokumentācija, un tai vajadzētu būt sagatavotai skaidrā un visaptverošā veidā. Tehniskā dokumentācija būtu pienācīgi jāaktualizē visā MI sistēmas darbmūžā. Turklāt augsta riska MI sistēmām būtu tehniski jāļauj automātiski reģistrēt notikumus, izmantojot “žurnāldatnes”, visā sistēmas darbmūža laikā.
(71)
Postojanje razumljivih informacija o načinu na koji su visokorizični UI sustavi razvijeni i načinu njihova rada tijekom cijelog njihova životnog ciklusa ključno je za omogućivanje sljedivosti tih sustava, provjeru usklađenosti sa zahtjevima ove Uredbe te praćenje njihova rada i praćenje nakon stavljanja na tržište. Za to je potrebno vođenje evidencije i dostupnost tehničke dokumentacije koja sadržava informacije potrebne za procjenu usklađenosti UI sustava s relevantnim zahtjevima i olakšavanje praćenja nakon stavljanja na tržište. Takve informacije trebale bi uključivati opće značajke, sposobnosti i ograničenja sustava, algoritme, podatke, postupke treniranja, testiranja i validacije koji su primijenjeni, kao i dokumentaciju o relevantnom sustavu upravljanja rizikom te bi trebale biti sastavljene u obliku koji je jasan i razumljiv. Tehnička dokumentacija trebala bi se ažurirati na odgovarajući način tijekom cijelog životnog ciklusa UI sustava. Nadalje, kod visokorizičnih UI sustava trebalo bi biti tehnički omogućeno automatsko bilježenje događaja putem vođenja evidencije tijekom cijelog životnog ciklusa sustava.
(72)
Lai kliedētu bažas, kas saistītas ar dažu MI sistēmu nepārredzamību un sarežģītību, un palīdzētu uzturētājiem izpildīt savus pienākumus saskaņā ar šo regulu, pirms augsta riska MI sistēmu laišanas tirgū vai nodošanas ekspluatācijā būtu jānodrošina to pārredzamība. Augsta riska MI sistēmas būtu jāprojektē tā, lai uzturētāji varētu saprast, kā MI sistēma darbojas, izvērtēt tās funkcionalitāti un izprast tās stiprās puses un ierobežojumus. Augsta riska MI sistēmām būtu jāpievieno atbilstoša informācija lietošanas instrukcijas veidā. Šādai informācijai būtu jāietver MI sistēmas raksturlielumi, spējas un veiktspējas ierobežojumi. Minētie elementi ietvertu informāciju par iespējamiem zināmiem un paredzamiem apstākļiem, kuri saistīti ar augsta riska MI sistēmas lietošanu, tostarp uzturētāja darbību, kas var ietekmēt sistēmas uzvedību un veiktspēju, un kuros MI sistēma var radīt riskus veselībai, drošībai un pamattiesībām, par izmaiņām, kuras nodrošinātājs ir iepriekš noteicis un novērtējis attiecībā uz atbilstību, un par attiecīgajiem cilvēka virsvadības pasākumiem, tostarp pasākumiem, ar kuriem uzturētājiem palīdz interpretēt MI sistēmas iznākumus. Pārredzamībai, tostarp pievienotajai lietošanas instrukcijai, būtu jāpalīdz uzturētājiem sistēmas lietošanā un būtu jāatbalsta, ka tie pieņem informētus lēmumus. Uzturētājiem cita starpā vajadzētu būt labākām iespējām pareizi izvēlēties sistēmu, ko tie plāno lietot, ņemot vērā pienākumus, kas uz tiem attiecas, tiem vajadzētu būt izglītotiem par paredzētajiem un aizliegtajiem lietojumiem, un tiem būtu MI sistēma jālieto pareizi un atbilstoši. Lai uzlabotu lietošanas instrukcijā iekļautās informācijas skaidrību un piekļūstamību, attiecīgā gadījumā būtu jāiekļauj ilustratīvi piemēri, piemēram, par ierobežojumiem un par paredzētajiem un aizliegtajiem MI sistēmas lietojumiem. Nodrošinātājiem būtu jānodrošina, ka visa dokumentācija, tostarp lietošanas instrukcija, ietver jēgpilnu, visaptverošu, pieejamu un saprotamu informāciju, ņemot vērā mērķēto uzturētāju vajadzības un paredzamās zināšanas. Lietošanas instrukcijām vajadzētu būt pieejamām mērķētajiem uzturētājiem viegli saprotamā valodā, kā noteikusi attiecīgā dalībvalsts.
(72)
Kako bi se pristupilo rješavanju problema povezanih s netransparentnošću i složenošću određenih UI sustava i pomoglo subjektima koji uvode UI sustav da ispune svoje obveze na temelju ove Uredbe, za visokorizične UI sustave trebalo bi zahtijevati transparentnost prije njihova stavljanja na tržište ili u upotrebu. Visokorizični UI sustavi trebali bi biti dizajnirani tako da subjekti koji ih uvode mogu razumjeti kako UI sustav funkcionira, evaluirati njegovu funkcionalnost te razumjeti njegove prednosti i ograničenja. Visokorizični UI sustavi trebali bi biti popraćeni odgovarajućim informacijama u obliku uputa za korištenje. Takve informacije trebale bi uključivati značajke, sposobnosti i ograničenja rada UI sustava. Oni bi obuhvaćali informacije o mogućim poznatim i predvidljivim okolnostima povezanima s korištenjem visokorizičnog UI sustava, uključujući djelovanje subjekta koji uvodi sustav koje može utjecati na ponašanje i učinkovitost sustava, u okviru kojeg UI sustav može prouzročiti rizike za zdravlje, sigurnost i temeljna prava, o promjenama koje je dobavljač unaprijed odredio i ocijenio u pogledu sukladnosti te o relevantnim mjerama ljudskog nadzora, uključujući mjere kojima se subjektima koji uvode sustav olakšava tumačenje izlaznih vrijednosti UI sustava. Transparentnost, uključujući popratne upute za korištenje, trebala bi pomoći subjektima koji uvode sustav pri njegovu korištenju i poduprijeti njihovo informirano donošenje odluka. Subjekti koji uvode sustav trebali bi, među ostalim, biti u boljoj poziciji da pravilno odaberu sustav koji namjeravaju upotrebljavati s obzirom na obveze koje se na njih primjenjuju, biti informirani o namjeravanim i isključenim upotrebama te pravilno i primjereno upotrebljavati UI sustav. Kako bi se poboljšale čitljivost i pristupačnost informacija sadržanih u uputama za korištenje, trebalo bi, prema potrebi, u njih uključiti ilustrativne primjere, na primjer o ograničenjima te o namjeravanim i isključenim upotrebama UI sustava. Dobavljači bi trebali osigurati da sva dokumentacija, uključujući upute za korištenje, sadržava smislene, sveobuhvatne, pristupačne i razumljive informacije, uzimajući u obzir potrebe i predvidljivo znanje ciljanih subjekata koji uvode sustav. Upute za korištenje trebale bi biti dostupne na jeziku koji bez poteškoća razumiju ciljani subjekti koji uvode sustav, a određuje ga dotična država članica.
(73)
Augsta riska MI sistēmas būtu jāprojektē un jāizstrādā tā, lai fiziskas personas varētu virsvadīt to funkcionēšanu, nodrošināt, ka tās tiek lietotas, kā paredzēts, un ka to ietekmei pievēršas visā sistēmas darbmūžā. Šajā nolūkā sistēmas nodrošinātājam pirms sistēmas laišanas tirgū vai nodošanas ekspluatācijā būtu jānosaka piemēroti cilvēka virsvadības pasākumi. Jo īpaši, attiecīgā gadījumā šādiem pasākumiem būtu jāgarantē, ka sistēmai ir iebūvēti operacionāli ierobežojumi, kurus pati sistēma nevar neievērot, un ka tā reaģē uz cilvēka-operatora virsvadību un ka fiziskām personām, kurām uzticēta šī virsvadība, ir uzdevuma veikšanai nepieciešamā kompetence, apmācība un pilnvaras. Attiecīgā gadījumā ir arī būtiski nodrošināt, ka augsta riska MI sistēmas ietver mehānismus, kas ievirza un informē fizisku personu, kurai ir uzticēta cilvēka virsvadība, lai tā pieņemtu informētus lēmumus par to, vai, kad un kā iejaukties, lai izvairītos no negatīvām sekām vai riskiem, vai apturētu sistēmu, ja tā nedarbojas, kā paredzēts. Ņemot vērā būtiskās sekas personām, ja dažas biometriskās identifikācijas sistēmas uzrādītu nepareizu atbilstību, ir lietderīgi attiecībā uz minētajām sistēmām paredzēt pastiprinātas cilvēka virsvadības prasību, lai uzturētājs, pamatojoties uz identifikāciju, kas izriet no sistēmas, nevarētu veikt nekādas darbības vai pieņemt lēmumu, ja vien to nav atsevišķi pārbaudījušas un apstiprinājušas vismaz divas fiziskas personas. Minētās personas varētu būt no vienas vai vairākām vienībām, tostarp persona, kas darbina vai izmanto sistēmu. Šai prasībai nevajadzētu radīt nevajadzīgu slogu vai kavēšanos, un varētu pietikt ar to, ka sistēmas ģenerētajās žurnāldatnēs tiek automātiski reģistrētas dažādu personu veiktās atsevišķās verifikācijas. Ņemot vērā tiesībaizsardzības, migrācijas, robežkontroles un patvēruma jomu specifiku, šī prasība nebūtu jāpiemēro, ja Savienības vai valsts tiesību aktos minētās prasības piemērošana tiek uzskatīta par nesamērīgu.
(73)
Visokorizične UI sustave trebalo bi dizajnirati i razvijati tako da fizičke osobe mogu nadzirati njihovo funkcioniranje, osigurati da se upotrebljavaju kako je predviđeno i da se njihovi učinci rješavaju tijekom životnog ciklusa sustava. U tom bi cilju dobavljač sustava prije njegova stavljanja na tržište ili u upotrebu trebao utvrditi odgovarajuće mjere ljudskog nadzora. Prema potrebi takvim bi mjerama osobito trebalo osigurati da su u sustav ugrađena operativna ograničenja koja sam sustav ne može promijeniti i da on reagira na ljudske operatere te da fizičke osobe zadužene za ljudski nadzor imaju potrebne kompetencije, osposobljavanje i ovlasti za obavljanje te zadaće. Također je neophodno, prema potrebi, osigurati da visokorizični UI sustavi uključuju mehanizme za usmjeravanje i informiranje fizičke osobe zadužene za ljudski nadzor kako bi donijela informirane odluke o tome treba li, kada i kako intervenirati da bi se izbjegle negativne posljedice ili rizici odnosno sustav zaustavio ako ne funkcionira kako je predviđeno. S obzirom na znatne posljedice za osobe ako u određenim sustavima za biometrijsku identifikaciju dođe do netočnih rezultata, primjereno je za te sustave predvidjeti zahtjev u pogledu pojačanog ljudskog nadzora tako da subjekt koji uvodi sustav ne može poduzeti nikakve radnje ili odluke na temelju identifikacije proizišle iz sustava ako identifikaciju nisu zasebno provjerile i potvrdile najmanje dvije fizičke osobe. Te osobe mogle bi biti iz jednog ili više subjekata i mogle bi uključivati osobu koja upravlja sustavom ili ga upotrebljava. Taj zahtjev ne bi trebao predstavljati nepotrebno opterećenje ili uzrokovati kašnjenja i moglo bi biti dovoljno da se zasebne provjere koje provode različite osobe automatski bilježe u evidenciji koju generira sustav. S obzirom na posebnosti područjâ kaznenog progona, migracija, nadzora državne granice i azila, taj se zahtjev ne bi trebao primjenjivati ako se u skladu s pravom Unije ili nacionalnim pravom smatra da je primjena tog zahtjeva nerazmjerna.
(74)
Augsta riska MI sistēmām jādarbojas konsekventi visā to darbmūžā un jānodrošina atbilstošs precizitātes, robustuma un kiberdrošības līmenis, ņemot vērā to paredzēto nolūku un saskaņā ar vispāratzīto tehnoloģiju attīstības līmeni. Komisija un attiecīgās organizācijas un ieinteresētās personas tiek mudinātas pienācīgi ņemt vērā MI sistēmas risku un negatīvās ietekmes mazināšanu. Paredzamais veiktspējas rādītāju līmenis būtu jānorāda pievienotajā lietošanas instrukcijā. Nodrošinātāji tiek mudināti minēto informāciju paziņot uzturētājiem skaidrā un viegli saprotamā veidā, bez pārpratumiem vai maldinošiem paziņojumiem. Savienības tiesību aktu par reglamentēto metroloģiju, tostarp Eiropas Parlamenta un Padomes Direktīvu 2014/31/ES (35) un 2014/32/ES (36), mērķis ir nodrošināt mērījumu precizitāti un veicināt komercdarījumu pārredzamību un taisnīgumu. Minētajā sakarā sadarbībā ar attiecīgajām ieinteresētajām personām un organizācijām, piemēram, metroloģijas un salīdzinošās vērtēšanas iestādēm, Komisijai attiecīgā gadījumā būtu jāveicina MI sistēmu etalonrādītāju un mērījumu metodiku izstrāde. To darot, Komisijai būtu jāņem vērā starptautiskie partneri, kas strādā metroloģijas un attiecīgo ar MI saistīto mērījumu rādītāju jomā, un jāsadarbojas ar tiem.
(74)
Visokorizični UI sustavi trebali bi imati ujednačen učinak tijekom cijelog životnog ciklusa te posjedovati odgovarajuću razinu točnosti, otpornosti i kibernetičke sigurnosti s obzirom na njihovu namjenu i u skladu s općepriznatim najnovijim dostignućima. Komisija i relevantne organizacije i dionici potiču se da uzmu u obzir ublažavanje rizika i negativnih učinaka UI sustava. Očekivana razina parametara učinkovitosti trebala bi se navesti u popratnim uputama za korištenje. Dobavljači se pozivaju da te informacije dostave subjektima koji uvode sustav na jasan i lako razumljiv način, bez nesporazuma ili obmanjujućih izjava. Pravom Unije o zakonskom mjeriteljstvu, uključujući direktive 2014/31/EU (35) i 2014/32/EU (36) Europskog parlamenta i Vijeća, nastoji se osigurati točnost mjerenja te doprinijeti transparentnosti i pravednosti poslovnih transakcija. U tom kontekstu, u suradnji s relevantnim dionicima i organizacijama, kao što su tijela za mjeriteljstvo i utvrđivanje referentnih vrijednosti, Komisija bi prema potrebi trebala poticati razvoj referentnih vrijednosti i metodologija mjerenja za UI sustave. Komisija bi pritom trebala uzeti u obzir međunarodne partnere koji rade na mjeriteljstvu i relevantnim mjernim pokazateljima povezanima s umjetnom inteligencijom te surađivati s njima.
(75)
Tehniskais robustums ir viena no galvenajām prasībām augsta riska MI sistēmām. Tām vajadzētu būt noturīgām pret kaitīgu vai citādi nevēlamu uzvedību, ko var izraisīt ierobežojumi sistēmās vai vidē, kurā sistēmas darbojas (piemēram, kļūdas, defekti, neatbilstības, negaidītas situācijas). Tāpēc būtu jāveic tehniski un organizatoriski pasākumi, lai nodrošinātu augsta riska MI sistēmu robustumu, piemēram, projektējot un izstrādājot piemērotus tehniskus risinājumus, lai novērstu vai līdz minimumam samazinātu kaitīgu vai citādi nevēlamu uzvedību. Minētie tehniskie risinājumi var ietvert, piemēram, mehānismus, kas ļauj sistēmai droši pārtraukt savu darbību (drošatteices plāni) dažu noviržu gadījumā vai tad, ja darbība notiek ārpus konkrētām iepriekš noteiktām robežām. Nespēja aizsargāt pret šiem riskiem varētu ietekmēt drošību vai negatīvi ietekmēt pamattiesības, piemēram, MI sistēmas ģenerētu kļūdainu lēmumu vai nepareizu vai neobjektīvu iznākumu dēļ.
(75)
Tehnička otpornost ključan je zahtjev za visokorizične UI sustave. Trebali bi biti otporni na štetno ili na drugi način nepoželjno ponašanje koje bi moglo proizaći iz ograničenjâ unutar sustava ili okružja u kojem sustavi rade (npr. pogreške, kvarovi, nedosljednosti, neočekivane situacije). Stoga bi trebalo poduzeti tehničke i organizacijske mjere kako bi se osigurala otpornost visokorizičnih UI sustava, na primjer dizajniranjem i razvojem odgovarajućih tehničkih rješenja za sprečavanje ili što veće smanjenje štetnog ili na drugi način nepoželjnog ponašanja. Ta tehnička rješenja mogu obuhvaćati, na primjer, mehanizme koji omogućuju sustavu da sigurno prekine svoj rad (sigurnosni planovi) u slučaju određenih anomalija ili ako se rad odvija izvan određenih unaprijed utvrđenih granica. Nepostojanje zaštite od tih rizika moglo bi imati posljedice za sigurnost ili negativno utjecati na temeljna prava, primjerice zbog pogrešnih odluka ili krivih ili pristranih izlaznih vrijednosti koje generira UI sustav.
(76)
Kiberdrošībai ir būtiska loma, nodrošinot, ka MI sistēmas ir noturīgas pret mēģinājumiem mainīt to lietojumu, uzvedību, veiktspēju vai apdraudēt to drošības iezīmes, ļaunprātīgām trešām personām izmantojot sistēmas vājās vietas. Kiberuzbrukumi MI sistēmām var izmantot MI konkrētos aktīvus, piemēram, apmācībā izmantotās datu kopas (piemēram, datu saindēšana) vai apmācītos modeļus (piemēram, pretinieciskie uzbrukumi vai dalības inference), vai ekspluatēt MI sistēmas digitālo aktīvu vai pamatā esošās IKT infrastruktūras vājās vietas. Lai nodrošinātu riskiem atbilstošu kiberdrošības līmeni, augsta riska MI sistēmu nodrošinātājiem būtu jāveic piemēroti pasākumi, piemēram, drošības kontroles, attiecīgi ņemot vērā arī pamatā esošo IKT infrastruktūru.
(76)
Kibernetička sigurnost ključna je za otpornost UI sustavâ na pokušaje zlonamjernih trećih strana da iskoriste slabe točke tih sustava kako bi im izmijenili način korištenja, ponašanje, učinkovitost ili ugrozili njihova sigurnosna svojstva. U kibernetičkim napadima na UI sustave moguće je iskoristiti resurse specifične za umjetnu inteligenciju, kao što su skupovi podataka za treniranje (npr. trovanje podataka) ili istrenirani modeli (npr. neprijateljski napadi ili utvrđivanje pripadnosti) ili iskoristiti slabe točke digitalnih resursa UI sustava odnosno osnovne IKT infrastrukture. Kako bi se osigurala razina kibernetičke sigurnosti primjerena rizicima, dobavljači visokorizičnih UI sustava trebali bi stoga poduzeti odgovarajuće mjere, kao što su sigurnosne kontrole, prema potrebi uzimajući u obzir i osnovnu IKT infrastrukturu.
(77)
Neskarot šajā regulā noteiktās prasības attiecībā uz robustumu un precizitāti, augsta riska MI sistēmas, kas ietilpst Eiropas Parlamenta un Padomes Regulas par horizontālajām kiberdrošības prasībām attiecībā uz produktiem ar digitāliem elementiem darbības jomā, saskaņā ar minēto regulu var apliecināt atbilstību šīs regulas kiberdrošības prasībām, izpildot minētajā regulā noteiktās kiberdrošības pamatprasības. Ja augsta riska MI sistēmas atbilst Regulas par horizontālajām kiberdrošības prasībām attiecībā uz produktiem ar digitāliem elementiem pamatprasībām, tās būtu jāuzskata par atbilstošām šajā regulā noteiktajām kiberdrošības prasībām, ciktāl minēto prasību izpilde ir apliecināta saskaņā ar minēto regulu izdotā ES atbilstības deklarācijā vai tās daļās. Šajā nolūkā saskaņā ar Regulu par horizontālajām kiberdrošības prasībām attiecībā uz produktiem ar digitāliem elementiem veiktā tādu kiberdrošības risku novērtējumā, kuri saistīti ar produktu ar digitāliem elementiem, kas saskaņā ar šo regulu klasificēts kā augsta riska MI sistēma, būtu jāņem vērā MI sistēmas kibernoturības riski attiecībā uz nepilnvarotu trešo personu mēģinājumiem mainīt tās lietojumu, uzvedību vai veiktspēju, tostarp MI konkrētā ietekmējamība, piemēram, datu saindēšana vai pretinieciskie uzbrukumi, kā arī attiecīgā gadījumā riski pamattiesībām, kā noteikts šajā regulā.
(77)
Ne dovodeći u pitanje zahtjeve koji se odnose na otpornost i točnost utvrđene u ovoj Uredbi, visokorizični UI sustavi obuhvaćeni područjem primjene uredbe Europskog parlamenta i Vijeća o horizontalnim kibernetičkosigurnosnim zahtjevima za proizvode s digitalnim elementima u skladu s tom uredbom mogu dokazati sukladnost s kibernetičkosigurnosnim zahtjevima ove Uredbe ispunjavanjem osnovnih kibernetičkosigurnosnih zahtjeva iz te uredbe. Ako visokorizični UI sustavi ispunjavaju osnovne zahtjeve iz uredbe Europskog parlamenta i Vijeća o horizontalnim kibernetičkosigurnosnim zahtjevima za proizvode s digitalnim elementima trebalo bi ih smatrati usklađenima s kibernetičkosigurnosnim zahtjevima utvrđenima u ovoj Uredbi u mjeri u kojoj je ispunjavanje tih zahtjeva dokazano u EU izjavi o sukladnosti izdanoj na temelju te uredbe ili u dijelovima te izjave. U tom cilju, tijekom procjene kibernetičkosigurnosnih rizika povezanih s proizvodima s digitalnim elementima koji su klasificirani kao visokorizični UI sustav u skladu s ovom Uredbom, koja se provodi na temelju uredbe Europskog parlamenta i Vijeća o horizontalnim kibernetičkosigurnosnim zahtjevima za proizvode s digitalnim elementima, trebalo bi uzeti u obzir rizike za kibernetičku otpornost UI sustava kad se radi o pokušajima neovlaštenih trećih strana da promijene njegovo korištenje, ponašanje ili učinkovitost, uključujući ranjivosti specifične za umjetnu inteligenciju kao što su trovanje podacima ili neprijateljski napadi, kao i, kada je to relevantno, rizike za temeljna prava kako je propisano ovom Uredbom.
(78)
Šajā regulā paredzētā atbilstības novērtēšanas procedūra būtu jāpiemēro attiecībā uz kiberdrošības pamatprasībām produktam ar digitāliem elementiem, uz ko attiecas Regula par horizontālajām kiberdrošības prasībām attiecībā uz produktiem ar digitāliem elementiem un kas saskaņā ar šo regulu klasificēts kā augsta riska MI sistēma. Tomēr šā noteikuma piemērošanai nevajadzētu samazināt nepieciešamo uzticamības līmeni kritiski svarīgajiem produktiem ar digitāliem elementiem, uz kuriem attiecas Regula par horizontālajām kiberdrošības prasībām attiecībā uz produktiem ar digitāliem elementiem. Tāpēc, atkāpjoties no šā noteikuma, augsta riska MI sistēmām, kuras ir šīs regulas darbības jomā un ir arī kvalificētas kā svarīgi un kritiski svarīgi produkti ar digitāliem elementiem, ievērojot Regulu par horizontālajām kiberdrošības prasībām attiecībā uz produktiem ar digitāliem elementiem, un uz kurām attiecas šīs regulas pielikumā izklāstītā atbilstības novērtēšanas procedūra, kā pamatā ir iekšējā kontrole, piemēro Regulas par horizontālajām kiberdrošības prasībām attiecībā uz produktiem ar digitāliem elementiem atbilstības novērtēšanas noteikumus, ciktāl tie attiecas uz minētās regulas kiberdrošības pamatprasībām. Šajā gadījumā visiem pārējiem aspektiem, uz kuriem attiecas šī regula, būtu jāpiemēro attiecīgie noteikumi par atbilstības novērtēšanu, pamatojoties uz iekšējo kontroli, kas izklāstīti šīs regulas pielikumā. Pamatojoties uz ENISA zināšanām un lietpratību par kiberdrošības politiku un uzdevumiem, kas ENISA uzticēti saskaņā ar Eiropas Parlamenta un Padomes Regulu (ES) 2019/881 (37), Komisijai būtu jāsadarbojas ar ENISA jautājumos, kas saistīti ar MI sistēmu kiberdrošību.
(78)
Postupak ocjenjivanja sukladnosti predviđen ovom Uredbom trebao bi se primjenjivati u odnosu na osnovne kibernetičkosigurnosne zahtjeve za proizvod s digitalnim elementima obuhvaćen uredbom Europskog parlamenta i Vijeća o horizontalnim kibernetičkosigurnosnim zahtjevima za proizvode s digitalnim elementima koji je klasificiran kao visokorizični UI sustav na temelju ove Uredbe. Međutim, to pravilo ne bi trebalo rezultirati smanjenjem potrebne razine jamstva za kritične proizvode s digitalnim elementima obuhvaćene uredbom Europskog parlamenta i Vijeća o horizontalnim kibernetičkosigurnosnim zahtjevima za proizvode s digitalnim elementima. Stoga, odstupajući od tog pravila, visokorizični UI sustavi koji su obuhvaćeni područjem primjene ove Uredbe i ujedno su klasificirani kao važni i kritični proizvodi s digitalnim elementima na temelju uredbe Europskog parlamenta i Vijeća o horizontalnim kibernetičkosigurnosnim zahtjevima za proizvode s digitalnim elementima te na koje se primjenjuje postupak ocjenjivanja sukladnosti na temelju unutarnje kontrole utvrđen u prilogu ovoj Uredbi podliježu odredbama o ocjenjivanju sukladnosti iz uredbe Europskog parlamenta i Vijeća o horizontalnim kibernetičkosigurnosnim zahtjevima za proizvode s digitalnim elementima u mjeri u kojoj se to odnosi na osnovne kibernetičkosigurnosne zahtjeve iz te uredbe. U tom bi se slučaju na sve ostale aspekte obuhvaćene ovom Uredbom trebale primjenjivati odgovarajuće odredbe o ocjenjivanju sukladnosti na temelju unutarnje kontrole utvrđene u prilogu ovoj Uredbi. Na osnovi znanja i stručnosti ENISA-e u području kibernetičkosigurnosne politike i zadaća dodijeljenih ENISA-i na temelju Uredbe (EU) 2019/881 Europskog parlamenta i Vijeća (37), Komisija bi trebala surađivati s ENISA-om u pitanjima povezanima s kibernetičkom sigurnošću UI sustavâ.
(79)
Ir lietderīgi, ka konkrēta fiziska vai juridiska persona, kas definēta kā nodrošinātājs, uzņemas atbildību par augsta riska MI sistēmas laišanu tirgū vai nodošanu ekspluatācijā, neatkarīgi no tā, vai minētā fiziskā vai juridiskā persona ir tā persona, kas sistēmu projektējusi vai izstrādājusi.
(79)
Primjereno je da određena fizička ili pravna osoba, koja je definirana kao dobavljač, preuzme odgovornost za stavljanje visokorizičnog UI sustava na tržište ili u upotrebu, bez obzira na to je li ta fizička ili pravna osoba ista osoba koja je dizajnirala ili razvila sustav.
(80)
Savienībai un dalībvalstīm kā Apvienoto Nāciju Organizācijas Konvencijas par personu ar invaliditāti tiesībām parakstītājām ir juridisks pienākums aizsargāt personas ar invaliditāti pret diskrimināciju un veicināt viņu līdztiesību, nodrošināt, ka personām ar invaliditāti ir tāda pati piekļuve informācijas un komunikācijas tehnoloģijām un sistēmām kā citiem, un nodrošināt personu ar invaliditāti privātuma ievērošanu. Ņemot vērā MI sistēmu pieaugošo nozīmi un lietošanu, universālā dizaina principu piemērošanai visām jaunajām tehnoloģijām un pakalpojumiem būtu jānodrošina pilnīga un vienlīdzīga piekļuve visiem, kurus potenciāli skar MI tehnoloģijas vai kuri tās izmanto, tostarp personām ar invaliditāti, tādā veidā, ka tiek pilnībā ievērota minēto personu cieņa un daudzveidība. Tāpēc ir būtiski, ka nodrošinātāji nodrošina pilnīgu atbilstību piekļūstamības prasībām, tostarp Eiropas Parlamenta un Padomes Direktīvai (ES) 2016/2102 (38) un Direktīvai (ES) 2019/882. Nodrošinātājiem būtu jānodrošina integrēta atbilstība šīm prasībām. Tāpēc nepieciešamie pasākumi būtu pēc iespējas jāintegrē augsta riska MI sistēmas projektēšanā.
(80)
Kao potpisnice Konvencije Ujedinjenih naroda o pravima osoba s invaliditetom, Unija i države članice imaju pravnu obvezu štititi osobe s invaliditetom od diskriminacije i promicati njihovu ravnopravnost, osigurati da osobe s invaliditetom imaju pristup informacijskim i komunikacijskim tehnologijama i sustavima na ravnopravnoj osnovi te zajamčiti poštovanje privatnosti osoba s invaliditetom. S obzirom na sve veću važnost i upotrebu UI sustavâ, primjenom univerzalnih načela dizajna na sve nove tehnologije i usluge trebao bi se osigurati potpun i ravnopravan pristup za sve osobe na koje bi tehnologije umjetne inteligencije mogle utjecati ili koje te tehnologije upotrebljavaju, uključujući osobe s invaliditetom, na način kojim se u cijelosti poštuju njihovo inherentno dostojanstvo i raznolikost. Stoga je ključno da dobavljači osiguraju potpunu usklađenost sa zahtjevima u pogledu pristupačnosti, uključujući Direktivu (EU) 2016/2102 Europskog parlamenta i Vijeća (38) i Direktivu (EU) 2019/882. Dobavljači bi trebali osigurati integriranu usklađenost s tim zahtjevima. Stoga bi potrebne mjere trebalo što je više moguće uključiti u dizajn visokorizičnog UI sustava.
(81)
Nodrošinātājam būtu jāizveido stabila kvalitātes vadības sistēma, jānodrošina nepieciešamās atbilstības novērtēšanas procedūras pabeigšana, jāizstrādā attiecīgā dokumentācija un jāizveido spēcīga pēctirgus pārraudzības sistēma. Augsta riska MI sistēmu nodrošinātājiem, uz kuriem attiecas pienākumi attiecībā uz kvalitātes pārvaldības sistēmām saskaņā ar attiecīgajiem Savienības nozaru tiesību aktiem, vajadzētu būt iespējai šajā regulā paredzētās kvalitātes pārvaldības sistēmas elementus iekļaut esošajā kvalitātes pārvaldības sistēmā, kas paredzēta minētajos citos Savienības nozaru tiesību aktos. Turpmākajās standartizācijas darbībās vai Komisijas pieņemtajos norādījumos būtu jāņem vērā arī papildināmība starp šo regulu un spēkā esošajiem Savienības nozaru tiesību aktiem. Publiskas iestādes, kuras nodod ekspluatācijā augsta riska MI sistēmu pašu lietošanai, var pieņemt un īstenot kvalitātes vadības sistēmas noteikumus valsts vai reģionālā līmenī pieņemtas kvalitātes vadības sistēmas ietvaros, attiecīgi ņemot vērā nozares īpatnības un attiecīgās publiskās iestādes kompetences un struktūru.
(81)
Dobavljač bi trebao uspostaviti pouzdan sustav upravljanja kvalitetom, osigurati realizaciju postupka ocjenjivanja sukladnosti koji se zahtijeva, sastaviti relevantnu dokumentaciju i uspostaviti pouzdan sustav praćenja nakon stavljanja na tržište. Dobavljači visokorizičnih UI sustava koji podliježu obvezama u pogledu sustavâ upravljanja kvalitetom u skladu s relevantnim sektorskim pravom Unije trebali bi imati mogućnost uključiti elemente sustava upravljanja kvalitetom predviđenog u ovoj Uredbi u postojeći sustav upravljanja kvalitetom predviđen u tom drugom sektorskom pravu Unije. Komplementarnost ove Uredbe i postojećeg sektorskog prava Unije trebala bi se uzeti u obzir i u budućim aktivnostima normizacije ili smjernicama koje donosi Komisija. Tijela javne vlasti koja stavljaju visokorizične UI sustave u upotrebu za vlastite potrebe mogu donijeti i provoditi pravila za sustav upravljanja kvalitetom u okviru sustava upravljanja kvalitetom donesenog na nacionalnoj ili regionalnoj razini, prema potrebi, uzimajući u obzir posebnosti sektora te nadležnosti i organizaciju dotičnog tijela javne vlasti.
(82)
Lai nodrošinātu šīs regulas izpildi un radītu vienlīdzīgus konkurences apstākļus operatoriem un ņemot vērā dažādos veidus, kā digitālos produktus var darīt pieejamus, ir svarīgi nodrošināt, ka Savienībā iedibināta persona jebkuros apstākļos var iestādēm sniegt visu nepieciešamo informāciju par MI sistēmas atbilstību. Tāpēc nodrošinātājiem, kas iedibināti trešās valstīs, pirms savas MI sistēmas dara pieejamas Savienībā, ar rakstisku pilnvaru būtu jāieceļ Savienībā iedibinātu pilnvarotu pārstāvi. Šim pilnvarotajam pārstāvim ir būtiska loma tādu augsta riska MI sistēmu atbilstības nodrošināšanā, kuras Savienībā laiž tirgū vai nodod ekspluatācijā nodrošinātāji, kas nav iedibināti Savienībā, un tas darbojas kā šo nodrošinātāju kontaktpersona, kas iedibināta Savienībā.
(82)
Kako bi se omogućilo izvršavanje ove Uredbe i osigurali jednaki uvjeti za operatere te uzimajući u obzir različite oblike stavljanja digitalnih proizvoda na raspolaganje, važno je osigurati da osoba s poslovnim nastanom u Uniji u svim okolnostima može nadležnim tijelima pružiti sve potrebne informacije o usklađenosti pojedinog UI sustava. Stoga bi dobavljači s poslovnim nastanom u trećim zemljama trebali pisanim ovlaštenjem imenovati ovlaštenog zastupnika s poslovnim nastanom u Uniji prije stavljanja svojih UI sustava na raspolaganje u Uniji. Taj ovlašteni zastupnik ima ključnu ulogu u osiguravanju usklađenosti visokorizičnih UI sustava koje ti dobavljači koji nemaju poslovni nastan u Uniji stavljaju na tržište ili u upotrebu u Uniji i služi kao njihova osoba za kontakt s poslovnim nastanom u Uniji.
(83)
Ņemot vērā MI sistēmu vērtības ķēdes raksturu un sarežģītību un saskaņā ar Jauno tiesisko regulējumu, ir būtiski nodrošināt juridisko noteiktību un veicināt atbilstību šai regulai. Tāpēc ir jāprecizē to attiecīgo operatoru, piemēram, importētāju un izplatītāju, loma un konkrētie pienākumi visā vērtības ķēdē, kuri var veicināt MI sistēmu izstrādi. Dažās situācijās minētie operatori varētu vienlaikus pildīt vairāk nekā vienu funkciju, un tāpēc tiem būtu kumulatīvi jāizpilda visi attiecīgie pienākumi, kas saistīti ar minētajām funkcijām. Piemēram, operators varētu darboties vienlaikus kā izplatītājs un importētājs.
(83)
S obzirom na prirodu i složenost lanca vrijednosti za UI sustave te u skladu s načelima novog zakonodavnog okvira, ključno je osigurati pravnu sigurnost i olakšati usklađenost s ovom Uredbom. Stoga je potrebno pojasniti ulogu i posebne obveze relevantnih operatera duž tog lanca vrijednosti, kao što su uvoznici i distributeri koji mogu doprinijeti razvoju UI sustava. U određenim situacijama ti bi operateri mogli istodobno djelovati u više uloga i stoga bi trebali kumulativno ispunjavati sve relevantne obveze povezane s tim ulogama. Na primjer, operater bi mogao istodobno djelovati kao distributer i uvoznik.
(84)
Lai nodrošinātu juridisko noteiktību, ir jāprecizē, ka saskaņā ar dažiem konkrētiem nosacījumiem jebkurš uzturētājs, importētājs, ieviesējs vai cita trešā persona būtu jāuzskata par augsta riska MI sistēmas nodrošinātāju un tādēļ tam būtu jāuzņemas visi attiecīgie pienākumi. Tā tas būtu gadījumā, ja minētā persona uzliek savu nosaukumu/vārdu vai preču zīmi augsta riska MI sistēmai, kas jau ir laista tirgū vai nodota ekspluatācijā, neskarot līgumiskas vienošanās, kas paredz, ka pienākumi tiek sadalīti citādi. Tā tas būtu arī gadījumā, ja minētā persona veic būtisku modifikāciju augsta riska MI sistēmā, kura jau ir laista tirgū vai jau ir nodota ekspluatācijā, tādā veidā, ka tā joprojām paliek augsta riska MI sistēma, ievērojot šo regulu, vai ja tā veic modifikāciju MI sistēmai paredzētajā nolūkā, tostarp vispārīga lietojuma MI sistēmai, kas nav klasificēta kā augsta riska sistēma un kas jau ir laista tirgū vai nodota ekspluatācijā, tādā veidā, ka attiecīgā MI sistēma kļūst par augsta riska MI sistēmu saskaņā ar šo regulu. Minētie noteikumi būtu jāpiemēro, neskarot konkrētākus noteikumus, kas paredzēti dažos Savienības saskaņošanas tiesību aktos, kuru pamatā ir Jaunais tiesiskais regulējums, kopā ar kuru būtu jāpiemēro šī regula. Piemēram, Regulas (ES) 2017/745 16. panta 2. punktu, kurā noteikts, ka dažas izmaiņas nebūtu jāuzskata par tādām ierīces modifikācijām, kas varētu ietekmēt tās atbilstību piemērojamajām prasībām, būtu jāturpina piemērot augsta riska MI sistēmām, kuras ir medicīniskas ierīces minētās regulas nozīmē.
(84)
Kako bi se zajamčila pravna sigurnost, potrebno je pojasniti da bi se pod određenim posebnim uvjetima svaki dobavljač, uvoznik, subjekt koji uvodi sustav ili treća strana trebali smatrati dobavljačem visokorizičnog UI sustava i stoga preuzeti sve relevantne obveze. To bi bio slučaj ako ta strana stavi svoje ime ili žig na visokorizični UI sustav koji je već stavljen na tržište ili u upotrebu, ne dovodeći u pitanje ugovorne aranžmane u kojima je utvrđena drukčija raspodjela obveza. To bi bio slučaj i ako ta strana bitno izmijeni visokorizični UI sustav koji je već stavljen na tržište ili u upotrebu na način da on i dalje bude visokorizičan u skladu s ovom Uredbom, ili ako izmijeni namjenu UI sustava, uključujući UI sustav opće namjene, koji nije bio klasificiran kao visokorizičan i već je stavljen na tržište ili u upotrebu, na način da UI sustav postane visokorizičan u skladu s ovom Uredbom. Te bi se odredbe trebale primjenjivati ne dovodeći u pitanje detaljnije odredbe utvrđene u određenom zakonodavstvu Unije o usklađivanju na temelju novog zakonodavnog okvira, zajedno s kojima bi se ova Uredba trebala primjenjivati. Na primjer, članak 16. stavak 2. Uredbe (EU) 2017/745, u kojem se navodi da određene promjene ne bi trebalo smatrati izmjenama proizvoda koje mogu utjecati na njegovu usklađenost s primjenjivim zahtjevima, trebao bi se i dalje primjenjivati na visokorizične UI sustave koji su medicinski proizvodi u smislu te uredbe.
(85)
Vispārīga lietojuma MI sistēmas var lietot kā augsta riska MI sistēmas pašas par sevi vai kā citu augsta riska MI sistēmu sastāvdaļas. Tāpēc, ņemot vērā šādu sistēmu īpašo raksturu un lai nodrošinātu taisnīgu atbildības sadali visā MI vērtības ķēdē, šādu sistēmu nodrošinātājiem – neatkarīgi no tā, vai citi nodrošinātāji tās var lietot kā augsta riska MI sistēmas pašas par sevi vai kā augsta riska MI sistēmu sastāvdaļas, un ja šajā regulā nav noteikts citādi, – būtu cieši jāsadarbojas ar attiecīgo augsta riska MI sistēmu nodrošinātājiem, lai nodrošinātu atbilstību attiecīgajiem šajā regulā noteiktajiem pienākumiem, un ar kompetentajām iestādēm, kas izveidotas šajā regulā.
(85)
UI sustavi opće namjene mogu se upotrebljavati samostalno kao visokorizični UI sustavi ili mogu biti komponente drugih visokorizičnih UI sustava. Stoga, zbog njihove specifične prirode i radi jamčenja pravedne podjele odgovornosti diljem lanca vrijednosti umjetne inteligencije, neovisno o tome mogu li ih drugi dobavljači upotrebljavati samostalno kao visokorizične UI sustave ili kao komponente visokorizičnih UI sustava i ako na temelju ove Uredbe nije drugačije predviđeno, dobavljači takvih sustava trebali bi blisko surađivati s dobavljačima relevantnih visokorizičnih UI sustava kako bi im se omogućilo ispunjavanje relevantnih obveza na temelju ove Uredbe i s nadležnim tijelima osnovanima na temelju ove Uredbe.
(86)
Ja saskaņā ar šajā regulā paredzētajiem nosacījumiem nodrošinātājs, kas sākotnēji laidis tirgū vai nodevis ekspluatācijā MI sistēmu, vairs nebūtu uzskatāms par nodrošinātāju šīs regulas nozīmē un ja minētais nodrošinātājs nav skaidri izslēdzis MI sistēmas pārveidošanu par augsta riska MI sistēmu, iepriekšējam nodrošinātājam tomēr būtu cieši jāsadarbojas un jādara pieejama nepieciešamā informācija, un jāsniedz saprātīgi sagaidāma tehniskā piekļuve un cita palīdzība, kas vajadzīga šajā regulā noteikto pienākumu izpildei, jo īpaši attiecībā uz atbilstību augsta riska MI sistēmu atbilstības novērtējumam.
(86)
Ako se u skladu s uvjetima utvrđenima u ovoj Uredbi dobavljač koji je prvotno stavio UI sustav na tržište ili u upotrebu više ne smatra dobavljačem za potrebe ove Uredbe i ako taj dobavljač nije izričito isključio pretvaranje UI sustava u visokorizični UI sustav, bivši dobavljač ipak bi trebao blisko surađivati i staviti na raspolaganje potrebne informacije te pružiti razumno očekivani tehnički pristup i drugu pomoć koji su potrebni za ispunjavanje obveza utvrđenih u ovoj Uredbi, posebno u pogledu usklađenosti s ocjenjivanjem sukladnosti visokorizičnih UI sustava.
(87)
Turklāt, ja augsta riska MI sistēma, kas ir drošības sastāvdaļa kādā produktā, uz kuru attiecas Jaunajā tiesiskajā regulējumā balstīto Savienības saskaņošanas tiesību aktu piemērošanas joma, nav laista tirgū vai nodota ekspluatācijā neatkarīgi no produkta, produkta ražotājam, kas definēts minētajos tiesību aktos, būtu jāizpilda šajā regulā noteiktie nodrošinātāja pienākumi un jo īpaši būtu jānodrošina, ka gatavajā produktā iegultā MI sistēma atbilst šīs regulas prasībām.
(87)
Usto, ako se visokorizični UI sustav koji je sigurnosna komponenta proizvoda obuhvaćenog zakonodavstvom Unije o usklađivanju na temelju novog zakonodavnog okvira ne stavlja na tržište ili u upotrebu neovisno o proizvodu, proizvođač proizvoda definiran u tom zakonodavstvu trebao bi ispunjavati obveze dobavljača utvrđene u ovoj Uredbi, a osobito osigurati da UI sustav ugrađen u konačni proizvod ispunjava zahtjeve iz ove Uredbe.
(88)
MI vērtības ķēdē daudzas puses bieži piegādā MI sistēmas, rīkus un pakalpojumus, bet arī sastāvdaļas vai procesus, ko nodrošinātājs integrē MI sistēmā ar dažādiem mērķiem, tostarp saistībā ar modeļu apmācību, modeļu pārmācību, modeļu testēšanu un izvērtēšanu, integrēšanu programmatūrā vai citiem modeļu izstrādes aspektiem. Minētajām pusēm ir svarīga loma vērtības ķēdē attiecībā uz tādas augsta riska MI sistēmas nodrošinātāju, kurā ir integrētas to MI sistēmas, rīki, pakalpojumi, sastāvdaļas vai procesi, un tām ar rakstisku piekrišanu būtu jāsniedz šim nodrošinātājam nepieciešamā informācija, spējas, tehniskā piekļuve un cita palīdzība, pamatojoties uz vispāratzītiem jaunākajiem sasniegumiem, lai nodrošinātājs varētu pilnībā izpildīt šajā regulā noteiktos pienākumus, neskarot savas intelektuālā īpašuma tiesības vai komercnoslēpumus.
(88)
U vrijednosnom lancu umjetne inteligencije često više strana dobavlja UI sustave, alate i usluge, ali i komponente ili procese koje dobavljač potom ugrađuje u UI sustav s različitim ciljevima, među ostalim radi treniranja modela, ponovnog treniranja modela, testiranja i evaluacije modela, integracije u softver ili drugih aspekata razvoja modela. Te strane imaju važnu ulogu u lancu vrijednosti prema dobavljaču visokorizičnog UI sustava u koji su integrirani njihovi UI sustavi, alati, usluge, komponente ili procesi te bi tom dobavljaču u pisanom obliku trebale pružiti potrebne informacije, mogućnosti, tehnički pristup i drugu pomoć na temelju općepriznatih najnovijih dostignuća kako bi dobavljač mogao u potpunosti ispuniti obveze utvrđene u ovoj Uredbi, a da se pritom ne dovedu u pitanje njihova prava intelektualnog vlasništva ili poslovne tajne.
(89)
Trešām personām, kas dara piekļūstamus publiskus rīkus, pakalpojumus, procesus vai MI sastāvdaļas, kas nav vispārīga lietojuma MI modeļi, nevajadzētu būt pienākumam izpildīt prasības, kas vērstas uz pienākumiem MI vērtības ķēdē, jo īpaši pret nodrošinātāju, kurš tos ir izmantojis vai integrējis, ja minētie rīki, pakalpojumi, procesi vai MI sastāvdaļas tiek darīti piekļūstami saskaņā ar bezmaksas un atvērtas piekļuves licenci. Brīvā un atvērtā pirmkoda rīku, pakalpojumu, procesu vai MI sastāvdaļu, kas nav vispārīga lietojuma MI modeļi, izstrādātāji būtu jāmudina īstenot plaši pieņemtu dokumentēšanas praksi, piemēram, modeļu kartes un datu lapas, lai paātrinātu informācijas apmaiņu visā MI vērtības ķēdē, ļaujot veicināt uzticamas MI sistēmas Savienībā.
(89)
Treće strane koje javnosti na raspolaganje stavljaju UI alate, usluge, procese ili komponente koji nisu UI modeli opće namjene ne bi trebale biti obvezne ispunjavati zahtjeve u vezi s odgovornošću duž lanca vrijednosti umjetne inteligencije, posebno prema dobavljaču koji ih je koristio ili integrirao, ako su ti UI alati, usluge, procesi ili komponente dostupni na temelju besplatne licencije za softver otvorenog koda. Razvojne programere besplatnih UI alata, usluga, procesa otvorenog koda ili komponenti koji nisu UI modeli opće namjene trebalo bi poticati da primjenjuju široko prihvaćene prakse dokumentiranja, kao što su kartice modela i podatkovne kartice kako bi se ubrzala razmjena informacija duž vrijednosnog lanca umjetne inteligencije i omogućilo promicanje pouzdanih UI sustava u Uniji.
(90)
Komisija varētu izstrādāt un ieteikt brīvprātīgus līguma paraugnoteikumus starp augsta riska MI sistēmu nodrošinātājiem un trešām personām, kuras piegādā rīkus, pakalpojumus, sastāvdaļas vai procesus, ko izmanto vai integrē augsta riska MI sistēmās, lai veicinātu sadarbību vērtības ķēdē. Izstrādājot brīvprātīgus līguma paraugnoteikumus, Komisijai būtu arī jāņem vērā iespējamās līgumiskās prasības, kas piemērojamas konkrētās nozarēs vai uzņēmējdarbības gadījumos.
(90)
Komisija bi mogla razviti i preporučiti dobrovoljne modele ugovornih uvjeta između dobavljača visokorizičnih UI sustava i trećih strana koji isporučuju alate, usluge, komponente ili procese koji se upotrebljavaju u visokorizičnim UI sustavima ili su u njih integrirani kako bi se olakšala suradnja duž lanca vrijednosti. Pri izradi dobrovoljnih modela ugovornih uvjeta Komisija bi trebala uzeti u obzir i moguće ugovorne zahtjeve primjenjive u određenim sektorima ili poslovnim modelima.
(91)
Ņemot vērā MI sistēmu raksturu un iespējamos riskus drošībai un pamattiesībām, kas saistīti ar to lietošanu, tostarp attiecībā uz nepieciešamību nodrošināt MI sistēmas veiktspējas reālos apstākļos pienācīgu pārraudzību, ir lietderīgi noteikt konkrētus pienākumus uzturētājiem. Uzturētājiem būtu jo īpaši jāveic pienācīgi tehniski un organizatoriski pasākumi, lai nodrošinātu, ka augsta riska MI sistēmas tie lieto saskaņā ar lietošanas instrukcijām, un būtu jānosaka daži citi pienākumi attiecībā uz MI sistēmu funkcionēšanas pārraudzību un uzskaiti vajadzības gadījumā. Turklāt uzturētājiem būtu jānodrošina, ka personām, kurām uzdots īstenot šajā regulā noteiktās lietošanas instrukcijas un cilvēka virsvadību, ir vajadzīgā kompetence, jo īpaši pienācīga līmeņa MI pratība, apmācība un pilnvaras minēto uzdevumu pienācīgai izpildei. Minētajiem pienākumiem nebūtu jāskar citi uzturētāja pienākumi attiecībā uz augsta riska MI sistēmām saskaņā ar Savienības vai valsts tiesību aktiem.
(91)
S obzirom na prirodu UI sustavâ i rizike za sigurnost i temeljna prava koji se potencijalno mogu povezati s njihovim korištenjem, među ostalim u pogledu potrebe da se osigura propisno praćenje učinkovitosti UI sustava u stvarnim uvjetima, primjereno je utvrditi posebne odgovornosti za subjekte koji ih uvode. Subjekti koji uvode UI sustave osobito bi trebali poduzeti primjerene tehničke i organizacijske mjere kako bi osigurali da upotrebljavaju visokorizične UI sustave u skladu s uputama za korištenje te bi, prema potrebi, trebalo predvidjeti određene druge obveze u pogledu praćenja funkcioniranja UI sustavâ i vođenja evidencije. Nadalje, subjekti koji uvode sustav trebali bi osigurati da osobe kojima je povjerena provedba uputa za korištenje i ljudskog nadzora kako je utvrđeno u ovoj Uredbi imaju potrebne kompetencije, osobito odgovarajuću razinu pismenosti, osposobljavanja i ovlasti u području umjetne inteligencije, za pravilno obavljanje tih zadaća. Tim se obvezama ne bi trebale dovoditi u pitanje druge obveze subjekata koji uvode UI sustave u pogledu visokorizičnih UI sustava na temelju prava Unije ili nacionalnog prava.
(92)
Šī regula neskar darba devēju pienākumus informēt darba ņēmējus vai informēt un uzklausīt darba ņēmējus vai viņu pārstāvjus saskaņā ar Savienības vai valsts tiesību aktiem un praksi, tostarp Eiropas Parlamenta un Padomes Direktīvu 2002/14/EK (39), par lēmumiem nodot ekspluatācijā vai izmantot MI sistēmas. Joprojām ir nepieciešams nodrošināt darba ņēmēju un viņu pārstāvju informēšanu par augsta riska MI sistēmu plānoto ieviešanu darbavietā, ja nav izpildīti citos juridiskajos instrumentos paredzētie nosacījumi attiecībā uz minēto informāciju vai informēšanas un uzklausīšanas pienākumiem. Turklāt šādas tiesības uz informāciju ir papildinošas un nepieciešamas, lai sasniegtu mērķi aizsargāt pamattiesības, kas ir šīs regulas pamatā. Tāpēc šajā regulā būtu jānosaka informēšanas prasība, neskarot darba ņēmēju spēkā esošās tiesības.
(92)
Ovom se Uredbom ne dovode u pitanje obveze poslodavaca da obavijeste radnike ili njihove predstavnike ili da se savjetuju s njima na temelju prava i prakse Unije ili nacionalnog prava i prakse, uključujući Direktivu 2002/14/EZ Europskog parlamenta i Vijeća (39), o odlukama o stavljanju u upotrebu ili korištenju UI sustavâ. I dalje je potrebno osigurati obavješćivanje radnika i njihovih predstavnika o planiranom uvođenju visokorizičnih UI sustava na radnom mjestu ako nisu ispunjeni uvjeti za te obveze obavješćivanja ili obavješćivanja i savjetovanja iz drugih pravnih instrumenata. Nadalje, takvo pravo na obavješćivanje sporedno je i potrebno u odnosu na cilj zaštite temeljnih prava na kojem se temelji ova Uredba. Stoga bi u ovoj Uredbi trebalo utvrditi obvezu obavješćivanja u tu svrhu, a da se pritom ne utječe na postojeća prava radnika.
(93)
Lai gan riski, kas saistīti ar MI sistēmām, var rasties no šādu sistēmu uzbūves, riskus var radīt arī veids, kā šādas MI sistēmas tiek lietotas. Tāpēc augsta riska MI sistēmas uzturētājiem ir būtiska nozīme pamattiesību aizsardzības nodrošināšanā, papildinot nodrošinātāja pienākumus MI sistēmu izstrādē. Uzturētājiem ir vislabākās iespējas izprast, kā tieši tiks lietota augsta riska MI sistēma, un tādēļ, pateicoties precīzākām zināšanām par lietošanas kontekstu, personām vai personu grupām, kuras varētu tikt skartas, tostarp neaizsargātām grupām, tie var identificēt iespējamos būtiskos riskus, kas nebija paredzēti izstrādes posmā. Šīs regulas pielikumā uzskaitīto augsta riska MI sistēmu uzturētājiem ir arī būtiska loma fizisku personu informēšanā, un, pieņemot lēmumus vai palīdzot pieņemt lēmumus saistībā ar fiziskām personām, tiem attiecīgā gadījumā būtu jāinformē fiziskās personas par to, ka uz tām attiecas augsta riska MI sistēmas lietošana. Šai informācijai būtu jāietver paredzētais nolūks un pieņemto lēmumu veids. Uzturētājam būtu arī jāinformē fiziskās personas par to šajā regulā paredzētajām tiesībām saņemt paskaidrojumu. Attiecībā uz augsta riska MI sistēmām, ko lieto tiesībaizsardzības nolūkos, minētais pienākums būtu jāīsteno saskaņā ar Direktīvas (ES) 2016/680 13. pantu.
(93)
Iako rizici povezani s UI sustavima mogu proizlaziti iz načina na koji su ti sustavi dizajnirani, mogu biti uzrokovani i načinom na koji se oni koriste. Subjekti koji uvode visokorizične UI sustave stoga imaju ključnu ulogu u osiguravanju zaštite temeljnih prava, čime se dopunjuju obveze dobavljača pri razvoju UI sustava. Subjekti koji uvode UI sustave u najboljem su položaju da razumiju kako će se visokorizični UI sustav konkretno koristiti te stoga mogu utvrditi potencijalne znatne rizike koji nisu predviđeni u fazi razvoja, zahvaljujući preciznijem poznavanju konteksta korištenja te osoba ili skupina osoba koje bi vjerojatno bile zahvaćene, uključujući skupine ranjivih osoba. Subjekti koji uvode visokorizične UI sustave navedene u prilogu ovoj Uredbi također imaju ključnu ulogu u informiranju fizičkih osoba i trebali bi, kada donose odluke ili pomažu u donošenju odluka povezanih s fizičkim osobama, ako je primjenjivo, obavijestiti fizičke osobe da podliježu korištenju visokorizičnog UI sustava. Te informacije trebale bi obuhvaćati namjenu sustava i vrstu odluka koje donosi. Subjekt koji uvodi sustav trebao bi obavijestiti fizičke osobe i o njihovu pravu na objašnjenje predviđenom na temelju ove Uredbe. Kad je riječ o visokorizičnim UI sustavima koji se upotrebljavaju u svrhu kaznenog progona, tu bi obvezu trebalo provesti u skladu s člankom 13. Direktive (EU) 2016/680.
(94)
Jebkādai biometrisko datu apstrādei, kas saistīta ar MI sistēmu lietošanu biometriskajai identifikācijai tiesībaizsardzības nolūkos, ir jāatbilst Direktīvas (ES) 2016/680 10. pantam, kas atļauj šādu apstrādi tikai tad, ja tas ir absolūti nepieciešams, uz to attiecas atbilstošas garantijas attiecībā uz datu subjekta tiesībām un brīvībām un ja tas ir atļauts Savienības vai dalībvalsts tiesībās. Šādā lietošanā, ja tā ir atļauta, ir jāievēro arī Direktīvas (ES) 2016/680 4. panta 1. punktā noteiktie principi, tostarp likumība, godprātība un pārredzamība, mērķa ierobežojums, precizitāte un glabāšanas ierobežojums.
(94)
Svaka obrada biometrijskih podataka povezana s korištenjem UI sustava za biometrijsku identifikaciju u svrhu kaznenog progona mora biti u skladu s člankom 10. Direktive (EU) 2016/680, kojim se takva obrada dopušta samo ako je to nužno, podložno odgovarajućim zaštitnim mjerama u pogledu prava i sloboda ispitanika i ako je to dopušteno pravom Unije ili pravom države članice. Pri takvom korištenju, ako je odobreno, moraju se poštovati i načela utvrđena u članku 4. stavku 1. Direktive (EU) 2016/680, uključujući zakonitost, pravednost i transparentnost, ograničenje svrhe, točnost i ograničenje pohrane.
(95)
Neskarot piemērojamos Savienības tiesību aktus, jo īpaši Regulu (ES) 2016/679 un Direktīvu (ES) 2016/680, tā kā vēlāklaika biometriskās tālidentifikācijas sistēmas pēc būtības ir aizskarošas, vēlāklaika biometriskās tālidentifikācijas sistēmu lietošanai būtu jāpiemēro aizsardzības pasākumi. Vēlāklaika biometriskās tālidentifikācijas sistēmas vienmēr būtu jālieto samērīgi, leģitīmi un tad, ja tas ir absolūti nepieciešams, un tādējādi tās būtu jāorientē uz identificējamām personām, atrašanās vietu, darbības laiku un pamatojoties uz slēgtu datu kopu, ko veido likumīgi iegūti videomateriāli. Jebkurā gadījumā vēlāklaika biometriskās tālidentifikācijas sistēmas nebūtu jālieto tiesībaizsardzības sistēmā, kas radītu nediferencētu uzraudzību. Vēlāklaika biometriskās tālidentifikācijas nosacījumiem nekādā gadījumā nevajadzētu būt par pamatu, lai apietu aizlieguma nosacījumus un stingrus izņēmumus attiecībā uz reāllaika biometrisko tālidentifikāciju.
(95)
Ne dovodeći u pitanje primjenjivo pravo Unije, osobito Uredbu (EU) 2016/679 i Direktivu (EU) 2016/680, uzimajući u obzir intruzivnu prirodu sustava za naknadnu daljinsku biometrijsku identifikaciju, korištenje sustava za naknadnu daljinsku biometrijsku identifikaciju trebalo bi podlijegati zaštitnim mjerama. Sustavi za naknadnu daljinsku biometrijsku identifikaciju uvijek bi se trebali upotrebljavati na način koji je proporcionalan, legitiman i nužan te stoga ciljan u smislu pojedinaca koje treba identificirati, lokacije i vremenskog opsega te se temeljiti na zatvorenom skupu podataka sa zakonito pribavljenog videozapisa. U svakom slučaju, sustavi za naknadnu daljinsku biometrijsku identifikaciju ne bi se trebali upotrebljavati u okviru kaznenog progona kako bi doveli do neselektivnog nadzora. Uvjeti za naknadnu daljinsku biometrijsku identifikaciju ni u kojem slučaju ne bi trebali biti osnova za zaobilaženje uvjeta zabrane i strogih iznimaka za daljinsku biometrijsku identifikaciju u stvarnom vremenu.
(96)
Lai efektīvi nodrošinātu pamattiesību aizsardzību, augsta riska MI sistēmu uzturētājiem, kas ir publisko tiesību subjekti, vai privātām vienībām, kas sniedz sabiedriskos pakalpojumus, un konkrētu šīs regulas pielikumā uzskaitītu augsta riska MI sistēmu uzturētājiem, piemēram, banku vai apdrošināšanas vienībām, pirms nodošanas ekspluatācijā būtu jāveic novērtējums par ietekmi uz pamattiesībām. Sabiedriska rakstura pakalpojumus, kas ir svarīgi privātpersonām, var sniegt arī privātas vienības. Privātas vienības, kas sniedz šādus sabiedriskus pakalpojumus, ir saistīti ar uzdevumiem sabiedrības interesēs, piemēram, izglītības, veselības aprūpes, sociālo pakalpojumu, mājokļa, tiesvedības jomā. Novērtējuma par ietekmi uz pamattiesībām mērķis ir panākt, lai uzturētājs identificētu konkrētos riskus to personu vai personu grupu tiesībām, kas varētu tikt skartas, un identificētu pasākumus, kas jāveic minētā riska iestāšanās gadījumā. Ietekmes novērtējums būtu jāpiemēro augsta riska MI sistēmas pirmajai lietošanai, un tas būtu jāatjaunina, ja uzturētājs uzskata, ka kāds no būtiskajiem faktoriem ir mainījies. Ietekmes novērtējumā būtu jāidentificē uzturētāja attiecīgie procesi, kuros augsta riska MI sistēma tiks lietota saskaņā ar tai paredzēto nolūku, un tajā būtu jāietver apraksts par sistēmas paredzētās lietošanas laikposmu un biežumu, kā arī par konkrētām fizisku personu un grupu kategorijām, kuras varētu tikt skartas konkrētajā lietošanas kontekstā. Novērtējumā būtu arī jāidentificē konkrēti kaitējuma riski, kas varētu ietekmēt minēto personu vai grupu pamattiesības. Veicot šo novērtējumu, uzturētājam būtu jāņem vērā informācija, kas ir būtiska ietekmes pienācīgam novērtējumam, tostarp, bet ne tikai, informācija, ko augsta riska MI sistēmas nodrošinātājs sniedzis lietošanas instrukcijā. Ņemot vērā identificētos riskus, uzturētājiem būtu jānosaka pasākumi, kas jāveic minēto risku iestāšanās gadījumā, tostarp, piemēram, pārvaldības kārtība konkrētajā lietošanas kontekstā, piemēram, cilvēka virsvadības kārtība saskaņā ar lietošanas instrukciju, vai sūdzību izskatīšanas un tiesiskās aizsardzības procedūras, jo tās varētu būt noderīgas risku pamattiesībām mazināšanā konkrētos lietošanas gadījumos. Pēc minētā ietekmes novērtējuma veikšanas uzturētājam par to būtu jāpaziņo attiecīgajai tirgus uzraudzības iestādei. Attiecīgā gadījumā, lai vāktu attiecīgo informāciju, kas nepieciešama ietekmes novērtējuma veikšanai, augsta riska MI sistēmas uzturētāji, jo īpaši tad, ja MI sistēmas izmanto publiskajā sektorā, varētu iesaistīt attiecīgās ieinteresētās personas, tostarp to personu grupu pārstāvjus, kuras MI sistēma varētu skart, neatkarīgus ekspertus un pilsoniskās sabiedrības organizācijas šādu ietekmes novērtējumu veikšanā un tādu pasākumu izstrādē, kas jāveic risku iestāšanās gadījumā. Eiropas Mākslīgā intelekta birojam (MI birojs) būtu jāizstrādā anketas veidne, lai atvieglotu atbilstību un samazinātu administratīvo slogu uzturētājiem.
(96)
Kako bi se učinkovito osigurala zaštita temeljnih prava, subjekti koji uvode visokorizične UI sustave koji su javnopravna tijela ili privatni subjekti koji pružaju javne usluge i subjekti koji uvode određene visokorizične UI sustave navedene u prilogu ovoj Uredbi, kao što su bankarski ili osiguravateljski subjekti, trebali bi prije stavljanja tih sustava u upotrebu provesti procjenu učinka na temeljna prava. Usluge važne za pojedince koje su javne prirode mogu pružati i privatni subjekti. Privatni subjekti koji pružaju takve javne usluge povezani su sa zadaćama od javnog interesa, primjerice u područjima obrazovanja, zdravstvene skrbi, socijalnih usluga, stanovanja i sudovanja. Cilj je procjene učinka na temeljna prava da subjekt koji uvodi sustav utvrdi specifične rizike za prava pojedinaca ili skupina pojedinaca na koje bi mogao utjecati te utvrdi mjere koje se moraju poduzeti u slučaju materijalizacije tih rizika. Procjenu učinka trebala bi provesti prije uvođenja visokorizičnog UI sustava te bi je trebalo ažurirati ako subjekt koji uvodi sustav smatra da se promijenio bilo koji od relevantnih čimbenika. U procjeni učinka trebalo bi utvrditi relevantne procese subjekta koji uvodi sustav u kojima će se visokorizični UI sustav upotrebljavati u skladu sa svojom namjenom te bi ona trebala uključivati opis razdoblja i učestalosti upotrebe sustava, kao i posebnih kategorija fizičkih osoba i skupina na koje će vjerojatno utjecati u specifičnom kontekstu upotrebe. Procjena bi trebala uključivati i utvrđivanje specifičnih rizika od štete koja bi mogla utjecati na temeljna prava tih osoba ili skupina. Pri provedbi te procjene subjekt koji uvodi UI sustav trebao bi uzeti u obzir informacije relevantne za pravilnu procjenu učinka, uključujući, ali ne ograničavajući se na informacije koje je dobavljač visokorizičnog UI sustava naveo u uputama za korištenje. S obzirom na utvrđene rizike, subjekti koji uvode sustav trebali bi utvrditi mjere koje treba poduzeti u slučaju materijalizacije tih rizika, uključujući na primjer aranžmane upravljanja u tom specifičnom kontekstu upotrebe, kao što su aranžmani za ljudski nadzor u skladu s uputama za korištenje ili postupci rješavanja pritužbi i pravne zaštite, jer bi oni mogli biti ključni za ublažavanje rizika za temeljna prava u konkretnim slučajevima korištenja. Nakon provedbe te procjene učinka subjekt koji uvodi sustav trebao bi obavijestiti relevantno tijelo za nadzor tržišta. Prema potrebi, za prikupljanje relevantnih informacija potrebnih za procjenu učinka subjekti koji uvode visokorizični UI sustav, posebno kada se UI sustavi upotrebljavaju u javnom sektoru, mogli bi u provedbu takvih procjena učinka i osmišljavanje mjera koje se moraju poduzeti u slučaju materijalizacije rizika uključiti relevantne dionike, među kojima su predstavnici skupina osoba na koje će UI sustav vjerojatno utjecati, neovisni stručnjaci i organizacije civilnog društva. Europski ured za umjetnu inteligenciju (Ured za umjetnu inteligenciju) trebao bi izraditi predložak upitnika kako bi se olakšala usklađenost i smanjilo administrativno opterećenje za subjekte koji uvode UI sustav.
(97)
Lai nodrošinātu juridisko noteiktību, vispārīga lietojuma MI modeļu jēdziens būtu skaidri jādefinē un jānošķir no MI sistēmu jēdziena. Definīcijas pamatā vajadzētu būt vispārīga lietojuma MI modeļa galvenajām funkcionālajām iezīmēm, jo īpaši vispārīgumam un spējai kompetenti veikt plašu atšķirīgu uzdevumu klāstu. Šie modeļi parasti tiek apmācīti par lielu datu apjomu, izmantojot dažādas metodes, piemēram, pašuzraudzītu, neuzraudzītu vai stimulētu mācīšanos. Vispārīga lietojuma MI modeļus var laist tirgū dažādos veidos, tostarp ar bibliotēku, lietojumprogrammu saskarņu (API) starpniecību, kā tiešu lejupielādi vai kā fizisku kopiju. Šos modeļus var vēl vairāk modificēt vai pilnveidot, pārveidojot par jauniem modeļiem. Lai gan MI modeļi ir būtiskas MI sistēmu sastāvdaļas, tie paši par sevi nav MI sistēmas. MI modeļiem – lai tie kļūtu par MI sistēmām – ir jāpievieno vēl citas sastāvdaļas, piemēram, lietotāja saskarne. MI modeļi parasti ir integrēti MI sistēmās un ir to daļa. Šī regula paredz tādus konkrētus noteikumus vispārīga lietojuma MI modeļiem un vispārīga lietojuma MI modeļiem, kuri rada sistēmiskus riskus, kas būtu jāpiemēro arī tad, ja šie modeļi ir integrēti vai daļa no MI sistēmas. Būtu jāsaprot, ka vispārīga lietojuma MI modeļu nodrošinātāju pienākumi būtu jāpiemēro tad, kad vispārīga lietojuma MI modeļi ir laisti tirgū. Ja vispārīga lietojuma MI modeļa nodrošinātājs integrē savu modeli savā MI sistēmā, kas ir darīta pieejama tirgū vai nodota ekspluatācijā, būtu jāuzskata, ka minētais modelis ir laists tirgū, un tāpēc šajā regulā noteiktie pienākumi attiecībā uz modeļiem būtu jāturpina piemērot papildus tiem, kas attiecas uz MI sistēmām. Jebkurā gadījumā modeļiem paredzētie pienākumi nebūtu jāpiemēro, ja savu modeli izmanto tikai iekšējiem procesiem, kas nav būtiski produkta vai pakalpojuma piedāvāšanai trešām personām, un netiek skartas fizisku personu tiesības. Ņemot vērā to iespējamo būtiski negatīvo ietekmi, uz vispārīga lietojuma MI modeļiem ar sistēmisku risku vienmēr būtu jāattiecina attiecīgie šajā regulā paredzētie pienākumi. Definīcijai nebūtu jāattiecas uz MI modeļiem, ko pirms to laišanas tirgū izmanto vienīgi pētniecības, izstrādes un prototipu izstrādes darbību vajadzībām. Tas neskar pienākumu ievērot šo regulu, ja pēc šādām darbībām modelis tiek laists tirgū.
(97)
Pojam UI modela opće namjene trebao bi biti jasno definiran i odvojen od pojma UI sustava kako bi se omogućila pravna sigurnost. Definicija bi se trebala temeljiti na ključnim funkcionalnim značajkama UI modela opće namjene, posebno općenitosti i sposobnosti kompetentnog obavljanja širokog raspona različitih zadaća. Ti se modeli obično treniraju s pomoću velikih količina podataka putem različitih metoda, kao što su samostalno nadzirano, nenadzirano ili podržano učenje. UI modeli opće namjene mogu se staviti na tržište na različite načine, među ostalim putem programskih knjižnica, aplikacijskih programskih sučelja, izravnim preuzimanjem ili kao fizička kopija. Ti se modeli mogu dodatno izmijeniti ili prilagoditi novim modelima. Iako su UI modeli ključne komponente UI sustava, oni sami po sebi nisu UI sustavi. UI modeli zahtijevaju dodavanje dodatnih komponenti kao što je korisničko sučelje, kako bi postali UI sustavi. UI modeli obično su integrirani u UI sustave i čine njihov sastavni dio. Ovom se Uredbom utvrđuju posebna pravila za UI modele opće namjene i UI modele opće namjene koji predstavljaju sistemske rizike, koja bi se trebala primjenjivati i kada su ti modeli integrirani u UI sustav ili su njegov dio. Trebalo bi podrazumijevati da bi se obveze dobavljača UI modela opće namjene trebale primjenjivati nakon što se ti modeli stave na tržište. Ako dobavljač UI modela opće namjene integrira vlastiti model u vlastiti UI sustav koji je stavljen na raspolaganje na tržištu ili u upotrebu, trebalo bi smatrati da je taj model stavljen na tržište te bi se stoga obveze iz ove Uredbe koje se odnose na modele trebale nastaviti primjenjivati uz one za UI sustave. Obveze utvrđene za modele ni u kojem slučaju ne bi se trebale primjenjivati kada se vlastiti model upotrebljava za isključivo unutarnje procese koji nisu ključni za pružanje proizvoda ili usluge trećim stranama i kada to ne utječe na prava fizičkih osoba. S obzirom na njihove potencijalne znatno negativne učinke, UI modeli opće namjene sa sistemskim rizikom uvijek bi trebali podlijegati relevantnim obvezama na temelju ove Uredbe. Definicija ne bi trebala obuhvaćati UI modele koji se upotrebljavaju prije njihova stavljanja na tržište isključivo u svrhu istraživanja, razvoja i izrade prototipa. Time se ne dovodi u pitanje obveza usklađivanja s ovom Uredbom kada se, nakon takvih aktivnosti, model stavi na tržište.
(98)
Tā kā modeļa vispārīgumu cita starpā varētu noteikt arī ar vairākiem parametriem, būtu jāuzskata, ka modeļi, kam ir vismaz miljards parametru un kas ir apmācīti ar lielu datu apjomu, izmantojot pašuzraudzību plašā mērogā, uzrāda būtisku vispārīgumu un ir kompetenti veikt plašu atšķirīgu uzdevumu klāstu.
(98)
Budući da bi se općenitost modela, među ostalim, mogla utvrditi i s pomoću niza parametara, trebalo bi smatrati da modeli s najmanje milijardu parametara i trenirani s pomoću velike količine podataka uz primjenu samostalnog nadzora u širokim razmjerima pokazuju znatnu razinu općenitosti i kompetentno obavljaju širok raspon različitih zadaća.
(99)
Lieli ģeneratīvi MI modeļi ir tipisks vispārīga lietojuma MI piemērs, ņemot vērā, ka tie ļauj elastīgi radīt saturu, piemēram, teksta, audio, attēlu vai video formātā, kas var viegli veikt plašu atšķirīgu uzdevumu klāstu.
(99)
Veliki generativni UI modeli tipičan su primjer UI modela opće namjene s obzirom na to da omogućuju fleksibilnu proizvodnju sadržaja, primjerice u obliku teksta, audiozapisa, slika ili videozapisa, koji mogu lako obavljati širok raspon različitih zadaća.
(100)
Ja vispārīga lietojuma MI modelis ir integrēts MI sistēmā vai ir tās daļa, šī sistēma būtu jāuzskata par vispārīga lietojuma MI sistēmu, ja šīs integrācijas dēļ šī sistēma spēj kalpot dažādiem nolūkiem. Vispārīga lietojuma MI sistēmu var lietot tieši vai integrēt citās MI sistēmās.
(100)
Ako je UI model opće namjene integriran u UI sustav ili je njegov sastavni dio, taj bi se sustav trebao smatrati UI sustavom opće namjene ako zbog te integracije taj sustav može služiti različitim namjenama. UI sustav opće namjene može se upotrebljavati izravno ili može biti integriran u druge UI sustave.
(101)
Vispārīga lietojuma MI modeļu nodrošinātājiem ir īpaša loma un atbildība visā MI vērtības ķēdē, jo to nodrošinātie modeļi var veidot pamatu virknei lejasposma sistēmu, ko bieži nodrošina lejasposma nodrošinātāji, kuriem ir vajadzīga laba izpratne par modeļiem un to spējām, lai tie šādus modeļus varētu integrēt savos produktos un arī lai varētu izpildīt savus šajā vai citās regulās noteiktos pienākumus. Tāpēc būtu jānosaka samērīgi pārredzamības pasākumi, tostarp dokumentācijas izstrāde un atjaunināšana un informācijas sniegšana par vispārīga lietojuma MI modeli, lai to varētu izmantot lejasposma nodrošinātāji. Vispārīga lietojuma MI modeļa nodrošinātājam būtu jāsagatavo un jāatjaunina tehniskā dokumentācija, lai to pēc pieprasījuma darītu pieejamu MI birojam un valstu kompetentajām iestādēm. Minimālais elementu kopums, kas jāiekļauj šādā dokumentācijā, būtu jānosaka konkrētos šīs regulas pielikumos. Komisija būtu jāpilnvaro grozīt minētos pielikumus ar deleģētajiem aktiem, ņemot vērā tehnoloģiju attīstību.
(101)
Dobavljači UI modela opće namjene imaju posebnu ulogu i odgovornost duž vrijednosnog lanca umjetne inteligencije jer modeli koje pružaju mogu biti osnova za niz sustava niže u lancu, koje često pružaju dobavljači niže u lancu koji zahtijevaju dobro razumijevanje modela i njihovih sposobnosti kako bi omogućili integraciju takvih modela u svoje proizvode i ispunili svoje obveze na temelju ove Uredbe ili drugih uredaba. Stoga bi trebalo utvrditi razmjerne mjere transparentnosti, uključujući sastavljanje i ažuriranje dokumentacije te pružanje informacija o UI modelu opće namjene za dobavljače niže u lancu. Dobavljač UI modela opće namjene trebao bi pripremiti i ažurirati tehničku dokumentaciju kako bi je na zahtjev stavio na raspolaganje Uredu za umjetnu inteligenciju i nacionalnim nadležnim tijelima. Minimalni skup elemenata koje treba uključiti u takvu dokumentaciju trebalo bi utvrditi u specifičnim prilozima ovoj Uredbi. Komisiju bi trebalo ovlastiti da izmijeni te priloge delegiranim aktima s obzirom na tehnološki razvoj.
(102)
Programmatūra un dati, tostarp modeļi, kas tiek laisti apgrozībā ar bezmaksas un atvērtā pirmkoda licenci, kas ļauj tos atklāti kopīgot un saskaņā ar ko lietotāji var brīvi piekļūt tiem vai to modificētām versijām, tos lietot, modificēt un pārdalīt, var veicināt pētniecību un inovāciju tirgū un sniegt ievērojamas izaugsmes iespējas Savienības ekonomikai. Būtu jāuzskata, ka vispārīga lietojuma MI modeļi, kas tiek laisti apgrozībā ar bezmaksas un atvērtā pirmkoda licencēm, nodrošina augstu pārredzamības un atvērtības līmeni, ja to parametri, tostarp svari, informācija par modeļa arhitektūru un informācija par modeļu lietošanu ir darīti publiski pieejami. Licence būtu jāuzskata par brīvu un atvērtu pirmavotu arī tad, ja tā ļauj lietotājiem vadīt, kopēt, izplatīt, pētīt, mainīt un uzlabot programmatūru un datus, tostarp modeļus, ar nosacījumu, ka tiek atzīts modeļa sākotnējais nodrošinātājs un tiek ievēroti identiski vai salīdzināmi izplatīšanas noteikumi.
(102)
Softver i podaci, uključujući modele, koji se objavljuju na temelju besplatne licencije za softver otvorenog koda koja omogućuje njihovo otvoreno dijeljenje i zbog koje im korisnici mogu slobodno pristupiti, upotrebljavati ih, mijenjati i redistribuirati njih ili njihove izmijenjene verzije, mogu doprinijeti istraživanju i inovacijama na tržištu i pružiti znatne prilike za rast gospodarstva Unije. Trebalo bi razmotriti UI modele opće namjene objavljene na temelju besplatnih licencija za softver otvorenog koda kako bi se osigurala visoka razina transparentnosti i otvorenosti ako su njihovi parametri, uključujući težinske faktore, informacije o arhitekturi modela i informacije o upotrebi modela javno dostupni. Licenciju bi trebalo smatrati besplatnom licencijom za softver otvorenog koda i kada omogućuje korisnicima da pokrenu, kopiraju, distribuiraju, proučavaju, mijenjaju i poboljšavaju softver i podatke, uključujući modele, pod uvjetom da je priznat izvorni pružatelj modela i da se poštuju identični ili usporedivi uvjeti distribucije.
(103)
Bezmaksas un atvērtā pirmkoda MI sastāvdaļas aptver MI sistēmas programmatūru un datus, tostarp modeļus un vispārīga lietojuma MI modeļus, rīkus, pakalpojumus vai procesus. Bezmaksas un atvērtā pirmkoda MI sastāvdaļas var nodrošināt, izmantojot dažādus kanālus, tostarp to izstrādi atvērtos repozitorijos. Šajā regulā MI sastāvdaļām, kas tiek nodrošinātas par noteiktu cenu vai citādi monetizētas, tostarp, sniedzot tehnisko atbalstu vai citus pakalpojumus, tostarp, izmantojot programmatūras platformu, kas saistīta ar MI sastāvdaļu, vai izmantojot personas datu citu iemeslu dēļ, nevis tikai programmatūras drošības, saderības vai sadarbspējas uzlabošanai, izņemot darījumus starp mikrouzņēmumiem, nebūtu jāgūst labums no izņēmumiem, kas paredzēti bezmaksas un atvērtā pirmkoda MI sastāvdaļām. Tas, ka MI sastāvdaļas tiek darītas pieejamas, izmantojot atvērtos repozitorijus, pats par sevi nebūtu jāuzskata par monetizāciju.
(103)
Besplatne UI komponente otvorenog koda obuhvaćaju softver i podatke, uključujući modele i UI modele opće namjene, alate, usluge ili procese UI sustava. Besplatne UI komponente otvorenog koda mogu se pružati različitim kanalima, uključujući njihov razvoj u otvorenim repozitorijima. Za potrebe ove Uredbe na UI komponente koje se pružaju uz naplatu ili se na drugi način monetiziraju, među ostalim i pružanjem tehničke podrške ili drugih usluga povezanih s UI komponentom, među ostalim i putem softverske platforme, ili upotrebom osobnih podataka u svrhe koje nisu isključivo povećanje sigurnosti, kompatibilnosti ili interoperabilnosti softvera, uz iznimku transakcija među mikropoduzećima, ne bi se trebale primjenjivati iznimke za besplatne UI komponente otvorenog koda. Činjenica da se UI komponente stavljaju na raspolaganje putem otvorenih repozitorija ne bi sama po sebi trebala predstavljati monetizaciju.
(104)
Tādu vispārīga lietojuma MI modeļu nodrošinātājiem, kuri tiek laisti apgrozībā ar bezmaksas un atvērtā pirmkoda licenci un kuru parametri, tostarp svari, informācija par modeļa arhitektūru un informācija par modeļu lietošanu, ir darīti publiski pieejami, būtu jāpiemēro izņēmumi attiecībā uz prasībām, kas saistītas ar pārredzamību un kas noteiktas vispārīga lietojuma MI modeļiem, izņemot gadījumus, kad tos var uzskatīt par tādiem, kas rada sistēmisku risku, un tādā gadījumā apstāklis, ka modelis ir pārredzams un tam ir pievienota atvērtā pirmkoda licence, nebūtu jāuzskata par pietiekamu iemeslu, lai izslēgtu atbilstību šajā regulā noteiktajiem pienākumiem. Jebkurā gadījumā, ņemot vērā to, ka vispārīga lietojuma MI modeļu laišana apgrozībā ar bezmaksas un atvērtā pirmkoda licenci ne vienmēr atklāj būtisku informāciju par modeļa apmācībai vai pilnveidošanai izmantoto datu kopu un par to, kā šajā procesā tika nodrošināta atbilstība tiesību aktiem autortiesību jomā, vispārīga lietojuma MI modeļiem paredzētajam izņēmumam attiecībā uz atbilstību ar pārredzamību saistītajām prasībām nebūtu jāattiecas uz pienākumu sagatavot kopsavilkumu par saturu, ko izmanto modeļu apmācībā, un pienākumu ieviest politiku, ar ko nodrošina atbilstību Savienības tiesību aktiem autortiesību jomā, jo īpaši, lai identificētu un nodrošinātu tiesību rezervāciju, ievērojot Eiropas Parlamenta un Padomes Direktīvas (ES) 2019/790 (40) 4. panta 3. punktu.
(104)
Dobavljači UI modela opće namjene koji se objavljuju na temelju besplatne licencije otvorenog koda i čiji su parametri, uključujući težinske faktore, informacije o arhitekturi modela i informacije o upotrebi modela, javno dostupni trebali bi podlijegati iznimkama u pogledu zahtjeva povezanih s transparentnošću nametnutih za UI modele opće namjene, osim ako se može smatrati da predstavljaju sistemski rizik, pri čemu se okolnost da je model transparentan i popraćen licencijom otvorenog koda ne bi trebala smatrati dovoljnim razlogom za isključenje ispunjavanja obveza iz ove Uredbe. U svakom slučaju, s obzirom na to da se objavom UI modelâ opće namjene na temelju besplatne licencije otvorenog koda nužno ne otkrivaju bitne informacije o skupu podataka koji se upotrebljava za treniranje ili doradu modela i o tome kako je time osigurana usklađenost s pravom o autorskom pravu, iznimka od ispunjavanja zahtjeva povezanih s transparentnošću predviđena za UI modele opće namjene ne bi se trebala odnositi na obvezu izrade sažetka o sadržaju koji se upotrebljava za treniranje modela i na obvezu uspostave politike usklađivanja s pravom Unije o autorskom pravu, posebno radi utvrđivanja i poštovanja pridržaja prava u skladu s člankom 4. stavkom 3. Direktive (EU) 2019/790 Europskog parlamenta i Vijeća (40).
(105)
Vispārīga lietojuma modeļi, jo īpaši lieli ģeneratīvi modeļi, kas spēj ģenerēt tekstu, attēlus un citu saturu, sniedz unikālas inovācijas iespējas, taču arī rada izaicinājumus māksliniekiem, autoriem un citiem satura veidotājiem un tam, kā tiek radīts, izplatīts, lietots un patērēts radošais saturs. Šādu modeļu izstrādei un apmācībai ir vajadzīga piekļuve lielam teksta, attēlu, video un citu datu apjomam. Tekstizraces un datizraces metodes šajā kontekstā var plaši izmantot, lai izgūtu un analizētu šādu saturu, ko var aizsargāt autortiesības un blakustiesības. Jebkādai ar autortiesībām aizsargāta satura izmantošanai ir vajadzīga attiecīgā tiesību subjekta atļauja, ja vien netiek piemēroti attiecīgie autortiesību izņēmumi un ierobežojumi. Ar Direktīvu (ES) 2019/790 tika ieviesti izņēmumi un ierobežojumi, kas pieļauj – ar konkrētiem nosacījumiem – reproducēšanu un ekstrahēšanu attiecībā uz darbiem vai citiem blakustiesību objektiem tekstizraces un datizraces nolūkā. Saskaņā ar šiem noteikumiem tiesību subjekti var izvēlēties rezervēt tiesības uz saviem darbiem vai citiem blakustiesību objektiem, lai nepieļautu tekstizraci un datizraci, ja vien tas netiek darīts zinātniskās pētniecības nolūkos. Ja tiesības atteikties ir skaidri rezervētas piemērotā veidā, vispārīga lietojuma MI modeļu nodrošinātājiem ir jāsaņem atļauja no tiesību subjektiem, ja tie vēlas veikt tekstizraci un datizraci šādos darbos.
(105)
UI modeli opće namjene, osobito veliki generativni UI modeli koji mogu generirati tekst, slike i druge sadržaje, pružaju jedinstvene mogućnosti za inovacije, ali i izazove za umjetnike, autore i druge kreatore te za način na koji se njihov kreativni sadržaj stvara, distribuira, upotrebljava i konzumira. Za razvoj i treniranje takvih modela potreban je pristup velikim količinama teksta, slika, videozapisa i drugih podataka. Tehnike rudarenja teksta i podataka mogu se u tom kontekstu u velikoj mjeri upotrebljavati za pronalaženje i analizu takvog sadržaja, koji može biti zaštićen autorskim pravom i povezanih pravima. Za svako korištenje sadržaja zaštićenog autorskim pravom potrebno je odobrenje nositelja prava nad tim sadržajem, osim ako se primjenjuju relevantne iznimke i ograničenja autorskog prava. Direktivom (EU) 2019/790 uvedene su iznimke i ograničenja kojima se omogućuje reproduciranje i izvlačenje djela ili drugih sadržaja u svrhu rudarenja teksta i podataka, pod određenim uvjetima. Na temelju tih pravila nositelji prava mogu odlučiti pridržati svoja prava nad svojim djelima ili drugim sadržajima kako bi spriječili rudarenje teksta i podataka, osim ako se rudarenje teksta i podataka provodi za potrebe znanstvenog istraživanja. Ako je nositelj prava izričito pridržao prava na izuzeće na primjeren način, dobavljači UI modelâ opće namjene moraju od njega dobiti odobrenje ako žele provoditi rudarenje teksta i podataka nad takvim djelima.
(106)
Nodrošinātājiem, kas Savienības tirgū laiž vispārīga lietojuma MI modeļus, būtu jānodrošina atbilstība attiecīgajiem šajā regulā noteiktajiem pienākumiem. Šajā nolūkā vispārīga lietojuma MI modeļu nodrošinātājiem būtu jāievieš politika, lai nodrošinātu atbilstību Savienības tiesību aktiem autortiesību un blakustiesību jomā, jo īpaši, lai identificētu un ievērotu tiesību rezervācijas, ko pauduši tiesību subjekti, ievērojot Direktīvas (ES) 2019/790 4. panta 3. punktu. Jebkuram nodrošinātājam, kas Savienības tirgū laiž vispārīga lietojuma MI modeli, šis pienākums būtu jāievēro neatkarīgi no jurisdikcijas, kurā notiek ar autortiesībām saistītās darbības, kas ir minēto vispārīga lietojuma MI modeļu apmācības pamatā. Tas ir nepieciešams, lai nodrošinātu vienlīdzīgus konkurences apstākļus vispārīga lietojuma MI modeļu nodrošinātājiem, proti, nevienam nodrošinātājam nevajadzētu spēt gūt konkurences priekšrocības Savienības tirgū, piemērojot zemākus autortiesību standartus nekā Savienībā noteiktie.
(106)
Dobavljači koji stavljaju UI modele opće namjene na tržište Unije trebali bi osigurati usklađenost s relevantnim obvezama iz ove Uredbe. U tu bi svrhu dobavljači UI modela opće namjene trebali uspostaviti politiku usklađivanja s pravom Unije o autorskom pravu i povezanim pravima, posebno radi utvrđivanja i poštovanja pridržaja prava koji su izrazili nositelji prava u skladu s člankom 4. stavkom 3. Direktive (EU) 2019/790. Svaki dobavljač koji na tržište Unije stavlja UI model opće namjene trebao bi ispunjavati tu obvezu, bez obzira na jurisdikciju u kojoj se odvijaju radnje povezane s autorskim pravima na kojima se temelji treniranje tih UI modela opće namjene. To je potrebno kako bi se osigurali jednaki uvjeti među dobavljačima UI modela opće namjene prema kojima nijedan dobavljač ne bi trebao moći steći konkurentsku prednost na tržištu Unije primjenom nižih standarda autorskih prava od onih koji su predviđeni u Uniji.
(107)
Lai palielinātu pārredzamību attiecībā uz datiem, ko izmanto vispārīga lietojuma MI modeļu iepriekšējā apmācībā un apmācībā, tostarp attiecībā uz tekstu un datiem, ko aizsargā tiesību akti autortiesību jomā, ir piemēroti, ka šādu modeļu nodrošinātāji izstrādā un dara publiski pieejamu pietiekami detalizētu kopsavilkumu par saturu, ko izmanto vispārīga lietojuma MI modeļa apmācībā. Pienācīgi ņemot vērā nepieciešamību aizsargāt komercnoslēpumus un konfidenciālu uzņēmējdarbības informāciju, šā kopsavilkuma tvērumam vajadzētu būt kopumā visaptverošam, nevis tehniski detalizētam, lai pusēm ar leģitīmām interesēm, tostarp autortiesību īpašniekiem, atvieglotu savu Savienības tiesību aktos paredzēto tiesību izmantošanu un īstenošanu, piemēram, uzskaitot galvenos modeļa apmācībā izmantotos datu apkopojumus vai datu kopas, piemēram, lielas privātas vai publiskas datubāzes vai datu arhīvi, un sniedzot aprakstošu skaidrojumu par citiem izmantotajiem datu avotiem. Ir lietderīgi, ka MI birojs nodrošina kopsavilkuma veidni, kam vajadzētu būt vienkāršam un efektīvam un kas ļautu nodrošinātājam sniegt prasīto kopsavilkumu aprakstošā veidā.
(107)
Kako bi se povećala transparentnost podataka koji se upotrebljavaju u prethodnom treniranju i treniranju UI modela opće namjene, uključujući tekst i podatke zaštićene autorskim pravom, primjereno je da dobavljači takvih modela sastave i objave dovoljno detaljan sažetak sadržaja koji se upotrebljava za treniranje UI modela opće namjene. Uzimajući u obzir potrebu za zaštitom poslovnih tajni i povjerljivih poslovnih informacija, taj bi sažetak trebao biti općenito sveobuhvatan u svojem opsegu, a ne tehnički detaljan, kako bi se strankama s legitimnim interesima, uključujući nositelje autorskih prava, olakšalo ostvarivanje i izvršavanje njihovih prava na temelju prava Unije, na primjer navođenjem glavnih zbirki ili skupova podataka koji su upotrijebljeni pri treniranju modela, kao što su velike privatne ili javne baze podataka ili arhive podataka, te pružanjem opisnog objašnjenja o drugim korištenim izvorima podataka. Primjereno je da Ured za umjetnu inteligenciju dostavi predložak sažetka, koji bi trebao biti jednostavan, djelotvoran i omogućiti dobavljaču da dostavi traženi sažetak u opisnom obliku.
(108)
Attiecībā uz vispārīga lietojuma MI modeļu nodrošinātājiem uzliktajiem pienākumiem ieviest politiku, ar ko nodrošina atbilstību Savienības tiesību aktiem autortiesību jomā, un darīt publiski pieejamu apmācībā izmantotā satura kopsavilkumu MI birojam būtu jāpārrauga, vai nodrošinātājs ir izpildījis minētos pienākumus, neveicot pārbaudi vai nevērtējot apmācības datus par katru atsevišķu darbu attiecībā uz atbilstību tiesību aktiem autortiesību jomā. Šī regula neietekmē Savienības tiesību aktos paredzēto noteikumu autortiesību jomā izpildi.
(108)
Kad je riječ o obvezama nametnutima dobavljačima UI modela opće namjene da uspostave politiku usklađivanja s pravom Unije o autorskom pravu i objave sažetak sadržaja koji se upotrebljava za treniranje, Ured za umjetnu inteligenciju trebao bi pratiti je li dobavljač ispunio te obveze bez provjere ili pojedinačnog ocjenjivanja podataka korištenih za treniranje u pogledu usklađenosti s autorskim pravom. Ova Uredba ne utječe na izvršavanje pravila o autorskom pravu kako su predviđena pravom Unije.
(109)
Vispārīga lietojuma MI modeļu nodrošinātājiem piemērojamo pienākumu izpildei vajadzētu būt samērīgai un proporcionālai modeļa nodrošinātāja veidam, izņemot nepieciešamību atbilstību nodrošināt personām, kuras izstrādā vai lieto modeļus neprofesionālos vai zinātniskās pētniecības nolūkos, bet kuras tomēr būtu jāmudina brīvprātīgi ievērot šīs prasības. Neskarot Savienības tiesību aktus autortiesību jomā, minēto pienākumu izpildē būtu pienācīgi jāņem vērā nodrošinātāja lielums un jāļauj MVU, tostarp jaunuzņēmumiem, izmantot vienkāršotus atbilstības nodrošināšanas veidus, kuriem nebūtu jārada pārmērīgas izmaksas un jāattur no šādu modeļu izmantošanas. Modeļa modifikācijas vai pilnveidošanas gadījumā vispārīga lietojuma MI modeļu nodrošinātāju pienākumi būtu jāattiecina tikai uz minēto modifikāciju vai pilnveidošanu, piemēram, papildinot jau esošo tehnisko dokumentāciju ar informāciju par modifikācijām, tostarp jauniem apmācības datu avotiem, lai izpildītu šajā regulā noteiktos pienākumus saistībā ar vērtības ķēdi.
(109)
Usklađenost s obvezama koje se primjenjuju na dobavljače UI modela opće namjene trebala bi biti razmjerna i primjerena vrsti dobavljača modela, isključujući potrebu za usklađenosti za osobe koje razvijaju ili upotrebljavaju modele u neprofesionalne ili znanstveno-istraživačke svrhe, no koje bi ipak trebalo poticati da dobrovoljno ispune te zahtjeve. Ne dovodeći u pitanje pravo Unije o autorskom pravu, pri ispunjavanju tih obveza trebalo bi uzeti u obzir veličinu dobavljača i omogućiti pojednostavnjene načine usklađivanja za MSP-ove, uključujući start-up poduzeća, koji ne bi trebali predstavljati pretjerani trošak niti obeshrabrivati korištenje takvih modela. U slučaju izmjene ili dorade modela, obveze dobavljača UI modela opće namjene trebale bi biti ograničene na tu izmjenu ili doradu, na primjer dopunjavanjem već postojeće tehničke dokumentacije informacijama o izmjenama, uključujući nove izvore podataka za treniranje, kako bi se ispunile obveze u pogledu vrijednosnog lanca predviđene u ovoj Uredbi.
(110)
Vispārīga lietojuma MI modeļi varētu radīt sistēmiskus riskus, kas cita starpā ietver jebkādu faktisku vai pamatoti paredzamu negatīvu ietekmi saistībā ar smagiem negadījumiem, kritisko nozaru darbības traucējumiem un nopietnām sekām sabiedrības veselībai un drošībai; jebkādu faktisku vai pamatoti paredzamu negatīvu ietekmi uz demokrātiskajiem procesiem, sabiedrības un ekonomikas drošību; nelikumīga, nepatiesa vai diskriminējoša satura izplatīšanu. Sistēmiskie riski būtu jāsaprot kā tādi, kas palielinās līdz ar modeļa spējām un modeļa tvērumu, var rasties visā modeļa dzīves ciklā un ko ietekmē ļaunprātīgas izmantošanas apstākļi, modeļa uzticamība, modeļa taisnīgums un modeļa drošība, modeļa autonomijas pakāpe, tā piekļuve rīkiem, nebijušas vai kombinētas modalitātes, laišanas apgrozībā un izplatīšanas stratēģijas, aizsargmehānismu likvidēšanas potenciāls un citi faktori. Jo īpaši starptautiskajās pieejās līdz šim ir konstatēta vajadzība pievērst uzmanību riskiem, ko rada potenciāli tīša ļaunprātīga izmantošana vai neparedzētas kontroles problēmas saistībā ar saskaņošanu ar cilvēka nolūku; ķīmiskiem, bioloģiskiem, radioloģiskiem riskiem un kodolriskiem, piemēram, veidiem, kā samazināt iekļūšanas šķēršļus, tostarp attiecībā uz ieroču izstrādi, projektēšanu iegādi vai izmantošanu; ofensīvām kiberspējām, piemēram, neaizsargātības atklāšanas, izmantošanas vai operatīvas izmantošanas veidiem; rīku mijiedarbības un izmantošanas ietekmei, tostarp, piemēram, spējai kontrolēt fiziskās sistēmas un ietekmēt kritisko infrastruktūru; riskiem, ko rada modeļi, kas paši sevi kopē, ir “pašreplicējoši” vai apmāca citus modeļus; veidiem, kā modeļi var veicināt kaitējošus aizspriedumus un diskrimināciju, rados riskus personām, kopienām vai sabiedrībai; dezinformācijas veicināšanai vai privātuma aizskārumiem, kas apdraud demokrātiskās vērtības un cilvēktiesības; riskam, ka konkrēts notikums varētu izraisīt ķēdes reakciju ar ievērojamu negatīvu ietekmi, kas varētu skart veselu pilsētu, veselas jomas darbību vai veselu kopienu.
(110)
UI modeli opće namjene mogli bi predstavljati sistemske rizike koji uključuju, ali nisu ograničeni na, sve stvarne ili razumno predvidljive negativne učinke povezane s velikim nesrećama, poremećajima u kritičnim sektorima i ozbiljnim posljedicama za javno zdravlje i sigurnost; sve stvarne ili razumno predvidljive negativne učinke na demokratske procese, javnu i gospodarsku sigurnost; širenje nezakonitog, lažnog ili diskriminirajućeg sadržaja. Trebalo bi razumjeti da se sistemski rizici povećavaju s kapacitetom i dosegom modela, da se mogu pojaviti tijekom cijelog životnog ciklusa modela i da na njih utječu uvjeti pogrešne upotrebe, pouzdanost modela, pravednost modela i sigurnost modela, razinu autonomije modela, njegov pristup alatima, novi ili kombinirani modaliteti, strategije objave i distribucije, potencijal za uklanjanje zaštitnih mehanizama i drugi čimbenici. Konkretno, u međunarodnim pristupima dosad je utvrđeno da je potrebno posvetiti pozornost rizicima od moguće namjerne pogrešne upotrebe ili nenamjernim problemima u kontroli koji se odnose na usklađivanje s ljudskom namjerom; kemijskim, biološkim, radiološkim i nuklearnim rizicima, kao što su načini na koje se mogu smanjiti prepreke za pristup, uključujući za razvoj oružja, nabavu njihova dizajna ili njihovu upotrebu; ofenzivnim kibernetičkim sposobnostima, kao što su načini omogućavanja otkrivanja, iskorištavanja ili operativne upotrebe slabih točaka; učincima interakcije i upotrebe alata, uključujući, na primjer, sposobnost kontrole fizičkih sustava i ometanja kritične infrastrukture; rizicima povezanima s modelima koji izrađuju svoje kopije ili se „samorepliciraju” ili treniraju druge modele; načinima na koje modeli mogu dovesti do štetne pristranosti i diskriminacije uz rizike za pojedince, zajednice ili društva; olakšavanju širenja dezinformacija ili ugrožavanju privatnosti prijetnjama demokratskim vrijednostima i ljudskim pravima; riziku od toga da bi određeni događaj mogao dovesti do lančane reakcije sa znatnim negativnim učincima koji bi mogli utjecati na cijeli grad, cijelu aktivnost u nekoj domeni ili cijelu zajednicu.
(111)
Ir lietderīgi izveidot metodoloģiju vispārīga lietojuma MI modeļu klasificēšanai par vispārīga lietojuma MI modeļiem ar sistēmiskiem riskiem. Tā kā sistēmiskie riski izriet no īpaši augstām spējām, būtu jāuzskata, ka vispārīga lietojuma MI modelis rada sistēmiskus riskus, ja tam ir augstas ietekmes spējas, kas novērtētas, pamatojoties uz piemērotiem tehniskiem rīkiem un metodēm, vai būtiska ietekme uz iekšējo tirgu tā tvēruma dēļ. Augstas ietekmes spējas vispārīga lietojuma MI modeļos ir spējas, kas atbilst vai pārsniedz spējas, kuras ir iekļautas modernākajos vispārīga lietojuma MI modeļos. Visu modeļa spēju klāstu varētu labāk izprast pēc tā laišanas tirgū vai tad, kad uzturētāji mijiedarbojas ar modeli. Saskaņā ar jaunākajiem sasniegumiem šīs regulas spēkā stāšanās brīdī vispārīga lietojuma MI modeļa apmācībā izmantotais kumulatīvais skaitļošanas resursu apjoms, mērīts peldošā punkta operācijās, ir viens no attiecīgajiem modeļa spēju tuvināšanas faktoriem. Apmācībai izmantotais kumulatīvais skaitļošanas resursu apjoms ietver skaitļošanas resursus, ko izmanto visām darbībām, un metodes, kas paredzētas, lai uzlabotu modeļa spējas pirms ieviešanas, piemēram, iepriekšēju apmācību, sintētisko datu ģenerēšanu un pilnveidošanu. Tāpēc būtu jānosaka sākotnēja peldošā punkta operāciju robežvērtība, kas, ja to sasniedz ar vispārīga lietojuma MI modeli, rada pieņēmumu, ka modelis ir vispārīga lietojuma MI modelis ar sistēmiskiem riskiem. Šī robežvērtība laika gaitā būtu jāpielāgo, lai atspoguļotu tehnoloģiskās un rūpnieciskās pārmaiņas, piemēram, algoritmiskos uzlabojumus vai uzlabotu aparatūras efektivitāti, un tā būtu jāpapildina ar modeļa spējas kritērijiem un rādītājiem. Informācijas ieguves nolūkā MI birojam būtu jāsadarbojas ar zinātnieku aprindām, nozari, pilsonisko sabiedrību un citiem ekspertiem. Robežvērtībām, kā arī rīkiem un kritērijiem augstas ietekmes spēju novērtēšanai vajadzētu būt spēcīgiem vispārīguma, spēju un vispārīga lietojuma MI modeļu saistītā sistēmiskā riska prognozētājiem, un tajos varētu ņemt vērā veidu, kādā modelis tiks laists tirgū, vai to lietotāju skaitu, ko modelis var ietekmēt. Lai papildinātu šo sistēmu, Komisijai vajadzētu būt iespējai pieņemt atsevišķus lēmumus, ar kuriem vispārīga lietojuma MI modeli izraugās par vispārīga lietojuma MI modeli ar sistēmisku risku, ja tiek konstatēts, ka šādam modelim ir spējas vai ietekme, kas ir līdzvērtīga tām, kuras aptver noteiktā robežvērtība. Minētais lēmums būtu jāpieņem, pamatojoties uz tādu šīs regulas pielikumā izklāstīto vispārīga lietojuma MI modeļu ar sistēmisku risku izraudzīšanās kritēriju vispārēju novērtējumu kā, piemēram, apmācības datu kopas kvalitāte vai lielums, komerciālo lietotāju un galalietotāju skaits, to ievades un izvades modalitātes, autonomijas pakāpe un mērogojamība vai rīki, kuriem tiem ir piekļuve. Pēc nodrošinātāja, kura modelis ir atzīts par vispārīga lietojuma MI modeli ar sistēmisku risku, pamatota pieprasījuma Komisijai pieprasījums būtu jāņem vērā, un tā var lemt atkārtoti vērtēt, vai joprojām var uzskatīt, ka vispārīga lietojuma MI modelis rada sistēmiskus riskus.
(111)
Primjereno je uspostaviti metodologiju za klasifikaciju UI modela opće namjene kao UI modela opće namjene sa sistemskim rizicima. Budući da sistemski rizici proizlaze iz posebno visokih sposobnosti, trebalo bi smatrati da UI model opće namjene predstavlja sistemske rizike ako ima sposobnosti visokog učinka, koje se ocjenjuje na temelju odgovarajućih tehničkih alata i metodologija, ili ako zbog svojeg dosega znatno utječe na unutarnje tržište. Sposobnosti visokog učinka kod UI modela opće namjene znači sposobnosti koje odgovaraju sposobnostima zabilježenima kod najnaprednijih UI modela opće namjene ili ih nadilaze. Cijeli raspon sposobnosti modela mogao bi se bolje razumjeti nakon njegova stavljanja na tržište ili pri interakciji dobavljačâ s modelom. U skladu s najnovijim dostignućima u trenutku stupanja na snagu ove Uredbe, kumulativna količina računanja korištena za treniranje UI modela opće namjene iskazana brojem matematičkih operacija nad brojevima s pomičnim zarezom jedna je od relevantnih približnih vrijednosti za sposobnosti modela. Kumulativna količina računanja korištena za treniranje uključuje računanje korišteno u svim aktivnostima i metode namijenjene poboljšanju sposobnosti modela prije uvođenja, kao što su prethodno treniranje, generiranje sintetičkih podataka i dorada. Stoga bi trebalo utvrditi početni prag za matematičke operacije nad brojevima s pomičnim zarezom, koji, ako ga UI model opće namjene dosegne, dovodi do pretpostavke da je riječ o UI modelu opće namjene sa sistemskim rizicima. Taj bi prag trebalo s vremenom prilagoditi kako bi odražavao tehnološke i industrijske promjene, kao što su algoritamska poboljšanja ili povećana učinkovitost hardvera, te bi ga trebalo dopuniti referentnim vrijednostima i pokazateljima sposobnosti modela. U tu bi svrhu Ured za umjetnu inteligenciju trebao surađivati sa znanstvenom zajednicom, strukom, civilnim društvom i drugim stručnjacima. Pragovi, kao i alati i referentne vrijednosti za procjenu sposobnosti visokog učinka, trebali bi u velikoj mjeri predvidjeti općenitost, sposobnosti i povezani sistemski rizik UI modela opće namjene te bi se njima moglo uzeti u obzir način na koji će se model staviti na tržište ili broj korisnika na koji bi mogao utjecati. Kako bi se taj sustav dopunio, Komisija bi trebala moći donijeti pojedinačne odluke kojima se UI model opće namjene određuje kao UI model opće namjene sa sistemskim rizikom ako se utvrdi da takav model ima sposobnosti ili učinak jednakovrijedan onima koji su obuhvaćeni utvrđenim pragom. Ta bi se odluka trebala donijeti na temelju opće procjene kriterijâ za određivanje UI modela opće namjene sa sistemskim rizikom navedenih u prilogu ovoj Uredbi, kao što su kvaliteta ili veličina skupa podataka za treniranje, broj poslovnih i krajnjih korisnika, njihovi ulazni i izlazni modaliteti, razina autonomije i skalabilnosti ili alati kojima ima pristup. Na obrazloženi zahtjev dobavljača čiji je model određen kao UI model opće namjene sa sistemskim rizikom Komisija bi takav zahtjev trebala uzeti u obzir i može odlučiti ponovno ocijeniti može li se i dalje smatrati da UI model opće namjene predstavlja sistemske rizike.
(112)
Ir arī jāprecizē vispārīga lietojuma MI modeļu ar sistēmiskiem riskiem klasificēšanas procedūra. Vispārīga lietojuma MI modelis, kas atbilst piemērojamai robežvērtībai attiecībā uz augstas ietekmes spējām, būtu jāuzskata par vispārīga lietojuma MI modeli ar sistēmisku risku. Nodrošinātājam par to būtu jāpaziņo MI birojam ne vēlāk kā divas nedēļas pēc tam, kad ir izpildītas prasības vai kļūst zināms, ka vispārīga lietojuma MI modelis atbildīs prasībām, kas ir pieņēmuma pamatā. Tas ir īpaši svarīgi attiecībā uz peldošā punkta operāciju robežvērtību, jo vispārīga lietojuma MI modeļu apmācībai ir vajadzīga ievērojama plānošana, kas ietver skaitļošanas resursu sākotnējo iedalīšanu, un tāpēc vispārīga lietojuma MI modeļu nodrošinātāji var zināt, vai viņu modelis atbilstu robežvērtībai pirms apmācības pabeigšanas. Minētā paziņojuma kontekstā nodrošinātājam būtu jāspēj pierādīt, ka vispārīga lietojuma MI modelis tā specifisko iezīmju dēļ izņēmuma kārtā nerada sistēmiskus riskus un ka tādējādi to nevajadzētu klasificēt kā vispārīga lietojuma MI modeli ar sistēmiskiem riskiem. Minētā informācija ir MI birojam noderīga, lai prognozētu vispārīga lietojuma MI modeļu ar sistēmiskiem riskiem laišanu tirgū, un nodrošinātāji jau agrīnā posmā var sākt sadarboties ar MI biroju. Minētā informācija ir īpaši svarīga attiecībā uz vispārīga lietojuma MI modeļiem, kurus plānots laist apgrozībā kā atvērtā pirmkoda modeļus, ņemot vērā to, ka pēc atvērtā pirmkoda modeļa laišanas apgrozībā var būt grūtāk īstenot pasākumus, kas vajadzīgi, lai nodrošinātu atbilstību šajā regulā paredzētajiem pienākumiem.
(112)
Također je potrebno pojasniti proceduru za klasifikaciju UI modela opće namjene kao UI modela opće namjene sa sistemskim rizicima. Za UI model opće namjene koji je dosegao primjenjivi prag za sposobnosti visokog učinka trebalo bi se pretpostaviti da je riječ o UI modelu opće namjene sa sistemskim rizikom. Dobavljač bi trebao obavijestiti Ured za umjetnu inteligenciju najkasnije dva tjedna nakon što su zahtjevi ispunjeni ili nakon što postane poznato da će UI model opće namjene ispunjavati zahtjeve koji dovode do te pretpostavke. To je posebno važno u odnosu na prag matematičkih operacija nad brojevima s pomičnim zarezom jer je za treniranje UI modela opće namjene potrebno znatno planiranje koje uključuje prethodnu dodjelu računalnih resursa te stoga dobavljači UI modela opće namjene mogu znati bi li njihov model dosegnuo prag prije završetka postupka treniranja. U kontekstu te obavijesti dobavljač bi trebao moći dokazati da, zbog posebnih značajki UI modela opće namjene, taj model iznimno ne predstavlja sistemske rizike te da ga stoga ne bi trebalo klasificirati kao UI model opće namjene sa sistemskim rizicima. Te su informacije vrijedne Uredu za umjetnu inteligenciju kako bi predvidio stavljanje na tržište UI modela opće namjene sa sistemskim rizicima, a dobavljači mogu rano početi surađivati s Uredom za umjetnu inteligenciju. Te su informacije posebno važne u pogledu UI modela opće namjene koji se planiraju objaviti kao otvoreni kod, s obzirom na to da bi nakon objave modela otvorenog koda moglo biti teže provesti potrebne mjere za osiguravanje usklađenosti s obvezama iz ove Uredbe.
(113)
Ja Komisijai kļūst zināms, ka vispārīga lietojuma MI modelis atbilst prasībām, lai to klasificētu kā vispārīga lietojuma MI modeli ar sistēmisku risku, par ko iepriekš nebija zināms vai par ko attiecīgais nodrošinātājs nav paziņojis Komisijai, Komisijai vajadzētu būt pilnvarotai to noteikt par tādu. Kvalificētu brīdinājumu sistēmai būtu jānodrošina, ka zinātniskā grupa informē MI biroju par tādiem vispārīga lietojuma MI modeļiem, kas, iespējams, būtu jāklasificē kā vispārīga lietojuma MI modeļi ar sistēmisku risku – papildus MI biroja pārraudzības darbībām.
(113)
Ako Komisija sazna da UI model opće namjene ispunjava zahtjeve da ga se klasificira kao UI model opće namjene sa sistemskim rizikom, a prethodno nije bio poznat ili o njemu relevantni dobavljač nije obavijestio Komisiju, Komisija bi trebala biti ovlaštena odrediti ga kao takvoga. Sustav kvalificiranih upozorenja trebao bi osigurati da znanstveno povjerenstvo obavijesti Ured za umjetnu inteligenciju o UI modelima opće namjene koje bi potencijalno trebalo klasificirati kao UI modele opće namjene sa sistemskim rizikom, kao i o aktivnostima praćenja Ureda za umjetnu inteligenciju.
(114)
Uz tādu vispārīga lietojuma MI modeļu, kas rada sistēmiskus riskus, nodrošinātājiem – papildus vispārīga lietojuma MI modeļu nodrošinātājiem noteiktajiem pienākumiem – būtu jāattiecina pienākumi, kuru mērķis ir identificēt un mazināt minētos riskus un nodrošināt pienācīgu kiberdrošības aizsardzības līmeni neatkarīgi no tā, vai tas tiek nodrošināts kā savrups modelis vai tiek iegults kādā MI sistēmā vai produktā. Lai sasniegtu minētos mērķus, ar šo regulu nodrošinātājiem būtu jāprasa veikt vajadzīgos modeļu novērtējumus, jo īpaši pirms to pirmās laišanas tirgū, tostarp veikt un dokumentēt modeļu pretiniecisko testēšanu, attiecīgā gadījumā izmantojot arī iekšējo vai neatkarīgu ārējo testēšanu. Turklāt vispārīga lietojuma MI modeļu ar sistēmiskiem riskiem nodrošinātājiem būtu pastāvīgi jānovērtē un jāmazina sistēmiskie riski, tostarp, piemēram, ieviešot riska pārvaldības politiku, piemēram, pārskatatbildības un pārvaldības procesus, īstenojot pēctirgus pārraudzību, veicot atbilstošus pasākumus visā modeļa dzīves ciklā un sadarbojoties ar attiecīgajiem MI vērtības ķēdes dalībniekiem.
(114)
Dobavljači UI modela opće namjene koji predstavljaju sistemske rizike trebali bi, uz obveze predviđene za dobavljače UI modela opće namjene, podlijegati obvezama usmjerenima na utvrđivanje i ublažavanje tih rizika i osiguravanje odgovarajuće razine kibernetičkosigurnosne zaštite, bez obzira na to pružaju li se kao samostalni model ili su ugrađeni u UI sustav ili proizvod. Kako bi se postigli ti ciljevi, ovom bi se Uredbom od dobavljača trebalo zahtijevati da provedu potrebne evaluacije modela, posebno prije njihova prvog stavljanja na tržište, uključujući provođenje i dokumentiranje neprijateljskog testiranja modela, također, prema potrebi, unutarnjim testiranjem ili neovisnim vanjskim testiranjem. Osim toga, dobavljači UI modela opće namjene sa sistemskim rizicima trebali bi kontinuirano procjenjivati i ublažavati sistemske rizike, među ostalim i, primjerice, uspostavom politika upravljanja rizikom, kao što su postupci odgovornosti i upravljanja, provedbom praćenja nakon stavljanja na tržište, poduzimanjem odgovarajućih mjera tijekom cijelog životnog ciklusa modela i suradnjom s relevantnim akterima duž lanca vrijednosti umjetne inteligencije.
(115)
Vispārīga lietojuma MI modeļu ar sistēmiskiem riskiem nodrošinātājiem būtu jānovērtē un jāmazina iespējamie sistēmiskie riski. Ja, neraugoties uz centieniem identificēt un novērst riskus, kas saistīti ar vispārīga lietojuma MI modeli, kurš var radīt sistēmiskus riskus, modeļa izstrāde vai lietošana izraisa nopietnu incidentu, vispārīga lietojuma MI modeļa nodrošinātājam bez liekas kavēšanās būtu jāveic incidenta uzskaite un jāpaziņo Komisijai un valstu kompetentajām iestādēm visa attiecīgā informācija un iespējamie korektīvie pasākumi. Turklāt nodrošinātājiem attiecīgā gadījumā visā modeļa dzīves ciklā būtu jānodrošina pienācīga līmeņa kiberdrošības aizsardzība modelim un tā fiziskajai infrastruktūrai. Kiberdrošības aizsardzībā tādu sistēmisku risku kontekstā, kuri saistīti ar ļaunprātīgu modeļa izmantošanu vai uzbrukumiem, būtu pienācīgi jāņem vērā nejauša modeļa noplūde, neatļauta laišana apgrozībā, drošības pasākumu apiešana, kā arī aizsardzība pret kiberuzbrukumiem, neatļauta piekļuve vai modeļa zādzība. Minēto aizsardzību varētu sekmēt, nodrošinot modeļu svarus, algoritmus, serverus un datu kopas, piemēram, izmantojot operatīvus drošības pasākumus informācijas drošībai, specifisku kiberdrošības politiku, pienācīgus tehniskus un iedibinātus risinājumus un kiberpiekļuves un fiziskās piekļuves kontroles, kas atbilst attiecīgajiem apstākļiem un saistītajiem riskiem.
(115)
Dobavljači UI modela opće namjene sa sistemskim rizicima trebali bi procijeniti i ublažiti moguće sistemske rizike. Ako, unatoč nastojanjima da se utvrde i spriječe rizici povezani s UI modelom opće namjene koji bi mogao predstavljati sistemske rizike, razvoj ili korištenje modela uzrokuju ozbiljan incident, dobavljač UI modela opće namjene trebao bi bez nepotrebne odgode pratiti incident i izvješćivati Komisiju i nacionalna nadležna tijela o svim relevantnim informacijama i mogućim korektivnim mjerama. Nadalje, dobavljači bi trebali osigurati odgovarajuću razinu kibernetičkosigurnosne zaštite modela i njegove fizičke infrastrukture, prema potrebi, tijekom cijelog životnog ciklusa modela. Kibernetičkosigurnosnom zaštitom koja je povezana sa sistemskim rizicima povezanima sa zlonamjernom upotrebom ili napadima trebalo bi na odgovarajući način uzeti u obzir slučajno curenje iz modela, neovlaštena objavljivanja, zaobilaženje sigurnosnih mjera i obranu od kibernetičkih napada, neovlaštenog pristupa ili krađe modela. Ta bi se zaštita mogla olakšati osiguravanjem težinskih faktora modela, algoritama, poslužitelja i skupova podataka, primjerice mjerama operativne sigurnosti za informacijsku sigurnost, posebnim kibernetičkosigurnosnim politikama, odgovarajućim tehničkim i utvrđenim rješenjima te kontrolama kibernetičkog i fizičkog pristupa, koji su primjereni relevantnim okolnostima i uključenim rizicima.
(116)
MI birojam būtu jāveicina un jāatvieglo prakses kodeksu izstrāde, pārskatīšana un pielāgošana, ņemot vērā starptautiskās pieejas. Piedalīties varētu uzaicināt visus vispārīga lietojuma MI modeļu nodrošinātājus. Lai nodrošinātu, ka prakses kodeksi atspoguļo jaunākos sasniegumus un pienācīgi ņem vērā dažādu perspektīvu kopumu, MI birojam būtu jāsadarbojas ar attiecīgajām valstu kompetentajām iestādēm un attiecīgā gadījumā šādu kodeksu izstrādes nolūkā tas varētu apspriesties ar pilsoniskās sabiedrības organizācijām un citām attiecīgajām ieinteresētajām personām un ekspertiem, tostarp ar zinātnisko grupu. Prakses kodeksiem būtu jāaptver vispārīga lietojuma MI modeļu un vispārīga lietojuma MI modeļu, kuri rada sistēmiskus riskus, nodrošinātāju pienākumi. Turklāt attiecībā uz sistēmiskiem riskiem ar prakses kodeksiem būtu jāpalīdz izveidot riska taksonomiju, kas raksturo Savienības līmeņa sistēmisko risku veidu un raksturu, tostarp to avotus. Prakses kodeksos uzmanība būtu jāpievērš arī konkrētiem riska novērtēšanas un mazināšanas pasākumiem.
(116)
Ured za umjetnu inteligenciju trebao bi poticati i olakšati izradu, preispitivanje i prilagodbu kodeksâ prakse, uzimajući u obzir međunarodne pristupe. Svi dobavljači UI modela opće namjene mogli bi biti pozvani na sudjelovanje. Kako bi se osiguralo da se kodeksima prakse odražavaju najnovija dostignuća i na odgovarajući način uzimaju u obzir različite perspektive, Ured za umjetnu inteligenciju trebao bi surađivati s relevantnim nacionalnim nadležnim tijelima te bi se, prema potrebi, mogao savjetovati s organizacijama civilnog društva i drugim relevantnim dionicima i stručnjacima, uključujući znanstveno povjerenstvo, radi izrade takvih kodeksa. Kodeksi prakse trebali bi obuhvaćati obveze dobavljača UI modela opće namjene i UI modela opće namjene koji predstavljaju sistemske rizike. Osim toga, kad je riječ o sistemskim rizicima, kodeksi prakse trebali bi pomoći u uspostavi taksonomije vrste i prirode sistemskih rizika na razini Unije, uključujući njihove izvore. Kodeksi prakse trebali bi biti usmjereni i na posebne mjere procjene i ublažavanja rizika.
(117)
Prakses kodeksiem vajadzētu būt centrālam rīkam, ar ko vispārīga lietojuma MI modeļu nodrošinātāji nodrošina šajā regulā paredzēto pienākumu pienācīgu izpildi. Pienākumu izpildes pierādīšanas nolūkā nodrošinātājiem vajadzētu spēt paļauties uz prakses kodeksiem. Ar īstenošanas aktiem Komisija var nolemt apstiprināt prakses kodeksu un piešķirt tam vispārēju spēkā esību Savienībā vai – alternatīvi – paredzēt kopīgus noteikumus attiecīgo pienākumu īstenošanai, ja līdz brīdim, kad šī regula kļūst piemērojama, nav iespējams pabeigt prakses kodeksa izstrādi vai MI birojs to neuzskata par piemērotu. Tiklīdz saskaņots standarts ir publicēts, un MI birojs ir novērtējis, ka tas ir piemērots, lai aptvertu attiecīgos pienākumus, atbilstībai Eiropas saskaņotajam standartam būtu jānodrošina nodrošinātājiem pieņēmums par atbilstību. Turklāt vispārīga lietojuma MI modeļu nodrošinātājiem vajadzētu spēt pierādīt atbilstību, izmantojot alternatīvus piemērotus līdzekļus, ja nav pieejami prakses kodeksi vai saskaņoti standarti vai ja nodrošinātāji izvēlas uz tiem nepaļauties.
(117)
Kodeksi prakse trebali bi biti središnji alat za pravilno ispunjavanje obveza predviđenih na temelju ove Uredbe za dobavljače UI modela opće namjene. Dobavljači bi se trebali moći osloniti na kodekse prakse kako bi dokazali ispunjavanje obveza. Komisija provedbenim aktima može odlučiti odobriti kodeks prakse i učiniti ga općenito valjanim u Uniji ili, alternativno, utvrditi zajednička pravila za provedbu relevantnih obveza ako do početka primjene ove Uredbe kodeks prakse ne može biti dovršen ili ga Ured za umjetnu inteligenciju ne smatra adekvatnim. Nakon što se usklađena norma objavi i Ured za umjetnu inteligenciju ocijeni je prikladnom za obuhvaćanje relevantnih obveza, ispunjavanje europske usklađene norme dobavljačima bi trebalo omogućiti pretpostavku sukladnosti. Nadalje, dobavljači UI modela opće namjene trebali bi moći dokazati ispunjavanje obveza s pomoću alternativnih odgovarajućih sredstava ako kodeksi prakse ili usklađene norme nisu dostupni ili ako odluče da se neće oslanjati na njih.
(118)
Šī regula reglamentē MI sistēmas un MI modeļus, nosakot konkrētas prasības un pienākumus attiecīgajiem tirgus dalībniekiem, kas tos laiž tirgū, nodod ekspluatācijā vai lieto Savienībā, un tādējādi papildinot pienākumus, kas noteikti starpniecības pakalpojumu nodrošinātājiem, kuri šādas sistēmas vai modeļus iegulst savos pakalpojumos, ko reglamentē Regula (ES) 2022/2065. Ciktāl šādas sistēmas vai modeļi ir iegulti izraudzītās ļoti lielās tiešsaistes platformās vai ļoti lielās tiešsaistes meklētājprogrammās, uz tiem attiecas Regulā (ES) 2022/2065 paredzētā riska pārvaldības sistēma. Līdz ar to būtu jāuzskata, ka attiecīgie šajā regulā noteiktie pienākumi ir izpildīti, ja vien šādos modeļos nerodas un netiek identificēti būtiski sistēmiski riski, uz kuriem neattiecas Regula (ES) 2022/2065. Šajā kontekstā ļoti lielu tiešsaistes platformu un ļoti lielu tiešsaistes meklētājprogrammu nodrošinātājiem ir pienākums novērtēt iespējamos sistēmiskos riskus, kas izriet no to pakalpojumu izstrādes, darbības un izmantošanas, tostarp to, kā pakalpojumā izmantoto algoritmisko sistēmu izstrāde var veicināt šādus riskus, kā arī sistēmiskos riskus, kas izriet no iespējamas ļaunprātīgas izmantošanas. Minētajiem nodrošinātājiem ir arī pienākums veikt atbilstošus riska mazināšanas pasākumus, ievērojot pamattiesības.
(118)
Ovom se Uredbom reguliraju UI sustavi i modeli uvođenjem određenih zahtjeva i obveza za relevantne aktere na tržištu koji ih stavljaju na tržište ili u upotrebu ili ih upotrebljavaju u Uniji, čime se dopunjuju obveze pružatelja usluga posredovanja koji takve sustave ili modele ugrađuju u svoje usluge regulirane Uredbom (EU) 2022/2065. U mjeri u kojoj su takvi sustavi ili modeli ugrađeni u određene vrlo velike internetske platforme ili vrlo velike internetske tražilice, na njih se primjenjuje okvir za upravljanje rizicima predviđen u Uredbi (EU) 2022/2065. Stoga bi trebalo pretpostaviti da su odgovarajuće obveze iz ove Uredbe ispunjene, osim ako se u takvim modelima pojave znatni sistemski rizici koji nisu obuhvaćeni Uredbom (EU) 2022/2065. Unutar tog okvira pružatelji vrlo velikih internetskih platformi i vrlo velikih internetskih tražilica obvezni su procijeniti potencijalne sistemske rizike koji proizlaze iz dizajna, funkcioniranja i korištenja njihovih usluga, uključujući način na koji dizajn algoritamskih sustava koji se upotrebljavaju u usluzi može doprinijeti takvim rizicima, kao i sistemske rizike koji proizlaze iz mogućih pogrešnih upotreba. Ti su pružatelji također obvezni poduzeti odgovarajuće mjere za ublažavanje rizika za temeljna prava.
(119)
Ņemot vērā digitālo pakalpojumu inovācijas straujo tempu un tehnoloģisko attīstību dažādu Savienības tiesību instrumentu piemērošanas jomā, jo īpaši paturot prātā, kā šos pakalpojumus lieto un uztver to saņēmēji, MI sistēmas, uz kurām attiecas šī regula, var nodrošināt kā starpniecības pakalpojumus vai to daļas Regulas (ES) 2022/2065 nozīmē, kas būtu jāinterpretē tehnoloģiski neitrālā veidā. Piemēram, MI sistēmas var lietot tiešsaistes meklētājprogrammu nodrošināšanai, jo īpaši tādā mērā, kādā MI sistēma, piemēram, tiešsaistes sarunbots, principā veic meklēšanu visās tīmekļa vietnēs, pēc tam iekļauj rezultātus savās esošajās zināšanās un pielieto atjauninātās zināšanas, lai ģenerētu vienu iznākumu, kas apvieno dažādus informācijas avotus.
(119)
S obzirom na brz tempo inovacija i tehnološki razvoj digitalnih usluga u području primjene različitih instrumenata prava Unije, posebno imajući na umu upotrebu i percepciju njihovih primatelja, UI sustavi koji podliježu ovoj Uredbi mogu se pružati kao usluge posredovanja ili njihovi dijelovi u smislu Uredbe (EU) 2022/2065, koje bi trebalo tumačiti na tehnološki neutralan način. Na primjer, UI sustavi mogu se upotrebljavati za pružanje internetskih tražilica, posebno u mjeri u kojoj UI sustav, kao što je internetski chatbot, u načelu pretražuje sve internetske stranice, zatim uključuje rezultate u svoje postojeće znanje i upotrebljava nadopunjeno znanje kako bi generirao jedan izlazni rezultat koji objedinjuje različite izvore informacija.
(120)
Turklāt pienākumi, kas šajā regulā noteikti dažu MI sistēmu nodrošinātājiem un uzturētājiem, lai varētu atklāt un izpaust, ka minēto sistēmu iznākumi ir mākslīgi ģenerēti vai manipulēti, ir īpaši būtiski nolūkā veicināt Regulas (ES) 2022/2065 efektīvu īstenošanu. Tas jo īpaši attiecas uz ļoti lielu tiešsaistes platformu vai ļoti lielu tiešsaistes meklētājprogrammu nodrošinātāju pienākumiem identificēt un mazināt sistēmiskos riskus, kas var rasties no mākslīgi ģenerēta vai manipulēta satura izplatīšanas, jo īpaši risku, ka radīsies faktiska vai paredzama negatīva ietekme uz demokrātiskajiem procesiem, pilsonisko diskursu un vēlēšanu procesiem, tostarp izplatot dezinformāciju.
(120)
Nadalje, obveze propisane u ovoj Uredbi za dobavljače i za subjekte koji uvode određene UI sustave kako bi se omogućilo prepoznavanje i otkrivanje umjetno stvorenih ili manipuliranih izlaznih rezultata tih sustava posebno su relevantne za olakšavanje djelotvorne provedbe Uredbe (EU) 2022/2065. To se posebno odnosi na obveze pružatelja vrlo velikih internetskih platformi ili vrlo velikih internetskih tražilica da utvrde i ublaže sistemske rizike koji mogu proizaći iz širenja umjetno stvorenog ili manipuliranog sadržaja, posebno rizik od stvarnih ili predvidljivih negativnih učinaka na demokratske procese, građanski diskurs i izborne procese, među ostalim dezinformiranjem.
(121)
Standartizācijai vajadzētu būt ļoti būtiskai tādu tehnisko risinājumu nodrošināšanā, kas nodrošinātājiem atbilstoši jaunākajiem sasniegumiem ļautu panākt atbilstību šīs regulas noteikumiem, veicināt inovāciju, kā arī konkurētspēju un izaugsmi vienotajā tirgū. Atbilstībai Eiropas Parlamenta un Padomes Regulas (ES) Nr. 1025/2012 (41) 2. panta 1. punkta c) apakšpunktā noteiktajiem saskaņotajiem standartiem, kuros – kā lielākoties sagaidāms – ir atspoguļoti jaunākie sasniegumi, vajadzētu būt veidam, kā nodrošinātāji var apliecināt atbilstību šīs regulas prasībām. Tāpēc būtu jāveicina līdzsvarota interešu pārstāvība, saskaņā ar Regulas (ES) Nr. 1025/2012 5. un 6. pantu standartu izstrādē iesaistot visas attiecīgās ieinteresētās personas, jo īpaši MVU, patērētāju organizācijas un vides un sociālās jomas ieinteresētās personas. Lai veicinātu atbilstību, Komisijai standartizācijas pieprasījumi būtu jāizdod bez liekas kavēšanās. Sagatavojot standartizācijas pieprasījumu, Komisijai būtu jāapspriežas ar konsultatīvo forumu un MI padomi, lai apkopotu attiecīgās speciālās zināšanas. Tomēr, ja nav attiecīgu atsauču uz saskaņotajiem standartiem, Komisijai vajadzētu būt iespējai ar īstenošanas aktiem un pēc apspriešanās ar konsultatīvo forumu noteikt kopīgas specifikācijas dažām šajā regulā paredzētajām prasībām. Kopīgajai specifikācijai vajadzētu būt izņēmuma alternatīvam risinājumam, lai nodrošinātājam atvieglotu pienākumu izpildīt šīs regulas prasības, ja neviena no Eiropas standartizācijas organizācijām nav akceptējusi standartizācijas pieprasījumu vai ja attiecīgajos saskaņotajos standartos nav pietiekami ņemti vērā pamattiesību jautājumi, vai ja saskaņotie standarti neatbilst pieprasījumam, vai ja atbilstoša saskaņota standarta pieņemšana kavējas. Ja šāda kavēšanās saskaņota standarta pieņemšanā ir saistīta ar minētā standarta tehnisko sarežģītību, Komisijai tas būtu jāņem vērā, pirms tiek apsvērta kopīgu specifikāciju izstrāde. Izstrādājot kopīgas specifikācijas, Komisija ir mudināta sadarboties ar starptautiskiem partneriem un starptautiskām standartizācijas iestādēm.
(121)
Normizacija bi trebala imati ključnu ulogu u pružanju tehničkih rješenja dobavljačima kako bi se osigurala usklađenost s ovom Uredbom, u skladu s najnovijim dostignućima, kako bi se promicale inovacije te konkurentnost i rast na jedinstvenom tržištu. Poštovanje usklađenih normi kako su definirane u članku 2. točki 1. podtočki (c) Uredbe (EU) br. 1025/2012 Europskog parlamenta i Vijeća (41), za koje se obično očekuje da odražavaju najnovija dostignuća, trebalo bi biti sredstvo kojim će dobavljači dokazivati sukladnost sa zahtjevima ove Uredbe. Stoga bi u skladu s člancima 5. i 6. Uredbe (EU) br. 1025/2012 trebalo poticati uravnoteženu zastupljenost interesa koja uključuje sve relevantne dionike u razvoju normi, posebno MSP-ove, organizacije potrošača te dionike u području okoliša i socijalne dionike. Kako bi se olakšala sukladnost, Komisija bi trebala izdati zahtjeve za normizaciju bez nepotrebne odgode. Pri izradi zahtjeva za normizaciju Komisija bi se trebala savjetovati sa savjetodavnim forumom i Vijećem za umjetnu inteligenciju kako bi obuhvatila relevantno stručno znanje. Međutim, u nedostatku relevantnih upućivanja na usklađene norme, Komisija bi trebala moći provedbenim aktima i nakon savjetovanja sa savjetodavnim forumom utvrditi zajedničke specifikacije za određene zahtjeve na temelju ove Uredbe. Zajednička specifikacija trebala bi biti iznimno zamjensko rješenje kako bi se dobavljaču olakšalo ispunjavanje zahtjeva iz ove Uredbe kada nijedna europska organizacija za normizaciju nije prihvatila zahtjev za normizaciju ili kada se relevantnim usklađenim normama u nedovoljnoj mjeri rješavaju problemi u području temeljnih prava ili kada usklađene norme nisu u skladu sa zahtjevom ili kada dođe do kašnjenja u donošenju odgovarajuće usklađene norme. Ako je takvo kašnjenje u donošenju usklađene norme posljedica tehničke složenosti te norme, Komisija bi to trebala razmotriti prije razmatranja utvrđivanja zajedničkih specifikacija. Pri izradi zajedničkih specifikacija Komisiju se potiče na suradnju s međunarodnim partnerima i međunarodnim tijelima za normizaciju.
(122)
Neskarot saskaņoto standartu un kopīgo specifikāciju izmantošanu, būtu lietderīgi pieņemt, ka tādas augsta riska MI sistēmas nodrošinātāji, kura ir apmācīta un pārbaudīta ar datiem, kas atspoguļo konkrēto ģeogrāfisko, uzvedības, kontekstuālo vai funkcionālo vidi, kurā MI sistēmu ir paredzēts lietot, atbilst attiecīgajam pasākumam, kas paredzēts saskaņā ar šajā regulā noteikto datu pārvaldības prasību. Neskarot šajā regulā noteiktās prasības attiecībā uz robustumu un precizitāti, saskaņā ar Regulas (ES) 2019/881 54. panta 3. punktu būtu jāpieņem, ka augsta riska MI sistēmas, kuras, ievērojot minēto regulu, ir sertificētas vai kurām saskaņā ar kiberdrošības shēmu ir izsniegts atbilstības apliecinājums, un uz to atsauces ir publicētas Eiropas Savienības Oficiālajā Vēstnesī, atbilst šās regulas kiberdrošības prasībai, ciktāl kiberdrošības sertifikāts vai atbilstības apliecinājums vai tā daļas attiecas uz šīs regulas kiberdrošības prasību. Tas neskar minētās kiberdrošības shēmas brīvprātīgo raksturu.
(122)
Ne dovodeći u pitanje upotrebu usklađenih normi i zajedničkih specifikacija, primjereno je da se za dobavljače visokorizičnog UI sustava koji je treniran i testiran na podacima koji odražavaju specifično zemljopisno, bihevioralno, kontekstualno ili funkcionalno okružje u kojem se UI sustav namjerava upotrebljavati smatra da su sukladni s relevantnom mjerom predviđenom u zahtjevu u pogledu upravljanja podacima utvrđenom u ovoj Uredbi. Ne dovodeći u pitanje zahtjeve koji se odnose na otpornost i točnost utvrđene u ovoj Uredbi, u skladu s člankom 54. stavkom 3. Uredbe (EU) 2019/881, za visokorizične UI sustave koji su certificirani ili za koje je izdana izjava o sukladnosti u okviru programa kibernetičke sigurnosti na temelju te uredbe i na koje su objavljena upućivanja u Službenom listu Europske unije trebalo bi pretpostaviti da ispunjavaju kibernetičkosigurnosne zahtjeve iz ove Uredbe u mjeri u kojoj certifikat o kibernetičkoj sigurnosti ili izjava o sukladnosti ili njihovi dijelovi obuhvaćaju kibernetičkosigurnosne zahtjeve iz ove Uredbe. Time se i dalje ne dovodi u pitanje dobrovoljna priroda tog programa kibernetičke sigurnosti.
(123)
Lai nodrošinātu augsta riska MI sistēmu augstu uzticamības līmeni, būtu jāveic minēto sistēmu atbilstības novērtēšana pirms to laišanas tirgū vai nodošanas ekspluatācijā.
(123)
Kako bi se osigurala visoka razina pouzdanosti visokorizičnih UI sustava, ti bi sustavi trebali podlijegati ocjenjivanju sukladnosti prije njihova stavljanja na tržište ili u upotrebu.
(124)
Lai mazinātu slogu uz operatoriem un novērstu iespējamu dublēšanos, attiecībā uz augsta riska MI sistēmām, kas saistītas ar produktiem, uz kuriem attiecas esošie Savienības saskaņošanas tiesību akti, kuru pamatā ir Jaunais tiesiskais regulējums, būtu lietderīgi minēto MI sistēmu atbilstību šīs regulas prasībām novērtēt minētajos tiesību aktos jau paredzētās atbilstības novērtēšanas ietvaros. Tādējādi šīs regulas prasību piemērojamībai nevajadzētu ietekmēt attiecīgajos Savienības saskaņošanas tiesību aktos paredzētās atbilstības novērtēšanas īpašo loģiku, metodiku vai vispārīgo struktūru.
(124)
Kako bi se opterećenje za operatere svelo na najmanju moguću mjeru i izbjeglo moguće udvostručavanje, za visokorizične UI sustave povezane s proizvodima koji su obuhvaćeni postojećim zakonodavstvom Unije o usklađivanju na temelju novog zakonodavnog okvira, usklađenost tih UI sustava sa zahtjevima ove Uredbe trebala bi se ocjenjivati u okviru ocjenjivanja sukladnosti koje je već predviđeno u tom pravu. Primjenjivost zahtjevâ ove Uredbe stoga ne bi trebala utjecati na specifičnu logiku, metodologiju ili opću strukturu ocjenjivanja sukladnosti na temelju relevantnog zakonodavstva Unije o usklađivanju.
(125)
Ņemot vērā augsta riska MI sistēmu sarežģītību un ar tām saistītos riskus, ir svarīgi izstrādāt pienācīgas atbilstības novērtēšanas procedūras augsta riska MI sistēmām, iesaistot paziņotās struktūras, tā saukto trešās personas veiktu atbilstības novērtēšanu. Tomēr, ņemot vērā pašreizējo produktu drošuma jomā gūto pieredzi, kas ir profesionāliem sertificētājiem, kuri darbojas pirmstirdzniecības posmā, kā arī saistīto risku atšķirīgo raksturu, vismaz sākotnējā šīs regulas piemērošanas posmā ir lietderīgi ierobežot trešās personas veiktas atbilstības novērtēšanas piemērošanas jomu tādām augsta riska MI sistēmām, kuras nav saistītas ar produktiem. Tāpēc šādu sistēmu atbilstības novērtēšana parasti būtu jāveic nodrošinātājam uz savu atbildību, izņemot vienīgi MI sistēmas, kuras paredzēts izmantot biometrijas vajadzībām.
(125)
S obzirom na složenost visokorizičnih UI sustava i s njima povezane rizike, važno je razviti odgovarajući sustav postupka ocjenjivanja sukladnosti visokorizičnih UI sustava koji uključuje prijavljena tijela, tzv. ocjenjivanje sukladnosti koje provodi treća strana. Međutim, s obzirom na trenutačno iskustvo profesionalnih certifikatora proizvoda prije stavljanja na tržište u području sigurnosti proizvoda i različitu prirodu uključenih rizika, primjereno je, barem u početnoj fazi primjene ove Uredbe, ograničiti područje primjene ocjenjivanja sukladnosti visokorizičnih UI sustava koje provodi treća strana, osim za one sustave koji su povezani s proizvodima. Stoga bi ocjenjivanje sukladnosti takvih sustava u pravilu trebao provoditi dobavljač na vlastitu odgovornost, uz jedinu iznimku UI sustava namijenjenih za biometriju.
(126)
Lai īstenotu trešās personas veiktus atbilstības novērtējumus, kad tas ir prasīts, valstu kompetentajām iestādēm saskaņā ar šo regulu būtu jāpaziņo paziņotās struktūras ar noteikumu, ka tās atbilst prasību kopumam, it īpaši neatkarības, kompetences, interešu konflikta neesības un piemērotu kiberdrošības prasību ziņā. Valstu kompetentajām iestādēm paziņojums par minētajām struktūrām būtu jānosūta Komisijai un pārējām dalībvalstīm, izmantojot elektronisko paziņošanas rīku, ko Komisija izveidojusi un pārvalda, ievērojot Lēmuma Nr. 768/2008/EK I pielikuma R23. pantu.
(126)
Za ocjenjivanje sukladnosti koje provodi treća strana kada je to potrebno, nacionalna nadležna tijela trebala bi na temelju ove Uredbe prijavljivati prijavljena tijela, pod uvjetom da ispunjavaju niz zahtjeva, ponajprije u pogledu neovisnosti, kompetentnosti, nepostojanja sukoba interesa i odgovarajućih kibernetičkosigurnosnih zahtjeva. Nacionalna nadležna tijela trebala bi Komisiji i drugim državama članicama slati obavijesti o prijavljivanju tih tijela pomoću alata za elektroničko prijavljivanje koji je razvila i kojim upravlja Komisija u skladu s člankom R23. Priloga I. Odluci br. 768/2008/EZ.
(127)
Atbilstoši Savienības saistībām saskaņā ar Pasaules Tirdzniecības organizācijas Nolīgumu par tehniskajiem šķēršļiem tirdzniecībā, ir lietderīgi veicināt to atbilstības novērtēšanas rezultātu savstarpēju atzīšanu, kurus sagatavojušas kompetentās atbilstības novērtēšanas struktūras neatkarīgi no teritorijas, kurā tās ir iedibinātas, ar noteikumu, ka tādas atbilstības novērtēšanas struktūras, kas iedibinātas saskaņā ar kādas trešās valsts tiesību aktiem, atbilst šīs regulas piemērojamajām prasībām un Savienība šajā sakarā ir noslēgusi nolīgumu. Šajā kontekstā Komisijai būtu aktīvi jāizpēta iespējamie starptautiskie instrumenti šādā nolūkā un jo īpaši būtu jācenšas panākt savstarpējas atzīšanas nolīgumu noslēgšana ar trešām valstīm.
(127)
U skladu s obvezama Unije na temelju Sporazuma Svjetske trgovinske organizacije o tehničkim preprekama u trgovini primjereno je olakšati uzajamno prihvaćanje rezultata ocjenjivanja sukladnosti koje su proizvela nadležna tijela za ocjenjivanje sukladnosti, bez obzira na to na kojem području imaju poslovni nastan, pod uvjetom da ta tijela za ocjenjivanje sukladnosti osnovana na temelju prava treće zemlje ispunjavaju primjenjive zahtjeve ove Uredbe i da je Unija sklopila odgovarajući sporazum. U tom kontekstu Komisija bi trebala aktivno istražiti moguće međunarodne instrumente u tu svrhu, a posebno nastojati sklopiti sporazume o uzajamnom priznavanju s trećim zemljama.
(128)
Saskaņā ar vispāratzīto būtisku modifikāciju jēdzienu, ko attiecina uz Savienības saskaņošanas tiesību aktu regulētajiem produktiem, ir lietderīgi, ka ikreiz, kad notikušas izmaiņas, kas var ietekmēt augsta riska MI sistēmas atbilstību šīs regulas noteikumiem (piemēram, operētājsistēmas vai programmatūras arhitektūras izmaiņas), vai kad mainījies sistēmas paredzētais nolūks, MI sistēma būtu jāuzskata par jaunu MI sistēmu, kurai būtu jāveic jauns atbilstības novērtējums. Tomēr izmaiņas tādu MI sistēmu algoritmā un veiktspējā, kuras turpina “mācīties” pēc to laišanas tirgū vai nodošanas ekspluatācijā, proti, automātiski pielāgojot veidu, kādā tās veic funkcijas, nebūtu uzskatāmas par būtisku modifikāciju, ar noteikumu, ka nodrošinātājs minētās izmaiņas ir iepriekš noteicis un novērtējis atbilstības novērtēšanas brīdī.
(128)
U skladu sa zajednički utvrđenim pojmom znatne izmjene za proizvode regulirane zakonodavstvom Unije o usklađivanju primjereno je da se svaki put kad dođe do promjene koja može utjecati na usklađenost visokorizičnog UI sustava s ovom Uredbom (npr. promjena operativnog sustava ili softverske arhitekture) ili kad se promijeni namjena sustava, taj UI sustav smatra novim UI sustavom koji bi trebao proći novo ocjenjivanje sukladnosti. Međutim, promjene algoritma i učinkovitosti UI sustava koji nakon stavljanja na tržište ili u upotrebu nastavljaju „učiti”, odnosno automatski prilagođavati način izvršavanja funkcija, ne bi trebale predstavljati znatnu izmjenu, pod uvjetom da je te promjene unaprijed odredio dobavljač i da su ocijenjene u trenutku ocjenjivanja sukladnosti.
(129)
Augsta riska MI sistēmām vajadzētu būt marķētām ar CE zīmi, kas norādītu uz to atbilstību šīs regulas noteikumiem, ļaujot tām būt brīvā apritē iekšējā tirgū. Produktā iegultām augsta riska MI sistēmām būtu jāpiestiprina fiziska CE zīme, kuru var papildināt ar digitālu CE zīmi. Augsta riska MI sistēmām, kas tiek nodrošinātas tikai digitāli, būtu jāizmanto digitāla CE zīme. Dalībvalstīm nevajadzētu radīt nepamatotus šķēršļus tādu augsta riska MI sistēmu laišanai tirgū vai nodošanai ekspluatācijā, kuras atbilst šajā regulā noteiktajām prasībām un ir marķētas ar CE zīmi.
(129)
Visokorizični UI sustavi trebali bi nositi oznaku CE koja upućuje na njihovu sukladnost s ovom Uredbom kako bi se mogli slobodno kretati na unutarnjem tržištu. Kad je riječ o visokorizičnim UI sustavima ugrađenima u proizvod, fizička oznaka CE trebala bi biti pričvršćena na njih te se može dopuniti digitalnom oznakom CE. Za visokorizične UI sustave koji se pružaju samo digitalno trebalo bi upotrebljavati digitalnu oznaku CE. Države članice ne bi trebale stvarati neopravdane zapreke stavljanju na tržište ili u upotrebu visokorizičnih UI sustava koji ispunjavaju zahtjeve utvrđene u ovoj Uredbi i nose oznaku CE.
(130)
Dažos apstākļos ātra inovatīvu tehnoloģiju pieejamība var būt ļoti svarīga personu veselībai un drošumam, vides aizsardzībai un klimata pārmaiņu mazināšanas nolūkos, kā arī sabiedrībai kopumā. Līdz ar to ir lietderīgi, ka ar sabiedrisko drošību vai fizisku personu dzīvības un veselības aizsardzību, vides aizsardzību un svarīgu rūpniecības un infrastruktūras aktīvu aizsardzību saistītos ārkārtas apstākļos tirgus uzraudzības iestādes varētu atļaut laist tirgū vai nodot ekspluatācijā MI sistēmas, kurām nav veikta atbilstības novērtēšana. Pienācīgi pamatotos gadījumos, kā paredzēts šajā regulā, tiesībaizsardzības iestādes vai civilās aizsardzības iestādes var konkrētu augsta riska MI sistēmu nodot ekspluatācijā bez tirgus uzraudzības iestādes atļaujas ar noteikumu, ka šāda atļauja, lieki nekavējoties, tiek pieprasīta lietošanas laikā vai pēc tās.
(130)
Po određenim uvjetima brza dostupnost inovativnih tehnologija može biti ključna za zdravlje i sigurnost osoba, zaštitu okoliša i klimatske promjene te za društvo u cjelini. Stoga je primjereno da bi zbog iznimnih razloga povezanih s javnom sigurnošću ili zaštitom života i zdravlja fizičkih osoba, zaštitom okoliša i ključne industrijske i infrastrukturne imovine, tijela za nadzor tržišta mogla odobriti stavljanje na tržište ili u upotrebu UI sustava za koje nije proveden postupak ocjenjivanja sukladnosti. U propisno opravdanim situacijama, kako je predviđeno u ovoj Uredbi, tijela kaznenog progona ili tijela civilne zaštite mogu staviti u upotrebu određeni visokorizični UI sustav bez odobrenja tijela za nadzor tržišta, pod uvjetom da se takvo odobrenje zatraži tijekom ili nakon korištenja bez nepotrebne odgode.
(131)
Lai veicinātu Komisijas un dalībvalstu darbu MI jomā, kā arī lai vairotu pārredzamību sabiedrībai, būtu jānosaka prasība tādu augsta riska MI sistēmu nodrošinātājiem, kuras nav saistītas ar produktiem, uz kuriem attiecas esošie Savienības saskaņošanas tiesību akti, kā arī nodrošinātājiem, kuri uzskata, ka MI sistēma, kas uzskaitīta šīs regulas pielikumā augsta riska lietošanas gadījumos, nav augsta riska MI sistēma, pamatojoties uz atkāpi, reģistrēties pašiem un reģistrēt informāciju par savu MI sistēmu ES datubāzē, ko izveidos un pārvaldīs Komisija. Pirms MI sistēmu, kas uzskaitīta šīs regulas pielikumā augsta riska lietošanas gadījumos, tiek lietota, augsta riska MI sistēmu uzturētāji, kas ir publiskas iestādes, aģentūras vai struktūras, paši reģistrējas šādā datubāzē un izvēlas sistēmu, kuru tie plāno lietot. Citiem uzturētājiem vajadzētu būt tiesībām to darīt brīvprātīgi. Šai datubāzes sadaļai vajadzētu būt bez maksas publiski piekļūstamai, informācijai vajadzētu būt viegli pārlūkojamai, saprotamai un mašīnlasāmai. ES datubāzei vajadzētu būt arī lietotājdraudzīgai, piemēram, nodrošinot meklēšanas funkcijas, tostarp atslēgvārdus, kas ļauj plašai sabiedrībai atrast attiecīgo informāciju, kas iesniedzama, reģistrējot augsta riska MI sistēmas, un par augsta riska MI sistēmu veidiem, kas izklāstītas šīs regulas pielikumā, kurai atbilst augsta riska MI sistēmas. ES datubāzē būtu jāreģistrē arī jebkādas augsta riska MI sistēmu būtiskas modifikācijas. Attiecībā uz augsta riska MI sistēmām tiesībaizsardzības, migrācijas, patvēruma un robežkontroles pārvaldības jomā reģistrācijas pienākumi būtu jāizpilda drošā nepubliskā ES datubāzes sadaļā. Piekļuve drošajai nepubliskajai sadaļai būtu stingri jāierobežo, atļaujot to tikai Komisijai, kā arī tirgus uzraudzības iestādēm attiecībā uz minētās datubāzes valsts sadaļu. Augsta riska MI sistēmas kritiskās infrastruktūras jomā būtu jāreģistrē tikai valsts līmenī. Komisijai vajadzētu būt ES datubāzes pārzinim saskaņā ar Regulu (ES) 2018/1725. Lai nodrošinātu datubāzes pilnīgu funkcionalitāti pēc tās darbības sākšanas, ES datubāzes izveides procedūrā būtu jāietver Komisijas veikta funkcionālo specifikāciju izstrāde un neatkarīgs revīzijas ziņojums. Komisijai, veicot savus ES datubāzes datu pārziņa uzdevumus, būtu jāņem vērā kiberdrošības riski. Lai maksimāli palielinātu datubāzes pieejamību un izmantošanu sabiedrībai, ES datubāzei, tostarp ar tās starpniecību sniegtajai informācijai, jāatbilst Direktīvā (ES) 2019/882 noteiktajām prasībām.
(131)
Kako bi se olakšao rad Komisije i država članica u području umjetne inteligencije i povećala transparentnost prema javnosti, od dobavljača visokorizičnih UI sustava koji nisu povezani s proizvodima obuhvaćenima područjem primjene relevantnog postojećeg zakonodavstva Unije o usklađivanju, kao i dobavljača koji smatraju da pojedini UI sustav naveden u primjerima visokorizične upotrebe iz priloga ovoj Uredbi nije visokorizičan na temelju odstupanja, trebalo bi zahtijevati da sebe i informacije o svojem UI sustavu registriraju u bazi podataka EU-a, koju će uspostaviti i kojom će upravljati Komisija. Prije upotrebi UI sustava navedenog u primjerima visokorizične upotrebe iz priloga ovoj Uredbi subjekti koji uvode visokorizične UI sustave koji su tijela javne vlasti, javne agencije ili javna tijela trebali bi se registrirati u takvoj bazi podataka i odabrati sustav koji namjeravaju upotrebljavati. Ostali subjekti koji uvode sustav trebali bi imati pravo to učiniti dobrovoljno. Taj dio baze podataka EU-a trebao bi biti javno dostupan, besplatno, a informacije bi trebale biti lako dostupne, razumljive i strojno čitljive. Baza podataka EU-a trebala bi biti prilagođena korisnicima, na primjer pružanjem funkcija pretraživanja, među ostalim s pomoću ključnih riječi, čime bi se široj javnosti omogućio pronalazak relevantnih informacija koje treba dostaviti nakon registracije visokorizičnih UI sustava i relevantnih informacija o slučaju upotrebe visokorizičnih UI sustava navedenih u prilogu ovoj Uredbi, kojima visokorizični UI sustavi odgovaraju. Svaka bitna izmjena visokorizičnih UI sustava također bi se trebala registrirati u bazi podataka EU-a. Kad je riječ o visokorizičnim UI sustavima u područjima kaznenog progona ili migracija, azila i upravljanja nadzorom državne granice, obveze registracije trebale bi se ispuniti u sigurnom dijelu baze podataka EU-a koji nije javan. Pristup sigurnom dijelu koji nije javan trebao bi biti strogo ograničen na Komisiju i tijela za nadzor tržišta na čiju se državu odnosi taj dio baze podataka. Visokorizične UI sustave u području kritične infrastrukture trebalo bi registrirati samo na nacionalnoj razini. Komisija bi trebala biti voditelj obrade baze podataka EU-a, u skladu s Uredbom (EU) 2018/1725. Kako bi baza podataka EU-a bila posve funkcionalna od puštanja u rad, postupak njezina uspostavljanja trebao bi uključivati razvoj funkcionalnih specifikacija, što je zadaća Komisije, te neovisno revizorsko izvješće. Komisija bi pri obavljanju svojih zadaća voditelja obrade podataka u bazi podataka EU-a trebala uzeti u obzir rizike povezane s kibernetičkom sigurnosti. Kako bi se maksimalno povećale dostupnost i upotreba baze podataka EU-a u javnosti, baza podataka EU-a, uključujući podatke koji su u njoj dostupni, trebala bi ispunjavati zahtjeve iz Direktive (EU) 2019/882.
(132)
Dažas MI sistēmas, kas paredzētas mijiedarbībai ar fiziskām personām vai satura ģenerēšanai, var radīt konkrētus uzdošanās par citu personu vai maldināšanas riskus neatkarīgi no tā, vai tās ir pieskaitāmas augsta riska sistēmām vai nav. Tāpēc dažos apstākļos šādu sistēmu lietošanai būtu jāpiemēro konkrēti pārredzamības pienākumi, neskarot augsta riska MI sistēmām noteiktās prasības un pienākumus un ievērojot mērķtiecīgus izņēmumus, kas paredzēti, lai ņemtu vērā tiesībaizsardzības jomas īpašās vajadzības. Jo īpaši fiziskas personas būtu jāinformē, ka tās mijiedarbojas ar MI sistēmu, ja vien tas nav pats par sevi saprotams no tādas fiziskas personas viedokļa, kura ir samērā labi informēta, uzmanīga un apdomīga, ņemot vērā apstākļus un izmantošanas kontekstu. Īstenojot minēto pienākumu, būtu jāņem vērā tām fiziskajām personām raksturīgās iezīmes, kuras vecuma vai invaliditātes dēļ pieder pie neaizsargātām grupām, ciktāl MI sistēma ir paredzēta mijiedarbībai arī ar minētajām grupām. Turklāt fiziskām personām būtu jāpaziņo, ja tās ir pakļautas tādu MI sistēmu darbībai, kuras, apstrādājot to biometriskos datus, var identificēt vai izsecināt minēto personu emocijas vai nodomus vai iedalīt tās konkrētās kategorijās. Šādas konkrētas kategorijas var būt saistītas ar tādiem aspektiem kā dzimums, vecums, matu krāsa, acu krāsa, tetovējumi, personības iezīmes, etniskā izcelsme, personīgās vēlmes un intereses. Šāda informācija un paziņojumi būtu jāsniedz formātos, kuriem var piekļūt personas ar invaliditāti.
(132)
Kod određenih UI sustava namijenjenih interakciji s fizičkim osobama ili generiranju sadržaja mogu postojati posebni rizici u pogledu lažnog predstavljanja ili obmanjivanja, bez obzira na to smatraju li se visokorizičnima. Korištenje tih sustava stoga bi u određenim okolnostima trebalo podlijegati posebnim obvezama u pogledu transparentnosti, ne dovodeći u pitanje zahtjeve i obveze za visokorizične UI sustave, i ciljanim iznimkama kako bi se uzela u obzir posebna potreba kaznenog progona. Osobito bi fizičke osobe trebalo obavijestiti o tome da su u interakciji s UI sustavom, osim ako je to očito sa stajališta razmjerno dobro informirane, pronicljive i oprezne fizičke osobe, uzimajući u obzir okolnosti i kontekst upotrebe. Pri provedbi te obveze trebalo bi uzeti u obzir karakteristike fizičkih osoba koje pripadaju skupinama ranjivih osoba zbog svoje dobi ili invaliditeta u mjeri u kojoj je UI sustav namijenjen i interakciji s tim skupinama. Nadalje, fizičke osobe trebalo bi obavijestiti kada su izložene UI sustavima koji obradom njihovih biometrijskih podataka mogu identificirati emocije, izvoditi zaključke o njihovim emocijama ili namjerama ili te osobe razvrstati u određene kategorije. Te se određene kategorije mogu odnositi na aspekte kao što su spol, dob, boja kose, boja očiju, tetovaže, osobna obilježja, etničko podrijetlo, osobne preferencije i interesi. Takve informacije i obavijesti trebale bi se davati u oblicima koji su pristupačni osobama s invaliditetom.
(133)
Dažādas MI sistēmas var ģenerēt lielu daudzumu sintētiska satura, kas cilvēkiem kļūst arvien grūtāk atšķirams no cilvēka radīta un autentiska satura. Šo sistēmu plašā pieejamība un pieaugošās spējas būtiski ietekmē informācijas ekosistēmas integritāti un uzticēšanos tai, radot jaunus plaša mēroga maldinošas informācijas un manipulācijas, krāpšanas, uzdošanās par citu personu un patērētāju maldināšanas riskus. Ņemot vērā minēto ietekmi, straujo tehnoloģiskās attīstības tempu un vajadzību pēc jaunām informācijas izcelsmes izsekošanas metodēm un paņēmieniem, ir lietderīgi noteikt prasību, ka minēto sistēmu nodrošinātāji paredz iegultus tehniskus risinājumus, kas ļauj iekļaut mašīnlasāma formāta marķējumu un atklāt, ka iznākumu ir ģenerējis vai manipulējis nevis cilvēks, bet gan MI sistēma. Šādiem paņēmieniem un metodēm vajadzētu būt pietiekami uzticamiem, sadarbspējīgiem, efektīviem un robustiem, ciktāl tas ir tehniski iespējams, ņemot vērā pieejamos paņēmienus vai šādu paņēmienu kombināciju, kas var būt piemēroti, piemēram, ūdenszīmes, metadatu identifikāciju, kriptogrāfiskās metodes satura izcelsmes un autentiskuma pierādīšanai, reģistrēšanas metodes, pirkstu nospiedumus vai citus paņēmienus. Īstenojot šo pienākumu, nodrošinātājiem būtu jāņem vērā arī dažādo satura veidu specifika un ierobežojumi un attiecīgā jomas tehnoloģiskā attīstība un tirgus norises, kā atspoguļots vispāratzītos jaunākos sasniegumos. Šādus paņēmienus un metodes var īstenot MI sistēmas līmenī vai MI modeļa līmenī, tostarp vispārīga lietojuma MI modeļos, kas ģenerē saturu, tādējādi atvieglojot šā pienākuma izpildi MI sistēmas lejasposma nodrošinātājam. Lai saglabātu samērīgumu, ir lietderīgi paredzēt, ka šim marķēšanas pienākumam nebūtu jāattiecas uz MI sistēmām, kas galvenokārt pilda palīgfunkciju standarta rediģēšanai, vai uz MI sistēmām, kas būtiski nemaina uzturētāja sniegtos ievades datus vai to semantiku.
(133)
Različiti UI sustavi mogu generirati velike količine sintetičkog sadržaja koji ljudima postaje sve teže razlikovati od autentičnog sadržaja koji je stvorio čovjek. Široka dostupnost i sve veće sposobnosti tih sustava znatno utječu na integritet informacijskog ekosustava i povjerenje u njega, pri čemu dovode do novih rizika od široko rasprostranjenih dezinformacija i manipulacije, prijevara, lažnog predstavljanja i obmanjivanja potrošača. S obzirom na te učinke, brz tehnološki razvoj i potrebu za novim metodama i tehnikama za praćenje podrijetla informacija, primjereno je od dobavljača tih sustava zahtijevati da ugrade tehnička rješenja koja omogućuju označivanje u strojno čitljivom formatu i prepoznavanje toga da je izlazni rezultat generirao ili je njime manipulirao UI sustav, a ne čovjek. Takve tehnike i metode trebale bi biti dovoljno pouzdane, interoperabilne, učinkovite i pouzdane u mjeri u kojoj je to tehnički izvedivo, uzimajući u obzir raspoložive tehnike ili kombinaciju takvih tehnika, kao što su vodeni žigovi, identifikacija metapodataka, kriptografske metode za dokazivanje podrijetla i autentičnosti sadržaja, metode evidentiranja, otisci prstiju ili druge tehnike, ovisno o slučaju. Pri provedbi te obveze dobavljači bi trebali uzeti u obzir i posebnosti i ograničenja različitih vrsta sadržaja te relevantna tehnološka i tržišna kretanja u tom području, kako se odražavaju u općepriznatim najnovijim dostignućima. Takve tehnike i metode mogu se primijeniti na razini UI sustava ili na razini UI modela, uključujući UI modele opće namjene koji generiraju sadržaj, čime se dobavljaču UI sustava niže u lancu olakšava ispunjavanje te obveze. Kako bi i dalje bila razmjerna, primjereno je predvidjeti da ta obveza označivanja ne bi trebala obuhvaćati UI sustave koji prvenstveno imaju pomoćnu funkciju za standardno uređivanje ili UI sustave koji bitno ne mijenjaju ulazne podatke koje pruža subjekt koji uvodi sustav ili njihovu semantiku.
(134)
Papildus tehniskajiem risinājumiem, ko pielieto MI sistēmas nodrošinātāji, uzturētājiem, kuri MI sistēmu lieto, lai ģenerētu vai manipulētu tādu attēlu, audio vai video saturu, kas ievērojami atgādina reālas personas, objektus, vietas, subjektus vai notikumus un kas personai maldinoši šķistu autentisks vai īstas (dziļviltojumi), būtu arī skaidri un atšķiramā veidā jāizpauž, ka saturs ir mākslīgi radīts vai manipulēts, attiecīgi marķējot MI radīto iznākumu un izpaužot tā mākslīgo izcelsmi. Šā pārredzamības pienākuma ievērošanu nevajadzētu interpretēt kā norādi uz to, ka MI sistēmas vai tās iznākuma lietošana ierobežo tiesības uz vārda brīvību un tiesības uz mākslas un zinātnes brīvību, kas garantētas Pamattiesību hartā, jo īpaši tad, ja saturs ir daļa no acīmredzami radoša, satīriska, mākslinieciska, fikcionāla vai analoga darba vai programmas, ievērojot atbilstošus trešo personu tiesību un brīvību aizsardzības pasākumus. Minētajos gadījumos šajā regulā noteiktais pārredzamības pienākums attiecībā uz dziļviltojumiem attiecas tikai uz šāda ģenerēta vai manipulēta satura esamības izpaušanu piemērotā veidā, kas netraucē izrādīt vai baudīt darbu, tostarp tā parastu izmantošanu un lietošanu, vienlaikus saglabājot darba lietderību un kvalitāti. Turklāt ir arī lietderīgi paredzēt līdzīgu izpaušanas pienākumu attiecībā uz MI ģenerētu vai manipulētu tekstu, ciktāl tas ir publicēts, lai sabiedrību informētu par sabiedrības interešu jautājumiem, izņemot gadījumus, kad MI ģenerēto saturu ir pārskatījis cilvēks vai tam ir veikta redakcionāla kontrole un ja fiziska vai juridiska persona ir redakcionāli atbildīga par satura publikāciju.
(134)
Uz tehnička rješenja koja primjenjuju dobavljači sustava, subjekti koji uvode UI sustav, koji upotrebljavaju UI sustav za generiranje slikovnog sadržaja, audiosadržaja ili videosadržaja u kojem postoji znatna sličnost s postojećim osobama, predmetima, mjestima, subjektima ili događajima i koji bi se nekome lažno činio vjerodostojnim ili istinitim (uvjerljiv krivotvoreni sadržaj, eng. deep fakes) te za manipuliranje takvim sadržajem, također bi trebali jasno istaknuti da je sadržaj umjetno stvoren ili da je njime manipulirano označivanjem izlaznih rezultata umjetne inteligencije i navođenjem njegova umjetnog podrijetla. Usklađenost s tom obvezom transparentnosti ne bi se trebala tumačiti niti kao da upućuje na to da se korištenjem UI sustava ili njegovih izlaznih rezultata ugrožava pravo na slobodu izražavanja i pravo na slobodu umjetnosti i znanosti koja su zajamčena Poveljom, posebno ako je sadržaj očito dio kreativnog, satiričkog, umjetničkog, fiktivnog ili analognog djela ili programa, podložno odgovarajućim zaštitnim mjerama za prava i slobode trećih strana. U tim je slučajevima obveza transparentnosti za uvjerljiv krivotvoreni sadržaj utvrđena u ovoj Uredbi ograničena na otkrivanje postojanja takvog generiranog ili manipuliranog sadržaja na odgovarajući način kojim se ne ometa prikazivanje djela ili uživanje u njemu, uključujući njegovo uobičajeno iskorištavanje i upotrebu, uz istodobno održavanje korisnosti i kvalitete djela. Osim toga, primjereno je predvidjeti sličnu obvezu otkrivanja u odnosu na tekst stvoren ili manipuliran umjetnom inteligencijom u mjeri u kojoj se objavljuje u svrhu informiranja javnosti o pitanjima od javnog interesa, osim ako je sadržaj stvoren umjetnom inteligencijom prošao proces preispitivanja koje provodi čovjek ili uredničku kontrolu i ako fizička ili pravna osoba snosi uredničku odgovornost za objavu sadržaja.
(135)
Neskarot pārredzamības pienākumu obligāto raksturu un pilnīgu piemērojamību, Komisija var arī rosināt un sekmēt prakses kodeksu izstrādi Savienības līmenī, lai atvieglotu ar mākslīgi ģenerēta vai manipulēta satura atklāšanu un marķēšanu saistītu pienākumu efektīvu īstenošanu, tostarp atbalstīt praktiskus pasākumus, lai attiecīgā gadījumā padarītu atklāšanas mehānismus pieejamus un atvieglotu sadarbību ar citiem vērtības ķēdes dalībniekiem, izplatītu saturu vai pārbaudītu tā autentiskumu un izcelsmi, dodot sabiedrībai iespēju efektīvi atšķirt MI ģenerēto saturu.
(135)
Ne dovodeći u pitanje obveznu prirodu i potpunu primjenjivost obveza u pogledu transparentnosti, Komisija može poticati i olakšavati izradu kodeksâ prakse na razini Unije kako bi se olakšala djelotvorna provedba obveza u pogledu otkrivanja i označivanja umjetno stvorenog ili manipuliranog sadržaja, među ostalim i kako bi se poduprla praktična rješenja za osiguravanje dostupnosti, prema potrebi, mehanizama za otkrivanje i olakšavanje suradnje s drugim akterima duž vrijednosnog lanca, širenje sadržaja ili provjera njegove autentičnosti i podrijetla kako bi se javnosti omogućilo djelotvorno prepoznavanje sadržaja stvorenog umjetnom inteligencijom.
(136)
Pienākumi, kas šajā regulā noteikti dažu MI sistēmu nodrošinātājiem un uzturētājiem, lai varētu atklāt un izpaust, ka minēto sistēmu iznākumi ir mākslīgi ģenerēti vai manipulēti, ir īpaši būtiski nolūkā veicināt Regulas (ES) 2022/2065 efektīvu īstenošanu. Tas jo īpaši attiecas uz ļoti lielu tiešsaistes platformu vai ļoti lielu tiešsaistes meklētājprogrammu nodrošinātāju pienākumiem identificēt un mazināt sistēmiskos riskus, kas var rasties no mākslīgi ģenerēta vai manipulēta satura izplatīšanas, jo īpaši iespējamību, ka radīsies faktiska vai paredzama negatīva ietekme uz demokrātiskajiem procesiem, pilsonisko diskursu un vēlēšanu procesiem, tostarp izplatot dezinformāciju. Šajā regulā noteiktā prasība marķēt MI sistēmu ģenerētu saturu neskar Regulas (ES) 2022/2065 16. panta 6. punktā noteikto pienākumu mitināšanas pakalpojumu sniedzējiem izskatīt paziņojumus par nelikumīgu saturu, kas saņemti saskaņā ar minētās regulas 16. panta 1. punktu, un tai nebūtu jāietekmē novērtējums un lēmums par konkrētā satura nelikumību. Minētais novērtējums būtu jāveic, tikai atsaucoties uz noteikumiem, kas reglamentē satura likumību.
(136)
Obveze propisane u ovoj Uredbi za dobavljače i za subjekte koji uvode određene UI sustave kako bi se omogućilo prepoznavanje i otkrivanje umjetno stvorenih ili manipuliranih izlaznih rezultata tih sustava posebno su relevantne za olakšavanje djelotvorne provedbe Uredbe (EU) 2022/2065. To se osobito odnosi na obveze pružatelja vrlo velikih internetskih platformi ili vrlo velikih internetskih tražilica da utvrde i ublaže sistemske rizike koji mogu proizaći iz širenja umjetno stvorenog ili manipuliranog sadržaja, posebno rizik od stvarnih ili predvidljivih negativnih učinaka na demokratske procese, građanski diskurs i izborne procese, među ostalim dezinformiranjem. Zahtjevom u pogledu označivanja sadržaja koji generiraju UI sustavi na temelju ove Uredbe ne dovodi se u pitanje obveza iz članka 16. stavka 6. Uredbe (EU) 2022/2065 prema kojoj pružatelji usluga smještaja informacija na poslužitelju moraju obrađivati prijave nezakonitog sadržaja zaprimljene na temelju članka 16. stavka 1. te uredbe i on ne bi trebao utjecati na procjenu i odluku o nezakonitosti određenog sadržaja. Ta bi se ocjena trebala provesti isključivo s obzirom na pravila kojima se uređuje zakonitost sadržaja.
(137)
Šajā regulā reglamentēto attiecībā uz MI sistēmām noteikto pārredzamības pienākumu izpildi nevajadzētu interpretēt kā norādi uz to, ka sistēmas vai tās iznākuma lietošana ir likumīga saskaņā ar šo regulu vai citiem Savienības un dalībvalstu tiesību aktiem, un tai nebūtu jāskar citi MI sistēmu uzturētāju pārredzamības pienākumi, kas noteikti Savienības vai valsts tiesību aktos.
(137)
Sukladnost s obvezama u pogledu transparentnosti za UI sustave obuhvaćene ovom Uredbom ne bi se trebala tumačiti kao da upućuje na to da je upotreba UI sustava ili njegovih izlaznih rezultata zakonita na temelju ove Uredbe ili drugog prava Unije i prava država članica i njome se ne bi trebale dovoditi u pitanje druge obveze u pogledu transparentnosti za subjekte koji uvode UI sustave koje su utvrđene u pravu Unije ili u nacionalnom pravu.
(138)
MI ir strauji attīstošos tehnoloģiju kopums, kam nepieciešama regulatīvā uzraudzība un droša un kontrolēta vide eksperimentēšanai, vienlaikus nodrošinot atbildīgu inovāciju un atbilstošu aizsardzības un riska mazināšanas pasākumu integrēšanu. Lai nodrošinātu inovāciju sekmējošu, nākotnes prasībām atbilstošu un pret traucējumiem noturīgu tiesisko regulējumu, dalībvalstīm būtu jānodrošina, ka to valsts kompetentās iestādes valsts līmenī izveido vismaz vienu MI “regulatīvo smilškasti” nolūkā sekmēt inovatīvu MI sistēmu izstrādi un testēšanu stingrā regulatīvā uzraudzībā, pirms šīs sistēmas laiž tirgū vai citādi nodod ekspluatācijā. Dalībvalstis šo pienākumu varētu arī izpildīt, piedaloties jau esošajās “regulatīvajās smilškastēs” vai kopīgi ar vienu vai vairākām dalībvalstu kompetentajām iestādēm izveidojot smilškasti, ciktāl šāda piedalīšanās iesaistītajām dalībvalstīm nodrošina līdzvērtīgu valsts tvēruma līmeni. MI “regulatīvās smilškastes” varētu izveidot fiziskā, digitālā vai hibrīdā formā, un tajās var ietvert gan fiziskus, gan digitālus produktus. Izveidotājām iestādēm būtu arī jānodrošina, ka MI “regulatīvajām smilškastēm” ir to darbībai pietiekami resursi, tostarp finanšu resursi un cilvēkresursi.
(138)
Umjetna inteligencija skup je tehnologija koje se vrlo brzo razvijaju, što zahtijeva regulatorni nadzor i siguran i kontroliran prostor za eksperimentiranje, pri čemu se osigurava da se inovacije razvijaju na odgovoran način te da se integriraju odgovarajuće zaštitne mjere i mjere za ublažavanje rizika. Kako bi se osigurao pravni okvir kojim se promiču inovacije te koji je spreman za buduće promjene i otporan na poremećaje, države članice trebale bi zajamčiti da njihova nacionalna nadležna tijela uspostave barem jedno regulatorno izolirano okruženje za umjetnu inteligenciju na nacionalnoj razini radi lakšeg razvoja i testiranja inovativnih UI sustava pod strogim regulatornim nadzorom prije stavljanja tih sustava na tržište ili u upotrebu. Države članice mogle bi ispuniti tu obvezu i sudjelovanjem u već postojećim regulatornim izoliranim okruženjima ili zajedničkom uspostavom izoliranog okruženja s jednim ili više nadležnih tijela država članica, u mjeri u kojoj se tim sudjelovanjem osigurava jednaka razina nacionalne pokrivenosti za države članice sudionice. Regulatorna izolirana okruženja za umjetnu inteligenciju mogla bi se uspostaviti u fizičkom, digitalnom ili hibridnom obliku te mogu uključivati fizičke i digitalne proizvode. Tijela nadležna za uspostavu regulatornih izoliranih okruženja za umjetnu inteligenciju trebala bi osigurati i da regulatorna izolirana okruženja imaju odgovarajuće resurse za njihovo funkcioniranje, uključujući financijske i ljudske resurse.
(139)
MI “regulatīvo smilškastu” mērķiem vajadzētu būt – veicināt MI inovāciju, radot kontrolētu eksperimentēšanas un testēšanas vidi izstrādes un pirmstirdzniecības posmā ar nolūku nodrošināt inovatīvu MI sistēmu atbilstību šīs regulas noteikumiem un citiem attiecīgiem Savienības un valsts tiesību aktiem. Turklāt MI regulatīvajām smilškastēm vajadzētu būt vērstām uz juridiskās noteiktības uzlabošanu novatoriem un kompetento iestāžu uzraudzību un izpratni par MI lietošanas radītajām iespējām, jauniem riskiem un ietekmi, iestādēm un uzņēmumiem atvieglot regulatīvu mācīšanos, tostarp nolūkā nākotnē pielāgot tiesisko regulējumu, atbalstīt sadarbību un paraugprakses apmaiņu ar MI “regulatīvajā smilškastē” iesaistītajām iestādēm un paātrināt piekļuvi tirgiem, tostarp novēršot šķēršļus MVU, tostarp jaunuzņēmumiem. MI “regulatīvajām smilškastēm” vajadzētu būt plaši pieejamām visā Savienībā, un īpaša uzmanība būtu jāpievērš tam, ka tām var piekļūt MVU, tostarp jaunuzņēmumi. Dalībai MI “regulatīvajā smilškastē” būtu jākoncentrējas uz jautājumiem, kas rada juridisko nenoteiktību nodrošinātājiem un potenciālajiem nodrošinātājiem, lai tie varētu ieviest inovācijas, eksperimentēt ar MI Savienībā un veicināt uz pierādījumiem balstītu regulatīvo mācīšanos. Tāpēc MI sistēmu uzraudzībai MI “regulatīvajā smilškastē” būtu jāaptver to izstrāde, apmācība, testēšana un validēšana pirms sistēmu laišanas tirgū vai nodošanas ekspluatācijā, kā arī tādu būtisku modifikāciju jēdziens un rašanās, kuru dēļ var būt nepieciešama jauna atbilstības novērtēšanas procedūra. Ja šādu MI sistēmu izstrādes un testēšanas laikā konstatēti kādi būtiski riski, būtu jāveic pienācīga risku mazināšana un, ja tas neizdodas, izstrādes un testēšanas procesu būtu jāaptur. Attiecīgā gadījumā valstu kompetentajām iestādēm, kas izveido MI “regulatīvās smilškastes”, būtu jāsadarbojas ar citām attiecīgajām iestādēm, tostarp tām, kas uzrauga pamattiesību aizsardzību, un tās varētu ļaut MI ekosistēmā iesaistīt citus dalībniekus, piemēram, valsts vai Eiropas standartizācijas organizācijas, paziņotās struktūras, testēšanas un eksperimentēšanas struktūras, pētniecības un eksperimentēšanas laboratorijas, Eiropas digitālās inovācijas centrus un attiecīgās ieinteresēto personu un pilsoniskās sabiedrības organizācijas. Lai nodrošinātu vienotu īstenošanu visā Savienībā un apjomradītus ietaupījumus, ir lietderīgi noteikt kopīgus noteikumus MI “regulatīvo smilškastu” īstenošanai un sistēmu sadarbībai starp attiecīgajām iestādēm, kuras iesaistītas “smilškastu” uzraudzībā. MI “regulatīvām smilškastēm”, kas izveidotas saskaņā ar šo regulu, nevajadzētu skart citus tiesību aktus, kas ļauj izveidot citas smilškastes, kuru mērķis ir nodrošināt atbilstību tiesību aktiem, kas nav šī regula. Attiecīgā gadījumā attiecīgajām kompetentajām iestādēm, kas atbild par šīm citām “regulatīvajām smilškastēm”, būtu jāapsver ieguvumi, ko sniedz minēto smilškastu izmantošana arī nolūkā nodrošināt MI sistēmu atbilstību šai regulai. Vienojoties valstu kompetentajām iestādēm un MI “regulatīvās smilškastes” dalībniekiem, testēšanu reālos apstākļos var veikt un uzraudzīt arī MI “regulatīvās smilškastes” ietvaros.
(139)
Ciljevi regulatornih izoliranih okruženja za umjetnu inteligenciju trebali bi biti poticanje inovacija u području umjetne inteligencije uspostavom kontroliranog okruženja za eksperimentiranje i testiranje u fazi razvoja i prije stavljanja na tržište kako bi se osigurala usklađenost inovativnih UI sustava s ovom Uredbom i drugim relevantnim pravom Unije i nacionalnim pravom. Nadalje, regulatornim izoliranim okruženjima za umjetnu inteligenciju trebalo bi nastojati povećati pravnu sigurnost za inovatore, poboljšati nadzor koji provode nadležna tijela i njihovo razumijevanje mogućnosti, novih rizika i učinaka upotrebe umjetne inteligencije, olakšati regulatorno učenje za nadležna tijela i poduzeća, među ostalim radi budućih prilagodbi pravnog okvira, poduprijeti suradnju i razmjenu primjera najbolje prakse s tijelima uključenima u regulatorno izolirano okruženje za umjetnu inteligenciju te ubrzati pristup tržištima, među ostalim uklanjanjem zapreka za MSP-ove, uključujući start-up poduzeća. Regulatorna izolirana okruženja za umjetnu inteligenciju trebala bi biti široko dostupna u cijeloj Uniji, a posebnu pozornost trebalo bi posvetiti njihovoj pristupačnosti za MSP-ove, uključujući start-up poduzeća. Sudjelovanje u regulatornom izoliranom okruženju za umjetnu inteligenciju trebalo bi biti usmjereno na pitanja koja uzrokuju pravnu nesigurnost za dobavljače i potencijalne dobavljače u pogledu inovacija, eksperimentiranja s umjetnom inteligencijom u Uniji i doprinosa regulatornom učenju utemeljenom na dokazima. Nadzor UI sustava u regulatornom izoliranom okruženju za umjetnu inteligenciju stoga bi trebao obuhvaćati njihov razvoj, treniranje, testiranje i validaciju prije stavljanja tih sustava na tržište ili u upotrebu, kao i pojam i pojavu znatne izmjene koja bi mogla zahtijevati novi postupak ocjenjivanja sukladnosti. Ako se tijekom razvoja i testiranja takvih UI sustava uoče znatni rizici, ti bi se rizici trebali smanjiti na primjeren način, a ako to nije moguće, treba se prekinuti postupak razvoja i testiranja sve dok se oni ne smanje. Nacionalna nadležna tijela koja uspostavljaju regulatorna izolirana okruženja za umjetnu inteligenciju trebala bi prema potrebi surađivati s drugim relevantnim tijelima, među ostalim s tijelima koja nadziru zaštitu temeljnih prava, i mogla bi omogućiti sudjelovanje drugih aktera iz ekosustava umjetne inteligencije, kao što su nacionalne ili europske organizacije za normizaciju, prijavljena tijela, objekti za testiranje i eksperimentiranje, laboratoriji za istraživanje i eksperimentiranje, europski centri za digitalne inovacije i relevantne organizacije dionika i organizacije civilnog društva. Radi ujednačene provedbe u cijeloj Uniji i ekonomije razmjera, primjereno je uspostaviti zajednička pravila za primjenu regulatornih izoliranih okruženja za umjetnu inteligenciju i okvir za suradnju relevantnih tijela uključenih u nadzor izoliranih okruženja. Regulatornim izoliranim okruženjima za umjetnu inteligenciju uspostavljenima na temelju ove Uredbe ne bi se trebalo dovoditi u pitanje drugo pravo kojim se omogućuje uspostava drugih izoliranih okruženja u cilju osiguravanja usklađenosti s pravom koje nije ova Uredba. Relevantna nadležna tijela zadužena za ta druga regulatorna izolirana okruženja trebala bi prema potrebi razmotriti prednosti upotrebe tih izoliranih okruženja i za potrebe osiguravanja usklađenosti UI sustavâ s ovom Uredbom. Slijedom dogovora između nacionalnih nadležnih tijela i sudionikâ u regulatornom izoliranom okruženju za umjetnu inteligenciju testiranje u stvarnim uvjetima može se također provoditi i nadzirati u okviru regulatornog izoliranog okruženja za umjetnu inteligenciju.
(140)
Šai regulai būtu jānodrošina juridiskais pamats, kas nodrošinātājiem un potenciālajiem nodrošinātājiem MI “regulatīvajā smilškastē” ļauj tikai gadījumos, kad tiek ievēroti konkrēti nosacījumi, personas datus, kas savākti citiem nolūkiem, MI “regulatīvās smilškastes” ietvaros izmantot dažu MI sistēmu izstrādei sabiedrības interesēs saskaņā ar Regulas (ES) 2016/679 6. panta 4. punktu un 9. panta 2. punkta g) apakšpunktu un Regulas (ES) 2018/1725 5., 6. un 10. pantu un neskarot Direktīvas (ES) 2016/680 4. panta 2. punktu un 10. pantu. Visi pārējie datu pārziņu pienākumi un datu subjektu tiesības saskaņā ar regulām (ES) 2016/679 un (ES) 2018/1725 un Direktīvu (ES) 2016/680 joprojām tiek piemēroti. Jo īpaši šai regulai nebūtu jānodrošina juridiskais pamats Regulas (ES) 2016/679 22. panta 2. punkta b) apakšpunkta un Regulas (ES) 2018/1725 24. panta 2. punkta b) apakšpunkta nozīmē. Nodrošinātājiem un potenciālajiem nodrošinātājiem MI “regulatīvajā smilškastē” būtu jānodrošina atbilstoši aizsardzības pasākumi un jāsadarbojas ar kompetentajām iestādēm, tostarp sekojot to norādēm un rīkojoties efektīvi un godprātīgi, lai pienācīgi mazinātu jebkādus konstatētos būtiskos riskus drošumam, veselībai un pamattiesībām, kas varētu rasties minētajā “smilškastē” veiktās izstrādes, testēšanas un eksperimentēšanas gaitā.
(140)
Ovom bi se Uredbom dobavljačima i potencijalnim dobavljačima u regulatornom izoliranom okruženju za umjetnu inteligenciju trebala osigurati pravna osnova za upotrebu osobnih podataka prikupljenih u druge svrhe za razvoj određenih UI sustava u javnom interesu u regulatornom izoliranom okruženju za umjetnu inteligenciju, samo pod određenim uvjetima, u skladu s člankom 6. stavkom 4. i člankom 9. stavkom 2. točkom (g) Uredbe (EU) 2016/679 i člancima 5., 6. i 10. Uredbe (EU) 2018/1725 te ne dovodeći u pitanje članak 4. stavak 2. i članak 10. Direktive (EU) 2016/680. I dalje se primjenjuju sve ostale obveze voditeljâ obrade podataka i prava ispitanikâ na temelju uredaba (EU) 2016/679 i (EU) 2018/1725 te Direktive (EU) 2016/680. Ovom Uredbom osobito se ne bi trebala osigurati pravna osnova u smislu članka 22. stavka 2. točke (b) Uredbe (EU) 2016/679 i članka 24. stavka 2. točke (b) Uredbe (EU) 2018/1725. Dobavljači i potencijalni dobavljači u regulatornom izoliranom okruženju za umjetnu inteligenciju trebali bi osigurati odgovarajuće zaštitne mjere i surađivati s nadležnim tijelima, među ostalim tako da slijede njihove smjernice i postupaju žurno i u dobroj vjeri kako bi se na primjeren način ublažili svi utvrđeni znatni rizici za sigurnost, zdravlje i temeljna prava koji mogu nastati tijekom razvoja, testiranja i eksperimentiranja u tom izoliranom okruženju.
(141)
Lai paātrinātu šīs regulas pielikumā uzskaitīto augsta riska MI sistēmu izstrādes un laišanas tirgū procesu, ir svarīgi, lai šādu sistēmu nodrošinātāji vai potenciāli nodrošinātāji arī varētu gūt labumu no konkrēta režīma minēto sistēmu testēšanai reālos apstākļos, nepiedaloties MI “regulatīvajā smilškastē”. Tomēr šādos gadījumos, ņemot vērā šādas testēšanas iespējamo ietekmi uz privātpersonām, būtu jānodrošina, ka ar šo regulu tiek ieviestas atbilstošas un pietiekamas garantijas un nosacījumi nodrošinātājiem vai potenciālajiem nodrošinātājiem. Šādās garantijās cita starpā būtu jāietver fizisku personu informētas piekrišanas pieprasīšana dalībai testēšanā reālos apstākļos, izņemot tiesībaizsardzības jomu, kur informētas piekrišanas iegūšana liegtu veikt MI sistēmas testēšanu. Subjektu piekrišana piedalīties šādā testēšanā saskaņā ar šo regulu atšķiras no datu subjektu piekrišanas viņu personas datu apstrādei saskaņā ar attiecīgajiem datu aizsardzības tiesību aktiem un neskar to. Ir svarīgi arī līdz minimumam samazināt riskus un dot iespēju kompetentajām iestādēm veikt uzraudzību un tāpēc pieprasīt potenciālajiem nodrošinātājiem iesniegt kompetentajai tirgus uzraudzības iestādei testēšanas plānu reālos apstākļos, reģistrēt testēšanu īpašās ES datubāzes sadaļās, ievērojot dažus ierobežotus izņēmumus, noteikt ierobežojumus attiecībā uz laikposmu, kurā testēšanu var veikt, un pieprasīt neaizsargātu personu aizsardzības papildu pasākumus, tostarp attiecībā uz personām, kas pieder pie neaizsargātām grupām, kā arī rakstisku vienošanos, kurā noteiktas potenciālo nodrošinātāju un uzturētāju lomas un pienākumi un efektīva uzraudzība, ko veic kompetents personāls, kas iesaistīts testēšanā reālos apstākļos. Turklāt ir lietderīgi paredzēt papildu aizsardzības pasākumus, lai nodrošinātu, ka MI sistēmas prognozes, ieteikumus vai lēmumus var faktiski reversēt un neņemt vērā un ka personas dati tiek aizsargāti un dzēsti, kad subjekti ir atsaukušas savu piekrišanu piedalīties testēšanā, neskarot savas Savienības datu aizsardzības tiesību aktos paredzētās datu subjektu tiesības. Attiecībā uz datu nodošanu ir arī lietderīgi paredzēt, ka dati, kas savākti un apstrādāti testēšanai reālos apstākļos, trešām valstīm būtu jānodod tikai tad, ja ir īstenoti piemēroti un piemērojami Savienības tiesību aktos paredzēti aizsardzības pasākumi, jo īpaši saskaņā ar Savienības datu aizsardzības tiesību aktos paredzētajiem personas datu nodošanas pamatiem, savukārt attiecībā uz nepersondatiem ir ieviesti atbilstoši aizsardzības pasākumi saskaņā ar Savienības tiesību aktiem, piemēram, Eiropas Parlamenta un Padomes Regulām (ES) 2022/868 (42) un (ES) 2023/2854 (43).
(141)
Kako bi se ubrzao proces razvoja i stavljanja na tržište visokorizičnih UI sustava navedenih u prilogu ovoj Uredbi, važno je da se dobavljači ili potencijalni dobavljači takvih sustava mogu služiti posebnim režimom za testiranje tih sustava u stvarnim uvjetima, bez sudjelovanja u regulatornom izoliranom okruženju za umjetnu inteligenciju. Međutim, u takvim slučajevima, uzimajući u obzir moguće posljedice takvog testiranja na pojedince, trebalo bi osigurati da se ovom Uredbom uvedu odgovarajuća i dostatna jamstva i uvjeti za dobavljače ili potencijalne dobavljače. Takva bi jamstva među ostalim trebala uključivati traženje informiranog pristanka fizičke osobe za sudjelovanje u testiranju u stvarnim uvjetima, uz iznimku tijela kaznenog progona ako bi traženje informiranog pristanka spriječilo testiranje UI sustava. Pristanak ispitanika za sudjelovanje u takvom testiranju na temelju ove Uredbe razlikuje se od privole ispitanika za obradu njihovih osobnih podataka na temelju relevantnog zakonodavstva o zaštiti podataka i njime se privola za obradu osobnih podataka ne dovodi u pitanje. Također je važno smanjiti rizike i omogućiti nadzor od strane nadležnih tijela te stoga zahtijevati od potencijalnih dobavljača da imaju plan testiranja u stvarnim uvjetima koji se podnosi nadležnom tijelu za nadzor tržišta, da registriraju testiranje u posebnim odjeljcima u bazi podataka EU-a podložno određenim ograničenim iznimkama, da utvrde ograničenja u pogledu razdoblja u kojem se testiranje može provesti i da zahtijevaju dodatne zaštitne mjere za osobe koje pripadaju određenim skupinama ranjivih osoba, kao i pisani sporazum kojim se utvrđuju uloge i odgovornosti potencijalnih dobavljača i subjekata koji uvode sustav te djelotvoran nadzor koji provodi nadležno osoblje uključeno u testiranje u stvarnim uvjetima. Nadalje, primjereno je predvidjeti dodatne zaštitne mjere kako bi se osiguralo da se predviđanja, preporuke ili odluke UI sustava mogu djelotvorno poništiti i zanemariti te da se osobni podaci zaštite i brišu ako ispitanici povuku svoj pristanak za sudjelovanje u testiranju, ne dovodeći u pitanje prava koja imaju kao ispitanici u skladu s pravom Unije o zaštiti podataka. Kad je riječ o prijenosu podataka, također je primjereno predvidjeti da bi se podaci prikupljeni i obrađeni u svrhu testiranja u stvarnim uvjetima trebali prenositi trećim zemljama samo ako se provode odgovarajuće i primjenjive zaštitne mjere na temelju prava Unije, posebno u skladu s osnovama za prijenos osobnih podataka na temelju prava Unije o zaštiti podataka, dok su za neosobne podatke uspostavljene odgovarajuće zaštitne mjere u skladu s pravom Unije, kao što su uredbe (EU) 2022/868 (42) i (EU) 2023/2854 (43) Europskog parlamenta i Vijeća.
(142)
Lai nodrošinātu, ka MI sniedz sabiedrībai un videi labvēlīgus rezultātus, dalībvalstis tiek mudinātas atbalstīt un veicināt MI risinājumu pētniecību un izstrādi, kas atbalsta sabiedrībai un videi labvēlīgus rezultātus, piemēram, uz MI balstītus risinājumus, kas vērsti uz to, lai palielinātu piekļūstamību personām ar invaliditāti, novērstu sociālekonomisko nevienlīdzību vai sasniegtu vides mērķrādītājus, piešķirot pietiekamus resursus, tostarp publisko un Savienības finansējumu, un attiecīgā gadījumā un ar noteikumu, ka ir izpildīti atbilstības un atlases kritēriji, jo īpaši apsverot projektus, kuriem ir šādi mērķi. Šādu projektu pamatā vajadzētu būt starpdisciplinārai sadarbībai starp MI izstrādātājiem un ekspertiem nevienlīdzības un nediskriminācijas, piekļūstamības, patērētāju, vides un digitālo tiesību jautājumos, kā arī akadēmiskajām aprindām.
(142)
Kako bi se osiguralo da umjetna inteligencija dovede do društveno i okolišno korisnih ishoda, države članice potiču se da podupiru i promiču istraživanje i razvoj UI rješenja kojima se podupiru ishodi korisni za društvo i okoliš, kao što su rješenja koja se temelje na umjetnoj inteligenciji za povećanje pristupačnosti za osobe s invaliditetom, uklanjanje socioekonomskih nejednakosti ili postizanje okolišnih ciljeva dodjelom dostatnih sredstava, uključujući javno financiranje i financiranje sredstvima Unije, te, prema potrebi i pod uvjetom da su ispunjeni kriteriji prihvatljivosti i odabira, posebno uzimajući u obzir projekte kojima se nastoje ostvariti takvi ciljevi. Takvi bi se projekti trebali temeljiti na načelu interdisciplinarne suradnje među razvojnim programerima umjetne inteligencije, stručnjacima za nejednakost i nediskriminaciju, pristupačnost te potrošačka, okolišna i digitalna prava te akademskom zajednicom.
(143)
Lai veicinātu un aizsargātu inovāciju, ir svarīgi īpaši ņemt vērā tādu MVU, tostarp jaunuzņēmumu intereses, kas ir MI sistēmu nodrošinātāji vai uzturētāji. Šajā nolūkā dalībvalstīm būtu jāizstrādā iniciatīvas, kas ir vērstas uz šiem operatoriem, arī saistībā ar izpratnes veicināšanu un informēšanu. Dalībvalstīm būtu jānodrošina MVU, tostarp jaunuzņēmumiem, kuriem ir juridiskā adrese vai filiāle Savienībā, prioritāru piekļuvi MI “regulatīvajām smilškastēm”, ar noteikumu, ka tie izpilda atbilstības nosacījumus un atlases kritērijus, neliedzot citiem nodrošinātājiem un potenciālajiem nodrošinātājiem piekļūt “smilškastēm”, ar noteikumu, ka ir izpildīti tie paši nosacījumi un kritēriji. Dalībvalstīm būtu jāizmanto esošie kanāli un attiecīgā gadījumā jāizveido jauni īpaši kanāli saziņai ar MVU, tostarp jaunuzņēmumiem, uzturētājiem, citiem novatoriem un vajadzības gadījumā vietējām publiskām iestādēm, lai visās izstrādes stadijās atbalstītu MVU, sniedzot norādījumus un atbildot uz jautājumiem par šīs regulas īstenošanu. Attiecīgā gadījumā šiem kanāliem būtu jāsadarbojas, lai radītu sinerģijas un nodrošinātu, ka to norādījumi MVU, tostarp jaunuzņēmumiem, un uzturētājiem ir viendabīgi. Turklāt dalībvalstīm būtu jāsekmē MVU un citu attiecīgo ieinteresēto personu līdzdalība standartizācijas izstrādes procesos. Turklāt būtu jāņem vērā nodrošinātāju, kuri ir MVU, tostarp jaunuzņēmumi, konkrētās intereses un vajadzības paziņotajām struktūrām, nosakot maksu par atbilstības novērtēšanu. Komisijai būtu regulāri jānovērtē MVU, tostarp jaunuzņēmumu, sertifikācijas un atbilstības nodrošināšanas izmaksas, izmantojot pārredzamas konsultācijas, un būtu jāstrādā kopīgi ar dalībvalstīm pie tā, lai samazinātu šādas izmaksas. Piemēram, ar obligāto dokumentāciju un saziņu ar iestādēm saistītie tulkošanas izdevumi var radīt ievērojamas izmaksas nodrošinātājiem un citiem operatoriem, jo īpaši mazākiem. Iespējams, ka dalībvalstīm vajadzētu nodrošināt, ka viena no valodām, ko tās nosaka un pieņem kā valodu attiecīgajai nodrošinātāju dokumentācijai un saziņai ar operatoriem, ir valoda, kuru plaši saprot pēc iespējas lielāks pārrobežu uzturētāju skaits. Lai ņemtu vērā MVU, tostarp jaunuzņēmumu, īpašās vajadzības, Komisijai pēc MI padomes pieprasījuma būtu jānodrošina standartizētas veidnes jomām, uz kurām attiecas šī regula. Turklāt Komisijai būtu jāpapildina dalībvalstu centieni, visiem nodrošinātājiem un uzturētājiem nodrošinot vienotu informācijas platformu ar viegli izmantojamu informāciju saistībā ar šo regulu, organizējot atbilstīgas komunikācijas kampaņas, lai palielinātu informētību par pienākumiem, kas izriet no šīs regulas, un izvērtējot un veicinot paraugprakses konverģenci publiskā iepirkuma procedūrās saistībā ar MI sistēmām. Vidējiem uzņēmumiem, kas līdz nesenam laikam tika kvalificēti kā mazie uzņēmumi Komisijas Ieteikuma 2003/361/EK (44) pielikuma nozīmē, vajadzētu būt piekļuvei minētajiem atbalsta pasākumiem, jo minētajiem jaunajiem vidējiem uzņēmumiem dažkārt var trūkt juridisko resursu un apmācības, kas vajadzīgi, lai nodrošinātu pienācīgu izpratni par šo regulu un atbilstību tai.
(143)
Kako bi se promicale i štitile inovacije, posebno je važno uzeti u obzir interese MSP-ova, među ostalima i start-up poduzeća, koji su dobavljači UI sustava ili subjekti koji ih uvode. U tom cilju bi države članice trebale osmisliti inicijative usmjerene na te operatere, među ostalim u pogledu podizanja svijesti i informiranja. Države članice trebale bi MSP-ovima, među ostalim i start-up poduzećima, koji imaju registrirano sjedište ili podružnicu u Uniji, osiguravati prioritetni pristup regulatornim izoliranim okruženjima za umjetnu inteligenciju, pod uvjetom da ispunjavaju uvjete prihvatljivosti i kriterije za odabir te da drugim dobavljačima i potencijalnim dobavljačima ne onemogućuju pristup izoliranim okruženjima pod uvjetom da su ispunjeni isti uvjeti i kriteriji. Države članice trebale bi se koristiti postojećim kanalima i, prema potrebi, uspostaviti nove namjenske kanale za komunikaciju s MSP-ovima, među ostalim i start-up poduzećima, subjektima koji uvode sustav, drugim inovatorima i, prema potrebi, lokalnim tijelima javne vlasti, radi podupiranja MSP-ova tijekom cijelog njihova razvoja pružanjem smjernica i odgovaranjem na upite o provedbi ove Uredbe. Prema potrebi, ti kanali trebali bi međusobno surađivati kako bi se stvorila sinergija i osigurala homogenost smjernica za MSP-ove, uključujući start-up poduzeća, i subjekte koji uvode sustav. Osim toga, države članice trebale bi olakšavati sudjelovanje MSP-ova i drugih relevantnih dionika u procesima razvoja normizacije. Usto, prijavljena tijela trebala bi uzeti u obzir posebne interese i potrebe dobavljača koji su MSP-ova, među ostalima i onih koji su start-up poduzeća,, kad određuju naknade za ocjenjivanje sukladnosti. Komisija bi s pomoću transparentnog savjetovanja trebala redovito ocjenjivati troškove certifikacije i usklađivanja za MSP-ove, među ostalima i za start-up poduzeća, te surađivati s državama članicama u cilju smanjenja takvih troškova. Na primjer, dobavljači i drugi operateri, posebno oni manji, mogu imati znatne troškove prijevoda obvezne dokumentacije i komunikacije s tijelima. Države članice trebale bi možda osigurati da jedan od jezika koji odrede i prihvaćaju za relevantnu dokumentaciju dobavljača i komunikaciju s operaterima bude jedan od jezika koji u velikoj mjeri razumije najveći mogući broj prekograničnih subjekata koji uvode sustav. Kako bi se odgovorilo na posebne potrebe MSP-ova, uključujući start-up poduzeća, Komisija bi na zahtjev Vijeća za umjetnu inteligenciju trebala osigurati standardizirane predloške za područja obuhvaćena ovom Uredbom. Osim toga, Komisija bi trebala dopuniti napore država članica osiguravanjem jedinstvene informacijske platforme koja pruža informacije o ovoj Uredbi jednostavne za upotrebu za sve dobavljače i subjekte koji uvode sustav, organiziranjem odgovarajućih komunikacijskih kampanja za podizanje svijesti o obvezama koje proizlaze iz ove Uredbe te evaluacijom i promicanjem konvergencije primjera najbolje prakse u postupcima javne nabave u vezi s UI sustavima. Srednja poduzeća koja su do nedavno ispunjavala uvjete za mala poduzeća u smislu Priloga Preporuci Komisije 2003/361/EZ (44) trebala bi imati pristup tim mjerama potpore jer tim novim srednjim poduzećima ponekad možda nedostaju pravni resursi i osposobljavanje potrebni za osiguravanje pravilnog razumijevanja i usklađenosti s ovom Uredbom.
(144)
Lai veicinātu un aizsargātu inovāciju, platformai “MI pēc pieprasījuma”, visām attiecīgajām Savienības finansēšanas programmām un projektiem, piemēram, programmai “Digitālā Eiropa”, “Apvārsnis Eiropa”, ko Komisija un dalībvalstis attiecīgi īsteno Savienības vai valsts līmenī, būtu jāpalīdz sasniegt šīs regulas mērķus.
(144)
Kako bi se promicale i zaštitile inovacije, ostvarivanju ciljeva ove Uredbe trebalo bi, prema potrebi, doprinositi putem platforme za umjetnu inteligenciju na zahtjev i svih relevantnih programa i projekata za financiranje sredstvima Unije, poput programa Digitalna Europa i Obzor Europa, koje provode Komisija i države članice na razini Unije ili nacionalnoj razini.
(145)
Lai minimizētu ar īstenošanu saistītos riskus, kas izriet no zināšanu un zinātības trūkuma tirgū, kā arī veicinātu nodrošinātāju, īpaši MVU, tostarp jaunuzņēmumu, un paziņoto struktūru pienākumu izpildi saskaņā ar šo regulu, platformai “MI pēc pieprasījuma”, Eiropas digitālās inovācijas centriem un testēšanas un eksperimentēšanas struktūrām, kuras Komisija un dalībvalstis izveidojušas Savienības vai valstu līmenī, būtu jāpalīdz šīs regulas īstenošanā. Platforma “MI pēc pieprasījuma”, Eiropas digitālās inovācijas centri un testēšanas un eksperimentēšanas struktūras savu attiecīgo uzdevumu un kompetences ietvaros jo īpaši spēj sniegt tehnisku un zinātnisku atbalstu nodrošinātājiem un paziņotajām struktūrām.
(145)
Kako bi se rizici za provedbu koji proizlaze iz nedostatka znanja i iskustva na tržištu sveli na najmanju moguću mjeru i kako bi se dobavljačima, posebno MSP-ovima, uključujući start-up poduzeća, i prijavljenim tijelima olakšalo ispunjavanje obveza iz ove Uredbe, provedbi ove Uredbe trebalo bi doprinositi putem platforme za umjetnu inteligenciju na zahtjev, europskih centara za digitalne inovacije te centara za testiranje i eksperimentiranje koje uspostavljaju Komisija i države članice na razini Unije ili nacionalnoj razini. U okviru svoje misije i područja nadležnosti, platforma za umjetnu inteligenciju na zahtjev, europski centri za digitalne inovacije te centri za testiranje i eksperimentiranje mogu posebno pružati tehničku i znanstvenu potporu dobavljačima i prijavljenim tijelima.
(146)
Turklāt, ņemot vērā dažu operatoru ļoti mazo lielumu un lai nodrošinātu proporcionalitāti attiecībā uz inovācijas izmaksām, ir lietderīgi ļaut mikrouzņēmumiem vienkāršotā veidā pildīt vienu no visdārgākajiem pienākumiem, proti, izveidot kvalitātes pārvaldības sistēmu, kas samazinātu administratīvo slogu un izmaksas minētajiem uzņēmumiem, neietekmējot aizsardzības līmeni un nepieciešamību ievērot augsta riska MI sistēmu prasības. Komisijai būtu jāizstrādā pamatnostādnes ar mērķi precizēt kvalitātes vadības sistēmas elementus, kas šādā vienkāršotā veidā jāpilda mikrouzņēmumiem.
(146)
Nadalje, s obzirom na vrlo malenu veličinu pojedinih operatera i kako bi se osigurala proporcionalnost u pogledu troškova inovacija, primjereno je omogućiti mikropoduzećima da ispune jednu od najskupljih obveza, a to je uspostava sustava upravljanja kvalitetom, na pojednostavnjen način, čime bi se smanjili administrativno opterećenje i troškovi za ta poduzeća, a bez utjecaja na razinu zaštite i potrebu za usklađivanjem sa zahtjevima za visokorizične UI sustave. Komisija bi trebala izraditi smjernice za određivanje elemenata sustava upravljanja kvalitetom koje mikropoduzeća moraju ispuniti na taj pojednostavnjen način.
(147)
Ir lietderīgi, ka Komisija struktūrām, grupām vai laboratorijām, kuras izveidotas vai akreditētas, ievērojot attiecīgos Savienības saskaņošanas tiesību aktus, un izpilda uzdevumus to produktu vai ierīču, uz kuriem attiecas minētie Savienības saskaņošanas tiesību akti, atbilstības novērtēšanas kontekstā, cik vien iespējams atvieglo piekļuvi testēšanas un eksperimentēšanas struktūrām. Tas jo paši attiecas uz ekspertu grupām, ekspertu laboratorijām un references laboratorijām medicīnisko ierīču jomā saskaņā ar Regulu (ES) 2017/745 un Regulu (ES) 2017/746.
(147)
Primjereno je da Komisija olakša, u mjeri u kojoj je to moguće, pristup centrima za testiranje i eksperimentiranje tijelima, skupinama ili laboratorijima uspostavljenima ili akreditiranima na temelju bilo kojeg dijela zakonodavstva Unije o usklađivanju, a koji obavljaju zadaće u kontekstu postupaka ocjenjivanja sukladnosti proizvoda ili uređaja obuhvaćenih tim zakonodavstvom Unije o usklađivanju. To se posebno odnosi na stručne skupine, stručne laboratorije i referentne laboratorije u području medicinskih proizvoda na temelju uredaba (EU) 2017/745 i (EU) 2017/746.
(148)
Šai regulai būtu jāizveido pārvaldības satvars, kas ļautu gan koordinēt, gan atbalstīt šīs regulas piemērošanu valsts līmenī, kā arī veidot spējas Savienības līmenī un integrēt ieinteresētās personas MI jomā. Lai efektīvi īstenotu un izpildītu šo regulu, ir vajadzīgs pārvaldības satvars, kas ļauj koordinēt un uzkrāt būtiskas speciālās zināšanas Savienības līmenī. MI birojs tika izveidots ar Komisijas lēmumu (45), un tā uzdevums ir attīstīt Savienības speciālās zināšanas un spējas MI jomā un veicināt Savienības tiesību aktu īstenošanu MI jomā. Dalībvalstīm būtu jāatvieglo MI biroja uzdevumu izpilde, lai atbalstītu Savienības speciālo zināšanu un spēju attīstību Savienības līmenī un stiprinātu digitālā vienotā tirgus darbību. Turklāt būtu jāizveido MI padome, kuras sastāvā būtu dalībvalstu pārstāvji, zinātniskā grupa zinātniskās kopienas integrēšanai un konsultatīvais forums, kura mērķis ir Savienības un valstu līmenī sniegt ieinteresēto personu ieguldījumu šīs regulas īstenošanā. Savienības speciālo zināšanu un spēju attīstībā būtu jāietver arī esošo resursu un speciālo zināšanu izmantošana, jo īpaši izmantojot sinerģijas ar struktūrām, kas izveidotas saistībā ar citu tiesību aktu izpildi Savienības līmenī, un sinerģijas ar saistītām iniciatīvām Savienības līmenī, piemēram, kopuzņēmumu EuroHPC un MI testēšanas un eksperimentēšanas struktūrām programmas “Digitālā Eiropa” ietvaros.
(148)
Ovom bi se Uredbom trebao uspostaviti okvir upravljanja koji omogućuje i koordinaciju primjene ove Uredbe na nacionalnoj razini i potporu primjeni ove Uredbe na nacionalnoj razini, kao i izgradnju kapaciteta na razini Unije i integraciju dionika u području umjetne inteligencije. Za djelotvornu provedbu i izvršavanje ove Uredbe potreban je okvir upravljanja koji omogućuje koordinaciju i prikupljanje središnjeg stručnog znanja na razini Unije. Ured za umjetnu inteligenciju osnovan je Odlukom Komisije (45), a njegova je zadaća razvoj stručnog znanja i sposobnosti Unije u području umjetne inteligencije te doprinos provedbi prava Unije o umjetnoj inteligenciji. Države članice trebale bi olakšati zadaće Ureda za umjetnu inteligenciju kako bi se podržao razvoj stručnog znanja i sposobnosti Unije na razini Unije te ojačalo funkcioniranje jedinstvenog digitalnog tržišta. Nadalje, trebalo bi osnovati Vijeće za umjetnu inteligenciju koje se sastoji od predstavnika država članica, znanstveno povjerenstvo za integraciju znanstvene zajednice i savjetodavni forum za doprinos dionika provedbi ove Uredbe, na razini Unije i na nacionalnoj razini. Razvoj stručnog znanja i sposobnosti Unije trebao bi uključivati i iskorištavanje postojećih resursa i stručnog znanja, posebno putem sinergije sa strukturama uspostavljenima u kontekstu provedbe drugog prava i sinergije s povezanim inicijativama na razini Unije, kao što su Zajedničko poduzeće EuroHPC i objekti za testiranje i eksperimentiranje umjetne inteligencije u okviru programa Digitalna Europa.
(149)
Lai sekmētu netraucētu, efektīvu un saskaņotu šīs regulas īstenošanu, būtu jāizveido MI padome. MI padomei būtu jāatspoguļo dažādās MI ekosistēmas intereses, un tās sastāvā vajadzētu būt dalībvalstu pārstāvjiem. MI padomei būtu jāatbild par vairākiem konsultatīviem uzdevumiem, tostarp atzinumu, ieteikumu, konsultāciju sniegšanu vai norādījumu līdzveidošanu jautājumos, kas saistīti ar šīs regulas īstenošanu, tostarp par izpildes panākšanu, tehniskajām specifikācijām vai pašreizējiem standartiem attiecībā uz šajā regulā noteiktajām prasībām, kā arī par Komisijas un dalībvalstu un to kompetento iestāžu konsultēšanu konkrētos jautājumos saistībā ar MI. Lai dalībvalstīm dotu zināmu elastību savu pārstāvju izraudzīšanā MI padomē, šādi pārstāvji var būt jebkura persona, kura pieder pie publiskām struktūrām un kurai vajadzētu būt attiecīgajām kompetencēm un pilnvarām sekmēt koordināciju valsts līmenī un veicināt MI padomes uzdevumu izpildi. MI padomei būtu jāizveido divas pastāvīgas apakšgrupas, lai nodrošinātu platformu sadarbībai un apmaiņai starp tirgus uzraudzības iestādēm un paziņojošajām iestādēm jautājumos, kas attiecīgi saistīti ar tirgus uzraudzību un paziņotajām struktūrām. Tirgus uzraudzības pastāvīgajai apakšgrupai būtu jādarbojas kā šīs regulas administratīvās sadarbības grupai (ADCO) Regulas (ES) 2019/1020 30. panta nozīmē. Saskaņā ar minētās regulas 33. pantu Komisijai būtu jāatbalsta tirgus uzraudzības pastāvīgās apakšgrupas darbības, veicot tirgus izvērtējumus vai pētījumus, jo īpaši nolūkā apzināt šīs regulas aspektus, kam nepieciešama konkrēta un steidzama koordinācija starp tirgus uzraudzības iestādēm. MI padome vajadzības gadījumā var izveidot citas pastāvīgas vai pagaidu apakšgrupas konkrētu jautājumu izskatīšanai. MI padomei attiecīgā gadījumā būtu arī jāsadarbojas ar attiecīgajām ES struktūrām, ekspertu grupām un tīkliem, kas darbojas attiecīgo ES tiesību aktu kontekstā, tostarp jo īpaši ar tiem, kas darbojas saskaņā ar attiecīgiem ES tiesību aktiem datu, digitālo produktu un pakalpojumu jomā.
(149)
Kako bi se olakšala nesmetana, djelotvorna i usklađena provedba ove Uredbe, trebalo bi osnovati Vijeće za umjetnu inteligenciju. U Vijeću za umjetnu inteligenciju trebali bi se odražavati različiti interesi ekosustava umjetne inteligencije, a trebao bi biti sastavljen od predstavnika država članica. Vijeće za umjetnu inteligenciju trebalo bi biti odgovorno za niz savjetodavnih zadaća, uključujući davanje mišljenja, preporuka i savjeta ili doprinošenje smjernicama o pitanjima povezanima s provedbom ove Uredbe, među ostalim pitanjima izvršenja, tehničkim specifikacijama ili postojećim normama povezanima sa zahtjevima ove Uredbe, te za davanje savjeta Komisiji i državama članicama te njihovim nacionalnim nadležnim tijelima u vezi sa specifičnim pitanjima povezanima s umjetnom inteligencijom. Kako bi se državama članicama pružila određena fleksibilnost u vezi s imenovanjem njihovih predstavnika u Vijeće za umjetnu inteligenciju, ti predstavnici mogu biti sve osobe koje pripadaju javnim subjektima i koje bi trebale imati odgovarajuće nadležnosti i ovlasti za olakšavanje koordinacije na nacionalnoj razini i doprinošenje ostvarivanju zadaća Vijeća za umjetnu inteligenciju. Vijeće za umjetnu inteligenciju trebalo bi osnovati dvije stalne podskupine kako bi osigurao platformu za suradnju i razmjenu između tijelâ za nadzor tržišta i tijela koja provode prijavljivanje o pitanjima koja se odnose na nadzor tržišta odnosno na prijavljena tijela. Stalna podskupina za nadzor tržišta trebala bi djelovati kao skupina za administrativnu suradnju (ADCO) za ovu Uredbu u smislu članka 30. Uredbe (EU) 2019/1020. U skladu s člankom 33. te uredbe Komisija bi trebala podupirati aktivnosti stalne podskupine za nadzor tržišta provođenjem evaluacija ili studija tržišta, osobito u cilju utvrđivanja aspekata ove Uredbe koji zahtijevaju posebnu i hitnu koordinaciju među tijelima za nadzor tržišta. Vijeće za umjetnu inteligenciju prema potrebi može osnovati druge stalne ili privremene podskupine za razmatranje specifičnih pitanja. Vijeće za umjetnu inteligenciju također bi prema potrebi trebalo surađivati s relevantnim tijelima Unije, stručnim skupinama i mrežama koje djeluju u kontekstu relevantnog prava Unije, uključujući posebno one koje djeluju na temelju relevantnog prava Unije o podacima, digitalnim proizvodima i uslugama.
(150)
Lai nodrošinātu ieinteresēto personu iesaistīšanos šīs regulas īstenošanā un piemērošanā, būtu jāizveido konsultatīvais forums ar mērķi sniegt konsultācijas un tehniskas speciālās zināšanas MI padomei un Komisijai. Lai nodrošinātu dažādu un līdzsvarotu ieinteresēto personu pārstāvību starp komerciālām un nekomerciālām interesēm un komerciālo interešu kategorijā attiecībā uz MVU un citiem uzņēmumiem, konsultatīvajā forumā cita starpā būtu jāiekļauj rūpniecība, jaunuzņēmumi, MVU, akadēmiskās aprindas, pilsoniskā sabiedrība, tostarp sociālie partneri, kā arī Pamattiesību aģentūra, ENISA, Eiropas Standartizācijas komiteja (CEN), Eiropas Elektrotehniskās standartizācijas komiteja (CENELEC) un Eiropas telesakaru standartu institūts (ETSI).
(150)
Kako bi se osiguralo sudjelovanje dionika u provedbi i primjeni ove Uredbe, trebalo bi uspostaviti savjetodavni forum radi savjetovanja Vijeća za umjetnu inteligenciju i Komisije i pružanja tehničkog stručnog znanja Vijeću za umjetnu inteligenciju i Komisiji. Kako bi se osigurala raznolika i uravnotežena zastupljenost dionika s komercijalnim i nekomercijalnim interesima te, unutar kategorije komercijalnih interesa, u pogledu MSP-ova i drugih poduzeća, savjetodavni forum trebao bi obuhvaćati, među ostalim, industriju, start-up poduzeća, MSP-ove, akademsku zajednicu, civilno društvo, uključujući socijalne partnere, kao i Agenciju za temeljna prava, ENISA-u, Europski odbor za normizaciju (CEN), Europski odbor za elektrotehničku normizaciju (CENELEC) i Europski institut za telekomunikacijske norme (ETSI).
(151)
Lai atbalstītu šīs regulas īstenošanu un izpildi, jo īpaši MI biroja uzraudzības darbības attiecībā uz vispārējas nozīmes MI modeļiem, būtu jāizveido neatkarīgu ekspertu zinātniskā grupa. Neatkarīgie eksperti, kas veido zinātnisko grupu, būtu jāizraugās, pamatojoties uz jaunākajām zinātniskajām vai tehniskajām speciālajām zināšanām MI jomā, un tiem savi uzdevumi būtu jāveic neatkarīgi un objektīvi un jānodrošina uzdevumu un darbību izpildes gaitā iegūtās informācijas un datu konfidencialitāte. Lai varētu stiprināt valstu spējas, kas vajadzīgas šīs regulas efektīvai izpildei, dalībvalstīm to izpildes darbībām vajadzētu būt iespējai lūgt atbalstu no ekspertu rezerves, kas veido zinātnisko grupu.
(151)
Kako bi se poduprli provedba i izvršavanje ove Uredbe, osobito aktivnosti praćenja koje provodi Ured za umjetnu inteligenciju u pogledu UI modelâ opće namjene, trebalo bi osnovati znanstveno povjerenstvo neovisnih stručnjaka. Neovisni stručnjaci koji čine znanstveno povjerenstvo trebali bi se birati na temelju najnovijeg znanstvenog ili tehničkog stručnog znanja u području umjetne inteligencije te bi trebali obavljati svoje zadaće nepristrano i objektivno te osigurati povjerljivost informacija i podataka dobivenih pri obavljanju svojih zadaća i aktivnosti. Kako bi se omogućilo jačanje nacionalnih kapaciteta potrebnih za djelotvorno izvršavanje ove Uredbe, države članice trebale bi za svoje aktivnosti izvršavanja moći zatražiti potporu skupine stručnjaka koji čine znanstveno povjerenstvo.
(152)
Lai atbalstītu MI sistēmu pienācīgu izpildi un stiprinātu dalībvalstu spējas, būtu jāizveido Savienības MI testēšanas atbalsta struktūras, kas būtu jādara pieejamas dalībvalstīm.
(152)
Kako bi se poduprlo odgovarajuće izvršavanje u vezi s UI sustavima i ojačali kapaciteti država članica, trebalo bi uspostaviti potporne strukture Unije za testiranje umjetne inteligencije i staviti ih na raspolaganje državama članicama.
(153)
Dalībvalstīm ir būtiska loma šīs regulas piemērošanā un izpildē. Šajā sakarā katrai dalībvalstij šīs regulas piemērošanas un īstenošanas uzraudzībai būtu jāizraugās vismaz viena paziņojošā iestāde un vismaz viena tirgus uzraudzības iestāde kā valsts kompetentās iestādes. Dalībvalstis var nolemt iecelt jebkāda veida publisku struktūru valsts kompetento iestāžu uzdevumu veikšanai šīs regulas nozīmē saskaņā ar to konkrētajām valsts organizatoriskajām iezīmēm un vajadzībām. Lai vairotu dalībvalstu organizatorisku efektivitāti un izveidotu vienotu kontaktpunktu saziņai ar sabiedrību un citiem partneriem dalībvalstu un Savienības līmenī, katrai dalībvalstij būtu jāizraugās tirgus uzraudzības iestāde, kas darbojas kā vienotais kontaktpunkts.
(153)
Države članice imaju ključnu ulogu u primjeni i izvršavanju ove Uredbe. Svaka bi država članica stoga trebala imenovati barem jedno tijelo koje provodi prijavljivanje i barem jedno tijelo za nadzor tržišta kao nacionalna nadležna tijela za potrebe nadziranja primjene i provedbe ove Uredbe. Države članice mogu odlučiti imenovati bilo koju vrstu javnog subjekta za obavljanje zadaća nacionalnih nadležnih tijela u smislu ove Uredbe, u skladu sa svojim posebnim nacionalnim organizacijskim karakteristikama i potrebama. Kako bi se povećala učinkovitost organizacije u državama članicama i uspostavila jedinstvena kontaktna točka za javne i druge partnere na razini država članica i na razini Unije, svaka bi država članica trebala imenovati tijelo za nadzor tržišta koje će djelovati kao jedinstvena kontaktna točka.
(154)
Valsts kompetentām iestādēm savas pilnvaras būtu jāīsteno neatkarīgi, objektīvi un bez aizspriedumiem, lai aizsargātu savu darbību un uzdevumu objektivitātes principus un nodrošinātu šīs regulas piemērošanu un īstenošanu. Šo iestāžu locekļiem būtu jāatturas no jebkādas rīcības, kas nav saderīga ar viņu pienākumiem, un uz viņiem būtu jāattiecina šajā regulā paredzētie konfidencialitātes noteikumi.
(154)
Ta nacionalna nadležna tijela trebala bi izvršavati svoje ovlasti neovisno, objektivno i nepristrano kako bi zaštitila načela objektivnosti svojih aktivnosti i zadaća te osigurala primjenu i provedbu ove Uredbe. Članovi tih tijela trebali bi se suzdržati od svakog djelovanja koje nije u skladu s njihovim dužnostima te bi trebali podlijegati pravilima o povjerljivosti na temelju ove Uredbe.
(155)
Lai nodrošinātu, ka augsta riska MI sistēmu nodrošinātāji pieredzi augsta riska MI sistēmu lietošanā var ņemt vērā, uzlabojot savas sistēmas un projektēšanas un izstrādes procesu, vai savlaicīgi veikt jebkādu iespējamu korektīvu darbību, visiem nodrošinātājiem būtu jāizveido pēctirgus pārraudzības sistēma. Attiecīgā gadījumā pēctirgus pārraudzībai būtu jāietver analīze par mijiedarbību ar citām MI sistēmām, tostarp citām ierīcēm un programmatūru. Pēctirgus pārraudzībai nevajadzētu attiekties uz uzturētāju, kas ir tiesībaizsardzības iestādes, sensitīviem operatīvajiem datiem. Minētā sistēma ir svarīga arī, lai varētu efektīvi un savlaicīgi novērst iespējamos riskus, kas rodas, MI sistēmām turpinot “mācīties” pēc to laišanas tirgū vai nodošanas ekspluatācijā. Šajā kontekstā būtu arī jānosaka, ka nodrošinātājiem ir jāievieš sistēma ar mērķi ziņot attiecīgajām iestādēm par to MI sistēmu lietošanas izraisītiem nopietniem incidentiem, proti, incidentu vai darbības traucējumu, kas izraisa nāvi vai nopietnu kaitējumu veselībai, nopietniem un neatgriezeniskiem kritiskās infrastruktūras pārvaldības un darbības traucējumiem, Savienības tiesību aktos pamattiesību aizsardzībai paredzēto pienākumu pārkāpumiem vai nopietnu kaitējumu īpašumam vai videi.
(155)
Kako bi se osiguralo da dobavljači visokorizičnih UI sustava mogu uzeti u obzir iskustvo stečeno korištenjem visokorizičnih UI sustava za poboljšanje svojih sustava te za proces dizajniranja i razvoja ili da mogu pravodobno poduzeti korektivne mjere, svi bi dobavljači trebali uspostaviti sustav praćenja nakon stavljanja na tržište. Ako je to relevantno, praćenje nakon stavljanja na tržište trebalo bi obuhvaćati analizu interakcije s drugim UI sustavima, uključujući druge uređaje i softver. Praćenje nakon stavljanja na tržište ne bi trebalo obuhvaćati osjetljive operativne podatke subjekata koji uvode sustav koji su tijela kaznenog progona. Taj je sustav ključan i za učinkovitije i pravodobnije poduzimanje mjera povezanih s mogućim rizicima od UI sustava koji „uče” i nakon što su stavljeni na tržište ili u upotrebu. U tom bi kontekstu od dobavljača trebalo također zahtijevati da uspostave sustav za prijavljivanje relevantnim tijelima svih ozbiljnih incidenata koji su posljedica korištenja njihovih UI sustava, odnosno incidenta ili neispravnosti koji dovode do smrti ili teške štete za zdravlje, ozbiljnih i nepovratnih poremećaja u upravljanju kritičnom infrastrukturom i njezinu radu, povreda obveza na temelju prava Unije namijenjenih zaštiti temeljnih prava ili teške štete za imovinu ili okoliš.
(156)
Lai nodrošinātu šajā regulā, kas ir Savienības saskaņošanas tiesību akts, noteikto prasību un pienākumu pienācīgu un iedarbīgu izpildi, ar Regulu (ES) 2019/1020 izveidotā tirgus uzraudzības un produktu atbilstības sistēma būtu jāpiemēro pilnībā. Tirgus uzraudzības iestādēm, kas izraudzītas, ievērojot šo regulu, vajadzētu būt visām izpildes pilnvarām, kas paredzētas šajā regulā un Regulā (ES) 2019/1020, un tām būtu jāīsteno savas pilnvaras un jāveic savi pienākumi neatkarīgi, objektīvi un bez aizspriedumiem. Lai gan uz lielāko daļu MI sistēmu neattiecas konkrētas prasības un pienākumi, kas paredzēti šajā regulā, tirgus uzraudzības iestādes var veikt pasākumus attiecībā uz visām MI sistēmām, ja tās saskaņā ar šo regulu rada risku. Ņemot vērā šīs regulas piemērošanas jomā ietilpstošo Savienības iestāžu, aģentūru un struktūru konkrēto raksturu, ir lietderīgi izraudzīties Eiropas Datu aizsardzības uzraudzītāju par to kompetento tirgus uzraudzības iestādi. Tam nebūtu jāskar valsts kompetento iestāžu izraudzīšanās, ko veic dalībvalstis. Tirgus uzraudzības darbībām nevajadzētu ietekmēt uzraudzīto vienību spēju neatkarīgi veikt savus uzdevumus, ja šāda neatkarība ir prasīta Savienības tiesību aktos.
(156)
Kako bi se osiguralo odgovarajuće i djelotvorno izvršavanje zahtjeva i obveza utvrđenih u ovoj Uredbi, koja je zakonodavstvo Unije o usklađivanju, u cijelosti bi se trebao primjenjivati sustav nadzora tržišta i sukladnosti proizvoda uspostavljen Uredbom (EU) 2019/1020. Tijela za nadzor tržišta imenovana na temelju ove Uredbe trebala bi imati sve ovlasti izvršavanja utvrđene u ovoj Uredbi i u Uredbi (EU) 2019/1020 i svoje bi ovlasti i dužnosti trebala izvršavati neovisno, objektivno i nepristrano. Iako većina UI sustava ne podliježe posebnim zahtjevima i obvezama na temelju ove Uredbe, tijela za nadzor tržišta mogu poduzeti mjere u vezi sa svim UI sustavima kada oni predstavljaju rizik u skladu s ovom Uredbom. Zbog specifične prirode institucija, agencija i tijela Unije obuhvaćenih područjem primjene ove Uredbe primjereno je za njih imenovati Europskog nadzornika za zaštitu podataka tijelom nadležnim za nadzor tržišta. Time se ne bi trebalo dovoditi u pitanje imenovanje nacionalnih nadležnih tijela koje provode države članice. Aktivnosti nadzora tržišta ne bi trebale utjecati na sposobnost nadziranih subjekata da neovisno obavljaju svoje zadaće kada se takva neovisnost zahtijeva pravom Unije.
(157)
Šī regula neskar to attiecīgo valsts publisku iestāžu vai struktūru kompetenci, uzdevumus, pilnvaras un neatkarību, kuras uzrauga Savienības tiesību aktu, kas aizsargā pamattiesības, piemērošanu, tostarp līdztiesības struktūru un datu aizsardzības iestāžu kompetenci, uzdevumus, pilnvaras un neatkarību. Kad tas nepieciešams to pilnvaru īstenošanai, minētajām valstu publiskām iestādēm vai struktūrām vajadzētu būt arī piekļuvei jebkādai dokumentācijai, kas sagatavota saskaņā ar šo regulu. Būtu jānosaka konkrēta drošības procedūra, lai nodrošinātu pienācīgu un savlaicīgu izpildi attiecībā uz MI sistēmām, kas rada risku veselībai, drošībai un pamattiesībām. Procedūra attiecībā uz šādām MI sistēmām, kas rada risku, būtu jāpiemēro augsta riska MI sistēmām, kas rada risku, aizliegtām sistēmām, kas laistas tirgū, nodotas ekspluatācijā vai izmantotas, pārkāpjot šajā regulā noteikto aizliegto praksi, un MI sistēmām, kas darītas pieejamas, pārkāpjot šajā regulā noteiktās pārredzamības prasības, un rada risku.
(157)
Ovom se Uredbom ne dovode u pitanje nadležnosti, zadaće, ovlasti i neovisnost relevantnih nacionalnih tijela javne vlasti ili javnih tijela koja nadziru primjenu prava Unije o zaštiti temeljnih prava, uključujući tijela za ravnopravnost i tijela za zaštitu podataka. Ako je to potrebno za njihov mandat, ta nacionalna tijela javne vlasti ili javna tijela trebala bi također imati pristup svoj dokumentaciji izrađenoj na temelju ove Uredbe. Trebalo bi utvrditi poseban zaštitni postupak kako bi se osiguralo adekvatno i pravodobno izvršavanje u pogledu UI sustava koji predstavljaju rizik za zdravlje, sigurnost i temeljna prava. Postupak za takve UI sustave koji predstavljaju rizik trebao bi se primjenjivati na visokorizične UI sustave koji predstavljaju rizik, zabranjene sustave koji su stavljeni na tržište, stavljeni u upotrebu ili se upotrebljavaju protivno odredbama o zabranjenim praksama iz ove Uredbe i na UI sustave koji su stavljeni na raspolaganje protivno odredbama o zahtjevima u pogledu transparentnosti iz ove Uredbe i koji predstavljaju rizik.
(158)
Savienības tiesību akti finanšu pakalpojumu jomā ietver iekšējās pārvaldes un riska pārvaldības noteikumus un prasības, kas attiecas uz regulētām finanšu iestādēm minēto pakalpojumu sniegšanas gaitā, arī tad, kad tās lieto MI sistēmas. Lai nodrošinātu šajā regulā noteikto pienākumu un Savienības finanšu pakalpojumu tiesību aktu attiecīgo noteikumu un prasību saskaņotu piemērošanu un izpildi, par minēto tiesību aktu uzraudzību un izpildi kompetentās iestādes, jo īpaši tās kompetentās iestādes, kas definētas Eiropas Parlamenta un Padomes Regulā (ES) Nr. 575/2013 (46) un Eiropas Parlamenta un Padomes Direktīvās 2008/48/EK (47), 2009/138/EK (48), 2013/36/ES (49), 2014/17/ES (50) un (ES) 2016/97 (51), savas attiecīgās kompetences ietvaros būtu jāizraugās par kompetentajām iestādēm šīs regulas īstenošanas uzraudzībai, tostarp tirgus uzraudzības darbībām, attiecībā uz MI sistēmām, kuras nodrošina vai izmanto regulētas un uzraudzītas finanšu iestādes, ja vien dalībvalstis nenolemj izraudzīties citu iestādi šo tirgus uzraudzības uzdevumu izpildei. Minētajām kompetentajām iestādēm vajadzētu būt visām pilnvarām, kas paredzētas šajā regulā un Regulā (ES) 2019/1020, lai izpildītu šajā regulā noteiktās prasības un pienākumus, tostarp pilnvarām veikt ex post tirgus uzraudzības darbības, kuras attiecīgā gadījumā var integrēt to esošajos uzraudzības mehānismos un procedūrās, kā paredzēts attiecīgajos Savienības tiesību aktos finanšu pakalpojumu jomā. Ir lietderīgi paredzēt, ka, pildot tirgus uzraudzības iestādes pienākumus, kā tas paredzēts šajā regulā, valstu iestādēm, kas atbild par to kredītiestāžu uzraudzību, kuras tiek regulētas ar Direktīvu 2013/36/ES un kuras piedalās vienotajā uzraudzības mehānismā, kas izveidots ar Padomes Regulu (ES) Nr. 1024/2013 (52), būtu nekavējoties jāziņo Eiropas Centrālajai bankai visa tirgus uzraudzības darbību gaitā identificētā informācija, kas varētu būt noderīga Eiropas Centrālās bankas prudenciālās uzraudzības uzdevumu veikšanai, kā noteikts minētajā regulā. Lai vēl vairāk uzlabotu saskaņotību starp šo regulu un noteikumiem, kuri attiecas uz kredītiestādēm, ko regulē Direktīva 2013/36/ES, ir arī lietderīgi dažus nodrošinātāju procesuālos pienākumus saistībā ar riska pārvaldību, pēctirgus pārraudzību un dokumentāciju integrēt pašreizējos pienākumos un procedūrās, kas noteiktas Direktīvā 2013/36/ES. Lai novērstu pārklāšanos, būtu jāparedz arī ierobežotas atkāpes attiecībā uz nodrošinātāju kvalitātes vadības sistēmu un pārraudzības pienākumu, kas noteikts augsta riska MI sistēmu uzturētājiem, ciktāl tie attiecas uz kredītiestādēm, ko regulē Direktīva 2013/36/ES. Tas pats režīms būtu jāpiemēro apdrošināšanas un pārapdrošināšanas sabiedrībām un apdrošināšanas pārvaldītājsabiedrībām saskaņā ar Direktīvu 2009/138/EK un apdrošināšanas starpniekiem saskaņā ar Direktīvu (ES) 2016/97, kā arī cita veida finanšu iestādēm, uz kurām attiecas prasības par iekšējo pārvaldi, mehānismiem vai procesiem, kas noteiktas, ievērojot attiecīgos Savienības tiesību aktus finanšu pakalpojumu jomā, lai nodrošinātu konsekvenci un vienlīdzīgu attieksmi finanšu nozarē.
(158)
Pravo Unije o financijskim uslugama uključuje pravila i zahtjeve o unutarnjem upravljanju i upravljanju rizikom koji se primjenjuju na regulirane financijske institucije pri pružanju tih usluga, među ostalim kad upotrebljavaju UI sustave. Kako bi se osigurala dosljedna primjena i izvršavanje obveza iz ove Uredbe te relevantnih pravila i zahtjeva iz pravnih akata Unije o financijskim uslugama, nadležna tijela odgovorna za nadzor i izvršavanje tih pravnih akata, posebno nadležna tijela kako su definirana u Uredbi (EU) br. 575/2013 Europskog parlamenta i Vijeća (46) i direktivama 2008/48/EZ (47), 2009/138/EZ (48), 2013/36/EU (49), 2014/17/EU (50) i (EU) 2016/97 (51) Europskog parlamenta i Vijeća, trebala bi biti imenovana, u okviru vlastitih nadležnosti, nadležnim tijelima za potrebe nadziranja provedbe ove Uredbe, među ostalim i za aktivnosti nadzora tržišta, kad je riječ o UI sustavima koje pružaju ili upotrebljavaju financijske institucije koje su regulirane i pod nadzorom, osim ako države članice odluče za obavljanje tih zadaća nadzora tržišta imenovati drugo tijelo. Ta bi nadležna tijela trebala imati sve ovlasti na temelju ove Uredbe i Uredbe (EU) 2019/1020 za izvršavanje zahtjeva i obveza iz ove Uredbe, uključujući ovlasti za provođenje ex post aktivnosti nadzora tržišta koje se prema potrebi mogu integrirati u njihove postojeće nadzorne mehanizme i postupke na temelju relevantnog prava Unije o financijskim uslugama. Primjereno je predvidjeti da bi, kada djeluju kao tijela za nadzor tržišta na temelju ove Uredbe, nacionalna tijela odgovorna za nadziranje kreditnih institucija reguliranih Direktivom 2013/36/EU, koja sudjeluju u jedinstvenom nadzornom mehanizmu uspostavljenom Uredbom Vijeća (EU) br. 1024/2013 (52), trebala bez odgode izvijestiti Europsku središnju banku o svim informacijama utvrđenima tijekom njihovih aktivnosti nadzora tržišta koje bi mogle biti od interesa za zadaće bonitetnog nadzora Europske središnje banke navedene u toj uredbi. Kako bi se dodatno poboljšala usklađenost između ove Uredbe i pravila koja se primjenjuju na kreditne institucije regulirane Direktivom 2013/36/EU, također je primjereno integrirati neke od postupovnih obveza dobavljača povezanih s upravljanjem rizikom, praćenjem nakon stavljanja na tržište i vođenjem dokumentacije u postojeće obveze i postupke na temelju Direktive 2013/36/EU. Kako bi se izbjegla preklapanja, trebalo bi predvidjeti i ograničena odstupanja u pogledu sustava dobavljača za upravljanje kvalitetom i obveze praćenja za subjekte koji uvode visokorizične UI sustave u mjeri u kojoj se primjenjuju na kreditne institucije regulirane Direktivom 2013/36/EU. Isti bi se režim trebao primjenjivati na društva za osiguranje i reosiguranje i osigurateljne holdinge na temelju Direktive 2009/138/EZ i posrednike u osiguranju na temelju Direktive (EU) 2016/97 te na druge vrste financijskih institucija koje podliježu zahtjevima u pogledu unutarnjeg upravljanja, aranžmana ili postupaka uspostavljenih na temelju relevantnog prava Unije o financijskim uslugama kako bi se osigurala dosljednost i jednako postupanje u financijskom sektoru.
(159)
Katrai šīs regulas pielikumā uzskaitītajai augsta riska MI sistēmu tirgus uzraudzības iestādei biometrijas jomā, ciktāl minētās sistēmas tiek izmantotas tiesībaizsardzības, migrācijas, patvēruma un robežkontroles pārvaldības vai tiesvedības un demokrātisko procesu nolūkos, vajadzētu būt efektīvām izmeklēšanas un korektīvām pilnvarām, tostarp vismaz pilnvarām iegūt piekļuvi visiem apstrādātajiem personas datiem un visai informācijai, kas vajadzīga tās uzdevumu izpildei. Tirgus uzraudzības iestādēm vajadzētu būt iespējai īstenot savas pilnvaras, rīkojoties pilnīgi neatkarīgi. Jebkuram ierobežojumam, kas attiecas uz to piekļuvi sensitīviem operatīvajiem datiem saskaņā ar šo regulu, nevajadzētu skart pilnvaras, kas tām piešķirtas ar Direktīvu (ES) 2016/680. Nevienam izņēmumam, kas attiecas uz datu izpaušanu valsts datu aizsardzības iestādēm saskaņā ar šo regulu, nevajadzētu ietekmēt minēto iestāžu pašreizējās vai turpmākās pilnvaras ārpus šīs regulas piemērošanas jomu.
(159)
Svako tijelo za nadzor tržišta za visokorizične UI sustave u području biometrije, kako je navedeno u prilogu ovoj Uredbi, u mjeri u kojoj se ti sustavi upotrebljavaju u svrhu kaznenog progona, migracija, azila i upravljanja nadzorom državne granice ili za sudovanje i demokratske procese, trebalo bi imati djelotvorne istražne i korektivne ovlasti, uključujući barem ovlast za dobivanje pristupa svim osobnim podacima koji se obrađuju i svim informacijama potrebnima za obavljanje svojih zadaća. Tijela za nadzor tržišta trebala bi moći izvršavati svoje ovlasti potpuno neovisno. Bilo kakvim ograničenjima njihova pristupa osjetljivim operativnim podacima na temelju ove Uredbe ne bi se trebale dovoditi u pitanje ovlasti koje su im dodijeljene Direktivom (EU) 2016/680. Nijedno isključenje otkrivanja podataka nacionalnim tijelima za zaštitu podataka na temelju ove Uredbe ne bi trebalo utjecati na aktualne ili buduće ovlasti tih tijela izvan područja primjene ove Uredbe.
(160)
Tirgus uzraudzības iestādēm un Komisijai vajadzētu būt iespējai ierosināt kopīgas darbības, tostarp kopīgas izmeklēšanas, kas jāveic tirgus uzraudzības iestādēm vai tirgus uzraudzības iestādēm kopā ar Komisiju, nolūkā veicināt atbilstību, konstatēt neatbilstību, uzlabot informētību un sniegt norādījumus saistībā ar šo regulu attiecībā uz konkrētām augsta riska MI sistēmu kategorijām, par kurām konstatēts, ka tās rada nopietnu risku divās vai vairāk dalībvalstīs. Kopīgas darbības nolūkā veicināt atbilstību būtu jāveic saskaņā ar Regulas (ES) 2019/1020 9. pantu. MI birojam būtu jānodrošina kopīgās izmeklēšanas centrāla koordinācija.
(160)
Tijela za nadzor tržišta i Komisija trebali bi moći predložiti zajedničke aktivnosti, uključujući zajedničke istrage, koje trebaju provoditi tijela za nadzor tržišta ili tijela za nadzor tržišta zajedno s Komisijom, a čiji je cilj promicanje sukladnosti, utvrđivanje nesukladnosti, podizanje svijesti i pružanje smjernica u vezi s ovom Uredbom u pogledu specifičnih kategorija visokorizičnih UI sustava za koje je utvrđeno da predstavljaju ozbiljan rizik u dvjema ili više država članica. Zajedničke aktivnosti u cilju promicanja sukladnosti trebale bi se provoditi u skladu s člankom 9. Uredbe (EU) 2019/1020. Ured za umjetnu inteligenciju trebao bi pružati koordinacijsku potporu za zajedničke istrage.
(161)
Savienības un valstu līmenī ir jāprecizē pienākumi un kompetences attiecībā uz MI sistēmām, kas balstās uz vispārīga lietojuma MI modeļiem. Lai izvairītos no kompetenču pārklāšanās gadījumos, kad MI sistēma balstās uz vispārīga lietojuma MI modeli un šā modeļa un sistēmas nodrošināšanu veic viens un tas pats nodrošinātājs, uzraudzībai būtu jānotiek Savienības līmenī ar MI biroja starpniecību, kuram šajā nolūkā vajadzētu būt tirgus uzraudzības iestādes pilnvarām Regulas (ES) 2019/1020 nozīmē. Visos pārējos gadījumos valstu tirgus uzraudzības iestādes saglabā atbildību par MI sistēmu uzraudzību. Tomēr attiecībā uz vispārīga lietojuma MI sistēmām, kuras uzturētāji var tieši izmantot vismaz vienam nolūkam, kas ir klasificēts kā augsta riska nolūks, tirgus uzraudzības iestādēm būtu jāsadarbojas ar MI biroju, lai veiktu atbilstības izvērtēšanu un attiecīgi informētu padomi un citas tirgus uzraudzības iestādes. Turklāt tirgus uzraudzības iestādēm vajadzētu būt iespējai pieprasīt palīdzību no MI biroja, ja tirgus uzraudzības iestāde nespēj pabeigt izmeklēšanu attiecībā uz augsta riska MI sistēmu, jo tā nevar piekļūt noteiktai informācijai, kas ir saistīta ar vispārīga lietojuma MI modeli, uz kuru balstās augsta riska MI sistēma. Tādos gadījumos mutatis mutandis būtu jāpiemēro Regulas (ES) 2019/1020 VI nodaļas procedūra attiecībā uz savstarpējo palīdzību pārrobežu lietās.
(161)
Potrebno je pojasniti odgovornosti i nadležnosti na razini Unije i na nacionalnoj razini u pogledu UI sustava koji se temelje na UI modelima opće namjene. Kako bi se izbjeglo preklapanje nadležnosti, ako se UI sustav temelji na UI modelu opće namjene, a model i sustav osigurava isti dobavljač, nadzor bi se trebao provoditi na razini Unije putem Ureda za umjetnu inteligenciju, koji bi u tu svrhu trebao imati ovlasti tijela za nadzor tržišta u smislu Uredbe (EU) 2019/1020. U svim ostalim slučajevima nacionalna tijela za nadzor tržišta i dalje su odgovorna za nadzor UI sustavâ. Međutim, kad je riječ o UI sustavima opće namjene koje subjekti koji uvode UI sustav mogu izravno upotrebljavati u barem jednu svrhu koja je klasificirana kao visokorizična, tijela za nadzor tržišta trebala bi surađivati s Uredom za umjetnu inteligenciju na provedbi evaluacija usklađenosti te o tome obavijestiti Vijeće za umjetnu inteligenciju i druga tijela za nadzor tržišta. Nadalje, tijela za nadzor tržišta trebala bi moći zatražiti pomoć od Ureda za umjetnu inteligenciju ako tijelo za nadzor tržišta ne može zaključiti istragu visokorizičnog UI sustava zbog toga što ne može pristupiti određenim informacijama povezanima s UI modelom opće namjene na kojem je izgrađen visokorizični UI sustav. U takvim bi se slučajevima postupak u pogledu uzajamne pomoći u prekograničnim slučajevima iz poglavlja VI. Uredbe (EU) 2019/1020 trebao primjenjivati mutatis mutandis.
(162)
Lai pēc iespējas labāk izmantotu Savienības centralizētās speciālās zināšanas un sinerģijas Savienības līmenī, Komisijas kompetencē vajadzētu būt vispārīga lietojuma MI modeļu nodrošinātāju uzraudzībai un izpildes pilnvarām. MI birojam vajadzētu būt iespējai veikt visas nepieciešamās darbības, lai pārraudzītu šīs regulas efektīvu īstenošanu attiecībā uz vispārīga lietojuma MI modeļiem. Tai vajadzētu būt iespējai izmeklēt iespējamus vispārīga lietojuma MI modeļu nodrošinātāju noteikumu pārkāpumus gan pēc savas iniciatīvas, ņemot vērā pārraudzības darbību rezultātus, gan pēc tirgus uzraudzības iestāžu pieprasījuma saskaņā ar šajā regulā izklāstītajiem nosacījumiem. Lai atbalstītu MI biroja efektīvu pārraudzību, tai vajadzētu paredzēt iespēju lejasposma nodrošinātājiem iesniegt sūdzības par iespējamiem to noteikumu pārkāpumiem, kas attiecas uz vispārīga lietojuma MI modeļu un sistēmu nodrošinātājiem.
(162)
Kako bi se na razini Unije na najbolji način iskoristilo centralizirano stručno znanje i sinergija Unije, ovlasti nadzora i izvršavanja obveza dobavljača UI modela opće namjene trebale bi biti u nadležnosti Komisije.. Ured za umjetnu inteligenciju trebao bi moći provoditi sve potrebne mjere za praćenje djelotvorne provedbe ove Uredbe u pogledu UI modela opće namjene. Trebao bi moći istražiti moguće povrede pravila o dobavljačima UI modela opće namjene na vlastitu inicijativu, na temelju rezultata svojih aktivnosti praćenja ili na zahtjev tijelâ za nadzor tržišta u skladu s uvjetima utvrđenima u ovoj Uredbi. Kako bi se poduprlo djelotvorno praćenje koje provodi Ured za umjetnu inteligenciju, trebalo bi predvidjeti mogućnost da dobavljači niže u lancu podnose pritužbe o mogućim povredama pravila o dobavljačima UI modelâ i sustavâ opće namjene.
(163)
Lai papildinātu vispārīga lietojuma MI modeļu pārvaldības sistēmas, zinātniskajai grupai būtu jāatbalsta MI biroja pārraudzības darbības un atsevišķos gadījumos tā var MI birojam sniegt kvalificētus brīdinājumus, kuri izraisa turpmākus pasākumus, piemēram, izmeklēšanu. Tam būtu jāattiecas uz gadījumiem, kad zinātniskajai grupai ir pamats aizdomām, ka vispārīga lietojuma MI modelis rada konkrētu un identificējamu risku Savienības līmenī. Turklāt tam būtu jāattiecas uz gadījumiem, kad zinātniskajai grupai ir pamats aizdomām, ka vispārīga lietojuma MI modelis atbilst kritērijiem, kuru dēļ tas tiktu klasificēts kā vispārīga lietojuma MI modelis ar sistēmisku risku. Lai zinātniskajai grupai sniegtu informāciju, kas vajadzīga minēto uzdevumu izpildei, būtu jāparedz mehānisms, saskaņā ar kuru zinātniskā grupa var pieprasīt Komisijai, lai tā pieprasa dokumentāciju vai informāciju no nodrošinātāja.
(163)
Kako bi se dopunili sustavi upravljanja za UI modele opće namjene, znanstveno povjerenstvo trebalo bi podupirati aktivnosti praćenja koje provodi Ured za umjetnu inteligenciju i može, u određenim slučajevima, Uredu za umjetnu inteligenciju dostaviti kvalificirana upozorenja kojima se pokreću daljnje mjere, kao što su istrage. To bi trebao biti slučaj kada znanstveno povjerenstvo ima razloga sumnjati da UI model opće namjene predstavlja konkretan i utvrdiv rizik na razini Unije. Nadalje, to bi trebao biti slučaj kada znanstveno povjerenstvo ima razloga sumnjati da UI model opće namjene ispunjava kriterije koji bi doveli do toga da ga se klasificira kao UI model opće namjene sa sistemskim rizikom. Kako bi znanstveno povjerenstvo dobilo informacije potrebne za obavljanje tih zadaća, trebao bi postojati mehanizam kojim ono može zatražiti od Komisije da od dobavljača zatraži dokumentaciju ili informacije.
(164)
MI birojam vajadzētu būt iespējai veikt nepieciešamās darbības, lai pārraudzītu šajā regulā noteikto vispārīga lietojuma MI modeļu nodrošinātāju pienākumu efektīvu īstenošanu un izpildi. MI birojam vajadzētu būt iespējai izmeklēt iespējamos pārkāpumus saskaņā ar šajā regulā paredzētajām pilnvarām, tostarp, pieprasot dokumentāciju un informāciju, veicot izvērtēšanu, kā arī pieprasot vispārīga lietojuma MI modeļu nodrošinātājiem veikt pasākumus. Veicot izvērtēšanu, nolūkā izmantot neatkarīgas speciālās zināšanas, MI birojam vajadzētu būt iespējai piesaistīt neatkarīgus ekspertus, lai tie veiktu izvērtēšanu tā vārdā. Atbilstība pienākumiem būtu jāpanāk, cita starpā pieprasot veikt pienācīgus pasākumus, tostarp riska mazināšanas pasākumus identificēto sistēmisko risku gadījumā, kā arī ierobežojot modeļa pieejamību tirgū, to izņemot vai atsaucot no tirgus. Drošības nolūkā, vajadzības gadījumā pārsniedzot šajā regulā paredzētās procesuālās tiesības, vispārīga lietojuma MI modeļu nodrošinātājiem vajadzētu būt Regulas (ES) 2019/1020 18. pantā paredzētajām procesuālajām tiesībām, kas mutatis mutandis būtu jāpiemēro, neskarot konkrētākas šajā regulā paredzētās procesuālās tiesības.
(164)
Ured za umjetnu inteligenciju trebao bi moći poduzeti potrebne mjere za praćenje djelotvorne provedbe i ispunjavanja obveza dobavljača UI modelâ opće namjene koje su utvrđene u ovoj Uredbi. Ured za umjetnu inteligenciju trebao bi moći istražiti moguće povrede u skladu s ovlastima predviđenima u ovoj Uredbi, među ostalim traženjem dokumentacije i informacija, provođenjem evaluacija i zahtijevanjem od dobavljača UI modela opće namjene da provede mjere. Kako bi se iskoristilo neovisno stručno znanje, pri provedbi evaluacija Ured za umjetnu inteligenciju trebao bi moći uključiti neovisne stručnjake da provedu evaluacije u njegovo ime. Usklađenost s obvezama trebala bi biti izvršiva, među ostalim, s pomoću zahtjevâ za poduzimanje odgovarajućih mjera, među ostalim i mjera za ublažavanje rizika u slučaju utvrđenih sistemskih rizika, kao i ograničavanja stavljanja na raspolaganje na tržištu, povlačenja ili opoziva modela. Kao zaštitna mjera, ako je to potrebno izvan okvira postupovnih prava predviđenih u ovoj Uredbi, dobavljači UI modela opće namjene trebali bi imati postupovna prava predviđena u članku 18. Uredbe (EU) 2019/1020, koji bi se trebao primjenjivati mutatis mutandis, ne dovodeći u pitanje specifičnija postupovna prava predviđena ovom Uredbom.
(165)
Tādu MI sistēmu, kas nav augsta riska MI sistēmas, izstrāde saskaņā ar šīs regulas prasībām varētu izraisīt ētiska un uzticama mākslīgā intelekta plašāku ieviešanu Savienībā. Tādu MI sistēmu, kas nav augsta riska sistēmas, nodrošinātāji būtu jāmudina izstrādāt rīcības kodeksus, tostarp saistītus pārvaldības mehānismus, kuru mērķis būtu veicināt dažu vai visu augsta riska MI sistēmām piemērojamo obligāto prasību brīvprātīgu piemērošanu, kuras pielāgotas, ņemot vērā sistēmu paredzēto nolūku un saistīto zemāko risku, kā arī ņemot vērā pieejamos tehniskos risinājumus un nozares paraugpraksi, piemēram, modeļus un datu kartes. Tāpat visus MI sistēmu – neatkarīgi no tā, vai tās ir vai nav augsta riska sistēmas,– un MI modeļu uzturētājus un attiecīgā gadījumā ieviesējus būtu jāmudina brīvprātīgi piemērot papildu prasības, kas ir saistītas, piemēram, ar elementiem Savienības ētikas vadlīnijās uzticamam MI, ar vides ilgtspēju, MI pratības pasākumiem, iekļaujošu un daudzveidīgu MI sistēmu projektēšanu un izstrādi, tostarp pievēršot uzmanību neaizsargātām personām un pieejamībai personām ar invaliditāti, ar ieinteresēto personu līdzdalību, attiecīgā gadījumā MI sistēmu projektēšanā un izstrādē iesaistot attiecīgās ieinteresētās personas, piemēram, uzņēmēju un pilsoniskās sabiedrības organizācijas, akadēmiskās aprindas, pētniecības organizācijas, arodbiedrības un patērētāju aizsardzības organizāciju, un ar daudzveidību, tostarp dzimumu līdzsvaru izstrādes komandās. Lai nodrošinātu brīvprātīgo rīcības kodeksu efektivitāti, to pamatā vajadzētu būt skaidriem mērķiem un galvenajiem snieguma rādītājiem, lai izmērītu minēto mērķu sasniegšanu. Attiecīgā gadījumā tie būtu jāizstrādā arī iekļaujošā veidā, iesaistot attiecīgās ieinteresētās personas, piemēram, uzņēmēju un pilsoniskās sabiedrības organizācijas, akadēmiskās aprindas, pētniecības organizācijas, arodbiedrības un patērētāju aizsardzības organizāciju. Komisija var izstrādāt iniciatīvas, tostarp nozaru iniciatīvas, ar mērķi veicināt tādu tehnisko šķēršļu mazināšanu, kuri kavē pārrobežu datu apmaiņu MI izstrādei, tostarp par datu piekļuves infrastruktūru un dažādu veidu datu semantisko un tehnisko savietojamību.
(165)
Razvoj UI sustava koji nisu visokorizični u skladu sa zahtjevima ove Uredbe može dovesti do šire primjene etične i pouzdane umjetne inteligencije u Uniji. Dobavljače UI sustava koji nisu visokorizični trebalo bi poticati na izradu kodeksâ ponašanja, uključujući povezane mehanizme upravljanja, namijenjenih poticanju dobrovoljne primjene nekih ili svih obveznih zahtjeva koji se primjenjuju na visokorizične UI sustave, prilagođenih namjeni sustava i manjem riziku te uzimajući u obzir dostupna tehnička rješenja i najbolje industrijske prakse kao što su kartice modela i podatkovne kartice. Dobavljače i, prema potrebi, subjekte koji uvode sve UI sustave, bez obzira na to jesu li visokorizični, i UI modele trebalo bi također poticati da dobrovoljno primjenjuju dodatne zahtjeve koji se odnose, na primjer, na elemente Etičkih smjernica Unije za pouzdanu umjetnu inteligenciju, okolišnu održivost, mjere pismenosti u području umjetne inteligencije, uključiv i raznolik dizajn i razvoj UI sustava, uključujući usmjeravanje pozornosti na ranjive osobe i pristupačnost za osobe s invaliditetom, sudjelovanje dionika uz uključenost, prema potrebi, relevantnih dionika kao što su poduzeća i organizacije civilnog društva, akademska zajednica, istraživačke organizacije, sindikati i organizacije za zaštitu potrošača u dizajnu i razvoju UI sustava te raznolikost razvojnih timova, uključujući ravnotežu spolova. Kako bi se osigurala djelotvornost dobrovoljnih kodeksa ponašanja, oni bi se trebali temeljiti na jasnim ciljevima i ključnim pokazateljima uspješnosti za mjerenje ostvarenja tih ciljeva. Trebalo bi ih također razvijati na uključiv način, prema potrebi, uz sudjelovanje relevantnih dionika kao što su poduzeća i organizacije civilnog društva, akademska zajednica, istraživačke organizacije, sindikati i organizacije za zaštitu potrošača. Komisija može osmisliti inicijative, među ostalim na sektorskoj razini, za olakšavanje smanjivanja tehničkih zapreka prekograničnoj razmjeni podataka u svrhu razvoja umjetne inteligencije, među ostalim i u području infrastrukture za pristup podacima te semantičke i tehničke interoperabilnosti različitih vrsta podataka.
(166)
Ir svarīgi, lai ar produktiem saistītas MI sistēmas, kuras saskaņā ar šo regulu nav augsta riska sistēmas un kurām līdz ar to nav jāatbilst prasībām, kas šajā regulā noteiktas augsta riska MI sistēmām, tomēr būtu drošas, kad tās tiek laistas tirgū vai nodotas ekspluatācijā. Minētā mērķa sekmēšanas nolūkā Eiropas Parlamenta un Padomes Regula (ES) 2023/988 (53) tiktu piemērota kā drošības tīkls.
(166)
Važno je da UI sustavi povezani s proizvodima koji nisu visokorizični u skladu s ovom Uredbom te stoga ne moraju ispunjavati zahtjeve utvrđene za visokorizične UI sustave ipak budu sigurni kad se stavljaju na tržište ili u upotrebu. Kako bi se doprinijelo tom cilju, Uredba (EU) 2023/988 Europskog parlamenta i Vijeća (53) primjenjivala bi se kao sigurnosni mehanizam.
(167)
Lai nodrošinātu uzticēšanās pilnu un konstruktīvu sadarbību starp kompetentajām iestādēm Savienības un valstu līmenī, visām šīs regulas piemērošanā iesaistītajām personām būtu jāievēro savu uzdevumu veikšanas gaitā iegūtās informācijas un datu konfidencialitāte saskaņā ar Savienības vai valsts tiesību aktiem. Tām savi uzdevumi un darbības būtu jāveic tā, lai jo īpaši aizsargātu intelektuālā īpašuma tiesības, konfidenciālu uzņēmējdarbības informāciju un komercnoslēpumus, šīs regulas efektīvu īstenošanu, sabiedrības un valsts drošības intereses, kriminālprocesu un administratīvo procesu neaizskaramību un klasificētas informācijas integritāti.
(167)
Kako bi se osigurala pouzdana i konstruktivna suradnja nadležnih tijela na razini Unije i na nacionalnoj razini, sve strane uključene u primjenu ove Uredbe trebale bi poštovati povjerljivost informacija i podataka prikupljenih pri obavljanju svojih zadaća, u skladu s pravom Unije ili nacionalnim pravom. Svoje zadaće i aktivnosti trebale bi obavljati tako da osobito štite prava intelektualnog vlasništva, povjerljive poslovne informacije i poslovne tajne, djelotvornu provedbu ove Uredbe, javne i nacionalne sigurnosne interese, integritet kaznenih i upravnih postupaka te integritet klasificiranih podataka.
(168)
Atbilstība šai regulai būtu jāpanāk, piemērojot sodus un citus izpildes panākšanas pasākumus. Dalībvalstīm būtu jāveic visi šīs regulas noteikumu īstenošanas nodrošināšanai nepieciešamie pasākumi, tostarp, nosakot iedarbīgus, samērīgus un atturošus sodus par noteikumu pārkāpumiem, un ievērojot ne bis in idem principu. Lai stiprinātu un saskaņotu administratīvos sodus par šīs regulas pārkāpumiem, būtu jāparedz maksimālais administratīvais naudas sods par konkrētiem specifiskiem pārkāpumiem. Novērtējot naudas sodu apmēru, dalībvalstīm katrā atsevišķā gadījumā būtu jāņem vērā visi attiecīgie konkrētās situācijas apstākļi, jo īpaši pienācīgi ņemot vērā pārkāpuma un tā seku raksturu, smagumu un ilgumu, kā arī nodrošinātāja lielumu, jo īpaši gadījumā, ja nodrošinātājs ir MVU, tostarp jaunuzņēmums. Eiropas Datu aizsardzības uzraudzītājam vajadzētu būt pilnvarotam uzlikt naudas sodus Savienības iestādēm, aģentūrām un struktūrām, kuras ietilpst šīs regulas piemērošanas jomā.
(168)
Usklađenost s ovom Uredbom trebala bi biti izvršiva izricanjem sankcija i drugih mjera izvršavanja. Države članice trebale bi poduzeti sve mjere potrebne za osiguravanje provedbe odredaba ove Uredbe, među ostalim utvrđivanjem učinkovitih, proporcionalnih i odvraćajućih sankcija za povrede tih odredaba, i za poštovanje načela ne bis in idem. Kako bi se postrožile i uskladile upravne sankcije za povrede ove Uredbe, trebalo bi utvrditi gornje granice za određivanje upravnih novčanih kazni za određene specifične povrede. Pri procjeni iznosa novčanih kazni države članice trebale bi u svakom pojedinačnom slučaju uzeti u obzir sve relevantne okolnosti specifične situacije, posebno uzimajući u obzir prirodu, težinu i trajanje povrede i njezine posljedice te veličinu dobavljača, posebno ako je dobavljač MSP, uključujući start-up poduzeće. Europski nadzornik za zaštitu podataka trebao bi imati ovlast izreći novčane kazne institucijama, agencijama i tijelima Unije obuhvaćenima područjem primjene ove Uredbe.
(169)
Atbilstība šajā regulā noteiktajiem vispārīga lietojuma MI modeļu nodrošinātāju pienākumiem būtu jāpanāk, cita starpā piemērojot naudas sodus. Šajā nolūkā būtu arī jānosaka atbilstošs naudas sodu apmērs par minēto pienākumu pārkāpumiem, tostarp par to pasākumu neievērošanu, kurus Komisija pieprasījusi saskaņā ar šo regulu, ievērojot atbilstīgus noilguma termiņus saskaņā ar proporcionalitātes principu. Visus lēmumus, ko saskaņā ar šo regulu pieņēmusi Komisija, var pārskatīt Eiropas Savienības Tiesa saskaņā ar LESD, tostarp Tiesas neierobežotajai jurisdikcijai attiecībā uz sankcijām, ievērojot LESD 261. pantu.
(169)
Usklađenost s obvezama dobavljačâ UI modelâ opće namjene koje su propisane na temelju ove Uredbe trebala bi biti izvršiva, među ostalim, novčanim kaznama. U tu bi svrhu također trebalo utvrditi odgovarajuće razine novčanih kazni za povrede tih obveza, uključujući nepoštovanje mjera koje je Komisija zatražila u skladu s ovom Uredbom, podložno odgovarajućim rokovima zastare u skladu s načelom proporcionalnosti. Sve odluke koje Komisija donosi na temelju ove Uredbe podliježu postupku preispitivanja pred Sudom Europske unije u skladu s UFEU-om, među ostalim i neograničenoj nadležnosti Suda u pogledu sankcija u skladu s člankom 261. UFEU-a.
(170)
Savienības un valstu tiesību aktos jau ir paredzēti efektīvi tiesiskās aizsardzības līdzekļi fiziskām un juridiskām personām, kuru tiesības un brīvības nelabvēlīgi ietekmē MI sistēmu lietošana. Neskarot minētos tiesiskos aizsardzības līdzekļus, jebkurai fiziskai vai juridiskai personai, kurai ir pamats uzskatīt, ka ir pārkāpta šī regula, vajadzētu būt tiesīgai iesniegt sūdzību attiecīgajai tirgus uzraudzības iestādei.
(170)
Pravom Unije i nacionalnim pravom već su predviđena djelotvorna pravna sredstva za fizičke i pravne osobe na čija prava i slobode negativno utječe upotreba UI sustavâ. Ne dovodeći u pitanje ta pravna sredstva, svaka fizička ili pravna osoba koja ima razloga smatrati da je došlo do povrede ove Uredbe trebala bi imati pravo podnijeti pritužbu relevantnom tijelu za nadzor tržišta.
(171)
Skartajām personām vajadzētu būt tiesībām saņemt paskaidrojumu, ja uzturētāja lēmums galvenokārt pamatojas uz iznākumu, kas iegūts no konkrētām augsta riska MI sistēmām, kuras ietilpst šīs regulas piemērošanas jomā, un ja minētais lēmums rada juridiskas sekas vai līdzīgā veidā būtiski ietekmē minētās personas tādā veidā, ka tās uzskata, ka tas nelabvēlīgi ietekmē to veselību, drošību vai pamattiesības. Minētajam skaidrojumam vajadzētu būt skaidram un jēgpilnam, un tam būtu jānodrošina pamats, saskaņā ar kuru skartās personas var īstenot savas tiesības. Tiesības saņemt paskaidrojumu nebūtu jāpiemēro tādu MI sistēmu lietošanai, attiecībā uz kurām izņēmumi vai ierobežojumi izriet no Savienības vai valsts tiesību aktiem, un tās būtu jāpiemēro tikai tiktāl, ciktāl šīs tiesības jau nav paredzētas Savienības tiesību aktos.
(171)
Zahvaćene osobe trebale bi imati pravo dobiti objašnjenje ako se odluka subjekta koji uvodi sustav uglavnom temelji na izlaznim rezultatima iz određenih visokorizičnih UI sustava obuhvaćenih područjem primjene ove Uredbe i ako ta odluka proizvodi pravne učinke ili na sličan način znatno utječe na te osobe na način za koji smatraju da ima negativan učinak na njihovo zdravlje, sigurnost ili temeljna prava. To bi objašnjenje trebalo biti jasno i smisleno te bi trebalo biti osnova koja omogućuje zahvaćenim osobama da ostvare svoja prava. Pravo na dobivanje objašnjenja ne bi se trebalo primjenjivati na upotrebu UI sustava za koje iznimke ili ograničenja proizlaze iz prava Unije ili nacionalnog prava i trebalo bi se primjenjivati samo u mjeri u kojoj to pravo već nije predviđeno pravom Unije.
(172)
Personas, kas attiecībā uz šīs regulas pārkāpumiem rīkojas kā trauksmes cēlēji, būtu jāaizsargā saskaņā ar Savienības tiesību aktiem. Tādēļ ziņošanai par šīs regulas pārkāpumiem un to personu aizsardzībai, kas ziņo par šādiem pārkāpumiem, būtu jāpiemēro Eiropas Parlamenta un Padomes Direktīva (ES) 2019/1937 (54).
(172)
Osobe koje djeluju kao zviždači u vezi s povredama ove Uredbe trebale bi biti zaštićene pravom Unije. Direktiva (EU) 2019/1937 Europskog parlamenta i Vijeća (54) stoga bi se trebala primjenjivati na prijavljivanje povreda ove Uredbe i na zaštitu osoba koje prijavljuju te povrede.
(173)
Lai nodrošinātu, ka tiesisko regulējumu vajadzības gadījumā ir iespējams pielāgot, būtu jādeleģē Komisijai pilnvaras pieņemt aktus saskaņā ar LESD 290. pantu ar mērķi grozīt nosacījumus, saskaņā ar kuriem MI sistēma nav uzskatāma par augsta riska sistēmu, MI sistēmu sarakstu, noteikumus par tehnisko dokumentāciju, ES atbilstības deklarācijas saturu, noteikumus par atbilstības novērtēšanas procedūrām, noteikumus, ar ko nosaka augsta riska MI sistēmas, kurām būtu jāpiemēro atbilstības novērtēšanas procedūra, kas balstīta uz kvalitātes vadības sistēmas un tehniskās dokumentācijas novērtēšanu, maksimālo vērtību, kritērijus un rādītājus, tostarp, papildinot minētos kritērijus un rādītājus, noteikumus par vispārīga lietojuma MI modeļu ar sistēmisku risku klasificēšanu, vispārīga lietojuma MI modeļu ar sistēmisku risku izraudzīšanās kritērijus, tehnisko dokumentāciju vispārīga lietojuma MI modeļu nodrošinātājiem un informāciju par pārredzamību vispārīga lietojuma MI modeļu nodrošinātājiem. Ir īpaši būtiski, lai Komisija, veicot sagatavošanas darbus, rīkotu attiecīgas apspriešanās, tostarp ekspertu līmenī, un lai minētās apspriešanās tiktu rīkotas saskaņā ar principiem, kas noteikti 2016. gada 13. aprīļa Iestāžu nolīgumā par labāku likumdošanas procesu (55). Jo īpaši, lai deleģēto aktu sagatavošanā nodrošinātu vienādu dalību, Eiropas Parlaments un Padome visus dokumentus saņem vienlaicīgi ar dalībvalstu ekspertiem, un minēto iestāžu ekspertiem ir sistemātiska piekļuve Komisijas ekspertu grupu sanāksmēm, kurās notiek deleģēto aktu sagatavošana.
(173)
Kako bi se osiguralo da se regulatorni okvir može prilagođavati ako je to potrebno, Komisiji bi trebalo delegirati ovlast za donošenje akata u skladu s člankom 290. UFEU-a radi izmjene uvjeta na temelju kojih se UI sustav ne treba smatrati visokorizičnim, popisa visokorizičnih UI sustava, odredaba o tehničkoj dokumentaciji, sadržaja EU izjave o sukladnosti, odredaba o postupcima ocjenjivanja sukladnosti, odredaba kojima se utvrđuju visokorizični UI sustavi na koje bi se trebao primjenjivati postupak ocjenjivanja sukladnosti na temelju ocjene sustava upravljanja kvalitetom i ocjene tehničke dokumentacije, praga, referentnih vrijednosti i pokazatelja, među ostalim dopunjavanjem tih referentnih vrijednosti i pokazatelja, u pravilima za klasifikaciju UI modela opće namjene sa sistemskim rizikom, kriterija za određivanje UI modela opće namjene sa sistemskim rizikom, tehničke dokumentacije za dobavljače UI modela opće namjene i informacija o transparentnosti za dobavljače UI modela opće namjene. Posebno je važno da Komisija tijekom svojeg pripremnog rada provede odgovarajuća savjetovanja, uključujući ona na razini stručnjaka, te da se ta savjetovanja provedu u skladu s načelima utvrđenima u Međuinstitucijskom sporazumu o boljoj izradi zakonodavstva od 13. travnja 2016. (55). Osobito, s ciljem osiguravanja ravnopravnog sudjelovanja u pripremi delegiranih akata, Europski parlament i Vijeće primaju sve dokumente istodobno kada i stručnjaci iz država članica te njihovi stručnjaci sustavno imaju pristup sastancima stručnih skupina Komisije koji se odnose na pripremu delegiranih akata.
(174)
Ņemot vērā tehnoloģiju straujo attīstību un šīs regulas efektīvai piemērošanai nepieciešamās tehniskās zināšanas, Komisijai būtu jāizvērtē un jāpārskata šī regula līdz 2029. gada 2. augustam un pēc tam reizi četros gados un jāiesniedz ziņojums Eiropas Parlamentam un Padomei. Turklāt, ņemot vērā ietekmi uz šīs regulas piemērošanas jomu, Komisijai reizi gadā būtu jāveic novērtējums par nepieciešamību grozīt augsta riska MI sistēmu sarakstu un aizliegtās prakses sarakstu. Turklāt līdz 2028. gada 2. augustam un pēc tam reizi četros gados Komisijai būtu jāizvērtē un jāsniedz ziņojums Eiropas Parlamentam un Padomei par nepieciešamību grozīt augsta riska jomu sarakstu šīs regulas pielikumā, par MI sistēmām, kurām piemēro pārredzamības pienākumus, par uzraudzības un pārvaldības sistēmas efektivitāti un par vispārīga lietojuma MI modeļu energoefektīvas izstrādes standartizācijas nodevumu izstrādē gūto progresu, tostarp vajadzību pēc turpmākiem pasākumiem vai darbībām. Visbeidzot, līdz 2028. gada 2. augustam un pēc tam reizi trīs gados Komisijai būtu jāizvērtē brīvprātīgo rīcības kodeksu ietekme un efektivitāte, lai veicinātu prasību piemērošanu attiecībā uz MI sistēmām, kas nav augsta riska MI sistēmas, un, iespējams, citu papildu prasību piemērošanu attiecībā uz tādām MI sistēmām.
(174)
S obzirom na brz tehnološki razvoj i tehničko stručno znanje koje je potrebno za djelotvornu primjenu ove Uredbe, Komisija bi trebala evaluirati i preispitati ovu Uredbu do 2. kolovoza 2029. i svake četiri godine nakon toga te o tome izvijestiti Europski parlament i Vijeće. Osim toga, uzimajući u obzir posljedice za područje primjene ove Uredbe, Komisija bi jednom godišnje trebala provesti procjenu potrebe za izmjenom popisa visokorizičnih UI sustava i popisa zabranjenih praksi. Nadalje, do 2. kolovoza 2028. i svake četiri godine nakon toga Komisija bi trebala evaluirati potrebu za izmjenom popisa naslova visokorizičnih područja iz priloga ovoj Uredbi, UI sustava obuhvaćenih obvezama transparentnosti, djelotvornosti sustava nadzora i upravljanja te napretka u razvoju normizacijskih dokumenata o energetski učinkovitom razvoju UI modela opće namjene, uključujući potrebu za daljnjim mjerama ili djelovanjima, te o tome izvijestiti Europski parlament i Vijeće. Naposljetku, do 2. kolovoza 2028. i svake tri godine nakon toga Komisija bi trebala evaluirati učinak i djelotvornost dobrovoljnih kodeksa ponašanja namijenjenih poticanju primjene zahtjeva predviđenih za visokorizične UI sustave u slučaju UI sustava koji nisu visokorizični i eventualno drugih dodatnih zahtjeva za takve UI sustave.
(175)
Lai nodrošinātu vienādus nosacījumus šīs regulas īstenošanai, būtu jāpiešķir īstenošanas pilnvaras Komisijai. Minētās pilnvaras būtu jāizmanto saskaņā ar Eiropas Parlamenta un Padomes Regulu (ES) Nr. 182/2011 (56).
(175)
Radi osiguranja jedinstvenih uvjeta za provedbu ove Uredbe provedbene ovlasti trebalo bi dodijeliti Komisiji. Te bi ovlasti trebalo izvršavati u skladu s Uredbom (EU) br. 182/2011 Europskog parlamenta i Vijeća (56).
(176)
Ņemot vērā to, ka šīs regulas mērķi, proti, uzlabot iekšējā tirgus darbību un veicināt uz cilvēku orientēta un uzticama MI ieviešanu, vienlaikus nodrošinot augstu veselības, drošuma, Hartā nostiprināto pamattiesību, tostarp demokrātijas, tiesiskuma un vides aizsardzības, līmeni pret MI sistēmu radītām kaitīgām sekām Savienībā, un atbalstīt inovāciju, nevar pietiekami labi sasniegt atsevišķās dalībvalstīs, bet tās mēroga vai iedarbības dēļ to var labāk sasniegt Savienības līmenī, Savienība var pieņemt pasākumus saskaņā ar LES 5. pantā noteikto subsidiaritātes principu. Saskaņā ar minētajā pantā noteikto proporcionalitātes principu šajā regulā paredz vienīgi tos pasākumus, kas ir vajadzīgi minētā mērķa sasniegšanai.
(176)
S obzirom na to da cilj ove Uredbe, to jest poboljšanje funkcioniranja unutarnjeg tržišta i promicanje uvođenja antropocentrične umjetne inteligencije, uz istodobno osiguravanje visoke razine zaštite zdravlja, sigurnosti i temeljnih prava sadržanih u Povelji, uključujući demokraciju, vladavinu prava i zaštitu okoliša od štetnih učinaka UI sustavâ u Uniji te podupiranje inovacija, ne mogu dostatno ostvariti države članice, nego se zbog opsega ili učinaka djelovanja on na bolji način može ostvariti na razini Unije, Unija može donijeti mjere u skladu s načelom supsidijarnosti utvrđenim u članku 5. UEU-a. U skladu s načelom proporcionalnosti utvrđenim u tom članku ova Uredba ne prelazi ono što je potrebno za ostvarivanje tog cilja.
(177)
Lai nodrošinātu juridisko noteiktību, nodrošinātu pienācīgu pielāgošanās laikposmu operatoriem un izvairītos no tirgus traucējumiem, tostarp nodrošinot MI sistēmu lietošanas nepārtrauktību, ir lietderīgi, ka šo regulu augsta riska MI sistēmām, kas laistas tirgū vai nodotas ekspluatācijā pirms tās vispārējās piemērošanas sākuma dienas, piemēro tikai tad, ja no minētā datuma šajās sistēmās notikušas būtiskas izmaiņas to uzbūvē vai to paredzētajā nolūkā. Ir lietderīgi precizēt, ka šajā sakarā jēdziens “būtiskas izmaiņas” būtu jāsaprot kā pēc būtības līdzvērtīgs jēdzienam “būtiska modifikācija”, ko izmanto tikai attiecībā uz augsta riska MI sistēmām, ievērojot šo regulu. Izņēmuma kārtā un ņemot vērā publisko pārskatatbildību, to MI sistēmu operatoriem, kas ir tādu lielapjoma IT sistēmu sastāvdaļas, kas izveidotas ar šīs regulas pielikumā uzskaitītajiem tiesību aktiem, un to augsta riska MI sistēmu operatoriem, ko paredzēts izmantot publiskajās iestādēs, būtu jāveic nepieciešamie pasākumi, lai izpildītu šīs regulas prasības līdz 2030. gada beigām un līdz 2030. gada 2. augustam.
(177)
Kako bi se zajamčila pravna sigurnost, osiguralo odgovarajuće razdoblje prilagodbe za operatere i izbjegli poremećaji na tržištu, među ostalim osiguravanjem kontinuiteta korištenja UI sustavâ, primjereno je da se ova Uredba primjenjuje na visokorizične UI sustave koji su stavljeni na tržište ili u upotrebu prije općeg datuma početka njezine primjene samo ako od tog datuma u tim sustavima dođe do znatnih promjena u pogledu njihova dizajna ili namjene. Primjereno je pojasniti da bi u tom pogledu pojam znatne promjene trebalo razumjeti kao sadržajno jednakovrijedan pojmu znatne izmjene, koji se upotrebljava samo u pogledu visokorizičnih UI sustava na temelju ove Uredbe. Iznimno i s obzirom na javnu odgovornost, operateri UI sustava koji su komponente opsežnih informacijskih sustava uspostavljenih pravnim aktima navedenima u prilogu ovoj Uredbi i operateri visokorizičnih UI sustava namijenjenih korištenju od strane tijela javne vlasti trebali bi poduzeti potrebne korake kako bi ispunili zahtjeve iz ove Uredbe do kraja 2030. i do 2. kolovoza 2030.
(178)
Augsta riska MI sistēmu nodrošinātāji tiek mudināti jau pārejas periodā brīvprātīgi sākt pildīt attiecīgos šajā regulā noteiktos pienākumus.
(178)
Dobavljače visokorizičnih UI sustava potiče se da dobrovoljno počnu ispunjavati relevantne obveze iz ove Uredbe već tijekom prijelaznog razdoblja.
(179)
Šī regula būtu jāpiemēro no 2026. gada 2. augusta. Tomēr, ņemot vērā nepieņemamo risku, kas zināmā mērā ir saistīts ar MI lietošanu, aizliegumi, kā arī šīs regulas vispārīgie noteikumi būtu jāpiemēro jau no 2025. gada 2. februāra. Lai gan minēto aizliegumu pilnīga ietekme izriet no šīs regulas pārvaldības un izpildes panākšanas, ir svarīgi paredzēt aizliegumu piemērošanu, lai ņemtu vērā nepieņemamus riskus un ietekmētu citas procedūras, piemēram, civiltiesību jomā. Turklāt ar pārvaldi un atbilstības novērtēšanu saistītajai infrastruktūrai būtu jāsāk darboties pirms 2026. gada 2. augusta, tāpēc noteikumi par paziņotajām struktūrām un pārvaldes struktūru būtu jāpiemēro no 2025. gada 2. augusta. Ņemot vērā straujo tempu, kādā attīstās tehnoloģijas un tiek pieņemti vispārīga lietojuma MI modeļi, pienākumi vispārīga lietojuma MI modeļu nodrošinātājiem būtu jāpiemēro no 2025. gada 2. augusta. Prakses kodeksiem vajadzētu būt gataviem līdz 2025. gada 2. maijam, lai nodrošinātāji varētu savlaicīgi apliecināt atbilstību. MI birojam būtu jānodrošina, ka klasificēšanas noteikumi un procedūras tiek atjauninātas, ņemot vērā tehnoloģiju attīstību. Turklāt dalībvalstīm būtu jānosaka noteikumi par sodiem, tostarp administratīviem naudas sodiem, un tie jāpaziņo Komisijai, un jānodrošina to pienācīga un efektīva īstenošana līdz šīs regulas piemērošanas sākuma dienai. Tāpēc noteikumi par sodiem būtu jāpiemēro no 2025. gada 2. augusta.
(179)
Ova Uredba trebala bi se primjenjivati od 2. kolovoza 2026. Međutim, uzimajući u obzir neprihvatljiv rizik povezan s korištenjem umjetne inteligencije na određene načine, zabrane kao i opće odredbe ove Uredbe trebale bi se trebale primjenjivati već od 2. veljače 2025. Iako potpuni učinak tih zabrana proizlazi iz uspostave upravljanja i izvršavanja ove Uredbe, predviđanje primjene zabrana važno je kako bi se uzeli u obzir neprihvatljivi rizici i kako bi se utjecalo na druge postupke, primjerice u građanskom pravu. Nadalje, infrastruktura povezana s upravljanjem i sustavom za ocjenjivanje sukladnosti trebala bi biti spremna za upotrebu prije 2. kolovoza 2026., pa bi se stoga odredbe o prijavljenim tijelima i strukturama upravljanja trebale primjenjivati od 2. kolovoza 2025. S obzirom na brz tehnološki napredak i usvajanje UI modelâ opće namjene, obveze dobavljača UI modelâ opće namjene trebale bi se primjenjivati od 2. kolovoza 2025. Kodeksi prakse trebali bi biti spremni do 2. svibnja 2025. kako bi se dobavljačima omogućilo da pravodobno dokažu usklađenost. Ured za umjetnu inteligenciju trebao bi osigurati da pravila i postupci klasifikacije budu ažurirani s obzirom na tehnološki razvoj. Usto, države članice trebale bi utvrditi pravila o sankcijama i obavijestiti Komisiju o tim pravilima, uključujući upravne novčane kazne, te osigurati njihovu pravilnu i djelotvornu provedbu do datuma početka primjene ove Uredbe. Stoga bi se odredbe o sankcijama trebale primjenjivati od 2. kolovoza 2025.
(180)
Saskaņā ar Regulas (ES) 2018/1725 42. panta 1. un 2. punktu ir notikusi apspriešanās ar Eiropas Datu aizsardzības uzraudzītāju un Eiropas Datu aizsardzības kolēģiju, kas 2021. gada 18. jūnijā sniedza kopīgu atzinumu,
(180)
Provedeno je savjetovanje s Europskim nadzornikom za zaštitu podataka i s Europskim odborom za zaštitu podataka u skladu s člankom 42. stavcima 1. i 2. Uredbe (EU) 2018/1725 te su oni dali zajedničko mišljenje 18. lipnja 2021.,
1. Ova Uredba primjenjuje se na:
a)
nodrošinātājiem, kas Savienībā laiž tirgū vai nodod ekspluatācijā MI sistēmas vai laiž tirgū vispārīga lietojuma MI modeļus, neatkarīgi no tā, vai minētie nodrošinātāji ir iedibināti vai atrodas Savienībā jeb vai trešā valstī;
(a)
dobavljače koji stavljaju na tržište ili u upotrebu UI sustave ili stavljaju na tržište UI modele opće namjene u Uniji, bez obzira na to imaju li ti dobavljači poslovni nastan u Uniji ili u nekoj trećoj zemlji ili nalaze li se u Uniji ili u trećoj zemlji;
b)
MI sistēmu uzturētājiem, kuru iedibinājuma vieta ir Savienībā vai kuri atrodas Savienībā;
(b)
subjekte koji uvode UI sustave, a koji imaju poslovni nastan u Uniji ili se nalaze u Uniji;
c)
tādu MI sistēmu nodrošinātājiem un uzturētājiem, kuru iedibinājuma vieta ir vai kuri atrodas trešā valstī, ja MI sistēmas radīto iznākumu izmanto Savienībā;
(c)
dobavljače UI sustava i subjekte koji uvode UI sustave koji imaju poslovni nastan u trećoj zemlji ili se nalaze u trećoj zemlji ako se izlazni rezultati UI sustava upotrebljavaju u Uniji;
d)
MI sistēmu importētājiem un izplatītājiem;
(d)
uvoznike i distributere UI sustavâ;
e)
produktu ražotājiem, kas laiž tirgū vai nodod ekspluatācijā MI sistēmu kopā ar savu produktu un ar savu nosaukumu vai preču zīmi;
(e)
proizvođače proizvoda koji stavljaju na tržište ili u upotrebu UI sustav zajedno sa svojim proizvodom i pod vlastitim imenom ili žigom;
f)
nodrošinātāju pilnvarotiem pārstāvjiem, kuri nav iedibināti Savienībā;
(f)
ovlaštene zastupnike dobavljača koji nemaju poslovni nastan u Uniji;
g)
skartajām personām, kas atrodas Savienībā.
(g)
zahvaćene osobe koje se nalaze u Uniji.
2. MI sistēmām, kas klasificētas kā augsta riska MI sistēmas saskaņā ar 6. panta 1. punktu saistībā ar produktiem, uz kuriem attiecas I pielikuma B iedaļā minētie Savienības saskaņošanas tiesību akti, piemēro tikai 6. panta 1. punktu, 102. līdz 109. pantu un 112. pantu. Regulas 57. pantu piemēro tikai tiktāl, ciktāl šajā regulā paredzētās prasības augsta riska MI sistēmām ir integrētas minētajos Savienības saskaņošanas tiesību aktos.
2. Na UI sustave klasificirane kao visokorizične u skladu s člankom 6. stavkom 1. u odnosu na proizvode obuhvaćene zakonodavstvom Unije o usklađivanju navedenim u odjeljku B Priloga I. primjenjuju se samo članak 6. stavak 1., članci od 102. do 109. i članak 112. Članak 57. primjenjuje se samo u mjeri u kojoj su zahtjevi za visokorizične UI sustave iz ove Uredbe uključeni u to zakonodavstvo Unije o usklađivanju.
3. Šī regula neattiecas uz jomām, kas ir ārpus Savienības tiesību tvēruma, un tā jebkurā gadījumā neietekmē dalībvalstu kompetences attiecībā uz valsts drošību neatkarīgi no tā, kāda veida vienībai dalībvalstis ir uzticējušas veikt uzdevumus saistībā ar minētajām kompetencēm.
3. Ova se Uredba ne primjenjuje na područja izvan područja primjene prava Unije i ni u kojem slučaju ne utječe na nadležnosti država članica u pogledu nacionalne sigurnosti, bez obzira na vrstu subjekta kojem su države članice povjerile obavljanje zadaća u vezi s tim nadležnostima.
Šī regula neattiecas uz MI sistēmām, ja un ciktāl tās tiek laistas tirgū, nodotas ekspluatācijā vai izmantotas ar modifikāciju vai bez tās vienīgi militāros, aizsardzības vai valsts drošības nolūkos, neatkarīgi no tā, kāda veida vienība veic minētās darbības.
Ova se Uredba ne primjenjuje na UI sustave ako i u mjeri u kojoj se stavljaju na tržište, u upotrebu ili upotrebljavaju s izmjenama ili bez njih isključivo u vojne svrhe, obrambene svrhe ili u svrhe povezane s nacionalnom sigurnošću, bez obzira na vrstu subjekta koji obavlja te aktivnosti.
Šī regula neattiecas uz MI sistēmām, kuras netiek laistas tirgū vai nodotas ekspluatācijā Savienībā, ja iznākumu Savienībā izmanto vienīgi militāros, aizsardzības vai valsts drošības nolūkos, neatkarīgi no tā, kāda veida vienība veic minētās darbības.
Ova se Uredba ne primjenjuje na UI sustave koji se ne stavljaju na tržište ni u upotrebu u Uniji ako se izlazni rezultati upotrebljavaju u Uniji isključivo u vojne svrhe, obrambene svrhe ili u svrhe povezane s nacionalnom sigurnošću, bez obzira na vrstu subjekta koji obavlja te aktivnosti.
4. Šī regula neattiecas ne uz publiskām iestādēm trešā valstī, ne starptautiskām organizācijām, kas ir šīs regulas piemērošanas jomā, ievērojot 1. punktu, ja minētās iestādes vai organizācijas izmanto MI sistēmas starptautiskās sadarbības vai nolīgumu ietvaros par tiesībaizsardzības un tiesu iestāžu sadarbību ar Savienību vai ar vienu vai vairākām dalībvalstīm, ar noteikumu, ka šāda trešā valsts vai starptautiskā organizācija sniedz pietiekamas garantijas attiecībā uz indivīdu pamattiesību un pamatbrīvību aizsardzību.
4. Ova se Uredba ne primjenjuje na tijela javne vlasti u trećoj zemlji ni na međunarodne organizacije obuhvaćene područjem primjene ove Uredbe na temelju stavka 1. ako ta tijela ili te organizacije upotrebljavaju UI sustave u okviru međunarodne suradnje ili sporazumâ o suradnji u području kaznenog progona i pravosudne suradnje s Unijom ili s jednom ili više država članica, pod uvjetom da takva treća zemlja ili međunarodna organizacija pruža odgovarajuće zaštitne mjere u pogledu zaštite temeljnih prava i sloboda pojedinaca.
5. Šī regula neietekmē to noteikumu piemērošanu, kuri attiecas uz starpnieku pakalpojumu sniedzēju atbildību, kā paredzēts Regulas (ES) 2022/2065 II nodaļā.
5. Ova Uredba ne utječe na primjenu odredaba o odgovornosti pružateljâ usluga posredovanja kako je utvrđeno u poglavlju II. Uredbe (EU) 2022/2065.
6. Šī regula neattiecas uz MI sistēmām vai MI modeļiem, tostarp to radīto iznākumu, kas konkrēti izstrādāti un nodoti ekspluatācijā vienīgi zinātniskās pētniecības un izstrādes nolūkā.
6. Ova Uredba ne primjenjuje se na UI sustave ili UI modele, uključujući njihove izlazne rezultate, koji su posebno razvijeni i stavljeni u upotrebu isključivo u svrhu znanstvenih istraživanja i razvoja.
7. Personas datiem, ko apstrādā saistībā ar šajā regulā noteiktajām tiesībām un pienākumiem, piemēro Savienības tiesību aktus personas datu aizsardzības, privātuma un sakaru konfidencialitātes jomā. Šī regula neietekmē Regulu (ES) 2016/679 vai (ES) 2018/1725, vai Direktīvu 2002/58/EK vai (ES) 2016/680, neskarot šīs regulas 10. panta 5. punktu un 59. pantu.
7. Pravo Unije o zaštiti osobnih podataka, privatnosti i povjerljivosti komunikacija primjenjuje se na osobne podatke koji se obrađuju u vezi s pravima i obvezama utvrđenima u ovoj Uredbi. Ova Uredba ne utječe na uredbe (EU) 2016/679 i (EU) 2018/1725 ni na direktive 2002/58/EZ i (EU) 2016/680, ne dovodeći pritom u pitanje članak 10. stavak 5. i članak 59. ove Uredbe.
8. Šī regula neattiecas uz pētniecības, testēšanas vai izstrādes darbībām, kas saistītas ar MI sistēmām vai MI modeļiem pirms to laišanas tirgū vai nodošanas ekspluatācijā. Šādas darbības veic saskaņā ar piemērojamiem Savienības tiesību aktiem. Minētā izslēgšana neattiecas uz testēšanu reālos apstākļos.
8. Ova se Uredba ne primjenjuje na aktivnosti istraživanja, testiranja ili razvoja UI sustava ili UI modela prije njihova stavljanja na tržište ili u upotrebu. Takve se aktivnosti provode u skladu s primjenjivim pravom Unije. Testiranje u stvarnim uvjetima nije obuhvaćeno tim isključenjem.
9. Šī regula neskar noteikumus, kas paredzēti citos Savienības tiesību aktos, kuri saistīti ar patērētāju aizsardzību un produktu drošumu.
9. Ovom se Uredbom ne dovode u pitanje pravila utvrđena drugim pravnim aktima Unije povezanima sa zaštitom potrošača i sigurnošću proizvoda.
10. Šī regula neattiecas uz tādu uzturētāju pienākumiem, kuri ir fiziskas personas, kas MI sistēmas izmanto tikai personiskas neprofesionālas darbības veikšanai.
10. Ova se Uredba ne primjenjuje na obveze subjekata koji uvode sustav koji su fizičke osobe koje upotrebljavaju UI sustave isključivo u osobnoj neprofesionalnoj djelatnosti.
11. Šī regula neliedz Savienībai vai dalībvalstīm saglabāt vai ieviest tiesību aktus, noteikumus vai administratīvas normas, kas ir labvēlīgākas pret darba ņēmējiem viņu tiesību aizsardzības ziņā attiecībā uz situācijām, kad darba devējs izmanto MI sistēmas, vai veicināt vai atļaut darba ņēmējiem izdevīgāku koplīgumu piemērošanu.
11. Ovom se Uredbom Uniju ili države članice ne sprečava da zadrže ili uvedu zakone i druge propise koji su pogodniji za radnike u smislu zaštite njihovih prava u pogledu korištenja UI sustava od strane poslodavaca, ili da potiču ili dopuštaju primjenu kolektivnih ugovora koji su pogodniji za radnike.
12. Šī regula neattiecas uz MI sistēmām, kas laistas apgrozībā ar bezmaksas un atklātā pirmkoda licencēm, ja vien tās netiek laistas tirgū vai nodotas ekspluatācijā kā augsta riska MI sistēmas vai kā MI sistēma, uz kuru attiecas 5. vai 50. pants.
12. Ova se Uredba ne primjenjuje na UI sustave koji se objavljuju na temelju besplatnih licencija za softver otvorenog koda, osim ako se stavljaju na tržište ili u upotrebu kao visokorizični UI sustavi ili kao UI sustav obuhvaćen člankom 5. ili člankom 50.
Zabranjene prakse u području umjetne inteligencije
1. Ir aizliegta šāda MI prakse:
1. Zabranjuju se sljedeće prakse u području umjetne inteligencije:
a)
tādas MI sistēmas laišana tirgū, nodošana ekspluatācijā vai lietošana, kas izmanto cilvēka neapzinātus subliminālus paņēmienus vai tīši manipulatīvus vai maldinošus paņēmienus, kuru mērķis ir būtiski iespaidot personas vai personu grupas uzvedību vai kuriem ir tādas sekas, kas ievērojami pasliktina viņu spēju pieņemt informētu lēmumu, tādējādi liekot tām pieņemt lēmumu, ko tās citādi nebūtu pieņēmušas, tādā veidā, kas šai personai, citai personai vai personu grupai rada vai pamatoti ticami radīs būtisku kaitējumu;
(a)
stavljanje na tržište, stavljanje u upotrebu ili korištenje UI sustava u kojem se primjenjuju subliminalne tehnike kojih osoba nije svjesna ili namjerno manipulativne ili obmanjujuće tehnike s ciljem ili s učinkom bitnog iskrivljavanja ponašanja osobe ili skupine osoba tako da se znatno narušava njihova sposobnost da donesu informiranu odluku, zbog čega donose odluku koju inače ne bi donijele, na način kojim se toj osobi, drugoj osobi ili skupini osoba uzrokuje znatna šteta ili se može razumno očekivati da će se prouzročiti takva šteta;
b)
tādas MI sistēmas laišana tirgū, nodošana ekspluatācijā vai lietošana, kura izmanto kādu no kādas fiziskas personas vai konkrētas personu grupas neaizsargātības iezīmēm viņu vecuma, invaliditātes vai konkrētas sociālās vai ekonomiskās situācijas dēļ un kuras mērķis vai sekas ir minētās personas vai minētajai grupai piederīgas personas uzvedības būtiska iespaidošana tādā veidā, kas attiecīgajai personai vai citai personai rada vai ir saprātīgi iespējams, ka radīs būtisku kaitējumu;
(b)
stavljanje na tržište, stavljanje u upotrebu ili korištenje UI sustava koji iskorištava bilo koju slabost fizičke osobe ili određene skupine osoba zbog njihove dobi, invaliditeta ili specifičnog društvenog ili ekonomskog položaja s ciljem ili s učinkom bitnog iskrivljavanja ponašanja te osobe ili osobe koja pripada toj skupini na način kojim se toj osobi ili nekoj drugoj osobi uzrokuje znatna šteta ili se može razumno očekivati da će se prouzročiti takva šteta;
c)
MI sistēmu laišana tirgū, nodošana ekspluatācijā vai lietošana nolūkā izvērtēt vai klasificēt fiziskas personas vai personu grupas noteiktā laikposmā, pamatojoties uz viņu sociālo uzvedību vai zināmām, izsecinātām vai prognozētām personas vai personības īpašībām, ja sociālais novērtējums ved pie viena vai abiem šādiem iznākumiem:
(c)
stavljanje na tržište, stavljanje u upotrebu ili korištenje UI sustava radi evaluacije ili klasifikacije fizičkih osoba ili skupina osoba tijekom određenog razdoblja na temelju njihova društvenog ponašanja ili poznatih, izvedenih ili predviđenih osobnih obilježja ili obilježja ličnosti, pri čemu njihov društveni rejting uzrokuje barem jedno od sljedećeg:
i)
kaitējoša vai nelabvēlīga attieksme pret dažām fiziskām personām vai personu grupām sociālos kontekstos, kas nav saistīti ar kontekstiem, kuros dati tika sākotnēji ģenerēti vai savākti;
i.
štetno ili nepovoljno postupanje prema određenim fizičkim osobama ili skupinama osoba u društvenim kontekstima koji nisu povezani s kontekstima u kojima su podaci izvorno generirani ili prikupljeni;
ii)
kaitējoša vai nelabvēlīga attieksme pret dažām fiziskām personām vai personu grupām, kas nav pamatota vai nav samērīga ar viņu sociālo uzvedību vai tās smagumu;
ii.
štetno ili nepovoljno postupanje prema određenim fizičkim osobama ili skupinama osoba koje je neopravdano ili nerazmjerno njihovu društvenom ponašanju ili njegovoj ozbiljnosti;
d)
MI sistēmas laišana tirgū, nodošana ekspluatācijā šim konkrētajam mērķim vai lietošana fizisku personu radītā riska novērtējuma veikšanai, lai novērtētu vai prognozētu risku, ka fiziska persona varētu izdarīt noziedzīgu nodarījumu, kura balstās vienīgi uz fiziskas personas profilēšanu vai uz tās personisko īpašību un rakstura iezīmju novērtēšanu; šo aizliegumu nepiemēro MI sistēmām, kuras izmanto, lai atbalstītu cilvēka veiktu novērtējumu par personas iesaistīšanos noziedzīgā darbībā, kurš jau ir balstīts uz objektīviem un pārbaudāmiem faktiem, kas ir tieši saistīti ar noziedzīgu darbību;
(d)
stavljanje na tržište, stavljanje u upotrebu u tu specifičnu svrhu ili korištenje UI sustava za procjene rizika u pogledu fizičkih osoba kako bi se procijenio ili predvidjeo rizik da će fizička osoba počiniti kazneno djelo, isključivo na temelju izrade profila fizičke osobe ili procjene njezinih osobina i obilježja ličnosti; ta se zabrana ne primjenjuje na UI sustave koji se upotrebljavaju za potporu ljudskoj procjeni uključenosti osobe u kriminalnu aktivnost, koja se već temelji na objektivnim i provjerljivim činjenicama izravno povezanima s kriminalnom aktivnošću;
e)
tādu MI sistēmu laišana tirgū, nodošana ekspluatācijā šim konkrētajam mērķim vai lietošana, kuras izveido vai paplašina sejas atpazīšanas datubāzes, nemērķorientēti rasmojot sejas attēlus no interneta vai videonovērošanas sistēmu video;
(e)
stavljanje na tržište, stavljanje u upotrebu u tu specifičnu svrhu ili korištenje UI sustava koji stvaraju ili proširuju baze podataka za prepoznavanje lica neciljanim prikupljanjem fotografija lica s interneta ili snimki CCTV-a;
f)
MI sistēmu laišana tirgū, nodošana ekspluatācijā šim konkrētajam mērķim vai lietošana fiziskas personas emociju izsecināšanai darbavietā vai izglītības iestādēs, izņemot tad, ja MI sistēmas izmantošanu paredzēts ieviest vai laist tirgū medicīnisku vai drošības iemeslu dēļ;
(f)
stavljanje na tržište, stavljanje u upotrebu u tu specifičnu svrhu ili korištenje UI sustava za izvođenje zaključaka o emocijama fizičke osobe na radnome mjestu i u obrazovnim ustanovama, osim ako se UI sustav namjerava staviti u upotrebu ili na tržište iz medicinskih ili sigurnosnih razloga;
g)
tādu biometriskās kategorizācijas sistēmu laišana tirgū vai nodošana ekspluatācijā, vai lietošana, kuras individuāli kategorizē fiziskas personas, pamatojoties uz viņu biometriskajiem datiem, lai atvedinātu vai izsecinātu viņu rasi, politiskos uzskatus, dalību arodbiedrībās, reliģiskos vai filozofiskos uzskatus, dzimumdzīvi vai seksuālo orientāciju; šis aizliegums neattiecas uz likumīgi iegūtu biometrisko datu kopu, piemēram, attēlu, marķēšanu vai filtrēšanu, pamatojoties uz biometriskajiem datiem, vai biometrisko datu kategorizēšanu tiesībaizsardzības jomā;
(g)
stavljanje na tržište, stavljanje u upotrebu u tu specifičnu svrhu ili upotreba sustavâ za biometrijsku kategorizaciju u kojima se fizičke osobe pojedinačno kategoriziraju na temelju njihovih biometrijskih podataka kako bi se zaključilo ili izvelo zaključke o njihovoj rasi, političkim mišljenjima, članstvu u sindikatu, vjerskim ili filozofskim uvjerenjima, spolnom životu ili seksualnoj orijentaciji; ta zabrana ne obuhvaća označivanje ili filtriranje zakonito pribavljenih biometrijskih skupova podataka, kao što su slike, na temelju biometrijskih podataka ili kategorizacije biometrijskih podataka u području kaznenog progona;
h)
reāllaika biometriskās tālidentifikācijas sistēmu izmantošana publiski piekļūstamās vietās tiesībaizsardzības nolūkos, izņemot tad, ja – un tiktāl, cik – tāda izmantošana ir absolūti nepieciešama kādam no šiem mērķiem:
(h)
upotreba sustavâ za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima u svrhu kaznenog progona, osim ako je takva upotreba nužna i u mjeri u kojoj je nužna radi jednog od sljedećih ciljeva:
i)
konkrētu nolaupīšanas, cilvēku tirdzniecības vai cilvēku seksuālas izmantošanas upuru mērķtiecīga meklēšana, kā arī bezvēsts pazudušu personu meklēšana;
i.
ciljane potrage za konkretnim žrtvama otmice, trgovine ljudima ili seksualnog iskorištavanja ljudi, kao i potrage za nestalim osobama;
ii)
konkrēta, būtiska un nenovēršama apdraudējuma fizisku personu dzīvībai vai fiziskai drošībai vai reālu un pašreizēju vai reālu un paredzamu teroristu uzbrukuma draudu novēršana;
ii.
sprečavanja konkretne, znatne i izravne prijetnje životu ili tjelesnoj sigurnosti fizičkih osoba ili stvarne i prisutne ili stvarne i predvidljive prijetnje od terorističkog napada;
iii)
par noziedzīga nodarījuma izdarīšanu aizdomās turētas personas atrašanās vietas noteikšana vai personas identificēšana nolūkā veikt kriminālizmeklēšanu vai kriminālvajāšanu vai kriminālsoda izpildi par II pielikumā minētajiem nodarījumiem, par kuriem attiecīgajā dalībvalstī var piemērot brīvības atņemšanas sodu vai ar brīvības atņemšanu saistītu drošības līdzekli, kura maksimālais ilgums ir vismaz četri gadi.
iii.
lociranja ili identifikacije osobe osumnjičene za počinjenje kaznenog djela u svrhu vođenja kaznene istrage ili progona ili izvršenja kaznene sankcije za kaznena djela iz Priloga II. za koja je u dotičnoj državi članici zapriječena kazna zatvora ili oduzimanja slobode u maksimalnom trajanju od najmanje četiri godine.
Pirmās daļas h) punkts neskar Regulas (ES) 2016/679 9. pantu attiecībā uz biometrisko datu apstrādi nolūkos, kas nav tiesībaizsardzība.
Prvim podstavkom točkom (h) ne dovodi se u pitanje članak 9. Uredbe (EU) 2016/679 kad je riječ o obradi biometrijskih podataka u svrhe koje nisu kazneni progon.
2. Reāllaika biometriskās tālidentifikācijas sistēmu lietošanu publiski piekļūstamās vietās tiesībaizsardzības nolūkos ar kādu no 1. punkta pirmās daļas h) apakšpunktā minētajiem mērķiem ievieš minētajā punktā noteiktajos nolūkos, lai apstiprinātu konkrētas personas identitāti, un tajā ņem vērā šādus elementus:
2. Upotreba sustavâ za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima u svrhu kaznenog progona radi bilo kojeg od ciljeva iz stavka 1. prvog podstavka točke (h) smije se uvesti u svrhe utvrđene u toj točki samo kako bi se potvrdio identitet konkretno ciljanog pojedinca, pri čemu se uzimaju u obzir sljedeći elementi:
a)
tās situācijas raksturs, kuras dēļ var notikt tāda lietošana, jo īpaši tā kaitējuma smagums, iespējamība un apmērs, kas tiktu radīts, ja sistēma netiktu lietota;
(a)
priroda situacije zbog koje se pojavila mogućnost upotrebe, osobito težina, vjerojatnost i razmjer štete koja bi nastala da se sustav ne koristi;
b)
sistēmas lietošanas sekas attiecībā uz visu attiecīgo personu tiesībām un brīvībām, jo īpaši minēto seku smagums, iespējamība un apmērs.
(b)
posljedice upotrebe sustava na prava i slobode svih dotičnih osoba, osobito težina, vjerojatnost i razmjer tih posljedica.
Turklāt reāllaika biometriskās tālidentifikācijas sistēmu lietošana publiski piekļūstamās vietās tiesībaizsardzības nolūkos šā panta 1. punkta pirmās daļas h) apakšpunktā minētajiem mērķiem atbilst nepieciešamiem un samērīgiem aizsardzības pasākumiem un nosacījumiem attiecībā uz lietošanu saskaņā ar valsts tiesību aktiem, kuri atļauj to lietošanu, jo īpaši laika, ģeogrāfisku un personisku ierobežojumu ziņā. Reāllaika biometriskās tālidentifikācijas sistēmu lietošanu publiski piekļūstamās vietās atļauj vienīgi tad, ja tiesībaizsardzības iestāde ir pabeigusi 27. pantā paredzēto novērtējumu par ietekmi uz pamattiesībām un ir reģistrējusi sistēmu ES datubāzē saskaņā ar 49. pantu. Tomēr pienācīgi pamatotos steidzamos gadījumos šādu sistēmu lietošanu var sākt bez reģistrācijas ES datubāzē ar noteikumu, ka šāda reģistrācija tiek pabeigta bez liekas kavēšanās.
Usto, upotreba sustavâ za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima u svrhu kaznenog progona radi bilo kojeg od ciljeva iz stavka 1. prvog podstavka točke (h) ovog članka mora biti u skladu s potrebnim i razmjernim zaštitnim mjerama i uvjetima korištenja u skladu s nacionalnim pravom kojim se odobrava njihova upotreba, osobito u pogledu vremenskih i zemljopisnih ograničenja i ograničenja u pogledu osoba. Upotrebu sustavâ za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima odobrava se samo ako je tijelo kaznenog progona dovršilo procjenu učinka na temeljna prava kako je predviđeno u članku 27. i registriralo sustav u bazi podataka EU-a u skladu s člankom 49. Međutim, u propisno opravdanim hitnim slučajevima takvi se sustavi mogu početi upotrebljavati bez registracije u bazi podataka EU-a, pod uvjetom da se takva registracija dovrši bez nepotrebne odgode.
3. Šā panta 1. punkta pirmās daļas h) apakšpunkta un 2. punkta nolūkos katrai reāllaika biometriskās tālidentifikācijas sistēmas lietošanai tiesībaizsardzības nolūkos publiski piekļūstamās vietās ir nepieciešama iepriekšēja atļauja, ko izsniegusi tiesu iestāde vai neatkarīga administratīva iestāde, kuras lēmums ir saistošs, tajā dalībvalstī, kurā šo sistēmu paredzēts lietot, un kas izsniegta pēc pamatota pieprasījuma un saskaņā ar sīki izstrādātiem valsts tiesību aktu noteikumiem, kas minēti 5. punktā. Tomēr pienācīgi pamatotā steidzamā gadījumā šādas sistēmas lietošanu var sākt bez atļaujas ar noteikumu, ka šādu atļauju pieprasa bez liekas kavēšanās ne vēlāk kā 24 stundu laikā. Ja šāda atļauja netiek piešķirta, lietošanu nekavējoties pārtrauc un visus datus, kā arī tādas lietošanas rezultātus un iznākumus nekavējoties atmet un dzēš.
3. Za potrebe stavka 1. prvog podstavka točke (h) i stavka 2., za svaku upotrebu sustava za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima u svrhu kaznenog progona potrebno je prethodno odobrenje pravosudnog tijela ili neovisnog upravnog tijela čija je odluka obvezujuća iz države članice u kojoj će se sustav upotrebljavati, a koje se izdaje na obrazloženi zahtjev i u skladu s podrobnim pravilima nacionalnog prava iz stavka 5. Međutim, u propisno opravdanim hitnim situacijama takav se sustav može početi upotrebljavati bez odobrenja, pod uvjetom da se takvo odobrenje zatraži bez nepotrebne odgode, a najkasnije u roku od 24 sata. Ako je takvo odobrenje odbijeno, upotreba se smjesta zaustavlja te se svi podaci, kao i rezultati i izlazni podaci te upotrebe odmah odbacuju i brišu.
Kompetentā tiesu iestāde vai neatkarīga administratīvā iestāde, kuras lēmums ir saistošs, piešķir atļauju tikai tad, ja, pamatojoties uz tai iesniegtiem objektīviem pierādījumiem vai skaidrām norādēm, tā atzīst, ka attiecīgās reāllaika biometriskās tālidentifikācijas sistēmas lietošana ir nepieciešama un samērīga, lai sasniegtu vienu no 1. punkta pirmās daļas h) apakšpunktā noteiktajiem mērķiem, kas norādīts pieprasījumā, un jo īpaši tā notiek tikai tiktāl, cik tas absolūti nepieciešams laikposma, kā arī ģeogrāfiskā un personiskā tvēruma ziņā. Lemjot par pieprasījumu, minētā iestāde ņem vērā 2. punktā minētos elementus. Nevienu lēmumu, kas personai rada nelabvēlīgas tiesiskas sekas, nevar pieņemt, balstoties vienīgi uz reāllaika biometriskās tālidentifikācijas sistēmu sniegto iznākumu.
Nadležno pravosudno tijelo ili neovisno upravno tijelo čija je odluka obvezujuća izdaje odobrenje samo ako je uvjereno, na temelju objektivnih dokaza ili jasnih informacija koje su mu predočene, da je upotreba dotičnog sustava za daljinsku biometrijsku identifikaciju u stvarnom vremenu potrebna za postizanje jednog od ciljeva iz stavka 1. prvog podstavka točke (h) navedenog u zahtjevu i razmjerna tom cilju, a ponajprije ostaje ograničena na ono što je nužno kad je riječ o razdoblju te zemljopisnom i personalnom području primjene. Pri odlučivanju o zahtjevu to tijelo uzima u obzir elemente iz stavka 2. Odluka koja proizvodi negativan pravni učinak na osobu ne smije se donijeti isključivo na temelju izlaznih podataka sustava za daljinsku biometrijsku identifikaciju u stvarnom vremenu.
4. Neskarot 3. punktu, par katru reāllaika biometriskās tālidentifikācijas sistēmas lietošanu publiski piekļūstamās vietās tiesībaizsardzības nolūkos paziņo attiecīgajai tirgus uzraudzības iestādei un valsts datu aizsardzības iestādei saskaņā ar 5. punktā minētajiem valsts tiesību aktu noteikumiem. Paziņojumā iekļauj vismaz 6. punktā norādīto informāciju, un tajā neiekļauj sensitīvus operatīvos datus.
4. Ne dovodeći u pitanje stavak 3., o svakoj upotrebi sustava za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima u svrhu kaznenog progona obavješćuju se relevantno tijelo za nadzor tržišta i nacionalno tijelo za zaštitu podataka u skladu s nacionalnim pravilima iz stavka 5. Obavijest mora sadržavati barem informacije navedene u stavku 6. i ne smije uključivati osjetljive operativne podatke.
5. Dalībvalsts var nolemt paredzēt iespēju pilnīgi vai daļēji atļaut reāllaika biometriskās tālidentifikācijas sistēmu izmantošanu publiski piekļūstamās vietās tiesībaizsardzības nolūkos, ievērojot ierobežojumus un nosacījumus, kas uzskaitīti 1. punkta pirmās daļas h) apakšpunktā un 2. un 3. punktā. Attiecīgās dalībvalstis savos tiesību aktos nosaka vajadzīgos sīki izstrādātos noteikumus par 3. punktā minēto atļauju pieprasīšanu, izsniegšanu un izmantošanu, kā arī ar tām saistīto attiecīgo uzraudzību un ziņošanu. Minētajos noteikumos arī norāda, attiecībā uz kuriem no 1. punkta pirmās daļas h) apakšpunktā uzskaitītajiem mērķiem – tostarp kuru minētā punkta h) apakšpunkta iii) punktā norādīto noziedzīgo nodarījumu gadījumā – kompetentajām iestādēm var atļaut minētās sistēmas lietot tiesībaizsardzības nolūkos. Dalībvalstis minētos noteikumus paziņo Komisijai ne vēlāk kā 30 dienas pēc to pieņemšanas. Dalībvalstis saskaņā ar Savienības tiesību aktiem var ieviest ierobežojošākus tiesību aktus par biometriskās tālidentifikācijas sistēmu lietošanu.
5. Država članica može odlučiti predvidjeti mogućnost potpunog ili djelomičnog odobravanja upotrebe sustava za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima u svrhu kaznenog progona uz ograničenja i pod uvjetima iz stavka 1. prvog podstavka točke (h) te stavaka 2. i 3. Dotična država članica u svojem nacionalnom pravu utvrđuje potrebna podrobna pravila o podnošenju zahtjeva za odobrenja iz stavka 3., o izdavanju, izvršenju i nadzoru tih odobrenja te izvješćivanju u vezi s njima. U tim se pravilima također određuje za koje se ciljeve iz stavka 1. prvog podstavka točke (h), među ostalim i za koja kaznena djela iz njegove točke (h) podtočke iii., nadležnim tijelima može odobriti upotreba tih sustava u svrhu kaznenog progona. Države članice priopćuju Komisiji ta pravila najkasnije 30 dana nakon njihova donošenja. Države članice mogu, u skladu s pravom Unije, uvesti restriktivnije propise o upotrebi sustavâ za daljinsku biometrijsku identifikaciju.
6. Dalībvalstu valsts tirgus uzraudzības iestādes un valsts datu aizsardzības iestādes, kurām ir paziņots par reāllaika biometriskās tālidentifikācijas sistēmas lietošanu publiski piekļūstamās vietās tiesībaizsardzības nolūkos, ievērojot 4. punktu, iesniedz Komisijai gada ziņojumus par šādu lietošanu. Minētajā nolūkā Komisija nodrošina dalībvalstīm un valsts tirgus uzraudzības un datu aizsardzības iestādēm veidni, kurā ietver informāciju par to lēmumu skaitu, kurus attiecībā uz atļaujas pieprasījumiem saskaņā ar 3. punktu pieņēmušas kompetentās tiesu iestādes vai neatkarīga administratīvā iestāde, kuras lēmumi ir saistoši, un par to rezultātiem.
6. Nacionalna tijela za nadzor tržišta i nacionalna tijela za zaštitu podataka država članica koja su obaviještena o upotrebi sustavâ za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima u svrhu kaznenog progona na temelju stavka 4. podnose Komisiji godišnja izvješća o takvoj upotrebi. U tu svrhu Komisija državama članicama i nacionalnim tijelima za nadzor tržišta i zaštitu podataka dostavlja predložak, uključujući informacije o broju odluka koje su nadležna pravosudna tijela ili neovisno upravno tijelo čija je odluka obvezujuća donijeli na temelju zahtjevâ za izdavanje odobrenja u skladu sa stavkom 3. i njihov rezultat.
7. Komisija publicē gada ziņojumus par reāllaika biometriskās tālidentifikācijas sistēmas lietošanu publiski piekļūstamās vietās tiesībaizsardzības nolūkos, pamatojoties uz dalībvalstīs agregētiem datiem, kas balstīti uz 6. punktā minētajiem gada ziņojumiem. Minētie gada ziņojumi neietver sensitīvus operatīvos datus par saistītajām tiesībaizsardzības darbībām.
7. Komisija objavljuje godišnja izvješća o upotrebi sustavâ za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima u svrhu kaznenog progona na temelju agregiranih podataka u državama članicama i godišnjih izvješća iz stavka 6. Ta godišnja izvješća ne smiju uključivati osjetljive operativne podatke o povezanim aktivnostima kaznenog progona.
8. Šis pants neietekmē aizliegumus, ko piemēro, ja MI prakse pārkāpj citus Savienības tiesību aktus.
8. Ovaj članak ne utječe na zabrane koje se primjenjuju ako se praksom u području umjetne inteligencije krši drugo pravo Unije.
Noteikumi klasificēšanai par augsta riska MI sistēmām
Pravila o klasifikaciji UI sustava kao visokorizičnih
1. Neatkarīgi no tā, vai MI sistēmu laiž tirgū vai nodod ekspluatācijā neatkarīgi no a) un b) apakšpunktā minētajiem produktiem, minēto MI sistēmu uzskata par augsta riska sistēmu, ja ir izpildīti abi šie nosacījumi:
1. Bez obzira na to stavlja li se UI sustav na tržište ili u upotrebu neovisno o proizvodima iz točaka (a) i (b) taj se UI sustav smatra visokorizičnim ako su ispunjena oba sljedeća uvjeta:
a)
MI sistēmu paredzēts izmantot kā produkta drošības sastāvdaļu, vai MI sistēma pati par sevi ir produkts, uz kuru attiecas Savienības saskaņošanas tiesību akti, kas uzskaitīti I pielikumā;
(a)
UI sustav namijenjen je za korištenje kao sigurnosna komponenta proizvoda ili je UI sustav sam po sebi proizvod koji je obuhvaćen zakonodavstvom Unije o usklađivanju navedenim u Prilogu I.;
b)
produktam, kura drošības sastāvdaļa, ievērojot a) apakšpunktu, ir MI sistēma, vai pašai MI sistēmai kā produktam ir vajadzīgs trešās personas veikts atbilstības novērtējums, lai to varētu laist tirgū vai nodot ekspluatācijā saskaņā ar Savienības saskaņošanas tiesību aktiem, kas uzskaitīti I pielikumā.
(b)
za proizvod čija je sigurnosna komponenta na temelju točke (a) UI sustav ili UI sustav koji je sam po sebi proizvod zahtijeva se ocjenjivanje sukladnosti koje provodi treća strana radi stavljanja na tržište ili stavljanja u upotrebu tog proizvoda na temelju zakonodavstva Unije o usklađivanju navedenog u Prilogu I.
2. Papildus 1. punktā minētajām augsta riska MI sistēmām par augsta riska sistēmām uzskata III pielikumā minētās MI sistēmas.
2. Uz visokorizične UI sustave iz stavka 1., u visokorizične sustave ubrajaju se UI sustavi iz Priloga III.
3. Atkāpjoties no 2. punkta, III pielikumā minēto MI sistēmu neuzskata par augsta riska sistēmu, ja tā nerada būtisku kaitējuma risku fizisku personu veselībai, drošībai vai pamattiesībām, tostarp būtiski neietekmē lēmumu pieņemšanas iznākumu.
3. Odstupajući od stavka 2., UI sustav iz Priloga III. ne smatra se visokorizičnim ako ne predstavlja znatan rizik od štete za zdravlje, sigurnost ili temeljna prava fizičkih osoba, među ostalim ako bitno ne utječe na ishod donošenja odluka.
Pirmo daļu piemēro, ja ir izpildīts jebkurš no šādiem nosacījumiem:
Prvi podstavak primjenjuje se ako je ispunjen bilo koji od sljedećih uvjeta:
a)
MI sistēma ir paredzēta šaura procedūras uzdevuma veikšanai;
(a)
UI sustav namijenjen je obavljanju uske postupovne zadaće;
b)
MI sistēma ir paredzēta iepriekš pabeigtas cilvēka darbības rezultāta uzlabošanai;
(b)
UI sustav namijenjen je poboljšanju rezultata prethodno dovršene ljudske aktivnosti;
c)
MI sistēma ir paredzēta lēmumu pieņemšanas modeļu vai noviržu no iepriekšējiem lēmumu pieņemšanas modeļiem atklāšanai, un tā nav paredzēta, lai aizstātu vai ietekmētu iepriekš pabeigtu cilvēka veiktu novērtējumu, bez pienācīgas cilvēka veiktas pārskatīšanas; vai
(c)
UI sustav namijenjen je otkrivanju obrazaca donošenja odluka ili odstupanja od ranijih obrazaca donošenja odluka i ne bi trebao zamijeniti prethodno dovršenu ljudsku procjenu niti na nju utjecati, bez odgovarajućeg preispitivanja koje provodi čovjek; ili
d)
MI sistēma ir paredzēta sagatavošanās uzdevuma veikšanai saistībā ar novērtējumu, kas ir būtisks III pielikumā uzskaitīto lietošanas gadījumu nolūkos.
(d)
UI sustav namijenjen je obavljanju pripremne zadaće za ocjenjivanje relevantno za slučajeve upotrebe navedene u Prilogu III.
Neatkarīgi no pirmās daļas III pielikumā minētu MI sistēmu vienmēr uzskata par augsta riska MI sistēmu, ja MI sistēma veic fizisku personu profilēšanu.
Ne dovodeći u pitanje prvi podstavak, UI sustav iz Priloga III. uvijek se smatra visokorizičnim ako taj UI sustav izrađuje profile fizičkih osoba.
4. Nodrošinātājs, kas uzskata, ka III pielikumā minēta MI sistēma nav augsta riska sistēma, dokumentē tās novērtējumu pirms minētā sistēma tiek laista tirgū vai nodota ekspluatācijā. Uz šādu nodrošinātāju attiecas 49. panta 2. punktā paredzētais reģistrācijas pienākums. Pēc valsts kompetento iestāžu pieprasījuma nodrošinātājs uzrāda novērtējuma dokumentāciju.
4. Dobavljač koji smatra da UI sustav iz Priloga III. nije visokorizičan dokumentira svoje ocjenjivanje prije stavljanja tog sustava na tržište ili u upotrebu. Takav dobavljač podliježe obvezi registracije utvrđenoj u članku 49. stavku 2. Na zahtjev nacionalnih nadležnih tijela dobavljač dostavlja dokumentaciju o ocjenjivanju.
5. Komisija pēc apspriešanās ar Eiropas Mākslīgā intelekta padomi (MI padomi) un ne vēlāk kā 2026. gada 2. februārī sniedz pamatnostādnes, kurās precizē šā panta praktisko īstenošanu saskaņā ar 96. pantu, kopā ar izsmeļošu sarakstu ar praktiskiem piemēriem par MI sistēmu, kuras ir augsta riska MI sistēmas, un to, kuras nav augsta riska MI sistēmas, lietošanas gadījumiem.
5. Komisija, nakon savjetovanja s Europskim vijećem za umjetnu inteligenciju („Vijeće za umjetnu inteligenciju”), a najkasnije 2. veljače 2026., izdaje smjernice u kojima se utvrđuje praktična provedba ovog članka u skladu s člankom 96. zajedno sa sveobuhvatnim popisom praktičnih slučajeva upotrebe UI sustava koji su visokorizični i koji nisu visokorizični.
6. Komisija tiek pilnvarota pieņemt deleģētos aktus saskaņā ar 97. pantu, lai grozītu šā panta 3. punkta otro daļu, lai pievienotu jaunus nosacījumus tajā noteiktajiem nosacījumiem, vai grozītu tos, ja ir konkrēti un ticami pierādījumi, ka ir MI sistēmas, kas ietilpst III pielikuma tvērumā, bet nerada būtisku kaitējuma risku fizisku personu veselībai, drošībai vai pamattiesībām.
6. Komisija je ovlaštena za donošenje delegiranih akata u skladu s člankom 97. radi izmjene stavka 3. drugog podstavka ovog članka dodavanjem novih uvjeta uvjetima koji su utvrđeni u stavku 3. drugom podstavku ovog članka ili mijenjanjem tih uvjeta ako postoje konkretni i pouzdani dokazi o postojanju UI sustava koji su obuhvaćeni područjem primjene Priloga III., ali ne predstavljaju znatan rizik od štete za zdravlje, sigurnost ili temeljna prava fizičkih osoba.
7. Komisija pieņem deleģētos aktus saskaņā ar 97. pantu, lai grozītu 3. punkta otro daļu, lai svītrotu jebkuru no tajā noteiktajiem nosacījumiem, ja ir konkrēti un ticami pierādījumi, ka tas ir vajadzīgs, lai uzturētu veselības, drošības un pamattiesību aizsardzības līmeni, ko paredz šī regula.
7. Komisija donosi delegirane akte u skladu s člankom 97. radi izmjene stavka 3. drugog podstavka ovog članka brisanjem bilo kojeg od uvjeta utvrđenih u stavku 3. drugom podstavku ovog članka ako postoje konkretni i pouzdani dokazi da je to potrebno radi održavanja razine zaštite zdravlja, sigurnosti i temeljnih prava koja je predviđena ovom Uredbom.
8. Neviens 3. punkta otrajā daļā paredzētais nosacījumu grozījums, kas pieņemts saskaņā ar šā panta 6. un 7. punktu, nemazina veselības, drošības un pamattiesību aizsardzības vispārējo līmeni, ko paredz šī regula un tas nodrošina saskanību ar deleģētajiem aktiem, kas pieņemti, ievērojot 7. panta 1. punktu, un ņem vērā tirgus norises un tehnoloģiju attīstību.
8. Nijednom izmjenom uvjeta utvrđenih u stavku 3. drugom podstavku donesenom u skladu sa stavcima 6. i 7. ovog članka ne smije se smanjiti ukupna razina zaštite zdravlja, sigurnosti i temeljnih prava koja je predviđena ovom Uredbom te se njome mora osigurati usklađenost s delegiranim aktima donesenima na temelju članka 7. stavka 1. i uzeti u obzir tržišni i tehnološki razvoj.
Riska pārvaldības sistēma
Sustav upravljanja rizikom
1. Saistībā ar augsta riska MI sistēmām izveido, ievieš, dokumentē un uztur riska pārvaldības sistēmu.
1. Za visokorizične UI sustave uspostavlja se, primjenjuje i održava sustav upravljanja rizikom te se o njemu vodi dokumentacija.
2. Riska pārvaldības sistēmu saprot kā nepārtrauktu iteratīvu procesu, ko plāno un kas norit visā augsta riska MI sistēmas darbmūžā, un tam nepieciešama regulāra sistemātiska pārskatīšana un atjaunināšana. Tajā ietilpst šādi posmi:
2. Sustav upravljanja rizikom shvaća se kao kontinuiran iterativan proces koji se planira i izvodi tijekom cijelog životnog ciklusa visokorizičnog UI sustava i koji je potrebno redovito i sustavno preispitivati i ažurirati. Obuhvaća sljedeće korake:
a)
to zināmo un saprātīgi paredzamo risku apzināšana un analīze, ko augsta riska MI sistēma var radīt veselībai, drošībai vai pamattiesībām, ja augsta riska MI sistēmu lieto saskaņā ar tai paredzēto nolūku;
(a)
utvrđivanje i analizu poznatih i razumno predvidljivih rizika koje visokorizični UI sustav može predstavljati za zdravlje, sigurnost ili temeljna prava kada se visokorizični UI sustav koristi u skladu sa svojom namjenom;
b)
to risku aplēšana un izvērtēšana, kas var rasties, ja augsta riska MI sistēmu lieto atbilstoši paredzētajam nolūkam, un saprātīgi paredzamas nepareizas lietošanas apstākļos;
(b)
procjenjivanje i evaluaciju rizika koji mogu nastati pri korištenju visokorizičnog UI sustava u skladu s njegovom namjenom i u uvjetima razumno predvidljive pogrešne upotrebe;
c)
citu iespējamo risku izvērtēšana, pamatojoties uz to datu analīzi, kas savākti no 72. pantā minētās pēctirgus pārraudzības sistēmas;
(c)
evaluaciju drugih potencijalnih rizika na temelju analize podataka prikupljenih sustavom praćenja nakon stavljanja na tržište iz članka 72.;
d)
saskaņā ar šā punkta a) apakšpunktu apzinātu risku novēršanai paredzētu piemērotu un mērķorientētu riska pārvaldības pasākumu pieņemšana.
(d)
donošenje odgovarajućih i ciljanih mjera upravljanja rizikom osmišljenih za uklanjanje rizika utvrđenih na temelju točke (a).
3. Šajā pantā minētie riski attiecas tikai uz tiem riskiem, kurus var saprātīgi mazināt vai novērst, izstrādājot vai projektējot augsta riska MI sistēmu vai sniedzot atbilstīgu tehnisko informāciju.
3. Rizici iz ovog članka odnose se samo na one rizike koji se mogu razumno ublažiti ili ukloniti razvijanjem ili dizajnom visokorizičnog UI sustava ili pružanjem adekvatnih tehničkih informacija.
4. Riska pārvaldības pasākumos, kas minēti 2. punkta d) apakšpunktā, pienācīgi ņem vērā sekas un iespējamo mijiedarbību, ko rada šajā iedaļā noteikto prasību kombinēta piemērošana, lai efektīvāk samazinātu riskus, vienlaikus panākot pienācīgu līdzsvaru minēto prasību izpildei paredzēto pasākumu īstenošanā.
4. U mjerama upravljanja rizikom iz stavka 2. točke (d) na odgovarajući način uzimaju se u obzir učinci i moguća interakcija koji proizlaze iz kombinirane primjene zahtjeva utvrđenih u ovom odjeljku, u cilju djelotvornijeg svođenja rizika na najmanju moguću mjeru i istodobnog postizanja odgovarajuće ravnoteže u provedbi mjera za ispunjavanje tih zahtjeva.
5. Riska pārvaldības pasākumi, kas minēti 2. punkta d) apakšpunktā, ir tādi, ka attiecīgie ar katru apdraudējumu saistītie atlikušie riski, kā arī augsta riska MI sistēmu kopējais atlikušais risks tiek uzskatīti par pieņemamiem.
5. Mjere upravljanja rizikom iz stavka 2. točke (d) takve su da su relevantni preostali rizik povezan sa svakom pojedinom opasnošću kao i cjelokupni preostali rizik visokorizičnih UI sustava procijenjeni prihvatljivima.
Nosakot vispiemērotākos riska pārvaldības pasākumus, nodrošina:
Pri utvrđivanja najprikladnijih mjera upravljanja rizikom osigurava se sljedeće:
a)
apzināto un izvērtēto risku likvidēšanu vai samazināšanu, ievērojot 2. punktu, ciktāl tas tehniski iespējams, ar augsta riska MI sistēmas atbilstīgu projektēšanu un izstrādi;
(a)
uklanjanje ili smanjenje rizika utvrđenih i evaluiranih na temelju stavka 2. u mjeri u kojoj je to tehnički izvedivo putem adekvatnog dizajna i razvoja visokorizičnog UI sustava;
b)
attiecīgā gadījumā atbilstīgu riska mazināšanas un kontroles pasākumu īstenošanu, ar ko pievēršas riskiem, kurus nevar likvidēt;
(b)
prema potrebi, provedba adekvatnih mjera za ublažavanje i kontrolu rizika koji se ne mogu ukloniti;
c)
informācijas sniegšanu, kas prasīta, ievērojot 13. pantu, un attiecīgā gadījumā uzturētāju apmācību.
(c)
pružanje informacija koje se zahtijevaju u skladu s člankom 13. i, prema potrebi, osposobljavanja za subjekte koji uvode sustav.
Lai likvidētu vai samazinātu riskus, kas saistīti ar augsta riska MI sistēmas lietošanu, pienācīgi ņem vērā tehniskās zināšanas, pieredzi, izglītību, apmācību, kas tiek gaidīta attiecībā uz uzturētāju, un paredzamo kontekstu, kurā sistēmu paredzēts izmantot.
U cilju uklanjanja ili smanjenja rizika povezanih s korištenjem visokorizičnog UI sustava u obzir se na odgovarajući način uzimaju tehničko znanje, iskustvo, obrazovanje i osposobljavanje koje treba očekivati od subjekta koji uvodi sustav te pretpostavljeni kontekst u kojem se sustav namjerava koristiti.
6. Augsta riska MI sistēmas testē, lai noteiktu vispiemērotākos un mērķtiecīgākos riska pārvaldības pasākumus. Testēšana nodrošina, ka augsta riska MI sistēmas darbojas konsekventi paredzētajam nolūkam un ka tās atbilst šajā iedaļā noteiktajām prasībām.
6. Visokorizični UI sustavi testiraju se kako bi se utvrdile najprikladnije i ciljane mjere upravljanja rizikom. Testiranjem se osigurava da visokorizični UI sustavi postojano rade u skladu sa svojom namjenom i da ispunjavaju zahtjeve utvrđene u ovom odjeljku.
7. Testēšanas procedūras var ietvert testēšanu reālos apstākļos saskaņā ar 60. pantu.
7. Postupci testiranja mogu uključivati testiranje u stvarnim uvjetima u skladu s člankom 60.
8. Augsta riska MI sistēmu testēšanu pēc vajadzības veic jebkurā brīdī visā izstrādes procesā un jebkurā gadījumā pirms laišanas tirgū vai nodošanas ekspluatācijā. Testēšanu veic, izmantojot iepriekš noteiktus rādītājus un varbūtības sliekšņus, kas atbilst augsta riska MI sistēmai paredzētajam nolūkam.
8. Visokorizični UI sustavi testiraju se prema potrebi u bilo kojem trenutku razvojnog procesa, a u svakom slučaju prije stavljanja na tržište ili u upotrebu. Testiranje se provodi u odnosu na prethodno definirane parametre i probabilističke pragove koji su primjereni za namjenu visokorizičnog UI sustava.
9. Īstenojot 1.–7. punktā paredzēto riska pārvaldības sistēmu, nodrošinātāji apsver, vai, ņemot vērā tai paredzēto nolūku, pastāv iespēja, ka augsta riska MI sistēmai būs negatīva ietekme uz personām, kas jaunākas par 18 gadiem, un attiecīgā gadījumā citām neaizsargātām grupām.
9. Pri provedbi sustava upravljanja rizikom predviđenog u stavcima od 1. do 7. dobavljači razmatraju je li vjerojatno da će, s obzirom na njegovu namjenu, visokorizični UI sustav imati nepovoljan utjecaj na osobe mlađe od 18 godina i, prema potrebi, na druge skupine ranjivih osoba.
10. Attiecībā uz augsta riska MI sistēmu nodrošinātājiem, uz kuriem saskaņā ar citiem attiecīgiem Savienības tiesību aktu noteikumiem attiecas prasības par iekšējiem riska pārvaldības procesiem, 1.–9. punktā paredzētie aspekti var būt daļa no vai apvienoti ar riska pārvaldības procedūrām, kas izveidotas, ievērojot minētos tiesību aktus.
10. Kad je riječ o dobavljačima visokorizičnih UI sustava na koje se primjenjuju zahtjevi u pogledu unutarnjih procesa upravljanja rizikom na temelju drugih relevantnih odredaba prava Unije, aspekti iz stavaka od 1. do 9. mogu biti dio postupaka upravljanja rizikom uspostavljenih na temelju tog prava ili se kombinirati s tim postupcima.
Podaci i upravljanje podacima
1. Augsta riska MI sistēmas, kurās izmanto metodes, kas saistītas ar MI modeļu apmācību ar datiem, izstrādā, pamatojoties uz apmācības, validēšanas un testēšanas datu kopām, kas atbilst 2.–5. punktā minētajiem kvalitātes kritērijiem, ikreiz, kad tiek izmantotas šādas datu kopas.
1. Visokorizični UI sustavi koji upotrebljavaju tehnike s treniranjem UI modelâ s pomoću podataka moraju se razvijati na temelju skupova podataka za treniranje, validaciju i testiranje koji ispunjavaju kriterije kvalitete iz stavaka od 2. do 5. kad god se takvi skupovi podataka upotrebljavaju.
2. Apmācības, validēšanas un testēšanas datu kopām piemēro datu pārvaldību un pārvaldības praksi, kas ir piemērota augsta riska MI sistēmai paredzētajam nolūkam. Minētā prakse attiecas jo īpaši uz:
2. Na skupove podataka za treniranje, validaciju i testiranje primjenjuju se prakse upravljanja i rukovanja podacima prikladne za namjenu visokorizičnog UI sustava. Te se prakse ponajprije odnose na:
a)
attiecīgām izstrādes izvēlēm;
(a)
relevantne odluke o dizajnu;
b)
datu vākšanas procesiem un datu izcelsmi, un personas datu gadījumā – uz datu vākšanas sākotnējo nolūku;
(b)
procese prikupljanja podataka i podrijetlo podataka te, u slučaju osobnih podataka, izvornu svrhu prikupljanja podataka;
c)
attiecīgām datu sagatavošanas apstrādes darbībām, piemēram, anotēšanu, marķēšanu, tīrīšanu, atjaunināšanu, bagātināšanu un agregēšanu;
(c)
relevantne postupke obrade za pripremu podataka, kao što su obilježavanje, označivanje, čišćenje, ažuriranje, obogaćivanje i agregiranje;
d)
pieņēmumu formulēšanu, jo īpaši attiecībā uz informāciju, kuru šiem datiem vajadzētu izmērīt un attēlot;
(d)
formuliranje pretpostavki, osobito s obzirom na informacije koje bi podaci trebali mjeriti i predstavljati;
e)
nepieciešamo datu kopu pieejamības, daudzuma un piemērotības novērtējumu;
(e)
procjenu raspoloživosti, količine i prikladnosti potrebnih skupova podataka;
f)
tādas iespējamas neobjektivitātes pārbaudi, kas varētu ietekmēt cilvēku veselību un drošību, nelabvēlīgi ietekmēt pamattiesības vai izraisīt diskrimināciju, kura aizliegta ar Savienības tiesību aktiem, jo īpaši, ja izvaddati ietekmē ievaddatus turpmākām darbībām;
(f)
ispitivanje s obzirom na moguće pristranosti koje bi mogle utjecati na zdravlje i sigurnost osoba, imati negativan utjecaj na temeljna prava ili dovesti do diskriminacije zabranjene pravom Unije, posebno ako izlazni podaci utječu na ulazne podatke za buduće operacije;
g)
pienācīgus pasākumus, lai atklātu, novērstu, mazinātu iespējamu neobjektivitāti, kas identificēta saskaņā ar f) apakšpunktu;
(g)
odgovarajuće mjere za otkrivanje, sprečavanje i ublažavanje mogućih pristranosti utvrđenih u skladu s točkom (f);
h)
tādu attiecīgu datu trūkumu vai nepilnību identificēšanu, kas liedz ievērot šo regulu, un to, kā šos trūkumus un nepilnības var novērst.
(h)
utvrđivanje relevantnih nedostataka u podacima ili drugih nedostataka koji onemogućuju usklađivanje s ovom Uredbom te načina na koji se ti nedostaci mogu ukloniti.
3. Apmācības, validēšanas un testēšanas datu kopas ir atbilstošas, pietiekami reprezentatīvas un, cik vien iespējams, bez kļūdām un pilnīgas, ņemot vērā paredzēto nolūku. Tām ir atbilstoši statistiskie raksturlielumi, tostarp vajadzības gadījumā attiecībā uz personām vai personu grupām, attiecībā uz kurām paredzēts izmantot konkrēto augsta riska MI sistēmu. Minētos datu kopu raksturlielumus var izpildīt atsevišķu datu kopu vai to kombinācijas līmenī.
3. Skupovi podataka za treniranje, validaciju i testiranje moraju biti relevantni, dovoljno reprezentativni te, u najvećoj mogućoj mjeri, bez pogrešaka i potpuni s obzirom na namjenu. Moraju imati odgovarajuća statistička obilježja, među ostalim u odnosu na osobe ili skupine osoba u pogledu kojih se visokorizični UI sustav namjerava koristiti, ako je primjenjivo. Te se karakteristike skupova podataka mogu postići na razini pojedinačnih skupova podataka ili na razini kombinacije skupova podataka.
4. Datu kopās, ciktāl to nosaka paredzētais nolūks, ņem vērā raksturlielumus vai elementus, kas raksturīgi konkrētajai ģeogrāfiskajai, kontekstuālajai, uzvedības vai funkcionālajai videi, kurā paredzēts lietot augsta riska MI sistēmu.
4. U skupovima podataka moraju se uzeti u obzir, u mjeri u kojoj to iziskuje namjena, karakteristike ili elementi specifični za zemljopisno, kontekstualno, bihevioralno ili radno okruženje u kojem se visokorizični UI sustav namjerava koristiti.
5. Ciktāl tas ir absolūti nepieciešams, lai nodrošinātu neobjektivitātes atklāšanu un labošanu saistībā ar augsta riska MI sistēmām saskaņā ar šā panta 2. punkta f) un g) apakšpunktu, šādu sistēmu nodrošinātāji var izņēmuma kārtā apstrādāt īpašu kategoriju personas datus, ievērojot atbilstošus fizisku personu pamattiesību un pamatbrīvību aizsardzības pasākumus. Lai notiktu šāda apstrāde, papildus noteikumiem, kas paredzēti Regulās (ES) 2016/679 un (ES) 2018/1725 un Direktīvā (ES) 2016/680, jāievēro visi turpmāk minētie nosacījumi:
5. U mjeri u kojoj je to nužno u svrhu osiguravanja otkrivanja i ispravljanja pristranosti u vezi s visokorizičnim UI sustavima u skladu sa stavkom 2. točkama (f) i (g) ovog članka, dobavljači takvih sustava mogu iznimno obrađivati posebne kategorije osobnih podataka, podložno odgovarajućim zaštitnim mjerama za temeljna prava i slobode fizičkih osoba. Kako bi se takva obrada provela, uz odredbe utvrđene u uredbama (EU) 2016/679 i (EU) 2018/1725 te Direktivi (EU) 2016/680 moraju se ispuniti svi sljedeći uvjeti:
a)
neobjektivitātes atklāšanu un labošanu nevar rezultatīvi panākt, apstrādājot citus datus, tostarp sintētiskus vai anonimizētus datus;
(a)
otkrivanje i ispravljanje pristranosti ne može se djelotvorno postići obradom drugih podataka, uključujući sintetičke ili anonimizirane podatke;
b)
uz īpašajām personas datu kategorijām attiecas tehniski ierobežojumi saistībā ar personas datu atkalizmantošanu un jaunākie drošības un privātuma saglabāšanas pasākumi, tostarp pseidonimizācija;
(b)
posebne kategorije osobnih podataka podliježu tehničkim ograničenjima u pogledu ponovne upotrebe osobnih podataka i najsuvremenijim mjerama sigurnosti i zaštite privatnosti, uključujući pseudonimizaciju;
c)
uz īpašajām personas datu kategorijām attiecas pasākumi nolūkā nodrošināt, ka apstrādātie personas dati ir droši, aizsargāti, uz tiem attiecas piemēroti aizsardzības pasākumi, tostarp stingra piekļuves kontrole un dokumentācija, lai novērstu ļaunprātīgu izmantošanu, un nodrošinātu, ka piekļuve minētajiem personas datiem ir tikai pilnvarotām personām un ar atbilstīgiem konfidencialitātes pienākumiem;
(c)
posebne kategorije osobnih podataka podliježu mjerama kojima se osigurava da su obrađeni osobni podaci osigurani i zaštićeni, podložno odgovarajućim zaštitnim mjerama, uključujući stroge kontrole i dokumentaciju pristupa, kako bi se izbjegla pogrešna upotreba i osiguralo da pristup tim osobnim podacima imaju samo ovlaštene osobe i uz odgovarajuće obveze u pogledu povjerljivosti;
d)
īpašajās kategorijās ietilpstošos personas datus nepārsūta, nenodod vai citādi nedara piekļūstamus citām pusēm;
(d)
posebne kategorije osobnih podataka ne smiju se prenositi, prosljeđivati niti im druge strane smiju na neki drugi način pristupiti;
e)
īpašajās kategorijās ietilpstošos personas datus dzēš, tiklīdz neobjektivitāte ir izlabota vai ir pienākušas to glabāšanas perioda beigas – atkarībā no tā, kas notiek vispirms;
(e)
posebne kategorije osobnih podataka brišu se nakon ispravljanja pristranosti ili završetka razdoblja čuvanja osobnih podataka, ovisno o tome što nastupi ranije;
f)
ieraksti par apstrādes darbībām, ievērojot Regulām (ES) 2016/679 un (ES) 2018/1725 un Direktīvu (ES) 2016/680, ietver pamatojumu, kāpēc īpašo kategoriju personas datu apstrāde bija absolūti nepieciešama, lai atklātu un izlabotu neobjektivitāti, un kāpēc šo mērķi nevarēja sasniegt, apstrādājot citus datus.
(f)
evidencija aktivnosti obrade na temelju uredaba (EU) 2016/679 i (EU) 2018/1725 te Direktive (EU) 2016/680 sadržava razloge zbog kojih je obrada posebnih kategorija osobnih podataka bila nužna za otkrivanje i ispravljanje pristranosti te zbog kojih se taj cilj nije mogao postići obradom drugih podataka.
6. Attiecībā uz tādu augsta riska MI sistēmu izstrādi, kurās netiek izmantotas metodes, kas paredz MI modeļu apmācību, 2.–5. punktu piemēro tikai testēšanas datu kopām.
6. Kad je riječ o razvoju visokorizičnih UI sustava u kojima se ne upotrebljavaju tehnike koje uključuju treniranje UI modelâ, stavci od 2. do 5. primjenjuju se samo na skupove podataka za testiranje.
1. Pirms augsta riska MI sistēmas laišanas tirgū vai nodošanas ekspluatācijā sagatavo šīs sistēmas tehnisko dokumentāciju, un to regulāri atjaunina.
1. Tehnička dokumentacija visokorizičnog UI sustava sastavlja se prije njegova stavljanja na tržište ili u upotrebu te se ažurira.
Tehnisko dokumentāciju sagatavo tā, lai apliecinātu, ka attiecīgā augsta riska MI sistēma atbilst šajā iedaļā noteiktajām prasībām, un valstu kompetentajām iestādēm un paziņotajām struktūrām skaidrā un visaptverošā veidā sniedz nepieciešamo informāciju, lai novērtētu MI sistēmas atbilstību minētajām prasībām. Tajā ir vismaz IV pielikumā izklāstītie elementi. MVU, tostarp jaunuzņēmumi, IV pielikumā norādītos tehniskās dokumentācijas elementus var iesniegt vienkāršotā veidā. Minētajā nolūkā Komisija izveido vienkāršotu tehniskās dokumentācijas veidlapu, ņemot vērā mazo uzņēmumu un mikrouzņēmumu vajadzības. Ja MVU, tostarp jaunuzņēmums, izvēlas IV pielikumā prasīto informāciju sniegt vienkāršotā veidā, tas izmanto šajā punktā minēto veidlapu. Paziņotās struktūras pieņem veidlapu atbilstības novērtēšanas nolūkos.
Tehnička dokumentacija sastavlja se tako da se njome dokaže da visokorizični UI sustav ispunjava zahtjeve utvrđene u ovom odjeljku te da se nacionalnim nadležnim tijelima i prijavljenim tijelima na jasan i sveobuhvatan način pruže informacije potrebne za ocjenjivanje usklađenosti UI sustava s tim zahtjevima. Tehnička dokumentacija sadržava barem elemente utvrđene u Prilogu IV. MSP-ovi, uključujući start-up poduzeća, mogu elemente tehničke dokumentacije iz Priloga IV. dostaviti na pojednostavnjen način. U tom cilju Komisija utvrđuje pojednostavnjeni obrazac za tehničku dokumentaciju namijenjen potrebama malih poduzeća i mikropoduzeća. Ako MSP, uključujući start-up poduzeće, odluči na pojednostavnjen način dostaviti informacije koje se zahtijevaju u Prilogu IV., koristi se obrascem na koji se upućuje u ovom stavku. Prijavljena tijela prihvaćaju taj obrazac u svrhu ocjenjivanja sukladnosti.
2. Ja tiek laista tirgū vai nodota ekspluatācijā augsta riska MI sistēma, kas saistīta ar produktu, uz kuru attiecas I pielikuma A iedaļā uzskaitītie Savienības saskaņošanas tiesību akti, sagatavo vienotu tehniskās dokumentācijas kopumu, kurā ir visa informācija, kas noteikta 1. punktā, kā arī informācija, kas prasīta minētajos tiesību aktos.
2. Ako se na tržište ili u upotrebu stavlja visokorizični UI sustav povezan s proizvodom koji je obuhvaćen zakonodavstvom Unije o usklađivanju navedenim u odjeljku A Priloga I., sastavlja se jedinstvena tehnička dokumentacija koja sadržava sve informacije utvrđene u stavku 1., kao i informacije koje se zahtijevaju tim pravnim aktima.
3. Komisija tiek pilnvarota pieņemt deleģētos aktus saskaņā ar 97. pantu, lai veiktu grozījumus IV pielikumā, vajadzības gadījumā nodrošinot, ka, ņemot vērā tehnikas attīstību, tehniskajā dokumentācijā tiek sniegta visa nepieciešamā informācija, kas vajadzīga, lai novērtētu sistēmas atbilstību šajā iedaļā noteiktajām prasībām.
3. Komisija ja ovlaštena za donošenje delegiranih akata u skladu s člankom 97. radi izmjene, prema potrebi, Priloga IV. kako bi se osiguralo da, s obzirom na tehnički napredak, tehnička dokumentacija sadržava sve informacije potrebne za ocjenjivanje usklađenosti sustava sa zahtjevima utvrđenima u ovom odjeljku.
1. Augsta riska MI sistēmas projektē un izstrādā, izmantojot arī atbilstošus cilvēka – mašīnas saskarnes rīkus, tā, lai fiziskas personas tās varētu efektīvi virsvadīt laikā, kad tās tiek lietotas.
1. Visokorizični UI sustavi dizajniraju se i razvijaju na takav način, među ostalim s odgovarajućim alatima sučelja čovjek-stroj, da ih fizičke osobe mogu djelotvorno nadzirati tijekom njihove upotrebe.
2. Cilvēka virsvadības mērķis ir novērst vai mazināt riskus attiecībā uz veselību, drošību vai pamattiesībām, kuri var rasties, ja augsta riska MI sistēmu lieto atbilstoši paredzētajam nolūkam vai saprātīgi paredzamas nepareizas lietošanas apstākļos, jo īpaši, ja šādi riski arvien pastāv, neraugoties uz citu šajā iedaļā noteikto prasību piemērošanu.
2. Cilj je ljudskog nadzora spriječiti ili što više smanjiti rizike za zdravlje, sigurnost ili temeljna prava koji se mogu pojaviti tijekom upotrebe visokorizičnog UI sustava u skladu s njegovom namjenom ili u uvjetima razumno predvidljive pogrešne upotrebe, osobito ako takvi rizici i dalje postoje unatoč primjeni drugih zahtjeva utvrđenih u ovom odjeljku.
3. Virsvadības pasākumi ir samērīgi augsta riska MI sistēmas riskiem, autonomijas līmenim un lietošanas kontekstam, un tos nodrošina, izmantojot vienu vai abus šos pasākumu veidus:
3. Mjere nadzora razmjerne su rizicima, razini autonomije i kontekstu korištenja visokorizičnog UI sustava, a osiguravaju se barem jednom od sljedećih vrsta mjera:
a)
pasākumi, kurus nodrošinātājs identificē un integrē augsta riska MI sistēmā, ja tas ir tehniski iespējams, pirms tās laišanas tirgū vai nodošanas ekspluatācijā;
(a)
mjerama koje dobavljač utvrđuje i ugrađuje, ako je to tehnički izvedivo, u visokorizični UI sustav prije njegova stavljanja na tržište ili u upotrebu;
b)
pasākumi, kurus nodrošinātājs identificē pirms augsta riska MI sistēmas laišanas tirgū vai nodošanas ekspluatācijā un kuri ir atbilstīgi, lai uzturētājs tos īstenotu.
(b)
mjerama koje dobavljač utvrđuje prije stavljanja visokorizičnog UI sustava na tržište ili u upotrebu, a koje su primjerene da ih provodi subjekt koji uvodi sustav.
4. Šā panta 1., 2. un 3. punkta īstenošanas nolūkā augsta riska MI sistēmu uzturētājam nodrošina tā, lai fiziskās personas, kurām ir uzticēta cilvēka virsvadība, atbilstoši un samērīgi varētu:
4. Za potrebe provedbe stavaka 1., 2. i 3. visokorizični UI sustav isporučuje se subjektu koji uvodi sustav na takav način da fizičke osobe kojima je povjeren ljudski nadzor mogu, ako je to potrebno i razmjerno:
a)
pareizi izprast augsta riska MI sistēmas attiecīgās spējas un ierobežojumus un spēt pienācīgi uzraudzīt tās darbību, tostarp, lai atklātu un novērstu anomālijas, disfunkcijas un neparedzētu veiktspēju;
(a)
pravilno razumjeti relevantne kapacitete i ograničenja visokorizičnog UI sustava i biti sposobne na odgovarajući način pratiti njegov rad, među ostalim radi otkrivanja i uklanjanja nepravilnosti, disfunkcija i neočekivanih rezultata;
b)
apzināties iespējamo tendenci automātiski uzticēties vai pārāk uzticēties augsta riska MI sistēmas radītajiem iznākumiem (automatizācijas izraisīta nosliece), jo īpaši attiecībā uz augsta riska MI sistēmām, kuras lieto, lai sniegtu informāciju vai ieteikumus lēmumiem, kas jāpieņem fiziskām personām;
(b)
biti na oprezu u pogledu moguće tendencije automatskog ili pretjeranog oslanjanja na izlazne podatke visokorizičnog UI sustava („automatizacijska pristranost”), osobito kad je riječ o visokorizičnim UI sustavima koji se upotrebljavaju za davanje informacija ili preporuka na temelju kojih odluke donose fizičke osobe;
c)
pareizi interpretēt augsta riska MI sistēmas radīto iznākumu, ņemot vērā, piemēram, pieejamos interpretācijas rīkus un metodes;
(c)
točno protumačiti izlazne podatke visokorizičnog UI sustava, uzimajući u obzir, primjerice, dostupne alate i metode za tumačenje;
d)
katrā atsevišķā situācijā izlemt nelietot augsta riska MI sistēmu vai citādi neņemt vērā, aizstāt ar citu vai reversēt augsta riska MI sistēmas darbības iznākumu;
(d)
u određenoj situaciji odustati od upotrebe visokorizičnog UI sustava ili na neki drugi način zanemariti, nadjačati ili poništiti izlazni podatak visokorizičnog UI sustava;
e)
iejaukties augsta riska MI sistēmas darbībā vai pārtraukt sistēmu, izmantojot pogu “stop” vai līdzīgu procedūru, kas ļauj sistēmai apstāties drošā stāvoklī.
(e)
intervenirati u rad visokorizičnog UI sustava ili prekinuti rad sustava pritiskom gumba za zaustavljanje ili sličnim postupkom koji omogućuje sigurno zaustavljanje sustava.
5. Attiecībā uz augsta riska MI sistēmām, kas minētas III pielikuma 1. punkta a) apakšpunktā, šā panta 3. punktā minētie pasākumi ir tādi, kas nodrošina, ka uzturētājs papildus neveic nekādas darbības vai nepieņem nekādu lēmumu, pamatojoties uz identifikāciju, kas izriet no attiecīgās sistēmas, ja tādu identifikāciju nav atsevišķi verificējušas un apstiprinājušas vismaz divas fiziskas personas, kurām ir vajadzīgā kompetence, apmācība un pilnvaras.
5. Kad je riječ o visokorizičnim UI sustavima iz točke 1. podtočke (a) Priloga III., mjerama iz stavka 3. ovog članka mora se usto osigurati da subjekt koji uvodi sustav ne poduzima nikakve radnje ili odluke na temelju identifikacije proizišle iz sustava ako identifikaciju nisu zasebno provjerile i potvrdile barem dvije fizičke osobe koje imaju potrebne kompetencije, osposobljenost i ovlasti.
Prasību par vismaz divu fizisku personu veiktu atsevišķu verifikāciju nepiemēro augsta riska MI sistēmām, ko izmanto tiesībaizsardzības, migrācijas, robežkontroles vai patvēruma nolūkos, ja Savienības vai valsts tiesību aktos šīs prasības piemērošana tiek uzskatīta par nesamērīgu.
Zahtjev da najmanje dvije fizičke osobe moraju provesti zasebnu provjeru ne primjenjuje se na visokorizične UI sustave koji se upotrebljavaju u svrhu kaznenog progona, migracija, nadzora državne granice ili azila ako se u pravu Unije ili nacionalnom pravu primjena tog zahtjeva smatra nerazmjernom.
Precizitāte, robustums un kiberdrošība
Točnost, otpornost i kibernetička sigurnost
1. Augsta riska MI sistēmas projektē un izstrādā tā, lai tās sasniegtu pienācīgu precizitātes, robustuma un kiberdrošības līmeni un lai tās minētajos aspektos konsekventi darbotos visu darbmūžu.
1. Visokorizični UI sustavi dizajniraju se i razvijaju tako da postignu odgovarajuću razinu točnosti, otpornosti i kibernetičke sigurnosti te da im je u tim aspektima radni učinak tijekom cijelog životnog ciklusa konstantan.
2. Lai pievērstos tehniskajiem aspektiem saistībā ar to, kā izmērīt 1. punktā noteiktos attiecīgos precizitātes un robustuma līmeņus un jebkādus citus attiecīgus veiktspējas rādītājus, Komisija sadarbībā ar attiecīgajām ieinteresētajām personām un organizācijām, piemēram, metroloģijas un salīdzinošās novērtēšanas iestādēm, attiecīgā gadījumā veicina etalonrādītāju un mērījumu metodiku izstrādi.
2. Kako bi se uvažili tehnički aspekti načina mjerenja odgovarajućih razina točnosti i otpornosti iz stavka 1. i ostali relevantni parametri učinkovitosti, Komisija u suradnji s relevantnim dionicima i organizacijama, kao što su tijela za mjeriteljstvo i utvrđivanje referentnih vrijednosti, prema potrebi potiče razvoj referentnih vrijednosti i metodologija mjerenja.
3. Augsta riska MI sistēmu precizitātes līmeni un attiecīgos precizitātes rādītājus norāda tām pievienotajā lietošanas instrukcijā.
3. Razine točnosti i relevantni parametri točnosti visokorizičnih UI sustava navode se u popratnim uputama za korištenje.
4. Augsta riska MI sistēmas ir cik iespējams noturīgas pret kļūdām, defektiem vai neatbilstībām, kas var rasties pašā sistēmā vai vidē, kurā attiecīgā sistēma darbojas, jo īpaši sistēmas mijiedarbības ar fiziskām personām vai citām sistēmām dēļ. Šajā sakarā veic tehniskus un organizatoriskus pasākumus.
4. Visokorizični UI sustavi moraju biti otporni što je više moguće na greške, kvarove ili nedosljednosti koji se mogu dogoditi unutar sustava ili okruženja u kojem sustav radi, osobito zbog njihove interakcije s fizičkim osobama ili drugim sustavima. U tom se pogledu moraju poduzimati tehničke i organizacijske mjere.
Augsta riska MI sistēmu robustumu var panākt ar tehniskiem redundances risinājumiem, kuru vidū var būt rezerves vai drošatteices plāni.
Otpornost visokorizičnih UI sustava može se postići tehničkom redundancijom, što može uključivati pričuvne planove ili sigurnosne planove.
Augsta riska MI sistēmas, kas turpina mācīties pēc to laišanas tirgū vai nodošanas ekspluatācijā, izstrādā tā, lai, cik vien iespējams, likvidētu vai samazinātu iespējamu neobjektīvu iznākumu risku, kas ietekmē ievaddatus nākamās operācijās (atgriezeniskās saites cilpas), un lai nodrošinātu, ka visām šādām atgriezeniskās saites cilpām pienācīgi pievēršas ar atbilstošiem mazināšanas pasākumiem.
Visokorizični UI sustavi koji nastavljaju učiti nakon stavljanja na tržište ili u upotrebu razvijaju se na takav način da se otkloni ili na najmanju moguću mjeru svede rizik od potencijalno pristranih izlaznih podataka koji utječu na ulazne podatke u budućim operacijama („povratne veze”) te da se osigura da se na takve eventualne povratne veze na odgovarajući način reagira primjerenim mjerama ublažavanja.
5. Augsta riska MI sistēmas ir noturīgas pret nepilnvarotu trešo personu mēģinājumiem mainīt to lietojumu, iznākumus vai veiktspēju, izmantojot sistēmas ietekmējamību.
5. Visokorizični UI sustavi moraju biti otporni na pokušaje neovlaštenih trećih strana da im izmijene upotrebu, izlazne podatke ili učinkovitost iskorištavanjem slabih točaka sustava.
Tehniskie risinājumi, kuru mērķis ir nodrošināt augsta riska MI sistēmu kiberdrošību, atbilst attiecīgajiem apstākļiem un riskiem.
Tehnička rješenja za osiguravanje kibernetičke sigurnosti visokorizičnih UI sustava moraju biti primjerena relevantnim okolnostima i rizicima.
Tehniskie risinājumi, kas paredzēti, lai novērstu MI konkrēto ietekmējamību, attiecīgā gadījumā ietver pasākumus, kuru mērķis ir novērst, atklāt, reaģēt uz, atrisināt un kontrolēt uzbrukumus, kuros tiek mēģināts manipulēt ar apmācības datu kopu (datu saindēšana) vai apmācībā izmantotām iepriekš apmācītām sastāvdaļām (modeļa saindēšana), ievaddatiem, kas paredzēti modeļa kļūdas izraisīšanai (pretinieciski piemēri vai modeļa maldināšana), uzbrukumiem konfidencialitātei vai modeļa nepilnībām.
Tehnička rješenja za prevladavanje specifičnih slabih točaka umjetne inteligencije obuhvaćaju, prema potrebi, mjere za sprečavanje, otkrivanje, odgovor, rješavanje i kontrolu u vezi s napadima čiji je je cilj manipuliranje skupom podataka za treniranje („trovanje podataka”) ili prethodno treniranim komponentama koje se upotrebljavaju u treniranju („trovanje modela”), ulaznim podacima osmišljenima kako bi UI model načinio pogrešku („neprijateljski primjeri” ili „zaobilaženje modela”), napadima na povjerljivost ili nedostacima modela.
Kvalitātes vadības sistēma
Sustav upravljanja kvalitetom
1. Augsta riska MI sistēmu nodrošinātāji izveido kvalitātes vadības sistēmu, kas nodrošina atbilstību šai regulai. Šo sistēmu sistemātiski un pienācīgi dokumentē rakstisku nostādņu, procedūru un instrukciju veidā, un tajā iekļauj vismaz šādus aspektus:
1. Dobavljači visokorizičnih UI sustava uspostavljaju sustav upravljanja kvalitetom kojim se osigurava usklađenost s ovom Uredbom. O tom se sustavu na sustavan i uredan način sastavlja dokumentacija u obliku pisanih politika, postupaka i uputa, a obuhvaća barem sljedeće aspekte:
a)
normatīvās atbilstības stratēģija, tostarp atbilstības novērtēšanas procedūru un augsta riska MI sistēmas modifikāciju pārvaldības procedūru ievērošana;
(a)
strategiju za usklađenost s propisima, uključujući usklađenost s postupcima ocjenjivanja sukladnosti i postupcima za upravljanje izmjenama visokorizičnog UI sustava;
b)
metodes, procedūras un sistemātiskas darbības, kas jāizmanto augsta riska MI sistēmas projektēšanai, projekta kontrolei un projekta verificēšanai;
(b)
tehnike, postupke i sustavne aktivnosti koji se moraju provoditi u dizajnu te kontroli i provjeri dizajna visokorizičnog UI sustava;
c)
metodes, procedūras un sistemātiskas darbības, kas jāizmanto augsta riska MI sistēmas izstrādei, kvalitātes kontrolei un kvalitātes nodrošināšanai;
(c)
tehnike, postupke i sustavne aktivnosti koji se moraju provoditi u razvoju te kontroli kvalitete i osiguravanju kvalitete visokorizičnog UI sustava;
d)
pārbaudes, testēšanas un validēšanas procedūras, kas jāveic pirms augsta riska MI sistēmas izstrādes, tās laikā un pēc tās, un to biežums;
(d)
postupke ispitivanja, testiranja i validacije koji se moraju provoditi prije, tijekom i poslije razvoja visokorizičnog UI sustava te učestalost kojom se moraju provoditi;
e)
tehniskās specifikācijas, ieskaitot standartus, kas jāpiemēro, un, ja attiecīgie saskaņotie standarti netiek piemēroti pilnībā vai neaptver visas attiecīgās 2. iedaļā paredzētās prasības, līdzekļi, kas jāizmanto, lai nodrošinātu, ka augsta riska MI sistēma atbilst minētajām prasībām;
(e)
tehničke specifikacije, uključujući norme, koje se moraju primjenjivati i, ako relevantne usklađene norme nisu u cijelosti primijenjene ili ne obuhvaćaju sve relevantne zahtjeve utvrđene u odjeljku 2., sredstva koja se moraju upotrijebiti kako bi se osigurala usklađenost visokorizičnog UI sustava s tim zahtjevima;
f)
datu pārvaldības sistēmas un procedūras, ietverot datu iegūšanu, datu vākšanu, datu analīzi, datu marķēšanu, datu glabāšanu, datu filtrēšanu, datizraci, datu agregēšanu, datu saglabāšanu un jebkuru citu darbību ar datiem, kas tiek veikta pirms augsta riska MI sistēmu laišanas tirgū vai nodošanas ekspluatācijā un to nolūkā;
(f)
sustave i postupke za upravljanje podacima, uključujući pribavljanje podataka, prikupljanje podataka, analizu podataka, označivanje podataka, pohranu podataka, filtriranje podataka, rudarenje podataka, agregiranje podataka, zadržavanje podataka i sve druge operacije s podacima koje se obavljaju prije stavljanja visokorizičnih UI sustava na tržište ili u upotrebu i u svrhu tog stavljanja;
g)
riska pārvaldības sistēma, kas minēta 9. pantā;
(g)
sustav upravljanja rizikom iz članka 9.;
h)
pēctirgus pārraudzības sistēmas izveidošana, ieviešana un uzturēšana saskaņā ar 72. pantu;
(h)
uspostavu, primjenu i održavanje sustava praćenja nakon stavljanja na tržište u skladu s člankom 72.;
i)
procedūras, kas saistītas ar ziņošanu par nopietnu incidentu saskaņā ar 73. pantu;
(i)
postupke povezane s prijavljivanjem ozbiljnog incidenta u skladu s člankom 73.;
j)
komunikācijas organizēšana ar valstu kompetentajām iestādēm, citām attiecīgām iestādēm, ieskaitot tās, kas dod vai atbalsta piekļuvi datiem, paziņotajām struktūrām, citiem operatoriem, klientiem vai citām ieinteresētajām personām;
(j)
postupke komunikacije s nacionalnim nadležnim tijelima, drugim relevantnim tijelima, uključujući tijela za pružanje ili olakšavanje pristupa podacima, prijavljenim tijelima, drugim operaterima, klijentima ili drugim zainteresiranim stranama;
k)
sistēmas un procedūras visas attiecīgās dokumentācijas un informācijas uzskaitei;
(k)
sustave i postupke za čuvanje evidencije o svoj relevantnoj dokumentaciji i svim relevantnim informacijama;
l)
resursu pārvaldība, ieskaitot ar piegādes drošību saistītus pasākumus;
(l)
upravljanje resursima, uključujući mjere koje se odnose na sigurnost opskrbe;
m)
pārskatatbildības sistēma, kurā noteikti vadības un cita personāla pienākumi, kas attiecas uz visiem šajā punktā uzskaitītajiem aspektiem.
(m)
okvir za odgovornost kojim se utvrđuju odgovornosti uprave i drugog osoblja za sve aspekte navedene u ovom stavku.
2. Šā panta 1. punktā minēto aspektu īstenošana ir proporcionāla nodrošinātāja organizācijas lielumam. Nodrošinātāji jebkurā gadījumā ievēro tādu stingrības pakāpi un aizsardzības līmeni, kāds ir vajadzīgs, lai nodrošinātu augsta riska MI sistēmu atbilstību šai regulai.
2. Aspekti iz stavka 1. provode se razmjerno veličini dobavljačeve organizacije. Dobavljači u svakom slučaju moraju poštovati stupanj strogosti i razinu zaštite koji su potrebni kako bi se osigurala usklađenost njihovih UI sustava s ovom Uredbom.
3. Augsta riska MI sistēmu nodrošinātāji, uz kuriem attiecīgajos Savienības nozaru tiesību aktos attiecas pienākumi, kas saistīti ar kvalitātes vadības sistēmām vai līdzvērtīgu funkciju, var ietvert 1. punktā uzskaitītos aspektus kā daļu no kvalitātes vadības sistēmām, ievērojot minētos tiesību aktus.
3. Dobavljači visokorizičnih UI sustava koji podliježu obvezama u pogledu sustavâ upravljanja kvalitetom ili jednakovrijedne funkcije na temelju relevantnog sektorskog prava Unije mogu uključiti aspekte navedene u stavku 1. u sustave upravljanja kvalitetom u skladu s tim pravom.
4. Attiecībā uz nodrošinātājiem, kas ir finanšu iestādes, uz kurām attiecas prasības par to iekšējo pārvaldību, kārtību vai procesiem saskaņā ar Savienības tiesību aktiem finanšu pakalpojumu jomā, tiek uzskatīts, ka pienākums ieviest kvalitātes vadības sistēmu, izņemot šā panta 1. punkta g), h) un i) apakšpunktu, ir izpildīts, ja ir izpildīti noteikumi par iekšējās pārvaldes kārtību vai procesiem, ievērojot attiecīgos Savienības tiesību aktus finanšu pakalpojumu jomā. Minētajā nolūkā ņem vērā jebkurus 40. pantā minētos saskaņotos standartus.
4. Kad je riječ o dobavljačima koji su financijske institucije na koje se primjenjuju zahtjevi u pogledu njihova unutarnjeg upravljanja, njihovih aranžmana ili njihovih procesa na temelju prava Unije o financijskim uslugama, obveza uspostave sustava upravljanja kvalitetom, uz iznimku stavka 1. točaka (g), (h) i (i) ovog članka, smatra se ispunjenom ako se poštuju pravila o unutarnjem upravljanju, aranžmanima ili procesima u skladu s relevantnim pravom Unije o financijskim uslugama. U tom se cilju u obzir uzimaju sve usklađene norme iz članka 40.
Korektīvās darbības un informēšanas pienākums
Korektivne mjere i obveza obavješćivanja
1. Augsta riska MI sistēmu nodrošinātāji, kas uzskata vai kam ir iemesls uzskatīt, ka augsta riska MI sistēma, kuru tie ir laiduši tirgū vai nodevuši ekspluatācijā, neatbilst šai regulai, nekavējoties veic nepieciešamās korektīvās darbības, kas vajadzīgas, lai panāktu sistēmas atbilstību vai, attiecīgi, to izņemtu, atspējotu vai atsauktu. Par to viņi informē attiecīgās augsta riska MI sistēmas izplatītājus un, attiecīgā gadījumā, uzturētājus, pilnvaroto pārstāvi un importētājus.
1. Dobavljači visokorizičnih UI sustava koji smatraju ili imaju razloga smatrati da visokorizični UI sustav koji su stavili na tržište ili u upotrebu nije sukladan s ovom Uredbom odmah poduzimaju potrebne korektivne mjere kako bi, prema potrebi, postigli sukladnost tog sustava s ovom Uredbom, povukli ga, onesposobili ili ga opozvali. O dotičnom visokorizičnom UI sustavu na odgovarajući obavješćuju distributere i, ako je primjenjivo, subjekte koji uvode sustav, ovlaštenog zastupnika i uvoznike.
2. Ja augsta riska MI sistēma rada risku 79. panta 1. punkta nozīmē un minētais risks kļūst zināms nodrošinātājam, tas nekavējoties izmeklē cēloņus, attiecīgā gadījumā sadarbojoties ar ziņojošo uzturētāju, un informē par attiecīgo augsta riska MI sistēmu kompetentās tirgus uzraudzības iestādes, un, ja vajadzīgs, paziņoto struktūru, kas saskaņā ar 44. pantu izdevusi sertifikātu minētajai augsta riska MI sistēmai, jo īpaši par neatbilstības raksturu un visām attiecīgajām korektīvajām darbībām, kas veiktas.
2. Ako visokorizični UI sustav predstavlja rizik u smislu članka 79. stavka 1. i dobavljač sustava sazna za taj rizik, on odmah istražuje uzroke, ako je primjenjivo u suradnji sa subjektom koji uvodi sustav i koji je to prijavio, te obavješćuje tijela za nadzor tržišta koja su nadležna za dotični visokorizični UI i, ako je primjenjivo, prijavljeno tijelo koje je izdalo potvrdu za taj visokorizični UI sustav u skladu s člankom 44., osobito o prirodi neusklađenosti i relevantnim korektivnim mjerama koje su eventualno već poduzete.
Augsta riska MI sistēmu nodrošinātāju pilnvarotie pārstāvji
Ovlašteni zastupnici dobavljačâ visokorizičnih UI sustava
1. Nodrošinātāji, kas iedibināti trešās valstīs, pirms augsta riska sistēmu dara pieejamu Savienības tirgū, ar rakstisku pilnvaru ieceļ pilnvaroto pārstāvi, kurš iedibināts Savienībā.
1. Prije stavljanja svojih visokorizičnih UI sustava na tržište Unije dobavljači s poslovnim nastanom u trećim zemljama pisanim ovlaštenjem imenuju ovlaštenog zastupnika s poslovnim nastanom u Uniji.
2. Nodrošinātājs ļauj savam pilnvarotajam pārstāvim pildīt uzdevumus, kas norādīti no nodrošinātāja saņemtajā pilnvarojumā.
2. Dobavljač omogućuje svojem ovlaštenom zastupniku da obavlja zadaće navedene u ovlaštenju koje je dobio od dobavljača.
3. Pilnvarotais pārstāvis veic uzdevumus, kas norādīti no nodrošinātāja saņemtajā pilnvarojumā. Tas pēc pieprasījuma iesniedz tirgus uzraudzības iestādēm pilnvarojuma kopiju kādā no Savienības iestāžu oficiālajām valodām, kā norāda kompetentā iestāde. Šīs regulas nolūkos pilnvarojums pilnvarotajam pārstāvim dod tiesības veikt šādus uzdevumus:
3. Ovlašteni zastupnik obavlja zadaće navedene u ovlaštenju koje je dobio od dobavljača. On na zahtjev dostavlja primjerak ovlaštenja tijelima za nadzor tržišta na jednom od službenih jezika institucije Unije koji je navelo nadležno tijelo. Za potrebe ove Uredbe ovlaštenjem se ovlaštenom zastupniku daje ovlast da obavlja sljedeće zadaće:
a)
pārliecināties, ka nodrošinātājs ir sagatavojis 47. pantā minēto ES atbilstības deklarāciju un 11. pantā minēto tehnisko dokumentāciju un ir veicis pienācīgu atbilstības novērtēšanas procedūru;
(a)
provjerava jesu li sastavljene EU izjava o sukladnosti iz članka 47. i tehnička dokumentacija iz članka 11. i je li dobavljač proveo odgovarajući postupak ocjenjivanja sukladnosti;
b)
10 gadus pēc augsta riska MI sistēmas laišanas tirgū vai nodošanas ekspluatācijā, glabāt kompetentajām iestādēm un 74. panta 10. punktā minētajām valsts iestādēm vai struktūrām pieejamu tā nodrošinātāja kontaktinformāciju, kurš ir iecēlis pilnvaroto pārstāvi, 47. pantā minētās ES atbilstības deklarācijas kopiju, tehnisko dokumentāciju un, attiecīgā gadījumā, paziņotās struktūras izdoto sertifikātu;
(b)
nadležnim tijelima te nacionalnim tijelima iz članka 74. stavka 10., tijekom razdoblja od deset godina nakon što je visokorizični UI sustav stavljen na tržište ili u upotrebu, drži na raspolaganju kontaktne podatke dobavljača koji je imenovao ovlaštenog zastupnika, primjerak EU izjave o sukladnosti iz članka 47., tehničku dokumentaciju i, ako je primjenjivo, potvrdu koju je izdalo prijavljeno tijelo;
c)
pēc pamatota pieprasījuma sniegt kompetentajai iestādei visu informāciju un dokumentāciju, tostarp to, kas minēta šīs daļas b) apakšpunktā, kas vajadzīga, lai apliecinātu augsta riska MI sistēmas atbilstību 2. iedaļā noteiktajām prasībām, tostarp piekļuvi augsta riska MI sistēmas automātiski ģenerētajām žurnāldatnēm, kā minēts 12. panta 1. punktā, ciktāl šādas žurnāldatnes ir nodrošinātāja pārziņā;
(c)
nadležnom tijelu na obrazloženi zahtjev dostavlja sve informacije i dokumentaciju, uključujući one iz točke (b) ovog podstavka, koji su potrebni za dokazivanje sukladnosti visokorizičnog UI sustava sa zahtjevima utvrđenima u odjeljku 2., što uključuje pristup evidenciji iz članka 12. stavka 1. koju automatski generira visokorizični UI sustav u mjeri u kojoj je takva evidencija pod kontrolom dobavljača;
d)
pēc pamatota pieprasījuma sadarboties ar kompetentajām iestādēm visās darbībās, ko tās veic saistībā ar augsta riska MI sistēmu, jo īpaši, lai ierobežotu un mazinātu riskus, kurus rada augsta riska MI sistēma;
(d)
na obrazloženi zahtjev surađuje s nadležnim tijelima u svim aktivnostima koje ta tijela poduzimaju u vezi s visokorizičnim UI sustavom, posebno kako bi se smanjili i ublažili rizici koje predstavlja visokorizični UI sustav;
e)
attiecīgā gadījumā izpildīt 49. panta 1. punktā minētos reģistrācijas pienākumus vai, ja reģistrāciju veic pats nodrošinātājs, nodrošināt, ka VIII pielikuma A iedaļas 3. punktā minētā informācija ir pareiza.
(e)
ako je primjenjivo, ispunjava obveze registracije iz članka 49. stavka 1. ili, ako registraciju provodi sam dobavljač, osigurava točnost informacija iz točke 3. odjeljka A Priloga VIII.
Pilnvarojums ļauj kompetentajām iestādēm visos jautājumos, kas saistīti ar atbilstības nodrošināšanu šai regulai, vērsties pie pilnvarotā pārstāvja, nevis pie nodrošinātāja, vai papildus nodrošinātājam.
Ovlaštenjem se ovlaštenom zastupniku daje ovlast da mu se, uz dobavljača ili umjesto dobavljaču, obraćaju nadležna tijela u vezi sa svim pitanjima povezanima s osiguravanjem usklađenosti s ovom Uredbom.
4. Pilnvarotais pārstāvis izbeidz pilnvarojumu, ja tas uzskata vai tam ir pamats uzskatīt, ka nodrošinātājs rīkojas pretēji saviem pienākumiem, kas noteikti šajā regulā. Šādā gadījumā par pilnvarojuma izbeigšanu un tās iemesliem tas nekavējoties informē attiecīgo tirgus uzraudzības iestādi, kā arī, vajadzības gadījumā, attiecīgo paziņoto struktūru.
4. Ovlašteni zastupnik ukida ovlaštenje ako smatra ili ima razloga smatrati da dobavljač postupa protivno svojim obvezama na temelju ove Uredbe. U tom slučaju ovlašteni zastupnik o ukidanju ovlaštenja i razlozima za ukidanje odmah obavješćuje relevantno tijelo za nadzor tržišta i, ako je primjenjivo, relevantno prijavljeno tijelo.
1. Pirms augsta riska MI sistēmas laišanas tirgū šādas sistēmas importētāji nodrošina, ka sistēma atbilst šai regulai, pārliecinoties, ka:
1. Prije stavljanja visokorizičnog UI sustava na tržište uvoznici osiguravaju da je sustav sukladan s ovom Uredbom tako da provjere je li:
a)
augsta riska MI sistēmas nodrošinātājs ir veicis attiecīgo atbilstības novērtēšanas procedūru, kas minēta 43. pantā;
(a)
dobavljač visokorizičnog UI sustava proveo relevantni postupak ocjenjivanja sukladnosti iz članka 43.;
b)
nodrošinātājs ir sagatavojis tehnisko dokumentāciju saskaņā ar 11. pantu un IV pielikumu;
(b)
dobavljač sastavio tehničku dokumentaciju u skladu s člankom 11. i Prilogom IV.;
c)
sistēmai ir paredzētā CE zīme, un tai ir pievienota 47. pantā minētā ES atbilstības deklarācija un lietošanas instrukcija;
(c)
sustav označen oznakom CE te jesu li mu priložene EU izjava o sukladnosti iz članka 47. i upute za korištenje;
d)
nodrošinātājs ir iecēlis pilnvaroto pārstāvi saskaņā ar 22. panta 1. punktu.
(d)
dobavljač imenovao ovlaštenog zastupnika u skladu s člankom 22. stavkom 1.
2. Ja importētājam ir pietiekams pamats uzskatīt, ka augsta riska MI sistēma neatbilst šai regulai vai ir falsificēta, vai tai pievienotā dokumentācija ir falsificēta, tas sistēmu nelaiž tirgū, kamēr nav panākts, ka tā ir atbilstoša. Ja augsta riska MI sistēma rada risku 79. panta 1. punkta nozīmē, importētājs par to informē sistēmas nodrošinātāju, pilnvarotos pārstāvjus un tirgus uzraudzības iestādes.
2. Ako uvoznik ima dovoljno razloga smatrati da visokorizični UI sustav nije sukladan s ovom Uredbom, da je krivotvoren ili da mu je priložena krivotvorena dokumentacija, ne stavlja taj sustav na tržište dok on ne postane sukladan s ovom Uredbom. Ako visokorizični UI sustav predstavlja rizik u smislu članka 79. stavka 1., uvoznik o tome obavješćuje dobavljača sustava, ovlaštene zastupnike i tijela za nadzor tržišta.
3. Uz augsta riska MI sistēmas un attiecīgā gadījumā uz tās iepakojuma vai tai pievienotajā dokumentācijā importētāji norāda savu nosaukumu/vārdu, reģistrēto tirdzniecības nosaukumu vai reģistrēto preču zīmi un adresi, kādā ar tiem var sazināties par augsta riska MI sistēmu.
3. Uvoznici navode svoje ime, registrirano trgovačko ime ili registrirani žig i adresu za kontakt na visokorizičnom UI sustavu i na njegovoj ambalaži ili u njegovoj popratnoj dokumentaciji, ako je primjenjivo.
4. Importētāji nodrošina, ka laikā, kamēr tie atbild par augsta riska MI sistēmu, tās glabāšanas vai pārvadāšanas apstākļi attiecīgā gadījumā neapdraud tās atbilstību šīs sadaļas 2. nodaļā noteiktajām prasībām.
4. Dok je visokorizični UI sustav pod njihovom odgovornošću uvoznici osiguravaju da uvjeti skladištenja ili prijevoza, ako je primjenjivo, ne ugrožavaju njegovu usklađenost sa zahtjevima utvrđenima u odjeljku 2.
5. Importētāji 10 gadus pēc augsta riska MI sistēmas laišanas tirgū vai nodošanas ekspluatācijā glabā paziņotās struktūras izdotā sertifikāta kopiju un, attiecīgā gadījumā, lietošanas instrukcijas un 47. pantā minētās ES atbilstības deklarācijas kopiju.
5. Uvoznici tijekom razdoblja od deset godina nakon što je visokorizični UI sustav stavljen na tržište ili u upotrebu čuvaju primjerak potvrde koju je izdalo prijavljeno tijelo, ako je primjenjivo, uputa za korištenje i EU izjave o sukladnosti iz članka 47.
6. Importētāji pēc pamatota pieprasījuma sniedz attiecīgajām kompetentajām iestādēm visu informāciju un dokumentāciju – tostarp to, kas minēta 5. punktā –, kas vajadzīga, lai apliecinātu augsta riska MI sistēmas atbilstību 2. iedaļā noteiktajām prasībām; to sniedz valodā, kas tām ir viegli saprotama. Šajā nolūkā tie arī nodrošina, ka minētajām iestādēm var darīt pieejamu tehnisko dokumentāciju.
6. Uvoznici relevantnim nadležnim tijelima na obrazloženi zahtjev dostavljaju sve informacije i dokumentaciju, uključujući informacije i dokumentaciju navedene u stavku 5., koji su potrebni za dokazivanje sukladnosti visokorizičnog UI sustava sa zahtjevima utvrđenima u odjeljku 2. na jeziku koji ta tijela mogu bez poteškoća razumjeti. U tu svrhu također osiguravaju da se tim tijelima na raspolaganje može staviti tehnička dokumentacija.
7. Importētāji sadarbojas ar attiecīgajām kompetentajām iestādēm visās darbībās, ko minētās iestādes veic attiecībā uz augsta riska MI sistēmu, kuru importētāji laiduši tirgū, jo īpaši, lai ierobežotu un mazinātu risku, ko tā rada.
7. Uvoznici surađuju s relevantnim nadležnim tijelima u svim mjerama koje ta tijela poduzimaju u vezi s visokorizičnim UI sustavom koji uvoznici stavljaju na tržište, posebno kako bi se smanjili i ublažili rizici koje on predstavlja.
1. Pirms augsta riska MI sistēmu dara pieejamu tirgū, izplatītāji pārliecinās, ka augsta riska MI sistēmai ir paredzētā CE zīme vai tai ir pievienota 47. pantā minētās ES atbilstības deklarācijas kopija un lietošanas instrukcija un ka, attiecīgi, minētās sistēmas nodrošinātājs un importētājs ir izpildījuši savus attiecīgos pienākumus, kas noteikti 16. panta b) un c) punktā un 23. panta 3. punktā.
1. Prije stavljanja visokorizičnog UI sustava na raspolaganje na tržištu distributeri provjeravaju ima li on potrebnu oznaku CE, jesu li mu priloženi primjerak EU izjave o sukladnosti iz članka 47. i upute za korištenje te jesu li dobavljač i uvoznik tog sustava, ovisno o slučaju, ispunili svoje obveze utvrđene u članku 16. točkama (b) i (c) i članku 23. stavku 3.
2. Ja uz tā rīcībā esošas informācijas pamata izplatītājs uzskata vai tam ir pamats uzskatīt, ka augsta riska MI sistēma neatbilst 2. iedaļā norādītajām prasībām, tas augsta riska MI sistēmu nedara pieejamu tirgū, kamēr nav panākta sistēmas atbilstība minētajām prasībām. Turklāt, ja augsta riska sistēma rada risku 79. panta 1. punkta nozīmē, izplatītājs par to attiecīgi informē sistēmas nodrošinātāju vai importētāju.
2. Ako distributer na temelju informacija kojima raspolaže smatra ili ima razloga smatrati da visokorizični UI sustav nije sukladan sa zahtjevima utvrđenima u odjeljku 2., ne stavlja visokorizični UI sustav na tržište dok sustav ne postane sukladan s tim zahtjevima. Osim toga, ako visokorizični UI sustav predstavlja rizik u smislu članka 79. stavka 1., distributer o tome obavješćuje dobavljača ili uvoznika tog sustava, ovisno o slučaju.
3. Izplatītāji nodrošina, ka laikā, kad tie atbild par augsta riska MI sistēmu, tās glabāšanas vai pārvadāšanas apstākļi attiecīgā gadījumā neapdraud tās atbilstību 2. iedaļā noteiktajām prasībām.
3. Dok je visokorizični UI sustav pod njihovom odgovornošću, distributeri osiguravaju da uvjeti skladištenja ili prijevoza, ako je primjenjivo, ne ugrožavaju njegovu usklađenost sa zahtjevima utvrđenima u odjeljku 2.
4. Izplatītājs, kas, ņemot vērā tā rīcībā esošo informāciju, uzskata vai kam ir pamats uzskatīt, ka augsta riska MI sistēma, kuru tas darījis pieejamu tirgū, neatbilst 2. iedaļā noteiktajām prasībām, veic korektīvas darbības, kas vajadzīgas, lai panāktu šīs sistēmas atbilstību šīm prasībām, izņem vai atsauc to no tirgus vai nodrošina, ka minētās korektīvās darbības veic nodrošinātājs, importētājs vai attiecīgā gadījumā jebkurš attiecīgs operators. Ja augsta riska MI sistēma rada risku 79. panta 1. punkta nozīmē, izplatītājs nekavējoties par to informē sistēmas nodrošinātāju vai importētāju un par attiecīgo augsta riska MI sistēmu kompetentās iestādes, norādot sīku informāciju, jo īpaši par neatbilstību un veiktajām korektīvajām darbībām.
4. Ako distributer na temelju informacija kojima raspolaže smatra ili ima razloga smatrati da visokorizični UI sustav koji je stavio na raspolaganje na tržištu nije sukladan sa zahtjevima utvrđenima u odjeljku 2., poduzima korektivne mjere potrebne kako bi postigao sukladnost dotičnog sustava s tim zahtjevima, povukao ga ili opozvao ili, osigurava da te korektivne mjere poduzme, prema potrebi, dobavljač, uvoznik ili drugi relevantni operater. Ako visokorizični UI sustav predstavlja rizik u smislu članka 79. stavka 1., distributer o tome odmah obavješćuje dobavljača ili uvoznika sustava i tijela nadležna za dotični visokorizični UI sustav, navodeći pojedinosti, osobito o neusklađenosti i poduzetim korektivnim mjerama.
5. Pēc pamatota attiecīgās kompetentās iestādes pieprasījuma augsta riska MI sistēmas izplatītāji šai iestādei sniedz visu uz 1.–4. punktā paredzētajām to darbībām attiecīgu informāciju un dokumentāciju, kas vajadzīga, lai apliecinātu augsta riska sistēmas atbilstību šīs 2. iedaļā noteiktajām prasībām.
5. Distributeri visokorizičnog UI sustava relevantnom nadležnom tijelu na obrazloženi zahtjev tog tijela dostavljaju sve informacije i dokumentaciju o svim njihovim mjerama na temelju stavaka od 1. do 4. koje su potrebne za dokazivanje sukladnosti tog sustava sa zahtjevima utvrđenima u odjeljku 2.
6. Izplatītāji sadarbojas ar attiecīgajām kompetentajām iestādēm visās darbībās, ko minētās iestādes veic attiecībā uz augsta riska MI sistēmu, kuru izplatītāji darījuši pieejamu tirgū, jo īpaši, lai ierobežotu vai mazinātu risku, ko tā rada.
6. Distributeri surađuju s relevantnim nadležnim tijelima u svim mjerama koje ta tijela poduzimaju u vezi s visokorizičnim UI sustavom koji su distributeri stavili na raspolaganje na tržištu, posebno kako bi se smanjili ili ublažili rizici koje on predstavlja.
Pienākumi MI vērtības ķēdē
Odgovornosti duž vrijednosnog lanca umjetne inteligencije
1. Katru izplatītāju, importētāju, uzturētāju vai citu trešo personu šajā regulā uzskata par augsta riska MI sistēmas nodrošinātāju, un uz to attiecas 16. pantā paredzētie nodrošinātāja pienākumi jebkuros no šiem apstākļiem:
1. Svi distributeri, uvoznici, subjekti koji uvode sustav ili ostale treće strane smatraju se dobavljačima visokorizičnog UI sustava za potrebe ove Uredbe i podliježu obvezama dobavljača iz članka 16. u bilo kojoj od sljedećih okolnosti:
a)
tie uzliek savu nosaukumu/vārdu vai preču zīmi augsta riska MI sistēmai, kura jau laista tirgū vai nodota ekspluatācijā, neskarot līgumiskas vienošanās, kas paredz, ka pienākumi tiek sadalīti citādi;
(a)
ako stave svoje ime ili žig na visokorizični UI sustav koji je već stavljen na tržište ili u upotrebu, ne dovodeći u pitanje ugovorne aranžmane u kojima je utvrđena drukčija raspodjela obveza;
b)
tie veic būtisku modifikāciju augsta riska MI sistēmā, kura jau ir laista tirgū vai jau ir nodota ekspluatācijā, tādā veidā, ka tā joprojām paliek augsta riska MI sistēma, ievērojot 6. pantu;
(b)
ako znatno izmijene visokorizični UI sustav koji je već stavljen na tržište ili u upotrebu i to na takav način da i dalje ostane visokorizični UI sustav na temelju članka 6.;
c)
tie veic modifikāciju MI sistēmai paredzētajā nolūkā, tostarp vispārīga lietojuma MI sistēmai, kas nav klasificēta kā augsta riska sistēma un kas jau ir laista tirgū vai nodota ekspluatācijā, tādā veidā, ka attiecīgā MI sistēma kļūst par augsta riska MI sistēmu saskaņā ar 6. pantu.
(c)
ako izmijene namjenu UI sustava, uključujući UI sustav opće namjene, koji nije klasificiran kao visokorizičan i već je stavljen na tržište ili u upotrebu i to na takav način da dotični UI sustav postane visokorizični UI sustav u skladu s člankom 6.;
2. Ja ir 1. punktā minētie apstākļi, nodrošinātājs, kas MI sistēmu sākotnēji laidis tirgū vai nodevis ekspluatācijā, vairs netiek uzskatīts par minētās konkrētās MI sistēmas nodrošinātāju šīs regulas nolūkos. Minētais sākotnējais nodrošinātājs cieši sadarbojas ar jauniem nodrošinātājiem un dara pieejamu nepieciešamo informāciju un nodrošina saprātīgi sagaidāmu tehnisko piekļuvi un citu palīdzību, kas vajadzīga, lai pildītu šajā regulā paredzētās prasības, jo īpaši attiecībā uz atbilstību augsta riska MI sistēmu atbilstības novērtējumam. Šo punktu nepiemēro gadījumos, kad sākotnējais nodrošinātājs ir skaidri norādījis, ka tā MI sistēma nav maināma uz augsta riska MI sistēmu un tādējādi uz to neattiecas pienākums nodot dokumentāciju.
2. Ako nastupe okolnosti iz stavka 1., dobavljač koji je prvobitno stavio UI sustav na tržište ili u upotrebu više se ne smatra dobavljačem tog konkretnog UI sustava za potrebe ove Uredbe. Taj početni dobavljač blisko surađuje s novim dobavljačima te stavlja na raspolaganje potrebne informacije i pruža razumno očekivani tehnički pristup i drugu pomoć koji su potrebni za ispunjavanje obveza utvrđenih u ovoj Uredbi, posebno u pogledu poštovanja ocjenjivanja sukladnosti visokorizičnih UI sustava. Ovaj se stavak ne primjenjuje u slučajevima u kojima je početni dobavljač jasno naveo da se njegov UI sustav ne smije promijeniti u visokorizični UI sustav i stoga nije obuhvaćen obvezom predaje dokumentacije.
3. Gadījumos, kad augsta riska MI sistēmas ir tādu produktu drošības sastāvdaļas, uz kuriem attiecas I pielikuma A iedaļā uzskaitītie Savienības saskaņošanas tiesību akti, produkta ražotāju uzskata par augsta riska MI sistēmas nodrošinātāju un uz to attiecas 16. pantā noteiktie pienākumi kādos no šādiem apstākļiem:
3. Kad je riječ o visokorizičnim UI sustavima koji su sigurnosna komponenta proizvoda obuhvaćenih zakonodavstvom Unije o usklađivanju navedenim u odjeljku A Priloga I., proizvođač proizvoda smatra se dobavljačem visokorizičnog UI sustava i podliježe obvezama iz članka 16. u bilo kojoj od sljedećih okolnosti:
a)
augsta riska MI sistēma tiek laista tirgū kopā ar produktu ar produkta ražotāja nosaukumu/vārdu vai preču zīmi;
(a)
visokorizični UI sustav stavljen je na tržište zajedno s dotičnim proizvodom pod imenom ili žigom proizvođača proizvoda;
b)
augsta riska MI sistēma tiek nodota ekspluatācijā ar produkta ražotāja nosaukumu/vārdu vai preču zīmi pēc produkta laišanas tirgū.
(b)
visokorizični UI sustav stavljen je u upotrebu pod imenom ili žigom proizvođača proizvoda nakon što je proizvod stavljen na tržište.
4. Augsta riska MI sistēmas nodrošinātājs un trešā persona, kas piegādā MI sistēmu, rīkus, pakalpojumus, sastāvdaļas vai procesus, kuri tiek izmantoti vai integrēti augsta riska MI sistēmā, ar rakstisku vienošanos precizē, pamatojoties uz vispāratzītiem jaunākajiem sasniegumiem, nepieciešamo informāciju, spējas, tehnisko piekļuvi un citu palīdzību, lai augsta riska MI sistēmas nodrošinātājs varētu pilnībā izpildīt šajā regulā noteiktos pienākumus. Šo punktu nepiemēro trešām personām, kas dara pieejamus publiskus rīkus, pakalpojumus, procesus vai sastāvdaļas, kas nav vispārīga lietojuma MI modeļi ar bezmaksas un atvērtas piekļuves licenci.
4. Dobavljač visokorizičnog UI sustava i treća strana koja isporučuje UI sustav, alate, usluge, komponente ili procese koji se upotrebljavaju u visokorizičnom UI sustavu ili su u njega integrirani, pisanim dogovorom utvrđuju informacije, mogućnosti, tehnički pristup i drugu pomoć na temelju općepriznatih najnovijih dostignuća koji su potrebni kako bi dobavljač visokorizičnog UI sustava mogao u potpunosti ispuniti obveze utvrđene u ovoj Uredbi. Ovaj se stavak ne primjenjuje na treće strane koje stavljaju na raspolaganje javnosti alate, usluge, procese ili komponente, osim UI modelâ opće namjene, na temelju besplatne licencije za softver otvorenog koda.
MI birojs var izstrādāt un ieteikt brīvprātīgus paraugnoteikumus līgumiem starp augsta riska MI sistēmu nodrošinātājiem un trešām personām, kuras piegādā rīkus, pakalpojumus, sastāvdaļas vai procesus, ko izmanto vai integrē augsta riska MI sistēmās. Izstrādājot minētos brīvprātīgos līguma paraugnoteikumus, MI birojs ņem vērā iespējamās līgumiskās prasības, kas piemērojamas konkrētās nozarēs vai uzņēmējdarbības gadījumos. Brīvprātīgos paraugnoteikumus publicē, un tie ir bez maksas pieejami viegli lietojamā elektroniskā formātā.
Ured za umjetnu inteligenciju može razviti i preporučiti dobrovoljne modele uvjeta za ugovore između dobavljačâ visokorizičnih UI sustava i trećih strana koji isporučuju alate, usluge, komponente ili procese koji se upotrebljavaju u visokorizičnim UI sustavima ili su u njih integrirani. Pri izradi tih dobrovoljnih modela uvjeta Ured za umjetnu inteligenciju uzima u obzir moguće ugovorne zahtjeve primjenjive u određenim sektorima ili poslovnim slučajevima. Dobrovoljni modeli uvjeta objavljuju se i besplatno su dostupni u lako upotrebljivom elektroničkom obliku.
5. Šā panta 2. un 3. punkts neskar nepieciešamību ievērot un aizsargāt intelektuālā īpašuma tiesības, konfidenciālu uzņēmējdarbības informāciju un komercnoslēpumus saskaņā ar Savienības un valsts tiesību aktiem.
5. Stavcima 2. i 3. ne dovodi se u pitanje potreba za poštovanjem i zaštitom prava intelektualnog vlasništva, povjerljivih poslovnih informacija i poslovnih tajni u skladu s pravom Unije i nacionalnim pravom.
Augsta riska MI sistēmu uzturētāju pienākumi
Obveze subjekata koji uvode visokorizične UI sustave
1. Augsta riska MI sistēmu uzturētāji veic pienācīgus tehniskos un organizatoriskos pasākumus, lai nodrošinātu, ka viņi šādas sistēmas lieto saskaņā ar sistēmām pievienoto lietošanas instrukciju, ievērojot 3. un 6. punktu.
1. Subjekti koji uvode visokorizične UI sustave poduzimaju odgovarajuće tehničke i organizacijske mjere kako bi osigurali da upotrebljavaju takve sustave u skladu s uputama za korištenje priloženima sustavima na temelju stavaka 3. i 6.
2. Uzturētāji uztic cilvēka virsvadību fiziskām personām, kurām ir vajadzīgā kompetence, apmācība un pilnvaras, kā arī nepieciešamais atbalsts.
2. Subjekti koji uvode sustav dodjeljuju zadaću ljudskog nadzora fizičkim osobama koje imaju potrebne kompetencije, osposobljenost i ovlasti, te im pružaju potrebnu potporu.
3. Šā panta 1. un 2. punktā noteiktie pienākumi neskar citus uzturētāju pienākumus, kas noteikti Savienības vai valsts tiesību aktos, un uzturētāja brīvību organizēt savus resursus un darbības, lai īstenotu nodrošinātāja norādītos cilvēka virsvadības pasākumus.
3. Obvezama utvrđenima u stavcima 1. i 2. ne dovode se u pitanje druge obveze subjekta koji uvodi sustav na temelju prava Unije ili nacionalnog prava ni sloboda subjekta koji uvodi sustav da organizira svoje resurse i aktivnosti u svrhu provedbe mjera ljudskog nadzora koje je naveo dobavljač.
4. Neskarot 1. un 2. punktu, ciktāl uzturētājs īsteno kontroli pār ievaddatiem, minētais uzturētājs nodrošina, ka ievaddati ir attiecīgi un pietiekami reprezentatīvi, ņemot vērā augsta riska MI sistēmai paredzēto nolūku.
4. Ne dovodeći u pitanje stavke 1. i 2., subjekt koji uvodi sustav osigurava, u mjeri u kojoj ima kontrolu nad ulaznim podacima, da su ulazni podaci relevantni i dovoljno reprezentativni s obzirom na namjenu visokorizičnog UI sustava.
5. Uzturētāji pārrauga augsta riska MI sistēmas darbību, pamatojoties uz lietošanas instrukciju, un attiecīgā gadījumā informē nodrošinātājus saskaņā ar 72. pantu. Ja uzturētājiem ir pamats uzskatīt, ka augsta riska MI sistēmas lietošana saskaņā ar instrukciju var radīt risku 79. panta 1. punkta nozīmē, viņi bez liekas kavēšanās informē nodrošinātāju vai izplatītāju un attiecīgo tirgus uzraudzības iestādi un aptur minētās sistēmas lietošanu. Ja uzturētāji ir identificējuši nopietnu incidentu, viņi par minēto incidentu arī nekavējoties informē vispirms nodrošinātāju un pēc tam importētāju vai izplatītāju un attiecīgās tirgus uzraudzības iestādes. Ja uzturētājs nevar sazināties ar nodrošinātāju, mutatis mutandis piemēro 73. pantu. Šis pienākums neattiecas uz MI sistēmu uzturētāju, kas ir tiesībaizsardzības iestādes, sensitīviem operatīvajiem datiem.
5. Subjekti koji uvode sustav prate rad visokorizičnog UI sustava u skladu s uputama za korištenje i prema potrebi obavješćuju dobavljače u skladu s člankom 72. Ako subjekti koji uvode sustav imaju razloga smatrati da korištenje visokorizičnog UI sustava u skladu s uputama može dovesti do toga da UI sustav predstavlja rizik u smislu članka 79. stavka 1., o tome bez nepotrebne odgode obavješćuju dobavljača ili distributera i relevantno tijelo za nadzor tržišta te suspendiraju korištenje tog sustava. Ako subjekti koji uvode sustav utvrde ozbiljan incident, o tom incidentu odmah obavješćuju prvo dobavljača, a zatim uvoznika ili distributera i relevantna tijela za nadzor tržišta. Ako subjekt koji uvodi sustav ne može stupiti u kontakt s dobavljačem, članak 73. primjenjuje se mutatis mutandis. Ova obveza ne obuhvaća osjetljive operativne podatke subjekata koji uvode UI sustave koji su tijela kaznenog progona.
Attiecībā uz uzturētājiem, kas ir finanšu iestādes, uz kurām attiecas Savienības finanšu pakalpojumu jomas tiesību aktos paredzētās prasības par to iekšējo pārvaldību, kārtību vai procesiem, pirmajā daļā noteikto pārraudzības pienākumu uzskata par izpildītu, ja ir izpildīti noteikumi par iekšējās pārvaldības kārtību, procesiem un mehānismiem, ievērojot attiecīgos tiesību aktus finanšu pakalpojumu jomā.
Kad je riječ o subjektima koji uvode sustav, a koji su financijske institucije na koje se primjenjuju zahtjevi u pogledu njihova unutarnjeg upravljanja, njihovih aranžmana ili njihovih postupaka na temelju prava Unije o financijskim uslugama, obveza praćenja utvrđena u prvom podstavku smatra se ispunjenom ako se poštuju pravila o aranžmanima, procesima i mehanizmima unutarnjeg upravljanja na temelju relevantnog prava o financijskim uslugama.
6. Augsta riska MI sistēmu uzturētāji glabā minētās augsta riska MI sistēmas ģenerētās žurnāldatnes, ciktāl šādas žurnāldatnes ir viņu pārziņā, tādu laikposmu, kas atbilst augsta riska MI sistēmai paredzētajam nolūkam – vismaz sešus mēnešus, ja vien piemērojamajos Savienības vai valsts tiesību aktos, jo īpaši Savienības tiesību aktos par personas datu aizsardzību, nav noteikts citādi.
6. Subjekti koji uvode visokorizične UI sustave čuvaju evidenciju koju automatski generira taj visokorizični UI sustav u mjeri u kojoj je takva evidencija pod njihovom kontrolom, tijekom razdoblja koje je primjereno namjeni visokorizičnog UI sustava, a najmanje šest mjeseci, osim ako je drukčije predviđeno u primjenjivom pravu Unije ili nacionalnom pravu, a posebno u pravu Unije o zaštiti osobnih podataka.
Uzturētāji, kas ir finanšu iestādes, uz kurām attiecas Savienības finanšu pakalpojumu jomas tiesību aktos paredzētās prasības par to iekšējo pārvaldību, kārtību vai procesiem, žurnāldatnes uztur kā daļu no dokumentācijas, kuru glabā, ievērojot attiecīgos Savienības tiesību aktus finanšu pakalpojumu jomā.
Subjekti koji uvode sustav, a koji su financijske institucije na koje se primjenjuju zahtjevi u pogledu njihova unutarnjeg upravljanja, njihovih aranžmana ili njihovih procesa na temelju prava Unije o financijskim uslugama čuvaju evidenciju u sklopu dokumentacije koja se čuva na temelju relevantnog prava Unije o financijskim uslugama.
7. Pirms augsta riska MI sistēmas nodošanas ekspluatācijā vai lietošanas darbavietā uzturētāji, kas ir darba devēji, informē darba ņēmēju pārstāvjus un skartos darba ņēmējus par to, ka uz viņiem attieksies augsta riska MI sistēmas lietošana. Šo informāciju attiecīgā gadījumā sniedz saskaņā ar noteikumiem un procedūrām, kas paredzētas Savienības un valsts tiesību aktos un praksē attiecībā uz darba ņēmēju un viņu pārstāvju informēšanu.
7. Prije stavljanja u upotrebu ili korištenja visokorizičnog UI sustava na radnom mjestu subjekti koji uvode visokorizični UI sustav, a koji su poslodavci, obavješćuju predstavnike radnika i radnike na koje se to odnosi da će podlijegati upotrebi visokorizičnog UI sustava. Te se informacije pružaju, ako je primjenjivo, u skladu s pravilima i postupcima utvrđenima u pravu Unije i nacionalnom pravu te praksom o informiranju radnika i njihovih predstavnika.
8. Augsta riska MI sistēmu uzturētāji, kas ir publiskas iestādes, vai Savienības iestādes, struktūras, biroji vai aģentūras pilda 49. pantā minētos reģistrācijas pienākumus. Ja šādi uzturētāji konstatē, ka augsta riska MI sistēma, kuru viņi plāno lietot, nav reģistrēta 71. pantā minētajā ES datubāzē, viņi minēto sistēmu nelieto un informē nodrošinātāju vai izplatītāju.
8. Subjekti koji uvode visokorizične UI sustave koji su javna tijela ili institucije, tijela, uredi ili agencije Unije moraju ispunjavati obveze registracije iz članka 49. Ako takvi subjekti koji uvode sustav utvrde da visokorizični UI sustav koji namjeravaju upotrebljavati nije registriran u bazi podataka EU-a iz članka 71., taj sustav ne upotrebljavaju i o tome obavješćuju dobavljača ili distributera.
9. Attiecīgā gadījumā augsta riska MI sistēmu uzturētāji izmanto saskaņā ar šīs regulas 13. pantu sniegto informāciju, lai izpildītu pienākumu veikt novērtējumu par ietekmi uz datu aizsardzību, kā paredzēts Regulas (ES) 2016/679 35. pantā vai Direktīvas (ES) 2016/680 27. pantā.
9. Ako je primjenjivo, subjekti koji uvode visokorizične UI sustave služe se informacijama iz članka 13. ove Uredbe da bi ispunili svoju obvezu provedbe procjene učinka na zaštitu podataka iz članka 35. Uredbe (EU) 2016/679 ili članka 27. Direktive (EU) 2016/680.
10. Neskarot Direktīvu (ES) 2016/680, lai izmeklēšanas ietvaros veiktu personas, kas tiek turēta aizdomās vai ir notiesāta par noziedzīga nodarījuma izdarīšanu, mērķtiecīgu meklēšanu, vēlāklaika biometriskās identifikācijai paredzētas augsta riska MI sistēmas uzturētājs ex-ante vai bez liekas kavēšanās un ne vēlāk kā 48 stundu laikā lūdz tiesu iestādei vai administratīvai iestādei, kuras lēmums ir saistošs un uz ko attiecas tiesas pārbaude, atļauju lietot minēto sistēmu, izņemot gadījumus, kad tā tiek lietota potenciāla aizdomās turamā sākotnējai identifikācijai, pamatojoties uz objektīviem un pārbaudāmiem faktiem, kas ir tieši saistīti ar nodarījumu. Katra lietošana ir ierobežota un attiecas tikai uz to, kas ir absolūti nepieciešams konkrēta noziedzīga nodarījuma izmeklēšanai.
10. Ne dovodeći u pitanje Direktivu (EU) 2016/680, u okviru istrage radi ciljane potrage za osobom osumnjičenom ili osuđenom za počinjenje kaznenog djela, subjekt koji uvodi visokorizični UI sustav za naknadnu daljinsku biometrijsku identifikaciju od pravosudnog ili upravnog tijela čija je odluka obvezujuća i podliježe sudskom preispitivanju traži, ex ante ili bez nepotrebne odgode, a najkasnije u roku od 48 sati odobrenje za upotrebu tog sustava osim ako se on upotrebljava za početnu identifikaciju potencijalnog osumnjičenika na temelju objektivnih i provjerljivih činjenica izravno povezanih s kaznenim djelom. Svaka upotreba mora biti ograničena na ono što je nužno za istragu određenog kaznenog djela.
Ja atļauja, kas pieprasīta, ievērojot pirmo daļu, netiek piešķirta, ar minēto pieprasīto atļauju saistīto vēlāklaika biometriskās identifikācijas sistēmas lietošanu nekavējoties pārtrauc un personas datus, kas saistīti ar tādu augsta riska MI sistēmas lietošanu, par kuru tika lūgta atļauja, dzēš.
Ako je odobrenje zatraženo na temelju prvog podstavka odbijeno, upotreba sustava za naknadnu daljinsku biometrijsku identifikaciju povezanog s tim zatraženim odobrenjem smjesta se zaustavlja te se brišu osobni podaci povezani s upotrebom visokorizičnog UI sustava za koji je zatraženo odobrenje.
Nekādā gadījumā šādu vēlāklaika biometriskās identifikācijai paredzētu augsta riska MI sistēmu nelieto tiesībaizsardzības nolūkos nemērķorientētā veidā, bez kādas saistības ar noziedzīgu nodarījumu, kriminālprocesu, reāliem un pašreizējiem vai reāliem un paredzamiem noziedzīga nodarījuma draudiem vai konkrētas pazudušas personas meklēšanu. Nodrošina, ka lēmumu, kas personai rada nelabvēlīgas tiesiskas sekas, tiesībaizsardzības iestādes nevar pieņemt, balstoties vienīgi uz šādu vēlāklaika biometriskās tālidentifikācijas sistēmu sniegto iznākumu.
Takav visokorizični UI sustav za naknadnu daljinsku biometrijsku identifikaciju ni u kojem se slučaju ne smije upotrebljavati u svrhu kaznenog progona na neciljani način, bez ikakve poveznice s kaznenim djelom, kaznenim postupkom, stvarnom i prisutnom ili stvarnom i predvidljivom prijetnjom kaznenog djela ili potragom za određenom nestalom osobom. Mora se osigurati da tijela kaznenog progona ne mogu donositi odluke koje proizvode negativan pravni učinak na osobu isključivo na temelju izlaznih podataka takvih sustava za naknadnu daljinsku biometrijsku identifikaciju.
Šis punkts neskar Regulas (ES) 2016/679 9. pantu un Direktīvas (ES) 2016/680 10. pantu attiecībā uz biometrisko datu apstrādi.
Ovim se stavkom ne dovode u pitanje članak 9. Uredbe (EU) 2016/679 i članak 10. Direktive (EU) 2016/680 kad je riječ o obradi biometrijskih podataka.
Neatkarīgi no nolūka vai uzturētāja katru šādu augsta riska MI sistēmu lietošanu dokumentē attiecīgā policijas datnē un pēc pieprasījuma dara pieejamu attiecīgajai tirgus uzraudzības iestādei un valsts datu aizsardzības iestādei, izņemot ar tiesībaizsardzību saistītu sensitīvu operatīvo datu izpaušanu. Šī daļa neskar pilnvaras, kas ar Direktīvu (ES) 2016/680 piešķirtas uzraudzības iestādēm.
Neovisno o namjeni ili subjektu koji uvodi sustav, svaka upotreba takvih visokorizičnih UI sustava dokumentira se u relevantnom policijskom spisu i na zahtjev se stavlja na raspolaganje relevantnom tijelu za nadzor tržišta i nacionalnom tijelu za zaštitu podataka, isključujući otkrivanje osjetljivih operativnih podataka povezanih s kaznenim progonom. Ovim se podstavkom ne dovode u pitanje ovlasti dodijeljene nadzornim tijelima Direktivom (EU) 2016/680.
Uzturētāji iesniedz attiecīgajai tirgus uzraudzības iestādei un valsts datu aizsardzības iestādei gada ziņojumus par gadījumiem, kad tie lietojuši vēlāklaika biometriskās tālidentifikācijas sistēmas, izņemot ar tiesībaizsardzību saistītu sensitīvu operatīvo datu izpaušanu. Ziņojumus var agregēt, lai vienā operācijā aptvertu vairāk nekā vienu ieviešanu.
Subjekti koji uvode sustav podnose godišnja izvješća relevantnim tijelima za nadzor tržišta i nacionalnim tijelima za zaštitu podataka o svojoj upotrebi sustavâ za naknadnu daljinsku biometrijsku identifikaciju, isključujući otkrivanje osjetljivih operativnih podataka povezanih s kaznenim progonom. Izvješća mogu biti skupna kako bi obuhvatila više od jednog uvođenja.
Dalībvalstis saskaņā ar Savienības tiesību aktiem var ieviest ierobežojošākus tiesību aktus par vēlāklaika biometriskās tālidentifikācijas sistēmu lietošanu.
Države članice mogu, u skladu s pravom Unije, uvesti restriktivnije propise o upotrebi sustavâ za naknadnu daljinsku biometrijsku identifikaciju.
11. Neskarot šīs regulas 50. pantu, III pielikumā minēto augsta riska MI sistēmu uzturētāji, kas pieņem lēmumus vai palīdz pieņemt lēmumus saistībā ar fiziskām personām, informē fiziskas personas, ka uz tām attiecas augsta riska MI sistēmas lietošana. Augsta riska MI sistēmām, ko izmanto tiesībaizsardzības nolūkos, piemēro Direktīvas (ES) 2016/680 13. pantu.
11. Ne dovodeći u pitanje članak 50. ove Uredbe, subjekti koji uvode visokorizične UI sustave iz Priloga III. koji donose odluke ili pomažu u donošenju odluka povezanih s fizičkim osobama obavješćuju fizičke osobe o tome da podliježu upotrebi visokorizičnog UI sustava. Na visokorizične UI sustave koji se upotrebljavaju u svrhu kaznenog progona primjenjuje se članak 13. Direktive (EU) 2016/680.
12. Uzturētāji sadarbojas ar attiecīgajām kompetentajām iestādēm visās darbībās, ko minētās iestādes šīs regulas īstenošanas nolūkā veic saistībā ar augsta riska MI sistēmu.
12. Subjekti koji uvode sustav surađuju s relevantnim nadležnim tijelima u svim mjerama koje ta tijela poduzimaju u vezi s visokorizičnim UI sustavom radi provedbe ove Uredbe.
Augsta riska MI sistēmu ietekmes uz pamattiesībām novērtējums
Procjena učinka visokorizičnih UI sustava na temeljna prava
1. Pirms tiek lietota augsta riska MI sistēma, kas minēta 6. panta 2. punktā, izņemot augsta riska MI sistēmas, ko paredzēts lietot III pielikuma 2. punktā uzskaitītā jomā, uzturētāji, kas ir publisko tiesību subjekti vai privātas vienības, kas sniedz sabiedriskos pakalpojumus, un III pielikuma 5. punkta b) un c) apakšpunktos minēto augsta riska MI sistēmu uzturētāji, veic novērtējumu par ietekmi uz pamattiesībām, kādu var radīt šādas sistēmas lietošana. Minētajā nolūkā uzturētāji veic novērtējumu, kurā ietver
1. Prije uvođenja visokorizičnog UI sustava iz članka 6. stavka 2., uz iznimku visokorizičnih UI sustava namijenjenih za upotrebu u području navedenom u točki 2. Priloga III., subjekti koji uvode sustav koji su javnopravna tijela ili su privatni subjekti koji pružaju javne usluge i subjekti koji uvode visokorizične UI sustave iz točke 5. podtočaka (b) i (c) Priloga III. provode procjenu učinka koji upotreba takvog sustava može imati na temeljna prava. U tu svrhu subjekti koji uvode sustav provode procjenu koja sadržava:
a)
to uzturētāja procesu aprakstu, kuros augsta riska MI sistēma tiks lietota saskaņā ar tai paredzēto nolūku;
(a)
opis procesa subjekta koji uvodi sustav u kojima će se visokorizični UI sustav upotrebljavati u skladu sa svojom namjenom;
b)
laikposma un biežuma aprakstu, kādā paredzēts lietot katru augsta riska MI sistēmu;
(b)
opis razdoblja i učestalosti namjeravane upotrebe svakog visokorizičnog UI sustava;
c)
to fizisku personu un grupu kategorijas, kuras, iespējams, skartu sistēmas izmantošana konkrētā kontekstā;
(c)
kategorije fizičkih osoba i skupina na koje će vjerojatno utjecati upotreba sustava u konkretnom kontekstu;
d)
konkrētus kaitējuma riskus, kam, iespējams, būtu ietekme uz to fizisku personu vai personu grupu kategorijām, kas noteiktas, ievērojot šā punkta c) apakšpunktu, ņemot vērā informāciju, ko nodrošinātājs sniedzis, ievērojot 13. pantu;
(d)
specifične rizike od štete koji će vjerojatno utjecati na kategorije fizičkih osoba ili skupine osoba identificirane u skladu s točkom (c) ovog stavka, uzimajući u obzir informacije koje je dostavio dobavljač u skladu s člankom 13.;
e)
aprakstu par cilvēka virsvadības pasākumu īstenošanu saskaņā ar lietošanas instrukciju;
(e)
opis provedbe mjera ljudskog nadzora u skladu s uputama za korištenje;
f)
pasākumus, kas veicami, ja minētie riski materializējas, tostarp iekšējās pārvaldības kārtību un sūdzību mehānismus.
(f)
mjere koje se moraju poduzeti u slučaju materijalizacije tih rizika, uključujući aranžmane za unutarnje upravljanje i mehanizme za podnošenje pritužbi.
2. Šā panta 1. punktā paredzētais pienākums attiecas uz augsta riska MI sistēmas pirmo lietošanu. Uzturētājs līdzīgos gadījumos var izmantot iepriekš veiktus novērtējumus par ietekmi uz pamattiesībām vai esošu novērtējumu, ko veicis nodrošinātājs. Ja augsta riska MI sistēmas lietošanas laikā uzturētājs uzskata, ka kāds no 1. punktā uzskaitītajiem elementiem ir mainījies vai ir novecojis, uzturētājs veic nepieciešamos pasākumus, lai atjauninātu informāciju.
2. Obveza utvrđene u stavku 1. primjenjuje se na prvu upotrebu visokorizičnog UI sustava. Subjekt koji uvodi sustav može se u sličnim slučajevima osloniti na prethodno provedene procjene učinka na temeljna prava ili postojeću procjenu učinka koju je proveo dobavljač. Ako tijekom upotrebe visokorizičnog UI sustava subjekt koji uvodi sustav smatra da se neki od elemenata iz stavka 1. promijenio ili da nije ažuriran, subjekt koji uvodi sustav poduzima potrebne korake za ažuriranje informacija.
3. Pēc tam, kad ir veikts šā panta 1. punktā minētais novērtējums, uzturētājs paziņo tirgus uzraudzības iestādei tā rezultātus, iesniedz kā paziņojuma daļu aizpildīto veidni, kas minēta šā panta 5. punktā. Gadījumā, kas minēts 46. panta 1. punktā, uzturētāji var tikt atbrīvoti no minētā paziņošanas pienākuma.
3. Nakon provedbe procjene iz stavka 1. ovog članka subjekt koji uvodi sustav obavješćuje tijelo za nadzor tržišta o njezinim rezultatima, podnošenjem ispunjenog predloška iz stavka 5. ovog članka u okviru obavijesti. U slučaju iz članka 46. stavka 1. subjekti koji uvode sustav mogu biti izuzeti od te obveze obavješćivanja.
4. Ja kāds no šajā pantā paredzētajiem pienākumiem jau ir izpildīts ar novērtējumu par ietekmi uz datu aizsardzību, ko veic, ievērojot Regulas (ES) 2016/679 35. pantu vai Direktīvas (ES) 2016/680 27. pantu, šā panta 1. punktā minētais novērtējums par ietekmi uz pamattiesībām papildina šo novērtējumu par ietekmi uz datu aizsardzību.
4. Ako je bilo koja od obveza utvrđenih u ovom članku već ispunjena procjenom učinka na zaštitu podataka provedenom na temelju članka 35. Uredbe (EU) 2016/679 ili članka 27. Direktive (EU) 2016/680, procjena učinka na temeljna prava iz stavka 1. ovog članka dopunjuje tu procjenu učinka na zaštitu podataka.
5. MI birojs izstrādā anketas veidni, tostarp, izmantojot automatizētu rīku, lai atvieglotu uzturētājiem šajā pantā paredzēto pienākumu pildīšanu vienkāršotā veidā.
5. Ured za umjetnu inteligenciju izrađuje predložak upitnika, među ostalim s pomoću automatiziranog alata, kako bi se subjektima koji uvode sustav olakšalo da na pojednostavnjen način ispune svoje obveze iz ovog članka.
Tijela koja provode prijavljivanje
1. Katra dalībvalsts izraugās vai izveido vismaz vienu paziņojošo iestādi, kas atbild par vajadzīgo procedūru izveidi un izpildi atbilstības novērtēšanas struktūru novērtēšanai, izraudzīšanai un paziņošanai, kā arī to pārraudzībai. Minētās procedūras izstrādā, sadarbojoties visu dalībvalstu paziņojošajām iestādēm.
1. Svaka država članica imenuje ili osniva barem jedno tijelo koje provodi prijavljivanje, koje je odgovorno za utvrđivanje i provedbu postupaka potrebnih za ocjenjivanje, imenovanje, prijavljivanje i praćenje tijelâ za ocjenjivanje sukladnosti. Te postupke u suradnji razvijaju tijela koja provode prijavljivanje iz svih država članica.
2. Dalībvalstis var nolemt, ka 1. punktā minēto novērtēšanu un pārraudzību jāveic valsts akreditācijas struktūrai Regulas (EK) Nr. 765/2008 nozīmē un saskaņā ar to.
2. Države članice mogu odlučiti da ocjenjivanje i praćenje iz stavka 1. provodi nacionalno akreditacijsko tijelo u smislu Uredbe (EZ) br. 765/2008 i u skladu s tom uredbom.
3. Paziņojošās iestādes tiek izveidotas, organizētas un darbojas tā, lai nerastos interešu konflikts ar atbilstības novērtēšanas struktūrām un tiktu garantēta to darbību objektivitāte un neitralitāte.
3. Tijela koja provode prijavljivanje osnivaju se, organiziraju i rade na takav način da ne dolazi do sukoba interesa s tijelima za ocjenjivanje sukladnosti te da su zajamčene objektivnost i nepristranost njihovih aktivnosti.
4. Paziņojošās iestādes tiek organizētas tā, lai lēmumus saistībā ar atbilstības novērtēšanas struktūru paziņošanu pieņemtu kompetentās personas, kas nav tās pašas, kuras veikušas minēto struktūru novērtēšanu.
4. Tijela koja provode prijavljivanje organizirana su na takav način da odluke povezane s prijavljivanjem tijela za ocjenjivanje sukladnosti donose nadležne osobe različite od osoba koje su provele ocjenjivanje tih tijela.
5. Paziņojošās iestādes nepiedāvā un neveic darbības, ko veic atbilstības novērtēšanas struktūras, vai komerciālus vai uz konkurenci balstītus konsultāciju pakalpojumus.
5. Tijela koja provode prijavljivanje ne smiju nuditi obavljanje aktivnosti niti smiju obavljati aktivnosti koje obavljaju tijela za ocjenjivanje sukladnosti, kao ni usluge savjetovanja na tržišnoj ili konkurentskoj osnovi.
6. Paziņojošās iestādes nodrošina to iegūtās informācijas konfidencialitāti saskaņā ar 78. pantu.
6. Tijela koja provode prijavljivanje u skladu s člankom 78. štite povjerljivost informacija koje su pribavila.
7. To uzdevumu pienācīgai izpildei paziņojošo iestāžu rīcībā ir pietiekams skaits kompetentu darbinieku. Kompetentajam personālam attiecīgā gadījumā ir to funkcijai nepieciešamās speciālās zināšanas tādās jomās kā informācijas tehnoloģijas, MI un tiesības, tostarp pamattiesību uzraudzība.
7. Tijela koja provode prijavljivanje moraju imati adekvatan broj članova stručnog osoblja za propisno obavljanje svojih zadaća. Stručno osoblje mora imati, ako je primjenjivo, potrebno stručno znanje za svoju funkciju u područjima kao što su informacijske tehnologije, umjetna inteligencija i pravo, uključujući nadzor temeljnih prava.
Atbilstības novērtēšanas struktūras pieteikums paziņošanai
Zahtjev tijela za ocjenjivanje sukladnosti za prijavljivanje
1. Atbilstības novērtēšanas struktūras iesniedz paziņošanas pieteikumu paziņojošajai iestādei tajā dalībvalstī, kurā tās izveidotas.
1. Tijela za ocjenjivanje sukladnosti podnose zahtjev za prijavljivanje tijelu koje provodi prijavljivanje u državi članici u kojoj imaju poslovni nastan.
2. Paziņošanas pieteikumam pievieno aprakstu par atbilstības novērtēšanas darbībām, atbilstības novērtēšanas moduli vai moduļiem un MI sistēmu veidiem, attiecībā uz kuriem atbilstības novērtēšanas struktūra apliecina savu kompetenci, kā arī valsts akreditācijas struktūras izsniegtu akreditācijas sertifikātu, ja tāds ir, kas apliecina, ka atbilstības novērtēšanas struktūra atbilst 31. pantā noteiktajām prasībām.
2. Zahtjevu za prijavljivanje prilaže se opis aktivnosti ocjenjivanja sukladnosti, jednog ili više modula za ocjenjivanje sukladnosti i vrsta UI sustava za koje tijelo za ocjenjivanje sukladnosti tvrdi da je nadležno te potvrda o akreditaciji, ako postoji, koju je izdalo nacionalno akreditacijsko tijelo i kojom se potvrđuje da tijelo za ocjenjivanje sukladnosti ispunjava zahtjeve utvrđene u članku 31.
Pievieno derīgus dokumentus, kas saistīti ar pieteikuma iesniedzējas paziņotās struktūras esošu izraudzīšanos saskaņā ar citiem Savienības saskaņošanas tiesību aktiem.
Dodaju se svi valjani dokumenti koji se odnose na postojeća imenovanja, na temelju drugog zakonodavstva Unije o usklađivanju, prijavljenog tijela koje podnosi zahtjev.
3. Ja attiecīgā atbilstības novērtēšanas struktūra nevar iesniegt akreditācijas sertifikātu, tā iesniedz paziņojošajai iestādei visus dokumentāros pierādījumus, kas vajadzīgi, lai pārbaudītu, atzītu un regulāri pārraudzītu tās atbilstību 31. pantā noteiktajām prasībām.
3. Ako dotično tijelo za ocjenjivanje sukladnosti ne može predočiti potvrdu o akreditaciji, tijelu koje provodi prijavljivanje dostavlja sve dokumente potrebne za provjeru, priznavanje i redovito praćenje njegova ispunjavanja zahtjeva utvrđenih u članku 31.
4. Attiecībā uz paziņotajām struktūrām, kuras ir izraudzītas saskaņā ar citiem Savienības saskaņošanas tiesību aktiem, visus dokumentus un sertifikātus, kas saistīti ar minēto izraudzīšanos, var izmantot, lai vajadzības gadījumā atbalstītu to izraudzīšanās procedūru, kura paredzēta šajā regulā. Paziņotā struktūra atjaunina šā panta 2. un 3. punktā minēto dokumentāciju katru reizi, kad notiek attiecīgas izmaiņas, lai par paziņotajām struktūrām atbildīgā iestāde varētu pārraudzīt un pārbaudīt, vai tiek pastāvīgi nodrošināta atbilstība visām 31. pantā norādītajām prasībām.
4. Kad je riječ o prijavljenim tijelima koja su imenovana na temelju drugog zakonodavstva Unije o usklađivanju, svi dokumenti i potvrde povezani s tim imenovanjima mogu se, prema potrebi, upotrijebiti u postupku njihova imenovanja na temelju ove Uredbe. Prijavljeno tijelo ažurira dokumentaciju iz stavaka 2. i 3. ovog članka u slučaju bilo kakvih relevantnih promjena kako bi tijelu odgovornom za prijavljena tijela omogućilo da prati i provjerava kontinuirano ispunjavanje svih zahtjeva utvrđenih u članku 31.
1. Paziņojošās iestādes var paziņot tikai tādas atbilstības novērtēšanas struktūras, kas atbilst 31. pantā noteiktajām prasībām.
1. Tijela koja provode prijavljivanje mogu prijaviti samo tijela za ocjenjivanje sukladnosti koja ispunjavaju zahtjeve utvrđene u članku 31.
2. Paziņojošās iestādes paziņošanu Komisijai un pārējām dalībvalstīm veic, izmantojot Komisijas izstrādāto un pārvaldīto elektronisko paziņošanas rīku, par katru 1. punktā minēto atbilstības novērtēšanas struktūru.
2. Tijela koja provode prijavljivanje pomoću alata za elektroničko prijavljivanje koji je razvila i kojim upravlja Komisija dostavljaju prijavu Komisiji i drugim državama članicama o svakom tijelu za ocjenjivanje sukladnosti iz stavka 1.
3. Šā panta 2. punktā minētajā paziņojumā iekļauj sīkas ziņas par atbilstības novērtēšanas darbībām, atbilstības novērtēšanas moduli vai moduļiem, attiecīgajiem MI sistēmu veidiem, kā arī attiecīgo kompetences apliecinājumu. Ja paziņošana netiek balstīta uz 29. panta 2. punktā minēto akreditācijas sertifikātu, paziņojošā iestāde iesniedz Komisijai un pārējām dalībvalstīm dokumentārus pierādījumus, kuri apliecina atbilstības novērtēšanas struktūras kompetenci un ieviestos pasākumus, ar ko nodrošina, ka minētā struktūra tiks regulāri pārraudzīta un ka tā pastāvīgi atbildīs 31. pantā noteiktajām prasībām.
3. Prijavljivanje iz stavka 2. ovog članka obuhvaća sve pojedinosti o aktivnostima ocjenjivanja sukladnosti, jednom ili više modula za ocjenjivanje sukladnosti, vrstama dotičnih UI sustava te relevantnu potvrdu o stručnosti. Ako se prijavljivanje ne temelji na potvrdi o akreditaciji iz članka 29. stavka 2., tijelo koje provodi prijavljivanje dostavlja Komisiji i drugim državama članicama pisane dokaze kojima se potvrđuju stručnost tijela za ocjenjivanje sukladnosti i aranžmani koji su uspostavljeni kako bi se osiguralo da će se to tijelo redovito pratiti i da će nastaviti ispunjavati zahtjeve utvrđene u članku 31.
4. Attiecīgā atbilstības novērtēšanas struktūra var veikt paziņotās struktūras darbības tikai tad, ja Komisija vai pārējās dalībvalstis nav paudušas iebildumus divu nedēļu laikā no paziņojošās iestādes iesniegta paziņojuma, ja tajā ir iekļauts 29. panta 2. punktā minētais akreditācijas sertifikāts, vai divu mēnešu laikā no paziņojošās iestādes iesniegta paziņojuma, ja tajā ir iekļauti 29. panta 3. punktā minētie dokumentārie pierādījumi.
4. Dotično tijelo za ocjenjivanje sukladnosti može obavljati aktivnosti prijavljenog tijela samo ako Komisija ili druge države članice ne podnesu prigovor u roku od dva tjedna od prijavljivanja koje je izvršilo tijelo koje provodi prijavljivanje ako prijava uključuje potvrdu o akreditaciji iz članka 29. stavka 2. odnosno u roku od dva mjeseca od prijavljivanja koje je izvršilo tijelo koje provodi prijavljivanje ako prijava uključuje pisane dokaze iz članka 29. stavka 3.
5. Ja tiek celti iebildumi, Komisija nekavējoties sāk apspriešanos ar attiecīgajām dalībvalstīm un atbilstības novērtēšanas struktūru. To ņemot vērā, Komisija lemj, vai atļauja ir pamatota. Komisija savu lēmumu adresē attiecīgajai dalībvalstij un attiecīgajai atbilstības novērtēšanas struktūrai.
5. Ako se podnesu prigovori, Komisija bez odgode započinje savjetovanja s relevantnim državama članicama i tijelom za ocjenjivanje sukladnosti. S obzirom na savjetovanja Komisija odlučuje je li odobrenje opravdano. Komisija svoju odluku upućuje dotičnoj državi članici i relevantnom tijelu za ocjenjivanje sukladnosti.
Prasības attiecībā uz paziņotajām struktūrām
Zahtjevi koji se odnose na prijavljena tijela
1. Paziņoto struktūru izveido saskaņā ar dalībvalsts valsts tiesību aktiem, un tā ir juridiska persona.
1. Prijavljeno tijelo osniva se na temelju nacionalnog prava države članice i ima pravnu osobnost.
2. Paziņotās struktūras atbilst organizatoriskajām, kvalitātes vadības, resursu un procesa prasībām, kas nepieciešamas to uzdevumu veikšanai, kā arī atbilstīgām kiberdrošības prasībām.
2. Prijavljena tijela moraju ispunjavati organizacijske zahtjeve i zahtjeve koji se odnose na upravljanje kvalitetom, resurse i procese koji su potrebni za obavljanje njihovih zadaća, kao i odgovarajuće zahtjeve u pogledu kibernetičke sigurnosti.
3. Paziņoto struktūru uzbūve, pienākumu sadalījums, pārskatu sniegšanas kārtība un darbība nodrošina uzticēšanos paziņoto struktūru sniegumam un veikto atbilstības novērtēšanas darbību rezultātiem.
3. Organizacijskom strukturom, podjelom odgovornosti, linijama izvješćivanja i radom prijavljenih tijela osigurava se povjerenje u njihovu učinkovitost i u rezultate aktivnosti ocjenjivanja sukladnosti koje ona provode.
4. Paziņotās struktūras ir neatkarīgas no augsta riska MI sistēmas nodrošinātāja, attiecībā uz kuru tās veic atbilstības novērtēšanas darbības. Paziņotās struktūras ir neatkarīgas arī no citiem operatoriem, kuriem ir ekonomiskā ieinteresētība novērtējamajās augsta riska MI sistēmās, kā arī no visiem nodrošinātāja konkurentiem. Tas neliedz lietot novērtētās augsta riska MI sistēmas, kas ir vajadzīgas atbilstības novērtēšanas struktūras darbībām, vai lietot šādas augsta riska MI sistēmas personīgām vajadzībām.
4. Prijavljena tijela moraju biti neovisna o dobavljaču visokorizičnog UI sustava u vezi s kojim provode aktivnosti ocjenjivanja sukladnosti. Prijavljena tijela ujedno moraju biti neovisna o svim ostalim operaterima koji imaju gospodarski interes u visokorizičnim UI sustavima koji se ocjenjuju, kao i o svim konkurentima dobavljača. Time se ne sprečava upotreba ocijenjenih visokorizičnih UI sustava koji su potrebni za rad tijela za ocjenjivanje sukladnosti ni upotreba takvih visokorizičnih UI sustava za osobne potrebe.
5. Ne atbilstības novērtēšanas struktūra, tās augstākā līmeņa vadība, ne darbinieki, kas atbild par tai paredzēto atbilstības novērtēšanas uzdevumu veikšanu, nav tieši iesaistīti augsta riska MI sistēmu projektēšanā, izstrādē, tirdzniecībā vai lietošanā un nepārstāv minētajās darbībās iesaistītas personas. Viņi neiesaistās darbībās, kas varētu būt konfliktā ar viņu spriedumu neatkarību vai godprātību saistībā ar atbilstības novērtēšanas darbībām, attiecībā uz kurām viņi ir paziņotā struktūra. Tas jo īpaši attiecas uz konsultāciju pakalpojumiem.
5. Tijelo koje ocjenjuje sukladnost, njegovo najviše rukovodstvo i osoblje odgovorno za provedbu zadaća ocjenjivanja sukladnosti ne smiju biti izravno uključeni u dizajn, razvoj, stavljanje na tržište ili upotrebu visokorizičnih UI sustava niti smiju zastupati strane uključene u te aktivnosti. Oni ne smiju sudjelovati u aktivnostima koje bi mogle dovesti u pitanje njihovu neovisnost prosudbe ili njihov integritet u vezi s aktivnostima ocjenjivanja sukladnosti za koje su prijavljeni. To se osobito odnosi na usluge savjetovanja.
6. Paziņotās struktūras ir organizētas un darbojas tā, lai nodrošinātu savu darbību neatkarību, objektivitāti un neitralitāti. Paziņotās struktūras dokumentē un ievieš struktūru un procedūras, kas vajadzīgas, lai garantētu objektivitāti un veicinātu un piemērotu objektivitātes principus attiecībā uz visu to organizāciju, personālu un novērtēšanas darbībām.
6. Prijavljena tijela organizirana su i rade na način kojim se jamče neovisnost, objektivnost i nepristranost njihovih aktivnosti. Prijavljena tijela dokumentiraju i primjenjuju strukturu i postupke za očuvanje nepristranosti te za promicanje i primjenu načelâ nepristranosti u cijeloj svojoj organizaciji, među svojim osobljem i u svojim aktivnostima ocjenjivanja.
7. Paziņotās struktūras ievieš dokumentētas procedūras, lai nodrošinātu, ka to personāls, komitejas, meitasuzņēmumi, apakšuzņēmēji un jebkura saistītā struktūra vai ārējo struktūru darbinieki saskaņā ar 78. pantu ievēro tās informācijas konfidencialitāti, kas nonāk viņu rīcībā, veicot atbilstības novērtēšanas darbības, izņemot gadījumus, kad tās izpaušana tiek prasīta tiesību aktos. Paziņoto struktūru personālam ir pienākums ievērot dienesta noslēpumu attiecībā uz visu informāciju, kas iegūta, veicot šajā regulā paredzētos uzdevumus, izņemot attiecībā uz tās dalībvalsts paziņojošajām iestādēm, kurā tiek veiktas viņu darbības.
7. Prijavljena tijela moraju imati uspostavljene dokumentirane postupke kojima se osigurava da njihovo osoblje, odbori, podružnice, podugovaratelji i sva povezana tijela ili osoblje vanjskih tijela u skladu s člankom 78. poštuju povjerljivost informacija koje prime tijekom obavljanja aktivnosti ocjenjivanja sukladnosti, osim ako se otkrivanje tih informacija zahtijeva zakonom. Osoblje prijavljenih tijela obvezno je čuvati profesionalnu tajnu u pogledu svih informacija koje pribavi tijekom obavljanja svojih zadaća na temelju ove Uredbe, osim u odnosu na tijela koja provode prijavljivanje u državi članici u kojoj prijavljena tijela obavljaju svoje aktivnosti.
8. Paziņotajām struktūrām ir procedūras darbību veikšanai, kurās pienācīgi ņem vērā nodrošinātāja lielumu, nozari, kurā tas darbojas, struktūru un attiecīgās MI sistēmas sarežģītības pakāpi.
8. Prijavljena tijela moraju imati uspostavljene postupke za obavljanje aktivnosti kojima se propisno uzimaju u obzir veličina dobavljača, sektor u kojem on posluje, njegova struktura i stupanj složenosti dotičnog UI sustava.
9. Paziņotajām struktūrām ir pienācīgi apdrošināta civiltiesiskā atbildība attiecībā uz savām atbilstības novērtēšanas darbībām, ja vien dalībvalsts, kurā tās ir iedibinātas, neuzņemas atbildību saskaņā ar šīs valsts tiesību aktiem vai ja dalībvalsts pati tieši neatbild par atbilstības novērtēšanu.
9. Prijavljena tijela sklapaju odgovarajuće osiguranje od odgovornosti za svoje aktivnosti ocjenjivanja sukladnosti, osim ako u skladu s nacionalnim pravom odgovornost preuzima država članica u kojoj imaju poslovni nastan ili je ta država članica sama izravno odgovorna za ocjenjivanje sukladnosti.
10. Paziņotās struktūras spēj veikt visus uzdevumus, kas tām noteikti šajā regulā, ar visaugstāko profesionālo godaprātu un nepieciešamo kompetenci konkrētajā jomā, neatkarīgi no tā, vai šos uzdevumus veic paziņotās struktūras pašas vai cita persona to uzdevumā un atbildībā.
10. Prijavljena tijela moraju biti sposobna provoditi sve svoje zadaće na temelju ove Uredbe s najvećom razinom profesionalnog integriteta i potrebnim kompetencijama u određenom području, bez obzira na to provode li te zadaće sama prijavljena tijela ili se one provode u njihovo ime i pod njihovom odgovornošću.
11. Paziņotajām struktūrām ir pietiekamas iekšējās kompetences, lai tās varētu efektīvi izvērtēt uzdevumus, ko to vārdā veic ārējās personas. Paziņotajai struktūrai ir pastāvīgi pieejams pietiekams administratīvais, tehniskais, juridiskais un zinātniskais personāls, kam ir pieredze un zināšanas par attiecīgajiem MI sistēmu veidiem, datiem un datošanu, kā arī par 2. iedaļā noteiktajām prasībām.
11. Prijavljena tijela moraju imati dostatne unutarnje kompetencije da bi mogla djelotvorno evaluirati zadaće koje u njihovo ime obavljaju vanjske strane. Prijavljeno tijelo mora kontinuirano imati dovoljan broj članova administrativnog, tehničkog, pravnog i znanstvenog osoblja koji posjeduju iskustvo i znanje u vezi s relevantnim vrstama UI sustava, podacima i obradom podataka te u vezi sa zahtjevima utvrđenima u odjeljku 2.
12. Paziņotās struktūras piedalās 38. pantā minētajās koordinācijas darbībās. Tās arī tiešā veidā piedalās vai ir pārstāvētas Eiropas standartizācijas organizācijās, vai nodrošina, ka ir informētas un regulāri atjaunina zināšanas par attiecīgajiem standartiem.
12. Prijavljena tijela sudjeluju u koordinacijskim aktivnostima iz članka 38. Osim toga, izravno sudjeluju ili imaju predstavnika u europskim organizacijama za normizaciju, ili osiguravaju da su upoznata s relevantnim normama i prate razvoj zbivanja.
Promjene u vezi s prijavama
1. Paziņojošā iestāde, izmantojot 30. panta 2. punktā minēto elektronisko paziņošanas rīku, paziņo Komisijai un pārējām dalībvalstīm par visām attiecīgām izmaiņām paziņojumā par paziņoto struktūru.
1. Tijelo koje provodi prijavljivanje obavješćuje Komisiju i druge države članice o svim relevantnim promjenama u vezi s prijavom prijavljenog tijela pomoću alata za elektroničko prijavljivanje iz članka 30. stavka 2.
2. Procedūras, kas noteiktas 29. un 30. pantā, piemēro gadījumos, kad tiek paplašināts paziņojuma tvērums.
2. Postupci utvrđeni u člancima 29. i 30. primjenjuju se na proširenja opsega prijave.
Ja paziņojumā tiek izdarītas citas izmaiņas, kuras nav tā tvēruma paplašināšana, piemēro 3. līdz 9. punktos noteiktās procedūras.
Na promjene u vezi s prijavom, uz iznimku proširenja njezina opsega, primjenjuju se postupci utvrđeni u stavcima od 3. do 9.
3. Ja paziņotā struktūra nolemj pārtraukt savas atbilstības novērtēšanas darbības, tā pēc iespējas drīz un plānotas pārtraukšanas gadījumā – vismaz vienu gadu pirms savu darbību pārtraukšanas informē paziņojošo iestādi un attiecīgos nodrošinātājus. Paziņotās struktūras sertifikāti var palikt derīgi deviņus mēnešus ilgu laikposmu pēc paziņotās struktūras darbību pārtraukšanas ar nosacījumu, ka kāda cita paziņotā struktūra ir rakstiski apliecinājusi, ka tā uzņemsies pienākumus attiecībā uz augsta riska MI sistēmām, uz kurām attiecas minētie sertifikāti. Pēdējā minētā paziņotā struktūra līdz tāda deviņu mēnešu laikposma beigām pabeidz skarto augsta riska MI sistēmu pilnīgu novērtēšanu pirms jaunu sertifikātu izdošanas minētajām sistēmām. Ja paziņotā struktūra savu darbību ir pārtraukusi, paziņojošā iestāde izraudzīšanos atsauc.
3. Ako prijavljeno tijelo odluči prestati obavljati aktivnosti ocjenjivanja sukladnosti, o tome obavješćuje tijelo koje provodi prijavljivanje i dotične dobavljače u najkraćem mogućem roku, a u slučaju planiranog prestanka obavljanja aktivnosti barem godinu dana prije prestanka obavljanja svojih aktivnosti. Potvrde prijavljenog tijela mogu ostati valjane tijekom razdoblja od devet mjeseci nakon prestanka obavljanja aktivnosti prijavljenog tijela pod uvjetom da je neko drugo prijavljeno tijelo u pisanom obliku potvrdilo da će preuzeti odgovornost za visokorizične UI sustave na koje se te potvrde odnose. Potonje prijavljeno tijelo provodi cjelovito ocjenjivanje dotičnih visokorizičnih UI sustava do kraja tog devetomjesečnog razdoblja prije nego što izda nove potvrde za te sustave. Ako je prijavljeno tijelo prestalo obavljati svoje aktivnosti, tijelo koje provodi prijavljivanje povlači imenovanje.
4. Ja paziņojošajai iestādei ir pietiekams pamats uzskatīt, ka paziņotā struktūra vairs neatbilst 31. pantā noteiktajām prasībām vai ka tā nepilda savus pienākumus, paziņojošā iestāde nekavējoties ar vislielāko rūpību izskata šo jautājumu. Šajā sakarā tā informē attiecīgo paziņoto struktūru par celtajiem iebildumiem un dod tai iespēju darīt zināmu savu viedokli. Ja paziņojošā iestāde secina, ka paziņotā struktūra vairs neatbilst 31. pantā noteiktajām prasībām vai ka tā nepilda savus pienākumus, paziņojošā iestāde attiecīgi ierobežo, aptur vai atsauc izraudzīšanos, atkarībā no tā, cik nopietna ir neatbilstība minētajām prasībām vai minēto pienākumu nepildīšana. Tā nekavējoties attiecīgi informē Komisiju un pārējās dalībvalstis.
4. Ako tijelo koje provodi prijavljivanje ima dovoljno razloga smatrati da određeno prijavljeno tijelo više ne ispunjava zahtjeve utvrđene u članku 31. ili da ne ispunjava svoje obveze, tijelo koje provodi prijavljivanje bez odgode i uz najveću moguću pozornost istražuje to pitanje. U tom kontekstu tijelo koje provodi prijavljivanje obavješćuje dotično prijavljeno tijelo o podnesenim prigovorima i daje mu mogućnost da se izjasni. Ako tijelo koje provodi prijavljivanje zaključi da prijavljeno tijelo više ne ispunjava zahtjeve utvrđene u članku 31. ili da ne ispunjava svoje obveze, ono prema potrebi ograničava, suspendira ili povlači imenovanje, ovisno o težini neispunjavanja tih zahtjeva ili obveza. Tijelo koje provodi prijavljivanje o tome odmah obavješćuje Komisiju i druge države članice.
5. Ja paziņotās struktūras izraudzīšanās ir apturēta, ierobežota vai pilnīgi vai daļēji atsaukta, tā 10 dienu laikā informē attiecīgos nodrošinātājus.
5. Ako je imenovanje prijavljenog tijela suspendirano, ograničeno ili djelomično ili potpuno povučeno, to tijelo o tome obavješćuje dotične dobavljače u roku od deset dana.
6. Ja izraudzīšanās tiek ierobežota, apturēta vai atsaukta, paziņojošā iestāde veic attiecīgos pasākumus, lai nodrošinātu, ka attiecīgās paziņotās struktūras datnes tiek glabātas, un pēc pieprasījuma darītu tās pieejamas paziņojošajām iestādēm citās dalībvalstīs un tirgus uzraudzības iestādēm.
6. U slučaju ograničenja, suspenzije ili povlačenja imenovanja, tijelo koje provodi prijavljivanje poduzima odgovarajuće mjere kako bi osiguralo da se spisi dotičnog prijavljenog tijela sačuvaju te da se stave na raspolaganje tijelima koja provode prijavljivanje u drugim državama članicama i tijelima za nadzor tržišta na njihov zahtjev.
7. Ja izraudzīšanos ierobežo, aptur vai atsauc, paziņojošā iestāde:
7. U slučaju ograničenja, suspenzije ili povlačenja imenovanja, tijelo koje provodi prijavljivanje:
a)
novērtē ietekmi uz sertifikātiem, ko izdevusi paziņotā struktūra;
(a)
ocjenjuje učinak koji to ima na potvrde koje je izdalo prijavljeno tijelo;
b)
triju mēnešu laikā pēc tam, kad tā ir paziņojusi par izmaiņām saistībā ar izraudzīšanos, Komisijai un pārējām dalībvalstīm iesniedz ziņojumu par saviem konstatējumiem;
(b)
Komisiji i drugim državama članicama podnosi izvješće o svojim nalazima u roku od tri mjeseca nakon što ih je obavijestilo o promjenama u vezi s imenovanjem;
c)
prasa paziņotajai struktūrai saprātīgā laikposmā, kuru nosaka iestāde, apturēt vai atsaukt jebkādus neatbilstīgi izdotus sertifikātus, lai nodrošinātu tirgū esošo augsta riska MI sistēmu nepārtrauktu atbilstību;
(c)
od prijavljenog tijela zahtijeva da u razumnom roku koji odredi tijelo koje provodi prijavljivanje suspendira ili povuče sve nepropisno izdane potvrde kako bi se osigurala kontinuirana sukladnost visokorizičnih UI sustava na tržištu;
d)
informē Komisiju un dalībvalstis par sertifikātiem, kurus tā ir pieprasījusi apturēt vai atsaukt;
(d)
obavješćuje Komisiju i države članice o potvrdama za koje je zatražilo suspenziju ili povlačenje;
e)
sniedz tās dalībvalsts valsts kompetentajām iestādēm, kurā ir nodrošinātāja juridiskā adrese, visu attiecīgo informāciju par sertifikātiem, kurus tā ir pieprasījusi apturēt vai atsaukt; minētā iestāde vajadzības gadījumā veic pienācīgos pasākumus, lai izvairītos no potenciāla riska veselībai, drošībai vai pamattiesībām.
(e)
nacionalnim nadležnim tijelima države članice u kojoj dobavljač ima registrirano mjesto poslovanja dostavlja sve relevantne informacije o potvrdama za koje je zatražilo suspenziju ili povlačenje; to tijelo prema potrebi poduzima odgovarajuće mjere kako bi se izbjegao potencijalni rizik za zdravlje, sigurnost ili temeljna prava.
8. Izņemot neatbilstīgi izdotus sertifikātus un gadījumus, kad izraudzīšanās ir apturēta vai ierobežota, sertifikāti paliek derīgi kādos no šādiem apstākļiem:
8. Osim ako su potvrde nepropisno izdane i ako je imenovanje suspendirano ili ograničeno, potvrde ostaju valjane u jednoj od sljedećih okolnosti:
a)
paziņojošā iestāde viena mēneša laikā pēc apturēšanas vai ierobežošanas ir apliecinājusi, ka saistībā ar sertifikātiem, kurus skar apturēšana vai ierobežošana, nepastāv risks veselībai, drošībai vai pamattiesībām, un paziņojošā iestāde ir izstrādājusi grafiku darbībām, ar kurām labot apturēšanas vai ierobežošanas iemeslus; vai
(a)
tijelo koje provodi prijavljivanje potvrdilo je, u roku od mjesec dana od suspenzije ili ograničenja, da potvrde na koje se odnosi suspenzija ili ograničenje ne predstavljaju rizik za zdravlje, sigurnost ili temeljna prava te je navelo vremenski raspored za mjere s pomoću kojih bi se suspenzija ili ograničenje mogli ispraviti; ili
b)
paziņojošā iestāde ir apliecinājusi, ka apturēšanas vai ierobežošanas laikā netiks izdoti, grozīti vai atkārtoti izdoti nekādi ar apturēšanu saistīti sertifikāti, un tā norāda, vai paziņotajai struktūrai ir spējas turpināt pārraudzību un saglabāt atbildību par spēkā esošajiem izdotajiem sertifikātiem apturēšanas vai ierobežošanas laikposmā; ja paziņojošā iestāde lemj, ka paziņotajai struktūrai nav spēju uzturēt spēkā esošos izdotos sertifikātus, tās sistēmas nodrošinātājs, uz kuru attiecas sertifikāts, trīs mēnešu laikā pēc apturēšanas vai ierobežošanas rakstiski apliecina tās dalībvalsts valsts kompetentajām iestādēm, kurā ir tā juridiskā adrese, ka cita kvalificēta paziņotā struktūra pagaidu kārtā uzņemas paziņotās struktūras funkcijas, lai pārraudzītu un saglabātu atbildību par sertifikātiem apturēšanas vai ierobežošanas laikposmā.
(b)
tijelo koje provodi prijavljivanje potvrdilo je da se tijekom razdoblja suspenzije ili ograničenja neće izdavati, mijenjati ili ponovno izdavati potvrde na koje se odnosi suspenzija te navodi je li prijavljeno tijelo sposobno nastaviti pratiti već izdane potvrde i odgovarati za njih tijekom razdoblja suspenzije ili ograničenja. U slučaju da tijelo koje provodi prijavljivanje utvrdi da prijavljeno tijelo nije sposobno dati podršku za već izdane potvrde, dobavljač sustava na koji se potvrda odnosi u roku od tri mjeseca od suspenzije ili ograničenja u pisanom obliku potvrđuje nacionalnim nadležnim tijelima države članice u kojoj ima registrirano mjesto poslovanja da neko drugo kvalificirano prijavljeno tijelo privremeno preuzima funkcije prijavljenog tijela u pogledu praćenja potvrda i odgovaranja za njih tijekom razdoblja suspenzije ili ograničenja.
9. Izņemot neatbilstīgi izdotus sertifikātus un gadījumus, kad izraudzīšanās ir atsaukta, sertifikāti paliek derīgi uz deviņu mēnešu laikposmu šādos apstākļos:
9. Osim ako su potvrde nepropisno izdane i ako je imenovanje povučeno, potvrde ostaju valjane tijekom razdoblja od devet mjeseci u sljedećim okolnostima:
a)
tās dalībvalsts valsts kompetentā iestāde, kurā ir sertifikātā aptvertās augsta riska MI sistēmas nodrošinātāja juridiskā adrese, ir apliecinājusi, ka saistībā ar attiecīgajām augsta riska MI sistēmām nepastāv risks veselībai, drošībai vai pamattiesībām; un
(a)
nacionalno nadležno tijelo države članice u kojoj dobavljač visokorizičnog UI sustava na koji se potvrda odnosi ima registrirano mjesto poslovanja potvrdilo je da dotični visokorizični UI sustavi ne predstavljaju rizik za zdravlje, sigurnost ili temeljna prava; i
b)
cita paziņotā struktūra ir rakstiski apliecinājusi, ka tā nekavējoties uzņemsies atbildību par minēto MI sistēmu novērtēšanu, un pabeidz novērtēšanu divpadsmit mēnešu laikā pēc izraudzīšanās atsaukšanas.
(b)
drugo prijavljeno tijelo potvrdilo je u pisanom obliku da će preuzeti izravnu odgovornost za te UI sustave i da će dovršiti njihovo ocjenjivanje u roku od dvanaest mjeseci od povlačenja imenovanja.
Pirmajā daļā minētajos apstākļos tās dalībvalsts valsts kompetentā iestāde, kurā ir sertifikātā aptvertās sistēmas nodrošinātāja juridiskā adrese, var pagarināt sertifikātu pagaidu derīgumu uz papildu trīs mēnešu laikposmiem, kuri kopumā nepārsniedz 12 mēnešus.
U okolnostima iz prvog podstavka nacionalno nadležno tijelo države članice u kojoj dobavljač sustava na koji se potvrda odnosi ima registrirano mjesto poslovanja može produljiti privremenu valjanost potvrda za dodatna razdoblja od tri mjeseca, pri čemu ukupno razdoblje ne smije biti dulje od 12 mjeseci.
Valsts kompetentā iestāde vai paziņotā struktūra, kas uzņemas tās paziņotās struktūras funkcijas, kuru skar izraudzīšanās izmaiņas, par to nekavējoties informē Komisiju, pārējās dalībvalstis un citas paziņotās struktūras.
Nacionalno nadležno tijelo ili prijavljeno tijelo koje preuzima funkcije prijavljenog tijela na koje se odnosi promjena u vezi s imenovanjem odmah o tome obavješćuje Komisiju, druge države članice i druga prijavljena tijela.
Saskaņoti standarti un standartizācijas nodevumi
Usklađene norme i normizacijski dokumenti
1. Tiek uzskatīts, ka augsta riska MI sistēmas, kas atbilst saskaņotiem standartiem vai to daļām, kuru atsauces ir publicētas Eiropas Savienības Oficiālajā Vēstnesī saskaņā ar Regulu (ES) Nr. 1025/2012, izpilda šīs nodaļas 2. iedaļā izklāstītās prasības vai – attiecīgā gadījumā – šīs regulas V nodaļas 2. un 3. iedaļā noteiktos pienākumus, ciktāl minētie standarti aptver minētās prasības vai pienākumus.
1. Za visokorizične UI sustave ili UI modele opće namjene koji su sukladni s usklađenim normama ili dijelovima usklađenih normi na koje su objavljena upućivanja u Službenom listu Europske unije u skladu s Uredbom (EU) br. 1025/2012 pretpostavlja se da su sukladni sa zahtjevima utvrđenima u odjeljku 2. ovog poglavlja odnosno, ovisno o slučaju, s obvezama utvrđenima u poglavlju V. odjeljcima 2. i 3. ove Uredbe, u mjeri u kojoj te norme obuhvaćaju te zahtjeve ili obveze.
2. Komisija bez liekas kavēšanās saskaņā ar Regulas (ES) Nr. 1025/2012 10. pantu izdod standartizācijas pieprasījumus, kas aptver visas šīs nodaļas 2. iedaļā noteiktās prasības, un attiecīgā gadījumā standartizācijas pieprasījumus, kas aptver šīs regulas V nodaļas 2. un 3. iedaļā noteiktos pienākumus. Standartizācijas pieprasījumos pieprasa arī nodevumus par ziņošanas un dokumentēšanas procesiem nolūkā panākt lielāku MI sistēmu resursefektivitāti, piemēram, augsta riska MI sistēmas enerģijas patēriņa un citu resursu patēriņa samazināšanu tās darbmūža laikā, un par vispārīga lietojuma MI modeļu energoefektīvu izstrādi. Sagatavojot standartizācijas pieprasījumu, Komisija apspriežas ar MI padomi un attiecīgām ieinteresētajām personām, tostarp konsultatīvo forumu.
2. U skladu s člankom 10. Uredbe (EU) br. 1025/2012 Komisija bez nepotrebne odgode upućuje zahtjeve za normizaciju koji obuhvaćaju sve zahtjeve utvrđene u odjeljku 2. ovog poglavlja i, ovisno o slučaju, zahtjeve za normizaciju koji obuhvaćaju obveze utvrđene u poglavlju V. odjeljcima 2. i 3. ove Uredbe. U okviru zahtjeva za normizaciju također se zahtijeva izrada dokumenata u vezi s procesom izvješćivanja i dokumentiranja kako bi se poboljšala resursna učinkovitost UI sustavâ, primjerice kako bi visokorizični UI sustav smanjio potrošnju energije i drugih resursa tijekom svojeg životnog ciklusa, te u vezi s energetski učinkovitim razvojem UI modelâ opće namjene. Pri izradi zahtjeva za normizaciju Komisija se savjetuje s Vijećem za umjetnu inteligenciju i relevantnim dionicima, uključujući savjetodavni forum.
Izdodot standartizācijas pieprasījumu Eiropas standartizācijas organizācijām, Komisija konkrēti norāda, ka standartiem ir jābūt skaidriem, saskaņotiem, tostarp ar standartiem, kas izstrādāti dažādās nozarēs produktiem, uz kuriem attiecas I pielikumā uzskaitītie esošie Savienības saskaņošanas tiesību akti, un tiem jābūt vērstiem uz to, lai nodrošinātu, ka augsta riska MI sistēmas vai vispārīga lietojuma MI modeļi, kas laisti tirgū vai nodoti ekspluatācijā Savienībā, atbilst attiecīgajām šajā regulā noteiktajām prasībām vai pienākumiem.
Pri upućivanju zahtjeva za normizaciju europskim organizacijama za normizaciju Komisija navodi da norme moraju biti jasne i usklađene, među ostalim i s normama razvijenima u raznim sektorima za proizvode obuhvaćene postojećim zakonodavstvom Unije o usklađivanju navedenim u Prilogu I., i da se njima mora osigurati da visokorizični UI sustavi ili UI modeli opće namjene koji se stavljaju na tržište ili u upotrebu u Uniji ispunjavaju relevantne zahtjeve ili obveze utvrđene u ovoj Uredbi.
Komisija pieprasa Eiropas standartizācijas organizācijām saskaņā ar Regulas (ES) Nr. 1025/2012 24. pantu sniegt pierādījumus par to, ka tās dara visu iespējamo, lai sasniegtu šā punkta pirmajā un otrajā daļā minētos mērķus.
Komisija također zahtijeva od europskih organizacija za normizaciju da dostave dokaze o svojim nastojanjima da ispune ciljeve iz prvog i drugog podstavka ovog stavka u skladu s člankom 24. Uredbe (EU) br. 1025/2012.
3. Standartizācijas procesa dalībnieki cenšas sekmēt investīcijas un inovāciju MI jomā, tostarp uzlabojot juridisko noteiktību, kā arī Savienības tirgus konkurētspēju un izaugsmi, un sekmē globālās sadarbības standartizācijas jomā stiprināšanu un to, ka tiek ņemti vērā pastāvošie starptautiskie standarti MI jomā, kas atbilst Savienības vērtībām, pamattiesībām un interesēm, un stiprina daudzpusēju ieinteresēto personu pārvaldību, nodrošinot līdzsvarotu interešu pārstāvību un visu attiecīgo ieinteresēto personu efektīvu līdzdalību saskaņā ar Regulas (ES) Nr. 1025/2012 5., 6. un 7. pantu.
3. Sudionici u procesu normizacije nastoje promicati ulaganja i inovacije u području umjetne inteligencije, među ostalim povećanjem pravne sigurnosti, kao i konkurentnosti i rasta tržišta Unije, te doprinositi jačanju globalne suradnje u području normizacije, uzimajući u obzir postojeće međunarodne norme u području umjetne inteligencije koje su u skladu s vrijednostima, temeljnim pravima i interesima Unije, i poboljšati višedioničko upravljanje osiguravanjem ujednačene zastupljenosti interesa i djelotvornog sudjelovanja svih relevantnih dionika u skladu s člancima 5., 6. i 7. Uredbe (EU) br. 1025/2012.
1. Komisija var pieņemt īstenošanas aktus, ar kuriem nosaka kopīgās specifikācijas šīs nodaļas 2. iedaļā noteiktajām prasībām vai – attiecīgā gadījumā – V nodaļas 2. un 3. iedaļā noteiktajiem pienākumiem, ja ir izpildīti šādi nosacījumi:
1. Komisija može donositi provedbene akte o utvrđivanju zajedničkih specifikacija za zahtjeve utvrđene u odjeljku 2. ovog poglavlja odnosno, ovisno o slučaju, za obveze utvrđene u odjeljcima 2. i 3. poglavlja V. ako su ispunjeni sljedeći uvjeti:
a)
Komisija, ievērojot Regulas (ES) Nr. 1025/2012 10. panta 1. punktu, ir pieprasījusi vienai vai vairākām Eiropas standartizācijas organizācijām izstrādāt saskaņota standarta projektu attiecībā uz šīs nodaļas 2. iedaļā noteiktajām prasībām, vai attiecīgā gadījumā attiecībā uz V nodaļas 2. un 3. iedaļā noteiktajiem pienākumiem un:
(a)
Komisija je na temelju članka 10. stavka 1. Uredbe (EU) br. 1025/2012 zatražila od jedne ili više europskih organizacija za normizaciju da izrade usklađenu normu za zahtjeve utvrđene u odjeljku 2. ovog poglavlja odnosno, ovisno o slučaju, za obveze utvrđene u odjeljcima 2. i 3. poglavlja V., a:
i)
pieprasījumu nav akceptējusi neviena Eiropas standartizācijas organizācija; vai
i.
zahtjev nije prihvatila nijedna europska organizacija za normizaciju; ili
ii)
saskaņotie standarti, reaģējot uz minēto pieprasījumu, nav iesniegti termiņā, kas noteikts saskaņā ar Regulas (ES) Nr. 1025/2012 10. panta 1. punktu; vai
ii.
usklađene norme koje se odnose na taj zahtjev nisu izrađene u roku utvrđenom u skladu s člankom 10. stavkom 1. Uredbe (EU) br. 1025/2012; ili
iii)
attiecīgie saskaņotie standarti nepietiekami risina problemātiskos pamattiesību jautājumus; vai
iii.
relevantnim usklađenim normama nisu dostatno uvažena pitanja temeljnih prava; ili
iv)
saskaņotie standarti neatbilst pieprasījumam; un
iv.
usklađene norme nisu u skladu sa zahtjevom; i
b)
Eiropas Savienības Oficiālajā Vēstnesī nav publicēta atsauce saskaņā ar Regulu (ES) Nr. 1025/2012 uz saskaņotiem standartiem, kuri attiecas uz šīs nodaļas 2. iedaļā minētajām prasībām, vai attiecīgā gadījumā uz V nodaļas 2. un 3. iedaļā minētajiem pienākumiem, un nav sagaidāms, ka šāda atsauce tiks publicēta saprātīgā laikposmā.
(b)
u Službenom listu Europske unije nije objavljeno, u skladu s Uredbom (EU) br. 1025/2012, upućivanje na usklađene norme koje obuhvaćaju zahtjeve utvrđene u odjeljku 2. ovog poglavlja odnosno, ovisno o slučaju, obveze utvrđene u odjeljcima 2. i 3. poglavlja V., niti se očekuje objava takvih upućivanja u razumnom roku.
Izstrādājot kopīgās specifikācijas, Komisija apspriežas ar 67. pantā minēto konsultatīvo forumu.
Pri izradi zajedničkih specifikacija Komisija se savjetuje sa savjetodavnim forumom iz članka 67.
Šā punkta pirmajā daļā minētos īstenošanas aktus pieņem saskaņā ar pārbaudes procedūru, kas minēta 98. panta 2. punktā.
Provedbeni akti iz prvog podstavka ovog stavka donose se u skladu s postupkom ispitivanja iz članka 98. stavka 2.
2. Pirms īstenošanas akta projekta sagatavošanas Komisija informē Regulas (ES) Nr. 1025/2012 22. pantā minēto komiteju, ka tās ieskatā šā panta 1. punkta nosacījumi ir izpildīti.
2. Prije nego što izradi nacrt provedbenog akta Komisija obavješćuje odbor iz članka 22. Uredbe (EU) br. 1025/2012 o tome da smatra da su uvjeti utvrđeni u stavku 1. ovog članka ispunjeni.
3. Pieņem, ka augsta riska MI sistēmas vai vispārīga lietojuma MI modeļi, kas atbilst 1. punktā minētajām kopīgajām specifikācijām vai minēto specifikāciju daļām, atbilst 2. iedaļā noteiktajām prasībām vai attiecīgā gadījumā atbilst V nodaļas 2. un 3. iedaļā minētajiem pienākumiem, ciktāl uz minētajām prasībām vai pienākumiem attiecas minētās kopīgās specifikācijas vai minētie pienākumi.
3. Za visokorizične UI sustave ili UI modele opće namjene koji su sukladni sa zajedničkim specifikacijama iz stavka 1. ili dijelovima tih specifikacija pretpostavlja se da su sukladni sa zahtjevima utvrđenima u odjeljku 2. ovog poglavlja odnosno, ovisno o slučaju, da su u skladu s obvezama utvrđenima u odjeljcima 2. i 3. poglavlja V., u mjeri u kojoj te zajedničke specifikacije obuhvaćaju te zahtjeve ili te obveze.
4. Ja saskaņotu standartu ir pieņēmusi kāda Eiropas standartizācijas organizācija, un Komisijai ir ierosināts atsauci uz to publicēt Eiropas Savienības Oficiālajā Vēstnesī, Komisija saskaņoto standartu novērtē saskaņā ar Regulu (ES) Nr. 1025/2012. Kad atsauci uz saskaņoto standartu publicē Eiropas Savienības Oficiālajā Vēstnesī, Komisija atceļ 1. punktā minētos īstenošanas aktus vai to daļas, kas attiecas uz tām pašām prasībām, kuras minētas šīs nodaļas 2. iedaļā vai attiecīgā gadījumā tiem pašiem pienākumiem, kas minēti V nodaļas 2. un 3. iedaļā.
4. Ako europska organizacija za normizaciju donese usklađenu normu i Komisiji predloži da se upućivanje na nju objavi u Službenom listu Europske unije, Komisija ocjenjuje tu usklađenu normu u skladu s Uredbom (EU) br. 1025/2012. Kad se upućivanje na usklađenu normu objavi u Službenom listu Europske unije, Komisija stavlja izvan snage provedbene akte iz stavka 1. ili njihove dijelove koji obuhvaćaju iste zahtjeve utvrđene u odjeljku 2. ovog poglavlja odnosno, ovisno o slučaju, iste obveze utvrđene u odjeljcima 2. i 3. poglavlja V.
5. Ja augsta riska MI sistēmu vai vispārīga lietojuma MI modeļu nodrošinātāji neatbilst 1. punktā minētajām kopīgajām specifikācijām, tie pienācīgi pamato, ka viņi ir pieņēmuši tehniskos risinājumus, kas atbilst šīs nodaļas 2. iedaļā minētajām prasībām vai attiecīgā gadījumā atbilst V nodaļas 2. un 3. iedaļā minētajiem pienākumiem vismaz tām līdzvērtīgā līmenī.
5. Ako dobavljači visokorizičnih UI sustava ili UI modela opće namjene ne ispunjavaju zajedničke specifikacije iz stavka 1., moraju propisno obrazložiti da su usvojili tehnička rješenja kojima se ispunjavaju zahtjevi iz odjeljka 2. ovog poglavlja odnosno, ovisno o slučaju, kojima se ispunjavaju obveze utvrđene u odjeljcima 2. i 3. poglavlja V., na razini koja je barem jednakovrijedna tim zajedničkim specifikacijama.
6. Ja dalībvalsts uzskata, ka kopīgā specifikācija pilnībā neatbilst 2. iedaļā noteiktajām prasībām vai attiecīgā gadījumā atbilst V nodaļas 2. un 3. iedaļā minētajiem pienākumiem, tā par to informē Komisiju, iesniedzot detalizētu skaidrojumu. Komisija minēto informāciju novērtē un attiecīgā gadījumā groza īstenošanas aktu, ar ko nosaka attiecīgo kopīgo specifikāciju.
6. Ako država članica smatra da zajednička specifikacija ne ispunjava u potpunosti zahtjeve utvrđene u odjeljku 2. odnosno, ovisno o slučaju, obveze utvrđene u odjeljcima 2. i 3. poglavlja V., ona o tome obavješćuje Komisiju i navodi detaljno objašnjenje. Komisija ocjenjuje te informacije i, prema potrebi, mijenja provedbeni akt kojim se utvrđuje dotična zajednička specifikacija.
1. Attiecībā uz augsta riska MI sistēmām, kas uzskaitītas III pielikuma 1. punktā, ja nodrošinātājs, apliecinot augsta riska MI sistēmas atbilstību 2. iedaļā noteiktajām prasībām, ir piemērojis 40. pantā minētos saskaņotos standartus vai, attiecīgā gadījumā, 41. pantā minētās kopīgās specifikācijas, nodrošinātājs izvēlas vienu no šīm atbilstības novērtēšanas procedūrām, kas balstītas uz:
1. U vezi s visokorizičnim UI sustavima iz točke 1. Priloga III., ako je dobavljač pri dokazivanju usklađenosti visokorizičnog UI sustava sa zahtjevima utvrđenima u odjeljku 2. primijenio usklađene norme iz članka 40. ili, ako je primjenjivo, zajedničke specifikacije iz članka 41., dobavljač bira jedan od sljedećih postupaka ocjenjivanja sukladnosti na temelju:
a)
VI pielikumā minēto iekšējo kontroli; vai
(a)
unutarnje kontrole iz Priloga VI.; ili
b)
VII pielikumā minēto kvalitātes vadības sistēmas un tehniskās dokumentācijas novērtēšanu, iesaistot paziņoto struktūru.
(b)
ocjenjivanja sustava upravljanja kvalitetom i ocjenjivanja tehničke dokumentacije iz Priloga VII., uz sudjelovanje prijavljenog tijela.
Apliecinot augsta riska MI sistēmas atbilstību 2. iedaļā noteiktajām prasībām, nodrošinātājs ievēro VII pielikumā noteikto atbilstības novērtēšanas procedūru, ja:
Pri dokazivanju usklađenosti visokorizičnog UI sustava sa zahtjevima utvrđenima u odjeljku 2. dobavljač primjenjuje postupak ocjenjivanja sukladnosti iz Priloga VII. ako:
a)
40. pantā minētie saskaņotie standarti nepastāv un 41. pantā minētās kopīgās specifikācijas nav pieejamas;
(a)
usklađene norme iz članka 40. ne postoje, a zajedničke specifikacije iz članka 41. nisu dostupne;
b)
nodrošinātājs saskaņoto standartu nav piemērojis vai ir piemērojis tikai tā daļu;
(b)
dobavljač nije primijenio usklađenu normu ili je primijenio samo dio usklađene norme;
c)
a) apakšpunktā minētās kopīgās specifikācijas pastāv, bet nodrošinātājs tās nav piemērojis;
(c)
zajedničke specifikacije iz točke (a) postoje, ali ih dobavljač nije primijenio;
d)
viens vai vairāki no a) apakšpunktā minētajiem saskaņotajiem standartiem ir publicēti ar ierobežojumu, un tikai attiecībā uz to standarta daļu, uz kuru attiecas ierobežojums.
(d)
jedna ili više usklađenih normi iz točke (a) objavljena je uz ograničenje, i to samo za dio norme koji je ograničen.
VII pielikumā minētās atbilstības novērtēšanas procedūras nolūkos nodrošinātājs var izvēlēties jebkuru no paziņotajām struktūrām. Tomēr, ja augsta riska MI sistēmu paredzēts nodot ekspluatācijā tiesībaizsardzības, imigrācijas vai patvēruma iestādēm vai Savienības iestādēm, struktūrām, birojiem vai aģentūrām, kā paziņotā struktūra darbojas tirgus uzraudzības iestāde, kas minēta, attiecīgi, 74. panta 8. vai 9. punktā.
Za potrebe postupka ocjenjivanja sukladnosti iz Priloga VII. dobavljač može odabrati bilo koje prijavljeno tijelo. Međutim, ako visokorizični UI sustav u upotrebu namjeravaju staviti tijela kaznenog progona, tijela za imigraciju ili tijela za azil odnosno institucije, tijela, uredi ili agencije Unije, tijelo za nadzor tržišta iz članka 74. stavka 8. ili 9., ovisno o slučaju, djeluje kao prijavljeno tijelo.
2. Attiecībā uz augsta riska MI sistēmām, kas minētas III pielikuma 2. līdz 8. punktā, nodrošinātāji ievēro VI pielikumā minēto atbilstības novērtēšanas procedūru uz iekšējās kontroles pamata, kas neparedz paziņotās struktūras iesaistīšanos.
2. Za visokorizične UI sustave iz točaka od 2. do 8. Priloga III. dobavljači primjenjuju postupak ocjenjivanja sukladnosti na temelju unutarnje kontrole iz Priloga VI., kojim se ne predviđa sudjelovanje prijavljenog tijela.
3. Attiecībā uz augsta riska MI sistēmām, uz kurām attiecas I pielikuma A iedaļā uzskaitītie Savienības saskaņošanas tiesību akti, nodrošinātājs ievēro attiecīgu atbilstības novērtēšanas procedūru, kā prasīts minētajos tiesību aktos. Uz minētajām augsta riska MI sistēmām attiecas šīs nodaļas 2. iedaļā noteiktās prasības, un tās ir daļa no minētās novērtēšanas. Piemēro arī VII pielikuma 4.3., 4.4., 4.5. punktu un 4.6. punkta piekto daļu.
3. Za visokorizične UI sustave obuhvaćene zakonodavstvom Unije o usklađivanju navedenim u odjeljku A Priloga I. dobavljač primjenjuje relevantni postupak ocjenjivanja sukladnosti kako se zahtijeva tim pravnim aktima. Na te visokorizične UI sustave primjenjuju se zahtjevi utvrđeni u odjeljku 2. ovog poglavlja i dio su tog ocjenjivanja. Također se primjenjuju točke 4.3., 4.4., 4.5. i točka 4.6. peti odlomak Priloga VII.
Paziņotajām struktūrām, kuras paziņotas, kā paredzēts minētajos tiesību aktos, tādas novērtēšanas nolūkos ir tiesības kontrolēt augsta riska MI sistēmu atbilstību 2. iedaļā noteiktajām prasībām, ar noteikumu, ka minēto paziņoto struktūru atbilstība prasībām, kuras noteiktas 31. panta 4., 5., 10. un 11. punktā, ir novērtēta saistībā ar paziņošanas procedūru, kas paredzēta minētajos tiesību aktos.
Za potrebe tog ocjenjivanja prijavljena tijela koja su prijavljena na temelju tih pravnih akata imaju pravo kontrolirati sukladnost visokorizičnih UI sustava sa zahtjevima utvrđenima u odjeljku 2. pod uvjetom da je u kontekstu postupka prijavljivanja na temelju tih pravnih akata ocijenjeno ispunjavaju li dotična prijavljena tijela zahtjeve utvrđene u članku 31. stavcima 4., 5., 10. i 11.
Ja tiesību akts, kas uzskaitīts I pielikuma A iedaļā, ļauj produkta ražotājam atteikties no trešās personas veiktas atbilstības novērtēšanas, ar noteikumu, ka šis ražotājs ir piemērojis visus saskaņotos standartus, kas aptver visas attiecīgās prasības, minētais ražotājs var izmantot šo iespēju tikai tad, ja tas ir piemērojis arī saskaņotos standartus vai, attiecīgā gadījumā, 41. pantā minētās kopīgās specifikācijas, kas attiecas uz šīs nodaļas 2. iedaļā noteiktajām prasībām.
Ako je pravnim aktom navedenim u odjeljku A Priloga II. proizvođaču proizvoda omogućeno da se izuzme iz ocjenjivanja sukladnosti koje provodi treća strana pod uvjetom da je taj proizvođač primijenio sve usklađene norme koje obuhvaćaju sve relevantne zahtjeve, taj proizvođač tu mogućnost može iskoristiti samo ako je primijenio i usklađene norme ili, ako je primjenjivo, zajedničke specifikacije iz članka 41., koje obuhvaćaju sve zahtjeve utvrđene u odjeljku 2. ovog poglavlja.
4. Augsta riska MI sistēmas, kam jau ir veikta atbilstības novērtēšanas procedūra, pakļauj jaunai atbilstības novērtēšanas procedūrai būtiskas modifikācijas gadījumā neatkarīgi no tā, vai modificēto sistēmu paredzēts izplatīt tālāk jeb vai to turpinās lietot pašreizējais uzturētājs.
4. Za visokorizične UI sustave koji su već bili podvrgnuti postupku ocjenjivanja sukladnosti provodi se novi postupak ocjenjivanja sukladnosti ako dođe do bitnih izmjena, neovisno o tome namjerava li se izmijenjeni sustav dalje distribuirati ili ga nastavlja upotrebljavati isti subjekt koji ga već uvodi.
Attiecībā uz augsta riska MI sistēmām, kuras pēc laišanas tirgū vai nodošanas ekspluatācijā turpina mācīties, tādas izmaiņas augsta riska MI sistēmā un tās veiktspējā, ko sākotnējās atbilstības novērtēšanas brīdī ir iepriekš noteicis nodrošinātājs un kas ir norādītas informācijā, kura ietverta tehniskajā dokumentācijā, kas minēta IV pielikuma 2. punkta f) apakšpunktā, nav būtiskas modifikācijas.
Za visokorizične UI sustave koji nastavljaju učiti nakon stavljanja na tržište ili u upotrebu, promjene visokorizičnog UI sustava i njegove učinkovitosti koje je dobavljač unaprijed odredio u trenutku početnog ocjenjivanja sukladnosti i koje su obuhvaćene informacijama u tehničkoj dokumentaciji iz točke 2. podtočke (f) Priloga IV. ne čine bitnu izmjenu.
5. Komisija tiek pilnvarota pieņemt deleģētos aktus saskaņā ar 97. pantu, lai grozītu VI un VII pielikumu, tos atjauninot, ņemot vērā tehnikas attīstību.
5. Komisija je ovlaštena za donošenje delegiranih akata u skladu s člankom 97. radi izmjene priloga VI. i VII. njihovim ažuriranjem s obzirom na tehnički napredak.
6. Komisija tiek pilnvarota pieņemt deleģētos aktus saskaņā ar 97. pantu, lai grozītu šā panta 1. un 2. punktu nolūkā uz III pielikuma 2. līdz 8. punktā minētajām augsta riska MI sistēmām attiecināt VII pielikumā minēto atbilstības novērtēšanas procedūru vai tās daļas. Komisija pieņem šādus deleģētos aktus, ņemot vērā tādas atbilstības novērtēšanas procedūras efektivitāti, kuras pamatā ir VI pielikumā minētā iekšējā kontrole, lai novērstu vai samazinātu šādu sistēmu radītos riskus attiecībā uz veselību un drošību, un pamattiesību aizsardzība, kā arī pienācīgu spēju un resursu pieejamība paziņoto struktūru starpā.
6. Komisija je ovlaštena za donošenje delegiranih akata u skladu s člankom 97. radi izmjene stavaka 1. i 2. ovog članka kako bi visokorizične UI sustave iz točaka od 2. do 8. Priloga III. podvrgnula postupku ocjenjivanja sukladnosti iz Priloga VII. ili dijelovima tog postupka. Komisija takve delegirane akte donosi uzimajući u obzir djelotvornost postupka ocjenjivanja sukladnosti na temelju unutarnje kontrole iz Priloga VI. u sprečavanju rizika za zdravlje i sigurnost te zaštitu temeljnih prava koje takvi sustavi predstavljaju ili svođenju takvih rizika na najmanju moguću mjeru, kao i dostupnost adekvatnih kapaciteta i resursa među prijavljenim tijelima.
1. Sertifikātus, ko saskaņā ar VII pielikumu izdod paziņotās struktūras, sagatavo valodā, kas ir viegli saprotama attiecīgajām iestādēm dalībvalstī, kurā ir izveidota paziņotā struktūra.
1. Potvrde koje izdaju prijavljena tijela u skladu s Prilogom VII. sastavljaju se na jeziku koji relevantna tijela u državi članici u kojoj prijavljeno tijelo ima poslovni nastan mogu bez poteškoća razumjeti.
2. Sertifikāti ir derīgi tajos norādītajā laikposmā, kas nepārsniedz piecus gadus MI sistēmām, uz kurām attiecas I pielikums, un četrus gadus MI sistēmām, uz kurām attiecas III pielikums. Pēc nodrošinātāja pieteikuma sertifikāta derīgumu var pagarināt uz turpmākiem laikposmiem, kas katrs nepārsniedz piecus gadus MI sistēmām, uz kurām attiecas I pielikums, un četrus gadus MI sistēmām, uz kurām attiecas III pielikums, pamatojoties uz atkārtotu novērtēšanu saskaņā ar piemērojamām atbilstības novērtēšanas procedūrām. Jebkurš sertifikāta papildinājums ir joprojām derīgs ar noteikumu, ka derīgs ir sertifikāts, kuru tas papildina.
2. Potvrde vrijede tijekom razdoblja koje je u njima navedeno, a ono ne smije biti dulje od pet godina za UI sustave obuhvaćene Prilogom I. i dulje od četiri godine za UI sustave obuhvaćene Prilogom III. Na zahtjev dobavljača valjanost potvrde može se produljivati za daljnja razdoblja od kojih nijedno ne smije biti dulje od pet godina za UI sustave obuhvaćene Prilogom I. i dulje od četiri godine za UI sustave obuhvaćene Prilogom III., i to na temelju ponovnog ocjenjivanja u skladu s primjenjivim postupcima ocjenjivanja sukladnosti. Svaka dopuna potvrde ostaje valjana pod uvjetom da je valjana potvrda koju dopunjuje.
3. Ja paziņotā struktūra konstatē, ka MI sistēma vairs neatbilst 2. iedaļā noteiktajām prasībām, tā, ņemot vērā samērīguma principu, aptur vai atsauc izdoto sertifikātu vai uzliek tam ierobežojumus, ja vien atbilstība šīm prasībām nav nodrošināta ar pienācīgu korektīvu darbību, ko sistēmas nodrošinātājs veic paziņotās struktūras noteiktajā termiņā. Paziņotā struktūra savu lēmumu pamato.
3. Ako prijavljeno tijelo ustanovi da UI sustav više ne ispunjava zahtjeve utvrđene u odjeljku 2., to prijavljeno tijelo, uzimajući u obzir načelo proporcionalnosti, suspendira ili povlači izdanu potvrdu ili uvodi ograničenja za nju, osim ako se primjerenim korektivnim mjerama koje dobavljač sustava poduzme u primjerenom roku koji je utvrdilo prijavljeno tijelo osigura usklađenost UI sustava s tim zahtjevima. Prijavljeno tijelo daje obrazloženje za svoju odluku.
Ir pieejama paziņoto struktūru lēmumu pārsūdzēšanas procedūra, tostarp par izdotiem atbilstības sertifikātiem.
Protiv odluka prijavljenih tijela, među ostalim protiv odluka o izdanim potvrdama o sukladnosti, mora biti dostupan žalbeni postupak.
Atkāpe no atbilstības novērtēšanas procedūras
Odstupanje od postupka ocjenjivanja sukladnosti
1. Atkāpjoties no 43. panta un pēc pienācīgi pamatota pieprasījuma tirgus uzraudzības iestāde var atļaut konkrētu augsta riska MI sistēmu laišanu tirgū vai nodošanu ekspluatācijā attiecīgās dalībvalsts teritorijā ārkārtēju sabiedriskās drošības iemeslu dēļ vai personu dzīvības un veselības aizsardzības, vides aizsardzības vai svarīgu rūpniecības un infrastruktūras aktīvu aizsardzības iemeslu dēļ. Minētā atļauja ir uz ierobežotu laikposmu, kamēr tiek veiktas nepieciešamās atbilstības novērtēšanas procedūras, ņemot vērā ārkārtējos apstākļus, kas pamato atkāpi. Šīs procedūras pabeidz bez liekas kavēšanās.
1. Odstupajući od članka 43., i na propisno obrazložen zahtjev, svako tijelo za nadzor tržišta može odobriti stavljanje određenih visokorizičnih UI sustava na tržište ili u upotrebu na državnom području dotične države članice zbog iznimnih razloga koji se odnose na javnu sigurnost ili zaštitu života i zdravlja ljudi, zaštitu okoliša ili zaštitu ključne industrijske i infrastrukturne imovine. Trajanje tog odobrenja ograničeno je na razdoblje provedbe potrebnih postupaka ocjenjivanja sukladnosti, uzimajući u obzir iznimne razloge koji opravdavaju odstupanje. Ti se postupci dovršavaju bez nepotrebne odgode.
2. Pienācīgi pamatotā steidzamā situācijā ārkārtēju sabiedriskās drošības iemeslu dēļ vai konkrēta, būtiska un nenovēršama apdraudējuma fizisku personu dzīvībai vai fiziskai drošībai gadījumā tiesībaizsardzības iestādes vai civilās aizsardzības iestādes var nodot ekspluatācijā konkrētu augsta riska MI sistēmu bez 1. punktā minētās atļaujas ar noteikumu, ka šāda atļauja bez liekas kavēšanās tiek pieprasīta lietošanas laikā vai pēc tās. Ja 1. punktā minētā atļauja tiek atteikta, šādas augsta riska MI sistēmas lietošanu nekavējoties aptur un visus šādas lietošanas rezultātus un iznākumus nekavējoties atmet.
2. U propisno opravdanoj hitnoj situaciji zbog iznimnih razloga koji se odnose na javnu sigurnost ili u slučaju konkretne, znatne i izravne prijetnje životu ili tjelesnoj sigurnosti fizičkih osoba, tijela kaznenog progona ili tijela civilne zaštite mogu određeni visokorizični UI sustav staviti u upotrebu bez odobrenja iz stavka 1. pod uvjetom da se to odobrenje bez nepotrebne odgode zatraži tijekom ili nakon upotrebe. Ako je odobrenje iz stavka 1. odbijeno, upotreba visokorizičnog UI sustava smjesta se prekida te se odmah odbacuju svi rezultati i izlazni podaci proizišli iz takve upotrebe.
3. Atļauju, kas minēta 1. punktā, izsniedz tikai tad, ja tirgus uzraudzības iestāde secina, ka augsta riska MI sistēma atbilst 2. iedaļas prasībām. Par visām atļaujām, kas izsniegtas, ievērojot 1. un 2. punktu, tirgus uzraudzības iestāde nekavējoties informē Komisiju un pārējās dalībvalstis. Šis pienākums neattiecas uz sensitīviem operatīvajiem datiem saistībā ar tiesībaizsardzības iestāžu darbībām.
3. Odobrenje iz stavka 1. izdaje se samo ako tijelo za nadzor tržišta zaključi da visokorizični UI sustav ispunjava zahtjeve iz odjeljka 2. Tijelo za nadzor tržišta obavješćuje Komisiju i druge države članice o svim odobrenjima izdanima na temelju stavaka 1 i 2. Ta obveza ne obuhvaća osjetljive operativne podatke u vezi s aktivnostima tijelâ kaznenog progona.
4. Ja 15 kalendāro dienu laikā pēc 3. punktā minētās informācijas saņemšanas neviena dalībvalsts vai Komisija nav cēlusi iebildumus par atļauju, ko saskaņā ar 1. punktu izdevusi dalībvalstu tirgus uzraudzības iestāde, minēto atļauju uzskata par pamatotu.
4. Ako u roku od 15 kalendarskih dana od primitka informacija iz stavka 3. nijedna država članica ni Komisija ne podnese prigovor na odobrenje koje je izdalo tijelo za nadzor tržišta određene države članice u skladu sa stavkom 1., to se odobrenje smatra opravdanim.
5. Ja 15 kalendāro dienu laikā pēc 3. punktā minētā paziņojuma saņemšanas kāda dalībvalsts ceļ iebildumus pret citas dalībvalsts tirgus uzraudzības iestādes izdoto atļauju vai Komisija uzskata, ka atļauja ir pretrunā Savienības tiesību aktiem vai 3. punktā minētais dalībvalstu secinājums par attiecīgās sistēmas atbilstību nav pamatots, Komisija nekavējoties sāk apspriešanos ar attiecīgo dalībvalsti. Notiek apspriešanās ar attiecīgajiem operatoriem, un viņiem ir iespēja izklāstīt savu viedokli. To ņemot vērā, Komisija lemj, vai atļauja ir pamatota. Komisija savu lēmumu adresē attiecīgajai dalībvalstij un attiecīgiem operatoriem.
5. Ako u roku od 15 kalendarskih dana od primitka obavijesti iz stavka 3. određena država članica podnese prigovor na odobrenje koje je izdalo tijelo za nadzor tržišta druge države članice ili ako Komisija smatra da je to odobrenje u suprotnosti s pravom Unije ili da je zaključak država članica o usklađenosti sustava iz stavka 3. neosnovan, Komisija bez odgode započinje savjetovanje s relevantnom državom članicom. U savjetovanju sudjeluju dotični operateri i omogućuje im se da iznesu svoja stajališta. Komisija ih uzima u obzir i odlučuje je li odobrenje opravdano. Komisija svoju odluku upućuje dotičnim državama članicama i dotičnim operaterima.
6. Ja Komisija atļauju uzskata par nepamatotu, attiecīgās dalībvalsts tirgus uzraudzības iestāde to atsauc.
6. Ako Komisija odobrenje smatra neopravdanim, tijelo za nadzor tržišta dotične države članice povlači to odobrenje.
7. Augsta riska MI sistēmām, kas saistītas ar produktiem, uz kuriem attiecas I pielikuma A iedaļā minētie Savienības saskaņošanas tiesību akti, piemēro tikai minētajos Savienības saskaņošanas tiesību aktos noteiktās atkāpes no atbilstības novērtēšanas.
7. Kad je riječ o visokorizičnim UI sustavima koji su povezani s proizvodima obuhvaćenima zakonodavstvom Unije o usklađivanju navedenim u odjeljku A Priloga I., primjenjuju se samo odstupanja od ocjenjivanja sukladnosti utvrđena u tom zakonodavstvu Unije o usklađivanju.
ES atbilstības deklarācija
1. Nodrošinātājs sagatavo rakstisku, mašīnlasāmu, fiziski vai elektroniski parakstītu ES atbilstības deklarāciju katrai augsta riska MI sistēmai un glabā to valsts kompetentajām iestādēm pieejamu 10 gadus pēc augsta riska MI sistēmas laišanas tirgū vai nodošanas ekspluatācijā. ES atbilstības deklarācijā norāda tās augsta riska MI sistēmas identitāti, kurai deklarācija ir sagatavota. ES atbilstības deklarācijas kopiju pēc pieprasījuma iesniedz attiecīgajām valsts kompetentajām iestādēm.
1. Dobavljač sastavlja pisanu, strojno čitljivu EU izjavu o sukladnosti, potpisanu fizički ili elektronički, za svaki visokorizični UI sustav i drži je na raspolaganju nacionalnim nadležnim tijelima tijekom razdoblja od deset godina nakon stavljanja tog visokorizičnog UI sustava na tržište ili u upotrebu. U EU izjavi o sukladnosti navodi se za koji je visokorizični UI sustav ona sastavljena. Primjerak EU izjave o sukladnosti dostavlja se relevantnim nacionalnim nadležnim tijelima na njihov zahtjev.
2. ES atbilstības deklarācijā norāda, ka attiecīgā augsta riska MI sistēma atbilst 2. iedaļā noteiktajām prasībām. ES atbilstības deklarācijā iekļauj V pielikumā noteikto informāciju, un to tulko valodā, kura ir viegli saprotama valsts kompetentajām iestādēm dalībvalstīs, kurās attiecīgā augsta riska MI sistēma ir laista tirgū vai darīta pieejama.
2. U EU izjavi o sukladnosti navodi se da dotični visokorizični UI sustav ispunjava zahtjeve utvrđene u odjeljku 2. EU izjava o sukladnosti sadržava informacije utvrđene u Prilogu V. i prevodi se na jezik koji nacionalna nadležna tijela država članica u kojima se visokorizični UI sustav stavlja na tržište ili na raspolaganje mogu bez poteškoća razumjeti.
3. Ja uz augsta riska MI sistēmām attiecas citi Savienības saskaņošanas tiesību akti, kuriem arī vajadzīga ES atbilstības deklarācija, par visiem Savienības tiesību aktiem, kas piemērojami augsta riska MI sistēmai, sagatavo vienotu ES atbilstības deklarāciju. Deklarācijā iekļauj visu informāciju, kas vajadzīga, lai identificētu Savienības saskaņošanas tiesību aktus, uz kuriem attiecas šī deklarācija.
3. Ako visokorizični UI sustavi podliježu drugom zakonodavstvu Unije o usklađivanju kojim se također zahtijeva EU izjava o sukladnosti, sastavlja se jedinstvena EU izjava o sukladnosti koja se odnosi na svo pravo Unije koje se primjenjuje na dotični visokorizični UI sustav. Ta izjava sadržava sve informacije potrebne za identifikaciju zakonodavstva Unije o usklađivanju na koje se izjava odnosi.
4. Sagatavojot ES atbilstības deklarāciju, nodrošinātājs uzņemas atbildību par atbilstību 2. iedaļā noteiktajām prasībām. Vajadzības gadījumā nodrošinātājs ES atbilstības deklarāciju regulāri atjaunina.
4. Sastavljanjem EU izjave o sukladnosti dobavljač preuzima odgovornost za ispunjavanje zahtjeva utvrđenih u odjeljku 2. Dobavljač prema potrebi ažurira EU izjavu o sukladnosti.
5. Komisija tiek pilnvarota pieņemt deleģētos aktus saskaņā ar 97. pantu, lai atjauninātu V pielikumā noteiktās ES atbilstības deklarācijas saturu ar mērķi ieviest elementus, kas kļūst nepieciešami, ņemot vērā tehnikas attīstību.
5. Komisija je ovlaštena za donošenje delegiranih akata u skladu s člankom 97. radi izmjene Priloga V. ažuriranjem sadržaja EU izjave o sukladnosti utvrđene u tom prilogu kako bi se uveli elementi koji postanu potrebni s obzirom na tehnički napredak.
1. Uz CE zīmi attiecas vispārīgie principi, kas paredzēti Regulas (EK) Nr. 765/2008 30. pantā.
1. Za oznaku CE vrijede opća načela utvrđena u članku 30. Uredbe (EZ) br. 765/2008.
2. Digitāli nodrošinātām augsta riska MI sistēmām digitālu CE zīmi izmanto tikai tad, ja tai var viegli piekļūt, izmantojot minētās sistēmas piekļuves saskarni vai viegli pieejamu mašīnlasāmu kodu, vai citus elektroniskus līdzekļus.
2. Za visokorizične UI sustave koji se pružaju digitalno digitalna oznaka CE upotrebljava se samo ako joj se može lako pristupiti preko sučelja s kojeg se pristupa tom sustavu ili s pomoću lako dostupnog strojno čitljivog koda ili drugih elektroničkih sredstava.
3. CE zīmi augsta riska MI sistēmām uzliek tā, lai tā būtu redzama, salasāma un neizdzēšama. Ja augsta riska MI sistēmas specifikas dēļ tas nav iespējams vai netiek prasīts, zīmi uzliek uz iepakojuma vai, attiecīgā gadījumā, uz pievienotās dokumentācijas.
3. Oznaka CE stavlja se na visokorizične UI sustave tako da bude vidljiva, čitka i neizbrisiva. Ako to zbog prirode visokorizičnog UI sustava nije moguće ili nije opravdano, oznaka CE stavlja se na pakiranje ili na popratnu dokumentaciju, ovisno o slučaju.
4. Attiecīgā gadījumā CE zīmei seko tās paziņotās struktūras identifikācijas numurs, kura ir atbildīga par 43. pantā noteikto atbilstības novērtēšanas procedūru. Paziņotās struktūras identifikācijas numuru uzliek pati struktūra, vai arī pēc tās norādījumiem to uzliek nodrošinātājs vai nodrošinātāja pilnvarotais pārstāvis. Identifikācijas numuru norāda arī visos reklāmas materiālos, kuros minēts, ka augsta riska MI sistēma atbilst CE zīmes prasībām.
4. Ako je primjenjivo, uz oznaku CE navodi se identifikacijski broj prijavljenog tijela odgovornog za postupke ocjenjivanja sukladnosti iz članka 43. Identifikacijski broj prijavljenog tijela stavlja sâmo prijavljeno tijelo ili ga prema njegovim uputama stavlja dobavljač ili dobavljačev ovlašteni zastupnik. Taj identifikacijski broj navodi se i u svim promotivnim materijalima u kojima se navodi da dotični visokorizični UI sustav ispunjava zahtjeve u pogledu oznake CE.
5. Ja augsta riska MI sistēmas reglamentē arī citi Savienības tiesību akti, kas arī paredz CE zīmes uzlikšanu, CE zīme norāda, ka šī augsta riska MI sistēma atbilst arī šo citu tiesību aktu prasībām.
5. Ako visokorizični UI sustavi podliježu drugom pravu Unije kojim se također predviđa stavljanje oznake CE, na oznaci CE navodi se da visokorizični UI sustav ispunjava i zahtjeve iz tog drugog prava.
1. Pirms tiek laista tirgū vai nodota ekspluatācijā augsta riska MI sistēma, kas uzskaitīta III pielikumā, izņemot augsta riska MI sistēmas, kas minētas III pielikuma 2. punktā, nodrošinātājs vai, attiecīgā gadījumā, pilnvarotais pārstāvis reģistrējas pats un reģistrē savu sistēmu 71. pantā minētajā ES datubāzē.
1. Prije stavljanja na tržište ili u upotrebu visokorizičnog UI sustava iz Priloga III., uz izuzeće visokorizičnih UI sustava iz točke 2. Priloga III., dobavljač ili, ako je primjenjivo, ovlašteni zastupnik registrira sebe i svoj sustav u bazi podataka EU-a iz članka 71.
2. Pirms tiek laista tirgū vai nodota ekspluatācijā MI sistēma, par kuru nodrošinātājs saskaņā ar 6. panta 3. punktu ir secinājis, ka tā nav augsta riska MI sistēma, minētais nodrošinātājs vai, attiecīgā gadījumā, pilnvarotais pārstāvis reģistrējas pats un reģistrē savu sistēmu 71. pantā minētajā ES datubāzē.
2. Prije stavljanja na tržište ili u upotrebu UI sustava za koji je dobavljač zaključio da nije visokorizičan u skladu s člankom 6. stavkom 3., taj dobavljač ili, ako je primjenjivo, ovlašteni zastupnik registrira sebe i taj sustav u bazi podataka EU-a iz članka 71.
3. Pirms tiek nodota ekspluatācijā vai lietota augsta riska MI sistēma, kas uzskaitīta III pielikumā, izņemot augsta riska MI sistēmas, kas uzskaitītas III pielikuma 2. punktā, uzturētāji, kas ir publiskas iestādes, Savienības iestādes, struktūras, biroji vai aģentūras vai personas, kas rīkojas to vārdā, reģistrējas, atlasa sistēmu un reģistrē tās lietošanu 71. pantā minētajā ES datubāzē.
3. Prije stavljanja u upotrebu ili korištenja visokorizičnog UI sustava iz Priloga III., uz izuzeće visokorizičnih UI sustava iz točke 2. Priloga III., subjekti koji uvode sustav koji su tijela javne vlasti, institucije, tijela uredi ili agencije Unije ili osobe koje djeluju u njihovo ime registriraju se, odabiru sustav i registriraju njegovo korištenje u bazi podataka EU-a iz članka 71.
4. Attiecībā uz augsta riska MI sistēmām, kas minētas III pielikuma 1., 6. un 7. punktā, tiesībaizsardzības, migrācijas, patvēruma un robežkontroles jomās šā panta 1., 2. un 3. punktā minēto reģistrāciju veic ES datubāzes drošā, publiski nepieejamā sadaļā, kas minēta 71. pantā, un attiecīgi iekļauj tikai šādu informāciju, kas minēta:
4. Za visokorizične UI sustave iz točaka 1., 6. i 7. Priloga III., u području kaznenog progona, migracija, azila i upravljanja nadzorom državne granice registracija iz stavaka 1., 2. i 3. ovog članka provodi se u sigurnom dijelu baze podataka EU-a iz članka 71. koji nije javno dostupan, a uključuje samo informacije iz sljedećega, ovisno o slučaju:
a)
VIII pielikuma A iedaļas 1. līdz 10. punktā, izņemot 6., 8. un 9. punktu;
(a)
odjeljka A točaka od 1. do 10. Priloga VIII., osim točaka 6., 8. i 9.;
b)
VIII pielikuma B iedaļas 1. līdz 5. punktu un 8. un 9. punktu;
(b)
odjeljka B točaka od 1. do 5. i točaka 8. i 9. Priloga VIII.;
c)
VIII pielikuma C iedaļas 1. līdz 3. punktu;
(c)
odjeljka C točaka od 1. do 3. Priloga VIII.;
d)
IX pielikuma 1., 2., 3. un 5. punktu.
(d)
točaka 1., 2., 3. i 5. Priloga IX.
Vienīgi Komisijai un 74. panta 8. punktā minētajām valsts iestādēm ir piekļuve šā punkta pirmajā daļā uzskaitītajām attiecīgajām ES datubāzes ierobežotas piekļuves sadaļām.
Samo Komisija i nacionalna tijela iz članka 74. stavka 8. imaju pristup odgovarajućim dijelovima baze podataka EU-a kojima je pristup ograničen, a koji su navedeni u prvom podstavku ovog stavka.
5. III pielikuma 2. punktā minētās augsta riska MI sistēmas reģistrē valsts līmenī.
5. Visokorizični UI sustavi iz točke 2. Priloga III. registriraju se na nacionalnoj razini.
Dažu MI sistēmu nodrošinātāju un uzturētāju pienākums nodrošināt pārredzamību
Obveze u pogledu transparentnosti za dobavljače određenih UI sustava i subjekte koji ih uvode
1. Nodrošinātāji nodrošina, ka MI sistēmas, kas paredzētas tiešai mijiedarbībai ar fiziskām personām, projektē un izstrādā tā, lai attiecīgās fiziskās personas tiktu informētas par to, ka tās mijiedarbojas ar MI sistēmu, ja vien tas nav pašsaprotams no tādas fiziskas personas viedokļa, kura ir samērā labi informēta, vērīga un apdomīga, ņemot vērā apstākļus un lietošanas kontekstu. Šis pienākums neattiecas uz MI sistēmām, kuras ir likumiski atļautas noziedzīgu nodarījumu atklāšanai, novēršanai, izmeklēšanai vai kriminālvajāšanai, ievērojot atbilstošus trešo personu tiesību un brīvību aizsardzības pasākumus, ja vien minētās sistēmas nav pieejamas sabiedrībai ziņošanai par noziedzīgu nodarījumu.
1. Dobavljači osiguravaju da su UI sustavi koji su namijenjeni izravnoj interakciji s fizičkim osobama dizajnirani i razvijeni na takav način da se dotične fizičke osobe obavješćuje o tome da su u interakciji s UI sustavom, osim ako je to očito sa stajališta razmjerno dobro informirane, pronicljive i oprezne fizičke osobe, uzimajući u obzir okolnosti i kontekst upotrebe. Ta se obveza ne primjenjuje na UI sustave koji su zakonski odobreni za otkrivanje, sprečavanje, istragu ili kazneni progon kaznenih djela, podložno odgovarajućim zaštitnim mjerama za prava i slobode trećih strana, osim ako su ti sustavi dostupni javnosti za prijavu kaznenih djela.
2. MI sistēmu, tostarp vispārīga lietojuma MI sistēmu, kuras ģenerē sintētisku audio, attēla, video vai teksta saturu, nodrošinātāji nodrošina, ka MI sistēmas iznākumi ir mašīnlasāmā formātā un ir iespējams atklāt, ka tie ir mākslīgi ģenerēti vai manipulēti. Nodrošinātāji nodrošina, ka viņu tehniskie risinājumi ir efektīvi, sadarbspējīgi, robusti un uzticami, ciktāl tas ir tehniski iespējams, ņemot vērā dažādo satura veidu specifiku un ierobežojumus, īstenošanas izmaksas un vispāratzītos jaunākos sasniegumus, kā tas var būt atspoguļots attiecīgajos tehniskajos standartos. Šo pienākumu nepiemēro, ciktāl MI sistēma pilda palīgfunkciju standarta rediģēšanai vai būtiski nemaina uzturētāja sniegtos ievaddatus vai to semantiku, vai ja tā ir likumiski atļauta noziedzīgu nodarījumu atklāšanai, novēršanai, izmeklēšanai vai kriminālvajāšanai.
2. Dobavljači UI sustava, uključujući UI sustave opće namjene, koji generiraju sintetički audiosadržaj, slikovni sadržaj, videosadržaj ili tekstovni sadržaj osiguravaju da izlazni rezultati UI sustava budu označeni u strojno čitljivom obliku i da ih se može prepoznati kao umjetno generirane ili manipulirane. Dobavljači osiguravaju da njihova tehnička rješenja budu djelotvorna, interoperabilna, otporna i pouzdana u mjeri u kojoj je to tehnički izvedivo, uzimajući u obzir posebnosti i ograničenja različitih vrsta sadržaja, troškove provedbe i općepriznata najnovija dostignuća, što se može odražavati u relevantnim tehničkim normama. Ta se obveza ne primjenjuje ako UI sustavi obavljaju pomoćnu funkciju za standardno uređivanje ili bitno ne mijenjaju ulazne podatke koje pruža subjekt koji uvodi sustav ili njihovu semantiku, ili ako su zakonski odobreni za otkrivanje, sprečavanje, istragu ili kazneni progon kaznenih djela.
3. Emociju atpazīšanas sistēmas vai biometriskās kategorizācijas sistēmas uzturētāji informē par sistēmas darbību fiziskas personas, uz kurām tā attiecas, un personas datus apstrādā saskaņā ar, attiecīgi, Regulām (ES) 2016/679 un (ES) 2018/1725 un Direktīvu (ES) 2016/680. Šis pienākums neattiecas uz biometriskai kategorizācijai un emociju atpazīšanai izmantotām MI sistēmām, kuras ir likumiski atļautas, lai atklātu, novērstu vai izmeklētu noziedzīgus nodarījumus, ievērojot atbilstošus trešo personu tiesību un brīvību aizsardzības pasākumus un saskaņā ar Savienības tiesību aktiem.
3. Subjekti koji uvode sustav za prepoznavanje emocija ili sustav za biometrijsku kategorizaciju obavješćuju fizičke osobe koje su izložene tom sustavu o njegovu radu, a osobne podatke obrađuju u skladu s uredbama (EU) 2016/679 i (EU) 2018/1725 te Direktivom (EU) 2016/680, ovisno o slučaju. Ta se obveza ne primjenjuje na UI sustave za biometrijsku kategorizaciju i prepoznavanje emocija koji su zakonski odobreni za otkrivanje, sprečavanje ili istragu kaznenih djela, podložno odgovarajućim zaštitnim mjerama za prava i slobode trećih strana i u skladu s pravom Unije.
4. Tādas MI sistēmas uzturētāji, kura ģenerē vai manipulē attēla, audio vai video saturu, kas ir dziļviltojums, izpauž, ka saturs ir mākslīgi ģenerēts vai manipulēts. Šo pienākumu nepiemēro, ja lietošana ir likumiski atļauta noziedzīga nodarījuma atklāšanai, novēršanai, izmeklēšanai vai kriminālvajāšanai. Ja saturs ir daļa no acīmredzami mākslinieciska, radoša, satīriska, fikcionāla vai analoga darba vai programmas, šajā punktā paredzētie pārredzamības pienākumi ietver vienīgi šāda ģenerēta vai manipulēta satura esamības izpaušanu piemērotā veidā, kas netraucē izrādīt vai baudīt darbu.
4. Subjekti koji uvode UI sustav koji generira ili manipulira slikovnim sadržajem, audiosadržajem ili videosadržajem koji čini uvjerljiv krivotvoreni sadržaj (deep fake) moraju navesti da je taj sadržaj umjetno generiran ili da je njime manipulirano. Ta se obveza ne primjenjuje ako je korištenje zakonski odobreno za otkrivanje, sprečavanje, istragu ili kazneni progon kaznenih djela. Ako je sadržaj dio očigledno umjetničkog, kreativnog, satiričnog, fiktivnog ili analognog djela ili programa, obveze u pogledu transparentnosti iz ovog stavka ograničene su na otkrivanje postojanja takvog generiranog ili manipuliranog sadržaja na odgovarajući način kojim se ne ometa prikazivanje tog djela ili uživanje u njemu.
Tādas MI sistēmas uzturētāji, kura ģenerē vai manipulē tekstu, ko publicē nolūkā informēt sabiedrību par sabiedrības interešu jautājumiem, izpauž, ka teksts ir mākslīgi ģenerēts vai manipulēts. Šo pienākumu nepiemēro, ja lietošana ir likumiski atļauta noziedzīga nodarījuma atklāšanai, novēršanai, izmeklēšanai vai kriminālvajāšanai vai ja MI ģenerētu saturu ir pārskatījis cilvēks vai tam ir veikta redakcionāla kontrole un ja fiziska vai juridiska persona ir redakcionāli atbildīga par satura publikāciju.
Subjekti koji uvode UI sustav koji generira ili manipulira tekstom koji se objavljuje u svrhu informiranja javnosti o pitanjima od javnog interesa moraju navesti da je tekst umjetno generiran ili da je njime manipulirano. Ta se obveza ne primjenjuje ako je korištenje zakonski odobreno za otkrivanje, sprečavanje, istragu ili kazneni progon kaznenih djela ili ako je sadržaj generiran umjetnom inteligencijom prošao proces preispitivanja koje provodi čovjek ili uredničku kontrolu i ako fizička ili pravna osoba snosi uredničku odgovornost za objavu sadržaja.
5. Šā panta 1. līdz 4. punktā minēto informāciju attiecīgām fiziskām personām sniedz skaidrā un atšķiramā veidā, vēlākais, pirmās mijiedarbības vai eksponētības laikā. Informācija atbilst piemērojamām piekļūstamības prasībām.
5. Informacije iz stavaka od 1. do 4. dotičnim se fizičkim osobama pružaju na jasan i raspoznatljiv način najkasnije u trenutku prve interakcije ili prvog izlaganja. Te informacije moraju ispunjavati primjenjive zahtjeve u pogledu pristupačnosti.
6. Šā panta 1. līdz 4. punkts neietekmē III nodaļā noteiktās prasības un pienākumus un neskar citus Savienības vai valsts tiesību aktos noteiktus MI sistēmu uzturētāju pienākumus attiecībā uz pārredzamību.
6. Stavci od 1. do 4. ne utječu na zahtjeve i obveze iz poglavlja III. i njima se ne dovode u pitanje druge obveze u pogledu transparentnosti utvrđene u pravu Unije ili nacionalnom pravu za subjekte koji uvode UI sustave.
7. MI birojs rosina un sekmē prakses kodeksu izstrādi Savienības līmenī, lai sekmētu ar mākslīgi ģenerēta vai manipulēta satura atklāšanu un marķēšanu saistītu pienākumu efektīvu īstenošanu. Komisija var pieņemt īstenošanas aktus, lai apstiprinātu minētos prakses kodeksus saskaņā ar 56. panta 6. punktā noteikto procedūru. Ja tā uzskata, ka kodekss nav atbilstīgs, Komisija var pieņemt īstenošanas aktu, ar ko nosaka kopīgus noteikumus minēto pienākumu īstenošanai saskaņā ar pārbaudes procedūru, kas minēta 98. panta 2. punktā.
7. Ured za umjetnu inteligenciju potiče i olakšava izradu kodeksâ prakse na razini Unije kako bi se olakšala djelotvorna provedba obveza u pogledu otkrivanja i označivanja umjetno generiranog ili manipuliranog sadržaja. Komisija može donositi provedbene akte radi odobravanja tih kodeksa prakse u skladu s postupkom utvrđenim u članku 56. stavku 6. Ako smatra da kodeks nije adekvatan, Komisija može donositi provedbene akte o utvrđivanju zajedničkih pravila za provedbu tih obveza u skladu s postupkom ispitivanja utvrđenim u članku 98. stavku 2.
1. Ja vispārīga lietojuma MI modelis atbilst 51. panta 1. punkta a) apakšpunktā minētajam nosacījumam attiecīgais nodrošinātājs paziņo Komisijai nekavējoties un jebkurā gadījumā divu nedēļu laikā pēc tam, kad minētā prasība ir izpildīta vai kļūst zināms, ka tā tiks izpildīts. Minētajā paziņojumā iekļauj informāciju, kas nepieciešama, lai apliecinātu, ka attiecīgā prasība ir izpildīta. Ja Komisijai kļūst zināms par vispārīga lietojuma MI modeli, kas rada sistēmiskus riskus, par kuru tai nav paziņots, tā var nolemt to atzīt par modeli ar sistēmisku risku.
1. Ako UI model opće namjene ispunjava uvjet iz članka 51. stavka 1. točke (a), dotični dobavljač o tome obavješćuje Komisiju bez odgode, a u svakom slučaju u roku od dva tjedna nakon što je taj zahtjev ispunjen ili nakon što postane poznato da će biti ispunjen. Ta obavijest uključuje informacije potrebne kako bi se dokazalo da je dotični zahtjev ispunjen. Ako Komisija sazna za UI model opće namjene koji predstavlja sistemske rizike, a o kojem nije bila obaviještena, može ga odlučiti odrediti kao model sa sistemskim rizikom.
2. Tāda vispārīga lietojuma MI modeļa nodrošinātājs, kurš atbilst 51. panta 1. punkta a) apakšpunktā minētajiem nosacījumiem, var līdz ar paziņojumu iesniegt pietiekami pamatotus argumentus, lai apliecinātu, ka izņēmuma kārtā, lai arī tas atbilst minētajai prasībai, vispārīga lietojuma MI modelis savas konkrētās specifikas dēļ nerada sistēmiskus riskus un tādēļ nebūtu jākvalificē kā vispārīga lietojuma MI modelis ar sistēmisku risku.
2. Dobavljač UI modela opće namjene koji ispunjava uvjet iz članka 51. stavka 1. točke (a) može uz svoju obavijest dostaviti dostatno potkrijepljene argumente kako bi dokazao da UI model opće namjene iznimno, iako ispunjava navedeni zahtjev, zbog svojih specifičnih karakteristika ne predstavlja sistemske rizike i da ga stoga ne bi trebalo klasificirati kao UI model opće namjene sa sistemskim rizikom.
3. Ja Komisija secina, ka argumenti, kas iesniegti, ievērojot 2. punktu, nav pietiekami pamatoti un attiecīgais nodrošinātājs nav spējis apliecināt, ka vispārīga lietojuma MI modelis savas konkrētās specifikas dēļ nerada sistēmiskus riskus, tā noraida minētos argumentus, un vispārīga lietojuma MI modeli uzskata par vispārīga lietojuma MI modeli ar sistēmisku risku.
3. Ako Komisija zaključi da argumenti dostavljeni na temelju stavka 2. nisu dostatno potkrijepljeni i da dotični dobavljač nije dokazao da UI model opće namjene zbog svojih specifičnih karakteristika ne predstavlja sistemske rizike, ona odbacuje te argumente, a UI model opće namjene smatra se UI modelom opće namjene sa sistemskim rizikom.
4. Komisija var atzīt, ka vispārīga lietojuma MI modelis rada sistēmiskus riskus, ex officio vai pēc zinātniskās grupas kvalificēta brīdinājuma, ievērojot 90. panta 1. punkta a) apakšpunktu, balstoties uz kritērijiem, kas noteikti XIII pielikumā.
4. Komisija može UI model opće namjene odrediti kao model koji predstavlja sistemske rizike na temelju kriterija iz Priloga XIII., po službenoj dužnosti ili slijedom kvalificiranog upozorenja znanstvenog povjerenstva u skladu s člankom 90. stavkom 1. točkom (a).
Komisija tiek pilnvarota pieņemt deleģētos aktus saskaņā ar 97. pantu, lai grozītu XIII pielikumu, precizējot un atjauninot minētajā pielikumā noteiktos kritērijus.
Komisija je ovlaštena za donošenje delegiranih akata u skladu s člankom 97. radi izmjene Priloga XIII. utvrđivanjem i ažuriranjem kriterija utvrđenih u tom prilogu.
5. Pēc nodrošinātāja, kura modelis, ievērojot 4. punktu, ir atzīts par vispārīga lietojuma MI modeli ar sistēmisku risku, pamatota pieprasījuma Komisija pieprasījumu ņem vērā un var lemt atkārtoti vērtēt, vai, pamatojoties uz XIII pielikumā noteiktajiem kritērijiem, joprojām var uzskatīt, ka vispārīga lietojuma MI modelis rada sistēmiskus riskus. Šādā pieprasījumā ietver objektīvus, detalizētus un jaunus iemeslus, kas radušies pēc lēmuma par atzīšanu. Nodrošinātāji var pieprasīt atkārtotu novērtēšanu agrākais sešus mēnešus pēc lēmuma par atzīšanu. Ja Komisija pēc atkārtotās novērtēšanas nolemj saglabāt atzīšanu par vispārīga lietojuma MI modeli ar sistēmisku risku, nodrošinātāji var pieprasīt atkārtotu novērtēšanu agrākais sešus mēnešus pēc minētā lēmuma.
5. Na obrazloženi zahtjev dobavljača čiji je model u skladu sa stavkom 4. određen kao UI model opće namjene sa sistemskim rizikom, Komisija takav zahtjev uzima u obzir i može odlučiti ponovno ocijeniti može li se i dalje smatrati da UI model opće namjene predstavlja sistemske rizike na temelju kriterija iz Priloga XIII. Takav zahtjev mora sadržavati objektivne, detaljne i nove razloge koji su se pojavili nakon odluke o određivanju. Dobavljači mogu zatražiti ponovnu ocjenu najranije šest mjeseci nakon odluke o određivanju. Ako Komisija nakon ponovne ocjene odluči zadržati određivanje modela kao UI modela opće namjene sa sistemskim rizikom, dobavljači mogu zatražiti ponovno ocjenjivanje najranije šest mjeseci nakon te odluke.
6. Komisija nodrošina, ka tiek publicēts vispārīga lietojuma MI modeļu ar sistēmisku risku saraksts, un pastāvīgi atjaunina minēto sarakstu, neskarot nepieciešamību ievērot un aizsargāt intelektuālā īpašuma tiesības un konfidenciālu uzņēmējdarbības informāciju vai komercnoslēpumus saskaņā ar Savienības un valsts tiesību aktiem.
6. Komisija osigurava objavljivanje popisa UI modelâ opće namjene sa sistemskim rizikom i ažurira ga, ne dovodeći u pitanje potrebu za poštovanjem i zaštitom prava intelektualnog vlasništva i povjerljivih poslovnih informacija ili poslovnih tajni u skladu s pravom Unije i nacionalnim pravom.
Vispārīga lietojuma MI modeļu nodrošinātāju pienākumi
Obveze dobavljača UI modelâ opće namjene
1. Vispārīga lietojuma MI modeļu nodrošinātāji:
1. Dobavljači UI modelâ opće namjene:
a)
sastāda un pastāvīgi atjaunina modeļa tehnisko dokumentāciju, iekļaujot tā apmācības un testēšanas procesu un tā izvērtēšanas rezultātus, kas ietver vismaz XI pielikumā paredzēto informāciju, lai to pēc pieprasījuma iesniegtu MI birojam un valsts kompetentajām iestādēm;
(a)
izrađuju i ažuriraju tehničku dokumentaciju modela, među ostalim o postupku njegova treniranja i testiranja te rezultatima njegove evaluacije, koja sadržava barem informacije utvrđene u Prilogu XI., kako bi je na zahtjev dostavili Uredu za umjetnu inteligenciju i nacionalnim nadležnim tijelima;
b)
sastāda, pastāvīgi atjaunina un dara pieejamu informāciju un dokumentāciju MI sistēmu nodrošinātājiem, kuri ir iecerējuši integrēt konkrēto vispārīga lietojuma MI modeli savās MI sistēmās. Neskarot nepieciešamību ievērot un aizsargāt intelektuālā īpašuma tiesības un konfidenciālu uzņēmējdarbības informāciju vai komercnoslēpumus saskaņā ar Savienības un valsts tiesību aktiem, informācija un dokumentācija
(b)
izrađuju, ažuriraju i stavljaju na raspolaganje informacije i dokumentaciju dobavljačima UI sustava koji namjeravaju integrirati UI model opće namjene u svoje UI sustave. Ne dovodeći u pitanje potrebu za poštovanjem i zaštitom prava intelektualnog vlasništva i povjerljivih poslovnih informacija ili poslovnih tajni u skladu s pravom Unije i nacionalnim pravom, te informacije i dokumentacija:
i)
dod MI sistēmu nodrošinātājiem iespēju labi izprast konkrētā vispārīga lietojuma MI modeļa spējas un ierobežojumus un izpildīt savus pienākumus, ievērojot šo regulu; un
i.
omogućuju dobavljačima UI sustava da dobro razumiju sposobnosti i ograničenja UI modela opće namjene i da ispune svoje obveze na temelju ove Uredbe; i
ii)
ietver vismaz XII pielikumā izklāstītos elementus;
ii.
sadržavaju barem elemente utvrđene u Prilogu XII.;
c)
ievieš politiku, lai panāktu atbilstību Savienības tiesību aktiem autortiesību un blakustiesību jomā un jo īpaši lai identificētu un pildītu, tostarp ar modernām tehnoloģijām, tiesību rezervāciju, kas pausta, ievērojot Direktīvas (ES) 2019/790 4. panta 3. punktu;
(c)
uspostavljaju politiku usklađivanja s pravom Unije o autorskom pravu i povezanim pravima, posebno kako bi utvrdili i poštovali, među ostalim i s pomoću najsuvremenijih tehnologija, pridržaj prava izražen u skladu s člankom 4. stavkom 3. Direktive (EU) 2019/790;
d)
saskaņā ar MI biroja nodrošināto veidni sagatavo un publisko pietiekami detalizētu kopsavilkumu par vispārīga lietojuma MI modeļa apmācībā izmantoto saturu.
(d)
izrađuju i objavljuju dovoljno detaljan sažetak o sadržaju upotrijebljenom za treniranje UI modela opće namjene, prema predlošku Ureda za umjetnu inteligenciju.
2. Šā panta 1. punkta a) un b) apakšpunktā paredzētos pienākumus nepiemēro to MI modeļu nodrošinātājiem, kuri ir laisti apgrozībā ar bezmaksas un atvērtas piekļuves licenci, kura ļauj modelim piekļūt, to lietot, modificēt un izplatīt, un kuru parametri, tostarp svari, informācija par modeļa arhitektūru un informācija par modeļa lietošanu, ir darīti publiski pieejami. Šo izņēmumu nepiemēro vispārīga lietojuma MI modeļiem ar sistēmiskiem riskiem.
2. Obveze utvrđene u stavku 1. točkama (a) i (b) ne primjenjuju se na dobavljače UI modela koji se objavljuju na temelju besplatne licencije za softver otvorenog koda koja omogućuje pristup modelu te njegovu upotrebu, izmjenu i distribuciju i čiji su parametri, uključujući težinske faktore, informacije o arhitekturi modela te informacije o upotrebi modela, javno dostupni. Ta se iznimka ne primjenjuje na UI modele opće namjene sa sistemskim rizikom.
3. Vispārīga lietojuma MI modeļu nodrošinātāji savas kompetences un pilnvaru īstenošanā, ievērojot šo regulu, vajadzības gadījumā sadarbojas ar Komisiju un valsts kompetentajām iestādēm.
3. Dobavljači UI modela opće namjene prema potrebi surađuju s Komisijom i nacionalnim nadležnim tijelima u izvršavanju njihovih nadležnosti i ovlasti na temelju ove Uredbe.
4. Vispārīga lietojuma MI modeļu nodrošinātāji var paļauties uz prakses kodeksiem 56. panta nozīmē, lai apliecinātu šā panta 1. punktā noteikto pienākumu ievērošanu, līdz laikam, kamēr tiek publicēts saskaņots standarts. Atbilstība Eiropas saskaņotajiem standartiem sniedz nodrošinātājiem atbilstības prezumpciju, ciktāl minētie standarti attiecas uz minētajiem pienākumiem. Vispārīga lietojuma MI modeļu nodrošinātāji, kas neievēro apstiprinātu prakses kodeksu vai neatbilst Eiropas saskaņotajam standartam, apliecina alternatīvus pienācīgus atbilstības nodrošināšanas līdzekļus, lai saņemtu Komisijas apstiprinājumu.
4. Dobavljači UI modelâ opće namjene mogu se do objave usklađene norme osloniti na kodekse prakse u smislu članka 56. kako bi dokazali da ispunjavaju obveze utvrđene u stavku 1. ovog članka. Ispunjavanjem europskih usklađenih normi za dobavljače vrijedi pretpostavka sukladnosti u mjeri u kojoj su te obveze obuhvaćene tim normama. Dobavljači UI modelâ opće namjene koji ne poštuju odobreni kodeks prakse ili ne ispunjavaju europsku usklađenu normu moraju dokazati alternativne adekvatne načine usklađivanja kako bi ih ocijenila Komisija.
5. Lai veicinātu atbilstību XI pielikumam, jo īpaši tā 2. punkta d) un e) apakšpunktam, Komisija tiek pilnvarota pieņemt deleģētos aktus saskaņā ar 97. pantu, lai sīki izklāstītu mērījumu un aprēķinu metodiku nolūkā panākt salīdzināmu un pārbaudāmu dokumentāciju.
5. Kako bi se olakšalo usklađivanje s Prilogom XI., a posebno s njegovom točkom 2. podtočkama (d) i (e), Komisija je ovlaštena z donošenje delegiranih akata u skladu s člankom 97. kako bi detaljno opisala metodologije mjerenja i izračuna u cilju omogućavanja usporedive i provjerljive dokumentacije.
6. Komisija tiek pilnvarota pieņemt deleģētos aktus saskaņā ar 97. panta 2. punktu, lai grozītu XI un XII pielikumu, ņemot vērā tehnoloģijas attīstību.
6. Komisija je ovlaštena za donošenje delegiranih akata u skladu s člankom 97. stavkom 2. radi izmjene priloga XI. i XII. s obzirom na tehnološki razvoj.
7. Ar informāciju vai dokumentāciju, kas iegūta, ievērojot šā panta noteikumus, tostarp komercnoslēpumiem, rīkojas saskaņā ar 78. pantā noteiktajiem konfidencialitātes pienākumiem.
7. Sa svim informacijama ili dokumentacijom koji se pribave u skladu s ovim člankom, uključujući poslovne tajne, postupa se u skladu s obvezama u pogledu povjerljivosti utvrđenima u članku 78.
Vispārīga lietojuma MI modeļu nodrošinātāju pilnvarotie pārstāvji
Ovlašteni zastupnici dobavljača UI modelâ opće namjene
1. Nodrošinātāji, kas iedibināti trešās valstīs, pirms vispārīga lietojuma MI modeli dara pieejamu Savienības tirgū, ar rakstisku pilnvaru ieceļ pilnvarotu pārstāvi, kurš iedibināts Savienībā.
1. Prije stavljanja UI modelâ opće namjene na tržište Unije dobavljači s poslovnim nastanom u trećim zemljama pisanim ovlaštenjem imenuju ovlaštenog zastupnika s poslovnim nastanom Uniji.
2. Nodrošinātājs ļauj savam pilnvarotajam pārstāvim pildīt uzdevumus, kas norādīti no nodrošinātāja saņemtajā pilnvarojumā.
2. Dobavljač omogućuje svojem ovlaštenom zastupniku da obavlja zadaće navedene u ovlaštenju koje je dobio od dobavljača.
3. Pilnvarotais pārstāvis veic uzdevumus, kas norādīti no nodrošinātāja saņemtajā pilnvarojumā. Tas pēc pieprasījuma iesniedz MI birojam pilnvarojuma kopiju kādā no Savienības iestāžu oficiālajām valodām. Šīs regulas nolūkos pilnvarojums dod pilnvarotajam pārstāvim tiesības veikt šādus uzdevumus:
3. Ovlašteni zastupnik obavlja zadaće navedene u ovlaštenju koje je dobio od dobavljača. On dostavlja primjerak ovlaštenja Uredu za umjetnu inteligenciju na njegov zahtjev, na jednom od službenih jezika institucija Unije. Za potrebe ove Uredbe ovlaštenjem se ovlaštenom zastupniku daje ovlast da obavlja sljedeće zadaće:
a)
pārliecināties, ka nodrošinātājs ir sagatavojis XI pielikumā norādīto tehnisko dokumentāciju un izpildījis visus pienākumus, kas minēti 53. pantā un, attiecīgā gadījumā, 55. pantā;
(a)
provjerava je li tehnička dokumentacija iz Priloga XI. sastavljena i je li dobavljač ispunio sve obveze iz članka 53. i, ako je primjenjivo, članka 55.;
b)
glabāt MI birojam un valsts kompetentajām iestādēm pieejamu XI pielikumā norādītās tehniskās dokumentācijas kopiju 10 gadus pēc vispārīga lietojuma MI modeļa laišanas tirgū un pastāvīgi atjaunināt tā nodrošinātāja kontaktinformāciju, kurš ir iecēlis pilnvaroto pārstāvi;
(b)
drži primjerak tehničke dokumentacije iz Priloga XI. na raspolaganju Uredu za umjetnu inteligenciju i nacionalnim nadležnim tijelima tijekom razdoblja od deset godina nakon stavljanja UI modela opće namjene na tržište i čuva kontaktne podatke dobavljača koji je imenovao ovlaštenog zastupnika;
c)
pēc pamatota pieprasījuma sniegt MI birojam visu informāciju un dokumentāciju, tostarp b) apakšpunktā minēto, kura ir nepieciešama, lai apliecinātu šīs nodaļas pienākumu izpildi;
(c)
Uredu za umjetnu inteligenciju na obrazloženi zahtjev dostavlja sve informacije i dokumentaciju, uključujući one iz točke (b), koji su potrebni za dokazivanje ispunjavanja obveza iz ovog poglavlja;
d)
pēc pamatota pieprasījuma sadarboties ar MI biroju un ar kompetentajām iestādēm visās darbībās, ko tās veic saistībā ar vispārīga lietojuma MI modeli, tostarp, ja modelis ir integrēts MI sistēmās, kuras ir laistas tirgū vai nodotas ekspluatācijā Savienībā.
(d)
na obrazloženi zahtjev surađuje s Uredom za umjetnu inteligenciju i nadležnim tijelima u svim mjerama koje oni poduzimaju u vezi s UI modelom opće namjene, među ostalim onda kada je model integriran u UI sustave koji se stavljaju na tržište ili u upotrebu u Uniji.
4. Pilnvarojums ļauj MI birojam vai kompetentajām iestādēm visos jautājumos, kas saistīti ar atbilstības nodrošināšanu šai regulai, vērsties pie pilnvarotā pārstāvja, nevis pie nodrošinātāja, vai papildus nodrošinātājam.
4. Ovlaštenjem se ovlaštenog zastupnika ovlašćuje da, uz dobavljača ili umjesto dobavljaču, bude osoba kojoj se obraćaju Ured za umjetnu inteligenciju ili nadležna tijela u vezi sa svim pitanjima povezanima s osiguravanjem usklađenosti s ovom Uredbom.
5. Pilnvarotais pārstāvis izbeidz pilnvarojumu, ja tas uzskata vai tam ir pamats uzskatīt, ka nodrošinātājs rīkojas pretēji saviem pienākumiem, kas noteikti šajā regulā. Šādā gadījumā tas arī nekavējoties informē MI biroju par pilnvarojuma izbeigšanu un tās iemesliem.
5. Ovlašteni zastupnik ukida ovlaštenje ako smatra ili ima razloga smatrati da dobavljač postupa protivno svojim obvezama na temelju ove Uredbe. U tom slučaju ovlašteni zastupnik o ukidanju ovlaštenja i razlozima za ukidanje ujedno odmah obavješćuje Ured za umjetnu inteligenciju.
6. Šajā pantā paredzēto pienākumu nepiemēro to vispārīga lietojuma MI modeļu nodrošinātājiem, kuri ir laisti apgrozībā ar bezmaksas un atvērtā pirmkoda licenci, kas ļauj modelim piekļūt, to lietot, modificēt un izplatīt, un kuru parametri, tostarp svari, informācija par modeļa arhitektūru un informācija par modeļa lietošanu, ir darīti publiski pieejami, ja vien vispārīga lietojuma MI modeļi nerada sistēmiskus riskus.
6. Obveza utvrđena u ovom članku ne primjenjuje se na dobavljače UI modela opće namjene koji se objavljuju na temelju besplatne licencije otvorenog koda koja omogućuje pristup modelu te njegovu upotrebu, izmjenu i distribuciju i čiji su parametri, uključujući težinske faktore, informacije o arhitekturi modela te informacije o upotrebi modela, javno dostupni, osim ako UI modeli opće namjene predstavljaju sistemske rizike.
1. MI birojs rosina un sekmē prakses kodeksu izstrādi Savienības līmenī, lai veicinātu šīs regulas pareizu piemērošanu, ņemot vērā starptautiskās pieejas.
1. Ured za umjetnu inteligenciju potiče i olakšava izradu kodeksâ prakse na razini Unije kako bi se doprinijelo pravilnoj primjeni ove Uredbe, uzimajući u obzir međunarodne pristupe.
2. MI birojs un MI padome tiecas nodrošināt, ka prakses kodeksi aptver vismaz 53. un 55. pantā paredzētos pienākumus, tostarp šādus jautājumus:
2. Ured za umjetnu inteligenciju i Vijeće za umjetnu inteligenciju nastoje osigurati da kodeksi prakse obuhvaćaju barem obveze iz članaka 53. i 55., uključujući sljedeća pitanja:
a)
līdzekļi, ar ko nodrošināt, ka 53. panta 1. punkta a) un b) apakšpunktā minētā informācija tiek pastāvīgi atjaunināta, ņemot vērā tirgus un tehnoloģiju attīstību;
(a)
sredstva kojima se osigurava da se informacije iz članka 53. stavka 1. točaka (a) i (b) ažuriraju s obzirom na tržišni i tehnološki razvoj;
b)
pienācīga detalizācijas pakāpe kopsavilkumam par apmācībā izmantoto saturu;
(b)
odgovarajuću razinu detaljnosti sažetka o sadržaju upotrijebljenom za treniranje;
c)
sistēmisko risku veida un rakstura identifikācija Savienības līmenī, tostarp, attiecīgā gadījumā, to avotu identifikācija;
(c)
utvrđivanje vrste i prirode sistemskih rizika na razini Unije, uključujući, prema potrebi, njihove izvore;
d)
pasākumi, procedūras un kārtība sistēmisko risku novērtēšanai un pārvaldībai Savienības līmenī, tostarp to dokumentācija, kas ir samērīgi ar riskiem, apsver to smagumu un iespējamību un ņem vērā konkrētos izaicinājumus rīcībā ar minētajiem riskiem saistībā ar to, kādos veidos šādi riski varētu rasties un materializēties MI vērtības ķēdē.
(d)
mjere, postupke i modalitete za procjenu sistemskih rizika i upravljanje sistemskim rizicima na razini Unije, uključujući dokumentaciju o njima, koji su razmjerni rizicima i kojima se uzimaju u obzir ozbiljnost i vjerojatnost tih rizika te posebni izazovi uklanjanja tih rizika s obzirom na moguće načine na koje se takvi rizici mogu pojaviti i materijalizirati duž vrijednosnog lanca umjetne inteligencije.
3. MI birojs var prakses kodeksu izstrādē uzaicināt piedalīties visus vispārīga lietojuma MI modeļu nodrošinātājus, kā arī attiecīgās valstu kompetentās iestādes. Procesu var atbalstīt pilsoniskās sabiedrības organizācijas, nozare, akadēmiskās aprindas un citas ieinteresētās personas, piemēram, lejasposma nodrošinātāji un neatkarīgi eksperti.
3. Ured za umjetnu inteligenciju može pozvati sve dobavljače UI modelâ opće namjene, kao i relevantna nacionalna nadležna tijela, da sudjeluju u izradi kodeksâ prakse. Taj proces mogu poduprijeti organizacije civilnog društva, industrija, akademska zajednica i drugi relevantni dionici, poput dobavljača niže u lancu opskrbe i neovisnih stručnjaka.
4. MI birojs un MI padome tiecas nodrošināt, ka prakses kodeksos ir skaidri izklāstīti to konkrētie mērķi un ir ietvertas saistības vai pasākumi, tostarp, attiecīgā gadījumā, galvenie snieguma rādītāji, lai nodrošinātu minēto mērķu sasniegšanu un lai Savienības līmenī pienācīgi ņemtu vērā visu ieinteresēto personu, tostarp skarto personu, vajadzības un intereses.
4. Ured za umjetnu inteligenciju i Vijeće za umjetnu inteligenciju nastoje osigurati da se u kodeksima prakse jasno utvrde njihovi specifični ciljevi i da sadržavaju obveze ili mjere, prema potrebi uključujući ključne pokazatelje uspješnosti, za osiguravanje postizanja tih ciljeva, te da se u njima na odgovarajući način uzimaju u obzir potrebe i interesi svih zainteresiranih strana, među ostalim uključenih osoba, na razini Unije.
5. MI birojs tiecas nodrošināt, ka prakses kodeksu dalībnieki regulāri ziņo MI birojam par saistību īstenošanu un veiktajiem pasākumiem un to rezultātiem, tostarp, attiecīgā gadījumā, tos mērojot ar galvenajiem snieguma rādītājiem. Galvenajos snieguma rādītājos un ziņošanas saistībās atspoguļo lieluma un spēju atšķirības starp dažādiem dalībniekiem.
5. Ured za umjetnu inteligenciju nastoji osigurati da sudionici kodeksâ prakse redovito izvješćuju Ured za umjetnu inteligenciju o provedbi obveza i poduzetim mjerama te njihovim rezultatima, među ostalim u odnosu na ključne pokazatelje uspješnosti, prema potrebi. Ključni pokazatelji uspješnosti i obveze izvješćivanja moraju odražavati razlike u veličini i kapacitetu među različitim sudionicima.
6. MI birojs un MI padome regulāri uzrauga un izvērtē to, kā dalībnieki sasniedz prakses kodeksu mērķus, un to ieguldījumu šīs regulas pareizā piemērošanā. MI birojs un MI padome novērtē, vai prakses kodeksi aptver 53. un 55. pantā paredzētos pienākumus, un regulāri uzrauga un izvērtē to mērķu sasniegšanu. Tie publicē prakses kodeksu piemērotības novērtējumu.
6. Ured za umjetnu inteligenciju i Vijeće za umjetnu inteligenciju redovito prate i ocjenjuju ostvarivanje ciljeva kodeksâ prakse od strane sudionika i njihov doprinos pravilnoj primjeni ove Uredbe. Ured za umjetnu inteligenciju i Vijeće za umjetnu inteligenciju ocjenjuju obuhvaćaju li kodeksi prakse obveze iz članaka 53. i 55., te redovito prate i evaluiraju postizanje njihovih ciljeva. Objavljuju svoju ocjenu adekvatnosti kodeksâ prakse.
Komisija var ar īstenošanas aktu apstiprināt prakses kodeksu un piešķirt tam vispārēju spēkā esību Savienībā. Minēto īstenošanas aktu pieņem saskaņā ar pārbaudes procedūru, kas minēta 98. panta 2. punktā.
Komisija može provedbenim aktom odobriti kodeks prakse i učiniti ga općenito valjanim u Uniji. Taj provedbeni akt donosi se u skladu s postupkom ispitivanja iz članka 98. stavka 2.
7. MI birojs var uzaicināt visus vispārīga lietojuma MI modeļu nodrošinātājus ievērot prakses kodeksus. Attiecībā uz to vispārīga lietojuma MI modeļu nodrošinātājiem, kuri nerada sistēmiskus riskus, šāda ievērošana būtu jāattiecina vienīgi uz 53. pantā paredzētajiem pienākumiem, ja vien viņi nepārprotami nepauž interesi pievienoties pilnajam kodeksam.
7. Ured za umjetnu inteligenciju može pozvati sve dobavljače UI modelâ opće namjene da poštuju kodekse prakse. Za dobavljače UI modela opće namjene koji ne predstavljaju sistemske rizike to poštovanje može se ograničiti na obveze iz članka 53., osim ako izričito izraze interes da se pridruže cijelom kodeksu.
8. MI birojs attiecīgā gadījumā arī rosina un sekmē prakses kodeksu pārskatīšanu un pielāgošanu, jo īpaši, ņemot vērā jaunpienākušos standartus. MI birojs palīdz pieejamo standartu novērtēšanā.
8. Ured za umjetnu inteligenciju prema potrebi također potiče i olakšava preispitivanje i prilagodbu kodeksâ prakse, posebno s obzirom na nove norme. Ured za umjetnu inteligenciju pomaže u ocjenjivanju dostupnih normi.
9. Prakses kodeksi ir gatavi vēlākais līdz 2025. gada 2. maijam. MI birojs veic vajadzīgos pasākumus, tostarp uzaicina nodrošinātājus, ievērojot 7. punktu.
9. Kodeksi prakse moraju biti spremni najkasnije do 2. svibnja 2025. Ured za umjetnu inteligenciju poduzima potrebne korake, uključujući pozivanje dobavljača u skladu sa stavkom 7.
Ja līdz 2025. gada 2. augustam prakses kodeksu nevar pabeigt vai ja MI birojs pēc šā panta 6. punktā paredzētās novērtēšanas uzskata, ka tas nav piemērots, Komisija var ar īstenošanas aktiem sniegt kopīgus noteikumus 53. un 55. pantā paredzēto pienākumu, tostarp šā panta 2. punktā izklāstīto jautājumu, īstenošanai. Minētos īstenošanas aktus pieņem saskaņā ar pārbaudes procedūru, kas minēta 98. panta 2. punktā.
Ako do 2. kolovoza 2025. kodeks prakse ne može biti dovršen ili ako Ured za umjetnu inteligenciju nakon ocjenjivanja na temelju stavka 6. ovog članka smatra da kodeks prakse nije adekvatan, Komisija može provedbenim aktima propisati zajednička pravila za provedbu obveza iz članaka 53. i 55., među ostalim u pogledu pitanja iz stavka 2. ovog članka. Ti se provedbeni akti donose u skladu s postupkom ispitivanja iz članka 98. stavka 2.
MI “regulatīvās smilškastes”
Regulatorna izolirana okruženja za umjetnu inteligenciju
1. Dalībvalstis nodrošina, ka to kompetentās iestādes izveido vismaz vienu MI “regulatīvo smilškasti” valsts līmenī, kura sāk darboties līdz 2026. gada 2. augustam. Minēto “smilškasti” var arī izveidot kopīgi ar citu dalībvalstu kompetentajām iestādēm. Komisija var sniegt tehnisku atbalstu, konsultācijas un rīkus MI “regulatīvo smilškastu” izveidei un darbībai.
1. Države članice osiguravaju da njihova nadležna tijela uspostave barem jedno regulatorno izolirano okruženje za umjetnu inteligenciju na nacionalnoj razini, koje mora biti operativno do 2. kolovoza 2026. To izolirano okruženje može se uspostaviti i zajedno s nadležnim tijelima drugih država članica. Komisija može pružiti tehničku potporu, savjete i alate za uspostavu i rad regulatornih izoliranih okruženja za umjetnu inteligenciju.
Pirmajā daļā paredzēto pienākumu var pildīt arī, piedaloties esošā “smilškastē”, ciktāl tāda dalība nodrošina līdzvērtīgu valsts tvēruma līmeni dalībvalstīm, kuras piedalās.
Obveza iz prvog podstavka može se ispuniti i sudjelovanjem u postojećem izoliranom okruženju ako se tim sudjelovanjem osigurava jednakovrijedna razina nacionalne pokrivenosti za države članice sudionice.
2. Var izveidot arī papildu MI “regulatīvās smilškastes” reģionālā vai vietējā līmenī vai kopīgi ar citu dalībvalstu kompetentajām iestādēm.
2. Mogu se uspostaviti i dodatna regulatorna izolirana okruženja za umjetnu inteligenciju na regionalnoj ili lokalnoj razini ili se ona mogu uspostaviti zajedno s nadležnim tijelima drugih država članica.
3. Eiropas Datu aizsardzības uzraudzītājs arī var izveidot MI “regulatīvo smilškasti” Savienības iestādēm, struktūrām, birojiem un aģentūrām un var pildīt valstu kompetento iestāžu lomas un uzdevumus saskaņā ar šo nodaļu.
3. Europski nadzornik za zaštitu podataka također može uspostaviti regulatorno izolirano okruženje za umjetnu inteligenciju za institucije, tijela, urede i agencije Unije te može izvršavati uloge i zadaće nacionalnih nadležnih tijela u skladu s ovim poglavljem.
4. Dalībvalstis nodrošina, ka 1. un 2. punktā minētās kompetentās iestādes piešķir pietiekamus resursus, lai efektīvi un savlaicīgi panāktu atbilstību šim pantam. Attiecīgā gadījumā valsts kompetentās iestādes sadarbojas ar citām attiecīgajām iestādēm un var ļaut MI ekosistēmā iesaistīt citus dalībniekus. Šis pants neskar citas regulatīvās smilškastes, kas izveidotas saskaņā ar Savienības vai valsts tiesību aktiem. Dalībvalstis nodrošina pienācīgu sadarbības līmeni starp iestādēm, kas uzrauga minētās citas “smilškastes”, un valstu kompetentajām iestādēm.
4. Države članice osiguravaju da nadležna tijela iz stavaka 1. i 2. dodijele dostatna sredstva za djelotvorno i pravodobno usklađivanje s ovim člankom. Nacionalna nadležna tijela prema potrebi surađuju s drugim relevantnim tijelima i mogu dopustiti sudjelovanje drugih aktera iz ekosustava umjetne inteligencije. Ovaj članak ne utječe na druga regulatorna izolirana okruženja uspostavljena na temelju prava Unije ili nacionalnog prava. Države članice osiguravaju odgovarajuću razinu suradnje između tijela koja nadziru ta druga izolirana okruženja i nacionalnih nadležnih tijela.
5. Saskaņā ar 1. punktu izveidotās MI “regulatīvās smilškastes” nodrošina kontrolētu vidi, kas rosina inovāciju un sekmē inovatīvu MI sistēmu izstrādi, apmācību, testēšanu un validēšanu ierobežotu laikposmu pirms to laišanas tirgū vai nodošanas ekspluatācijā atbilstīgi konkrētam “smilškastes” plānam, par kuru vienojušies nodrošinātāji un potenciālie nodrošinātāji un kompetentā iestāde. Šādas “smilškastes” var ietvert testēšanu reālos apstākļos, ko pārrauga “smilškastē”.
5. Regulatorna izolirana okruženja za umjetnu inteligenciju uspostavljena na temelju stavka 1. pružaju kontrolirano okruženje koje potiče inovacije i olakšava razvoj, treniranje, testiranje i validaciju inovativnih UI sustava tijekom ograničenog razdoblja prije njihova stavljanja na tržište ili u upotrebu u skladu s posebnim planom izoliranog okruženja dogovorenim između dobavljača ili potencijalnih dobavljača i nadležnog tijela. Takva izolirana okruženja mogu uključivati testiranje u stvarnim uvjetima pod nadzorom u izoliranom okruženju.
6. Kompetentās iestādes attiecīgā gadījumā nodrošina norādījumus, uzraudzību un atbalstu MI “regulatīvās smilškastes” ietvaros saistībā ar risku identificēšanu, jo īpaši attiecībā uz pamattiesībām, veselību un drošību, saistībā ar testēšanu, seku mazināšanas pasākumiem un to efektivitāti attiecībā uz šajā regulā un, attiecīgā gadījumā, citos Savienības un valstu tiesību aktos paredzētajiem pienākumiem un prasībām, ko uzrauga “smilškastes” ietvaros.
6. Nadležna tijela prema potrebi pružaju smjernice, nadzor i potporu u regulatornom izoliranom okruženju za umjetnu inteligenciju radi utvrđivanja rizika, posebno za temeljna prava, zdravlje i sigurnost, te radi utvrđivanja testiranja, mjera ublažavanja i njihove djelotvornosti u odnosu na obveze i zahtjeve iz ove Uredbe i, prema potrebi, iz drugog prava Unije i nacionalnog prava čije se ispunjavanje nadzire u izoliranom okruženju.
7. Kompetentās iestādes sniedz nodrošinātājiem un potenciālajiem nodrošinātājiem, kas piedalās MI “regulatīvajā smilškastē”, norādījumus par to, ko sagaida regulatīvi, un to, kā pildīt šajā regulā noteiktās prasības un pienākumus.
7. Nadležna tijela dobavljačima i potencijalnim dobavljačima koji sudjeluju u regulatornom izoliranom okruženju za umjetnu inteligenciju pružaju smjernice o regulatornim očekivanjima i načinu ispunjavanja zahtjeva i obveza utvrđenih u ovoj Uredbi.
Pēc MI sistēmas nodrošinātāja vai potenciālā nodrošinātāja pieprasījuma kompetentā iestāde sniedz rakstisku apliecinājumu par smilškastē sekmīgi veiktajām darbībām. Kompetentā iestāde sniedz arī noslēguma ziņojumu, kurā sīki izklāsta smilškastē veiktās darbības un saistītos rezultātus, un mācīšanās rezultātus. Nodrošinātāji var izmantot šādu dokumentāciju, lai apliecinātu savu atbilstību šai regulai, izmantojot atbilstības novērtēšanas procesu vai attiecīgās tirgus uzraudzības darbības. Šajā sakarā tirgus uzraudzības iestādes un paziņotās struktūras pozitīvi ņem vērā noslēguma ziņojumus un rakstiskus pierādījumus, ko sniedz valsts kompetentās iestādes, lai saprātīgā mērā paātrinātu atbilstības novērtēšanas procedūras.
Na zahtjev dobavljača ili potencijalnog dobavljača UI sustava nadležno tijelo dostavlja pisani dokaz o aktivnostima koje su uspješno provedene u izoliranom okruženju. Nadležno tijelo dostavlja i završno izvješće koje sadržava pojedinosti o aktivnostima provedenima u izoliranom okruženju te povezanim rezultatima i ishodima učenja. Dobavljači mogu takvu dokumentaciju upotrijebiti kako bi dokazali svoju usklađenost s ovom Uredbom putem postupka ocjenjivanja sukladnosti ili relevantnih aktivnosti nadzora tržišta. U tom pogledu tijela za nadzor tržišta i prijavljena tijela pozitivno uzimaju u obzir završna izvješća i pisane dokaze koje je dostavilo nacionalno nadležno tijelo kako bi se u razumnoj mjeri ubrzali postupci ocjenjivanja sukladnosti.
8. Ievērojot 78. panta konfidencialitātes noteikumus un ar nodrošinātāja vai potenciālā nodrošinātāja piekrišanu Eiropas Komisija un MI padome ir pilnvarotas piekļūt noslēguma ziņojumiem un attiecīgā gadījumā tos ņem vērā, pildot savus šajā regulā paredzētos uzdevumus. Ja gan nodrošinātājs vai potenciālais nodrošinātājs, gan valsts kompetentā iestāde tam nepārprotami piekrīt, noslēguma ziņojumu var darīt publiski pieejamu, izmantojot šajā pantā minēto vienoto informācijas platformu.
8. Podložno odredbama o povjerljivosti iz članka 78. i uz suglasnost dobavljača ili potencijalnog dobavljača, Komisija i Vijeće za umjetnu inteligenciju ovlašteni su pristupiti završnim izvješćima te ih prema potrebi uzimaju u obzir pri izvršavanju svojih zadaća na temelju ove Uredbe. Ako se i dobavljač odnosno potencijalni dobavljač i nacionalno nadležno tijelo o tome izričito dogovore, završno izvješće može se objaviti na jedinstvenoj informacijskoj platformi iz ovog članka.
9. Ar MI “regulatīvo smilškastu” izveidi tiecas sekmēt šādu mērķu sasniegšanu:
9. Svrha uspostave regulatornih izoliranih okruženja za umjetnu inteligenciju doprinošenje je sljedećim ciljevima:
a)
uzlabot juridisko noteiktību, lai panāktu regulatīvu atbilstību šai regulai vai, attiecīgā gadījumā, citiem piemērojamiem Savienības un valsts tiesību aktiem;
(a)
unapređivanju pravne sigurnosti radi postizanja regulatorne usklađenosti s ovom Uredbom ili, prema potrebi, drugim primjenjivim pravom Unije i nacionalnim pravom;
b)
atbalstīt paraugprakses apmaiņu, izmantojot sadarbību ar iestādēm, kas iesaistītas MI “regulatīvajā smilškastē”;
(b)
podupiranju razmjene primjera najbolje prakse putem suradnje s tijelima uključenima u regulatorno izolirano okruženje za umjetnu inteligenciju;
c)
veicināt inovāciju un konkurētspēju un sekmēt MI ekosistēmas attīstību;
(c)
poticanju inovacija i konkurentnosti te olakšavanju razvoja ekosustava umjetne inteligencije;
d)
veicināt uz pierādījumiem balstītu regulatīvo mācīšanos;
(d)
doprinošenju regulatornom učenju utemeljenom na dokazima;
e)
sekmēt un paātrināt MI sistēmu piekļuvi Savienības tirgum, jo īpaši, ja tās nodrošina MVU, tostarp jaunuzņēmumi.
(e)
olakšavanju i ubrzavanju pristupa UI sustava tržištu Unije, posebno ako su njihovi dobavljači MSP-ovi, uključujući start-up poduzeća.
10. Valsts kompetentās iestādes nodrošina, ka tādā mērā, kādā inovatīvās MI sistēmas ietver personas datu apstrādi vai citādi ir tādu citu valsts iestāžu vai kompetento iestāžu uzraudzībā, kas dod vai atbalsta piekļuvi datiem, valsts datu aizsardzības iestādes un minētās citas valsts vai kompetentās iestādes ir saistītas ar MI “regulatīvās smilškastes” darbību un ir iesaistītas minēto aspektu uzraudzībā, ciktāl to paredz to attiecīgie uzdevumi un pilnvaras.
10. Nacionalna nadležna tijela osiguravaju da, ako inovativni UI sustavi obuhvaćaju obradu osobnih podataka ili su na neki drugi način obuhvaćeni nadzorom drugih nacionalnih tijela ili nadležnih tijela koja pružaju ili podržavaju pristup podacima, nacionalna tijela za zaštitu podataka i ta druga nacionalna ili nadležna tijela budu uključena u rad regulatornog izoliranog okruženja za umjetnu inteligenciju i uključena u nadzor nad tim aspektima u okviru svojih zadaća i ovlasti.
11. MI “regulatīvās smilškastes” neietekmē kompetento iestāžu, kuras uzrauga “smilškastes”, tostarp reģionālā vai vietējā līmenī, uzraudzības vai korekcijas pilnvaras. Būtiski riski veselībai un drošībai un pamattiesībām, kas konstatēti šādu MI sistēmu izstrādes un testēšanas laikā, tiek pienācīgi mazināti. Valsts kompetentās iestādes ir pilnvarotas uz laiku vai pastāvīgi apturēt testēšanas procesu vai dalību “smilškastē”, ja efektīva mazināšana nav iespējama, un par šādu lēmumu informē MI biroju. Valsts kompetentās iestādes īsteno savas uzraudzības pilnvaras attiecīgo tiesību aktu robežās un, īstenojot tiesību normas attiecībā uz konkrētu MI “regulatīvās smilškastes” projektu, izmanto savu rīcības brīvību ar mērķi atbalstīt inovāciju MI jomā Savienībā.
11. Regulatorna izolirana okruženja za umjetnu inteligenciju ne utječu na nadzorne ili korektivne ovlasti nadležnih tijela koja nadziru izolirana okruženja, među ostalim na regionalnoj ili lokalnoj razini. Ako se tijekom razvoja i testiranja takvih UI sustava uoče znatni rizici za zdravlje, sigurnost i temeljna prava, ti se rizici moraju adekvatno ublažiti. Nacionalna nadležna tijela ovlaštena su privremeno ili trajno suspendirati postupak testiranja ili sudjelovanje u izoliranom okruženju ako rizike nije moguće djelotvorno ublažiti, a o takvoj odluci obavješćuju Ured za umjetnu inteligenciju. Nacionalna nadležna tijela izvršavaju svoje nadzorne ovlasti u granicama relevantnog prava i primjenjuju svoje diskrecijske ovlasti pri provedbi pravnih odredaba u odnosu na određeni projekt u regulatornom izoliranom okruženju za umjetnu inteligenciju, s ciljem podupiranja inovacija u području umjetne inteligencije u Uniji.
12. Nodrošinātāji un potenciālie nodrošinātāji MI “regulatīvajā smilškastē” saskaņā ar piemērojamiem atbildību reglamentējošiem Savienības un valsts tiesību aktiem atbild par jebkādu kaitējumu, kas nodarīts trešām personām “smilškastē” notiekošo eksperimentu rezultātā. Tomēr, ja potenciālie nodrošinātāji ievēro konkrēto plānu un dalības noteikumus un labticīgi ievēro valsts kompetentās iestādes sniegtos norādījumus, iestādes nepiemēro administratīvus naudas sodus par šīs regulas noteikumu pārkāpumiem. Ja citas kompetentās iestādes, kas ir atbildīgas par citiem Savienības un valsts tiesību aktiem, ir bijušas aktīvi iesaistītas MI sistēmas uzraudzībā “smilškastē” un ir sniegušas norādījumus par atbilstību, attiecībā uz minētajiem tiesību aktiem administratīvos naudas sodus nepiemēro.
12. Dobavljači i potencijalni dobavljači koji sudjeluju u regulatornom izoliranom okruženju za umjetnu inteligenciju i dalje su na temelju primjenjivog prava Unije o odgovornosti i nacionalnog prava o odgovornosti odgovorni za svu štetu nanesenu trećim stranama koja je posljedica eksperimentiranja u izoliranom okruženju. Međutim, ako potencijalni dobavljači poštuju posebni plan i uvjete svojeg sudjelovanja te u dobroj vjeri slijede smjernice nacionalnog nadležnog tijela, tijela ne izriču upravne novčane kazne zbog povrede ove Uredbe. Ako su druga nadležna tijela koja su odgovorna za drugo pravo Unije i nacionalno pravo bila aktivno uključena u nadzor nad UI sustavom u izoliranom okruženju i dala smjernice u pogledu usklađivanja, ne izriču se upravne novčane kazne u vezi s tim pravom.
13. MI “regulatīvās smilškastes” izstrādā un īsteno tā, lai attiecīgā gadījumā tās sekmētu pārrobežu sadarbību starp valstu kompetentajām iestādēm.
13. Regulatorna izolirana okruženja za umjetnu inteligenciju dizajniraju se i realiziraju na takav način da se njima, ako je to relevantno, olakšava prekogranična suradnja među nacionalnim nadležnim tijelima.
14. Valsts kompetentās iestādes koordinē savas darbības un sadarbojas MI padomes satvarā.
14. Nacionalna nadležna tijela koordiniraju svoje aktivnosti i surađuju u okviru Vijeća za umjetnu inteligenciju.
15. Valsts kompetentās iestādes informē MI biroju un MI padomi par “regulatīvās smilškastes” izveidi un var lūgt tām atbalstu un norādījumus. MI birojs dara publiski pieejamu plānoto un esošo “smilškastu” sarakstu un pastāvīgi atjaunina to, lai veicinātu lielāku mijiedarbību MI “regulatīvajās smilškastēs” un pārrobežu sadarbību.
15. Nacionalna nadležna tijela obavješćuju Ured za umjetnu inteligenciju i Vijeće za umjetnu inteligenciju o uspostavi izoliranog okruženja i mogu od njih zatražiti potporu i smjernice. Ured za umjetnu inteligenciju objavljuje popis planiranih i postojećih izoliranih okruženja i ažurira ga kako bi se potaknula veća interakcija u regulatornim izoliranim okruženjima za umjetnu inteligenciju i prekogranična suradnja.
16. Valsts kompetentās iestādes iesniedz MI birojam un MI padomei ikgadējus ziņojumus, sākot no viena gada pēc MI “regulatīvās smilškastes” izveides un pēc tam katru gadu līdz tās darbības beigām un galīgajam ziņojumam. Minētajos ziņojumos sniedz informāciju par minēto “regulatīvo smilškastu” darbības gaitu un rezultātiem, ieskaitot paraugpraksi, incidentus, gūtās atziņas un ieteikumus par to struktūru un, attiecīgā gadījumā, par šīs regulas, tostarp tās deleģēto un īstenošanas aktu, piemērošanu un iespējamu pārskatīšanu un citu Savienības tiesību aktu piemērošanu, ko “smilškastes” ietvaros uzrauga kompetentās iestādes. Valstu kompetentās iestādes minētos gada ziņojumus vai to kopsavilkumus dara publiski pieejamus tiešsaistē. Komisija attiecīgā gadījumā gada ziņojumus ņem vērā, pildot savus šajā regulā paredzētos uzdevumus.
16. Nacionalna nadležna tijela podnose godišnja izvješća Uredu za umjetnu inteligenciju i Vijeću za umjetnu inteligenciju, počevši godinu dana nakon uspostave regulatornog izoliranog okruženja za umjetnu inteligenciju i svake godine nakon toga do njegove obustave, te završno izvješće. U tim se izvješćima navode informacije o napretku i rezultatima provedbe tih izoliranih okruženja, uključujući primjere najbolje prakse, incidente, stečena iskustva i preporuke o strukturi tih izoliranih okruženja te, prema potrebi, o primjeni i mogućoj reviziji ove Uredbe, uključujući njezine delegirane akte i provedbene akte, te o primjeni drugog prava Unije koju nadležna tijela nadziru u relevantnom izoliranom okruženju. Nacionalna nadležna tijela ta godišnja izvješća ili njihove sažetke stavljaju na raspolaganje javnosti na internetu. Komisija ta godišnja izvješća prema potrebi uzima u obzir pri izvršavanju svojih zadaća na temelju ove Uredbe.
17. Komisija izstrādā vienotu un specializētu saskarni, kas ietver visu attiecīgo informāciju saistībā ar MI “regulatīvajām smilškastēm”, lai ļautu ieinteresētajām personām mijiedarboties ar MI “regulatīvajām smilškastēm” un uzdot jautājumus kompetentajām iestādēm un lūgt nesaistošus norādījumus par tādu inovatīvu produktu, pakalpojumu un uzņēmējdarbības modeļu atbilstību, kuros integrētas MI tehnoloģijas, saskaņā ar 62. panta 1. punkta c) apakšpunktu. Komisija attiecīgā gadījumā proaktīvi koordinē darbības ar valsts kompetentajām iestādēm.
17. Komisija izrađuje jedinstveno, namjensko sučelje koje sadržava sve relevantne informacije povezane s izoliranim okruženjima za umjetnu inteligenciju kako bi se dionicima omogućilo da ostvare interakciju s regulatornim izoliranim okruženjima za umjetnu inteligenciju, podnesu upite nadležnim tijelima i zatraže neobvezujuće smjernice u vezi sa sukladnošću inovativnih proizvoda, usluga i poslovnih modela u koje su ugrađene tehnologije umjetne inteligencije, u skladu s člankom 62. stavkom 1. točkom (c). Komisija se prema potrebi proaktivno koordinira s nacionalnim nadležnim tijelima.