Diario Oficial
de la Unión Europea
ES
EUROOPA PARLAMENDI JA NÕUKOGU MÄÄRUS (EL) 2024/1689,
REGLAMENTO (UE) 2024/1689 DEL PARLAMENTO EUROPEO Y DEL CONSEJO
millega nähakse ette tehisintellekti käsitlevad ühtlustatud õigusnormid ning muudetakse määruseid (EÜ) nr 300/2008, (EL) nr 167/2013, (EL) nr 168/2013, (EL) 2018/858, (EL) 2018/1139 ja (EL) 2019/2144 ning direktiive 2014/90/EL, (EL) 2016/797 ja (EL) 2020/1828 (tehisintellekti käsitlev määrus)
por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) n.o 300/2008, (UE) n.o 167/2013, (UE) n.o 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial)
(Texto pertinente a efectos del EEE)
EUROOPA PARLAMENT JA EUROOPA LIIDU NÕUKOGU,
EL PARLAMENTO EUROPEO Y EL CONSEJO DE LA UNIÓN EUROPEA,
võttes arvesse Euroopa Liidu toimimise lepingut, eriti selle artikleid 16 ja 114,
Visto el Tratado de Funcionamiento de la Unión Europea, y en particular sus artículos 16 y 114,
võttes arvesse Euroopa Komisjoni ettepanekut,
Vista la propuesta de la Comisión Europea,
olles edastanud seadusandliku akti eelnõu liikmesriikide parlamentidele,
Previa transmisión del proyecto de acto legislativo a los Parlamentos nacionales,
võttes arvesse Euroopa Majandus- ja Sotsiaalkomitee arvamust (1),
Visto el dictamen del Comité Económico y Social Europeo (1),
võttes arvesse Euroopa Keskpanga arvamust (2),
Visto el dictamen del Banco Central Europeo (2),
võttes arvesse Regioonide Komitee arvamust (3),
Visto el dictamen del Comité de las Regiones (3),
toimides seadusandliku tavamenetluse kohaselt (4)
De conformidad con el procedimiento legislativo ordinario (4),
ning arvestades järgmist:
Considerando lo siguiente:
(1)
Käesoleva määruse eesmärk on parandada siseturu toimimist ühtse õigusraamistiku kehtestamisega eeskätt tehisintellektisüsteemide arendamiseks, turule laskmiseks, kasutusele võtmiseks ja kasutamiseks liidus kooskõlas liidu väärtustega, et edendada inimkeskse ja usaldusväärse tehisintellekti levikut, tagades samal ajal tervise, turvalisuse, Euroopa Liidu põhiõiguste hartas (edaspidi „põhiõiguste harta“) sätestatud põhiõiguste, sealhulgas demokraatia ja õigusriigi kõrgetasemelise kaitse ning keskkonnakaitse, kaitsta tehisintellekti süsteemide kahjuliku mõju vastu liidus, ning toetada innovatsiooni. Käesoleva määrusega tagatakse tehisintellektil põhinevate kaupade ja teenuste vaba piiriülene liikumine, takistades seega liikmesriikidel kehtestamast piiranguid tehisintellektisüsteemide arendamisele, turustamisele ja kasutamisele, välja arvatud juhul, kui see käesoleva määrusega selgesõnaliselt lubatakse.
(1)
El objetivo del presente Reglamento es mejorar el funcionamiento del mercado interior mediante el establecimiento de un marco jurídico uniforme, en particular para el desarrollo, la introducción en el mercado, la puesta en servicio y la utilización de sistemas de inteligencia artificial (en lo sucesivo, «sistemas de IA») en la Unión, de conformidad con los valores de la Unión, a fin de promover la adopción de una inteligencia artificial (IA) centrada en el ser humano y fiable, garantizando al mismo tiempo un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales de la Unión Europea (en lo sucesivo, «Carta»), incluidos la democracia, el Estado de Derecho y la protección del medio ambiente, proteger frente a los efectos perjudiciales de los sistemas de IA en la Unión, así como brindar apoyo a la innovación. El presente Reglamento garantiza la libre circulación transfronteriza de mercancías y servicios basados en la IA, con lo que impide que los Estados miembros impongan restricciones al desarrollo, la comercialización y la utilización de sistemas de IA, a menos que el presente Reglamento lo autorice expresamente.
(2)
Käesolevat määrust tuleks kohaldada kooskõlas põhiõiguste hartas sätestatud liidu väärtustega, hõlbustades füüsiliste isikute, ettevõtjate, demokraatia ja õigusriigi kaitset ning keskkonnakaitset, edendades samal ajal innovatsiooni ja tööhõivet ning viies liidu usaldusväärse tehisintellekti laialdaselt kasutuselevõtmises juhtpositsioonile.
(2)
El presente Reglamento debe aplicarse de conformidad con los valores de la Unión consagrados en la Carta, lo que facilitará la protección de las personas físicas, las empresas, la democracia, el Estado de Derecho y la protección del medio ambiente y, al mismo tiempo, impulsará la innovación y el empleo y convertirá a la Unión en líder en la adopción de una IA fiable.
(3)
Tehisintellektisüsteeme saab kergesti juurutada paljudes erinevates majandussektorites ja ühiskonna osades, sealhulgas piiriüleselt, ning need saavad kergesti levida kogu liidus. Teatavad liikmesriigid on juba uurinud võimalust võtta vastu riigisisesed õigusnormid, et tagada tehisintellekti usaldusväärsus ja ohutus ning selle arendamine ja kasutamine kooskõlas põhiõigustealaste kohustustega. Erinevad riigisisesed õigusnormid võivad tuua kaasa siseturu killustumise ja võivad vähendada tehisintellektisüsteemide arendamise, impordi või kasutamisega tegelevate operaatorite õiguskindlust. Seepärast tuleks usaldusväärse tehisintellekti saavutamiseks tagada kõikjal liidus kaitse järjekindlus ja kõrge tase ning ühtlasi hoida ära erinevusi, mis kahjustavad tehisintellektisüsteemide ja nendega seotud toodete ja teenuste vaba ringlust, innovatsiooni, juurutamist ja levikut siseturul; selleks tuleks operaatoritele kehtestada ühetaolised kohustused ja tagada kaalukate üldiste huvide ja isikute õiguste ühtne kaitse siseturul, lähtudes Euroopa Liidu toimimise lepingu (ELi toimimise leping) artiklist 114. Kuivõrd käesolev määrus sisaldab konkreetseid õigusnorme, mis puudutavad üksikisikute kaitset isikuandmete töötlemisel ja millega piiratakse tehisintellektisüsteemide kasutamist õiguskaitse eesmärgil toimuva biomeetrilise kaugtuvastamise jaoks, tehisintellektisüsteemide kasutamist õiguskaitse eesmärgil toimuva füüsiliste isikutega seotud riskihindamise jaoks ja tehisintellektisüsteemide kasutamist õiguskaitse eesmärgil toimuva biomeetrilise liigitamise jaoks, on asjakohane võtta nende konkreetsete normide puhul käesoleva määruse aluseks ELi toimimise lepingu artikkel 16. Neid konkreetseid õigusnorme ja ELi toimimise lepingu artiklile 16 tuginemist silmas pidades on asjakohane konsulteerida Euroopa Andmekaitsenõukoguga.
(3)
Los sistemas de IA pueden desplegarse con facilidad en sectores muy diversos de la economía y en muchas partes de la sociedad, también a escala transfronteriza, y circular fácilmente por toda la Unión. Algunos Estados miembros ya han estudiado adopción de normas nacionales destinadas a garantizar que la IA sea fiable y segura y se desarrolle y utilice de conformidad con las obligaciones relativas a los derechos fundamentales. La existencia de normas nacionales divergentes puede dar lugar a la fragmentación del mercado interior y reducir la seguridad jurídica de los operadores que desarrollan, importan o utilizan sistemas de IA. Por lo tanto, es preciso garantizar un nivel elevado y coherente de protección en toda la Unión para lograr una IA fiable, así como evitar las divergencias que obstaculizan la libre circulación, la innovación, el despliegue y la adopción en el mercado interior de los sistemas de IA y los productos y servicios conexos mediante el establecimiento de obligaciones uniformes para los operadores y la garantía de una protección uniforme de los fines imperiosos de interés general y de los derechos de las personas en todo el mercado interior, sobre la base del artículo 114 del Tratado de Funcionamiento de la Unión Europea (TFUE). En la medida en que el presente Reglamento contiene normas específicas para la protección de las personas en relación con el tratamiento de datos personales que restringen el uso de sistemas de IA para la identificación biométrica remota con fines de garantía del cumplimiento del Derecho, el uso de sistemas de IA para la realización de evaluaciones de riesgos de personas físicas con fines de garantía del cumplimiento del Derecho y el uso de sistemas de IA de categorización biométrica con fines de garantía del cumplimiento del Derecho, resulta adecuado basar este Reglamento, en lo que atañe a dichas normas específicas, en el artículo 16 del TFUE. A la luz de dichas normas específicas y del recurso al artículo 16 del TFUE, conviene consultar al Comité Europeo de Protección de Datos.
(4)
Tehisintellekt on kiiresti arenev tehnoloogiaharu, mis aitab saavutada mitmesuguseid majanduslikke, keskkondlikke ja ühiskondlikke hüvesid kõigis tööstusharudes ja ühiskondlikes tegevustes. Tänu täpsemale prognoosimisele, tegevuse ja ressursijaotuse optimeerimisele ning üksikisikutele ja organisatsioonidele kättesaadavate digilahenduste personaliseerimisele võib tehisintellekti kasutamine anda ettevõtjatele olulise konkurentsieelise ning toetada ühiskonna ja keskkonna jaoks soodsate tulemuste saavutamist näiteks sellistes valdkondades nagu tervishoid, põllumajandus, toiduohutus, haridus ja koolitus, meedia, sport, kultuur, taristuhaldus, energeetika, transport ja logistika, avalikud teenused, turvalisus, õigus, ressursi- ja energiatõhusus, keskkonnaseire, elurikkuse ja ökosüsteemide säilitamine ja taastamine ning kliimamuutuste leevendamine ja nendega kohanemine.
(4)
La IA es un conjunto de tecnologías en rápida evolución que contribuye a generar beneficios económicos, medioambientales y sociales muy diversos en todos los sectores económicos y las actividades sociales. El uso de la IA puede proporcionar ventajas competitivas esenciales a las empresas y facilitar la obtención de resultados positivos desde el punto de vista social y medioambiental en los ámbitos de la asistencia sanitaria, la agricultura, la seguridad alimentaria, la educación y la formación, los medios de comunicación, el deporte, la cultura, la gestión de infraestructuras, la energía, el transporte y la logística, los servicios públicos, la seguridad, la justicia, la eficiencia de los recursos y la energía, el seguimiento ambiental, la conservación y restauración de la biodiversidad y los ecosistemas, y la mitigación del cambio climático y la adaptación a él, entre otros, al mejorar la predicción, optimizar las operaciones y la asignación de los recursos, y personalizar las soluciones digitales que se encuentran a disposición de la población y las organizaciones.
(5)
Samas võib tehisintellekt olenevalt konkreetse rakenduse asjaoludest, kasutusest ja tehnoloogilise arengu tasemest tekitada ka riske ning kahjustada avalikke huve ja liidu õigusega kaitstud põhiõigusi. Selline kahju võib olla varaline või mittevaraline, sealhulgas füüsiline, psühholoogiline, ühiskondlik või majanduslik.
(5)
Al mismo tiempo, dependiendo de las circunstancias relativas a su aplicación, utilización y nivel de desarrollo tecnológico concretos, la IA puede generar riesgos y menoscabar los intereses públicos y los derechos fundamentales que protege el Derecho de la Unión. Dicho menoscabo puede ser tangible o intangible e incluye los perjuicios físicos, psíquicos, sociales o económicos.
(6)
Võttes arvesse suurt mõju, mida tehisintellekt võib ühiskonnale avaldada, ja vajadust suurendada usaldust, on äärmiselt oluline, et tehisintellekti arendamisel ja selle õigusraamistiku väljatöötamisel järgitaks Euroopa Liidu lepingu (ELi lepingu) artiklis 2 sätestatud liidu väärtusi ning aluslepingutes ja ELi lepingu artikli 6 kohaselt põhiõiguste hartas sätestatud põhiõigusi ja -vabadusi. Tuleks seada eeltingimuseks, et tehisintellekt peab olema inimkeskne tehnoloogia. See peaks olema vahend, mis teenib inimesi ja mille lõppeesmärk on suurendada inimeste heaolu.
(6)
Dadas las importantes repercusiones que la IA puede tener en la sociedad y la necesidad de generar confianza, es fundamental que la IA y su marco reglamentario se desarrollen de conformidad con los valores de la Unión consagrados en el artículo 2 del Tratado de la Unión Europea (TUE), los derechos y libertades fundamentales consagrados en los Tratados y, de conformidad con el artículo 6 del TUE, la Carta. Como requisito previo, la IA debe ser una tecnología centrada en el ser humano. Además, debe ser una herramienta para las personas y tener por objetivo último aumentar el bienestar humano.
(7)
Selleks et tagada järjekindel ja kõrgetasemeline avalike huvide kaitse tervise, turvalisuse ja põhiõiguste vallas, tuleks suure riskiga tehisintellektisüsteemide jaoks kehtestada ühised õigusnormid. Need õigusnormid peaksid olema kooskõlas põhiõiguste hartaga, mittediskrimineerivad ja järgima liidu rahvusvahelisi kaubanduskohustusi. Samuti tuleks nende õigusnormide puhul arvesse võtta Euroopa deklaratsiooni digiõiguste ja -põhimõtete kohta digikümnendiks ja kõrgetasemelise tehisintellekti eksperdirühma suuniseid usaldusväärse tehisintellekti arendamiseks.
(7)
Conviene establecer normas comunes para los sistemas de IA de alto riesgo al objeto de garantizar un nivel elevado y coherente de protección de los intereses públicos en lo que respecta a la salud, la seguridad y los derechos fundamentales. Estas normas deben ser coherentes con la Carta, no deben ser discriminatorias y deben estar en consonancia con los compromisos de la Unión en materia de comercio internacional. También deben tener en cuenta la Declaración Europea sobre los Derechos y Principios Digitales para la Década Digital y las Directrices éticas para una IA fiable del Grupo independiente de expertos de alto nivel sobre inteligencia artificial.
(8)
Seepärast on vaja liidu õigusraamistikku, milles nähakse ette tehisintellekti käsitlevad ühtlustatud õigusnormid, et edendada siseturul tehisintellekti arendamist, kasutamist ja levikut, mille puhul oleks ühtlasi tagatud liidu õigusega tunnustatud ja kaitstud avalike huvide, näiteks tervise ja ohutuse ning põhiõiguste, sealhulgas demokraatia ja õigusriigi kõrgetasemeline kaitse ning keskkonnakaitse. Selle eesmärgi saavutamiseks tuleks kehtestada teatavate tehisintellektisüsteemide turule laskmist, kasutusele võtmist ja kasutamist reguleerivad õigusnormid, et seeläbi tagada siseturu sujuv toimimine ja võimaldada neil süsteemidel saada kasu kaupade ja teenuste vaba liikumise põhimõttest. Nimetatud normid peaksid olema põhiõiguste kaitsmisel selged ja töökindlad, toetades uusi innovatiivseid lahendusi ning võimaldades avaliku ja erasektori osalejate Euroopa ökosüsteemil luua tehisintellektisüsteeme kooskõlas liidu väärtustega ja vallandades digipöörde potentsiaali kõigis liidu piirkondades. Nimetatud õigusnormide kehtestamisega, samuti meetmete võtmisega innovatsiooni toetamiseks, keskendudes eriti väikestele ja keskmise suurusega ettevõtjatele (VKEd), sealhulgas idufirmadele, toetab käesolev määrus eesmärki edendada Euroopa inimkeskset lähenemisviisi tehisintellektile ning seda, et liidul oleks turvalise, usaldusväärse ja eetilise tehisintellekti arendamises ülemaailmne juhtroll, nagu sõnastati Euroopa Ülemkogul, (5) ning samas aitab see tagada eetiliste põhimõtete kaitse, mida on eraldi nõudnud Euroopa Parlament (6).
(8)
En consecuencia, se necesita un marco jurídico de la Unión que establezca unas normas armonizadas en materia de IA para impulsar el desarrollo, la utilización y la adopción en el mercado interior de la IA y que, al mismo tiempo, ofrezca un nivel elevado de protección de los intereses públicos, como la salud y la seguridad y la protección de los derechos fundamentales, incluidos la democracia, el Estado de Derecho y la protección del medio ambiente, reconocidos y protegidos por el Derecho de la Unión. Para alcanzar dicho objetivo, conviene establecer normas que regulen la introducción en el mercado, la puesta en servicio y la utilización de determinados sistemas de IA, lo que garantizará el buen funcionamiento del mercado interior y permitirá que dichos sistemas se beneficien del principio de libre circulación de mercancías y servicios. Esas normas deben ser claras y firmes por lo que respecta a proteger los derechos fundamentales, apoyar nuevas soluciones innovadoras, posibilitar un ecosistema europeo de agentes públicos y privados que creen sistemas de IA en consonancia con los valores de la Unión y liberar el potencial de la transformación digital en todas las regiones de la Unión. Al establecer tales normas, así como medidas en apoyo de la innovación que prestan especial atención a las pequeñas y medianas empresas (pymes), incluidas las empresas emergentes, el presente Reglamento respalda el objetivo de promover el enfoque europeo de la IA centrado en el ser humano y de ser un líder mundial en el desarrollo de IA segura, digna de confianza y ética, como indicó el Consejo Europeo (5), y garantiza la protección de los principios éticos, como solicitó específicamente el Parlamento Europeo (6).
(9)
Suure riskiga tehisintellektisüsteemide turule laskmise, kasutusele võtmise ja kasutamise suhtes kohaldatavad ühtlustatud õigusnormid tuleks kehtestada kooskõlas Euroopa Parlamendi ja nõukogu määrusega (EÜ) nr 765/2008, (7) Euroopa Parlamendi ja nõukogu otsusega nr 768/2008/EÜ (8) ning Euroopa Parlamendi ja nõukogu määrusega (EL) 2019/1020 (9) (edaspidi „uus õigusraamistik“). Käesolevas määruses sätestatud ühtlustatud õigusnorme tuleks kohaldada kõigis sektorites ning kooskõlas uue õigusraamistikuga ei tohiks need piirata kehtivat liidu õigust, eeskätt andmekaitset, tarbijakaitset, põhiõigusi, tööhõivet ja töötajate kaitset ning tooteohutust käsitlevaid õigusakte, mida käesolev määrus täiendab. Sellest tulenevalt jäävad muutumatuks ja täielikult kohaldatavaks kõik õigused ja õiguskaitsevahendid, mis on liidu õiguses ette nähtud tarbijatele ja muudele isikutele, keda tehisintellektisüsteemid võivad negatiivselt mõjutada, sealhulgas seoses võimaliku kahju hüvitamisega vastavalt nõukogu direktiivile 85/374/EMÜ (10). Lisaks ei tohiks käesolev määrus tööhõive ja töötajate kaitse kontekstis mõjutada sotsiaalpoliitikat käsitlevat liidu õigust ega liidu õigusega kooskõlas olevat riigisisest tööõigust, mis käsitleb tööhõivet ja töötingimusi, sealhulgas töötervishoidu ja -ohutust ning tööandjate ja töötajate vahelisi suhteid. Käesolev määrus ei tohiks samuti mõjutada liikmesriikides ja liidu tasandil tunnustatud põhiõiguste, sealhulgas streigiõiguse või -vabaduse teostamist või õigust või vabadust võtta muid liikmesriikide töösuhete erisüsteemidega hõlmatud meetmeid, samuti õigust pidada läbirääkimisi kollektiivlepingute üle, neid sõlmida ja jõustada või kollektiivselt tegutseda kooskõlas riigisisese õigusega. Käesolev määrus ei tohiks mõjutada sätteid, mille eesmärk on parandada platvormitöö tingimusi, mis on sätestatud Euroopa Parlamendi ja nõukogu direktiivis platvormitöö tingimuste parandamise kohta. Lisaks sellele on käesoleva määruse eesmärk tugevdada nimetatud kehtivate õiguste ja õiguskaitsevahendite tõhusust, kehtestades konkreetsed nõuded ja kohustused, sealhulgas seoses tehisintellektisüsteemide läbipaistvuse, tehnilise dokumentatsiooni ja andmete säilitamisega. Samuti ei tohiks käesoleva määruse alusel tehisintellekti väärtusahelas osalevatele eri operaatoritele pandud kohustuste kohaldamine mõjutada liidu õigusega kooskõlas olevate teatavate tehisintellektisüsteemide kasutamist piiravate riigisiseste õigusaktide kohaldamist, kui sellised õigusaktid jäävad käesoleva määruse kohaldamisalast välja või kui nendega taotletakse muid õiguspäraseid avaliku huvi eesmärke kui need, mida taotletakse käesoleva määrusega. Näiteks ei tohiks käesolev määrus mõjutada riigisisest tööõigust ja alaealiste, nimelt alla 18-aastaste isikute kaitset käsitlevaid õigusakte, võttes arvesse ÜRO lapse õiguste komitee üldist märkust nr 25 (2021) laste õiguste kohta seoses digikeskkonnaga, niivõrd, kuivõrd need ei ole tehisintellektisüsteemidele eriomased ja taotlevad muid õiguspäraseid avaliku huvi eesmärke.
(9)
Deben establecerse normas armonizadas aplicables a la introducción en el mercado, la puesta en servicio y la utilización de sistemas de IA de alto riesgo en consonancia con el Reglamento (CE) n.o 765/2008 del Parlamento Europeo y del Consejo (7), la Decisión n.o 768/2008/CE del Parlamento Europeo y del Consejo (8) y el Reglamento (UE) 2019/1020 del Parlamento Europeo y del Consejo (9) (en lo sucesivo, «nuevo marco legislativo»). Las normas armonizadas que se establecen en el presente Reglamento deben aplicarse en todos los sectores y, en consonancia con el nuevo marco legislativo, deben entenderse sin perjuicio del Derecho vigente de la Unión, en particular en materia de protección de datos, protección de los consumidores, derechos fundamentales, empleo, protección de los trabajadores y seguridad de los productos, al que complementa el presente Reglamento. En consecuencia, permanecen inalterados y siguen siendo plenamente aplicables todos los derechos y vías de recurso que el citado Derecho de la Unión otorga a los consumidores y demás personas que puedan verse afectados negativamente por los sistemas de IA, también en lo que respecta a la reparación de los posibles daños de conformidad con la Directiva 85/374/CEE del Consejo (10). Además, en el contexto del empleo y la protección de los trabajadores, el presente Reglamento no debe afectar, por tanto, al Derecho de la Unión en materia de política social ni al Derecho laboral nacional —de conformidad con el Derecho de la Unión— relativa a las condiciones de empleo y de trabajo, incluidas la salud y seguridad en el trabajo y la relación entre empleadores y trabajadores. El presente Reglamento tampoco debe afectar en modo alguno al ejercicio de los derechos fundamentales reconocidos en los Estados miembros y a escala de la Unión, incluidos el derecho o la libertad de huelga o de emprender otras acciones contempladas en los sistemas de relaciones laborales específicos de los Estados miembros y el derecho a negociar, concluir y hacer cumplir convenios colectivos o a llevar a cabo acciones colectivas conforme al Derecho nacional. El presente Reglamento no debe afectar a las disposiciones destinadas a mejorar las condiciones laborales en el trabajo en plataformas digitales establecidas en una Directiva del Parlamento Europeo y del Consejo relativa a la mejora de las condiciones laborales en el trabajo en plataformas digitales. Además, el presente Reglamento tiene por objeto reforzar la eficacia de tales derechos y vías de recurso vigentes mediante el establecimiento de requisitos y obligaciones específicos, también en lo que respecta a la transparencia, la documentación técnica y la conservación de registros de los sistemas de IA. Asimismo, las obligaciones impuestas a los distintos operadores que participan en la cadena de valor de la IA en virtud del presente Reglamento deben aplicarse sin perjuicio del Derecho nacional que, de conformidad con el Derecho de la Unión, tenga por efecto limitar el uso de determinados sistemas de IA cuando dicho Derecho quede fuera del ámbito de aplicación del presente Reglamento o persiga objetivos legítimos de interés público distintos de los perseguidos por el presente Reglamento. Así, por ejemplo, el presente Reglamento no debe afectar al Derecho laboral nacional ni al Derecho en materia de protección de menores, a saber, de personas de menos de dieciocho años, que tienen en cuenta la Observación general n.o 25 (2021) de la Convención sobre los Derechos del Niño de las Naciones Unidas relativa a los derechos de los niños en relación con el entorno digital, en la medida en que no son específicas a los sistemas de IA y persiguen otros objetivos legítimos de interés público.
(10)
Põhiõigus isikuandmete kaitsele on tagatud eelkõige Euroopa Parlamendi ja nõukogu määrustega (EL) 2016/679 (11) ja (EL) 2018/1725 (12) ning Euroopa Parlamendi ja nõukogu direktiiviga (EL) 2016/680 (13). Euroopa Parlamendi ja nõukogu direktiiviga 2002/58/EÜ (14) kaitstakse lisaks eraelu puutumatust ja side konfidentsiaalsust, sealhulgas isikuandmete ja isikustamata andmete lõppseadmesse talletamist ja andmetele lõppseadmest juurdepääsu käsitlevate tingimuste sätestamise kaudu. Need liidu õigusaktid on aluseks kestlikule ja vastutustundlikule andmetöötlusele, sealhulgas juhtudel, kui andmestikud sisaldavad nii isikuandmeid kui ka isikustamata andmeid. Käesoleva määruse eesmärk ei ole mõjutada isikuandmete töötlemist reguleeriva kehtiva liidu õiguse kohaldamist, sealhulgas selliste sõltumatute järelevalveasutuste ülesandeid ja volitusi, kes on pädevad jälgima kõnealuste õigusaktide järgimist. Samuti ei mõjuta käesolev määrus tehisintellektisüsteemide pakkujate ja juurutajate jaoks liidu või liikmesriikide õigusest tulenevaid kohustusi, mis on seotud nende rolliga vastutava töötlejana või volitatud töötlejana ning mis käsitlevad isikuandmete kaitset, niivõrd, kuivõrd tehisintellektisüsteemide projekteerimine, arendamine või kasutamine hõlmab isikuandmete töötlemist. Samuti on asjakohane selgitada, et andmesubjektide jaoks säilivad kõik sellisest liidu õigusest tulenevad õigused ja tagatised, sealhulgas üksnes automatiseeritud üksikotsuste tegemisega (k.a profiilianalüüsiga) seotud õigused. Käesoleva määruse alusel kehtestatud tehisintellektisüsteemide turule laskmist, kasutusele võtmist ja kasutamist käsitlevad ühtlustatud õigusnormid peaksid hõlbustama andmesubjektide õiguste ja teiste liidu õiguse kohaselt isikuandmete kaitse ja muude põhiõigustega seoses tagatud õiguskaitsevahendite tulemuslikku rakendamist ning võimaldama nende kasutamist.
(10)
El derecho fundamental a la protección de los datos personales está garantizado, en particular, por los Reglamentos (UE) 2016/679 (11) y (UE) 2018/1725 (12) del Parlamento Europeo y del Consejo y la Directiva (UE) 2016/680 del Parlamento Europeo y del Consejo (13). Además, la Directiva 2002/58/CE del Parlamento Europeo y del Consejo (14) protege la vida privada y la confidencialidad de las comunicaciones, también estableciendo condiciones para cualquier almacenamiento de datos personales y no personales en los equipos terminales, y el acceso desde estos. Dichos actos legislativos de la Unión constituyen la base para un tratamiento de datos sostenible y responsable, también cuando los conjuntos de datos contengan una combinación de datos personales y no personales. El presente Reglamento no pretende afectar a la aplicación del Derecho de la Unión vigente que regula el tratamiento de datos personales, incluidas las funciones y competencias de las autoridades de supervisión independientes competentes para vigilar el cumplimiento de dichos instrumentos. Tampoco afecta a las obligaciones de los proveedores y los responsables del despliegue de sistemas de IA en su papel de responsables o encargados del tratamiento de datos derivadas del Derecho de la Unión o nacional en materia de protección de datos personales en la medida en que el diseño, el desarrollo o el uso de sistemas de IA impliquen el tratamiento de datos personales. También conviene aclarar que los interesados siguen disfrutando de todos los derechos y garantías que les confiere dicho Derecho de la Unión, incluidos los derechos relacionados con las decisiones individuales totalmente automatizadas, como la elaboración de perfiles. Unas normas armonizadas para la introducción en el mercado, la puesta en servicio y la utilización de sistemas de IA establecidas en virtud del presente Reglamento deben facilitar la aplicación efectiva y permitir el ejercicio de los derechos y otras vías de recurso de los interesados garantizados por el Derecho de la Unión en materia de protección de datos personales, así como de otros derechos fundamentales.
(11)
Käesolev määrus ei tohiks mõjutada Euroopa Parlamendi ja nõukogu määruse (EL) 2022/2065 (15) vahendajatest teenuseosutajate vastutust käsitlevate sätete kohaldamist.
(11)
El presente Reglamento debe interpretarse sin perjuicio de las disposiciones del Reglamento (UE) 2022/2065 del Parlamento Europeo y del Consejo (15) relativas a la responsabilidad de los prestadores de servicios intermediarios.
(12)
Tehisintellektisüsteemi mõiste tuleks käesolevas määruses selgelt määratleda ja see peaks olema tihedalt kooskõlas tehisintellekti valdkonnas tegutsevate rahvusvaheliste organisatsioonide tööga, et tagada õiguskindlus, hõlbustada rahvusvahelist lähenemist ja laialdast aktsepteerimist, võimaldades samal ajal paindlikkust, et võtta arvesse tehnoloogia kiiret arengut selles valdkonnas. Lisaks peaks see mõiste põhinema tehisintellektisüsteemide põhiomadustel, mis eristavad neid lihtsamatest traditsioonilistest tarkvarasüsteemidest või programmeerimisviisidest ega peaks hõlmama süsteeme, mis kasutavad toimingute automaatseks sooritamiseks üksnes füüsiliste isikute määratletud reegleid. Tehisintellektisüsteemide põhiomadus on nende võime teha järeldusi. See järelduste tegemise võime viitab protsessile, mis toodab selliseid väljundeid nagu prognoosid, sisu, soovitused või otsused, mis võivad mõjutada füüsilist ja virtuaalset keskkonda, ning tehisintellektisüsteemide võimele tuletada sisenditest või andmetest mudeleid või algoritme või mõlemaid. Meetodid, mis aitavad tehisintellektisüsteemi loomisel saavutada selle järelduste tegemise võime, hõlmavad masinõppemeetodeid, mis õpivad andmete põhjal, kuidas saavutada teatavaid eesmärke, ning loogika- ja teadmistepõhiseid lähenemisviise, mis teevad järeldusi kodeeritud teadmiste või lahendatava ülesande sümboolse esituse põhjal. Tehisintellektisüsteemi võime teha järeldusi ulatub kaugemale vaid andmete töötlemisest, võimaldades õppimist, arutlust või modelleerimist. Mõiste „masinpõhine“ viitab asjaolule, et tehisintellektisüsteemid kasutavad oma tööks masinaid. Viide otsestele või kaudsetele eesmärkidele rõhutab, et tehisintellektisüsteemid võivad toimida vastavalt selgetele määratletud eesmärkidele või kaudsetele eesmärkidele. Tehisintellektisüsteemi eesmärgid võivad teatud kontekstis erineda tehisintellektisüsteemi kasutusotstarbest. Käesoleva määruse kohaldamisel tuleks keskkondade all mõista konteksti, milles tehisintellektisüsteemid toimivad, samas kui tehisintellektisüsteemi loodud väljundid kajastavad tehisintellektisüsteemide erinevaid funktsioone ning hõlmavad prognoose, sisu, soovitusi ja otsuseid. Tehisintellektisüsteemid on projekteeritud töötama erinevatel autonoomsuse tasemetel, mis tähendab, et neil on teatav inimesest sõltumatu tegevusvabadus ja suutlikkus toimida ilma inimsekkumiseta. Kohanemisvõime, mida tehisintellektisüsteem võib pärast juurutamist demonstreerida, viitab iseõppimisvõimele, mis võimaldab süsteemil kasutamise ajal muutuda. Tehisintellektisüsteeme võib kasutada autonoomselt või mingi toote komponentidena, olenemata sellest, kas süsteem on füüsiliselt tootesse integreeritud (sisseehitatud) või teenib toote funktsionaalsust ilma, et oleks sellesse integreeritud (sisseehitamata).
(12)
Debe definirse con claridad el concepto de «sistema de IA» en el presente Reglamento y armonizarlo estrechamente con los trabajos de las organizaciones internacionales que se ocupan de la IA, a fin de garantizar la seguridad jurídica y facilitar la convergencia a escala internacional y una amplia aceptación, al mismo tiempo que se prevé la flexibilidad necesaria para dar cabida a los rápidos avances tecnológicos en este ámbito. Además, la definición debe basarse en las principales características de los sistemas de IA que los distinguen de los sistemas de software o los planteamientos de programación tradicionales y más sencillos, y no debe incluir los sistemas basados en las normas definidas únicamente por personas físicas para ejecutar automáticamente operaciones. Una característica principal de los sistemas de IA es su capacidad de inferencia. Esta capacidad de inferencia se refiere al proceso de obtención de resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que puede influir en entornos físicos y virtuales, y a la capacidad de los sistemas de IA para deducir modelos o algoritmos, o ambos, a partir de información de entrada o datos. Las técnicas que permiten la inferencia al construir un sistema de IA incluyen estrategias de aprendizaje automático que aprenden de los datos cómo alcanzar determinados objetivos y estrategias basadas en la lógica y el conocimiento que infieren a partir de conocimientos codificados o de una representación simbólica de la tarea que debe resolverse. La capacidad de inferencia de un sistema de IA trasciende el tratamiento básico de datos, al permitir el aprendizaje, el razonamiento o la modelización. El término «basado en una máquina» se refiere al hecho de que los sistemas de IA se ejecutan en máquinas.La referencia a objetivos explícitos o implícitos subraya que los sistemas de IA pueden funcionar con arreglo a objetivos definidos explícitos o a objetivos implícitos. Los objetivos del sistema de IA pueden ser diferentes de la finalidad prevista del sistema de IA en un contexto específico. A los efectos del presente Reglamento, debe entenderse por entornos los contextos en los que funcionan los sistemas de IA, mientras que los resultados de salida generados por el sistema de IA reflejan las distintas funciones desempeñadas por los sistemas de IA e incluyen predicciones, contenidos, recomendaciones o decisiones. Los sistemas de IA están diseñados para funcionar con distintos niveles de autonomía, lo que significa que pueden actuar con cierto grado de independencia con respecto a la actuación humana y tienen ciertas capacidades para funcionar sin intervención humana. La capacidad de adaptación que un sistema de IA podría mostrar tras su despliegue se refiere a las capacidades de autoaprendizaje que permiten al sistema cambiar mientras está en uso. Los sistemas de IA pueden utilizarse de manera independiente o como componentes de un producto, con independencia de si el sistema forma parte físicamente del producto (integrado) o contribuye a la funcionalidad del producto sin formar parte de él (no integrado).
(13)
Käesolevas määruses osutatud juurutaja mõistet tuleks tõlgendada kui tehisintellektisüsteemi kasutavat mis tahes füüsilist või juriidilist isikut, sealhulgas avaliku sektori asutust, ametit või muud organit, kelle volitusel süsteemi kasutatakse, välja arvatud juhul, kui tehisintellektisüsteemi kasutatakse isikliku, mitte kutselise tegevuse jaoks. Olenevalt tehisintellektisüsteemi tüübist võib süsteemi kasutamine mõjutada lisaks juurutajale ka muid isikuid.
(13)
El concepto de «responsable del despliegue» a que hace referencia el presente Reglamento debe interpretarse como cualquier persona física o jurídica, incluida cualquier autoridad pública, órgano u organismo, que utilice un sistema de IA bajo su propia autoridad, salvo cuando su uso se enmarque en una actividad personal de carácter no profesional. Dependiendo del tipo de sistema de IA, el uso del sistema puede afectar a personas distintas del responsable del despliegue.
(14)
Käesolevas määruses kasutatavat biomeetriliste andmete mõistet tuleks tõlgendada lähtudes määruse (EL) 2016/679 artikli 4 punktis 14, määruse (EL) 2018/1725 artikli 3 punktis 18 ja direktiivi (EL) 2016/680 artikli 3 punktis 13 määratletud biomeetriliste andmete mõistest. Biomeetrilised andmed võivad võimaldada füüsiliste isikute autentimist, tuvastamist või liigitamist ning füüsiliste isikute emotsioonide tuvastamist.
(14)
El concepto de «datos biométricos» empleado en el presente Reglamento debe interpretarse a la luz del concepto de «datos biométricos» tal como se define en el artículo 4, punto 14, del Reglamento (UE) 2016/679, en el artículo 3, punto 18, del Reglamento (UE) 2018/1725, y en el artículo 3, punto 13, de la Directiva (UE) 2016/680. Los datos biométricos pueden permitir la autenticación, la identificación o la categorización de las personas físicas y el reconocimiento de las emociones de las personas físicas.
(15)
Käesolevas määruses osutatud biomeetrilise tuvastamise mõiste tuleks määratleda kui inimeste füüsiliste, füsioloogiliste ja käitumuslike tunnuste, nagu nägu, silmade liikumine, kehakuju, hääl, prosoodia, kõnnak, kehahoiak, südame löögisagedus, vererõhk, lõhn, klahvivajutuste erijooned, automaatseks tuvastamiseks isiku isikusamasuse kindlakstegemise eesmärgil, võrreldes selle isiku biomeetrilisi andmeid isikute võrdlusandmebaasi salvestatud biomeetriliste andmetega, sõltumata sellest, kas isik on andnud selleks nõusoleku või mitte. See ei hõlma tehisintellektisüsteeme, mis on ette nähtud biomeetriliseks kontrolliks, kaasa arvatud autentimiseks, mille ainus eesmärk on kinnitada, et konkreetne füüsiline isik on see, kes ta väidab end olevat, ning füüsilise isiku isikusamasuse kinnitamiseks üksnes selleks, et saada juurdepääs teenusele, avada seade või saada juurdepääsuluba ruumidesse sisenemiseks.
(15)
El concepto de «identificación biométrica» a que hace referencia el presente Reglamento debe definirse como el reconocimiento automatizado de características humanas de tipo físico, fisiológico o conductual, como la cara, el movimiento ocular, la forma del cuerpo, la voz, la entonación, el modo de andar, la postura, la frecuencia cardíaca, la presión arterial, el olor o las características de las pulsaciones de tecla, a fin de determinar la identidad de una persona comparando sus datos biométricos con los datos biométricos de personas almacenados en una base de datos de referencia, independientemente de que la persona haya dado o no su consentimiento. Quedan excluidos los sistemas de IA destinados a la verificación biométrica, que comprende la autenticación, cuyo único propósito es confirmar que una persona física concreta es la persona que dice ser, así como la identidad de una persona física con la finalidad exclusiva de que tenga acceso a un servicio, desbloquee un dispositivo o tenga acceso de seguridad a un local.
(16)
Käesolevas määruses osutatud biomeetrilise liigitamise mõiste tuleks määratleda kui füüsiliste isikute jagamine teatud kategooriatesse nende biomeetriliste andmete alusel. Kõnealused konkreetsed kategooriad võivad olla seotud selliste aspektidega nagu sugu, vanus, juuksevärv, silmade värv, tätoveeringud, käitumine või isikuomadused, keel, usk, rahvusvähemusse kuulumine, seksuaalne või poliitiline sättumus. See ei hõlma biomeetrilise liigitamise süsteeme, mis on puhtalt lisafunktsioonid, mis on lahutamatult seotud teise äriteenusega, mis tähendab, et seda funktsiooni ei saa objektiivsetel tehnilistel põhjustel kasutada ilma põhiteenuseta ning selle funktsiooni või funktsioonistiku integreerimine ei ole vahend käesoleva määruse normide kohaldamisest kõrvalehoidmiseks. Sellised lisafunktsioonid võivad olla näiteks internetipõhistes kauplemiskohtades kasutatavad filtrid näojoonte või kehaehituse liigitamiseks, kuna neid saab kasutada ainult seoses põhiteenusega, mis seisneb toote müümises sellisel viisil, mis võimaldab tarbijal toote virtuaalset proovimist enda peal ja aidates selle abil tarbijal teha ostuotsust. Lisafunktsiooniks võib pidada ka veebipõhistes sotsiaalvõrgustike teenustes kasutatavaid filtreid, millega liigitatakse näojooned või kehaehitus, et võimaldada kasutajatel lisada või muuta pilte või videoid, kuna sellist filtrit ei saa kasutada ilma sotsiaalvõrgustiku teenuste põhiteenuseta, mis seisneb veebisisu jagamises.
(16)
El concepto de «categorización biométrica» a que hace referencia el presente Reglamento debe definirse como la inclusión de personas físicas en categorías específicas en función de sus datos biométricos. Estas categorías específicas pueden referirse a aspectos como el sexo, la edad, el color del pelo, el color de los ojos, los tatuajes, los rasgos conductuales o de la personalidad, la lengua, la religión, la pertenencia a una minoría nacional o la orientación sexual o política. No se incluyen los sistemas de categorización biométrica que sean una característica meramente accesoria intrínsecamente vinculada a otro servicio comercial, lo que significa que la característica no puede utilizarse, por razones técnicas objetivas, sin el servicio principal y que la integración de dicha característica o funcionalidad no es un medio para eludir la aplicabilidad de las normas del presente Reglamento. Por ejemplo, los filtros que clasifican las características faciales o corporales utilizados en los mercados en línea podrían constituir una característica accesoria de este tipo, ya que solo pueden utilizarse en relación con el servicio principal, que consiste en vender un producto permitiendo al consumidor previsualizar cómo le quedaría y ayudarlo a tomar una decisión de compra. Los filtros utilizados en los servicios de redes sociales que clasifican las características faciales o corporales a fin de que los usuarios puedan añadir o modificar imágenes o vídeos también podrían considerarse una característica accesoria, ya que dichos filtros no pueden utilizarse sin el servicio principal de las redes sociales, que consiste en compartir contenidos en línea.
(17)
Käesolevas määruses osutatud biomeetrilise kaugtuvastamise süsteemi mõiste tuleks määratleda funktsioonidest lähtuvalt kui tehisintellektisüsteem, mis on mõeldud füüsiliste isikute tuvastamiseks ilma nende aktiivse osaluseta, tavaliselt eemalt, võrreldes isiku biomeetrilisi andmeid võrdlusandmebaasis sisalduvate biomeetriliste andmetega, olenemata sellest, milliseid konkreetseid tehnoloogiaid ja protseduure või mis liiki biomeetrilisi andmeid selleks kasutatakse. Selliseid biomeetrilise kaugtuvastamise süsteeme kasutatakse tavaliselt mitme isiku või nende käitumise samaaegseks tajumiseks, et oluliselt hõlbustada füüsiliste isikute tuvastamist ilma nende aktiivse osaluseta. See ei hõlma tehisintellektisüsteeme, mis on ette nähtud biomeetriliseks kontrolliks, kaasa arvatud autentimiseks, mille ainus eesmärk on kinnitada, et konkreetne füüsiline isik on see, kes ta väidab end olevat, ning füüsilise isiku isikusamasuse kinnitamiseks üksnes selleks, et saada juurdepääs teenusele, avada seade või saada juurdepääsuluba ruumidesse sisenemiseks. Kõnealune väljajätmine on põhjendatud asjaoluga, et sellistel süsteemidel on tõenäoliselt väike mõju füüsiliste isikute põhiõigustele võrreldes selliste biomeetrilise kaugtuvastamise süsteemidega, mida võidakse kasutada suure hulga isikute biomeetriliste andmete töötlemiseks ilma nende aktiivse osaluseta. Reaalajaliste süsteemide puhul toimub nii biomeetriliste andmete hõive, võrdlemine kui ka isikutuvastus koheselt, peaaegu koheselt või igal juhul ilma märkimisväärse viivituseta. Siinjuures ei tohiks jääda võimalust hoida väikeste viivituste kasutamisega kõrvale käesoleva määruse sätetest, mis käsitlevad asjaomaste tehisintellektisüsteemide kasutamist reaalajas. Reaalajalistes süsteemides kasutatakse kaamera või muu sarnase funktsiooniga seadmega tehtud otse edastatavat või peaaegu otse edastatavat materjali, näiteks videosalvestisi. Tagantjärele kasutatavate süsteemide puhul on aga biomeetriliste andmete hõive juba toimunud ning võrdlemine ja isikutuvastus toimub alles pärast olulist viivitust. Sealjuures kasutatakse sellist materjali nagu videovalvesüsteemi või isikliku seadmega tehtud pildid või videosalvestised, mis on tehtud enne, kui süsteemi konkreetse füüsilise isiku puhul kasutatakse.
(17)
El concepto de «sistema de identificación biométrica remota» a que hace referencia el presente Reglamento debe definirse de manera funcional como un sistema de IA destinado a identificar a personas físicas sin su participación activa, generalmente a distancia, comparando sus datos biométricos con los que figuren en una base de datos de referencia, con independencia de la tecnología, los procesos o los tipos de datos biométricos concretos que se usen. Estos sistemas de identificación biométrica remota suelen utilizarse para detectar a varias personas o su comportamiento de forma simultánea, a fin de simplificar considerablemente la identificación de personas sin su participación activa. Quedan excluidos los sistemas de IA destinados a la verificación biométrica, que comprende la autenticación, cuyo único propósito es confirmar que una persona física concreta es la persona que dice ser, así como la identidad de una persona física con la finalidad exclusiva de que tenga acceso a un servicio, desbloquee un dispositivo o tenga acceso de seguridad a un local. Esa exclusión se justifica por el hecho de que tales sistemas probablemente tengan una repercusión menor en los derechos fundamentales de las personas físicas que los sistemas de identificación biométrica remota que puedan utilizarse para el tratamiento de los datos biométricos de un gran número de personas sin su participación activa. En el caso de los sistemas «en tiempo real», la recogida de los datos biométricos, la comparación y la identificación se producen de manera instantánea, casi instantánea o, en cualquier caso, sin una importante demora. En este sentido, no debe existir la posibilidad de eludir las normas contempladas en el presente Reglamento en relación con el uso «en tiempo real» de los sistemas de IA de que se trate generando demoras mínimas. Los sistemas «en tiempo real» implican el uso de materiales «en directo» o «casi en directo», como grabaciones de vídeo, generados por una cámara u otro dispositivo con funciones similares. En cambio, en los sistemas «en diferido» ya se han recabado los datos biométricos y la comparación e identificación se producen con una importante demora. A tal fin se utilizan materiales, como imágenes o grabaciones de vídeo captadas por cámaras de televisión en circuito cerrado o dispositivos privados, generados con anterioridad a la utilización del sistema en relación con las personas físicas afectadas.
(18)
Käesolevas määruses osutatud emotsioonituvastussüsteemi mõiste tuleks määratleda kui tehisintellektisüsteem, mille eesmärk on tuvastada või tuletada füüsiliste isikute emotsioone või kavatsusi nende biomeetriliste andmete põhjal. Selle mõistega viidatakse sellistele emotsioonidele või kavatsustele nagu õnnetunne, kurbus, viha, üllatus, vastikus, piinlikkus, elevus, häbi, põlgus, rahulolu ja lõbustatus. See ei hõlma füüsilisi seisundeid, nagu valu või väsimus, sealhulgas näiteks süsteeme, mida kasutatakse kutseliste pilootide või sõidukijuhtide väsimuse avastamiseks, et õnnetusi ära hoida. See ei hõlma ka pelgalt kergesti arusaadavate ilmete, žestide või liigutuste kindlakstegemist, välja arvatud juhul, kui neid kasutatakse emotsioonide tuvastamiseks või tuletamiseks. Nimetatud ilmed võivad olla tavalised näoilmed, näiteks kulmukortsutus või naeratus, või žestid, nagu käte- või pealiigutused, või isiku hääle erijooned, näiteks vali hääl või sosistamine.
(18)
El concepto de «sistema de reconocimiento de emociones» a que hace referencia el presente Reglamento debe definirse como un sistema de IA destinado a distinguir o deducir las emociones o las intenciones de las personas físicas a partir de sus datos biométricos. El concepto se refiere a emociones o intenciones como la felicidad, la tristeza, la indignación, la sorpresa, el asco, el apuro, el entusiasmo, la vergüenza, el desprecio, la satisfacción y la diversión. No incluye los estados físicos, como el dolor o el cansancio, como, por ejemplo, los sistemas utilizados para detectar el cansancio de los pilotos o conductores profesionales con el fin de evitar accidentes. Tampoco incluye la mera detección de expresiones, gestos o movimientos que resulten obvios, salvo que se utilicen para distinguir o deducir emociones. Esas expresiones pueden ser expresiones faciales básicas, como un ceño fruncido o una sonrisa; gestos como el movimiento de las manos, los brazos o la cabeza, o características de la voz de una persona, como una voz alzada o un susurro.
(19)
Käesoleva määruse kohaldamisel tuleks avalikult juurdepääsetava ruumina käsitada mis tahes füüsilist ruumi, mis on määratlemata arvu füüsiliste isikute jaoks juurdepääsetav, olenemata sellest, kas kõnealune ruum on era- või avalik-õiguslikus omandis, olenemata tegevusest, mille jaoks ruumi võidakse kasutada, nagu kaubandus, näiteks kauplused, restoranid, kohvikud; teenused, näiteks pangad, ametialane tegevus, majutus; sport, näiteks ujumisbasseinid, võimlad, staadionid; transport, näiteks bussi-, metroo- ja raudteejaamad, lennujaamad, transpordivahendid; meelelahutus, näiteks kinod, teatrid, muuseumid, kontserdi- ja konverentsisaalid; vaba aja veetmine või muu, näiteks avalikud teed ja väljakud, pargid, metsad, mänguväljakud. Ruumi tuleks liigitada ka avalikult juurdepääsetavaks, kui olenemata võimalikest mahtuvus- või turvapiirangutest sõltub juurdepääs teatud eelmääratletud tingimustest, mida saab täita määratlemata arv isikuid, näiteks pääsme või sõidupileti ostmine, eelnev registreerimine või isikute teatav vanus. Seevastu ei tohiks ruumi pidada avalikult juurdepääsetavaks, kui juurdepääs on piiratud konkreetsete ja kindlaksmääratud füüsiliste isikutega kas liidu või liikmesriigi õiguse alusel, mis on otseselt seotud avaliku turvalisuse või julgeolekuga, või ruumi suhtes asjaomaseid volitusi omava isiku selge tahteavalduse alusel. Ainuüksi juurdepääsu faktiline võimalus, näiteks lukustamata uks, avatud aiavärav, ei tähenda, et ruum on avalikult juurdepääsetav, kui on olemas vastupidisele viitavad tähised või asjaolud, näiteks juurdepääsu keelavad või piiravad märgid. Ettevõtete ja tehaste ruumid ning kontorid ja töökohad, millele on juurdepääs ainult asjaomastel töötajatel ja teenuseosutajatel, on ruumid, mis ei ole avalikult juurdepääsetavad. Avalikult juurdepääsetavate ruumide hulka ei tohiks kuuluda vanglad ega piirikontrolliala. Mõned muud ruumid võivad koosneda nii avalikult juurdepääsetavatest kui ka avalikult mitte juurdepääsetavatest ruumidest, näiteks eraomandis oleva eluhoone koridor, mille kaudu on vaja minna arstikabinetti, või lennujaam. Selle mõiste alla ei käi küberruum, sest see ei ole füüsiline ruum. See, kas konkreetne ruum on avalikult juurdepääsetav, tuleks siiski otsustada igal üksikjuhul eraldi, võttes arvesse asjaomase olukorra iseärasusi.
(19)
A los efectos del presente Reglamento, debe entenderse que el concepto de «espacio de acceso público» se refiere a cualquier espacio físico al que pueda acceder un número indeterminado de personas físicas y con independencia de si es de propiedad privada o pública y de la actividad para la que pueda utilizarse el espacio, ya sean actividades comerciales, por ejemplo, tiendas, restaurantes, cafeterías; de prestación de servicios, por ejemplo, bancos, actividades profesionales, hostelería; deportivas, por ejemplo, piscinas, gimnasios, estadios; de transporte, por ejemplo, estaciones de autobús, metro y ferrocarril, aeropuertos, medios de transporte; de entretenimiento, por ejemplo, cines, teatros, museos, salas de conciertos, salas de conferencias; de ocio o de otro tipo, por ejemplo, vías y plazas públicas, parques, bosques, parques infantiles. Asimismo, debe considerarse que un espacio es de acceso público si, con independencia de posibles restricciones de capacidad o de seguridad, el acceso está sujeto a determinadas condiciones previamente definidas que puede satisfacer un número indeterminado de personas, como la adquisición de una entrada o un título de transporte, el registro previo o tener una determinada edad. Por el contrario, un espacio no debe considerarse de acceso público si únicamente pueden acceder a él determinadas personas físicas definidas, ya sea en virtud del Derecho de la Unión o del Derecho nacional directamente relacionado con la seguridad pública o en virtud de una clara manifestación de voluntad de la persona que ejerza la autoridad pertinente sobre dicho espacio. La posibilidad real de acceso, como una puerta no cerrada con llave o una verja abierta, no implica por sí sola que el espacio sea de acceso público si hay indicios o circunstancias que sugieran lo contrario, como señales que prohíban o restrinjan el acceso. Los locales de empresas y fábricas, así como las oficinas y lugares de trabajo a los que solo se pretende que accedan los empleados y proveedores de servicios pertinentes, no son espacios de acceso público. No deben incluirse en los espacios de acceso público las prisiones ni las zonas en que se realizan inspecciones fronterizas. Algunos espacios pueden incluir tanto zonas de acceso público como zonas que no son de acceso público, como los aeropuertos o el vestíbulo de un edificio residencial privado por el que se accede a una consulta médica. Los espacios en línea no son lugares de acceso público, ya que no son espacios físicos. No obstante, se debe determinar caso por caso si un espacio es de acceso público o no teniendo en cuenta las particularidades de la situación concreta.
(20)
Selleks et saada tehisintellektisüsteemidest võimalikult suur kasu, kaitstes samal ajal põhiõigusi, tervist ja ohutust, ning võimaldada demokraatlikku kontrolli, peaks tehisintellektipädevus andma pakkujatele, juurutajatele ja mõjutatud isikutele vajalikud mõisted tehisintellektisüsteemide kohta teadlike otsuste tegemiseks. Nimetatud mõisted võivad asjaomase konteksti poolest erineda ja võivad hõlmata arusaamist tehniliste elementide nõuetekohasest kohaldamisest tehisintellektisüsteemi arendusetapis, selle kasutamisel kohaldatavaid meetmeid, sobivaid viise tehisintellektisüsteemi väljundi tõlgendamiseks ja mõjutatud isikute puhul teadmisi, mis on vajalikud, et mõista, kuidas tehisintellekti abil tehtud otsused neid mõjutavad. Käesoleva määruse kohaldamisel peaks tehisintellektipädevus andma kõigile tehisintellekti väärtusahela asjaomastele osalejatele vajalikud teadmised, et tagada määruse asjakohane järgimine ja selle korrektne jõustamine. Lisaks võib tehisintellektipädevusega seotud meetmete laialdane rakendamine ja asjakohaste järelmeetmete kehtestamine aidata parandada töötingimusi ning lõppkokkuvõttes toetada usaldusväärse tehisintellekti konsolideerimist ja innovatsiooni liidus. Euroopa tehisintellekti nõukoda (edaspidi „nõukoda“) peaks toetama komisjoni, et edendada tehisintellektipädevusega seotud vahendeid, üldsuse teadlikkust ja arusaamist tehisintellektisüsteemide kasutamisega seotud kasust, riskidest, kaitsemeetmetest, õigustest ja kohustustest. Komisjon ja liikmesriigid peaksid koostöös asjaomaste sidusrühmadega hõlbustama vabatahtlike käitumisjuhendite koostamist, et edendada tehisintellektipädevust tehisintellekti arendamise, käitamise ja kasutamisega tegelevate isikute seas.
(20)
Con el fin de obtener los mayores beneficios de los sistemas de IA, protegiendo al mismo tiempo los derechos fundamentales, la salud y la seguridad, y de posibilitar el control democrático, la alfabetización en materia de IA debe dotar a los proveedores, responsables del despliegue y personas afectadas de los conceptos necesarios para tomar decisiones con conocimiento de causa en relación con los sistemas de IA. Esos conceptos pueden variar en función del contexto pertinente e incluir el entendimiento de la correcta aplicación de los elementos técnicos durante la fase de desarrollo del sistema de IA, las medidas que deben aplicarse durante su uso, las formas adecuadas de interpretar los resultados de salida del sistema de IA y, en el caso de las personas afectadas, los conocimientos necesarios para comprender el modo en que las decisiones adoptadas con la ayuda de la IA tendrán repercusiones para ellas. En el contexto de la aplicación del presente Reglamento, la alfabetización en materia de IA debe proporcionar a todos los agentes pertinentes de la cadena de valor de la IA los conocimientos necesarios para garantizar el cumplimiento adecuado y la correcta ejecución. Además, la puesta en práctica general de medidas de alfabetización en materia de IA y la introducción de acciones de seguimiento adecuadas podrían contribuir a mejorar las condiciones de trabajo y, en última instancia, sostener la consolidación y la senda de innovación de una IA fiable en la Unión. El Consejo Europeo de Inteligencia Artificial (en lo sucesivo, «Consejo de IA») debe apoyar a la Comisión para promover las herramientas de alfabetización en materia de IA, la sensibilización pública y la comprensión de los beneficios, los riesgos, las salvaguardias, los derechos y las obligaciones en relación con el uso de sistemas de IA. En cooperación con las partes interesadas pertinentes, la Comisión y los Estados miembros deben facilitar la elaboración de códigos de conducta voluntarios para promover la alfabetización en materia de IA entre las personas que se ocupan del desarrollo, el manejo y el uso de la IA.
(21)
Selleks et tagada võrdsed tingimused ning üksikisikute õiguste ja vabaduste tõhus kaitse kogu liidus, tuleks käesoleva määrusega kehtestatud õigusnorme kohaldada tehisintellektisüsteemide pakkujate suhtes mittediskrimineerival viisil, olenemata sellest, kas nad on asutatud liidus või mõnes kolmandas riigis, ja liidus asutatud tehisintellektisüsteemide juurutajate suhtes.
(21)
Con el objetivo de garantizar la igualdad de condiciones y la protección efectiva de los derechos y libertades de las personas en toda la Unión, las normas establecidas en el presente Reglamento deben aplicarse a los proveedores de sistemas de IA sin discriminación, con independencia de si están establecidos en la Unión o en un tercer país, y a los responsables del despliegue de sistemas de IA establecidos en la Unión.
(22)
Kuna tehisintellektisüsteemid on digitaalsed, peaksid teatavad tehisintellektisüsteemid kuuluma käesoleva määruse kohaldamisalasse isegi siis, kui neid ei ole liidus turule lastud ega kasutusele võetud või kui neid liidus ei kasutata. See kehtib näiteks siis, kui liidus asutatud operaator sõlmib kolmandas riigis asutatud operaatoriga lepingu, et see osutaks teatavaid teenuseid, mis on seotud sellise tehisintellektisüsteemi teostatava tegevusega, mida peetakse suure riskiga tehisintellektisüsteemiks. Sellisel juhul võib operaatori kolmandas riigis kasutatav tehisintellektisüsteem töödelda andmeid, mis on seaduslikult liidus kogutud ja mida liidust edastatakse, ning anda liidus asuvale lepingu sõlminud operaatorile väljundi, mille see tehisintellektisüsteem kõnealuse töötlemise tulemusena genereeris, ilma et see tehisintellektisüsteem oleks liidus turule lastud, kasutusele võetud või kasutatav. Et hoida ära käesoleva määruse sätetest kõrvalehoidmist ja tagada liidus asuvate füüsiliste isikute tulemuslik kaitse, tuleks käesolevat määrust kohaldada ka tehisintellektisüsteemide kolmandas riigis asutatud pakkujate ja juurutajate suhtes niivõrd, kuivõrd nende süsteemide genereeritud väljundit kavatsetakse liidus kasutada. Võtmaks siiski arvesse olemasolevaid kokkuleppeid ja erivajadusi, mis puudutavad tulevast koostööd välispartneritega, kellega vahetatakse teavet ja tõendeid, ei tuleks käesolevat määrust kohaldada kolmanda riigi ametiasutuste ja rahvusvaheliste organisatsioonide suhtes, kui tegutsetakse koostöö või selliste rahvusvaheliste lepingute alusel, mis on liidu või riigi tasandil sõlmitud liidu või liikmesriikidega tehtava õiguskaitse- ja õigusalase koostöö kohta, tingimusel et asjaomane kolmas riik või rahvusvaheline organisatsioon pakub piisavaid kaitsemeetmeid üksikisikute põhiõiguste ja -vabaduste kaitseks. Vajaduse korral võib see hõlmata selliste üksuste tegevust, kellele kolmandad riigid on usaldanud konkreetsete ülesannete täitmise sellise õiguskaitse- ja õigusalase koostöö toetamiseks. Selliseid koostööraamistikke või lepinguid on sõlmitud kahepoolselt liikmesriikide ja kolmandate riikide vahel, aga ka Euroopa Liidu, Europoli ja muude liidu asutuste ning kolmandate riikide ja rahvusvaheliste organisatsioonide vahel. Pädevad asutused, kes vastutavad käesoleva määruse alusel õiguskaitse- ja õigusasutuste järelevalve eest, peaksid hindama, kas need koostööraamistikud või rahvusvahelised lepingud sisaldavad piisavaid kaitsemeetmeid üksikisikute põhiõiguste ja -vabaduste kaitseks. Vastuvõtvad riiklikud ametiasutused ning liidu institutsioonid, organid ja asutused, kes selliseid väljundeid liidus kasutavad, vastutavad selle tagamise eest, et väljundite kasutamine oleks kooskõlas liidu õigusega. Kui kõnealused rahvusvahelised lepingud vaadatakse läbi või sõlmitakse tulevikus uusi, peaksid lepinguosalised tegema kõik endast oleneva, et viia need lepingud vastavusse käesoleva määruse nõuetega.
(22)
Debido a su carácter digital, algunos sistemas de IA deben entrar en el ámbito de aplicación del presente Reglamento aunque no se introduzcan en el mercado, se pongan en servicio ni se utilicen en la Unión. Esto sucede, por ejemplo, cuando un operador establecido en la Unión firma con un operador establecido en un tercer país un contrato para la prestación de determinados servicios en relación con una actividad que llevará a cabo un sistema de IA que se consideraría de alto riesgo. En dichas circunstancias, el sistema de IA usado en un tercer país por el operador podría tratar datos recabados lícitamente en la Unión y transferidos desde su territorio, y proporcionar al operador contratante ubicado en la Unión los resultados de salida generados por dicho sistema de IA a raíz de este tratamiento sin que el sistema de IA de que se trate se introduzca en el mercado, se ponga en servicio o se utilice en la Unión. Para evitar la elusión de este Reglamento y garantizar la protección efectiva de las personas físicas ubicadas en la Unión, el presente Reglamento también debe aplicarse a los proveedores y responsables del despliegue de sistemas de IA establecidos en un tercer país, en la medida en que los resultados de salida generados por dichos sistemas estén destinados a utilizarse en la Unión. No obstante, con el objetivo de tener en cuenta los acuerdos existentes y las necesidades especiales de cooperación futura con socios extranjeros con los que se intercambian información y pruebas, el presente Reglamento no debe aplicarse a las autoridades públicas de un tercer país ni a organizaciones internacionales cuando actúen en el marco de acuerdos internacionales o de cooperación celebrados a escala nacional o de la Unión con fines de cooperación policial y judicial con la Unión o sus Estados miembros si el tercer país o la organización internacional correspondiente ofrece garantías suficientes con respecto a la protección de los derechos y libertades fundamentales de las personas. Cuando proceda, ello podrá incluir las actividades de entidades a las que los terceros países hayan encomendado tareas específicas en apoyo de dicha cooperación policial y judicial. Dichos marcos de cooperación o acuerdos se han establecido bilateralmente entre los Estados miembros y terceros países o entre la Unión Europea, Europol y otros órganos de la Unión y terceros países y organizaciones internacionales. Las autoridades competentes para la supervisión de las autoridades policiales y judiciales en virtud del presente Reglamento deben evaluar si dichos marcos de cooperación o acuerdos internacionales incluyen garantías suficientes con respecto a la protección de los derechos y libertades fundamentales de las personas. Las autoridades nacionales y las instituciones, órganos y organismos de la Unión que sean destinatarios de dichos resultados de salida y que la utilicen en la Unión siguen siendo responsables de garantizar que su utilización de la información está en consonancia con el Derecho de la Unión. Cuando, en el futuro, dichos acuerdos internacionales se revisen o se celebren otros nuevos, las partes contratantes deben hacer todo lo posible por que dichos acuerdos se ajusten a los requisitos del presente Reglamento.
(23)
Käesolevat määrust tuleks kohaldada ka liidu institutsioonide, organite ja asutuste suhtes, kui need tegutsevad tehisintellektisüsteemi pakkuja või juurutajana.
(23)
El presente Reglamento también debe aplicarse a las instituciones, órganos y organismos de la Unión cuando actúen como proveedores o responsables del despliegue de un sistema de IA.
(24)
Juhul kui ja sel määral mil tehisintellektisüsteeme lastakse turule, võetakse kasutusele või kasutatakse muudetud või muutmata kujul sõjalisel, kaitse- või riikliku julgeoleku eesmärgil, tuleks need käesoleva määruse kohaldamisalast välja jätta, olenemata sellest, mis liiki üksus neid tegevusi teostab, näiteks kas tegemist on avalik-õigusliku või eraõigusliku üksusega. Sõjalisel ja kaitse-eesmärgil on selline väljajätmine põhjendatud nii ELi lepingu artikli 4 lõikega 2 kui ka ELi lepingu V jaotise 2. peatükiga hõlmatud liikmesriikide ja ühise liidu kaitsepoliitika eripäradega, mille suhtes kohaldatakse rahvusvahelist avalikku õigust ning mis on seega sobivam õigusraamistik, et reguleerida tehisintellektisüsteeme surmava jõu kasutamise kontekstis ja muid tehisintellektisüsteeme sõjalise ja kaitsetegevuse kontekstis. Mis puudutab riigi julgeolekuga seotud eesmärke, siis on väljajätmine põhjendatud nii asjaoluga, et riigi julgeolek kuulub ELi lepingu artikli 4 lõike 2 kohaselt jätkuvalt liikmesriikide ainuvastutusse, kui ka riikliku julgeolekualase tegevuse eripära ja operatiivvajadustega ning selle tegevuse suhtes kohaldatavate konkreetsete riigisiseste õigusnormidega. Kui aga sõjalisel, kaitse- või riikliku julgeoleku eesmärgil välja töötatud, turule lastud, kasutusele võetud või kasutatavat tehisintellektisüsteemi kasutatakse ajutiselt või alaliselt muudel eesmärkidel, näiteks tsiviil- või humanitaareesmärkidel, õiguskaitse või avaliku julgeoleku eesmärgil, kuulub selline süsteem käesoleva määruse kohaldamisalasse. Sellisel juhul peaks üksus, kes kasutab tehisintellektisüsteemi muul kui sõjalisel, kaitse- või riikliku julgeoleku eesmärgil, tagama tehisintellektisüsteemi vastavuse käesolevale määrusele, välja arvatud juhul, kui süsteemi vastavus on juba tagatud. Tehisintellektisüsteemid, mis on turule lastud või kasutusele võetud määruse kohaldamisalast välja jäetud eesmärgil, nimelt sõjalisel, kaitse- või riikliku julgeoleku eesmärgil, ja ühel või mitmel määruse kohaldamisalasse kuuluval eesmärgil, näiteks tsiviileesmärgil või õiguskaitse eesmärgil, kuuluvad käesoleva määruse kohaldamisalasse ning nende süsteemide pakkujad peaksid tagama vastavuse käesolevale määrusele. Sellistel juhtudel ei tohiks asjaolu, et tehisintellektisüsteem võib kuuluda käesoleva määruse kohaldamisalasse, mõjutada riikliku julgeoleku, kaitse- ja sõjalise tegevusega tegelevate üksuste – olenemata sellest, mis liiki üksus seda tegevust teostab – võimalust kasutada tehisintellektisüsteeme riikliku julgeoleku, sõjalisel ja kaitseotstarbel, mis on käesoleva määruse kohaldamisalast välja jäetud. Tsiviileesmärgil või õiguskaitse eesmärgil turule lastud tehisintellektisüsteem, mida kasutatakse muudetud või muutmata kujul sõjalisel, kaitse- või riikliku julgeoleku eesmärgil, ei peaks kuuluma käesoleva määruse kohaldamisalasse, olenemata sellest, mis liiki üksus seda tegevust teostab.
(24)
En caso de que, y en la medida en que, los sistemas de IA se introduzcan en el mercado, se pongan en servicio o se utilicen, con o sin modificación, con fines militares, de defensa o de seguridad nacional, deben excluirse del ámbito de aplicación del presente Reglamento, independientemente del tipo de entidad que lleve a cabo esas actividades, por ejemplo, con independencia de que se trate de una entidad pública o de una entidad privada. Por lo que respecta a los fines militares y de defensa, dicha exclusión está justificada tanto por el artículo 4, apartado 2, del TUE como por las especificidades de la política de defensa de los Estados miembros y de la política común de defensa de la Unión a que se refiere el título V, capítulo 2, del TUE, que están sujetas al Derecho internacional público que, por lo tanto, es el marco jurídico más adecuado para la regulación de los sistemas de IA en el contexto del uso de la fuerza letal y de otros sistemas de IA en el contexto de las actividades militares y de defensa. Por lo que respecta a los fines de seguridad nacional, la exclusión está justificada tanto por el hecho de que la seguridad nacional sigue siendo responsabilidad exclusiva de los Estados miembros de conformidad con el artículo 4, apartado 2, del TUE, como por la naturaleza específica y las necesidades operativas de las actividades de seguridad nacional y por las normas nacionales específicas aplicables a dichas actividades. No obstante, si un sistema de IA desarrollado, introducido en el mercado, puesto en servicio o utilizado con fines militares, de defensa o de seguridad nacional se utilizara temporal o permanentemente fuera de estos ámbitos con otros fines (por ejemplo, con fines civiles o humanitarios, de garantía del cumplimiento del Derecho o de seguridad pública), dicho sistema entraría en el ámbito de aplicación del presente Reglamento. En tal caso, la entidad que utilice el sistema de IA con fines que no sean militares, de defensa o de seguridad nacional debe garantizar que el sistema de IA cumple lo dispuesto en el presente Reglamento, a menos que el sistema ya lo haga. Los sistemas de IA introducidos en el mercado o puestos en servicio para un fin excluido, a saber, militar, de defensa o de seguridad nacional, y uno o varios fines no excluidos, como fines civiles o de garantía del cumplimiento del Derecho, entran en el ámbito de aplicación del presente Reglamento y los proveedores de dichos sistemas deben garantizar el cumplimiento del presente Reglamento. En esos casos, el hecho de que un sistema de IA pueda entrar en el ámbito de aplicación del presente Reglamento no debe afectar a la posibilidad de que las entidades que llevan a cabo actividades militares, de defensa y de seguridad nacional, independientemente del tipo de entidad que lleve a cabo estas actividades, utilicen sistemas de IA con fines de seguridad nacional, militares y de defensa, cuyo uso está excluido del ámbito de aplicación del presente Reglamento. Un sistema de IA introducido en el mercado con fines civiles o de garantía del cumplimiento del Derecho que se utilice, con o sin modificaciones, con fines militares, de defensa o de seguridad nacional no debe entrar en el ámbito de aplicación del presente Reglamento, independientemente del tipo de entidad que lleve a cabo esas actividades.
(25)
Käesolev määrus peaks toetama innovatsiooni, peaks austama teadusvabadust ega tohiks kahjustada teadus- ja arendustegevust. Seepärast on vaja jätta selle kohaldamisalast välja tehisintellektisüsteemid ja -mudelid, mis on spetsiaalselt välja töötatud ja kasutusele võetud üksnes teadus- ja arendustegevuse eesmärgil. Lisaks on vaja tagada, et käesolev määrus ei mõjuta muul viisil tehisintellektisüsteemide või -mudelitega seotud teadus- ja arendustegevust enne nende turule laskmist või kasutusele võtmist. Samuti ei tohiks käesoleva määruse sätteid kohaldada tehisintellektisüsteemide või -mudelite tootepõhise teadus-, testimis- ja arendustegevuse suhtes enne nende süsteemide ja mudelite kasutusele võtmist või turule laskmist. See väljajätmine ei piira käesoleva määruse järgimise kohustust, kui sellise teadus- ja arendustegevuse tulemusena lastakse turule või võetakse kasutusele käesoleva määruse kohaldamisalasse kuuluv tehisintellektisüsteem, ega tehisintellekti regulatiivliivakasti ja tegelikes tingimustes testimist käsitlevate sätete kohaldamist. Lisaks peaksid käesoleva määruse kohaldamisalasse jääma kõik muud tehisintellektisüsteemid, mida võidakse kasutada mis tahes teadus- ja arendustegevuseks, ilma et see piiraks selliste tehisintellektisüsteemide väljajätmist, mis on spetsiaalselt välja töötatud ja kasutusele võetud üksnes teadus- ja arendustegevuse eesmärgil. Teadus- ja arendustegevus peaks igal juhul toimuma kooskõlas teadusuuringute tunnustatud eetiliste ja kutsestandarditega ning see peaks toimuma kooskõlas kohaldatava liidu õigusega.
(25)
El presente Reglamento debe apoyar la innovación, respetar la libertad de ciencia y no socavar la actividad de investigación y desarrollo. Por consiguiente, es necesario excluir de su ámbito de aplicación los sistemas y modelos de IA desarrollados específicamente y puestos en servicio únicamente con fines de investigación y desarrollo científicos. Además, es necesario garantizar que el presente Reglamento no afecte de otro modo a la actividad de investigación y desarrollo científicos sobre sistemas o modelos de IA antes de su introducción en el mercado o su puesta en servicio. Por lo que se refiere a la actividad de investigación, prueba y desarrollo orientada a productos en relación con sistemas o modelos de IA, las disposiciones del presente Reglamento tampoco deben aplicarse antes de que dichos sistemas y modelos se pongan en servicio o se introduzcan en el mercado. Esa exclusión se entiende sin perjuicio de la obligación de cumplir el presente Reglamento cuando se introduzca en el mercado o se ponga en servicio como resultado de dicha actividad de investigación y desarrollo un sistema de IA que entre en el ámbito de aplicación del presente Reglamento, así como de la aplicación de disposiciones sobre espacios controlados de pruebas para la IA y pruebas en condiciones reales. Además, sin perjuicio de la exclusión de los sistemas de IA desarrollados específicamente y puestos en servicio únicamente con fines de investigación y desarrollo científicos, cualquier otro sistema de IA que pueda utilizarse para llevar a cabo cualquier actividad de investigación y desarrollo debe seguir estando sujeto a las disposiciones del presente Reglamento. En cualquier caso, toda actividad de investigación y desarrollo debe llevarse a cabo de conformidad con normas éticas y profesionales reconocidas para la investigación científica y con el Derecho aplicable de la Unión.
(26)
Selleks et kehtestada tehisintellektisüsteemide suhtes proportsionaalsed, mõjusad ja siduvad õigusnormid, tuleks järgida selgelt määratletud riskipõhist lähenemisviisi. Sellise lähenemisviisi kohaselt tuleks nende õigusnormide liiki ja sisu kujundada vastavalt nende riskide intensiivsusele ja ulatusele, mida tehisintellektisüsteemid võivad põhjustada. Seepärast tuleb keelata teatavad vastuvõetamatud tehisintellekti kasutusviisid, näha ette suure riskiga tehisintellektisüsteemide suhtes kohaldatavad nõuded ja asjaomaste operaatorite kohustused ning kehtestada teatavatele tehisintellektisüsteemidele läbipaistvuskohustused.
(26)
Con el fin de establecer un conjunto proporcionado y eficaz de normas vinculantes para los sistemas de IA, es preciso aplicar un enfoque basado en los riesgos claramente definido, que adapte el tipo y contenido de las normas a la intensidad y el alcance de los riesgos que puedan generar los sistemas de IA de que se trate. Por consiguiente, es necesario prohibir determinadas prácticas de IA que no son aceptables, definir los requisitos que deben cumplir los sistemas de IA de alto riesgo y las obligaciones aplicables a los operadores pertinentes, así como imponer obligaciones de transparencia a determinados sistemas de IA.
(27)
Kuigi riskipõhine lähenemisviis on proportsionaalsete ja tõhusate siduvate õigusnormide alus, on oluline meelde tuletada 2019. aasta eetikasuuniseid usaldusväärse tehisintellekti arendamiseks, mille töötas välja komisjoni määratud sõltumatu kõrgetasemeline tehisintellekti eksperdirühm. Kõrgetasemeline tehisintellekti eksperdirühm töötas nendes suunistes välja seitse mittesiduvat tehisintellekti eetikapõhimõtet, mille eesmärk on aidata tagada, et tehisintellekt on usaldusväärne ja järgib eetikanorme. Nende seitsme põhimõtte seas on: inimese toimevõime ja inimjärelevalve; tehniline töökindlus ja ohutus; privaatsus ja andmehaldus; läbipaistvus; mitmekesisus, mittediskrimineerimine ja õiglus; ühiskondlik ja keskkonnaalane heaolu ning vastutuse võtmine. Ilma et see piiraks käesoleva määruse ja mis tahes muu kohaldatava liidu õiguse õiguslikult siduvate nõuete kohaldamist, aitavad need suunised kujundada sidusat, usaldusväärset ja inimkeskset tehisintellekti kooskõlas põhiõiguste harta ja liidu alusväärtustega. Kõrgetasemelise tehisintellekti eksperdirühma suuniste kohaselt tähendab inimese toimevõime ja inimjärelevalve, et tehisintellektisüsteeme arendatakse ja kasutatakse vahendina, mis teenib inimesi, austab inimväärikust ja isiklikku sõltumatust ning toimib viisil, mille üle inimesed saavad nõuetekohaselt kontrolli ja järelevalvet teostada. Tehniline töökindlus ja ohutus tähendab seda, et tehisintellektisüsteeme arendatakse ja kasutatakse viisil, mis tagab probleemide esinemisel nende töökindluse ning vastupidavuse katsetele muuta tehisintellektisüsteemi kasutust või toimivust nii, et kolmandad isikud saaksid neid ebaseaduslikult kasutada, ning et minimeerida soovimatut kahju. Privaatsus ja andmehaldus tähendab, et tehisintellektisüsteeme arendatakse ja kasutatakse kooskõlas privaatsus- ja andmekaitsenormidega ning andmetöötlus vastab kõrgetele kvaliteedi ja tervikluse standarditele. Läbipaistvus tähendab, et tehisintellektisüsteeme arendatakse ja kasutatakse viisil, mis võimaldab asjakohast jälgitavust ja selgitatavust, andes samal ajal inimestele teada, et nad suhtlevad tehisintellektisüsteemiga, ning teavitades juurutajaid igakülgselt selle tehisintellektisüsteemi võimetest ja piiridest ning mõjutatud isikuid nende õigustest. Mitmekesisus, mittediskrimineerimine ja õiglus tähendavad, et tehisintellektisüsteeme arendatakse ja kasutatakse viisil, mis hõlmab erinevaid osalejaid ja edendab võrdset ligipääsu, soolist võrdõiguslikkust ja kultuurilist mitmekesisust, vältides samal ajal diskrimineerivat mõju ja ebaõiglast kallutatust, mis on liidu või liikmesriikide õigusega keelatud. Ühiskondlik ja keskkonnaalane heaolu tähendab, et tehisintellektisüsteeme arendatakse ja kasutatakse kestlikul ja keskkonnasõbralikul viisil, samuti viisil, mis toob kasu kõigile inimestele, jälgides ja hinnates samal ajal pikaajalist mõju üksikisikule, ühiskonnale ning demokraatiale. Nimetatud põhimõtete kohaldamine tuleks võimaluse korral üle kanda tehisintellektimudelite projekteerimisse ja kasutamisse. Igal juhul peaksid need olema aluseks käesoleva määruse alusel koostatavatele käitumisjuhenditele. Kõiki sidusrühmi, sealhulgas tööstust, akadeemilisi ringkondi, kodanikuühiskonda ja standardiorganisatsioone, julgustatakse vabatahtlike parimate tavade ja standardite väljatöötamisel võtma vastavalt vajadusele arvesse eetikapõhimõtteid.
(27)
Si bien el enfoque basado en el riesgo es la base de un conjunto proporcionado y eficaz de normas vinculantes, es importante recordar las Directrices éticas para una IA fiable, de 2019, elaboradas por el Grupo independiente de expertos de alto nivel sobre IA creado por la Comisión. En dichas directrices, el Grupo independiente de expertos de alto nivel sobre IA desarrolló siete principios éticos no vinculantes para la IA que tienen por objeto contribuir a garantizar la fiabilidad y el fundamento ético de la IA. Los siete principios son: acción y supervisión humanas; solidez técnica y seguridad; gestión de la privacidad y de los datos; transparencia; diversidad, no discriminación y equidad; bienestar social y ambiental, y rendición de cuentas. Sin perjuicio de los requisitos jurídicamente vinculantes del presente Reglamento y de cualquier otro acto aplicable del Derecho de la Unión, esas directrices contribuyen al diseño de una IA coherente, fiable y centrada en el ser humano, en consonancia con la Carta y con los valores en los que se fundamenta la Unión. De acuerdo con las directrices del Grupo independiente de expertos de alto nivel sobre IA, por «acción y supervisión humanas» se entiende que los sistemas de IA se desarrollan y utilizan como herramienta al servicio de las personas, que respeta la dignidad humana y la autonomía personal, y que funciona de manera que pueda ser controlada y vigilada adecuadamente por seres humanos. Por «solidez técnica y seguridad» se entiende que los sistemas de IA se desarrollan y utilizan de manera que sean sólidos en caso de problemas y resilientes frente a los intentos de alterar el uso o el funcionamiento del sistema de IA para permitir su uso ilícito por terceros y reducir al mínimo los daños no deseados. Por «gestión de la privacidad y de los datos» se entiende que los sistemas de IA se desarrollan y utilizan de conformidad con normas en materia de protección de la intimidad y de los datos, al tiempo que tratan datos que cumplen normas estrictas en términos de calidad e integridad. Por «transparencia» se entiende que los sistemas de IA se desarrollan y utilizan de un modo que permita una trazabilidad y explicabilidad adecuadas, y que, al mismo tiempo, haga que las personas sean conscientes de que se comunican o interactúan con un sistema de IA e informe debidamente a los responsables del despliegue acerca de las capacidades y limitaciones de dicho sistema de IA y a las personas afectadas acerca de sus derechos. Por «diversidad, no discriminación y equidad» se entiende que los sistemas de IA se desarrollan y utilizan de un modo que incluya a diversos agentes y promueve la igualdad de acceso, la igualdad de género y la diversidad cultural, al tiempo que se evitan los efectos discriminatorios y los sesgos injustos prohibidos por el Derecho nacional o de la Unión. Por «bienestar social y ambiental» se entiende que los sistemas de IA se desarrollan y utilizan de manera sostenible y respetuosa con el medio ambiente, así como en beneficio de todos los seres humanos, al tiempo que se supervisan y evalúan los efectos a largo plazo en las personas, la sociedad y la democracia. La aplicación de esos principios debe traducirse, cuando sea posible, en el diseño y el uso de modelos de IA. En cualquier caso, deben servir de base para la elaboración de códigos de conducta en virtud del presente Reglamento. Se anima a todas las partes interesadas, incluidos la industria, el mundo académico, la sociedad civil y las organizaciones de normalización, a que tengan en cuenta, según proceda, los principios éticos para el desarrollo de normas y mejores prácticas voluntarias.
(28)
Lisaks sellele, et tehisintellektil on mitmeid kasulikke rakendusvõimalusi, on seda võimalik ka väärkasutada ning luua uudseid ja võimsaid manipuleerimise, ärakasutamise ja sotsiaalse kontrolli vahendeid. Sellised kasutusviisid on eriti kahjulikud ja kuritarvituslikud ning tuleks keelata, sest need on vastuolus selliste liidu väärtustega nagu inimväärikuse austamine, vabadus, võrdsus, demokraatia ja õigusriik ning põhiõiguste hartas sätestatud põhiõigustega, kaasa arvatud õigusega mittediskrimineerimisele, andmekaitsele ja privaatsusele, aga ka lapse õigustega.
(28)
Al margen de los múltiples usos beneficiosos de la IA, esta también puede utilizarse indebidamente y proporcionar nuevas y poderosas herramientas para llevar a cabo prácticas de manipulación, explotación y control social. Dichas prácticas son sumamente perjudiciales e incorrectas y deben estar prohibidas, pues van en contra de los valores de la Unión de respeto de la dignidad humana, la libertad, la igualdad, la democracia y el Estado de Derecho y de los derechos fundamentales consagrados en la Carta, como el derecho a la no discriminación, a la protección de datos y a la intimidad y los derechos del niño.
(29)
Tehisintellektil põhinevaid manipuleerimistehnikaid saab kasutada selleks, et veenda inimesi käituma soovimatult ja neid petta, suunates neid tegema otsuseid, mis pärsivad ja kahjustavad nende sõltumatust, otsuste tegemist ja valikuvabadust. Teatavad tehisintellektisüsteemid, mille eesmärk või tagajärg on inimeste käitumise suurel määral moonutamine, mis võib tõenäoliselt tekitada olulist kahju, eelkõige sellist, millel on piisavalt oluline kahjulik mõju füüsilisele ja psühholoogilisele tervisele või finantshuvidele, on eriti ohtlikud ja seetõttu tuleks nende turule laskmine, kasutusele võtmine ja kasutamine keelata. Sellistes tehisintellektisüsteemides kasutatakse alalävisele tajule suunatud elemente, nagu audio-, pildi- ja videostiimuleid, mida inimesed ei suuda tajuda, sest need stiimulid jäävad inimese tajust väljapoole, või muid manipuleerivaid või petlikke võtteid, mis vähendavad või kahjustavad isiku sõltumatust, otsuste tegemist või vaba valikut viisil, mille puhul inimesed ei ole nendest võtetest teadlikud, või isegi kui nad on teadlikud, on võimalik nad ikka eksiteele viia või nad ei ole võimelised neid kontrollima või nendele vastu seisma. Selleks võidakse kasutada näiteks aju-arvuti liideseid või virtuaalreaalsust, kuna need võimaldavad suuremat kontrolli selle üle, milliseid stiimuleid inimestele esitatakse, kuivõrd need võivad oluliselt moonutada nende käitumist märkimisväärselt kahjulikul viisil. Lisaks võivad tehisintellektisüsteemid muul viisil kasutada ära konkreetse isiku või isikute rühma haavatavusi, mis tulenevad nende vanusest, puudest Euroopa Parlamendi ja nõukogu direktiivi (EL) 2019/882 (16) tähenduses või konkreetsest sotsiaalsest või majanduslikust olukorrast, mis tõenäoliselt muudab need isikud ärakasutamise suhtes kaitsetumaks, näiteks äärmises vaesuses elavad isikud, etnilised või usuvähemused. Selliseid süsteeme võidakse turule lasta, kasutusele võtta või kasutada selliselt, et nende eesmärk või tagajärg on isiku käitumise oluline moonutamine viisil, mis põhjustab või mõistliku tõenäosusega põhjustab olulist kahju sellele või mõnele teisele isikule või isikute rühmale, sealhulgas kahju, mis võib tekkida aja jooksul, ning seetõttu peaksid sellised süsteemid olema keelatud. Käitumise moonutamise kavatsust ei pruugi olla võimalik eeldada, kui moonutus tuleneb tehisintellektisüsteemi välistest teguritest, mis ei ole pakkuja või juurutaja kontrolli all, nimelt teguritest, mis ei pruugi olla mõistlikult prognoositavad ja seetõttu ei ole tehisintellektisüsteemi pakkujal või juurutajal võimalik neid leevendada. Igal juhul ei pruugi pakkujal või juurutajal olla kavatsust põhjustada olulist kahju, kui selline kahju tuleneb manipuleerivatest või ekspluateerivatest tehisintellektil põhinevatest kasutusviisidest. Selliseid tehisintellekti kasutusviise käsitlevad keelud täiendavad Euroopa Parlamendi ja nõukogu direktiivi 2005/29/EÜ (17) sätteid, eelkõige seda, et ebaausad kaubandustavad, mis põhjustavad tarbijatele majanduslikku või rahalist kahju, on igal juhul keelatud, olenemata sellest, kas need on võetud kasutusele tehisintellektisüsteemide abil või muul viisil. Käesolevas määruses sätestatud manipuleerivate ja ekspluateerivate kasutusviiside keeld ei tohiks mõjutada õiguspärast ravi, näiteks psüühikahäire psühholoogiline ravi või füüsiline rehabilitatsioon, kui see toimub kooskõlas kohaldatava õiguse ja meditsiinistandarditega, näiteks üksikisikute või nende seaduslike esindajate selgesõnalisel nõusolekul. Samuti ei tohiks tavapäraseid ja õiguspäraseid kaubandustavasid, näiteks reklaami valdkonnas, mis on kooskõlas kohaldatava õigusega, pidada iseenesest kahjulikeks manipuleerivateks tehisintellektil põhinevateks kasutusviisideks.
(29)
Las técnicas de manipulación que posibilita la IA pueden utilizarse para persuadir a las personas de que adopten comportamientos no deseados o para engañarlas empujándolas a tomar decisiones de una manera que socava y perjudica su autonomía, su toma de decisiones y su capacidad de elegir libremente. Son especialmente peligrosos y, por tanto, deben prohibirse la introducción en el mercado, la puesta en servicio o la utilización de determinados sistemas de IA con el objetivo o al efecto de alterar de manera sustancial el comportamiento humano, con la consiguiente probabilidad de que se produzcan perjuicios considerables, en particular perjuicios con efectos adversos suficientemente importantes en la salud física o mental o en los intereses financieros. Esos sistemas de IA utilizan componentes subliminales, como estímulos de audio, imagen o vídeo que las personas no pueden percibir —ya que dichos estímulos trascienden la percepción humana—, u otras técnicas manipulativas o engañosas que socavan o perjudican la autonomía, la toma de decisiones o la capacidad de elegir libremente de las personas de maneras de las que estas no son realmente conscientes de dichas técnicas o, cuando lo son, pueden seguir siendo engañadas o no pueden controlarlas u oponerles resistencia. Esto podría facilitarse, por ejemplo, mediante interfaces cerebro-máquina o realidad virtual, dado que permiten un mayor grado de control acerca de qué estímulos se presentan a las personas, en la medida en que pueden alterar sustancialmente su comportamiento de un modo que suponga un perjuicio considerable. Además, los sistemas de IA también pueden explotar de otras maneras las vulnerabilidades de una persona o un colectivo específico de personas derivadas de su edad, su discapacidad en el sentido de lo dispuesto en la Directiva (UE) 2019/882 del Parlamento Europeo y del Consejo (16) o de una situación social o económica concreta que probablemente aumente su vulnerabilidad a la explotación, como vivir en condiciones de pobreza extrema o pertenecer a minorías étnicas o religiosas. Estos sistemas de IA pueden introducirse en el mercado, ponerse en servicio o utilizarse con el objetivo de alterar de manera sustancial el comportamiento de una persona, o tener ese efecto, y de un modo que provoque, o sea razonablemente probable que provoque, perjuicios considerables a esa persona o a otra persona o colectivo de personas, incluidos perjuicios que pueden acumularse a lo largo del tiempo y que, por tanto, deben prohibirse. No puede presuponerse que existe la intención de alterar el comportamiento si la alteración es el resultado de factores externos al sistema de IA que escapan al control del proveedor o del responsable del despliegue, a saber, factores que no es lógico prever y que, por tanto, el proveedor o el responsable del despliegue del sistema de IA no pueden mitigar. En cualquier caso, no es necesario que el proveedor o el responsable del despliegue tengan la intención de causar un perjuicio considerable, siempre que dicho perjuicio se derive de las prácticas de manipulación o explotación que posibilita la IA. La prohibición de tales prácticas de IA complementa lo dispuesto en la Directiva 2005/29/CE del Parlamento Europeo y del Consejo (17), en particular la prohibición, en cualquier circunstancia, de las prácticas comerciales desleales que causan perjuicios económicos o financieros a los consumidores, hayan sido establecidas mediante de sistemas de IA o de otra manera. La prohibición de las prácticas de manipulación y explotación establecida en el presente Reglamento no debe afectar a prácticas lícitas en el contexto de un tratamiento médico, como el tratamiento psicológico de una enfermedad mental o la rehabilitación física, cuando dichas prácticas se lleven a cabo de conformidad con el Derecho y las normas médicas aplicables, por ejemplo, con el consentimiento expreso de las personas o de sus representantes legales. Asimismo, no debe considerarse que las prácticas comerciales comunes y legítimas (por ejemplo, en el campo de la publicidad) que cumplan el Derecho aplicable son, en sí mismas, prácticas de manipulación perjudiciales que posibilita la IA.
(30)
Biomeetrilise liigitamise süsteemid, mis põhinevad füüsiliste isikute biomeetrilistel andmetel, näiteks isiku näol või sõrmejälgedel, et tuletada või järeldada isikute poliitilisi vaateid, kuulumist ametiühingusse, usulisi või filosoofilisi veendumusi, rassi, seksuaalelu või seksuaalset sättumust, tuleks keelata. See keeld ei tohiks hõlmata selliste biomeetriliste andmestike seaduslikku märgistamist, filtreerimist või liigitamist vastavalt biomeetrilistele andmetele, mis on saadud kooskõlas liidu või liikmesriigi õigusega, nagu kujutiste sorteerimist vastavalt juuksevärvile või silmavärvile, mida saab kasutada näiteks õiguskaitse valdkonnas.
(30)
Deben prohibirse los sistemas de categorización biométrica basados en datos biométricos de las personas físicas, como la cara o las impresiones dactilares de una persona física, para deducir o inferir las opiniones políticas, la afiliación sindical, las convicciones religiosas o filosóficas, la raza, la vida sexual o la orientación sexual de una persona física. Dicha prohibición no debe aplicarse al etiquetado, al filtrado ni a la categorización lícitos de conjuntos de datos biométricos adquiridos de conformidad con el Derecho nacional o de la Unión en función de datos biométricos, como la clasificación de imágenes en función del color del pelo o del color de ojos, que pueden utilizarse, por ejemplo, en el ámbito de la garantía del cumplimiento del Derecho.
(31)
Tehisintellektisüsteemid, mida kasutatakse avaliku või erasektori osalejate poolt füüsilistele isikutele sotsiaalpunktide andmiseks, võivad tuua kaasa diskrimineerimise ja teatavate rühmade kõrvalejätmise. Need süsteemid võivad rikkuda õigust väärikusele ja mittediskrimineerimisele ning olla vastuolus võrdsuse ja õigluse väärtustega. Sellised tehisintellektisüsteemid hindavad või liigitavad füüsilisi isikuid või nende rühmi, tuginedes paljudele andmepunktidele, mis on seotud nende sotsiaalse käitumisega eri kontekstides, või teadaolevatele, tuletatavatele või prognoositavatele isiku- või iseloomuomadustele teatava aja jooksul. Selliste tehisintellektisüsteemide antud sotsiaalpunktid võivad tuua kaasa füüsilisi isikuid või terveid inimrühmi kahjustavat või nende ebasoodsat kohtlemist sotsiaalses kontekstis, mis ei ole seotud kontekstiga, kus andmed algselt loodi või koguti, või kahjustavat kohtlemist, mis ei ole nende sotsiaalse käitumise problemaatilisusega võrreldes proportsionaalne või põhjendatud. Tehisintellektisüsteemid, millega kaasnevad sellised vastuvõetamatud punktide andmise tavad ja mis viivad selliste kahjustavate või ebasoodsate tulemusteni, tuleks seetõttu keelata. See keeld ei tohiks mõjutada füüsiliste isikute seaduslikku hindamist, mida tehakse konkreetsel eesmärgil kooskõlas liidu või liikmesriigi õigusega.
(31)
Los sistemas de IA que permiten a agentes públicos o privados llevar a cabo una puntuación ciudadana de las personas físicas pueden tener resultados discriminatorios y abocar a la exclusión a determinados colectivos. Pueden menoscabar el derecho a la dignidad y a la no discriminación y los valores de igualdad y justicia. Dichos sistemas de IA evalúan o clasifican a las personas físicas o a grupos de estas sobre la base de varios puntos de datos relacionados con su comportamiento social en múltiples contextos o de características personales o de su personalidad conocidas, inferidas o predichas durante determinados períodos de tiempo. La puntuación ciudadana resultante de dichos sistemas de IA puede dar lugar a un trato perjudicial o desfavorable de determinadas personas físicas o colectivos enteros en contextos sociales que no guardan relación con el contexto donde se generaron o recabaron los datos originalmente, o a un trato perjudicial desproporcionado o injustificado en relación con la gravedad de su comportamiento social. Por lo tanto, deben prohibirse los sistemas de IA que impliquen esas prácticas inaceptables de puntuación y den lugar a esos resultados perjudiciales o desfavorables. Esa prohibición no debe afectar a prácticas lícitas de evaluación de las personas físicas que se efectúen para un fin específico de conformidad con el Derecho de la Unión y nacional.
(32)
Tehisintellektisüsteemide kasutamine avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil reaalajas toimuva füüsiliste isikute biomeetrilise kaugtuvastamise jaoks on eriti tõsine sekkumine asjaomaste isikute õigustesse ja vabadustesse, sest see võib mõjutada suure osa elanikkonna eraelu, tekitada pideva jälgimise tunde ning kaudselt veenda loobuma kogunemisvabaduse ja muude põhiõiguste kasutamisest. Füüsiliste isikute biomeetrilise kaugtuvastamise jaoks mõeldud tehisintellektisüsteemide tehniline ebatäpsus võib kaasa tuua tulemuste kallutatuse ja põhjustada diskrimineerimist. Sellised võimalikud kallutatud tulemused ja diskrimineeriv mõju on eriti olulised vanuse, etnilise päritolu, rassi, soo või puuete puhul. Kuna selliste reaalajas töötavate süsteemide kasutamise mõju on vahetu ja täiendava kontrolli või parandamise võimalused piiratud, seab selliste süsteemide kasutamine suuremasse ohtu õiguskaitsetoimingute mõjuvälja jäävate isikute õigused ja vabadused.
(32)
El uso de sistemas de IA para la identificación biométrica remota «en tiempo real» de personas físicas en espacios de acceso público con fines de garantía del cumplimiento del Derecho invade de forma especialmente grave los derechos y las libertades de las personas afectadas, en la medida en que puede afectar a la vida privada de una gran parte de la población, provocar la sensación de estar bajo una vigilancia constante y disuadir indirectamente a los ciudadanos de ejercer su libertad de reunión y otros derechos fundamentales. Las imprecisiones técnicas de los sistemas de IA destinados a la identificación biométrica remota de las personas físicas pueden dar lugar a resultados sesgados y tener efectos discriminatorios. Tales posibles resultados sesgados y efectos discriminatorios son especialmente pertinentes por lo que respecta a la edad, la etnia, la raza, el sexo o la discapacidad. Además, la inmediatez de las consecuencias y las escasas oportunidades para realizar comprobaciones o correcciones adicionales en relación con el uso de sistemas que operan «en tiempo real» acrecientan el riesgo que estos conllevan para los derechos y las libertades de las personas afectadas en el contexto de actividades de garantía del cumplimiento del Derecho, o afectadas por estas.
(33)
Seepärast peaks selliste süsteemide kasutamine õiguskaitse eesmärgil olema keelatud, välja arvatud ammendavalt loetletud ja kitsalt määratletud olukordades, kus nende süsteemide kasutamine on rangelt vajalik selleks, et saavutada olulise avaliku huvi eesmärk, mille tähtsus kaalub riskid üles. Selliste olukordade hulka kuuluvad teatavate kuriteoohvrite, kaasa arvatud kadunud isikute otsimine, teatavad füüsiliste isikute elu või füüsilist turvalisust ähvardavad ohud või terrorirünnaku oht ning käesoleva määruse lisas loetletud kuritegude toimepanijate või sellistes kuritegudes kahtlustatavate asukoha kindlaks tegemine või nende tuvastamine, kui sellise kuriteo eest karistatakse asjaomases liikmesriigis vabadusekaotuse või vabadust piirava julgeolekumeetmega, mille maksimaalne pikkus on vähemalt neli aastat ning vastavalt kõnealuse kuriteo määratlusele selle liikmesriigi õiguses. Sellise ajalise piiri seadmine riigisisese õiguse kohasele vabadusekaotusele või vabadust piiravale julgeolekumeetmele aitab tagada, et reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamine oleks õigustatud vaid piisavalt raskete rikkumiste korral. Peale selle põhineb käesoleva määruse lisas esitatud kuritegude loetelu 32 kuriteoliigil, mis on loetletud nõukogu raamotsuses 2002/584/JSK, (18) võttes arvesse, et mõned neist kuritegudest on praktikas tõenäoliselt teistest asjakohasemad, sest reaalajas toimuva biomeetrilise kaugtuvastamise kasutamise eeldatav vajalikkus ja proportsionaalsus võivad märkimisväärselt varieeruda, kui tegemist on loetelus nimetatud kuriteo toimepanija või sellises kuriteos kahtlustatava asukoha kindlaks tegemise või tema tuvastamisega ja kui võetakse arvesse võimalike negatiivsete tagajärgede raskusastme, tõenäosuse ja ulatuse tõenäolisi erinevusi. Vahetu oht füüsiliste isikute elule või füüsilisele turvalisusele võib tuleneda ka Euroopa Parlamendi ja nõukogu direktiivi (EL) 2022/2557 (19) artikli 2 punktis 4 määratletud elutähtsa taristu tõsisest kahjustada saamisest, kui sellise elutähtsa taristu kahjustada saamine või hävimine ohustaks vahetult isiku elu või füüsilist turvalisust, sealhulgas elanikkonna esmatarbekaupadega varustamise või riigi põhiülesannete täitmise tõsise kahjustamise kaudu. Lisaks tuleks käesoleva määrusega säilitada õiguskaitse-, piirivalve-, rände- ja varjupaigaasutuste suutlikkus kontrollida isikusamasust asjaomase isiku juuresolekul vastavalt liidu ja liikmesriigi õiguses sellise kontrolli jaoks sätestatud tingimustele. Eelkõige peaks õiguskaitse-, piirivalve-, rände- ja varjupaigaasutustel olema võimalik kasutada liidu või liikmesriigi õiguse kohaselt infosüsteeme, et tuvastada isikud, kes isikusamasuse kontrolli käigus kas keelduvad isiku tuvastamisest või ei suuda oma isikut avaldada või tõendada, ilma et neilt nõutaks käesoleva määruse kohaselt eelneva loa saamist. Tegemist võib olla näiteks kuriteoga seotud isikuga, isikuga, kes ei soovi või kes õnnetuse või tervisliku seisundi tõttu ei suuda avaldada oma isikut õiguskaitseasutustele.
(33)
En consecuencia, debe prohibirse el uso de dichos sistemas con fines de garantía del cumplimiento del Derecho, salvo en situaciones enumeradas de manera limitativa y definidas con precisión en las que su utilización sea estrictamente necesaria para lograr un interés público esencial cuya importancia compense los riesgos. Esas situaciones son la búsqueda de determinadas víctimas de un delito, incluidas personas desaparecidas; determinadas amenazas para la vida o para la seguridad física de las personas físicas o amenazas de atentado terrorista; y la localización o identificación de los autores o sospechosos de los delitos enumerados en un anexo del presente Reglamento, cuando dichas infracciones se castiguen en el Estado miembro de que se trate con una pena o una medida de seguridad privativas de libertad cuya duración máxima sea de al menos cuatro años, y como se definan en el Derecho de dicho Estado miembro. Fijar ese umbral para la pena o la medida de seguridad privativas de libertad con arreglo al Derecho nacional contribuye a garantizar que la infracción sea lo suficientemente grave como para llegar a justificar el uso de sistemas de identificación biométrica remota «en tiempo real». Por otro lado, la lista de delitos proporcionada en un anexo del presente Reglamento se basa en los treinta y dos delitos enumerados en la Decisión Marco 2002/584/JAI del Consejo (18), si bien es preciso tener en cuenta que, en la práctica, es probable que algunas sean más relevantes que otras en el sentido de que es previsible que recurrir a la identificación biométrica remota «en tiempo real» podría ser necesario y proporcionado en grados muy distintos para llevar a cabo la localización o la identificación de los autores o sospechosos de las distintas infracciones enumeradas, y que es probable que haya diferencias en la gravedad, la probabilidad y la magnitud de los perjuicios o las posibles consecuencias negativas. Una amenaza inminente para la vida o la seguridad física de las personas físicas también podría derivarse de una perturbación grave de infraestructuras críticas, tal como se definen en el artículo 2, punto 4, de la Directiva (UE) 2022/2557 del Parlamento Europeo y del Consejo (19), cuando la perturbación o destrucción de dichas infraestructuras críticas suponga una amenaza inminente para la vida o la seguridad física de una persona, también al perjudicar gravemente el suministro de productos básicos a la población o el ejercicio de la función esencial del Estado. Además, el presente Reglamento debe preservar la capacidad de las autoridades garantes del cumplimiento del Derecho, de control fronterizo, de la inmigración o del asilo para llevar a cabo controles de identidad en presencia de la persona afectada, de conformidad con las condiciones establecidas en el Derecho de la Unión y en el Derecho nacional para estos controles. En particular, las autoridades garantes del cumplimiento del Derecho, del control fronterizo, de la inmigración o del asilo deben poder utilizar sistemas de información, de conformidad con el Derecho de la Unión o el Derecho nacional, para identificar a las personas que, durante un control de identidad, se nieguen a ser identificadas o no puedan declarar o demostrar su identidad, sin que el presente Reglamento exija que se obtenga una autorización previa. Puede tratarse, por ejemplo, de una persona implicada en un delito que no quiera revelar su identidad a las autoridades garantes del cumplimiento del Derecho, o que no pueda hacerlo debido a un accidente o a una afección médica.
(34)
Lisaks sellele on nende süsteemide vastutustundliku ja proportsionaalse kasutamise tagamiseks oluline panna paika, et igaühes neist ammendavalt loetletud ja kitsalt määratletud olukorrast tuleks arvesse võtta teatavaid elemente, eeskätt mis puudutab taotluse aluseks oleva olukorra olemust ja kasutamise tagajärgi kõigi asjaomaste isikute õigustele ja vabadustele ning kasutamise korral ettenähtud kaitsemeetmeid ja tingimusi. Peale selle tuleks reaalajas toimuva biomeetrilise kaugtuvastamise süsteeme kasutada avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil üksnes selleks, et kinnitada konkreetselt sihtmärgiks oleva isiku isikusamasust, ning see peaks piirduma sellega, mis on rangelt vajalik seoses ajavahemiku ning geograafilise ja isikulise kohaldamisalaga, võttes eelkõige arvesse tõendeid või viiteid ohu, ohvrite või toimepanija kohta. Reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutamine avalikult juurdepääsetavas ruumis peaks olema lubatud üksnes juhul, kui asjaomane õiguskaitseasutus on viinud lõpule põhiõigustele avalduva mõju hindamise, ja kui käesolevas määruses ei ole sätestatud teisiti, on ta süsteemi andmebaasis registreerinud, nagu on sätestatud käesolevas määruses. Isikute võrdlusandmebaas peaks olema igas eespool nimetatud olukorras iga kasutusmalli jaoks sobiv.
(34)
Para velar por que dichos sistemas se utilicen de manera responsable y proporcionada, también es importante establecer que, en esas situaciones enumeradas de manera limitativa y definidas con precisión, se tengan en cuenta determinados elementos, en particular en lo que se refiere a la naturaleza de la situación que dé lugar a la solicitud, a las consecuencias que su uso puede tener sobre los derechos y las libertades de todas las personas implicadas, y a las garantías y condiciones que acompañen a su uso. Además, el uso de sistemas de identificación biométrica remota «en tiempo real» en espacios de acceso público con fines de garantía del cumplimiento del Derecho debe llevarse a cabo únicamente para confirmar la identidad de la persona que constituya el objetivo específico y limitarse a lo estrictamente necesario en lo que se refiere al período de tiempo, así como al ámbito geográfico y personal, teniendo en cuenta, en particular, las pruebas o indicios relativos a las amenazas, las víctimas o los autores. El uso del sistema de identificación biométrica remota en tiempo real en espacios de acceso público solo debe autorizarse si la correspondiente autoridad garante del cumplimiento del Derecho ha llevado a cabo una evaluación de impacto relativa a los derechos fundamentales y, salvo que se disponga otra cosa en el presente Reglamento, si ha registrado el sistema en la base de datos establecida en el presente Reglamento. La base de datos de personas de referencia debe ser adecuada para cada supuesto de uso en cada una de las situaciones antes mencionadas.
(35)
Iga kord, kui reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutatakse avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil, peaks liikmesriigi õigusasutus või sõltumatu haldusasutus, kelle otsus on siduv, andma selleks selge ja konkreetse loa. Põhimõtteliselt tuleks selline luba saada enne tehisintellektisüsteemi kasutamist isiku või isikute tuvastamiseks. Erandeid sellest reeglist tuleks lubada põhjendatud kiireloomulistes olukordades, see tähendab olukordades, kus vajadus asjaomaste süsteemide kasutamise järele on selline, et enne tehisintellektisüsteemi kasutamise algust ei ole reaalselt ega objektiivselt võimalik luba saada. Sellistes kiireloomulistes olukordades peaks tehisintellektisüsteemi kasutamine piirduma hädavajaliku miinimumiga ning selle suhtes peaksid kehtima asjakohased kaitsemeetmed ja tingimused, mis on kindlaks määratud riigisiseses õiguses ja mida õiguskaitseasutus iga individuaalse kiireloomulise kasutusjuhtumi korral täpsustab. Lisaks sellele peaks õiguskaitseasutus sellistel juhtudel kõnealust luba taotlema, põhjendades, miks ta ei saanud seda varem, põhjendamatu viivituseta ja hiljemalt 24 tunni jooksul taotleda. Kui selline luba lükatakse tagasi, tuleks selle loaga seotud reaalajas biomeetrilise tuvastamise süsteemide kasutamine viivitamata lõpetada ning kõik sellise kasutamisega seotud andmed tuleks kõrvale jätta ja kustutada. Sellised andmed hõlmavad sisendandmeid, mille tehisintellektisüsteem on sellise süsteemi kasutamise käigus vahetult saanud, ning selle loaga seotud kasutamise tulemusi ja väljundeid. See ei tohiks hõlmata sisendit, mis on saadud seaduslikult muu liidu või riigisisese õiguse kohaselt. Ühelgi juhul ei tohiks isiku suhtes kahjulikke õiguslikke tagajärgi põhjustavat otsust teha üksnes biomeetrilise kaugtuvastamise süsteemi tulemuste põhjal.
(35)
Todo uso de un sistema de identificación biométrica remota «en tiempo real» en espacios de acceso público con fines de garantía del cumplimiento del Derecho debe haber sido autorizado de manera expresa y específica por una autoridad judicial o por una autoridad administrativa independiente de un Estado miembro y cuya decisión sea vinculante. En principio, dicha autorización debe obtenerse antes de utilizar el sistema de IA con el fin de identificar a una o varias personas. Deben permitirse excepciones a esa norma en situaciones debidamente justificadas por motivos de urgencia, a saber, en aquellas en las que la necesidad de utilizar los sistemas de que se trate sea tan imperiosa que resulte efectiva y objetivamente imposible obtener una autorización antes de iniciar el uso del sistema de IA. En tales situaciones de urgencia, el uso debe limitarse al mínimo imprescindible y satisfacer las garantías y condiciones oportunas, conforme a lo dispuesto en el Derecho nacional y según corresponda en cada supuesto concreto de uso urgente por parte de la propia autoridad garante del cumplimiento del Derecho. Además, en esas situaciones las autoridades garantes del cumplimiento del Derecho deben solicitar dicha autorización e indicar los motivos por los que no han podido hacerlo antes, sin demora indebida y, como máximo, en un plazo de veinticuatro horas. Si se rechaza dicha autorización, el uso de sistemas de identificación biométrica en tiempo real vinculados a la autorización debe interrumpirse con efecto inmediato y todos los datos relacionados con dicho uso deben desecharse y suprimirse. Entre esos datos se incluyen los datos de entrada directamente adquiridos por un sistema de IA durante el uso de dicho sistema, así como los resultados y la información de salida del uso vinculados a dicha autorización. No debe incluir la información de entrada adquirida legalmente de conformidad con otro acto del Derecho nacional o de la Unión. En cualquier caso, no debe adoptarse ninguna decisión que produzca efectos jurídicos adversos para una persona exclusivamente sobre la base de los resultados de salida del sistema de identificación biométrica remota.
(36)
Selleks et täita oma ülesandeid kooskõlas käesolevas määruses ja riigisiseses õigusnormides sätestatud nõuetega, tuleks asjaomast turujärelevalveasutust ja riiklikku andmekaitseasutust teavitada igast reaalajas toimuva biomeetrilise tuvastamise süsteemi kasutamisest. Teavitatud turujärelevalveasutused ja riiklikud andmekaitseasutused peaksid esitama komisjonile igal aastal aruande reaalajas toimunud biomeetrilise tuvastamise süsteemide kasutamise kohta.
(36)
A fin de desempeñar sus funciones de conformidad con los requisitos establecidos en el presente Reglamento, así como en las normas nacionales, debe notificarse a la autoridad de vigilancia del mercado pertinente y a la autoridad nacional de protección de datos cada uso del sistema de identificación biométrica en tiempo real. Las autoridades de vigilancia del mercado y las autoridades nacionales de protección de datos que hayan recibido una notificación deben presentar a la Comisión un informe anual sobre el uso de sistemas de identificación biométrica en tiempo real.
(37)
Ühtlasi on käesoleva määrusega kehtestatavas ammendavas raamistikus otstarbekas ette näha, et selline kasutamine liikmesriigi territooriumil kooskõlas käesoleva määrusega peaks olema võimalik üksnes siis ja niivõrd, kuivõrd asjaomane liikmesriik on otsustanud oma riigisisese õiguse üksikasjalikes õigusnormides selgelt sätestada võimaluse sellist kasutamist lubada. Seega jääb liikmesriikidele käesoleva määruse alusel vabadus sellist võimalust üldse mitte ette näha või näha selline võimalus ette üksnes mõne eesmärgi jaoks, mille puhul on käesolevas määruses kirjeldatud lubatud kasutamine õigustatud. Sellistest riigisisestest õigusnormidest tuleks komisjonile teatada 30 päeva jooksul pärast nende vastuvõtmist.
(37)
Por otro lado, conviene disponer, en el marco exhaustivo que establece este Reglamento, que dicho uso en el territorio de un Estado miembro conforme a lo dispuesto en el presente Reglamento solo debe ser posible cuando el Estado miembro de que se trate haya decidido contemplar expresamente la posibilidad de autorizarlo en las normas detalladas de su Derecho nacional, y en la medida en que lo haya contemplado. En consecuencia, con arreglo al presente Reglamento los Estados miembros siguen teniendo la libertad de no ofrecer esta posibilidad en absoluto o de ofrecerla únicamente en relación con algunos de los objetivos que pueden justificar un uso autorizado conforme al presente Reglamento. Dichas normas nacionales deben notificarse a la Comisión en un plazo de treinta días a partir de su adopción.
(38)
Tehisintellektisüsteemide kasutamine avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil reaalajas toimuva füüsiliste isikute biomeetrilise kaugtuvastamise jaoks eeldab igal juhul biomeetriliste andmete töötlemist. Käesoleva määruse kohaseid õigusnorme, millega keelatakse selline kasutamine teatavate eranditega ja mis põhinevad ELi toimimise lepingu artiklil 16, tuleks kohaldada direktiivi (EL) 2016/680 artiklis 10 sätestatud biomeetriliste andmete töötlemist käsitlevate õigusnormide suhtes erinormina (lex specialis), nii et selline kasutamine ja sellega kaasnev biomeetriliste andmete töötlemine oleksid ammendavalt reguleeritud. Seega peaks selline kasutamine ja töötlemine olema võimalik üksnes siis, kui see on kooskõlas käesoleva määrusega kehtestatud raamistikuga, ning väljaspool seda raamistikku ei tohiks pädevatel asutustel olla võimalik õiguskaitse eesmärgil tegutsedes kasutada selliseid süsteeme ja töödelda sellega seoses selliseid andmeid direktiivi (EL) 2016/680 artiklis 10 loetletud põhjustel. Seoses sellega ei ole käesoleva määruse eesmärk anda õiguslikku alust isikuandmete töötlemiseks direktiivi (EL) 2016/680 artikli 8 alusel. Käesolevas määruses sätestatud eriraamistik, mis käsitleb sellist kasutamist õiguskaitse eesmärgil, ei peaks siiski hõlmama reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamist avalikult juurdepääsetavas ruumis muul otstarbel kui õiguskaitse eesmärgil, ka siis, kui seda teevad pädevad asutused. Seega ei peaks sellise muul otstarbel kui õiguskaitse eesmärgil kasutamise puhul nõudma käesoleva määruse kohast luba ega selle loa rakendamiseks sätestatud üksikasjalike riigisiseste õigusnormide kohaldamist.
(38)
La utilización de sistemas de IA para la identificación biométrica remota en tiempo real de personas físicas en espacios de acceso público con fines de garantía del cumplimiento del Derecho implica, necesariamente, el tratamiento de datos biométricos. Las normas del presente Reglamento que prohíben, con algunas excepciones, ese uso, basadas en el artículo 16 del TFUE, deben aplicarse como lex specialis con respecto a las normas sobre el tratamiento de datos biométricos que figuran en el artículo 10 de la Directiva (UE) 2016/680, con lo que se regula de manera exhaustiva dicho uso y el tratamiento de los correspondientes datos biométricos. Por lo tanto, ese uso y tratamiento deben ser posibles únicamente en la medida en que sean compatibles con el marco establecido por el presente Reglamento, sin que haya margen, fuera de dicho marco, para que las autoridades competentes, cuando actúen con fines de garantía del cumplimiento del Derecho, utilicen tales sistemas y traten dichos datos en los supuestos previstos en el artículo 10 de la Directiva (UE) 2016/680. En ese sentido, el presente Reglamento no tiene por objeto proporcionar la base jurídica para el tratamiento de datos personales en virtud del artículo 8 de la Directiva (UE) 2016/680. Sin embargo, el uso de sistemas de identificación biométrica remota en tiempo real en espacios de acceso público con fines distintos de la garantía del cumplimiento del Derecho, también por parte de las autoridades competentes, no debe estar sujeto al marco específico establecido por el presente Reglamento en lo que respecta al uso de dichos sistemas con fines de garantía del cumplimiento del Derecho. Por consiguiente, su uso con fines distintos de la garantía del cumplimiento del Derecho no debe estar sujeto al requisito de obtener una autorización previsto en el presente Reglamento ni a las normas de desarrollo aplicables del Derecho nacional que puedan hacer efectiva dicha autorización.
(39)
Igasugune biomeetriliste ja muude isikuandmete töötlemine, mis on seotud tehisintellektisüsteemide kasutamisega biomeetrilise tuvastamise jaoks, välja arvatud juhul, kui see toimub seoses käesoleva määrusega reguleeritud reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamisega avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil, peaks ka edaspidi vastama kõigile direktiivi (EL) 2016/680 artiklist 10 tulenevatele nõuetele. Muul otstarbel kui õiguskaitse eesmärgil kasutamise puhul on määruse (EL) 2016/679 artikli 9 lõike 1 ja määruse (EL) 2018/1725 artikli 10 lõikega 1 andmesubjekti biomeetriliste andmete töötlemine keelatud, välja arvatud nendes artiklites sätestatud piiratud eranditega. Määruse (EL) 2016/679 artikli 9 lõike 1 kohaldamisel on riiklikud andmekaitseasutused juba teinud keelava otsuse biomeetrilise kaugtuvastamise kasutamise kohta muudel kui õiguskaitse eesmärkidel.
(39)
Todo tratamiento de datos biométricos y de datos personales de otra índole asociado al uso de sistemas de IA para la identificación biométrica, salvo el asociado al uso de sistemas de identificación biométrica remota en tiempo real en espacios de acceso público con fines de garantía del cumplimiento del Derecho regulado por el presente Reglamento, debe seguir cumpliendo todos los requisitos derivados del artículo 10 de la Directiva (UE) 2016/680. El artículo 9, apartado 1, del Reglamento (UE) 2016/679 y el artículo 10, apartado 1, del Reglamento (UE) 2018/1725 prohíben el tratamiento de datos biométricos con fines distintos de la garantía del cumplimiento del Derecho, con las excepciones limitadas previstas en dichos artículos. En la aplicación del artículo 9, apartado 1, del Reglamento (UE) 2016/679, el uso de la identificación biométrica remota para fines distintos de la garantía del cumplimiento del Derecho ya ha sido objeto de decisiones de prohibición por parte de las autoridades nacionales de protección de datos.
(40)
ELi lepingule ja ELi toimimise lepingule lisatud protokolli nr 21 (Ühendkuningriigi ja Iirimaa seisukoha kohta vabadusel, turvalisusel ja õigusel rajaneva ala suhtes) artikli 6a kohaselt ei ole käesoleva määruse artikli 5 lõike 1 esimese lõigu punktis g sätestatud normid niivõrd, kuivõrd neid kohaldatakse biomeetrilise liigitamise süsteemide kasutamise suhtes politseikoostöö ja kriminaalasjades tehtava õigusalase koostöö valdkonna tegevustes, artikli 5 lõike 1 esimese lõigu punktis d sätestatud normid niivõrd, kuivõrd neid kohaldatakse selle sättega hõlmatud tehisintellektisüsteemide kasutamise suhtes, artikli 5 lõike 1 esimese lõigu punktis h ja lõigetes 2–6 ning artikli 26 lõikes 10 kehtestatud normid, mis võeti vastu ELi toimimise lepingu artikli 16 alusel, mis käsitlevad isikuandmete töötlemist liikmesriikide poolt ELi toimimise lepingu kolmanda osa V jaotise 4. või 5. peatüki kohaldamisalasse kuuluva tegevuse puhul, kui Iirimaa suhtes ei ole siduvad normid, mis käsitlevad õigusalast koostööd kriminaalasjades või politseikoostööd, mille raames tuleb järgida ELi toimimise lepingu artikli 16 alusel kehtestatud sätteid, Iirimaa suhtes siduvad.
(40)
De conformidad con el artículo 6 bis del Protocolo n.o 21 sobre la Posición del Reino Unido y de Irlanda respecto del Espacio de Libertad, Seguridad y Justicia, anejo al TUE y al TFUE, las normas establecidas en el artículo 5, apartado 1, párrafo primero, letra g), en la medida en que se aplica al uso de sistemas de categorización biométrica para actividades en el ámbito de la cooperación policial y la cooperación judicial en materia penal, el artículo 5, apartado 1, párrafo primero, letra d), en la medida en que se aplica al uso de sistemas de IA comprendidos en el ámbito de aplicación de dicho artículo, el artículo 5, apartado 1, párrafo primero, letra h), y apartados 2 a 6, y el artículo 26, apartado 10, del presente Reglamento, adoptadas basándose en el artículo 16 del TFUE que se refieran al tratamiento de datos de carácter personal por los Estados miembros en el ejercicio de las actividades comprendidas en el ámbito de aplicación de la tercera parte, título V, capítulos 4 o 5, de dicho Tratado solo serán vinculantes para Irlanda en la medida en que sean vinculantes para este Estado normas de la Unión que regulen formas de cooperación judicial en materia penal y de cooperación policial en cuyo marco deban respetarse las disposiciones establecidas basándose en el artículo 16 del TFUE.
(41)
ELi lepingule ja ELi toimimise lepingule lisatud protokolli nr 22 (Taani seisukoha kohta) artiklite 2 ja 2a kohaselt ei ole käesoleva määruse artikli 5 lõike 1 esimese lõigu punktis g sätestatud normid niivõrd, kuivõrd neid kohaldatakse biomeetrilise liigitamise süsteemide kasutamise suhtes politseikoostöö ja kriminaalasjades tehtava õigusalase koostöö valdkonna tegevustes, artikli 5 lõike 1 esimese lõigu punktis d sätestatud normid niivõrd, kuivõrd neid kohaldatakse selle sättega hõlmatud tehisintellektisüsteemide kasutamise suhtes, artikli 5 lõike 1 esimese lõigu punktis h ja lõigetes 2–6 ning artikli 26 lõikes 10 kehtestatud normid, mis võeti vastu ELi toimimise lepingu artikli 16 alusel ja mis käsitlevad isikuandmete töötlemist liikmesriikide poolt ELi toimimise lepingu kolmanda osa V jaotise 4. või 5. peatüki kohaldamisalasse kuuluva tegevuse puhul, Taani suhtes siduvad ega kohaldatavad.
(41)
De conformidad con lo dispuesto en los artículos 2 y 2 bis del Protocolo n.o 22 sobre la Posición de Dinamarca, anejo al TUE y al TFUE, las normas establecidas en el artículo 5, apartado 1, párrafo primero, letra g), en la medida en que se aplica al uso de sistemas de categorización biométrica para actividades en el ámbito de la cooperación policial y la cooperación judicial en materia penal, el artículo 5, apartado 1, párrafo primero, letra d), en la medida en que se aplican al uso de sistemas de IA comprendidos en el ámbito de aplicación de dicho artículo, el artículo 5, apartado 1, párrafo primero, letra h), y apartados 2 a 6, y el artículo 26, apartado 10, del presente Reglamento, adoptadas sobre la base del artículo 16 del TFUE que se refieran al tratamiento de datos de carácter personal por los Estados miembros en el ejercicio de las actividades comprendidas en el ámbito de aplicación de la tercera parte, título V, capítulos 4 o 5, de dicho Tratado, no vincularán a Dinamarca ni le serán aplicables.
(42)
Kooskõlas süütuse presumptsiooniga tuleks füüsilisi isikuid liidus alati hinnata nende tegeliku käitumise põhjal. Füüsilisi isikuid ei tohiks kunagi hinnata tehisintellekti prognoosil põhineva käitumise alusel, tuginedes üksnes nende profiilianalüüsile, isikuomadustele või erijoontele, nagu rahvus, sünnikoht, elukoht, laste arv, võlatase või automark, ilma et oleks olemas põhjendatud kahtlus, et see isik on seotud kuritegeliku tegevusega, mis tugineb objektiivsetele kontrollitavatele faktidele, ja ilma inimhinnanguta. Seetõttu tuleks keelata sellised füüsiliste isikutega seotud riskihindamised, mille eesmärk on hinnata nende rikkumise tõenäosust või prognoosida tegelikku või potentsiaalset kuriteo toimepanemist üksnes nende profiilianalüüsi või tema isikuomaduste ja erijoonte hindamise alusel. Ühelgi juhul ei taheta nimetatud keeluga osutada sellisele riskianalüüsile või puudutada sellist riskianalüüsi, mis ei põhine üksikisikute profiilianalüüsil või üksikisikute isikuomadustel ja erijoontel, näiteks tehisintellektisüsteemide puhul, mis kasutavad riskianalüüsi, et hinnata ettevõtjate finantspettuse tõenäosust kahtlaste tehingute või riskianalüüsivahendite alusel, et prognoosida uimastite või ebaseaduslike kaupade tõenäolist asukohta tolli poolt, näiteks teadaolevatel salakaubaveo marsruutidel.
(42)
En consonancia con la presunción de inocencia, las personas físicas de la Unión siempre deben ser juzgadas basándose en su comportamiento real. Las personas físicas nunca deben ser juzgadas a partir de comportamientos predichos por una IA basados únicamente en la elaboración de sus perfiles, en los rasgos o características de su personalidad, como la nacionalidad, el lugar de nacimiento, el lugar de residencia, el número de hijos, el nivel de endeudamiento o el tipo de vehículo, sin una valoración humana y sin que exista una sospecha razonable, basada en hechos objetivos comprobables, de que dicha persona está implicada en una actividad delictiva. Por lo tanto, deben prohibirse las evaluaciones de riesgos realizadas con respecto a personas físicas para evaluar la probabilidad de que cometan un delito o para predecir la comisión de un delito real o potencial basándose únicamente en la elaboración de perfiles de esas personas físicas o la evaluación de los rasgos y características de su personalidad. En cualquier caso, dicha prohibición no se refiere o atañe a los análisis de riesgos que no estén basados en la elaboración de perfiles de personas o en los rasgos y características de la personalidad de las personas, como los sistemas de IA que utilizan los análisis de riesgos para evaluar la probabilidad de fraude financiero por parte de empresas sobre la base de transacciones sospechosas o las herramientas de análisis de riesgo para predecir la probabilidad de localización de estupefacientes y mercancías ilícitas por parte de las autoridades aduaneras, por ejemplo basándose en las rutas de tráfico conocidas.
(43)
Keelata tuleks selliste tehisintellektisüsteemide turule laskmine, kasutusele võtmine või kasutamine, mis loovad või laiendavad näotuvastuse andmebaase internetist või videovalve salvestistest näokujutiste kindla suunitluseta ekstraheerimise kaudu, kuna see kasutusviis suurendab massilise jälgimise tunnet ja võib kaasa tuua põhiõiguste, sealhulgas eraelu puutumatuse õiguse ränga rikkumise.
(43)
La introducción en el mercado, la puesta en servicio para ese fin concreto o la utilización de sistemas de IA que creen o amplíen bases de datos de reconocimiento facial mediante la extracción no selectiva de imágenes faciales a partir de internet o de imágenes de circuito cerrado de televisión deben estar prohibidas, pues esas prácticas agravan el sentimiento de vigilancia masiva y pueden dar lugar a graves violaciones de los derechos fundamentales, incluido el derecho a la intimidad.
(44)
Tõsist muret tekitab selliste tehisintellektisüsteemide teaduslik alus, mille eesmärk on tuvastada või tuletada emotsioone, eelkõige seetõttu, et emotsioonide väljendamine on kultuuride ja olukordade lõikes ning isegi ühe inimese puhul väga erinev. Selliste süsteemide peamisteks puudusteks on piiratud usaldusväärsus, spetsiifilisuse puudumine ja piiratud üldistatavus. Seetõttu võivad tehisintellektisüsteemid, mis tuvastavad või tuletavad füüsiliste isikute emotsioone või kavatsusi nende biomeetriliste andmete põhjal, viia diskrimineerivate tulemusteni ning sekkuda asjaomaste isikute õigustesse ja vabadustesse. Võttes arvesse võimu ebavõrdsust töö või hariduse kontekstis koos nende süsteemide sekkuva olemusega, võivad sellised süsteemid kaasa tuua füüsiliste isikute või nende rühmade kahjustava või ebasoodsa kohtlemise. Seetõttu tuleks keelata selliste tehisintellektisüsteemide turule laskmine, kasutusele võtmine või kasutamine, mis on ette nähtud üksikisikute emotsionaalse seisundi tuvastamiseks töökoha ja haridusega seotud olukordades. See keeld ei tohiks hõlmata tehisintellektisüsteeme, mis lastakse turule üksnes meditsiinilistel või ohutusega seotud põhjustel, näiteks terapeutiliseks kasutuseks mõeldud süsteeme.
(44)
Existe una gran preocupación respecto a la base científica de los sistemas de IA que procuran detectar o deducir las emociones, especialmente porque la expresión de las emociones varía de forma considerable entre culturas y situaciones, e incluso en una misma persona. Algunas de las deficiencias principales de estos sistemas son la fiabilidad limitada, la falta de especificidad y la limitada posibilidad de generalizar. Por consiguiente, los sistemas de IA que detectan o deducen las emociones o las intenciones de las personas físicas a partir de sus datos biométricos pueden tener resultados discriminatorios y pueden invadir los derechos y las libertades de las personas afectadas. Teniendo en cuenta el desequilibrio de poder en el contexto laboral o educativo, unido al carácter intrusivo de estos sistemas, dichos sistemas podrían dar lugar a un trato perjudicial o desfavorable de determinadas personas físicas o colectivos enteros. Por tanto, debe prohibirse la introducción en el mercado, la puesta en servicio y el uso de sistemas de IA destinados a ser utilizados para detectar el estado emocional de las personas en situaciones relacionadas con el lugar de trabajo y el ámbito educativo. Dicha prohibición no debe aplicarse a los sistemas de IA introducidos en el mercado estrictamente con fines médicos o de seguridad, como los sistemas destinados a un uso terapéutico.
(45)
Käesolev määrus ei tohiks mõjutada kasutusviise, mis on keelatud liidu õigusega, sealhulgas andmekaitseõiguse, diskrimineerimisvastase õiguse, tarbijakaitseõiguse ja konkurentsiõiguse alusel.
(45)
El presente Reglamento no debe afectar a las prácticas prohibidas por el Derecho de la Unión, incluido el Derecho de la Unión en materia de protección de datos, de no discriminación, de protección de los consumidores y sobre competencia.
(46)
Suure riskiga tehisintellektisüsteeme tohiks liidus turule lasta, kasutusele võtta või kasutada üksnes siis, kui see vastab teatavatele kohustuslikele nõuetele. Need nõuded peaksid tagama, et liidus kättesaadavad suure riskiga tehisintellektisüsteemid või tehisintellektisüsteemid, mille väljundit kasutatakse liidus muul viisil, ei kujuta endast vastuvõetamatut riski liidu õigusega tunnustatud ja kaitstud liidu oluliste avalike huvide suhtes. Uue õigusraamistiku alusel, mida on täpsustatud komisjoni 2022. aasta sinises raamatus ELi toote-eeskirjade rakendamise kohta, (20) on üldreegel, et ühe toote suhtes võib olla vaja kohaldada rohkem kui ühte liidu ühtlustamiõigusakti, näiteks Euroopa Parlamendi ja nõukogu määruseid (EL) 2017/745 (21) ja (EL) 2017/746 (22) või Euroopa Parlamendi ja nõukogu direktiivi 2006/42/EÜ, (23) kuna kättesaadavaks tegemine või kasutusele võtmine saab toimuda ainult siis, kui toode vastab kõigile kohaldatavatele liidu ühtlustamisõigusaktidele. Järjepidevuse tagamiseks ja tarbetu halduskoormuse või kulu ärahoidmiseks peaks üht või mitut suure riskiga tehisintellektisüsteemi sisaldava toote pakkujatel, mille suhtes kohaldatakse käesoleva määruse ja käesoleva määruse lisas loetletud liidu ühtlustamisõigusaktide nõudeid, olema paindlikkus operatiivsete otsuste tegemisel selle kohta, kuidas tagada üht või mitut tehisintellektisüsteemi sisaldava toote vastavus kõigile liidu ühtlustamisõigusaktidega kohaldatavatele nõuetele optimaalseimal viisil. Suure riskiga tehisintellektisüsteemideks tuleks pidada üksnes selliseid tehisintellektisüsteeme, millel on liidus oluline kahjulik mõju inimeste tervisele, turvalisusele ja põhiõigustele, ning selline piirang minimeeriks kõik võimalikud rahvusvahelise kaubanduse piirangud.
(46)
La introducción en el mercado de la Unión, la puesta en servicio o la utilización de sistemas de IA de alto riesgo debe supeditarse al cumplimiento por su parte de determinados requisitos obligatorios, los cuales deben garantizar que los sistemas de IA de alto riesgo disponibles en la Unión o cuyos resultados de salida se utilicen en la Unión no planteen riesgos inaceptables para intereses públicos importantes de la Unión, reconocidos y protegidos por el Derecho de la Unión. Sobre la base del nuevo marco legislativo, tal como se aclara en la Comunicación de la Comisión titulada «“Guía azul” sobre la aplicación de la normativa europea relativa a los productos, de 2022» (20), la norma general es que más de un acto jurídico de la legislación de armonización de la Unión, como los Reglamentos (UE) 2017/745 (21) y (UE) 2017/746 (22) del Parlamento Europeo y del Consejo o la Directiva 2006/42/CE del Parlamento Europeo y del Consejo (23) puedan aplicarse a un producto, dado que la introducción en el mercado o la puesta en servicio solo pueden tener lugar cuando el producto cumple toda la legislación de armonización de la Unión aplicable. A fin de garantizar la coherencia y evitar cargas administrativas o costes innecesarios, los proveedores de un producto que contenga uno o varios sistemas de IA de alto riesgo, a los que se apliquen los requisitos del presente Reglamento y de la legislación de armonización de la Unión incluida en una lista de un anexo del presente Reglamento, deben ser flexibles en lo que respecta a las decisiones operativas relativas a la manera de garantizar la conformidad de un producto que contenga uno o varios sistemas de IA con todos los requisitos aplicables de la legislación de armonización de la Unión de manera óptima. La clasificación de un sistema de IA como «de alto riesgo» debe limitarse a aquellos sistemas de IA que tengan un efecto perjudicial considerable en la salud, la seguridad y los derechos fundamentales de las personas de la Unión, y dicha limitación debe reducir al mínimo cualquier posible restricción del comercio internacional.
(47)
Tehisintellektisüsteemid võivad kahjustada inimeste tervist ja ohutust, eriti juhul, kui sellised süsteemid on toodete turvakomponendid. Kooskõlas liidu ühtlustamisõigusaktide eesmärkidega hõlbustada toodete vaba liikumist siseturul ja tagada, et siseturule saabuvad ainult ohutud ja muul viisil nõuetele vastavad tooted, on oluline igakülgselt ära hoida ja leevendada ohutusriske, mille toode kui tervik võib põhjustada oma digitaalsete komponentide, sealhulgas tehisintellektisüsteemide tõttu. Näiteks üha autonoomsemad robotid peaksid suutma ohutult töötada ja täita oma ülesandeid keerukates keskkondades, seda nii tootmise kui ka isikliku abi ja hoolduse valdkonnas. Samamoodi peaksid usaldusväärsed ja täpsed olema üha keerulisemad diagnostikasüsteemid ja inimeste otsuseid toetavad süsteemid tervishoiusektoris, kus on tegemist elu ja tervise seisukohast eriti oluliste otsustega.
(47)
Los sistemas de IA pueden tener un efecto adverso para la salud y la seguridad de las personas, en particular cuando funcionan como componentes de seguridad de productos. En consonancia con los objetivos de la legislación de armonización de la Unión de facilitar la libre circulación de productos en el mercado interior y de velar por que solo lleguen al mercado aquellos productos que sean seguros y conformes, es importante prevenir y mitigar debidamente los riesgos de seguridad que pueda generar un producto en su conjunto debido a sus componentes digitales, entre los que pueden figurar los sistemas de IA. Por ejemplo, los robots cada vez más autónomos que se utilizan en las fábricas o con fines de asistencia y atención personal deben poder funcionar y desempeñar sus funciones de manera segura en entornos complejos. Del mismo modo, en el sector sanitario, donde puede haber repercusiones especialmente importantes en la vida y la salud, los sistemas de diagnóstico y de apoyo a las decisiones humanas, cuya sofisticación es cada vez mayor, deben ser fiables y precisos.
(48)
Tehisintellektisüsteemi liigitamisel suure riskiga tehisintellektisüsteemiks on eriti oluline see, kui ulatuslik on tehisintellektisüsteemi kahjulik mõju põhiõiguste hartaga kaitstud põhiõigustele. Nende õiguste hulka kuuluvad õigus inimväärikusele, era- ja perekonnaelu austamine, isikuandmete kaitse, väljendus- ja teabevabadus, kogunemis- ja ühinemisvabadus, õigus mittediskrimineerimisele, õigus haridusele, tarbijakaitse, töötajate õigused, puuetega inimeste õigused, sooline võrdõiguslikkus, intellektuaalomandiõigus, õigus tõhusale õiguskaitsevahendile ja õiglasele kohtulikule arutamisele, õigus kaitsele, süütuse presumptsioon ja õigus heale haldusele. Lisaks nimetatud õigustele on oluline rõhutada asjaolu, et lastel on eriõigusi, mis on sätestatud põhiõiguste harta artiklis 24 ja ÜRO lapse õiguste konventsioonis, mida on põhjalikumalt käsitletud ÜRO lapse õiguste komitee üldises märkuses nr 25 digikeskkonna kohta, kusjuures mõlema dokumendi kohaselt tuleb arvesse võtta laste haavatavust ja näha ette nende heaoluks vajalik kaitse ja hoolitsus. Hinnates, kui tõsist kahju võib tehisintellektisüsteem põhjustada, muu hulgas inimeste tervise ja ohutuse vallas, tuleks kaaluda ka põhiõiguste hartas sätestatud ja liidu poliitikameetmetega rakendatud põhiõigust kõrgetasemelisele keskkonnakaitsele.
(48)
La magnitud de las consecuencias adversas de un sistema de IA para los derechos fundamentales protegidos por la Carta es especialmente importante a la hora de clasificar un sistema de IA como de alto riesgo. Entre dichos derechos se incluyen el derecho a la dignidad humana, el respeto de la vida privada y familiar, la protección de datos de carácter personal, la libertad de expresión y de información, la libertad de reunión y de asociación, el derecho a la no discriminación, el derecho a la educación, la protección de los consumidores, los derechos de los trabajadores, los derechos de las personas discapacitadas, la igualdad entre hombres y mujeres, los derechos de propiedad intelectual, el derecho a la tutela judicial efectiva y a un juez imparcial, los derechos de la defensa y la presunción de inocencia, y el derecho a una buena administración. Además de esos derechos, conviene poner de relieve el hecho de que los menores poseen unos derechos específicos consagrados en el artículo 24 de la Carta y en la Convención sobre los Derechos del Niño de las Naciones Unidas, que se desarrollan con más detalle en la observación general n.o 25 de la Convención sobre los Derechos del Niño de Naciones Unidas relativa a los derechos de los niños en relación con el entorno digital. Ambos instrumentos exigen que se tengan en consideración las vulnerabilidades de los menores y que se les brinde la protección y la asistencia necesarias para su bienestar. Cuando se evalúe la gravedad del perjuicio que puede ocasionar un sistema de IA, también en lo que respecta a la salud y la seguridad de las personas, también se debe tener en cuenta el derecho fundamental a un nivel elevado de protección del medio ambiente consagrado en la Carta y aplicado en las políticas de la Unión.
(49)
Mis puudutab suure riskiga tehisintellektisüsteeme, mis on toodete või süsteemide turvakomponendid või mis on ise tooted või süsteemid, mis kuuluvad Euroopa Parlamendi ja nõukogu määruse (EÜ) nr 300/2008, (24) Euroopa Parlamendi ja nõukogu määruse (EL) nr 167/2013, (25) Euroopa Parlamendi ja nõukogu määruse (EL) nr 168/2013, (26) Euroopa Parlamendi ja nõukogu direktiivi 2014/90/EL, (27) Euroopa Parlamendi ja nõukogu direktiivi (EL) 2016/797 (28), Euroopa Parlamendi ja nõukogu määruse (EL) 2018/858, (29) Euroopa Parlamendi ja nõukogu määruse (EL) 2018/1139 (30) ja Euroopa Parlamendi ja nõukogu määruse (EL) 2019/2144 (31) kohaldamisalasse, siis on asjakohane muuta kõnealuseid õigusakte tagamaks, et kui komisjon võtab nimetatud õigusaktide alusel vastu asjaomaseid delegeeritud või rakendusakte, võtab ta arvesse käesolevas määruses suure riskiga tehisintellektisüsteemide kohta sätestatud kohustuslikke nõudeid, tuginedes iga sektori tehnilistele ja regulatiivsetele iseärasustele ja ilma, et ta sekkuks nende õigusaktidega kehtestatud olemasolevatesse juhtimis-, vastavushindamis- ja jõustamismehhanismidesse või -asutustesse.
(49)
En relación con los sistemas de IA de alto riesgo que son componentes de seguridad de productos o sistemas, o que son en sí mismos productos o sistemas que entran en el ámbito de aplicación del Reglamento (CE) n.o 300/2008 del Parlamento Europeo y del Consejo (24), el Reglamento (UE) n.o 167/2013 del Parlamento Europeo y del Consejo (25), el Reglamento (UE) n.o 168/2013 del Parlamento Europeo y del Consejo (26), la Directiva 2014/90/UE del Parlamento Europeo y del Consejo (27), la Directiva (UE) 2016/797 del Parlamento Europeo y del Consejo (28), el Reglamento (UE) 2018/858 del Parlamento Europeo y del Consejo (29), el Reglamento (UE) 2018/1139 del Parlamento Europeo y del Consejo (30), y el Reglamento (UE) 2019/2144 del Parlamento Europeo y del Consejo (31), procede modificar dichos actos para garantizar que, cuando la Comisión adopte actos delegados o de ejecución pertinentes basados en ellos, tenga en cuenta los requisitos obligatorios para los sistemas de IA de alto riesgo previstos en el presente Reglamento, atendiendo a las particularidades técnicas y reglamentarias de los distintos sectores y sin interferir con los mecanismos y las autoridades de gobernanza, evaluación de la conformidad y control del cumplimiento vigentes establecidos en dichos actos.
(50)
Tehisintellektisüsteemid, mis on toodete turvakomponendid või mis on ise tooted, mis kuuluvad teatavate käesoleva määruse lisas loetletud liidu ühtlustamisõigusaktide kohaldamisalasse, on asjakohane liigitada käesoleva määruse alusel suure riskiga tehisintellektisüsteemideks, kui asjaomane toode läbib vastavushindamismenetluse kolmandast isikust vastavushindamisasutuses vastavalt asjaomastele liidu ühtlustamisõigusaktidele. Sellised tooted on eeskätt masinad, mänguasjad, liftid, plahvatusohtlikus keskkonnas kasutatavad seadmed ja kaitsesüsteemid, raadioseadmed, surveseadmed, lõbusõidulaevade varustus, köisteed, küttegaasiseadmed, meditsiiniseadmed, in vitro diagnostika meditsiiniseadmed, lennundus ja autotööstus.
(50)
En cuanto a los sistemas de IA que son componentes de seguridad de productos, o que son productos en sí mismos, y entran dentro del ámbito de aplicación de determinados actos legislativos de armonización de la Unión enumerados en un anexo del presente Reglamento, procede clasificarlos como de alto riesgo en virtud del presente Reglamento si el producto de que se trate es sometido a un procedimiento de evaluación de la conformidad con un organismo de evaluación de la conformidad de terceros de acuerdo con dichos actos legislativos de armonización de la Unión. Esos productos son, en concreto, máquinas, juguetes, ascensores, equipo y sistemas de protección para uso en atmósferas potencialmente explosivas, equipos radioeléctricos, equipos a presión, equipos de embarcaciones de recreo, instalaciones de transporte por cable, aparatos que queman combustibles gaseosos, productos sanitarios, productos sanitarios para diagnóstico in vitro, automoción y aviación.
(51)
See, kui tehisintellektisüsteem liigitatakse käesoleva määruse alusel suure riskiga tehisintellektisüsteemiks, ei peaks ilmtingimata tähendama, et toodet, mille turvakomponent see tehisintellektisüsteem on, või tehisintellektisüsteemi ennast kui toodet peetakse suure riskiga tooteks vastavalt selle toote suhtes kohaldatavate asjaomaste liidu ühtlustamisõigusaktidega kehtestatud kriteeriumidele. Esmajoones puudutab see määruseid (EL) 2017/745 ja (EL) 2017/746, kui keskmise ja suure riskiga toodete puhul on ette nähtud kolmanda isiku tehtav vastavushindamine.
(51)
Que un sistema de IA se clasifique como de alto riesgo en virtud del presente Reglamento no significa necesariamente que el producto del que sea componente de seguridad, o el propio sistema de IA como producto, se considere de «alto riesgo» conforme a los criterios establecidos en la correspondiente legislación de armonización de la Unión que se aplique al producto. Tal es el caso, en particular, de los Reglamentos (UE) 2017/745 y (UE) 2017/746, que prevén una evaluación de la conformidad de terceros de los productos de riesgo medio y alto.
(52)
Autonoomsed tehisintellektisüsteemid, nimelt suure riskiga tehisintellektisüsteemid, mis ei ole toodete turvakomponendid või mis on ise tooted, on asjakohane liigitada suure riskiga tehisintellektisüsteemideks, kui need põhjustavad oma sihtotstarbe tõttu suure riski inimeste tervisele ja ohutusele või põhiõigustele, võttes arvesse nii võimaliku kahju raskusastet kui ka selle tekkimise tõenäosust, ja kui neid kasutatakse käesolevas määruses eelnevalt täpselt kindlaks määratud valdkondades. Nende süsteemide kindlakstegemine põhineb samadel meetoditel ja kriteeriumidel, mida on kavas kohaldada suure riskiga tehisintellektisüsteemide loetelu tulevaste võimalike muudatuste suhtes, mida komisjonil peaks olema õigus delegeeritud õigusaktidega vastu võtta, et arvestada tehnoloogia kiire arengu ja võimalikke muutustega tehisintellektisüsteemide kasutamises.
(52)
En cuanto a los sistemas de IA independientes, a saber, aquellos sistemas de IA de alto riesgo que no son componentes de seguridad de productos, o que son productos en sí mismos, deben clasificarse como de alto riesgo si, a la luz de su finalidad prevista, presentan un alto riesgo de ser perjudiciales para la salud y la seguridad o los derechos fundamentales de las personas, teniendo en cuenta tanto la gravedad del posible perjuicio como la probabilidad de que se produzca, y se utilizan en varios ámbitos predefinidos especificados en el presente Reglamento. Para identificar dichos sistemas, se emplean la misma metodología y los mismos criterios previstos para la posible modificación futura de la lista de sistemas de IA de alto riesgo, que la Comisión debe estar facultada para adoptar, mediante actos delegados, a fin de tener en cuenta el rápido ritmo del desarrollo tecnológico, así como los posibles cambios en el uso de los sistemas de IA.
(53)
Samuti on oluline selgitada, et võib esineda konkreetseid juhtumeid, kus käesolevas määruses eelnevalt kindlaksmääratud valdkondades kasutatavad tehisintellektisüsteemid ei too kaasa olulist riski nendes valdkondades kaitstavatele õiguslikele huvidele, sest need ei mõjuta oluliselt otsuste tegemist ega kahjusta neid huve oluliselt. Käesoleva määruse kohaldamisel tuleks tehisintellektisüsteemi, mis ei mõjuta oluliselt otsuste tegemise tulemust, käsitada tehisintellektisüsteemina, mis ei mõjuta inim- ega automatiseeritud otsuste tegemise sisu ja seega ka tulemust. Tehisintellektisüsteem, mis ei mõjuta oluliselt otsuste tegemise tulemust, võib hõlmata olukordi, kus on täidetud üks või mitu järgmistest tingimustest. Esimene selline tingimus peaks olema see, et tehisintellektisüsteem on ette nähtud kitsa protseduurilise ülesande täitmiseks, näiteks selline tehisintellektisüsteem, mis muudab struktureerimata andmed struktureeritud andmeteks, tehisintellektisüsteem, mis liigitab sissetulevad dokumendid kategooriatesse, või tehisintellektisüsteem, mida kasutatakse duplikaatide avastamiseks paljude avalduste seas. Need ülesanded on nii kitsad ja piiratud iseloomuga, et nendega kaasnevad vaid piiratud riskid, mida ei suurenda tehisintellektisüsteemi kasutamine kontekstis, mis on loetletud käesoleva määruse lisas suure riskiga kasutusena. Teine tingimus peaks olema see, et tehisintellektisüsteemi täidetava ülesande eesmärk on parandada varem lõpule viidud inimtegevuse tulemusi, mis võivad olla käesoleva määruse lisas loetletud suure riskiga kasutuse seisukohalt asjakohased. Kui neid omadusi silmas pidada, siis lisab tehisintellektisüsteem inimtegevusele üksnes täiendava kihi, mistõttu on risk väiksem. Seda tingimust kohaldataks näiteks tehisintellektisüsteemide suhtes, mille eesmärk on parandada varem koostatud dokumentides kasutatavat keelt, näiteks seoses tooni ametlikkuse, akadeemilise keelestiiliga või teksti vastavusse viimisega teatava kaubamärgisõnumiga. Kolmas tingimus peaks olema see, et tehisintellektisüsteem on ette nähtud otsuste tegemise mustrite või varasematest otsustusmustritest kõrvalekallete tuvastamiseks. Risk väheneks, sest tehisintellektisüsteemi kasutamine järgneb varem lõpule viidud inimhindamisele, mida ei kavatseta asendada ega mõjutada ilma nõuetekohase inimkontrollita. Sellise tehisintellektisüsteemi alla käib näiteks see, kui õpetaja teatavat hindamismustrit arvesse võttes saab tagantjärele kontrollida, kas õpetaja võis hindamismustrist kõrvale kalduda, et võimalikele vastuoludele või kõrvalekalletele tähelepanu juhtida. Neljas tingimus peaks olema, et tehisintellektisüsteem on ette nähtud täitma ülesannet, mis üksnes valmistab ette käesoleva määruse lisas loetletud tehisintellektisüsteemidega seotud hindamist, mistõttu on süsteemi väljundi võimalik mõju seoses järgneva hindamisega seotud riskiga väga madal. See tingimus hõlmab muu hulgas arukaid lahendusi dokumentide käitlemiseks, mille seas on mitmesugused funktsioonid alates indekseerimisest, otsingust, teksti- ja kõnetöötlusest või andmete sidumisest muude andmeallikatega, või tehisintellektisüsteeme, mida kasutatakse algdokumentide tõlkimiseks. Igal juhul tuleb silmas pidada, et risk, et käesoleva määruse lisas loetletud suure riskiga kasutusega tehisintellektisüsteemid põhjustavad tervisele, turvalisusele või põhiõigustele kahju, on oluline, kui tehisintellektisüsteem hõlmab profiilianalüüsi määruse (EL) 2016/679 artikli 4 punkti 4 või direktiivi (EL) 2016/680 artikli 3 punkti 4 või määruse (EL) 2018/1725 artikli 3 punkti 5 tähenduses. Jälgitavuse ja läbipaistvuse tagamiseks peaks pakkuja, kes leiab, et tehisintellektisüsteem ei ole eespool osutatud tingimuste alusel suure riskiga, koostama enne süsteemi turule laskmist või kasutusele võtmist hindamise dokumentatsiooni ning esitama kõnealuse nõudmise korral riikide pädevatele asutustele. Selline pakkuja peaks olema kohustatud registreerima tehisintellektisüsteemi käesoleva määruse alusel loodud ELi andmebaasis. Selleks et anda täiendavaid suuniseid selliste tingimuste praktiliseks rakendamiseks, mille alusel käesoleva määruse lisas loetletud suure riskiga tehisintellektisüsteemid ei ole erandjuhul suure riskiga, peaks komisjon pärast nõukojaga konsulteerimist esitama suunised, milles täpsustatakse, et praktilisele rakendamisele lisatakse nii suure riskiga tehisintellektisüsteemide kasutusjuhtumite praktiliste näidete põhjalik loetelu kui ka selliste tehisintellektisüsteemide, mis ei ole suure riskiga, kasutusjuhtumite praktiliste näidete põhjalik loetelu.
(53)
También es importante aclarar que pueden existir casos específicos en los que los sistemas de IA referidos en ámbitos predefinidos especificados en el presente Reglamento no entrañen un riesgo considerable de causar un perjuicio a los intereses jurídicos amparados por dichos ámbitos, dado que no influyen sustancialmente en la toma de decisiones o no perjudican dichos intereses sustancialmente. A efectos del presente Reglamento, por sistema de IA que no influye sustancialmente en el resultado de la toma de decisiones debe entenderse un sistema de IA que no afecta al fondo, ni por consiguiente al resultado, de la toma de decisiones, ya sea humana o automatizada. Un sistema de IA que no influye sustancialmente en el resultado de la toma de decisiones podría incluir situaciones en las que se cumplen una o varias de las siguientes condiciones. La primera de dichas condiciones debe ser que el sistema de IA esté destinado a realizar una tarea de procedimiento delimitada, como un sistema de IA que transforme datos no estructurados en datos estructurados, un sistema de IA que clasifique en categorías los documentos recibidos o un sistema de IA que se utilice para detectar duplicados entre un gran número de aplicaciones. La naturaleza de esas tareas es tan restringida y limitada que solo presentan riesgos limitados que no aumentan por la utilización de un sistema de IA en un contexto que un anexo al presente Reglamento recoja como uso de alto riesgo. La segunda condición debe ser que la tarea realizada por el sistema de IA esté destinada a mejorar el resultado de una actividad previa llevada a cabo por un ser humano, que pudiera ser pertinente a efectos de las utilizaciones de alto riesgo enumeradas en un anexo del presente Reglamento. Teniendo en cuenta esas características, el sistema de IA solo añade un nivel adicional a la actividad humana, entrañando por consiguiente un riesgo menor. Esa condición se aplicaría, por ejemplo, a los sistemas de IA destinados a mejorar el lenguaje utilizado en documentos ya redactados, por ejemplo, en lo referente al empleo de un tono profesional o de un registro lingüístico académico o a la adaptación del texto a una determinada comunicación de marca. La tercera condición debe ser que el sistema de IA esté destinado a detectar patrones de toma de decisiones o desviaciones respecto de patrones de toma de decisiones anteriores. El riesgo sería menor debido a que el sistema de IA se utiliza tras una valoración humana previamente realizada y no pretende sustituirla o influir en ella sin una revisión adecuada por parte de un ser humano. Por ejemplo, entre los sistemas de IA de este tipo, se incluyen aquellos que pueden utilizarse para comprobar a posteriori si un profesor puede haberse desviado de su patrón de calificación determinado, a fin de llamar la atención sobre posibles incoherencias o anomalías. La cuarta condición debe ser que el sistema de IA esté destinado a realizar una tarea que solo sea preparatoria de cara a una evaluación pertinente a efectos de los sistemas de IA enumerados en el anexo del presente Reglamento, con lo que la posible repercusión de los resultados de salida del sistema sería muy escasa en términos de representar un riesgo para la subsiguiente evaluación. Esa condición comprende, entre otras cosas, soluciones inteligentes para la gestión de archivos, lo que incluye funciones diversas tales como la indexación, la búsqueda, el tratamiento de texto y del habla o la vinculación de datos a otras fuentes de datos, o bien los sistemas de IA utilizados para la traducción de los documentos iniciales. En cualquier caso, debe considerarse que los sistemas de IA utilizados en casos de alto riesgo enumerados en un anexo del presente Reglamento presentan un riesgo significativo de menoscabar la salud y la seguridad o los derechos fundamentales si el sistema de IA conlleva la elaboración de perfiles en el sentido del artículo 4, punto 4, del Reglamento (UE) 2016/679, del artículo 3, punto 4, de la Directiva (UE) 2016/680 o del artículo 3, punto 5, del Reglamento (UE) 2018/1725. Para garantizar la trazabilidad y la transparencia, los proveedores que, basándose en las condiciones antes citadas, consideren que un sistema de IA no es de alto riesgo, deben elaborar la documentación de la evaluación previamente a la introducción en el mercado o la entrada en servicio de dicho sistema de IA y facilitarla a las autoridades nacionales competentes cuando estas lo soliciten. Dichos proveedores deben tener la obligación de registrar el sistema en la base de datos de la UE creada en virtud del presente Reglamento. Con el fin de proporcionar orientaciones adicionales sobre la aplicación práctica de las condiciones con arreglo a las cuales los sistemas de IA enumerados en un anexo del presente Reglamento no se consideran, con carácter excepcional, de alto riesgo, la Comisión debe, previa consulta al Consejo de IA, proporcionar directrices que especifiquen dicha aplicación práctica, completadas por una lista exhaustiva de ejemplos prácticos de casos de uso de sistemas de IA que sean de alto riesgo y de casos de uso que no lo sean.
(54)
Kuna biomeetrilised andmed on isikuandmete eriliik, on asjakohane liigitada mitmed biomeetriliste süsteemide kriitilised kasutusjuhtumid kõrge riskiga kategooriateks, kui nende kasutamine on asjaomase liidu ja riigisisese õigusega lubatud. Füüsiliste isikute biomeetrilise kaugtuvastamise jaoks mõeldud tehisintellektisüsteemide tehniline ebatäpsus võib kaasa tuua tulemuste kallutatuse ja põhjustada diskrimineerimist. Kallutatud tulemuste ja diskrimineeriva mõju risk on eriti arvestatav seoses vanuse, etnilise päritolu, rassi, soo või puuetega. Võttes arvesse riske, mida biomeetrilise kaugtuvastamise süsteemid põhjustavad, tuleks need sellest lähtuvalt liigitada suure riskiga süsteemideks. Selline klassifikatsioon ei hõlma tehisintellektisüsteeme, mis on ette nähtud biomeetriliseks kontrolliks, kaasa arvatud autentimiseks, mille ainus eesmärk on kinnitada, et konkreetne füüsiline isik on isik, kes ta väidab end olevat, ning kinnitada füüsilise isiku isikusamasust üksnes selleks, et saada juurdepääs teenusele, avada seade või saada juurdepääsuluba ruumidesse sisenemiseks. Lisaks tuleks suure riskiga tehisintellektisüsteemideks liigitada tehisintellektisüsteemid, mis on ette nähtud biomeetriliseks liigitamiseks määruse (EL) 2016/679 artikli 9 lõikega 1 kaitstud tundlike atribuutide või erijoonte alusel, mis põhinevad biomeetrilistel andmetel, kui need ei ole käesoleva määrusega keelatud, ja emotsioonituvastussüsteemid, mis ei ole käesoleva määrusega keelatud. Biomeetrilisi süsteeme, mis on ette nähtud üksnes küberturvalisuse ja isikuandmete kaitse meetmete võimaldamiseks, ei tohiks pidada suure riskiga tehisintellektisüsteemideks.
(54)
Dado que los datos biométricos constituyen una categoría de datos personales sensibles, procede clasificar como de alto riesgo varios casos de uso críticos de sistemas biométricos, en la medida que su utilización esté permitida con arreglo al Derecho de la Unión y nacional pertinente. Las imprecisiones técnicas de los sistemas de IA destinados a la identificación biométrica remota de las personas físicas pueden dar lugar a resultados sesgados y tener efectos discriminatorios. El riesgo de dichos resultados sesgados y efectos discriminatorios es especialmente pertinente por lo que respecta a la edad, la etnia, la raza, el sexo o la discapacidad. Por lo tanto, los sistemas de identificación biométrica remota deben clasificarse como de alto riesgo debido a los riesgos que entrañan. Quedan excluidos de dicha clasificación los sistemas de IA destinados a la verificación biométrica, que incluye la autenticación, cuyo único propósito es confirmar que una persona física concreta es quien dicha persona dice ser, así como confirmar la identidad de una persona física con la finalidad exclusiva de que tenga acceso a un servicio, desbloquee un dispositivo o tenga un acceso seguro a un local. Además, deben clasificarse como de alto riesgo los sistemas de IA destinados a ser utilizados para la categorización biométrica conforme a atributos o características sensibles protegidos en virtud del artículo 9, apartado 1, del Reglamento (UE) 2016/679 sobre la base de datos biométricos, en la medida en que no estén prohibidos en virtud del presente Reglamento, así como los sistemas de reconocimiento de emociones que no estén prohibidos con arreglo al presente Reglamento. Los sistemas biométricos destinados a ser utilizados exclusivamente a efectos de posibilitar la ciberseguridad y las medidas de protección de los datos personales no deben considerarse sistemas de IA de alto riesgo.
(55)
Elutähtsa taristu juhtimise ja käitamise osas on otstarbekas liigitada suure riskiga tehisintellektisüsteemiks need tehisintellektisüsteemid, mis on mõeldud kasutamiseks direktiivi(EL) 2022/2557 lisa punktis 8 loetletud elutähtsa digitaristu, maanteeliikluse ning vee, gaasi, kütteenergia ja elektri tarnimise korraldamise ja käitamise turvakomponentidena, sest nende rike või talitlushäire võib seada ohtu paljude inimeste elu ja tervise ning põhjustada märgatavaid häireid tavapärases sotsiaalses ja majandustegevuses. Elutähtsa taristu, sealhulgas elutähtsa digitaristu turvakomponendid on süsteemid, mida kasutatakse elutähtsa taristu füüsilise puutumatuse või inimeste tervise ja ohutuse ning vara otseseks kaitsmiseks, kuid mis ei ole süsteemi toimimiseks vajalikud. Selliste komponentide rike või talitlushäire võib otseselt ohustada elutähtsa taristu füüsilist puutumatust ning võib seega kujutada ohtu inimeste tervisele ja ohutusele ning varale. Üksnes küberturvalisuse tagamiseks mõeldud komponente ei tohiks käsitada turvakomponentidena. Sellise elutähtsa taristu turvakomponendid on näiteks veesurve seiresüsteemid või tulekahjuhäire juhtimissüsteemid pilvandmetöötluse keskustes.
(55)
Por lo que respecta a la gestión y el funcionamiento de infraestructuras críticas, procede clasificar como de alto riesgo los sistemas de IA destinados a ser utilizados como componentes de seguridad en la gestión y el funcionamiento de las infraestructuras digitales críticas que se enumeran en el anexo, punto 8, de la Directiva (UE) 2022/2557; del tráfico rodado y del suministro de agua, gas, calefacción y electricidad, pues un fallo o un defecto de funcionamiento de estos componentes puede poner en peligro la vida y la salud de las personas a gran escala y alterar de manera considerable el desarrollo habitual de las actividades sociales y económicas. Los componentes de seguridad de las infraestructuras críticas, como las infraestructuras digitales críticas, son sistemas utilizados para proteger directamente la integridad física de las infraestructuras críticas o la salud y la seguridad de las personas y los bienes, pero que no son necesarios para el funcionamiento del sistema. El fallo o el defecto de funcionamiento de estos componentes podría dar lugar directamente a riesgos para la integridad física de las infraestructuras críticas y, por tanto, a riesgos para la salud y la seguridad de las personas y los bienes. Los componentes destinados a ser utilizados exclusivamente con fines de ciberseguridad no deben considerarse componentes de seguridad. Entre los componentes de seguridad de esas infraestructuras críticas cabe citar los sistemas de control de la presión del agua o los sistemas de control de las alarmas contra incendios en los centros de computación en la nube.
(56)
Tähtis on juurutada tehisintellektisüsteeme hariduses, et edendada kvaliteetset digiõpet ja -koolitust ning võimaldada kõigil õppijatel ja õpetajatel omandada ja jagada vajalikke digioskusi ja -pädevusi, sealhulgas meediapädevust ja kriitilist mõtlemist, et osaleda aktiivselt majanduses, ühiskonnas ja demokraatlikes protsessides. Kuid tehisintellektisüsteemid, mida kasutatakse hariduses või kutseõppes, eelkõige selleks, et otsustada juurdepääs või vastuvõtmine, isikute määramine haridus- ja kutseõppeasutustesse või -programmidesse kõikidel tasanditel, hinnata isikute õpitulemusi, hinnata üksikisiku asjakohast haridustaset ja oluliselt mõjutada haridus- ja koolitustaset, mida inimestele pakutakse või millele nad saavad juurde pääseda, või jälgida ja avastada õpilaste keelatud käitumist katsete ajal, tuleks liigitada suure riskiga tehisintellektisüsteemideks, sest need võivad otsustada inimese haridusliku ja kutsealase käekäigu ning mõjutada seega selle inimese toimetulekut. Kui sellised süsteemid ei ole korrektselt projekteeritud või kui neid ei kasutata korrektselt, võivad need olla eriti sekkuvad ja rikkuda õigust haridusele ja koolitusele, aga ka õigust mitte olla diskrimineeritud, ning põlistada aegade jooksul välja kujunenud diskrimineerimismustreid, näiteks naiste, teatavate vanuserühmade, puuetega inimeste või teatava rassilise või etnilise päritoluga või seksuaalse sättumusega inimeste vastu.
(56)
El despliegue de sistemas de IA en el ámbito educativo es importante para fomentar una educación y formación digitales de alta calidad y para que todos los estudiantes y profesores puedan adquirir y compartir las capacidades y competencias digitales necesarias, incluidos la alfabetización mediática, y el pensamiento crítico, para participar activamente en la economía, la sociedad y los procesos democráticos. No obstante, deben clasificarse como de alto riesgo los sistemas de IA que se utilizan en la educación o la formación profesional, y en particular aquellos que determinan el acceso o la admisión, distribuyen a las personas entre distintas instituciones educativas y de formación profesional o programas de todos los niveles, evalúan los resultados del aprendizaje de las personas, evalúan el nivel apropiado de educación de una persona e influyen sustancialmente en el nivel de educación y formación que las personas recibirán o al que podrán acceder, o supervisan y detectan comportamientos prohibidos de los estudiantes durante las pruebas, ya que pueden decidir la trayectoria formativa y profesional de una persona y, en consecuencia, puede afectar a su capacidad para asegurar su subsistencia. Cuando no se diseñan y utilizan correctamente, estos sistemas pueden invadir especialmente y violar el derecho a la educación y la formación, y el derecho a no sufrir discriminación, además de perpetuar patrones históricos de discriminación, por ejemplo contra las mujeres, determinados grupos de edad, las personas con discapacidad o las personas de cierto origen racial o étnico o con una determinada orientación sexual.
(57)
Suure riskiga tehisintellektisüsteemideks tuleks liigitada ka tehisintellektisüsteemid, mida kasutatakse tööhõive, töötajate juhtimise ja iseenda tööandjana tegutsemise võimaluste valdkonnas, eeskätt inimeste töölevõtmiseks ja väljavalimiseks, tööalase suhte edendamise ja tööga seotud lepingulise suhte lõpetamise tingimusi mõjutavate otsuste tegemiseks, ülesannete jagamiseks isiku käitumise või isikuomaduste või erijoonte põhjal ning tööga seotud lepingulistes suhetes olevate isikute jälgimiseks või hindamiseks, sest need süsteemid võivad märkimisväärselt mõjutada nende isikute tulevasi karjääriväljavaateid, toimetulekut ja töötajate õigusi. Asjaomased tööga seotud lepingulised suhted peaksid sisuliselt käima ka selliste töötajate ja isikute kohta, kes osutavad teenuseid platvormide kaudu, nagu on nimetatud komisjoni 2021. aasta tööprogrammis. Töölevõtmisprotsessi käigus ning tööga seotud lepingulistes suhetes olevate isikute hindamisel, edutamisel või töösuhte jätkamisel võivad sellised süsteemid põlistada aegade jooksul välja kujunenud diskrimineerimismustreid, mis on suunatud näiteks naiste, teatavate vanuserühmade, puuetega inimeste või teatava rassilise või etnilise päritolu või seksuaalse sättumusega isikute vastu. Tehisintellektisüsteemid, mida kasutatakse selliste isikute töötulemuste ja käitumise jälgimiseks, võivad kahjustada ka nende põhiõigusi andmekaitsele ja privaatsusele.
(57)
También deben clasificarse como de alto riesgo los sistemas de IA que se utilizan en los ámbitos del empleo, la gestión de los trabajadores y el acceso al autoempleo, en particular para la contratación y la selección de personal, para la toma de decisiones que afecten a las condiciones de las relaciones de índole laboral, la promoción y la rescisión de relaciones contractuales de índole laboral, para la asignación de tareas a partir de comportamientos individuales o rasgos o características personales y para la supervisión o evaluación de las personas en el marco de las relaciones contractuales de índole laboral, dado que pueden afectar de un modo considerable a las futuras perspectivas laborales, a los medios de subsistencia de dichas personas y a los derechos de los trabajadores. Las relaciones contractuales de índole laboral deben incluir, de manera significativa, a los empleados y las personas que prestan servicios a través de plataformas, como indica el programa de trabajo de la Comisión para 2021. Dichos sistemas pueden perpetuar patrones históricos de discriminación, por ejemplo contra las mujeres, determinados grupos de edad, las personas con discapacidad o las personas de orígenes raciales o étnicos concretos o con una orientación sexual determinada, durante todo el proceso de contratación y en la evaluación, promoción o retención de personas en las relaciones contractuales de índole laboral. Los sistemas de IA empleados para controlar el rendimiento y el comportamiento de estas personas también pueden socavar sus derechos fundamentales a la protección de los datos personales y a la intimidad.
(58)
Veel üks valdkond, milles tuleks tehisintellektisüsteemide kasutamisele erilist tähelepanu pöörata, on teatavate selliste oluliste era- ja avalike teenuste ja hüvede kättesaadavus ja kasutamine, mida inimesed vajavad, et ühiskonnas täielikult osaleda või oma elatustaset parandada. Eelkõige sõltuvad kõnealustest hüvitistest ja teenustest tavaliselt füüsilised isikud, kes taotlevad või saavad ametiasutustelt esmatähtsaid avalikke hüvesid ja teenuseid, nimelt tervishoiuteenuseid, sotsiaalkindlustushüvitisi, sotsiaalteenuseid, mis pakuvad kaitset raseduse ja sünnituse, haiguse, tööõnnetuste, vanaduse ja töökaotuse korral, ning sotsiaal- ja eluasemetoetust, ning kes on vastutavate asutuste suhtes kaitsetus olukorras. Kui tehisintellektisüsteeme kasutatakse selleks, et teha kindlaks, kas ametiasutus peaks sellist toetust andma või sellist teenust osutama, sellest keelduma, seda vähendama, selle tühistama või tagasi nõudma, sealhulgas selleks, et teha kindlaks, kas abisaajatel on sellistele toetustele või teenustele seaduslik õigus, võib neil süsteemidel olla märkimisväärne mõju inimese toimetulekule ning need süsteemid võivad rikkuda inimeste põhiõigusi, näiteks õigust sotsiaalkaitsele, mittediskrimineerimisele, inimväärikusele või tõhusale õiguskaitsevahendile ning seetõttu tuleks need liigitada suure riskiga süsteemideks. Samas ei tohiks käesolev määrus takistada uuenduslike lähenemisviiside väljatöötamist ja kasutamist avalikus halduses, kus oleks nõuetekohaste ja ohutute tehisintellektisüsteemide laialdasemast kasutamisest kasu tingimusel, et need süsteemid ei põhjusta juriidilistele ja füüsilistele isikutele suuri riske. Lisaks tuleks suure riskiga tehisintellektisüsteemideks liigitada tehisintellektisüsteemid, mida kasutatakse füüsilistele isikutele krediidihinnangu andmiseks või nende krediidivõimelisuse hindamiseks, sest need määravad kindlaks inimese võimaluse saada finantsvahendeid või elutähtsaid teenuseid, nagu eluaseme-, elektri- ja telekommunikatsiooniteenused. Sel otstarbel kasutatavad tehisintellektisüsteemid võivad põhjustada inimeste või rühmade vahelist diskrimineerimist ja võivad põlistada aegade jooksul välja kujunenud diskrimineerimismustreid, mille aluseks on näiteks rassiline või etniline päritolu, sugu, puue, vanus või seksuaalne sättumus, või võivad luua uut liiki diskrimineerivat mõju. Liidu õigusega ette nähtud tehisintellektisüsteeme, mille eesmärk on avastada pettusi finantsteenuste pakkumisel või mida kasutatakse usaldatavusnõuete täitmiseks, et arvutada krediidiasutuste ja kindlustusandjate kapitalinõudeid, ei tohiks käesoleva määruse alusel siiski pidada suure riskiga süsteemideks. Lisaks võivad tehisintellektisüsteemid, mis on ette nähtud kasutamiseks füüsiliste isikutega seotud riskihindamiseks ja hinnakujunduseks tervise- ja elukindlustuses, avaldada märkimisväärset mõju inimeste toimetulekule ning see võib, kui nende projekteerimine, arendamine ja kasutamine ei ole nõuetekohane, rikkuda inimeste põhiõigusi ning põhjustada tõsiseid tagajärgi nende elule ja tervisele, sealhulgas majanduslikku tõrjutust ja diskrimineerimist. Lisaks tuleks suure riskiga tehisintellektisüsteemideks liigitada ka tehisintellektisüsteemid, mida kasutatakse füüsiliste isikute hädaabikõnede hindamiseks ja liigitamiseks või kiirabi ja päästeteenistuse, sealhulgas politsei, tuletõrje ja arstiabi väljasaatmiseks ja väljakutsete prioriseerimiseks, ning erakorralise arstiabi patsientide triaažiks, sest sellised süsteemid teevad otsuseid olukordades, mis on inimeste elu, tervise ja vara seisukohast väga kriitilised.
(58)
El acceso a determinados servicios y prestaciones esenciales, de carácter público y privado, necesarios para que las personas puedan participar plenamente en la sociedad o mejorar su nivel de vida, y el disfrute de dichos servicios y prestaciones, es otro ámbito en el que conviene prestar especial atención a la utilización de sistemas de IA. En particular, las personas físicas que solicitan a las autoridades públicas o reciben de estas prestaciones y servicios esenciales de asistencia pública, a saber, servicios de asistencia sanitaria, prestaciones de seguridad social, servicios sociales que garantizan una protección en casos como la maternidad, la enfermedad, los accidentes laborales, la dependencia o la vejez y la pérdida de empleo, asistencia social y ayudas a la vivienda, suelen depender de dichas prestaciones y servicios y, por lo general, se encuentran en una posición de vulnerabilidad respecto de las autoridades responsables. La utilización de sistemas de IA para decidir si las autoridades deben conceder, denegar, reducir o revocar dichas prestaciones y servicios o reclamar su devolución, lo que incluye decidir, por ejemplo, si los beneficiarios tienen legítimamente derecho a dichas prestaciones y servicios, podría tener un efecto considerable en los medios de subsistencia de las personas y vulnerar sus derechos fundamentales, como el derecho a la protección social, a la no discriminación, a la dignidad humana o a la tutela judicial efectiva y, por lo tanto, deben clasificarse como de alto riesgo. No obstante, el presente Reglamento no debe obstaculizar el desarrollo y el uso de enfoques innovadores en la Administración, que podrían beneficiarse de una mayor utilización de sistemas de IA conformes y seguros, siempre y cuando dichos sistemas no supongan un alto riesgo para las personas jurídicas y físicas. Además, deben clasificarse como de alto riesgo los sistemas de IA usados para evaluar la calificación crediticia o solvencia de las personas físicas, ya que deciden si dichas personas pueden acceder a recursos financieros o servicios esenciales como la vivienda, la electricidad y los servicios de telecomunicaciones. Los sistemas de IA usados con esos fines pueden discriminar a determinadas personas o colectivos y perpetuar patrones históricos de discriminación, como por motivos de origen racial o étnico, género, discapacidad, edad u orientación sexual, o generar nuevas formas de discriminación. No obstante, los sistemas de IA previstos por el Derecho de la Unión con vistas a detectar fraudes en la oferta de servicios financieros y, a efectos prudenciales, para calcular los requisitos de capital de las entidades de crédito y las empresas de seguros no deben considerarse de alto riesgo en virtud del presente Reglamento. Además, los sistemas de IA destinados a ser utilizados para la evaluación de riesgos y la fijación de precios en relación con las personas físicas en el caso de los seguros de vida y de salud también pueden afectar de un modo considerable a los medios de subsistencia de las personas y, si no se diseñan, desarrollan y utilizan debidamente, pueden vulnerar sus derechos fundamentales y pueden tener graves consecuencias para la vida y la salud de las personas, como la exclusión financiera y la discriminación. Por último, los sistemas de IA empleados para evaluar y clasificar llamadas de emergencia de personas físicas o el envío o el establecimiento de prioridades en el envío de servicios de primera intervención en situaciones de emergencia, incluidos policía, bomberos y servicios de asistencia médica, así como sistemas de triaje de pacientes para la asistencia sanitaria de emergencia, también deben considerarse de alto riesgo, dado que adoptan decisiones en situaciones sumamente críticas para la vida y la salud de las personas y de sus bienes.
(59)
Võttes arvesse õiguskaitseasutuste rolli ja vastutust, iseloomustab nende toiminguid, millega kaasneb tehisintellektisüsteemide teatav kasutamine, võimu väga ebavõrdne jaotumine ja selle tulemuseks võib olla füüsilise isiku jälgimine, kinnipidamine või temalt vabaduse võtmine, aga ka muu kahjulik mõju põhiõiguste hartaga tagatud põhiõigustele. Tehisintellektisüsteem võib olla inimeste valikul diskrimineeriv või muul moel ebatäpne või ebaõiglane, eriti juhul, kui selle treenimiseks ei ole kasutatud kvaliteetseid andmeid, kui süsteemi toimimine, täpsus või stabiilsus ei ole piisav või kui seda ei ole enne turule laskmist või muul moel kasutusele võtmist korralikult projekteeritud ja testitud. Kahjustatud võib saada ka võimalus kasutada selliseid olulisi menetluslikke põhiõigusi, nagu õigus tõhusale õiguskaitsevahendile ja õiglasele kohtulikule arutamisele, õigus kaitsele ja süütuse presumptsioon, seda eriti juhul, kui sellised tehisintellektisüsteemid ei ole piisavalt läbipaistvad, selgitatavad ja dokumenteeritud. Seepärast on asjakohane liigitada suure riskiga tehisintellektisüsteemiks hulk tehisintellektisüsteeme, niivõrd, kuivõrd nende kasutamine on asjaomase liidu ja riigisisese õiguse kohaselt lubatud, mis on mõeldud kasutamiseks õiguskaitses, kus täpsus, usaldusväärsus ja läbipaistvus on eriti olulised, et hoida ära kahjulikku mõju, säilitada üldsuse usaldus ning tagada aruandekohustus ja tõhus õiguskaitse. Arvestades nende toimingute olemust ja nendega seotud riske, peaksid selliste suure riskiga tehisintellektisüsteemide hulka kuuluma eeskätt need tehisintellektisüsteemid, mis on ette nähtud kasutamiseks õiguskaitseasutuste või liidu institutsioonide, organite või asutuste poolt või nimel õiguskaitseasutuste toetamiseks, et hinnata füüsilise isiku kuriteo ohvriks langemise riski, valedetektorite ja sarnaste vahenditena tõendite usaldusväärsuse hindamiseks kuritegude uurimise või nende eest vastutusele võtmise käigus; ning kui see ei ole käesoleva määrusega keelatud, siis sellise rikkumise või korduva rikkumise riski hindamiseks, mis ei põhine üksnes füüsiliste isikute profiilianalüüsil ega füüsiliste isikute või rühmade isikuomaduste, erijoonte või varasema kuritegeliku käitumise hindamisel, kuritegude avastamise, uurimise või nende eest vastutusele võtmise käigus tehtaval profiilianalüüsil. Tehisintellektisüsteeme, mis on mõeldud kasutamiseks spetsiaalselt maksuametile ja tollile haldusmenetlustes ning rahapesu andmebüroodele, kes täidavad liidu rahapesuvastase õiguse kohaseid teabe analüüsimises seisnevaid haldusülesandeid, ei tuleks liigitada suure riskiga tehisintellektisüsteemideks, mida õiguskaitseasutused kasutavad kuritegude tõkestamise, avastamise, uurimise ja nende eest vastutusele võtmise eesmärgil. Tehisintellekti vahendite kasutamine õiguskaitseasutuste ja muude asjakohaste asutuste poolt ei tohiks muutuda ebavõrdsuse või tõrjutuse teguriks. Tehisintellekti vahendite kasutamise mõju kahtlusaluste kaitseõigustele ei tohiks eirata, eelkõige raskusi sisulise teabe saamisel nende süsteemide toimimise kohta ja sellest tulenevaid raskusi nende tulemuste vaidlustamisel kohtus, eriti uurimise all olevate füüsiliste isikute poolt.
(59)
Dado su papel y su responsabilidad, las actuaciones de las autoridades garantes del cumplimiento del Derecho que implican determinados usos de los sistemas de IA se caracterizan por un importante desequilibrio de poder y pueden dar lugar a la vigilancia, la detención o la privación de libertad de una persona física, así como tener otros efectos negativos sobre los derechos fundamentales consagrados en la Carta. En particular, si el sistema de IA no está entrenado con datos de buena calidad, no cumple los requisitos adecuados en términos de rendimiento, de precisión o de solidez, o no se diseña y prueba debidamente antes de introducirlo en el mercado o ponerlo en servicio, es posible que señale a personas de manera discriminatoria, incorrecta o injusta. Además, podría impedir el ejercicio de importantes derechos procesales fundamentales, como el derecho a la tutela judicial efectiva y a un juez imparcial, así como el derecho a la defensa y a la presunción de inocencia, sobre todo cuando dichos sistemas de IA no sean lo suficientemente transparentes y explicables ni estén suficientemente bien documentados. Por consiguiente, en la medida en que su uso esté permitido conforme al Derecho de la Unión y nacional pertinente, procede clasificar como de alto riesgo varios sistemas de IA destinados a ser utilizados con fines de garantía del cumplimiento del Derecho cuando su precisión, fiabilidad y transparencia sean especialmente importantes para evitar consecuencias adversas, conservar la confianza de la población y garantizar la rendición de cuentas y unas vías de recurso efectivas. En vista de la naturaleza de las actividades y de los riesgos conexos, entre dichos sistemas de IA de alto riesgo deben incluirse, en particular, los sistemas de IA destinados a ser utilizados por las autoridades garantes del cumplimiento del Derecho, o en nombre de estas, o por las instituciones, órganos u organismos de la Unión en apoyo de las primeras, para evaluar el riesgo de que una persona física sea víctima de delitos, como los polígrafos y otras herramientas similares, para evaluar la fiabilidad de las pruebas durante la investigación o el enjuiciamiento de delitos y, en la medida en que no esté prohibido conforme al presente Reglamento, para evaluar el riesgo de que una persona física cometa un delito o reincida, no solo sobre la base de la elaboración de perfiles de personas físicas o la evaluación de rasgos y características de la personalidad o comportamientos delictivos pasados de personas físicas o grupos de personas, o para elaborar perfiles durante la detección, la investigación o el enjuiciamiento de delitos. Los sistemas de IA destinados específicamente a ser utilizados en procesos administrativos por las autoridades fiscales y aduaneras y las unidades de inteligencia financiera que desempeñan tareas administrativas de análisis de información de conformidad con el Derecho de la Unión en materia de lucha contra el blanqueo de capitales no deben clasificarse como sistemas de IA de alto riesgo usados por las autoridades garantes del cumplimiento del Derecho con el fin de prevenir, detectar, investigar y enjuiciar delitos. El uso de herramientas de IA por parte de las autoridades garantes del cumplimiento del Derecho y otras autoridades pertinentes no debe convertirse en un factor de desigualdad o exclusión. No debe ignorarse el impacto del uso de herramientas de IA en los derechos de defensa de los sospechosos, en particular la dificultad para obtener información significativa sobre el funcionamiento de dichos sistemas y la consiguiente dificultad para impugnar sus resultados ante los tribunales, en particular por parte de las personas físicas investigadas.
(60)
Rände- ja varjupaigavaldkonnas ning piirkontrollihalduses kasutatavad tehisintellektisüsteemid mõjutavad isikuid, kes on tihtipeale eriti kaitsetus olukorras ja sõltuvad pädevate ametiasutuste tegevuse tulemustest. Seepärast on sellises kontekstis kasutatavate tehisintellektisüsteemide täpsus, mittediskrimineeriv olemus ja läbipaistvus eriti oluline, et tagada mõjutatud isikute põhiõiguste austamine, eeskätt nende õigus vabale liikumisele, mittediskrimineerimisele, eraelu ja isikuandmete kaitsele, rahvusvahelisele kaitsele ja heale haldusele. Seepärast on otstarbekas liigitada suure riskiga tehisintellektisüsteemiks sellised tehisintellektisüsteemid, mis on ette nähtud kasutamiseks rände-, varjupaiga- ja piirikontrollihaldusega tegelevatele pädevatele asutustele või nende nimel, või liidu institutsioonidele, organitele või asutustele valedetektorite ja samalaadsete vahenditena, niivõrd, kuivõrd nende kasutamine on liidu ja liikmesriigi õiguse kohaselt lubatud, et hinnata teatavaid riske, mida kujutavad endast füüsilised isikud, kes sisenevad liikmesriigi territooriumile või taotlevad viisat või varjupaika; pädevate ametiasutuste abistamiseks varjupaiga-, viisa- ja elamisloataotluste ja nendega seotud kaebuste läbivaatamisel, sealhulgas tõendite usaldusväärsuse hindamisel seoses eesmärgiga teha kindlaks sellist staatust taotlevate füüsiliste isikute vastavus tingimustele; rände-, varjupaiga- ja piirikontrollihalduse kontekstis füüsiliste isikute avastamiseks, äratundmiseks või tuvastamiseks, välja arvatud reisidokumentide kontrollimine. Rände- ja varjupaigavaldkonna ning piirikontrollihalduse valdkonna tehisintellektisüsteemid, mis kuuluvad käesoleva määruse kohaldamisalasse, peaksid vastama Euroopa Parlamendi ja nõukogu määruses (EÜ) nr 810/2009, (32) Euroopa Parlamendi ja nõukogu direktiivis 2013/32/EL (33) ja muus liidu asjaomases õiguses sätestatud asjaomastele menetlusnõuetele. Liikmesriigid või liidu institutsioonid, organid ja asutused ei tohiks mingil juhul kasutada tehisintellektisüsteeme rände-, varjupaiga- ja piirikontrollihalduse valdkonnas selleks, et kõrvale hoida oma rahvusvahelistest kohustustest, mis nad on võtnud vastavalt 28. juulil 1951 Genfis alla kirjutatud ÜRO pagulasseisundi konventsioonile, mida on muudetud 31. jaanuari 1967. aasta protokolliga. Samuti ei tohi neid kasutada mingil viisil tagasi- ja väljasaatmise lubamatuse põhimõtte rikkumiseks ega liidu territooriumile sisenemise ohutute ja tõhusate seaduslike kanalite kasutamise, sealhulgas rahvusvahelise kaitse saamise õiguse keelamiseks.
(60)
Los sistemas de IA empleados en la migración, el asilo y la gestión del control fronterizo afectan a personas que con frecuencia se encuentran en una situación especialmente vulnerable y que dependen del resultado de las actuaciones de las autoridades públicas competentes. Por este motivo, es sumamente importante que los sistemas de IA que se utilicen en estos contextos sean precisos, no discriminatorios y transparentes, a fin de garantizar que se respeten los derechos fundamentales de las personas afectadas y, en particular, su derecho a la libre circulación, a la no discriminación, a la intimidad personal y la protección de los datos personales, a la protección internacional y a una buena administración. Por lo tanto, procede clasificar como de alto riesgo, en la medida en que su utilización esté permitida en virtud del Derecho de la Unión y nacional, aquellos sistemas de IA destinados a ser utilizados por las autoridades públicas competentes, o en su nombre, o por las instituciones, órganos u organismos de la Unión que realizan tareas en el ámbito de la migración, el asilo y la gestión del control fronterizo como polígrafos y herramientas similares, para evaluar determinados riesgos que presenten las personas físicas que entren en el territorio de un Estado miembro o que soliciten un visado o asilo, para ayudar a las autoridades públicas competentes a examinar, con inclusión de la evaluación conexa de la fiabilidad de las pruebas, las solicitudes de asilo, visado y permiso de residencia, así como las reclamaciones conexas en relación con el objetivo de determinar si las personas físicas solicitantes reúnen los requisitos necesarios para que se conceda su solicitud, a efectos de detectar, reconocer o identificar a las personas físicas en el contexto de la migración, el asilo y la gestión del control fronterizo, con excepción de la verificación de los documentos de viaje. Los sistemas de IA en el ámbito de la migración, el asilo y la gestión del control fronterizo sujetos al presente Reglamento deben cumplir los requisitos procedimentales pertinentes establecidos por el Reglamento (CE) n.o 810/2009 del Parlamento Europeo y del Consejo (32), la Directiva 2013/32/UE del Parlamento Europeo y del Consejo (33) y otro Derecho de la Unión pertinente. El empleo de los sistemas de IA en la migración, el asilo y la gestión del control fronterizo no debe, en ningún caso, ser utilizado por los Estados miembros o las instituciones, órganos u organismos de la Unión como medio para eludir sus obligaciones internacionales en virtud de la Convención de las Naciones Unidas sobre el Estatuto de los Refugiados, hecha en Ginebra el 28 de julio de 1951, modificada por el Protocolo de 31 de enero de 1967. Tampoco debe ser utilizado para infringir en modo alguno el principio de no devolución, ni para negar unas vías jurídicas seguras y efectivas de acceso al territorio de la Unión, incluido el derecho a la protección internacional.
(61)
Teatavad õigusemõistmise ja demokraatlike protsesside jaoks mõeldud tehisintellektisüsteemid tuleks liigitada suure riskiga tehisintellektisüsteemideks, arvestades nende võimalikku märkimisväärset mõju demokraatiale, õigusriigile, üksikisiku vabadustele ning õigusele tõhusale õiguskaitsevahendile ja õiglasele kohtulikule arutamisele. Eeskätt võimalikust kallutatusest, vigadest ja läbipaistmatusest tulenevate riskidega tegelemiseks on asjakohane liigitada suure riskiga tehisintellektisüsteemideks need tehisintellektisüsteemid, mis on ette nähtud kasutamiseks õigusasutusele või selle nimel, et abistada õigusasutusi faktide ja seadustega tutvumisel ja nende tõlgendamisel ning õiguse kohaldamisel konkreetse faktide kogumi suhtes. Tehisintellektisüsteeme, mis on ette nähtud kasutamiseks vaidluste kohtuvälise lahendamise üksustele kõnealuse menetluse jaoks, tuleks samuti pidada suure riskiga süsteemideks, kui vaidluste kohtuvälise lahendamise menetluse tulemustel on pooltele õiguslikud tagajärjed. Tehisintellekti vahendite kasutamine võib kohtunike otsustusõigust või kohtute sõltumatust toetada, kuid ei tohiks neid asendada, sest lõppotsuste tegemine peab jääma inimestele. Tehisintellektisüsteemi liigitamist suure riskiga süsteemiks ei tohiks siiski laiendada tehisintellektisüsteemidele, mis on mõeldud puhtalt halduslikeks abitegevusteks, mis ei mõjuta tegelikku õigusemõistmist konkreetsetel juhtudel, nagu kohtuotsuste, dokumentide või andmete anonüümimine või pseudonüümimine, töötajatevaheline suhtlus või haldusülesanded.
(61)
Deben clasificarse como de alto riesgo determinados sistemas de IA destinados a la administración de justicia y los procesos democráticos, dado que pueden tener efectos potencialmente importantes para la democracia, el Estado de Derecho, las libertades individuales y el derecho a la tutela judicial efectiva y a un juez imparcial. En particular, a fin de hacer frente al riesgo de posibles sesgos, errores y opacidades, procede clasificar como de alto riesgo aquellos sistemas de IA destinados a ser utilizados por una autoridad judicial o en su nombre para ayudar a las autoridades judiciales a investigar e interpretar los hechos y el Derecho y a aplicar la ley a unos hechos concretos. También deben considerarse de alto riesgo los sistemas de IA destinados a ser utilizados por los organismos de resolución alternativa de litigios con esos fines, cuando los resultados de los procedimientos de resolución alternativa de litigios surtan efectos jurídicos para las partes. La utilización de herramientas de IA puede apoyar el poder de decisión de los jueces o la independencia judicial, pero no debe substituirlas: la toma de decisiones finales debe seguir siendo una actividad humana. No obstante, la clasificación de los sistemas de IA como de alto riesgo no debe hacerse extensiva a los sistemas de IA destinados a actividades administrativas meramente accesorias que no afectan a la administración de justicia propiamente dicha en casos concretos, como la anonimización o seudonimización de resoluciones judiciales, documentos o datos, la comunicación entre los miembros del personal o las tareas administrativas.
(62)
Ilma et see piiraks Euroopa Parlamendi ja nõukogu määruses (EL) 2024/900 (34) sätestatud õigusnormide kohaldamist ning selleks, et käsitleda riske, mis tulenevad põhjendamatust välisest sekkumisest põhiõiguste harta artiklis 39 sätestatud hääletamisõigusesse ning kahjulikust mõjust demokraatiale ja õigusriigile, tuleks tehisintellektisüsteemid, mis on mõeldud kasutamiseks selleks, et mõjutada valimiste või referendumite tulemusi või füüsiliste isikute hääletamiskäitumist nende hääletamisel valimistel või referendumitel, liigitada suure riskiga tehisintellektisüsteemideks, välja arvatud tehisintellektisüsteemid, mille väljundiga füüsilised isikud otseselt kokku ei puutu, näiteks vahendid, mida kasutatakse poliitiliste kampaaniate korraldamiseks, optimeerimiseks ja struktureerimiseks halduslikust ja logistilisest seisukohast.
(62)
Sin perjuicio de las normas previstas en el Reglamento (UE) 2024/900 del Parlamento Europeo y del Consejo (34), y a fin de hacer frente a los riesgos de injerencia externa indebida en el derecho de voto consagrado en el artículo 39 de la Carta, y de efectos adversos sobre la democracia y el Estado de Derecho, deben clasificarse como sistemas de IA de alto riesgo los sistemas de IA destinados a ser utilizados para influir en el resultado de una elección o un referéndum, o en el comportamiento electoral de las personas físicas en el ejercicio de su voto en elecciones o referendos, con excepción de los sistemas de IA a cuyos resultados de salida las personas físicas no están directamente expuestas, como las herramientas utilizadas para organizar, optimizar y estructurar campañas políticas desde un punto de vista administrativo y logístico.
(63)
Asjaolu, et tehisintellektisüsteem on käesoleva määruse alusel liigitatud suure riskiga tehisintellektisüsteemiks, ei tohiks tõlgendada nii, et selle kasutamine on seaduslik muude liidu õigusaktide või liidu õigusega kooskõlas oleva riigisisese õiguse alusel, mis käsitlevad näiteks isikuandmete kaitset, valedetektorite või samalaadsete vahendite kasutamist või muude süsteemide kasutamist füüsiliste isikute emotsionaalse seisundi tuvastamiseks. Edaspidi peaks igasugune selline kasutamine toimuma üksnes kooskõlas kohaldatavate nõuetega, mis tulenevad põhiõiguste hartast ja kohaldatavatest liidu teisese õiguse aktidest ja riigisisesest õigusest. Käesolevat määrust ei tohiks käsitada isikuandmete, sealhulgas asjakohasel juhul isikuandmete eriliikide töötlemise õigusliku alusena, kui käesolevas määruses ei ole sõnaselgelt ette nähtud teisiti.
(63)
El hecho de que un sistema de IA sea clasificado como un sistema de IA de alto riesgo en virtud del presente Reglamento no debe interpretarse como indicador de que su uso sea lícito con arreglo a otros actos del Derecho de la Unión o del Derecho nacional compatible con el Derecho de la Unión, por ejemplo, en materia de protección de los datos personales o la utilización de polígrafos y herramientas similares u otros sistemas para detectar el estado emocional de las personas físicas. Todo uso de ese tipo debe seguir realizándose exclusivamente en consonancia con los requisitos oportunos derivados de la Carta y de los actos aplicables del Derecho derivado de la Unión y del Derecho nacional. No debe entenderse que el presente Reglamento constituye un fundamento jurídico para el tratamiento de datos personales, incluidas las categorías especiales de datos personales, en su caso, salvo que el presente Reglamento disponga específicamente otra cosa.
(64)
Et maandada riske, mida põhjustavad turule lastud või kasutusele võetud suure riskiga tehisintellektisüsteemid, ning tagada kõrge usaldusväärsus, tuleks suure riskiga tehisintellektisüsteemide suhtes kohaldada teatavaid kohustuslikke nõudeid, võttes arvesse tehisintellektisüsteemi sihtotstarvet ja kasutuskonteksti ning järgides pakkuja kehtestatud riskijuhtimissüsteemi. Meetmed, mida pakkujad võtavad käesoleva määruse kohustuslike nõuete täitmiseks, peaksid võtma arvesse tehisintellekti valdkonna tehnika üldtunnustatud taset ning olema käesoleva määruse eesmärkide saavutamiseks proportsionaalsed ja tõhusad. Uue õigusraamistiku alusel, mida on täpsustatud komisjoni 2022. aasta sinises raamatus ELi toote-eeskirjade rakendamise kohta, on üldreegel, et üks või mitu liidu ühtlustamisõigusakti võivad olla kohaldatavad ühele tootele, kuna kättesaadavaks tegemine või kasutusele võtmine saab toimuda ainult siis, kui toode vastab kõigile kohaldatavatele liidu ühtlustamisõigusaktidele. Käesoleva määruse nõuete kohaldamisalasse kuuluvate tehisintellektisüsteemide ohud on seotud kehtivatest liidu ühtlustamisõigusaktidest erinevate aspektidega ning seetõttu täiendavad käesoleva määruse nõuded olemasolevaid liidu ühtlustamisõigusakte. Näiteks võivad tehisintellektisüsteemi sisaldavad masinad või meditsiiniseadmed kujutada endast riske, mida asjakohastes liidu ühtlustamisõigusaktides sätestatud olulistes tervisekaitse- ja ohutusnõuetes ei käsitleta, kuna see valdkondlik õigus ei puuduta tehisintellektisüsteemidele omaseid riske. Seega on korraga vaja kohaldada mitut ja üksteist täiendavat õigusakti. Järjepidevuse tagamiseks ning tarbetu halduskoormuse ja tarbetute kulude ärahoidmiseks peaks üht või mitut suure riskiga tehisintellektisüsteemi sisaldava toote pakkujatel, mille suhtes kohaldatakse käesoleva määruse ja uuel õigusraamistikul põhinevate ja käesoleva määruse lisas loetletud liidu ühtlustamisõigusaktide nõudeid, olema operatiivsete otsuste tegemisel paindlikkus selles osas, kuidas tagada üht või mitut tehisintellektisüsteemi sisaldava toote vastavus kõigile liidu ühtlustamisõigusaktide kohaldatavatele nõuetele optimaalseimal viisil. Selline paindlikkus võib tähendada näiteks pakkuja otsust integreerida osa käesoleva määruse kohaselt nõutavast testimis- ja aruandlusprotsessist, teabest ja dokumentatsioonist juba olemasolevatesse dokumentidesse ja menetlustesse, mida nõutakse käesoleva määruse lisas loetletud uuel õigusraamistikul põhinevate kehtivate liidu ühtlustamisõigusaktide alusel. See ei tohiks mingil viisil kahjustada pakkuja kohustust täita kõiki kohaldatavaid nõudeid.
(64)
Con el objetivo de mitigar los riesgos que presentan los sistemas de IA de alto riesgo que se introducen en el mercado o se ponen en servicio, y para garantizar un alto nivel de fiabilidad, deben aplicarse a los sistemas de IA de alto riesgo ciertos requisitos obligatorios que tengan en cuenta la finalidad prevista y el contexto del uso del sistema de IA y estén en consonancia con el sistema de gestión de riesgos que debe establecer el proveedor. Las medidas adoptadas por los proveedores para cumplir los requisitos obligatorios del presente Reglamento deben tener en cuenta el estado actual de la técnica generalmente reconocido en materia de IA, ser proporcionadas y eficaces para alcanzar los objetivos del presente Reglamento. Sobre la base del nuevo marco legislativo, como se aclara en la Comunicación de la Comisión titulada «“Guía azul” sobre la aplicación de la normativa europea relativa a los productos, de 2022», la norma general es que más de un acto jurídico de la legislación de armonización de la Unión puede ser aplicable a un producto, ya que la comercialización o la puesta en servicio solamente puede producirse cuando el producto cumple toda la legislación de armonización de la Unión aplicable. Los peligros de los sistemas de IA cubiertos por los requisitos del presente Reglamento se refieren a aspectos diferentes de los contemplados en la legislación de armonización de la Unión existente y, por consiguiente, los requisitos del presente Reglamento completarían el conjunto existente de legislación de armonización de la Unión. Por ejemplo, las máquinas o los productos sanitarios que incorporan un sistema de IA pueden presentar riesgos de los que no se ocupan los requisitos esenciales de salud y seguridad establecidos en la legislación armonizada de la Unión pertinente, ya que esa legislación sectorial no aborda los riesgos específicos de los sistemas de IA. Esto exige una aplicación simultánea y complementaria de diversos actos legislativos. A fin de garantizar la coherencia y evitar una carga administrativa innecesaria y costes innecesarios, los proveedores de un producto que contenga uno o varios sistemas de IA de alto riesgo, a los que se apliquen los requisitos del presente Reglamento y de los actos legislativos de armonización de la Unión basados en el nuevo marco legislativo y enumerados en un anexo del presente Reglamento, deben ser flexibles en lo que respecta a las decisiones operativas relativas a la manera de garantizar la conformidad de un producto que contenga uno o varios sistemas de IA con todos los requisitos aplicables de la legislación armonizada de la Unión de manera óptima. Esa flexibilidad podría significar, por ejemplo, la decisión del proveedor de integrar una parte de los procesos de prueba y notificación necesarios, así como la información y la documentación exigidas en virtud del presente Reglamento, en la documentación y los procedimientos ya existentes exigidos en virtud de los actos legislativos de armonización de la Unión vigentes basados en el nuevo marco legislativo y enumerados en un anexo del presente Reglamento. Esto no debe socavar en modo alguno la obligación del proveedor de cumplir todos los requisitos aplicables.
(65)
Riskijuhtimissüsteem peaks seisnema pidevalt korduvas protsessis, mida kavandatakse ja käitatakse suure riskiga tehisintellektisüsteemi kogu elutsükli jooksul. Kõnealuse protsessi eesmärk peaks olema teha kindlaks ja maandada tehisintellektisüsteemide asjakohaseid riske tervisele, turvalisusele ja põhiõigustele. Riskijuhtimissüsteem tuleks korrapäraselt läbi vaadata ja seda ajakohastada, et tagada selle jätkuv tõhusus, samuti käesoleva määruse alusel tehtud oluliste otsuste ja võetud meetmete põhjendused ja dokumentatsioon. See protsess peaks tagama, et pakkuja teeb kindlaks riskid või kahjuliku mõju ning rakendab maandamismeetmeid tehisintellektisüsteemide teadaolevate ja mõistlikult prognoositavate riskide suhtes tervisele, turvalisusele ja põhiõigustele, võttes arvesse nende sihtotstarvet ja mõistlikult prognoositavat väärkasutust, sealhulgas võimalikke riske, mis tulenevad tehisintellektisüsteemi ja selle töökeskkonna vastasmõjust. Riskijuhtimissüsteemis tuleks võtta tehisintellekti valdkonna tehnika taset silmas pidades kõige asjakohasemaid riskijuhtimismeetmeid. Kõige asjakohasemate riskijuhtimismeetmete kindlaksmääramisel peaks pakkuja tehtud valikud dokumenteerima ja neid selgitama ning vajaduse korral kaasama eksperte ja väliseid sidusrühmi. Suure riskiga tehisintellektisüsteemide mõistlikult prognoositava väärkasutamise kindlakstegemisel peaks pakkuja hõlmama tehisintellektisüsteemide kasutusviise, mis ei ole küll otseselt hõlmatud sihtotstarbega ega ette nähtud kasutusjuhendis, kuid mille puhul võib siiski põhjendatult eeldada, et see tuleneb kergesti prognoositavast inimkäitumisest konkreetse tehisintellektisüsteemi erijoonte ja kasutamise kontekstis. Kõik teadaolevad või prognoositavad asjaolud, mis on seotud suure riskiga tehisintellektisüsteemi kasutamisega vastavalt selle sihtotstarbele või mõistlikult prognoositava väärkasutamise tingimustes, mis võib seada ohtu tervise ja ohutuse või põhiõigused, peaksid olema lisatud kasutusjuhendisse, mille pakkuja koostab. Selle eesmärk on tagada, et juurutaja on suure riskiga tehisintellektisüsteemi kasutamisel neist teadlik ja võtab neid arvesse. Käesoleva määruse kohaste prognoositava väärkasutusega seotud riskimaandamismeetmete kindlakstegemine ja rakendamine ei tohiks nõuda pakkujalt spetsiaalseid täiendavaid suure riskiga tehisintellektisüsteemi jaoks mõeldud prognoositava väärkasutuse teemalisi treeninguid. Pakkujaid julgustatakse siiski kaaluma selliseid täiendavaid treenimismeetmeid mõistlikult prognoositava väärkasutamise leevendamiseks, kui see peaks olema vajalik ja asjakohane.
(65)
El sistema de gestión de riesgos debe consistir en un proceso iterativo continuo que sea planificado y ejecutado durante todo el ciclo de vida del sistema de IA de alto riesgo. Dicho proceso debe tener por objeto detectar y mitigar los riesgos pertinentes de los sistemas de IA para la salud, la seguridad y los derechos fundamentales. El sistema de gestión de riesgos debe revisarse y actualizarse periódicamente para garantizar su eficacia continua, así como la justificación y documentación de cualesquiera decisiones y acciones significativas adoptadas con arreglo al presente Reglamento. Este proceso debe garantizar que el proveedor determine los riesgos o efectos negativos y aplique medidas de mitigación de los riesgos conocidos y razonablemente previsibles de los sistemas de IA para la salud, la seguridad y los derechos fundamentales, habida cuenta de su finalidad prevista y de su uso indebido razonablemente previsible, incluidos los posibles riesgos derivados de la interacción entre el sistema de IA y el entorno en el que opera. El sistema de gestión de riesgos debe adoptar las medidas de gestión de riesgos más adecuadas a la luz del estado actual de la técnica en materia de IA. Al determinar las medidas de gestión de riesgos más adecuadas, el proveedor debe documentar y explicar las elecciones realizadas y, cuando proceda, contar con la participación de expertos y partes interesadas externas. Al determinar el uso indebido razonablemente previsible de los sistemas de IA de alto riesgo, el proveedor debe tener en cuenta los usos de los sistemas de IA que, aunque no estén directamente cubiertos por la finalidad prevista ni establecidos en las instrucciones de uso, cabe esperar razonablemente que se deriven de un comportamiento humano fácilmente previsible en el contexto de las características específicas y del uso de un sistema de IA concreto. Debe incluirse en las instrucciones de uso que sean facilitadas por el proveedor cualquier circunstancia conocida o previsible, asociada a la utilización del sistema de IA de alto riesgo conforme a su finalidad prevista o a un uso indebido razonablemente previsible, que pueda dar lugar a riesgos para la salud y la seguridad o los derechos fundamentales. Con ello se pretende garantizar que el responsable del despliegue sea consciente de estos riesgos y los tenga en cuenta al utilizar el sistema de IA de alto riesgo. La identificación y la aplicación de medidas de reducción del riesgo en caso de uso indebido previsible con arreglo al presente Reglamento no deben suponer la exigencia, para su acometida, de entrenamiento adicional específico para el sistema de IA de alto riesgo por parte del proveedor para hacer frente a usos indebidos previsibles. No obstante, se anima a los proveedores a considerar dichas medidas de entrenamiento adicionales para mitigar los usos indebidos razonablemente previsibles, cuando resulte necesario y oportuno.
(66)
Suure riskiga tehisintellektisüsteemide suhtes tuleks kohaldada riskijuhtimisega seotud nõudeid, mis puudutavad kasutatavate andmestike kvaliteeti ja asjakohasust, tehnilist dokumentatsiooni ja andmete säilitamist, läbipaistvust ja juurutajate teavitamist, inimjärelevalvet, töökindlust, täpsust ja küberturvalisust. Sellised nõuded on vajalikud, et tulemuslikult maandada riske tervisele, turvalisusele ja põhiõigustele. Kuna muud kaubandust vähem piiravad meetmed ei ole mõistlikult kättesaadavad, ei ole need piirangud põhjendamatud kaubanduspiirangud.
(66)
Deben aplicarse a los sistemas de IA de alto riesgo requisitos referentes a la gestión de riesgos, la calidad y la pertinencia de los conjuntos de datos utilizados, la documentación técnica y la conservación de registros, la transparencia y la comunicación de información a los responsables del despliegue, la supervisión humana, la solidez, la precisión y la ciberseguridad. Dichos requisitos son necesarios para mitigar de forma efectiva los riesgos para la salud, la seguridad y los derechos fundamentales. Al no disponerse razonablemente de otras medidas menos restrictivas del comercio, dichos requisitos no son restricciones injustificadas al comercio.
(67)
Kvaliteetsed andmed ja juurdepääs kvaliteetsetele andmetele on struktuuri pakkumiseks ja paljude tehisintellektisüsteemide toimimise tagamiseks hädavajalik, eriti kui kasutatakse mudelite treenimise meetodeid, et tagada suure riskiga tehisintellektisüsteemide sihipärane ja ohutu töö ja see, et neist ei saa liidu õigusega keelatud diskrimineerimise allikas. Kvaliteetsed treenimis-, valideerimis- ja testimisandmestikud eeldavad asjakohaste andmehaldus- ja juhtimistavade rakendamist. Treenimis-, valideerimis- ja testimisandmestikud, sealhulgas märgistus, peaksid olema asjakohased, piisavalt representatiivsed ning võimalikult suurel määral vigadeta ja täielikud, pidades silmas süsteemi sihtotstarvet. Selleks et hõlbustada liidu andmekaitseõiguse, näiteks määruse (EL) 2016/679 järgimist, peaksid andmehaldus- ja -juhtimistavad sisaldama isikuandmete puhul andmete kogumise algse eesmärgi läbipaistvust. Neil andmestikel peaksid olema asjakohased statistilised omadused, sealhulgas mis puudutab selliseid isikuid või isikute rühmi, kellega seoses kavatsetakse suure riskiga tehisintellektisüsteemi kasutada, pöörates erilist tähelepanu andmestike võimalike kallutatuste leevendamisele, kuna need võivad mõjutada inimeste tervist ja ohutust, avaldada negatiivset mõju põhiõigustele või põhjustada liidu õigusega keelatud diskrimineerimist, eriti kui andmeväljundid mõjutavad tulevaste toimingute sisendeid (tagasisideahelad). Kallutatus võib tuleneda näiteks aluseks olevatest andmestikest, eriti kui kasutatakse varasemaid andmeid, või see võib tekkida süsteemide rakendamisel tegelikus keskkonnas. Tehisintellektisüsteemide abil saavutatud tulemusi võib mõjutada selline loomupärane kallutatus, mis kaldub järk-järgult suurenema ning sel viisil põlistama ja võimendama olemasolevat diskrimineerimist, eriti teatud kaitsetutesse rühmadesse, sealhulgas rassilistesse või etnilistesse rühmadesse kuuluvate isikute puhul. Nõue, et andmestikud peavad olema võimalikult suurel määral täielikud ja vigadeta, ei tohiks mõjutada eraelu puutumatuse säilitamise meetodite kasutamist tehisintellektisüsteemide arendamise ja testimise kontekstis. Eeskätt tuleks andmestikes sihtotstarbe jaoks nõutavas ulatuses võtta arvesse funktsioone, omadusi või elemente, mis iseloomustavad konkreetset geograafilist, kontekstuaalset, käitumuslikku või funktsionaalset keskkonda, kus kavatsetakse suure riskiga tehisintellektisüsteemi kasutada. Andmehaldusega seotud nõudeid saab täita, kasutades kolmandaid isikuid, kes pakuvad sertifitseeritud vastavusteenuseid, sealhulgas andmehalduse, andmestiku tervikluse ning andmete treenimise, valideerimise ja testimise tavade kontrollimist, kui on tagatud vastavus käesoleva määruse andmenõuetele.
(67)
Los datos de alta calidad y el acceso a datos de alta calidad desempeñan un papel esencial a la hora de proporcionar una estructura y garantizar el funcionamiento de muchos sistemas de IA, en especial cuando se emplean técnicas que implican el entrenamiento de modelos, con vistas a garantizar que el sistema de IA de alto riesgo funcione del modo previsto y en condiciones de seguridad y no se convierta en una fuente de algún tipo de discriminación prohibida por el Derecho de la Unión. Es preciso instaurar prácticas adecuadas de gestión y gobernanza de datos para lograr que los conjuntos de datos para el entrenamiento, la validación y la prueba sean de alta calidad. Los conjuntos de datos para el entrenamiento, la validación y la prueba, incluidas las etiquetas, deben ser pertinentes, lo suficientemente representativos y, en la mayor medida posible, estar libres de errores y ser completos en vista de la finalidad prevista del sistema. A fin de facilitar el cumplimiento del Derecho de la Unión en materia de protección de datos, como el Reglamento (UE) 2016/679, las prácticas de gestión y gobernanza de datos deben incluir, en el caso de los datos personales, la transparencia sobre el fin original de la recopilación de datos. Los conjuntos de datos deben tener las propiedades estadísticas adecuadas, también en lo que respecta a las personas o los colectivos de personas en relación con los que esté previsto utilizar el sistema de IA de alto riesgo, prestando una atención especial a la mitigación de los posibles sesgos en los conjuntos de datos que puedan afectar a la salud y la seguridad de las personas físicas, tener repercusiones negativas en los derechos fundamentales o dar lugar a algún tipo de discriminación prohibida por el Derecho de la Unión, especialmente cuando los datos de salida influyan en la información de entrada de futuras operaciones (bucles de retroalimentación). Los sesgos, por ejemplo, pueden ser inherentes a los conjuntos de datos subyacentes, especialmente cuando se utilizan datos históricos, o generados cuando los sistemas se despliegan en entornos del mundo real. Los resultados de los sistemas de IA dependen de dichos sesgos inherentes, que tienden a aumentar gradualmente y, por tanto, perpetúan y amplifican la discriminación existente, en particular con respecto a las personas pertenecientes a determinados colectivos vulnerables, incluidos colectivos raciales o étnicos. El requisito de que los conjuntos de datos, en la mayor medida posible, sean completos y estén libres de errores no debe afectar al uso de técnicas de protección de la intimidad en el contexto del desarrollo y la prueba de sistemas de IA. En particular, los conjuntos de datos deben tener en cuenta, en la medida en que lo exija su finalidad prevista, los rasgos, características o elementos particulares del entorno geográfico, contextual, conductual o funcional específico en el que esté previsto que se utilice el sistema de IA. Los requisitos relacionados con la gobernanza de datos pueden cumplirse recurriendo a terceros que ofrezcan servicios certificados de cumplimiento, incluida la verificación de la gobernanza de datos, la integridad del conjunto de datos y las prácticas de entrenamiento, validación y prueba de datos, en la medida en que se garantice el cumplimiento de los requisitos en materia de datos del presente Reglamento.
(68)
Suure riskiga tehisintellektisüsteemide arendamiseks ja hindamiseks peaks teatavatel osalejatel, näiteks pakkujatel, teada antud asutustel ja muudel asjaomastel üksustel, näiteks Euroopa digitaalse innovatsiooni keskustel, testimis- ja eksperimenteerimisrajatistel ja teadlastel, olema oma käesoleva määrusega seotud tegevusvaldkondades juurdepääs kvaliteetsetele andmestikele ja nad peaksid saama neid kasutada. Komisjoni loodud ühtsed Euroopa andmeruumid ning avaliku huvi nimel hõlpsam andmete jagamine ettevõtete vahel ja valitsusega on äärmiselt tähtis, et pakkuda tehisintellektisüsteemide treenimiseks, valideerimiseks ja testimiseks usaldusväärset, vastutustundlikku ja mittediskrimineerivat juurdepääsu kvaliteetsetele andmetele. Näiteks tervise valdkonnas hõlbustab Euroopa terviseandmeruum mittediskrimineerivat juurdepääsu terviseandmetele ja tehisintellekti algoritmide treenimist selliste andmestikega privaatsust tagaval, turvalisel, õigeaegsel, läbipaistval ja usaldusväärsel viisil ning asjakohase institutsioonilise juhtimise all. Asjaomased pädevad asutused, sealhulgas valdkondlikud asutused, kes pakuvad või toetavad juurdepääsu andmetele, võivad toetada ka kvaliteetsete andmete pakkumist tehisintellektisüsteemide treenimiseks, valideerimiseks ja testimiseks.
(68)
Para poder desarrollar y evaluar sistemas de IA de alto riesgo, determinados agentes, tales como proveedores, organismos notificados y otras entidades pertinentes, como centros europeos de innovación digital, instalaciones de ensayo y experimentación e investigadores, deben tener acceso a conjuntos de datos de alta calidad en sus campos de actividad relacionados con el presente Reglamento y deben poder utilizarlos. Los espacios comunes europeos de datos establecidos por la Comisión y la facilitación del intercambio de datos entre empresas y con los Gobiernos en favor del interés público serán esenciales para brindar un acceso fiable, responsable y no discriminatorio a datos de alta calidad con los que entrenar, validar y probar los sistemas de IA. Por ejemplo, en el ámbito de la salud, el espacio europeo de datos sanitarios facilitará el acceso no discriminatorio a datos sanitarios y el entrenamiento, a partir de esos conjuntos de datos, de algoritmos de IA de una manera segura, oportuna, transparente, fiable y que respete la intimidad, y contando con la debida gobernanza institucional. Las autoridades competentes pertinentes, incluidas las sectoriales, que proporcionan acceso a datos o lo facilitan también pueden brindar apoyo al suministro de datos de alta calidad con los que entrenar, validar y probar los sistemas de IA.
(69)
Õigus eraelu puutumatusele ja isikuandmete kaitsele peab olema tagatud kogu tehisintellektisüsteemi elutsükli jooksul. Sellega seoses kohaldatakse isikuandmete töötlemisel võimalikult väheste andmete kogumise ning lõimitud ja vaikimisi andmekaitse põhimõtteid, mis on sätestatud liidu andmekaitseõiguses. Meetmed, mida pakkujad võtavad nende põhimõtete järgimise tagamiseks, võivad hõlmata mitte üksnes anonüümimist ja krüpteerimist, vaid ka sellise tehnoloogia kasutamist, mis võimaldab tuua andmetesse algoritme ja treenida tehisintellektisüsteeme ilma toor- või struktureeritud andmete pooltevahelise edastamise või kopeerimiseta, ilma et see piiraks käesolevas määruses sätestatud andmehalduse nõuete kohaldamist.
(69)
El derecho a la intimidad y a la protección de datos personales debe garantizarse a lo largo de todo el ciclo de vida del sistema de IA. A este respecto, los principios de minimización de datos y de protección de datos desde el diseño y por defecto, establecidos en el Derecho de la Unión en materia de protección de datos, son aplicables cuando se tratan datos personales. Las medidas adoptadas por los proveedores para garantizar el cumplimiento de estos principios podrán incluir no solo la anonimización y el cifrado, sino también el uso de una tecnología que permita llevar los algoritmos a los datos y el entrenamiento de los sistemas de IA sin que sea necesaria la transmisión entre las partes ni la copia de los datos brutos o estructurados, sin perjuicio de los requisitos en materia de gobernanza de datos establecidos en el presente Reglamento.
(70)
Et kaitsta teiste õigust tehisintellektisüsteemide kallutatusest tuleneda võiva diskrimineerimise eest, peaksid pakkujad erandkorras ja ulatuses, mis on rangelt vajalik selleks, et tagada kallutatuse avastamine ja korrigeerimine seoses suure riskiga tehisintellektisüsteemidega, tingimusel et kohaldatakse asjakohaseid kaitsemeetmeid füüsiliste isikute põhiõiguste ja -vabaduste tagamiseks ning järgitakse kõiki käesolevas määruses sätestatud kohaldatavaid tingimusi lisaks määrustes (EL) 2016/679 ja (EL) 2018/1725 ning direktiivis (EL) 2016/680 sätestatud tingimustele, olema võimelised töötlema ka isikuandmete eriliike, mis pakuvad märkimisväärset avalikku huvi määruse (EL) 2016/679 artikli 9 lõike 2 punkti g ja määruse (EL) 2018/1725 artikli 10 lõike 2 punkti g tähenduses.
(70)
A fin de proteger los derechos de terceros frente a la discriminación que podría provocar el sesgo de los sistemas de IA, los proveedores deben —con carácter excepcional, en la medida en que sea estrictamente necesario para garantizar la detección y corrección de los sesgos asociados a los sistemas de IA de alto riesgo, con sujeción a las garantías adecuadas para los derechos y libertades fundamentales de las personas físicas y tras la aplicación de todas las condiciones aplicables establecidas en el presente Reglamento, además de las condiciones establecidas en los Reglamentos (UE) 2016/679 y (UE) 2018/1725 y la Directiva (UE) 2016/680— ser capaces de tratar también categorías especiales de datos personales, como cuestión de interés público esencial en el sentido del artículo 9, apartado 2, letra g), del Reglamento (UE) 2016/679 y del artículo 10, apartado 2, letra g), del Reglamento (UE) 2018/1725.
(71)
Arusaadav teave selle kohta, kuidas suure riskiga tehisintellektisüsteemid on välja töötatud ja kuidas need kogu oma eluea jooksul töötavad, on äärmiselt oluline, et võimaldada nende süsteemide jälgitavust, kontrollida vastavust käesoleva määruse kohastele nõuetele ning jälgida nende toiminguid ja teha turustamisjärgset seiret. Selleks on vaja säilitada andmeid ja tagada sellise tehnilise dokumentatsiooni kättesaadavus, mis sisaldab teavet, mida on vaja, et hinnata, kas tehisintellektisüsteem vastab asjakohastele nõuetele, ja hõlbustada turustamisjärgset seiret. Sellise teabe hulka peaksid kuuluma süsteemi üldised omadused, võimed ja piirid, algoritmid, andmed, kasutatud treenimis-, testimis- ja valideerimisprotsessid ning dokumentatsioon asjaomase riskijuhtimissüsteemi kohta ning see peaks olema koostatud selgel ja ammendaval viisil. Tehniline dokumentatsioon peaks olema nõuetekohaselt ajakohane kogu tehisintellektisüsteemi eluea jooksul. Lisaks peaksid suure riskiga tehisintellektisüsteemid võimaldama tehniliselt sündmuste automaatset registreerimist, kasutades selleks logisid, süsteemi kogu eluea jooksul.
(71)
Para permitir la trazabilidad de los sistemas de IA de alto riesgo, verificar si cumplen los requisitos previstos en el presente Reglamento, así como vigilar su funcionamiento y llevar a cabo la vigilancia poscomercialización, resulta esencial disponer de información comprensible sobre el modo en que se han desarrollado y sobre su funcionamiento durante toda su vida útil. A tal fin, es preciso llevar registros y disponer de documentación técnica que contenga la información necesaria para evaluar si el sistema de IA de que se trate cumple los requisitos pertinentes y facilitar la vigilancia poscomercialización. Dicha información debe incluir las características generales, las capacidades y las limitaciones del sistema y los algoritmos, datos y procesos de entrenamiento, prueba y validación empleados, así como documentación sobre el sistema de gestión de riesgos pertinente, elaborada de manera clara y completa. La documentación técnica debe mantenerse adecuadamente actualizada durante toda la vida útil del sistema de IA. Además, los sistemas de IA de alto riesgo deben permitir técnicamente el registro automático de acontecimientos, mediante archivos de registro, durante toda la vida útil del sistema.
(72)
Selleks et lahendada probleeme, mis on seotud teatavate tehisintellektisüsteemide läbipaistmatuse ja keerukusega, ning aidata juurutajatel täita käesolevast määrusest tulenevaid kohustusi, tuleks suure riskiga tehisintellektisüsteemide puhul enne nende turule laskmist või kasutusele võtmist nõuda nende läbipaistvust. Suure riskiga tehisintellektisüsteemid tuleks projekteerida viisil, mis võimaldab juurutajatel mõista, kuidas tehisintellektisüsteem toimib, hinnata selle funktsionaalsust ning mõista selle tugevaid külgi ja piire. Suure riskiga tehisintellektisüsteemidega peaks kaasnema asjakohane teave kasutusjuhendi kujul. Selline teave peaks hõlmama tehisintellektisüsteemi omadusi, võimeid ja toimimispiire. Need peaksid hõlmama teavet suure riskiga tehisintellektisüsteemi kasutamisega seotud võimalike teadaolevate ja prognoositavate asjaolude kohta, sealhulgas juurutaja tegevuse kohta, mis võib mõjutada süsteemi käitumist ja toimimist, mille puhul tehisintellektisüsteem võib põhjustada riske tervisele, turvalisusele ja põhiõigustele, muutuste kohta, mille pakkuja on eelnevalt kindlaks määranud ja mille vastavust hinnanud, ning asjakohaste inimjärelevalve meetmete kohta, sealhulgas meetmete kohta, millega hõlbustatakse tehisintellektisüsteemi väljundite tõlgendamist juurutajate poolt. Läbipaistvus, sealhulgas lisatud kasutusjuhendid, peaks aitama juurutajaid süsteemi kasutamisel ja toetama nende teadlike otsuste tegemist. Juurutajad peaksid muu hulgas olema paremas olukorras, et teha õige valik süsteemi osas, mida nad kavatsevad kasutada, võttes arvesse nende suhtes kohaldatavaid kohustusi, olema teadlikud kavandatud ja välistatud kasutusviisidest ning kasutama tehisintellektisüsteemi õigesti ja vastavalt vajadusele. Selleks et parandada kasutusjuhendis sisalduva teabe loetavust ja kättesaadavust, tuleks vajaduse korral lisada selgitavad näited, näiteks tehisintellektisüsteemi piiride ning kavandatud ja välistatud kasutusviiside kohta. Pakkujad peaksid tagama, et kogu dokumentatsioon, sealhulgas kasutusjuhendid, sisaldab sisukat, põhjalikku, kättesaadavat ja arusaadavat teavet, võttes arvesse sihtjuurutajate vajadusi ja prognoositavaid teadmisi. Kasutusjuhendid tuleks teha kättesaadavaks asjaomase liikmesriigi poolt kindlaks määratud keeles, mis on sihtjuurutajatele kergesti arusaadav.
(72)
A fin de abordar las preocupaciones relacionadas con la opacidad y complejidad de determinados sistemas de IA y ayudar a los responsables del despliegue a cumplir sus obligaciones en virtud del presente Reglamento, debe exigirse transparencia respecto de los sistemas de IA de alto riesgo antes de su introducción en el mercado o su puesta en servicio. Los sistemas de IA de alto riesgo deben diseñarse de modo que permitan a los responsables del despliegue comprender la manera en que el sistema de IA funciona, evaluar su funcionalidad y comprender sus fortalezas y limitaciones. Los sistemas de IA de alto riesgo deben ir acompañados de la información adecuada en forma de instrucciones de uso. Dicha información debe incluir las características, las capacidades y las limitaciones del funcionamiento del sistema de IA. Estas comprenderían la información sobre las posibles circunstancias conocidas y previsibles relacionadas con el uso del sistema de IA de alto riesgo, incluida la actuación del responsable del despliegue capaz de influir en el comportamiento y el funcionamiento del sistema, en cuyo marco el sistema de IA puede dar lugar a riesgos para la salud, la seguridad y los derechos fundamentales, sobre los cambios que el proveedor haya predeterminado y evaluado para comprobar su conformidad y sobre las medidas pertinentes de supervisión humana, incluidas las medidas para facilitar la interpretación de los resultados de salida del sistema de IA por parte de los responsables del despliegue. La transparencia, incluidas las instrucciones de uso que acompañan a los sistemas de IA, debe ayudar a los responsables del despliegue a utilizar el sistema y tomar decisiones con conocimiento de causa. Los responsables del despliegue deben, entre otras cosas, estar en mejores condiciones para elegir correctamente el sistema que pretenden utilizar a la luz de las obligaciones que les son aplicables, estar informados sobre los usos previstos y excluidos y utilizar el sistema de IA correctamente y según proceda. A fin de mejorar la legibilidad y la accesibilidad de la información incluida en las instrucciones de uso, cuando proceda, deben incluirse ejemplos ilustrativos, por ejemplo sobre las limitaciones y sobre los usos previstos y excluidos del sistema de IA. Los proveedores deben garantizar que toda la documentación, incluidas las instrucciones de uso, contenga información significativa, exhaustiva, accesible y comprensible, que tenga en cuenta las necesidades y los conocimientos previsibles de los responsables del despliegue destinatarios. Las instrucciones de uso deben estar disponibles en una lengua fácilmente comprensible para los responsables del despliegue destinatarios, según lo que decida el Estado miembro de que se trate.
(73)
Suure riskiga tehisintellektisüsteeme tuleks projekteerida ja arendada nii, et füüsilised isikud saaksid jälgida nende toimimist, tagada, et neid kasutatakse ettenähtud viisil ja et nende mõju käsitletakse süsteemi elutsükli jooksul. Selleks peaks süsteemi pakkuja tegema enne süsteemi turule laskmist või kasutusele võtmist kindlaks asjakohased inimjärelevalve meetmed. Kui see on asjakohane, tuleks selliste meetmetega eeskätt tagada, et süsteemi on sisse ehitatud tegevuspiirangud, mida süsteem ise ei saa eirata, et süsteem reageerib inimoperaatori käskudele ning et järelevalvega tegelema määratud füüsilistel isiktel on selle ülesande täitmiseks vajalik pädevus, väljaõpe ja volitused. Samuti on hädavajalik tagada, kui see on asjakohane, et suure riskiga tehisintellektisüsteemid sisaldavad mehhanisme, mille abil suunata ja teavitada füüsilist isikut, kellele on määratud inimjärelevalve ülesanne, tegema teadlikke otsuseid, kas, millal ja kuidas sekkuda, et hoida ära negatiivseid tagajärgi või riske või süsteem peatada, kui see ei toimi ettenähtud viisil. Võttes arvesse märkimisväärseid tagajärgi isikutele, kui teatavad biomeetrilise tuvastamise süsteemid annavad valesid tulemusi, on asjakohane näha nende süsteemide puhul ette tõhusama inimjärelevalve nõue, et juurutaja ei saaks süsteemist tuleneva tuvastamise põhjal midagi ette võtta ega otsust teha, kui tuvastamist ei ole eraldi kontrollinud ja kinnitanud vähemalt kaks füüsilist isikut. Need isikud võivad olla pärit ühest või mitmest üksusest ning nende hulka võib kuuluda süsteemi käitav või kasutav isik. See nõue ei tohiks põhjustada tarbetut koormust ega tarbetuid viivitusi ning piisata võib sellest, kui eri isikute tehtud eraldi kontrollid registreeritakse automaatselt süsteemi loodud logides. Võttes arvesse õiguskaitse, rände, piirikontrolli ja varjupaiga valdkonna eripära, ei tohiks seda nõuet kohaldada, kui liidu või liikmesriigi õiguses peetakse selle nõude kohaldamist ebaproportsionaalseks.
(73)
Los sistemas de IA de alto riesgo deben diseñarse y desarrollarse de tal modo que las personas físicas puedan supervisar su funcionamiento, así como asegurarse de que se usan según lo previsto y de que sus repercusiones se abordan a lo largo del ciclo de vida del sistema. A tal fin, el proveedor del sistema debe definir las medidas adecuadas de supervisión humana antes de su introducción en el mercado o puesta en servicio. Cuando proceda, dichas medidas deben garantizar, en concreto, que el sistema esté sujeto a limitaciones operativas incorporadas en el propio sistema que este no pueda desactivar, que responda al operador humano y que las personas físicas a quienes se haya encomendado la supervisión humana posean las competencias, la formación y la autoridad necesarias para desempeñar esa función. También es esencial, según proceda, garantizar que los sistemas de IA de alto riesgo incluyan mecanismos destinados a orientar e informar a las personas físicas a las que se haya asignado la supervisión humana para que tomen decisiones con conocimiento de causa acerca de si intervenir, cuándo hacerlo y de qué manera, a fin de evitar consecuencias negativas o riesgos, o de detener el sistema si no funciona según lo previsto. Teniendo en cuenta las enormes consecuencias para las personas en caso de una correspondencia incorrecta efectuada por determinados sistemas de identificación biométrica, conviene establecer un requisito de supervisión humana reforzada para dichos sistemas, de modo que el responsable del despliegue no pueda actuar ni tomar ninguna decisión basándose en la identificación generada por el sistema, salvo si al menos dos personas físicas la han verificado y confirmado por separado. Dichas personas podrían proceder de una o varias entidades e incluir a la persona que maneja o utiliza el sistema. Este requisito no debe suponer una carga ni retrasos innecesarios y podría bastar con que las verificaciones que las distintas personas efectúen por separado se registren automáticamente en los registros generados por el sistema. Dadas las especificidades de los ámbitos de la garantía del cumplimiento del Derecho, la migración, el control fronterizo y el asilo, ese requisito no debe aplicarse cuando el Derecho nacional o de la Unión considere que su aplicación es desproporcionada.
(74)
Suure riskiga tehisintellektisüsteemid peaksid toimima kogu oma elutsükli jooksul järjepidevalt ning nende täpsus, stabiilsus ja küberturvalisus peaks nende sihtotstarvet arvesse võttes olema asjakohasel tasemel vastavalt tehnika üldtunnustatud tasemele. Komisjoni ning asjaomaseid organisatsioone ja sidusrühmi julgustatakse võtma nõuetekohaselt arvesse tehisintellektisüsteemi riskide maandamist ja nende negatiivset mõju. Toimimise parameetrite eeldatav tase tuleks deklareerida süsteemiga kaasas olevas kasutusjuhendis. Pakkujaid kutsutakse üles edastama see teave juurutajatele selgel ja kergesti arusadaval viisil, hoidudes vääritimõistmistest ja eksitavatest väidetest. Legaalmetroloogiat käsitleva liidu õiguse, sealhulgas Euroopa Parlamendi ja nõukogu direktiivide 2014/31/EL (35) ja 2014/32/EL (36) eesmärk on tagada mõõtmiste täpsus ning aidata kaasa äritehingute läbipaistvusele ja aususele. Sellega seoses peaks komisjon koostöös asjaomaste sidusrühmade ja organisatsioonidega, nagu metroloogia- ja võrdlusuuringuasutused, soodustama, kui see on asjakohane, tehisintellektisüsteemide võrdlusaluste ja mõõtmismeetodite väljatöötamist. Seda tehes peaks komisjon võtma teadmiseks rahvusvahelised partnerid, kes tegelevad metroloogia ja tehisintellektiga seotud asjakohaste mõõtmisnäitajatega, ja tegema nendega koostööd.
(74)
Los sistemas de IA de alto riesgo deben funcionar de manera uniforme durante todo su ciclo de vida y presentar un nivel adecuado de precisión, solidez y ciberseguridad, a la luz de su finalidad prevista y con arreglo al estado actual de la técnica generalmente reconocido. Se anima a la Comisión y las organizaciones y partes interesadas pertinentes a que tengan debidamente en cuenta la mitigación de los riesgos y las repercusiones negativas del sistema de IA. El nivel previsto de los parámetros de funcionamiento debe declararse en las instrucciones de uso que acompañen a los sistemas de IA. Se insta a los proveedores a que comuniquen dicha información a los responsables del despliegue de manera clara y fácilmente comprensible, sin malentendidos ni afirmaciones engañosas. El Derecho de la Unión en materia de metrología legal, incluidas las Directivas 2014/31/UE (35) y 2014/32/UE (36) del Parlamento Europeo y del Consejo, tiene por objeto garantizar la precisión de las mediciones y contribuir a la transparencia y la equidad de las transacciones comerciales. En ese contexto, en cooperación con las partes interesadas y las organizaciones pertinentes, como las autoridades de metrología y de evaluación comparativa, la Comisión debe fomentar, según proceda, el desarrollo de parámetros de referencia y metodologías de medición para los sistemas de IA. Al hacerlo, la Comisión debe tomar nota de los socios internacionales que trabajan en la metrología y los indicadores de medición pertinentes relacionados con la IA y colaborar con ellos.
(75)
Suure riskiga tehisintellektisüsteemide üks peamisi nõudeid on tehniline stabiilsus. Sellised süsteemid peaksid olema vastupidavad kahjuliku või muul viisil soovimatu käitumise suhtes, mis võib tuleneda süsteemide või nende töökeskkonna piirangutest (näiteks vead, rikked, ebakõlad, ootamatud olukorrad). Seepärast tuleks võtta tehnilisi ja korralduslikke meetmeid, et tagada suure riskiga tehisintellektisüsteemide stabiilsus, näiteks projekteerides ja arendades asjakohaseid tehnilisi lahendusi kahjuliku või muul viisil soovimatu käitumise ennetamiseks või minimeerimiseks. Nende tehniliste lahenduste seas võivad näiteks olla mehhanismid, mis võimaldavad süsteemil oma töö ohutult katkestada (tõrkekindluse plaanid) teatavate kõrvalekallete esinemisel või juhul, kui käitamine toimub väljaspool teatavaid eelnevalt kindlaks määratud piire. Nende riskide eest kaitsmata jätmine võib mõjutada ohutust või kahjustada põhiõigusi näiteks ekslike otsuste või tehisintellektisüsteemi loodud ekslike või kallutatud väljundite tõttu.
(75)
La solidez técnica es un requisito clave para los sistemas de IA de alto riesgo, que deben ser resilientes en relación con los comportamientos perjudiciales o indeseables por otros motivos que puedan derivarse de limitaciones en los sistemas o del entorno en el que estos funcionan (p. ej., errores, fallos, incoherencias o situaciones inesperadas). Por consiguiente, deben adoptarse medidas técnicas y organizativas para garantizar la solidez de los sistemas de IA de alto riesgo, por ejemplo mediante el diseño y desarrollo de soluciones técnicas adecuadas para prevenir o reducir al mínimo ese comportamiento perjudicial o indeseable. Estas soluciones técnicas pueden incluir, por ejemplo, mecanismos que permitan al sistema interrumpir de forma segura su funcionamiento (planes de prevención contra fallos) en presencia de determinadas anomalías o cuando el funcionamiento tenga lugar fuera de determinados límites predeterminados. El hecho de no adoptar medidas de protección frente a estos riesgos podría tener consecuencias para la seguridad o afectar de manera negativa a los derechos fundamentales, por ejemplo, debido a decisiones equivocadas o resultados de salida erróneos o sesgados generados por el sistema de IA.
(76)
Küberturvalisusel on oluline roll, et tagada tehisintellektisüsteemide vastupanuvõime pahatahtlike kolmandate isikute katsetele muuta süsteemi nõrku kohti ära kasutades süsteemi kasutust, käitumist või toimimist või kahjustada selle turvaomadusi. Tehisintellektisüsteemide vastu suunatud küberrünnetes võidakse ära kasutada tehisintellektispetsiifilisi ressursse, näiteks treeningandmestikke (näiteks andmemürgitus) või treenitud mudeleid (näiteks vastandründed (adversarial attacks) või liikmesuse järeldamine), või tehisintellektisüsteemi digivarade või IKT alustaristu nõrkusi. Seega peaksid suure riskiga tehisintellektisüsteemide pakkujad võtma riskidele vastava küberturvalisuse taseme tagamiseks sobivaid meetmeid, näiteks kehtestama turvakontrollid, võttes samuti asjakohasel juhul arvesse IKT alustaristut.
(76)
La ciberseguridad es fundamental para garantizar que los sistemas de IA resistan a las actuaciones de terceros maliciosos que, aprovechando las vulnerabilidades del sistema, traten de alterar su uso, comportamiento o funcionamiento o de poner en peligro sus propiedades de seguridad. Los ciberataques contra sistemas de IA pueden dirigirse contra activos específicos de la IA, como los conjuntos de datos de entrenamiento (p. ej., envenenamiento de datos) o los modelos entrenados (p. ej., ataques adversarios o inferencia de pertenencia), o aprovechar las vulnerabilidades de los activos digitales del sistema de IA o la infraestructura de TIC subyacente. Por lo tanto, para garantizar un nivel de ciberseguridad adecuado a los riesgos, los proveedores de sistemas de IA de alto riesgo deben adoptar medidas adecuadas, como los controles de seguridad, teniendo también en cuenta, cuando proceda, la infraestructura de TIC subyacente.
(77)
Ilma et see piiraks käesolevas määruses sätestatud stabiilsuse ja täpsuse nõuete kohaldamist, võivad suure riskiga tehisintellektisüsteemid, mis kuuluvad Euroopa Parlamendi ja nõukogu määruse, mis käsitleb digielemente sisaldavate toodete küberturvalisuse horisontaalseid nõudeid kohaldamisalasse, tõendada kooskõlas kõnealuse määrusega vastavust käesoleva määruse küberturvalisuse nõuetele, täites kõnealuses määruses sätestatud olulisi küberturvalisuse nõudeid. Kui suure riskiga tehisintellektisüsteemid vastavad Euroopa Parlamendi ja nõukogu määruse, mis käsitleb digielemente sisaldavate toodete küberturvalisuse horisontaalseid nõudeid olulistele nõuetele, tuleks neid käsitada käesolevas määruses sätestatud küberturvalisuse nõuetele vastavana, kui nende nõuete täitmist tõendatakse kõnealuse määruse alusel väljastatud ELi vastavusdeklaratsioonis või selle osades. Sel eesmärgil tuleks küberturvalisuse riskide hindamisel, mis on seotud digielemente sisaldava tootega, mis on käesoleva määruse kohaselt liigitatud suure riskiga tehisintellektisüsteemiks, ja mis viiakse läbi Euroopa Parlamendi ja nõukogu määruse, mis käsitleb digielemente sisaldavate toodete küberturvalisuse horisontaalseid nõudeid alusel, võtta arvesse riske tehisintellektisüsteemi kübervastupidavusvõimele seoses volitamata kolmandate isikute katsetega muuta selle kasutust, käitumist või toimimist, sealhulgas tehisintellektile iseloomulikku nõrkusi, nagu andmemürgitus või vastandründed, ning kui see on asjakohane, riske põhiõigustele, nagu on käesolevas määruses nõutud.
(77)
Sin perjuicio de los requisitos relacionados con la solidez y la precisión establecidos en el presente Reglamento, los sistemas de IA de alto riesgo que entren en el ámbito de aplicación de un reglamento del Parlamento Europeo y del Consejo relativo a los requisitos horizontales de ciberseguridad para los productos con elementos digitales, de conformidad con dicho reglamento, pueden demostrar el cumplimiento con los requisitos de ciberseguridad del presente Reglamento mediante el cumplimiento de los requisitos esenciales de ciberseguridad establecidos en dicho reglamento. Cuando los sistemas de IA de alto riesgo cumplan los requisitos esenciales de ciberseguridad de un reglamento del Parlamento Europeo y del Consejo relativo a los requisitos horizontales de ciberseguridad para los productos con elementos digitales, debe presumirse que cumplen los requisitos de ciberseguridad del presente Reglamento en la medida en que la satisfacción de esos requisitos se demuestre en la declaración UE de conformidad de emitida con arreglo a dicho reglamento, o partes de esta. A tal fin, la evaluación de los riesgos de ciberseguridad asociados a un producto con elementos digitales clasificado como un sistema de IA de alto riesgo con arreglo al presente Reglamento, realizada en virtud de un reglamento del Parlamento Europeo y del Consejo relativo a los requisitos horizontales de ciberseguridad para los productos con elementos digitales, debe tener en cuenta los riesgos para la ciberresiliencia de un sistema de IA por lo que respecta a los intentos de terceros no autorizados de alterar su uso, comportamiento o funcionamiento, incluidas las vulnerabilidades específicas de la IA, como el envenenamiento de datos o los ataques adversarios, así como, en su caso, los riesgos para los derechos fundamentales, tal como exige el presente Reglamento.
(78)
Käesolevas määruses sätestatud vastavushindamismenetlust tuleks kohaldada Euroopa Parlamendi ja nõukogu määruse, mis käsitleb digielemente sisaldavate toodete küberturvalisuse horisontaalseid nõudeid, kohaldamisalasse kuuluva ja käesoleva määruse alusel suure riskiga tehisintellektisüsteemiks liigitatud digielemente sisaldava toote oluliste küberturvalisuse nõuete suhtes. Sellise normi tagajärjel ei tohiks siiski väheneda Euroopa Parlamendi ja nõukogu määruse, mis käsitleb digielemente sisaldavate toodete küberturvalisuse horisontaalseid nõudeid, kohaldamisalasse kuuluvate digielemente sisaldavate kriitilise tähtsusega toodete usaldusväärsuse vajalik tase. Seepärast, erandina sellest normist, kohaldatakse suure riskiga tehisintellektisüsteemide suhtes, mis kuuluvad käesoleva määruse kohaldamisalasse ning mis on ühtlasi liigitatud Euroopa Parlamendi ja nõukogu määruse, mis käsitleb digielemente sisaldavate toodete küberturvalisuse horisontaalseid nõudeid, kohaselt olulisteks ja kriitilise tähtsusega digielemente sisaldavateks toodeteks ning mille suhtes kohaldatakse käesoleva määruse lisas sätestatud sisekontrollil põhinevat vastavushindamismenetlust, Euroopa Parlamendi ja nõukogu määruse, mis käsitleb digielemente sisaldavate toodete küberturvalisuse horisontaalseid nõudeid, vastavushindamist käsitlevaid sätteid niivõrd, kuivõrd see on seotud kõnealuse määruse oluliste küberturvalisuse nõuetega. Sellisel juhul tuleks kõigis muudes käesoleva määrusega hõlmatud aspektides kohaldada käesoleva määruse lisas sätestatud sisekontrollil põhineva vastavushindamismenetluse vastavaid sätteid. Tuginedes Euroopa Liidu Küberturvalisuse Ameti (ENISA) küberturvalisuse poliitikaga seotud teadmistele ja oskusteabele ning ENISA-le Euroopa Parlamendi ja nõukogu määrusega (EL) 2019/881 (37) antud ülesannetele, peaks komisjon tehisintellektisüsteemide küberturvalisusega seotud küsimustes ENISAga koostööd tegema.
(78)
El procedimiento de evaluación de la conformidad establecido en el presente Reglamento debe aplicarse en relación con los requisitos esenciales de ciberseguridad de un producto con elementos digitales regulado por un reglamento del Parlamento Europeo y del Consejo relativo a los requisitos horizontales de ciberseguridad para los productos con elementos digitales y clasificado como sistema de IA de alto riesgo con arreglo al presente Reglamento. Sin embargo, esta norma no debe dar lugar a una reducción del nivel de garantía necesario para los productos críticos con elementos digitales sujetos a un reglamento del Parlamento Europeo y del Consejo relativo a los requisitos horizontales de ciberseguridad para los productos con elementos digitales. Por consiguiente, no obstante lo dispuesto en esta norma, los sistemas de IA de alto riesgo que entran dentro del ámbito de aplicación del presente Reglamento y que también se consideran productos críticos importantes con elementos digitales en virtud de un reglamento del Parlamento Europeo y del Consejo relativo a los requisitos horizontales de ciberseguridad para los productos con elementos digitales, y a los que se aplica el procedimiento de evaluación de la conformidad fundamentado en un control interno que se establece en un anexo del presente Reglamento, están sujetos a lo dispuesto en un reglamento del Parlamento Europeo y del Consejo relativo a los requisitos horizontales de ciberseguridad para los productos con elementos digitales en materia de evaluación de la conformidad por lo que se refiere a los requisitos esenciales de ciberseguridad de dicho reglamento. En tal caso, en relación con todos los demás aspectos que entren en el ámbito de aplicación del presente Reglamento, debe aplicarse lo dispuesto en el anexo VI del presente Reglamento en materia de evaluación de la conformidad fundamentada en un control interno. Habida cuenta de los conocimientos y la experiencia de la Agencia de la Unión Europea para la Ciberseguridad (ENISA) en materia de política de ciberseguridad y de las tareas que se le encomiendan en virtud del Reglamento (UE) 2019/881 del Parlamento Europeo y del Consejo (37), la Comisión debe cooperar con ENISA en las cuestiones relacionadas con la ciberseguridad de los sistemas de IA.
(79)
On asjakohane, et suure riskiga tehisintellektisüsteemi turule laskmise või kasutusele võtmise eest võtab vastutuse konkreetne füüsiline või juriidiline isik, kes on määratletud kui pakkuja, olenemata sellest, kas see füüsiline või juriidiline isik on süsteemi projekteerija või arendaja.
(79)
Conviene que una persona física o jurídica concreta, definida como el proveedor, asuma la responsabilidad asociada a la introducción en el mercado o la puesta en servicio de un sistema de IA de alto riesgo, con independencia de si dicha persona física o jurídica es o no quien diseñó o desarrolló el sistema.
(80)
ÜRO puuetega inimeste õiguste konventsiooni allkirjastajatena on liit ja liikmesriigid seadusega kohustatud kaitsma puuetega inimesi diskrimineerimise eest ja edendama nende võrdõiguslikkust, tagama puuetega inimestele teistega võrdsetel alustel juurdepääsu info- ja kommunikatsioonitehnoloogiale ja -süsteemidele ning tagama puuetega inimeste eraelu puutumatuse austamise. Arvestades tehisintellektisüsteemide kasvavat tähtsust ja kasutamist, peaks universaaldisaini põhimõtete kohaldamine kõigi uute tehnoloogiate ja teenuste suhtes tagama täieliku ja võrdse juurdepääsu kõigile, keda tehisintellekti tehnoloogiad potentsiaalselt mõjutavad või kes neid kasutavad, sealhulgas puuetega inimestele, võttes täielikult arvesse nende loomupärast väärikust ja mitmekesisust. Seepärast on oluline, et pakkujad järgiksid täielikult ligipääsetavusnõudeid, sealhulgas Euroopa Parlamendi ja nõukogu direktiivi (EL) 2016/2102 (38) ja direktiivi (EL) 2019/882. Pakkujad peaksid tagama, et need nõuetelevastavuse kohustused on integreeritud. Seepärast tuleks vajalikud meetmed integreerida võimalikult suures ulatuses suure riskiga tehisintellektisüsteemi projekteerimisse.
(80)
Como signatarios de la Convención sobre los Derechos de las Personas con Discapacidad, la Unión y todos los Estados miembros están legalmente obligados a proteger a las personas con discapacidad contra la discriminación y a promover su igualdad, a garantizar que las personas con discapacidad tengan acceso, en igualdad de condiciones con las demás, a las tecnologías y sistemas de la información y las comunicaciones, y a garantizar el respeto a la intimidad de las personas con discapacidad. Habida cuenta de la importancia y el uso crecientes de los sistemas de IA, la aplicación de los principios de diseño universal a todas las nuevas tecnologías y servicios debe garantizar el acceso pleno e igualitario de todas las personas a las que puedan afectar las tecnologías de IA o que puedan utilizar dichas tecnologías, incluidas las personas con discapacidad, de forma que se tenga plenamente en cuenta su dignidad y diversidad inherentes. Por ello es esencial que los proveedores garanticen el pleno cumplimiento de los requisitos de accesibilidad, incluidas la Directiva (UE) 2016/2102 del Parlamento Europeo y del Consejo (38) y la Directiva (UE) 2019/882. Los proveedores deben garantizar el cumplimiento de estos requisitos desde el diseño. Por consiguiente, las medidas necesarias deben integrarse en la medida de lo posible en el diseño de los sistemas de IA de alto riesgo.
(81)
Pakkuja peaks kehtestama usaldusväärse kvaliteedijuhtimissüsteemi, tagama nõutava vastavushindamismenetluse teostamise, koostama asjakohase dokumentatsiooni ja kehtestama stabiilse turustamisjärgse seire süsteemi. Suure riskiga tehisintellektisüsteemide pakkujatel, kelle suhtes kohaldatakse asjaomase valdkondliku liidu õiguse alusel kvaliteedijuhtimissüsteeme käsitlevaid kohustusi, peaks olema võimalus lisada käesoleva määrusega ette nähtud kvaliteedijuhtimissüsteemi elemendid juba kehtivasse kvaliteedijuhtimissüsteemi, mis oli ette nähtud kõnealuse muu valdkondliku liidu õigusega. Käesoleva määruse ja kehtiva liidu valdkondliku õiguse vastastikust täiendavust tuleks arvesse võtta ka tulevases standardimistegevuses või komisjoni vastuvõetavates suunistes. Ametiasutused, kes võtavad suure riskiga tehisintellektisüsteemi kasutusele oma tarbeks, võivad võtta vastu kvaliteedijuhtimissüsteemi reeglid ja neid rakendada olenevalt asjaoludest riigi või piirkonna tasemel vastuvõetud kvaliteedijuhtimissüsteemi osana, võttes arvesse sektori iseärasusi ning asjaomase ametiasutuse pädevust ja töökorraldust.
(81)
El proveedor debe instaurar un sistema de gestión de la calidad sólido, velar por que se siga el procedimiento de evaluación de la conformidad necesario, elaborar la documentación pertinente y establecer un sistema de vigilancia poscomercialización sólido. Los proveedores de sistemas de IA de alto riesgo que estén sujetos a obligaciones relativas a los sistemas de gestión de la calidad con arreglo al Derecho sectorial pertinente de la Unión deben tener la posibilidad de integrar los elementos del sistema de gestión de la calidad establecido en el presente Reglamento en el sistema de gestión de la calidad establecido en dicho Derecho sectorial de la Unión. La complementariedad entre el presente Reglamento y el Derecho sectorial vigente de la Unión también debe tenerse en cuenta en las futuras actividades de normalización o en las orientaciones adoptadas por la Comisión al respecto. Las autoridades públicas que pongan en servicio sistemas de IA de alto riesgo para su propio uso pueden aprobar y aplicar las normas que regulen el sistema de gestión de la calidad en el marco del sistema de gestión de la calidad adoptado a escala nacional o regional, según proceda, teniendo en cuenta las particularidades del sector y las competencias y la organización de la autoridad pública de que se trate.
(82)
Et võimaldada käesoleva määruse täitmine ja luua operaatoritele võrdsed tingimused, võttes sealjuures arvesse digitoodete kättesaadavaks tegemise eri vorme, on oluline tagada, et liidus asutatud isik saab igas olukorras esitada ametiasutustele kogu vajaliku teabe tehisintellektisüsteemi nõuetele vastavuse kohta. Seepärast peaks kolmandas riigis asutatud pakkuja enne oma süsteemide liidu turul kättesaadavaks tegemist määrama kirjaliku volitusega liidus asutatud volitatud esindaja. Pakkujate puhul, kes ei ole asutatud liidus, on sellel volitatud esindajal esmatähtis roll selliste pakkujate poolt liidus turule lastud või kasutusele võetud suure riskiga tehisintellektisüsteemide nõuetele vastavuse tagamisel ja nende liidus asutatud kontaktisikuna tegutsemisel.
(82)
Para permitir la ejecución del presente Reglamento y ofrecer igualdad de condiciones a los operadores, es importante velar por que una persona establecida en la Unión pueda, en cualquier circunstancia, facilitar a las autoridades toda la información necesaria sobre la conformidad de un sistema de IA, teniendo en cuenta las distintas formas en que se pueden ofrecer productos digitales. Por lo tanto, antes de comercializar sus sistemas de IA en la Unión, los proveedores establecidos fuera de su territorio deben designar, mediante un mandato escrito, a un representante autorizado que se encuentre en la Unión. El representante autorizado desempeña un papel fundamental a la hora de velar por la conformidad de los sistemas de IA de alto riesgo introducidos en el mercado o puestos en servicio en la Unión por esos proveedores no establecidos en la Unión y servir de persona de contacto establecida en la Unión.
(83)
Võttes arvesse tehisintellektisüsteemide väärtusahela laadi ja keerukust ning kooskõlas uue õigusraamistikuga, on oluline tagada õiguskindlus ja hõlbustada käesoleva määruse järgimist. Seepärast on vaja selgitada asjaomaste ettevõtjate, näiteks importijate ja turustajate, kes võivad aidata kaasa tehisintellektisüsteemide arendamisele, rolli ja konkreetseid kohustusi kogu selles väärtusahelas. Teatavates olukordades võivad need operaatorid tegutseda samal ajal rohkem kui ühes rollis ja peaksid seetõttu kumulatiivselt täitma kõik nende rollidega seotud asjakohased kohustused. Näiteks võib operaator tegutseda samal ajal turustaja ja importijana.
(83)
Teniendo en cuenta la naturaleza y la complejidad de la cadena de valor de los sistemas de IA y de conformidad con el nuevo marco legislativo, es esencial garantizar la seguridad jurídica y facilitar el cumplimiento del presente Reglamento. Por ello es necesario aclarar la función y las obligaciones específicas de los operadores pertinentes de toda dicha cadena de valor, como los importadores y los distribuidores, que pueden contribuir al desarrollo de sistemas de IA. En determinadas situaciones, esos operadores pueden desempeñar más de una función al mismo tiempo y, por lo tanto, deben cumplir de forma acumulativa todas las obligaciones pertinentes asociadas a dichas funciones. Por ejemplo, un operador puede actuar como distribuidor e importador al mismo tiempo.
(84)
Õiguskindluse tagamiseks on oluline selgitada, et teatavatel konkreetsetel tingimustel tuleks iga turustajat, importijat, juurutajat või muud kolmandat isikut käsitada suure riskiga tehisintellektisüsteemi pakkujana ning tal peaksid seega olema kõik asjaomased kohustused. See hõlmaks selliseid juhtumeid, kui nimetatud isik lisab oma nime või kaubamärgi juba turule lastud või kasutusele võetud suure riskiga tehisintellektisüsteemile, ilma et see piiraks selliste lepinguliste kokkulepete kohaldamist, milles sätestatakse, et kohustused jaotatakse muul viisil. See hõlmaks ka selliseid juhtumeid, kui see isik muudab oluliselt suure riskiga tehisintellektisüsteemi, mis on juba turule lastud või juba kasutusele võetud, ja nii, et see jääb suure riskiga tehisintellektisüsteemiks kooskõlas käesoleva määrusega, või kui ta muudab sellise tehisintellektisüsteemi, sealhulgas üldotstarbelise tehisintellektisüsteemi sihtotstarvet, mida ei ole liigitatud suure riskiga süsteemiks ja mis on juba turule lastud või kasutusele võetud, viisil, mis muudab selle tehisintellektisüsteemi käesoleva määruse kohaselt suure riskiga tehisintellektisüsteemiks. Neid sätteid tuleks kohaldada, ilma et see piiraks selliste konkreetsemate sätete kohaldamist, mis on kehtestatud teatavates uuel õigusraamistikul põhinevates liidu ühtlustamisõigusaktides, millega koos tuleks käesolevat määrust kohaldada. Näiteks määruse (EL) 2017/745 artikli 16 lõiget 2, milles on sätestatud, et teatavaid muudatusi ei tohiks käsitada seadme muutmisena viisil, mis võib mõjutada selle vastavust kohaldatavatele nõuetele, tuleks jätkuvalt kohaldada suure riskiga tehisintellektisüsteemide suhtes, mis on kõnealuse määruse tähenduses meditsiiniseadmed.
(84)
Para garantizar la seguridad jurídica, es necesario aclarar que, en determinadas condiciones específicas, debe considerarse proveedor de un sistema de IA de alto riesgo a cualquier distribuidor, importador, responsable del despliegue u otro tercero que, por tanto, debe asumir todas las obligaciones pertinentes. Este sería el caso si, por ejemplo, esa persona pone su nombre o marca en un sistema de IA de alto riesgo ya introducido en el mercado o puesto en servicio, sin perjuicio de los acuerdos contractuales que estipulen otra distribución de las obligaciones. Este también sería el caso si dicha parte modifica sustancialmente un sistema de IA de alto riesgo que ya se haya introducido en el mercado o puesto en servicio de tal manera que el sistema modificado siga siendo un sistema de IA de alto riesgo de conformidad con el presente Reglamento, o si modifica la finalidad prevista de un sistema de IA, como un sistema de IA de uso general, que ya se haya introducido en el mercado o puesto en servicio y que no esté clasificado como sistema de alto riesgo, de tal manera que el sistema modificado pase a ser un sistema de IA de alto riesgo de conformidad con el presente Reglamento. Esas disposiciones deben aplicarse sin perjuicio de las disposiciones más específicas establecidas en determinados actos legislativos de armonización de la Unión basados en el nuevo marco legislativo que se deben aplicar en conjunción con el presente Reglamento. Por ejemplo, el artículo 16, apartado 2, del Reglamento (UE) 2017/745, que establece que determinados cambios no deben considerarse modificaciones de un producto que puedan afectar al cumplimiento de los requisitos aplicables, debe seguir aplicándose a los sistemas de IA de alto riesgo que sean productos sanitarios en el sentido de dicho Reglamento.
(85)
Üldotstarbelisi tehisintellektisüsteeme võib kasutada eraldi suure riskiga tehisintellektisüsteemidena või muude suure riskiga tehisintellektisüsteemide komponentidena. Seepärast peaksid selliste süsteemide pakkujad nende eripära tõttu ja selleks, et tagada vastutuse õiglane jagamine kogu tehisintellekti väärtusahelas, olenemata sellest, kas teised pakkujad võivad neid kasutada eraldi suure riskiga tehisintellektisüsteemidena või suure riskiga tehisintellektisüsteemide komponentidena, ning kui käesolevas määruses ei ole sätestatud teisiti, tegema asjakohasel juhul tihedat koostööd asjaomaste suure riskiga tehisintellektisüsteemide pakkujatega, et võimaldada neil täita käesolevast määrusest tulenevaid asjakohaseid kohustusi, ja käesoleva määruse alusel loodud pädevate asutustega.
(85)
Los sistemas de IA de uso general pueden utilizarse como sistemas de IA de alto riesgo por sí solos o ser componentes de sistemas de IA de alto riesgo. Así pues, debido a su particular naturaleza y a fin de garantizar un reparto equitativo de responsabilidades a lo largo de toda la cadena de valor, los proveedores de tales sistemas, con independencia de que estos sistemas puedan ser utilizados como sistemas de IA de alto riesgo por sí solos por otros proveedores o como componentes de sistemas de IA de alto riesgo, y salvo que se disponga otra cosa en el presente Reglamento, deben cooperar estrechamente con los proveedores de los sistemas de IA de alto riesgo correspondientes para que estos puedan cumplir las obligaciones pertinentes en virtud del presente Reglamento, así como con las autoridades competentes establecidas en virtud del presente Reglamento.
(86)
Kui pakkujat, kes tehisintellektisüsteemi algselt turule laskis või kasutusele võttis, ei tuleks käesolevas määruses sätestatud tingimustel enam käsitada pakkujana käesoleva määruse tähenduses ja kui see pakkuja ei ole sõnaselgelt välistanud tehisintellektisüsteemi muutmise suure riskiga tehisintellektisüsteemiks, peaks see endine pakkuja siiski tegema tihedat koostööd ja tegema kättesaadavaks vajaliku teabe ning pakkuma mõistlikult eeldatavat tehnilist juurdepääsu ja muud abi, mida on vaja käesolevas määruses sätestatud kohustuste täitmiseks, eelkõige seoses suure riskiga tehisintellektisüsteemide vastavushindamise järgimisega.
(86)
Cuando, con arreglo a las condiciones establecidas en el presente Reglamento, el proveedor que introdujo inicialmente el sistema de IA en el mercado o lo puso en servicio ya no deba considerarse el proveedor a los efectos del presente Reglamento, y cuando dicho proveedor no haya excluido expresamente la transformación del sistema de IA en un sistema de IA de alto riesgo, el primer proveedor debe, no obstante, cooperar estrechamente, facilitar la información necesaria y proporcionar el acceso técnico u otra asistencia que quepa esperar razonablemente y que sean necesarios para el cumplimiento de las obligaciones establecidas en el presente Reglamento, en particular en lo que respecta al cumplimiento de la evaluación de la conformidad de los sistemas de IA de alto riesgo.
(87)
Lisaks, kui suure riskiga tehisintellektisüsteemi, mis on toote turvakomponent, mis kuulub uuel õigusraamistikul põhinevate liidu ühtlustamisõigusaktide kohaldamisalasse, ei lasta turule ega võeta kasutusele tootest eraldi, peaks nendes õigusaktides määratletud toote valmistaja täitma käesolevas määruses pakkujale kehtestatud kohustusi ja eeskätt tagama selle, et lõpptootesse sisse ehitatud tehisintellektisüsteem vastab käesoleva määruse nõuetele.
(87)
Además, cuando un sistema de IA de alto riesgo que sea un componente de seguridad de un producto que entre dentro del ámbito de aplicación de un acto legislativo de armonización de la Unión basado en el nuevo marco legislativo no se introduzca en el mercado ni se ponga en servicio de forma independiente del producto, el fabricante del producto, tal como se define en el acto legislativo pertinente, debe cumplir las obligaciones que el presente Reglamento impone al proveedor y, en particular, debe garantizar que el sistema de IA integrado en el producto final cumpla los requisitos del presente Reglamento.
(88)
Tehisintellekti väärtusahelas pakuvad mitmed osalejad sageli tehisintellektisüsteeme, vahendeid ja teenuseid, aga ka komponente või protsesse, mille pakkuja inkorporeerib tehisintellektisüsteemi erinevatel eesmärkidel, sealhulgas mudelite treenimine ja ümbertreenimine, mudelite testimine ja hindamine, integreerimine tarkvarasse või muud mudeliarenduse aspektid. Nendel osalejatel on väärtusahelas oluline roll seoses pakkujaga, kes pakub suure riskiga tehisintellektisüsteemi, millesse nende tehisintellektisüsteemid, vahendid, teenused, komponendid või protsessid on integreeritud, ning nad peaksid kirjalikul kokkuleppel andma sellele pakkujale vajalikku teavet, võimeid, tehnilist juurdepääsu ja muud abi, tuginedes tehnika üldtunnustatud tasemele, et võimaldada pakkujal täielikult täita käesolevas määruses sätestatud kohustusi, ilma et see kahjustaks nende endi intellektuaalomandi õigusi või ärisaladusi.
(88)
A lo largo de la cadena de valor de la IA, numerosas partes suministran a menudo no solo sistemas, herramientas y servicios de IA, sino también componentes o procesos que el proveedor incorpora al sistema de IA con diversos objetivos, como el entrenamiento de modelos, el reentrenamiento de modelos, la prueba y evaluación de modelos, la integración en el software u otros aspectos del desarrollo de modelos. Dichas partes desempeñan un papel importante en la cadena de valor en relación con el proveedor del sistema de IA de alto riesgo en el que se integran sus sistemas, herramientas, servicios, componentes o procesos de IA, y deben proporcionar a dicho proveedor, mediante acuerdo escrito, la información, las capacidades, el acceso técnico y demás asistencia que sean necesarios habida cuenta del estado actual de la técnica generalmente reconocido, a fin de que el proveedor pueda cumplir íntegramente las obligaciones establecidas en el presente Reglamento, sin comprometer sus propios derechos de propiedad intelectual e industrial o secretos comerciales.
(89)
Kolmandaid isikuid, kes teevad üldsusele kättesaadavaks vahendeid, teenuseid, protsesse või tehisintellektikomponente, mis on muud kui üldotstarbelised tehisintellektimudelid, ei peaks kohustama täitma kogu tehisintellekti väärtusahelat katvate kohustustega seotud nõudeid, eelkõige neid kasutanud või need integreerinud pakkuja puhul, kui need vahendid, teenused, protsessid või tehisintellekti komponendid tehakse kättesaadavaks vaba ja avatud lähtekoodi litsentsi alusel. Vaba ja avatud lähtekoodiga vahendite, teenuste, protsesside või tehisintellekti komponentide, mis ei ole üldotstarbelised tehisintellektimudelid, arendajaid tuleks julgustada rakendama laialdaselt kasutatavaid dokumenteerimistavasid, nagu mudeli- ja andmelehed, et kiirendada teabe jagamist tehisintellekti väärtusahelas, võimaldades liidus edendada usaldusväärseid tehisintellektisüsteeme.
(89)
A los terceros que ponen a disposición del público herramientas, servicios, procesos o componentes de IA que no sean modelos de IA de uso general no se les debe imponer la obligación de cumplir los requisitos relativos a las responsabilidades a lo largo de la cadena de valor de la IA, en particular por lo que respecta al proveedor que haya utilizado o integrado dichas herramientas, servicios, procesos o componentes de IA, cuando el acceso a dichas herramientas, servicios, procesos o componentes de IA esté sujeto a una licencia libre y de código abierto. No obstante, se debe animar a los desarrolladores de herramientas, servicios, procesos o componentes de IA libres y de código abierto que no sean modelos de IA de uso general a que apliquen prácticas de documentación ampliamente adoptadas, como tarjetas de modelo y hojas de datos, como una forma de acelerar el intercambio de información a lo largo de la cadena de valor de la IA, permitiendo la promoción en la Unión de sistemas de IA fiables.
(90)
Komisjon võiks välja töötada ja soovitada vabatahtlikke näidis-lepingutingimusi kasutamiseks suure riskiga tehisintellektisüsteemide pakkujate ja kolmandate isikute vahel, kes pakuvad suure riskiga tehisintellektisüsteemides kasutatavaid või integreeritud vahendeid, teenuseid, komponente või protsesse, et hõlbustada koostööd kogu väärtusahelas. Vabatahtlike näidis-lepingutingimuste väljatöötamisel peaks komisjon arvesse võtma konkreetsetes sektorites või ärimudelites kohaldatavaid võimalikke lepingulisi nõudeid.
(90)
La Comisión podría elaborar y recomendar cláusulas contractuales tipo, de carácter voluntario, entre los proveedores de sistemas de IA de alto riesgo y los terceros que suministren herramientas, servicios, componentes o procesos que se utilicen o integren en los sistemas de IA de alto riesgo, a fin de facilitar la cooperación a lo largo de la cadena de valor. Cuando elabore estas cláusulas contractuales tipo de carácter voluntario, la Comisión también debe tener en cuenta los posibles requisitos contractuales aplicables en determinados sectores o modelos de negocio.
(91)
Arvestades tehisintellektisüsteemide olemust ning nende kasutamisega potentsiaalselt seotud riske ohutusele ja põhiõigustele, muu hulgas vajadust tagada reaalsetes oludes tehisintellektisüsteemi toimimise nõuetekohane seire, on otstarbekas näha juurutajatele ette konkreetsed kohustused. Esmajoones peaksid juurutajad võtma asjakohaseid tehnilisi ja organisatsioonilisi meetmeid tagamaks, et nad kasutavad suure riskiga tehisintellektisüsteeme kasutusjuhendi kohaselt, ning asjakohasel juhul tuleks kehtestada teatavad muud kohustused seoses tehisintellektisüsteemide töö seire ja andmete säilitamisega. Lisaks peaksid juurutajad tagama, et isikutel, kellele on antud ülesanne rakendada käesolevas määruses sätestatud kasutusjuhendeid ja inimjärelevalvet, on vajalik pädevus, eelkõige piisav tehisintellektipädevus, ning et neid on koolitatud ja neil on volitused nende ülesannete nõuetekohaseks täitmiseks. Nimetatud kohustused ei tohiks piirata juurutajate jaoks liidu või liikmesriikide õigusest tulenevaid muid suure riskiga tehisintellektisüsteemidega seotud kohustusi.
(91)
Habida cuenta de las características de los sistemas de IA y de los riesgos que su uso lleva aparejado para la seguridad y los derechos fundamentales, también en lo que respecta a la necesidad de garantizar la correcta vigilancia del funcionamiento de un sistema de IA en un entorno real, conviene establecer las responsabilidades específicas de los responsables del despliegue. En particular, los responsables del despliegue deben adoptar las medidas técnicas y organizativas adecuadas para garantizar que utilizan los sistemas de IA de alto riesgo conforme a las instrucciones de uso. Además, es preciso definir otras obligaciones en relación con la vigilancia del funcionamiento de los sistemas de IA y la conservación de registros, según proceda. Asimismo, los responsables del despliegue deben garantizar que las personas encargadas de poner en práctica las instrucciones de uso y la supervisión humana establecidas en el presente Reglamento tengan las competencias necesarias, en particular un nivel adecuado de alfabetización, formación y autoridad en materia de IA para desempeñar adecuadamente dichas tareas. Dichas obligaciones deben entenderse sin perjuicio de otras obligaciones que tenga el responsable del despliegue en relación con los sistemas de IA de alto riesgo con arreglo al Derecho nacional o de la Unión.
(92)
Käesolev määrus ei piira tööandjate kohustusi, mis tulenevad liidu või liikmesriigi õigusest ja tavast, sealhulgas Euroopa Parlamendi ja nõukogu direktiivist 2002/14/EÜ (39), teavitada töötajaid või nende esindajaid tehisintellektisüsteemide kasutusele võtmise või kasutamise otsustest või neid teavitada ja ära kuulata. Endiselt on vaja tagada töötajate ja nende esindajate teavitamine suure riskiga tehisintellektisüsteemide kavandatavast kasutusele võtmisest töökohal, kui ei ole täidetud muude õigusaktidega ette nähtud teavitamis- või teavitamis- ja ärakuulamiskohustuste tingimused. Lisaks on selline teabe saamise õigus täiendav ja vajalik selleks, et saavutada käesoleva määruse aluseks olev põhiõiguste kaitse eesmärk. Seepärast tuleks käesolevas määruses sätestada sellekohane teabe esitamise nõue, ilma et see mõjutaks töötajate kehtivaid õigusi.
(92)
El presente Reglamento se entiende sin perjuicio de la obligación de los empleadores de informar o de informar y consultar a los trabajadores o a sus representantes, en virtud del Derecho o las prácticas nacionales o de la Unión, incluida la Directiva 2002/14/CE del Parlamento Europeo y del Consejo (39), sobre la decisión de poner en servicio o utilizar sistemas de IA. Se debe velar por que se informe a los trabajadores y a sus representantes sobre el despliegue previsto de sistemas de IA de alto riesgo en el lugar de trabajo incluso aunque no se cumplan las condiciones de las citadas obligaciones de información o de información y consulta previstas en otros instrumentos jurídicos. Además, este derecho de información es accesorio y necesario para el objetivo de protección de los derechos fundamentales que subyace al presente Reglamento. Por consiguiente, debe establecerse en el presente Reglamento un requisito de información a tal efecto, sin que dicho requisito afecte a ningún derecho vigente de los trabajadores.
(93)
Kuigi tehisintellektisüsteemidega seotud riskid võivad tuleneda sellest, kuidas need süsteemid on projekteeritud, võivad riskid tuleneda ka sellest, kuidas selliseid tehisintellektisüsteeme kasutatakse. Suure riskiga tehisintellektisüsteemi juurutajatel on seega oluline roll põhiõiguste kaitse tagamisel, täiendades tehisintellektisüsteemi arendamisel pakkuja kohustusi. Juurutajad saavad kõige paremini aru, kuidas suure riskiga tehisintellektisüsteemi konkreetselt kasutatakse, ja suudavad seetõttu tuvastada võimalikke olulisi riske, mida ei olnud arendusetapis ette nähtud, tehes seda tänu täpsematele teadmistele kasutamise konteksti ning tõenäoliselt mõjutatud isikute või nende rühmade kohta, kelle hulka kuuluvad kaitsetud rühmad. Käesoleva määruse lisas loetletud suure riskiga tehisintellektisüsteemide juurutajatel on samuti oluline roll füüsiliste isikute teavitamisel ning nad peaksid, kui nad teevad füüsiliste isikutega seotud otsuseid või aitavad neid otsuseid teha, kohaldataval juhul teavitama füüsilisi isikuid sellest, et nende suhtes kasutatakse suure riskiga tehisintellektisüsteemi. See teave peaks sisaldama süsteemi sihtotstarvet ja selle tehtavate otsuste liiki. Juurutaja peaks teavitama ka füüsilisi isikuid nende käesoleva määrusega sätestatud õigusest saada selgitusi. Õiguskaitse eesmärkidel kasutatavate suure riskiga tehisintellektisüsteemide puhul tuleks seda kohustust rakendada kooskõlas direktiivi (EL) 2016/680 artikliga 13.
(93)
Aunque los riesgos relacionados con los sistemas de IA pueden derivarse de su diseño, también pueden derivarse riesgos del uso que se hace de ellos. Por ello, los responsables del despliegue de un sistema de IA de alto riesgo desempeñan un papel fundamental a la hora de garantizar la protección de los derechos fundamentales, como complemento de las obligaciones del proveedor al desarrollar el sistema de IA. Los responsables del despliegue se encuentran en una posición óptima para comprender el uso concreto que se le dará al sistema de IA de alto riesgo y pueden, por lo tanto, detectar potenciales riesgos significativos que no se previeron en la fase de desarrollo, al tener un conocimiento más preciso del contexto de uso y de las personas o los colectivos de personas que probablemente se vean afectados, entre los que se incluyen colectivos vulnerables. Los responsables del despliegue de los sistemas de IA de alto riesgo que se enumeran en un anexo del presente Reglamento también desempeñan un papel fundamental a la hora de informar a las personas físicas y, cuando tomen decisiones o ayuden a tomar decisiones relacionadas con personas físicas, deben, en su caso, informar a las personas físicas de que son objeto de la utilización de un sistema de IA de alto riesgo. Esta información debe incluir la finalidad prevista y el tipo de decisiones que se toman. El responsable del despliegue también debe informar a las personas físicas de su derecho a una explicación con arreglo al presente Reglamento. Por lo que respecta a los sistemas de IA de alto riesgo que se utilizan a efectos de la garantía del cumplimiento del Derecho, esa obligación debe ejecutarse de conformidad con el artículo 13 de la Directiva (UE) 2016/680.
(94)
Igasugune biomeetriliste andmete töötlemine, mis on seotud tehisintellektisüsteemide kasutamisega biomeetriliseks tuvastamiseks õiguskaitse eesmärgil, peab olema kooskõlas direktiivi (EL) 2016/680 artikliga 10, mis võimaldab sellist töötlemist üksnes siis, kui see on rangelt vajalik, kui andmesubjekti õiguste ja vabaduste kaitsmiseks võetakse asjakohaseid kaitsemeetmeid, ning kui see on lubatud liidu või liikmesriigi õigusega. Sellisel kasutamisel, kui see on lubatud, tuleb järgida ka direktiivi (EL) 2016/680 artikli 4 lõikes 1 sätestatud põhimõtteid, sealhulgas seaduslikkust, õiglust ja läbipaistvust, eesmärgi piiritlemist, täpsust ja säilitamise piiranguid.
(94)
Todo tratamiento de datos biométricos que se produzca en el marco de la utilización de un sistema de IA para la identificación biométrica con fines de garantía del cumplimiento del Derecho debe cumplir lo dispuesto en el artículo 10 de la Directiva (UE) 2016/680, que permite dicho tratamiento solo cuando sea estrictamente necesario, con sujeción a las salvaguardias adecuadas para los derechos y libertades del interesado y cuando así lo autorice el Derecho de la Unión o de los Estados miembros. Dicho uso, cuando esté autorizado, también debe respetar los principios establecidos en el artículo 4, apartado 1, de la Directiva (UE) 2016/680, como, entre otros, que el tratamiento sea lícito y leal, la transparencia, la limitación de la finalidad, la exactitud y la limitación del plazo de conservación.
(95)
Võttes arvesse tagantjärele toimuva biomeetrilise kaugtuvastamise süsteemide sekkuvat iseloomu, siis ilma et see piiraks kohaldatava liidu õiguse, eelkõige määruse (EL) 2016/679 ja direktiivi (EL) 2016/680 kohaldamist, tuleks tagantjärele toimuva biomeetrilise kaugtuvastamise süsteemide kasutamise suhtes kohaldada kaitsemeetmeid. Tagantjärele toimuva biomeetrilise tuvastamise süsteeme tuleks alati kasutada viisil, mis on proportsionaalne, õiguspärane ja rangelt vajalik ning seega sihipärane tuvastatavate isikute, asukoha ja ajalise ulatuse poolest ning põhinema seaduslikult omandatud videosalvestistest koosneval suletud andmestikul. Ühelgi juhul ei tohiks tagantjärele toimuvat biomeetrilise kaugtuvastamise süsteemi kasutada õiguskaitse raames, mis toob kaasa valimatu jälgimise. Tingimused tagantjärele toimuva biomeetrilise kaugtuvastamise läbiviimiseks ei tohiks mingil juhul olla põhjus hoiduda kõrvale reaalajas toimuva biomeetrilise kaugtuvastamise keelamise ja rangete eranditega seotud tingimustest.
(95)
Sin perjuicio del Derecho de la Unión aplicable, en particular el Reglamento (UE) 2016/679 y la Directiva (UE) 2016/680, teniendo en cuenta el carácter intrusivo de los sistemas de identificación biométrica remota en diferido, el uso de este tipo de sistemas debe estar sujeto a garantías. Los sistemas de identificación biométrica remota en diferido deben utilizarse siempre de manera proporcionada y legítima, en la medida de lo estrictamente necesario y, por ende, de forma selectiva por lo que respecta a las personas que deben identificarse, la ubicación y el alcance temporal y a partir de un conjunto limitado de datos de grabaciones de vídeo obtenidas legalmente. En cualquier caso, los sistemas de identificación biométrica remota en diferido no deben utilizarse en el marco de la garantía del cumplimiento del Derecho de tal forma que se produzca una vigilancia indiscriminada. Las condiciones para la identificación biométrica remota en diferido en ningún caso deben servir para eludir las condiciones de la prohibición y las estrictas excepciones aplicables a la identificación biométrica remota en tiempo real.
(96)
Selleks et tõhusalt tagada põhiõiguste kaitse, peaksid suure riskiga tehisintellektisüsteemide juurutajad, kes on avalik-õiguslikud asutused, või avalikke teenuseid osutavad eraõiguslikud üksused ja teatavaid käesoleva määruse lisas loetletud suure riskiga tehisintellektisüsteemide juurutajad, nagu pangandus- või kindlustusüksused, viima enne nende süsteemide kasutusele võtmist läbi põhiõigustele avalduva mõju hindamise. Üksikisikutele olulisi avalikke teenuseid võivad osutada ka eraõiguslikud üksused. Selliseid avalikke teenuseid osutavad eraõiguslikud üksused on seotud avalikku huvi pakkuvate ülesannetega sellistes valdkondades nagu haridus, tervishoid, sotsiaalteenused, eluase, õigusemõistmine. Põhiõigustele avalduva mõju hindamise eesmärk on, et juurutaja teeks kindlaks konkreetsed riskid nende isikute või isikute rühmade õigustele, keda need tõenäoliselt mõjutavad, ning teeb kindlaks meetmed, mida tuleb võtta nende riskide realiseerumise korral. Mõju hindamine tuleks läbi viia enne suure riskiga tehisintellektisüsteemi juurutamist ja seda tuleks ajakohastada, kui juurutaja leiab, et mõni asjakohastest teguritest on muutunud. Mõju hindamisel tuleks kindlaks teha juurutaja asjakohased protsessid, milles suure riskiga tehisintellektisüsteemi kooskõlas selle sihtotstarbega kasutatakse, ning selles tuleks kirjeldada ajavahemikku ja sagedust, mil süsteemi kavatsetakse kasutada, ning selliste füüsiliste isikute ja rühmade konkreetseid kategooriaid, keda konkreetne kasutusolukord tõenäoliselt mõjutab. Hindamise käigus tuleks kindlaks teha ka konkreetsed nende isikute või rühmade põhiõigusi mõjutada võiva kahju riskid. Selle hindamise käigus peaks juurutaja mõju nõuetekohaseks hindamiseks võtma arvesse vajalikku teavet, sealhulgas, kuid mitte ainult, suure riskiga tehisintellektisüsteemi pakkuja kasutusjuhendis esitatud teavet. Kindlakstehtud riske silmas pidades peaksid juurutajad määrama kindlaks meetmed, mida tuleb võtta nende riskide realiseerumise korral, sealhulgas näiteks juhtimiskorra selles konkreetses kasutuskontekstis, nagu inimjärelevalve kord vastavalt kasutusjuhendile või kaebuste käsitlemise ja kahju hüvitamise menetlused, kuna need võivad konkreetsetel kasutusjuhtudel olla olulised põhiõigustega seotud riskide maandamisel. Pärast selle mõju hindamist peaks juurutaja teavitama asjaomast turujärelevalveasutust. Selleks et koguda mõju hindamiseks vajalikku asjakohast teavet, võivad suure riskiga tehisintellektisüsteemi juurutajad, eelkõige juhul, kui tehisintellektisüsteeme kasutatakse avalikus sektoris, kaasata asjaomaseid sidusrühmi, sealhulgas tehisintellektisüsteemist tõenäoliselt mõjutatud isikute rühmade esindajaid, sõltumatuid eksperte ja kodanikuühiskonna organisatsioone selliste mõju hindamiste läbiviimisesse ja riskide realiseerumise korral võetavate meetmete kavandamisse. Euroopa tehisintellektiamet (edaspidi „tehisintellektiamet“) peaks välja töötama küsimustiku vormi, et hõlbustada nõuetele vastavust ja vähendada juurutajate halduskoormust.
(96)
A fin de garantizar eficazmente la protección de los derechos fundamentales, los responsables del despliegue de sistemas de IA de alto riesgo que sean organismos de Derecho público, o las entidades privadas que presten servicios públicos y los responsables del despliegue de determinados sistemas de IA de alto riesgo enumerados en un anexo del presente Reglamento, como las entidades bancarias o de seguros, deben llevar a cabo una evaluación de impacto relativa a los derechos fundamentales antes de su puesta en funcionamiento. Algunos servicios importantes para las personas que son de carácter público también pueden ser prestados por entidades privadas. Las entidades privadas que prestan estos servicios públicos se vinculan a funciones de interés público, por ejemplo, en el ámbito de la educación, la asistencia sanitaria, los servicios sociales, la vivienda y la administración de justicia. El objetivo de la evaluación de impacto relativa a los derechos fundamentales es que el responsable del despliegue determine los riesgos específicos para los derechos de las personas o colectivos de personas que probablemente se vean afectados y defina las medidas que deben adoptarse en caso de que se materialicen dichos riesgos. La evaluación de impacto debe llevarse a cabo antes del despliegue del sistema de IA de alto riesgo y debe actualizarse cuando el responsable del despliegue considere que alguno de los factores pertinentes ha cambiado. La evaluación de impacto debe determinar los procesos pertinentes del responsable del despliegue en los que se utilizará el sistema de IA de alto riesgo en consonancia con su finalidad prevista y debe incluir una descripción del plazo de tiempo y la frecuencia en que se pretende utilizar el sistema, así como de las categorías concretas de personas físicas y de colectivos de personas que probablemente se vean afectados por el uso del sistema de IA de alto riesgo en ese contexto de uso específico. La evaluación también debe determinar los riesgos de perjuicio específicos que probablemente afecten a los derechos fundamentales de dichas personas o colectivos. Al llevar a cabo esta evaluación, el responsable del despliegue debe tener en cuenta la información pertinente para una evaluación adecuada del impacto, lo que incluye, por ejemplo, la información facilitada por el proveedor del sistema de IA de alto riesgo en las instrucciones de uso. A la luz de los riesgos detectados, los responsables del despliegue deben determinar las medidas que han de adoptarse en caso de que se materialicen dichos riesgos, entre las que se incluyen, por ejemplo, sistemas de gobernanza para ese contexto de uso específico, como los mecanismos de supervisión humana con arreglo a las instrucciones de uso, los procedimientos de tramitación de reclamaciones y de recurso, ya que podrían ser fundamentales para mitigar los riesgos para los derechos fundamentales en casos de uso concretos. Tras llevar a cabo dicha evaluación de impacto, el responsable del despliegue debe notificarlo a la autoridad de vigilancia del mercado pertinente. Cuando proceda, para recopilar la información pertinente necesaria para llevar a cabo la evaluación de impacto, los responsables del despliegue de un sistema de IA de alto riesgo, en particular cuando el sistema de IA se utilice en el sector público, pueden contar con la participación de las partes interesadas pertinentes, como, por ejemplo, los representantes de colectivos de personas que probablemente se vean afectados por el sistema de IA, expertos independientes u organizaciones de la sociedad civil, en la realización de dichas evaluaciones de impacto y en el diseño de las medidas que deben adoptarse en caso de materialización de los riesgos. La Oficina Europea de Inteligencia Artificial (en lo sucesivo, «Oficina de IA») debe elaborar un modelo de cuestionario con el fin de facilitar el cumplimiento y reducir la carga administrativa para los responsables del despliegue.
(97)
Õiguskindluse tagamiseks tuleks üldotstarbeliste tehisintellektimudelite mõiste selgelt määratleda ja eristada tehisintellektisüsteemide mõistest. See määratlus peaks põhinema üldotstarbelise tehisintellektimudeli peamistel funktsionaalsetel omadustel, eelkõige üldisusel ja võimel täita pädevalt mitmesuguseid eri ülesandeid. Neid mudeleid treenitakse tavaliselt suurte andmehulkadega mitmesuguste meetodite abil, näiteks enesejärelevalve all toimuv õpe, juhendamata õpe ja stiimulõpe. Üldotstarbelisi tehisintellektimudeleid võib turule lasta mitmel viisil, sealhulgas raamatukogude, rakendusliideste (API), otse allalaadimise kaudu või füüsilise koopiana. Neid mudeleid võib omakorda muuta või peenhäälestada uuteks mudeliteks. Kuigi tehisintellektimudelid on tehisintellektisüsteemide olulised komponendid, ei ole need eraldiseisvad tehisintellektisüsteemid. Tehisintellektisüsteemideks saamiseks on tehisintellektimudelitele vaja lisada täiendavaid komponente, näiteks kasutajaliides. Tehisintellektimudelid on tavaliselt integreeritud tehisintellektisüsteemidesse ja moodustavad osa tehisintellektisüsteemist. Käesolevas määruses sätestatakse erinormid üldotstarbeliste tehisintellektimudelite ja süsteemseid riske kujutavate üldotstarbeliste tehisintellektimudelite kohta, mida tuleks kohaldada ka siis, kui need mudelid on integreeritud tehisintellektisüsteemi või moodustavad osa tehisintellektisüsteemist. Seda tuleks mõista nii, et üldotstarbeliste tehisintellektimudelite pakkujate kohustusi tuleks kohaldada siis, kui üldotstarbelised tehisintellektimudelid on turule lastud. Kui üldotstarbelise tehisintellektimudeli pakkuja integreerib oma mudeli oma tehisintellektisüsteemi, mis on turul kättesaadavaks tehtud või kasutusele võetud, tuleks seda mudelit käsitada turule lastuna ja seetõttu tuleks lisaks tehisintellektisüsteemidega seotud kohustustele kohaldada jätkuvalt käesolevas määruses mudelite suhtes sätestatud kohustusi. Mudelitele kehtestatud kohustusi ei peaks olema vaja kohaldada juhul, kui oma mudelit kasutatakse üksnes siseprotsessides, mis ei ole olulised toote või teenuse pakkumiseks kolmandatele isikutele, ja kui see ei mõjuta füüsiliste isikute õigusi. Võttes arvesse süsteemse riskiga üldotstarbeliste tehisintellektimudelite võimalikku märkimisväärset negatiivset mõju, tuleks nende suhtes alati kohaldada käesolevast määrusest tulenevaid asjakohaseid kohustusi. Määratlus ei tohiks hõlmata tehisintellektimudeleid, mida kasutatakse enne nende turule laskmist üksnes teadus-, arendus- ja prototüüpide loomise eesmärgil. See ei piira käesoleva määruse järgimise kohustust, kui mudel pärast sellist tegevust turule lastakse.
(97)
El concepto de modelos de IA de uso general debe definirse claramente y diferenciarse del concepto de sistemas de IA con el fin de garantizar la seguridad jurídica. La definición debe basarse en las características funcionales esenciales de un modelo de IA de uso general, en particular la generalidad y la capacidad de realizar de manera competente una amplia variedad de tareas diferenciadas. Estos modelos suelen entrenarse usando grandes volúmenes de datos y a través de diversos métodos, como el aprendizaje autosupervisado, no supervisado o por refuerzo. Los modelos de IA de uso general pueden introducirse en el mercado de diversas maneras, por ejemplo, a través de bibliotecas, interfaces de programación de aplicaciones (API), como descarga directa o como copia física. Estos modelos pueden modificarse o perfeccionarse y transformarse en nuevos modelos. Aunque los modelos de IA son componentes esenciales de los sistemas de IA, no constituyen por sí mismos sistemas de IA. Los modelos de IA requieren que se les añadan otros componentes, como, por ejemplo, una interfaz de usuario, para convertirse en sistemas de IA. Los modelos de IA suelen estar integrados en los sistemas de IA y formar parte de dichos sistemas. El presente Reglamento establece normas específicas para los modelos de IA de uso general y para los modelos de IA de uso general que entrañan riesgos sistémicos, que deben aplicarse también cuando estos modelos estén integrados en un sistema de IA o formen parte de un sistema de IA. Debe entenderse que las obligaciones de los proveedores de modelos de IA de uso general deben aplicarse una vez que los modelos de IA de uso general se introduzcan en el mercado. Cuando el proveedor de un modelo de IA de uso general integre un modelo propio en un sistema de IA propio que se comercialice o ponga en servicio, se debe considerar que dicho modelo se ha introducido en el mercado y, por tanto, se deben seguir aplicando las obligaciones establecidas en el presente Reglamento en relación con los modelos, además de las establecidas en relación con los sistemas de IA. En cualquier caso, las obligaciones establecidas en relación con los modelos no deben aplicarse cuando un modelo propio se utilice en procesos puramente internos que no sean esenciales para suministrar un producto o un servicio a un tercero y los derechos de las personas físicas no se vean afectados. Teniendo en cuenta su potencial para causar efectos negativos importantes, los modelos de IA de uso general con riesgo sistémico deben estar siempre sujetos a las obligaciones pertinentes establecidas en el presente Reglamento. La definición no debe incluir los modelos de IA utilizados antes de su introducción en el mercado únicamente para actividades de investigación, desarrollo y creación de prototipos. Lo anterior se entiende sin perjuicio de la obligación de cumplir lo dispuesto en el presente Reglamento cuando, tras haber realizado dichas actividades, el modelo se introduzca en el mercado.
(98)
Kui mudeli üldisust võiks muu hulgas kindlaks määrata ka parameetrite arvu alusel, siis mudeleid, millel on vähemalt miljard parameetrit ja mida on treenitud suure hulga andmetega, kasutades mastaapset enesejärelevalvet, tuleks pidada märkimisväärselt üldiseks ja pädevaks täitma mitmesuguseid erilisi ülesandeid.
(98)
Aunque la generalidad de un modelo también podría determinarse, entre otras cosas, mediante una serie de parámetros, debe considerarse que los modelos que tengan al menos mil millones de parámetros y se hayan entrenado con un gran volumen de datos utilizando la autosupervisión a escala presentan un grado significativo de generalidad y realizan de manera competente una amplia variedad de tareas diferenciadas.
(99)
Suured generatiivsed tehisintellektimudelid on tüüpiline näide üldotstarbelisest tehisintellektimudelist, kuna need võimaldavad paindlikult genereerida sisu, näiteks teksti, audio, piltide või video kujul, mis suudab hõlpsasti täita mitmesuguseid eristatavaid ülesandeid.
(99)
Los grandes modelos de IA generativa son un ejemplo típico de un modelo de IA de uso general, ya que permiten la generación flexible de contenidos, por ejemplo, en formato de texto, audio, imágenes o vídeo, que pueden adaptarse fácilmente a una amplia gama de tareas diferenciadas.
(100)
Kui üldotstarbeline tehisintellektimudel on integreeritud tehisintellektisüsteemi või on selle osa, tuleks seda süsteemi käsitada üldotstarbelise tehisintellektisüsteemina, kui see süsteem suudab tänu sellele integreerimisele täita mitmesuguseid eesmärke. Üldotstarbelist tehisintellektisüsteemi saab kasutada olemasoleval kujul või integreerida teistesse tehisintellektisüsteemidesse.
(100)
Cuando un modelo de IA de uso general esté integrado en un sistema de IA o forme parte de él, este sistema debe considerarse un sistema de IA de uso general cuando, debido a esta integración, el sistema tenga la capacidad de servir a diversos fines. Un sistema de IA de uso general puede utilizarse directamente e integrarse en otros sistemas de IA.
(101)
Üldotstarbeliste tehisintellektimudelite pakkujatel on tehisintellekti väärtusahelas eriline roll ja vastutus, kuna nende pakutavad mudelid võivad olla aluseks mitmesugustele järgmise etapi süsteemidele, mida sageli pakuvad tootmisahela järgmise etapi pakkujad, kes vajavad mudelite ja nende võimete head mõistmist, et võimaldada selliste mudelite integreerimist oma toodetesse ning täita oma käesolevast või muudest määrustest tulenevaid kohustusi. Seepärast tuleks kehtestada proportsionaalsed läbipaistvusmeetmed, sealhulgas dokumentatsiooni koostamine ja ajakohastamine ning teabe esitamine üldotstarbelise tehisintellektimudeli kohta selle kasutamiseks järgmise etapi pakkujate poolt. Üldotstarbelise tehisintellektimudeli pakkuja peaks koostama tehnilise dokumentatsiooni ja seda ajakohastama, et teha see taotluse korral kättesaadavaks tehisintellektiametile ja riikide pädevatele asutustele. Nimetatud dokumentatsiooni lisatavad miinimumelemendid tuleks sätestada käesoleva määruse konkreetsetes lisades. Komisjonil peaks tehnoloogia arengut arvesse võttes olema õigus kõnealuseid lisasid delegeeritud õigusaktidega muuta.
(101)
Los proveedores de modelos de IA de uso general tienen una función y una responsabilidad particulares a lo largo de la cadena de valor de la IA, ya que los modelos que suministran pueden constituir la base de diversos sistemas de etapas posteriores, que a menudo son suministrados por proveedores posteriores que necesitan entender bien los modelos y sus capacidades, tanto para permitir la integración de dichos modelos en sus productos como para cumplir sus obligaciones en virtud del presente Reglamento o de otros reglamentos. Por consiguiente, deben establecerse medidas de transparencia proporcionadas, lo que incluye elaborar documentación y mantenerla actualizada y facilitar información sobre el modelo de IA de uso general para su uso por parte de los proveedores posteriores. El proveedor del modelo de IA de uso general debe elaborar y mantener actualizada la documentación técnica con el fin de ponerla a disposición, previa solicitud, de la Oficina de IA y de las autoridades nacionales competentes. Los elementos mínimos que debe contener dicha documentación deben establecerse en anexos específicos del presente Reglamento. La Comisión debe estar facultada para modificar dichos anexos mediante actos delegados en función de los avances tecnológicos.
(102)
Tarkvara ja andmed, sealhulgas mudelid, mis on tarbimisse lubatud vaba ja avatud lähtekoodiga litsentsi alusel, mis võimaldab neid avalikult jagada ning mille puhul kasutajad saavad neile või nende muudetud versioonidele vabalt juurde pääseda, neid kasutada, muuta ja ümber jagada, võivad aidata kaasa teadusuuringutele ja innovatsioonile turul ning pakkuda liidu majandusele märkimisväärseid kasvuvõimalusi. Vaba ja avatud lähtekoodiga litsentside alusel tarbimisse lubatud üldotstarbeliste tehisintellektimudelite puhul tuleks läbipaistvuse ja avatuse kõrge tase lugeda tagatuks, kui nende parameetrid, sealhulgas kaalud, teave mudeliarhitektuuri kohta ja teave mudelite kasutamise kohta, tehakse üldsusele kättesaadavaks. Litsentsi tuleks käsitada vaba ja avatud lähtekoodiga litsentsina ka siis, kui see võimaldab kasutajatel kasutada, kopeerida, levitada, uurida, muuta ja täiustada tarkvara ja andmeid, sealhulgas mudeleid, tingimusel et mudeli algne pakkuja on nimetatud ning järgitakse identseid või võrreldavaid levitamistingimusi.
(102)
El software y los datos, incluidos los modelos, divulgados con arreglo a una licencia libre y de código abierto que permita compartirlos abiertamente y que los usuarios puedan acceder a ellos, o a versiones modificadas de dicho software y dichos datos, o utilizarlos, modificarlos y redistribuirlos libremente, pueden contribuir a la investigación y la innovación en el mercado y pueden ofrecer importantes oportunidades de crecimiento para la economía de la Unión. Debe considerarse que los modelos de IA de uso general divulgados con arreglo a una licencia libre y de código abierto garantizan altos niveles de transparencia y apertura si sus parámetros, incluidos los pesos, la información sobre la arquitectura del modelo y la información sobre el uso del modelo, se ponen a disposición del público. La licencia debe considerarse libre y de código abierto cuando permita a los usuarios ejecutar, copiar, distribuir, estudiar, modificar y mejorar el software y los datos, incluidos los modelos a condición de que se cite al proveedor original del modelo, si se respetan unas condiciones de distribución idénticas o comparables.
(103)
Vaba ja avatud lähtekoodiga tehisintellekti komponendid hõlmavad tehisintellektisüsteemi tarkvara ja andmeid, sealhulgas mudeleid ja üldotstarbelisi tehisintellektimudeleid, vahendeid, teenuseid ja protsesse. Vaba ja avatud lähtekoodiga tehisintellekti komponente saab pakkuda eri kanalite kaudu, sealhulgas arendades neid avatud hoidlates. Käesoleva määruse kohaldamisel ei tohiks tehisintellekti komponentide suhtes, mida pakutakse tasu eest või millega teenitakse muul viisil raha, sealhulgas tehisintellekti komponendiga seotud tehnilise toe või muude teenuste pakkumise, sealhulgas tarkvaraplatvormi kaudu, või isikuandmete kasutamise kaudu muudel põhjustel kui üksnes tarkvara turvalisuse, ühilduvuse või koostalitlusvõime parandamiseks, välja arvatud mikroettevõtjate vahelised tehingud, kohaldada vaba ja avatud lähtekoodiga tehisintellekti komponentidele ette nähtud erandeid. Tehisintellekti komponentide kättesaadavaks tegemine avatud hoidlate kaudu ei tohiks iseenesest kujutada endast raha teenimist.
(103)
Los componentes de IA libres y de código abierto comprenden el software y los datos, incluidos los modelos y los modelos de IA de uso general, las herramientas, los servicios y los procesos de un sistema de IA. Los componentes de IA libres y de código abierto pueden suministrarse a través de diferentes canales, lo que incluye la posibilidad de desarrollarlos en repositorios abiertos. A los efectos del presente Reglamento, los componentes de IA que se suministren a cambio de una contraprestación o que se moneticen de cualquier otro modo, como, por ejemplo, mediante la prestación de apoyo técnico u otros servicios en relación con el componente de IA, ya sea a través de una plataforma de software o por otros medios, o mediante el uso de datos personales con fines que no se refieran exclusivamente a la mejora de la seguridad, la compatibilidad o la interoperabilidad del software, salvo si se trata de operaciones entre microempresas, no deben poder acogerse a las excepciones previstas para los componentes de IA libres y de código abierto. La disponibilidad de un componente de IA a través de repositorios abiertos no debe constituir, de por sí, una monetización.
(104)
Selliste üldotstarbeliste tehisintellektimudelite pakkujate suhtes, mis lubatakse tarbimisse vaba ja avatud lähtekoodiga litsentsi alusel ja mille parameetrid, sealhulgas kaalud, teave mudeliarhitektuuri kohta ja teave mudeli kasutamise kohta, tehakse üldsusele kättesaadavaks, tuleks kohaldada erandeid seoses läbipaistvusega seotud nõuetega, mis on kehtestatud üldotstarbelistele tehisintellektimudelitele, välja arvatud juhul, kui neid võib pidada süsteemseks riskiks, millisel juhul ei tohiks asjaolu, et mudel on läbipaistev ja sellega kaasneb avatud lähtekoodiga litsents, pidada piisavaks põhjuseks, et välistada käesolevast määrusest tulenevate kohustuste täitmine. Võttes arvesse, et üldotstarbeliste tehisintellektimudelite tarbimisse lubamine vaba ja avatud lähtekoodiga litsentsi alusel ei pruugi ilmtingimata avaldada olulist teavet mudeli treenimiseks või peenhäälestamiseks kasutatud andmestiku ega selle kohta, kuidas seeläbi tagati autoriõiguse normide järgimine, ei tohiks üldotstarbeliste tehisintellektimudelite suhtes ette nähtud erand läbipaistvusega seotud nõuete täitmisest mingil juhul puudutada kohustust koostada kokkuvõte mudeli treenimises kasutatud sisu kohta ega kohustust kehtestada liidu autoriõiguse normide järgimise põhimõtted, eelkõige selleks, et teha kindlaks Euroopa Parlamendi ja nõukogu direktiivi (EL) 2019/790 (40) artikli 4 lõike 3 kohane õiguste piiramine ja seda järgida.
(104)
Los proveedores de modelos de IA de uso general divulgados con arreglo a una licencia libre y de código abierto cuyos parámetros, incluidos los pesos, la información sobre la arquitectura del modelo y la información sobre el uso del modelo, se ponen a disposición del público deben estar sujetos a excepciones por lo que respecta a los requisitos de transparencia que se imponen a los modelos de IA de uso general, a menos que pueda considerarse que presentan un riesgo sistémico, en cuyo caso la circunstancia de que el modelo sea transparente y vaya acompañado de una licencia de código abierto no debe considerarse una razón suficiente para que quede exento del cumplimiento de las obligaciones establecidas en el presente Reglamento. En cualquier caso, dado que la divulgación de modelos de IA de uso general con arreglo a una licencia libre y de código abierto no necesariamente revela información sustancial sobre el conjunto de datos utilizado para entrenar el modelo o realizar ajustes en relación con este ni sobre la manera en que se garantizó el cumplimiento del Derecho en materia de derechos de autor, la excepción prevista para los modelos de IA de uso general en relación con el cumplimiento de los requisitos de transparencia no debe eximir de la obligación de presentar un resumen del contenido utilizado para el entrenamiento del modelo ni de la obligación de adoptar directrices para el cumplimiento del Derecho de la Unión en materia de derechos de autor, en particular para identificar y respetar la reserva de derechos prevista en el artículo 4, apartado 3, de la Directiva (UE) 2019/790 del Parlamento Europeo y del Consejo (40).
(105)
Üldotstarbelised tehisintellektimudelid, eelkõige suured generatiivsed tehisintellektimudelid, mis on võimelised looma teksti, pilte ja muud sisu, pakuvad ainulaadseid innovatsioonivõimalusi, aga ka väljakutseid kunstnikele, autoritele ja teistele loovisikutele ning seoses sellega, kuidas nende loomingulist sisu luuakse, levitatakse, kasutatakse ja tarbitakse. Selliste mudelite arendamine ja treenimine nõuab juurdepääsu suurele hulgale tekstidele, piltidele, videotele ja muudele andmetele. Selles kontekstis võib sellise sisu otsimiseks ja analüüsimiseks, mis võib olla kaitstud autoriõiguse ja sellega kaasnevate õigustega, kasutada laialdaselt teksti- ja andmekaevemeetodeid. Autoriõigusega kaitstud sisu kasutamiseks on vaja asjaomase õiguste omaja luba, välja arvatud juhul, kui kohaldatakse autoriõigusega seotud erandeid ja piiranguid. Direktiiviga (EL) 2019/790 kehtestati erandid ja piirangud, millega lubatakse teatavatel tingimustel teha teksti- ja andmekaeve eesmärgil teoste või muu materjali reproduktsioone ja väljavõtteid. Nende õigusnormide kohaselt võivad õiguste omajad piirata õigusi oma teostele või muule materjalile, et hoida ära teksti- ja andmekaevet, välja arvatud juhul, kui seda tehakse teadusuuringute eesmärgil. Kui õigus loobuda on sõnaselgelt ja asjakohasel viisil väljendatud, peavad üldotstarbeliste tehisintellekti mudelite pakkujad hankima õiguste omajatelt loa, kui nad soovivad selliste teoste puhul teksti- ja andmekaevet teostada.
(105)
Los modelos de IA de uso general, en particular los grandes modelos de IA generativos, capaces de generar texto, imágenes y otros contenidos, presentan unas oportunidades de innovación únicas, pero también representan un desafío para los artistas, autores y demás creadores y para la manera en que se crea, distribuye, utiliza y consume su contenido creativo. El desarrollo y el entrenamiento de estos modelos requiere acceder a grandes cantidades de texto, imágenes, vídeos y otros datos. Las técnicas de prospección de textos y datos pueden utilizarse ampliamente en este contexto para la recuperación y el análisis de tales contenidos, que pueden estar protegidos por derechos de autor y derechos afines. Todo uso de contenidos protegidos por derechos de autor requiere la autorización del titular de los derechos de que se trate, salvo que se apliquen las excepciones y limitaciones pertinentes en materia de derechos de autor. La Directiva (UE) 2019/790 introdujo excepciones y limitaciones que permiten reproducciones y extracciones de obras y otras prestaciones con fines de prospección de textos y datos en determinadas circunstancias. Con arreglo a estas normas, los titulares de derechos pueden optar por reservarse sus derechos en relación con sus obras u otras prestaciones para evitar la prospección de textos y datos, salvo que su finalidad sea la investigación científica. Cuando el titular del derecho se haya reservado de manera adecuada el derecho de exclusión, los proveedores de modelos de IA de uso general deben obtener su autorización para llevar a cabo una prospección de textos y datos con dichas obras.
(106)
Pakkujad, kes lasevad liidu turule üldotstarbelisi tehisintellektimudeleid, peaksid tagama käesolevas määruses sätestatud asjakohaste kohustuste täitmise. Selleks peaksid üldotstarbeliste tehisintellektimudelite pakkujad kehtestama põhimõtted autoriõigust ja sellega kaasnevaid õigusi käsitleva liidu õiguse järgimiseks, eelkõige õiguste omajate poolt direktiivi (EL) 2019/790 artikli 4 lõike 3 kohaselt sõnaselgelt väljendatud õiguste piiramise kindlakstegemiseks ja järgimiseks. Iga pakkuja, kes laseb üldotstarbelise tehisintellektimudeli liidu turule, peaks seda kohustust täitma, olenemata jurisdiktsioonist, kus nende üldotstarbeliste tehisintellektimudelite treenimise aluseks olevad autoriõigusega seotud toimingud aset leiavad. See on vajalik, et tagada üldotstarbeliste tehisintellektimudelite pakkujatele võrdsed tingimused, mille puhul ükski pakkuja ei tohiks saada liidu turul konkurentsieelist, kohaldades liidus sätestatud standarditest madalamaid autoriõiguse standardeid.
(106)
Los proveedores que introduzcan modelos de IA de uso general en el mercado de la Unión deben garantizar el cumplimiento de las obligaciones pertinentes establecidas en el presente Reglamento. A tal fin, los proveedores de modelos de IA de uso general deben adoptar directrices para el cumplimiento del Derecho de la Unión en materia de derechos de autor y derechos afines, en particular para detectar y cumplir la reserva de derechos expresada por los titulares de derechos con arreglo al artículo 4, apartado 3, de la Directiva (UE) 2019/790. Todo proveedor que introduzca un modelo de IA de uso general en el mercado de la Unión debe cumplir esta obligación, independientemente de la jurisdicción en la que tengan lugar los actos pertinentes en materia de derechos de autor que sustentan el entrenamiento de dichos modelos de IA de uso general. Esta medida es necesaria para garantizar unas condiciones de competencia equitativas entre los proveedores de modelos de IA de uso general que impidan que un proveedor obtenga una ventaja competitiva en el mercado de la Unión aplicando normas en materia de derechos de autor menos estrictas que las establecidas en la Unión.
(107)
Selleks et suurendada üldotstarbeliste tehisintellektimudelite, sealhulgas autoriõigusega kaitstud teksti ja andmete eeltreenimisel ja treenimisel kasutatavate andmete läbipaistvust, on asjakohane, et selliste mudelite pakkujad koostavad ja teevad üldsusele kättesaadavaks piisavalt üksikasjaliku kokkuvõtte üldotstarbelise tehisintellekti mudeli treenimiseks kasutatud sisust. Võttes nõuetekohaselt arvesse vajadust kaitsta ärisaladusi ja konfidentsiaalset äriteavet, peaks see kokkuvõte olema oma ulatuselt üldiselt terviklik, mitte tehniliselt üksikasjalik, et hõlbustada õigustatud huvidega isikutel, sealhulgas autoriõiguse omajatel, kasutada ja jõustada oma liidu õigusest tulenevaid õigusi, näiteks loetledes peamised mudelit treeninud andmekogud või andmestikud, nagu suured era- või avalikud andmebaasid või andmearhiivid, ning esitades kirjeldava selgituse muude kasutatud andmeallikate kohta. On asjakohane, et tehisintellektiamet koostaks kokkuvõtte vormi, mis peaks olema lihtne, tõhus ja võimaldama pakkujal esitada nõutava kokkuvõtte kirjeldaval kujul.
(107)
Con el fin de aumentar la transparencia en relación con los datos utilizados en el entrenamiento previo y el entrenamiento de los modelos de IA de uso general, incluidos los textos y los datos protegidos por el Derecho en materia de derechos de autor, procede que los proveedores de dichos modelos elaboren y pongan a disposición del público un resumen suficientemente detallado de los contenidos utilizados para el entrenamiento del modelo de IA de uso general. Este resumen debe tener debidamente en cuenta la necesidad de proteger los secretos comerciales y la información empresarial confidencial y, al mismo tiempo, debe ser exhaustivo en general en su alcance en vez de técnicamente detallado, a fin de facilitar que las partes con intereses legítimos, incluidos los titulares de derechos de autor, ejerzan y hagan cumplir sus derechos en virtud del Derecho de la Unión, por ejemplo, enumerando los principales conjuntos o recopilaciones de datos que hayan servido para entrenar al modelo, como los grandes archivos de datos o bases de datos privados o públicos, y proporcionando una explicación descriptiva sobre otras fuentes de datos utilizadas. Conviene que la Oficina de IA proporcione un modelo para el resumen, que debe ser sencillo y eficaz y permitir que el proveedor proporcione el resumen requerido en forma descriptiva.
(108)
Seoses üldotstarbeliste tehisintellekti mudelite pakkujatele pandud kohustusega kehtestada liidu autoriõiguse normide järgimise põhimõtted ja teha avalikult kättesaadavaks treenimiseks kasutatud sisu kokkuvõte, peaks tehisintellektiamet jälgima, kas pakkuja on need kohustused täitnud, ilma et ta kontrolliks või jätkaks treeningandmete tööpõhist hindamist seoses autoriõigusele vastavusega. Käesolev määrus ei mõjuta liidu õiguses sätestatud autoriõiguse normide täitmise tagamist.
(108)
Por lo que se refiere a las obligaciones impuestas a los proveedores de modelos de IA de uso general de adoptar directrices para el cumplimiento del Derecho de la Unión en materia de derechos de autor y de poner a disposición del público un resumen de los contenidos utilizados para el entrenamiento, la Oficina de IA debe supervisar si el proveedor ha cumplido dichas obligaciones sin verificar ni proceder a una evaluación obra por obra de los datos de entrenamiento en cuanto al respeto de los derechos de autor. El presente Reglamento no afecta al cumplimiento de las normas en materia de derechos de autor previstas en el Derecho de la Unión.
(109)
Üldotstarbeliste tehisintellekti mudelite pakkujate suhtes kohaldatavate kohustuste täitmine peaks olema vastav ja proportsionaalne mudeli pakkuja liigiga, välistades nõuete täitmise vajaduse isikute puhul, kes arendavad või kasutavad mudeleid mitteprofessionaalsel või teaduslikul eesmärgil, kuid keda tuleks siiski julgustada neid nõudeid vabatahtlikult täitma. Ilma et see piiraks liidu autoriõiguse normide kohaldamist, tuleks nimetatud kohustuste täitmisel võtta nõuetekohaselt arvesse pakkuja suurust ja võimaldada VKEdel, sealhulgas idufirmadel nõuete täitmiseks lihtsustatud viise, mis ei tohiks põhjustada ülemääraseid kulusid ega pärssida selliste mudelite kasutamist. Mudeli muutmise või peenhäälestamise korral peaksid üldotstarbeliste tehisintellektimudelite pakkuja kohustused piirduma selle muutmise või peenhäälestamisega, näiteks täiendades juba olemasolevat tehnilist dokumentatsiooni teabega muudatuste kohta, sealhulgas uute treenimisandmete allikatega, et täita käesolevas määruses sätestatud väärtusahelaga seotud kohustusi.
(109)
El cumplimiento de las obligaciones aplicables a los proveedores de modelos de IA de uso general debe ser proporcionado y adecuado al tipo de proveedor de modelos. Debe eximirse de la obligación de cumplimiento a las personas que desarrollan o utilizan modelos con fines no profesionales o de investigación científica. No obstante, debe animarse a estas personas a cumplir voluntariamente estos requisitos. Sin perjuicio del Derecho de la Unión en materia de derechos de autor, el cumplimiento de esas obligaciones debe tener debidamente en cuenta el tamaño del proveedor y permitir formas simplificadas de cumplimiento para las pymes, incluidas las empresas emergentes, que no deben suponer un coste excesivo ni desincentivar el uso de dichos modelos. En caso de que se modifique o ajuste un modelo, las obligaciones de los proveedores de modelos de IA de uso general deben limitarse a esa modificación o esos ajustes, por ejemplo, complementando la documentación técnica ya existente con información sobre las modificaciones, incluidas las nuevas fuentes de datos de entrenamiento, para cumplir las obligaciones relacionadas con la cadena de valor establecidas en el presente Reglamento.
(110)
Üldotstarbeliste tehisintellektimudelitega võivad kaasneda süsteemsed riskid, mis hõlmavad muu hulgas mis tahes tegelikku või mõistlikult prognoositavat negatiivset mõju seoses suurõnnetuste, elutähtsate sektorite häirete ning tõsiste tagajärgedega rahvatervisele ja ohutusele. mis tahes tegelikku või mõistlikult prognoositavat negatiivset mõju demokraatlikele protsessidele, avalikule ja majanduslikule julgeolekule ning ebaseadusliku, vale või diskrimineeriva sisu levitamist. Süsteemseid riske tuleks mõista nii, et need suurenevad mudeli võimete ja ulatusega, võivad tekkida mudeli kogu elutsükli jooksul ning neid mõjutavad väärkasutuse tingimused, mudeli usaldusväärsus, mudeli õiglus ja turvalisus, mudeli autonoomsuse tase, selle juurdepääs vahenditele, uudsed või kombineeritud modaalsused, tarbimisse lubamise ja levitamise strateegiad, kaitsemeetmete eemaldamise potentsiaal ja muud tegurid. Eelkõige on rahvusvahelised lähenemisviisid seni tuvastanud vajaduse pöörata tähelepanu järgmistele riskidele: riskid, mis tulenevad võimalikust tahtlikust väärkasutamisest või tahtmatutest kontrolliprobleemidest, mis tulenevad inimese tahte järgmisest; keemilised, bioloogilised, radioloogilised ja tuumaohud, näiteks viisid, kuidas vähendada sisenemise tõkkeid, sealhulgas relvade väljatöötamiseks, projekteerimiseks või kasutamiseks; küberründevõime, näiteks viisid, kuidas võimaldada haavatavuse avastamist, ärakasutamist või operatiivset kasutamist; koostoime ja vahendite kasutamise mõju, sealhulgas näiteks võime juhtida füüsilisi süsteeme ja häirida elutähtsat taristut; riskid, mis tulenevad sellest, et mudelid teevad endast koopiaid või on „isepaljunevad“ või treenivad teisi mudeleid; viisid, kuidas mudelid võivad põhjustada kahjuliku mõjuga kallutatust ja diskrimineerimist, mis võib ohustada üksikisikuid, kogukondi või ühiskonda; desinformatsiooni leviku soodustamine või eraelu puutumatuse kahjustamine, mis ohustab demokraatlikke väärtusi ja inimõigusi; risk, et konkreetne sündmus võib kaasa tuua ahelreaktsiooni, millel on märkimisväärne negatiivne mõju, mis võib mõjutada kogu linna, kogu valdkonna tegevust või tervet kogukonda.
(110)
Los modelos de IA de uso general pueden plantear riesgos sistémicos, por ejemplo, cualquier efecto negativo real o razonablemente previsible en relación con accidentes graves, perturbaciones de sectores críticos y consecuencias graves para la salud y la seguridad públicas, cualquier efecto negativo real o razonablemente previsible sobre los procesos democráticos y la seguridad pública y económica o la difusión de contenidos ilícitos, falsos o discriminatorios. Debe entenderse que los riesgos sistémicos aumentan con las capacidades y el alcance de los modelos, pueden surgir durante todo el ciclo de vida del modelo y se ven influidos por las condiciones de uso indebido, la fiabilidad del modelo, la equidad y la seguridad del modelo, el nivel de autonomía del modelo, su acceso a herramientas, modalidades novedosas o combinadas, las estrategias de divulgación y distribución, la posibilidad de eliminar las salvaguardias y otros factores. En particular, los enfoques internacionales han establecido hasta la fecha la necesidad de prestar atención a los riesgos derivados de posibles usos indebidos intencionados o de problemas en materia de control relacionados con la armonización con la intención humana no deseados, a los riesgos químicos, biológicos, radiológicos y nucleares, como las maneras en que las barreras a la entrada pueden reducirse, también para el desarrollo, el diseño, la adquisición o el uso de armas, a las cibercapacidades ofensivas, como las maneras en que pueden propiciarse el descubrimiento, la explotación o el uso operativo de vulnerabilidades, a los efectos de la interacción y el uso de herramientas, incluida, por ejemplo, la capacidad de controlar sistemas físicos e interferir en el funcionamiento de infraestructuras críticas, a los riesgos derivados del hecho que los modelos hagan copias de sí mismos o se «autorrepliquen» o entrenen a otros modelos, a las maneras en que los modelos pueden dar lugar a sesgos dañinos y discriminación que entrañan riesgos para las personas, las comunidades o las sociedades, a la facilitación de la desinformación o el menoscabo de la intimidad, que suponen una amenaza para los valores democráticos y los derechos humanos, al riesgo de que un acontecimiento concreto dé lugar a una reacción en cadena con efectos negativos considerables que podrían afectar incluso a una ciudad entera, un ámbito de actividad entero o una comunidad entera.
(111)
On asjakohane kehtestada metoodika üldotstarbeliste tehisintellektimudelite liigitamiseks süsteemse riskiga üldotstarbeliseks tehisintellektimudeliks. Kuna süsteemseid riske põhjustavad eriti suured võimed, tuleks üldotstarbelist tehisintellektimudelit käsitada süsteemset riski kujutavana, kui sellel on suure mõjuga võimed, mida hinnatakse asjakohaste tehniliste vahendite ja meetodite abil, või kui sellel on märkimisväärne mõju siseturule oma ulatuse tõttu. Üldotstarbelise tehisintellektimudeli suure mõjuga võimed on võimed, mis vastavad kõige arenenumates üldotstarbelistes tehisintellektimudelites registreeritud võimetele või ületavad neid. Mudeli kõiki võimeid saaks paremini mõista pärast selle turule laskmist või siis, kui juurutajad mudeliga kokku puutuvad. Vastavalt käesoleva määruse jõustumise ajal olemasolevale tehnika tasemele on üldotstarbelise tehisintellektimudeli treenimiseks kasutatud andmetöötluse kohtumaht, mida mõõdetakse ujukomatehtega, üks oluline mudeli võimete lähisväärtus. Treenimiseks kasutatud andmetöötluse kogumaht hõlmab andmetöötlust selliste tegevuste ja meetodite lõikes, mille eesmärk on mudeli võimete suurendamine enne juurutamist, näiteks eeltreenimine, sünteesitud andmete genereerimine ja peenhäälestamine. Seepärast tuleks kehtestada ujukomatehete esialgne künnis, mis juhul, kui üldotstarbeline tehisintellektimudel selle saavutab, annab alust eeldada, et mudel on süsteemse riskiga üldotstarbeline tehisintellektimudel. Seda künnist tuleks aja jooksul kohandada, et kajastada tehnoloogia ja tööstuse muutusi, nagu algoritmide paranemine või tõhusam riistvara, ning seda tuleks täiendada mudelite võimete võrdlusaluste ja näitajatega. Sellise teabe saamiseks peaks tehisintellektiamet tegema koostööd teadusringkondade, tööstuse, kodanikuühiskonna ja muude ekspertidega. Künnised ning suure mõjuga võimete hindamise vahendid ja võrdlusalused peaksid olema üldotstarbelise tehisintellektimudeli üldisuse, selle võimete ja sellega seotud süsteemse riski kindlad prognoosijad ning need võiks võtta arvesse mudeli turule laskmise viisi või kasutajate arvu, keda see süsteem võib mõjutada. Selle süsteemi täiendamiseks peaks komisjonil olema võimalus teha üksikotsuseid, millega liigitatakse üldotstarbeline tehisintellektimudel süsteemse riskiga üldotstarbeliseks tehisintellektimudeliks, kui leitakse, et selle mudeli võimed või mõju on samaväärne sellega, mis on kehtestatud künnisega. Kõnealune otsus tuleks teha käesoleva määruse lisas sätestatud süsteemse riskiga üldotstarbeliste tehisintellektimudeli liigitamise kriteeriumide üldise hindamise alusel, milleks on näiteks treenimisandmestiku kvaliteet või maht, äri- ja lõppkasutajate arv, nende sisend- ja väljundmodaalsused, autonoomia tase ja mastabeeritavus või vahendid, millele tal on juurdepääs. Pakkuja, kelle mudel on liigitatud süsteemse riskiga üldotstarbeliseks tehisintellektimudeliks, põhjendatud taotluse korral peaks komisjon taotlust arvesse võtma ja võib otsustada uuesti hinnata, kas seda üldotstarbelist tehisintellektimudelit saab siiski pidada süsteemseid riske kujutavaks mudeliks.
(111)
Conviene establecer una metodología para la clasificación de los modelos de IA de uso general como modelos de IA de uso general con riesgos sistémicos. Dado que los riesgos sistémicos se derivan de capacidades especialmente elevadas, debe considerarse que un modelo de IA de uso general presenta riesgos sistémicos si tiene capacidades de gran impacto —evaluadas mediante herramientas y metodologías técnicas adecuadas— o unas repercusiones considerables en el mercado interior debido a su alcance. Las capacidades de gran impacto en modelos de IA de uso general son capacidades que igualan o superan las capacidades mostradas por los modelos de IA de uso general más avanzados. La introducción en el mercado de un modelo o las interacciones de los responsables del despliegue con él permiten comprender mejor el conjunto de sus capacidades. Según el estado de la técnica en el momento de la entrada en vigor del presente Reglamento, la cantidad acumulada de cálculo utilizado para el entrenamiento del modelo de IA de uso general, medida en operaciones de coma flotante, es una de las aproximaciones pertinentes para las capacidades del modelo. La cantidad acumulada de cálculo utilizado para el entrenamiento incluye los cálculos utilizados en las distintas actividades y métodos destinados a mejorar las capacidades del modelo antes del despliegue, como el entrenamiento previo, la generación de datos sintéticos y la realización de ajustes. Por lo tanto, debe establecerse un umbral inicial de operaciones de coma flotante que, de ser alcanzado por un modelo de IA de uso general, dé lugar a la presunción de que el modelo es un modelo de IA de uso general con riesgos sistémicos. Este umbral deberá irse ajustando para reflejar los cambios tecnológicos e industriales, como las mejoras algorítmicas o el aumento de la eficiencia del hardware, y debe complementarse con parámetros de referencia e indicadores de la capacidad de los modelos. Para fundamentar esto, la Oficina de IA debe colaborar con la comunidad científica, la industria, la sociedad civil y otros expertos. Los umbrales, así como las herramientas y los parámetros de referencia para la evaluación de las capacidades de gran impacto, deben servir para predecir con fiabilidad la generalidad, las capacidades y el riesgo sistémico asociado de los modelos de IA de uso general, y podrían tener en cuenta la manera en que el modelo se introducirá en el mercado o el número de usuarios a los que podría afectar. Para complementar este sistema, la Comisión debe poder adoptar decisiones individuales por las que se designe un modelo de IA de uso general como modelo de IA de uso general con riesgo sistémico si se determina que dicho modelo tiene capacidades o repercusiones equivalentes a las reflejadas por el umbral establecido. Dicha decisión debe adoptarse atendiendo a una evaluación global de los criterios para la designación de modelos de IA de uso general con riesgo sistémico establecidos en un anexo del presente Reglamento, como la calidad o el tamaño del conjunto de datos de entrenamiento, el número de usuarios profesionales y finales, sus modalidades de entrada y de salida, su nivel de autonomía y escalabilidad o las herramientas a las que tiene acceso. Previa solicitud motivada de un proveedor cuyo modelo haya sido designado como modelo de IA de uso general con riesgo sistémico, la Comisión debe tener en cuenta la solicitud y podrá decidir reevaluar si puede seguir considerándose que el modelo de IA de uso general presenta riesgos sistémicos.
(112)
Samuti on vaja selgitada süsteemsete riskidega üldotstarbelise tehisintellektimudeli liigitamise menetlust. Üldotstarbelist tehisintellektimudelit, mis vastab suure mõjuga võimete suhtes kohaldatavale künnisele, tuleks käsitada süsteemse riskiga üldotstarbelise tehisintellektimudelina. Pakkuja peaks teavitama tehisintellektiametit hiljemalt kaks nädalat pärast nõuete täitmist või siis, kui on teada saadud, et üldotstarbeline tehisintellektimudel vastab eelduste aluseks olevatele nõuetele. See on eriti oluline seoses ujukomatehte künnisega, sest üldotstarbeliste tehisintellektimudelite treenimine nõuab märkimisväärset planeerimist, mis hõlmab arvutusressursside eelnevat jaotamist, ning seetõttu teavad üldotstarbeliste tehisintellektimudelite pakkujad juba enne treeningu lõppemist, kas nende mudel vastab künnisele. Seoses nimetatud teavitamisega peaks pakkuja suutma tõendada, et üldotstarbeline tehisintellektimudel ei kujuta erandkorras oma erijoonte tõttu süsteemseid riske ning seega ei tuleks seda liigitada süsteemsete riskidega üldotstarbeliseks tehisintellektimudeliks. See teave on tehisintellektiameti jaoks väärtuslik, et prognoosida süsteemsete riskidega üldotstarbeliste tehisintellektimudelite turule laskmist, ning pakkujad saavad juba varakult alustada tehisintellektiametiga suhtlemist. Kõnealune teave on eriti oluline seoses üldotstarbeliste tehisintellektimudelitega, mida kavatsetakse tarbimisse lubada avatud lähtekoodiga, arvestades et pärast avatud lähtekoodiga mudeli tarbimisse lubamist võib olla keerulisem rakendada vajalikke meetmeid, et tagada käesolevast määrusest tulenevate kohustuste täitmine.
(112)
También es necesario aclarar un procedimiento para la clasificación de un modelo de IA de uso general con riesgos sistémicos. Debe presumirse que un modelo de IA de uso general que alcanza el umbral aplicable para las capacidades de gran impacto es un modelo de IA de uso general con riesgo sistémico. El proveedor debe enviar una notificación a la Oficina de IA a más tardar dos semanas después de que se cumplan los requisitos o de que se sepa que un modelo de IA de uso general cumplirá los requisitos que conducen a la presunción. Esto es especialmente pertinente en relación con el umbral de operaciones de coma flotante, ya que el entrenamiento de los modelos de IA de uso general requiere una planificación considerable que incluye la asignación previa de recursos computacionales y, por tanto, los proveedores de modelos de IA de uso general pueden saber si su modelo alcanzará el umbral antes del fin del entrenamiento. En el contexto de dicha notificación, el proveedor debe poder demostrar que, debido a sus características específicas, un modelo de IA de uso general no presenta excepcionalmente riesgos sistémicos y que, por tanto, no debe clasificarse como modelo de IA de uso general con riesgos sistémicos. Esa información es valiosa para que la Oficina de IA anticipe la introducción en el mercado de modelos de IA de uso general con riesgos sistémicos y para que los proveedores pueden empezar a colaborar con la Oficina de IA en una fase temprana. Dicha información es especialmente importante cuando esté previsto divulgar un modelo de IA de uso general como modelo de código abierto, dado que, tras la divulgación de modelos de código abierto, puede resultar más difícil aplicar las medidas necesarias para garantizar el cumplimiento de las obligaciones establecidas en el presente Reglamento.
(113)
Kui komisjon saab teada, et üldotstarbeline tehisintellektimudel vastab nõuetele liigitada see süsteemse riskiga üldotstarbeliseks tehisintellektimudeliks, mida varem sellisena ei tuntud või millest asjaomane pakkuja ei olnud komisjoni teavitanud, peaks komisjonil olema õigus see nii liigitada. Kvalifitseeritud hoiatusteadete süsteem peaks tagama, et tehisintellektiamet saab lisaks oma järelevalvetegevusele ka teaduskomisjonilt teavet selliste üldotstarbeliste tehisintellektimudelite kohta, mis tuleks potentsiaalselt liigitada süsteemse riskiga üldotstarbeliseks tehisintellektimudeliks.
(113)
Si la Comisión descubre que un modelo de IA de uso general del que no tenía conocimiento o que el proveedor pertinente no le había notificado cumple los requisitos para ser clasificado como modelo de IA de uso general con riesgo sistémico, la Comisión debe estar facultada para designarlo. Además de las actividades de supervisión de la Oficina de IA, un sistema de alertas cualificadas debe garantizar que la Oficina de IA sea informada por el grupo de expertos científicos de la existencia de modelos de IA de uso general que podrían ser clasificados como modelos de IA de uso general con riesgo sistémico.
(114)
Süsteemseid riske kujutavate üldotstarbeliste tehisintellektimudelite pakkujate suhtes tuleks lisaks üldotstarbeliste tehisintellektimudelite pakkujatele kehtestatud kohustustele kohaldada kohustusi, mille eesmärk on need riskid kindlaks teha ja neid maandada ning tagada piisav küberturvalisuse kaitse tase, olenemata sellest, kas seda mudelit pakutakse autonoomse mudelina või integreerituna tehisintellektisüsteemi või tootesse. Nende eesmärkide saavutamiseks tuleks käesoleva määrusega nõuda, et pakkujad viiksid läbi vajalikud mudelite hindamised, eelkõige enne selle esmakordset turule laskmist, sealhulgas mudelite vastandtestide läbiviimine ja nende dokumenteerimine, vajaduse korral ka sisemiste või sõltumatute välistestide abil. Lisaks peaksid süsteemse riskiga üldotstarbeliste tehisintellektimudelite pakkujad süsteemseid riske pidevalt hindama ja maandama, sealhulgas kehtestades näiteks riskijuhtimispõhimõtted, nagu vastutus- ja juhtimisprotsessid, rakendades turustamisjärgset seiret, võttes asjakohaseid meetmeid kogu mudeli elutsükli jooksul ja tehes koostööd tehisintellekti väärtusahela asjaomaste osalejatega.
(114)
Los proveedores de modelos de IA de uso general que presenten riesgos sistémicos deben estar sujetos, además de a las obligaciones impuestas a los proveedores de modelos de IA de uso general, a obligaciones encaminadas a detectar y atenuar dichos riesgos y a garantizar un nivel adecuado de protección en materia de ciberseguridad, independientemente de si dichos modelos se ofrecen como modelos independientes o están integrados en sistemas de IA o en productos. Para alcanzar esos objetivos, el presente Reglamento debe exigir a los proveedores que lleven a cabo las evaluaciones de los modelos necesarias, en particular antes de la primera introducción en el mercado, y que, por ejemplo, lleven a cabo y documenten pruebas de simulación de adversarios, también, según proceda, mediante pruebas externas independientes o pruebas internas. Además, los proveedores de modelos de IA de uso general con riesgos sistémicos deben evaluar y mitigar continuamente los riesgos sistémicos, por ejemplo, mediante el establecimiento de políticas de gestión de riesgos, como procesos de rendición de cuentas y gobernanza, la puesta en práctica de la vigilancia poscomercialización, la adopción de medidas adecuadas durante todo el ciclo de vida del modelo y la cooperación con los agentes pertinentes a lo largo de la cadena de valor de la IA.
(115)
Süsteemse riskiga üldotstarbeliste tehisintellektimudelite pakkujad peaksid võimalikke süsteemseid riske hindama ja maandama. Kui hoolimata jõupingutustest teha kindlaks ja ennetada sellise üldotstarbelise tehisintellektimudeliga seotud riske, mis võib kujutada süsteemseid riske, põhjustab mudeli arendamine või kasutamine tõsise intsidendi, peaks üldotstarbelise tehisintellektimudeli pakkuja põhjendamatu viivituseta end intsidendiga kurssi viima ning edastama komisjonile ja riikide pädevatele asutustele kogu asjakohase teabe ja võimalikud parandusmeetmed. Lisaks peaksid pakkujad tagama mudeli ja selle füüsilise taristu piisava küberturvalisuse kaitse, kui see on asjakohane, kogu mudeli elutsükli jooksul. Pahatahtliku kasutamise või rünnetega seotud süsteemsete riskidega seotud küberturvalisuse kaitse puhul tuleks igakülgselt arvesse võtta mudeli juhuslikku leket, loata tarbimisse lubamist, turvameetmetest kõrvalehoidmist ning kaitset küberrünnete, loata juurdepääsu või mudelivarguste vastu. Seda kaitset saaks hõlbustada mudeli kaalude, algoritmide, serverite ja andmestike turvalisuse tagamisega, näiteks infoturbe talitluskindluse meetmete, konkreetsete küberturvalisuse põhimõtete, piisavate tehniliste ja väljakujunenud lahenduste ning küber- ja füüsilise juurdepääsu kontrolli kaudu, mis vastavad asjakohastele asjaoludele ja kaasnevatele riskidele.
(115)
Los proveedores de modelos de IA de uso general con riesgos sistémicos deben evaluar y mitigar los posibles riesgos sistémicos. Si, a pesar de los esfuerzos por detectar y prevenir los riesgos relacionados con un modelo de IA de uso general que pueda presentar riesgos sistémicos, el desarrollo o el uso del modelo provoca un incidente grave, el proveedor del modelo de IA de uso general debe, sin demora indebida, hacer un seguimiento del incidente y comunicar toda la información pertinente y las posibles medidas correctoras a la Comisión y a las autoridades nacionales competentes. Además, los proveedores deben garantizar que el modelo y su infraestructura física, si procede, tengan un nivel adecuado de protección en materia de ciberseguridad durante todo el ciclo de vida del modelo. La protección en materia de ciberseguridad relacionada con los riesgos sistémicos asociados al uso malintencionado o a los ataques debe tener debidamente en cuenta las fugas accidentales de modelos, las divulgaciones no autorizadas, la elusión de las medidas de seguridad y la defensa contra los ciberataques, el acceso no autorizado o el robo de modelos. Esa protección podría facilitarse asegurando los pesos, los algoritmos, los servidores y los conjuntos de datos del modelo, por ejemplo, mediante medidas de seguridad operativa para la seguridad de la información, medidas específicas en materia de ciberseguridad, soluciones técnicas adecuadas y establecidas y controles de acceso cibernéticos y físicos, en función de las circunstancias pertinentes y los riesgos existentes.
(116)
Tehisintellektiamet peaks julgustama ja hõlbustama tegevusjuhendite koostamist, läbivaatamist ja kohandamist, võttes arvesse rahvusvahelisi lähenemisviise. Osalema võiks kutsuda kõiki üldotstarbeliste tehisintellektimudelite pakkujaid. Tagamaks, et tegevusjuhendid kajastavad tehnika taset ja võtavad igakülgselt arvesse erinevaid vaatenurki, peaks tehisintellektiamet selliste juhendite koostamisel tegema koostööd asjaomaste riigi pädevate asutustega ning ta võiks vajaduse korral konsulteerida kodanikuühiskonna organisatsioonide ning muude asjaomaste sidusrühmade ja ekspertidega, sealhulgas teaduskomisjoniga. Tegevusjuhendid peaksid hõlmama üldotstarbeliste tehisintellektimudelite ja süsteemseid riske kujutavate üldotstarbeliste tehisintellektimudelite pakkujate kohustusi. Lisaks peaksid tegevusjuhendid süsteemsete riskide puhul aitama liidu tasandil kehtestada süsteemsete riskide liigi ja olemuse järgi riskitaksonoomia, mis hõlmab ka riskide allikaid. Tegevusjuhendites tuleks keskenduda ka konkreetsetele riskihindamis- ja maandamismeetmetele.
(116)
La Oficina de IA debe fomentar y facilitar la elaboración, revisión y adaptación de códigos de buenas prácticas, teniendo en cuenta los enfoques internacionales. Podría invitarse a participar a todos los proveedores de modelos de IA de uso general. Para garantizar que los códigos de buenas prácticas reflejen el estado actual de la técnica y tengan debidamente en cuenta perspectivas distintas, la Oficina de IA debe colaborar con las autoridades nacionales competentes pertinentes y, cuando proceda, podrá consultar a organizaciones de la sociedad civil y a otras partes interesadas y expertos pertinentes, incluido el Grupo de Expertos Científicos, por lo que respecta a la elaboración de dichos códigos. Los códigos de buenas prácticas deben comprender las obligaciones de los proveedores de modelos de IA de uso general y de modelos de IA de uso general que presenten riesgos sistémicos. Además, en lo que respecta a los riesgos sistémicos, los códigos de buenas prácticas deben ayudar a establecer una taxonomía de riesgos en la que figuren el tipo y la naturaleza de los riesgos sistémicos a escala de la Unión, incluidas sus fuentes. Asimismo, los códigos de buenas prácticas deben centrarse en medidas específicas de evaluación y reducción de riesgos.
(117)
Tegevusjuhendid peaksid olema keskne vahend, mis aitavad üldotstarbeliste tehisintellektimudelite pakkujatel nõuetekohaselt täita käesolevas määruses sätestatud kohustusi. Pakkujatel peaks olema võimalik tugineda tegevusjuhendile, et tõendada kohustuste täitmist. Komisjon võib rakendusaktidega otsustada kiita tegevusjuhendi heaks ja anda sellele üldise kehtivuse kogu liidus või kehtestada ühised õigusnormid asjaomaste kohustuste täitmiseks, kui käesoleva määruse kohaldamise ajaks ei saa tegevusjuhendit lõplikult vormistada või tehisintellektiamet ei pea seda piisavaks. Kui harmoneeritud standard on avaldatud ja see on hinnatud tehisintellektiameti kehtestatud asjakohaste kohustuste täitmiseks sobivaks, peaks Euroopa harmoneeritud standardi järgimine andma eelduse, et pakkujad vastavad nõuetele. Üldotstarbeliste tehisintellektimudelite pakkujad peaksid lisaks suutma tõendada nõuetele vastavust alternatiivsete asjakohaste vahendite alusel, kui tegevusjuhendid või harmoneeritud standardid ei ole kättesaadavad või kui nad otsustavad neile mitte tugineda.
(117)
Los códigos de buenas prácticas deben constituir una herramienta fundamental para el cumplimiento adecuado de las obligaciones previstas en el presente Reglamento para los proveedores de modelos de IA de uso general. Los proveedores deben poder basarse en códigos de buenas prácticas para demostrar el cumplimiento de las obligaciones. Mediante actos de ejecución, la Comisión podrá decidir aprobar un código de buenas prácticas y conferirle una validez general dentro de la Unión o, alternativamente, establecer normas comunes para la puesta en práctica de las obligaciones pertinentes si, para el momento en que el presente Reglamento sea aplicable, no ha podido finalizarse un código de buenas prácticas o la Oficina de IA no lo considera adecuado. Una vez que se haya publicado una norma armonizada y que la Oficina de IA la considere adecuada para cubrir las obligaciones pertinentes, el cumplimiento de una norma armonizada europea debe dar a los proveedores la presunción de conformidad. Además, los proveedores de modelos de IA de uso general deben poder demostrar el cumplimiento utilizando medios alternativos adecuados si no se dispone de códigos de buenas prácticas o de normas armonizadas, o si deciden no basarse en ellos.
(118)
Käesoleva määrusega reguleeritakse tehisintellektisüsteeme ja -mudeleid, kehtestades teatavad nõuded ja kohustused asjaomastele turuosalistele, kes lasevad neid süsteeme või mudeleid liidus turule, võtavad kasutusele või kasutavad, täiendades seeläbi selliste vahendusteenuste osutajate kohustusi, kes integreerivad sellised süsteemid või mudelid oma teenustesse, mida reguleeritakse määrusega (EL) 2022/2065. Kui sellised süsteemid või mudelid on integreeritud väga suurtesse digiplatvormidesse või väga suurtesse internetipõhistesse otsingumootoritesse, kohaldatakse nende suhtes määruses (EL) 2022/2065 sätestatud riskijuhtimisraamistikku. Sellest tulenevalt tuleks eeldada, et käesoleva määruse vastavad kohustused on täidetud, välja arvatud juhul, kui tekivad märkimisväärsed süsteemsed riskid, mis ei ole hõlmatud määrusega (EL) 2022/2065, ja kui need on sellistes mudelites kindlaks tehtud. Selles raamistikus on väga suurte digiplatvormide ja väga suurte internetipõhiste otsingumootorite pakkujad kohustatud hindama võimalikke süsteemseid riske, mis tulenevad nende teenuste disainimisest, toimimisest ja kasutamisest, sealhulgas seda, kuidas teenuses kasutatavate algoritmiliste süsteemide kavandamine võib selliseid riske suurendada, samuti süsteemseid riske, mis tulenevad võimalikust väärkasutamisest. Need pakkujad on samuti kohustatud võtma asjakohaseid maandamismeetmeid, järgides põhiõigusi.
(118)
El presente Reglamento regula los sistemas de IA y modelos de IA imponiendo determinados requisitos y obligaciones a los agentes pertinentes del mercado que los introduzcan en el mercado, los pongan en servicio o los utilicen en la Unión, complementando así las obligaciones de los prestadores de servicios intermediarios que integren dichos sistemas o modelos en sus servicios, regulados por el Reglamento (UE) 2022/2065. En la medida en que dichos sistemas o modelos estén integrados en plataformas en línea de muy gran tamaño o en motores de búsqueda en línea de muy gran tamaño que hayan sido designados, están sujetos al marco de gestión de riesgos establecido en el Reglamento (UE) 2022/2065. Por consiguiente, debe presumirse que se han cumplido las obligaciones correspondientes del presente Reglamento a menos que surjan riesgos sistémicos significativos no cubiertos por el Reglamento (UE) 2022/2065 y se detecten en dichos modelos. En este marco, los prestadores de plataformas en línea de muy gran tamaño y de motores de búsqueda en línea de muy gran tamaño están obligados a evaluar los posibles riesgos sistémicos derivados del diseño, el funcionamiento y el uso de sus servicios, incluido el modo en que el diseño de los sistemas algorítmicos utilizados en el servicio puede contribuir a dichos riesgos, así como los riesgos sistémicos derivados de posibles usos indebidos. Dichos prestadores también están obligados a adoptar las medidas de reducción de riesgos adecuadas respetando los derechos fundamentales.
(119)
Võttes arvesse liidu õiguse eri õigusaktide kohaldamisalasse jäävate digiteenuste innovatsiooni kiiret tempot ja tehnoloogilist arengut, pidades eelkõige silmas nende kasutamist ja tajumist kasutajate poolt, võib käesoleva määruse kohaldamisalasse kuuluvaid tehisintellektisüsteeme pakkuda vahendusteenustena või nende teenuste osadena määruse (EL) 2022/2065 tähenduses, mida tuleks tõlgendada tehnoloogianeutraalsel viisil. Näiteks võib tehisintellektisüsteeme kasutada internetipõhiste otsingumootorite pakkumiseks, eelkõige niivõrd, kuivõrd selline tehisintellektisüsteem nagu internetipõhine juturobot teeb otsinguid põhimõtteliselt kõigil veebisaitidel, lisab seejärel tulemused oma olemasolevatesse teadmistesse ja kasutab ajakohastatud teadmisi, et luua ühtne väljund, mis ühendab erinevaid teabeallikaid.
(119)
Tomando en consideración el rápido ritmo de innovación y la evolución tecnológica de los servicios digitales incluidos en el ámbito de aplicación de diferentes instrumentos del Derecho de la Unión, en particular teniendo en cuenta el uso y la percepción de sus destinatarios, los sistemas de IA sujetos al presente Reglamento pueden prestarse como servicios intermediarios, o partes de estos, en el sentido del Reglamento (UE) 2022/2065, que debe interpretarse de manera tecnológicamente neutra. Por ejemplo, los sistemas de IA pueden utilizarse para ofrecer motores de búsqueda en línea, en particular en la medida en que un sistema de IA, como un chatbot en línea, efectúe búsquedas, en principio, en todos los sitios web, incorpore a continuación los resultados a sus conocimientos existentes y utilice los conocimientos actualizados para generar una única información de salida que combine diferentes fuentes de información.
(120)
Lisaks on määruse (EL) 2022/2065 tõhusa rakendamise hõlbustamiseks eriti asjakohased kohustused, mis on käesoleva määrusega kehtestatud teatavate tehisintellektisüsteemide pakkujatele ja juurutajatele, et võimaldada avastada ja avalikustada seda, et nende süsteemide väljundid on kunstlikult loodud või neid on manipuleeritud. See kehtib eelkõige seoses väga suurte digiplatvormide või väga suurte internetipõhiste otsingumootorite pakkujate kohustusega teha kindlaks ja maandada süsteemseid riske, mis võivad tuleneda kunstlikult loodud või manipuleeritud sisu levitamisest, eelkõige risk, et see põhjustab tegelikku või prognoositavat negatiivset mõju demokraatlikele protsessidele, ühiskondlikule arutelule ja valimisprotsessidele, sealhulgas desinformatsiooni kaudu.
(120)
Además, las obligaciones impuestas a los proveedores y a los responsables del despliegue de determinados sistemas de IA en el presente Reglamento destinadas a permitir que se detecte y divulgue que los resultados de salida de dichos sistemas han sido generados o manipulados de manera artificial resultan especialmente pertinentes para facilitar la aplicación efectiva del Reglamento (UE) 2022/2065. Esto se aplica en particular a las obligaciones de los prestadores de plataformas en línea de muy gran tamaño o de motores de búsqueda en línea de muy gran tamaño de detectar y mitigar los riesgos sistémicos que pueden surgir de la divulgación de contenidos que hayan sido generados o manipulados de manera artificial, en particular el riesgo de los efectos negativos reales o previsibles sobre los procesos democráticos, el discurso cívico y los procesos electorales, también a través de la desinformación.
(121)
Oluline roll peaks olema standardimisel, et anda pakkujatele tehnilised lahendused, millega tagatakse käesoleva määruse järgimine kooskõlas tehnika tasemega, et edendada innovatsiooni ning konkurentsivõimet ja majanduskasvu ühtsel turul. Euroopa Parlamendi ja nõukogu määruse (EL) nr 1025/2012 (41) artikli 2 punkti 1 alapunktis c määratletud harmoneeritud standardite – mis üldiselt peaksid kajastama tehnika taset – järgimine peaks olema pakkujate jaoks vahend, millega tõendada käesoleva määruse nõuete täitmist. Seepärast tuleks soodustada huvide tasakaalustatud esindatust, kaasates standardite väljatöötamisse kõik asjaomased sidusrühmad, eelkõige VKEd, tarbijaorganisatsioonid ning keskkonna- ja sotsiaalvaldkonna sidusrühmad, kooskõlas määruse (EL) nr 1025/2012 artiklitega 5 ja 6. Nõuete täitmise hõlbustamiseks peaks komisjon esitama standardimistaotlused põhjendamatu viivituseta. Standardimistaotluse koostamisel peaks komisjon konsulteerima nõuandva kogu ja nõukojaga, et koguda asjaomast oskusteavet. Kui aga asjakohased viited harmoneeritud standarditele puuduvad, peaks komisjonil olema võimalik rakendusaktidega ja pärast nõuandva koguga konsulteerimist kehtestada teatavate käesoleva määruse kohaste nõuete ühtsed kirjeldused. Ühtne kirjeldus peaks olema erakorraline varulahendus, mis hõlbustab pakkujal täita käesoleva määruse nõudeid, kui ükski Euroopa standardiorganisatsioon ei ole standardimistaotlust heaks kiitnud või kui asjakohastes harmoneeritud standardites ei ole piisavalt käsitletud põhiõigustega seotud probleeme või kui harmoneeritud standardid ei vasta taotlusele või kui asjakohase harmoneeritud standardi vastuvõtmisel esineb viivitusi. Kui harmoneeritud standardi vastuvõtmine viibib standardi tehnilise keerukuse tõttu, peaks komisjon seda enne ühtsete kirjelduste kehtestamist arvesse võtma. Ühtsete kirjelduste väljatöötamisel julgustatakse komisjoni tegema koostööd rahvusvaheliste partnerite ja rahvusvaheliste standardiorganisatsioonidega.
(121)
La normalización debe desempeñar un papel fundamental para proporcionar soluciones técnicas a los proveedores para garantizar el cumplimiento del presente Reglamento, en consonancia con el estado actual de la técnica, para promover la innovación, así como la competitividad y el crecimiento en el mercado único. El cumplimiento de las normas armonizadas definidas en el artículo 2, punto 1, letra c), del Reglamento (UE) n.o 1025/2012 del Parlamento Europeo y del Consejo (41), que generalmente se espera que reflejen el estado actual de la técnica, debe ser un medio para que los proveedores demuestren la conformidad con los requisitos previstos en el presente Reglamento. Por consiguiente, debe fomentarse una representación equilibrada de los intereses de todas las partes interesadas pertinentes —en particular las pymes, las organizaciones de consumidores y las partes interesadas de los ámbitos social y medioambiental— en la elaboración de normas, de conformidad con los artículos 5 y 6 del Reglamento (UE) n.o 1025/2012. A fin de facilitar el cumplimiento, la Comisión debe emitir las peticiones de normalización sin demora indebida. Al preparar la petición de normalización, la Comisión debe consultar al foro consultivo y al Consejo de IA para recabar los conocimientos especializados pertinentes. No obstante, a falta de referencias pertinentes a las normas armonizadas, la Comisión debe poder establecer, mediante actos de ejecución y previa consulta al foro consultivo, especificaciones comunes para determinados requisitos previstos en el presente Reglamento. Las especificaciones comunes deben ser una solución alternativa excepcional para facilitar la obligación del proveedor de cumplir los requisitos del presente Reglamento cuando ninguna de las organizaciones europeas de normalización haya aceptado la petición de normalización, cuando las normas armonizadas pertinentes respondan de forma insuficiente a las preocupaciones en materia de derechos fundamentales, cuando las normas armonizadas no cumplan la petición o cuando se produzcan retrasos en la adopción de una norma armonizada adecuada. Cuando dichos retrasos en la adopción de una norma armonizada se deban a la complejidad técnica de dicha norma, la Comisión debe tenerlo en cuenta antes de considerar la posibilidad de establecer especificaciones comunes. Se anima a la Comisión a que, a la hora de elaborar especificaciones comunes, coopere con los socios internacionales y los organismos internacionales de normalización.
(122)
Ilma et see piiraks harmoneeritud standardite ja ühtsete kirjelduste kasutamist, tuleks eeldada, et pakkujad, kes pakuvad suure riskiga tehisintellektisüsteemi, mida on treenitud ja testitud andmetega, mis kajastavad konkreetset geograafilist, käitumuslikku, kontekstipõhist või funktsionaalset keskkonda, milles tehisintellektisüsteemi kavatsetakse kasutada, järgivad asjakohaseid meetmeid, mis on ette nähtud käesolevas määruses sätestatud andmehalduse nõude raames. Ilma et see piiraks käesolevas määruses sätestatud stabiilsuse ja täpsuse nõuete kohaldamist, tuleks kooskõlas määruse (EL) 2019/881 artikli 54 lõikega 3 eeldada, et suure riskiga tehisintellektisüsteemid, mis on sertifitseeritud või mille kohta on välja antud vastavusdeklaratsioon kõnealuse määruse kohase küberturvalisuse sertifitseerimise kava alusel ja mille viited on avaldatud Euroopa Liidu Teatajas, vastavad käesoleva määruse küberturvalisuse nõudele, kui küberturvalisuse sertifikaat või vastavusdeklaratsioon või nende osad hõlmavad käesoleva määruse küberturvalisuse nõuet. See ei piira kõnealuse küberturvalisuse sertifitseerimise kava vabatahtlikku laadi.
(122)
Conviene que, sin perjuicio del uso de normas armonizadas y especificaciones comunes, se presuma que los proveedores de un sistema de IA de alto riesgo que haya sido entrenado y probado con datos que reflejan el entorno geográfico, conductual, contextual o funcional específico en el que esté previsto que se utilice el sistema de IA cumplen la medida pertinente prevista en el requisito en materia de gobernanza de datos establecido en el presente Reglamento. Sin perjuicio de los requisitos relacionados con la solidez y la precisión establecidos en el presente Reglamento, de conformidad con el artículo 54, apartado 3, del Reglamento (UE) 2019/881, debe presumirse que los sistemas de IA de alto riesgo que cuenten con una certificación o una declaración de conformidad en virtud de un esquema de certificación de la ciberseguridad con arreglo a dicho Reglamento y cuyas referencias se hayan publicado en el Diario Oficial de la Unión Europea cumplen el requisito de ciberseguridad del presente Reglamento en la medida en que el certificado de ciberseguridad o la declaración de conformidad, o partes de estos, contemplen dicho requisito. Esto se entiende sin perjuicio del carácter voluntario de dicho esquema de ciberseguridad.
(123)
Selleks et tagada suure riskiga tehisintellektisüsteemide kõrge usaldusväärsus, peaksid need süsteemid enne nende turule laskmist või kasutuselevõtmist läbima vastavushindamise.
(123)
A fin de garantizar que los sistemas de IA de alto riesgo sean altamente fiables, debe someterse a dichos sistemas a una evaluación de la conformidad antes de su introducción en el mercado o puesta en servicio.
(124)
Operaatorite koormuse vähendamiseks ja võimaliku dubleerimise vältimiseks on asjakohane hinnata uue õigusraamistiku alusel olemasolevate liidu ühtlustamisõigusaktide kohaldamisalasse kuuluvate toodetega seotud suure riskiga tehisintellektisüsteemide vastavust käesoleva määruse nõuetele osana kõnealuse õigusega juba ette nähtud vastavushindamisest. Seega ei tohiks käesoleva määruse nõuete kohaldatavus mõjutada uue liidu ühtlustamisõigusaktide kohaselt tehtava vastavushindamise eriomast loogikat, metoodikat või üldist ülesehitust.
(124)
Para reducir al mínimo la carga que deben soportar los operadores y evitar posibles duplicidades, conviene, en el caso de los sistemas de IA de alto riesgo asociados a productos regulados por la legislación de armonización de la Unión vigente basada en el nuevo marco legislativo, que la conformidad de dichos sistemas de IA con los requisitos establecidos en el presente Reglamento se evalúe en el marco de la evaluación de la conformidad ya prevista en dicha legislación. Por lo tanto, la aplicabilidad de los requisitos del presente Reglamento no debe afectar a la lógica, la metodología o la estructura general específicas de la evaluación de la conformidad prevista en los actos legislativos de armonización pertinentes de la Unión.
(125)
Arvestades suure riskiga tehisintellektisüsteemide keerukust ja nendega seotud riske, on oluline töötada suure riskiga tehisintellektisüsteemide jaoks välja asjakohane vastavushindamismenetlus, mis hõlmab teada antud asutusi, nn kolmanda isiku tehtavat vastavushindamist. Kuid võttes arvesse kutseliste turustamiseelsete sertifitseerijate praeguseid kogemusi tooteohutuse valdkonnas ja kaasnevate riskide erinevat olemust, on asjakohane vähemalt käesoleva määruse kohaldamise algjärgus piirata kolmanda isiku tehtava vastavushindamise kohaldamise ulatust muude kui toodetega seotud suure riskiga tehisintellektisüsteemide puhul. Seepärast peaks selliste süsteemide vastavushindamise üldjuhul läbi viima pakkuja omal vastutusel, välja arvatud biomeetria jaoks ette nähtud tehisintellektisüsteemide puhul.
(125)
Dada la complejidad de los sistemas de IA de alto riesgo y los riesgos asociados a ellos, es importante desarrollar un procedimiento adecuado de evaluación de la conformidad de los sistemas de IA de alto riesgo en el que participen organismos notificados, denominado «evaluación de la conformidad de terceros». No obstante, habida cuenta de la experiencia actual de los profesionales que realizan la certificación previa a la comercialización en el campo de la seguridad de los productos y de la distinta naturaleza de los riesgos implicados, procede limitar, al menos en la fase inicial de aplicación del presente Reglamento, el alcance de las evaluaciones externas de la conformidad a los sistemas de IA de alto riesgo que no están asociados a productos. En consecuencia, el proveedor es quien, por norma general, debe llevar a cabo la evaluación de la conformidad de dichos sistemas bajo su propia responsabilidad, con la única excepción de los sistemas de IA que están destinados a utilizarse para la biometría.
(126)
Selleks et vajaduse korral viidaks läbi kolmanda isiku tehtavad vastavushindamised, peaksid riikide pädevad asutused käesoleva määruse alusel teavitama teada antud asutusi, tingimusel et need vastavad teatavatele nõuetele eeskätt sõltumatuse, pädevuse, huvide konflikti puudumise ja küberturvalisuse asjakohaste nõuete vallas. Riikide pädevad asutused peaksid saatma teavituse kõnealuste asutuste kohta komisjonile ja teistele liikmesriikidele komisjoni poolt otsuse nr 768/2008/EÜ I lisa artikli R23 alusel väljaarendatud ja hallatava elektroonilise teavitamise vahendi kaudu.
(126)
Para poder realizar las evaluaciones de la conformidad de terceros cuando así se les exija, las autoridades nacionales competentes deben notificar, en virtud del presente Reglamento, a los organismos notificados, siempre que cumplan una serie de requisitos, en particular en lo que respecta a su independencia, sus competencias y la ausencia de conflictos de intereses, así como requisitos adecuados de ciberseguridad. Las autoridades nacionales competentes deben enviar la notificación de dichos organismos a la Comisión y a los demás Estados miembros a través del sistema de notificación electrónica desarrollado y gestionado por la Comisión con arreglo a lo dispuesto en el artículo R23 del anexo I de la Decisión n.o 768/2008/CE.
(127)
Kooskõlas Maailma Kaubandusorganisatsiooni tehniliste kaubandustõkete lepingust tulenevate liidu kohustustega on asjakohane hõlbustada selliste vastavushindamistulemuste vastastikust tunnustamist, mille on saanud pädevad vastavushindamisasutused sõltumata territooriumist, kus nad on asutatud, tingimusel et kolmanda riigi õiguse alusel asutatud vastavushindamisasutused vastavad käesoleva määruse kohaldatavatele nõuetele ja liit on sõlminud sellekohase lepingu. Sellega seoses peaks komisjon aktiivselt uurima võimalike rahvusvaheliste õigusaktide koostamist sel eesmärgil ja eelkõige püüdma sõlmida vastastikuse tunnustamise lepinguid kolmandate riikidega.
(127)
En consonancia con los compromisos contraídos por la Unión en virtud del Acuerdo sobre Obstáculos Técnicos al Comercio, de la Organización Mundial del Comercio, es adecuado facilitar el reconocimiento mutuo de los resultados de las evaluaciones de la conformidad realizadas por organismos de evaluación de la conformidad competentes, con independencia del territorio en el que estén establecidos, siempre que dichos organismos de evaluación de la conformidad establecidos con arreglo al Derecho de un tercer país cumplan los requisitos aplicables del presente Reglamento y la Unión haya celebrado un acuerdo en ese sentido. En este contexto, la Comisión debe estudiar activamente posibles instrumentos internacionales a tal efecto y, en particular, procurar celebrar acuerdos de reconocimiento mutuo con terceros países.
(128)
Liidu ühtlustamisõigusaktidega reguleeritud toodete olulise muudatuse laialdaselt juurdunud mõiste kohaselt on asjakohane, et kui tehakse muudatus, mis võib mõjutada suure riskiga tehisintellektisüsteemi vastavust käesolevale määrusele (näiteks operatsioonisüsteemi või tarkvaraarhitektuuri muudatus), või kui muutub süsteemi sihtotstarve, tuleks kõnealust tehisintellektisüsteemi käsitada uue tehisintellektisüsteemina, mis peaks läbima uue vastavushindamise. Siiski ei peaks muudatuste puhul, mis tehakse selliste tehisintellektisüsteemide algoritmis või toimimises, mis n-ö õpivad edasi ka pärast turule laskmist või kasutusele võtmist, nimelt kohandavad automaatselt funktsioonide täitmise viisi, olema tegemist olulise muudatusega, tingimusel et pakkuja on kõnealused muudatused eelnevalt kindlaks määranud ja neid on vastavushindamise ajal hinnatud.
(128)
En consonancia con el concepto comúnmente establecido de «modificación sustancial» de los productos regulados por los actos legislativos de armonización de la Unión, conviene que, cada vez que se produzca un cambio que pueda afectar al cumplimiento del presente Reglamento por parte de un sistema de IA de alto riesgo (por ejemplo, un cambio de sistema operativo o de arquitectura de software) o cuando cambie la finalidad prevista del sistema, dicho sistema de IA se considere un sistema de IA nuevo que debe someterse a una nueva evaluación de la conformidad. Sin embargo, los cambios que se produzcan en el algoritmo y en el funcionamiento de los sistemas de IA que sigan «aprendiendo» después de su introducción en el mercado o su puesta en servicio, a saber, adaptando automáticamente el modo en que desempeñan sus funciones, no deben constituir una modificación sustancial, siempre que dichos cambios hayan sido predeterminados por el proveedor y se hayan evaluado en el momento de la evaluación de la conformidad.
(129)
Suure riskiga tehisintellektisüsteemidel peaks olema CE-märgis, mis näitab nende vastavust käesolevale määrusele, et nad saaksid siseturul vabalt liikuda. Tootesse sisseehitatud suure riskiga tehisintellektisüsteemide puhul tuleks kinnitada füüsiline CE-märgis ja seda võib täiendada digitaalse CE-märgisega. Suure riskiga tehisintellektisüsteemide puhul, mida pakutakse ainult digitaalselt, tuleks kasutada digitaalset CE-märgist. Liikmesriigid ei tohiks luua põhjendamatuid tõkkeid käesolevas määruses sätestatud nõuetele vastavate ja CE-märgisega suure riskiga tehisintellektisüsteemide turule laskmisele või kasutusele võtmisele.
(129)
Los sistemas de IA de alto riesgo deben llevar el marcado CE para acreditar su conformidad con el presente Reglamento y así poder circular libremente por el mercado interior. En el caso de los sistemas de IA de alto riesgo integrados en un producto, se debe colocar un marcado CE físico, que puede complementarse con un marcado CE digital. En el caso de los sistemas de IA de alto riesgo que solo se proporcionen digitalmente, debe utilizarse un marcado CE digital. Los Estados miembros no deben crear obstáculos injustificados a la introducción en el mercado o la puesta en servicio de sistemas de IA de alto riesgo que cumplan los requisitos establecidos en el presente Reglamento y lleven el marcado CE.
(130)
Teatavatel tingimustel võib uuenduslike tehnoloogiate kiire kättesaadavus olla inimeste tervise ja turvalisuse, keskkonnakaitse ja kliimamuutuste ning ühiskonna kui terviku jaoks olla äärmiselt tähtis. Seepärast on asjakohane, et teatavatel erandlikel põhjustel, mis on seotud avaliku julgeoleku või füüsiliste isikute elu ja tervise kaitse, keskkonnakaitse ning oluliste tööstus- ja taristuvarade kaitsega, võiksid turujärelevalveasutused lubada selliste tehisintellektisüsteemide turule laskmist või kasutusele võtmist, millele ei ole vastavushindamist tehtud. Käesolevas määruses sätestatud põhjendatud olukordades võivad õiguskaitseasutused või elanikkonnakaitseasutused võtta konkreetse suure riskiga tehisintellektisüsteemi kasutusele ilma turujärelevalveasutuse loata, tingimusel et sellist luba taotletakse põhjendamatu viivituseta kasutamise ajal või pärast seda.
(130)
En determinadas condiciones, la rápida disponibilidad de tecnologías innovadoras puede ser crucial para la salud y la seguridad de las personas, la protección del medio ambiente y la mitigación del cambio climático, y para la sociedad en su conjunto. Por consiguiente, resulta oportuno que las autoridades de vigilancia del mercado puedan autorizar, por motivos excepcionales de seguridad pública o con vistas a proteger la vida y la salud de personas físicas, el medio ambiente y activos fundamentales de la industria y de las infraestructuras, la introducción en el mercado o la puesta en servicio de sistemas de IA que no hayan sido sometidos a una evaluación de la conformidad. En situaciones debidamente justificadas previstas en el presente Reglamento, las autoridades garantes del cumplimiento del Derecho o las autoridades de protección civil podrán poner en servicio un sistema de IA de alto riesgo específico sin la autorización de la autoridad de vigilancia del mercado, siempre que se solicite la autorización durante el uso o después de este sin demora indebida.
(131)
Et hõlbustada tööd, mida komisjon ja liikmesriigid tehisintellekti vallas teevad, ning suurendada avalikkuse jaoks läbipaistvust, peaksid muude kui asjaomaste olemasolevate liidu ühtlustamisõigusaktide kohaldamisalasse kuuluvate toodetega seotud suure riskiga tehisintellektisüsteemide pakkujad, samuti pakkujad, kes leiavad, et käesoleva määruse lisas suure riski kasutusena loetletud tehisintellektisüsteem ei ole kohaldatava erandi alusel suure riskiga, olema kohustatud registreerima iseenda ja teabe oma tehisintellektisüsteemi kohta ELi andmebaasis, mille loob ja mida haldab komisjon. Enne käesoleva määruse lisas suure riski kasutusena loetletud tehisintellektisüsteemi kasutamist peaksid suure riskiga tehisintellektisüsteemide juurutajad, kes on avaliku sektori asutused, ametid või organid, end selles ELi andmebaasis registreerima ja valima välja süsteemi, mida nad kavatsevad kasutada. Teistel juurutajatel peaks olema õigus teha seda vabatahtlikult. See ELi andmebaasi osa peaks olema avalik ja tasuta kättesaadav, teave peaks olema kergesti kasutatav, arusaadav ja masinloetav. ELi andmebaas peaks olema ka kasutajasõbralik, näiteks pakkudes otsingufunktsioone, sealhulgas märksõnade kaudu, võimaldades üldsusel leida asjakohast teavet, mis peab olema edastatud kõrge riskitasemega tehisintellektisüsteemide registreerimisel, ja teavet selliste kõrge riskiga tehisintellektisüsteemide kasutusmalli kohta, mis on suure riskiga tehisintellektisüsteemid vastavalt käesoleva määruse lisas sätestatule. ELi andmebaasis tuleks registreerida ka kõik suure riskiga tehisintellektisüsteemide olulised muudatused. Õiguskaitse, rände, varjupaiga ja piirikontrollihalduse valdkonna suure riskiga tehisintellektisüsteemide puhul tuleks registreerimiskohustusi täita ELi andmebaasi turvalises mitteavalikus osas. Turvalisele mitteavalikule osale peaks juurdepääs olema rangelt üksnes komisjonil ja turujärelevalveasutustel nende andmebaasi riikliku osa piires. Elutähtsa taristu valdkonna suure riskiga tehisintellektisüsteeme tuleks registreerida üksnes riiklikul tasandil. Kooskõlas määrusega (EL) 2018/1725 peaks ELi andmebaasi vastutav töötleja olema komisjon. Et ELi andmebaas oleks kasutuselevõtmisel täielikult toimiv, peaks andmebaasi loomise menetlus hõlmama funktsionaalsete kirjelduste väljatöötamist komisjoni poolt ja sõltumatut auditiaruannet. Komisjon peaks ELi andmebaasi vastutava töötlejana oma ülesannete täitmisel võtma arvesse küberturvalisuse riske. Et maksimeerida ELi andmebaasi kättesaadavust ja kasutamist avalikkuse poolt, peaks ELi andmebaas, sealhulgas selle kaudu kättesaadavaks tehtud teave, vastama direktiivi (EL) 2019/882 nõuetele.
(131)
Con el objetivo de facilitar la labor de la Comisión y de los Estados miembros en el ámbito de la IA, así como de incrementar la transparencia de cara al público, debe exigirse a los proveedores de sistemas de IA de alto riesgo que no estén asociados a productos que entren dentro del ámbito de aplicación de los actos legislativos de armonización de la Unión que sean pertinentes y estén en vigor, y a los proveedores que consideren que alguno de los sistemas de IA enumerados en los casos de uso de alto riesgo en un anexo del presente Reglamento no es de alto riesgo sobre la base de una excepción que se registren y que registren información sobre sus sistemas de IA en una base de datos de la UE, de cuya creación y gestión se encargará la Comisión. Antes de utilizar tal sistema de IA enumerado en los casos de uso de alto riesgo en un anexo del presente Reglamento, los responsables del despliegue de sistemas de IA de alto riesgo que sean autoridades, órganos u organismos públicos deben registrarse en dicha base de datos y seleccionar el sistema que tengan previsto utilizar. Los demás responsables del despliegue deben poder efectuar dicho registro con carácter voluntario. Esta sección de la base de datos de la UE debe ser de acceso público y gratuito, debe ser fácil navegar por la información, y esta ha de ser comprensible y legible por máquina. La base de datos de la UE también debe ser fácil de utilizar, por ejemplo, proporcionando funcionalidades de búsqueda, también a través de palabras clave, que permitan al público en general encontrar la información que debe presentarse para el registro de los sistemas de IA de alto riesgo y relativa a los casos de uso de sistemas de IA de alto riesgo contemplados en un anexo del presente Reglamento, a la que corresponden los sistemas de IA de alto riesgo. También debe registrarse en la base de datos de la UE toda modificación sustancial de sistemas de IA de alto riesgo. En el caso de los sistemas de IA de alto riesgo en el ámbito de la garantía del cumplimiento del Derecho y de la gestión de la migración, el asilo y el control fronterizo, las obligaciones de registro deben cumplirse en una sección segura no pública de la base de datos de la UE. El acceso a esa sección debe limitarse estrictamente a la Comisión y a las autoridades de vigilancia del mercado en lo que respecta a su sección nacional de dicha base de datos. Los sistemas de IA de alto riesgo en el ámbito de las infraestructuras críticas solo deben registrarse a nivel nacional. La Comisión debe ser la responsable del tratamiento de la base de datos de la UE, de conformidad con el Reglamento (UE) 2018/1725. Con vistas a garantizar la funcionalidad plena de la base de datos de la UE una vez que esté en funcionamiento, el procedimiento para su creación debe comprender el desarrollo de especificaciones funcionales por parte de la Comisión y la redacción de un informe de auditoría independiente. Al ejercer sus funciones como responsable del tratamiento de la base de datos de la UE, la Comisión debe tener en cuenta los riesgos de ciberseguridad. Con el fin de maximizar la disponibilidad y el uso de la base de datos de la UE por parte del público, la base de datos de la UE y la información facilitada a través de ella deben cumplir los requisitos establecidos en la Directiva (UE) 2019/882.
(132)
Teatavad tehisintellektisüsteemid, mis on mõeldud suhtlema füüsiliste isikutega või sisu looma, võivad põhjustada spetsiifilisi kellegi teisena esinemise või pettuse riske olenemata sellest, kas süsteemid on liigitatud suure riskiga süsteemideks või mitte. Seepärast peaks nende süsteemide kasutamise suhtes teatavates olukordades kehtima spetsiifilised läbipaistvuskohustused, ilma et see piiraks suure riskiga tehisintellektisüsteemide suhtes kehtivate nõuete ja kohustuste ning sihipäraste erandite kohaldamist, et võtta arvesse õiguskaitse erivajadusi. Eelkõige tuleks füüsilistele isikutele anda teada, et nad suhtlevad tehisintellektisüsteemiga, välja arvatud juhul, kui see on mõistlikult informeeritud, tähelepaneliku ja aruka füüsilise isiku jaoks ilmne, võttes arvesse asjaolusid ja kasutamise konteksti. Kõnealuse kohustuse rakendamisel tuleks arvesse võtta nende füüsiliste isikute omadusi, kes kuuluvad oma vanuse või puude tõttu kaitsetutesse rühmadesse, niivõrd kui tehisintellektisüsteem on mõeldud ka nende rühmadega suhtlemiseks. Peale selle tuleks füüsilisi isikuid teavitada, kui nad puutuvad kokku tehisintellektisüsteemidega, mis suudavad nende biomeetrilisi andmeid töödeldes tuvastada või tuletada nende emotsioone või kavatsusi või liigitada kõnealused isikud konkreetsesse kategooriasse. Kõnealused konkreetsed kategooriad võivad olla seotud selliste aspektidega nagu sugu, vanus, juuksevärv, silmade värv, tätoveeringud, isikuomadused, etniline päritolu, isiklikud eelistused ja huvid. Selline teave ja teavitused tuleks edastada puuetega inimestele juurdepääsetavas vormingus.
(132)
Determinados sistemas de IA destinados a interactuar con personas físicas o a generar contenidos pueden plantear riesgos específicos de suplantación o engaño, con independencia de si cumplen las condiciones para ser considerados como de alto riesgo o no. Por consiguiente, el uso de estos sistemas debe estar sujeto, en determinadas circunstancias, a obligaciones de transparencia específicas, sin perjuicio de los requisitos y las obligaciones aplicables a los sistemas de IA de alto riesgo y a excepciones específicas a fin de tener en cuenta las necesidades especiales de la garantía del cumplimiento del Derecho. En particular, es preciso comunicar a las personas físicas que están interactuando con un sistema de IA, excepto cuando resulte evidente desde el punto de vista de una persona física normalmente informada y razonablemente atenta y perspicaz, teniendo en cuenta las circunstancias y el contexto de utilización. Al aplicar dicha obligación, deben tenerse en cuenta las características de las personas físicas pertenecientes a colectivos vulnerables debido a su edad o discapacidad en la medida en que el sistema de IA esté destinado a interactuar también con dichos colectivos. Además, es preciso notificar a las personas físicas cuando estén expuestas a sistemas de IA que, mediante el tratamiento de sus datos biométricos, puedan determinar o inferir sus emociones o intenciones o incluirlas en categorías específicas. Estas categorías específicas pueden referirse a aspectos como el sexo, la edad, el color del pelo, el color de ojos, los tatuajes, los rasgos personales, el origen étnico o las preferencias e intereses personales. Esta información y estas notificaciones deben facilitarse en formatos accesibles a las personas con discapacidad.
(133)
Mitmesugused tehisintellektisüsteemid võivad luua suures koguses sünteesitud sisu, mida inimestel on üha raskem eristada inimeste loodud ja ehtsast sisust. Nende süsteemide laialdasel kättesaadavusel ja üha paranevatel võimetel on märkimisväärne mõju teabe ökosüsteemi terviklusele ja usaldusväärsusele, põhjustades uusi mastaapse väärinformatsiooni ja manipuleerimise, pettuse, kellegi teisena esinemise ja tarbijate eksitamise riske. Seda mõju, tehnoloogia arengu kiiret tempot ning vajadust uute meetodite ja tehnikate järele teabe päritolu jälgimiseks arvesse võttes on asjakohane nõuda, et nende süsteemide pakkujad integreeriksid süsteemi tehnilised lahendused, mis võimaldavad masinloetavas vormingus märgistada ja tuvastada selle, et väljundi on loonud või seda on manipuleerinud tehisintellektisüsteem, mitte inimene. Sellised tehnikad ja meetodid peaksid olema nii usaldusväärsed, koostalitlusvõimelised, tõhusad ja töökindlad, kui see on olemasolevaid tehnikaid või nende kombinatsioone arvesse võttes tehniliselt võimalik, ning nendeks on näiteks vesimärgid, metaandmete identifitseerimine, krüptograafilised meetodid sisu päritolu ja autentsuse tõendamiseks, logimismeetodid, sõrmejäljed või muud asjakohased meetodid. Selle kohustuse rakendamisel peaksid pakkujad võtma arvesse ka eri liiki sisu eripärasid ja piire ning valdkonna asjakohaseid tehnoloogilisi ja turusuundumusi, nagu on kajastatud tehnika üldtunnustatud tasemes. Selliseid tehnikaid ja meetodeid saab rakendada tehisintellektisüsteemi või tehisintellektimudeli tasandil, sealhulgas sisu loovate üldotstarbeliste tehisintellektimudelite tasandil, hõlbustades seeläbi tehisintellektisüsteemi järgmise etapi pakkujal selle kohustuse täitmist. Proportsionaalsuse säilitamiseks on asjakohane ette näha, et see märgistamiskohustus ei peaks hõlmama tehisintellektisüsteeme, mis täidavad peamiselt standardse redigeerimise abifunktsiooni, ega tehisintellektisüsteeme, mis ei muuda oluliselt juurutaja esitatud sisendandmeid või nende semantikat.
(133)
Una diversidad de sistemas de IA puede generar grandes cantidades de contenidos sintéticos que para las personas cada vez es más difícil distinguir del contenido auténtico generado por seres humanos. La amplia disponibilidad y las crecientes capacidades de dichos sistemas tienen importantes repercusiones en la integridad del ecosistema de la información y en la confianza en este, haciendo surgir nuevos riesgos de desinformación y manipulación a escala, fraude, suplantación de identidad y engaño a los consumidores. En vista de estos efectos, el rápido desarrollo tecnológico y la necesidad de nuevos métodos y técnicas para asegurar la trazabilidad del origen de la información, procede exigir a los proveedores de tales sistemas que integren soluciones técnicas que permitan marcar, en un formato legible por máquina, y detectar que el resultado de salida ha sido generado o manipulado por un sistema de IA y no por un ser humano. Dichas técnicas y métodos deben ser lo suficientemente fiables, interoperables, eficaces y sólidos, en la medida en que sea técnicamente viable, teniendo en cuenta las técnicas disponibles o una combinación de dichas técnicas, como marcas de agua, identificación de metadatos, métodos criptográficos para demostrar la procedencia y la autenticidad del contenido, métodos de registro, impresiones dactilares u otras técnicas, según proceda. A la hora de aplicar esta obligación, los proveedores también deben tener en cuenta las especificidades y las limitaciones de los diferentes tipos de contenidos y los avances tecnológicos y del mercado pertinentes en ese ámbito, tal como se refleja en el estado de la técnica generalmente reconocido. Dichas técnicas y métodos pueden implantarse a nivel de sistema de IA o a nivel de modelo de IA, incluidos modelos de IA de uso general que generan contenidos, facilitando así el cumplimiento de esta obligación por parte del proveedor posterior del sistema de IA. Para garantizar la proporcionalidad, conviene prever que esta obligación de marcado no se aplique a los sistemas de IA que desempeñen una función de apoyo a la edición estándar o no alteren sustancialmente los datos de entrada facilitados por el responsable del despliegue o su semántica.
(134)
Lisaks tehisintellektisüsteemi pakkujate kasutatavatele tehnilistele lahendustele peaksid juurutajad, kes kasutavad tehisintellektisüsteemi, et luua või manipuleerida pildi-, audio- või videosisu, mis sarnaneb märgatavalt olemasolevate isikute, objektide, kohtade, üksuste või sündmustega ja võib inimesele ekslikult ehtne ja tõene näida (süvavõltsingud), ka selgel ja eristataval viisil avalikustama, et see sisu on kunstlikult loodud või seda on manipuleeritud, märgistades tehisintellekti väljundi vastavalt ja avalikustades selle tehisliku päritolu. Seda läbipaistvusnõude järgmist ei tohiks tõlgendada nii, et tehisintellektisüsteemi või selle väljundi kasutamine takistab põhiõiguste hartaga tagatud väljendusvabaduse ning kunsti ja teaduse vabaduse õiguse teostamist, eelkõige kui sisu moodustab osa ilmselgelt loomingulisest, satiirilisest, kunstilisest, väljamõeldud või samalaadsest teosest või programmist, tingimusel et kolmandate isikute õiguste ja vabaduste kaitseks kohaldatakse asjakohaseid kaitsemeetmeid. Sellistel juhtudel piirdub käesolevas määruses sätestatud süvavõltsingute läbipaistvuskohustus sellise loodud või manipuleeritud sisu olemasolu avalikustamisega asjakohasel viisil, mis ei takista teose kuvamist või vaatamist, sealhulgas selle tavapärast tarbimist ja kasutamist, säilitades samal ajal teose kasutatavuse ja kvaliteedi. Lisaks on asjakohane näha ette sarnane avalikustamiskohustus ka tehisintellekti loodud või manipuleeritud teksti puhul, kui see on avaldatud eesmärgiga teavitada avalikkust avalikku huvi pakkuvatest küsimustest, välja arvatud juhul, kui tehisintellekti loodud sisu on läbinud inimkontrolli või toimetusliku kontrolli ning füüsiline või juriidiline isik kannab sisu avaldamise eest toimetuslikku vastutust.
(134)
Además de las soluciones técnicas utilizadas por los proveedores del sistema de IA, los responsables del despliegue que utilicen un sistema de IA para generar o manipular un contenido de imagen, audio o vídeo generado o manipulado por una IA que se asemeje notablemente a personas, objetos, lugares, entidades o sucesos reales y que puede inducir a una persona a pensar erróneamente que son auténticos o verídicos (ultrasuplantaciones) deben también hacer público, de manera clara y distinguible, que este contenido ha sido creado o manipulado de manera artificial etiquetando los resultados de salida generados por la IA en consecuencia e indicando su origen artificial. El cumplimiento de esta obligación de transparencia no debe interpretarse como un indicador de que la utilización del sistema de IA o de sus resultados de salida obstaculiza el derecho a la libertad de expresión y el derecho a la libertad de las artes y de las ciencias, garantizados por la Carta, en particular cuando el contenido forme parte de una obra o programa manifiestamente creativos, satíricos, artísticos, de ficción o análogos, con sujeción a unas garantías adecuadas para los derechos y libertades de terceros. En tales casos, la obligación de transparencia en relación con las ultrasuplantaciones establecida en el presente Reglamento se limita a revelar la existencia de tales contenidos generados o manipulados de una manera adecuada que no obstaculice la presentación y el disfrute de la obra, también su explotación y uso normales, al tiempo que se conservan la utilidad y la calidad de la obra. Además, también conviene prever una obligación de divulgación similar en relación con el texto generado o manipulado por una IA en la medida en que se publique con el fin de informar al público sobre asuntos de interés público, a menos que el contenido generado por la IA haya sido sometido a un proceso de revisión humana o de control editorial y que una persona física o jurídica ejerza la responsabilidad editorial de la publicación del contenido.
(135)
Ilma et see piiraks läbipaistvuskohustuste kohustuslikkust ja täielikku kohaldatavust, võib komisjon samuti julgustada ja hõlbustada tegevusjuhendite koostamist liidu tasandil, et hõlbustada kunstlikult loodud või manipuleeritud sisu avastamise ja märgistamisega seotud kohustuste tõhusat rakendamist, sealhulgas toetada praktilist korda, mille abil teha vajaduse korral avastamismehhanismid juurdepääsetavaks ja hõlbustada koostööd teiste väärtusahelas osalejatega, levitada sisu või kontrollida selle ehtsust ja päritolu, et võimaldada üldsusel tehisintellekti loodud sisu tõhusalt eristada.
(135)
Sin perjuicio del carácter obligatorio y de la plena aplicabilidad de las obligaciones de transparencia, la Comisión podrá también fomentar y facilitar la elaboración de códigos de buenas prácticas a escala de la Unión, a fin de facilitar la aplicación eficaz de las obligaciones en materia de detección y etiquetado de contenidos generados o manipulados de manera artificial, también para apoyar disposiciones prácticas para que, según proceda, los mecanismos de detección sean accesibles y facilitar la cooperación con otros agentes de la cadena de valor, difundiendo los contenidos o comprobando su autenticidad y procedencia, a fin de que el público pueda distinguir efectivamente los contenidos generados por IA.
(136)
Määruse (EL) 2022/2065 tõhusa rakendamise hõlbustamiseks on eriti asjakohased kohustused, mis on käesoleva määrusega kehtestatud teatavate tehisintellektisüsteemide pakkujatele ja juurutajatele, et võimaldada avastada ja avalikustada seda, et nende süsteemide väljundid on kunstlikult loodud või manipuleeritud. See kehtib eelkõige seoses väga suurte digiplatvormide või väga suurte internetipõhiste otsingumootorite pakkujate kohustusega teha kindlaks ja maandada süsteemseid riske, mis võivad tuleneda kunstlikult loodud või manipuleeritud sisu levitamisest, eelkõige oht, et see avaldab tegelikku või prognoositavat negatiivset mõju demokraatlikele protsessidele, ühiskondlikule arutelule ja valimisprotsessidele, sealhulgas desinformatsiooni kaudu. Käesoleva määruse kohane nõue märgistada tehisintellektisüsteemide loodud sisu ei piira määruse (EL) 2022/2065 artikli 16 lõikes 6 sätestatud teabe talletamise teenuse pakkujate kohustust töödelda kõnealuse määruse artikli 16 lõike 1 kohaselt saadud teateid ebaseadusliku sisu kohta ning see ei tohiks mõjutada konkreetse sisu hindamist ja selle ebaseaduslikkust käsitlevat otsust. Hindamisel tuleks lähtuda üksnes sisu õiguspärasust reguleerivatest õigusnormidest.
(136)
Las obligaciones impuestas a los proveedores y a los responsables del despliegue de determinados sistemas de IA en el presente Reglamento destinadas a permitir que se detecte y divulgue que los resultados de salida de dichos sistemas han sido generados o manipulados de manera artificial resultan especialmente pertinentes para facilitar la aplicación efectiva del Reglamento (UE) 2022/2065. Esto se aplica en particular en lo referente a las obligaciones de los prestadores de plataformas en línea de muy gran tamaño o de motores de búsqueda en línea de muy gran tamaño para detectar y mitigar los riesgos sistémicos que pueden surgir de la divulgación de contenidos que hayan sido generados o manipulados de manera artificial, en particular el riesgo de los efectos negativos reales o previsibles sobre los procesos democráticos, el discurso cívico y los procesos electorales, como a través de la desinformación. La exigencia de etiquetar los contenidos generados por sistemas de IA con arreglo al presente Reglamento se entiende sin perjuicio de la obligación prevista en el artículo 16, apartado 6, del Reglamento (UE) 2022/2065 para los prestadores de servicios de alojamiento de datos de tratar las notificaciones que reciban sobre contenidos ilícitos en virtud del artículo 16, apartado 1, de dicho Reglamento, y no debe influir en la evaluación y la decisión sobre el carácter ilícito del contenido de que se trate. Dicha evaluación debe realizarse únicamente con referencia a las normas que rigen la legalidad del contenido.
(137)
Käesoleva määrusega hõlmatud tehisintellektisüsteemide läbipaistvuskohustuste täitmist ei tohiks tõlgendada nii, et tehisintellektisüsteemi või selle väljundi kasutamine on seaduslik käesoleva määruse või liidu ja liikmesriikide muu õiguse alusel, ning see ei tohiks piirata tehisintellektisüsteemide juurutajate muid läbipaistvuskohustusi, mis on sätestatud liidu või riigisiseses õiguses.
(137)
El cumplimiento de las obligaciones de transparencia aplicables a los sistemas de IA que entran en el ámbito de aplicación del presente Reglamento no debe interpretarse como un indicador de que la utilización del sistema de IA o de sus resultados de salida es lícito en virtud del presente Reglamento o de otras disposiciones del Derecho de la Unión y de los Estados miembros, y debe entenderse sin perjuicio de otras obligaciones de transparencia aplicables a los responsables del despliegue de sistemas de IA establecidas en el Derecho de la Unión o nacional.
(138)
Tehisintellekt on kiirelt arenev tehnoloogiaharu, mis eeldab regulatiivset järelevalvet ning turvalist ja kontrollitud eksperimenteerimisruumi, aga ka seda, et tagatud oleks vastutustundlik innovatsioon ning asjakohaste kaitsemeetmete ja riskimaandamismeetmete integreerimine. Et tagada õigusraamistik, mis edendab innovatsiooni, on tulevikukindel ja häirete suhtes vastupanuvõimeline, peaksid liikmesriigid tagama, et nende pädevad asutused loovad riiklikul tasandil vähemalt ühe tehisintellekti regulatiivliivakasti, mis hõlbustaks innovatiivsete tehisintellektisüsteemide arendamist ja testimist range regulatiivse järelevalve all, enne kui need süsteemid turule lastakse või muul moel kasutusele võetakse. Liikmesriigid võiksid seda kohustust täita, osaledes juba olemasolevates regulatiivliivakastides või luues regulatiivliivakasti koos ühe või mitme liikmesriigi pädeva asutusega, kui selline osalemine tagab osalevatele liikmesriikidele samaväärse riikliku katvuse. Tehisintellekti regulatiivliivakaste võiks luua füüsilisel, digitaalsel või hübriidkujul ning need võivad hõlmata nii füüsilisi kui ka digitaalseid tooteid. Samuti peaksid tehisintellekti regulatiivliivakastide loomise eest vastutavad asutused tagama, et regulatiivliivakastidel on nende toimimiseks piisavad vahendid, sealhulgas rahalised ja inimressursid.
(138)
La IA es una familia de tecnologías de rápida evolución que requiere vigilancia regulatoria y un espacio seguro y controlado para la experimentación, así como que se garantice la innovación responsable y la integración de salvaguardias éticas y medidas de reducción de riesgos adecuadas. Para conseguir un marco jurídico que promueva la innovación, resista el paso del tiempo y sea resiliente a las perturbaciones, los Estados miembros deben velar por que sus autoridades nacionales competentes establezcan al menos un espacio controlado de pruebas para la IA a escala nacional que facilite el desarrollo y la prueba de sistemas de IA innovadores bajo una estricta vigilancia regulatoria antes de su introducción en el mercado o puesta en servicio. Los Estados miembros también podrían cumplir esta obligación participando en los espacios controlados de pruebas ya existentes o estableciendo un espacio de pruebas conjuntamente con las autoridades competentes de uno o varios Estados miembros, en la medida en que dicha participación proporcione un nivel de cobertura nacional equivalente para los Estados miembros participantes. Los espacios controlados de pruebas para la IA podrían establecerse de forma física, digital o híbrida y podrán albergar productos tanto físicos como digitales. Las autoridades que los creen deben también garantizar que los espacios controlados de pruebas para la IA dispongan de recursos adecuados para su funcionamiento, incluidos recursos financieros y humanos.
(139)
Tehisintellekti regulatiivliivakastide eesmärk peaks olema edendada tehisintellekti innovatsiooni, luues arendus- ja turustamiseelses etapis kontrollitud eksperimenteerimis- ja testimiskeskkonna, et tagada innovatiivsete tehisintellektisüsteemide vastavus käesolevale määrusele ning muule asjakohasele liidu ja liikmesriigi õigusele. Lisaks peaks tehisintellekti regulatiivliivakastide eesmärk olema suurendada innovaatorite õiguskindlust ning pädevate asutuste järelevalvet ja arusaamist tehisintellekti kasutamise võimalustest, tekkivatest riskidest ja mõjust, hõlbustada asutuste ja ettevõtjate regulatiivset õppimist, sealhulgas pidades silmas õigusraamistiku tulevast kohandamist, toetada koostööd ja parimate tavade jagamist tehisintellekti regulatiivliivakasti kaasatud asutustega ning kiirendada juurdepääsu turgudele, sealhulgas kõrvaldades tõkked VKEde, sealhulgas idufirmade jaoks. Tehisintellekti regulatiivliivakastid peaksid olema laialdaselt kättesaadavad kogu liidus ning erilist tähelepanu tuleks pöörata nende kättesaadavusele VKEde, sealhulgas idufirmade jaoks. Tehisintellekti regulatiivliivakastis osalemisel tuleks keskenduda küsimustele, mis tekitavad pakkujatele ja võimalikele pakkujatele õiguskindlusetust seoses innovatsiooni, liidus tehisintellektiga eksperimenteerimise ja tõenduspõhisele regulatiivsele õppimisele kaasaaitamisega. Tehisintellektisüsteemide järelevalve tehisintellekti regulatiivliivakastis peaks seega hõlmama süsteemide arendamist, treenimist, testimist ja valideerimist enne nende turule laskmist või kasutusele võtmist, samuti sellise olulise muudatuse määratlust ja tegemist, mis võib nõuda uut vastavushindamismenetlust. Kui selliste tehisintellektisüsteemide arendamise ja testimise käigus tuvastatakse oluline risk, tuleb selle põhjal võtta piisavaid maandamismeetmeid ja kui see ei ole võimalik, tuleb arendamine ja testimine peatada. Kui see on asjakohane, peaksid tehisintellekti regulatiivliivakaste loovad riikide pädevad asutused tegema koostööd teiste asjaomaste asutustega, sealhulgas nendega, kes teevad järelevalvet põhiõiguste kaitse üle, ning võiksid lubada kaasata muid tehisintellekti ökosüsteemis osalejaid, nagu riiklikud või Euroopa standardiorganisatsioonid, teada antud asutused, testimis- ja eksperimenteerimisrajatised, teadus- ja eksperimenteerimislaborid, Euroopa digitaalse innovatsiooni keskused ning asjaomased sidusrühmad ja kodanikuühiskonna organisatsioonid. Selleks, et tagada ühetaoline rakendamine kogu liidus ja mastaabisääst, on asjakohane kehtestada tehisintellekti regulatiivliivakastide rakendamise ühised õigusnormid ja regulatiivliivakastide järelevalvega tegelevate asjaomaste ametiasutusete vahelise koostöö raamistik. Käesoleva määruse alusel loodud tehisintellekti regulatiivliivakastid ei tohiks piirata sellise muu õiguse kohaldamist, mis võimaldab luua muid regulatiivliivakaste, mille eesmärk on tagada kooskõla muu õigusega kui käesolev määrus. Kui see on asjakohane, peaksid nende muude regulatiivliivakastide eest vastutavad asjaomased pädevad asutused kaaluma, millised eelised on sellel, kui neid regulatiivliivakaste kasutatakse ka eesmärgiga tagada tehisintellektisüsteemide vastavus käesolevale määrusele. Riikide pädevate asutuste ja tehisintellekti regulatiivliivakastides osalejate vahelisel kokkuleppel võib tehisintellekti regulatiivliivakastide raames korraldada ja kontrollida ka testimist tegelikes tingimustes.
(139)
Los espacios controlados de pruebas para la IA deben tener los objetivos de impulsar la innovación en el ámbito de la IA estableciendo un entorno de experimentación y prueba controlado en la fase de desarrollo y previa a la comercialización, con vistas a garantizar que los sistemas de IA innovadores cumplan lo dispuesto en el presente Reglamento y en otras disposiciones pertinentes del Derecho de la Unión y nacional. Además, los espacios controlados de pruebas para la IA deben tener por objeto mejorar la seguridad jurídica de que gozan los innovadores y favorecer la vigilancia de las autoridades competentes y su entendimiento de las oportunidades, los riesgos emergentes y las consecuencias del uso de la IA, de facilitar el aprendizaje normativo de las autoridades y empresas, también con vistas a futuras adaptaciones del marco jurídico, de apoyar la cooperación y el intercambio de mejores prácticas con las autoridades que intervienen en el espacio controlado de pruebas y de acelerar el acceso a los mercados, también eliminando los obstáculos para las pequeñas y medianas empresas, incluidas las empresas emergentes. Los espacios controlados de pruebas para la IA deben estar ampliamente disponibles en toda la Unión y debe prestarse especial atención a que sean accesibles para las pymes, incluidas las empresas emergentes. La participación en el espacio controlado de pruebas para la IA debe centrarse en cuestiones que generen inseguridad jurídica y que, por lo tanto, dificulten que los proveedores y los proveedores potenciales innoven y experimenten con la IA en la Unión y contribuir a un aprendizaje normativo basado en datos contrastados. Por consiguiente, la supervisión de los sistemas de IA en el espacio controlado de pruebas para la IA debe comprender su desarrollo, entrenamiento, prueba y validación antes de su introducción en el mercado o puesta en servicio, así como el concepto de «modificación sustancial» y su materialización, que puede hacer necesario un nuevo procedimiento de evaluación de la conformidad. Cualquier riesgo significativo detectado durante el proceso de desarrollo y prueba de estos sistemas de IA debe dar lugar a la adopción de medidas de reducción adecuadas y, en su defecto, a la suspensión del proceso de desarrollo y prueba. Cuando proceda, las autoridades nacionales competentes que establezcan espacios controlados de pruebas para la IA deben cooperar con otras autoridades pertinentes, incluidas las que supervisan la protección de los derechos fundamentales, y pueden dar cabida a otros agentes del ecosistema de la IA, como organizaciones de normalización nacionales o europeas, organismos notificados, instalaciones de ensayo y experimentación, laboratorios de investigación y experimentación, centros europeos de innovación digital y organizaciones de partes interesadas y de la sociedad civil pertinentes. Para garantizar una aplicación uniforme en toda la Unión y conseguir economías de escala, resulta oportuno establecer normas comunes para la creación de espacios controlados de pruebas para la IA, así como un marco para la cooperación entre las autoridades pertinentes implicadas en la supervisión de dichos espacios. Los espacios controlados de pruebas para la IA establecidos en virtud del presente Reglamento deben entenderse sin perjuicio de otros actos legislativos que permitan el establecimiento de otros espacios controlados de pruebas encaminados a garantizar el cumplimiento de actos legislativos distintos del presente Reglamento. Cuando proceda, las autoridades competentes pertinentes encargadas de esos otros espacios controlados de pruebas deben ponderar las ventajas de utilizarlos también con el fin de garantizar el cumplimiento del presente Reglamento por parte de los sistemas de IA. Previo acuerdo entre las autoridades nacionales competentes y los participantes en el espacio controlado de pruebas para la IA, las pruebas en condiciones reales también podrán gestionarse y supervisarse en el marco del espacio controlado de pruebas para la IA.
(140)
Käesoleva määrusega tuleks tehisintellekti regulatiivliivakastis tegutsevatele pakkujatele ja võimalikele pakkujatele ette näha õiguslik alus muul otstarbel kogutud isikuandmete kasutamiseks, et arendada tehisintellekti regulatiivliivakastis avalikes huvides teatavaid tehisintellektisüsteeme, ainult konkreetsetel tingimustel kooskõlas määruse (EL) 2016/679 artikli 6 lõikega 4 ja artikli 9 lõike 2 punktiga g ning määruse (EL) 2018/1725 artiklitega 5, 6 ja 10 ning ilma, et see piiraks direktiivi (EL) 2016/680 artikli 4 lõike 2 ja artikli 10 kohaldamist. Kõik muud vastutavate töötlejate kohustused ja andmesubjektide õigused, mis tulenevad määrustest (EL) 2016/679 ja (EL) 2018/1725 ning direktiivist (EL) 2016/680, jäävad kehtima. Eelkõige ei tohiks käesolev määrus olla õiguslik alus määruse (EL) 2016/679 artikli 22 lõike 2 punkti b ja määruse (EL) 2018/1725 artikli 24 lõike 2 punkti b tähenduses. Tehisintellekti regulatiivliivakastis tegutsevad pakkujad ja võimalikud pakkujad peaksid tagama asjakohased kaitsemeetmed ja tegema koostööd pädevate asutustega, järgides muu hulgas nende juhendeid ning tegutsedes viivitusteta ja heas usus, et vajalikul määral maandada turvalisust, tervist ja põhiõigusi ähvardavaid tuvastatud olulisi riske, mis võivad selles regulatiivliivakastis arendustegevuse, testimise ja eksperimenteerimise käigus tekkida.
(140)
El presente Reglamento debe proporcionar la base jurídica para que los proveedores y los proveedores potenciales en el espacio controlado de pruebas para la IA utilicen datos personales recabados para otros fines para desarrollar determinados sistemas de IA en favor del interés público en el espacio controlado de pruebas para la IA, únicamente en determinadas condiciones, de conformidad con el artículo 6, apartado 4, y el artículo 9, apartado 2, letra g), del Reglamento (UE) 2016/679 y los artículos 5, 6 y 10 del Reglamento (UE) 2018/1725, y sin perjuicio de lo dispuesto en el artículo 4, apartado 2, y el artículo 10 de la Directiva (UE) 2016/680. Siguen siendo aplicables las demás obligaciones de los responsables del tratamiento y los derechos de los interesados en virtud del Reglamento (UE) 2016/679, el Reglamento (UE) 2018/1725 y la Directiva (UE) 2016/680. En particular, el presente Reglamento no debe ofrecer una base jurídica en el sentido del artículo 22, apartado 2, letra b), del Reglamento (UE) 2016/679 y del artículo 24, apartado 2, letra b), del Reglamento (UE) 2018/1725. Los proveedores y los proveedores potenciales en el espacio controlado de pruebas para la IA deben proporcionar las garantías adecuadas y cooperar con las autoridades competentes, también siguiendo sus indicaciones y actuando con rapidez y de buena fe para mitigar adecuadamente cualquier riesgo considerable para la seguridad, la salud y los derechos fundamentales que se detecte y pueda surgir durante el desarrollo, las pruebas y la experimentación en dicho espacio.
(141)
Selleks et kiirendada käesoleva määruse lisas loetletud suure riskiga tehisintellektisüsteemide arendamist ja turule laskmist, on oluline, et selliste süsteemide pakkujad või võimalikud pakkujad saaksid kasutada ka erikorda nende süsteemide testimiseks tegelikes tingimustes, ilma et nad osaleksid tehisintellekti regulatiivliivakastis. Sellistel juhtudel, võttes arvesse sellise testimise võimalikke tagajärgi üksikisikutele, tuleks siiski tagada, et käesoleva määrusega kehtestatakse pakkujatele ja võimalikele pakkujatele asjakohased ja piisavad tagatised ja tingimused. Sellised tagatised peaksid muu hulgas hõlmama füüsilistelt isikutelt teadva nõusoleku taotlemist tegelikes tingimustes testimises osalemiseks, välja arvatud õiguskaitse puhul, kus teadva nõusoleku taotlemine takistaks tehisintellektisüsteemi testimist. Subjektide nõusolek sellises käesoleva määruse alusel toimuvas testimises osalemiseks erineb andmesubjektide nõusolekust oma isikuandmete töötlemiseks asjakohase andmekaitseõiguse alusel ega piira kõnealuse õiguse kohaldamist. Samuti on oluline minimeerida riske ja võimaldada pädevatel asutustel teostada järelevalvet ning nõuda seetõttu, et võimalikud pakkujad esitaksid pädevale turujärelevalveasutusele tegelikes tingimustes testimise kava, registreeriksid testimise ELi andmebaasi vastavates osades, välja arvatud mõned piiratud erandid, kehtestada piirangud ajavahemikule, mille jooksul testimine saab toimuda, ning nõuda täiendavaid kaitsemeetmeid kaitsetusse rühma kuuluvatele isikutele, ning kirjalikku kokkulepet, milles määratakse kindlaks võimalike pakkujate ja juurutajate ülesanded ja kohustused ning tegelikes tingimustes testimises osalevate pädevate töötajate tõhus järelevalve. Lisaks on asjakohane näha ette täiendavad kaitsemeetmed tagamaks, et tehisintellektisüsteemi prognoose, soovitusi ja otsuseid saab tulemuslikult tagasi võtta ja jätta need tähelepanuta ning et isikuandmed on kaitstud ja kustutatakse, kui uuringus osalejad on oma nõusoleku testimises osalemiseks tagasi võtnud, ilma et see piiraks nende kui andmesubjektide õigusi, mis tulenevad liidu andmekaitseõigusest. Seoses andmete edastamisega on samuti asjakohane näha ette, et tegelikes tingimustes testimiseks kogutud ja töödeldud andmeid tuleks kolmandatele riikidele edastada üksnes siis, kui rakendatakse liidu õiguse kohaseid asjakohaseid ja kohaldatavaid kaitsemeetmeid, eelkõige kooskõlas liidu andmekaitseõiguse kohaste isikuandmete edastamise alustega, samas kui isikustamata andmete puhul kehtestatakse asjakohased kaitsemeetmed kooskõlas liidu õigusega, näiteks Euroopa Parlamendi ja nõukogu määrustega (EL) 2022/868 (42) ja (EL) 2023/2854 (43).
(141)
A fin de acelerar el proceso de desarrollo e introducción en el mercado de los sistemas de IA de alto riesgo enumerados en un anexo del presente Reglamento, es importante que los proveedores o proveedores potenciales de dichos sistemas también puedan beneficiarse de un régimen específico para probar dichos sistemas en condiciones reales, sin participar en un espacio controlado de pruebas para la IA. No obstante, en tales casos, teniendo en cuenta las posibles consecuencias de dichas pruebas para las personas físicas, debe garantizarse que el Reglamento establezca garantías y condiciones adecuadas y suficientes para los proveedores o proveedores potenciales. Estas garantías deben incluir, entre otras cosas, la solicitud del consentimiento informado de las personas físicas para participar en pruebas en condiciones reales, salvo en lo que respecta a la garantía del cumplimiento del Derecho cuando intentar obtener el consentimiento informado impediría que se probara el sistema de IA. El consentimiento de los sujetos para participar en tales pruebas en virtud del presente Reglamento es distinto del consentimiento de los interesados para el tratamiento de sus datos personales con arreglo al Derecho pertinente en materia de protección de datos y se entiende sin perjuicio de este. También es importante reducir al mínimo los riesgos y permitir la supervisión por parte de las autoridades competentes y, por tanto, exigir a los proveedores potenciales que presenten a la autoridad de vigilancia del mercado competente un plan de la prueba en condiciones reales, registren la prueba en las secciones específicas de la base de datos de la UE, sin perjuicio de algunas excepciones limitadas, establezcan limitaciones sobre el período durante el que puede llevarse a cabo la prueba y exijan garantías adicionales para las personas pertenecientes a determinados colectivos vulnerables, así como un acuerdo por escrito que defina las funciones y responsabilidades de los proveedores potenciales y de los responsables del despliegue y una supervisión eficaz por parte de personal competente que intervenga en la prueba en condiciones reales. Además, conviene prever garantías adicionales para asegurarse de que sea posible revertir efectivamente y descartar las predicciones, recomendaciones o decisiones del sistema de IA y de que los datos personales se protejan y se supriman cuando los sujetos retiren su consentimiento a participar en la prueba, sin perjuicio de sus derechos como interesados en virtud del Derecho de la Unión en materia de protección de datos. Por lo que respecta a la transferencia de datos, conviene también prever que los datos recopilados y tratados a efectos de las pruebas en condiciones reales solo deben transferirse a terceros países cuando existan garantías adecuadas y aplicables con arreglo al Derecho de la Unión, en particular, de conformidad con las bases para la transferencia de datos personales previstas en el Derecho de la Unión en materia de protección de datos y, en lo referente a los datos no personales, existan garantías adecuadas con arreglo al Derecho de la Unión, como los Reglamentos (UE) 2022/868 (42) y (UE) 2023/2854 (43) del Parlamento Europeo y del Consejo.
(142)
Tagamaks, et tehisintellekt toob ühiskonna ja keskkonna jaoks kaasa soodsad tulemused, julgustatakse liikmesriike toetama ja edendama tehisintellektilahenduste teadus- ja arendustegevust, et toetada ühiskonna ja keskkonna jaoks soodsate tulemuste saavutamist, näiteks tehisintellektipõhiseid lahendusi, et suurendada puuetega inimeste juurdepääsu, vähendada sotsiaal-majanduslikku ebavõrdsust või täita keskkonnaalaseid eesmärke, eraldades piisavalt vahendeid, sealhulgas avaliku sektori ja liidu rahalisi vahendeid, ning kui see on asjakohane ja tingimusel, et rahastamiskõlblikkuse ja valikukriteeriumid on täidetud, võttes eelkõige arvesse selliseid eesmärke taotlevaid projekte. Sellised projektid peaksid põhinema valdkondadevahelise koostöö põhimõttel tehisintellekti arendajate, ebavõrdsuse ja mittediskrimineerimise, juurdepääsetavuse, tarbija-, keskkonna- ja digitaalõiguste valdkonna ekspertide ning akadeemilise ringkonna vahel.
(142)
A fin de garantizar que la IA conduzca a resultados positivos desde el punto de vista social y medioambiental, se anima a los Estados miembros a que respalden y promuevan la investigación y el desarrollo de soluciones de IA en apoyo a tales resultados, como soluciones basadas en la IA para aumentar la accesibilidad para las personas con discapacidad, atajar desigualdades socioeconómicas o cumplir los objetivos en materia de medio ambiente, asignando recursos suficientes, incluidos fondos públicos y de la Unión, y, cuando proceda y siempre que se cumplan los criterios de admisibilidad y selección, teniendo en consideración especialmente proyectos que persigan tales objetivos. Dichos proyectos deben basarse en el principio de cooperación interdisciplinaria entre desarrolladores de IA, expertos en desigualdad y no discriminación, en accesibilidad y en derechos del consumidor, medioambientales y digitales, así como representantes del mundo académico.
(143)
Innovatsiooni edendamiseks ja kaitsmiseks on oluline pöörata erilist tähelepanu VKEde, sealhulgas idufirmade, mis on tehisintellektisüsteemide pakkujad või juurutajad, huvidele. Liikmesriigid peaksid seda silmas pidades välja töötama nimetatud operaatoritele suunatud algatusi, muu hulgas teadlikkuse suurendamise ja teabe edastamise teemal. Liikmesriigid peaksid andma VKEdele, sealhulgas idufirmadele, kelle registrijärgne asukoht või filiaal on liidus, eelisjuurdepääsu tehisintellekti regulatiivliivakastidele, tingimusel et nad vastavad kõlblikkustingimustele ja valikukriteeriumidele, ilma et see välistaks teiste pakkujate ja võimalike pakkujate juurdepääsu regulatiivliivakastidele eeldusel, et nad on täitnud samad tingimused ja kriteeriumid. Liikmesriigid peaksid kasutama olemasolevaid kanaleid, ja kui see on asjakohane, siis looma uusi spetsiaalseid kanaleid suhtlemiseks VKEde, sealhulgas idufirmade, juurutajate, muude innovaatorite ja vajaduse korral kohalike ametiasutustega, et toetada VKEsid kogu nende arendustegevuse jooksul, et anda juhiseid ja vastata päringutele käesoleva määruse rakendamise kohta. Kui see on asjakohane, peaksid need kanalid tegema koostööd, et luua sünergiat ja tagada ühtsus VKEdele, sealhulgas idufirmadele, ja juurutajatele antavates suunistes. Lisaks peaksid liikmesriigid lihtsustama VKEde ja muude asjaomaste sidusrühmade osalemist standardimise arendamise protsessis. Ühtlasi tuleks pakkujatest VKEde, sealhulgas idufirmade, konkreetsete huvide ja vajadustega arvestada siis, kui teada antud asutused määravad kindlaks vastavushindamise tasud. Komisjon peaks korrapäraselt hindama VKEde, sealhulgas idufirmade sertifitseerimis- ja nõuete täitmisega seotud kulusid, kasutades selleks läbipaistvaid konsultatsioone, ning peaks tegema liikmesriikidega koostööd selliste kulude vähendamiseks. Näiteks kohustusliku dokumentatsiooni ja ametiasutustega suhtlemisega seotud tõlkekulud võivad osutuda pakkujate ja muude operaatorite jaoks märkimisväärseks, eriti juhul, kui tegemist on väiksemate ettevõtjatega. Liikmesriigid peaksid võimaluse korral tagama, et üks nende poolt asjaomaste pakkujate dokumentatsiooni ja operaatoritega suhtlemise jaoks kindlaks määratud ja neile vastuvõetavatest keeltest on keel, mis on üldjoontes arusaadav võimalikult suurele arvule piiriülestele juurutajatele. VKEde, sealhulgas idufirmade erivajadustega arvestamiseks peaks komisjon esitama nõukoja taotlusel standardvormid käesoleva määrusega hõlmatud valdkondade jaoks. Lisaks peaks komisjon täiendama liikmesriikide jõupingutusi, luues kõigile pakkujatele ja juurutajatele ühtse teabeplatvormi, mis sisaldab käesoleva määrusega seotud hõlpsasti kasutatavat teavet, korraldades asjakohaseid teavituskampaaniaid, et suurendada teadlikkust käesolevast määrusest tulenevatest kohustustest, ning hinnates ja edendades tehisintellektisüsteemidega seotud riigihankemenetluste parimate tavade lähendamist. Keskmise suurusega ettevõtjatel, kes kvalifitseerusid hiljuti väikeettevõtjateks komisjoni soovituse 2003/361/EÜ (44) lisa tähenduses, peaks olema kõnealustele toetusmeetmetele juurdepääs, kuna neil uutel keskmise suurusega ettevõtjatel võivad mõnikord puududa vajalikud õiguslikud vahendid ja koolitus, et tagada käesoleva määruse nõuetekohane mõistmine ja järgimine.
(143)
Para promover y proteger la innovación, es importante tener en particular consideración los intereses de las pymes, incluidas las empresas emergentes, que sean proveedores o responsables del despliegue de sistemas de IA. A tal fin, los Estados miembros deben desarrollar iniciativas en materia de concienciación y comunicación de información, entre otros aspectos, dirigidas a dichos operadores. Los Estados miembros deben proporcionar a las pymes, incluidas las empresas emergentes, que tengan un domicilio social o una sucursal en la Unión, un acceso prioritario a los espacios controlados de pruebas para la IA, siempre que cumplan las condiciones de admisibilidad y los criterios de selección y sin impedir que otros proveedores y proveedores potenciales accedan a los espacios controlados de pruebas, siempre que se cumplan las mismas condiciones y criterios. Los Estados miembros deben utilizar los canales existentes y establecer, cuando proceda, nuevos canales de comunicación específicos con las pymes, incluidos las empresas emergentes, los responsables del despliegue, otros innovadores y, cuando proceda, las autoridades públicas locales, para apoyar a las pymes durante toda su trayectoria de desarrollo ofreciendo orientaciones y respondiendo a las preguntas sobre la aplicación del presente Reglamento. Cuando proceda, estos canales deben trabajar juntos para crear sinergias y garantizar la homogeneidad de sus orientaciones para las pymes, incluidas las empresas emergentes, y los responsables del despliegue. Además, los Estados miembros deben fomentar la participación de las pymes y otras partes interesadas pertinentes en los procesos de desarrollo de la normalización. Asimismo, los organismos notificados deben tener en cuenta las necesidades y los intereses específicos de los proveedores que sean pymes, incluidas las empresas emergentes, cuando establezcan las tasas aplicables a las evaluaciones de la conformidad. La Comisión debe evaluar periódicamente los costes de la certificación y el cumplimiento para las pymes, incluidas las empresas emergentes, a través de consultas transparentes, y debe trabajar con los Estados miembros para reducir dichos costes. Por ejemplo, los costes de traducción ligados a la documentación obligatoria y a la comunicación con las autoridades pueden ser considerables para los proveedores y otros operadores, en particular para los de menor tamaño. En la medida de lo posible, los Estados miembros deben velar por que una de las lenguas en las que acepten que los proveedores presenten la documentación pertinente y que pueda usarse para la comunicación con los operadores sea ampliamente conocida por el mayor número posible de responsables del despliegue transfronterizos. A fin de abordar las necesidades específicas de las pymes, incluidas las empresas emergentes, la Comisión debe proporcionar modelos normalizados para los ámbitos regulados por el presente Reglamento, previa solicitud del Consejo de IA. Además, la Comisión debe complementar los esfuerzos de los Estados miembros proporcionando una plataforma única de información con información fácil de utilizar sobre el presente Reglamento para todos los proveedores y responsables del despliegue, organizando campañas de comunicación adecuadas para sensibilizar sobre las obligaciones derivadas del presente Reglamento y evaluando y fomentando la convergencia de las mejores prácticas en los procedimientos de contratación pública en relación con los sistemas de IA. Las medianas empresas que hace poco se consideraban pequeñas empresas en el sentido del anexo de la Recomendación 2003/361/CE de la Comisión (44) deben tener acceso a esas medidas de apoyo, ya que dichas nuevas medianas empresas a veces pueden carecer de los recursos jurídicos y la formación necesarios para garantizar la comprensión y el cumplimiento adecuados del presente Reglamento.
(144)
Innovatsiooni edendamiseks ja kaitsmiseks peaksid tehisintellekti nõudeteenuste platvorm, kõik asjakohased liidu rahastamisprogrammid ja -projektid, nagu programm „Digitaalne Euroopa“ ja programm „Euroopa horisont“, mida rakendavad komisjon ja liikmesriigid vastavalt kas liidu või riiklikul tasandil, aitama kaasa käesoleva määruse eesmärkide saavutamisele.
(144)
Con el fin de promover y proteger la innovación, la plataforma de IA a la carta y todos los programas y proyectos de financiación de la Unión pertinentes, como el programa Europa Digital u Horizonte Europa, ejecutados por la Comisión y los Estados miembros a escala nacional o de la Unión deben, cuando proceda, contribuir a la consecución de los objetivos del presente Reglamento.
(145)
Et minimeerida rakendamisega seotud riske, mis tulenevad teadmiste ja oskusteabe puudumisest turul, ja muuta käesolevast määrusest tulenevate kohustuste täitmine pakkujate, eelkõige VKEde, sealhulgas idufirmade, ja teada antud asutuste jaoks hõlpsamaks, peaksid tehisintellekti nõudeteenuste platvorm, Euroopa digitaalse innovatsiooni keskused ning komisjoni ja liikmesriikide poolt liidu või riigi tasandil loodud testimis- ja eksperimenteerimisrajatised võimaluse korral aitama kaasa käesoleva määruse rakendamisele. Oma ülesannete ja pädevusvaldkondade piires on tehisintellekti nõudeteenuste platvorm, Euroopa digitaalse innovatsiooni keskused ning testimis- ja eksperimenteerimisrajatised võimelised andma pakkujatele ja teada antud asutustele eelkõige tehnilist ja teaduslikku tuge.
(145)
A fin de reducir al mínimo los riesgos para la aplicación derivados de la falta de conocimientos y experiencia en el mercado, y con el objetivo de facilitar que los proveedores, en particular las pymes, incluidas las empresas emergentes, y los organismos notificados cumplan las obligaciones que les impone el presente Reglamento, la plataforma de IA a la carta, los centros europeos de innovación digital y las instalaciones de ensayo y experimentación establecidos por la Comisión y los Estados miembros a escala nacional o de la Unión deben contribuir a la aplicación de este Reglamento. En concreto, la plataforma de IA a la carta, los centros europeos de innovación digital y las instalaciones de ensayo y experimentación son capaces de proporcionar a los proveedores y organismos notificados asistencia técnica y científica dentro de sus respectivas misiones y esferas de competencia.
(146)
Võttes arvesse mõne operaatori väga väikest suurust ja et tagada proportsionaalsus seoses innovatsioonikuludega, on asjakohane võimaldada mikroettevõtjatel täita ühte kõige kulukamat kohustust, näiteks kohustust kehtestada kvaliteedijuhtimise süsteem, lihtsustatud viisil, kuna see vähendaks nende ettevõtjate halduskoormust ja kulusid, ilma et see mõjutaks kaitse taset ja vajadust täita suure riskiga tehisintellektisüsteemidele kehtestatud nõudeid. Komisjon peaks välja töötama suunised, et täpsustada neid kvaliteedijuhtimise süsteemi elemente, mida mikroettevõtjad saavad lihtsustatud viisil täita.
(146)
Además, a la luz del tamaño muy pequeño de algunos operadores y con el fin de garantizar la proporcionalidad en relación con los costes de innovación, conviene permitir que las microempresas cumplan una de las obligaciones más costosas, a saber, la de establecer un sistema de gestión de la calidad, de manera simplificada, lo que reduciría la carga administrativa y los costes para dichas empresas sin afectar al nivel de protección ni a la necesidad de cumplir los requisitos aplicables a los sistemas de IA de alto riesgo. La Comisión debe elaborar directrices para especificar los elementos del sistema de gestión de la calidad que las microempresas deben cumplir de esta manera simplificada.
(147)
On asjakohane, et komisjon hõlbustab võimaluste piires asjaomaste liidu ühtlustamisõigusaktide kohaselt loodud või akrediteeritud ning nende liidu ühtlustamisõigusaktide kohaldamisalasse kuuluvate toodete või seadmete vastavushindamise raames ülesandeid täitvate organite, rühmade või laborite juurdepääsu testimis- ja eksperimenteerimisrajatistele. Eeskätt kehtib see meditsiiniseadmete valdkonna eksperdirühmade, eksperdilaborite ja referentlaborite kohta vastavalt määrustele (EL) 2017/745 ja (EL) 2017/746.
(147)
Resulta adecuado que la Comisión facilite, en la medida de lo posible, el acceso a las instalaciones de ensayo y experimentación a organismos, grupos o laboratorios establecidos o acreditados con arreglo a la legislación de armonización de la Unión pertinente y que realicen tareas en el marco de la evaluación de la conformidad de productos o dispositivos regulados por dicha legislación. Tal es el caso, en particular, en lo que respecta a los paneles de expertos, los laboratorios especializados y los laboratorios de referencia en el ámbito de los productos sanitarios, de conformidad con los Reglamentos (UE) 2017/745 y (UE) 2017/746.
(148)
Käesoleva määrusega tuleks kehtestada juhtimisraamistik, mis võimaldab koordineerida ja toetada käesoleva määruse kohaldamist riiklikul tasandil ning suurendada suutlikkust liidu tasandil ja lõimida tehisintellekti valdkonna sidusrühmi. Käesoleva määruse tõhusaks rakendamiseks ja jõustamiseks on vaja juhtimisraamistikku, mis võimaldab liidu tasandil keskset oskusteavet koordineerida ja koguda. Tehisintellektiamet loodi komisjoni otsusega (45) ja selle ülesanne on arendada liidus oskusteavet ja suutlikkust tehisintellekti valdkonnas ning aidata kaasa tehisintellekti käsitleva liidu õiguse rakendamisele. Liikmesriigid peaksid hõlbustama tehisintellektiameti ülesannete täitmist, et toetada liidu oskusteabe ja liidu tasandil suutlikkuse arendamist ning tugevdada digitaalse ühtse turu toimimist. Lisaks tuleks luua liikmesriikide esindajatest koosnev nõukoda, teaduskomisjon teadusringkondade integreerimiseks ja nõuandev kogu, et saada sidusrühmadelt panus käesoleva määruse rakendamisse liidu ja riiklikul tasandil. Liidu oskusteabe ja suutlikkuse arendamine peaks hõlmama ka olemasolevate ressursside ja oskusteabe kasutamist, eelkõige koostoime kaudu struktuuridega, mis on loodud liidu tasandil muu õiguse täitmise tagamise kontekstis, ning koostoime kaudu seotud algatustega liidu tasandil, nagu Euroopa kõrgjõudlusega andmetöötluse ühisettevõte ning programmi „Digitaalne Euroopa“ tehisintellekti testimis- ja eksperimenteerimisrajatistega.
(148)
El presente Reglamento debe establecer un marco de gobernanza que permita tanto coordinar y apoyar su aplicación a escala nacional, como desarrollar capacidades a escala de la Unión e integrar a las partes interesadas en el ámbito de la IA. La aplicación y el cumplimiento efectivos del presente Reglamento requieren un marco de gobernanza que permita coordinar y adquirir conocimientos especializados centrales a escala de la Unión. La Oficina de IA se creó mediante Decisión de la Comisión (45) y tiene como misión desarrollar conocimientos especializados y capacidades de la Unión en el ámbito de la IA y contribuir a la aplicación del Derecho de la Unión en materia de IA. Los Estados miembros deben facilitar las tareas de la Oficina de IA con vistas a apoyar el desarrollo de conocimientos especializados y capacidades a escala de la Unión y a fortalecer el funcionamiento del mercado único digital. Además, debe crearse un Consejo de IA compuesto por representantes de los Estados miembros, un grupo de expertos científicos para integrar a la comunidad científica y un foro consultivo para facilitar las aportaciones de las partes interesadas a la aplicación del presente Reglamento, a escala de la Unión y nacional. El desarrollo de conocimientos especializados y capacidades de la Unión también debe incluir la utilización de los recursos y conocimientos especializados existentes, en particular a través de sinergias con estructuras creadas en el contexto de la aplicación a escala de la Unión de otros actos legislativos y de sinergias con iniciativas conexas a escala de la Unión, como la Empresa Común EuroHPC y las instalaciones de ensayo y experimentación de IA en el marco del programa Europa Digital.
(149)
Et hõlbustada käesoleva määruse sujuvat, tulemuslikku ja ühtset rakendamist, tuleks luua nõukoda. Nõukoda peaks kajastama tehisintellekti ökosüsteemi erinevaid huve ja koosnema liikmesriikide esindajatest. Nõukoda peaks vastutama mitmesuguste nõustamisalaste ülesannete eest, sealhulgas arvamuste, soovituste ja nõuannete andmine või osalemine suuniste andmises käesoleva määruse rakendamisega seotud küsimustes, muu hulgas jõustamise, tehniliste kirjelduste või kehtivate standardite kohta, mis puudutavad käesoleva määrusega kehtestatud nõudeid, ning komisjonile ja liikmesriikidele ning nende pädevatele asutustele nõu andmine konkreetsetes tehisintellektiga seotud küsimustes. Selleks et anda liikmesriikidele teatav paindlikkus oma esindajate nimetamisel nõukotta, võivad sellised esindajad olla avaliku sektori üksustesse kuuluvad mis tahes isikud, kellel peaksid olema asjakohased pädevused ja volitused, et hõlbustada koordineerimist riiklikul tasandil ja aidata kaasa nõukoja ülesannete täitmisele. Nõukoda peaks looma kaks alalist allrühma, et luua platvorm turujärelevalveasutuste ja teavitavate asutuste vaheliseks koostööks ja teabevahetuseks vastavalt turujärelevalve ja teada antud asutustega seotud küsimustes. Turujärelevalve alaline allrühm peaks tegutsema käesoleva määruse kohaldamisel halduskoostöörühmana määruse (EL) 2019/1020 artikli 30 tähenduses. Vastavalt kõnealuse määruse artiklile 33 peaks komisjon toetama turujärelevalve alalise allrühma tegevust, viies läbi turuhindamisi või -uuringuid, eelkõige selleks, et teha kindlaks käesoleva määruse aspektid, mis nõuavad turujärelevalveasutuste vahelist konkreetset ja kiiret koordineerimist. Nõukoda võib vastavalt vajadusele moodustada konkreetsete küsimuste uurimiseks muid alalisi või ajutisi allrühmi. Nõukoda peaks tegema vajaduse korral koostööd ka asjakohase liidu õiguse kontekstis tegutsevate asjaomaste liidu asutuste, eksperdirühmade ja võrgustikega, sealhulgas eelkõige nendega, kes tegutsevad andmeid, digitooteid ja -teenuseid käsitleva asjakohase liidu õiguse alusel.
(149)
Debe establecerse un Consejo de IA que facilite la aplicación fluida, efectiva y armonizada del presente Reglamento. El Consejo de IA debe reflejar los diversos intereses del ecosistema de la IA y estar formado por representantes de los Estados miembros. El Consejo de IA debe encargarse de diversas tareas de asesoramiento. Entre otras cosas, debe emitir dictámenes, recomendaciones e informes de asesoramiento o contribuir a orientaciones sobre asuntos relacionados con la aplicación de este Reglamento, también en lo que respecta la ejecución, las especificaciones técnicas o las normas existentes en relación con los requisitos previstos en el presente Reglamento, y asesorar a la Comisión y a los Estados miembros, así como a sus autoridades nacionales competentes, en cuestiones específicas vinculadas a la IA. Con el fin de dar cierta flexibilidad a los Estados miembros en la designación de sus representantes en el Consejo de IA, cualquier persona perteneciente a una entidad pública que tenga las competencias y facultades pertinentes para facilitar la coordinación a escala nacional y contribuir al cumplimiento de las funciones del Consejo de IA podrá ser designada representante. El Consejo de IA debe establecer dos subgrupos permanentes a fin de proporcionar una plataforma de cooperación e intercambio entre las autoridades de vigilancia del mercado y las autoridades notificantes sobre cuestiones relacionadas, respectivamente, con la vigilancia del mercado y los organismos notificados. El subgrupo permanente de vigilancia del mercado debe actuar como grupo de cooperación administrativa (ADCO) para el presente Reglamento en el sentido del artículo 30 del Reglamento (UE) 2019/1020. De conformidad con el artículo 33 de dicho Reglamento, la Comisión debe apoyar las actividades del subgrupo permanente de vigilancia del mercado mediante la realización de evaluaciones o estudios de mercado, en particular con vistas a determinar los aspectos del presente Reglamento que requieran una coordinación específica y urgente entre las autoridades de vigilancia del mercado. El Consejo de IA puede establecer otros subgrupos de carácter permanente o temporal, según proceda, para examinar asuntos específicos. El Consejo de IA también debe cooperar, según proceda, con los organismos, grupos de expertos y redes pertinentes de la Unión activos en el contexto del Derecho de la Unión pertinente, incluidos, en particular, los activos en virtud del Derecho de la Unión pertinente en materia de datos y productos y servicios digitales.
(150)
Selleks et tagada sidusrühmade kaasamine käesoleva määruse rakendamisse ja kohaldamisse, tuleks luua nõuandev kogu, et nõustada nõukoda ja komisjoni ning anda neile tehnilist oskusteavet. Selleks et sidusrühmade puhul oleks tagatud mitmekülgne ja tasakaalustatud esindatus ärihuvide ja mitteäriliste huvide vahel ning ärihuvide kategoorias VKEde ja muude ettevõtjate vahel, peaks nõuandev kogu muu hulgas hõlmama tööstust, idufirmasid, VKEsid, akadeemilisi ringkondi, kodanikuühiskonda, sealhulgas sotsiaalpartnereid, samuti Euroopa Liidu Põhiõiguste Ametit, ENISAt, Euroopa Standardikomiteed (CEN), Euroopa Elektrotehnika Standardikomiteed (CENELEC) ja Euroopa Telekommunikatsioonistandardite Instituuti (ETSI).
(150)
Con vistas a garantizar la participación de las partes interesadas en la ejecución y aplicación del presente Reglamento, debe crearse un foro consultivo para asesorar al Consejo de IA y a la Comisión y proporcionarles conocimientos técnicos. A fin de garantizar una representación variada y equilibrada de las partes interesadas que tenga en cuenta los intereses comerciales y no comerciales y, dentro de la categoría de los intereses comerciales, por lo que se refiere a las pymes y otras empresas, el foro consultivo debe incluir, entre otros, a la industria, las empresas emergentes, las pymes, el mundo académico, la sociedad civil, en particular los interlocutores sociales, así como a la Agencia de los Derechos Fundamentales de la Unión Europea, ENISA, el Comité Europeo de Normalización (CEN), el Comité Europeo de Normalización Electrotécnica (Cenelec) y el Instituto Europeo de Normas de Telecomunicaciones (ETSI).
(151)
Selleks et toetada käesoleva määruse rakendamist ja jõustamist, eelkõige tehisintellektiameti järelevalvetegevust seoses üldotstarbeliste tehisintellektimudelitega, tuleks luua sõltumatutest ekspertidest koosnev teaduskomisjon. Teaduskomisjoni kuuluvad sõltumatud eksperdid tuleks valida tehisintellekti valdkonna ajakohase teadusliku või tehnilise oskusteabe põhjal ning nad peaksid täitma oma ülesandeid erapooletult ja objektiivselt ning tagama oma ülesannete ja tegevuse käigus saadud teabe ja andmete konfidentsiaalsuse. Selleks et suurendada käesoleva määruse tõhusaks jõustamiseks vajalikku riiklikku suutlikkust, peaks liikmesriikidel olema võimalik taotleda oma jõustamistegevuseks toetust teaduskomisjoni ekspertide reservist.
(151)
Para apoyar la aplicación y el cumplimiento del presente Reglamento, en particular las actividades de supervisión de la Oficina de IA en lo que respecta a los modelos de IA de uso general, debe crearse un grupo de expertos científicos formado por expertos independientes. Los expertos independientes que constituyan el grupo de expertos científicos deben seleccionarse sobre la base de conocimientos científicos o técnicos actualizados en el ámbito de la IA y deben desempeñar sus funciones con imparcialidad y objetividad y garantizar la confidencialidad de la información y los datos obtenidos en el ejercicio de sus funciones y actividades. A fin de permitir el refuerzo de las capacidades nacionales necesarias para el cumplimiento efectivo del presente Reglamento, los Estados miembros deben poder solicitar el apoyo de los expertos que constituyan el grupo científico para sus actividades de garantía del cumplimiento.
(152)
Selleks et toetada tehisintellektisüsteemidega seotud nõuetekohast jõustamist ja tugevdada liikmesriikide suutlikkust, tuleks luua liidu tehisintellekti testimise toetusstruktuurid ja teha need liikmesriikidele kättesaadavaks.
(152)
A fin de apoyar una ejecución adecuada en lo que respecta a los sistemas de IA y reforzar las capacidades de los Estados miembros, deben crearse y ponerse a disposición de los Estados miembros estructuras de apoyo a los ensayos de IA de la Unión.
(153)
Käesoleva määruse kohaldamisel ja täitmise tagamisel on keskne roll liikmesriikidel. Seoses sellega peaks iga liikmesriik määrama vähemalt ühe teavitava asutuse ja vähemalt ühe turujärelevalveasutuse riigi pädevateks asutusteks, eesmärgiga teha järelevalvet käesoleva määruse kohaldamise ja rakendamise üle. Liikmesriigid võivad otsustada määrata vastavalt oma riiklikele organisatsioonilistele iseärasustele ja vajadustele mis tahes avalik-õigusliku üksuse täitma käesoleva määruse tähenduses riigi pädeva asutuse ülesandeid. Selleks et suurendada liikmesriikide töökorralduse tõhusust ja luua ühtne kontaktpunkt suhtlemiseks üldsuse ja muude vastaspooltega liikmesriigi ja liidu tasandil, peaks iga liikmesriik määrama turujärelevalveasutuse, mis toimiks ühtse kontaktpunktina.
(153)
Los Estados miembros desempeñan un papel clave en la aplicación y ejecución del presente Reglamento. En ese sentido, cada Estado miembro debe designar al menos una autoridad notificante y al menos una autoridad de vigilancia del mercado como autoridades nacionales competentes que se encarguen de supervisar su aplicación y ejecución. Los Estados miembros pueden decidir designar cualquier tipo de entidad pública para que desempeñe las tareas de las autoridades nacionales competentes en el sentido del presente Reglamento, de conformidad con sus características y necesidades organizativas nacionales específicas. Con el fin de incrementar la eficiencia organizativa en los Estados miembros y establecer un único punto de contacto oficial con el público y otros homólogos a escala de los Estados miembros y la Unión, cada Estado miembro debe designar una autoridad de vigilancia del mercado que actúe como punto de contacto único.
(154)
Riigi pädevad asutused peaksid kasutama oma volitusi sõltumatult, erapooletult ja eelarvamusteta, et järgida oma tegevuse ja ülesannete täitmisel objektiivsuse ja erapooletuse põhimõtteid ning tagada käesoleva määruse kohaldamine ja rakendamine. Nende asutuste liikmed peaksid hoiduma igasugusest tegevusest, mis on vastuolus nende kohustustega, ning nende suhtes tuleks kohaldada käesoleva määruse kohaseid konfidentsiaalsusnõudeid.
(154)
Las autoridades nacionales competentes deben ejercer sus poderes de manera independiente, imparcial y objetiva, a fin de preservar los principios de objetividad de sus actividades y funciones y garantizar la aplicación y ejecución del presente Reglamento. Los miembros de estas autoridades deben abstenerse de todo acto incompatible con el carácter de sus funciones y estar sujetos a las normas de confidencialidad establecidas en el presente Reglamento.
(155)
Tagamaks, et suure riskiga tehisintellektisüsteemide pakkujad saavad võtta oma süsteemide ja projekteerimis- ja arendusprotsessi parandamiseks arvesse suure riskiga tehisintellektisüsteemide kasutamise käigus saadud kogemusi või võtta õigeaegselt võimalikke parandusmeetmeid, peaks kõigil pakkujatel olema sisse seatud turustamisjärgse seire süsteem. Asjakohasel juhul peaks turustamisjärgne seire hõlmama analüüsi koostoime kohta muude tehisintellektisüsteemidega, sealhulgas muude seadmete ja tarkvaraga. Turustamisjärgne seire ei peaks hõlmama õiguskaitseasutustest juurutajate tundlikke operatiivandmeid. Selline süsteem on oluline ka selleks, et tõhusamalt ja õigeaegsemalt tegeleda riskidega, mis tulenevad suure riskiga tehisintellektisüsteemidest, mis n-ö õpivad edasi ka pärast turule laskmist või kasutusele võtmist. Seoses sellega tuleks pakkujatelt nõuda ka seda, et neil oleks olemas süsteem, mille abil teatada asjaomastele asutustele kõikidest tõsistest intsidentidest, mis tulenevad nende tehisintellektisüsteemide kasutamisest, st intsidentidest või tõrgetest, mis põhjustavad surma või tõsist tervisekahju, elutähtsa taristu haldamise ja käitamise tõsiseid ja pöördumatuid häireid, põhiõiguste kaitseks ette nähtud liidu õigusest tulenevate kohustuste rikkumist või tõsist kahju varale või keskkonnale.
(155)
Todos los proveedores de sistemas de IA de alto riesgo deben contar con un sistema de vigilancia poscomercialización, con vistas a garantizar que puedan tener en cuenta la experiencia con el uso de esos sistemas de cara a mejorar los suyos y el proceso de diseño y desarrollo o que puedan adoptar cualquier medida correctora en el momento oportuno. Cuando proceda, la vigilancia poscomercialización debe incluir un análisis de la interacción con otros sistemas de IA, incluidos otros dispositivos y software. La vigilancia poscomercialización no debe comprender los datos operativos sensibles de los responsables del despliegue de sistemas de IA que sean autoridades garantes del cumplimiento del Derecho. Este sistema es también fundamental para garantizar que los posibles riesgos derivados de los sistemas de IA que siguen «aprendiendo» tras su introducción en el mercado o puesta en servicio se aborden de un modo más eficiente y oportuno. En este contexto, procede exigir a los proveedores que también cuenten con un sistema para comunicar a las autoridades pertinentes cualquier incidente grave asociado al uso de sus sistemas de IA, entendido como un incidente o defecto que tenga como consecuencia un fallecimiento o daños graves para la salud, una alteración grave e irreversible de la gestión o el funcionamiento de infraestructuras críticas, el incumplimiento de obligaciones derivadas del Derecho de la Unión destinadas a proteger los derechos fundamentales o daños graves a la propiedad o al medio ambiente.
(156)
Selleks et kindlustada liidu ühtlustamisõigusaktide hulka kuuluvas käesolevas määruses sätestatud nõuete ja kohustuste täitmise asjakohane ja tulemuslik tagamine, tuleks määrusega (EL) 2019/1020 kehtestatud toodete turujärelevalve ja nõuetele vastavuse süsteemi kohaldada täies ulatuses. Käesoleva määruse kohaselt määratud turujärelevalveasutustel peaksid olema kõik käesoleva määruse ja määruse (EL) 2019/1020 kohased täitmise tagamise volitused ning nad peaksid kasutama oma volitusi ja täitma oma kohustusi sõltumatult, erapooletult ja eelarvamusteta. Kuigi enamiku tehisintellektisüsteemide suhtes ei kohaldata käesoleva määruse kohaseid konkreetseid nõudeid ja kohustusi, võivad turujärelevalveasutused võtta meetmeid kõigi tehisintellektisüsteemide suhtes, kui need kujutavad endast ohtu vastavalt käesolevale määrusele. Käesoleva määruse kohaldamisalasse kuuluvate liidu institutsioonide, asutuste ja organite eripära tõttu on asjakohane määrata nende jaoks pädevaks turujärelevalveasutuseks Euroopa Andmekaitseinspektor. See ei tohiks piirata riigi pädevate asutuste nimetamist liikmesriikide poolt. Turujärelevalvetoimingud ei tohiks mõjutada järelevalve alla kuuluvate üksuste võimet täita oma ülesandeid sõltumatult, kui selline sõltumatus on nõutav liidu õiguses.
(156)
Con el objetivo de garantizar el cumplimiento adecuado y efectivo de los requisitos y obligaciones previstos en el presente Reglamento, que constituye legislación de armonización de la Unión, debe aplicarse en su totalidad el sistema relativo a la vigilancia del mercado y la conformidad de los productos establecido por el Reglamento (UE) 2019/1020. Las autoridades de vigilancia del mercado designadas con arreglo al presente Reglamento deben disponer de todos los poderes de ejecución establecidos en el presente Reglamento y en el Reglamento (UE) 2019/1020, y deben ejercer sus poderes y desempeñar sus funciones de manera independiente, imparcial y objetiva. Aunque la mayoría de los sistemas de IA no están sujetos a requisitos ni obligaciones específicos en virtud del presente Reglamento, las autoridades de vigilancia del mercado pueden adoptar medidas en relación con todos los sistemas de IA cuando estos presenten un riesgo de conformidad con el presente Reglamento. Debido a la naturaleza específica de las instituciones, órganos y organismos de la Unión que entran en el ámbito de aplicación del presente Reglamento, procede designar al Supervisor Europeo de Protección de Datos como autoridad de vigilancia del mercado competente para ellos. Esto debe entenderse sin perjuicio de la designación de autoridades nacionales competentes por parte de los Estados miembros. Las actividades de vigilancia del mercado no deben afectar a la capacidad de las entidades supervisadas para llevar a cabo sus tareas de manera independiente, cuando el Derecho de la Unión exija dicha independencia.
(157)
Käesolev määrus ei piira põhiõigusi kaitsva liidu õiguse kohaldamise järelevalvega tegelevate asjaomaste riiklike ametiasutuste või organite, sealhulgas võrdõiguslikkust edendavate asutuste ja andmekaitseasutuste pädevust, ülesandeid, volitusi ega sõltumatust. Kui see on nende volituste täitmiseks vajalik, peaks neil riiklikel ametiasutustel või organitel olema samuti juurdepääs igasugusele käesoleva määruse alusel koostatud dokumentatsioonile. Tuleks kehtestada konkreetne kaitsemenetlus, et tagada piisav ja õigeaegne täitmise tagamine tehisintellektisüsteemide osas, mis kujutavad endast ohtu tervisele, turvalisusele ja põhiõigustele. Selliste endast riski kujutavate tehisintellektisüsteemide jaoks kehtestatud menetlust tuleks kohaldada suure riskiga tehisintellektisüsteemide suhtes, mis kujutavad endast riski, keelatud süsteemide suhtes, mis on turule lastud, kasutusele võetud või mida kasutatakse, rikkudes käesoleva määruse sätteid keelatud kasutusviiside kohta, ning tehisintellektisüsteemide suhtes, mis on tehtud kättesaadavaks käesolevas määruses sätestatud läbipaistvusnõudeid rikkudes ja kujutavad endast riski.
(157)
El presente Reglamento se entiende sin perjuicio de las competencias, funciones, poderes e independencia de las autoridades u organismos públicos nacionales pertinentes que supervisan la aplicación del Derecho de la Unión que protege los derechos fundamentales, incluidos los organismos de igualdad y las autoridades de protección de datos. Cuando sea necesario para su mandato, dichas autoridades u organismos públicos nacionales también deben tener acceso a cualquier documentación creada en virtud del presente Reglamento. Debe establecerse un procedimiento de salvaguardia específico para garantizar una ejecución adecuada y oportuna frente a sistemas de IA que presenten un riesgo para la salud, la seguridad o los derechos fundamentales. El procedimiento relativo a dichos sistemas de IA que presentan un riesgo debe aplicarse a los sistemas de IA de alto riesgo que presenten un riesgo, a los sistemas prohibidos que hayan sido introducidos en el mercado, puestos en servicio o utilizados contraviniendo las prácticas prohibidas establecidas en el presente Reglamento y a los sistemas de IA que hayan sido comercializados infringiendo los requisitos de transparencia establecidos en el presente Reglamento y que presenten un riesgo.
(158)
Finantsteenuseid käsitlev liidu õigus sisaldab sisemise juhtimissüsteemi ja riskihalduse kohta käivaid õigusnorme ja nõudeid, mida kohaldatakse reguleeritud finantsasutuste suhtes nende teenuste pakkumise käigus, kaasa arvatud siis, kui nad kasutavad tehisintellektisüsteeme. Käesolevast määrusest tulenevate kohustuste ja finantsteenuseid käsitlevate liidu õigusaktide asjaomaste õigusnormide ja nõuete järjepideva kohaldamise ja täitmise tagamiseks tuleks nende õigusaktide järelevalve ja täitmise tagamise eest vastutavad pädevad asutused, eelkõige pädevad asutused, mis on määratletud Euroopa Parlamendi ja nõukogu määruses (EL) nr 575/2013 (46) ning Euroopa Parlamendi ja nõukogu direktiivides 2008/48/EÜ, (47) 2009/138/EÜ, (48) 2013/36/EL, (49) 2014/17/EL (50) ja (EL) 2016/97, (51) määrata nende vastava pädevuse piires pädevateks asutusteks, kes tegelevad käesoleva määruse rakendamise järelevalvega, sealhulgas turujärelevalvega, seoses reguleeritud ja järelevalve all olevate finantsasutuste pakutavate või kasutatavate tehisintellektisüsteemidega, välja arvatud juhul, kui liikmesriigid otsustavad määrata kõnealuseid turujärelevalveülesandeid täitma mõne muu asutuse. Kõnealustel pädevatel asutustel peaksid olema kõik käesolevast määrusest ja määrusest (EL) 2019/1020 tulenevad volitused tagada käesoleva määruse nõuete ja kohustuste täitmine, sealhulgas õigus viia läbi tagantjärele tehtavaid turujärelevalvetoiminguid, mida saab asjakohasel juhul integreerida nende olemasolevatesse, asjaomasest finantsteenuseid käsitlevast liidu õigusest tulenevasse järelevalvemehhanismidesse ja -menetlustesse. Otstarbekas on näha ette, et käesoleva määruse alusel turujärelevalveasutusena tegutsevad riiklikud asutused, kes vastutavad direktiivi 2013/36/EL alusel reguleeritud krediidiasutuste järelevalve eest ja osalevad nõukogu määrusega (EL) nr 1024/2013 (52) loodud ühtses järelevalvemehhanismis, peaksid viivitamata esitama Euroopa Keskpangale turujärelevalvetoimingute käigus kindlaks tehtud teabe, mis võib pakkuda huvi seoses kõnealuses määruses sätestatud Euroopa Keskpanga usaldatavusnõuete täitmise järelevalve ülesannetega. Et veelgi suurendada käesoleva määruse ja direktiivi 2013/36/EL alusel reguleeritud krediidiasutuste suhtes kohaldatavate õigusnormide sidusust, on ühtlasi otstarbekas integreerida pakkujate mõned riskijuhtimise, turustamisjärgse seire ja dokumentatsiooniga seotud menetluslikud kohustused direktiivi 2013/36/EL kohastesse olemasolevatesse kohustustesse ja menetlustesse. Kattuvuse vältimiseks tuleks ette näha ka piiratud erandid seoses pakkujate kvaliteedijuhtimissüsteemidega ja seirekohustusega, mis on pandud suure riskiga tehisintellektisüsteemide juurutajate, niivõrd, kuivõrd neid kohaldatakse direktiiviga 2013/36/EL reguleeritud krediidiasutuste suhtes. Sama korda tuleks kohaldada direktiivi 2009/138/EÜ kohaste kindlustus- ja edasikindlustusandjate ning kindlustusvaldusettevõtjate ning direktiivi (EL) 2016/97 kohaste kindlustusvahendajate suhtes ning muud liiki finantsasutuste suhtes, kes peavad täitma liidu finantsteenuseid käsitleva asjakohase õiguse kohaselt kehtestatud sisemise juhtimissüsteemi, korra või protsessidega seotud nõudeid, et tagada järjepidevus ja võrdne kohtlemine finantssektoris.
(158)
El Derecho de la Unión en materia de servicios financieros contiene normas y requisitos en materia de gobernanza interna y gestión de riesgos que las entidades financieras reguladas deben cumplir durante la prestación de dichos servicios, y también cuando utilicen sistemas de IA. Para garantizar la aplicación y ejecución coherentes de las obligaciones previstas en el presente Reglamento, así como de las normas y los requisitos oportunos de los actos jurídicos de la Unión relativos a los servicios financieros, se ha de designar a las autoridades competentes de supervisar y ejecutar dichos actos jurídicos, en particular las autoridades competentes definidas en el Reglamento (UE) n.o 575/2013 del Parlamento Europeo y del Consejo (46) y las Directivas 2008/48/CE (47), 2009/138/CE (48), 2013/36/UE (49), 2014/17/UE (50) y (UE) 2016/97 (51) del Parlamento Europeo y del Consejo, dentro de sus respectivas competencias, como las autoridades competentes encargadas de supervisar la aplicación del presente Reglamento, también por lo que respecta a las actividades de vigilancia del mercado, en relación con los sistemas de IA proporcionados o utilizados por las entidades financieras reguladas y supervisadas, a menos que los Estados miembros decidan designar a otra autoridad para que desempeñe estas tareas de vigilancia del mercado. Dichas autoridades competentes deben disponer de todos los poderes previstos en el presente Reglamento y en el Reglamento (UE) 2019/1020 para hacer cumplir los requisitos y obligaciones del presente Reglamento, incluidos los poderes para llevar a cabo actividades de vigilancia del mercado ex post que pueden integrarse, en su caso, en sus mecanismos y procedimientos de supervisión existentes en virtud del Derecho pertinente de la Unión en materia de servicios financieros. Conviene prever que, cuando actúen como autoridades de vigilancia del mercado en virtud del presente Reglamento, las autoridades nacionales responsables de la supervisión de las entidades de crédito reguladas por la Directiva 2013/36/UE que participen en el Mecanismo Único de Supervisión establecido por el Reglamento (UE) n.o 1024/2013 del Consejo (52) comuniquen sin demora al Banco Central Europeo toda información obtenida en el transcurso de sus actividades de vigilancia del mercado que pueda ser de interés para las funciones de supervisión prudencial del Banco Central Europeo especificadas en dicho Reglamento. Con vistas a aumentar la coherencia entre el presente Reglamento y las normas aplicables a las entidades de crédito reguladas por la Directiva 2013/36/UE, conviene igualmente integrar algunas de las obligaciones procedimentales de los proveedores relativas a la gestión de riesgos, la vigilancia poscomercialización y la documentación en las obligaciones y los procedimientos vigentes con arreglo a la Directiva 2013/36/UE. Para evitar solapamientos, también se deben contemplar excepciones limitadas en relación con el sistema de gestión de la calidad de los proveedores y la obligación de vigilancia impuesta a los responsables del despliegue de sistemas de IA de alto riesgo, en la medida en que estos se apliquen a las entidades de crédito reguladas por la Directiva 2013/36/UE. El mismo régimen debe aplicarse a las empresas de seguros y reaseguros y a las sociedades de cartera de seguros reguladas por la Directiva 2009/138/CE, a los intermediarios de seguros regulados por la Directiva (UE) 2016/97 y a otros tipos de entidades financieras sujetas a requisitos sobre gobernanza, sistemas o procesos internos establecidos con arreglo al Derecho pertinente de la Unión en materia de servicios financieros a fin de garantizar la coherencia y la igualdad de trato en el sector financiero.
(159)
Igal käesoleva määruse lisas loetletud biomeetriliste andmete valdkonnaga seotud suure riskiga tehisintellektisüsteemide turujärelevalveasutusel, kui neid süsteeme kasutatakse õiguskaitseks, rände-, varjupaiga- ja piirikontrollihalduseks või õigusemõistmiseks ja demokraatlikeks protsessideks, peaksid olema tõhusad uurimis- ja parandusvolitused, sealhulgas vähemalt õigus saada juurdepääs kõigile töödeldavatele isikuandmetele ja kogu teabele, mis on vajalik tema ülesannete täitmiseks. Turujärelevalveasutustel peaks olema võimalik kasutada oma volitusi täiesti sõltumatult. Käesoleva määrusega kehtestatud tundlikele operatiivandmetele juurdepääsu piirangud ei tohiks piirata neile asutustele direktiiviga (EL) 2016/680 antud volitusi. Ükski käesoleva määruse kohane erand, mis puudutab andmete avaldamist riiklikele andmekaitseasutustele, ei tohiks mõjutada nende asutuste praeguseid või tulevasi volitusi väljaspool käesoleva määruse kohaldamisala.
(159)
Cada autoridad de vigilancia del mercado para los sistemas de IA de alto riesgo en el ámbito de la biometría enumerados en un anexo del presente Reglamento, en la medida en que dichos sistemas se utilicen con fines de garantía del cumplimiento del Derecho, de migración, asilo y gestión del control fronterizo, o de la administración de justicia y los procesos democráticos, debe disponer de facultades de investigación y correctoras efectivas, incluida al menos la facultad de obtener acceso a todos los datos personales que se estén tratando y a toda la información necesaria para el desempeño de sus funciones. Las autoridades de vigilancia del mercado deben poder ejercer sus poderes actuando con total independencia. Cualquier limitación de su acceso a datos operativos sensibles en virtud del presente Reglamento debe entenderse sin perjuicio de los poderes que les confiere la Directiva (UE) 2016/680. Ninguna exclusión de la divulgación de datos a las autoridades nacionales de protección de datos en virtud del presente Reglamento debe afectar a los poderes actuales o futuros de dichas autoridades que trasciendan el ámbito de aplicación del presente Reglamento.
(160)
Turujärelevalveasutused ja komisjon peaksid saama teha ettepanekuid ühismeetmete, sealhulgas ühiste uurimiste kohta, mida viivad läbi turujärelevalveasutused või turujärelevalveasutused koos komisjoniga ja mille eesmärk on edendada nõuetele vastavust, teha kindlaks mittevastavus, suurendada teadlikkust ja anda suuniseid käesoleva määruse kohta seoses selliste suure riskiga tehisintellektisüsteemide konkreetsete kategooriatega, mille puhul on leitud, et need kujutavad endast tõsist riski kahes või enamas liikmesriigis. Nõuete täitmise edendamiseks tuleks võtta ühismeetmeid kooskõlas määruse (EL) 2019/1020 artikliga 9. Ühisuurimiste koordineerimistoe peaks tagama tehisintellektiamet.
(160)
Las autoridades de vigilancia del mercado y la Comisión deben poder proponer actividades conjuntas, incluidas investigaciones conjuntas, que deben llevar a cabo las autoridades de vigilancia del mercado o las autoridades de vigilancia del mercado junto con la Comisión, con el objetivo de fomentar el cumplimiento, detectar incumplimientos, sensibilizar y ofrecer orientaciones en relación con el presente Reglamento con respecto a las categorías específicas de sistemas de IA de alto riesgo que presentan un riesgo grave en dos o más Estados miembros. Tales actividades conjuntas para fomentar el cumplimiento deben llevarse a cabo de conformidad con el artículo 9 del Reglamento (UE) 2019/1020. La Oficina de IA debe prestar apoyo de coordinación a las investigaciones conjuntas.
(161)
On vaja selgitada liidu ja liikmesriikide tasandi kohustusi ja pädevusi seoses üldotstarbelistel tehisintellektimudelitel põhinevate tehisintellektisüsteemidega. Pädevuste kattumise vältimiseks peaks juhul, kui tehisintellektisüsteem põhineb üldotstarbelisel tehisintellektimudelil ning mudelit ja süsteemi pakub sama pakkuja, toimuma järelevalve liidu tasandil tehisintellektiameti kaudu, kellel peaks selleks olema turujärelevalveasutuse volitused määruse (EL) 2019/1020 tähenduses. Kõigil muudel juhtudel vastutavad tehisintellektisüsteemide järelevalve eest riiklikud turujärelevalveasutused. Selliste üldotstarbeliste tehisintellektisüsteemide puhul, mida juurutajad saavad kasutada otse vähemalt ühel eesmärgil, mis on liigitatud suure riskiga eesmärgiks, peaksid turujärelevalveasutused tegema tehisintellektiametiga koostööd, et hinnata nõuetele vastavust ning teavitada sellest nõukoda ja teisi turujärelevalveasutusi. Lisaks peaks turujärelevalveasutustel olema võimalik taotleda tehisintellektiametilt abi, kui turujärelevalveasutusel ei ole võimalik suure riskiga tehisintellektisüsteemi uurimist lõpule viia, kuna sellel puudub juurdepääs teatavale teabele, mis on seotud üldotstarbelise tehisintellektimudeliga, millel suure riskiga tehisintellektisüsteem põhineb. Sellistel juhtudel tuleks kohaldada määruse (EL) 2019/1020 VI peatükis sätestatud menetlust, mis käsitleb piiriülest vastastikust abi, mutatis mutandis.
(161)
Es necesario aclarar las responsabilidades y competencias a escala de la Unión y nacional en lo que respecta a los sistemas de IA que se basan en modelos de IA de uso general. Para evitar el solapamiento de competencias, cuando un sistema de IA se base en un modelo de IA de uso general y el modelo y el sistema sean suministrados por el mismo proveedor, la supervisión debe llevarse a cabo a escala de la Unión a través de la Oficina de IA, que debe tener a estos efectos las facultades de una autoridad de vigilancia del mercado en el sentido de lo dispuesto en el Reglamento (UE) 2019/1020. En todos los demás casos, serán responsables de la supervisión de los sistemas de IA las autoridades nacionales de vigilancia del mercado. No obstante, en el caso de los sistemas de IA de uso general que puedan ser utilizados directamente por los responsables del despliegue con al menos un fin clasificado como de alto riesgo, las autoridades de vigilancia del mercado deben cooperar con la Oficina de IA para llevar a cabo evaluaciones de la conformidad e informar de ello al Consejo de IA y a otras autoridades de vigilancia del mercado. Además, las autoridades de vigilancia del mercado deben poder solicitar la asistencia de la Oficina de IA cuando la autoridad de vigilancia del mercado no pueda concluir una investigación sobre un sistema de IA de alto riesgo debido a su incapacidad para acceder a determinada información relacionada con el modelo de IA de uso general en el que se basa el sistema de IA de alto riesgo. En tales casos, debe aplicarse mutatis mutandis el procedimiento de asistencia mutua transfronteriza previsto en el capítulo VI del Reglamento (UE) 2019/1020.
(162)
Selleks et liidu keskset oskusteavet ja koostoimet liidu tasandil parimal viisil ära kasutada, peaksid üldotstarbeliste tehisintellektimudelite pakkujate kohustuste järelevalve ja täitmise tagamise volitused kuuluma komisjoni pädevusse. Tehisintellektiametil peaks olema võimalik võtta kõik vajalikud meetmed, et jälgida käesoleva määruse tõhusat rakendamist seoses üldotstarbeliste tehisintellektimudelitega. Ametil peaks olema võimalik uurida üldotstarbeliste tehisintellektimudelite pakkujaid käsitlevate õigusnormide võimalikke rikkumisi nii omal algatusel, järelevalvetegevuse tulemuste põhjal kui ka turujärelevalveasutuste taotlusel kooskõlas käesolevas määruses sätestatud tingimustega. Selleks et toetada tehisintellektiameti tõhusat järelevalvet, peaks see nägema ette võimaluse, et järgmise etapi pakkujad saavad esitada kaebusi üldotstarbeliste tehisintellektimudelite ja -süsteemide pakkujaid käsitlevate õigusnormide võimaliku rikkumise kohta.
(162)
Para aprovechar al máximo la centralización de conocimientos especializados y las sinergias que se generan a escala de la Unión, deben atribuirse a la Comisión las competencias de supervisión y de control del cumplimiento de las obligaciones de los proveedores de modelos de IA de uso general. La Oficina de IA debe poder llevar a cabo todas las acciones necesarias para supervisar la aplicación efectiva del presente Reglamento en lo que respecta a los modelos de IA de uso general. Debe poder investigar posibles infracciones de las normas relativas a los proveedores de modelos de IA de uso general, tanto por iniciativa propia, a raíz de los resultados de sus actividades de supervisión, como a petición de las autoridades de vigilancia del mercado, de conformidad con las condiciones establecidas en el presente Reglamento. Para promover la eficacia de la supervisión, la Oficina de IA debe prever la posibilidad de que los proveedores posteriores presenten reclamaciones sobre posibles infracciones de las normas relativas a los proveedores de sistemas y modelos de IA de uso general.
(163)
Üldotstarbeliste tehisintellektimudelite juhtimissüsteemide täiendamiseks peaks teaduskomisjon toetama tehisintellektiameti seiretegevust ja võib teatavatel juhtudel edastada tehisintellektiametile kvalifitseeritud hoiatusteateid, mille põhjal alustatakse järelkontrolle, näiteks uurimisi. See peaks olema nii juhul, kui teaduskomisjonil on põhjust kahtlustada, et üldotstarbeline tehisintellektimudel kujutab endast konkreetset ja tuvastatavat riski liidu tasandil. Lisaks peaks see nii olema juhul, kui teaduskomisjonil on põhjust kahtlustada, et üldotstarbeline tehisintellektimudel vastab kriteeriumidele, mis annaksid alust liigitada see süsteemse riskiga üldotstarbeliseks tehisintellektimudeliks. Selleks et anda teaduskomisjonile teavet, mis on vajalik nende ülesannete täitmiseks, tuleks ette näha mehhanism, mille abil teaduskomisjon saab taotleda, et komisjon nõuaks pakkujalt dokumentatsiooni või teavet.
(163)
Con el fin de complementar los sistemas de gobernanza de los modelos de IA de uso general, el grupo de expertos científicos debe contribuir a las actividades de supervisión de la Oficina de IA y, en determinados casos, puede proporcionar alertas cualificadas a la Oficina de IA que activen actuaciones consecutivas, como investigaciones. Así debe ocurrir cuando el grupo de expertos científicos tenga motivos para sospechar que un modelo de IA de uso general presenta un riesgo concreto e identificable a escala de la Unión. También debe ser este el caso cuando el grupo de expertos científicos tenga motivos para sospechar que un modelo de IA de uso general cumple los criterios que llevarían a clasificarlo como modelo de IA de uso general con riesgo sistémico. A fin de facilitar al grupo de expertos científicos la información necesaria para el desempeño de esas funciones, debe existir un mecanismo que permita al grupo de expertos científicos pedir a la Comisión que solicite documentación o información a un proveedor.
(164)
Tehisintellektiametil peaks olema võimalik võtta vajalikke meetmeid, et jälgida käesolevas määruses sätestatud üldotstarbeliste tehisintellektimudelite pakkujate kohustuste tõhusat rakendamist ja täitmist. Tehisintellektiametil peaks olema võimalik uurida võimalikke rikkumisi kooskõlas käesolevas määruses sätestatud volitustega, sealhulgas nõudes dokumentatsiooni ja teavet, viies läbi hindamisi ning nõudes üldotstarbeliste tehisintellektimudelite pakkujatelt meetmete võtmist. Selleks et kasutada sõltumatut oskusteavet, peaks tehisintellektiametil olema võimalik kaasata hindamise käigus sõltumatuid eksperte, kes hindamisi ameti nimel läbi viivad. Kohustuste täitmine peaks olema tagatud, muu hulgas nõudes asjakohaste meetmete võtmist, sealhulgas riskimaandusmeetmeid tuvastatud süsteemsete riskide korral, ning piirates mudeli turul kättesaadavaks tegemist, võttes selle turult tagasi või nõudes tagasi. Kui see on lisaks käesolevas määruses sätestatud menetlusõigustele vajalik, peaksid üldotstarbeliste tehisintellektimudelite pakkujatel olema kaitsemeetmena määruse (EL) 2019/1020 artiklis 18 sätestatud menetlusõigused, mida tuleks kohaldada mutatis mutandis, ilma et see piiraks käesolevas määruses sätestatud konkreetsemaid menetlusõigusi.
(164)
La Oficina de IA debe poder adoptar las medidas necesarias para supervisar la aplicación efectiva y el cumplimiento de las obligaciones de los proveedores de modelos de IA de uso general establecidas en el presente Reglamento. La Oficina de IA debe poder investigar posibles infracciones de conformidad con las competencias previstas en el presente Reglamento, por ejemplo, solicitando documentación e información, realizando evaluaciones y solicitando la adopción de medidas a los proveedores de modelos de IA de uso general. En la realización de las evaluaciones, para poder contar con conocimientos especializados independientes, la Oficina de IA debe poder recurrir a expertos independientes para que lleven a cabo las evaluaciones en su nombre. Se debe poder exigir el cumplimiento de las obligaciones mediante, entre otras cosas, solicitudes de adopción de medidas adecuadas, entre las que se incluyen medidas de reducción del riesgo en caso de que se detecten riesgos sistémicos, así como la restricción de la comercialización, la retirada o la recuperación del modelo. Como salvaguardia, cuando sea necesario, además de los derechos procedimentales previstos en el presente Reglamento, los proveedores de modelos de IA de uso general deben tener los derechos procedimentales previstos en el artículo 18 del Reglamento (UE) 2019/1020, que deben aplicarse mutatis mutandis, sin perjuicio de los derechos procesales más específicos previstos en el presente Reglamento.
(165)
Muude tehisintellektisüsteemide kui suure riskiga tehisintellektisüsteemide arendamine kooskõlas käesoleva määruse nõuetega võib aidata kaasa eetilise ja usaldusväärse tehisintellekti laialdasemale levikule liidus. Muude kui suure riskiga tehisintellektisüsteemide pakkujaid tuleks julgustada koostama käitumisjuhendeid, sealhulgas nendega seotud juhtimismehhanisme, mille eesmärk on edendada suure riskiga tehisintellektisüsteemide suhtes kohaldatavate mõne või kõigi kohustuslike nõuete vabatahtlikku kohaldamist, mida on kohandatud vastavalt süsteemide sihtotstarbele ja väiksemale kaasnevale riskile ning võttes arvesse kättesaadavaid tehnilisi lahendusi ja tööstuse parimaid tavasid, nagu mudeli- ja andmekaardid. Kõigi tehisintellektisüsteemide, olgu need siis suure riskiga või mitte, ja tehisintellektimudelite pakkujaid ja vajaduse korral juurutajaid tuleks samuti julgustada vabatahtlikult kohaldama täiendavaid nõudeid, mis on seotud näiteks liidu usaldusväärse tehisintellekti eetikasuunistes sätestatud elementidega, keskkonnakestlikkusega, tehisintellektipädevuse meetmetega, tehisintellektisüsteemide kaasava ja mitmekesise projekteerimise ja arendamisega, sealhulgas tähelepanu pööramisega vähekaitstud isikutele ja juurdepääsetavusega puuetega inimeste jaoks, sidusrühmade osalemisega, kaasates vajaduse korral asjaomaseid sidusrühmi, nagu äri- ja kodanikuühiskonna organisatsioonid, akadeemilised ringkonnad, teadusorganisatsioonid, ametiühingud ja tarbijakaitseorganisatsioonid tehisintellektisüsteemide projekteerimisse ja arendamisse, ning arendusmeeskondade mitmekesisusega, sealhulgas soolise tasakaaluga. Vabatahtlike tegevusjuhendite tõhususe tagamiseks peaksid need põhinema selgetel eesmärkidel ja peamistel tulemusnäitajatel, et mõõta nende eesmärkide saavutamist. Samuti tuleks neid vajaduse korral töötada välja kaasaval viisil, kaasates asjaomaseid sidusrühmi, nagu äri- ja kodanikuühiskonna organisatsioonid, akadeemilised ringkonnad, teadusorganisatsioonid, ametiühingud ja tarbijakaitseorganisatsioonid. Komisjon võib töötada välja algatusi, sealhulgas valdkondlikke algatusi, et aidata vähendada tehnilisi tõkkeid, mis takistavad tehisintellekti arendamise jaoks toimuvat piiriülest andmevahetust, keskendudes muu hulgas andmetele juurdepääsu taristule ning eri andmeliikide semantilisele ja tehnilisele koostalitlusvõimele.
(165)
El desarrollo de sistemas de IA que no sean sistemas de IA de alto riesgo conforme a los requisitos establecidos en el presente Reglamento puede dar lugar a la adopción más amplia de una IA ética y fiable en la Unión. Se debe alentar a los proveedores de sistemas de IA que no son de alto riesgo a crear códigos de conducta, entre los que se incluyen los correspondientes mecanismos de gobernanza, destinados a impulsar la aplicación voluntaria de la totalidad o parte de los requisitos aplicables a los sistemas de IA de alto riesgo, adaptados teniendo en cuenta la finalidad prevista de los sistemas y el menor riesgo planteado y teniendo en cuenta las soluciones técnicas disponibles y las mejores prácticas del sector, como las tarjetas de modelo y de datos Asimismo, se debe animar a los proveedores y, en su caso, a los responsables del despliegue de todos los sistemas de IA, ya sean o no de alto riesgo, y de los modelos de IA, a aplicar, con carácter voluntario, requisitos adicionales relativos, por ejemplo, a los elementos de las Directrices éticas de la Unión para una IA fiable, la sostenibilidad medioambiental, medidas de alfabetización en materia de IA, la inclusividad y la diversidad en el diseño y el desarrollo de los sistemas de IA, lo que incluye tener en cuenta a las personas vulnerables y la accesibilidad de las personas con discapacidad, la participación de las partes interesadas, con la participación, según proceda, de las partes interesadas pertinentes, como las organizaciones empresariales y de la sociedad civil, el mundo académico, los organismos de investigación, los sindicatos y las organizaciones de protección de los consumidores, en el diseño y el desarrollo de los sistemas de IA, y la diversidad de los equipos de desarrollo, también por lo que respecta a la paridad de género. Para garantizar la efectividad de los códigos de conducta voluntarios, estos deben basarse en objetivos claros e indicadores clave del rendimiento que permitan medir la consecución de dichos objetivos. También deben desarrollarse de manera inclusiva, según proceda, con la participación de las partes interesadas pertinentes, como las organizaciones empresariales y de la sociedad civil, el mundo académico, los organismos de investigación, los sindicatos y las organizaciones de protección de los consumidores. La Comisión podría formular iniciativas, también de carácter sectorial, encaminadas a facilitar la disminución de los obstáculos técnicos que dificultan el intercambio transfronterizo de datos para el desarrollo de la IA, también en relación con la infraestructura de acceso a los datos y la interoperabilidad semántica y técnica de distintos tipos de datos.
(166)
On oluline, et tehisintellektisüsteemid, mis on seotud toodetega, mis ei ole käesoleva määruse alusel suure riskiga ja mis seega ei pea vastama suure riskiga tehisintellektisüsteemide suhtes sätestatud nõuetele, oleksid siiski ohutud, kui need turule lastakse või kasutusele võetakse. Selle eesmärgi saavutamiseks kohaldatakse turvaabinõuna Euroopa Parlamendi ja nõukogu määrust (EL) 2023/988 (53).
(166)
Es importante que los sistemas de IA asociados a productos que el presente Reglamento no considera de alto riesgo y que, por lo tanto, no están obligados a cumplir los requisitos establecidos para los sistemas de IA de alto riesgo sean, no obstante, seguros una vez introducidos en el mercado o puestos en servicio. Para contribuir a este objetivo, se aplicaría, como red de seguridad, el Reglamento (UE) 2023/988 del Parlamento Europeo y del Consejo (53).
(167)
Pädevate asutuste usaldusliku ja konstruktiivse koostöö tagamiseks liidu ja riikide tasandil peaksid kõik käesoleva määruse kohaldamises osalejad austama oma ülesannete täitmise käigus saadud teabe ja andmete konfidentsiaalsust kooskõlas liidu või riigisisese õigusega. Nad peaksid täitma oma ülesandeid ja tegutsema viisil, mis kaitseb eelkõige intellektuaalomandi õigusi, konfidentsiaalset äriteavet ja ärisaladusi, käesoleva määruse tõhusat rakendamist, avaliku ja riigi julgeolekuga seotud huve, kriminaal- ja haldusmenetluste terviklust ning salastatud teabe terviklust.
(167)
Todas las partes implicadas en la aplicación del presente Reglamento deben respetar la confidencialidad de la información y los datos que obtengan en el ejercicio de sus funciones, de conformidad con el Derecho de la Unión o nacional, con vistas a garantizar una cooperación fiable y constructiva entre las autoridades competentes a escala de la Unión y nacional. Deben desempeñar sus funciones y actividades de manera que se protejan, en particular, los derechos de propiedad intelectual e industrial, la información empresarial confidencial y los secretos comerciales, la aplicación eficaz del presente Reglamento, los intereses de seguridad pública y nacional, la integridad de los procedimientos penales y administrativos y la integridad de la información clasificada.
(168)
Käesoleva määruse järgimine peaks olema tagatud karistuste määramise ja muude täitemeetmete abil. Liikmesriigid peaksid võtma kõik vajalikud meetmed, et tagada käesoleva määruse sätete rakendamine, sealhulgas kehtestades mõjusad, proportsionaalsed ja hoiatavad karistused nende rikkumise eest, ning järgides ne bis in idem põhimõtet. Käesoleva määruse rikkumise eest määratavate halduskaristuste tugevdamiseks ja ühtlustamiseks tuleks kehtestada teatavate konkreetsete rikkumiste eest määratavate haldustrahvide ülemmäärad. Trahvisummade hindamisel peaksid liikmesriigid võtma igal üksikjuhul arvesse kõiki konkreetse olukorra asjakohaseid asjaolusid, võttes nõuetekohaselt arvesse eelkõige rikkumise laadi, raskusastet ja kestust ning selle tagajärgi ja pakkuja suurust, eelkõige juhul, kui pakkuja on VKE, sealhulgas idufirma. Euroopa Andmekaitseinspektoril peaks olema õigus määrata trahve käesoleva määruse kohaldamisalasse kuuluvatele liidu institutsioonidele, asutustele ja organitele.
(168)
Se debe poder exigir el cumplimiento del presente Reglamento mediante la imposición de sanciones y otras medidas de ejecución. Los Estados miembros deben tomar todas las medidas necesarias para garantizar que se apliquen las disposiciones del presente Reglamento, también estableciendo sanciones efectivas, proporcionadas y disuasorias para las infracciones, y para respetar el principio de non bis in idem. A fin de reforzar y armonizar las sanciones administrativas por infracción del presente Reglamento, deben establecerse los límites máximos para la imposición de las multas administrativas en el caso de ciertas infracciones concretas. A la hora de determinar la cuantía de las multas, los Estados miembros deben tener en cuenta, en cada caso concreto, todas las circunstancias pertinentes de la situación de que se trate, considerando especialmente la naturaleza, gravedad y duración de la infracción y de sus consecuencias, así como el tamaño del proveedor, en particular si este es una pyme o una empresa emergente. El Supervisor Europeo de Protección de Datos debe estar facultado para imponer multas a las instituciones, los órganos y los organismos de la Unión incluidos en el ámbito de aplicación del presente Reglamento.
(169)
Käesoleva määrusega kehtestatud üldotstarbeliste tehisintellektimudelite pakkujate kohustuste täitmine peaks olema tagatud muu hulgas trahvide abil. Selleks tuleks ette näha ka asjakohased trahvimäärad nende kohustuste rikkumise eest, sealhulgas komisjoni poolt käesoleva määruse kohaselt nõutud meetmete täitmata jätmise eest, kohaldades kooskõlas proportsionaalsuse põhimõttega asjakohaseid aegumistähtaegu. Kõik komisjoni poolt käesoleva määruse alusel tehtud otsused vaatab ELi toimimise lepingu kohaselt läbi Euroopa Liidu Kohus, sealhulgas seoses Euroopa Liidu Kohtu täieliku pädevusega karistuse määramisel ELi toimimise lepingu artikli 261 kohaselt.
(169)
Se debe poder exigir el cumplimiento de las obligaciones impuestas en virtud del presente Reglamento a los proveedores de modelos de IA de uso general mediante, entre otras cosas, la imposición de multas. A tal fin, también deben establecerse multas de una cuantía apropiada en caso de incumplimiento de dichas obligaciones, lo que incluye el incumplimiento de las medidas solicitadas por la Comisión de conformidad con el presente Reglamento, con sujeción a los plazos de prescripción pertinentes de conformidad con el principio de proporcionalidad. Todas las decisiones adoptadas por la Comisión en virtud del presente Reglamento están sujetas al control del Tribunal de Justicia de la Unión Europea, de conformidad con lo dispuesto en el TFUE, incluida la competencia jurisdiccional plena del Tribunal de Justicia en materia de sanciones con arreglo al artículo 261 del TFUE.
(170)
Liidu ja liikmesriigi õiguses on juba ette nähtud tõhusad õiguskaitsevahendid füüsilistele ja juriidilistele isikutele, kelle õigusi ja vabadusi tehisintellektisüsteemide kasutamine kahjustab. Ilma et see piiraks nimetatud õiguskaitsevahendite kohaldamist, peaks igal füüsilisel või juriidilisel isikul, kellel on alust arvata, et käesolevat määrust on rikutud, olema õigus asjaomasele turujärelevalveasutusele kaebus esitada.
(170)
El Derecho de la Unión y nacional ya prevén vías de recurso efectivas para las personas físicas y jurídicas cuyos derechos y libertades se vean perjudicados por el uso de sistemas de IA. Sin perjuicio de dichas vías de recurso, toda persona física o jurídica que tenga motivos para considerar que se ha producido una infracción del presente Reglamento debe tener derecho a presentar una reclamación ante la autoridad de vigilancia del mercado pertinente.
(171)
Mõjutatud isikutel peaks olema õigus selgitusele, kui juurutaja otsus põhineb peamiselt teatavate käesoleva määruse kohaldamisalasse kuuluvate suure riskiga tehisintellektisüsteemide väljundil ja kui see otsus tekitab õiguslikke tagajärgi või mõjutab neid isikuid sarnaselt märkimisväärselt viisil, mis nende arvates avaldab kahjulikku mõju nende tervisele, turvalisusele või põhiõigustele. See selgitus peaks olema selge ja sisukas ning andma aluse, mille põhjal saavad mõjutatud isikud oma õigusi kasutada. Õigust saada selgitust ei tohiks kohaldada selliste tehisintellektisüsteemide kasutamise suhtes, mille suhtes kehtivad liidu või liikmesriigi õigusest tulenevad erandid või piirangud, ning seda õigust tuleks kohaldada ainult siis, kui see ei ole liidu õiguses juba ette nähtud.
(171)
Las personas afectadas deben tener derecho a obtener una explicación cuando la decisión de un responsable del despliegue se base principalmente en los resultados de salida de determinados sistemas de IA de alto riesgo que entran dentro del ámbito de aplicación del presente Reglamento y cuando dicha decisión produzca efectos jurídicos o afecte significativamente de modo similar a dichas personas, de manera que consideren que tiene un efecto negativo en su salud, su seguridad o sus derechos fundamentales. Dicha explicación debe ser clara y significativa y servir de base para que las personas afectadas puedan ejercer sus derechos. El derecho a obtener una explicación no debe aplicarse a la utilización de sistemas de IA para los que se deriven excepciones o restricciones con arreglo al Derecho nacional o de la Unión, y solo debe aplicarse en la medida en que este derecho no esté ya previsto en el Derecho de la Unión.
(172)
Isikuid, kes tegutsevad käesoleva määruse rikkumisest teatajatena, tuleks liidu õiguse alusel kaitsta. Seega tuleks käesoleva määruse rikkumisest teatamise ja sellistest rikkumisest teatajate kaitse suhtes kohaldada Euroopa Parlamendi ja nõukogu direktiivi (EL) 2019/1937 (54).
(172)
Las personas que informen sobre infracciones del presente Reglamento deben quedar protegidas por el Derecho de la Unión. Así pues, cuando se informe sobre infracciones del presente Reglamento y en lo que respecta a la protección de las personas que informen sobre dichas infracciones debe aplicarse la Directiva (UE) 2019/1937 del Parlamento Europeo y del Consejo (54).
(173)
Tagamaks, et õigusraamistikku saab vajaduse korral kohandada, peaks komisjonil olema õigus võtta kooskõlas ELi toimimise lepingu artikliga 290 vastu delegeeritud õigusakte, et muuta tingimusi, mille alusel tehisintellektisüsteemi ei käsitata suure riskiga tehisintellektisüsteemina; suure riskiga tehisintellektisüsteemide loetelu; tehnilist dokumentatsiooni käsitlevaid sätteid; ELi vastavusdeklaratsiooni sisu; vastavushindamismenetlusi käsitlevaid sätteid; sätteid, millega määratakse kindlaks need suure riskiga tehisintellektisüsteemid, mille suhtes tuleks kohaldada kvaliteedijuhtimissüsteemi ja tehnilise dokumentatsiooni hindamisel põhinevat vastavushindamist; künnist, võrdlusaluseid ja näitajaid süsteemse riskiga üldotstarbeliste tehisintellektimudelite liigitamise õigusnormides, sealhulgas neid võrdlusaluseid ja näitajaid täiendades; kriteeriume süsteemse riskiga üldotstarbeliste tehisintellektimudelite liigitamiseks; üldotstarbeliste tehisintellektimudelite pakkujate tehnilist dokumentatsiooni ja üldotstarbeliste tehisintellektimudelite pakkujatele esitatavat läbipaistvusteavet.. On eriti oluline, et komisjon viiks oma ettevalmistava töö käigus läbi asjakohaseid konsultatsioone, sealhulgas ekspertide tasandil, ja et kõnealused konsultatsioonid viidaks läbi kooskõlas 13. aprilli 2016. aasta institutsioonidevahelises parema õigusloome kokkuleppes (55) sätestatud põhimõtetega. Eelkõige selleks, et tagada delegeeritud õigusaktide ettevalmistamises võrdne osalemine, saavad Euroopa Parlament ja nõukogu kõik dokumendid liikmesriikide ekspertidega samal ajal ning nende ekspertidel on pidev juurdepääs komisjoni eksperdirühmade koosolekutele, millel arutatakse delegeeritud õigusaktide ettevalmistamist.
(173)
A fin de garantizar que el marco reglamentario pueda adaptarse cuando sea necesario, deben delegarse en la Comisión los poderes para adoptar actos con arreglo al artículo 290 del TFUE de modo que pueda modificar las condiciones en las que un sistema de IA no debe considerarse un sistema de alto riesgo, la lista de sistemas de IA de alto riesgo, las disposiciones relativas a la documentación técnica, el contenido de la declaración UE de conformidad, las disposiciones relativas a los procedimientos de evaluación de la conformidad, las disposiciones que establecen a qué sistemas de IA de alto riesgo debe aplicarse el procedimiento de evaluación de la conformidad basado en la evaluación del sistema de gestión de la calidad y en la evaluación de la documentación técnica, el umbral, los parámetros de referencia y los indicadores, lo que incluye la posibilidad de complementar dichos parámetros de referencia e indicadores, de las normas de clasificación de los modelos de IA de uso general con riesgo sistémico, los criterios para clasificar un modelo como modelo de IA de uso general con riesgo sistémico, la documentación técnica para los proveedores de modelos de IA de uso general y la información sobre transparencia para los proveedores de modelos de IA de uso general. Reviste especial importancia que la Comisión lleve a cabo las consultas oportunas durante la fase preparatoria, en particular con expertos, y que esas consultas se realicen de conformidad con los principios establecidos en el Acuerdo interinstitucional de 13 de abril de 2016 sobre la mejora de la legislación (55). En particular, a fin de garantizar una participación equitativa en la preparación de los actos delegados, el Parlamento Europeo y el Consejo reciben toda la documentación al mismo tiempo que los expertos de los Estados miembros, y sus expertos tienen acceso sistemáticamente a las reuniones de los grupos de expertos de la Comisión que se ocupen de la preparación de actos delegados.
(174)
Võttes arvesse tehnoloogia kiiret arengut ja käesoleva määruse tõhusaks kohaldamiseks vajalikku tehnilist oskusteavet, peaks komisjon käesolevat määrust hindama ja vaatama selle läbi hiljemalt 2. augustiks 2029 ja seejärel iga nelja aasta järel ning esitama Euroopa Parlamendile ja nõukogule aruande. Võttes arvesse mõju käesoleva määruse kohaldamisalale, peaks komisjon lisaks kord aastas hindama vajadust muuta suure riskiga tehisintellektisüsteemide loetelu ja keelatud kasutusviiside loetelu. Lisaks peaks komisjon hiljemalt 2. augustiks 2028 ja seejärel iga nelja aasta järel hindama vajadust muuta käesoleva määruse lisas esitatud suure riskiga valdkondade rubriikide loetelu, läbipaistvuskohustuste kohaldamisalasse kuuluvaid tehisintellektisüsteeme, järelevalve- ja juhtimissüsteemi tõhusust ning üldotstarbeliste tehisintellektimudelite energiatõhusat arendamist käsitlevate standardimisdokumentide väljatöötamisel tehtud edusamme, sealhulgas vajadust täiendavate meetmete või tegevuste järele, ning esitama Euroopa Parlamendile ja nõukogule selle kohta aruande. Samuti peaks komisjon hiljemalt 2. augustiks 2028 ja pärast seda iga kolme aasta järel hindama, kui mõjusalt ja tulemuslikult on vabatahtlikkusel põhinevad käitumisjuhendid edendanud suure riskiga tehisintellektisüsteemidele kehtestatud nõuete kohaldamist tehisintellektisüsteemide puhul, mis ei ole suure riskiga tehisintellektisüsteemid, ja võimalik, et ka muude täiendavate nõuete kohaldamist selliste tehisintellektisüsteemide puhul.
(174)
Habida cuenta de los rápidos avances tecnológicos y de los conocimientos técnicos necesarios para la aplicación efectiva del presente Reglamento, la Comisión debe evaluar y revisar el presente Reglamento a más tardar el 2 de agosto de 2029 y posteriormente cada cuatro años e informar al Parlamento Europeo y al Consejo. Además, teniendo en cuenta las implicaciones por lo que respecta al ámbito de aplicación del presente Reglamento, la Comisión debe llevar a cabo una evaluación de la necesidad de modificar la lista de sistemas de IA de alto riesgo y la lista de prácticas prohibidas una vez al año. Asimismo, a más tardar 2 de agosto de 2028 y posteriormente cada cuatro años, la Comisión debe evaluar y comunicar al Parlamento Europeo y al Consejo la necesidad de modificar la lista de ámbitos de alto riesgo que figura en el anexo del presente Reglamento, los sistemas de IA incluidos en el ámbito de aplicación de las obligaciones de transparencia, la eficacia del sistema de supervisión y gobernanza y los avances en el desarrollo de documentos de normalización sobre el desarrollo eficiente desde el punto de vista energético de modelos de IA de uso general, incluida la necesidad de medidas o acciones adicionales. Por último, a más tardar el 2 de agosto de 2028 y posteriormente cada tres años, la Comisión debe evaluar la repercusión y la eficacia de los códigos de conducta voluntarios para fomentar la aplicación de los requisitos establecidos para los sistemas de IA de alto riesgo a los sistemas de IA que no sean sistemas de IA de alto riesgo y, posiblemente, otros requisitos adicionales para dichos sistemas de IA.
(175)
Selleks et tagada käesoleva määruse ühetaolised rakendamistingimused, tuleks komisjonile anda rakendamisvolitused. Neid volitusi tuleks teostada kooskõlas Euroopa Parlamendi ja nõukogu määrusega (EL) nr 182/2011 (56).
(175)
A fin de garantizar condiciones uniformes de ejecución del presente Reglamento, deben conferirse a la Comisión competencias de ejecución. Dichas competencias deben ejercerse de conformidad con el Reglamento (UE) n.o 182/2011 del Parlamento Europeo y del Consejo (56).
(176)
Kuna käesoleva määruse eesmärki, nimelt parandada siseturu toimimist ning edendada inimkeskse ja usaldusväärse tehisintellekti laialdast kasutuselevõttu, tagades samal ajal tervise, turvalisuse ja põhiõiguste hartas sätestatud põhiõiguste, sealhulgas demokraatia, õigusriigi põhimõtte, kõrgel tasemel kaitse ja keskkonnakaitse tehisintellektisüsteemide kahjuliku mõju vastu liidus ning toetades innovatsiooni, ei suuda liikmesriigid piisavalt saavutada, küll aga saab seda meetme ulatuse või toime tõttu paremini saavutada liidu tasandil, võib liit võtta meetmeid kooskõlas ELi lepingu artiklis 5 sätestatud subsidiaarsuse põhimõttega. Kõnealuses artiklis sätestatud proportsionaalsuse põhimõtte kohaselt ei lähe käesolev määrus nimetatud eesmärgi saavutamiseks vajalikust kaugemale.
(176)
Dado que el objetivo del presente Reglamento, a saber, mejorar el funcionamiento del mercado interior y promover la adopción de una IA centrada en el ser humano y fiable, garantizando al mismo tiempo un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales consagrados en la Carta, incluidos la democracia, el Estado de Derecho y la protección del medio ambiente, frente a los efectos perjudiciales de los sistemas de IA en la Unión, así como brindar apoyo a la innovación, no pueden ser alcanzados de manera suficiente por los Estados miembros, sino que, debido a sus dimensiones y efectos, pueden lograrse mejor a escala de la Unión, esta puede adoptar medidas, de acuerdo con el principio de subsidiariedad establecido en el artículo 5 del TUE. De conformidad con el principio de proporcionalidad establecido en el mismo artículo, el presente Reglamento no excede de lo necesario para alcanzar dicho objetivo.
(177)
Selleks et tagada õiguskindlus, tagada operaatoritele asjakohane kohanemisaeg ja vältida turuhäireid, sealhulgas tagades tehisintellektisüsteemide kasutamise järjepidevuse, on asjakohane, et käesolevat määrust kohaldatakse suure riskiga tehisintellektisüsteemide suhtes, mis on turule lastud või kasutusele võetud enne käesoleva määruse üldist kohaldamiskuupäeva, ainult juhul, kui pärast nimetatud kuupäeva muudetakse oluliselt nende projekti või sihtotstarvet. On asjakohane selgitada, et sellega seoses tuleks olulise muutmise mõistet käsitada sisuliselt samaväärsena olulise muudatuse mõistega, mida kasutatakse ainult käesoleva määruse kohaste suure riskiga tehisintellektisüsteemide puhul. Erandkorras ja avaliku sektori vastutust silmas pidades peaksid käesoleva määruse lisas loetletud õigusaktidega loodud suuremahuliste IT-süsteemide komponentideks olevate tehisintellektisüsteemide operaatorid ja avaliku sektori asutustele kasutamiseks mõeldud suure riskiga tehisintellektisüsteemide operaatorid võtma vajalikud meetmed, et täita käesoleva määruse nõuded 2030. aasta lõpuks ja hiljemalt 2. augustiks 2030.
(177)
A fin de garantizar la seguridad jurídica, garantizar un período de adaptación adecuado para los operadores y evitar perturbaciones del mercado, también garantizando la continuidad del uso de los sistemas de IA, es conveniente que el presente Reglamento se aplique a los sistemas de IA de alto riesgo que se hayan introducido en el mercado o se hayan puesto en servicio antes de la fecha general de aplicación del Reglamento únicamente si, a partir de esa fecha, dichos sistemas se ven sometidos a cambios significativos en su diseño o su finalidad prevista. Conviene aclarar que, a este respecto, el concepto de «cambio significativo» debe entenderse como equivalente en sustancia al de «modificación sustancial», que se utiliza únicamente con respecto a los sistemas de IA de alto riesgo de conformidad con el presente Reglamento. Con carácter excepcional y a efectos de la rendición pública de cuentas, los operadores de sistemas de IA que sean componentes de sistemas informáticos de gran magnitud establecidos por los actos jurídicos enumerados en un anexo del presente Reglamento y los operadores de sistemas de IA de alto riesgo destinados a ser utilizados por las autoridades públicas deben adoptar, respectivamente, las medidas necesarias para cumplir los requisitos del presente Reglamento antes del final de 2030 y, a más tardar el 2 de agosto de 2030.
(178)
Suure riskiga tehisintellektisüsteemide pakkujaid julgustatakse hakkama vabatahtlikult täitma käesoleva määruse asjakohaseid kohustusi juba üleminekuperioodi jooksul.
(178)
Se anima a los proveedores de sistemas de IA de alto riesgo a que empiecen a cumplir, de forma voluntaria, las obligaciones pertinentes del presente Reglamento ya durante el período transitorio.
(179)
Käesolevat määrust tuleks kohaldada alates 2. augustist 2026. Võttes aga arvesse vastuvõetamatut riski, mis on seotud tehisintellekti teatavate kasutusviisidega, tuleks keelde ja käesoleva määruse üldsätteid kohaldada juba alates 2. veebruarist 2025. Kuigi nende keeldude täielik mõju saavutatakse käesoleva määruse kohase juhtimise kehtestamise ja määruse jõustamisega, on oluline hakata keeldusid kohaldama juba varem, et võtta arvesse vastuvõetamatuid riske ja mõjutada muid menetlusi, näiteks tsiviilõiguses. Veelgi enam, juhtimise ja vastavushindamissüsteemiga seotud taristu tuleks tööle rakendada juba enne 2. augustit 2026 ning seepärast tuleks teada antud asutusi ja juhtimisstruktuuri käsitlevaid sätteid kohaldada alates 2. augustist 2025. Arvestades tehnoloogia kiiret arengut ja üldotstarbeliste tehisintellektimudelite kasutuselevõttu, tuleks üldotstarbeliste tehisintellektimudelite pakkujate kohustusi kohaldada alates 2. augustist 2025. Tegevusjuhendid peaksid olema valmis hiljemalt 2. maiks 2025, et võimaldada pakkujatel nõuetele vastavust õigeaegselt tõendada. Tehisintellektiamet peaks tagama, et liigitamise reeglid ja menetlused on tehnoloogia arengut silmas pidades ajakohased. Lisaks peaksid liikmesriigid nägema ette õigusnormid karistuste, kaasa arvatud haldustrahvide kohta, teatama neist komisjonile ning tagama, et need õigusnormid on käesoleva määruse kohaldamise kuupäevaks nõuetekohaselt ja tulemuslikult rakendatud. Seepärast tuleks karistusi käsitlevaid sätteid hakata kohaldama alates 2. augustist 2025.
(179)
El presente Reglamento debe aplicarse a partir del 2 de agosto de 2026. No obstante, teniendo en cuenta el riesgo inaceptable asociado a determinadas formas de uso de la IA, las prohibiciones, así como las disposiciones generales del presente Reglamento, deben aplicarse ya desde el 2 de febrero de 2025. Aunque dichas prohibiciones no surtan pleno efecto hasta después del establecimiento de la gobernanza y la aplicación del presente Reglamento, es importante anticipar la aplicación de las prohibiciones para tener en cuenta los riesgos inaceptables y adaptar otros procedimientos, por ejemplo, en el ámbito del Derecho civil. Además, la infraestructura relacionada con la gobernanza y el sistema de evaluación de la conformidad deben estar operativos antes de esa fecha, por lo que las disposiciones relativas a los organismos notificados y la estructura de gobernanza deben ser aplicables a partir del 2 de agosto de 2026. Dada la rápida evolución tecnológica y el elevado ritmo de adopción de modelos de IA de uso general, las obligaciones de los proveedores de modelos de IA de uso general deben aplicarse desde el 2 de agosto de 2025. Los códigos de buenas prácticas deben estar finalizados a más tardar el 2 de mayo de 2025 al objeto de permitir a los proveedores demostrar el cumplimiento de sus obligaciones dentro del plazo previsto. La Oficina de IA debe velar por que las normas y los procedimientos de clasificación estén actualizados con arreglo a los avances tecnológicos. Asimismo, los Estados miembros deben establecer y poner en conocimiento de la Comisión las normas referentes a las sanciones, incluidas las multas administrativas, y asegurarse de que para la fecha de aplicación del presente Reglamento se apliquen de manera adecuada y efectiva. Por lo tanto, las disposiciones relativas a las sanciones deben aplicarse a partir del 2 de agosto de 2025.
(180)
Euroopa Andmekaitseinspektori ja Euroopa Andmekaitsenõukoguga konsulteeriti kooskõlas määruse (EL) 2018/1725 artikli 42 lõigetega 1 ja 2 ning nad esitasid oma ühisarvamuse 18. juunil 2021,
(180)
El Supervisor Europeo de Protección de Datos y el Comité Europeo de Protección de Datos, a los que se consultó de conformidad con el artículo 42, apartados 1 y 2, del Reglamento (UE) 2018/1725, emitieron su dictamen conjunto el 18 de junio de 2021.
ON VASTU VÕTNUD KÄESOLEVA MÄÄRUSE:
HAN ADOPTADO EL PRESENTE REGLAMENTO:
1. Käesolevat määrust kohaldatakse järgmise suhtes:
1. El presente Reglamento se aplicará a:
a)
pakkujad, kes tegelevad liidus tehisintellektisüsteemide turule laskmise või kasutusele võtmisega või üldotstarbeliste tehisintellektimudelite turule laskmisega, olenemata sellest, kas pakkuja on asutatud või asub liidus või kolmandas riigis;
a)
los proveedores que introduzcan en el mercado o pongan en servicio sistemas de IA o que introduzcan en el mercado modelos de IA de uso general en la Unión, con independencia de si dichos proveedores están establecidos o ubicados en la Unión o en un tercer país;
b)
liidus asutatud või asuvad tehisintellektisüsteemide juurutajad;
b)
los responsables del despliegue de sistemas de IA que estén establecidos o ubicados en la Unión;
c)
kolmandates riikides asutatud või asuvad tehisintellektisüsteemide pakkujad ja juurutajad, kui tehisintellektisüsteemi väljundit kasutatakse liidus;
c)
los proveedores y responsables del despliegue de sistemas de IA que estén establecidos o ubicados en un tercer país, cuando los resultados de salida generados por el sistema de IA se utilicen en la Unión;
d)
tehisintellektisüsteemide importijad ja turustajad;
d)
los importadores y distribuidores de sistemas de IA;
e)
toote valmistajad, kes lasevad turule või võtavad kasutusele tehisintellektisüsteemi koos oma tootega ja oma nime või kaubamärgi all;
e)
los fabricantes de productos que introduzcan en el mercado o pongan en servicio un sistema de IA junto con su producto y con su propio nombre o marca;
f)
pakkujate volitatud esindajad, kes ei ole asutatud liidus;
f)
los representantes autorizados de los proveedores que no estén establecidos en la Unión;
g)
liidus asuvad mõjutatud isikud.
g)
las personas afectadas que estén ubicadas en la Unión.
2. Artikli 6 lõike 1 kohaselt suure riskiga tehisintellektisüsteemideks liigitatud süsteemide puhul, mis on seotud I lisa B jaos loetletud liidu ühtlustamisõigusaktidega hõlmatud toodetega, kohaldatakse üksnes artiklit 6, artikleid 102-109 ja artiklit 112. Artiklit 57 kohaldatakse üksnes niivõrd, kuivõrd käesoleva määruse kohased suure riskiga tehisintellektisüsteemidele esitatavad nõuded on nendesse liidu ühtlustamisõigusaktidesse integreeritud.
2. A los sistemas de IA clasificados como sistemas de IA de alto riesgo de conformidad con el artículo 6, apartado 1, y relativos a productos regulados por los actos legislativos de armonización de la Unión enumerados en la sección B del anexo I, únicamente se les aplicará el artículo 6, apartado 1, y los artículos 102 a 109 y el artículo 112. El artículo 57 se aplicará únicamente en la medida en que los requisitos para los sistemas de IA de alto riesgo en virtud del presente Reglamento se hayan integrado en dichos actos legislativos de armonización de la Unión.
3. Käesolevat määrust ei kohaldata valdkondade suhtes, mis ei kuulu liidu õiguse kohaldamisalasse, ning see ei mõjuta ühelgi juhul liikmesriikide pädevust seoses riikliku julgeolekuga, olenemata üksuse liigist, kellele liikmesriigid on usaldanud nende pädevustega seotud ülesannete täitmise.
3. El presente Reglamento no se aplicará a los ámbitos que queden fuera del ámbito de aplicación del Derecho de la Unión y, en cualquier caso, no afectará a las competencias de los Estados miembros en materia de seguridad nacional, independientemente del tipo de entidad a la que los Estados miembros hayan encomendado el desempeño de tareas en relación con dichas competencias.
Käesolevat määrust ei kohaldata tehisintellektisüsteemide suhtes üksnes siis ja niivõrd, kuivõrd need lastakse turule, võetakse kasutusele või neid kasutatakse muudatustega või ilma muudatusteta üksnes sõjalisel, kaitse- või riikliku julgeoleku eesmärgil, olenemata seda tegevust teostava üksuse liigist.
El presente Reglamento no se aplicará a los sistemas de IA que, y en la medida en que, se introduzcan en el mercado, se pongan en servicio o se utilicen, con o sin modificaciones, exclusivamente con fines militares, de defensa o de seguridad nacional, independientemente del tipo de entidad que lleve a cabo estas actividades.
Käesolevat määrust ei kohaldata tehisintellektisüsteemide suhtes, mida ei lasta turule ega võeta kasutusele liidus, kui väljundit kasutatakse liidus üksnes sõjalise, kaitse- või riikliku julgeoleku eesmärgil, olenemata seda tegevust teostava üksuse liigist.
El presente Reglamento no se aplicará a los sistemas de IA que no se introduzcan en el mercado o no se pongan en servicio en la Unión en los casos en que sus resultados de salida se utilicen en la Unión exclusivamente con fines militares, de defensa o de seguridad nacional, independientemente del tipo de entidad que lleve a cabo estas actividades.
4. Käesolevat määrust ei kohaldata kolmanda riigi ametiasutuste ega vastavalt lõikele 1 käesoleva määruse kohaldamisalasse kuuluvate rahvusvaheliste organisatsioonide suhtes, kui need asutused või organisatsioonid kasutavad tehisintellektisüsteeme liidu või ühe või mitme liikmesriigiga sõlmitud rahvusvahelise koostöö või õiguskaitse ja õigusalase koostöö alaste lepingute raames, tingimusel et selline kolmas riik või rahvusvaheline organisatsioon pakub piisavaid kaitsemeetmeid üksikisikute põhiõiguste ja -vabaduste kaitseks.
4. El presente Reglamento no se aplicará a las autoridades públicas de terceros países ni a las organizaciones internacionales que entren dentro del ámbito de aplicación de este Reglamento conforme al apartado 1 cuando dichas autoridades u organizaciones utilicen sistemas de IA en el marco de acuerdos o de la cooperación internacionales con fines de garantía del cumplimiento del Derecho y cooperación judicial con la Unión o con uno o varios Estados miembros, siempre que tal tercer país u organización internacional ofrezca garantías suficientes con respecto a la protección de los derechos y libertades fundamentales de las personas.
5. Käesolev määrus ei mõjuta määruse (EL) 2022/2065 II peatükis sätestatud vahendusteenuste osutajate vastutust käsitlevate sätete kohaldamist.
5. El presente Reglamento no afectará a la aplicación de las disposiciones relativas a la responsabilidad de los prestadores de servicios intermediarios que figuran en el capítulo II del Reglamento (UE) 2022/2065.
6. Käesolevat määrust ei kohaldata tehisintellektisüsteemide või -mudelite, sealhulgas nende väljundite suhtes, mis on spetsiaalselt välja töötatud ja kasutusele võetud üksnes teadus- ja arendustegevuse eesmärgil.
6. El presente Reglamento no se aplicará a los sistemas o modelos de IA, incluidos sus resultados de salida, desarrollados y puestos en servicio específicamente con la investigación y el desarrollo científicos como única finalidad.
7. Käesolevas määruses sätestatud õiguste ja kohustustega seoses töödeldavate isikuandmete suhtes kohaldatakse isikuandmete kaitset, eraelu puutumatust ja side konfidentsiaalsust käsitlevat liidu õigust. Käesolev määrus ei mõjuta määrusi (EL) 2016/679 ja (EL) 2018/1725 ega direktiive 2002/58/EÜ ja (EL) 2016/680, ilma et see piiraks käesoleva määruse artikli 10 lõike 5 ja artikli 59 kohaldamist.
7. El Derecho de la Unión en materia de protección de los datos personales, la intimidad y la confidencialidad de las comunicaciones se aplicará a los datos personales tratados en relación con los derechos y obligaciones establecidos en el presente Reglamento. El presente Reglamento no afectará a los Reglamentos (UE) 2016/679 o (UE) 2018/1725 ni a las Directivas 2002/58/CE o (UE) 2016/680, sin perjuicio del artículo 10, apartado 5, y el artículo 59 del presente Reglamento.
8. Käesolevat määrust ei kohaldata tehisintellektisüsteemide või tehisintellektimudelitega seotud teadus-, testimis- või arendustegevuse suhtes enne nende turule laskmist või kasutusele võtmist. Selline tegevus toimub kooskõlas kohaldatava liidu õigusega. See väljajätmine ei hõlma tegelikes tingimustes testimist.
8. El presente Reglamento no se aplicará a ninguna actividad de investigación, prueba o desarrollo relativa a sistemas de IA o modelos de IA antes de su introducción en el mercado o puesta en servicio. Estas actividades se llevarán a cabo de conformidad con el Derecho de la Unión aplicable. Las pruebas en condiciones reales no estarán cubiertas por esa exclusión.
9. Käesolev määrus ei piira muudes tarbijakaitset ja tooteohutust käsitlevates liidu õigusaktides sätestatud õigusnormide kohaldamist.
9. El presente Reglamento se entenderá sin perjuicio de las normas establecidas por otros actos jurídicos de la Unión relativos a la protección de los consumidores y a la seguridad de los productos.
10. Käesolevat määrust ei kohaldata isikliku, mitte kutsetegevuse käigus tehisintellektisüsteeme kasutavate füüsilistest isikutest juurutajate kohustuste suhtes.
10. El presente Reglamento no se aplicará a las obligaciones de los responsables del despliegue que sean personas físicas que utilicen sistemas de IA en el ejercicio de una actividad puramente personal de carácter no profesional.
11. Käesolev määrus ei takista liidul või liikmesriikidel säilitamast või kehtestamast õigus- ja haldusnorme, mis on töötajatele soodsamad, et kaitsta nende õigusi seoses tehisintellektisüsteemide kasutamisega tööandjate poolt, või soodustamast või lubamast töötajate jaoks soodsamate kollektiivlepingute kohaldamist.
11. El presente Reglamento no impedirá que la Unión o los Estados miembros mantengan o introduzcan disposiciones legales, reglamentarias o administrativas que sean más favorables a los trabajadores en lo que atañe a la protección de sus derechos respecto al uso de sistemas de IA por parte de los empleadores ni que fomenten o permitan la aplicación de convenios colectivos que sean más favorables a los trabajadores.
12. Käesolevat määrust ei kohaldata tehisintellektisüsteemide suhtes, mis on tarbimisse lubatud vaba ja avatud lähtekoodiga litsentside alusel, välja arvatud juhul, kui need lastakse turule või võetakse kasutusele suure riskiga tehisintellektisüsteemidena või artikli 5 või 50 kohaldamisalasse kuuluva tehisintellektisüsteemina.
12. El presente Reglamento no se aplicará a los sistemas de IA divulgados con arreglo a licencias libres y de código abierto, a menos que se introduzcan en el mercado o se pongan en servicio como sistemas de IA de alto riesgo o como sistemas de IA que entren en el ámbito de aplicación del artículo 5 o del artículo 50.
Tehisintellekti keelatud kasutusviisid
Prácticas de IA prohibidas
1. Järgmised tehisintellekti kasutusviisid on keelatud:
1. Quedan prohibidas las siguientes prácticas de IA:
a)
selliste tehisintellektisüsteemide turule laskmine, kasutusele võtmine või kasutamine, milles on kasutatud inimese teadvusest kaugemale ulatuvale alalävisele tajule suunatud võtteid või sihilikult manipuleerivaid või petlikke võtteid, mille eesmärk või tagajärg on isiku või isikute rühma käitumise oluline moonutamine, kahjustades oluliselt nende võimet teha teadlik otsus ja pannes nad seeläbi tegema otsuse, mida nad ei oleks muul juhul teinud, viisil, mis põhjustab või mõistliku tõenäosusega põhjustab sellele isikule, teisele isikule või isikute rühmale olulist kahju;
a)
la introducción en el mercado, la puesta en servicio o la utilización de un sistema de IA que se sirva de técnicas subliminales que trasciendan la conciencia de una persona o de técnicas deliberadamente manipuladoras o engañosas con el objetivo o el efecto de alterar de manera sustancial el comportamiento de una persona o un colectivo de personas, mermando de manera apreciable su capacidad para tomar una decisión informada y haciendo que tomen una decisión que de otro modo no habrían tomado, de un modo que provoque, o sea razonablemente probable que provoque, perjuicios considerables a esa persona, a otra persona o a un colectivo de personas;
b)
selliste tehisintellektisüsteemide turule laskmine, kasutusele võtmine või kasutamine, mis kasutavad ära füüsilise isiku või konkreetse isikute rühma mis tahes haavatavusi, mis tulenevad nende vanusest, puudest või konkreetsest sotsiaalsest või majanduslikust olukorrast ning mille eesmärk või tagajärg on oluliselt moonutada selle isiku või sellesse rühma kuuluva isiku käitumist viisil, mis põhjustab või mõistliku tõenäosusega põhjustab sellele või mõnele teisele isikule olulist kahju;
b)
la introducción en el mercado, la puesta en servicio o la utilización de un sistema de IA que explote alguna de las vulnerabilidades de una persona física o un determinado colectivo de personas derivadas de su edad o discapacidad, o de una situación social o económica específica, con la finalidad o el efecto de alterar de manera sustancial el comportamiento de dicha persona o de una persona que pertenezca a dicho colectivo de un modo que provoque, o sea razonablemente probable que provoque, perjuicios considerables a esa persona o a otra;
c)
selliste tehisintellektisüsteemide turule laskmine, kasutusele võtmine või kasutamine, millega hinnatakse või liigitatakse füüsilisi isikuid või isikute rühmi teatava aja jooksul, tuginedes nende sotsiaalsele käitumisele või teadaolevatele, tuletatud või prognoositud isiku- või iseloomuomadustele, kusjuures sotsiaalpunktide tulemuseks on üks või mõlemad järgmisest:
c)
la introducción en el mercado, la puesta en servicio o la utilización de sistemas de IA para evaluar o clasificar a personas físicas o a colectivos de personas durante un período determinado de tiempo atendiendo a su comportamiento social o a características personales o de su personalidad conocidas, inferidas o predichas, de forma que la puntuación ciudadana resultante provoque una o varias de las situaciones siguientes:
i)
teatavaid füüsilisi isikuid või isikute rühmi kahjustav või nende suhtes ebasoodne kohtlemine sotsiaalses kontekstis, mis ei ole seotud kontekstiga, milles andmed algselt loodi või koguti;
i)
un trato perjudicial o desfavorable hacia determinadas personas físicas o colectivos de personas en contextos sociales que no guarden relación con los contextos donde se generaron o recabaron los datos originalmente,
ii)
teatavaid füüsilisi isikuid või isikute rühmi kahjustav või nende ebasoodne kohtlemine, mis ei ole põhjendatud või on ebaproportsionaalne võrreldes nende sotsiaalse käitumise või selle kaalukusega;
ii)
un trato perjudicial o desfavorable hacia determinadas personas físicas o colectivos de personas que sea injustificado o desproporcionado con respecto a su comportamiento social o la gravedad de este;
d)
tehisintellektisüsteemide turule laskmine või kasutusele võtmine sellel konkreetsel eesmärgil või nende kasutamine füüsiliste isikute riskihindamiste tegemiseks, et hinnata või prognoosida riski, et füüsiline isik paneb toime kuriteo, tuginedes üksnes füüsilise isiku profiilianalüüsile või tema isikuomaduste ja erijoonte hindamisele; seda keeldu ei kohaldata tehisintellektisüsteemide suhtes, mida kasutatakse selleks, et toetada inimhinnangut isiku kuritegelikus tegevuses osalemise kohta, mis juba tugineb kuritegeliku tegevusega otseselt seotud objektiivsetele ja kontrollitavatele faktidele;
d)
la introducción en el mercado, la puesta en servicio para este fin específico o el uso de un sistema de IA para realizar evaluaciones de riesgos de personas físicas con el fin de valorar o predecir el riesgo de que una persona física cometa un delito basándose únicamente en la elaboración del perfil de una persona física o en la evaluación de los rasgos y características de su personalidad; esta prohibición no se aplicará a los sistemas de IA utilizados para apoyar la valoración humana de la implicación de una persona en una actividad delictiva que ya se base en hechos objetivos y verificables directamente relacionados con una actividad delictiva;
e)
selliste tehisintellektisüsteemide turule laskmine või kasutusele võtmine sellel konkreetsel eesmärgil või nende kasutamine, mis loovad või laiendavad näotuvastuse andmebaase internetist või videovalve salvestistest näokujutiste kindla suunitluseta ekstraheerimise kaudu;
e)
la introducción en el mercado, la puesta en servicio para este fin específico o el uso de sistemas de IA que creen o amplíen bases de datos de reconocimiento facial mediante la extracción no selectiva de imágenes faciales de internet o de circuitos cerrados de televisión;
f)
tehisintellektisüsteemide turule laskmine või kasutusele võtmine sellel konkreetsel eesmärgil või nende kasutamine füüsilise isiku emotsioonide tuletamiseks töökoha ja haridusasutustega seoses, välja arvatud juhul, kui tehisintellektisüsteemi kavatsetakse kasutusele võtta või turule viia meditsiinilistel või ohutusega seotud põhjustel;
f)
la introducción en el mercado, la puesta en servicio para este fin específico o el uso de sistemas de IA para inferir las emociones de una persona física en los lugares de trabajo y en los centros educativos, excepto cuando el sistema de IA esté destinado a ser instalado o introducido en el mercado por motivos médicos o de seguridad;
g)
selliste biomeetrilise liigitamise süsteemide turule laskmine või kasutuselevõtmine sellel konkreetsel eesmärgil või nende kasutamine, mis liigitavad füüsilisi isikuid individuaalselt nende biomeetriliste andmete alusel, et tuletada või järeldada nende rassi, poliitilisi vaateid, ametiühingusse kuulumist, usulisi või filosoofilisi veendumusi, seksuaalelu või seksuaalset sättumust; see keeld ei hõlma seaduslikult saadud biomeetriliste andmete, näiteks biomeetrilistel andmetel põhinevate piltide märgistamist või filtreerimist või biomeetriliste andmete kategoriseerimist õiguskaitse valdkonnas;
g)
la introducción en el mercado, la puesta en servicio para este fin específico o el uso de sistemas de categorización biométrica que clasifiquen individualmente a las personas físicas sobre la base de sus datos biométricos para deducir o inferir su raza, opiniones políticas, afiliación sindical, convicciones religiosas o filosóficas, vida sexual u orientación sexual; esta prohibición no incluye el etiquetado o filtrado de conjuntos de datos biométricos adquiridos lícitamente, como imágenes, basado en datos biométricos ni la categorización de datos biométricos en el ámbito de la garantía del cumplimiento del Derecho;
h)
avalikult juurdepääsetavas ruumis reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamine õiguskaitse jaoks, välja arvatud juhul, kui selline kasutamine on vajalik rangelt ainult ühel järgmistest eesmärkidest, ja ainult selleks vajalikus ulatuses:
h)
el uso de sistemas de identificación biométrica remota «en tiempo real» en espacios de acceso público con fines de garantía del cumplimiento del Derecho, salvo y en la medida en que dicho uso sea estrictamente necesario para alcanzar uno o varios de los objetivos siguientes:
i)
konkreetsete inimröövi, inimkaubanduse või seksuaalse ärakasutamise ohvrite sihipärane otsimine ning kadunud isikute otsimine;
i)
la búsqueda selectiva de víctimas concretas de secuestro, trata de seres humanos o explotación sexual de seres humanos, así como la búsqueda de personas desaparecidas,
ii)
füüsiliste isikute elu või füüsilist turvalisust ähvardava konkreetse, suure ja vahetu ohu või tegeliku ja olemasoleva või tegeliku ja prognoositava terrorirünnaku ohu ärahoidmine;
ii)
la prevención de una amenaza específica, importante e inminente para la vida o la seguridad física de las personas físicas o de una amenaza real y actual o real y previsible de un atentado terrorista,
iii)
kuriteo toimepanemises kahtlustatava isiku asukoha kindlaks tegemine või tuvastamine kriminaaluurimise või süüdistuse esitamise või kriminaalkaristuse täitmisele pööramise eesmärgil II lisas osutatud kuritegude eest, mis on asjaomases liikmesriigis karistatavad vabadusekaotuse või vabadust piirava julgeolekumeetmega, mille maksimaalne pikkus on vähemalt neli aastat.
iii)
la localización o identificación de una persona sospechosa de haber cometido un delito a fin de llevar a cabo una investigación o un enjuiciamiento penales o de ejecutar una sanción penal por alguno de los delitos mencionados en el anexo II que en el Estado miembro de que se trate se castigue con una pena o una medida de seguridad privativas de libertad cuya duración máxima sea de al menos cuatro años.
Esimese lõigu punkt h ei piira määruse (EL) 2016/679 artikli 9 kohaldamist biomeetriliste andmete töötlemise suhtes muudel kui õiguskaitse eesmärkidel.
El párrafo primero, letra h), se entiende sin perjuicio de lo dispuesto en el artículo 9 del Reglamento (UE) 2016/679 en lo que respecta al tratamiento de datos biométricos con fines distintos de la garantía del cumplimiento del Derecho.
2. Kui kasutatakse reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi avalikult juurdepääsetavas ruumis õiguskaitse jaoks ükskõik millisel lõike 1 esimese lõigu punktis h osutatud eesmärgil, toimub kasutus selles punktis sätestatud eesmärkidel üksnes selleks, et kinnitada konkreetselt sihtmärgiks oleva isiku isikusamasust, ning selle puhul võetakse arvesse järgmisi elemente:
2. El uso de sistemas de identificación biométrica remota «en tiempo real» en espacios de acceso público con fines de garantía del cumplimiento del Derecho para cualquiera de los objetivos mencionados en el apartado 1, párrafo primero, letra h), debe desplegarse para los fines establecidos en dicha letra, únicamente para confirmar la identidad de la persona que constituya el objetivo específico y tendrá en cuenta los siguientes aspectos:
a)
millist laadi on olukord, kus süsteemi võidakse kasutada; eeskätt see, milline oleks kahju raskusaste, tõenäosus ja ulatus juhul, kui süsteemi ei kasutataks;
a)
la naturaleza de la situación que dé lugar al posible uso, y en particular la gravedad, probabilidad y magnitud del perjuicio que se produciría de no utilizarse el sistema;
b)
millised on süsteemi kasutamise tagajärjed kõigi asjaomaste isikute õiguste ja vabaduste seisukohast; eeskätt see, milline on tagajärgede raskusaste, tõenäosus ja ulatus.
b)
las consecuencias que tendría el uso del sistema en los derechos y las libertades de las personas implicadas, y en particular la gravedad, probabilidad y magnitud de dichas consecuencias.
Ühtlasi peab reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutamine avalikult juurdepääsetavas ruumis õiguskaitse jaoks ükskõik millisel käesoleva artikli lõike 1 esimese lõigu punktis h osutatud eesmärgil olema vastavuses kasutamise suhtes kehtivate vajalike ja proportsionaalsete kaitsemeetmete ja tingimustega kooskõlas selle kasutamist lubava siseriikliku õigusega ning seda eeskätt ajaliste, geograafiliste ja isikutega seotud piirangute osas. Reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutamine avalikult juurdepääsetavas ruumis on lubatud üksnes juhul, kui õiguskaitseasutus on viinud lõpule põhiõigustele avalduva mõju hindamise, nagu on sätestatud artiklis 27 ja on registreerinud süsteemi ELi andmebaasis vastavalt artiklile 49. Põhjendatud kiireloomulistel juhtudel võib selliseid süsteeme siiski hakata kasutama ilma neid ELi andmebaasis registreerimata, eeldusel et sellist luba taotletakse põhjendamatu viivituseta.
Además, el uso de sistemas de identificación biométrica remota «en tiempo real» en espacios de acceso público con fines de garantía del cumplimiento del Derecho para cualquiera de los objetivos mencionados en el apartado 1, párrafo primero, letra h), del presente artículo deberá cumplir garantías y condiciones necesarias y proporcionadas en relación con el uso de conformidad con el Derecho nacional que autorice dicho uso, en particular en lo que respecta a las limitaciones temporales, geográficas y personales. El uso del sistema de identificación biométrica remota «en tiempo real» en espacios de acceso público solo se autorizará si la autoridad garante del cumplimiento del Derecho ha completado una evaluación de impacto relativa a los derechos fundamentales según lo dispuesto en el artículo 27 y ha registrado el sistema en la base de datos de la UE de conformidad con el artículo 49. No obstante, en casos de urgencia debidamente justificados, se podrá empezar a utilizar tales sistemas sin el registro en la base de datos de la UE, siempre que dicho registro se complete sin demora indebida.
3. Lõike 1 esimese lõigu punkti h ja lõike 2 kohaldamisel on reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi igaks kasutamiseks avalikult juurdepääsetavas ruumis vaja eelnevat luba, mille annab selle liikmesriigi, kus kasutamine hakkab toimuma, õigusasutus või sõltumatu haldusasutus, kelle otsus on siduv, ja mis antakse põhjendatud taotluse põhjal kooskõlas lõikes 5 osutatud üksikasjalike siseriiklike õigusnormidega. Põhjendatud kiireloomulistel juhtudel võib siiski hakata sellist süsteemi kasutama ilma loata, tingimusel et sellist luba taotletakse põhjendamatu viivituseta ja hiljemalt 24 tunni jooksul. Kui selline luba lükatakse tagasi, lõpetatakse kasutamine viivitamata ning kõik andmed ning selle kasutamise tulemused ja väljundid jäetakse viivitamata kõrvale ja kustutatakse.
3. A los efectos del apartado 1, párrafo primero, letra h), y el apartado 2, todo uso de un sistema de identificación biométrica remota «en tiempo real» en espacios de acceso público con fines de garantía del cumplimiento del Derecho estará supeditado a la concesión de una autorización previa por parte de una autoridad judicial o una autoridad administrativa independiente cuya decisión sea vinculante del Estado miembro en el que vaya a utilizarse dicho sistema, que se expedirá previa solicitud motivada y de conformidad con las normas detalladas del Derecho nacional mencionadas en el apartado 5. No obstante, en una situación de urgencia debidamente justificada, se podrá empezar a utilizar tal sistema sin autorización siempre que se solicite dicha autorización sin demora indebida, a más tardar en un plazo de veinticuatro horas. Si se rechaza dicha autorización, el uso se interrumpirá con efecto inmediato y todos los datos, así como los resultados y la información de salida generados por dicho uso, se desecharán y suprimirán inmediatamente.
Pädev õigusasutus või sõltumatu haldusasutus, kelle otsus on siduv, annab loa üksnes juhul, kui on talle esitatud objektiivsete tõendite või selgete asjaolude põhjal veendunud, et kõnealuse reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutamine on vajalik ja proportsionaalne mõne lõike 1 esimese lõigu punktis h täpsustatud ja taotluses nimetatud eesmärgi saavutamiseks, ning et eelkõige piirdub süsteemi kasutamine sellega, mis on rangelt vajalik seoses ajavahemiku ning geograafilise ja isikulise kohaldamisalaga. Kõnealune asutus võtab taotluse kohta otsuse tegemisel arvesse lõikes 2 osutatud elemente. Ühtki isiku suhtes kahjulikke õiguslikke tagajärgi põhjustavat otsust ei tohi teha üksnes reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi tulemuste põhjal.
La autoridad judicial competente o una autoridad administrativa independiente cuya decisión sea vinculante únicamente concederá la autorización cuando tenga constancia, sobre la base de pruebas objetivas o de indicios claros que se le aporten, de que el uso del sistema de identificación biométrica remota «en tiempo real» es necesario y proporcionado para alcanzar alguno de los objetivos especificados en el apartado 1, párrafo primero, letra h), el cual se indicará en la solicitud, y, en particular, se limita a lo estrictamente necesario en lo que se refiere al período de tiempo, así como al ámbito geográfico y personal. Al pronunciarse al respecto, esa autoridad tendrá en cuenta los aspectos mencionados en el apartado 2. Dicha autoridad no podrá adoptar ninguna decisión que produzca efectos jurídicos adversos para una persona exclusivamente sobre la base de los resultados de salida del sistema de identificación biométrica remota «en tiempo real».
4. Ilma et see piiraks lõike 3 kohaldamist, teavitatakse asjaomast turujärelevalveasutust ja riiklikku andmekaitseasutust igast reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutamisest avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil kooskõlas lõikes 5 osutatud siseriiklike õigusnormidega. Teates esitatakse vähemalt lõikes 6 täpsustatud teave ning teade ei sisalda tundlikke operatiivandmeid.
4. Sin perjuicio de lo dispuesto en el apartado 3, todo uso de un sistema de identificación biométrica remota «en tiempo real» en espacios de acceso público con fines de garantía del cumplimiento del Derecho se notificará a la autoridad de vigilancia del mercado pertinente y a la autoridad nacional de protección de datos de conformidad con las normas nacionales a que se refiere el apartado 5. La notificación contendrá, como mínimo, la información especificada en el apartado 6 y no incluirá datos operativos sensibles.
5. Liikmesriik võib otsustada näha ette võimaluse täielikult või osaliselt lubada reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutamist avalikult juurdepääsetavas ruumis õiguskaitse jaoks lõike 1 esimese lõigu punktis h ning lõigetes 2 ja 3 loetletud piirides ja tingimustel. Asjaomased liikmesriigid kehtestavad oma siseriiklikus õiguses lõikes 3 osutatud lubade taotlemise, andmise ja kasutamise ning nende lubadega seotud järelevalve ja aruandluse jaoks vajalikud üksikasjalikud õigusnormid. Kõnealustes õigusnormides tuleb täpsustada, milliste lõike 1 esimese lõigu punktis h loetletud eesmärkide, sealhulgas milliste punkti h alapunktis iii osutatud kuritegude puhul võib anda pädevatele asutustele loa kasutada neid süsteeme õiguskaitse jaoks. Liikmesriigid teatavad nendest õigusnormidest komisjonile hiljemalt 30 päeva jooksul pärast nende vastuvõtmist. Liikmesriigid võivad kooskõlas liidu õigusega kehtestada biomeetrilise kaugtuvastamise süsteemide kasutamise kohta piiravamaid õigusakte.
5. Los Estados miembros podrán decidir contemplar la posibilidad de autorizar, ya sea total o parcialmente, el uso de sistemas de identificación biométrica remota «en tiempo real» en espacios de acceso público con fines de garantía del cumplimiento del Derecho dentro de los límites y en las condiciones que se indican en el apartado 1, párrafo primero, letra h), y los apartados 2 y 3. Los Estados miembros de que se trate deberán establecer en sus respectivos Derechos nacionales las normas detalladas necesarias aplicables a la solicitud, la concesión y el ejercicio de las autorizaciones a que se refiere el apartado 3, así como a la supervisión y la presentación de informes relacionadas con estas. Dichas normas especificarán también para qué objetivos de los enumerados en el apartado 1, párrafo primero, letra h), y en su caso en relación con qué delitos de los indicados en la letra h), inciso iii), se podrá autorizar a las autoridades competentes para que utilicen esos sistemas con fines de garantía del cumplimiento del Derecho. Los Estados miembros notificarán dichas normas a la Comisión a más tardar treinta días después de su adopción. Los Estados miembros podrán adoptar, de conformidad con el Derecho de la Unión, leyes más restrictivas sobre el uso de sistemas de identificación biométrica remota.
6. Riiklikud turujärelevalveasutused ja liikmesriikide riiklikud andmekaitseasutused, keda on lõike 4 kohaselt teavitatud reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamisest avalikult juurdepääsetavas ruumis õiguskaitse eesmärkidel, esitavad komisjonile sellise kasutamise kohta aastaaruanded. Selleks esitab komisjon liikmesriikidele ning riiklikele turujärelevalve- ja andmekaitseasutustele vormi, mis sisaldab teavet pädevate õigusasutuste või sõltumatu haldusasutuse poolt, kelle otsus on siduv, lõike 3 kohaste loataotluste suhtes tehtud otsuste arvu ja nende tulemuste kohta.
6. Las autoridades nacionales de vigilancia del mercado y las autoridades nacionales de protección de datos de los Estados miembros a las que se haya notificado el uso de sistemas de identificación biométrica remota «en tiempo real» en espacios de acceso público con fines de garantía del cumplimiento del Derecho con arreglo al apartado 4 presentarán a la Comisión informes anuales sobre dicho uso. A tal fin, la Comisión facilitará a los Estados miembros y a las autoridades nacionales de vigilancia del mercado y de protección de datos un modelo que incluya información sobre el número de decisiones adoptadas por las autoridades judiciales competentes o una autoridad administrativa independiente cuya decisión sea vinculante en relación con las solicitudes de autorización de conformidad con el apartado 3, así como su resultado.
7. Komisjon avaldab lõikes 6 osutatud aastaaruannete põhjal aastaaruanded reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamise kohta avalikult juurdepääsetavates ruumides õiguskaitse eesmärgil, tuginedes liikmesriikide koondandmetele. Nimetatud aastaaruanded ei sisalda asjaomase õiguskaitsealase tegevuse tundlikke operatiivandmeid.
7. La Comisión publicará informes anuales sobre el uso de sistemas de identificación biométrica remota «en tiempo real» en espacios de acceso público con fines de garantía del cumplimiento del Derecho elaborados basados en datos agregados relativos a los Estados miembros sobre la base de los informes anuales a que se refiere el apartado 6. Dichos informes anuales no incluirán datos operativos sensibles de las actividades de garantía del cumplimiento del Derecho conexas.
8. Käesolev artikkel ei mõjuta keelde, mida kohaldatakse juhul, kui tehisintellektiga seotud tegevus rikub muud liidu õigust.
8. El presente artículo no afectará a las prohibiciones aplicables cuando una práctica de IA infrinja otras disposiciones de Derecho de la Unión.
Suure riskiga tehisintellektisüsteemide liigitamise reeglid
Reglas de clasificación de los sistemas de IA de alto riesgo
1. Olenemata sellest, kas tehisintellektisüsteem lastakse turule või võetakse kasutusse punktides a ja b osutatud toodetest sõltumatult, peetakse seda tehisintellektisüsteemi suure riskiga süsteemiks, kui täidetud on mõlemad järgmised tingimused:
1. Con independencia de si se ha introducido en el mercado o se ha puesto en servicio sin estar integrado en los productos que se mencionan en las letras a) y b), un sistema de IA se considerará de alto riesgo cuando reúna las dos condiciones que se indican a continuación:
a)
tehisintellektisüsteem on mõeldud kasutamiseks toote turvakomponendina või tehisintellektisüsteem on ise toode, mis on hõlmatud I lisas loetletud liidu ühtlustamisõigusaktidega;
a)
que el sistema de IA esté destinado a ser utilizado como componente de seguridad de un producto que entre en el ámbito de aplicación de los actos legislativos de armonización de la Unión enumerados en el anexo I, o que el propio sistema de IA sea uno de dichos productos, y
b)
toode, mille turvakomponent tehisintellektisüsteem vastavalt punktile a on, või tehisintellektisüsteem ise kui toode peab läbima kolmanda isiku tehtava vastavushindamise, et selle saaks turule lasta või kasutusele võtta vastavalt I lisas loetletud liidu ühtlustamisõigusaktidele.
b)
que el producto del que el sistema de IA sea componente de seguridad con arreglo a la letra a), o el propio sistema de IA como producto, deba someterse a una evaluación de la conformidad de terceros para su introducción en el mercado o puesta en servicio con arreglo a los actos legislativos de armonización de la Unión enumerados en el anexo I.
2. Lisaks lõikes 1 osutatud suure riskiga tehisintellektisüsteemidele peetakse suure riskiga süsteemideks ka III lisas osutatud tehisintellektisüsteeme.
2. Además de los sistemas de IA de alto riesgo a que se refiere el apartado 1, también se considerarán de alto riesgo los sistemas de IA contemplados en el anexo III.
3. Erandina lõikest 2 ei peeta III lisas osutatud tehisintellektisüsteemi suure riskiga süsteemiks, kui see ei ohusta oluliselt füüsiliste isikute tervist, ohutust või põhiõigusi, sealhulgas ei mõjuta oluliselt otsuste tegemise tulemust.
3. No obstante lo dispuesto en el apartado 2, un sistema de IA a que se refiere el anexo III no se considerará de alto riesgo cuando no plantee un riesgo importante de causar un perjuicio a la salud, la seguridad o los derechos fundamentales de las personas físicas, también al no influir sustancialmente en el resultado de la toma de decisiones.
Esimest lõiget kohaldatakse siis, kui on täidetud ükskõik milline järgmistest tingimustest:
El párrafo primero se aplicará cuando se cumpla cualquiera de las condiciones siguientes:
a)
tehisintellektisüsteem on ette nähtud täitma kitsast menetlusülesannet;
a)
que el sistema de IA esté destinado a realizar una tarea de procedimiento limitada;
b)
tehisintellektisüsteem on ette nähtud parandama varem lõpetatud inimtegevuse tulemusi;
b)
que el sistema de IA esté destinado a mejorar el resultado de una actividad humana previamente realizada;
c)
tehisintellektisüsteem on ette nähtud tuvastama otsustuste tegemise mustreid või kõrvalekaldeid varasematest otsustusmustritest ning see ei ole mõeldud varem lõpetatud inimhinnangu asendamiseks või mõjutamiseks ilma nõuetekohase inimkontrollita, või
c)
que el sistema de IA esté destinado a detectar patrones de toma de decisiones o desviaciones con respecto a patrones de toma de decisiones anteriores y no esté destinado a sustituir la valoración humana previamente realizada sin una revisión humana adecuada, ni a influir en ella, o
d)
tehisintellektisüsteem on ette nähtud III lisas loetletud kasutusjuhtumite puhul asjakohase hindamise ettevalmistava ülesande täitmiseks.
d)
que el sistema de IA esté destinado a realizar una tarea preparatoria para una evaluación que sea pertinente a efectos de los casos de uso enumerados en el anexo III.
Olenemata esimesest lõigust käsitatakse III lisas osutatud tehisintellektisüsteemi alati suure riskiga tehisintellektisüsteemina, kui tehisintellektisüsteem teeb füüsiliste isikute profiilianalüüsi.
No obstante lo dispuesto en el párrafo primero, los sistemas de IA a que se refiere el anexo III siempre se considerarán de alto riesgo cuando el sistema de IA efectúe la elaboración de perfiles de personas físicas.
4. Pakkuja, kes leiab, et III lisas osutatud tehisintellektisüsteem ei ole suure riskiga, dokumenteerib oma hinnangu enne selle süsteemi turule laskmist või kasutusele võtmist. Sellise pakkuja suhtes kohaldatakse artikli 49 lõikes 2 sätestatud registreerimiskohustust. Riigi pädevate asutuste taotluse korral esitab pakkuja hindamise dokumendid.
4. El proveedor que considere que un sistema de IA contemplado en el anexo III no es de alto riesgo documentará su evaluación antes de que dicho sistema sea introducido en el mercado o puesto en servicio. Dicho proveedor estará sujeto a la obligación de registro establecida en el artículo 49, apartado 2. A petición de las autoridades nacionales competentes, el proveedor facilitará la documentación de la evaluación.
5. Komisjon esitab pärast konsulteerimist Euroopa tehisintellekti nõukojaga (edaspidi „nõukoda“) ja hiljemalt 2. veebruariks 2026 suunised, milles täpsustatakse käesoleva artikli praktilist rakendamist kooskõlas artikliga 96, koos põhjaliku loeteluga nii suure riskiga kui ka muude tehisintellektisüsteemide kasutusjuhtumite praktiliste näidete kohta.
5. La Comisión, previa consulta al Consejo Europeo de Inteligencia Artificial (en lo sucesivo, «Consejo de IA»), y a más tardar el 2 de febrero de 2026, proporcionará directrices que especifiquen la aplicación práctica del presente artículo en consonancia con el artículo 96, junto con una lista exhaustiva de ejemplos prácticos de casos de uso de sistemas de IA que sean de alto riesgo y que no sean de alto riesgo.
6. Komisjonil on õigus võtta kooskõlas artikliga 97 vastu delegeeritud õigusakte, et muuta käesoleva artikli lõike 3 teist lõiku, lisades selles sätestatud tingimustele uusi tingimusi või neid muuta, kui on konkreetseid ja usaldusväärseid tõendeid selliste tehisintellektisüsteemide olemasolu kohta, mis kuuluvad III lisa kohaldamisalasse, kuid ei kujuta endast märkimisväärset ohtu füüsiliste isikute tervisele, ohutusele või põhiõigustele.
6. La Comisión estará facultada para adoptar actos delegados con arreglo al artículo 97 al objeto de modificar el apartado 3, párrafo segundo, del presente artículo, añadiendo nuevas condiciones a las establecidas en dicho apartado, o modificando estas, cuando existan pruebas concretas y fiables de la existencia de sistemas de IA que entren en el ámbito de aplicación del anexo III, pero que no planteen un riesgo importante de causar un perjuicio a la salud, la seguridad o los derechos fundamentales de las personas físicas.
7. Komisjon võtab kooskõlas artikliga 97 vastu delegeeritud õigusaktid, et muuta käesoleva artikli lõike 3 teist lõiku, jättes välja kõik selles sätestatud tingimused, kui on olemas konkreetsed ja usaldusväärsed tõendid selle kohta, et see on vajalik käesolevas määruses sätestatud tervise, ohutuse ja põhiõiguste kaitse taseme säilitamiseks.
7. La Comisión adoptará actos delegados con arreglo al artículo 97 al objeto de modificar el apartado 3, párrafo segundo, del presente artículo, suprimiendo cualquiera de las condiciones establecidas en él, cuando existan pruebas concretas y fiables de que es necesario para mantener el nivel de protección de la salud, la seguridad y los derechos fundamentales previsto en el presente Reglamento.
8. Ükski lõike 3 teises lõigus sätestatud tingimuste muudatus, mis on vastu võetud käesoleva artikli lõigete 6 ja 7 kohaselt, ei tohi vähendada käesolevas määruses sätestatud tervise, ohutuse ja põhiõiguste kaitse üldist taset ning peab tagama järjepidevuse kooskõlas artikli 7 lõike 1 kohaselt vastu võetud delegeeritud õigusaktidega ning võtma arvesse turu ja tehnoloogia arengut.
8. Ninguna modificación de las condiciones establecidas en el apartado 3, párrafo segundo, adoptada de conformidad con los apartados 6 y 7 del presente artículo, reducirá el nivel global de protección de la salud, la seguridad y los derechos fundamentales previsto en el presente Reglamento, y cualquier modificación garantizará la coherencia con los actos delegados adoptados con arreglo al artículo 7, apartado 1, y tendrá en cuenta la evolución tecnológica y del mercado.
Sistema de gestión de riesgos
1. Suure riskiga tehisintellektisüsteemide jaoks luuakse riskijuhtimissüsteem, seda rakendatakse ja see dokumenteeritakse ning seda hoitakse alal.
1. Se establecerá, implantará, documentará y mantendrá un sistema de gestión de riesgos en relación con los sistemas de IA de alto riesgo.
2. Riskijuhtimissüsteemi käsitatakse pidevalt korduva protsessina, mida kavandatakse ja käitatakse suure riskiga tehisintellektisüsteemi kogu elutsükli jooksul ning mida tuleb korrapäraselt läbi vaadata ja süstemaatiliselt ajakohastada. See peab sisaldama järgmisi etappe:
2. El sistema de gestión de riesgos se entenderá como un proceso iterativo continuo planificado y ejecutado durante todo el ciclo de vida de un sistema de IA de alto riesgo, que requerirá revisiones y actualizaciones sistemáticas periódicas. Constará de las siguientes etapas:
a)
selliste teadaolevate ja mõistlikult prognoositavate riskide kindlakstegemine ja analüüs, mida suure riskiga tehisintellektisüsteem võib kujutada tervisele, ohutusele või põhiõigustele, kui suure riskiga tehisintellektisüsteemi kasutatakse kooskõlas selle sihtotstarbega;
a)
la determinación y el análisis de los riesgos conocidos y previsibles que el sistema de IA de alto riesgo pueda plantear para la salud, la seguridad o los derechos fundamentales cuando el sistema de IA de alto riesgo se utilice de conformidad con su finalidad prevista;
b)
selliste riskide prognoosimine ja hindamine, mis võivad tekkida, kui suure riskiga tehisintellektisüsteemi kasutatakse vastavalt selle sihtotstarbele, aga ka mõistlikult prognoositava väärkasutamise tingimustes;
b)
la estimación y la evaluación de los riesgos que podrían surgir cuando el sistema de IA de alto riesgo se utilice de conformidad con su finalidad prevista y cuando se le dé un uso indebido razonablemente previsible;
c)
muude tekkida võivate riskide hindamine artiklis 72 osutatud turustamisjärgse seire süsteemist saadud andmete analüüsi põhjal;
c)
la evaluación de otros riesgos que podrían surgir, a partir del análisis de los datos recogidos con el sistema de vigilancia poscomercialización a que se refiere el artículo 72;
d)
asjakohaste ja sihipäraste riskijuhtimismeetmete vastuvõtmine punkti a kohaselt kindlaks tehtud riskide käsitlemiseks.
d)
la adopción de medidas adecuadas y específicas de gestión de riesgos diseñadas para hacer frente a los riesgos detectados con arreglo a la letra a).
3. Käesolevas artiklis osutatud riskid hõlmavad ainult neid riske, mida on võimalik mõistlikult maandada või kõrvaldada suure riskiga tehisintellektisüsteemi arendamise või projekteerimise või piisava tehnilise teabe esitamise abil.
3. Los riesgos a que se refiere el presente artículo son únicamente aquellos que pueden mitigarse o eliminarse razonablemente mediante el desarrollo o el diseño del sistema de IA de alto riesgo o el suministro de información técnica adecuada.
4. Lõike 2 punktis d osutatud riskijuhtimismeetmetes võetakse nõuetekohaselt arvesse käesolevas jaos sätestatud nõuete kombineeritud kohaldamisest tulenevat mõju ja võimalikku koostoimet, pidades silmas riskide tõhusamat minimeerimist, saavutades samas asjakohase tasakaalu nende nõuete täitmiseks võetavate meetmete rakendamisel.
4. Las medidas de gestión de riesgos mencionadas en el apartado 2, letra d), tendrán debidamente en cuenta los efectos y la posible interacción derivados de la aplicación combinada de los requisitos establecidos en la presente sección, con vistas a reducir al mínimo los riesgos de manera más eficaz al tiempo que se logra un equilibrio adecuado en la aplicación de las medidas para cumplir dichos requisitos.
5. Lõike 2 punktis d osutatud riskijuhtimismeetmed on sellised, et iga ohuga seotud asjakohast jääkriski ja suure riskiga tehisintellektisüsteemide üldist jääkriski peetakse vastuvõetavaks.
5. Las medidas de gestión de riesgos mencionadas en el apartado 2, letra d), considerarán aceptables los riesgos residuales pertinentes asociados a cada peligro, así como el riesgo residual general de los sistemas de IA de alto riesgo.
Kõige asjakohasemate riskijuhtimismeetmete kindlaksmääramisel tuleb tagada järgmine:
A la hora de determinar las medidas de gestión de riesgos más adecuadas, se procurará:
a)
lõike 2 kohaselt tuvastatud ja hinnatud riskide kõrvaldamine või vähendamine nii palju kui tehniliselt võimalik suure riskiga tehisintellektisüsteemi sobiva projekteerimise ja arendamise abil;
a)
eliminar o reducir los riesgos detectados y evaluados de conformidad con el apartado 2 en la medida en que sea técnicamente viable mediante un diseño y un desarrollo adecuados del sistema de IA de alto riesgo;
b)
asjakohasel juhul sobivate riskimaandamis- ja kontrollimeetmete rakendamine, et käsitleda selliseid riske, mida ei saa kõrvaldada;
b)
implantar, cuando proceda, unas medidas de mitigación y control apropiadas que hagan frente a los riesgos que no puedan eliminarse;
c)
artikli 13 kohaselt nõutava teabe andmine ning asjakohasel juhul juurutajate koolitamine.
c)
proporcionar la información requerida conforme al artículo 13 y, cuando proceda, impartir formación a los responsables del despliegue.
Suure riskiga tehisintellektisüsteemi kasutamisega seotud riskide kõrvaldamisel või vähendamisel võetakse nõuetekohaselt arvesse juurutajalt eeldatavaid tehnilisi teadmisi, kogemusi, haridust ja koolitust, ning eeldatavat kasutuskonteksti, milles kasutamiseks on süsteem mõeldud.
Con vistas a eliminar o reducir los riesgos asociados a la utilización del sistema de IA de alto riesgo, se tendrán debidamente en cuenta los conocimientos técnicos, la experiencia, la educación y la formación que se espera que posea el responsable del despliegue, así como el contexto en el que está previsto que se utilice el sistema.
6. Suure riskiga tehisintellektisüsteeme testitakse, et teha kindlaks kõige asjakohasemad ja sihipäraseid riskijuhtimismeetmed. Testimisega tagatakse, et suure riskiga tehisintellektisüsteemid töötavad oma sihtotstarbe seisukohast järjepidevalt ning vastavad käesolevas jaos sätestatud nõuetele.
6. Los sistemas de IA de alto riesgo serán sometidos a pruebas destinadas a determinar cuáles son las medidas de gestión de riesgos más adecuadas y específicas. Dichas pruebas comprobarán que los sistemas de IA de alto riesgo funcionan de manera coherente con su finalidad prevista y cumplen los requisitos establecidos en la presente sección.
7. Testimismenetlused võivad hõlmata tegelikes tingimustes testimist kooskõlas artikliga 60.
7. Los procedimientos de prueba podrán incluir pruebas en condiciones reales de conformidad con el artículo 60.
8. Suure riskiga tehisintellektisüsteemide testimine toimub vastavalt vajadusele mis tahes ajal kogu arendusprotsessi jooksul ja igal juhul enne nende turule laskmist või kasutusele võtmist. Testimiseks kasutatakse eelnevalt kindlaks määratud parameetreid ja tõenäosuskünniseid, mis on suure riskiga tehisintellektisüsteemi sihtotstarbe seisukohast sobivad.
8. Las pruebas de los sistemas de IA de alto riesgo se realizarán, según proceda, en cualquier momento del proceso de desarrollo y, en todo caso, antes de su introducción en el mercado o puesta en servicio. Las pruebas se realizarán utilizando parámetros y umbrales de probabilidades previamente definidos que sean adecuados para la finalidad prevista del sistema de IA de alto riesgo.
9. Lõigetes 1–7 sätestatud riskijuhtimissüsteemi rakendamisel pööravad pakkujad tähelepanu sellele, kas suure riskiga tehisintellektisüsteem võib oma sihtotstarvet silmas pidades avaldada kahjulikku mõju alla 18-aastastele isikutele, ja kui see on asjakohane, muudele kaitsetutele rühmadele.
9. Cuando se implante el sistema de gestión de riesgos previsto en los apartados 1 a 7, los proveedores prestarán atención a si, en vista de su finalidad prevista, es probable que el sistema de IA de alto riesgo afecte negativamente a las personas menores de dieciocho años y, en su caso, a otros colectivos vulnerables.
10. Suure riskiga tehisintellektisüsteemide pakkujate jaoks, kes peavad täitma liidu muu asjaomase õiguse alusel sisemisi riskijuhtimisprotsesse käsitlevaid nõudeid, võivad lõigetes 1–9 kirjeldatud aspektid olla kõnealuse õiguse kohaselt loodud riskijuhtimismenetluste osa või nendega kombineeritud.
10. En el caso de los proveedores de sistemas de IA de alto riesgo que estén sujetos a requisitos relativos a procesos internos de gestión de riesgos con arreglo a otras disposiciones pertinentes del Derecho de la Unión, los aspectos previstos en los apartados 1 a 9 podrán formar parte de los procedimientos de gestión de riesgos establecidos con arreglo a dicho Derecho, o combinarse con ellos.
Datos y gobernanza de datos
1. Kui tegemist on suure riskiga tehisintellektisüsteemidega, milles kasutatavad meetodid hõlmavad mudelite treenimist andmetega, tuleb nende süsteemide arendamiseks kasutada treenimis-, valideerimis- ja testimisandmestikke, mis vastavad lõigetes 2–5 osutatud kvaliteedikriteeriumidele, kui selliseid andmestikke kasutatakse.
1. Los sistemas de IA de alto riesgo que utilizan técnicas que implican el entrenamiento de modelos de IA con datos se desarrollarán a partir de conjuntos de datos de entrenamiento, validación y prueba que cumplan los criterios de calidad a que se refieren los apartados 2 a 5 siempre que se utilicen dichos conjuntos de datos.
2. Treenimis-, valideerimis- ja testimisandmestike suhtes kohaldatakse suure riskiga tehisintellektisüsteemi sihtotstarbe seisukohast asjakohaseid andmehaldus- ja juhtimistavasid. Need tavad puudutavad eeskätt järgmist:
2. Los conjuntos de datos de entrenamiento, validación y prueba se someterán a prácticas de gobernanza y gestión de datos adecuadas para la finalidad prevista del sistema de IA de alto riesgo. Dichas prácticas se centrarán, en particular, en lo siguiente:
a)
asjakohased projekteerimise käigus tehtavad valikud;
a)
las decisiones pertinentes relativas al diseño;
b)
andmete kogumise protsessid ja andmete päritolu ning isikuandmete puhul andmete kogumise algne eesmärk;
b)
los procesos de recogida de datos y el origen de los datos y, en el caso de los datos personales, la finalidad original de la recogida de datos;
c)
andmevalmenduseks tehtavad asjakohased töötlemistoimingud, näiteks kommenteerimine, märgendamine, puhastamine, ajakohastamine, rikastamine ja koondamine;
c)
las operaciones de tratamiento oportunas para la preparación de los datos, como la anotación, el etiquetado, la depuración, la actualización, el enriquecimiento y la agregación;
d)
eelduste sõnastamine, eeskätt seoses teabega, mida andmed peaksid mõõtma ja kajastama;
d)
la formulación de supuestos, en particular en lo que respecta a la información que se supone que miden y representan los datos;
e)
vajalike andmestike kättesaadavuse, koguste ja sobivuse hindamine;
e)
una evaluación de la disponibilidad, la cantidad y la adecuación de los conjuntos de datos necesarios;
f)
läbi vaatamine, pidades silmas võimalikku kallutatust, mis tõenäoliselt mõjutab inimeste tervist ja ohutust, mõjutab negatiivselt põhiõigusi või põhjustab diskrimineerimist, mis on liidu õigusega keelatud, eriti kui andmeväljundid mõjutavad sisendeid tulevaste toimingute jaoks;
f)
el examen atendiendo a posibles sesgos que puedan afectar a la salud y la seguridad de las personas, afectar negativamente a los derechos fundamentales o dar lugar a algún tipo de discriminación prohibida por el Derecho de la Unión, especialmente cuando las salidas de datos influyan en las informaciones de entrada de futuras operaciones;
g)
asjakohased meetmed punkti f kohaselt kindlaks tehtud võimaliku kallutatuse avastamiseks, ennetamiseks ja leevendamiseks;
g)
medidas adecuadas para detectar, prevenir y mitigar posibles sesgos detectados con arreglo a la letra f);
h)
käesoleva määruse järgimist takistavate asjakohaste andmelünkade või puuduste kindlakstegemine ja võimalused nende lünkade ja puuduste kõrvaldamiseks.
h)
la detección de lagunas o deficiencias pertinentes en los datos que impidan el cumplimiento del presente Reglamento, y la forma de subsanarlas.
3. Treenimis-, valideerimis- ja testimisandmestikud peavad olema asjakohased, piisavalt representatiivsed ning võimalikult suurel määral vigadeta ja täielikud, pidades silmas nende sihtotstarvet. Neid peavad iseloomustama asjakohased statistilised omadused, sealhulgas kohaldataval juhul seoses isikute või isikute rühmadega, kelle suhtes kavatsetakse suure riskiga tehisintellektisüsteemi kasutada. Need andmestiku omadused võivad olla täidetud üksikute andmestike või nende kombinatsiooni tasandil.
3. Los conjuntos de datos de entrenamiento, validación y prueba serán pertinentes, suficientemente representativos y, en la mayor medida posible, carecerán de errores y estarán completos en vista de su finalidad prevista. Asimismo, tendrán las propiedades estadísticas adecuadas, por ejemplo, cuando proceda, en lo que respecta a las personas o los colectivos de personas en relación con los cuales está previsto que se utilice el sistema de IA de alto riesgo. Los conjuntos de datos podrán reunir esas características para cada conjunto de datos individualmente o para una combinación de estos.
4. Andmestikes tuleb sihtotstarbe jaoks vajalikus ulatuses võtta arvesse omadusi või elemente, mis iseloomustavad konkreetset geograafilist, kontekstuaalset, käitumuslikku või funktsionaalset keskkonda, kus kavatsetakse suure riskiga tehisintellektisüsteemi kasutada.
4. Los conjuntos de datos tendrán en cuenta, en la medida necesaria para la finalidad prevista, las características o elementos particulares del entorno geográfico, contextual, conductual o funcional específico en el que está previsto que se utilice el sistema de IA de alto riesgo.
5. Niivõrd kui see on rangelt vajalik selleks, et tagada kallutatuse avastamine ja korrigeerimine suure riskiga tehisintellektisüsteemide puhul kooskõlas käesoleva artikli lõike 2 punktidega f ja g, võivad selliste süsteemide pakkujad erandkorras töödelda isikuandmete eriliike, kohaldades asjakohaseid kaitsemeetmeid füüsiliste isikute põhiõiguste ja -vabaduste kaitseks. Lisaks määruste (EL) 2016/679 ja (EL) 2018/1725 ning direktiivi (EL) 2016/680 sätetele peab selline töötlemine vastama kõigile järgmistele tingimustele:
5. En la medida en que sea estrictamente necesario para garantizar la detección y corrección de los sesgos asociados a los sistemas de IA de alto riesgo de conformidad con lo dispuesto en el apartado 2, letras f) y g), del presente artículo, los proveedores de dichos sistemas podrán tratar excepcionalmente las categorías especiales de datos personales siempre que ofrezcan las garantías adecuadas en relación con los derechos y las libertades fundamentales de las personas físicas. Además de las disposiciones establecidas en los Reglamentos (UE) 2016/679 y (UE) 2018/1725 y la Directiva (UE) 2016/680, para que se produzca dicho tratamiento deben cumplirse todas las condiciones siguientes:
a)
kallutatuse tuvastamist ja parandamist ei ole võimalik tulemuslikult saavutada muude andmete, sealhulgas tehisandmete või anonüümitud andmete töötlemisega;
a)
que el tratamiento de otros datos, como los sintéticos o los anonimizados, no permita efectuar de forma efectiva la detección y corrección de sesgos;
b)
isikuandmete eriliikide suhtes kehtivad isikuandmete taaskasutamise tehnilised piirangud ning tipptasemel turva- ja privaatsuse säilitamise meetmed, sealhulgas pseudonüümimine;
b)
que las categorías especiales de datos personales estén sujetas a limitaciones técnicas relativas a la reutilización de los datos personales y a medidas punteras en materia de seguridad y protección de la intimidad, incluida la seudonimización;
c)
isikuandmete eriliikide suhtes kohaldatakse meetmeid, millega tagatakse töödeldavate isikuandmete turvalisus, kaitse ja asjakohased kaitsemeetmed, sealhulgas juurdepääsu range kontroll ja dokumenteerimine, et vältida väärkasutamist ja tagada, et ainult volitatud isikutel, kellel on asjakohased konfidentsiaalsuskohustused, on juurdepääs kõnealustele isikuandmetele;
c)
que las categorías especiales de datos personales estén sujetas a medidas para garantizar que los datos personales tratados estén asegurados, protegidos y sujetos a garantías adecuadas, incluidos controles estrictos y documentación del acceso, a fin de evitar el uso indebido y garantizar que solo las personas autorizadas tengan acceso a dichos datos personales con obligaciones de confidencialidad adecuadas;
d)
isikuandmete eriliike ei tohi edastada ega üle anda ning need ei tohi olla teistele isikutele muul moel kättesaadavad;
d)
que las categorías especiales de datos personales no se transmitan ni transfieran a terceros y que estos no puedan acceder de ningún otro modo a ellos;
e)
isikuandmete eriliigid kustutatakse, kui kallutatus on parandatud või kui isikuandmete säilitamisperiood saab läbi, olenevalt sellest, kumb saabub varem;
e)
que las categorías especiales de datos personales se eliminen una vez que se haya corregido el sesgo o los datos personales hayan llegado al final de su período de conservación, si esta fecha es anterior;
f)
määruste (EL) 2016/679 ja (EL) 2018/1725 ning direktiivi (EL) 2016/680 kohane isikuandmete töötlemise toimingute registreerimine hõlmab põhjuseid, miks isikuandmete eriliikide töötlemine oli rangelt vajalik kallutatuse avastamiseks ja parandamiseks ning miks seda eesmärki ei olnud võimalik saavutada muude andmete töötlemisega.
f)
que los registros de las actividades de tratamiento con arreglo a los Reglamentos (UE) 2016/679 y (UE) 2018/1725 y la Directiva (UE) 2016/680 incluyan las razones por las que el tratamiento de categorías especiales de datos personales era estrictamente necesario para detectar y corregir sesgos, y por las que ese objetivo no podía alcanzarse mediante el tratamiento de otros datos.
6. Nende suure riskiga tehisintellektisüsteemide arendamisel, mille puhul ei kasutata tehisintellektimudelite treenimist hõlmavaid meetodeid, kohaldatakse lõikeid 2–5 üksnes testimisandmestike suhtes.
6. Para el desarrollo de sistemas de IA de alto riesgo que no empleen técnicas que impliquen el entrenamiento de modelos de IA, los apartados 2 a 5 se aplicarán únicamente a los conjuntos de datos de prueba.
Tehniline dokumentatsioon
1. Suure riskiga tehisintellektisüsteemi tehniline dokumentatsioon koostatakse enne süsteemi turule laskmist või kasutusele võtmist ning see hoitakse ajakohasena.
1. La documentación técnica de un sistema de IA de alto riesgo se elaborará antes de su introducción en el mercado o puesta en servicio, y se mantendrá actualizada.
Tehniline dokumentatsioon koostatakse selliselt, et see tõendaks suure riskiga tehisintellektisüsteemi vastavust käesolevas jaos sätestatud nõuetele ja annaks riikide pädevatele asutustele ja teada antud asutustele selgel ja terviklikul kujul teabe, mis on vajalik, et hinnata tehisintellektisüsteemi vastavust neile nõuetele. Dokumentatsioon peab sisaldama vähemalt IV lisas loetletud elemente. VKEd, sealhulgas idufirmad, võivad esitada IV lisas täpsustatud tehnilise dokumentatsiooni elemente lihtsustatud viisil. Selleks kehtestab komisjon väikeste ja mikroettevõtjate vajadustele vastava lihtsustatud tehnilise dokumentatsiooni vormi. Kui VKE, sealhulgas idufirma, otsustab esitada IV lisas nõutud teabe lihtsustatud korras, kasutab ta käesolevas lõikes osutatud vormi. Teada antud asutused peavad seda vormi vastavushindamise tegemisel arvestama.
La documentación técnica se redactará de modo que demuestre que el sistema de IA de alto riesgo cumple los requisitos establecidos en la presente sección y que proporcione de manera clara y completa a las autoridades nacionales competentes y a los organismos notificados la información necesaria para evaluar la conformidad del sistema de IA con dichos requisitos. Contendrá, como mínimo, los elementos contemplados en el anexo IV. Las pymes, incluidas las empresas emergentes, podrán facilitar los elementos de la documentación técnica especificada en el anexo IV de manera simplificada. A tal fin, la Comisión establecerá un formulario simplificado de documentación técnica orientado a las necesidades de las pequeñas empresas y las microempresas. Cuando una pyme, incluidas las empresas emergentes, opte por facilitar la información exigida en el anexo IV de manera simplificada, utilizará el formulario a que se refiere el presente apartado. Los organismos notificados aceptarán dicho formulario a efectos de la evaluación de la conformidad.
2. Kui turule lastakse või kasutusele võetakse suure riskiga tehisintellektisüsteem, mis on seotud tootega, mille suhtes kohaldatakse I lisa A osas loetletud liidu ühtlustamisõigusakte, koostatakse ühtne tehniline dokumentatsioon, mis sisaldab nii kogu lõikes 1 esitatud teavet kui ka nimetatud õigusaktide kohaselt nõutavat teavet.
2. Cuando se introduzca en el mercado o se ponga en servicio un sistema de IA de alto riesgo asociado a un producto que entre en el ámbito de aplicación de los actos legislativos de armonización de la Unión mencionados en el anexo I, sección A, se elaborará un único conjunto de documentos técnicos que contenga toda la información mencionada en el apartado 1, así como la información que exijan dichos actos legislativos.
3. Komisjon võtab kooskõlas artikliga 97 vastu delegeeritud õigusakte, et muuta IV lisa, kui see on vajalik selle tagamiseks, et tehniline dokumentatsioon sisaldab tehnika arengut arvestades kogu vajalikku teavet, et hinnata süsteemi vastavust käesolevas jaos sätestatud nõuetele.
3. La Comisión estará facultada para adoptar actos delegados con arreglo al artículo 97 al objeto de modificar el anexo IV, cuando sea necesario, para garantizar que, en vista de los avances técnicos, la documentación técnica proporcione toda la información necesaria para evaluar si el sistema cumple los requisitos establecidos en la presente sección.
1. Suure riskiga tehisintellektisüsteeme projekteeritakse ja arendatakse selliselt, et füüsilised isikud saaksid teha süsteemide kasutamise ajal nende üle reaalset järelevalvet, muu hulgas asjakohaste inimene-masin kasutajaliideste abil.
1. Los sistemas de IA de alto riesgo se diseñarán y desarrollarán de modo que puedan ser vigilados de manera efectiva por personas físicas durante el período que estén en uso, lo que incluye dotarlos de herramientas de interfaz humano-máquina adecuadas.
2. Inimjärelevalve eesmärk on hoida ära või minimeerida tervist, ohutust või põhiõigusi ähvardavaid riske, mis võivad tekkida, kui suure riskiga tehisintellektisüsteemi kasutatakse vastavalt selle sihtotstarbele või mõistlikult prognoositava väärkasutamise tingimustes, eeskätt juhul, kui sellised riskid jäävad alles ka siis, kui kohaldatakse muid käesolevas jaos sätestatud nõudeid.
2. El objetivo de la supervisión humana será prevenir o reducir al mínimo los riesgos para la salud, la seguridad o los derechos fundamentales que pueden surgir cuando se utiliza un sistema de IA de alto riesgo conforme a su finalidad prevista o cuando se le da un uso indebido razonablemente previsible, en particular cuando dichos riesgos persistan a pesar de la aplicación de otros requisitos establecidos en la presente sección.
3. Järelevalvemeetmed peavad vastama suure riskiga tehisintellektisüsteemi riskidele, autonoomsuse tasemele ja kasutuskontekstile ning need tagatakse kas ühe järgmist liiki meetme või kõigi järgmist liiki meetmetega:
3. Las medidas de supervisión serán proporcionales a los riesgos, al nivel de autonomía y al contexto de uso del sistema de IA de alto riesgo, y se garantizarán bien mediante uno de los siguientes tipos de medidas, bien mediante ambos:
a)
meetmed, mille pakkuja on enne suure riskiga tehisintellektisüsteemi turule laskmist või kasutusele võtmist kindlaks teinud, ja kui see on tehniliselt teostatav, sellisesse süsteemi sisse ehitanud;
a)
las medidas que el proveedor defina y que integre, cuando sea técnicamente viable, en el sistema de IA de alto riesgo antes de su introducción en el mercado o su puesta en servicio;
b)
meetmed, mille pakkuja on enne suure riskiga tehisintellektisüsteemi turule laskmist või kasutusele võtmist kindlaks teinud ja mis sobivad selleks, et juurutaja saaks neid rakendada.
b)
las medidas que el proveedor defina antes de la introducción del sistema de IA de alto riesgo en el mercado o de su puesta en servicio y que sean adecuadas para que las ponga en práctica el responsable del despliegue.
4. Lõigete 1, 2 ja 3 rakendamiseks antakse suure riskiga tehisintellektisüsteem juurutajale sellisel viisil, et füüsilistel isikutel, kellele on antud ülesanne teha inimjärelevalvet, oleks võimalik, kui see on olenevalt asjaoludest asjakohane ja proportsionaalne:
4. A efectos de la puesta en práctica de lo dispuesto en los apartados 1, 2 y 3, el sistema de IA de alto riesgo se ofrecerá al responsable del despliegue de tal modo que las personas físicas a quienes se encomiende la supervisión humana puedan, según proceda y de manera proporcionada a:
a)
mõista nõuetekohaselt suure riskiga tehisintellektisüsteemi asjakohaseid võimeid ja piire ning teha igakülgset seiret selle toimimise üle, sealhulgas selleks, et avastada kõrvalekaldeid, väärtalitlusi ja ootamatut toimimist ning nendega tegeleda;
a)
entender adecuadamente las capacidades y limitaciones pertinentes del sistema de IA de alto riesgo y poder vigilar debidamente su funcionamiento, por ejemplo, con vistas a detectar y resolver anomalías, problemas de funcionamiento y comportamientos inesperados;
b)
olla pidevalt teadlik võimalusest, et tekib kalduvus hakata automaatselt tuginema või liigselt tuginema suure riskiga tehisintellektisüsteemi toodetud väljundile (nn kalduvus eelistada automatiseerimist), seda eriti siis, kui tegemist on suure riskiga tehisintellektisüsteemidega, mida kasutatakse, et saada teavet või soovitusi füüsiliste isikute tehtavate otsuste jaoks;
b)
ser conscientes de la posible tendencia a confiar automáticamente o en exceso en los resultados de salida generados por un sistema de IA de alto riesgo («sesgo de automatización»), en particular con aquellos sistemas que se utilizan para aportar información o recomendaciones con el fin de que personas físicas adopten una decisión;
c)
korrektselt tõlgendada suure riskiga tehisintellektisüsteemi väljundit, võttes arvesse näiteks kättesaadavaid tõlgendamisvahendeid ja -meetodeid;
c)
interpretar correctamente los resultados de salida del sistema de IA de alto riesgo, teniendo en cuenta, por ejemplo, los métodos y herramientas de interpretación disponibles;
d)
otsustada igas konkreetses olukorras, et suure riskiga tehisintellektisüsteemi ei kasutata, või jätta suure riskiga tehisintellektisüsteemi väljund muul moel kõrvale, sürjutada või tagasi võtta;
d)
decidir, en cualquier situación concreta, no utilizar el sistema de IA de alto riesgo o descartar, invalidar o revertir los resultados de salida que este genere;
e)
sekkuda suure riskiga tehisintellektisüsteemi toimimisse või katkestada süsteemi töö stopp-nupu või muu sarnase protseduuriga, mis võimaldab süsteemil ohutus olekus peatuda.
e)
intervenir en el funcionamiento del sistema de IA de alto riesgo o interrumpir el sistema pulsando un botón de parada o mediante un procedimiento similar que permita que el sistema se detenga de forma segura.
5. III lisa punkti 1 alapunktis a osutatud suure riskiga tehisintellektisüsteemide puhul tagatakse käesoleva artikli lõikes 3 osutatud meetmetega, et lisaks sellele ei tee ega otsusta juurutaja süsteemist saadud tuvastamise põhjal midagi, kui seda tuvastamist ei ole eraldi kontrollinud ja kinnitanud vähemalt kaks füüsilist isikut, kellel on vajalik pädevus, väljaõpe ja volitused.
5. En el caso de los sistemas de IA de alto riesgo mencionados en el anexo III, punto 1, letra a), las medidas a que se refiere el apartado 3 del presente artículo garantizarán, además, que el responsable del despliegue no actúe ni tome ninguna decisión basándose en la identificación generada por el sistema, salvo si al menos dos personas físicas con la competencia, formación y autoridad necesarias han verificado y confirmado por separado dicha identificación.
Nõuet, et vähemalt kaks füüsilist isikut peavad eraldi kontrollima neid suure riskiga tehisintellektisüsteeme, mida kasutatakse õiguskaitse, rände, piirikontrolli või varjupaigaga seotud eesmärgil, ei kohaldata, kui liidu või riigi õiguse kohaselt peetakse selle nõude kohaldamist ebaproportsionaalseks.
El requisito de la verificación por parte de al menos dos personas físicas por separado no se aplicará a los sistemas de IA de alto riesgo utilizados con fines de garantía del cumplimiento del Derecho, de migración, de control fronterizo o de asilo cuando el Derecho nacional o de la Unión considere que la aplicación de este requisito es desproporcionada.
Täpsus, stabiilsus ja küberturvalisus
Precisión, solidez y ciberseguridad
1. Suure riskiga tehisintellektisüsteeme projekteeritakse ja arendatakse selliselt, et need saavutaksid asjakohase täpsuse, stabiilsuse ja küberturvalisuse taseme ning et nad toimiksid nendes aspektides järjekindlalt oma kogu elutsükli jooksul.
1. Los sistemas de IA de alto riesgo se diseñarán y desarrollarán de modo que alcancen un nivel adecuado de precisión, solidez y ciberseguridad y funcionen de manera uniforme en esos sentidos durante todo su ciclo de vida.
2. Selleks et käsitleda lõikes 1 sätestatud asjakohase täpsuse ja stabiilsuse taseme mõõtmise ning muude asjakohaste tulemusnäitajate tehnilisi aspekte, julgustab komisjon koostöös asjaomaste sidusrühmade ja organisatsioonidega, nagu metroloogia- ja võrdlusuuringuasutused, vajaduse korral võrdlusaluste ja mõõtmismeetodite väljatöötamist.
2. Para abordar los aspectos técnicos sobre la forma de medir los niveles adecuados de precisión y solidez establecidos en el apartado 1 y cualquier otro parámetro de rendimiento pertinente, la Comisión, en cooperación con las partes interesadas y organizaciones pertinentes, como las autoridades de metrología y de evaluación comparativa, fomentará, según proceda, el desarrollo de parámetros de referencia y metodologías de medición.
3. Suure riskiga tehisintellektisüsteemide täpsuse tasemed ja asjakohased täpsuse parameetrid tuleb deklareerida süsteemiga kaasas olevas kasutusjuhendis.
3. En las instrucciones de uso que acompañen a los sistemas de IA de alto riesgo se indicarán los niveles de precisión de dichos sistemas, así como los parámetros pertinentes para medirla.
4. Suure riskiga tehisintellektisüsteemid peavad olema süsteemis või süsteemi töökeskkonnas tekkida võivate vigade, rikete või ebakõlade suhtes võimalikult vastupidavad, eriti juhul, kui põhjuseks on süsteemi interaktsioon füüsiliste isikute või muude süsteemidega. Selleks võetakse tehnilisi ja korralduslikke meetmeid.
4. Los sistemas de IA de alto riesgo serán lo más resistentes posible en lo que respecta a los errores, fallos o incoherencias que pueden surgir en los propios sistemas o en el entorno en el que funcionan, en particular a causa de su interacción con personas físicas u otros sistemas. Se adoptarán medidas técnicas y organizativas a este respecto.
Suure riskiga tehisintellektisüsteemide stabiilsuse võib saavutada tehnilise liiasuse lahendustega, mis võivad hõlmata varuplaane või tõrkekindluse plaane.
La solidez de los sistemas de IA de alto riesgo puede lograrse mediante soluciones de redundancia técnica, tales como copias de seguridad o planes de prevención contra fallos.
Suure riskiga tehisintellektisüsteeme, mis õpivad edasi ka pärast turule laskmist või kasutusele võtmist, arendatakse selliselt, et kõrvaldada või vähendada niipalju kui võimalik potentsiaalselt kallutatud väljundite riski, mis võivad mõjutada edasiste toimingute sisendit (edaspidi „tagasisideahelad“) ning tagada, et selliseid tagasisideahelaid käsitletakse igakülgselt asjakohaste leevendusmeetmete kaudu.
Los sistemas de IA de alto riesgo que continúan aprendiendo tras su introducción en el mercado o puesta en servicio se desarrollarán de tal modo que se elimine o reduzca lo máximo posible el riesgo de que los resultados de salida que pueden estar sesgados influyan en la información de entrada de futuras operaciones (bucles de retroalimentación) y se garantice que dichos bucles se subsanen debidamente con las medidas de reducción de riesgos adecuadas.
5. Suure riskiga tehisintellektisüsteemid peavad pidama vastu volitamata kolmandate isikute katsetele muuta süsteemi kasutamist, väljundit või toimimist, kasutades ära süsteemi nõrkusi.
5. Los sistemas de IA de alto riesgo serán resistentes a los intentos de terceros no autorizados de alterar su uso, sus resultados de salida o su funcionamiento aprovechando las vulnerabilidades del sistema.
Suure riskiga tehisintellektisüsteemide küberturvalisuse tagamiseks kasutatavad tehnilised lahendused peavad vastama asjaomastele asjaoludele ja riskidele.
Las soluciones técnicas encaminadas a garantizar la ciberseguridad de los sistemas de IA de alto riesgo serán adecuadas a las circunstancias y los riesgos pertinentes.
Tehisintellektile iseloomulike nõrkuste käsitlemiseks kasutatavad tehnilised lahendused hõlmavad olenevalt asjaoludest meetmeid, millega hoida ära, avastada, tõrjuda, lahendada ja kontrollida ründeid, millega püütakse manipuleerida treenimisandmestikku („andmemürgitus“) või treenimisel kasutatavaid eeltreenitud komponente („mudelimürgitus“), sisendeid, mille eesmärk on panna tehisintellektimudel viga tegema („vastandnäited“ või „mudelist kõrvalehoidumine“), konfidentsiaalsusründeid või mudelivigu.
Entre las soluciones técnicas destinadas a subsanar vulnerabilidades específicas de la IA figurarán, según corresponda, medidas para prevenir, detectar, combatir, resolver y controlar los ataques que traten de manipular el conjunto de datos de entrenamiento («envenenamiento de datos»), o los componentes entrenados previamente utilizados en el entrenamiento («envenenamiento de modelos»), la información de entrada diseñada para hacer que el modelo de IA cometa un error («ejemplos adversarios» o «evasión de modelos»), los ataques a la confidencialidad o los defectos en el modelo.
Kvaliteedijuhtimissüsteem
Sistema de gestión de la calidad
1. Suure riskiga tehisintellektisüsteemide pakkujad võtavad kasutusele kvaliteedijuhtimissüsteemi, mis tagab käesoleva määruse järgimise. Kvaliteedijuhtimissüsteem peab olema kirjalike põhimõtete, menetluste ja juhendite kujul süsteemselt ja nõuetekohaselt dokumenteeritud ning sisaldama vähemalt järgmisi aspekte:
1. Los proveedores de sistemas de IA de alto riesgo establecerán un sistema de gestión de la calidad que garantice el cumplimiento del presente Reglamento. Dicho sistema deberá consignarse de manera sistemática y ordenada en documentación en la que se recojan las políticas, los procedimientos y las instrucciones e incluirá, al menos, los siguientes aspectos:
a)
strateegia õigusnormidele vastavuse tagamiseks, sealhulgas vastavushindamise ja suure riskiga tehisintellektisüsteemis tehtavate muudatuste haldamismenetluste järgimiseks;
a)
una estrategia para el cumplimiento de la normativa, incluido el cumplimiento de los procedimientos de evaluación de la conformidad y de los procedimientos de gestión de las modificaciones de los sistemas de IA de alto riesgo;
b)
meetodid, menetlused ja süstemaatilised meetmed, mida kasutatakse suure riskiga tehisintellektisüsteemi projekteerimiseks, projekteerimise järelevalveks ja projektide kontrollimiseks;
b)
las técnicas, los procedimientos y las actuaciones sistemáticas que se utilizarán en el diseño y el control y la verificación del diseño del sistema de IA de alto riesgo;
c)
meetodid, menetlused ja süstemaatilised meetmed, mida kasutatakse suure riskiga tehisintellektisüsteemi arendamiseks, kvaliteedi kontrollimiseks ja kvaliteedi tagamiseks;
c)
las técnicas, los procedimientos y las actuaciones sistemáticas que se utilizarán en el desarrollo del sistema de IA de alto riesgo y en el control y el aseguramiento de la calidad de este;
d)
enne suure riskiga tehisintellektisüsteemi arendamist, selle ajal ja pärast seda teostatavad läbivaatamis-, testimis- ja valideerimismenetlused ning nende teostamise sagedus;
d)
los procedimientos de examen, prueba y validación que se llevarán a cabo antes, durante y después del desarrollo del sistema de IA de alto riesgo, así como la frecuencia con que se ejecutarán;
e)
kohaldatavad tehnilised kirjeldused, sh standardid, ja juhul, kui asjaomaseid harmoneeritud standardeid ei kohaldata täies mahus või need ei hõlma kõiki 2. jaos sätestatud asjakohaseid nõudeid, siis ka vahendid, mida kasutatakse, et tagada suure riskiga tehisintellektisüsteemi vastavus kõnealustele nõuetele;
e)
las especificaciones técnicas, incluidas las normas, que se aplicarán y, cuando las normas armonizadas pertinentes no se apliquen en su totalidad o no cubran todos los requisitos pertinentes establecidos en la sección 2, los medios que se utilizarán para velar por que el sistema de IA de alto riesgo cumpla dichos requisitos;
f)
andmehalduse süsteemid ja menetlused, sealhulgas andmete hankimine, andmete kogumine, andmeanalüüs, andmete märgendamine, andmete talletamine, andmete filtreerimine, andmekaeve, andmete agregeerimine, andmesäilitus ja mis tahes muud andmetega seotud toimingud, mida teostatakse suure riskiga tehisintellektisüsteemide turule laskmise või kasutusele võtmise eel ja eesmärgil;
f)
los sistemas y procedimientos de gestión de datos, lo que incluye su adquisición, recopilación, análisis, etiquetado, almacenamiento, filtrado, prospección, agregación, conservación y cualquier otra operación relacionada con los datos que se lleve a cabo antes de la introducción en el mercado o puesta en servicio de sistemas de IA de alto riesgo y con esa finalidad;
g)
artiklis 9 osutatud riskijuhtimissüsteem;
g)
el sistema de gestión de riesgos que se menciona en el artículo 9;
h)
turustamisjärgse seire süsteemi loomine, rakendamine ja toimivana hoidmine vastavalt artiklile 72;
h)
el establecimiento, aplicación y mantenimiento de un sistema de vigilancia poscomercialización de conformidad con el artículo 72;
i)
menetlused, mis on seotud tõsisest intsidendist teatamisega vastavalt artiklile 73;
i)
los procedimientos asociados a la notificación de un incidente grave con arreglo al artículo 73;
j)
suhtlemine riikide pädevate asutustega, teiste asjaomaste asutustega, sealhulgas nendega, kes pakuvad või toetavad juurdepääsu andmetele, teada antud asutustega, teiste operaatoritega, klientidega või muude huvitatud isikutega;
j)
la gestión de la comunicación con las autoridades nacionales competentes, otras autoridades pertinentes, incluidas las que permiten acceder a datos o facilitan el acceso a ellos, los organismos notificados, otros operadores, los clientes u otras partes interesadas;
k)
kõigi vajalike dokumentide ja teabega seotud andmete säilitamise süsteemid ja menetlused;
k)
los sistemas y procedimientos para llevar un registro de toda la documentación e información pertinente;
l)
ressursside haldamine, sealhulgas varustuskindlusega seotud meetmed;
l)
la gestión de los recursos, incluidas medidas relacionadas con la seguridad del suministro;
m)
aruandekohustuse raamistik, millega nähakse ette juhtkonna ja muude töötajate vastutus seoses kõigi käesolevas lõikes loetletud aspektidega.
m)
un marco de rendición de cuentas que defina las responsabilidades del personal directivo y de otra índole en relación con todos los aspectos enumerados en este apartado.
2. Lõikes 1 osutatud aspektide rakendamine peab olema proportsionaalne pakkuja organisatsiooni suurusega. Pakkujad austavad igal juhul sellist rangusastet ja kaitsetaset, mis on vajalik, et tagada oma suure riskiga tehisintellektisüsteemide vastavus käesolevale määrusele.
2. La aplicación de los aspectos mencionados en el apartado 1 será proporcional al tamaño de la organización del proveedor. Los proveedores respetarán, en todo caso, el grado de rigor y el nivel de protección requerido para garantizar la conformidad de sus sistemas de IA de alto riesgo con el presente Reglamento.
3. Suure riskiga tehisintellektisüsteemide pakkujate jaoks, kes peavad täitma asjaomase valdkondliku liidu õiguse alusel kvaliteedijuhtimissüsteeme või samaväärset funktsiooni käsitlevaid kohustusi, võivad lõikes 1 loetletud aspektid olla osa kõnealuse õiguse kohastest kvaliteedijuhtimissüsteemidest.
3. Los proveedores de sistemas de IA de alto riesgo que estén sujetos a obligaciones relativas a los sistemas de gestión de la calidad o una función equivalente con arreglo al Derecho sectorial pertinente de la Unión podrán incluir los aspectos enumerados en el apartado 1 como parte de los sistemas de gestión de la calidad con arreglo a dicho Derecho.
4. Finantsasutustest pakkujate puhul, kes peavad täitma finantsteenuseid käsitleva liidu õiguse kohaseid nõudeid seoses nende sisemise juhtimissüsteemi, korra või protsessidega, loetakse kvaliteedijuhtimissüsteemi loomise kohustus, välja arvatud käesoleva artikli lõike 1 punktide g, h ja i osas, täidetuks, kui järgitakse nõudeid seoses sisemise juhtimissüsteemi, korra või protsessidega vastavalt finantsteenuseid käsitlevatele asjaomasele liidu õigusele. Seda silmas pidades võetakse arvesse artiklis 40 osutatud harmoneeritud standardeid.
4. En el caso de los proveedores que sean entidades financieras sujetas a requisitos relativos a su gobernanza, sus sistemas o sus procesos internos en virtud del Derecho de la Unión en materia de servicios financieros, se considerará que se ha cumplido la obligación de establecer un sistema de gestión de la calidad, salvo en relación con lo dispuesto en el apartado 1, letras g), h) e i), del presente artículo cuando se respeten las normas sobre los sistemas o procesos de gobernanza interna de acuerdo con el Derecho pertinente de la Unión en materia de servicios financieros. A tal fin, se tendrán en cuenta todas las normas armonizadas que se mencionan en el artículo 40.
Parandusmeetmed ja teavitamiskohustus
Medidas correctoras y obligación de información
1. Suure riskiga tehisintellektisüsteemide pakkujad, kes arvavad või kellel on põhjust arvata, et suure riskiga tehisintellektisüsteem, mille nad on turule lasknud või kasutusele võtnud, ei vasta käesolevale määrusele, võtavad viivitamatult vajalikud parandusmeetmed, et viia süsteem vastavusse, võtta see turult tagasi, desaktiveerida või nõuda tagasi, nagu on asjakohane. Nad teavitavad sellest asjaomase suure riskiga tehisintellektisüsteemi turustajaid ning kohaldataval juhul juurutajaid, volitatud esindajat ja importijaid.
1. Los proveedores de sistemas de IA de alto riesgo que consideren o tengan motivos para considerar que un sistema de IA de alto riesgo que han introducido en el mercado o puesto en servicio no es conforme con el presente Reglamento adoptarán inmediatamente las medidas correctoras necesarias para que sea conforme, para retirarlo del mercado, desactivarlo o recuperarlo, según proceda. Informarán de ello a los distribuidores del sistema de IA de alto riesgo de que se trate y, en su caso, a los responsables del despliegue, al representante autorizado y a los importadores.
2. Kui suure riskiga tehisintellektisüsteem kujutab endast riski artikli 79 lõike 1 tähenduses ja pakkuja saab sellest riskist teada, peab ta viivitamata uurima selle põhjuseid koostöös aruandva juurutajaga, kui see on kohaldatav, ning teavitama turujärelevalveasutusi, kes on asjaomase suure riskiga süsteemi osas pädevad, ning kui see on kohaldatav, teada antud asutust, kes andis selle suure riskiga tehisintellektisüsteemi jaoks välja artikli 44 kohase sertifikaadi, esitades eelkõige teabe mittevastavuse laadi ja võetud asjakohaste parandusmeetmete kohta.
2. Cuando un sistema de IA de alto riesgo presente un riesgo en el sentido del artículo 79, apartado 1, y el proveedor tenga conocimiento de dicho riesgo, este investigará inmediatamente las causas, en colaboración con el responsable del despliegue que lo haya notificado, en su caso, e informará a las autoridades de vigilancia del mercado competentes respecto al sistema de IA de alto riesgo de que se trate y, cuando proceda, al organismo notificado que haya expedido un certificado para dicho sistema de conformidad con lo dispuesto en el artículo 44, en particular sobre la naturaleza del incumplimiento y sobre cualquier medida correctora adoptada.
Suure riskiga tehisintellektisüsteemide pakkujate volitatud esindajad
Representantes autorizados de los proveedores de sistemas de IA de alto riesgo
1. Kolmandates riikides asutatud pakkujad peavad enne oma suure riskiga tehisintellektisüsteemide liidu turul kättesaadavaks tegemist määrama kirjaliku volitusega liidus asutatud volitatud esindaja.
1. Antes de comercializar sus sistemas de IA de alto riesgo en el mercado de la Unión, los proveedores establecidos en terceros países tendrán que nombrar, mediante un mandato escrito, a un representante autorizado que esté establecido en la Unión.
2. Pakkuja võimaldab oma volitatud esindajal täita pakkujalt saadud volituses kindlaksmääratud ülesandeid.
2. Los proveedores permitirán que su representante autorizado pueda efectuar las tareas especificadas en el mandato recibido del proveedor.
3. Volitatud esindaja täidab pakkujalt saadud volituses kindlaksmääratud ülesandeid. Volitatud esindaja esitab turujärelevalveasutuste nõudmisel neile volituse koopia pädeva asutuse poolt osutatud liidu institutsioonide ühes ametlikus keeles. Käesoleva määruse kohaldamisel annab volitus volitatud esindajale õiguse täita järgmisi ülesandeid:
3. Los representantes autorizados efectuarán las tareas especificadas en el mandato recibido del proveedor. Facilitarán a las autoridades de vigilancia del mercado, cuando lo soliciten, una copia del mandato en una de las lenguas oficiales de las instituciones de la Unión según lo indicado por la autoridad de competente. A los efectos del presente Reglamento, el mandato habilitará al representante autorizado para realizar las tareas siguientes:
a)
kontrollida, et koostatud on artiklis 47 osutatud ELi vastavusdeklaratsioon ja artiklis 11 osutatud tehniline dokumentatsioon ning et pakkuja on teostanud asjakohase vastavushindamismenetluse;
a)
verificar que se han elaborado la declaración UE de conformidad a que se refiere el artículo 47 y la documentación técnica a que se refiere el artículo 11 y que el proveedor ha llevado a cabo un procedimiento de evaluación de la conformidad adecuado;
b)
säilitada pädevate asutuste ja artikli 74 lõikes 10 osutatud riiklike asutuste või organite jaoks kättesaadavana kümne aasta jooksul pärast suure riskiga tehisintellektisüsteemi turule laskmist või kasutusele võtmist pakkuja kontaktandmed, mida kasutades on volitatud esindaja nimetatud, artiklis 47 osutatud ELi vastavusdeklaratsiooni koopia, tehnilise dokumentatsiooni, ning kui see on asjakohane, teada antud asutuse väljastatud sertifikaadi;
b)
conservar a disposición de las autoridades competentes y de las autoridades u organismos nacionales a que se refiere el artículo 74, apartado 10, durante un período de diez años a contar desde la introducción en el mercado o la puesta en servicio del sistema de IA de alto riesgo, los datos de contacto del proveedor que haya nombrado al representante autorizado, una copia de la declaración UE de conformidad a que se refiere el artículo 47, la documentación técnica y, en su caso, el certificado expedido por el organismo notificado;
c)
esitada pädevale asutusele põhjendatud taotluse korral kogu teave ja dokumentatsioon, sealhulgas käesoleva lõigu punktis b osutatud teave ja dokumentatsioon, mis on vajalik, et tõendada suure riskiga tehisintellektisüsteemi vastavust 2. jaos sätestatud nõuetele, sealhulgas pakkuda juurdepääsu suure riskiga tehisintellektisüsteemi automaatselt genereeritud logidele, nagu on osutatud artikli 12 lõikes 1, niivõrd, kuivõrd sellised logid on pakkuja kontrolli all;
c)
proporcionar a una autoridad competente, previa solicitud motivada, toda la información y la documentación, incluida la mencionada en el presente párrafo, letra b), que sean necesarias para demostrar la conformidad de un sistema de IA de alto riesgo con los requisitos establecidos en la sección 2, incluido el acceso a los archivos de registro a que se refiere el artículo 12, apartado 1, generados automáticamente por ese sistema, en la medida en que dichos archivos estén bajo el control del proveedor;
d)
teha pädevate asutustega põhjendatud taotluse korral koostööd kõigis toimingutes, mida pädev asutus seoses suure riskiga tehisintellektisüsteemiga ette võtab; eelkõige selleks, et vähendada ja maandada suure riskiga tehisintellektisüsteemist tulenevaid riske;
d)
cooperar con las autoridades competentes, previa solicitud motivada, en todas las acciones que estas emprendan en relación con el sistema de IA de alto riesgo, en particular para reducir y mitigar los riesgos que este presente;
e)
täita kohaldataval juhul artikli 49 lõikes 1 osutatud registreerimiskohustusi, või kui registreerimise teeb pakkuja ise, tagada VIII lisa A. jao punktis 3 osutatud teabe õigsus.
e)
cuando proceda, cumplir las obligaciones de registro a que se refiere el artículo 49, apartado 1, o si el registro lo lleva a cabo el propio proveedor, garantizar que la información a que se refiere el anexo VIII, sección A, punto 3, es correcta.
Volitusega antakse volitatud esindajale õigus, et tema poole võivad pöörduda lisaks pakkujale või selle asemel, pädevad asutused kõigis küsimustes, mis on seotud käesoleva määruse järgimise tagamisega.
El mandato habilitará al representante autorizado para que las autoridades competentes se pongan en contacto con él, además de con el proveedor o en lugar de con el proveedor, con referencia a todas las cuestiones relacionadas con la garantía del cumplimiento del presente Reglamento.
4. Volitatud esindaja peatab volituse, kui ta arvab või tal on põhjust arvata, et pakkuja tegevus on vastuolus tema käesolevast määrusest tulenevate kohustustega. Sellisel juhul teatab ta volituse lõpetamisest ja selle põhjustest viivitamata asjakohasele turujärelevalveasutusele ning kui see on kohaldatav, asjaomasele teada antud asutusele.
4. El representante autorizado pondrá fin al mandato si considera o tiene motivos para considerar que el proveedor contraviene las obligaciones que le atañen con arreglo al presente Reglamento. En tal caso, además, informará de inmediato de la terminación del mandato y de los motivos de esta medida a la autoridad de vigilancia del mercado pertinente, así como, cuando proceda, al organismo notificado pertinente.
Obligaciones de los importadores
1. Enne suure riskiga tehisintellektisüsteemi turule laskmist peavad importijad tagama süsteemi vastavuse käesolevale määrusele, kontrollides, et:
1. Antes de introducir un sistema de IA de alto riesgo en el mercado, los importadores se asegurarán de que el sistema sea conforme con el presente Reglamento verificando que:
a)
suure riskiga tehisintellektisüsteemi pakkuja on teostanud artiklis 43 osutatud asjakohase vastavushindamise;
a)
el proveedor del sistema de IA de alto riesgo haya llevado a cabo el procedimiento de evaluación de la conformidad pertinente a que se refiere el artículo 43;
b)
pakkuja on koostanud tehnilise dokumentatsiooni kooskõlas artikliga 11 ja IV lisaga;
b)
el proveedor haya elaborado la documentación técnica de conformidad con el artículo 11 y el anexo IV;
c)
süsteemil on nõutav CE-märgis ning sellega on kaasas artiklis 47 osutatud ELi vastavusdeklaratsioon ja kasutusjuhendid;
c)
el sistema lleve el marcado CE exigido y vaya acompañado de la declaración UE de conformidad a que se refiere el artículo 47 y de las instrucciones de uso;
d)
pakkuja on määranud volitatud esindaja kooskõlas artikli 22 lõikega 1.
d)
el proveedor haya designado a un representante autorizado de conformidad con el artículo 22, apartado 1.
2. Kui importijal on piisavalt põhjust arvata, et suure riskiga tehisintellektisüsteem ei ole käesoleva määrusega vastavuses või on võltsitud või sellega on kaasas võltsitud dokumentatsioon, ei vii ta süsteemi turule enne, kui see on viidud määrusega vastavusse. Kui suure riskiga tehisintellektisüsteem kujutab endast riski artikli 79 lõike 1 tähenduses, teavitab importija sellest süsteemi pakkujat, volitatud esindajaid ja turujärelevalveasutusi.
2. Si el importador tiene motivos suficientes para considerar que un sistema de IA de alto riesgo no es conforme con el presente Reglamento, ha sido falsificado o va acompañado de documentación falsificada, no lo introducirá en el mercado hasta que se haya conseguido la conformidad de dicho sistema. Si el sistema de IA de alto riesgo presenta un riesgo en el sentido del artículo 79, apartado 1, el importador informará de ello al proveedor del sistema, a los representantes autorizados y a las autoridades de vigilancia del mercado.
3. Importijad märgivad oma nime, registreeritud kaubanime või registreeritud kaubamärgi ja aadressi, millel nendega saab suure riskiga tehisintellektisüsteemi teemal ühendust võtta, selle pakendile või kaasasolevatesse dokumentidesse, kui see on kohaldatav.
3. Los importadores indicarán, en el embalaje del sistema de IA de alto riesgo o en la documentación que lo acompañe, cuando proceda, su nombre, su nombre comercial registrado o marca registrada y su dirección de contacto.
4. Importijad tagavad vastavalt asjaoludele, et sel ajal, kui suure riskiga tehisintellektisüsteem on nende vastutuse all, ei ohusta ladustamise ega transpordi tingimused kohaldataval juhul selle vastavust 2. jaos sätestatud nõuetele.
4. Mientras sean responsables de un sistema de IA de alto riesgo, los importadores se asegurarán de que las condiciones de almacenamiento o transporte, cuando proceda, no comprometan el cumplimiento de los requisitos establecidos en la sección 2 por parte de dicho sistema.
5. Importijad säilitavad kümne aasta jooksul pärast suure riskiga tehisintellektisüsteemi turule laskmist või kasutusele võtmist koopia teada antud asutuse väljastatud sertifikaadist, kui see on kohaldatav, kasutusjuhendist ning artiklis 47 osutatud ELi vastavusdeklaratsioonist.
5. Los importadores conservarán, durante un período de diez años a contar desde la introducción en el mercado o la puesta en servicio del sistema de IA de alto riesgo, una copia del certificado expedido por el organismo notificado, en su caso, de las instrucciones de uso y de la declaración UE de conformidad a que se refiere el artículo 47.
6. Importijad esitavad asjakohasele pädevale asutusele põhjendatud taotluse korral neile kergesti arusaadavas keeles kogu teabe ja dokumentatsiooni, sealhulgas lõikes 5 osutatud teabe ja dokumentatsiooni, mis on vajalik, et tõendada suure riskiga tehisintellektisüsteemi vastavust 2. jaos sätestatud nõuetele. Seda silmas pidades tagavad nad ka selle, et nendele asutustele saab kättesaadavaks teha tehnilise dokumentatsiooni.
6. Los importadores proporcionarán a las autoridades competentes pertinentes, previa solicitud motivada, toda la información y la documentación, incluidas las referidas en el apartado 5, que sean necesarias para demostrar la conformidad de un sistema de IA de alto riesgo con los requisitos establecidos en la sección 2 en una lengua que estas puedan entender fácilmente. A tal efecto, velarán asimismo por que la documentación técnica pueda ponerse a disposición de esas autoridades.
7. Importijad teevad asjakohaste pädevate asutustega koostööd kõigis toimingutes, mida need asutused võtavad ette seoses suure riskiga tehisintellektisüsteemiga, mille importijad on turule lasknud, eelkõige selleks, et vähendada ja maandada sellest tulenevaid riske.
7. Los importadores cooperarán con las autoridades competentes pertinentes en cualquier medida que estas adopten en relación con un sistema de IA de alto riesgo introducido en el mercado por los importadores, en particular para reducir y mitigar los riesgos que este presente.
Obligaciones de los distribuidores
1. Enne suure riskiga tehisintellektisüsteemi turul kättesaadavaks tegemist kontrollivad turustajad, et see kannab nõutavat CE-märgist, et sellega on kaasas koopia artiklis 47 osutatud ELi vastavusdeklaratsioonist ja kasutusjuhend ning et olenevalt asjaoludest on kas selle süsteemi pakkuja või importija täitnud oma vastavad kohustused, mis on sätestatud artikli 16 punktides b ja c ning artikli 23 lõikes 3.
1. Antes de comercializar un sistema de IA de alto riesgo, los distribuidores verificarán que este lleve el marcado CE exigido, que vaya acompañado de una copia de la declaración UE de conformidad a que se refiere el artículo 47 y de las instrucciones de uso, y que el proveedor y el importador de dicho sistema, según corresponda, hayan cumplido sus obligaciones establecidas en el artículo 16, letras b) y c), y el artículo 23, apartado 3, respectivamente.
2. Kui turustaja arvab või tal on põhjust tema käsutuses oleva teabe põhjal arvata, et suure riskiga tehisintellektisüsteem ei ole vastavuses 2. jaos sätestatud nõuetega, ei tee ta seda suure riskiga tehisintellektisüsteemi turul kättesaadavaks enne, kui see süsteem on viidud nende nõuetega vastavusse. Peale selle, kui suure riskiga tehisintellektisüsteem kujutab endast riski artikli 79 lõike 1 tähenduses, teavitab turustaja sellest süsteemi pakkujat või importijat, nagu on asjakohane.
2. Si un distribuidor considera o tiene motivos para considerar, con arreglo a la información en su poder, que un sistema de IA de alto riesgo no es conforme con los requisitos establecidos en la sección 2, no lo comercializará hasta que se haya conseguido esa conformidad. Además, si el sistema de IA de alto riesgo presenta un riesgo en el sentido del artículo 79, apartado 1, el distribuidor informará de ello al proveedor o importador del sistema, según corresponda.
3. Turustaja tagab, et sel ajal, kui suure riskiga tehisintellektisüsteem on tema vastutuse all, ei ohusta ladustamise ega transpordi tingimused kohaldataval juhul süsteemi vastavust 2. jaos sätestatud nõuetele.
3. Mientras sean responsables de un sistema de IA de alto riesgo, los distribuidores se asegurarán de que las condiciones de almacenamiento o transporte, cuando proceda, no comprometen el cumplimiento por parte del sistema de los requisitos establecidos en la sección 2.
4. Turustaja, kes arvab või kellel on põhjust tema käsutuses oleva teabe põhjal arvata, et suure riskiga tehisintellektisüsteem, mille ta on turul kättesaadavaks teinud, ei vasta 2. jaos sätestatud nõuetele, võtab parandusmeetmeid, mis on vajalikud, et viia süsteem nende nõuetega vastavusse, võtta see turult tagasi või nõuda tagasi, või tagab, et olenevalt asjaoludest kas pakkuja, importija või mõni asjaomane operaator võtab sellised parandusmeetmed. Kui suure riskiga tehisintellektisüsteem kujutab endast riski artikli 79 lõike 1 tähenduses, teavitab turustaja sellest viivitamata süsteemi pakkujat või importijat ja asjaomase suure riskiga tehisintellektisüsteemi osas pädevaid asutusi, esitades eelkõige üksikasjad mittevastavuse ja võimalike võetud parandusmeetmete kohta.
4. Los distribuidores que consideren o tengan motivos para considerar, con arreglo a la información en su poder, que un sistema de IA de alto riesgo que han comercializado no es conforme con los requisitos establecidos en la sección 2 adoptarán las medidas correctoras necesarias para que sea conforme, para retirarlo del mercado o recuperarlo, o velarán por que el proveedor, el importador u otro operador pertinente, según proceda, adopte dichas medidas correctoras. Cuando un sistema de IA de alto riesgo presente un riesgo en el sentido del artículo 79, apartado 1, su distribuidor informará inmediatamente de ello al proveedor o al importador del sistema y a las autoridades competentes respecto al sistema de IA de alto riesgo de que se trate y dará detalles, en particular, sobre la no conformidad y las medidas correctoras adoptadas.
5. Asjakohase pädeva asutuse põhjendatud taotluse korral esitavad suure riskiga tehisintellektisüsteemi turustajad sellele asutusele kogu teabe ja dokumentatsiooni lõigete 1–4 kohaselt võetud meetmete kohta, mis on vajalik, et tõendada kõnealuse süsteemi vastavust 2. jaos sätestatud nõuetele.
5. Previa solicitud motivada de una autoridad competente pertinente, los distribuidores de un sistema de IA de alto riesgo proporcionarán a esa autoridad toda la información y la documentación relativas a sus actuaciones con arreglo a los apartados 1 a 4 que sean necesarias para demostrar que dicho sistema cumple los requisitos establecidos en la sección 2.
6. Turustajad teevad asjakohaste pädevate asutustega koostööd kõigis toimingutes, mida need asutused võtavad ette seoses suure riskiga tehisintellektisüsteemiga, mille turustajad on turul kättesaadavaks teinud, eelkõige selleks, et vähendada või maandada sellest tulenevat riski.
6. Los distribuidores cooperarán con las autoridades competentes pertinentes en cualquier medida que estas adopten en relación con un sistema de IA de alto riesgo comercializado por los distribuidores, en particular para reducir o mitigar los riesgos que este presente.
Vastutus tehisintellekti väärtusahelas
Responsabilidades a lo largo de la cadena de valor de la IA
1. Turustajat, importijat, juurutajat või muud kolmandat isikut käsitatakse käesoleva määruse kohaldamisel suure riskiga tehisintellektisüsteemi pakkujana ning tema suhtes kohaldatakse artiklist 16 tulenevaid pakkuja kohustusi mis tahes järgmisel juhul:
1. Cualquier distribuidor, importador, responsable del despliegue o tercero será considerado proveedor de un sistema de IA de alto riesgo a los efectos del presente Reglamento y estará sujeto a las obligaciones del proveedor previstas en el artículo 16 en cualquiera de las siguientes circunstancias:
a)
ta lisab juba turule lastud või kasutusele võetud suure riskiga tehisintellektisüsteemile oma nime või kaubamärgi, ilma et see piiraks selliste lepinguliste kokkulepete kohaldamist, milles sätestatakse, et kohustused on muul viisil jaotatud;
a)
cuando ponga su nombre o marca en un sistema de IA de alto riesgo previamente introducido en el mercado o puesto en servicio, sin perjuicio de los acuerdos contractuales que estipulen que las obligaciones se asignan de otro modo;
b)
nad teevad suure riskiga tehisintellektisüsteemi, mis on juba turule lastud või kasutusele võetud, olulise muudatuse viisil, et see jääb suure riskiga tehisintellektisüsteemiks vastavalt artiklile 6;
b)
cuando modifique sustancialmente un sistema de IA de alto riesgo que ya haya sido introducido en el mercado o puesto en servicio de tal manera que siga siendo un sistema de IA de alto riesgo con arreglo al artículo 6;
c)
nad muudavad tehisintellektisüsteemi, sealhulgas üldotstarbelisse tehisintellektisüsteemi, mida ei ole liigitatud suure riskiga tehisintellektisüsteemiks ja mis on juba turule lastud või kasutusele võetud, sihtotstarvet, nii et asjaomasest tehisintellektisüsteemist saab suure riskiga tehisintellektisüsteem vastavalt artiklile 6.
c)
cuando modifique la finalidad prevista de un sistema de IA, incluido un sistema de IA de uso general, que no haya sido considerado de alto riesgo y ya haya sido introducido en el mercado o puesto en servicio, de tal manera que el sistema de IA de que se trate se convierta en un sistema de IA de alto riesgo de conformidad con el artículo 6.
2. Lõikes 1 osutatud asjaolude ilmnemise korral ei käsitata tehisintellektisüsteemi algselt turule lasknud või kasutusele võtnud pakkujat enam käesoleva määruse kohaldamisel selle konkreetse tehisintellektisüsteemi pakkujana. Kõnealune algne pakkuja teeb tihedat koostööd uute pakkujatega ning teeb kättesaadavaks vajaliku teabe ja annab mõistlikult eeldatava tehnilise juurdepääsu ja osutab muud abi, mida on vaja käesolevas määruses sätestatud kohustuste täitmiseks, eelkõige seoses suure riskiga tehisintellektisüsteemide vastavushindamise järgimisega. Käesolevat lõiget ei kohaldata juhul, kui algne pakkuja on selgelt täpsustanud, et tema tehisintellektisüsteemi ei tohi muuta suure riskiga tehisintellektisüsteemiks, ja seetõttu ei kohaldata tema suhtes dokumentide üleandmise kohustust.
2. Cuando se den las circunstancias mencionadas en el apartado 1, el proveedor que inicialmente haya introducido en el mercado el sistema de IA o lo haya puesto en servicio dejará de ser considerado proveedor de ese sistema de IA específico a efectos del presente Reglamento. Ese proveedor inicial cooperará estrechamente con los nuevos proveedores y facilitará la información necesaria, el acceso técnico u otra asistencia razonablemente previstos que sean necesarios para el cumplimiento de las obligaciones establecidas en el presente Reglamento, en particular en lo que respecta al cumplimiento de la evaluación de la conformidad de los sistemas de IA de alto riesgo. El presente apartado no se aplicará en los casos en que el proveedor inicial haya indicado claramente que su sistema de IA no debe ser transformado en un sistema de IA de alto riesgo y, por lo tanto, no está sujeto a la obligación de facilitar la documentación.
3. Suure riskiga tehisintellektisüsteemide puhul, mis on selliste toodete turvakomponendid, mille suhtes kohaldatakse I lisa A jaos loetletud liidu ühtlustamisõigusakte, käsitatakse nende toodete valmistajat suure riskiga tehisintellektisüsteemi pakkujana ja ta peab täitma artikli 16 kohaseid kohustusi ühel järgmistest juhtudest:
3. En el caso de los sistemas de IA de alto riesgo que sean componentes de seguridad de productos contemplados en los actos legislativos de armonización de la Unión enumerados en el anexo I, sección A, el fabricante del producto será considerado proveedor del sistema de IA de alto riesgo y estará sujeto a las obligaciones previstas en el artículo 16 en alguna de las siguientes circunstancias:
a)
suure riskiga tehisintellektisüsteem lastakse turule koos tootega toote valmistaja nime või kaubamärgi all;
a)
que el sistema de IA de alto riesgo se introduzca en el mercado junto con el producto bajo el nombre o la marca del fabricante del producto;
b)
suure riskiga tehisintellektisüsteem võetakse kasutusele toote valmistaja nime või kaubamärgi all pärast toote turule laskmist.
b)
que el sistema de IA de alto riesgo se ponga en servicio bajo el nombre o la marca del fabricante del producto después de que el producto haya sido introducido en el mercado.
4. Suure riskiga tehisintellektisüsteemi pakkuja ja kolmas isik, kes tarnib tehisintellektisüsteemi, vahendeid, teenuseid, komponente või protsesse, mida kasutatakse suure riskiga tehisintellektisüsteemis või mis on sellesse integreeritud, määravad tehnika üldtunnustatud tasemele tuginedes kirjaliku kokkuleppega kindlaks vajaliku teabe, võimekuse, tehnilise juurdepääsu ja või muu abi, et võimaldada suure riskiga tehisintellektisüsteemi pakkujal täielikult täita käesolevast määrusest tulenevaid kohustusi. Käesolevat lõiget ei kohaldata kolmandate isikute suhtes, kes teevad vaba ja avatud lähtekoodi litsentsi alusel avalikele vahenditele, teenustele, protsessidele või komponentidele kättesaadavaks muud kui üldotstarbelised tehisintellektimudelid.
4. El proveedor de un sistema de IA de alto riesgo y el tercero que suministre un sistema de IA de alto riesgo, herramientas, servicios, componentes o procesos que se utilicen o integren en un sistema de IA de alto riesgo especificarán, mediante acuerdo escrito, la información, las capacidades, el acceso técnico y otra asistencia que sean necesarios, sobre la base del estado de la técnica generalmente reconocido, para que el proveedor del sistema de IA de alto riesgo pueda cumplir plenamente las obligaciones establecidas en el presente Reglamento. El presente apartado no se aplicará a terceros que pongan a disposición del público herramientas, servicios, procesos o componentes distintos de modelos de IA de uso general, en el marco de una licencia libre y de código abierto.
Tehisintellektiamet võib välja töötada ja soovitada vabatahtlikke näidis-lepingutingimusi kasutamiseks suure riskiga tehisintellektisüsteemide pakkujate ja kolmandate isikute vahel, kes pakuvad suure riskiga tehisintellektisüsteemides kasutatavaid või integreeritud vahendeid, teenuseid, komponente või protsesse. Vabatahtlike näidistingimuste väljatöötamisel peaks tehisintellektiamet arvesse võtma konkreetsetes sektorites või ärimudelites kohaldatavaid võimalikke lepingulisi nõudeid. Vabatahtlikud näidistingimused avaldatakse ja tehakse tasuta kättesaadavaks kergesti kasutatavas elektroonilises vormingus.
La Oficina de IA podrá elaborar y recomendar cláusulas contractuales tipo, de carácter voluntario, entre los proveedores de sistemas de IA de alto riesgo y terceros que suministren herramientas, servicios, componentes o procesos que se utilicen o integren en los sistemas de IA de alto riesgo. Cuando elabore esas cláusulas contractuales tipo de carácter voluntario, la Oficina de IA tendrá en cuenta los posibles requisitos contractuales aplicables en determinados sectores o modelos de negocio. Las cláusulas contractuales tipo de carácter voluntario se publicarán y estarán disponibles gratuitamente en un formato electrónico fácilmente utilizable.
5. Lõiked 2 ja 3 ei piira vajadust järgida ja kaitsta intellektuaalomandi õigusi, konfidentsiaalset äriteavet ja ärisaladusi kooskõlas liidu ja siseriikliku õigusega.
5. Los apartados 2 y 3 se entenderán sin perjuicio de la necesidad de observar y proteger los derechos de propiedad intelectual e industrial, la información empresarial confidencial y los secretos comerciales, de conformidad con el Derecho de la Unión y nacional.
Suure riskiga tehisintellektisüsteemide juurutajate kohustused
Obligaciones de los responsables del despliegue de sistemas de IA de alto riesgo
1. Suure riskiga tehisintellektisüsteemide juurutajad võtavad asjakohaseid tehnilisi ja organisatsioonilisi meetmeid eesmärgiga tagada, et nad kasutavad selliseid süsteeme vastavalt süsteemiga kaasas olevale kasutusjuhendile kooskõlas lõigetega 3 ja 6.
1. Los responsables del despliegue de sistemas de IA de alto riesgo adoptarán medidas técnicas y organizativas adecuadas para garantizar que utilizan dichos sistemas con arreglo a las instrucciones de uso que los acompañen, de acuerdo con los apartados 3 y 6.
2. Juurutajad annavad inimjärelevalve ülesande sellistele füüsilistele isikutele, kellel on vajalik pädevus, väljaõpe ja vastavad volitused ning vajalikud tugistruktuurid.
2. Los responsables del despliegue encomendarán la supervisión humana a personas físicas que tengan la competencia, la formación y la autoridad necesarias.
3. Lõigetes 1 ja 2 sätestatud kohustused ei piira muid liidu või liikmesriigi õigusest tulenevaid juurutaja kohustusi ega juurutaja vabadust oma vahendite ja tegevuse korraldamisel, et rakendada pakkuja märgitud inimjärelevalve meetmeid.
3. Las obligaciones previstas en los apartados 1 y 2 no afectan a otras obligaciones que el Derecho nacional o de la Unión imponga a los responsables del despliegue ni a su libertad para organizar sus propios recursos y actividades con el fin de poner en práctica las medidas de supervisión humana que indique el proveedor.
4. Niivõrd, kuivõrd juurutajal on kontroll sisendandmete üle, tagab see juurutaja, et sisendandmed on suure riskiga tehisintellektisüsteemi sihtotstarbe seisukohast asjakohased ja piisavalt esinduslikud, ilma et see piiraks lõigete 1 ja 2 kohaldamist.
4. Sin perjuicio de lo dispuesto en los apartados 1 y 2, el responsable del despliegue se asegurará de que los datos de entrada sean pertinentes y suficientemente representativos en vista de la finalidad prevista del sistema de IA de alto riesgo, en la medida en que ejerza el control sobre dichos datos.
5. Juurutajad tegelevad suure riskiga tehisintellektisüsteemi toimimise seirega kasutusjuhendi alusel ja asjakohasel juhul teavitavad pakkujaid vastavalt artiklile 72. Kui juurutajatel on põhjust arvata, et kasutusjuhendi kohase kasutamise tulemusena võib suure riskiga tehisintellektisüsteem kujutada endast riski artikli 79 lõike 1 tähenduses, teavitavad nad põhjendamatu viivituseta pakkujat või turustajat ja asjaomast turujärelevalveasutust ning peatavad selle süsteemi kasutamise. Kui juurutajad on tuvastanud tõsise intsidendi, teavitavad nad sellest intsidendist viivitamata ka kõigepealt pakkujat ning seejärel importijat või turustajat ja asjaomaseid turujärelevalveasutusi. Kui juurutaja ei saa pakkujaga ühendust, kohaldatakse artiklit 73 mutatis mutandis. See kohustus ei hõlma õiguskaitseasutustest tehisintellektisüsteemide juurutajate tundlikke operatiivandmeid.
5. Los responsables del despliegue vigilarán el funcionamiento del sistema de IA de alto riesgo basándose en las instrucciones de uso y, cuando proceda, informarán a los proveedores con arreglo al artículo 72. Cuando los responsables del despliegue tengan motivos para considerar que utilizar el sistema de IA de alto riesgo conforme a sus instrucciones puede dar lugar a que ese sistema de AI presente un riesgo en el sentido del artículo 79, apartado 1, informarán, sin demora indebida, al proveedor o distribuidor y a la autoridad de vigilancia del mercado pertinente y suspenderán el uso de ese sistema. Cuando los responsables del despliegue detecten un incidente grave, informarán asimismo inmediatamente de dicho incidente, en primer lugar, al proveedor y, a continuación, al importador o distribuidor y a la autoridad de vigilancia del mercado pertinente. En el caso de que el responsable del despliegue no consiga contactar con el proveedor, el artículo 73 se aplicará mutatis mutandis. Esta obligación no comprenderá los datos operativos sensibles de los responsables del despliegue de sistemas de IA que sean autoridades garantes del cumplimiento del Derecho.
Finantsasutustest juurutajate puhul, kes peavad täitma finantsteenuseid käsitleva liidu õiguse kohaseid nõudeid seoses nende sisemise juhtimissüsteemi, korra või protsessidega, loetakse esimeses lõigus sätestatud seirekohustus täidetuks, kui vastavalt finantsteenuseid käsitlevale asjaomasele õigusele on täidetud sisemise juhtimissüsteemi, protsesside ja mehhanismide alased nõuded.
En el caso de los responsables del despliegue que sean entidades financieras sujetas a requisitos relativos a su gobernanza, sus sistemas o sus procesos internos en virtud del Derecho de la Unión en materia de servicios financieros, se considerará que se ha cumplido la obligación de vigilancia prevista en el párrafo primero cuando se respeten las normas sobre sistemas, procesos y mecanismos de gobernanza interna de acuerdo con el Derecho pertinente en materia de servicios financieros.
6. Suure riskiga tehisintellektisüsteemide juurutajad säilitavad selle suure riskiga tehisintellektisüsteemi poolt automaatselt genereeritud logisid niivõrd, kuivõrd sellised logid on nende kontrolli all, ajavahemiku jooksul, mis vastab suure riskiga tehisintellektisüsteemi sihtotstarbele ning vähemalt kuue kuu jooksul, välja arvatud juhul, kui kohaldatavas liidu või siseriiklikus õiguses, eelkõige isikuandmete kaitset käsitlevas liidu õiguses on sätestatud teisiti.
6. Los responsables del despliegue de sistemas de IA de alto riesgo conservarán los archivos de registro que los sistemas de IA de alto riesgo generen automáticamente en la medida en que dichos archivos estén bajo su control, durante un período de tiempo adecuado para la finalidad prevista del sistema de IA de alto riesgo, de al menos seis meses, salvo que se disponga otra cosa en el Derecho de la Unión o nacional aplicable, en particular en el Derecho de la Unión en materia de protección de datos personales.
Finantsasutustest juurutajad, kes peavad täitma finantsteenuseid käsitleva liidu õiguse kohaseid nõudeid seoses nende sisemise juhtimissüsteemi, korra või protsessidega, säilitavad logisid osana dokumentatsioonist, mida tuleb säilitada vastavalt finantsteenuseid käsitlevale asjaomasele liidu õigusele.
Los responsables del despliegue que sean entidades financieras sujetas a requisitos relativos a su gobernanza, sus sistemas o sus procesos internos en virtud del Derecho de la Unión en materia de servicios financieros mantendrán los archivos de registro como parte de la documentación conservada en virtud del Derecho de la Unión en materia de servicios financieros.
7. Enne suure riskiga tehisintellektisüsteemi kasutusele võtmist või kasutamist töökohal teavitavad tööandjatest juurutajad töötajate esindajaid ja mõjutatud töötajaid sellest, et nende suhtes hakatakse kasutama suure riskiga tehisintellektisüsteemi. See teave esitatakse kohaldataval juhul kooskõlas töötajate ja nende esindajate teavitamist käsitlevates liidu ja siseriiklikes õigusaktides ja tavades sätestatud õigusnormide ja menetlustega.
7. Antes de poner en servicio o utilizar un sistema de IA de alto riesgo en el lugar de trabajo, los responsables del despliegue que sean empleadores informarán a los representantes de los trabajadores y a los trabajadores afectados de que estarán expuestos a la utilización del sistema de IA de alto riesgo. Esta información se facilitará, cuando proceda, con arreglo a las normas y procedimientos establecidos en el Derecho de la Unión y nacional y conforme a las prácticas en materia de información a los trabajadores y sus representantes.
8. Suure riskiga tehisintellektisüsteemide juurutajad, kes on avaliku sektori asutused või liidu institutsioonid, organid või asutused, täidavad artiklis 49 osutatud registreerimiskohustusi. Kui sellised juurutajad leiavad, et suure riskiga tehisintellektisüsteem, mida nad kavatsevad kasutada, ei ole registreeritud ELi andmebaasis, millele on osutatud artiklis 71, siis nad seda süsteemi ei kasuta ning teavitavad pakkujat või turustajat.
8. Los responsables del despliegue de sistemas de IA de alto riesgo que sean autoridades públicas o instituciones, órganos y organismos de la Unión cumplirán las obligaciones de registro a que se refiere el artículo 49. Cuando dichos responsables del despliegue constaten que el sistema de IA de alto riesgo que tienen previsto utilizar no ha sido registrado en la base de datos de la UE a que se refiere el artículo 71, no utilizarán dicho sistema e informarán al proveedor o al distribuidor.
9. Suure riskiga tehisintellektisüsteemide juurutajad kasutavad käesoleva määruse artikli 13 alusel esitatavat teavet, et täita oma kohustust koostada vajaduse korral andmekaitsealane mõjuhinnang vastavalt määruse (EL) 2016/679 artiklile 35 või direktiivi (EL) 2016/680 artiklile 27.
9. Cuando proceda, los responsables del despliegue de sistemas de IA de alto riesgo utilizarán la información facilitada conforme al artículo 13 del presente Reglamento para cumplir la obligación de llevar a cabo una evaluación de impacto relativa a la protección de datos que les imponen el artículo 35 del Reglamento (UE) 2016/679 o el artículo 27 de la Directiva (UE) 2016/680.
10. Ilma et see piiraks direktiivi (EL) 2016/680 kohaldamist, taotleb tagantjärele toimuvaks biomeetriliseks kaugtuvastamiseks mõeldud suure riskiga tehisintellektisüsteemi juurutaja kuriteo toimepanemises kahtlustatava või süüdi mõistetud isiku sihipärase otsingu raames selle süsteemi kasutamiseks eelnevalt või põhjendamatu viivituseta, kuid mitte hiljem kui 48 tunni jooksul luba õigusasutuselt või haldusasutuselt, kelle otsus on siduv ja mille suhtes kohaldatakse kohtulikku kontrolli, välja arvatud juhul, kui seda kasutatakse võimaliku kahtlustatava esmaseks tuvastamiseks kuriteoga otseselt seotud objektiivsete ja kontrollitavate faktide põhjal. Iga kasutamine piirdub sellega, mis on rangelt vajalik konkreetse kuriteo uurimiseks.
10. No obstante lo dispuesto en la Directiva (UE) 2016/680, en el marco de una investigación cuya finalidad sea la búsqueda selectiva de una persona sospechosa de haber cometido un delito o condenada por ello, el responsable del despliegue de un sistema de IA de alto riego de identificación biométrica remota en diferido solicitará, ex ante o sin demora indebida y a más tardar en un plazo de cuarenta y ocho horas, a una autoridad judicial o administrativa cuyas decisiones sean vinculantes y estén sujetas a revisión judicial, una autorización para utilizar ese sistema, salvo cuando se utilice para la identificación inicial de un posible sospechoso sobre la base de hechos objetivos y verificables vinculados directamente al delito. Cada utilización deberá limitarse a lo que resulte estrictamente necesario para investigar un delito concreto.
Kui esimese lõigu kohane loataotlus lükatakse tagasi, peatatakse viivitamata taotletud loaga seotud tagantjärele toimuva biomeetrilise kaugtuvastamise süsteemi kasutamine ja selle suure riskiga tehisintellektisüsteemi kasutamisega seotud isikuandmed, mille jaoks luba taotleti, kustutatakse.
En caso de que se deniegue la autorización contemplada en el párrafo primero, dejará de utilizarse el sistema de identificación biométrica remota en diferido objeto de la solicitud de autorización con efecto inmediato y se eliminarán los datos personales asociados al uso del sistema de IA de alto riesgo para el que se solicitó la autorización.
Ühelgi juhul ei tohi sellist suure riskiga tehisintellektisüsteemi tagantjärele toimuvaks biomeetriliseks kaugtuvastamiseks kasutada õiguskaitse eesmärkidel kindla suunitluseta, ilma et see oleks mingil viisil seotud kuriteo, kriminaalmenetluse, kuriteo tegeliku ja olemasoleva või tegeliku ja prognoositava ohuga või konkreetse teadmata kadunud isiku otsimisega. Ühtki isiku suhtes kahjulikke õiguslikke tagajärgi põhjustavat otsust ei tohi teha üksnes tagantjärele toimuva biomeetrilise kaugtuvastamise süsteemi tulemuste põhjal.
Dicho sistema de IA de alto riego de identificación biométrica remota en diferido no se utilizará en ningún caso a los efectos de la garantía del cumplimiento del Derecho de forma indiscriminada, sin que exista relación alguna con un delito, un proceso penal, una amenaza real y actual o real y previsible de delito, o con la búsqueda de una persona desaparecida concreta. Se velará por que las autoridades garantes del cumplimiento del Derecho no puedan adoptar ninguna decisión que produzca efectos jurídicos adversos para una persona exclusivamente sobre la base de los resultados de salida de dichos sistemas de identificación biométrica remota en diferido.
Käesolev lõige ei piira määruse (EL) 2016/679 artikli 9 ja direktiivi (EL) 2016/680 artikli 10 kohaldamist biomeetriliste andmete töötlemisel.
El presente apartado se entiende sin perjuicio del artículo 9 del Reglamento (UE) 2016/679 y del artículo 10 de la Directiva (UE) 2016/680 para el tratamiento de los datos biométricos.
Olenemata eesmärgist või juurutajast, dokumenteeritakse selliste suure riskiga tehisintellektisüsteemide iga kasutamine asjaomases politseitoimikus ning tehakse taotluse korral kättesaadavaks asjaomasele turujärelevalveasutusele ja riiklikule andmekaitseasutusele, välistades õiguskaitsega seotud tundlike operatiivandmete avalikustamise. Käesolev lõik ei piira direktiiviga (EL) 2016/680 järelevalveasutustele antud volitusi.
Con independencia de la finalidad o del responsable del despliegue, se documentará toda utilización de tales sistemas de IA de alto riesgo en el expediente policial pertinente y se pondrá a disposición, previa solicitud, de la autoridad de vigilancia del mercado pertinente y de la autoridad nacional de protección de datos, quedando excluida la divulgación de datos operativos sensibles relacionados con la garantía del cumplimiento del Derecho. El presente párrafo se entenderá sin perjuicio de los poderes conferidas por la Directiva (UE) 2016/680 a las autoridades de control.
Juurutajad esitavad asjaomastele turujärelevalve- ja riiklikele andmekaitseasutustele aastaaruanded tagantjärele toimuva biomeetrilise tuvastamise süsteemide kasutamise kohta, välistades õiguskaitsega seotud tundlike operatiivandmete avalikustamise. Aruanded võib koondada nii, et need hõlmaksid rohkem kui ühte kasutamist.
Los responsables del despliegue presentarán informes anuales a la autoridad de vigilancia del mercado pertinente y a la autoridad nacional de protección de datos sobre el uso que han hecho de los sistemas de identificación biométrica remota en diferido, quedando excluida la divulgación de datos operativos sensibles relacionados con la garantía del cumplimiento del Derecho. Los informes podrán agregarse de modo que cubran más de un despliegue.
Liikmesriigid võivad kooskõlas liidu õigusega kehtestada tagantjärele toimuva biomeetrilise kaugtuvastamise süsteemide kasutamise kohta piiravamaid õigusakte.
Los Estados miembros podrán adoptar, de conformidad con el Derecho de la Unión, leyes más restrictivas sobre el uso de sistemas de identificación biométrica remota en diferido.
11. Ilma et see mõjutaks käesoleva määruse artikli 50 kohaldamist, teavitavad selliste III lisas osutatud suure riskiga tehisintellektisüsteemide juurutajad, mis teevad füüsiliste isikutega seotud otsuseid või aitavad neid otsuseid teha, füüsilisi isikuid sellest, et nende suhtes kasutakse suure riskiga tehisintellektisüsteemi. Õiguskaitse eesmärgil kasutatavate suure riskiga tehisintellektisüsteemide suhtes kohaldatakse direktiivi (EL) 2016/680 artiklit 13.
11. Sin perjuicio de lo dispuesto en el artículo 50 del presente Reglamento, los responsables del despliegue de los sistemas de IA de alto riesgo a que se refiere el anexo III que tomen decisiones o ayuden a tomar decisiones relacionadas con personas físicas informarán a las personas físicas de que están expuestas a la utilización de los sistemas de IA de alto riesgo. En el caso de los sistemas de IA de alto riesgo que se utilicen a los efectos de la garantía del cumplimiento del Derecho, se aplicará el artículo 13 de la Directiva (UE) 2016/680.
12. Juurutajad teevad asjakohaste pädevate asutustega koostööd kõigis toimingutes, mida kõnealused asutused võtavad ette seoses suure riskiga tehisintellektisüsteemiga käesoleva määruse rakendamiseks.
12. Los responsables del despliegue cooperarán con las autoridades competentes pertinentes en cualquier medida que estas adopten en relación con el sistema de IA de alto riesgo con el objetivo de aplicar el presente Reglamento.
Põhiõigustele avaldatava mõju hindamine suure riskiga tehisintellektisüsteemide puhul
Evaluación de impacto relativa a los derechos fundamentales para los sistemas de IA de alto riesgo
1. Enne artikli 6 lõikes 2 osutatud suure riskiga tehisintellektisüsteemi juurutamist, välja arvatud suure riskiga tehisintellektisüsteemide puhul, mis on ette nähtud kasutamiseks III lisa punktis 2 loetletud valdkonnas, hindavad juurutajad, kes on avalik-õiguslikud asutused või avalikke teenuseid osutavad eraõiguslikud üksused, ning III lisa punkti 5 alapunktides b ja c osutatud suure riskiga tehisintellektisüsteemide juurutajad põhiõigustele avalduvat mõju, mida sellise süsteemi kasutamine võib avaldada. Selleks viivad juurutajad läbi hindamise, mis hõlmab järgmist:
1. Antes de desplegar uno de los sistemas de IA de alto riesgo a que se refiere el artículo 6, apartado 2, con excepción de los sistemas de IA de alto riesgo destinados a ser utilizados en el ámbito enumerado en el anexo III, punto 2, los responsables del despliegue que sean organismos de Derecho público, o entidades privadas que prestan servicios públicos, y los responsable del despliegue de sistemas de IA de alto riesgo a que se refiere el anexo III, punto 5, letras b) y c), llevarán a cabo una evaluación del impacto que la utilización de dichos sistemas puede tener en los derechos fundamentales. A tal fin, los responsables del despliegue llevarán a cabo una evaluación que consistirá en:
a)
juurutaja kirjeldus protsessidest, milles suure riskiga tehisintellektisüsteemi kasutatakse kooskõlas selle sihtotstarbega;
a)
una descripción de los procesos del responsable del despliegue en los que se utilizará el sistema de IA de alto riesgo en consonancia con su finalidad prevista;
b)
viide ajavahemikule, mille jooksul iga suure riskiga tehisintellektisüsteemi kavatsetakse kasutada, ja kasutamise sagedus;
b)
una descripción del período de tiempo durante el cual se prevé utilizar cada sistema de IA de alto riesgo y la frecuencia con la que está previsto utilizarlo;
c)
füüsiliste isikute ja rühmade kategooriad, keda süsteemi kasutamine konkreetses kontekstis tõenäoliselt mõjutab;
c)
las categorías de personas físicas y colectivos que puedan verse afectados por su utilización en el contexto específico;
d)
konkreetsed käesoleva lõike punkti c kohaselt kindlaks tehtud füüsiliste isikute või isikute rühmade kategooriaid mõjutada võiva kahju riskid, võttes arvesse pakkuja poolt artikli 13 kohaselt esitatud teavet;
d)
los riesgos de perjuicio específicos que puedan afectar a las categorías de personas físicas y colectivos determinadas con arreglo a la letra c) del presente apartado, teniendo en cuenta la información facilitada por el proveedor con arreglo al artículo 13;
e)
inimjärelevalve meetmete rakendamise kirjeldus vastavalt kasutusjuhendile;
e)
una descripción de la aplicación de medidas de supervisión humana, de acuerdo con las instrucciones de uso;
f)
nende riskide realiseerumise korral võetavad meetmed, sealhulgas sisejuhtimise kord ja kaebuste esitamise mehhanismid.
f)
las medidas que deben adoptarse en caso de que dichos riesgos se materialicen, incluidos los acuerdos de gobernanza interna y los mecanismos de reclamación.
2. Lõikes 1 sätestatud kohustus kehtib suure riskiga tehisintellektisüsteemi esimese kasutamise korral. Sarnastel juhtudel võib juurutaja tugineda varem läbi viidud põhiõiguste mõjuhinnangutele või olemasolevatele pakkuja tehtud mõjuhinnangutele. Kui juurutaja leiab suure riskiga tehisintellektisüsteemi kasutamise ajal, et mõni lõikes 1 loetletud elementidest on muutunud või ei ole enam ajakohane, võtab juurutaja vajalikud meetmed teabe ajakohastamiseks.
2. La obligación descrita con arreglo al apartado 1 se aplicará al primer uso del sistema de IA de alto riesgo. En casos similares, el responsable del despliegue podrá basarse en evaluaciones de impacto relativas a los derechos fundamentales realizadas previamente o a evaluaciones de impacto existentes realizadas por los proveedores. Si, durante el uso del sistema de IA de alto riesgo, el responsable del despliegue considera que alguno de los elementos enumerados en el apartado 1 ha cambiado o ha dejado de estar actualizado, adoptará las medidas necesarias para actualizar la información.
3. Kui käesoleva artikli lõikes 1 osutatud hindamine on tehtud, teavitab juurutaja turujärelevalveasutust selle tulemustest, esitades täidetuna käesoleva artikli lõikes 5 osutatud vormi teavituse osana. Artikli 46 lõikes 1 osutatud juhul võib juurutajad nimetatud teavitamiskohustusest vabastada.
3. Una vez realizada la evaluación a que se refiere el apartado 1 del presente artículo, el responsable del despliegue notificará sus resultados a la autoridad de vigilancia del mercado, presentando el modelo cumplimentado a que se refiere el apartado 5 del presente artículo. En el caso contemplado en el artículo 46, apartado 1, los responsables del despliegue podrán quedar exentos de esta obligación de notificación.
4. Kui mõni käesolevas artiklis sätestatud kohustustest on määruse (EL) 2016/679 artikli 35 või direktiivi (EL) 2016/680 artikli 27 kohaselt tehtud andmekaitsealase mõjuhinnangu tulemusel juba täidetud, täiendab käesoleva artikli lõikes 1 osutatud põhiõiguste mõjuhinnang kõnealust andmekaitsealast mõjuhinnangut.
4. Si ya se cumple cualquiera de las obligaciones establecidas en el presente artículo mediante la evaluación de impacto relativa a la protección de datos realizada con arreglo al artículo 35 del Reglamento (UE) 2016/679 o del artículo 27 de la Directiva (UE) 2016/680, la evaluación de impacto relativa a los derechos fundamentales a que se refiere el apartado 1 del presente artículo complementará dicha evaluación de impacto relativa a la protección de datos.
5. Tehisintellektiamet töötab välja küsimustiku vormi, sealhulgas automaatse vahendi abil, et hõlbustada juurutajatel täita käesolevast artiklist tulenevaid kohustusi lihtsustatud viisil.
5. La Oficina de IA elaborará un modelo de cuestionario, también mediante una herramienta automatizada, a fin de facilitar que los responsables del despliegue cumplan sus obligaciones en virtud del presente artículo de manera simplificada.
1. Iga liikmesriik määrab või loob vähemalt ühe teavitava asutuse, kes vastutab vastavushindamisasutuste hindamise, määramise ja neist teavitamise ning nende järelevalve jaoks vajalike menetluste väljatöötamise ja läbiviimise eest. Nimetatud menetlused töötatakse välja kõigi liikmesriikide teavitavate asutuste koostöös.
1. Cada Estado miembro nombrará o constituirá al menos una autoridad notificante que será responsable de establecer y llevar a cabo los procedimientos necesarios para la evaluación, designación y notificación de los organismos de evaluación de la conformidad, así como de su supervisión. Dichos procedimientos se desarrollarán por medio de la cooperación entre las autoridades notificantes de todos los Estados miembros.
2. Liikmesriigid võivad otsustada, et lõikes 1 osutatud hindamist ja järelevalvet teostab riiklik akrediteerimisasutus määruse (EÜ) nr 765/2008 tähenduses ja sellega kooskõlas.
2. Los Estados miembros podrán decidir que la evaluación y la supervisión contempladas en el apartado 1 sean realizadas por un organismo nacional de acreditación en el sentido del Reglamento (CE) n.o 765/2008 y con arreglo a este.
3. Teavitavad asutused tuleb luua, nende töö korraldada ja neid juhtida nii, et ei tekiks huvide konflikti vastavushindamisasutustega ning et oleks kindlustatud nende tegevuse objektiivsus ja erapooletus.
3. Las autoridades notificantes se constituirán, se organizarán y funcionarán de forma que no surjan conflictos de intereses con los organismos de evaluación de la conformidad y que se garantice la imparcialidad y objetividad de sus actividades.
4. Teavitavate asutuste töö korraldatakse nii, et kõik vastavushindamisasutusest teavitamisega seotud otsused teevad pädevad isikud, kes ei ole nende asutuste hindamist läbi viinud isikud.
4. Las autoridades notificantes se organizarán de forma que las decisiones relativas a la notificación de los organismos de evaluación de la conformidad sean adoptadas por personas competentes distintas de las que llevaron a cabo la evaluación de dichos organismos.
5. Teavitavad asutused ei tohi pakkuda ega osutada teenuseid, mida osutavad vastavushindamisasutused, ega nõustamisteenuseid ärilisel või konkureerival alusel.
5. Las autoridades notificantes no ofrecerán ni ejercerán ninguna actividad que efectúen los organismos de evaluación de la conformidad, ni ningún servicio de consultoría de carácter comercial o competitivo.
6. Teavitavad asutused tagavad saadud teabe konfidentsiaalsuse kooskõlas artikliga 78.
6. Las autoridades notificantes preservarán la confidencialidad de la información obtenida, de conformidad con lo dispuesto en el artículo 78.
7. Teavitavatel asutustel on oma ülesannete nõuetekohaseks täitmiseks piisavalt pädevaid töötajaid. Pädevatel töötajatel on kohaldataval juhul oma ülesannete täitmiseks vajalikud eksperditeadmised infotehnoloogia, tehisintellekti ja õiguse, sealhulgas põhiõiguste järelevalve valdkonnas.
7. Las autoridades notificantes dispondrán de suficiente personal competente para efectuar adecuadamente sus tareas. Cuando proceda, el personal competente tendrá los conocimientos especializados necesarios para ejercer sus funciones, en ámbitos como las tecnologías de la información, la IA y el Derecho, incluida la supervisión de los derechos fundamentales.
Vastavushindamisasutuse teavitamistaotlus
Solicitud de notificación por parte de un organismo de evaluación de la conformidad
1. Vastavushindamisasutus esitab teavitamistaotluse selle liikmesriigi teavitavale asutusele, mille territooriumil ta on asutatud.
1. Los organismos de evaluación de la conformidad presentarán una solicitud de notificación ante la autoridad notificante del Estado miembro en el que estén establecidos.
2. Teavitamistaotlusega koos esitatakse dokument, kus kirjeldatakse vastavushindamistoiminguid, vastavushindamismoodulit või -mooduleid ja tehisintellektisüsteemide liike, millega tegelemiseks väidab see vastavushindamisasutus end pädev olevat, ning riikliku akrediteerimisasutuse väljastatud akrediteerimistunnistus (kui see on olemas), mis tõendab, et vastavushindamisasutus vastab artiklis 31 sätestatud nõuetele.
2. La solicitud de notificación irá acompañada de una descripción de las actividades de evaluación de la conformidad, del módulo o módulos de evaluación de la conformidad y los tipos de sistemas de IA en relación con los cuales el organismo de evaluación de la conformidad se considere competente, así como de un certificado de acreditación, si lo hay, expedido por un organismo nacional de acreditación, que declare que el organismo de evaluación de la conformidad cumple los requisitos establecidos en el artículo 31.
Lisatakse mis tahes kehtivad dokumendid, mis on seotud taotlust esitava teada antud asutuse olemasolevate määramistega mõne muu liidu ühtlustamisõigusakti alusel.
Se añadirá cualquier documento válido relacionado con las designaciones existentes del organismo notificado solicitante en virtud de cualquier otro acto de la legislación de armonización de la Unión.
3. Kui vastavushindamisasutus ei saa akrediteerimistunnistust esitada, siis esitab ta teavitavale asutusele kõik dokumentaalsed tõendid, mis on vajalikud, et kontrollida, tunnistada ja korrapäraselt jälgida tema vastavust artiklis 31 sätestatud nõuetele.
3. Si el organismo de evaluación de la conformidad de que se trate no puede facilitar un certificado de acreditación, entregará a la autoridad notificante todas las pruebas documentales necesarias para verificar, reconocer y supervisar periódicamente que cumple los requisitos establecidos en el artículo 31.
4. Kui tegemist on teada antud asutusega, mis on määratud mõne muu liidu ühtlustamisõigusakti alusel, võib vastavalt vajadusele kasutada kõiki kõnealuste määramistega seotud dokumente ja tõendeid nende määramise toetuseks käesoleva määruse alusel. Teada antud asutus ajakohastab käesoleva artikli lõigetes 2 ja 3 osutatud dokumentatsiooni alati, kui tehakse asjakohaseid muudatusi, et teada antud asutuste eest vastutav asutus saaks jälgida ja kontrollida pidevat vastavust kõigile artiklis 31 sätestatud nõuetele.
4. En lo que respecta a los organismos notificados designados de conformidad con cualquier otro acto legislativo de armonización de la Unión, todos los documentos y certificados vinculados a dichas designaciones podrán utilizarse para apoyar su procedimiento de designación en virtud del presente Reglamento, según proceda. El organismo notificado actualizará la documentación a que se refieren los apartados 2 y 3 del presente artículo cuando se produzcan cambios pertinentes, para que la autoridad responsable de los organismos notificados pueda supervisar y verificar que se siguen cumpliendo todos los requisitos establecidos en el artículo 31.
Procedimiento de notificación
1. Teavitavad asutused võivad teavitada ainult neist vastavushindamisasutustest, mis vastavad artiklis 31 sätestatud nõuetele.
1. Las autoridades notificantes solo podrán notificar organismos de evaluación de la conformidad que hayan cumplido los requisitos establecidos en el artículo 31.
2. Teavitavad asutused kasutavad komisjoni ja teiste liikmesriikide teavitamiseks igast lõikes 1 osutatud vastavushindamisasutusest komisjoni välja töötatud ja hallatavat elektroonilist teavitamisvahendit.
2. Las autoridades notificantes notificarán a la Comisión y a los demás Estados miembros, mediante el sistema de notificación electrónica desarrollado y gestionado por la Comisión, cada organismo de evaluación de la conformidad a que se refiere el apartado 1.
3. Käesoleva artikli lõikes 2 nimetatud teavitus sisaldab kõiki üksikasju vastavushindamistoimingutest, vastavushindamismoodulist või -moodulitest ja asjaomastest tehisintellektisüsteemide liikidest ning asjakohast pädevuse kinnitust. Kui teavitus ei põhine artikli 29 lõikes 2 osutatud akrediteerimistunnistusel, esitab teavitav asutus komisjonile ja teistele liikmesriikidele dokumentaalsed tõendid, mis kinnitavad, et vastavushindamisasutus on pädev ja et on kehtestatud asutuse korrapärast järelevalvet tagav kord, millega tagatakse ka edaspidi vastavus artiklis 31 sätestatud nõuetele.
3. La notificación a que se refiere el apartado 2 del presente artículo incluirá información detallada de las actividades de evaluación de la conformidad, el módulo o módulos de evaluación de la conformidad y los tipos de sistemas de IA afectados, así como la certificación de competencia pertinente. Si la notificación no está basada en el certificado de acreditación a que se refiere el artículo 29, apartado 2, la autoridad notificante facilitará a la Comisión y a los demás Estados miembros las pruebas documentales que demuestren la competencia del organismo de evaluación de la conformidad y las disposiciones existentes destinadas a garantizar que se supervisará periódicamente al organismo y que este continuará satisfaciendo los requisitos establecidos en el artículo 31.
4. Asjaomane vastavushindamisasutus võib teada antud asutuse toiminguid teha ainult juhul, kui komisjon või teised liikmesriigid ei esita vastuväiteid kahe nädala jooksul alates teavitava asutuse poolsest teavitamisest, kui teavitus sisaldab artikli 29 lõikes 2 osutatud akrediteerimistunnistust, või kahe kuu jooksul alates teavitava asutuse poolsest teavitamisest, kui teavitus sisaldab artikli 29 lõikes 3 osutatud dokumentaalseid tõendeid.
4. El organismo de evaluación de la conformidad de que se trate únicamente podrá realizar las actividades de un organismo notificado si la Comisión o los demás Estados miembros no formulan ninguna objeción en el plazo de dos semanas tras la notificación de una autoridad notificante cuando esta incluya el certificado de acreditación a que se refiere el artículo 29, apartado 2, o de dos meses tras la notificación de la autoridad notificante cuando esta incluya las pruebas documentales a que se refiere el artículo 29, apartado 3.
5. Kui esitatakse vastuväiteid, alustab komisjon viivitamata konsultatsioone asjaomaste liikmesriikide ja vastavushindamisasutusega. Komisjon otsustab neid konsultatsioone silmas pidades, kas luba on põhjendatud. Komisjon saadab oma otsuse asjaomasele liikmesriigile ja asjaomasele vastavushindamisasutusele.
5. Cuando se formulen objeciones, la Comisión iniciará sin demora consultas con los Estados miembros pertinentes y el organismo de evaluación de la conformidad. En vista de todo ello, la Comisión enviará su decisión al Estado miembro afectado y al organismo de evaluación de la conformidad pertinente.
Teada antud asutusi puudutavad nõuded
Requisitos relativos a los organismos notificados
1. Teada antud asutus asutatakse liikmesriigi õiguse alusel ning ta on juriidiline isik.
1. Los organismos notificados se establecerán de conformidad con el Derecho nacional de los Estados miembros y tendrán personalidad jurídica.
2. Teada antud asutused täidavad organisatsioonilisi, kvaliteedijuhtimise, ressursside ja protsessidega seotud nõudeid, mis on vajalikud nende ülesannete täitmiseks, ning vastavaid küberturvalisuse nõudeid.
2. Los organismos notificados satisfarán los requisitos organizativos, de gestión de la calidad, recursos y procesos, necesarios para el desempeño de sus funciones, así como los requisitos adecuados en materia de ciberseguridad.
3. Teada antud asutuste organisatsiooniline struktuur, vastutusalade jaotus, aruandlusahelad ja tegevus peavad tagama usalduse teada antud asutuste tegevuse ja nende teostatud vastavushindamistoimingute tulemuste suhtes.
3. La estructura organizativa, la distribución de las responsabilidades, la línea jerárquica y el funcionamiento de los organismos notificados ofrecerán confianza en su desempeño y en los resultados de las actividades de evaluación de la conformidad que realicen los organismos notificados.
4. Teada antud asutused peavad olema sõltumatud suure riskiga tehisintellektisüsteemi pakkujast, mille vastavushindamisega nad tegelevad. Samuti peavad teada antud asutused olema sõltumatud mis tahes muust operaatorist, kellel on majanduslik huvi hinnatava suure riskiga tehisintellektisüsteemi vastu, ja kõigist pakkuja konkurentidest. See ei välista vastavushindamisasutuse tegevuseks vajalike hinnatud suure riskiga tehisintellektisüsteemide kasutamist ega selliste suure riskiga tehisintellektisüsteemide kasutamist isiklikel eesmärkidel.
4. Los organismos notificados serán independientes del proveedor de un sistema de IA de alto riesgo en relación con el cual lleven a cabo actividades de evaluación de la conformidad. Los organismos notificados serán independientes de cualquier otro operador con un interés económico en los sistemas de IA de alto riesgo que se evalúen, así como de cualquier competidor del proveedor. Ello no será óbice para el uso de sistemas de IA de alto riesgo evaluados que sean necesarios para las actividades del organismo de evaluación de la conformidad o para el uso de tales sistemas de alto riesgo con fines personales.
5. Vastavushindamisasutus, selle juhtkond ega selle vastavushindamisülesannete täitmise eest vastutavad töötajad ei tohi olla otseselt seotud suure riskiga tehisintellektisüsteemide projekteerimise, arendamise, turustamise või kasutamisega ega esindada ühtegi isikut, kes nimetatud tegevustega tegeleb. Nad ei tohi osaleda üheski tegevuses, mis võib olla vastuolus nende otsuste sõltumatuse ja vastavushindamistoimingute usaldusväärsusega, mille teostamiseks on neist teada antud. See kehtib eelkõige nõustamisteenuste puhul.
5. Los organismos de evaluación de la conformidad, sus máximos directivos y el personal responsable de la realización de las tareas de evaluación de la conformidad no intervendrán directamente en el diseño, el desarrollo, la comercialización o el uso de dichos sistemas de IA de alto riesgo, ni tampoco representarán a las partes que llevan a cabo estas actividades. Además, no efectuarán ninguna actividad que pudiera entrar en conflicto con su independencia de criterio o su integridad en relación con las actividades de evaluación de la conformidad para las que han sido notificados. Ello se aplicará especialmente a los servicios de consultoría.
6. Teada antud asutuste töö korraldatakse ja neid juhitakse nii, et tagada nende tegevuse sõltumatus, objektiivsus ja erapooletus. Teada antud asutused dokumenteerivad ja rakendavad struktuuri ja menetlused, millega tagatakse erapooletus ning mille abil edendatakse ja kohaldatakse erapooletuse põhimõtteid kogu nende organisatsiooni, töötajate ja hindamistoimingute osas.
6. Los organismos notificados estarán organizados y gestionados de modo que se garantice la independencia, objetividad e imparcialidad de sus actividades. Los organismos notificados documentarán e implantarán una estructura y procedimientos que garanticen la imparcialidad y permitan promover y poner en práctica los principios de imparcialidad aplicables en toda su organización, a todo su personal y en todas sus actividades de evaluación.
7. Teada antud asutustel peavad olema dokumenteeritud menetlused, millega tagatakse, et nende töötajad, komiteed, tütarettevõtjad, alltöövõtjad ja kõik nendega seotud asutused või väliste asutuste töötajad austavad kooskõlas artikliga 78 vastavushindamistoimingute teostamise käigus saadud teabe konfidentsiaalsust, välja arvatud juhul, kui avalikustamine on seadusega nõutud. Teada antud asutuste töötajad on kohustatud kaitsma ametisaladusena teavet, mille nad on saanud käesoleva määruse alusel oma ülesandeid täites, välja arvatud suhetes selle liikmesriigi teavitavate asutustega, kus teada antud asutus tegutseb.
7. Los organismos notificados contarán con procedimientos documentados que garanticen que su personal, sus comités, sus filiales, sus subcontratistas y todos sus organismos asociados o personal de organismos externos mantengan, de conformidad con el artículo 78, la confidencialidad de la información que llegue a su poder en el desempeño de las actividades de evaluación de la conformidad, excepto en aquellos casos en que la ley exija su divulgación. El personal de los organismos notificados estará sujeto al secreto profesional en lo que respecta a toda la información obtenida en el ejercicio de las funciones que les hayan sido encomendadas en virtud del presente Reglamento, salvo en relación con las autoridades notificantes del Estado miembro en el que desarrollen sus actividades.
8. Teada antud asutustel peavad olema menetlused selliste toimingute teostamiseks, milles võetakse asjakohaselt arvesse pakkuja suurust, tegutsemisvaldkonda, tema struktuuri ning asjaomase tehisintellektisüsteemi keerukuse astet.
8. Los organismos notificados contarán con procedimientos para desempeñar sus actividades que tengan debidamente en cuenta el tamaño de los proveedores, el sector en que operan, su estructura y el grado de complejidad del sistema de IA de que se trate.
9. Teada antud asutused peavad võtma endale asjakohase vastutuskindlustuse seoses oma vastavushindamistoimingutega, välja arvatud juhul, kui vastutust kannab liikmesriik, milles nad on asutatud, vastavalt selle liikmesriigi õigusele, või kui see liikmesriik vastutab ise otseselt vastavushindamise eest.
9. Los organismos notificados suscribirán un seguro de responsabilidad adecuado para sus actividades de evaluación de la conformidad, salvo que la responsabilidad la asuma el Estado miembro en que estén establecidos con arreglo al Derecho nacional o que el propio Estado miembro sea directamente responsable de la evaluación de la conformidad.
10. Teada antud asutused peavad olema võimelised täitma kõiki oma käesoleva määruse kohaseid ülesandeid suurima erialase usaldusväärsuse ja nõutava erialase pädevusega nii siis, kui neid ülesandeid täidavad teada antud asutused ise, kui ka siis, kui seda tehakse nende nimel ja nende vastutusel.
10. Los organismos notificados serán capaces de llevar a cabo todas sus tareas con arreglo al presente Reglamento con el máximo grado de integridad profesional y la competencia técnica necesaria en el ámbito específico, tanto si dichas tareas las efectúan los propios organismos notificados como si se realizan en su nombre y bajo su responsabilidad.
11. Teada antud asutustel peab olema piisav sisepädevus, et tulemuslikult hinnata väliste isikute poolt nende nimel täidetud ülesandeid. Teada antud asutusele peab olema alaliselt kättesaadav piisavalt haldus-, tehnilisi, õigus- ja teadustöötajaid, kellel on kogemused ja teadmised asjaomaste tehisintellektisüsteemide liikide, andmete ja andmetöötlusega ning seoses 2. jaos sätestatud nõuetega.
11. Los organismos notificados contarán con competencias técnicas internas suficientes para poder evaluar de manera eficaz las tareas que lleven a cabo agentes externos en su nombre. El organismo notificado dispondrá permanentemente de suficiente personal administrativo, técnico, jurídico y científico que tenga experiencia y conocimientos relativos a los tipos de sistemas de IA, los datos y la computación de datos pertinentes y a los requisitos establecidos en la sección 2.
12. Teada antud asutused osalevad artiklis 38 osutatud koordineerimistegevuses. Samuti osalevad nad otseselt või esindajate kaudu Euroopa standardiorganisatsioonides või tagavad, et nad on asjakohastest standarditest teadlikud ja nende viimase arenguga kursis.
12. Los organismos notificados participarán en las actividades de coordinación según lo previsto en el artículo 38. Asimismo, tomarán parte directamente o mediante representación en organizaciones europeas de normalización, o se asegurarán de mantenerse al corriente de la situación actualizada de las normas pertinentes.
Teada antud asutuste põhitegevusega seotud kohustused
Obligaciones operativas de los organismos notificados
1. Teada antud asutused kontrollivad suure riskiga tehisintellektisüsteemide vastavust artiklis 43 sätestatud vastavushindamismenetluse kohaselt.
1. Los organismos notificados verificarán la conformidad de los sistemas de IA de alto riesgo siguiendo los procedimientos de evaluación de la conformidad establecidos en el artículo 43.
2. Teada antud asutused väldivad oma ülesannete täitmisel pakkujate liigset koormamist ning võtavad nõuetekohaselt arvesse pakkuja suurust, tegutsemissektorit, struktuuri ja asjaomase suure riskiga tehisintellektisüsteemi keerukuse astet, pidades eelkõige silmas halduskoormuse ja nõuete täitmisega seotud kulude minimeerimist seoses mikro- ja väikeettevõtjate soovituse 2003/361/EÜ tähenduses. Teada antud asutus järgib siiski sellist rangust ja kaitse taset, mida on vaja, et tagada suure riskiga tehisintellektisüsteemi vastavus käesoleva määruse nõuetele.
2. Los organismos notificados evitarán cargas innecesarias para los proveedores cuando desempeñen sus actividades, y tendrán debidamente en cuenta el tamaño del proveedor, el sector en que opera, su estructura y el grado de complejidad del sistema de IA de alto riesgo de que se trate, en particular con vistas a reducir al mínimo las cargas administrativas y los costes del cumplimiento para las microempresas y pequeñas empresas en el sentido de la Recomendación 2003/361/CE. El organismo notificado respetará, sin embargo, el grado de rigor y el nivel de protección requeridos para que el sistema de IA de alto riesgo cumpla los requisitos del presente Reglamento.
3. Teada antud asutused teevad kättesaadavaks ja esitavad taotluse korral kogu asjakohase dokumentatsiooni, sealhulgas pakkuja dokumentatsiooni, artiklis 28 osutatud teavitavale asutusele, et sellel asutusel oleks võimalik teostada hindamis-, määramis-, teavitamis- ja järelevalvetoiminguid ning hõlbustada käesolevas jaos kirjeldatud hindamist.
3. Los organismos notificados pondrán a disposición de la autoridad notificante mencionada en el artículo 28, y le presentarán cuando se les pida, toda la documentación pertinente, incluida la documentación de los proveedores, a fin de que dicha autoridad pueda llevar a cabo sus actividades de evaluación, designación, notificación y supervisión, y de facilitar la evaluación descrita en la presente sección.
Cambios en las notificaciones
1. Teavitav asutus teavitab komisjoni ja teisi liikmesriike kõigist asjakohastest muudatustest teada antud asutuse teavituses artikli 30 lõikes 2 osutatud elektroonilise teavitamisvahendi kaudu.
1. La autoridad notificante notificará a la Comisión y a los demás Estados miembros cualquier cambio pertinente en la notificación de un organismo notificado a través del sistema de notificación electrónica a que se refiere el artículo 30, apartado 2.
2. Teavituse ulatuse laiendamise suhtes kohaldatakse artiklites 29 ja 30 sätestatud menetlusi.
2. Los procedimientos establecidos en los artículos 29 y 30 se aplicarán a las ampliaciones del ámbito de aplicación de la notificación.
Muude kui teavituse ulatuse laiendamisega seotud muudatuste puhul kohaldatakse lõigetes 3–9 sätestatud menetlusi.
Para modificaciones de la notificación distintas de las ampliaciones de su ámbito de aplicación, se aplicarán los procedimientos establecidos en los apartados 3 a 9.
3. Kui teada antud asutus otsustab vastavushindamisalase tegevuse lõpetada, teatab ta sellest teavitavale asutusele ja asjaomastele pakkujatele nii kiiresti kui võimalik ning ettekavatsetud lõpetamise korral vähemalt üks aasta enne tegevuse lõpetamist. Teada antud asutuse sertifikaadid võivad pärast teada antud asutuse tegevuse lõpetamist jääda kehtima üheksaks kuuks tingimusel, et mõni teine teada antud asutus on kirjalikult kinnitanud, et ta võtab nende sertifikaatidega hõlmatud suure riskiga tehisintellektisüsteemide eest vastutuse üle. Enne asjaomastele tehisintellektisüsteemidele uute sertifikaatide väljastamist viib viimati nimetatud teada antud asutus selle üheksakuulise ajavahemiku lõpuks läbi nende suure riskiga süsteemide täieliku hindamise. Kui teada antud asutus on oma tegevuse lõpetanud, tühistab teavitav asutus määramise.
3. Cuando un organismo notificado decida poner fin a sus actividades de evaluación de la conformidad, informará de ello a la autoridad notificante y a los proveedores afectados tan pronto como sea posible y, cuando se trate de un cese planeado, al menos un año antes de poner fin a sus actividades. Los certificados del organismo notificado podrán seguir siendo válidos durante un plazo de nueve meses después del cese de las actividades del organismo notificado, siempre que otro organismo notificado haya confirmado por escrito que asumirá la responsabilidad de los sistemas de IA de alto riesgo cubiertos por dichos certificados. Este último organismo notificado realizará una evaluación completa de los sistemas de IA de alto riesgo afectados antes del vencimiento de ese plazo de nueve meses y antes de expedir nuevos certificados para esos sistemas. Si el organismo notificado ha puesto fin a sus actividades, la autoridad notificante retirará la designación.
4. Kui teavitaval asutusel on piisavalt põhjust arvata, et teada antud asutus ei vasta enam artiklis 31 sätestatud nõuetele või et ta ei täida oma kohustusi, siis uurib teavitav asutus seda küsimust viivitamata ja äärmiselt hoolikalt. Seoses sellega teatab ta asjaomasele teada antud asutusele tekkinud vastuväidetest ja annab talle võimaluse esitada oma seisukohad. Kui teavitav asutus on jõudnud järeldusele, et teada antud asutus ei vasta enam artiklis 31 sätestatud nõuetele või et ta ei täida oma kohustusi, siis vastavalt vajadusele seab teavitav asutus määramisele piirangud või peatab või tühistab selle sõltuvalt nõuetele mittevastavuse või kohustuste mittetäitmise raskusastmest. Ta teatab sellest viivitamata komisjonile ja teistele liikmesriikidele.
4. Si una autoridad notificante tiene motivo suficiente para considerar que un organismo notificado ya no cumple los requisitos establecidos en el artículo 31 o no está cumpliendo sus obligaciones, la autoridad notificante investigará el asunto sin demora y con la máxima diligencia. En ese contexto, informará al organismo notificado de que se trate acerca de las objeciones formuladas y le ofrecerá la posibilidad de exponer sus puntos de vista. Si la autoridad notificante llega a la conclusión de que el organismo notificado ya no cumple los requisitos establecidos en el artículo 31 o no está cumpliendo sus obligaciones, dicha autoridad limitará, suspenderá o retirará la designación, según el caso, dependiendo de la gravedad del incumplimiento de dichos requisitos u obligaciones. Asimismo, informará de ello inmediatamente a la Comisión y a los demás Estados miembros.
5. Kui määramine on peatatud, piiratud või täielikult või osaliselt tühistatud, peab teada antud asutus asjaomaseid pakkujaid sellest teavitama kümne päeva jooksul.
5. Cuando su designación haya sido suspendida, limitada o retirada total o parcialmente, el organismo notificado informará a los proveedores afectados a más en un plazo de diez días.
6. Määramise piiramise, peatamise või tühistamise korral võtab teavitav asutus asjakohaseid meetmeid tagamaks, et asjaomase teada antud asutuse toimikud hoitakse alles ja tehakse teistes liikmesriikides asuvatele teavitavatele asutustele ja turujärelevalveasutustele nende taotluse alusel kättesaadavaks.
6. En caso de la limitación, suspensión o retirada de una designación, la autoridad notificante adoptará las medidas oportunas para garantizar que los archivos del organismo notificado de que se trate se conserven, y para ponerlos a disposición de las autoridades notificantes de otros Estados miembros y de las autoridades de vigilancia del mercado, a petición de estas.
7. Määramise piiramise, peatamise või tühistamise korral teavitav asutus:
7. En caso de la limitación, suspensión o retirada de una designación, la autoridad notificante:
a)
hindab mõju teada antud asutuse väljastatud sertifikaatidele;
a)
evaluará las repercusiones en los certificados expedidos por el organismo notificado;
b)
esitab komisjonile ja teistele liikmesriikidele kolme kuu jooksul pärast määramise muudatustest teatamist aruande oma järelduste kohta;
b)
presentará a la Comisión y a los demás Estados miembros un informe con sus conclusiones en un plazo de tres meses a partir de la notificación de los cambios en la designación;
c)
nõuab, et teada antud asutus peataks või tunnistaks riikliku asutuse määratud mõistliku aja jooksul kõik alusetult väljastatud sertifikaadid kehtetuks, et tagada turul olevate suure riskiga tehisintellektisüsteemide jätkuv nõuetele vastavus;
c)
exigirá al organismo notificado que suspenda o retire, en un plazo razonable determinado por la autoridad, todo certificado indebidamente expedido, a fin de garantizar la conformidad continua de los sistemas de IA de alto riesgo en el mercado;
d)
teavitab komisjoni ja liikmesriike sertifikaatidest, mille peatamist või kehtetuks tunnistamist ta on nõudnud;
d)
informará a la Comisión y a los Estados miembros de los certificados cuya suspensión o retirada haya exigido;
e)
esitab selle liikmesriigi pädevatele asutustele, kus on pakkuja registreeritud tegevuskoht, kogu asjakohase teabe sertifikaatide kohta, mille peatamist või kehtetuks tunnistamist ta on nõudnud. Nimetatud asutus võtab vajaduse korral asjakohaseid meetmeid, et ära hoida võimalik risk tervisele, ohutusele või põhiõigustele.
e)
facilitará a las autoridades nacionales competentes del Estado miembro en el que el proveedor tenga su domicilio social toda la información pertinente sobre los certificados cuya suspensión o retirada haya exigido; dicha autoridad tomará las medidas oportunas, cuando sea necesario, para evitar un riesgo para la salud, la seguridad o los derechos fundamentales.
8. Välja arvatud alusetult väljastatud sertifikaatide puhul ning kui määramine on peatatud või piiratud, jäävad sertifikaadid kehtima ühel järgmistel tingimustel:
8. Salvo en el caso de los certificados expedidos indebidamente, y cuando una designación haya sido suspendida o limitada, los certificados mantendrán su validez en una de las circunstancias siguientes:
a)
teavitav asutus on ühe kuu jooksul alates peatamisest või piirangu kehtestamisest kinnitanud, et nende sertifikaatide puhul, mida peatamine või piirang puudutab, puudub risk tervisele, ohutusele või põhiõigustele, ning teavitav asutus on esitanud ajakava ja meetmed peatamise või piirangu tühistamiseks, või
a)
cuando, en el plazo de un mes a partir de la suspensión o la limitación, la autoridad notificante haya confirmado que no existe riesgo alguno para la salud, la seguridad o los derechos fundamentales en relación con los certificados afectados por la suspensión o la limitación y haya fijado un calendario de acciones para subsanar la suspensión o la limitación, o
b)
teavitav asutus on kinnitanud, et peatamisega seoses ei anta välja, ei muudeta ega anta uuesti välja ühtegi sertifikaati peatamise või piirangu kehtivuse jooksul, ning märgib, kas teada antud asutus on suuteline järelevalvet jätkama ja jätkuvalt vastutama olemasolevate sertifikaatide eest, mis on välja antud peatamise või piirangu kehtivuse ajaks; juhul kui teavitatav asutus teeb kindlaks, et teada antud asutus ei ole suuteline olemasolevate väljastatud sertifikaatide eest vastutama, esitab sertifikaadiga hõlmatud süsteemi pakkuja oma registreeritud tegevuskoha liikmesriigi pädevatele asutustele kolme kuu jooksul alates peatamisest või piirangu kehtestamisest, et mõni teine kvalifitseeritud teada antud asutus võtab peatamise või piirangu kehtimise ajaks ajutiselt üle teada antud asutuse järelevalve ja sertifikaatide eest vastutamisega seotud ülesanded.
b)
cuando la autoridad notificante haya confirmado que no se expedirán, modificarán ni volverán a expedir certificados relacionados con la suspensión mientras dure la suspensión o limitación, y declare si el organismo notificado tiene o no la capacidad, durante el período de la suspensión o limitación, de seguir supervisando los certificados expedidos y siendo responsable de ellos; cuando la autoridad notificante determine que el organismo notificado no tiene la capacidad de respaldar los certificados expedidos, el proveedor del sistema cubierto por el certificado deberá confirmar por escrito a las autoridades nacionales competentes del Estado miembro en que tenga su domicilio social, en un plazo de tres meses a partir de la suspensión o limitación, que otro organismo notificado cualificado va a asumir temporalmente las funciones del organismo notificado para supervisar los certificados y ser responsable de ellos durante el período de la suspensión o limitación.
9. Välja arvatud alusetult väljastatud sertifikaatide puhul ja kui määramine on kehtetuks tunnistatud, jäävad sertifikaadid kehtima üheksaks kuuks järgmistel tingimustel:
9. Salvo en el caso de los certificados expedidos indebidamente, y cuando se haya retirado una designación, los certificados mantendrán su validez durante nueve meses en las circunstancias siguientes:
a)
selle liikmesriigi pädev asutus, kus on sertifikaadiga hõlmatud kõrge riskiga tehisintellektisüsteemi pakkuja registreeritud tegevuskoht, on kinnitanud, et asjaomaste suure riskiga tehisintellektisüsteemidega ei kaasne riski tervisele, ohutusele ega põhiõigustele, ning
a)
la autoridad nacional competente del Estado miembro en el que tiene su domicilio social el proveedor del sistema de IA de alto riesgo cubierto por el certificado ha confirmado que no existe ningún riesgo para la salud, la seguridad o los derechos fundamentales asociado al sistema de IA de alto riesgo de que se trate, y
b)
mõni teine teada antud asutus on kirjalikult kinnitanud, et ta võtab üle otsese vastutuse nende tehisintellektisüsteemide eest ning viib nende hindamise lõpule 12 kuu jooksul alates määramise kehtetuks tunnistamisest.
b)
otro organismo notificado ha confirmado por escrito que asumirá la responsabilidad inmediata de dichos sistemas de IA y completa su evaluación en el plazo de doce meses a partir de la retirada de la designación.
Esimeses lõigus osutatud tingimustel võib selle liikmesriigi pädev asutus, kus on sertifikaadiga hõlmatud tehisintellektisüsteemi pakkuja registreeritud tegevuskoht, pikendada sertifikaatide ajutist kehtivust kolme kuu kaupa, mis kokku ei tohi ületada 12 kuud.
En las circunstancias a que se refiere el párrafo primero, la autoridad nacional competente del Estado miembro en el que tenga su domicilio social el proveedor del sistema cubierto por el certificado podrá prorrogar la validez provisional de los certificados por plazos adicionales de tres meses, sin exceder de doce meses en total.
Riigi pädev asutus või teada antud asutus, kes täidab selle teada antud asutuse ülesandeid, keda määramise muutmine puudutab, teavitab sellest viivitamata komisjoni, teisi liikmesriike ja teisi teada antud asutusi.
La autoridad nacional competente o el organismo notificado que asuman las funciones del organismo notificado afectado por el cambio de la designación informarán de ello inmediatamente a la Comisión, a los demás Estados miembros y a los demás organismos notificados.
Teada antud asutuste pädevuse vaidlustamine
Cuestionamiento de la competencia de los organismos notificados
1. Komisjon uurib vajaduse korral kõiki juhtumeid, mille puhul on põhjust kahelda teada antud asutuse pädevuses või artiklis 31 sätestatud nõuete ja kohaldatavate kohustuste jätkuvas täitmises teada antud asutuse poolt.
1. La Comisión investigará, cuando sea necesario, todos los casos en los que existan razones para dudar de la competencia de un organismo notificado o del cumplimiento continuo, por parte de un organismo notificado, de los requisitos establecidos en el artículo 31 y de sus responsabilidades aplicables.
2. Teavitav asutus annab komisjonile taotluse alusel kogu teabe asjaomase teada antud asutuse teavitamise või pädevuse säilitamise kohta.
2. La autoridad notificante facilitará a la Comisión, a petición de esta, toda la información pertinente relativa a la notificación o el mantenimiento de la competencia del organismo notificado de que se trate.
3. Komisjon tagab, et käesoleva artikli kohase uurimise käigus saadud tundlikku teavet käsitatakse konfidentsiaalsena kooskõlas artikliga 78.
3. La Comisión garantizará el tratamiento confidencial de acuerdo con el artículo 78 de toda la información delicada recabada en el transcurso de sus investigaciones en virtud del presente artículo.
4. Kui komisjon on veendunud, et teada antud asutus ei täida või enam ei täida teavitamise aluseks olevaid nõudeid, teatab ta sellest teavitavale liikmesriigile ning nõuab, et see võtaks vajalikke parandusmeetmeid, sealhulgas vajaduse korral peataks teavituse või võtaks selle tagasi. Kui liikmesriik ei võta vajalikke parandusmeetmeid, võib komisjon rakendusaktiga määramise peatada, kehtetuks tunnistada või seda piirata. Kõnealune rakendusakt võetakse vastu kooskõlas artikli 98 lõikes 2 osutatud kontrollimenetlusega.
4. Cuando la Comisión determine que un organismo notificado no cumple o ha dejado de cumplir los requisitos para su notificación, informará al Estado miembro notificante en consecuencia y le solicitará que adopte las medidas correctoras necesarias, incluidas la suspensión o la retirada de la designación en caso necesario. Si el Estado miembro no adopta las medidas correctoras necesarias, la Comisión, mediante un acto de ejecución, podrá suspender, limitar o retirar la designación. Dicho acto de ejecución se adoptará con arreglo al procedimiento de examen contemplado en el artículo 98, apartado 2.
Harmoneeritud standardid ja standardimisdokumendid
Normas armonizadas y documentos de normalización
1. Eeldatakse, et suure riskiga tehisintellektisüsteemid või üldotstarbelised tehisintellektimudelid, mis vastavad harmoneeritud standarditele või nende osadele, mille viited on avaldatud Euroopa Liidu Teatajas kooskõlas määrusega (EL) nr 1025/2012, on vastavuses käesoleva peatüki 2. jaos sätestatud nõuetega, või kui see on asjakohane, käesoleva määruse V peatüki 2. ja 3. jaos sätestatud kohustustega niivõrd, kuivõrd nimetatud standardid hõlmavad neid nõudeid või kohustusi.
1. Los sistemas de IA de alto riesgo o los modelos de IA de uso general que sean conformes con normas armonizadas, o partes de estas, cuyas referencias estén publicadas en el Diario Oficial de la Unión Europea de conformidad con el Reglamento (UE) n.o 1025/2012 se presumirá que son conformes con los requisitos establecidos en la sección 2 del presente capítulo o, en su caso, con las obligaciones establecidas en el capítulo V, secciones 2 y 3, del presente Reglamento, en la medida en que dichas normas contemplen estos requisitos u obligaciones.
2. Komisjon esitab kooskõlas määruse (EL) nr 1025/2012 artikliga 10 põhjendamatu viivituseta standardimistaotlused, mis hõlmavad kõiki käesoleva peatüki 2. jaos sätestatud nõudeid ja vajaduse korral käesoleva määruse V peatüki 2. ja 3. jaos sätestatud kohustusi hõlmavaid standardimistaotlusi. Standardimistaotluses nõutakse ka aruandlus- ja dokumenteerimisprotsesside tulemusi, et parandada tehisintellektisüsteemide ressursinäitajaid, näiteks vähendada suure riskiga tehisintellektisüsteemi energia- ja muude ressursside tarbimist selle olelusringi jooksul, ning üldotstarbeliste tehisintellektimudelite energiatõhuse tulemusi. Standardimistaotluse koostamisel konsulteerib komisjon nõukoja ja asjaomaste sidusrühmadega, sealhulgas nõuandva koguga.
2. De conformidad con el artículo 10 del Reglamento (UE) n.o 1025/2012, la Comisión formulará, sin demora indebida, peticiones de normalización que contemplen todos los requisitos establecidos en la sección 2 del presente capítulo y, según proceda, las peticiones de normalización que contemplen las obligaciones establecidas en el capítulo V, secciones 2 y 3, del presente Reglamento. La petición de normalización también incluirá la solicitud de documentos sobre los procesos de presentación de información y documentación a fin de mejorar el funcionamiento de los de los sistemas de IA desde el punto de vista de los recursos, como la reducción del consumo de energía y de otros recursos del sistema de IA de alto riesgo durante su ciclo de vida, así como sobre el desarrollo eficiente desde el punto de vista energético de los modelos de IA de uso general. Cuando prepare una petición de normalización, la Comisión consultará al Consejo de IA y a las partes interesadas pertinentes, incluido el foro consultivo.
Euroopa standardiorganisatsioonidele standardimistaotluse esitamisel täpsustab komisjon, et standardid peavad olema selged ja sidusad, sealhulgas kooskõlas standarditega, mis on välja töötatud eri sektorites I lisas loetletud kehtivate liidu ühtlustamisõigusaktidega hõlmatud toodete jaoks, ning nende eesmärk on tagada, et liidus turule lastud või kasutusele võetud suure riskiga tehisintellektisüsteemid või üldotstarbelised tehisintellektimudelid vastavad käesolevas määruses sätestatud asjakohastele nõuetele või kohustustele.
Cuando dirija una petición de normalización a las organizaciones europeas de normalización, la Comisión especificará que las normas deben ser claras, coherentes —también con las normas elaboradas en diversos sectores para los productos regulados por los actos legislativos de armonización de la Unión vigentes enumerados en el anexo I— y destinadas a garantizar que los sistemas de IA de alto riesgo o los modelos de IA de uso general introducidos en el mercado o puestos en servicio en la Unión cumplan los requisitos u obligaciones pertinentes establecidos en el presente Reglamento.
Komisjon palub Euroopa standardiorganisatsioonidel esitada tõendid selle kohta, et nad on andnud endast parima käesoleva lõike esimeses ja teises lõigus osutatud eesmärkide saavutamiseks kooskõlas määruse (EL) nr 1025/2012 artikliga 2.
La Comisión solicitará a las organizaciones europeas de normalización que aporten pruebas de que han hecho todo lo posible por cumplir los objetivos a que se refieren los párrafos primero y segundo del presente apartado, de conformidad con el artículo 24 del Reglamento (UE) n.o 1025/2012.
3. Standardimisprotsessis osalejad püüavad edendada tehisintellekti investeerimist ja innovatsiooni, sealhulgas õiguskindluse suurendamise kaudu, ning liidu turu konkurentsivõimet ja kasvu, aitavad tugevdada ülemaailmset standardimisalast koostööd ja võtta arvesse tehisintellekti valdkonnas kehtivaid rahvusvahelisi standardeid, mis on kooskõlas liidu väärtuste, põhiõiguste ja huvidega, ning tõhustavad mitmeid sidusrühmi hõlmavat juhtimist, tagades huvide tasakaalustatud esindatuse ja kõigi asjaomaste sidusrühmade tõhusa osalemise kooskõlas määruse (EL) nr 1025/2012 artiklitega 5, 6 ja 7.
3. Los participantes en el proceso de normalización tratarán de promover la inversión y la innovación en IA, también incrementando la seguridad jurídica, así como la competitividad y el crecimiento del mercado de la Unión, de contribuir al refuerzo de la cooperación mundial en pro de la normalización, teniendo en cuenta las normas internacionales existentes en el ámbito de la IA que son coherentes con los valores, derechos fundamentales e intereses de la Unión, y de mejorar la gobernanza multilateral, garantizando una representación equilibrada de los intereses y la participación efectiva de todas las partes interesadas pertinentes de conformidad con los artículos 5, 6 y 7 del Reglamento (UE) n.o 1025/2012.
1. Komisjonil võib võtta vastu rakendusakte, millega kehtestatakse ühtsed kirjeldused käesoleva peatüki 2. jaos sätestatud nõuete või vajaduse korral V peatüki 2. ja 3. jaos sätestatud kohustuste kohta, kui on täidetud järgmised tingimused:
1. La Comisión podrá adoptar actos de ejecución por los que se establezcan especificaciones comunes para los requisitos establecidos en la sección 2 del presente capítulo o, según corresponda, para las obligaciones establecidas en el capítulo V, secciones 2 y 3, siempre que se hayan cumplido las siguientes condiciones:
a)
komisjon on esitanud määruse (EL) nr 1025/2012 artikli 10 lõike 1 kohaselt taotluse ühele või mitmele Euroopa standardiorganisatsioonile koostada harmoneeritud standard käesoleva peatüki 2. jaos sätestatud nõuete kohta või kui see on asjakohane, siis V peatüki 2. ja 3. jaos sätestatud kohustuste kohta, ning;
a)
la Comisión ha solicitado, de conformidad con el artículo 10, apartado 1, del Reglamento (UE) n.o 1025/2012, a una o varias organizaciones europeas de normalización que elaboren una norma armonizada para los requisitos establecidos en la sección 2 del presente capítulo, o según corresponda, para las obligaciones establecidas en el capítulo V, secciones 2 y 3, y:
i)
ükski Euroopa standardiorganisatsioon ei ole taotlust vastu võtnud või
i)
la solicitud no ha sido aceptada por ninguna de las organizaciones europeas de normalización, o
ii)
kõnealust taotlust käsitlevaid harmoneeritud standardeid ei esitatud määruse (EL) nr 1025/2012 artikli 10 lõikes 1 sätestatud tähtaja jooksul või
ii)
las normas armonizadas que responden a dicha solicitud no se han entregado en el plazo establecido de conformidad con el artículo 10, apartado 1, del Reglamento (UE) n.o 1025/2012, o
iii)
asjakohastes harmoneeritud standardites ei käsitleta piisavalt põhiõigustega seotud probleeme või
iii)
las normas armonizadas pertinentes responden de forma insuficiente a las preocupaciones en materia de derechos fundamentales, o
iv)
harmoneeritud standardid ei vasta taotlusele ning
iv)
las normas armonizadas no se ajustan a la solicitud, y
b)
Euroopa Liidu Teatajas ei ole avaldatud ühtegi määruse (EL) nr 1025/2012 kohast viidet harmoneeritud standarditele, mis hõlmaks käesoleva peatüki 2. jaos sätestatud olulisi nõudeid või kui see on asjakohane, siis V peatüki 2. ja 3. jaos sätestatud kohustusi, ning tõenäoliselt sellist viidet mõistliku aja jooksul ei avaldata.
b)
no se ha publicado en el Diario Oficial de la Unión Europea ninguna referencia a normas armonizadas que regulen los requisitos establecidos en la sección 2 del presente capítulo, o según proceda, las obligaciones a que se refiere el capítulo V, secciones 2 y 3, de conformidad con el Reglamento (UE) n.o 1025/2012 y no se prevé la publicación de tal referencia en un plazo razonable.
Ühtsete kirjelduste koostamisel konsulteerib komisjon artiklis 67 osutatud nõuandva koguga.
Al elaborar las disposiciones comunes, la Comisión consultará al foro consultivo a que se refiere el artículo 67.
Käesoleva lõike esimeses lõigus osutatud rakendusaktid võetakse vastu kooskõlas artikli 98 lõikes 2 osutatud kontrollimenetlusega.
Los actos de ejecución a que se refiere el párrafo primero del presente apartado se adoptarán de conformidad con el procedimiento de examen contemplado en el artículo 98, apartado 2.
2. Enne rakendusakti eelnõu koostamist teavitab komisjon määruse (EL) nr 1025/2012 artiklis 22 osutatud komiteed sellest, et tema hinnangul on käesoleva artikli lõikes 1 sätestatud tingimused täidetud.
2. Antes de elaborar un proyecto de acto de ejecución, la Comisión informará al comité a que se refiere el artículo 22 del Reglamento (UE) n.o 1025/2012 de que considera que se cumplen las condiciones establecidas en el apartado 1 del presente artículo.
3. Eeldatakse, et suure riskiga tehisintellektisüsteemid või üldotstarbelised tehisintellektimudelid, mis vastavad lõikes 1 osutatud ühtsetele kirjeldustele või osale nimetatud kirjeldustest, on vastavuses käesoleva peatüki 2. jaos sätestatud oluliste nõuete või kui see on asjakohane, siis V peatüki 2. ja 3. jaos sätestatud kohustustega niivõrd, kuivõrd nimetatud ühtsed kirjeldused hõlmavad neid nõudeid.
3. Se presumirá que los sistemas de IA de alto riesgo o los modelos de IA de uso general que sean conformes con las especificaciones comunes a que se refiere el apartado 1, o partes de dichas especificaciones, son conformes con los requisitos establecidos en la sección 2 del presente capítulo o, según corresponda, para cumplir con las obligaciones a que se refiere el capítulo V, secciones 2 y 3, en la medida en que dichas especificaciones comunes contemplen esos requisitos o esas obligaciones.
4. Kui Euroopa standardiorganisatsioon võtab vastu harmoneeritud standardi ning see on esitatud komisjonile standardi viite avaldamiseks Euroopa Liidu Teatajas, hindab komisjon seda standardit kooskõlas määrusega (EL) nr 1025/2012. Kui harmoneeritud standardi viide avaldatakse Euroopa Liidu Teatajas, tunnistab komisjon kehtetuks lõikes 1 osutatud rakendusaktid või nende osad, mis hõlmavad samu nõudeid, mis on sätestatud käesoleva peatüki 2. jaos või kui see on asjakohane, siis samu kohustusi, mis on sätestatud V peatüki 2. ja 3. jaos.
4. Cuando una norma armonizada sea adoptada por una organización europea de normalización y propuesta a la Comisión con el fin de publicar su referencia en el Diario Oficial de la Unión Europea, la Comisión evaluará la norma armonizada de conformidad con el Reglamento (UE) n.o 1025/2012. Cuando la referencia a una norma armonizada se publique en el Diario Oficial de la Unión Europea, la Comisión derogará los actos de ejecución a que se refiere el apartado 1, o las partes de dichos actos que contemplen los mismos requisitos establecidos en la sección 2 del presente capítulo o, según corresponda, las mismas obligaciones establecidas en el capítulo V, secciones 2 y 3.
5. Kui suure riskiga tehisintellektisüsteemide või üldotstarbeliste tehisintellektimudelite pakkujad ei täida lõikes 1 osutatud ühtseid kirjeldusi, peavad nad põhjendama, et nad on võtnud kasutusele käesoleva peatüki 2. jaos osutatud nõuetele või kui see on asjakohane, siis V peatüki 2. ja 3. jaos sätestatud kohustustele vähemalt samaväärsel tasemel vastavad tehnilised lahendused.
5. Cuando los proveedores de sistemas de IA de alto riesgo o los modelos de IA de uso general no cumplan las especificaciones comunes mencionadas en el apartado 1, justificarán debidamente que han adoptado soluciones técnicas que cumplan los requisitos a que se refiere la sección 2 del presente capítulo o, según corresponda, cumplan con las obligaciones establecidas en el capítulo V, secciones 2 y 3, en un nivel como mínimo equivalente a aquellos.
6. Kui liikmesriik on seisukohal, et ühtne spetsifikatsioon ei vasta täielikult käesoleva peatüki 2. jaos sätestatud nõuetele või kui see on asjakohane, siis V peatüki 2. ja 3. jaos sätestatud kohustustele, teatab ta sellest komisjonile, esitades üksikasjaliku selgituse. Komisjon hindab seda teavet ja võib asjakohasel juhul muuta rakendusakti, millega asjaomane ühtne spetsifikatsioon kehtestatakse.
6. Cuando un Estado miembro considere que una especificación común no cumple plenamente los requisitos establecidos en la sección 2, o, según corresponda, no cumple con las obligaciones establecidas en el capítulo V, secciones 2 y 3, informará de ello a la Comisión con una explicación detallada. La Comisión evaluará dicha información y, en su caso, modificará el acto de ejecución por el que se establece la especificación común de que se trate.
Evaluación de la conformidad
1. Kui pakkuja on rakendanud artiklis 40 osutatud harmoneeritud standardeid, või kui see on kohaldatav, artiklis 41 osutatud ühtset kirjeldust, et tõendada III lisa punktis 1 loetletud suure riskiga tehisintellektisüsteemide vastavust 2. jaos sätestatud nõuetele, järgib pakkuja üht järgmistest vastavushindamismenetlustest, mis põhineb:
1. En el caso de los sistemas de IA de alto riesgo enumerados en el anexo III, punto 1, cuando, al demostrar el cumplimiento de los requisitos establecidos en la sección 2 por parte de un sistema de IA de alto riesgo, el proveedor haya aplicado las normas armonizadas a que se refiere el artículo 40, o bien, en su caso, las especificaciones comunes a que se refiere el artículo 41, el proveedor optará por uno de los procedimientos de evaluación de la conformidad siguientes:
a)
VI lisas osutatud sisekontrollil või
a)
el fundamentado en el control interno, mencionado en el anexo VI, o
b)
VII lisas osutatud kvaliteedijuhtimissüsteemi hindamisel ja tehnilise dokumentatsiooni hindamisel ning milles osaleb teada antud asutus.
b)
el fundamentado en la evaluación del sistema de gestión de la calidad y la evaluación de la documentación técnica, con la participación de un organismo notificado, mencionado en el anexo VII.
Tõendades suure riskiga tehisintellektisüsteemi vastavust 2. jaos sätestatud nõuetele, järgib pakkuja VII lisas sätestatud vastavushindamist järgmistel juhtudel:
Al demostrar el cumplimiento de los requisitos establecidos en la sección 2 por parte de un sistema de IA de alto riesgo, el proveedor se atendrá al procedimiento de evaluación de la conformidad establecido en el anexo VII cuando:
a)
artiklis 40 osutatud harmoneeritud standardeid ei ole olemas ja artiklis 41 osutatud ühtsed kirjeldused ei ole kättesaadavad;
a)
las normas armonizadas a que se refiere el artículo 40 no existan, y no se disponga de las especificaciones comunes a que se refiere el artículo 41;
b)
pakkuja ei ole harmoneeritud standardit kohaldanud või on seda kohaldanud ainult osaliselt;
b)
el proveedor no haya aplicado la norma armonizada, o solo haya aplicado parte de esta;
c)
punktis a osutatud ühtsed kirjeldused on olemas, kuid pakkuja ei ole neid kohaldanud;
c)
existan las especificaciones comunes a que se refiere la letra a), pero el proveedor no las haya aplicado;
d)
punktis a osutatud harmoneeritud standardid või mõni neist on avaldatud piiranguga ja üksnes standardi selles osas, mida piirang puudutab.
d)
una o varias de las normas armonizadas a que se refiere la letra a) se hayan publicado con una limitación, y únicamente en la parte de la norma objeto de la limitación.
VII lisas osutatud vastavushindamise jaoks võib pakkuja valida mis tahes teada antud asutuse. Kui aga suure riskiga tehisintellektisüsteemi kavatsevad kasutusele võtta õiguskaitse-, rände- või varjupaigaasutused või liidu institutsioonid, organid või asutused, tegutseb teada antud asutusena artikli 74 lõikes 8 või kohaldataval juhul lõikes 9 osutatud turujärelevalveasutus.
A efectos del procedimiento de evaluación de la conformidad mencionado en el anexo VII, el proveedor podrá escoger cualquiera de los organismos notificados. No obstante, cuando se prevea la puesta en servicio del sistema de IA de alto riesgo por parte de las autoridades garantes del cumplimiento del Derecho, las autoridades de inmigración o las autoridades de asilo, o por las instituciones, órganos u organismos de la Unión, la autoridad de vigilancia del mercado mencionada en el artículo 74, apartado 8 o 9, según proceda, actuará como organismo notificado.
2. III lisa punktides 2–8 osutatud suure riskiga tehisintellektisüsteemide puhul järgivad pakkujad VI lisas osutatud sisekontrollil põhinevat vastavushindamist, mille korral ei ole teada antud asutuse osalemist ette nähtud.
2. En el caso de los sistemas de IA de alto riesgo mencionados en el anexo III, puntos 2 a 8, los proveedores se atendrán al procedimiento de evaluación de la conformidad fundamentado en un control interno a que se refiere el anexo VI, que no contempla la participación de un organismo notificado.
3. I lisa A jaos loetletud liidu ühtlustamisõigusaktidega hõlmatud suure riskiga tehisintellektisüsteemide puhul, järgib pakkuja nende õigusaktide kohaselt nõutavat asjaomast vastavushindamismenetlust. Selliste suure riskiga tehisintellektisüsteemide suhtes kohaldatakse käesoleva peatüki 2. jaos sätestatud nõudeid ning need nõuded on vastavushindamise osa. Kohaldatakse ka VII lisa punkte 4.3, 4.4, 4.5 ja punkti 4.6 viiendat lõiku.
3. En el caso de los sistemas de IA de alto riesgo regulados por los actos legislativos de armonización de la Unión enumerados en el anexo I, sección A, el proveedor se atendrá al procedimiento de evaluación de la conformidad pertinente exigida por dichos actos legislativos. Los requisitos establecidos en la sección 2 del presente capítulo se aplicarán a dichos sistemas de IA de alto riesgo y formarán parte de dicha evaluación. Asimismo, se aplicarán los puntos 4.3, 4.4 y 4.5 del anexo VII, así como el punto 4.6, párrafo quinto, de dicho anexo.
Teada antud asutustel, kellest on teavitatud nende õigusaktide alusel, on selliseks hindamiseks õigus kontrollida, kas suure riskiga tehisintellektisüsteemid vastavad 2. jaos sätestatud nõuetele, tingimusel et nende teada antud asutuste vastavust artikli 31 lõigetes 4, 10 ja 11 sätestatud nõuetele on hinnatud nende õigusaktide kohase teavitamismenetluse raames.
A efectos de dicha evaluación, los organismos notificados que hayan sido notificados con arreglo a dichos actos legislativos dispondrán de la facultad de controlar la conformidad de los sistemas de IA de alto riesgo con los requisitos establecidos en la sección 2, a condición de que se haya evaluado el cumplimiento por parte de dichos organismos notificados de los requisitos establecidos en el artículo 31, apartados 4, 5, 10 y 11, en el contexto del procedimiento de notificación con arreglo a dichos actos legislativos.
Kui I lisa A jaos loetletud õigusaktid võimaldavad toote valmistajal loobuda kolmanda isiku tehtavast vastavushindamisest, tingimusel et see valmistaja on rakendanud kõiki harmoneeritud standardeid, mis hõlmavad kõiki olulisi nõudeid, võib see valmistaja nimetatud võimalust kasutada ainult siis, kui ta rakendab ka harmoneeritud standardeid, või kui see on kohaldatav, artiklis 41 osutatud ühtseid kirjeldusi, mis hõlmavad kõiki käesoleva peatüki 2. osas sätestatud nõudeid.
Cuando un acto legislativo enumerado en el anexo I, sección A, permita al fabricante del producto prescindir de una evaluación de la conformidad de terceros, a condición de que el fabricante haya aplicado todas las normas armonizadas que contemplan todos los requisitos pertinentes, dicho fabricante solamente podrá recurrir a esta opción si también ha aplicado las normas armonizadas o, en su caso, las especificaciones comunes a que se refiere el artículo 41 que contemplan todos los requisitos establecidos en la sección 2 del presente capítulo.
4. Suure riskiga tehisintellektisüsteemidele, mis on juba läbinud vastavushindamise, tuleb teha uus vastavushindamine alati, kui süsteeme oluliselt muudetakse, olenemata sellest, kas muudetud süsteemi kavatsetakse edasi turustada või jätkab selle kasutamist praegune juurutaja.
4. Los sistemas de IA de alto riesgo que ya hayan sido objeto de un procedimiento de evaluación de la conformidad se someterán a un nuevo procedimiento de evaluación de la conformidad en caso de modificación sustancial, con independencia de si está prevista una distribución posterior del sistema modificado o de si este continúa siendo utilizado por el responsable del despliegue actual.
Kui tegemist on suure riskiga tehisintellektisüsteemiga, mis õpib edasi ka pärast turule laskmist või kasutusele võtmist, ei käsitata oluliste muudatustena suure riskiga tehisintellektisüsteemi ja selle toimimise muudatusi, mille pakkuja on eelnevalt esialgse vastavushindamise ajal määratlenud ja mis on osa IV lisa punkti 2 alapunktis f osutatud tehnilises dokumentatsioonis sisalduvast teabest;
En el caso de los sistemas de IA de alto riesgo que continúen aprendiendo tras su introducción en el mercado o su puesta en servicio, los cambios en el sistema de IA de alto riesgo y su funcionamiento que hayan sido predeterminados por el proveedor en el momento de la evaluación inicial de la conformidad y figuren en la información recogida en la documentación técnica mencionada en el anexo IV, punto 2, letra f), no constituirán modificaciones sustanciales.
5. Komisjonil on õigus võtta kooskõlas artikliga 97 vastu delegeeritud õigusaktid, et muuta VI ja VII lisa ajakohastades neid tehnika arengut silmas pidades.
5. La Comisión estará facultada para adoptar actos delegados con arreglo al artículo 97 al objeto de modificar los anexos VI y VII actualizándolos a la luz del progreso técnico.
6. Komisjonil on õigus võtta kooskõlas artikliga 97 vastu delegeeritud õigusaktid käesoleva artikli lõigete 1 ja 2 muutmiseks, et kohaldada III lisa punktides 2–8 osutatud suure riskiga tehisintellektisüsteemide suhtes VII lisas osutatud vastavushindamist või selle osi. Komisjon arvestab selliseid delegeeritud õigusakte vastu võttes seda, kui mõjus on VI lisas osutatud sisekontrollil põhinev vastavushindamine, et hoida ära või minimeerida tervist, ohutust ja põhiõiguste kaitset ähvardavaid riske, mida sellised süsteemid põhjustavad, ning piisava suutlikkuse ja ressursside kättesaadavust teada antud asutustes.
6. La Comisión estará facultada para adoptar actos delegados de conformidad con el artículo 97 al objeto de modificar los apartados 1 y 2 del presente artículo a fin de someter a los sistemas de IA de alto riesgo mencionados en el anexo III, puntos 2 a 8, al procedimiento de evaluación de la conformidad a que se refiere el anexo VII o a partes de este. La Comisión adoptará dichos actos delegados teniendo en cuenta la eficacia del procedimiento de evaluación de la conformidad fundamentado en un control interno mencionado en el anexo VI para prevenir o reducir al mínimo los riesgos para la salud, la seguridad y la protección de los derechos fundamentales que plantean estos sistemas, así como la disponibilidad de capacidades y recursos adecuados por parte de los organismos notificados.
1. Teada antud asutuste poolt VII lisa kohaselt välja antavad sertifikaadid koostatakse keeles, mis on teada antud asutuse asutamisliikmesriigi asjaomastele asutustele kergesti arusaadav.
1. Los certificados expedidos por los organismos notificados con arreglo al anexo VII se redactarán en una lengua que las autoridades pertinentes del Estado miembro en el que esté establecido el organismo notificado puedan entender fácilmente.
2. Sertifikaadid kehtivad nende märgitud ajavahemiku jooksul, mis ei ületa I lisaga hõlmatud tehisintellektisüsteemide puhul viit aastat ja III lisaga hõlmatud tehisintellektisüsteemide puhul nelja aastat. Pakkuja taotlusel võib sertifikaadi kehtivust pikendada korraga mitte rohkem kui viie aasta kaupa I lisaga hõlmatud tehisintellektisüsteemide puhul ja nelja aasta kaupa III lisaga hõlmatud tehisintellektisüsteemide puhul, võttes aluseks kohaldatavate vastavushindamismenetluste kohaselt tehtava uue hindamise. Sertifikaadi mis tahes lisad on kehtivad eeldusel, et sertifikaat kehtib.
2. Los certificados serán válidos para el período que indiquen, que no excederá de cinco años para los sistemas de IA contemplados en el anexo I, y cuatro años para los sistemas de IA contemplados en el anexo III. A solicitud del proveedor, la validez de un certificado podrá prorrogarse por períodos adicionales no superiores a cinco años para los sistemas de IA contemplados en el anexo I, y cuatro años para los sistemas de IA contemplados en el anexo III, sobre la base de una nueva evaluación con arreglo a los procedimientos de evaluación de la conformidad aplicables. Todo suplemento de un certificado mantendrá su validez a condición de que el certificado al que complementa sea válido.
3. Kui teada antud asutus leiab, et tehisintellektisüsteem ei vasta enam 2. jaos sätestatud nõuetele, peatab ta väljastatud sertifikaadi, tunnistab selle kehtetuks või kehtestab selle suhtes piirangud, võttes seejuures arvesse proportsionaalsuse põhimõtet, välja arvatud juhul, kui nimetatud nõuete täitmine tagatakse sellega, et süsteemi pakkuja võtab teada antud asutuse määratud asjakohase tähtaja jooksul asjakohaseid parandusmeetmeid. Teada antud asutus põhjendab oma otsust.
3. Si un organismo notificado observa que un sistema de IA ya no cumple los requisitos establecidos en la sección 2, suspenderá o retirará, teniendo en cuenta el principio de proporcionalidad, el certificado expedido o le impondrá restricciones, a menos que se garantice el cumplimiento de dichos requisitos mediante medidas correctoras adecuadas adoptadas por el proveedor del sistema en un plazo adecuado determinado por el organismo notificado. El organismo notificado motivará su decisión.
Teada antud asutuse otsuste, sealhulgas välja antud vastavussertifikaate käsitlevate otsuste vaidlustamiseks nähakse ette edasikaebamise kord.
Existirá un procedimiento de recurso frente a las decisiones de los organismos notificados, también respecto a los certificados de conformidad expedidos.
Erand vastavushindamismenetlusest
Exención del procedimiento de evaluación de la conformidad
1. Erandina artiklist 43 ja põhjendatud taotluse korral võib mis tahes turujärelevalveasutus anda loa lasta asjaomase liikmesriigi territooriumil turule või võtta kasutusele konkreetne suure riskiga tehisintellektisüsteem, kui selleks on erandkorras põhjust avaliku julgeoleku või inimeste elu ja tervise kaitse, keskkonnakaitse või oluliste tööstus- ja taristuvarade kaitse tõttu. Selline luba antakse piiratud ajavahemikuks, kuni toimuvad vajalikud vastavushindamismenetlused, võttes arvesse erandi aluseks olevaid erandlikke põhjuseid. Need menetlused viiakse lõpule põhjendamatu viivituseta.
1. Como excepción a lo dispuesto en el artículo 43 y previa solicitud debidamente motivada, cualquier autoridad de vigilancia del mercado podrá autorizar la introducción en el mercado o la puesta en servicio de sistemas de IA de alto riesgo específicos en el territorio del Estado miembro de que se trate por motivos excepcionales de seguridad pública o con el fin de proteger la vida y la salud de las personas, el medio ambiente o activos fundamentales de la industria y de las infraestructuras. Dicha autorización se concederá por un período limitado, mientras se lleven a cabo los procedimientos de evaluación de la conformidad necesarios, teniendo en cuenta los motivos excepcionales que justifiquen la exención. La conclusión de los procedimientos de que se trate se alcanzará sin demora indebida.
2. Põhjendatud hädaolukorras avaliku julgeoleku erandlikel põhjustel või konkreetse, olulise ja vahetu ohu korral füüsiliste isikute elule või füüsilisele turvalisusele võivad õiguskaitseasutused või elanikkonnakaitse asutused võtta kasutusele konkreetse suure riskiga tehisintellektisüsteemi ilma lõikes 1 nimetatud loata tingimusel, et sellist luba taotletakse kasutamise ajal või pärast seda ilma põhjendamatu viivituseta. Kui lõikes 1 osutatud luba lükatakse tagasi, peatatakse suure riskiga tehisintellektisüsteemi kasutamine viivitamatult ning kõik sellise kasutamise tulemused ja väljundid jäetakse viivitamata kõrvale.
2. En una situación de urgencia debidamente justificada por motivos excepcionales de seguridad pública o en caso de amenaza específica, importante e inminente para la vida o la seguridad física de las personas físicas, las autoridades garantes del cumplimiento del Derecho o las autoridades de protección civil podrán poner en servicio un sistema de IA de alto riesgo específico sin la autorización a que se refiere el apartado 1, siempre que se solicite dicha autorización durante o después de la utilización sin demora indebida. Si se deniega la autorización a que se refiere el apartado 1, se suspenderá el uso del sistema de IA de alto riesgo con efecto inmediato y se desecharán inmediatamente todos los resultados y toda la información de salida producidos por dicho uso.
3. Lõikes 1 osutatud luba antakse üksnes juhul, kui turujärelevalveasutus järeldab, et suure riskiga tehisintellektisüsteem vastab 2. jao nõuetele. Turujärelevalveasutus teavitab komisjoni ja teisi liikmesriike kõigist lõigete 1 ja 2 kohaselt antud lubadest. See kohustus ei hõlma õiguskaitseasutuste tegevusega seotud tundlikke operatiivandmeid.
3. La autorización a que se refiere el apartado 1 solo se expedirá si la autoridad de vigilancia del mercado llega a la conclusión de que el sistema de IA de alto riesgo cumple los requisitos establecidos en la sección 2. La autoridad de vigilancia del mercado informará a la Comisión y a los demás Estados miembros de toda autorización expedida de conformidad con los apartados 1 y 2. Esta obligación no comprenderá los datos operativos sensibles relativos a las actividades de las autoridades garantes del cumplimiento del Derecho.
4. Kui ükski liikmesriik ega komisjon ei ole esitanud vastuväiteid liikmesriigi turujärelevalveasutuse lõike 1 kohaselt välja antud loa kohta 15 kalendripäeva jooksul alates lõikes 3 osutatud teabe kättesaamisest, loetakse luba põhjendatuks.
4. Si, en el plazo de quince días naturales tras la recepción de la información indicada en el apartado 3, ningún Estado miembro ni la Comisión presentan objeción alguna sobre una autorización expedida por una autoridad de vigilancia del mercado de un Estado miembro con arreglo al apartado 1, la autorización se considerará justificada.
5. Kui 15 kalendripäeva jooksul alates lõikes 3 osutatud teabe kättesaamisest esitab mõni liikmesriik vastuväiteid mõne teise liikmesriigi turujärelevalveasutuse välja antud loa kohta või kui komisjon leiab, et luba on vastuolus liidu õigusega või et lõikes 3 osutatud liikmesriikide järeldus süsteemi vastavuse kohta ei ole põhjendatud, alustab komisjon viivitamata konsultatsioone asjaomase liikmesriigiga. Konsulteeritakse asjaomaste operaatoritega ning neil on võimalus esitada oma seisukohad. Komisjon otsustab seda arvesse võttes, kas luba on põhjendatud. Komisjon adresseerib oma otsuse asjaomasele liikmesriigile ning asjaomastele operaatoritele.
5. Si, en el plazo de quince días naturales tras la recepción de la notificación a que se refiere el apartado 3, un Estado miembro formula objeciones contra una autorización expedida por una autoridad de vigilancia del mercado de otro Estado miembro, o si la Comisión considera que la autorización vulnera el Derecho de la Unión o que la conclusión de los Estados miembros relativa al cumplimiento del sistema a que se refiere el apartado 3 es infundada, la Comisión celebrará consultas con el Estado miembro pertinente sin demora. Se consultará a los operadores de que se trate y se les ofrecerá la posibilidad de exponer sus puntos de vista. En vista de todo ello, la Comisión decidirá si la autorización está justificada o no. La Comisión enviará su decisión al Estado miembro afectado y a los operadores pertinentes.
6. Kui komisjon leiab, et luba on põhjendamata, tunnistab asjaomase liikmesriigi turujärelevalveasutus selle kehtetuks.
6. Si la Comisión considera que la autorización no está justificada, la autoridad de vigilancia del mercado del Estado miembro de que se trate la retirará.
7. Suure riskiga tehisintellektisüsteemide suhtes, mis on seotud I lisa A jaos loetletud liidu ühtlustamisõigusaktidega hõlmatud toodetega, kohaldatakse üksnes kõnealustes liidu ühtlustamisõigusaktides sätestatud erandeid vastavushindamisest.
7. En el caso de los sistemas de IA de alto riesgo asociados a productos regulados por los actos legislativos de armonización de la Unión enumerados en el anexo I, sección A, solo se aplicarán las exenciones de la evaluación de la conformidad establecidas en dichos actos legislativos de armonización de la Unión.
ELi vastavusdeklaratsioon
Declaración UE de conformidad
1. Pakkuja koostab iga suure riskiga tehisintellektisüsteemi kohta kirjaliku masinloetava, füüsiliselt või e-allkirjastatud ELi vastavusdeklaratsiooni ja säilitab seda riigi pädevate asutuste jaoks kättesaadavana vähemalt kümne aasta jooksul pärast suure riskiga tehisintellektisüsteemi turule laskmist või kasutusele võtmist. ELi vastavusdeklaratsioonis nimetatakse, millise suure riskiga tehisintellektisüsteemi kohta see on koostatud. Taotluse korral esitatakse ELi vastavusdeklaratsiooni koopia riigi asjaomastele pädevatele asutustele.
1. El proveedor redactará una declaración UE de conformidad por escrito en un formato legible por máquina, con firma electrónica o manuscrita, para cada sistema de IA de alto riesgo y la mantendrá a disposición de las autoridades nacionales competentes durante un período de diez años a contar desde la introducción del sistema de IA de alto riesgo en el mercado o su puesta en servicio. En la declaración UE de conformidad se especificará el sistema de IA de alto riesgo para el que ha sido redactada. Se entregará una copia de la declaración UE de conformidad a las autoridades nacionales competentes pertinentes que lo soliciten.
2. ELi vastavusdeklaratsioonis kinnitatakse, et kõnealune suure riskiga tehisintellektisüsteem vastab 2. jaos sätestatud nõuetele. ELi vastavusdeklaratsioon sisaldab V lisas sätestatud teavet ning see tõlgitakse keelde, mis on kergesti arusaadav nende liikmesriikide pädevatele asutustele, kus suure riskiga tehisintellektisüsteem turule lastakse või kättesaadavaks tehakse.
2. En la declaración UE de conformidad constará que el sistema de IA de alto riesgo de que se trate cumple los requisitos establecidos en la sección 2. La declaración UE de conformidad contendrá la información indicada en el anexo V y se traducirá a una lengua que puedan entender fácilmente las autoridades nacionales competentes del Estado o Estados miembros en que se introduzca en el mercado o comercialice el sistema de IA de alto riesgo.
3. Kui suure riskiga tehisintellektisüsteemide suhtes kohaldatakse muid liidu ühtlustamisõigusakte, mille kohaselt on samuti nõutav ELi vastavusdeklaratsioon, koostatakse kõigi suure riskiga tehisintellektisüsteemi suhtes kohaldatava liidu õiguse jaoks üks ainus ELi vastavusdeklaratsioon. Vastavusdeklaratsioon sisaldab kogu teavet, mida on vaja deklaratsiooniga seotud liidu ühtlustamisõigusaktide kindlakstegemiseks.
3. Cuando los sistemas de IA de alto riesgo estén sujetos a otros actos legislativos de armonización de la Unión que también exijan una declaración UE de conformidad, se elaborará una única declaración UE de conformidad con respecto a todos el Derecho de la Unión aplicable al sistema de IA de alto riesgo. La declaración contendrá toda la información necesaria para determinar los actos legislativos de armonización de la Unión a los que se refiere la declaración.
4. ELi vastavusdeklaratsiooni koostamisega võtab pakkuja vastutuse 2. jaos sätestatud nõuete täitmise eest. Pakkuja ajakohastab ELi vastavusdeklaratsiooni vastavalt vajadusele.
4. Al elaborar la declaración UE de conformidad, el proveedor asumirá la responsabilidad del cumplimiento de los requisitos establecidos en la sección 2. El proveedor mantendrá actualizada la declaración UE de conformidad según proceda.
5. Komisjonil on õigus võtta kooskõlas artikliga 97 vastu delegeeritud õigusaktid, et muuta V lisa, ajakohastades selles lisas esitatud ELi vastavusdeklaratsiooni sisu, et lisada sinna elemente, mis muutuvad vajalikuks tulenevalt tehnika arengust.
5. La Comisión estará facultada para adoptar actos delegados con arreglo al artículo 97 al objeto de modificar el anexo V actualizando el contenido de la declaración UE de conformidad establecida en dicho anexo, con el fin de introducir elementos que resulten necesarios a la luz del progreso técnico.
1. CE-märgise suhtes kohaldatakse määruse (EÜ) nr 765/2008 artiklis 30 sätestatud üldpõhimõtteid.
1. El marcado CE estará sujeto a los principios generales establecidos en el artículo 30 del Reglamento (CE) n.o 765/2008.
2. Digitaalselt pakutavate suure riskiga tehisintellektisüsteemide puhul kasutatakse digitaalset CE-märgist üksnes juhul, kui sellele on lihtne juurde pääseda liidese abil, mille kaudu kõnealusele süsteemile juurde pääsetakse, või kergesti juurdepääsetava masinloetava koodi või muude elektrooniliste vahendite kaudu.
2. En el caso de los sistemas de IA de alto riesgo que se proporcionan digitalmente, se utilizará un marcado CE digital, únicamente si es fácilmente accesible a través de la interfaz desde la que se accede a dicho sistema o mediante un código fácilmente accesible legible por máquina u otros medios electrónicos.
3. CE-märgis kinnitatakse suure riskiga tehisintellektisüsteemile nähtaval, loetaval ja kustutamatul viisil. Kui see ei ole suure riskiga tehisintellektisüsteemi olemuse tõttu võimalik või otstarbekas, kinnitatakse märgis olenevalt asjaoludest kas pakendile või süsteemiga kaasas olevatele dokumentidele.
3. El marcado CE se colocará de manera visible, legible e indeleble en los sistemas de IA de alto riesgo. Cuando esto no sea posible o no pueda garantizarse debido a la naturaleza del sistema de IA de alto riesgo, se colocará en el embalaje o en los documentos adjuntos, según proceda.
4. Kui see on kohaldatav, järgneb CE-märgisele artiklis 43 sätestatud vastavushindamismenetluste eest vastutava teada antud asutuse identifitseerimisnumber. Teada antud asutuse identifitseerimisnumbri kinnitab kas asutus ise või tema juhiste järgi pakkuja või pakkuja volitatud esindaja. Identifitseerimisnumber esitatakse ka kõigis reklaammaterjalides, kus on öeldud, et suure riskiga tehisintellektisüsteem vastab CE-märgise nõuetele.
4. En su caso, el marcado CE irá seguido del número de identificación del organismo notificado responsable de los procedimientos de evaluación de la conformidad establecidos en el artículo 43. El número de identificación del organismo notificado lo colocará él mismo o, siguiendo sus instrucciones, el proveedor o el representante autorizado del proveedor. El número de identificación figurará también en todo el material publicitario en el que se mencione que el sistema de IA de alto riesgo cumple los requisitos de marcado CE.
5. Kui suure riskiga tehisintellektisüsteemide suhtes kohaldatakse muud liidu õigust, mis näeb samuti ette CE-märgise kinnitamise, peab CE-märgis viitama sellele, et suure riskiga tehisintellektisüsteem vastab ka selle muu õiguse nõuetele.
5. Cuando los sistemas de IA de alto riesgo estén sujetos a otras disposiciones del Derecho de la Unión que también requieran la colocación del marcado CE, este indicará que los sistemas de IA de alto riesgo también cumplen los requisitos de esas otras disposiciones.
1. Enne III lisas loetletud suure riskiga tehisintellektisüsteemi, välja arvatud III lisa punktis 2 osutatud suure riskiga tehisintellektisüsteemid, turule laskmist või kasutusele võtmist registreerib pakkuja või vajaduse korral volitatud esindaja ennast ja oma süsteemi artiklis 71 osutatud ELi andmebaasis.
1. Antes de introducir en el mercado o de poner en servicio un sistema de IA de alto riesgo enumerado en el anexo III, con excepción de los sistemas de IA de alto riesgo mencionados en el anexo III, punto 2, el proveedor o, en su caso, el representante autorizado, registrarán su sistema y a ellos mismos en la base de datos de la UE a que se refiere el artículo 71.
2. Enne sellise suure riskiga tehisintellektisüsteemi turule laskmist või kasutusele võtmist, mille kohta pakkuja on vastavalt artikli 6 lõikele 3 teinud otsuse, et tegemist ei ole suure riskiga süsteemiga, registreerib pakkuja või kohaldataval juhul volitatud esindaja selle süsteemi artiklis 71 osutatud ELi andmebaasis.
2. Antes de introducir en el mercado o poner en servicio un sistema de IA sobre el que el proveedor haya llegado a la conclusión de que no es de alto riesgo de conformidad con el artículo 6, apartado 3, dicho proveedor o, en su caso, el representante autorizado, registrarán ese sistema y a ellos mismos en la base de datos de la UE a que se refiere el artículo 71.
3. Enne III lisas loetletud suure riskiga tehisintellektisüsteemi kasutuselevõttu või kasutamist, välja arvatud III lisa punktis 2 loetletud suure riskiga tehisintellektisüsteemide puhul, registreerivad end juurutajad, kes on avaliku sektori asutused, liidu institutsioonid, organid, ametid või asutused või nende nimel tegutsevad isikud, valivad süsteemi ja registreerivad selle kasutamise artiklis 71 osutatud ELi andmebaasis.
3. Antes de poner en servicio o utilizar un sistema de IA de alto riesgo enumerado en el anexo III, con excepción de los sistemas de IA de alto riesgo mencionados en el anexo III, punto 2, los responsables del despliegue de sistemas de IA de alto riesgo que sean autoridades públicas, instituciones, órganos u organismos de la Unión, o personas que actúen en su nombre, se registrarán, seleccionarán el sistema y registrarán su utilización en la base de datos de la UE a que se refiere el artículo 71.
4. III lisa punktides 1, 6 ja 7 osutatud suure riskiga tehisintellektisüsteemide puhul õiguskaitse, rände, varjupaiga ja piirikontrolli haldamise valdkonnas toimub käesoleva artikli lõigetes 1, 2 ja 3 osutatud registreerimine artiklis 71 osutatud ELi andmebaasi turvalises mitteavalikus osas ning sisaldab üksnes järgmist teavet, nagu on asjakohane:
4. En el caso de los sistemas de IA de alto riesgo mencionados en el anexo III, puntos 1, 6 y 7, en los ámbitos de la garantía del cumplimiento del Derecho, la migración, el asilo y la gestión del control fronterizo, el registro a que se refieren los apartados 1, 2 y 3 del presente artículo se efectuará en una sección segura no pública de la base de datos de la UE a que se refiere el artículo 71 e incluirá únicamente la información, según proceda, a la que se hace referencia en:
a)
VIII lisa A jao punktid 1–10, välja arvatud punktid 6, 8 ja 9;
a)
el anexo VIII, sección A, puntos 1 a 10, con excepción de los puntos 6, 8 y 9;
b)
VIII lisa B jao punktid 1–5 ning punktid 8 ja 9;
b)
el anexo VIII, sección B, puntos 1 a 5 y puntos 8 y 9;
c)
VIII lisa C jao punktid 1–3;
c)
el anexo VIII, sección C, puntos 1 a 3;
d)
IX lisa punktid 1, 2, 3 ja 5.
d)
el anexo IX, puntos 1, 2, 3 y 5.
Ainult komisjonil ja artikli 74 lõikes 8 osutatud riiklikel asutustel on juurdepääs vastavatele käesoleva lõike esimeses lõigus loetletud ELi andmebaasi piiratud juurdepääsuga osadele.
Únicamente la Comisión y las autoridades nacionales a que se refiere el artículo 74, apartado 8, tendrán acceso a las secciones restringidas respectivas de la base de datos de la UE enumeradas en el párrafo primero del presente apartado.
5. III lisa punktis 2 osutatud suure riskiga tehisintellektisüsteemid registreeritakse riiklikul tasandil.
5. Los sistemas de IA de alto riesgo a que se refiere el anexo III, punto 2, se registrarán a nivel nacional.
Teatavate tehisintellektisüsteemide pakkujate ja juurutajate läbipaistvuskohustused
Obligaciones de transparencia de los proveedores y responsables del despliegue de determinados sistemas de IA
1. Pakkujad tagavad, et füüsiliste isikutega vahetult suhtlema mõeldud tehisintellektisüsteeme projekteeritakse ja arendatakse selliselt, et asjaomastele füüsilistele isikutele antakse teada, et nad suhtlevad tehisintellektisüsteemiga, välja arvatud juhul, kui see on piisavalt informeeritud, tähelepaneliku ja aruka füüsilise isiku jaoks ilmne, võttes arvesse asjaolusid ja kasutamise konteksti. See kohustus ei kehti tehisintellektisüsteemide suhtes, mida on seadusega lubatud kasutada kuritegude avastamiseks, tõkestamiseks ja uurimiseks või nende eest vastutusele võtmiseks, tingimusel et kolmandate isikute õiguste ja vabaduste kaitseks kohaldatakse asjakohaseid kaitsemeetmeid, välja arvatud juhul, kui sellised süsteemid on üldsusele kättesaadavad, et kuritegudest teatada.
1. Los proveedores garantizarán que los sistemas de IA destinados a interactuar directamente con personas físicas se diseñen y desarrollen de forma que las personas físicas de que se trate estén informadas de que están interactuando con un sistema de IA, excepto cuando resulte evidente desde el punto de vista de una persona física razonablemente informada, atenta y perspicaz, teniendo en cuenta las circunstancias y el contexto de utilización. Esta obligación no se aplicará a los sistemas de IA autorizados por ley para detectar, prevenir, investigar o enjuiciar delitos, con sujeción a las garantías adecuadas para los derechos y libertades de terceros, salvo que estos sistemas estén a disposición del público para denunciar un delito penal.
2. Tehisintellektisüsteemide, sealhulgas üldotstarbeliste tehisintellektisüsteemide pakkujad, kes loovad sünteetilist audio-, pildi-, video- või tekstisisu, tagavad, et tehisintellektisüsteemi väljundid on märgitud masinloetavas vormingus ja tuvastatavad kui kunstlikult loodud või manipuleeritud. Pakkujad tagavad, et nende tehnilised lahendused on tõhusad, koostalitlusvõimelised, töökindlad ja usaldusväärsed, niivõrd kui see on tehniliselt teostatav, võttes arvesse eri liiki sisu eripära ja piiranguid, rakendamise kulusid ja tehnika üldtunnustatud taset, mis võib olla kajastatud asjakohastes tehnilistes standardites. Seda kohustust ei kohaldata, kui tehisintellektisüsteemid täidavad standardse redigeerimise abifunktsiooni või ei muuda oluliselt juurutaja esitatud sisendandmeid või nende semantikat või kui see on seadusega lubatud kuritegude avastamiseks, tõkestamiseks, uurimiseks või nende eest vastutusele võtmiseks.
2. Los proveedores de sistemas de IA, entre los que se incluyen los sistemas de IA de uso general, que generen contenido sintético de audio, imagen, vídeo o texto, velarán por que los resultados de salida del sistema de IA estén marcados en un formato legible por máquina y que sea posible detectar que han sido generados o manipulados de manera artificial. Los proveedores velarán por que sus soluciones técnicas sean eficaces, interoperables, sólidas y fiables en la medida en que sea técnicamente viable, teniendo en cuenta las particularidades y limitaciones de los diversos tipos de contenido, los costes de aplicación y el estado actual de la técnica generalmente reconocido, según se refleje en las normas técnicas pertinentes. Esta obligación no se aplicará en la medida en que los sistemas de IA desempeñen una función de apoyo a la edición estándar o no alteren sustancialmente los datos de entrada facilitados por el responsable del despliegue o su semántica, o cuando estén autorizados por ley para detectar, prevenir, investigar o enjuiciar delitos.
3. Emotsioonituvastussüsteemi või biomeetrilise liigitamise süsteemi juurutajad annavad süsteemi tööst teada füüsilistele isikutele, kes selle süsteemiga kokku puutuvad, ning töötlevad vajaduse korral isikuandmeid kooskõlas määrustega (EL) 2016/679 ja (EL) 2018/1725 ning direktiiviga (EL) 2016/680. Seda kohustust ei kohaldata biomeetriliseks liigitamiseks ja emotsioonide tuvastamiseks kasutatavate tehisintellektisüsteemide suhtes, mida on seadusega lubatud kasutada kuritegude avastamiseks, tõkestamiseks või uurimiseks, tingimusel et kolmandate isikute õiguste ja vabaduste kaitseks kohaldatakse asjakohaseid kaitsemeetmeid ja kooskõlas liidu õigusega.
3. Los responsables del despliegue de un sistema de reconocimiento de emociones o de un sistema de categorización biométrica informarán del funcionamiento del sistema a las personas físicas expuestas a él y tratarán sus datos personales de conformidad con los Reglamentos (UE) 2016/679 y (UE) 2018/1725 y con la Directiva (UE) 2016/680, según corresponda. Esta obligación no se aplicará a los sistemas de IA utilizados para la categorización biométrica y el reconocimiento de emociones que hayan sido autorizados por ley para detectar, prevenir e investigar delitos, con sujeción a las garantías adecuadas para los derechos y libertades de terceros y de conformidad con el Derecho de la Unión.
4. Sellise tehisintellektisüsteemi juurutajad, mis loob või manipuleerib pildi-, audio- või videosisu, mis kujutab endast süvavõltsingut, avalikustavad, et sisu on kunstlikult loodud või manipuleeritud. Seda kohustust ei kohaldata, kui kasutamine on seadusega lubatud kuritegude avastamiseks, tõkestamiseks, uurimiseks või nende eest vastutusele võtmiseks. Kui sisu moodustab osa ilmselgelt kunstilisest, loomingulisest, satiirilisest, väljamõeldud või samalaadsest teosest või programmist, piirduvad käesolevas lõikes sätestatud läbipaistvuskohustused sellise loodud või manipuleeritud sisu olemasolu avalikustamisega asjakohasel viisil, mis ei takista teose kuvamist või kasutamist.
4. Los responsables del despliegue de un sistema de IA que genere o manipule imágenes o contenidos de audio o vídeo que constituyan una ultrasuplantación harán público que estos contenidos o imágenes han sido generados o manipulados de manera artificial. Esta obligación no se aplicará cuando la ley autorice su uso para para detectar, prevenir, investigar o enjuiciar delitos. Cuando el contenido forme parte de una obra o programa manifiestamente creativos, satíricos, artísticos, de ficción o análogos, las obligaciones de transparencia establecidas en el presente apartado se limitarán a la obligación de hacer pública la existencia de dicho contenido generado o manipulado artificialmente de una manera adecuada que no dificulte la exhibición o el disfrute de la obra.
Sellise tehisintellektisüsteemi juurutajad, mis loob või manipuleerib teksti, mis avaldatakse eesmärgiga teavitada üldsust avalikku huvi pakkuvatest küsimustest, avalikustavad, et tekst on kunstlikult loodud või manipuleeritud. Seda kohustust ei kohaldata, kui kasutamine on seadusega lubatud kuritegude avastamiseks, tõkestamiseks, uurimiseks või nende eest vastutusele võtmiseks või kui tehisintellekti loodud sisu on läbinud inimkontrolli või toimetuskontrolli ning kui sisu avaldamise eest kannab toimetuslikku vastutust füüsiline või juriidiline isik.
Los responsables del despliegue de un sistema de IA que genere o manipule texto que se publique con el fin de informar al público sobre asuntos de interés público divulgarán que el texto se ha generado o manipulado de manera artificial. Esta obligación no se aplicará cuando el uso esté autorizado por ley para detectar, prevenir, investigar o enjuiciar delitos, o cuando el contenido generado por IA haya sido sometido a un proceso de revisión humana o de control editorial y cuando una persona física o jurídica tenga la responsabilidad editorial por la publicación del contenido.
5. Lõigetes 1–4 osutatud teave esitatakse asjaomastele füüsilistele isikutele selgel ja eristataval viisil hiljemalt esimese suhtlemise või kokkupuute ajal. Teave peab vastama kohaldatavatele ligipääsetavusnõuetele.
5. La información a que se refieren los apartados 1 a 4 se facilitará a las personas físicas de que se trate de manera clara y distinguible a más tardar con ocasión de la primera interacción o exposición. La información se ajustará a los requisitos de accesibilidad aplicables.
6. Lõiked 1–4 ei mõjuta III peatükis sätestatud nõudeid ja kohustusi ega piira muude liidu või riigisiseses õiguses tehisintellektisüsteemide juurutajatele sätestatud läbipaistvuskohustuste kohaldamist.
6. Los apartados 1 a 4 no afectarán a los requisitos y obligaciones establecidos en el capítulo III y se entenderán sin perjuicio de otras obligaciones de transparencia establecidas en el Derecho nacional o de la Unión para los responsables del despliegue de sistemas de IA.
7. Tehisintellektiamet julgustab ja hõlbustab tegevusjuhendite koostamist liidu tasandil, et lihtsustada kunstlikult loodud või manipuleeritud sisu avastamise ja märgistamisega seotud kohustuste tõhusat rakendamist. Komisjonil võib võtta vastu rakendusakte kõnealuste tegevusjuhendite heakskiitmiseks artikli 56 lõikes 6 sätestatud korras. Kui komisjon leiab, et juhend ei ole piisav, võib ta kooskõlas artikli 98 lõikes 2 sätestatud kontrollimenetlusega võtta vastu rakendusakti, milles määratakse kindlaks ühised õigusnormid kõnealuste kohustuste rakendamiseks.
7. La Oficina de IA fomentará y facilitará la elaboración de códigos de buenas prácticas a escala de la Unión para promover la aplicación efectiva de las obligaciones relativas a la detección y el etiquetado de contenidos generados o manipulados de manera artificial. La Comisión podrá adoptar actos de ejecución a fin de aprobar dichos códigos de buenas prácticas, de conformidad con el procedimiento establecido en el artículo 56, apartado 6. Si considera que el código no es adecuado, la Comisión podrá adoptar un acto de ejecución que especifique normas comunes para el cumplimiento de las citadas obligaciones de conformidad con el procedimiento de examen establecido en el artículo 98, apartado 2.
1. Kui üldotstarbeline tehisintellektimudel vastab artikli 51 lõike 1 punktis a osutatud tingimusele, teavitab asjaomane pakkuja sellest komisjoni viivitamata ja igal juhul kahe nädala jooksul pärast selle nõude täitmist või teadasaamist, et nõue täidetakse. Kõnealune teade sisaldab teavet, mis on vajalik tõendamaks, et asjaomane nõue on täidetud. Kui komisjon saab teada üldotstarbelisest tehisintellektimudelist, millega kaasnevad süsteemsed riskid, millest teda ei ole teavitatud, võib ta otsustada liigitada selle süsteemse riskiga mudeliks.
1. Cuando un modelo de IA de uso general cumpla la condición a que se refiere el artículo 51, apartado 1, letra a), el proveedor pertinente lo notificará a la Comisión sin demora y, en cualquier caso, antes de transcurridas dos semanas desde que se cumpla dicho requisito o desde que se sepa que va a cumplirse. Dicha notificación incluirá la información necesaria para demostrar que se cumple el requisito pertinente. Si la Comisión tiene conocimiento de un modelo de IA de uso general que presenta riesgos sistémicos y que no ha sido notificado, podrá decidir designarlo como modelo con riesgo sistémico.
2. Artikli 51 lõike 1 punktis a osutatud nõudele vastava üldotstarbelise tehisintellektimudeli pakkuja võib koos teatega esitada piisavalt põhjendatud väited tõendamaks, et kuigi üldotstarbeline tehisintellektimudel vastab sellele nõudele, ei kujuta see erandkorras oma erijoonte tõttu süsteemseid riske ja seetõttu ei tuleks see klassifitseerida süsteemse riskiga üldotstarbeliseks tehisintellektimudeliks.
2. El proveedor de un modelo de IA de uso general que cumpla la condición a que se refiere el artículo 51, apartado 1, letra a), podrá presentar, junto con su notificación, argumentos suficientemente fundamentados que demuestren que, excepcionalmente, aunque el modelo de IA de uso general cumple dicho requisito, no presenta riesgos sistémicos, debido a sus características específicas, y no debe clasificarse, por tanto, como modelo de IA de uso general con riesgo sistémico.
3. Kui komisjon jõuab järeldusele, et lõike 2 kohaselt esitatud väited ei ole piisavalt põhjendatud ja asjaomane pakkuja ei suutnud tõendada, et üldotstarbeline tehisintellektimudel ei kujuta oma erijoonte tõttu süsteemseid riske, lükkab ta need väited tagasi ja üldotstarbelist tehisintellektimudelit käsitatakse süsteemse riskiga üldotstarbelise tehisintellektimudelina.
3. Cuando la Comisión concluya que los argumentos presentados con arreglo al apartado 2 no están suficientemente fundamentados y que el proveedor pertinente no ha sido capaz de demostrar que el modelo de IA de uso general no presenta, debido a sus características específicas, riesgos sistémicos, rechazará dichos argumentos y el modelo de IA de uso general se considerará un modelo de IA de uso general con riesgo sistémico.
4. Komisjon võib liigitada üldotstarbelise tehisintellektimudeli süsteemseid riske kujutavaks mudeliks ex officio või pärast teaduskomisjonilt artikli 90 lõike 1 punkti a kohase kvalifitseeritud hoiatusteate saamist, põhinedes XIII lisas sätestatud kriteeriumidele.
4. La Comisión podrá determinar que un modelo de IA de uso general presenta riesgos sistémicos, de oficio o a raíz de una alerta cualificada del grupo de expertos científicos con arreglo al artículo 90, apartado 1, letra a), a partir de los criterios establecidos en el anexo XIII.
Komisjonil on õigus võtta kooskõlas artikliga 97 vastu delegeeritud õigusakte, et muuta XIII lisa, täpsustades ja ajakohastades selles lisas esitatud kriteeriume.
La Comisión estará facultada para adoptar actos delegados de conformidad con el artículo 97 al objeto de modificar el anexo XIII especificando y actualizando los criterios establecidos en dicho anexo.
5. Pakkuja, kelle mudel on liigitatud artikli 4 kohaselt süsteemse riskiga üldotstarbeliseks tehisintellektimudeliks, põhjendatud taotluse korral võtab komisjon taotlust arvesse ja võib otsustada uuesti hinnata, kas seda üldotstarbelist tehisintellektimudelit saab siiski pidada süsteemseid riske kujutavaks mudeliks, põhinedes XIII lisas toodud kriteeriumidele. Selline taotlus peab sisaldama objektiivseid, üksikasjalikke ja uusi põhjuseid, mis on esile kerkinud pärast liigitamisotsust. Pakkujad võivad taotleda uut hindamist kõige varem kuus kuud pärast liigitamisotsuse tegemist. Kui komisjon otsustab pärast uuesti hindamist säilitada mudeli liigitamise süsteemse riskiga üldotstarbeliseks tehisintellektimudeliks, võivad pakkujad taotleda uuesti hindamist kõige varem kuus kuud pärast kõnealuse otsuse tegemist.
5. Previa solicitud motivada de un proveedor cuyo modelo haya sido designado como modelo de IA de uso general con riesgo sistémico con arreglo al apartado 4, la Comisión tendrá en cuenta la solicitud y podrá decidir reevaluar si puede seguir considerándose que el modelo de IA de uso general presenta riesgos sistémicos con arreglo a los criterios establecidos en el anexo XIII. Dicha solicitud contendrá motivos objetivos, detallados y nuevos que hayan surgido desde la decisión de designación. Los proveedores no podrán solicitar la reevaluación antes de transcurridos seis meses desde la decisión de designación. Si tras la reevaluación la Comisión decide mantener la designación como modelo de IA de uso general con riesgo sistémico, los proveedores no podrán solicitar otra reevaluación hasta transcurridos seis meses desde dicha decisión.
6. Komisjon tagab süsteemse riskiga üldotstarbeliste tehisintellektimudelite loetelu avaldamise ja ajakohastab seda, ilma et see piiraks vajadust järgida ja kaitsta intellektuaalomandi õigusi ja konfidentsiaalset äriteavet või ärisaladusi kooskõlas liidu ja riigisisese õigusega.
6. La Comisión velará por que se publique una lista de modelos de IA de uso general con riesgo sistémico, que mantendrá actualizada, sin perjuicio de la necesidad de respetar y proteger los derechos de propiedad intelectual e industrial y la información empresarial confidencial o los secretos comerciales de conformidad con el Derecho de la Unión y nacional.