Jornal Oficial
da União Europeia
PT
Επίσημη Εφημερίδα
της Ευρωπαϊκής Ένωσης
EL
REGULAMENTO (UE) 2024/1689 DO PARLAMENTO EUROPEU E DO CONSELHO
ΚΑΝΟΝΙΣΜΟΣ (ΕΕ) 2024/1689 ΤΟΥ ΕΥΡΩΠΑΪΚΟΥ ΚΟΙΝΟΒΟΥΛΙΟΥ ΚΑΙ ΤΟΥ ΣΥΜΒΟΥΛΙΟΥ
que cria regras harmonizadas em matéria de inteligência artificial e que altera os Regulamentos (CE) n.o 300/2008, (UE) n.o 167/2013, (UE) n.o 168/2013, (UE) 2018/858, (UE) 2018/1139 e (UE) 2019/2144 e as Diretivas 2014/90/UE, (UE) 2016/797 e (UE) 2020/1828 (Regulamento da Inteligência Artificial)
για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη και την τροποποίηση των κανονισμών (ΕΚ) αριθ. 300/2008, (ΕΕ) αριθ. 167/2013, (ΕΕ) αριθ. 168/2013, (ΕΕ) 2018/858, (ΕΕ) 2018/1139 και (ΕΕ) 2019/2144 και των οδηγιών 2014/90/ΕΕ, (ΕΕ) 2016/797 και (ΕΕ) 2020/1828 (κανονισμός για την τεχνητή νοημοσύνη)
(Texto relevante para efeitos do EEE)
(Κείμενο που παρουσιάζει ενδιαφέρον για τον ΕΟΧ)
O PARLAMENTO EUROPEU E O CONSELHO DA UNIÃO EUROPEIA,
ΤΟ ΕΥΡΩΠΑΪΚΟ ΚΟΙΝΟΒΟΥΛΙΟ ΚΑΙ ΤΟ ΣΥΜΒΟΥΛΙΟ ΤΗΣ ΕΥΡΩΠΑΪΚΗΣ ΕΝΩΣΗΣ,
Tendo em conta o Tratado sobre o Funcionamento da União Europeia, nomeadamente os artigos 16.o e 114.o,
Έχοντας υπόψη τη Συνθήκη για τη λειτουργία της Ευρωπαϊκής Ένωσης, και ιδίως τα άρθρα 16 και 114,
Tendo em conta a proposta da Comissão Europeia,
Έχοντας υπόψη την πρόταση της Ευρωπαϊκής Επιτροπής,
Após transmissão do projeto de ato legislativo aos parlamentos nacionais,
Κατόπιν διαβίβασης του σχεδίου νομοθετικής πράξης στα εθνικά κοινοβούλια,
Tendo em conta o parecer do Comité Económico e Social Europeu (1),
Έχοντας υπόψη τη γνώμη της Ευρωπαϊκής Οικονομικής και Κοινωνικής Επιτροπής (1),
Tendo em conta o parecer do Banco Central Europeu (2),
Έχοντας υπόψη τη γνώμη της Ευρωπαϊκής Κεντρικής Τράπεζας (2),
Tendo em conta o parecer do Comité das Regiões (3),
Έχοντας υπόψη τη γνώμη της Επιτροπής των Περιφερειών (3),
Deliberando de acordo com o processo legislativo ordinário (4),
Αποφασίζοντας σύμφωνα με τη συνήθη νομοθετική διαδικασία (4),
(1)
O presente regulamento tem por objetivo a melhoria do funcionamento do mercado interno mediante a previsão de um regime jurídico uniforme, em particular para o desenvolvimento, a colocação no mercado, a colocação em serviço e a utilização de sistemas de inteligência artificial (sistemas de IA) na União, em conformidade com os valores da União, a fim de promover a adoção de uma inteligência artificial (IA) centrada no ser humano e de confiança, assegurando simultaneamente um elevado nível de proteção da saúde, da segurança, dos direitos fundamentais consagrados na Carta dos Direitos Fundamentais da União Europeia («Carta»), nomeadamente a democracia, o Estado de direito e a proteção do ambiente, a proteção contra os efeitos nocivos dos sistemas de IA na União, e de apoiar a inovação. O presente regulamento assegura a livre circulação transfronteiriça de produtos e serviços baseados em IA, evitando assim que os Estados-Membros imponham restrições ao desenvolvimento, à comercialização e à utilização dos sistemas de IA, salvo se explicitamente autorizado pelo presente regulamento.
(1)
Σκοπός του παρόντος κανονισμού είναι να βελτιωθεί η λειτουργία της εσωτερικής αγοράς με τη θέσπιση ενιαίου νομικού πλαισίου, ιδίως για την ανάπτυξη, τη διάθεση στην αγορά, τη θέση σε λειτουργία και τη χρήση συστημάτων τεχνητής νοημοσύνης («συστήματα ΤΝ») εντός της Ένωσης, κατά τρόπο σύμφωνο με τις αξίες της Ένωσης, να προαχθεί η υιοθέτηση ανθρωποκεντρικής και αξιόπιστης τεχνητής νοημοσύνης (ΤΝ), με παράλληλη εξασφάλιση υψηλού επιπέδου προστασίας της υγείας, της ασφάλειας και των θεμελιωδών δικαιωμάτων, όπως κατοχυρώνονται στον Χάρτη των Θεμελιωδών Δικαιωμάτων της Ευρωπαϊκής Ένωσης («Χάρτης»), συμπεριλαμβανομένης της δημοκρατίας, του κράτους δικαίου και της προστασίας του περιβάλλοντος, να παρασχεθεί προστασία από τις επιβλαβείς επιπτώσεις των συστημάτων ΤΝ στην Ένωση και να στηριχθεί η καινοτομία. Ο παρών κανονισμός εξασφαλίζει την ελεύθερη διασυνοριακή κυκλοφορία αγαθών και υπηρεσιών που βασίζονται στην ΤΝ, εμποδίζοντας έτσι τα κράτη μέλη να επιβάλλουν περιορισμούς στην ανάπτυξη, την εμπορία και τη χρήση συστημάτων ΤΝ, εκτός εάν αυτό επιτρέπεται ρητά από τον παρόντα κανονισμό.
(2)
O presente regulamento deverá ser aplicado em conformidade com os valores da União consagrados na Carta, facilitando a proteção das pessoas singulares, das empresas, da democracia, do Estado de direito e proteção ambiental, promovendo simultaneamente a inovação e o emprego e colocando a União na liderança em matéria de adoção de uma IA de confiança.
(2)
Ο παρών κανονισμός θα πρέπει να εφαρμόζεται κατά τρόπο σύμφωνο προς τις αξίες της Ένωσης όπως κατοχυρώνονται στον Χάρτη, διευκολύνοντας την προστασία των φυσικών προσώπων, των επιχειρήσεων, της δημοκρατίας, του κράτους δικαίου και του περιβάλλοντος, ενισχύοντας παράλληλα την καινοτομία και την απασχόληση και καθιστώντας την Ένωση πρωτοπόρο στην υιοθέτηση αξιόπιστης ΤΝ.
(3)
Os sistemas de IA podem ser facilmente implantados numa grande variedade de setores da economia e em muitos quadrantes da sociedade, inclusive além fronteiras, e podem circular facilmente por toda a União. Certos Estados-Membros já ponderaram a adoção de regras nacionais para assegurar que a IA seja de confiança e segura e seja desenvolvida e utilizada em conformidade com as obrigações em matéria de direitos fundamentais. As diferenças entre regras nacionais podem conduzir à fragmentação do mercado interno e reduzir a segurança jurídica para os operadores que desenvolvem, importam ou utilizam sistemas de IA. Como tal, é necessário assegurar um nível de proteção elevado e coerente em toda a União, com vista a alcançar uma IA de confiança, e evitar divergências que prejudiquem a livre circulação, a inovação, a implantação e a adoção dos sistemas de IA e dos produtos e serviços conexos no mercado interno, mediante o estabelecimento de obrigações uniformes para os operadores e a garantia da proteção uniforme das razões imperativas de reconhecido interesse público e dos direitos das pessoas em todo o mercado interno, com base no artigo 114.o do Tratado sobre o Funcionamento da União Europeia (TFUE). Visto que o presente regulamento contém regras específicas aplicáveis à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais, nomeadamente restrições à utilização de sistemas de IA para a identificação biométrica à distância para efeitos de aplicação da lei, à utilização de sistemas de IA para a avaliação de risco em relação a pessoas singulares para efeitos de aplicação da lei e à utilização de sistemas de IA para categorização biométrica para efeitos de aplicação da lei, é apropriado basear este regulamento no artigo 16.o do TFUE, no respeitante a essas regras específicas. Face a essas regras específicas e ao recurso ao artigo 16.o do TFUE, é apropriado consultar o Comité Europeu para a Proteção de Dados.
(3)
Τα συστήματα ΤΝ μπορούν εύκολα να εφαρμοστούν σε ευρύ φάσμα κλάδων της οικονομίας και σε πολλούς τομείς της κοινωνίας, μεταξύ άλλων και σε διασυνοριακό επίπεδο, μπορούν δε να κυκλοφορούν εύκολα σε ολόκληρη την Ένωση. Ορισμένα κράτη μέλη έχουν ήδη μελετήσει το ενδεχόμενο θέσπισης εθνικών κανόνων για να διασφαλίσουν ότι η ΤΝ είναι αξιόπιστη και ασφαλής, καθώς και ότι αναπτύσσεται και χρησιμοποιείται με τρόπο σύμφωνο προς τις υποχρεώσεις όσον αφορά τα θεμελιώδη δικαιώματα. Η θέσπιση αποκλινόντων εθνικών κανόνων ενδέχεται να οδηγήσει στον κατακερματισμό της εσωτερικής αγοράς και να μειώσει την ασφάλεια δικαίου για τους φορείς εκμετάλλευσης που αναπτύσσουν, εισάγουν ή χρησιμοποιούν συστήματα ΤΝ. Ως εκ τούτου, θα πρέπει να εξασφαλιστεί ένα συνεκτικό και υψηλό επίπεδο προστασίας σε ολόκληρη την Ένωση, προκειμένου να επιτευχθεί αξιόπιστη ΤΝ, ενώ θα πρέπει να προληφθούν αποκλίσεις που εμποδίζουν την ελεύθερη κυκλοφορία, την καινοτομία, την εφαρμογή και την υιοθέτηση συστημάτων ΤΝ και συναφών προϊόντων και υπηρεσιών εντός της εσωτερικής αγοράς με τον καθορισμό ενιαίων υποχρεώσεων για τους φορείς εκμετάλλευσης και με τη διασφάλιση της ενιαίας προστασίας του υπέρτερου δημόσιου συμφέροντος και των δικαιωμάτων των προσώπων σε ολόκληρη την εσωτερική αγορά βάσει του άρθρου 114 της Συνθήκης για τη λειτουργία της Ευρωπαϊκής Ένωσης (ΣΛΕΕ). Στον βαθμό που ο παρών κανονισμός περιέχει ειδικούς κανόνες για την προστασία των ατόμων έναντι της επεξεργασίας δεδομένων προσωπικού χαρακτήρα όσον αφορά περιορισμούς στη χρήση συστημάτων ΤΝ για την εξ αποστάσεως βιομετρική ταυτοποίηση για σκοπούς επιβολής του νόμου, στη χρήση συστημάτων ΤΝ για την εκτίμηση κινδύνων σχετιζόμενων με φυσικά πρόσωπα για σκοπούς επιβολής του νόμου, καθώς και στη χρήση συστημάτων ΤΝ βιομετρικής κατηγοριοποίησης για σκοπούς επιβολής του νόμου, ενδείκνυται ο παρών κανονισμός να βασιστεί, όσον αφορά αυτούς τους ειδικούς κανόνες, στο άρθρο 16 ΣΛΕΕ. Λαμβανομένων υπόψη των εν λόγω ειδικών κανόνων και της προσφυγής στο άρθρο 16 ΣΛΕΕ, ενδείκνυται να ζητηθεί η γνώμη του Ευρωπαϊκού Συμβουλίου Προστασίας Δεδομένων.
(4)
A IA é uma família de tecnologias em rápida evolução que contribui para um vasto conjunto de benefícios económicos, ambientais e sociais em todo o leque de indústrias e atividades sociais. Ao melhorar as previsões, otimizar as operações e a repartição de recursos e personalizar as soluções digitais disponibilizadas às pessoas e às organizações, a utilização da IA pode conferir importantes vantagens competitivas às empresas e contribuir para progressos sociais e ambientais, por exemplo, nos cuidados de saúde, na agricultura, na segurança alimentar, na educação e na formação, nos meios de comunicação social, no desporto, na cultura, na gestão das infraestruturas, na energia, nos transportes e na logística, nos serviços públicos, na segurança, na justiça, na eficiência energética e dos recursos, na monitorização ambiental, na preservação e recuperação da biodiversidade e dos ecossistemas e na atenuação das alterações climáticas e adaptação às mesmas.
(4)
Η ΤΝ είναι ένα ταχέως εξελισσόμενο σύνολο τεχνολογιών που συμβάλλει στην επίτευξη πολλών και ποικίλων οικονομικών, περιβαλλοντικών και κοινωνικών οφελών σε ολόκληρο το φάσμα των κλάδων της οικονομίας και των κοινωνικών δραστηριοτήτων. Με τη βελτίωση της πρόβλεψης, τη βελτιστοποίηση των λειτουργιών και της κατανομής των πόρων, καθώς και την εξατομίκευση των ψηφιακών λύσεων που διατίθενται σε άτομα και οργανισμούς, η χρήση ΤΝ μπορεί να παράσχει βασικά ανταγωνιστικά πλεονεκτήματα στις επιχειρήσεις και να στηρίξει κοινωνικά και περιβαλλοντικά επωφελή αποτελέσματα, για παράδειγμα όσον αφορά την υγειονομική περίθαλψη, τη γεωργία, την ασφάλεια των τροφίμων, την εκπαίδευση και κατάρτιση, τα μέσα ενημέρωσης, τον αθλητισμό, τον πολιτισμό, τη διαχείριση υποδομών, την ενέργεια, τις μεταφορές και την εφοδιαστική, τις δημόσιες υπηρεσίες, την ασφάλεια, τη δικαιοσύνη, την αποδοτικότητα των πόρων και την ενεργειακή απόδοση, την περιβαλλοντική παρακολούθηση, τη διατήρηση και αποκατάσταση της βιοποικιλότητας και των οικοσυστημάτων, καθώς και τον μετριασμό της κλιματικής αλλαγής και την προσαρμογή σε αυτήν.
(5)
Ao mesmo tempo, em função das circunstâncias relativas à sua aplicação, utilização e nível de evolução tecnológica específicos, a IA pode criar riscos e prejudicar interesses públicos e direitos fundamentais protegidos pela legislação da União. Esses prejuízos podem ser materiais ou imateriais, incluindo danos físicos, psicológicos, sociais ou económicos.
(5)
Ταυτόχρονα, ανάλογα με τις περιστάσεις που αφορούν την εκάστοτε εφαρμογή και χρήση της και το επίπεδο της τεχνολογικής της ανάπτυξης, η TN μπορεί να δημιουργήσει κινδύνους και να αποβεί επιβλαβής για τα δημόσια συμφέροντα και τα θεμελιώδη δικαιώματα που προστατεύονται από το δίκαιο της Ένωσης. Η βλάβη αυτή μπορεί να είναι υλική ή άυλη, μεταξύ άλλων σωματική, ψυχολογική, κοινωνική ή οικονομική.
(6)
Tendo em conta o grande impacto que a IA pode ter na sociedade e a necessidade de criar confiança, é fundamental que a IA e o respetivo regime regulamentar sejam desenvolvidos em conformidade com os valores da União consagrados no artigo 2.o do Tratado da União Europeia (TUE), com os direitos e liberdades fundamentais consagrados nos Tratados e, nos termos do artigo 6.o do TUE, com a Carta. Como condição prévia, a IA deverá ser uma tecnologia centrada no ser humano. Deverá servir de instrumento para as pessoas, com o objetivo último de aumentar o bem-estar humano.
(6)
Δεδομένων του σημαντικού αντικτύπου που μπορεί να έχει η ΤΝ στην κοινωνία και της ανάγκης οικοδόμησης εμπιστοσύνης, έχει ζωτική σημασία η ΤΝ και το κανονιστικό της πλαίσιο να αναπτυχθούν με τρόπο σύμφωνο προς τις αξίες της Ένωσης όπως κατοχυρώνονται στο άρθρο 2 της Συνθήκης για την Ευρωπαϊκή Ένωση (ΣΕΕ), προς τα θεμελιώδη δικαιώματα και τις ελευθερίες που κατοχυρώνονται στις Συνθήκες και, κατ’ εφαρμογή του άρθρου 6 ΣΕΕ, προς τον Χάρτη. Ως προαπαιτούμενο, η ΤΝ θα πρέπει να είναι μια τεχνολογία ανθρωποκεντρική. Θα πρέπει να χρησιμεύει σαν εργαλείο για τους ανθρώπους, με απώτατο στόχο την αύξηση της ανθρώπινης ευημερίας.
(7)
A fim de assegurar um nível elevado e coerente de proteção dos interesses públicos nos domínios da saúde, da segurança e dos direitos fundamentais, deverão ser estabelecidas regras comuns aplicáveis a todos os sistemas de IA de risco elevado. Essas normas deverão ser coerentes com a Carta, não discriminatórias e estar em consonância com os compromissos comerciais internacionais da União. Deverão também ter em conta a Declaração Europeia sobre os Direitos e Princípios Digitais para a Década Digital e as Orientações Éticas para uma IA de Confiança do Grupo de Peritos de Alto Nível em IA (AI HLEG, do inglês High-Level Expert Group on Artificial Intelligence).
(7)
Προκειμένου να εξασφαλιστεί συνεκτικό και υψηλό επίπεδο προστασίας των δημόσιων συμφερόντων όσον αφορά την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα, θα πρέπει να θεσπιστούν κοινοί κανόνες για τα συστήματα ΤΝ υψηλού κινδύνου. Οι εν λόγω κανόνες θα πρέπει να συνάδουν με τον Χάρτη, να μην εισάγουν διακρίσεις και να είναι σύμφωνοι με τις διεθνείς εμπορικές δεσμεύσεις της Ένωσης. Θα πρέπει επίσης να λαμβάνουν υπόψη την ευρωπαϊκή διακήρυξη σχετικά με τα ψηφιακά δικαιώματα και τις ψηφιακές αρχές για την ψηφιακή δεκαετία, καθώς και τις κατευθυντήριες γραμμές δεοντολογίας για αξιόπιστη ΤΝ της ομάδας εμπειρογνωμόνων υψηλού επιπέδου για την τεχνητή νοημοσύνη (ΟΕΥΕ για την ΤΝ).
(8)
Como tal, é necessário adotar um regime jurídico da União que estabeleça regras harmonizadas em matéria de IA para promover o desenvolvimento, a utilização e a adoção da IA no mercado interno e que, ao mesmo tempo, proporcione um nível elevado de proteção de interesses públicos, como a saúde e a segurança e a defesa dos direitos fundamentais, incluindo a democracia, o Estado de direito e a proteção do ambiente, conforme reconhecido e protegido pelo direito da União. Para alcançar esse objetivo, torna-se necessário estabelecer regras que regulem a colocação no mercado, a colocação em serviço e a utilização de determinados sistemas de IA, garantindo assim o correto funcionamento do mercado interno e permitindo que esses sistemas beneficiem do princípio de livre circulação dos produtos e dos serviços. Tais regras deverão ser claras e sólidas na defesa dos direitos fundamentais, apoiando novas soluções inovadoras e permitindo um ecossistema europeu de intervenientes públicos e privados que criem sistemas de IA em consonância com os valores da União e que explorem o potencial da transformação digital em todas as regiões da União. Ao estabelecer essas regras, bem como as medidas de apoio à inovação, com especial destaque para as pequenas e médias empresas (PME), incluindo as empresas em fase de arranque, o presente regulamento apoia o objetivo de promover a abordagem europeia da IA centrada no ser humano, assim como o de estar na vanguarda mundial do desenvolvimento de uma IA segura, ética e de confiança, conforme declarado pelo Conselho Europeu (5), e garante a proteção de princípios éticos, conforme solicitado especificamente pelo Parlamento Europeu (6).
(8)
Ως εκ τούτου, για την προώθηση της ανάπτυξης, της χρήσης και της υιοθέτησης της ΤΝ στην εσωτερική αγορά, είναι αναγκαίο ένα ενωσιακό νομικό πλαίσιο που να θεσπίζει εναρμονισμένους κανόνες σχετικά με την ΤΝ και να ανταποκρίνεται, ταυτόχρονα, σε υψηλό επίπεδο προστασίας των δημόσιων συμφερόντων, όπως η υγεία, η ασφάλεια και η προστασία των θεμελιωδών δικαιωμάτων, περιλαμβανομένων της δημοκρατίας, του κράτους δικαίου και της προστασίας του περιβάλλοντος, όπως αυτά αναγνωρίζονται και προστατεύονται από το δίκαιο της Ένωσης. Για την επίτευξη του στόχου αυτού, θα πρέπει να θεσπιστούν κανόνες που να ρυθμίζουν τη διάθεση στην αγορά, τη θέση σε λειτουργία και τη χρήση ορισμένων συστημάτων ΤΝ, ώστε να διασφαλίζεται έτσι η ομαλή λειτουργία της εσωτερικής αγοράς και να μπορούν τα συστήματα αυτά να επωφελούνται από την αρχή της ελεύθερης κυκλοφορίας των εμπορευμάτων και των υπηρεσιών. Οι κανόνες αυτοί θα πρέπει να είναι σαφείς και ισχυροί όσον αφορά την προστασία των θεμελιωδών δικαιωμάτων, να υποστηρίζουν νέες καινοτόμες λύσεις, να καθιστούν δυνατή τη δημιουργία ενός ευρωπαϊκού οικοσυστήματος δημόσιων και ιδιωτικών φορέων που δημιουργούν συστήματα ΤΝ σύμφωνα με τις αξίες της Ένωσης, καθώς και να απελευθερώνουν το δυναμικό του ψηφιακού μετασχηματισμού σε όλες τις περιφέρειες της Ένωσης. Με τη θέσπιση των κανόνων αυτών, καθώς και μέτρων υπέρ της καινοτομίας με ιδιαίτερη έμφαση στις μικρές και μεσαίες επιχειρήσεις (ΜΜΕ), περιλαμβανομένων των νεοφυών επιχειρήσεων, ο παρών κανονισμός στηρίζει τον στόχο να δοθεί ώθηση στην ευρωπαϊκή ανθρωποκεντρική προσέγγιση για την ΤΝ και να αναληφθεί ηγετικός ρόλος παγκοσμίως στην ανάπτυξη ασφαλούς, αξιόπιστης και δεοντολογικής ΤΝ, όπως έχει δηλώσει το Ευρωπαϊκό Συμβούλιο (5), διασφαλίζει δε την προστασία των δεοντολογικών αρχών, όπως έχει ζητηθεί συγκεκριμένα από το Ευρωπαϊκό Κοινοβούλιο (6).
(9)
Deverão ser previstas regras harmonizadas aplicáveis à colocação no mercado, à colocação em serviço e à utilização de sistemas de IA de risco elevado coerentes com o Regulamento (CE) n.o 765/2008 do Parlamento Europeu e do Conselho (7), a Decisão n.o 768/2008/CE do Parlamento Europeu e do Conselho (8) e o Regulamento (UE) 2019/1020 do Parlamento Europeu e do Conselho (9) (novo regime jurídico). As regras harmonizadas estabelecidas no presente regulamento deverão aplicar-se em todos os setores e, em consonância com a abordagem do novo regime jurídico, não deverão prejudicar a legislação da União em vigor, nomeadamente em matéria de proteção de dados, defesa dos consumidores, direitos fundamentais, emprego, proteção dos trabalhadores e segurança dos produtos, que o presente regulamento vem complementar. Consequentemente, permanecem inalterados e plenamente aplicáveis todos os direitos e vias de recurso concedidos nessa legislação da União aos consumidores e a outras pessoas em relação às quais os sistemas de IA possam ter um impacto negativo, nomeadamente no que diz respeito à indemnização por eventuais danos nos termos da Diretiva 85/374/CEE do Conselho (10). Além disso, no contexto do emprego e da proteção dos trabalhadores, o presente regulamento não deverá, por conseguinte, afetar o direito da União em matéria de política social nem a legislação laboral nacional, que seja conforme com o direito da União, no que diz respeito ao emprego e às condições de trabalho, incluindo a saúde e a segurança no trabalho e a relação entre empregadores e trabalhadores. O presente regulamento também não deverá prejudicar o exercício dos direitos fundamentais reconhecidos pelos Estados-Membros e a nível da União, incluindo o direito ou a liberdade de fazer greve ou a liberdade de realizar outras ações abrangidas pelos sistemas específicos de relações laborais dos Estados-Membros, os direitos de negociação, de celebração e execução de convenções coletivas, ou de realização de ações coletivas de acordo com o direito nacional. O presente regulamento não deverá afetar as disposições destinadas a melhorar as condições de trabalho nas plataformas digitais estabelecidas numa Diretiva do Parlamento Europeu e do Conselho relativa à melhoria das condições de trabalho nas plataformas digitais. Além disso, presente regulamento visa ainda reforçar a eficácia desses direitos e vias de recurso existentes, estabelecendo requisitos e obrigações específicos, nomeadamente no que diz respeito à transparência, à documentação técnica e à manutenção de registos dos sistemas de IA. Além disso, as obrigações impostas aos vários operadores envolvidos na cadeia de valor da IA nos termos do presente regulamento deverão aplicar-se sem prejuízo da legislação nacional, que seja conforme com o direito da União, com o efeito de limitar a utilização de determinados sistemas de IA sempre que essa legislação não seja abrangida pelo âmbito de aplicação do presente regulamento ou prossiga objetivos legítimos de interesse público que não os prosseguidos pelo presente regulamento. Por exemplo, a legislação laboral nacional e a legislação em matéria de proteção de menores, nomeadamente pessoas com menos de 18 anos, tendo em conta o Comentário Geral n.o 25 (2021) das Nações Unidas sobre os direitos das crianças em ambiente digital, na medida em que não sejam específicos dos sistemas de IA e prossigam outros objetivos legítimos de interesse público, não deverão ser afetados pelo presente regulamento.
(9)
Θα πρέπει να θεσπιστούν εναρμονισμένοι κανόνες που θα έχουν εφαρμογή στη διάθεση στην αγορά, τη θέση σε λειτουργία και τη χρήση συστημάτων ΤΝ υψηλού κινδύνου με τρόπο σύμφωνο προς τον κανονισμό (ΕΚ) αριθ. 765/2008 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (7), την απόφαση αριθ. 768/2008/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (8), και τον κανονισμό (ΕΕ) 2019/1020 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (9) (νέο νομοθετικό πλαίσιο). Οι εναρμονισμένοι κανόνες που ορίζονται στον παρόντα κανονισμό θα πρέπει να εφαρμόζονται σε όλους τους τομείς και, σε ευθυγράμμιση με το νέο νομοθετικό πλαίσιο, θα πρέπει να ισχύουν με την επιφύλαξη του υφιστάμενου ενωσιακού δικαίου, ιδίως όσον αφορά την προστασία των δεδομένων, την προστασία των καταναλωτών, τα θεμελιώδη δικαιώματα, την απασχόληση και την προστασία των εργαζομένων και την ασφάλεια των προϊόντων, το οποίο συμπληρώνει ο παρών κανονισμός. Κατά συνέπεια, παραμένουν αμετάβλητα και εφαρμόζονται πλήρως όλα τα δικαιώματα και τα μέσα έννομης προστασίας που προβλέπει το εν λόγω ενωσιακό δίκαιο για τους καταναλωτές και τα λοιπά πρόσωπα που ενδέχεται να επηρεαστούν αρνητικά από τα συστήματα ΤΝ, μεταξύ άλλων όσον αφορά την αποζημίωση για ενδεχόμενες βλάβες δυνάμει της οδηγίας 85/374/ΕΟΚ του Συμβουλίου (10). Επιπλέον, στο πλαίσιο της απασχόλησης και της προστασίας των εργαζομένων, ο παρών κανονισμός δεν θα πρέπει, για τον λόγο αυτό, να θίγει το ενωσιακό δίκαιο για την κοινωνική πολιτική ούτε το εθνικό εργατικό δίκαιο, σε συμμόρφωση με το ενωσιακό δίκαιο, που αφορά τις συνθήκες απασχόλησης και εργασίας, συμπεριλαμβανομένης της υγείας και της ασφάλειας στην εργασία, καθώς και της σχέσης μεταξύ εργοδοτών και εργαζομένων. Εξάλλου, ο παρών κανονισμός δεν θα πρέπει να θίγει την άσκηση θεμελιωδών δικαιωμάτων που αναγνωρίζονται στα κράτη μέλη και στο επίπεδο της Ένωσης, όπως το δικαίωμα ή η ελευθερία απεργίας ή ανάληψης άλλων δράσεων που καλύπτονται από τα ειδικά συστήματα εργασιακών σχέσεων των κρατών μελών, καθώς και το δικαίωμα διαπραγμάτευσης, σύναψης και επιβολής συλλογικών συμφωνιών ή ανάληψης συλλογικής δράσης σύμφωνα με το εθνικό δίκαιο. Ο παρών κανονισμός δεν θα πρέπει να θίγει τις διατάξεις που στοχεύουν στη βελτίωση των συνθηκών εργασίας σε πλατφόρμες που καθορίζονται σε οδηγία του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου σχετικά με τη βελτίωση των συνθηκών εργασίας σε πλατφόρμες. Επιπροσθέτως, ο παρών κανονισμός αποσκοπεί στην ενίσχυση της αποτελεσματικότητας των υφιστάμενων δικαιωμάτων και μέσων έννομης προστασίας αυτού του είδους με τη θέσπιση ειδικών απαιτήσεων και υποχρεώσεων, μεταξύ άλλων όσον αφορά τη διαφάνεια, τον τεχνικό φάκελο και την τήρηση αρχείων των συστημάτων ΤΝ. Επιπλέον, οι υποχρεώσεις που επιβάλλονται σε διάφορους φορείς εκμετάλλευσης οι οποίοι συμμετέχουν στην αξιακή αλυσίδα της ΤΝ δυνάμει του παρόντος κανονισμού θα πρέπει να εφαρμόζονται με την επιφύλαξη του εθνικού δικαίου, σε συμμόρφωση με το ενωσιακό δίκαιο, που έχει ως αποτέλεσμα τον περιορισμό της χρήσης ορισμένων συστημάτων ΤΝ, όταν το δίκαιο αυτό δεν εμπίπτει στο πεδίο εφαρμογής του παρόντος κανονισμού ή επιδιώκει θεμιτούς στόχους δημόσιου συμφέροντος πέραν εκείνων που επιδιώκονται με τον παρόντα κανονισμό. Για παράδειγμα, ο παρών κανονισμός δεν θα πρέπει να θίγει το εθνικό εργατικό δίκαιο ούτε το δίκαιο περί προστασίας των ανηλίκων, δηλαδή των προσώπων ηλικίας κάτω των 18 ετών, λαμβανομένου υπόψη του γενικού σχολίου αριθ. 25 (2021) της ΣΗΕΔΠ για τα δικαιώματα των παιδιών σε σχέση με το ψηφιακό περιβάλλον, στον βαθμό που δεν αφορούν συγκεκριμένα τα συστήματα ΤΝ και επιδιώκουν άλλους θεμιτούς στόχους δημόσιου συμφέροντος.
(10)
O direito fundamental à proteção de dados pessoais está salvaguardado em especial pelos Regulamentos (UE) 2016/679 (11) e (UE) 2018/1725 (12) do Parlamento Europeu e do Conselho e pela Diretiva (UE) 2016/680 do Parlamento Europeu e do Conselho (13). Além disso, a Diretiva 2002/58/CE do Parlamento Europeu e do Conselho (14) protege a vida privada e a confidencialidade das comunicações, nomeadamente através de condições colocadas ao armazenamento de dados pessoais e não pessoais em equipamentos terminais e a qualquer acesso a partir dos mesmos. Esses atos jurídicos da União constituem a base para um tratamento de dados sustentável e responsável, nomeadamente quando os conjuntos de dados incluem uma combinação de dados pessoais e não pessoais. O presente regulamento não visa afetar a aplicação do direito da União já em vigor que rege o tratamento de dados pessoais, incluindo as funções e as competências das autoridades de supervisão independentes responsáveis pelo controlo do cumprimento desses instrumentos. Da mesma forma, não afeta as obrigações dos prestadores nem dos responsáveis pela implantação de sistemas de IA, enquanto responsáveis pelo tratamento de dados ou subcontratantes, decorrentes do direito da União ou do direito nacional em matéria de proteção de dados pessoais, na medida em que a conceção, o desenvolvimento ou a utilização de sistemas de IA envolva o tratamento de dados pessoais. É igualmente conveniente clarificar que os titulares de dados continuam a usufruir de todos os direitos e garantias que lhes são conferidos por esse direito da União, incluindo os direitos relacionados com as decisões individuais exclusivamente automatizadas, nomeadamente a definição de perfis. As regras harmonizadas para a colocação no mercado, a colocação em serviço e a utilização de sistemas de IA estabelecidas no presente regulamento deverão facilitar a aplicação efetiva e permitir o exercício dos direitos dos titulares de dados e de outras vias de recurso garantidas pelo direito da União em matéria de proteção de dados pessoais e de outros direitos fundamentais.
(10)
Το θεμελιώδες δικαίωμα στην προστασία των δεδομένων προσωπικού χαρακτήρα διασφαλίζεται ιδίως με τους κανονισμούς (ΕΕ) 2016/679 (11) και (ΕΕ) 2018/1725 (12) του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου και με την οδηγία (ΕΕ) 2016/680 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (13). Η οδηγία 2002/58/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (14) προστατεύει επιπλέον την ιδιωτική ζωή και το απόρρητο των επικοινωνιών, μεταξύ άλλων προβλέποντας όρους για την αποθήκευση δεδομένων προσωπικού και μη προσωπικού χαρακτήρα σε τερματικό εξοπλισμό και για την πρόσβαση σε τέτοια δεδομένα από τον εξοπλισμό αυτό. Οι εν λόγω ενωσιακές νομικές πράξεις παρέχουν τη βάση για βιώσιμη και υπεύθυνη επεξεργασία δεδομένων, μεταξύ άλλων όταν τα σύνολα δεδομένων περιλαμβάνουν συνδυασμό δεδομένων προσωπικού και μη προσωπικού χαρακτήρα. Ο παρών κανονισμός δεν επιδιώκει να θίξει την εφαρμογή του υφιστάμενου ενωσιακού δικαίου που διέπει την επεξεργασία δεδομένων προσωπικού χαρακτήρα, συμπεριλαμβανομένων των καθηκόντων και των εξουσιών των ανεξάρτητων εποπτικών αρχών που είναι αρμόδιες για την παρακολούθηση της συμμόρφωσης με τις πράξεις αυτές. Επιπλέον, δεν θίγει τις υποχρεώσεις των παρόχων και των φορέων εφαρμογής συστημάτων ΤΝ στο πλαίσιο του ρόλου τους ως υπευθύνων επεξεργασίας δεδομένων ή εκτελούντων την επεξεργασία δεδομένων, όπως αυτές απορρέουν από το ενωσιακό ή εθνικό δίκαιο για την προστασία των δεδομένων προσωπικού χαρακτήρα, στον βαθμό που ο σχεδιασμός, η ανάπτυξη ή η χρήση συστημάτων ΤΝ περιλαμβάνει την επεξεργασία δεδομένων προσωπικού χαρακτήρα. Είναι επίσης σκόπιμο να διευκρινιστεί ότι τα υποκείμενα των δεδομένων εξακολουθούν να απολαύουν όλων των δικαιωμάτων και εγγυήσεων που τους παρέχονται από το εν λόγω ενωσιακό δίκαιο, μεταξύ των οποίων τα δικαιώματα που σχετίζονται με την αποκλειστικά αυτοματοποιημένη ατομική λήψη αποφάσεων, συμπεριλαμβανομένης της κατάρτισης προφίλ. Οι εναρμονισμένοι κανόνες για τη διάθεση στην αγορά, τη θέση σε λειτουργία και τη χρήση συστημάτων ΤΝ οι οποίοι θεσπίζονται δυνάμει του παρόντος κανονισμού θα πρέπει να διευκολύνουν την αποτελεσματική εφαρμογή και να καθιστούν δυνατή την άσκηση των δικαιωμάτων των υποκειμένων των δεδομένων και άλλων μέσων έννομης προστασίας που εγγυάται το δίκαιο της Ένωσης σχετικά με την προστασία των δεδομένων προσωπικού χαρακτήρα και άλλων θεμελιωδών δικαιωμάτων.
(11)
O presente regulamento não prejudica as disposições em matéria de responsabilidade dos prestadores de serviços intermediários conforme prevista no Regulamento (UE) 2022/2065 do Parlamento Europeu e do Conselho (15).
(11)
Ο παρών κανονισμός δεν θα πρέπει να θίγει τις διατάξεις σχετικά με την ευθύνη των παρόχων ενδιάμεσων υπηρεσιών όπως ορίζονται στον τον κανονισμό (ΕΕ) 2022/2065 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (15).
(12)
O conceito de «sistema de IA» constante do presente regulamento deverá ser definido de forma inequívoca e estar estreitamente alinhado com o trabalho das organizações internacionais ativas no domínio da IA, a fim de assegurar a segurança jurídica, facilitar a convergência internacional e a ampla aceitação, concedendo em simultâneo a flexibilidade suficiente para se adaptar a rápidas evoluções tecnológicas neste domínio. Além disso, a definição deverá basear-se nas principais características dos sistemas de IA que o distinguem de sistemas de software ou abordagens de programação tradicionais mais simples e não deverá abranger sistemas baseados nas regras definidas exclusivamente por pessoas singulares para executarem operações automaticamente. Uma característica principal dos sistemas de IA é a sua capacidade de fazer inferências. Esta capacidade de fazer inferências refere-se ao processo de obtenção dos resultados, tais como previsões, conteúdos, recomendações ou decisões, que possam influenciar ambientes físicos e virtuais, e à capacidade dos sistemas de IA para obter modelos ou algoritmos, ou ambos, a partir de entradas ou dados. As técnicas que permitem fazer inferências durante a construção de um sistema de IA incluem abordagens de aprendizagem automática que aprendem com os dados a forma de alcançarem determinados objetivos, e abordagens baseadas na lógica e no conhecimento que fazem inferências a partir do conhecimento codificado ou da representação simbólica da tarefa a resolver. A capacidade de um sistema de IA fazer inferências vai além do tratamento básico de dados, permitindo a aprendizagem, o raciocínio ou a modelização. O termo «baseado em máquinas» refere-se ao facto de os sistemas de IA funcionarem em máquinas. A referência a objetivos explícitos ou implícitos visa sublinhar que os sistemas de IA podem funcionar de acordo com objetivos explícitos definidos ou com objetivos implícitos. Os objetivos do sistema de IA podem ser diferentes da finalidade prevista para o sistema de IA num contexto específico. Para efeitos do presente regulamento, deverá entender-se por «ambientes» os contextos em que os sistemas de IA operam, ao passo que os resultados gerados pelo sistema de IA refletem diferentes funções desempenhadas pelos sistemas de IA e incluem previsões, conteúdos, recomendações ou decisões. Os sistemas de IA são concebidos para operar com diferentes níveis de autonomia, o que significa que têm um certo grau de independência das ações efetuadas por intervenção humana e de capacidade para funcionarem sem intervenção humana. A capacidade de adaptação que um sistema de IA poderá apresentar após a implantação refere-se a capacidades de autoaprendizagem, permitindo que o sistema mude enquanto estiver a ser utilizado. Os sistemas de IA podem ser utilizados autonomamente ou como componentes de um produto, independentemente de o sistema estar fisicamente incorporado no produto (integrado) ou servir a funcionalidade do produto sem estar incorporado nele (não integrado).
(12)
Η έννοια του «συστήματος ΤΝ» στον παρόντα κανονισμό θα πρέπει να ορίζεται με σαφήνεια και να είναι στενά ευθυγραμμισμένη με το έργο διεθνών οργανισμών που ασχολούνται με την TN, με στόχο την ασφάλεια δικαίου και τη διευκόλυνση της διεθνούς σύγκλισης και της ευρείας αποδοχής, παρέχοντας παράλληλα ευελιξία για την προσαρμογή στις ταχείες τεχνολογικές εξελίξεις στον τομέα αυτόν. Επιπλέον, ο ορισμός θα πρέπει να στηρίζεται σε βασικά χαρακτηριστικά των συστημάτων TN τα οποία διακρίνουν τα συστήματα αυτά από απλούστερα παραδοσιακά συστήματα λογισμικού ή προσεγγίσεις προγραμματισμού, δεν θα πρέπει δε να καλύπτει συστήματα που βασίζονται στους κανόνες που ορίζονται αποκλειστικά από φυσικά πρόσωπα με σκοπό την αυτόματη εκτέλεση λειτουργιών. Βασικό χαρακτηριστικό των συστημάτων ΤΝ είναι η ικανότητά τους να συνάγουν συμπεράσματα. Η ικανότητα συναγωγής συμπερασμάτων αναφέρεται στη διαδικασία απόκτησης των στοιχείων εξόδου, όπως προβλέψεων, περιεχομένου, συστάσεων ή αποφάσεων, που μπορούν να επηρεάσουν υλικά και εικονικά περιβάλλοντα, καθώς και στην ικανότητα των συστημάτων ΤΝ να εξάγουν μοντέλα ή αλγορίθμους ή και τα δύο από στοιχεία εισόδου ή δεδομένα. Στις τεχνικές που επιτρέπουν τη συναγωγή συμπερασμάτων κατά τη δημιουργία ενός συστήματος ΤΝ περιλαμβάνονται προσεγγίσεις μηχανικής μάθησης που μαθαίνουν από δεδομένα πώς να επιτυγχάνουν ορισμένους στόχους, καθώς και προσεγγίσεις βασιζόμενες στη λογική και τη γνώση οι οποίες συνάγουν συμπεράσματα από κωδικοποιημένη γνώση ή συμβολική αναπαράσταση της προς εκτέλεση εργασίας. Η ικανότητα ενός συστήματος ΤΝ να συνάγει συμπεράσματα υπερβαίνει τη βασική επεξεργασία δεδομένων επιτρέποντας τη μάθηση, τη συλλογιστική ή τη μοντελοποίηση. Ο όρος «μηχανικά» αναφέρεται στο γεγονός ότι τα συστήματα ΤΝ λειτουργούν σε μηχανήματα. Η αναφορά σε ρητούς ή σιωπηρούς στόχους υπογραμμίζει ότι τα συστήματα ΤΝ μπορούν να λειτουργούν σύμφωνα με ρητούς καθορισμένους στόχους ή με σιωπηρούς στόχους. Οι στόχοι του συστήματος ΤΝ μπορεί να διαφέρουν από τον επιδιωκόμενο σκοπό του συστήματος ΤΝ σε ένα συγκεκριμένο πλαίσιο. Για τους σκοπούς του παρόντος κανονισμού, ως «περιβάλλοντα» θα πρέπει να νοούνται τα πλαίσια εντός των οποίων λειτουργούν τα συστήματα ΤΝ, τα δε στοιχεία εξόδου που παράγονται από το σύστημα ΤΝ αντικατοπτρίζουν διαφορετικές λειτουργίες επιτελούμενες από τα συστήματα ΤΝ και περιλαμβάνουν προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις. Τα συστήματα ΤΝ σχεδιάζονται ώστε να λειτουργούν με ποικίλα επίπεδα αυτονομίας, πράγμα που σημαίνει ότι διαθέτουν ορισμένο βαθμό ανεξαρτησίας να δρουν χωρίς ανθρώπινη συμμετοχή και ορισμένο βαθμό ικανότητας να λειτουργούν χωρίς ανθρώπινη παρέμβαση. Η προσαρμοστικότητα που θα μπορούσε να επιδείξει ένα σύστημα ΤΝ μετά την εφαρμογή του αναφέρεται σε ικανότητες αυτομάθησης οι οποίες επιτρέπουν στο σύστημα να αλλάζει ενώ χρησιμοποιείται. Τα συστήματα ΤΝ μπορούν να χρησιμοποιούνται σε αυτόνομη βάση ή ως κατασκευαστικό στοιχείο προϊόντος, ανεξάρτητα από το αν το σύστημα έχει ενσωματωθεί υλικά στο προϊόν (ενσωματωμένο σύστημα) ή εξυπηρετεί τη λειτουργικότητα του προϊόντος χωρίς να έχει ενσωματωθεί σε αυτό (μη ενσωματωμένο σύστημα).
(13)
O conceito de «responsável pela implantação» a que se refere o presente regulamento deverá ser interpretado como qualquer pessoa singular ou coletiva, incluindo uma autoridade pública, agência ou outro organismo, que utilize um sistema de IA sob a sua autoridade, salvo se o sistema de IA for utilizado no âmbito da sua atividade pessoal não profissional. Dependendo do tipo de sistema de IA, a utilização do sistema pode afetar outras pessoas além do responsável pela implantação.
(13)
Η έννοια του «φορέα εφαρμογής» που αναφέρεται στον παρόντα κανονισμό θα πρέπει να ερμηνεύεται ως καλύπτουσα κάθε φυσικό ή νομικό πρόσωπο, συμπεριλαμβανομένων δημόσιων αρχών, υπηρεσιών ή άλλων φορέων, που χρησιμοποιεί σύστημα ΤΝ υπό την ευθύνη του, εκτός εάν το σύστημα ΤΝ χρησιμοποιείται στο πλαίσιο προσωπικής μη επαγγελματικής δραστηριότητας. Ανάλογα με το είδος του συστήματος ΤΝ, η χρήση του συστήματος μπορεί να επηρεάζει και άλλα πρόσωπα πέραν του φορέα εφαρμογής.
(14)
O conceito de «dados biométricos» utilizado no presente regulamento deverá ser interpretado à luz do conceito de dados biométricos na aceção do artigo 4.o, ponto 14, do Regulamento (UE) 2016/679, do artigo 3.o, ponto 18, do Regulamento (UE) 2018/1725 e do artigo 3.o, ponto 13, da Diretiva (UE) 2016/680. Os dados biométricos podem permitir a autenticação, identificação ou categorização de pessoas singulares e o reconhecimento de emoções de pessoas singulares.
(14)
H έννοια των «βιομετρικών δεδομένων» που χρησιμοποιείται στον παρόντα κανονισμό θα πρέπει να ερμηνεύεται υπό το πρίσμα της έννοιας των βιομετρικών δεδομένων όπως ορίζονται στο άρθρο 4 σημείο 14) του κανονισμού (ΕΕ) 2016/679, στο άρθρο 3 σημείο 18) του κανονισμού (ΕΕ) 2018/1725 και στο άρθρο 3 σημείο 13) της οδηγίας (ΕΕ) 2016/680. Τα βιομετρικά δεδομένα μπορούν να επιτρέπουν την επαλήθευση της ταυτότητας, την ταυτοποίηση ή την κατηγοριοποίηση φυσικών προσώπων, καθώς και την αναγνώριση των συναισθημάτων φυσικών προσώπων.
(15)
O conceito de «identificação biométrica» a que se refere o presente regulamento deverá ser definido como o reconhecimento automatizado de características humanas físicas, fisiológicas e comportamentais, tais como o rosto, o movimento dos olhos, a forma do corpo, a voz, a pronúncia, a marcha, a postura, a frequência cardíaca, a pressão arterial, o odor, as características da digitação, com o objetivo de verificar a identidade de uma pessoa comparando os dados biométricos dessa pessoa com dados biométricos de pessoas armazenados numa base de dados de referência, independentemente de a pessoa ter ou não dado consentimento prévio. Estão excluídos os sistemas de IA concebidos para serem utilizados na verificação biométrica, que inclui a autenticação, cujo único objetivo seja confirmar que uma pessoa singular específica é quem afirma ser, e confirmar a identidade de uma pessoa singular com o único objetivo de ter acesso a um serviço, desbloquear um dispositivo ou ter acesso de segurança a um local.
(15)
Η έννοια της «βιομετρικής ταυτοποίησης» που αναφέρεται στον παρόντα κανονισμό θα πρέπει να οριστεί ως η αυτοματοποιημένη αναγνώριση σωματικών, φυσιολογικών και συμπεριφορικών ανθρώπινων χαρακτηριστικών, όπως το πρόσωπο, η κίνηση των οφθαλμών, το σχήμα του σώματος, η φωνή, η προσωδία, o τρόπος βάδισης, η στάση, ο καρδιακός ρυθμός, η αρτηριακή πίεση, η οσμή ή ο τρόπος πληκτρολόγησης, για τον σκοπό της διαπίστωσης της ταυτότητας ενός ατόμου μέσω της σύγκρισης βιομετρικών δεδομένων του εν λόγω ατόμου με αποθηκευμένα βιομετρικά δεδομένα ατόμων σε βάση δεδομένων αναφοράς, ανεξάρτητα από το αν το άτομο έχει δώσει τη συγκατάθεσή του ή όχι. Εξαιρούνται τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για βιομετρική εξακρίβωση, η οποία περιλαμβάνει την επαλήθευση ταυτότητας, με μοναδικό σκοπό να επιβεβαιώνεται αν ένα συγκεκριμένο φυσικό πρόσωπο είναι το πρόσωπο που ισχυρίζεται ότι είναι και να επιβεβαιώνεται η ταυτότητα ενός φυσικού προσώπου αποκλειστικά και μόνο για την πρόσβαση σε μια υπηρεσία, το ξεκλείδωμα συσκευής ή την πρόσβαση ασφαλείας σε εγκαταστάσεις.
(16)
O conceito de «sistema de categorização biométrica» a que se refere o presente regulamento deverá ser definido como a atribuição de pessoas singulares a categorias específicas com base nos seus dados biométricos. Essas categorias específicas podem dizer respeito a aspetos como sexo, idade, cor do cabelo, cor dos olhos, tatuagens, traços comportamentais ou de personalidade, língua, religião, pertença a uma minoria nacional, orientação sexual ou política. Tal não inclui os sistemas de categorização biométrica que sejam um elemento meramente acessório intrinsecamente ligado a outro serviço comercial, o que significa que o elemento não pode, por razões técnicas objetivas, ser utilizado sem o serviço principal e a integração desse elemento ou funcionalidade não constitui um meio para contornar a aplicabilidade das regras do presente regulamento. Por exemplo, os filtros que categorizam as características faciais ou corporais utilizadas nos mercados em linha poderão constituir um desses elementos acessórios, uma vez que só podem ser utilizados associados ao serviço principal que consiste em vender um produto, ao darem ao consumidor a possibilidade de se pré-visualizar a usar o produto e ajudando-o a tomar uma decisão de compra. Os filtros utilizados nos serviços de redes sociais em linha que categorizam características faciais ou corporais para permitir que os utilizadores acrescentem ou alterem imagens ou vídeos também poderão ser considerados elementos acessórios, uma vez que esses filtros não podem ser utilizados sem o serviço principal dos serviços da rede social, que consiste na partilha de conteúdos em linha.
(16)
Η έννοια της «βιομετρικής κατηγοριοποίησης» που αναφέρεται στον παρόντα κανονισμό θα πρέπει να οριστεί ως η κατάταξη φυσικών προσώπων σε συγκεκριμένες κατηγορίες βάσει των βιομετρικών δεδομένων τους. Οι συγκεκριμένες αυτές κατηγορίες μπορούν να αφορούν πτυχές όπως το φύλο, η ηλικία, το χρώμα των μαλλιών, το χρώμα των οφθαλμών, η δερματοστιξία, τα χαρακτηριστικά συμπεριφοράς ή προσωπικότητας, η γλώσσα, η θρησκεία, η ιδιότητα μέλους εθνικής μειονότητας, καθώς και ο γενετήσιος ή πολιτικός προσανατολισμός. Δεν περιλαμβάνονται τα συστήματα βιομετρικής κατηγοριοποίησης που αποτελούν αμιγώς βοηθητική δυνατότητα συνδεόμενη άρρηκτα με άλλη εμπορική υπηρεσία, δηλαδή όταν η δυνατότητα αυτή δεν μπορεί, για αντικειμενικούς τεχνικούς λόγους, να χρησιμοποιηθεί χωρίς την κύρια υπηρεσία, και η ενσωμάτωση αυτής της δυνατότητας ή λειτουργικότητας δεν αποτελεί μέσο για την καταστρατήγηση της εφαρμογής των κανόνων του παρόντος κανονισμού. Για παράδειγμα, τα φίλτρα που κατηγοριοποιούν χαρακτηριστικά προσώπου ή σώματος και χρησιμοποιούνται σε επιγραμμικές αγορές θα μπορούσαν να αποτελούν τέτοια βοηθητική δυνατότητα, καθώς μπορούν να χρησιμοποιηθούν μόνο σε σχέση με την κύρια υπηρεσία, που συνίσταται στην πώληση προϊόντος, παρέχοντας στον καταναλωτή τη δυνατότητα προεπισκόπησης ενός προϊόντος πάνω του και βοηθώντας τον να αποφασίσει αν θα προχωρήσει στην αγορά. Βοηθητική δυνατότητα θα μπορούσαν να θεωρηθούν επίσης φίλτρα χρησιμοποιούμενα σε επιγραμμικές υπηρεσίες κοινωνικής δικτύωσης που κατηγοριοποιούν χαρακτηριστικά προσώπου ή σώματος για να μπορούν οι χρήστες να προσθέτουν ή να τροποποιούν εικόνες ή βίντεο, καθώς αυτού του είδους τα φίλτρα δεν μπορούν να χρησιμοποιηθούν χωρίς την κύρια υπηρεσία των υπηρεσιών κοινωνικής δικτύωσης, που συνίσταται στην ανταλλαγή περιεχομένου μέσω του διαδικτύου.
(17)
O conceito de «sistema de identificação biométrica à distância» a que se refere o presente regulamento deverá ser definido, de modo funcional, como um sistema de IA que se destina à identificação de pessoas singulares sem a sua participação ativa, normalmente à distância, por meio da comparação dos dados biométricos de uma pessoa com os dados biométricos contidos numa base de dados de referência, independentemente da tecnologia, dos processos ou dos tipos de dados biométricos específicos utilizados. Tais sistemas de identificação biométrica à distância são geralmente utilizados para detetar várias pessoas ou o seu comportamento em simultâneo, a fim de facilitar significativamente a identificação de pessoas singulares sem a sua participação ativa. Estão excluídos os sistemas de IA concebidos para serem utilizados na verificação biométrica, que inclui a autenticação, cujo único objetivo seja confirmar que uma pessoa singular específica é quem afirma ser e confirmar a identidade de uma pessoa singular com o único objetivo de lhe conceder acesso a um serviço, desbloquear um dispositivo ou ter acesso de segurança a um local. Essa exclusão justifica-se pelo facto de esses sistemas serem suscetíveis de ter um impacto ligeiro nos direitos fundamentais das pessoas singulares em comparação com os sistemas de identificação biométrica à distância que podem ser utilizados para o tratamento de dados biométricos de um grande número de pessoas sem a sua participação ativa. No caso dos sistemas «em tempo real», a recolha dos dados biométricos, a comparação e a identificação ocorrem de forma instantânea, quase instantânea ou, em todo o caso, sem um desfasamento significativo. Não deverá haver, a este respeito, margem para contornar as regras do presente regulamento sobre a utilização «em tempo real» dos sistemas de IA em causa prevendo ligeiros desfasamentos no sistema. Os sistemas «em tempo real» implicam a utilização «ao vivo» ou «quase ao vivo» de materiais, como imagens vídeo, gerados por uma câmara ou outro dispositivo com uma funcionalidade semelhante. No caso dos sistemas «em diferido», ao invés, os dados biométricos já foram recolhidos e a comparação e a identificação ocorrem com um desfasamento significativo. Estes sistemas utilizam materiais, tais como imagens ou vídeos, gerados por câmaras de televisão em circuito fechado ou dispositivos privados antes de o sistema ser utilizado relativamente às pessoas singulares em causa.
(17)
Η έννοια του «συστήματος εξ αποστάσεως βιομετρικής ταυτοποίησης» που αναφέρεται στον παρόντα κανονισμό θα πρέπει να οριστεί λειτουργικά, ως σύστημα ΤΝ που προορίζεται για την ταυτοποίηση φυσικών προσώπων, χωρίς την ενεργό συμμετοχή τους, κατά κανόνα εξ αποστάσεως, μέσω της αντιπαραβολής των βιομετρικών δεδομένων ενός προσώπου με τα βιομετρικά δεδομένα που περιέχονται σε βάση δεδομένων αναφοράς, ανεξάρτητα από τη συγκεκριμένη τεχνολογία, τις συγκεκριμένες διαδικασίες ή τα συγκεκριμένα είδη βιομετρικών δεδομένων που χρησιμοποιούνται. Τέτοια συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης χρησιμοποιούνται κατά κανόνα για την ταυτόχρονη εξέταση πολλαπλών προσώπων ή της συμπεριφοράς τους, προκειμένου να διευκολυνθεί σημαντικά η ταυτοποίηση φυσικών προσώπων χωρίς την ενεργό συμμετοχή τους. Εξαιρούνται τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για βιομετρική εξακρίβωση, συμπεριλαμβανομένης της επαλήθευσης ταυτότητας, με μοναδικό σκοπό να επιβεβαιώνεται αν ένα συγκεκριμένο φυσικό πρόσωπο είναι το πρόσωπο που ισχυρίζεται ότι είναι και να επιβεβαιώνεται η ταυτότητα ενός φυσικού προσώπου αποκλειστικά και μόνο για την πρόσβαση σε μια υπηρεσία, το ξεκλείδωμα συσκευής ή την πρόσβαση ασφαλείας σε εγκαταστάσεις. Η εξαίρεση αυτή δικαιολογείται από το γεγονός ότι τα εν λόγω συστήματα είναι πιθανόν να έχουν περιορισμένο αντίκτυπο στα θεμελιώδη δικαιώματα των φυσικών προσώπων σε σύγκριση με τα συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης που μπορούν να χρησιμοποιούνται για την επεξεργασία των βιομετρικών δεδομένων μεγάλου αριθμού προσώπων χωρίς την ενεργό συμμετοχή τους. Όσον αφορά τα συστήματα ταυτοποίησης σε «πραγματικό χρόνο», η λήψη των βιομετρικών δεδομένων, η αντιπαραβολή και η ταυτοποίηση πραγματοποιούνται αμέσως, σχεδόν αμέσως ή, σε κάθε περίπτωση, χωρίς σημαντική καθυστέρηση. Στο πλαίσιο αυτό, με την πρόβλεψη μικρών καθυστερήσεων δεν θα πρέπει να υπάρχει κανένα περιθώριο καταστρατήγησης των κανόνων του παρόντος κανονισμού σχετικά με τη χρήση των σχετικών συστημάτων ΤΝ «σε πραγματικό χρόνο». Τα συστήματα ταυτοποίησης «σε πραγματικό χρόνο» περιλαμβάνουν τη χρήση υλικού σε «ζωντανή μετάδοση» ή «σχεδόν ζωντανή μετάδοση», όπως βίντεο, που δημιουργείται μέσω κάμερας ή άλλης συσκευής με παρόμοια λειτουργικότητα. Αντιθέτως, στην περίπτωση των συστημάτων ταυτοποίησης «σε ύστερο χρόνο», τα βιομετρικά δεδομένα έχουν ήδη ληφθεί και η αντιπαραβολή και η ταυτοποίηση πραγματοποιούνται μόνο με σημαντική καθυστέρηση. Πρόκειται για υλικό, όπως φωτογραφίες ή βίντεο από κάμερες συστημάτων τηλεόρασης κλειστού κυκλώματος ή ιδιωτικές συσκευές, το οποίο είχε δημιουργηθεί προτού χρησιμοποιηθεί το σύστημα για τα συγκεκριμένα φυσικά πρόσωπα.
(18)
O conceito de «sistema de reconhecimento de emoções» a que se refere o presente regulamento deverá ser definido como um sistema de IA concebido para identificar ou inferir emoções ou intenções de pessoas singulares com base nos seus dados biométricos. O conceito refere-se a emoções ou intenções como a felicidade, a tristeza, a raiva, a surpresa, a repugnância, o embaraço, o entusiasmo, a vergonha, o desprezo, a satisfação e o divertimento. Não inclui estados físicos, como dor ou fadiga, incluindo, por exemplo, sistemas utilizados para detetar o estado de fadiga dos pilotos ou motoristas profissionais para efeitos de prevenção de acidentes. Também não inclui a mera deteção de expressões, gestos ou movimentos rapidamente visíveis, a menos que sejam utilizados para identificar ou inferir emoções. Essas expressões podem ser expressões faciais básicas, tais como franzir a testa ou sorrir, ou gestos como o movimento das mãos, dos braços ou da cabeça, ou características da voz de uma pessoa, como levantar a voz ou sussurrar.
(18)
Η έννοια του «συστήματος αναγνώρισης συναισθημάτων» που αναφέρεται στον παρόντα κανονισμό θα πρέπει να οριστεί ως σύστημα ΤΝ με σκοπό τον προσδιορισμό ή τη συναγωγή συναισθημάτων ή προθέσεων φυσικών προσώπων βάσει των βιομετρικών δεδομένων τους. Η έννοια αφορά συναισθήματα ή προθέσεις όπως χαρά, θλίψη, θυμός, έκπληξη, απέχθεια, αμηχανία, ενθουσιασμός, ντροπή, περιφρόνηση, ικανοποίηση και ευθυμία. Δεν περιλαμβάνει σωματικές καταστάσεις, όπως πόνο ή κόπωση, συμπεριλαμβανομένων, για παράδειγμα, των συστημάτων που χρησιμοποιούνται για την ανίχνευση της κατάστασης κόπωσης επαγγελματιών χειριστών αεροσκαφών ή οδηγών για την πρόληψη ατυχημάτων. Δεν περιλαμβάνει ούτε την απλή ανίχνευση εύκολα αντιληπτών εκφράσεων, χειρονομιών ή κινήσεων, εφόσον δεν χρησιμοποιούνται για τον προσδιορισμό ή τη συναγωγή συναισθημάτων. Οι εκφράσεις αυτές μπορούν να είναι βασικές εκφράσεις του προσώπου, όπως η συνοφρύωση ή το χαμόγελο, χειρονομίες όπως η κίνηση των χεριών, των βραχιόνων ή της κεφαλής, ή χαρακτηριστικά της φωνής ενός προσώπου, όπως η ύψωση του τόνου της φωνής ή το ψιθύρισμα.
(19)
Para efeitos do presente regulamento, deverá entender-se por «espaço acessível ao público» qualquer espaço físico que seja acessível a um número indeterminado de pessoas singulares e independentemente de o espaço em questão ser detido por uma entidade privada ou pública, independentemente da atividade para a qual o espaço possa ser utilizado — por exemplo, para o comércio (por exemplo, lojas, restaurantes, cafés), para a prestação de serviços (por exemplo, bancos, atividades profissionais, hotelaria), para o desporto (por exemplo, piscinas, ginásios, estádios), para os transportes (designadamente estações de autocarros, metropolitanos e ferroviárias, aeroportos, meios de transporte), para o entretenimento (por exemplo, cinemas, teatros, museus, salas de concertos e salas de conferências), ou para o lazer ou outros (por exemplo, estradas, praças, parques, florestas ou parques infantis públicos). Um espaço também deverá ser classificado como acessível ao público se, independentemente das eventuais restrições de capacidade ou de segurança, o acesso estiver sujeito a certas condições predeterminadas, que podem ser preenchidas por um número indeterminado de pessoas, tais como a compra de um bilhete ou título de transporte, a inscrição prévia ou uma determinada idade. Em contrapartida, um espaço não deverá ser considerado acessível ao público se o acesso for limitado a pessoas singulares específicas e definidas, seja nos termos do direito da União ou do direito nacional diretamente relacionado com a segurança pública ou por manifestação clara da vontade da pessoa que exerça a autoridade pertinente no espaço. A possibilidade factual de acesso por si só, (como uma porta destrancada ou um portão aberto numa vedação) não implica que o espaço seja acessível ao público na presença de indicações ou circunstâncias que sugiram o contrário, como sinais que proíbam ou restrinjam o acesso. As instalações de empresas e fábricas, bem como os escritórios e os locais de trabalho a que se pretende que apenas os trabalhadores e prestadores de serviços pertinentes tenham acesso, são espaços que não são acessíveis ao público. Os espaços acessíveis ao público não deverão incluir prisões nem zonas de controlo fronteiriço. Alguns outros espaços são compostos tanto por espaços não acessíveis ao público como e por espaços acessíveis ao público, tais como um corredor de um edifício residencial privado necessário para aceder a um gabinete médico ou a um aeroporto. Os espaços em linha também não são abrangidos, uma vez que não são espaços físicos. Para determinar se um espaço é acessível ao público deverá recorrer-se a uma análise casuística, tendo em conta as especificidades da situação em apreço.
(19)
Για τους σκοπούς του παρόντος κανονισμού, η έννοια του «δημόσια προσβάσιμου χώρου» θα πρέπει να θεωρείται ότι αφορά κάθε φυσικό χώρο προσβάσιμο σε απροσδιόριστο αριθμό φυσικών προσώπων, είτε ο χώρος αυτός είναι ιδιωτικός είτε δημόσιος, ανεξάρτητα από τη δραστηριότητα για την οποία μπορεί να χρησιμοποιηθεί ο χώρος, όπως για εμπόριο, π.χ. καταστήματα, εστιατόρια, καφετέριες, για παροχή υπηρεσιών, π.χ. τράπεζες, χώροι όπου διεξάγονται επαγγελματικές δραστηριότητες, χώροι φιλοξενίας, για αθλητισμό, π.χ. πισίνες, γυμναστήρια, στάδια, για μεταφορές, π.χ. σταθμοί λεωφορείων, μετρό και τρένων, αερολιμένες, μέσα μεταφοράς, για ψυχαγωγία, π.χ. κινηματογράφοι, θέατρα, μουσεία, συναυλιακοί και συνεδριακοί χώροι, ή για αναψυχή ή άλλη χρήση, π.χ. δημόσιες οδοί και πλατείες, πάρκα, δάση, παιδικές χαρές. Ένας χώρος θα πρέπει επίσης να χαρακτηρίζεται δημόσια προσβάσιμος, εάν, ανεξάρτητα από δυνητικούς περιορισμούς χωρητικότητας ή ασφάλειας, η πρόσβαση σε αυτόν υπόκειται σε συγκεκριμένους προκαθορισμένους όρους τους οποίους μπορεί να πληροί απροσδιόριστος αριθμός προσώπων, όπως η αγορά εισιτηρίου ή τίτλου μεταφοράς, η προηγούμενη εγγραφή ή ορισμένη ηλικία. Αντιθέτως, ένας χώρος δεν θα πρέπει να θεωρείται δημόσια προσβάσιμος, εάν η πρόσβαση σε αυτόν περιορίζεται σε συγκεκριμένα και καθορισμένα φυσικά πρόσωπα είτε μέσω του ενωσιακού ή του εθνικού δικαίου που σχετίζεται άμεσα με τη δημόσια ασφάλεια ή προστασία, είτε μέσω της σαφούς εκδήλωσης βούλησης του προσώπου που είναι αρμόδιο για τον συγκεκριμένο χώρο. Η δυνατότητα πρόσβασης αυτή καθαυτή, όπως μη κλειδωμένη πόρτα ή ανοικτή πύλη σε περίφραξη, δεν συνεπάγεται ότι ο χώρος είναι δημόσια προσβάσιμος, εάν υπάρχουν ενδείξεις ή περιστάσεις που υποδηλώνουν το αντίθετο, όπως σήματα που απαγορεύουν ή περιορίζουν την πρόσβαση. Οι εγκαταστάσεις εταιρειών ή εργοστασίων, καθώς και τα γραφεία και οι χώροι εργασίας όπου η πρόσβαση επιτρέπεται μόνο στους οικείους υπαλλήλους και παρόχους υπηρεσιών, είναι χώροι μη δημόσια προσβάσιμοι. Στους δημόσια προσβάσιμους χώρους δεν θα πρέπει να περιλαμβάνονται οι φυλακές και οι χώροι συνοριακού ελέγχου. Ορισμένες άλλες περιοχές μπορούν να συνίστανται τόσο σε δημόσια προσβάσιμους όσο και σε μη δημόσια προσβάσιμους χώρους, όπως ο διάδρομος ενός ιδιωτικού κτιρίου κατοικιών που είναι απαραίτητος για την πρόσβαση σε γραφείο ιατρού ή οι αερολιμένες. Δεν καλύπτονται οι επιγραμμικοί χώροι, καθώς δεν είναι φυσικοί χώροι. Ωστόσο, το αν ένας συγκεκριμένος χώρος είναι προσβάσιμος στο κοινό θα πρέπει να καθορίζεται κατά περίπτωση, λαμβανομένων υπόψη των ιδιαιτεροτήτων της εκάστοτε εξεταζόμενης κατάστασης.
(20)
A fim de obter os maiores benefícios dos sistemas de IA, protegendo simultaneamente os direitos fundamentais, a saúde e a segurança e permitir o controlo democrático, a literacia no domínio da IA deverá dotar os prestadores, os responsáveis pela implantação e as pessoas afetadas das noções necessárias para tomarem decisões informadas sobre os sistemas de IA. Essas noções podem variar em função do contexto pertinente e podem incluir a compreensão da correta aplicação dos elementos técnicos durante a fase de desenvolvimento do sistema de IA, as medidas a aplicar durante a sua utilização, as formas adequadas de interpretar o resultado do sistema de IA e, no caso das pessoas afetadas, os conhecimentos necessários para compreender de que forma as decisões tomadas com a assistência da IA as afetarão. No contexto da aplicação do presente regulamento, a literacia no domínio da IA deverá proporcionar a todos os intervenientes pertinentes da cadeia de valor da IA os conhecimentos necessários para assegurar o cumprimento adequado e a sua correta execução. Além disso, a ampla aplicação de medidas de literacia no domínio da IA e a introdução de medidas de acompanhamento adequadas poderão contribuir para melhorar as condições de trabalho e, em última análise, apoiar a consolidação e a trajetória da inovação de uma IA de confiança na União. O Comité Europeu para a Inteligência Artificial («Comité») deverá apoiar a Comissão na promoção de ferramentas de literacia no domínio da IA, da sensibilização do público e da compreensão das vantagens, riscos, garantias, direitos e obrigações relacionados com a utilização de sistemas de IA. Em cooperação com as partes interessadas pertinentes, a Comissão e os Estados-Membros deverão facilitar a elaboração de códigos de conduta voluntários para promover a literacia no domínio da IA entre as pessoas que lidam com o desenvolvimento, o funcionamento e a utilização da IA.
(20)
Για να αντληθούν τα μέγιστα δυνατά οφέλη από τα συστήματα ΤΝ, με παράλληλη προστασία των θεμελιωδών δικαιωμάτων, της υγείας και της ασφάλειας, καθώς και για να καταστεί δυνατός ο δημοκρατικός έλεγχος, ο γραμματισμός στον τομέα της ΤΝ θα πρέπει να εφοδιάζει τους παρόχους, τους φορείς εφαρμογής και τα θιγόμενα πρόσωπα με τις απαραίτητες έννοιες, ώστε να λαμβάνουν τεκμηριωμένες αποφάσεις σχετικά με τα συστήματα ΤΝ. Οι έννοιες αυτές μπορούν να ποικίλλουν ανάλογα με το εκάστοτε πλαίσιο και μπορούν να περιλαμβάνουν κατανόηση της ορθής εφαρμογής των τεχνικών στοιχείων κατά τη φάση ανάπτυξης του συστήματος ΤΝ, τα μέτρα που πρέπει να εφαρμόζονται κατά τη χρήση του, τους κατάλληλους τρόπους ερμηνείας των στοιχείων εξόδου του συστήματος ΤΝ, καθώς και, στην περίπτωση των θιγόμενων προσώπων, τις γνώσεις που απαιτούνται για να κατανοούν πώς θα τα επηρεάσουν οι αποφάσεις που λαμβάνονται με τη βοήθεια ΤΝ. Στο πλαίσιο της εφαρμογής του παρόντος κανονισμού, ο γραμματισμός στον τομέα της ΤΝ θα πρέπει να εφοδιάζει όλους τους σχετικούς παράγοντες που συμμετέχουν στην αξιακή αλυσίδα της ΤΝ με την αντιληπτική ικανότητα που απαιτείται για την εξασφάλιση της δέουσας συμμόρφωσης με τον παρόντα κανονισμό και της ορθής επιβολής του. Επιπλέον, η εκτεταμένη εφαρμογή μέτρων γραμματισμού στον τομέα της ΤΝ και η θέσπιση κατάλληλων επακόλουθων δράσεων θα μπορούσαν να συμβάλουν στη βελτίωση των συνθηκών εργασίας και, εν τέλει, στη στήριξη της εμπέδωσης και της πορείας καινοτομίας μιας αξιόπιστης ΤΝ στην Ένωση. Το Ευρωπαϊκό Συμβούλιο Τεχνητής Νοημοσύνης («Συμβούλιο Τεχνητής Νοημοσύνης») θα πρέπει να στηρίζει την Επιτροπή για την προώθηση του γραμματισμού στον τομέα της ΤΝ, της ευαισθητοποίησης του κοινού και της κατανόησης των οφελών, των κινδύνων, των διασφαλίσεων, των δικαιωμάτων και των υποχρεώσεων που σχετίζονται με τη χρήση συστημάτων ΤΝ. Σε συνεργασία με τους σχετικούς συμφεροντούχους, η Επιτροπή και τα κράτη μέλη θα πρέπει να διευκολύνουν την κατάρτιση προαιρετικών κωδίκων δεοντολογίας με σκοπό την προώθηση του γραμματισμού στον τομέα της ΤΝ για τα άτομα που ασχολούνται με την ανάπτυξη, τη λειτουργία και τη χρήση ΤΝ.
(21)
Para assegurar condições de concorrência equitativas e uma proteção eficaz dos direitos e das liberdades das pessoas em toda a União, as regras estabelecidas no presente regulamento deverão aplicar-se aos prestadores de sistemas de IA de uma forma não discriminatória, independentemente de estarem estabelecidos na União ou num país terceiro, e aos responsáveis pela implantação de sistemas de IA estabelecidos na União.
(21)
Προκειμένου να διασφαλιστούν ισότιμοι όροι ανταγωνισμού και αποτελεσματική προστασία των δικαιωμάτων και των ελευθεριών των ατόμων σε ολόκληρη την Ένωση, οι κανόνες που θεσπίζονται με τον παρόντα κανονισμό θα πρέπει να εφαρμόζονται στους παρόχους συστημάτων ΤΝ χωρίς διακρίσεις, ανεξάρτητα από το αν είναι εγκατεστημένοι εντός της Ένωσης ή σε τρίτη χώρα, καθώς και στους φορείς εφαρμογής συστημάτων ΤΝ που είναι εγκατεστημένοι εντός της Ένωσης.
(22)
Atendendo à sua natureza digital, determinados sistemas de IA deverão ser abrangidos pelo âmbito do presente regulamento, mesmo não sendo colocados no mercado, colocados em serviço nem utilizados na União. Tal aplica-se, por exemplo, quando um operador estabelecido na União contrata determinados serviços a um operador estabelecido num país terceiro relativamente a uma atividade a realizar por um sistema de IA que seja considerado de risco elevado. Nessas circunstâncias, o sistema de IA utilizado num país terceiro pelo operador poderá tratar dados recolhidos e transferidos licitamente da União e facultar ao operador contratante na União os resultados desse sistema de IA decorrentes do tratamento desses dados, sem que o sistema de IA em causa seja colocado no mercado, colocado em serviço ou utilizado na União. Para evitar que o presente regulamento seja contornado e para assegurar uma proteção eficaz das pessoas singulares localizadas na União, o presente regulamento deverá ser igualmente aplicável a prestadores e a responsáveis pela implantação de sistemas de IA que estejam estabelecidos num país terceiro, na medida em que esteja prevista a utilização na União dos resultados produzidos por esses sistemas. No entanto, para ter em conta os mecanismos existentes e as necessidades especiais da cooperação futura com os parceiros estrangeiros com quem são trocadas informações e dados, o presente regulamento não deverá ser aplicável às autoridades públicas de um país terceiro nem às organizações internacionais quando estas atuam no âmbito da cooperação ou de acordos internacionais celebrados a nível da União ou ao nível nacional para efeitos de cooperação policial e judiciária com a União ou os Estados-Membros, desde que o país terceiro ou organização internacional em causa apresente garantias adequadas em matéria de proteção dos direitos e liberdades fundamentais das pessoas. Se for caso disso, tal pode abranger as atividades das entidades às quais os países terceiros confiam a funções específicas de apoio a essa cooperação policial e judiciária. Tais regimes de cooperação ou acordos têm sido estabelecidos bilateralmente entre Estados-Membros e países terceiros, ou entre a União Europeia, a Europol e outras agências da União e países terceiros e organizações internacionais. As autoridades competentes para a supervisão das autoridades responsáveis pela aplicação da lei e judiciárias ao abrigo do presente regulamento deverão avaliar se esses regimes de cooperação ou acordos internacionais preveem garantias adequadas no que diz respeito à proteção dos direitos e liberdades fundamentais das pessoas. As autoridades nacionais destinatárias e as instituições, órgãos e organismos destinatários da União que utilizam esses resultados na União continuam a ser responsáveis por assegurar que a sua utilização é conforme com o direito da União. Se esses acordos internacionais forem revistos ou se forem celebrados novos acordos no futuro, as partes contratantes deverão envidar todos os esforços para alinhar esses acordos com os requisitos do presente regulamento.
(22)
Δεδομένου του ψηφιακού τους χαρακτήρα, ορισμένα συστήματα ΤΝ θα πρέπει να εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού, ακόμη και σε περίπτωση που δεν διατίθενται στην αγορά, δεν τίθενται σε λειτουργία ή δεν χρησιμοποιούνται στην Ένωση. Αυτό ισχύει, για παράδειγμα, στην περίπτωση που φορέας εκμετάλλευσης εγκατεστημένος στην Ένωση αναθέτει ορισμένες υπηρεσίες σε φορέα εκμετάλλευσης εγκατεστημένο σε τρίτη χώρα σε σχέση με δραστηριότητα η οποία πρόκειται να εκτελεστεί από σύστημα ΤΝ το οποίο χαρακτηρίζεται υψηλού κινδύνου. Στις περιπτώσεις αυτές, το σύστημα ΤΝ που χρησιμοποιείται σε τρίτη χώρα από τον φορέα εκμετάλλευσης θα μπορούσε να επεξεργάζεται δεδομένα που έχουν συλλεχθεί και διαβιβαστεί νομίμως από την Ένωση και να παρέχει στον αναθέτοντα φορέα εκμετάλλευσης στην Ένωση τα στοιχεία εξόδου του συστήματος ΤΝ που προκύπτουν από την εν λόγω επεξεργασία, χωρίς το εν λόγω σύστημα ΤΝ να έχει διατεθεί στην αγορά, να έχει τεθεί σε λειτουργία ή να χρησιμοποιείται στην Ένωση. Για να αποφευχθεί η καταστρατήγηση του παρόντος κανονισμού και να διασφαλιστεί η αποτελεσματική προστασία των φυσικών προσώπων που βρίσκονται στην Ένωση, ο παρών κανονισμός θα πρέπει να εφαρμόζεται και στους παρόχους και τους φορείς εφαρμογής συστημάτων ΤΝ που είναι εγκατεστημένοι σε τρίτη χώρα, στον βαθμό που τα παραγόμενα από τα εν λόγω συστήματα στοιχεία εξόδου προορίζονται για χρήση στην Ένωση. Ωστόσο, προκειμένου να ληφθούν υπόψη οι υφιστάμενες ρυθμίσεις και οι ειδικές ανάγκες για τη μελλοντική συνεργασία με αλλοδαπούς εταίρους με τους οποίους ανταλλάσσονται πληροφορίες και αποδεικτικά στοιχεία, ο παρών κανονισμός δεν θα πρέπει να εφαρμόζεται σε δημόσιες αρχές τρίτης χώρας και σε διεθνείς οργανισμούς όταν ενεργούν στο πλαίσιο συνεργασίας ή διεθνών συμφωνιών που συνάπτονται σε ενωσιακό ή εθνικό επίπεδο για σκοπούς επιβολής του νόμου και δικαστικής συνεργασίας με την Ένωση ή τα κράτη μέλη, υπό την προϋπόθεση ότι η τρίτη χώρα ή οι διεθνείς οργανισμοί αυτοί παρέχουν επαρκείς διασφαλίσεις όσον αφορά την προστασία των θεμελιωδών δικαιωμάτων και ελευθεριών των ατόμων. Κατά περίπτωση, μπορούν να καλύπτονται δραστηριότητες οντοτήτων στις οποίες έχει ανατεθεί από τρίτες χώρες η εκτέλεση ειδικών εργασιών προς υποστήριξη της επιβολής του νόμου και της δικαστικής συνεργασίας. Πλαίσια συνεργασίας ή συμφωνίες αυτού του είδους έχουν συναφθεί σε διμερές επίπεδο μεταξύ κρατών μελών και τρίτων χωρών ή μεταξύ της Ευρωπαϊκής Ένωσης, της Ευρωπόλ και άλλων οργανισμών της Ένωσης και τρίτων χωρών ή διεθνών οργανισμών. Οι αρχές που είναι αρμόδιες για την εποπτεία των αρχών επιβολής του νόμου και των δικαστικών αρχών βάσει του παρόντος κανονισμού θα πρέπει να αξιολογούν αν τα πλαίσια συνεργασίας ή οι διεθνείς συμφωνίες περιλαμβάνουν επαρκείς διασφαλίσεις όσον αφορά την προστασία των θεμελιωδών δικαιωμάτων και ελευθεριών των ατόμων. Οι εθνικές αρχές και τα θεσμικά και λοιπά όργανα και οργανισμοί της Ένωσης που είναι αποδέκτες τέτοιων στοιχείων εξόδου και τα χρησιμοποιούν στην Ένωση παραμένουν υπόλογοι για τη διασφάλιση της χρήσης τους σύμφωνα με το δίκαιο της Ένωσης. Σε περίπτωση αναθεώρησης των εν λόγω διεθνών συμφωνιών ή σύναψης νέων στο μέλλον, τα συμβαλλόμενα μέρη θα πρέπει να καταβάλλουν κάθε δυνατή προσπάθεια για την ευθυγράμμιση των εν λόγω συμφωνιών με τις απαιτήσεις του παρόντος κανονισμού.
(23)
O presente regulamento deverá ser também aplicável a instituições, órgãos e organismos da União quando atuam como prestador ou responsável pela implantação de um sistema de IA.
(23)
Ο παρών κανονισμός θα πρέπει επίσης να εφαρμόζεται στα θεσμικά και λοιπά όργανα και οργανισμούς της Ένωσης όταν ενεργούν ως πάροχοι ή φορείς εφαρμογής συστήματος ΤΝ.
(24)
Se, e na medida em que, os sistemas de IA forem colocados no mercado, colocados em serviço ou utilizados com ou sem modificação desses sistemas para fins militares, de defesa ou de segurança nacional, tais sistemas deverão ser excluídos do âmbito de aplicação do presente regulamento, independentemente do tipo de entidade que realiza essas atividades, seja ela designadamente uma entidade pública ou privada. No que diz respeito aos fins militares e de defesa, essa exclusão é justificada tanto pelo artigo 4.o, n.o 2, do TUE como pelas especificidades da política de defesa dos Estados—Membros e da União abrangidas pelo título V, capítulo 2, do TUE, que estão sujeitas ao direito internacional público, que é, por conseguinte, o regime jurídico mais adequado para a regulamentação dos sistemas de IA no contexto da utilização da força letal e de outros sistemas de IA no contexto de atividades militares e de defesa. No que diz respeito aos fins de segurança nacional, a exclusão justifica-se tanto pelo facto de a segurança nacional continuar a ser da exclusiva responsabilidade dos Estados—Membros, em conformidade com o artigo 4.o, n.o 2, do TUE, como pela natureza específica e pelas necessidades operacionais específicas das atividades de segurança nacional e pelas regras nacionais específicas aplicáveis a essas atividades. No entanto, se um sistema de IA desenvolvido, colocado no mercado, colocado em serviço ou utilizado para fins militares, de defesa ou de segurança nacional for utilizado, temporária ou permanentemente, para outros fins, como por exemplo, para fins civis ou humanitários, de aplicação da lei ou de segurança pública, será abrangido pelo âmbito de aplicação do presente regulamento. Nesse caso, as entidades que utilizarem o sistema de IA para fins que não sejam fins militares, de defesa ou de segurança nacional deverão assegurar a conformidade do sistema com o presente regulamento, a menos que o sistema de IA já esteja em conformidade com o presente regulamento. Os sistemas de IA colocados no mercado ou colocados em serviço para um fim excluído, nomeadamente um fim militar, de defesa ou de segurança nacional, e um ou mais fins não excluídos, como fins civis ou de aplicação da lei, são abrangidos pelo âmbito de aplicação do presente regulamento e os prestadores desses sistemas deverão assegurar a conformidade com o presente regulamento. Nesses casos, o facto de um sistema de IA poder ser abrangido pelo âmbito de aplicação do presente regulamento não deverá afetar a possibilidade de as entidades que realizam atividades de segurança nacional, de defesa e militares, independentemente do tipo de entidade que realiza essas atividades, utilizarem para fins de segurança nacional, de defesa e militares sistemas de IA cuja utilização esteja excluída do âmbito de aplicação do presente regulamento. Um sistema de IA colocado no mercado para fins civis ou de aplicação da lei que seja utilizado com ou sem modificações para fins militares, de defesa ou de segurança nacional não deverá ser abrangido pelo âmbito de aplicação do presente regulamento, independentemente do tipo de entidade que realiza essas atividades.
(24)
Εάν και στον βαθμό που τα συστήματα ΤΝ διατίθενται στην αγορά, τίθενται σε λειτουργία ή χρησιμοποιούνται με ή χωρίς τροποποίηση για στρατιωτικούς ή αμυντικούς σκοπούς ή για σκοπούς εθνικής ασφάλειας, θα πρέπει να εξαιρούνται από το πεδίο εφαρμογής του παρόντος κανονισμού ανεξάρτητα από το είδος της οντότητας που ασκεί τις εν λόγω δραστηριότητες, π.χ. ανεξάρτητα από το αν πρόκειται για δημόσια ή ιδιωτική οντότητα. Όσον αφορά τους στρατιωτικούς και αμυντικούς σκοπούς, η εξαίρεση αυτή δικαιολογείται τόσο από το άρθρο 4 παράγραφος 2 ΣΕΕ, όσο και από τις ιδιαιτερότητες της αμυντικής πολιτικής των κρατών μελών και της κοινής ενωσιακής αμυντικής πολιτικής που καλύπτεται από τον τίτλο V κεφάλαιο 2 ΣΕΕ οι οποίες υπόκεινται στο δημόσιο διεθνές δίκαιο, το οποίο αποτελεί, συνεπώς, το καταλληλότερο νομικό πλαίσιο για τη ρύθμιση των συστημάτων ΤΝ στο πλαίσιο της χρήσης φονικής βίας και άλλων συστημάτων ΤΝ στο πλαίσιο στρατιωτικών και αμυντικών δραστηριοτήτων. Όσον αφορά τους σκοπούς εθνικής ασφάλειας, η εξαίρεση δικαιολογείται τόσο από το γεγονός ότι η εθνική ασφάλεια παραμένει αποκλειστική αρμοδιότητα των κρατών μελών σύμφωνα με το άρθρο 4 παράγραφος 2 ΣΕΕ, όσο και από τον ειδικό χαρακτήρα και τις επιχειρησιακές ανάγκες των δραστηριοτήτων εθνικής ασφάλειας και από τους ειδικούς εθνικούς κανόνες που ισχύουν για τις εν λόγω δραστηριότητες. Ωστόσο, εάν ένα σύστημα ΤΝ που αναπτύσσεται, διατίθεται στην αγορά, τίθεται σε λειτουργία ή χρησιμοποιείται για στρατιωτικούς ή αμυντικούς σκοπούς ή σκοπούς εθνικής ασφάλειας χρησιμοποιείται, πέραν των σκοπών αυτών, σε προσωρινή ή μόνιμη βάση για άλλους σκοπούς, επί παραδείγματι για μη στρατιωτικούς ή ανθρωπιστικούς σκοπούς, για σκοπούς επιβολής του νόμου ή για σκοπούς δημόσιας ασφάλειας, το εν λόγω σύστημα θα εμπίπτει στο πεδίο εφαρμογής του παρόντος κανονισμού. Στην περίπτωση αυτή, η οντότητα που χρησιμοποιεί το σύστημα ΤΝ για σκοπούς πέραν των στρατιωτικών ή αμυντικών σκοπών ή των σκοπών εθνικής ασφάλειας θα πρέπει να διασφαλίζει τη συμμόρφωση του συστήματος ΤΝ με τον παρόντα κανονισμό, εκτός εάν το σύστημα συμμορφώνεται ήδη με αυτόν. Τα συστήματα ΤΝ που διατίθενται στην αγορά ή τίθενται σε λειτουργία για εξαιρούμενο σκοπό, δηλαδή για στρατιωτικό ή αμυντικό σκοπό ή για σκοπό εθνικής ασφάλειας, και για έναν ή περισσότερους μη εξαιρούμενους σκοπούς, όπως μη στρατιωτικούς σκοπούς ή σκοπούς επιβολής του νόμου, εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού και οι πάροχοι των εν λόγω συστημάτων θα πρέπει να διασφαλίζουν τη συμμόρφωση με αυτόν. Στις περιπτώσεις αυτές, το γεγονός ότι ένα σύστημα ΤΝ ενδέχεται να εμπίπτει στο πεδίο εφαρμογής του παρόντος κανονισμού δεν θα πρέπει να επηρεάζει τη δυνατότητα των οντοτήτων που ασκούν δραστηριότητες εθνικής ασφάλειας και αμυντικές και στρατιωτικές δραστηριότητες, ανεξάρτητα από το είδος της οντότητας που ασκεί τις εν λόγω δραστηριότητες, να χρησιμοποιούν για σκοπούς εθνικής ασφάλειας και για στρατιωτικούς και αμυντικούς σκοπούς συστήματα ΤΝ των οποίων η χρήση εξαιρείται από το πεδίο εφαρμογής του παρόντος κανονισμού. Ένα σύστημα ΤΝ που διατίθεται στην αγορά για μη στρατιωτικούς σκοπούς ή σκοπούς επιβολής του νόμου και χρησιμοποιείται με ή χωρίς τροποποίηση για στρατιωτικούς ή αμυντικούς σκοπούς ή για σκοπούς εθνικής ασφάλειας δεν θα πρέπει να εμπίπτει στο πεδίο εφαρμογής του παρόντος κανονισμού, ανεξάρτητα από το είδος της οντότητας που ασκεί τις εν λόγω δραστηριότητες.
(25)
O presente regulamento deverá apoiar a inovação, deverá respeitar a liberdade da ciência e não deverá prejudicar as atividades de investigação e desenvolvimento. Por conseguinte, é necessário excluir do seu âmbito de aplicação os sistemas e modelos de IA especificamente desenvolvidos e colocados em serviço exclusivamente para fins de investigação e desenvolvimento científicos. Além disso, é necessário assegurar que o presente regulamento não afete de outra forma as atividades científicas de investigação e desenvolvimento em matéria de sistemas ou modelos de IA antes de ser colocado no mercado ou colocado em serviço. No que diz respeito às atividades de investigação, testagem e desenvolvimento orientadas para os produtos relativas a sistemas ou modelos de IA, as disposições do presente regulamento também não deverão ser aplicáveis antes de esses sistemas e modelos serem colocados em serviço ou colocados no mercado. Essa exclusão não prejudica a obrigação de cumprir o presente regulamento sempre que um sistema de IA abrangido pelo âmbito de aplicação do presente regulamento for colocado no mercado ou colocado em serviço em resultado dessas atividades de investigação e desenvolvimento, nem a aplicação das disposições relativas aos ambientes de testagem da regulamentação da IA e à testagem em condições reais. Além disso, sem prejuízo da exclusão de sistemas de IA especificamente desenvolvidos e colocados em serviço para fins exclusivos de investigação e desenvolvimento científicos, qualquer outro sistema de IA que possa ser utilizado para a realização de atividades de investigação e desenvolvimento deverá continuar sujeito às disposições do presente regulamento. Em todo o caso, todas as atividades de investigação e desenvolvimento deverão ser realizadas em conformidade com normas éticas e profissionais reconhecidas em matéria de investigação científica e deverão ser conduzidas em conformidade com o direito da União aplicável.
(25)
Ο παρών κανονισμός θα πρέπει να στηρίζει την καινοτομία, θα πρέπει να σέβεται την ελευθερία της επιστήμης και να μην υπονομεύει τις δραστηριότητες έρευνας και ανάπτυξης. Είναι, επομένως, απαραίτητο να εξαιρεθούν από το πεδίο εφαρμογής του συστήματα και μοντέλα ΤΝ τα οποία έχουν αναπτυχθεί ειδικά και τεθεί σε λειτουργία με αποκλειστικό σκοπό την επιστημονική έρευνα και ανάπτυξη. Επιπλέον, είναι απαραίτητο να διασφαλιστεί ότι ο παρών κανονισμός δεν θίγει με άλλο τρόπο τις δραστηριότητες επιστημονικής έρευνας και ανάπτυξης στον τομέα των συστημάτων και μοντέλων ΤΝ πριν από τη διάθεση τους στην αγορά ή τη θέση τους σε λειτουργία. Όσον αφορά τις δραστηριότητες έρευνας, δοκιμής και ανάπτυξης που σχετίζονται με συστήματα και μοντέλα ΤΝ και είναι προσανατολισμένες προς προϊόντα, οι διατάξεις του παρόντος κανονισμού δεν θα πρέπει να εφαρμόζονται πριν από τη θέση των συστημάτων και των μοντέλων αυτών σε λειτουργία ή τη διάθεσή τους στην αγορά. Η εξαίρεση αυτή ισχύει με την επιφύλαξη της υποχρέωσης συμμόρφωσης με τον παρόντα κανονισμό σε περίπτωση που ένα σύστημα ΤΝ το οποίο εμπίπτει στο πεδίο εφαρμογής του παρόντος κανονισμού διατίθεται στην αγορά ή τίθεται σε λειτουργία ως αποτέλεσμα τέτοιου είδους δραστηριότητας έρευνας και ανάπτυξης και με την επιφύλαξη της εφαρμογής των διατάξεων που αφορούν τα ρυθμιστικά δοκιμαστήρια ΤΝ και τις δοκιμές σε πραγματικές συνθήκες. Επιπλέον, με την επιφύλαξη της εξαίρεσης των συστημάτων ΤΝ που αναπτύσσονται ειδικά και τίθενται σε λειτουργία με αποκλειστικό σκοπό την επιστημονική έρευνα και ανάπτυξη, κάθε άλλο σύστημα ΤΝ που μπορεί να χρησιμοποιηθεί για την άσκηση οποιασδήποτε δραστηριότητας έρευνας και ανάπτυξης θα πρέπει να συνεχίσει να υπόκειται στις διατάξεις του παρόντος κανονισμού. Σε κάθε περίπτωση, κάθε δραστηριότητα έρευνας και ανάπτυξης θα πρέπει να ασκείται σύμφωνα με αναγνωρισμένα δεοντολογικά και επαγγελματικά πρότυπα για την επιστημονική έρευνα και θα πρέπει να διεξάγεται σύμφωνα με το εφαρμοστέο ενωσιακό δίκαιο.
(26)
Para que o conjunto de normas vinculativas aplicáveis aos sistemas de IA seja proporcionado e eficaz, deverá seguir-se uma abordagem baseada no risco claramente definida. Essa abordagem deverá adaptar o tipo e o conteúdo dessas normas à intensidade e ao âmbito dos riscos que podem ser criados pelos sistemas de IA. Como tal, é necessário proibir determinadas práticas inaceitáveis de IA, estabelecer requisitos aplicáveis aos sistemas de IA de risco elevado e obrigações para os operadores pertinentes, bem como estabelecer obrigações de transparência para determinados sistemas de IA.
(26)
Προκειμένου να θεσπιστεί ένα αναλογικό και αποτελεσματικό σύνολο δεσμευτικών κανόνων για τα συστήματα ΤΝ, θα πρέπει να ακολουθηθεί μια σαφώς καθορισμένη προσέγγιση βάσει κινδύνου. Η προσέγγιση θα πρέπει να προσαρμόζει το είδος και το περιεχόμενο των εν λόγω κανόνων στην ένταση και την έκταση των κινδύνων που μπορούν να δημιουργήσουν τα συστήματα ΤΝ. Ως εκ τούτου, είναι αναγκαίο να απαγορευτούν ορισμένες απαράδεκτες πρακτικές TN και να καθοριστούν απαιτήσεις για τα συστήματα ΤΝ υψηλού κινδύνου, υποχρεώσεις για τους σχετικούς φορείς εκμετάλλευσης, καθώς και υποχρεώσεις διαφάνειας για ορισμένα συστήματα ΤΝ.
(27)
Embora a abordagem baseada no risco constitua a base para um conjunto proporcionado e eficaz de regras vinculativas, é importante recordar as Orientações Éticas para uma IA de Confiança, elaboradas em 2019 pelo IA HLEG independente nomeado pela Comissão. Nessas orientações, o IA HLEG desenvolveu sete princípios éticos não vinculativos para a IA, que se destinam a ajudar a garantir que a IA é de confiança e eticamente correta. Os sete princípios incluem: iniciativa e supervisão por humanos; solidez técnica e segurança; privacidade e governação dos dados; transparência; diversidade, não discriminação e equidade; bem-estar social e ambiental e responsabilização. Sem prejuízo dos requisitos juridicamente vinculativos do presente regulamento e de qualquer outras disposições aplicáveis do direito da União, essas orientações contribuem para a conceção de uma IA coerente, de confiança e centrada no ser humano, em consonância com a Carta e com os valores em que se funda a União. De acordo com as orientações do IA HLEG, «iniciativa e supervisão por humanos» significa que todos os sistemas de IA são desenvolvidos e utilizados como uma ferramenta ao serviço das pessoas, que respeita a dignidade humana e a autonomia pessoal e que funciona de uma forma que possa ser adequadamente controlada e supervisionada por seres humanos. Solidez técnica e segurança significa que os sistemas de IA são desenvolvidos e utilizados de forma a permitir a solidez em caso de problemas e a resiliência contra tentativas de alteração da sua utilização ou desempenho que permitam a utilização ilícita por terceiros, e a minimizar os danos não intencionais. Por privacidade e governação dos dados entende-se que os sistemas de IA são desenvolvidos e utilizados em conformidade com as regras existentes em matéria de privacidade e de proteção de dados, ao mesmo tempo que o tratamento de dados satisfaz normas elevadas em termos de qualidade e de integridade. A transparência significa que os sistemas de IA são desenvolvidos e utilizados de forma a permitir uma rastreabilidade e explicabilidade adequadas, sensibilizando ao mesmo tempo os seres humanos para o facto de estarem a comunicar ou a interagir com um sistema de IA, informando devidamente os responsáveis pela implantação das capacidades e limitações desse sistema de IA e informando as pessoas afetadas dos direitos que lhes assistem. Diversidade, não discriminação e equidade indica que os sistemas de IA são desenvolvidos e utilizados de forma a incluir diferentes intervenientes e a promover a igualdade de acesso, a igualdade de género e a diversidade cultural, evitando simultaneamente efeitos discriminatórios e enviesamentos injustos que sejam proibidos pelo direito da União ou pelo direito nacional. Por bem-estar social e ambiental entende-se que os sistemas de IA são desenvolvidos e utilizados de forma sustentável e respeitadora do ambiente, bem como de forma a beneficiar todos os seres humanos, controlando e avaliando ao mesmo tempo os impactos de longo prazo nas pessoas, na sociedade e na democracia. A aplicação desses princípios deverá traduzir-se, sempre que possível, na conceção e na utilização de modelos de IA. Em qualquer caso, deverão servir de base para a elaboração de códigos de conduta ao abrigo do presente regulamento. Todas as partes interessadas, incluindo a indústria, o meio académico, a sociedade civil e as organizações de normalização, são incentivadas a ter em conta, consoante o caso, os princípios éticos para o desenvolvimento de boas práticas e normas voluntárias.
(27)
Παρότι η προσέγγιση βάσει κινδύνου αποτελεί το θεμέλιο για ένα αναλογικό και αποτελεσματικό σύνολο δεσμευτικών κανόνων, είναι σημαντικό να υπενθυμιστούν οι κατευθυντήριες γραμμές δεοντολογίας για αξιόπιστη ΤΝ του 2019, τις οποίες ανέπτυξε η ανεξάρτητη ΟΕΥΕ για την ΤΝ που είχε διοριστεί από την Επιτροπή. Στις κατευθυντήριες αυτές γραμμές, η ΟΕΥΕ για την ΤΝ ανέπτυξε επτά μη δεσμευτικές δεοντολογικές αρχές για την ΤΝ που έχουν στόχο να βοηθήσουν στη διασφάλιση της αξιοπιστίας και της δεοντολογικής ορθότητας της ΤΝ. Στις επτά αρχές περιλαμβάνονται η ανθρώπινη παρέμβαση και εποπτεία· η τεχνική στιβαρότητα και ασφάλεια· η ιδιωτική ζωή και διακυβέρνηση των δεδομένων· η διαφάνεια· η πολυμορφία, η απαγόρευση των διακρίσεων και η δικαιοσύνη· η κοινωνική και περιβαλλοντική ευημερία και η λογοδοσία. Με την επιφύλαξη των νομικά δεσμευτικών απαιτήσεων του παρόντος κανονισμού και κάθε άλλου εφαρμοστέου κανόνα του ενωσιακού δικαίου, οι κατευθυντήριες αυτές γραμμές συμβάλλουν στον σχεδιασμό συνεκτικής, αξιόπιστης και ανθρωποκεντρικής ΤΝ, σύμφωνης με τον Χάρτη και τις αξίες στις οποίες εδράζεται η Ένωση. Σύμφωνα με τις κατευθυντήριες γραμμές της ΟΕΥΕ για την ΤΝ, η αρχή της «ανθρώπινης παρέμβασης και εποπτείας» σημαίνει ότι τα συστήματα ΤΝ αναπτύσσονται και χρησιμοποιούνται ως εργαλείο που εξυπηρετεί τον άνθρωπο, σέβεται την ανθρώπινη αξιοπρέπεια και την προσωπική αυτονομία και λειτουργεί κατά τρόπο που μπορεί να ελέγχεται και να εποπτεύεται καταλλήλως από τον άνθρωπο. Η τεχνική στιβαρότητα και ασφάλεια σημαίνει ότι τα συστήματα ΤΝ αναπτύσσονται και χρησιμοποιούνται κατά τρόπο που, αφενός, εξασφαλίζει στιβαρότητα σε περίπτωση προβλημάτων και ανθεκτικότητα έναντι προσπαθειών που έχουν στόχο να αλλοιωθούν η χρήση ή οι επιδόσεις του συστήματος ΤΝ και να καταστεί έτσι δυνατή η παράνομη χρήση του από τρίτους και, αφετέρου, ελαχιστοποιεί την ακούσια βλάβη. Η ιδιωτική ζωή και η διακυβέρνηση των δεδομένων σημαίνουν ότι τα συστήματα ΤΝ αναπτύσσονται και χρησιμοποιούνται κατά τρόπο σύμφωνο προς τους κανόνες για την προστασία της ιδιωτικής ζωής και των δεδομένων, ενώ επεξεργάζονται δεδομένα που πληρούν υψηλά πρότυπα ποιότητας και ακεραιότητας. Η διαφάνεια σημαίνει ότι τα συστήματα ΤΝ αναπτύσσονται και χρησιμοποιούνται κατά τρόπο που επιτρέπει κατάλληλη ιχνηλασιμότητα και εξηγησιμότητα, ενώ παράλληλα καθίσταται σαφές στον άνθρωπο ότι επικοινωνεί ή αλληλεπιδρά με ένα σύστημα ΤΝ και ενημερώνονται δεόντως οι μεν φορείς εφαρμογής για τις δυνατότητες και τους περιορισμούς του εν λόγω συστήματος ΤΝ, τα δε θιγόμενα πρόσωπα για τα δικαιώματά τους. Η πολυμορφία, η απαγόρευση των διακρίσεων και η δικαιοσύνη σημαίνουν ότι τα συστήματα ΤΝ αναπτύσσονται και χρησιμοποιούνται κατά τρόπο που συμπεριλαμβάνει ποικίλους παράγοντες και προωθεί την ίση πρόσβαση, την ισότητα των φύλων και την πολιτιστική πολυμορφία, αποφεύγοντας παράλληλα διακρίσεις και αθέμιτες προκαταλήψεις που απαγορεύονται από το ενωσιακό ή το εθνικό δίκαιο. Η κοινωνική και περιβαλλοντική ευημερία σημαίνει ότι τα συστήματα ΤΝ αναπτύσσονται και χρησιμοποιούνται με βιώσιμο και φιλικό προς το περιβάλλον τρόπο, καθώς και με τρόπο που ωφελεί όλους τους ανθρώπους, ενώ παράλληλα παρακολουθούνται και αξιολογούνται οι μακροπρόθεσμες επιπτώσεις στο άτομο, την κοινωνία και τη δημοκρατία. Η εφαρμογή αυτών των αρχών θα πρέπει να αποτυπώνεται, όποτε είναι δυνατόν, στον σχεδιασμό και τη χρήση μοντέλων ΤΝ. Θα πρέπει σε κάθε περίπτωση να χρησιμεύουν σαν βάση για την κατάρτιση κωδίκων δεοντολογίας δυνάμει του παρόντος κανονισμού. Όλοι οι συμφεροντούχοι, συμπεριλαμβανομένων της βιομηχανίας, της ακαδημαϊκής κοινότητας, της κοινωνίας των πολιτών και των οργανισμών τυποποίησης, παροτρύνονται να λαμβάνουν υπόψη, όπως αρμόζει, τις δεοντολογικές αρχές για την ανάπτυξη προαιρετικών βέλτιστων πρακτικών και προτύπων.
(28)
Além das suas inúmeras utilizações benéficas, a IA, pode também ser utilizada indevidamente e conceder instrumentos novos e poderosos para práticas manipuladoras, exploratórias e de controlo social. Essas práticas são particularmente prejudiciais e abusivas e deverão ser proibidas por desrespeitarem valores da União, como a dignidade do ser humano, a liberdade, a igualdade, a democracia e o Estado de direito, bem como os direitos fundamentais consagrados na Carta, nomeadamente o direito à não discriminação, à proteção de dados pessoais e à privacidade, e os direitos das crianças.
(28)
Πέρα από τις πολλές επωφελείς χρήσεις της ΤΝ, μπορεί επίσης να χρησιμοποιηθεί αντικανονικά και να παράσχει νέα και ισχυρά εργαλεία για πρακτικές χειραγώγησης, εκμετάλλευσης και κοινωνικού ελέγχου. Οι πρακτικές αυτές είναι ιδιαίτερα επιβλαβείς και καταχρηστικές και θα πρέπει να απαγορευτούν, διότι έρχονται σε αντίθεση με τις ενωσιακές αξίες του σεβασμού της ανθρώπινης αξιοπρέπειας, της ελευθερίας, της ισότητας, της δημοκρατίας και του κράτους δικαίου, καθώς και με τα θεμελιώδη δικαιώματα που κατοχυρώνονται στον Χάρτη, συμπεριλαμβανομένων του δικαιώματος στη μεταχείριση χωρίς διακρίσεις, στην προστασία των δεδομένων και στην ιδιωτική ζωή και των δικαιωμάτων του παιδιού.
(29)
As técnicas de manipulação propiciadas pela IA podem ser utilizadas para persuadir as pessoas a adotarem comportamentos indesejados, ou para as enganar incentivando-as a tomar decisões de uma forma que subverta e prejudique a sua autonomia, a sua tomada de decisões e a sua liberdade de escolha. A colocação no mercado, a colocação em serviço ou a utilização de determinados sistemas de IA com o objetivo ou o efeito de distorcer substancialmente o comportamento humano, sendo passível a ocorrência de danos significativos, em especial com repercussões negativas suficientemente importantes na saúde física, psicológica ou nos interesses financeiros, são particularmente perigosas e deverão, por isso, ser proibidas. Esses sistemas de IA utilizam quer componentes subliminares, como estímulos de áudio, de imagem e de vídeo dos quais as pessoas não se conseguem aperceber por serem estímulos que ultrapassam a perceção humana, quer outras técnicas manipuladoras ou enganadoras que subvertem ou prejudicam a autonomia, a tomada de decisões ou a liberdade de escolha das pessoas de uma maneira de que estas não têm consciência dessas técnicas ou que, mesmo que tenham consciência das mesmas, ainda possam ser enganadas ou não as possam impedir de controlar ou não lhes possam resistir. Tal poderá ser facilitado, por exemplo, por interfaces máquina-cérebro ou por realidade virtual, que permitem um maior nível de controlo do tipo de estímulos apresentados às pessoas, na medida em que podem distorcer substancialmente o seu comportamento de uma forma significativamente nociva. Além disso, os sistemas de IA podem também explorar vulnerabilidades de uma pessoa ou de um grupo específico de pessoas devido à sua idade, à sua deficiência na aceção da Diretiva (UE) 2019/882 do Parlamento Europeu e do Conselho (16), ou a uma situação social ou económica específica suscetível de tornar essas pessoas mais vulneráveis à exploração, como as pessoas que vivem em situação de pobreza extrema ou as minorias étnicas ou religiosas. Esses sistemas de IA podem ser colocados no mercado, colocados em serviço ou utilizados com o objetivo ou o efeito de distorcer substancialmente o comportamento de uma pessoa e de uma forma que cause ou seja razoavelmente suscetível de causar danos significativos a essa ou a outra pessoa ou grupos de pessoas, incluindo danos que possam ser acumulados ao longo do tempo, razão pela qual deverão ser proibidos. Pode não ser possível presumir que existe intenção de distorcer o comportamento se a distorção resultar de fatores externos ao sistema de IA que estejam fora do controlo do prestador ou do responsável pela implantação, nomeadamente fatores que podem não ser razoavelmente previsíveis e que, por conseguinte, o prestador ou responsável pela implantação do sistema de IA não possam atenuar. De qualquer modo, não é necessário que o prestador ou o responsável pela implantação tenha a intenção de causar danos significativos, basta que tal dano resulte das práticas manipuladoras ou exploratórias baseadas na IA. As proibições de tais práticas de IA complementam as disposições da Diretiva 2005/29/CE do Parlamento Europeu e do Conselho (17), nomeadamente as que proíbem as práticas comerciais desleais que causam danos económicos ou financeiros aos consumidores, em quaisquer circunstâncias, independentemente de serem aplicadas através de sistemas de IA ou de outra forma. As proibições de práticas manipuladoras e exploratórias previstas no presente regulamento não deverão afetar as práticas lícitas no contexto de tratamentos médicos, como o tratamento psicológico de uma doença mental ou a reabilitação física, sempre que tais práticas sejam realizadas em conformidade com a lei e as normas médicas aplicáveis, como, por exemplo, o consentimento explícito das pessoas ou dos seus representantes legais. Além disso, as práticas comerciais comuns e legítimas, como por exemplo no domínio da publicidade, que cumpram a lei aplicável não deverão, por si só, ser consideradas práticas manipuladoras prejudiciais tornadas possíveis pela IA.
(29)
Τεχνικές χειραγώγησης που βασίζονται στην ΤΝ μπορούν να χρησιμοποιηθούν για να πεισθούν άτομα να επιδοθούν σε ανεπιθύμητες συμπεριφορές ή για να εξαπατηθούν μέσω της εξώθησής τους στη λήψη αποφάσεων κατά τρόπο που υπονομεύει και περιορίζει την αυτονομία, την ικανότητα λήψης αποφάσεων και τις ελεύθερες επιλογές τους. Η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση ορισμένων συστημάτων ΤΝ με στόχο ή αποτέλεσμα την ουσιώδη στρέβλωση της ανθρώπινης συμπεριφοράς, λόγω της οποίας είναι πιθανή η πρόκληση σημαντικής βλάβης, ιδίως με αρκούντως σοβαρές δυσμενείς επιπτώσεις στη σωματική ή ψυχολογική υγεία ή στα οικονομικά συμφέροντα, είναι ιδιαίτερα επικίνδυνες και, για τον λόγο αυτό, θα πρέπει να απαγορεύονται. Αυτού του είδους τα συστήματα ΤΝ χρησιμοποιούν κατασκευαστικά στοιχεία που απευθύνονται στο υποσυνείδητο, όπως ερεθίσματα ήχου, εικόνας και βίντεο τα οποία τα πρόσωπα δεν μπορούν να αντιληφθούν, καθώς τα εν λόγω ερεθίσματα υπερβαίνουν την ανθρώπινη αντίληψη, ή άλλες τεχνικές χειραγώγησης ή παραπλάνησης που υπονομεύουν ή περιορίζουν την αυτονομία, την ικανότητα λήψης αποφάσεων ή τις ελεύθερες επιλογές του προσώπου με τρόπους με τους οποίους δεν αντιλαμβάνεται συνειδητά τις εν λόγω τεχνικές ή, εάν τις αντιλαμβάνεται, μπορεί παρά ταύτα να παραπλανηθεί ή δεν είναι σε θέση να τις ελέγξει ή να αντισταθεί σε αυτές. Κάτι τέτοιο θα μπορούσε, για παράδειγμα, να γίνει ευκολότερο με διεπαφές μηχανήματος-εγκεφάλου ή με την εικονική πραγματικότητα, καθώς επιτρέπουν μεγαλύτερο έλεγχο των ερεθισμάτων που παρουσιάζονται στα πρόσωπα, δεδομένου ότι μπορούν να στρεβλώσουν ουσιωδώς τη συμπεριφορά τους με ιδιαίτερα επιβλαβή τρόπο. Επιπλέον, τα συστήματα ΤΝ μπορούν επίσης να εκμεταλλεύονται με άλλο τρόπο τα τρωτά σημεία ενός προσώπου ή μιας συγκεκριμένης ομάδας προσώπων λόγω της ηλικίας τους, της αναπηρίας τους κατά την έννοια της οδηγίας (ΕΕ) 2019/882 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (16) ή μιας συγκεκριμένης κοινωνικής ή οικονομικής κατάστασης που πιθανόν καθιστά τα εν λόγω πρόσωπα περισσότερο ευάλωτα στην εκμετάλλευση, όπως τα άτομα που ζουν σε συνθήκες ακραίας φτώχειας ή ανήκουν σε εθνοτικές ή θρησκευτικές μειονότητες. Τέτοια συστήματα ΤΝ μπορούν να διατίθενται στην αγορά, να τίθενται σε λειτουργία ή να χρησιμοποιούνται με στόχο ή αποτέλεσμα την ουσιώδη στρέβλωση της συμπεριφοράς ενός προσώπου κατά τρόπο που προκαλεί ή είναι ευλόγως πιθανόν να προκαλέσει σημαντική βλάβη στο εν λόγω πρόσωπο ή σε άλλο πρόσωπο ή ομάδες προσώπων, συμπεριλαμβανομένων βλαβών που μπορεί να συσσωρευθούν με την πάροδο του χρόνου, και συνεπώς θα πρέπει να απαγορευθούν. Ενδέχεται να μην είναι δυνατόν να εικασθεί πως υπάρχει πρόθεση στρέβλωσης της συμπεριφοράς, εάν η στρέβλωση προκύπτει από παράγοντες εκτός του συστήματος ΤΝ τους οποίους δεν μπορεί να ελέγξει ο πάροχος ή ο φορέας εφαρμογής, δηλαδή παράγοντες που ενδεχομένως δεν είναι ευλόγως προβλέψιμοι και, συνεπώς, ο πάροχος ή ο φορέας εφαρμογής του συστήματος ΤΝ δεν είναι δυνατόν να μετριάσει. Σε κάθε περίπτωση, δεν είναι απαραίτητο να έχουν ο πάροχος ή ο φορέας εφαρμογής την πρόθεση να προκαλέσουν σημαντική βλάβη, εφόσον η βλάβη αυτή προκύπτει από πρακτικές χειραγώγησης ή εκμετάλλευσης που βασίζονται στην ΤΝ. Η απαγόρευση των εν λόγω πρακτικών ΤΝ είναι συμπληρωματική προς τις διατάξεις της οδηγίας 2005/29/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (17), απαγορεύονται δε ιδίως σε κάθε περίπτωση, ανεξάρτητα από το αν ασκούνται μέσω συστημάτων ΤΝ ή με άλλο τρόπο, αθέμιτες εμπορικές πρακτικές που προκαλούν οικονομικές ή χρηματοπιστωτικές βλάβες στους καταναλωτές. Η απαγόρευση των πρακτικών χειραγώγησης και εκμετάλλευσης στον παρόντα κανονισμό δεν θα πρέπει να θίγει νόμιμες πρακτικές στο πλαίσιο ιατρικής περίθαλψης, όπως η ψυχοθεραπεία για την αντιμετώπιση ψυχικής νόσου ή η φυσιοθεραπεία, όταν οι πρακτικές αυτές ασκούνται σύμφωνα με το εφαρμοστέο δίκαιο και τα ιατρικά πρότυπα, για παράδειγμα με τη ρητή συγκατάθεση των ατόμων ή των νόμιμων εκπροσώπων τους. Επιπλέον, οι κοινές και νόμιμες εμπορικές πρακτικές, για παράδειγμα στο πεδίο της διαφήμισης, που είναι σύμφωνες με το εφαρμοστέο δίκαιο δεν θα πρέπει να θεωρούνται καθαυτές επιβλαβείς πρακτικές χειραγώγησης που βασίζονται στην ΤΝ.
(30)
Deverão ser proibidos os sistemas de categorização biométrica baseados em dados biométricos de pessoas singulares, como o rosto ou as impressões digitais, para deduzir ou inferir as suas opiniões políticas, a filiação sindical, as convicções religiosas ou filosóficas, a raça, a vida sexual ou a orientação sexual de uma pessoa. Essa proibição não deverá abranger a rotulagem legal, a filtragem ou a categorização de conjuntos de dados biométricos adquiridos em conformidade com o direito da União ou o direito nacional em função dos dados biométricos, como a triagem de imagens em função da cor do cabelo ou da cor dos olhos, que podem, por exemplo, ser utilizadas no domínio da aplicação da lei.
(30)
Θα πρέπει να απαγορεύονται τα συστήματα βιομετρικής κατηγοριοποίησης που βασίζονται σε βιομετρικά δεδομένα φυσικών προσώπων, όπως το πρόσωπο ή το δακτυλικό αποτύπωμα ενός ατόμου, για να συμπεραίνονται ή να συνάγονται τα πολιτικά φρονήματα, η συμμετοχή σε συνδικαλιστική οργάνωση, οι θρησκευτικές ή φιλοσοφικές πεποιθήσεις, η φυλή, η σεξουαλική ζωή ή ο γενετήσιος προσανατολισμός του ατόμου. Η απαγόρευση αυτή δεν θα πρέπει να καλύπτει τη νόμιμη επισήμανση, το νόμιμο φιλτράρισμα ή τη νόμιμη κατηγοριοποίηση συνόλων βιομετρικών δεδομένων που έχουν αποκτηθεί σύμφωνα με το ενωσιακό ή το εθνικό δίκαιο με βάση βιομετρικά δεδομένα, όπως η διαλογή εικόνων ανάλογα με το χρώμα των μαλλιών ή των οφθαλμών, τα οποία μπορούν, για παράδειγμα, να χρησιμοποιηθούν στον τομέα της επιβολής του νόμου.
(31)
Os sistemas de IA que possibilitam a classificação social de pessoas singulares por intervenientes públicos ou privados podem criar resultados discriminatórios e levar à exclusão de determinados grupos. Estes sistemas podem ainda violar o direito à dignidade e à não discriminação e os valores da igualdade e da justiça. Esses sistemas de IA avaliam ou classificam pessoas singulares ou grupos de pessoas singulares com base em múltiplos pontos de dados relacionados com o seu comportamento social em diversos contextos ou em características pessoais ou de personalidade conhecidas, inferidas ou previsíveis ao longo de determinados períodos. A classificação social obtida por meio desses sistemas de IA pode levar ao tratamento prejudicial ou desfavorável de pessoas singulares ou grupos inteiros de pessoas singulares em contextos sociais não relacionados com o contexto em que os dados foram originalmente gerados ou recolhidos, ou a um tratamento prejudicial desproporcionado ou injustificado face à gravidade do seu comportamento social. Como tal, deverão ser proibidos sistemas de IA que impliquem tais práticas de classificação inaceitáveis e conducentes a esses resultados prejudiciais ou desfavoráveis. Essa proibição não deverá afetar as práticas de avaliação lícitas de pessoas singulares efetuadas para um fim específico, em conformidade com o direito da União e o direito nacional.
(31)
Τα συστήματα ΤΝ που παρέχουν κοινωνική βαθμολόγηση φυσικών προσώπων από δημόσιους ή ιδιωτικούς φορείς μπορούν να οδηγήσουν σε διακρίσεις και στον αποκλεισμό ορισμένων ομάδων. Μπορούν να παραβιάσουν το δικαίωμα στην αξιοπρέπεια και στη μεταχείριση χωρίς διακρίσεις, καθώς και τις αξίες της ισότητας και της δικαιοσύνης. Τα συστήματα ΤΝ αυτού του είδους αξιολογούν ή ταξινομούν φυσικά πρόσωπα ή ομάδες φυσικών προσώπων με βάση πολλαπλά σημεία δεδομένων σχετιζόμενα με την κοινωνική τους συμπεριφορά σε πολλαπλά πλαίσια ή με βάση γνωστά, συναγόμενα ή προβλεπόμενα προσωπικά χαρακτηριστικά τους ή χαρακτηριστικά της προσωπικότητάς τους για ορισμένα χρονικά διαστήματα. Η κοινωνική βαθμολογία που λαμβάνεται από τέτοια συστήματα ΤΝ μπορεί να οδηγήσει σε επιζήμια ή δυσμενή μεταχείριση φυσικών προσώπων ή ολόκληρων ομάδων φυσικών προσώπων σε κοινωνικά πλαίσια, τα οποία δεν σχετίζονται με το πλαίσιο στο οποίο παρήχθησαν ή συνελέγησαν αρχικά τα δεδομένα, ή σε επιζήμια μεταχείριση η οποία είναι δυσανάλογη ή αδικαιολόγητη σε σχέση με τη σοβαρότητα της κοινωνικής συμπεριφοράς τους. Τα συστήματα ΤΝ που περιλαμβάνουν τέτοιες απαράδεκτες πρακτικές βαθμολόγησης και οδηγούν σε επιζήμια ή δυσμενή αποτελέσματα αυτού του είδους θα πρέπει, συνεπώς, να απαγορεύονται. Η απαγόρευση αυτή δεν θα πρέπει να θίγει τις νόμιμες πρακτικές αξιολόγησης φυσικών προσώπων που διενεργούνται για συγκεκριμένο σκοπό κατά τρόπο σύμφωνο προς το ενωσιακό και το εθνικό δίκαιο.
(32)
A utilização de sistemas de IA para a identificação biométrica à distância «em tempo real» de pessoas singulares em espaços acessíveis ao público para efeitos de aplicação da lei é particularmente intrusiva para os direitos e as liberdades das pessoas em causa, visto que pode afetar a vida privada de uma grande parte da população, dar origem a uma sensação de vigilância constante e dissuadir indiretamente o exercício da liberdade de reunião e de outros direitos fundamentais. As imprecisões técnicas dos sistemas de IA concebidos para a identificação biométrica à distância de pessoas singulares podem conduzir a resultados enviesados e ter efeitos discriminatórios. Estes possíveis resultados enviesados e efeitos discriminatórios são particularmente relevantes no que diz respeito à idade, etnia, raça, sexo ou deficiência. Além disso, o impacto imediato e as oportunidades limitadas para a realização de controlos adicionais ou correções no que respeita à utilização desses sistemas que funcionam em tempo real acarretam riscos acrescidos para os direitos e as liberdades das pessoas em causa no contexto, ou afetadas, pelas autoridades responsáveis pela aplicação da lei.
(32)
Η χρήση συστημάτων ΤΝ για την εξ αποστάσεως βιομετρική ταυτοποίηση φυσικών προσώπων σε «πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου είναι ιδιαιτέρως παρεμβατική όσον αφορά τα δικαιώματα και τις ελευθερίες των σχετικών προσώπων, στον βαθμό που μπορεί να επηρεάσει την ιδιωτική ζωή μεγάλου τμήματος του πληθυσμού, να δημιουργήσει την αίσθηση συνεχούς παρακολούθησης και να αποθαρρύνει έμμεσα την άσκηση της ελευθερίας του συνέρχεσθαι και άλλων θεμελιωδών δικαιωμάτων. Τεχνικές ανακρίβειες συστημάτων ΤΝ που προορίζονται για την εξ αποστάσεως βιομετρική ταυτοποίηση φυσικών προσώπων μπορούν να οδηγήσουν σε μεροληπτικά αποτελέσματα και να επιφέρουν διακρίσεις. Τα μεροληπτικά αποτελέσματα και οι διακρίσεις αυτού του είδους σχετίζονται ιδίως με την ηλικία, την εθνοτική καταγωγή, τη φυλή, το φύλο ή τις αναπηρίες. Επιπλέον, η αμεσότητα των επιπτώσεων και οι περιορισμένες δυνατότητες για τη διενέργεια περαιτέρω ελέγχων ή διορθώσεων σε σχέση με τη χρήση τέτοιων συστημάτων που λειτουργούν σε πραγματικό χρόνο ενέχουν αυξημένους κινδύνους για τα δικαιώματα και τις ελευθερίες των ενδιαφερόμενων προσώπων στο πλαίσιο δραστηριοτήτων επιβολής του νόμου ή τα οποία υφίστανται τις επιπτώσεις τέτοιων δραστηριοτήτων.
(33)
Como tal, deverá ser proibida a utilização desses sistemas para efeitos de aplicação da lei, salvo em situações enunciadas exaustivamente e definidas de modo restrito, em que essa utilização é estritamente necessária por motivos de interesse público importante e cuja importância prevalece sobre os riscos. Nessas situações incluem-se a busca de determinadas vítimas de crimes, nomeadamente pessoas desaparecidas; certas ameaças à vida ou à segurança física de pessoas singulares ou ameaças de ataque terrorista; e a localização ou identificação de infratores ou suspeitos de infrações penais a que se refere um anexo do presente regulamento, desde que essas infrações penais sejam puníveis no Estado-Membro em causa com pena ou medida de segurança privativa de liberdade de duração máxima não inferior a quatro anos e tal como definidas pela legislação desse Estado-Membro. Esse limiar para a pena ou medida de segurança privativa de liberdade prevista no direito nacional contribui para assegurar que a infração seja suficientemente grave para justificar potencialmente a utilização de sistemas de identificação biométrica à distância em tempo real. Além disso, a lista de infrações penais prevista no anexo do presente regulamento baseia-se nas 32 infrações penais enumeradas na Decisão-Quadro 2002/584/JAI do Conselho (18), tendo em conta que algumas delas são na prática provavelmente mais pertinentes do que outras, já que o recurso à identificação biométrica à distância «em tempo real» poderá previsivelmente ser necessário e proporcionado em graus extremamente variáveis no respeitante à localização ou identificação de um infrator ou suspeito das diferentes infrações penais enumeradas e tendo em conta as prováveis diferenças em termos de gravidade, probabilidade e magnitude dos danos ou das possíveis consequências negativas. Uma ameaça iminente à vida ou à segurança física de pessoas singulares também poderá resultar de uma perturbação grave causada a uma infraestrutura crítica, na aceção do artigo 2.o, ponto 4, da Diretiva (UE) 2022/2557 do Parlamento Europeu e do Conselho (19), sempre que a perturbação ou a destruição dessa infraestrutura crítica resulte numa ameaça iminente à vida ou à segurança física de uma pessoa, inclusive ao prejudicar gravemente o fornecimento de bens essenciais à população ou o exercício das funções essenciais do Estado. Além disso, o presente regulamento deverá preservar a capacidade das autoridades competentes em matéria de aplicação da lei, controlo das fronteiras, imigração ou asilo para realizarem controlos de identidade na presença da pessoa em causa, em conformidade com as condições estabelecidas no direito da União e no direito nacional para esses controlos. Em especial, as autoridades competentes em matéria de aplicação da lei, controlo das fronteiras, imigração ou asilo deverão poder utilizar sistemas de informação, em conformidade com o direito da União ou o direito nacional, para identificar pessoas que, durante um controlo de identidade, se recusem a ser identificadas ou não sejam capazes de declarar ou provar a sua identidade, sem serem obrigadas a obter uma autorização prévia por força do presente regulamento. Pode tratar-se, por exemplo, de uma pessoa envolvida num crime que não queira, ou não possa devido a um acidente ou doença, revelar a sua identidade às autoridades responsáveis pela aplicação da lei.
(33)
Η χρήση των συστημάτων αυτών για σκοπούς επιβολής του νόμου θα πρέπει, συνεπώς, να απαγορεύεται, με εξαίρεση εξαντλητικά απαριθμούμενες και αυστηρά καθορισμένες περιπτώσεις, στις οποίες η χρήση τους είναι απολύτως αναγκαία για την επίτευξη σκοπού ουσιαστικού δημόσιου συμφέροντος, η σπουδαιότητα του οποίου υπερτερεί των κινδύνων. Στις περιπτώσεις αυτές περιλαμβάνονται η αναζήτηση ορισμένων θυμάτων εγκληματικών πράξεων, συμπεριλαμβανομένων των εξαφανισμένων προσώπων· ορισμένες απειλές κατά της ζωής ή της σωματικής ακεραιότητας φυσικών προσώπων ή απειλές τρομοκρατικής επίθεσης· και ο εντοπισμός ή η ταυτοποίηση δραστών ή υπόπτων για τις αξιόποινες πράξεις που απαριθμούνται σε παράρτημα του παρόντος κανονισμού, εφόσον οι αξιόποινες αυτές πράξεις τιμωρούνται στο σχετικό κράτος μέλος με στερητική της ελευθερίας ποινή ή στερητικό της ελευθερίας μέτρο ασφάλειας ανώτατης διάρκειας τουλάχιστον τεσσάρων ετών και όπως ορίζονται κατά το δίκαιο του εν λόγω κράτους μέλους. Αυτό το όριο για τη στερητική της ελευθερίας ποινή ή το στερητικό της ελευθερίας μέτρο ασφάλειας σύμφωνα με το εθνικό δίκαιο συμβάλλει στο να διασφαλιστεί ότι η αξιόποινη πράξη θα είναι αρκετά σοβαρή ώστε να δικαιολογεί δυνητικά τη χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο». Εξάλλου, ο κατάλογος αξιόποινων πράξεων που παρατίθεται σε παράρτημα του παρόντος κανονισμού βασίζεται στις 32 αξιόποινες πράξεις που απαριθμούνται στην απόφαση-πλαίσιο 2002/584/ΔΕΥ του Συμβουλίου (18), λαμβανομένου υπόψη ότι στην πράξη ορισμένες από αυτές είναι πιθανόν να παρουσιάζουν μεγαλύτερη συνάφεια από κάποιες άλλες, υπό την έννοια ότι είναι αναμενόμενο να ποικίλλει σημαντικά ο βαθμός στον οποίο η προσφυγή στην εξ αποστάσεως βιομετρική ταυτοποίηση «σε πραγματικό χρόνο» θα μπορούσε να είναι αναγκαία και αναλογική για την έμπρακτη επιδίωξη του εντοπισμού ή της ταυτοποίησης δράστη ή υπόπτου για τις διάφορες απαριθμούμενες αξιόποινες πράξεις και λαμβανομένων επίσης υπόψη των πιθανών διαφορών ως προς τη σοβαρότητα, την πιθανότητα και την κλίμακα της βλάβης ή των ενδεχόμενων αρνητικών συνεπειών. Η επικείμενη απειλή κατά της ζωής ή της σωματικής ακεραιότητας φυσικών προσώπων θα μπορούσε επίσης να προκύψει από σοβαρή διατάραξη υποδομών ζωτικής σημασίας, όπως ορίζονται στο άρθρο 2 σημείο 4) της οδηγίας (ΕΕ) 2022/2557 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (19), όταν η διατάραξη ή η καταστροφή των εν λόγω υποδομών ζωτικής σημασίας θα οδηγούσε σε επικείμενη απειλή κατά της ζωής ή της σωματικής ακεραιότητας ενός προσώπου, μεταξύ άλλων μέσω σοβαρής βλάβης στην παροχή βασικών προμηθειών στον πληθυσμό ή στην άσκηση των βασικών λειτουργιών του κράτους. Επιπλέον, με τον παρόντα κανονισμό θα πρέπει να διατηρείται η δυνατότητα των αρχών που είναι αρμόδιες για την επιβολή του νόμου, τους συνοριακούς ελέγχους, τη μετανάστευση ή το άσυλο να διενεργούν ελέγχους ταυτότητας παρουσία του ενδιαφερόμενου προσώπου σύμφωνα με τις προϋποθέσεις που καθορίζονται στο ενωσιακό και το εθνικό δίκαιο για τους ελέγχους αυτούς. Ειδικότερα, οι αρχές που είναι αρμόδιες για την επιβολή του νόμου, τους συνοριακούς ελέγχους, τη μετανάστευση ή το άσυλο θα πρέπει να είναι σε θέση να χρησιμοποιούν συστήματα πληροφοριών, σύμφωνα με το ενωσιακό ή το εθνικό δίκαιο, για την ταυτοποίηση προσώπων τα οποία, κατά τη διάρκεια ελέγχου ταυτότητας, είτε αρνούνται να ταυτοποιηθούν είτε δεν είναι σε θέση να δηλώσουν ή να αποδείξουν την ταυτότητά τους, χωρίς να απαιτείται βάσει του παρόντος κανονισμού λήψη προηγούμενης άδειας. Αυτό θα μπορούσε να αφορά, για παράδειγμα, ένα πρόσωπο που εμπλέκεται σε εγκληματική πράξη και δεν είναι πρόθυμο ή δεν είναι σε θέση, λόγω ατυχήματος ή ιατρικής πάθησης, να αποκαλύψει την ταυτότητά του στις αρχές επιβολής του νόμου.
(34)
A fim de assegurar que esses sistemas sejam utilizados de uma forma responsável e proporcionada, também importa estabelecer que, em cada uma dessas situações enunciadas exaustivamente e definidas de modo restrito, é necessário ter em conta determinados elementos, em especial no que se refere à natureza da situação que dá origem ao pedido e às consequências da utilização para os direitos e as liberdades de todas as pessoas em causa e ainda às salvaguardas e condições previstas para a utilização. Além disso, a utilização de sistemas de identificação biométrica à distância «em tempo real» em espaços acessíveis ao público para efeitos de aplicação da lei só deverá ocorrer para efeitos de confirmação da identidade de uma pessoa especificamente visada e deverá ser limitada ao estritamente necessário no que respeita ao período, bem como ao âmbito geográfico e pessoal, tendo em conta, especialmente, os dados ou indícios relativos às ameaças, às vítimas ou ao infrator. A utilização do sistema de identificação biométrica à distância em tempo real em espaços acessíveis ao público só deverá ser autorizada se a competente autoridade responsável pela aplicação da lei tiver concluído uma avaliação de impacto sobre os direitos fundamentais e, salvo disposição em contrário no presente regulamento, tiver registado o sistema na base de dados prevista no presente regulamento. A base de dados de pessoas utilizada como referência deverá ser adequada a cada utilização em cada uma das situações acima indicadas.
(34)
Προκειμένου να διασφαλιστεί ότι τα συστήματα αυτά χρησιμοποιούνται κατά τρόπο υπεύθυνο και αναλογικό, είναι επίσης σημαντικό να καθοριστεί ότι, σε καθεμία από αυτές τις εξαντλητικά απαριθμούμενες και αυστηρά καθορισμένες περιπτώσεις, θα πρέπει να λαμβάνονται υπόψη ορισμένα στοιχεία, ιδίως όσον αφορά τη φύση της κατάστασης στο πλαίσιο της οποίας προκύπτει το αίτημα και τις συνέπειες της χρήσης για τα δικαιώματα και τις ελευθερίες όλων των ενδιαφερόμενων προσώπων, καθώς και τις εγγυήσεις και τους όρους που προβλέπονται για τη χρήση. Επιπλέον, η χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου θα πρέπει να γίνεται μόνο για την επιβεβαίωση της ταυτότητας του ειδικά στοχευόμενου ατόμου και θα πρέπει να περιορίζεται σε ό,τι είναι απολύτως αναγκαίο όσον αφορά τη χρονική περίοδο, καθώς και το γεωγραφικό και προσωπικό πεδίο εφαρμογής, λαμβανομένων ιδίως υπόψη των αποδεικτικών στοιχείων ή ενδείξεων σχετικά με τις απειλές, τα θύματα ή τον δράστη. Η χρήση του συστήματος εξ αποστάσεως βιομετρικής ταυτοποίησης σε πραγματικό χρόνο σε δημόσια προσβάσιμους χώρους θα πρέπει να επιτρέπεται μόνο εάν η σχετική αρχή επιβολής του νόμου έχει ολοκληρώσει εκτίμηση επιπτώσεων στα θεμελιώδη δικαιώματα και, εκτός αν προβλέπεται άλλως στον παρόντα κανονισμό, έχει καταχωρίσει το σύστημα στη βάση δεδομένων όπως ορίζεται στον παρόντα κανονισμό. Η βάση δεδομένων αναφοράς για τα πρόσωπα θα πρέπει να είναι κατάλληλη για κάθε περίπτωση χρήσης σε καθεμία από τις περιπτώσεις που αναφέρονται ανωτέρω.
(35)
Cada utilização de um sistema de identificação biométrica à distância «em tempo real» em espaços acessíveis ao público para efeitos de aplicação da lei deverá estar sujeita a uma autorização expressa e específica de uma autoridade judiciária ou de uma autoridade administrativa independente de um Estado-Membro cuja decisão seja vinculativa. Em princípio, essa autorização deverá ser obtida antes da utilização do sistema de IA com vista a identificar uma ou várias pessoas. Deverão ser permitidas exceções a essa regra em situações devidamente justificadas por motivos de urgência, nomeadamente em situações em que a necessidade de utilizar os sistemas em causa seja tal que torne efetiva e objetivamente impossível obter uma autorização antes de iniciar a utilização do sistema de IA. Nessas situações de urgência, a utilização do sistema de IA deverá limitar-se ao mínimo absolutamente necessário e estar sujeita a salvaguardas e condições adequadas, conforme determinado pelo direito nacional e especificado no contexto de cada caso de utilização urgente pela própria autoridade responsável pela aplicação da lei. Além disso, em tais situações, a autoridade responsável pela aplicação da lei deverá solicitar essa autorização, apresentando simultaneamente as razões para não ter podido solicitá-la mais cedo, sem demora injustificada e, o mais tardar, no prazo de 24 horas. Se essa autorização for recusada, a utilização de sistemas de identificação biométrica em tempo real associados a essa autorização deverá cessar com efeitos imediatos e todos os dados relacionados com essa utilização deverão ser suprimidos e apagados. Tais dados incluem dados de entrada adquiridos diretamente por um sistema de IA durante a utilização desse sistema, bem como os resultados da utilização associada a essa autorização. Não deverá incluir os dados de entrada licitamente adquiridos em conformidade com outras disposições pertinentes do direito da União ou do direito nacional. Em qualquer caso, nenhuma decisão que produza efeitos jurídicos adversos sobre uma pessoa deverá ser tomada exclusivamente com base nos resultados saídos do sistema de identificação biométrica à distância.
(35)
Κάθε χρήση συστήματος εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου θα πρέπει να υπόκειται σε ρητή και ειδική άδεια που χορηγείται από δικαστική αρχή ή από ανεξάρτητη διοικητική αρχή κράτους μέλους της οποίας η απόφαση έχει δεσμευτική ισχύ. Η άδεια αυτή θα πρέπει, κατ’ αρχήν, να λαμβάνεται πριν από τη χρήση του συστήματος ΤΝ με σκοπό την ταυτοποίηση προσώπου ή προσώπων. Εξαιρέσεις από τον κανόνα αυτό θα πρέπει να επιτρέπονται σε δεόντως αιτιολογημένες περιπτώσεις για λόγους επείγοντος, δηλαδή σε περιπτώσεις στις οποίες η ανάγκη χρήσης των σχετικών συστημάτων είναι τέτοια που η λήψη άδειας πριν από την έναρξη της χρήσης του συστήματος ΤΝ καθίσταται πρακτικά και αντικειμενικά αδύνατη. Σε αυτές τις επείγουσες περιπτώσεις, η χρήση του συστήματος ΤΝ θα πρέπει να περιορίζεται στο απολύτως ελάχιστο αναγκαίο και να υπόκειται στις κατάλληλες εγγυήσεις και προϋποθέσεις, όπως καθορίζονται στο εθνικό δίκαιο και εξειδικεύονται στο πλαίσιο κάθε επιμέρους περίπτωσης επείγουσας χρήσης από την ίδια την αρχή επιβολής του νόμου. Επιπλέον, σε τέτοιες περιπτώσεις, η αρχή επιβολής του νόμου θα πρέπει να ζητεί την άδεια αυτή, αναφέροντας παράλληλα τους λόγους για τους οποίους δεν ήταν σε θέση να τη ζητήσει νωρίτερα, χωρίς αδικαιολόγητη καθυστέρηση και το αργότερο εντός 24 ωρών. Εάν απορριφθεί μια τέτοια άδεια, η χρήση συστημάτων βιομετρικής ταυτοποίησης σε πραγματικό χρόνο που συνδέεται με την άδεια αυτή θα πρέπει να παύεται με άμεση ισχύ και όλα τα δεδομένα που σχετίζονται με τη συγκεκριμένη χρήση θα πρέπει να απορρίπτονται και να διαγράφονται. Στα δεδομένα αυτά περιλαμβάνονται δεδομένα εισόδου που έχουν αποκτηθεί απευθείας από σύστημα ΤΝ κατά τη διάρκεια της χρήσης τέτοιου συστήματος, καθώς και τα αποτελέσματα και τα στοιχεία εξόδου της χρήσης που συνδέεται με την άδεια αυτή. Δεν θα πρέπει να περιλαμβάνονται στοιχεία εισόδου που έχουν αποκτηθεί νόμιμα σύμφωνα με άλλο κανόνα ενωσιακού ή εθνικού δικαίου. Σε κάθε περίπτωση, δεν θα πρέπει να λαμβάνεται απόφαση που έχει δυσμενείς νομικές συνέπειες για ένα πρόσωπο με βάση αποκλειστικά τα στοιχεία εξόδου του συστήματος εξ αποστάσεως βιομετρικής ταυτοποίησης.
(36)
A fim de desempenharem as suas funções em conformidade com os requisitos estabelecidos no presente regulamento e nas regras nacionais, as autoridades de fiscalização do mercado competentes e a autoridade nacional de proteção de dados deverão ser notificadas de cada utilização do sistema de identificação biométrica em tempo real. As autoridades de fiscalização do mercado e as autoridades nacionais de proteção de dados que tenham sido notificadas deverão apresentar à Comissão um relatório anual sobre a utilização de sistemas de identificação biométrica em tempo real.
(36)
Για την εκτέλεση των καθηκόντων τους σύμφωνα με τις απαιτήσεις που ορίζονται στον παρόντα κανονισμό, καθώς και σε εθνικούς κανόνες, θα πρέπει να κοινοποιείται στην αρμόδια αρχή εποπτείας της αγοράς και στην εθνική αρχή προστασίας δεδομένων κάθε χρήση του συστήματος βιομετρικής ταυτοποίησης σε πραγματικό χρόνο. Οι αρχές εποπτείας της αγοράς και οι εθνικές αρχές προστασίας δεδομένων στις οποίες έχει γίνει κοινοποίηση θα πρέπει να υποβάλλουν στην Επιτροπή ετήσια έκθεση σχετικά με τη χρήση συστημάτων βιομετρικής ταυτοποίησης σε πραγματικό χρόνο.
(37)
Além disso, no âmbito do regime exaustivo estabelecido pelo presente regulamento, importa salientar que essa utilização no território de um Estado-Membro em conformidade com o presente regulamento apenas deverá ser possível uma vez que o Estado-Membro em causa tenha decidido possibilitar expressamente a autorização dessa utilização nas regras de execução previstas no direito nacional. Consequentemente, ao abrigo do presente regulamento, os Estados-Membros continuam a ser livres de não possibilitar essa utilização ou de apenas possibilitar essa utilização relativamente a alguns dos objetivos passíveis de justificar uma utilização autorizada identificados no presente regulamento. Essas regras nacionais deverão ser comunicadas à Comissão no prazo de 30 dias a contar da sua adoção.
(37)
Πέραν τούτου, ενδείκνυται να προβλεφθεί, εντός του εξαντλητικού πλαισίου που ορίζει ο παρών κανονισμός, ότι η εν λόγω χρήση στην επικράτεια κράτους μέλους σύμφωνα με τον παρόντα κανονισμό θα πρέπει να είναι δυνατή μόνο όταν και στον βαθμό που το σχετικό κράτος μέλος έχει αποφασίσει να προβλέψει ρητά τη δυνατότητα να επιτρέπεται η χρήση αυτή στο πλαίσιο των ειδικότερων κανόνων του εθνικού του δικαίου. Συνεπώς, τα κράτη μέλη έχουν την ευχέρεια, δυνάμει του παρόντος κανονισμού, να μην προβλέψουν καθόλου αυτήν τη δυνατότητα ή να προβλέψουν τη δυνατότητα αυτή μόνο για ορισμένους από τους στόχους που μπορούν να δικαιολογήσουν την εγκεκριμένη χρήση που προσδιορίζεται στον παρόντα κανονισμό. Οι εθνικοί αυτοί κανόνες θα πρέπει να κοινοποιούνται στην Επιτροπή εντός 30 ημερών από τη θέσπισή τους.
(38)
A utilização de sistemas de IA para a identificação biométrica à distância em tempo real de pessoas singulares em espaços acessíveis ao público para efeitos de aplicação da lei implica necessariamente o tratamento de dados biométricos. As regras do presente regulamento que proíbem essa utilização, salvo em certas exceções, e que têm por base o artigo 16.o do TFUE, deverão aplicar-se como lex specialis relativamente às regras em matéria de tratamento de dados biométricos previstas no artigo 10.o da Diretiva (UE) 2016/680, regulando assim essa utilização e o tratamento de dados biométricos conexo de uma forma exaustiva. Como tal, essa utilização e esse tratamento apenas deverão ser possíveis se forem compatíveis com o regime estabelecido pelo presente regulamento, sem que exista margem, fora desse regime, para as autoridades competentes utilizarem esses sistemas e efetuarem o tratamento desses dados pelos motivos enunciados no artigo 10.o da Diretiva (UE) 2016/680, caso atuem para efeitos de aplicação da lei. Nesse contexto, o presente regulamento não pretende constituir o fundamento jurídico do tratamento de dados pessoais, nos termos do artigo 8.o da Diretiva (UE) 2016/680. Contudo, a utilização de sistemas de identificação biométrica à distância em tempo real em espaços acessíveis ao público para outros fins que não os de aplicação da lei, inclusive por parte das autoridades competentes, não deverá ser abrangida pelo regime específico relativo a essa utilização para efeitos de aplicação da lei estabelecido pelo presente regulamento. Assim, uma utilização para outros fins que não a aplicação da lei não deverá estar sujeita ao requisito de autorização previsto no presente regulamento nem às regras de execução aplicáveis do direito nacional que possam dar prevalência a essa autorização.
(38)
Η χρήση συστημάτων ΤΝ για την εξ αποστάσεως βιομετρική ταυτοποίηση φυσικών προσώπων σε πραγματικό χρόνο σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου περιλαμβάνει κατ’ ανάγκη την επεξεργασία βιομετρικών δεδομένων. Οι κανόνες του παρόντος κανονισμού οι οποίοι, με την επιφύλαξη ορισμένων εξαιρέσεων, απαγορεύουν αυτήν τη χρήση και βασίζονται στο άρθρο 16 ΣΛΕΕ θα πρέπει να εφαρμόζονται ως lex specialis σε σχέση με τους κανόνες για την επεξεργασία βιομετρικών δεδομένων που περιέχονται στο άρθρο 10 της οδηγίας (ΕΕ) 2016/680, ρυθμίζοντας, συνεπώς, κατά τρόπο εξαντλητικό, τη χρήση αυτήν και την επεξεργασία των σχετικών βιομετρικών δεδομένων. Ως εκ τούτου, αυτή η χρήση και η επεξεργασία θα πρέπει να είναι δυνατές μόνο στον βαθμό που είναι συμβατές με το καθοριζόμενο στον παρόντα κανονισμό πλαίσιο, χωρίς να υπάρχει περιθώριο, εκτός του πλαισίου αυτού, για τις αρμόδιες αρχές, όταν ενεργούν για σκοπούς επιβολής του νόμου, να χρησιμοποιούν τα εν λόγω συστήματα και να επεξεργάζονται τα εν λόγω δεδομένα σε σχέση με αυτά τα συστήματα για τους λόγους που απαριθμούνται στο άρθρο 10 της οδηγίας (ΕΕ) 2016/680. Στο πλαίσιο αυτό, ο παρών κανονισμός δεν προορίζεται να αποτελέσει τη νομική βάση για την επεξεργασία δεδομένων προσωπικού χαρακτήρα σύμφωνα με το άρθρο 8 της οδηγίας (ΕΕ) 2016/680. Ωστόσο, η χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης σε πραγματικό χρόνο σε δημόσια προσβάσιμους χώρους για σκοπούς πλην της επιβολής του νόμου, μεταξύ άλλων από τις αρμόδιες αρχές, δεν θα πρέπει να καλύπτεται από το ειδικό πλαίσιο σχετικά με τη χρήση αυτή για σκοπούς επιβολής του νόμου το οποίο καθορίζεται στον παρόντα κανονισμό. Ως εκ τούτου, η χρήση αυτή για σκοπούς πλην της επιβολής του νόμου δεν θα πρέπει να υπόκειται στην απαίτηση λήψης άδειας δυνάμει του παρόντος κανονισμού και των εφαρμοστέων ειδικών κανόνων εθνικού δικαίου που ενδεχομένως θέτουν σε εφαρμογή την άδεια αυτή.
(39)
Qualquer tratamento de dados biométricos e de outros dados pessoais envolvidos na utilização de sistemas de IA para fins de identificação biométrica, desde que não estejam associados à utilização de sistemas de identificação biométrica à distância em tempo real em espaços acessíveis ao público para efeitos de aplicação da lei conforme regida pelo presente regulamento deverá continuar a cumprir todos os requisitos decorrentes do artigo10.o da Diretiva (UE) 2016/680. Para outros fins que não a aplicação da lei, o artigo 9.o, n.o 1, do Regulamento (UE) 2016/679 e o artigo 10.o, n.o 1, do Regulamento (UE) 2018/1725 proíbem o tratamento de dados biométricos, salvo nos casos abrangidos pelas exceções limitadas previstas nesses artigos. Em aplicação do artigo 9.o, n.o 1, do Regulamento (UE) 2016/679, a utilização da identificação biométrica à distância para outros fins que não a aplicação da lei já foi objeto de decisões de proibição por parte das autoridades nacionais de proteção de dados.
(39)
Κάθε επεξεργασία βιομετρικών δεδομένων και άλλων δεδομένων προσωπικού χαρακτήρα στο πλαίσιο της χρήσης συστημάτων ΤΝ για βιομετρική ταυτοποίηση, πλην αυτής που συνδέεται με τη χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης σε πραγματικό χρόνο σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου κατά τα οριζόμενα στον παρόντα κανονισμό, θα πρέπει να εξακολουθεί να συμμορφώνεται με όλες τις απαιτήσεις που απορρέουν από το άρθρο 10 της οδηγίας (ΕΕ) 2016/680. Για σκοπούς εκτός της επιβολής του νόμου, το άρθρο 9 παράγραφος 1 του κανονισμού (ΕΕ) 2016/679 και το άρθρο 10 παράγραφος 1 του κανονισμού (ΕΕ) 2018/1725 απαγορεύουν την επεξεργασία βιομετρικών δεδομένων, με περιορισμένης έκτασης εξαιρέσεις όπως προβλέπονται στα εν λόγω άρθρα. Κατά την εφαρμογή του άρθρου 9 παράγραφος 1 του κανονισμού (ΕΕ) 2016/679, έχουν ήδη εκδοθεί από εθνικές αρχές προστασίας δεδομένων απαγορευτικές αποφάσεις όσον αφορά τη χρήση εξ αποστάσεως βιομετρικής ταυτοποίησης για σκοπούς εκτός της επιβολής του νόμου.
(40)
Nos termos do artigo 6.o-A do Protocolo (n.o 21) relativo à posição do Reino Unido e da Irlanda em relação ao espaço de liberdade, segurança e justiça, anexo ao TUE e ao TFUE, a Irlanda não fica vinculada pelas regras estabelecidas no artigo 5.o, n.o 1, primeiro parágrafo, alínea g), na medida em que se aplica à utilização de sistemas de categorização biométrica para atividades no domínio da cooperação policial e da cooperação judicial em matéria penal, no artigo 5.o, n.o1, primeiro parágrafo, alínea d), na medida em que se aplica à utilização de sistemas de IA abrangidos por essa disposição, no artigo 5.o, n.o 1, primeiro parágrafo, alínea h), no artigo 5.o, n.os 2 a 6, e no artigo 26.o, n.o 10, do presente regulamento, adotadas com base no artigo 16.o do TFUE que digam respeito ao tratamento de dados pessoais pelos Estados-Membros no exercício de atividades que se enquadram no âmbito da parte III, título V, capítulos 4 ou 5, do TFUE, caso a Irlanda não esteja vinculada por regras que rejam formas de cooperação judiciária em matéria penal ou de cooperação policial no âmbito das quais devam ser observadas as disposições definidas com base no artigo 16.o do TFUE.
(40)
Σύμφωνα με το άρθρο 6α του πρωτοκόλλου αριθ. 21 για τη θέση του Ηνωμένου Βασιλείου και της Ιρλανδίας όσον αφορά τον χώρο ελευθερίας, ασφάλειας και δικαιοσύνης, το οποίο προσαρτάται στη ΣΕΕ και στη ΣΛΕΕ, η Ιρλανδία δεν δεσμεύεται από τους κανόνες οι οποίοι καθορίζονται στο άρθρο 5 παράγραφος 1 πρώτο εδάφιο στοιχείο ζ), στον βαθμό που εφαρμόζεται στη χρήση συστημάτων βιομετρικής κατηγοριοποίησης για δραστηριότητες στο πεδίο της αστυνομικής συνεργασίας και της δικαστικής συνεργασίας σε ποινικές υποθέσεις, στο άρθρο 5 παράγραφος 1 πρώτο εδάφιο στοιχείο δ), στον βαθμό που εφαρμόζεται στη χρήση συστημάτων ΤΝ καλυπτόμενων από την εν λόγω διάταξη, στο άρθρο 5 παράγραφος 1 πρώτο εδάφιο στοιχείο η), στο άρθρο 5 παράγραφοι 2 έως 6 και στο άρθρο 26 παράγραφος 10 του παρόντος κανονισμού και οι οποίοι θεσπίζονται βάσει του άρθρου 16 ΣΛΕΕ και αφορούν την επεξεργασία δεδομένων προσωπικού χαρακτήρα από τα κράτη μέλη κατά τη διεξαγωγή δραστηριοτήτων που εμπίπτουν στο πεδίο εφαρμογής του τρίτου μέρους τίτλος V κεφάλαιο 4 ή κεφάλαιο 5 ΣΛΕΕ, στον βαθμό που η Ιρλανδία δεν δεσμεύεται από τους κανόνες οι οποίοι διέπουν τις μορφές δικαστικής συνεργασίας σε ποινικές υποθέσεις ή αστυνομικής συνεργασίας στο πλαίσιο των οποίων πρέπει να τηρούνται οι διατάξεις οι οποίες θεσπίζονται βάσει του άρθρου 16 ΣΛΕΕ.
(41)
Nos termos dos artigos 2.o e 2.o-A do Protocolo (n.o 22) relativo à posição da Dinamarca, anexo ao TUE e ao TFUE, a Dinamarca não fica vinculada pelas regras estabelecidas no artigo 5.o, n.o 1, primeiro parágrafo, alínea g), na medida em que se aplica à utilização de sistemas de categorização biométrica para atividades no domínio da cooperação policial e da cooperação judicial em matéria penal, no artigo 5.o, n.o1, primeiro parágrafo, alínea d), na medida em que se aplica à utilização de sistemas de IA abrangidos por essa disposição, e no artigo 5.o, n.o 1, primeiro parágrafo, alínea h), n.os 2 a 6, e no artigo 26.o, n. 10, do presente regulamento, adotadas com base no artigo 16.o do TFUE que digam respeito ao tratamento de dados pessoais pelos Estados-Membros no exercício de atividades que se enquadram no âmbito de aplicação da parte III, título V, capítulos 4 ou 5, do TFUE, nem fica sujeita à aplicação das mesmas.
(41)
Σύμφωνα με τα άρθρα 2 και 2α του πρωτοκόλλου αριθ. 22 σχετικά με τη θέση της Δανίας, το οποίο προσαρτάται στη ΣΕΕ και στη ΣΛΕΕ, η Δανία δεν δεσμεύεται από τους κανόνες οι οποίοι καθορίζονται στο άρθρο 5 παράγραφος 1 πρώτο εδάφιο στοιχείο ζ), στον βαθμό που εφαρμόζεται στη χρήση συστημάτων βιομετρικής κατηγοριοποίησης για δραστηριότητες στο πεδίο της αστυνομικής συνεργασίας και της δικαστικής συνεργασίας σε ποινικές υποθέσεις, στο άρθρο 5 παράγραφος 1 πρώτο εδάφιο στοιχείο δ), στον βαθμό που εφαρμόζονται στη χρήση συστημάτων ΤΝ καλυπτόμενων από την εν λόγω διάταξη, στο άρθρο 5 παράγραφος 1 πρώτο εδάφιο στοιχείο η), στο άρθρο 5 παράγραφοι 2 έως 6 και στο άρθρο 26 παράγραφος 10 του παρόντος κανονισμού και οι οποίοι θεσπίζονται βάσει του άρθρου 16 ΣΛΕΕ και αφορούν την επεξεργασία δεδομένων προσωπικού χαρακτήρα από τα κράτη μέλη κατά τη διεξαγωγή δραστηριοτήτων που εμπίπτουν στο πεδίο εφαρμογής του τρίτου μέρους τίτλος V κεφάλαιο 4 ή κεφάλαιο 5 ΣΛΕΕ, ούτε υπόκειται στην εφαρμογή τους.
(42)
Em conformidade com a presunção de inocência, as pessoas singulares na União deverão ser sempre avaliadas em função do seu comportamento real. As pessoas singulares nunca poderão ser julgadas com base no comportamento previsto pela IA com base exclusivamente na definição do seu perfil, nos traços ou características da sua personalidade, como a nacionalidade, o local de nascimento, o local de residência, o número de filhos, o nível de endividamento ou o tipo de automóvel que têm, sem que exista uma suspeita razoável do seu envolvimento numa atividade criminosa com base em factos objetivos verificáveis, e sem uma avaliação humana dos mesmos. Por conseguinte, deverá ser proibido efetuar avaliações de risco de pessoas singulares que visem avaliar a probabilidade de cometerem infrações ou prever a ocorrência de uma infração penal real ou potencial exclusivamente com base na definição do seu perfil ou na avaliação dos traços e características da sua personalidade. Em todo o caso, essa proibição não se refere nem diz respeito a análises de risco que não se baseiem na definição de perfis de pessoas ou nos traços e características da personalidade de pessoas, tais como sistemas de IA que utilizam análises de risco para avaliar a probabilidade de fraude financeira por parte de empresas com base em transações suspeitas, ou ferramentas de análise de risco para prever a probabilidade de localização de estupefacientes ou mercadorias ilícitas pelas autoridades aduaneiras, por exemplo, com base em rotas de tráfico conhecidas.
(42)
Σύμφωνα με το τεκμήριο της αθωότητας, τα φυσικά πρόσωπα στην Ένωση θα πρέπει πάντα να κρίνονται με βάση την πραγματική συμπεριφορά τους. Τα φυσικά πρόσωπα δεν θα πρέπει ποτέ να κρίνονται με βάση την προβλεπόμενη από την ΤΝ συμπεριφορά που βασίζεται αποκλειστικά στην κατάρτιση προφίλ για αυτά ή σε γνωρίσματα ή χαρακτηριστικά της προσωπικότητάς τους, όπως ιθαγένεια, τόπος γέννησης, τόπος διαμονής, αριθμός παιδιών, ύψος χρέους ή είδος αυτοκινήτου, χωρίς εύλογες υπόνοιες εμπλοκής του εν λόγω προσώπου σε εγκληματική δραστηριότητα βάσει αντικειμενικών και επαληθεύσιμων γεγονότων και χωρίς ανθρώπινη αξιολόγησή τους. Ως εκ τούτου, θα πρέπει να απαγορεύονται οι εκτιμήσεις κινδύνου που διενεργούνται για φυσικά πρόσωπα προκειμένου να εκτιμηθεί η πιθανότητα να τελέσουν αξιόποινη πράξη ή να προβλεφθεί η τέλεση πραγματικής ή δυνητικής αξιόποινης πράξης με βάση αποκλειστικά την κατάρτιση προφίλ για αυτά ή την αξιολόγηση γνωρισμάτων και χαρακτηριστικών της προσωπικότητάς τους. Σε κάθε περίπτωση, η απαγόρευση αυτή δεν αφορά ούτε θίγει αναλύσεις κινδύνου που δεν βασίζονται στην κατάρτιση προφίλ για άτομα ή σε γνωρίσματα και χαρακτηριστικά της προσωπικότητας ατόμων, όπως συστήματα ΤΝ που χρησιμοποιούν αναλύσεις κινδύνου για την εκτίμηση της πιθανότητας οικονομικής απάτης από επιχειρήσεις βάσει ύποπτων συναλλαγών ή εργαλεία ανάλυσης κινδύνου για την πρόβλεψη της πιθανότητας εντοπισμού ναρκωτικών ή παράνομων εμπορευμάτων από τις τελωνειακές αρχές, για παράδειγμα με βάση γνωστές οδούς διακίνησης.
(43)
A colocação no mercado, a colocação em serviço para esse fim específico ou a utilização de sistemas de IA que criam ou expandem bases de dados de reconhecimento facial através da recolha aleatória de imagens faciais da Internet ou de imagens de CCTV deverão ser proibidas por essa prática aumentar o sentimento de vigilância em larga escala e poder conduzir a violações grosseiras dos direitos fundamentais, incluindo o direito à privacidade.
(43)
Θα πρέπει να απαγορεύεται η διάθεση στην αγορά, η θέση σε λειτουργία για τον συγκεκριμένο αυτό σκοπό ή η χρήση συστημάτων ΤΝ που δημιουργούν ή επεκτείνουν βάσεις δεδομένων αναγνώρισης προσώπου μέσω της μη στοχευμένης εξαγωγής εικόνων προσώπου από το διαδίκτυο ή από βίντεο CCTV, καθώς η πρακτική αυτή αυξάνει το αίσθημα μαζικής παρακολούθησης και μπορεί να οδηγήσει σε κατάφωρες παραβιάσεις των θεμελιωδών δικαιωμάτων, συμπεριλαμβανομένου του δικαιώματος στην ιδιωτική ζωή.
(44)
Existem sérias preocupações quanto à base científica dos sistemas de IA que visam identificar ou inferir emoções, especialmente porque a expressão de emoções varia consideravelmente entre culturas e situações, e até num mesmo indivíduo. Entre as principais deficiências desses sistemas contam-se a fiabilidade limitada, a falta de especificidade e a possibilidade limitada de generalização. Assim sendo, os sistemas de IA que identificam ou fazem inferências de emoções ou intenções de pessoas singulares com base nos seus dados biométricos podem conduzir a resultados discriminatórios e ser intrusivos nos direitos e liberdades das pessoas em causa. Tendo em conta o desequilíbrio de poder no contexto do trabalho ou da educação, combinado com a natureza intrusiva destes sistemas, tais sistemas podem conduzir a um tratamento prejudicial ou desfavorável de certas pessoas singulares ou de grupos inteiros de pessoas singulares. Por conseguinte, deverá ser proibida a colocação no mercado, a colocação em serviço ou a utilização de sistemas de IA concebidos para serem utilizados na deteção do estado emocional das pessoas em situações relacionadas com o local de trabalho e a educação. Essa proibição não deverá abranger os sistemas de IA colocados no mercado exclusivamente por razões médicas ou de segurança, como os sistemas destinados a utilização terapêutica.
(44)
Υπάρχουν σοβαρές ανησυχίες σχετικά με την επιστημονική βάση συστημάτων ΤΝ που στοχεύουν στον προσδιορισμό ή τη συναγωγή συναισθημάτων, ιδίως επειδή η έκφραση συναισθημάτων διαφέρει σημαντικά μεταξύ πολιτισμών και καταστάσεων, αλλά ακόμη και στο ίδιο άτομο. Στις βασικές αδυναμίες των συστημάτων αυτών συγκαταλέγονται η περιορισμένη αξιοπιστία, η έλλειψη εξειδικευτικότητας και η περιορισμένη γενικευτικότητα. Ως εκ τούτου, τα συστήματα ΤΝ που προβαίνουν σε προσδιορισμό ή συναγωγή συναισθημάτων ή προθέσεων φυσικών προσώπων βάσει των βιομετρικών τους δεδομένων μπορούν να οδηγήσουν σε διακρίσεις και καταπάτηση των δικαιωμάτων και των ελευθεριών των ενδιαφερόμενων προσώπων. Λαμβάνοντας υπόψη την ανισορροπία ισχύος στο πλαίσιο της εργασίας και της εκπαίδευσης, σε συνδυασμό με τον παρεμβατικό χαρακτήρα των συστημάτων αυτών, τα εν λόγω συστήματα θα μπορούσαν να οδηγήσουν σε επιζήμια ή δυσμενή μεταχείριση ορισμένων φυσικών προσώπων ή ολόκληρων ομάδων φυσικών προσώπων. Κατά συνέπεια, θα πρέπει να απαγορεύεται η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση συστημάτων ΤΝ που προορίζονται να χρησιμοποιηθούν για τον προσδιορισμό της συναισθηματικής κατάστασης ατόμων σε καταστάσεις που σχετίζονται με τον χώρο εργασίας και την εκπαίδευση. Η απαγόρευση αυτή δεν θα πρέπει να καλύπτει συστήματα ΤΝ που διατίθενται στην αγορά αποκλειστικά για ιατρικούς λόγους ή για λόγους ασφάλειας, όπως τα συστήματα που προορίζονται για θεραπευτική χρήση.
(45)
As práticas proibidas pelo direito da União, nomeadamente a legislação sobre proteção de dados, não discriminação, defesa do consumidor e direito da concorrência, não poderão ser afetadas pelo presente regulamento.
(45)
Οι πρακτικές που απαγορεύονται από το ενωσιακό δίκαιο, συμπεριλαμβανομένου του δικαίου για την προστασία των δεδομένων, του δικαίου κατά των διακρίσεων, του δικαίου για την προστασία των καταναλωτών και του δικαίου ανταγωνισμού, δεν θα πρέπει να επηρεάζονται από τον παρόντα κανονισμό.
(46)
Os sistemas de IA de risco elevado só deverão ser colocados no mercado da União, colocados em serviço ou utilizados se cumprirem determinados requisitos obrigatórios. Esses requisitos deverão assegurar que os sistemas de IA de risco elevado disponíveis na União ou cujos resultados sejam utilizados na União não representem riscos inaceitáveis para interesses públicos importantes da União, conforme reconhecidos e protegidos pelo direito da União. Com base no novo regime jurídico, tal como clarificado na comunicação da Comissão intitulada «Guia Azul de 2022 sobre a aplicação das regras da UE em matéria de produtos» (20), a regra geral é a de que mais do que um ato jurídico da legislação de harmonização da União, como os Regulamentos (UE) 2017/745 (21) e (UE) 2017/746 (22) do Parlamento Europeu e do Conselho ou a Diretiva 2006/42/CE do Parlamento Europeu e do Conselho (23), pode ser aplicável a um produto, uma vez que a disponibilização ou a colocação em serviço só pode ter lugar quando o produto cumprir toda a legislação de harmonização da União aplicável. A fim de assegurar a coerência e evitar encargos administrativos ou custos desnecessários, os prestadores de um produto que contenha um ou mais sistemas de IA de risco elevado, aos quais se aplicam os requisitos do presente regulamento e os requisitos dos atos enumerados na lista da legislação de harmonização da União constante de um anexo do presente regulamento, deverão ser flexíveis no que diz respeito às decisões operacionais sobre a forma otimizada de assegurar a conformidade de um produto que contenha um ou mais sistemas de IA com todos os requisitos aplicáveis da legislação harmonizada da União. A classificação de risco elevado aplicada a sistemas de IA deverá limitar-se aos sistemas que têm um impacto prejudicial substancial na saúde, na segurança e nos direitos fundamentais das pessoas na União, e tal limitação deverá minimizar quaisquer potenciais restrições ao comércio internacional.
(46)
Τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να διατίθενται στην αγορά της Ένωσης, να τίθενται σε λειτουργία ή να χρησιμοποιούνται μόνο εάν συμμορφώνονται με ορισμένες υποχρεωτικές απαιτήσεις. Οι απαιτήσεις αυτές θα πρέπει να διασφαλίζουν ότι τα συστήματα ΤΝ υψηλού κινδύνου που διατίθενται στην Ένωση ή των οποίων τα στοιχεία εξόδου χρησιμοποιούνται με άλλο τρόπο στην Ένωση δεν ενέχουν μη αποδεκτούς κινδύνους για σημαντικά δημόσια συμφέροντα της Ένωσης, όπως αναγνωρίζονται και προστατεύονται από το ενωσιακό δίκαιο. Με βάση το νέο νομοθετικό πλαίσιο, όπως διευκρινίζεται στην ανακοίνωση της Επιτροπής με τίτλο «Ο “Γαλάζιος Οδηγός” σχετικά με την εφαρμογή των κανόνων της ΕΕ για τα προϊόντα 2022» (20), ο γενικός κανόνας είναι ότι μπορούν να εφαρμόζονται σε ένα προϊόν περισσότερες από μία νομικές πράξεις της ενωσιακής νομοθεσίας εναρμόνισης, όπως οι κανονισμοί (ΕΕ) 2017/745 (21) και (ΕΕ) 2017/746 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (22) ή η οδηγία 2006/42/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (23), καθώς το προϊόν μπορεί να διατεθεί ή να τεθεί σε λειτουργία μόνο όταν είναι σύμφωνο με όλη την εφαρμοστέα ενωσιακή νομοθεσία εναρμόνισης. Για να εξασφαλίζεται συνοχή και να αποφεύγονται περιττές διοικητικές επιβαρύνσεις ή κόστος, οι πάροχοι προϊόντος που περιέχει ένα ή περισσότερα συστήματα ΤΝ υψηλού κινδύνου, στα οποία εφαρμόζονται οι απαιτήσεις του παρόντος κανονισμού και της ενωσιακής νομοθεσίας εναρμόνισης που παρατίθεται σε παράρτημα του παρόντος κανονισμού, θα πρέπει να είναι ευέλικτοι όσον αφορά τις επιχειρησιακές αποφάσεις σχετικά με τον βέλτιστο τρόπο εξασφάλισης της συμμόρφωσης ενός προϊόντος που περιέχει ένα ή περισσότερα συστήματα ΤΝ με όλες τις εφαρμοστέες απαιτήσεις της ενωσιακής νομοθεσίας εναρμόνισης. Τα συστήματα ΤΝ που χαρακτηρίζονται ως υψηλού κινδύνου θα πρέπει να περιορίζονται σε αυτά που έχουν σημαντικές επιβλαβείς επιπτώσεις στην υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα των προσώπων στην Ένωση και ο περιορισμός αυτός θα πρέπει να ελαχιστοποιεί τυχόν δυνητικούς περιορισμούς στο διεθνές εμπόριο.
(47)
Os sistemas de IA poderão ter repercussões negativas na saúde e na segurança das pessoas, em particular quando esses sistemas funcionam como componentes de segurança de produtos. Em conformidade com os objetivos da legislação de harmonização da União, designadamente facilitar a livre circulação de produtos no mercado interno e assegurar que apenas os produtos seguros e conformes entram no mercado, é importante prevenir e atenuar devidamente os riscos de segurança que possam ser criados por um produto devido aos seus componentes digitais, incluindo sistemas de IA. A título de exemplo, os robôs, cada vez mais autónomos, deverão poder operar com segurança e desempenhar as suas funções em ambientes complexos, seja num contexto industrial ou de assistência e cuidados pessoais. De igual forma, no setor da saúde — um setor no qual os riscos para a vida e a saúde são particularmente elevados —, os sistemas de diagnóstico e os sistemas que apoiam decisões humanas, que estão cada vez mais sofisticados, deverão produzir resultados exatos e de confiança.
(47)
Τα συστήματα ΤΝ θα μπορούσαν να έχουν δυσμενή αντίκτυπο στην υγεία και την ασφάλεια των προσώπων, ιδίως όταν τα εν λόγω συστήματα λειτουργούν ως κατασκευαστικά στοιχεία ασφάλειας προϊόντων. Με συνέπεια όσον αφορά τους στόχους της ενωσιακής νομοθεσίας εναρμόνισης οι οποίοι συνίστανται στη διευκόλυνση της ελεύθερης κυκλοφορίας των εμπορευμάτων στην εσωτερική αγορά και στο να διασφαλίζεται ότι μόνο ασφαλή και κατά τα άλλα συμμορφούμενα προϊόντα εισέρχονται στην αγορά, είναι σημαντικό να προλαμβάνονται και να μετριάζονται κατάλληλα οι κίνδυνοι για την ασφάλεια που ενδέχεται να προκύψουν από ένα προϊόν στο σύνολό του λόγω των ψηφιακών κατασκευαστικών του στοιχείων, συμπεριλαμβανομένων των συστημάτων ΤΝ. Για παράδειγμα, τα ολοένα και πιο αυτόνομα ρομπότ, είτε στο πλαίσιο της κατασκευαστικής είτε της προσωπικής βοήθειας και φροντίδας, θα πρέπει να είναι σε θέση να λειτουργούν με ασφάλεια και να εκτελούν τις λειτουργίες τους σε σύνθετα περιβάλλοντα. Ομοίως, στον τομέα της υγείας όπου το διακύβευμα για τη ζωή και την υγεία είναι ιδιαίτερα υψηλό, τα ολοένα και πιο εξελιγμένα συστήματα διάγνωσης και τα συστήματα που υποστηρίζουν τις ανθρώπινες αποφάσεις θα πρέπει να είναι αξιόπιστα και ακριβή.
(48)
A dimensão das repercussões negativas causadas pelo sistema de IA nos direitos fundamentais protegidos pela Carta é particularmente importante quando se classifica um sistema de IA como sendo de risco elevado. Esses direitos incluem o direito à dignidade do ser humano, o respeito da vida privada e familiar, a proteção de dados pessoais, a liberdade de expressão e de informação, a liberdade de reunião e de associação, o direito à não discriminação, o direito à educação, a defesa dos consumidores, os direitos dos trabalhadores, os direitos das pessoas com deficiência, a igualdade de género, os direitos de propriedade intelectual, o direito à ação e a um tribunal imparcial, o direito à defesa e a presunção de inocência, e o direito a uma boa administração. Além desses direitos, é importante salientar o facto de que as crianças têm direitos específicos, consagrados no artigo 24.o da Carta e na Convenção das Nações Unidas sobre os Direitos da Criança, desenvolvidos com mais pormenor no Comentário Geral n.o 25 da Convenção das Nações Unidas sobre os Direitos da Criança no respeitante ao ambiente digital, que exigem que as vulnerabilidades das crianças sejam tidas em conta e que estas recebam a proteção e os cuidados necessários ao seu bem-estar. O direito fundamental a um nível elevado de proteção do ambiente consagrado na Carta e aplicado nas políticas da União também deverá ser tido em conta ao avaliar a gravidade dos danos que um sistema de IA pode causar, nomeadamente em relação à saúde e à segurança das pessoas.
(48)
Η έκταση των δυσμενών επιπτώσεων του συστήματος ΤΝ στα θεμελιώδη δικαιώματα που προστατεύονται από τον Χάρτη έχει ιδιαίτερη σημασία για την ταξινόμηση ενός συστήματος ΤΝ ως υψηλού κινδύνου. Τα δικαιώματα αυτά περιλαμβάνουν το δικαίωμα στην ανθρώπινη αξιοπρέπεια, τον σεβασμό της ιδιωτικής και οικογενειακής ζωής, την προστασία των δεδομένων προσωπικού χαρακτήρα, την ελευθερία έκφρασης και πληροφόρησης, την ελευθερία του συνέρχεσθαι και του συνεταιρίζεσθαι, το δικαίωμα στην απαγόρευση των διακρίσεων, το δικαίωμα εκπαίδευσης, την προστασία των καταναλωτών, τα δικαιώματα των εργαζομένων, τα δικαιώματα των ατόμων με αναπηρία, την ισότητα των φύλων, τα δικαιώματα διανοητικής ιδιοκτησίας, το δικαίωμα πραγματικής προσφυγής και αμερόληπτου δικαστηρίου, το δικαίωμα υπεράσπισης και το τεκμήριο αθωότητας, καθώς και το δικαίωμα χρηστής διοίκησης. Πέραν των δικαιωμάτων αυτών, είναι σημαντικό να επισημανθεί το γεγονός ότι τα παιδιά έχουν ειδικά δικαιώματα, όπως κατοχυρώνονται στο άρθρο 24 του Χάρτη και στη Σύμβαση των Ηνωμένων Εθνών για τα Δικαιώματα του Παιδιού, που αναπτύσσονται περαιτέρω στο γενικό σχόλιο αριθ. 25 της ΣΗΕΔΠ όσον αφορά το ψηφιακό περιβάλλον· αμφότερες οι διατάξεις αυτές απαιτούν να λαμβάνονται υπόψη τα ευάλωτα χαρακτηριστικά των παιδιών και να παρέχονται η προστασία και η φροντίδα που απαιτούνται για την ευημερία τους. Το θεμελιώδες δικαίωμα σε υψηλό επίπεδο προστασίας του περιβάλλοντος, το οποίο κατοχυρώνεται στον Χάρτη και εφαρμόζεται σε πολιτικές της Ένωσης, θα πρέπει επίσης να λαμβάνεται υπόψη κατά την αξιολόγηση της σοβαρότητας της βλάβης που μπορεί να προκαλέσει ένα σύστημα ΤΝ, μεταξύ άλλων και σε σχέση με την υγεία και την ασφάλεια των προσώπων.
(49)
Relativamente aos sistemas de IA de risco elevado que são componentes de segurança de produtos ou sistemas ou que são, eles próprios, produtos ou sistemas abrangidos pelo âmbito de aplicação do Regulamento (CE) n.o 300/2008 do Parlamento Europeu e do Conselho (24), do Regulamento (UE) n.o 167/2013 do Parlamento Europeu e do Conselho (25), do Regulamento (UE) n.o 168/2013 do Parlamento Europeu e do Conselho (26), da Diretiva 2014/90/UE do Parlamento Europeu e do Conselho (27), da Diretiva (UE) 2016/797 do Parlamento Europeu e do Conselho (28), do Regulamento (UE) 2018/858 do Parlamento Europeu e do Conselho (29), do Regulamento (UE) 2018/1139 do Parlamento Europeu e do Conselho (30) e do Regulamento (UE) 2019/2144 do Parlamento Europeu e do Conselho (31), é adequado alterar esses atos para assegurar que a Comissão tenha em conta os requisitos obrigatórios aplicáveis aos sistemas de IA de risco elevado estabelecidos no presente regulamento aquando da adoção de quaisquer atos delegados ou de execução pertinentes com base nesses atos, atendendo às especificidades técnicas e regulamentares de cada setor e sem interferir nos mecanismos existentes de governação, de avaliação da conformidade e de execução nem com as autoridades estabelecidas nesses atos.
(49)
Όσον αφορά τα συστήματα ΤΝ υψηλού κινδύνου που αποτελούν κατασκευαστικά στοιχεία ασφάλειας προϊόντων ή συστημάτων ή είναι τα ίδια προϊόντα ή συστήματα που εμπίπτουν στο πεδίο εφαρμογής του κανονισμού (ΕΚ) αριθ. 300/2008 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (24), του κανονισμού (ΕΕ) αριθ. 167/2013 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (25), του κανονισμού (ΕΕ) αριθ. 168/2013 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (26), της οδηγίας 2014/90/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (27), της οδηγίας (ΕΕ) 2016/797 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (28), του κανονισμού (ΕΕ) 2018/858 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (29), του κανονισμού (ΕΕ) 2018/1139 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (30) και του κανονισμού (ΕΕ) 2019/2144 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (31), ενδείκνυται να τροποποιηθούν οι πράξεις αυτές, ώστε να διασφαλιστεί ότι η Επιτροπή λαμβάνει υπόψη, βάσει των τεχνικών και κανονιστικών ιδιαιτεροτήτων κάθε τομέα, και χωρίς να παρεμβαίνει στους υφιστάμενους μηχανισμούς διακυβέρνησης, αξιολόγησης της συμμόρφωσης και επιβολής, καθώς και στις αρχές που συγκροτούνται στο πλαίσιο αυτών, τις υποχρεωτικές απαιτήσεις για τα συστήματα ΤΝ υψηλού κινδύνου οι οποίες καθορίζονται στον παρόντα κανονισμό κατά τη θέσπιση τυχόν σχετικών κατ’ εξουσιοδότηση ή εκτελεστικών πράξεων βάσει των εν λόγω πράξεων.
(50)
Relativamente aos sistemas de IA que são componentes de segurança de produtos ou que são, eles próprios, produtos abrangidos pelo âmbito de determinada legislação de harmonização da União enumerada num anexo do presente regulamento, é apropriado classificá-los como sendo de risco elevado nos termos do presente regulamento se o produto em causa for objeto de um procedimento de avaliação da conformidade realizado por um organismo terceiro de avaliação da conformidade nos termos dessa legislação de harmonização da União aplicável. Em particular, esses produtos são máquinas, brinquedos, ascensores, aparelhos e sistemas de proteção destinados a ser utilizados em atmosferas potencialmente explosivas, equipamentos de rádio, equipamentos sob pressão, equipamentos de embarcações de recreio, instalações por cabo, aparelhos a gás, dispositivos médicos, dispositivos médicos para diagnóstico in vitro, automóveis e aviação
(50)
Όσον αφορά τα συστήματα ΤΝ που αποτελούν κατασκευαστικά στοιχεία ασφάλειας προϊόντων ή είναι τα ίδια προϊόντα που εμπίπτουν στο πεδίο εφαρμογής ορισμένων ενωσιακών νομοθετικών πράξεων εναρμόνισης που απαριθμούνται σε παράρτημα του παρόντος κανονισμού, ενδείκνυται να ταξινομηθούν ως υψηλού κινδύνου βάσει του παρόντος κανονισμού εάν το σχετικό προϊόν υποβάλλεται στη διαδικασία αξιολόγησης της συμμόρφωσης από τρίτο οργανισμό αξιολόγησης της συμμόρφωσης δυνάμει της εν λόγω σχετικής ενωσιακής νομοθεσίας εναρμόνισης. Ειδικότερα, τα προϊόντα αυτά είναι μηχανήματα, παιχνίδια, ανελκυστήρες, εξοπλισμός και συστήματα προστασίας που προορίζονται για χρήση σε εκρήξιμες ατμόσφαιρες, ραδιοεξοπλισμός, εξοπλισμός υπό πίεση, εξοπλισμός σκαφών αναψυχής, εγκαταστάσεις με συρματόσχοινα, συσκευές με καύση αέριων καυσίμων, ιατροτεχνολογικά προϊόντα, in vitro διαγνωστικά ιατροτεχνολογικά προϊόντα, προϊόντα αυτοκινητοβιομηχανίας και προϊόντα αεροπορίας.
(51)
A classificação de um sistema de IA como sendo de risco elevado nos termos do presente regulamento não deverá implicar necessariamente que se considere o produto cujo componente de segurança é o sistema de IA, ou o próprio sistema de IA enquanto produto, como sendo de «risco elevado» segundo os critérios estabelecidos na legislação de harmonização da União aplicável ao produto. É o caso, nomeadamente dos Regulamentos (UE) 2017/745 e (UE) 2017/746, em que é prevista uma avaliação da conformidade por terceiros para produtos de risco médio e elevado.
(51)
Η ταξινόμηση ενός συστήματος ΤΝ ως υψηλού κινδύνου δυνάμει του παρόντος κανονισμού δεν θα πρέπει κατ’ ανάγκη να σημαίνει ότι το προϊόν του οποίου κατασκευαστικό στοιχείο ασφάλειας είναι το σύστημα ΤΝ, ή το ίδιο το σύστημα ΤΝ ως προϊόν, θεωρείται υψηλού κινδύνου σύμφωνα με τα κριτήρια που καθορίζονται στη σχετική ενωσιακή νομοθεσία εναρμόνισης που εφαρμόζεται στο προϊόν. Αυτό ισχύει, ιδίως, στην περίπτωση των κανονισμών (ΕΕ) 2017/745 και (ΕΕ) 2017/746, όπου προβλέπεται αξιολόγηση της συμμόρφωσης από τρίτο μέρος για προϊόντα μεσαίου και υψηλού κινδύνου.
(52)
Relativamente aos sistemas de IA autónomos, nomeadamente os sistemas de IA de risco elevado que não são componentes de segurança de produtos, ou que não são, eles próprios, produtos, é apropriado classificá-los como sendo de risco elevado se, à luz da sua finalidade prevista, representarem um risco elevado de danos para a saúde e a segurança ou de prejuízo para os direitos fundamentais das pessoas, tendo em conta a gravidade dos possíveis danos e a probabilidade da ocorrência desses danos, e se forem utilizados num conjunto de domínios especificamente predefinidos no presente regulamento. A identificação desses sistemas baseia-se na mesma metodologia e nos mesmos critérios previstos também para futuras alterações da lista de sistemas de IA de risco elevado que a Comissão deverá ficar habilitada a adotar, através de atos delegados, a fim de ter em conta o rápido ritmo da evolução tecnológica, bem como as potenciais alterações na utilização de sistemas de IA.
(52)
Όσον αφορά τα αυτόνομα συστήματα ΤΝ, δηλαδή τα συστήματα ΤΝ υψηλού κινδύνου πλην αυτών που αποτελούν κατασκευαστικά στοιχεία ασφάλειας προϊόντων ή είναι τα ίδια προϊόντα, ενδείκνυται να ταξινομηθούν ως υψηλού κινδύνου εάν, με βάση τον επιδιωκόμενο σκοπό τους, ενέχουν υψηλό κίνδυνο βλάβης για την υγεία και την ασφάλεια ή τα θεμελιώδη δικαιώματα των προσώπων, λαμβανομένων υπόψη τόσο της σοβαρότητας της ενδεχόμενης βλάβης, όσο και της πιθανότητας επέλευσής της, και χρησιμοποιούνται σε ορισμένους ειδικά προκαθορισμένους τομείς που προσδιορίζονται στον παρόντα κανονισμό. Ο προσδιορισμός των εν λόγω συστημάτων βασίζεται στην ίδια μεθοδολογία και στα ίδια κριτήρια που προβλέπονται και για τυχόν μελλοντικές τροποποιήσεις του καταλόγου των συστημάτων ΤΝ υψηλού κινδύνου που θα πρέπει να εξουσιοδοτηθεί η Επιτροπή να εγκρίνει, μέσω κατ’ εξουσιοδότηση πράξεων, ώστε να λαμβάνονται υπόψη ο ταχύς ρυθμός της τεχνολογικής ανάπτυξης και οι δυνητικές αλλαγές της χρήσης των συστημάτων ΤΝ.
(53)
É igualmente importante esclarecer que podem existir casos específicos em que os sistemas de IA referidos em domínios predefinidos especificados no presente regulamento não conduzam a um risco significativo de prejuízo para os interesses jurídicos protegidos nesses domínios por não influenciarem significativamente a tomada de decisões ou não prejudicarem substancialmente esses interesses. Para efeitos do presente regulamento, um sistema de IA que não influencie significativamente o resultado da tomada de decisões deverá ser entendido como um sistema de IA que não tem impacto na substância nem, por conseguinte, no resultado da tomada de decisões, seja ele humano ou automatizado. Um sistema de IA que não influencie significativamente o resultado da tomada de decisões poderá incluir situações em que uma ou mais das seguintes condições estejam preenchidas. A primeira condição deverá ser a de que o sistema de IA se destina a desempenhar uma tarefa processual restrita, como um sistema de IA que transforma dados não estruturados em dados estruturados, um sistema de IA que classifica os documentos recebidos em categorias ou um sistema de IA que é utilizado para detetar duplicações entre um grande número de aplicações. Essas tarefas são de natureza tão restrita e limitada que representam apenas riscos limitados que não aumentam pela utilização num contexto que seja enumerado num anexo do presente regulamento como sendo uma utilização de um sistema de IA de risco elevado. A segunda condição deverá ser a de que a tarefa desempenhada pelo sistema de IA se destina a melhorar o resultado de uma atividade humana previamente concluída que possa ser relevante para efeitos dos usos de risco elevado enumerados num anexo do presente regulamento. Tendo em conta essas características, o sistema de IA proporciona apenas uma camada adicional a uma atividade humana, consequentemente com um risco reduzido. Essa condição será, por exemplo, aplicável aos sistemas de IA destinados a melhorar a linguagem utilizada em documentos redigidos anteriormente, por exemplo em relação ao tom profissional, ao estilo académico ou ao alinhamento do texto com uma determinada mensagem de marca. A terceira condição deverá ser a de que o sistema de IA se destina a detetar padrões de tomada de decisão ou desvios em relação aos padrões de tomada de decisão anteriores. O risco será reduzido porque a utilização do sistema de IA segue-se a uma avaliação humana previamente concluída, que não se destina a substituir nem a influenciar, sem uma revisão humana adequada. Esses sistemas de IA incluem, por exemplo, os que, tendo em conta um determinado padrão de atribuição de notas de um professor, podem ser utilizados para verificar ex post se o professor se pode ter desviado do padrão de atribuição de notas, de modo a assinalar potenciais incoerências ou anomalias. A quarta condição deverá ser a de que o sistema de IA se destina a executar uma tarefa que é apenas preparatória para uma avaliação pertinente para efeitos dos sistemas de IA enumerados num anexo do presente regulamento, tornando assim o possível impacto do resultado do sistema muito reduzido em termos de risco para a avaliação a realizar. Essa condição abrange, entre outras coisas, soluções inteligentes para o tratamento de ficheiros que incluem várias funções, como a indexação, a pesquisa, o processamento de texto e de voz ou a ligação de dados a outras fontes de dados, ou sistemas de IA utilizados para a tradução de documentos iniciais. Em qualquer caso, deverá considerar-se que os sistemas de IA utilizados em casos concretos de utilização de risco elevado, enumerados num anexo do presente regulamento, apresentam riscos significativos de danos para a saúde, a segurança ou os direitos fundamentais se o sistema de IA implicar a definição de perfis na aceção do artigo 4.o, ponto 4, do Regulamento (UE) 2016/679, do artigo 3.o, ponto 4, da Diretiva (UE) 2016/680 ou do artigo 3.o, ponto 5, do Regulamento (UE) 2018/1725. A fim de assegurar a rastreabilidade e a transparência, um prestador que considere que um sistema de IA não é de risco elevado com base nas condições referidas supra deverá elaborar a documentação da avaliação antes de esse sistema ser colocado no mercado ou colocado em serviço e deverá apresentar essa documentação às autoridades nacionais competentes mediante pedido. Tal prestador deverá ser obrigado a registar o sistema de IA na base de dados da UE criada ao abrigo do presente regulamento. Com vista a disponibilizar orientações adicionais para a aplicação prática das condições ao abrigo das quais os sistemas de IA referidos num anexo ao presente regulamento não são, a título excecional, de risco elevado, a Comissão deverá, após consulta do Comité, disponibilizar orientações que especifiquem essa aplicação prática, completadas por uma lista exaustiva de exemplos práticos de casos de utilização de sistemas de IA que sejam de risco elevado e de casos de utilização risco não elevado.
(53)
Είναι επίσης σημαντικό να διευκρινιστεί ότι ενδέχεται να υπάρχουν ειδικές περιπτώσεις όπου συστήματα ΤΝ τα οποία αναφέρονται σε προκαθορισμένους τομείς προσδιοριζόμενους στον παρόντα κανονισμό δεν εγκυμονούν σημαντικό κίνδυνο βλάβης των έννομων συμφερόντων που προστατεύονται στους τομείς αυτούς επειδή δεν επηρεάζουν ουσιωδώς τη λήψη αποφάσεων ή δεν βλάπτουν ουσιωδώς τα εν λόγω συμφέροντα. Για τους σκοπούς του παρόντος κανονισμού, ως σύστημα ΤΝ που δεν επηρεάζει ουσιωδώς το αποτέλεσμα της λήψης αποφάσεων θα πρέπει να νοείται ένα σύστημα ΤΝ που δεν έχει αντίκτυπο στην ουσία και, συνεπώς, στο αποτέλεσμα της λήψης αποφάσεων, είτε ανθρώπινης είτε αυτοματοποιημένης. Ένα σύστημα ΤΝ που δεν επηρεάζει ουσιωδώς το αποτέλεσμα της λήψης αποφάσεων θα μπορούσε να περιλαμβάνει καταστάσεις όπου πληρούνται μία ή περισσότερες από τις ακόλουθες προϋποθέσεις. Η πρώτη προϋπόθεση θα πρέπει να είναι ότι το σύστημα ΤΝ προορίζεται για την εκτέλεση μιας περιορισμένης διαδικαστικής εργασίας, όπως ένα σύστημα ΤΝ που μετατρέπει μη δομημένα δεδομένα σε δομημένα δεδομένα, ένα σύστημα ΤΝ που ταξινομεί εισερχόμενα έγγραφα σε κατηγορίες ή ένα σύστημα ΤΝ που χρησιμοποιείται για τον εντοπισμό διπλότυπων σε ένα μεγάλο σύνολο αιτήσεων. Οι εργασίες αυτές έχουν τόσο στενό και περιορισμένο χαρακτήρα ώστε εγκυμονούν μόνο περιορισμένης κλίμακας κινδύνους, οι οποίοι δεν αυξάνονται μέσω της χρήσης συστήματος ΤΝ σε πλαίσιο που απαριθμείται ως χρήση υψηλού κινδύνου σε παράρτημα του παρόντος κανονισμού. Η δεύτερη προϋπόθεση θα πρέπει να είναι ότι η εργασία που εκτελείται από το σύστημα ΤΝ στοχεύει στη βελτίωση του αποτελέσματος ανθρώπινης δραστηριότητας που έχει ολοκληρωθεί προηγουμένως και μπορεί να σχετίζεται με τους σκοπούς των χρήσεων υψηλού κινδύνου που απαριθμούνται σε παράρτημα του παρόντος κανονισμού. Λαμβανομένων υπόψη των χαρακτηριστικών αυτών, το σύστημα ΤΝ συμπληρώνει απλώς μια ανθρώπινη δραστηριότητα με μειωμένο, κατά συνέπεια, κίνδυνο. Η προϋπόθεση αυτή θα μπορούσε, για παράδειγμα, να αφορά συστήματα ΤΝ που προορίζονται για τη βελτίωση της γλώσσας που χρησιμοποιείται σε έγγραφα που έχουν ήδη συνταχθεί, για παράδειγμα σε σχέση με τον επαγγελματικό τόνο ή το ακαδημαϊκό γλωσσικό ύφος ή για την ευθυγράμμιση του κειμένου με ορισμένη στρατηγική εταιρικής επικοινωνίας. Η τρίτη προϋπόθεση θα πρέπει να είναι ότι το σύστημα ΤΝ έχει ως σκοπό τον εντοπισμό μοτίβων λήψης αποφάσεων ή αποκλίσεων από προηγούμενα μοτίβα λήψης αποφάσεων. Ο κίνδυνος θα είναι μειωμένος διότι η χρήση του συστήματος ΤΝ έπεται ανθρώπινης αξιολόγησης που έχει ολοκληρωθεί προηγουμένως και την οποία δεν αποσκοπεί να αντικαταστήσει ή να επηρεάσει χωρίς κατάλληλη ανθρώπινη επανεξέταση. Στα συστήματα ΤΝ αυτού του είδους περιλαμβάνονται, για παράδειγμα, εκείνα που, με δεδομένο ένα ορισμένο μοτίβο βαθμολόγησης ενός εκπαιδευτικού, μπορούν να χρησιμοποιηθούν για να ελεγχθεί εκ των υστέρων αν ο εκπαιδευτικός έχει ενδεχομένως αποκλίνει από το μοτίβο βαθμολόγησης, ώστε να επισημαίνονται δυνητικές ασυνέπειες ή ανωμαλίες. Η τέταρτη προϋπόθεση θα πρέπει να είναι ότι το σύστημα ΤΝ προορίζεται για την εκτέλεση εργασίας που είναι απλώς προπαρασκευαστική για τη διενέργεια αξιολόγησης σχετιζόμενης με τους σκοπούς των συστημάτων ΤΝ που παρατίθενται σε παράρτημα του παρόντος κανονισμού, καθιστώντας έτσι πολύ μικρό τον ενδεχόμενο αντίκτυπο των στοιχείων εξόδου του συστήματος από την άποψη του κινδύνου που εγκυμονούν τα στοιχεία αυτά για την αξιολόγηση που θα ακολουθήσει. Η προϋπόθεση αυτή καλύπτει, μεταξύ άλλων, έξυπνες λύσεις για τον χειρισμό αρχείων, στις οποίες περιλαμβάνονται διάφορες λειτουργίες, όπως η ευρετηρίαση, η αναζήτηση, η επεξεργασία κειμένου και ομιλίας ή η σύνδεση δεδομένων με άλλες πηγές δεδομένων, ή συστήματα ΤΝ που χρησιμοποιούνται για τη μετάφραση αρχικών εγγράφων. Σε κάθε περίπτωση, τα συστήματα ΤΝ που χρησιμοποιούνται σε περιπτώσεις χρήσης υψηλού κινδύνου που απαριθμούνται σε παράρτημα του παρόντος κανονισμού θα πρέπει να θεωρείται ότι εγκυμονούν σημαντικούς κινδύνους βλάβης της υγείας, της ασφάλειας ή των θεμελιωδών δικαιωμάτων, εάν το σύστημα ΤΝ συνεπάγεται κατάρτιση προφίλ κατά την έννοια του άρθρου 4 σημείο 4) του κανονισμού (ΕΕ) 2016/679 ή του άρθρου 3 σημείο 4) της οδηγίας (ΕΕ) 2016/680 ή του άρθρου 3 σημείο 5) του κανονισμού (ΕΕ) 2018/1725. Για την εξασφάλιση ιχνηλασιμότητας και διαφάνειας, ένας πάροχος που θεωρεί ότι ένα σύστημα ΤΝ δεν είναι υψηλού κινδύνου βάσει των προϋποθέσεων που αναφέρονται ανωτέρω θα πρέπει να καταρτίζει υλικό τεκμηρίωσης της αξιολόγησης πριν από τη διάθεση του συστήματος στην αγορά ή τη θέση του σε λειτουργία και θα πρέπει να παρέχει αυτό το υλικό τεκμηρίωσης στις εθνικές αρμόδιες αρχές κατόπιν αιτήματος. Ο πάροχος αυτός θα πρέπει να υποχρεούται να καταχωρίσει το σύστημα ΤΝ στη βάση δεδομένων της ΕΕ που δημιουργείται δυνάμει του παρόντος κανονισμού. Με σκοπό την παροχή περαιτέρω καθοδήγησης για την πρακτική εφαρμογή των προϋποθέσεων υπό τις οποίες τα συστήματα ΤΝ που απαριθμούνται σε παράρτημα του παρόντος κανονισμού είναι, κατ’ εξαίρεση, μη υψηλού κινδύνου, η Επιτροπή θα πρέπει, κατόπιν διαβούλευσης με το Συμβούλιο Τεχνητής Νοημοσύνης, να παρέχει κατευθυντήριες γραμμές που να διευκρινίζουν την πρακτική αυτή εφαρμογή, μαζί με πλήρη κατάλογο πρακτικών παραδειγμάτων περιπτώσεων χρήσης συστημάτων ΤΝ που είναι υψηλού κινδύνου και περιπτώσεων χρήσης μη υψηλού κινδύνου.
(54)
Uma vez que os dados biométricos constituem uma categoria especial de dados pessoais, é adequado classificar como sendo de risco elevado vários casos de utilização críticos de sistemas biométricos, na medida em que a sua utilização seja permitida pelo direito da União e o direito nacional aplicáveis. As inexatidões técnicas dos sistemas de IA concebidos para a identificação biométrica à distância de pessoas singulares podem conduzir a resultados enviesados e ter efeitos discriminatórios. O risco desses resultados enviesados e efeitos discriminatórios é particularmente relevante no que diz respeito à idade, etnia, raça, sexo ou deficiência. Os sistemas de identificação biométrica à distância deverão ser, por conseguinte, classificados como de risco elevado, tendo em conta os riscos que representam. Dessa classificação estão excluídos os sistemas de IA concebidos para serem utilizados na verificação biométrica, incluindo a autenticação, cujo único objetivo é confirmar que uma pessoa singular específica é quem afirma ser e confirmar a identidade de uma pessoa singular com o único objetivo de ter acesso a um serviço, desbloquear um dispositivo ou ter acesso seguro a uma instalação. Além disso, os sistemas de IA concebidos para serem utilizados para categorização biométrica de acordo com atributos ou características sensíveis protegidos nos termos do artigo 9.o, n.o 1, do Regulamento (UE) 2016/679 com base em dados biométricos, na medida em que não sejam proibidos nos termos do presente regulamento, e os sistemas de reconhecimento de emoções não proibidos nos termos do presente regulamento deverão ser classificados como sendo de risco elevado. Os sistemas biométricos destinados a serem utilizados exclusivamente para permitir medidas de cibersegurança e de proteção de dados pessoais não deverão ser considerados sistemas de IA de risco elevado.
(54)
Καθώς τα βιομετρικά δεδομένα συνιστούν ειδική κατηγορία δεδομένων προσωπικού χαρακτήρα, ενδείκνυται να ταξινομηθούν ως υψηλού κινδύνου διάφορες περιπτώσεις κρίσιμης χρήσης βιομετρικών συστημάτων, στον βαθμό που η χρήση τους επιτρέπεται βάσει του σχετικού ενωσιακού και εθνικού δικαίου. Τεχνικές ανακρίβειες συστημάτων ΤΝ που προορίζονται για την εξ αποστάσεως βιομετρική ταυτοποίηση φυσικών προσώπων μπορούν να οδηγήσουν σε μεροληπτικά αποτελέσματα και να επιφέρουν διακρίσεις. Ο κίνδυνος για τέτοιου είδους μεροληπτικά αποτελέσματα και διακρίσεις σχετίζεται ιδίως με την ηλικία, την εθνοτική καταγωγή, τη φυλή, το φύλο ή τις αναπηρίες. Τα συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης θα πρέπει, συνεπώς, να ταξινομούνται ως υψηλού κινδύνου λόγω των κινδύνων που εγκυμονούν. Από την ταξινόμηση αυτή εξαιρούνται τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για βιομετρική εξακρίβωση, συμπεριλαμβανομένης της επαλήθευσης ταυτότητας, με μοναδικό σκοπό να επιβεβαιώνεται αν ένα συγκεκριμένο φυσικό πρόσωπο είναι το πρόσωπο που ισχυρίζεται ότι είναι και να επιβεβαιώνεται η ταυτότητα ενός φυσικού προσώπου αποκλειστικά και μόνο για την πρόσβαση σε μια υπηρεσία, το ξεκλείδωμα συσκευής ή την ασφαλή πρόσβαση σε εγκαταστάσεις. Επιπλέον, θα πρέπει να ταξινομούνται ως υψηλού κινδύνου τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για βιομετρική κατηγοριοποίηση σύμφωνα με ευαίσθητα γνωρίσματα ή χαρακτηριστικά προστατευόμενα δυνάμει του άρθρου 9 παράγραφος 1 του κανονισμού (ΕΕ) 2016/679 βάσει βιομετρικών δεδομένων, στον βαθμό που αυτά δεν απαγορεύονται δυνάμει του παρόντος κανονισμού, και τα συστήματα αναγνώρισης συναισθημάτων που δεν απαγορεύονται δυνάμει του παρόντος κανονισμού. Τα βιομετρικά συστήματα που προορίζονται να χρησιμοποιηθούν αποκλειστικά για τη διευκόλυνση μέτρων προστασίας της κυβερνοασφάλειας και των δεδομένων προσωπικού χαρακτήρα δεν θα πρέπει να θεωρούνται συστήματα ΤΝ υψηλού κινδύνου.
(55)
No tocante à gestão e ao funcionamento de infraestruturas críticas, é apropriado classificar como sendo de risco elevado os sistemas de IA que se destinam a ser utilizados como componentes de segurança na gestão e no funcionamento das infraestruturas digitais críticas conforme enumeradas no ponto 8 do anexo I da Diretiva (UE) 2022/2557, do trânsito rodoviário e das redes de abastecimento de água, gás, aquecimento e eletricidade, uma vez que a falha ou anomalia desses sistemas pode pôr em risco a vida e a saúde das pessoas em larga escala e provocar perturbações substanciais das atividades sociais e económicas normais. Os componentes de segurança das infraestruturas críticas, incluindo as infraestruturas digitais críticas, são sistemas utilizados para proteger diretamente a integridade física das infraestruturas críticas ou a saúde e a segurança das pessoas e dos bens, mas que não são necessários para o funcionamento do sistema. A falha ou a anomalia desses componentes pode conduzir diretamente a riscos para a integridade física das infraestruturas críticas e, por conseguinte, a riscos para a saúde e a segurança das pessoas e dos bens. Os componentes destinados a serem utilizados exclusivamente para fins de cibersegurança não deverão ser considerados componentes de segurança. Os exemplos de componentes de segurança dessas infraestruturas críticas podem incluir sistemas de monitorização da pressão da água ou sistemas de controlo de alarmes de incêndio em centros de computação em nuvem.
(55)
Όσον αφορά τη διαχείριση και τη λειτουργία υποδομών ζωτικής σημασίας, ενδείκνυται να ταξινομηθούν ως υψηλού κινδύνου τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν ως κατασκευαστικά στοιχεία ασφάλειας στη διαχείριση και τη λειτουργία ψηφιακών υποδομών ζωτικής σημασίας, όπως απαριθμούνται στο παράρτημα σημείο 8) της οδηγίας (ΕΕ) 2022/2557, στην οδική κυκλοφορία και στην παροχή νερού, φυσικού αερίου, θέρμανσης και ηλεκτρικής ενέργειας, δεδομένου ότι η αστοχία ή η δυσλειτουργία τους μπορεί να θέσει σε κίνδυνο τη ζωή και την υγεία των προσώπων σε μεγάλη κλίμακα και να προκαλέσει σημαντική διατάραξη της συνήθους άσκησης των κοινωνικών και οικονομικών δραστηριοτήτων. Τα κατασκευαστικά στοιχεία ασφάλειας των υποδομών ζωτικής σημασίας, συμπεριλαμβανομένων των ψηφιακών υποδομών ζωτικής σημασίας, είναι συστήματα που χρησιμοποιούνται για την άμεση προστασία της υλικής ακεραιότητας των υποδομών ζωτικής σημασίας ή της υγείας και της ασφάλειας προσώπων και περιουσιακών στοιχείων, αλλά δεν είναι απαραίτητα για τη λειτουργία του συστήματος. Η αστοχία ή η δυσλειτουργία τέτοιων κατασκευαστικών στοιχείων μπορεί να οδηγήσει άμεσα σε κινδύνους για την υλική ακεραιότητα των υποδομών ζωτικής σημασίας και, ως εκ τούτου, σε κινδύνους για την υγεία και την ασφάλεια των προσώπων και των περιουσιακών στοιχείων. Τα κατασκευαστικά στοιχεία που προορίζονται να χρησιμοποιηθούν αποκλειστικά για σκοπούς κυβερνοασφάλειας δεν θα πρέπει να χαρακτηρίζονται ως κατασκευαστικά στοιχεία ασφάλειας. Παραδείγματα κατασκευαστικών στοιχείων ασφάλειας τέτοιων υποδομών ζωτικής σημασίας μπορεί να είναι, μεταξύ άλλων, τα συστήματα παρακολούθησης της πίεσης του νερού ή τα συστήματα ελέγχου συναγερμού πυρκαγιάς σε κέντρα υπολογιστικού νέφους.
(56)
A implantação de sistemas de IA no domínio da educação é importante para promover a educação e a formação digitais de elevada qualidade e permitir que todos os aprendentes e professores adquiram e partilhem as aptidões e competências digitais necessárias, incluindo a literacia mediática e o pensamento crítico, a fim de participarem ativamente na economia, na sociedade e nos processos democráticos. Contudo, os sistemas de IA utilizados no domínio da educação ou da formação profissional, nomeadamente para determinar o acesso ou a admissão, para afetar pessoas a instituições ou a programas de ensino e de formação profissional em todos os níveis, para avaliar os resultados de aprendizagem das pessoas, para aferir o grau de ensino adequado para uma pessoa e influenciar de forma substancial o nível de ensino e formação que as pessoas receberão, ou a que serão capazes de aceder, ou para monitorizar e detetar comportamentos proibidos de estudantes durante os testes, deverão ser considerados sistemas de IA de risco elevado, uma vez que podem determinar o percurso educativo e profissional de uma pessoa e, como tal, pode afetar a capacidade dessa pessoa assegurar a subsistência. Se indevidamente concebidos e utilizados, estes sistemas podem ser particularmente intrusivos e violar o direito à educação e à formação, bem como o direito a não ser alvo de discriminação nem de perpetuação de padrões históricos de discriminação, por exemplo contra as mulheres, determinados grupos etários, pessoas com deficiência ou pessoas de uma determinada origem racial ou étnica ou orientação sexual.
(56)
Η εφαρμογή συστημάτων ΤΝ στην εκπαίδευση είναι σημαντική για την προαγωγή της ψηφιακής εκπαίδευσης και κατάρτισης υψηλής ποιότητας, καθώς και για να δίνεται σε όλους τους εκπαιδευόμενους και τους εκπαιδευτικούς η δυνατότητα να αποκτούν και να μοιράζονται τις απαραίτητες ψηφιακές δεξιότητες και ικανότητες, συμπεριλαμβανομένου του γραμματισμού στα μέσα επικοινωνίας και της κριτικής σκέψης, ώστε να συμμετέχουν ενεργά στην οικονομία, την κοινωνία και τις δημοκρατικές διαδικασίες. Ωστόσο, τα συστήματα ΤΝ που χρησιμοποιούνται στην εκπαίδευση ή την επαγγελματική κατάρτιση, ιδίως για τον καθορισμό της πρόσβασης ή της εισαγωγής, για την τοποθέτηση προσώπων σε ιδρύματα ή προγράμματα εκπαίδευσης και επαγγελματικής κατάρτισης όλων των βαθμίδων, για την αξιολόγηση των μαθησιακών αποτελεσμάτων προσώπων, για την εκτίμηση του κατάλληλου επιπέδου εκπαίδευσης για ένα άτομο και για την άσκηση ουσιώδους επιρροής στο επίπεδο εκπαίδευσης και κατάρτισης που θα λάβει ή στο οποίο θα μπορεί να έχει πρόσβαση ένα άτομο ή για την παρακολούθηση και τον εντοπισμό απαγορευμένης συμπεριφοράς σπουδαστών κατά τη διάρκεια εξετάσεων, θα πρέπει να ταξινομούνται ως συστήματα ΤΝ υψηλού κινδύνου, δεδομένου ότι μπορούν να καθορίσουν την εκπαιδευτική και επαγγελματική πορεία της ζωής ενός προσώπου και, ως εκ τούτου, να επηρεάσουν την ικανότητά του να εξασφαλίσει τα μέσα βιοπορισμού του. Όταν σχεδιάζονται και χρησιμοποιούνται εσφαλμένα, τα συστήματα αυτά ενδέχεται να είναι ιδιαίτερα παρεμβατικά και να παραβιάζουν το δικαίωμα στην εκπαίδευση και στην κατάρτιση, καθώς και το δικαίωμα σε μεταχείριση χωρίς διακρίσεις, και να διαιωνίζουν ιστορικές νοοτροπίες διακρίσεων, για παράδειγμα εις βάρος γυναικών, ορισμένων ηλικιακών ομάδων, ατόμων με αναπηρία ή ατόμων συγκεκριμένης φυλετικής ή εθνοτικής καταγωγής ή γενετήσιου προσανατολισμού.
(57)
Os sistemas de IA utilizados nos domínios do emprego, da gestão de trabalhadores e do acesso ao emprego por conta própria, nomeadamente para efeitos de recrutamento e seleção de pessoal, de tomada de decisões que afetem os termos da relação de trabalho, de promoção e cessação das relações contratuais de trabalho, de atribuição de tarefas com base em comportamentos individuais, traços ou características pessoais, e de controlo ou avaliação de pessoas no âmbito de relações contratuais de trabalho também deverão ser classificados como sendo de risco elevado, uma vez que podem ter um impacto significativo nas perspetivas de carreira, na subsistência dessas pessoas e nos direitos dos trabalhadores. O conceito de «relações contratuais de trabalho» deverá abranger de forma significativa os funcionários e as pessoas que prestam serviços por intermédio de plataformas a que se refere o programa de trabalho da Comissão para 2021. Ao longo do processo de recrutamento e na avaliação, promoção ou retenção de pessoal em relações contratuais de trabalho, esses sistemas podem perpetuar padrões históricos de discriminação, por exemplo, contra as mulheres, contra certos grupos etários, contra as pessoas com deficiência ou contra pessoas de uma determinada origem racial ou étnica ou orientação sexual. Os sistemas de IA utilizados para controlar o desempenho e o comportamento dessas pessoas podem ainda comprometer os seus direitos fundamentais à proteção de dados pessoais e à privacidade.
(57)
Τα συστήματα ΤΝ που χρησιμοποιούνται στην απασχόληση, τη διαχείριση εργαζομένων και την πρόσβαση στην αυτοαπασχόληση, ιδίως για την πρόσληψη και την επιλογή προσώπων, για τη λήψη αποφάσεων από τις οποίες επηρεάζονται οι όροι της σχέσης που σχετίζεται με την εργασία, η προαγωγή και η καταγγελία συμβατικών σχέσεων που σχετίζονται με την εργασία, για την κατανομή καθηκόντων με βάση την συμπεριφορά του ατόμου ή προσωπικά γνωρίσματα ή χαρακτηριστικά του και για την παρακολούθηση ή την αξιολόγηση προσώπων που τελούν σε συμβατικές σχέσεις που σχετίζονται με την εργασία, θα πρέπει επίσης να ταξινομηθούν ως υψηλού κινδύνου, δεδομένου ότι τα εν λόγω συστήματα ενδέχεται να έχουν αισθητό αντίκτυπο στις μελλοντικές προοπτικές σταδιοδρομίας, τα μέσα βιοπορισμού αυτών των προσώπων και τα δικαιώματα των εργαζομένων. Οι συναφείς συμβατικές σχέσεις που σχετίζονται με την εργασία θα πρέπει να καλύπτουν κατά τρόπο ουσιαστικό τους εργαζομένους και τα πρόσωπα που παρέχουν υπηρεσίες μέσω πλατφορμών, όπως αναφέρεται στο πρόγραμμα εργασίας της Επιτροπής για το 2021. Καθ’ όλη τη διάρκεια της διαδικασίας πρόσληψης και κατά την αξιολόγηση, την προαγωγή ή τη διατήρηση προσώπων σε συμβατικές σχέσεις που σχετίζονται με την εργασία, τα συστήματα αυτά μπορούν να διαιωνίσουν ιστορικές νοοτροπίες διακρίσεων, για παράδειγμα εις βάρος γυναικών, ορισμένων ηλικιακών ομάδων, ατόμων με αναπηρία ή ατόμων συγκεκριμένης φυλετικής ή εθνοτικής καταγωγής ή γενετήσιου προσανατολισμού. Τα συστήματα ΤΝ που χρησιμοποιούνται για την παρακολούθηση των επιδόσεων και της συμπεριφοράς των εν λόγω προσώπων ενδέχεται επίσης να υπονομεύσουν τα θεμελιώδη δικαιώματά τους στην προστασία των δεδομένων και στην ιδιωτική ζωή.
(58)
Outro domínio no qual a utilização de sistemas de IA merece especial atenção é o acesso a determinados serviços e prestações essenciais, de cariz privado e público, e o usufruto dos mesmos, os quais são necessários para que as pessoas participem plenamente na sociedade ou melhorem o seu nível de vida. Em especial, as pessoas singulares que se candidatam a receber ou que recebem prestações e serviços de assistência pública essenciais de autoridades públicas, nomeadamente serviços de cuidados de saúde, prestações de segurança social, serviços sociais que prestam proteção em casos como maternidade, doença, acidentes de trabalho, dependência ou velhice e perda de emprego e assistência social e de habitação, dependem normalmente dessas prestações e serviços e estão numa posição vulnerável face às autoridades responsáveis. Caso sejam utilizados para determinar a concessão, recusa, redução, revogação ou recuperação dessas prestações e serviços pelas autoridades, nomeadamente para determinar se os beneficiários têm legítimo direito a essas prestações ou serviços, os sistemas de IA podem ter um impacto significativo na subsistência das pessoas e podem violar os seus direitos fundamentais, como o direito à proteção social, à não discriminação, à dignidade do ser humano ou à ação, pelo que deverão ser classificados como sendo de risco elevado. No entanto, o presente regulamento não deverá constituir um obstáculo ao desenvolvimento e à utilização de abordagens inovadoras na administração pública, que tirariam partido de uma maior utilização de sistemas de IA conformes e seguros, desde que esses sistemas não acarretem um risco elevado para as pessoas coletivas e singulares. Além disso, os sistemas de IA utilizados para avaliar a classificação de crédito ou a solvabilidade de pessoas singulares deverão ser classificados como sistemas de IA de risco elevado, uma vez que determinam o acesso dessas pessoas a recursos financeiros ou a serviços essenciais, como o alojamento, a eletricidade e os serviços de telecomunicações. Os sistemas de IA utilizados para essas finalidades podem conduzir à discriminação entre pessoas ou grupos e podem perpetuar padrões históricos de discriminação, como em razão da origem étnica ou racial, do género, da deficiência, da idade ou da orientação sexual, ou podem criar novas formas de impacto discriminatório. No entanto, os sistemas de IA previstos pelo direito da União para efeitos de deteção de fraudes na oferta de serviços financeiros e para fins prudenciais com vista a calcular os requisitos de capital das instituições de crédito e das seguradoras não deverão ser considerados de risco elevado nos termos do presente regulamento. Além disso, os sistemas de IA concebidos com vista a serem utilizados para avaliação dos riscos e fixação de preços em relação a pessoas singulares para seguros de saúde e de vida também podem ter um impacto significativo na subsistência das pessoas e, se não forem devidamente concebidos, desenvolvidos e utilizados, podem infringir os seus direitos fundamentais e ter consequências graves para a vida e a saúde das pessoas, incluindo a exclusão financeira e a discriminação. Por último, os sistemas de IA utilizados para avaliar e classificar chamadas de emergência efetuadas por pessoas singulares ou para enviar ou estabelecer prioridades no envio de serviços de primeira resposta a emergências, nomeadamente pela polícia, bombeiros e assistência médica, bem como por sistemas de triagem de doentes para cuidados de saúde de emergência, também deverão ser classificados como sendo de risco elevado, uma vez que tomam decisões em situações bastante críticas que afetam a vida, a saúde e os bens das pessoas.
(58)
Ένας άλλος τομέας στο πλαίσιο του οποίου αξίζει να δοθεί ιδιαίτερη προσοχή στη χρήση των συστημάτων ΤΝ είναι η πρόσβαση και η απόλαυση ορισμένων βασικών ιδιωτικών και δημόσιων υπηρεσιών και παροχών που είναι απαραίτητες για την πλήρη συμμετοχή των πολιτών στην κοινωνία ή τη βελτίωση του βιοτικού τους επιπέδου. Ειδικότερα, τα φυσικά πρόσωπα που ζητούν ή λαμβάνουν βασικές παροχές και υπηρεσίες δημόσιας αρωγής από δημόσιες αρχές, ιδίως υπηρεσίες υγειονομικής περίθαλψης, παροχές κοινωνικής ασφάλισης, κοινωνικές υπηρεσίες που παρέχουν προστασία σε περιπτώσεις, μεταξύ άλλων, μητρότητας, ασθενείας, εργατικού ατυχήματος, εξάρτησης ή γήρατος και απώλειας εργασίας, καθώς και κοινωνική και στεγαστική αρωγή, εξαρτώνται κατά κανόνα από τις εν λόγω παροχές και υπηρεσίες και βρίσκονται σε ευάλωτη θέση σε σχέση με τις αρμόδιες αρχές. Εάν χρησιμοποιούνται συστήματα ΤΝ για να προσδιορίζεται αν οι αρμόδιες αρχές θα πρέπει να χορηγήσουν ή να αρνηθούν την πρόσβαση στις εν λόγω παροχές και υπηρεσίες ή να τις μειώσουν, να τις ανακαλέσουν ή να τις ανακτήσουν, συμπεριλαμβανομένου του αν οι ωφελούμενοι δικαιούνται νομίμως τις εν λόγω παροχές ή υπηρεσίες, τα συστήματα αυτά ενδέχεται να έχουν σημαντικό αντίκτυπο στα μέσα διαβίωσης των προσώπων και να παραβιάζουν τα θεμελιώδη δικαιώματά τους, όπως το δικαίωμα στην κοινωνική προστασία, στη μεταχείριση χωρίς διακρίσεις, στην ανθρώπινη αξιοπρέπεια ή σε πραγματική προσφυγή, και θα πρέπει συνεπώς να ταξινομούνται ως υψηλού κινδύνου. Ωστόσο, ο παρών κανονισμός δεν θα πρέπει να παρεμποδίζει την ανάπτυξη και τη χρήση καινοτόμων προσεγγίσεων στη δημόσια διοίκηση, η οποία θα μπορούσε να επωφεληθεί από την ευρύτερη χρήση συμμορφούμενων και ασφαλών συστημάτων ΤΝ, υπό την προϋπόθεση ότι τα εν λόγω συστήματα δεν ενέχουν υψηλό κίνδυνο για τα νομικά και τα φυσικά πρόσωπα. Επιπλέον, τα συστήματα ΤΝ που χρησιμοποιούνται για την αξιολόγηση της πιστοληπτικής βαθμολογίας ή της πιστοληπτικής ικανότητας των φυσικών προσώπων θα πρέπει να ταξινομηθούν ως συστήματα ΤΝ υψηλού κινδύνου, καθώς καθορίζουν την πρόσβαση των εν λόγω προσώπων σε οικονομικούς πόρους ή βασικές υπηρεσίες, όπως στέγαση, ηλεκτρική ενέργεια και τηλεπικοινωνιακές υπηρεσίες. Τα συστήματα ΤΝ που χρησιμοποιούνται για τους σκοπούς αυτούς μπορούν να οδηγήσουν σε διακρίσεις μεταξύ προσώπων ή ομάδων και να διαιωνίσουν ιστορικές νοοτροπίες διακρίσεων, όπως αυτές που βασίζονται στη φυλετική ή εθνοτική καταγωγή, το φύλο, τις αναπηρίες, την ηλικία ή τον γενετήσιο προσανατολισμό, ή να δημιουργήσουν νέες μορφές διακρίσεων. Ωστόσο, τα συστήματα ΤΝ που προβλέπονται από το δίκαιο της Ένωσης για τον εντοπισμό περιπτώσεων απάτης κατά την προσφορά χρηματοοικονομικών υπηρεσιών και για σκοπούς προληπτικής εποπτείας προκειμένου να υπολογίζονται οι κεφαλαιακές απαιτήσεις πιστωτικών ιδρυμάτων και ασφαλιστικών επιχειρήσεων δεν θα πρέπει να θεωρούνται υψηλού κινδύνου βάσει του παρόντος κανονισμού. Επιπλέον, τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για την εκτίμηση κινδύνων και την τιμολόγηση σε σχέση με φυσικά πρόσωπα για ασφάλιση υγείας και ζωής μπορούν επίσης να έχουν σημαντικό αντίκτυπο στα μέσα βιοπορισμού των προσώπων και, εάν δεν σχεδιάζονται, δεν αναπτύσσονται και δεν χρησιμοποιούνται δεόντως, μπορούν να παραβιάσουν τα θεμελιώδη δικαιώματά τους και να έχουν σοβαρές συνέπειες για τη ζωή και την υγεία των ανθρώπων, συμπεριλαμβανομένων του οικονομικού αποκλεισμού και των διακρίσεων. Τέλος, τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούνται για την αξιολόγηση και ταξινόμηση κλήσεων έκτακτης ανάγκης από φυσικά πρόσωπα ή την αποστολή ή τον καθορισμό προτεραιοτήτων για την αποστολή υπηρεσιών πρώτης αντίδρασης σε καταστάσεις έκτακτης ανάγκης, μεταξύ άλλων από την αστυνομία, την πυροσβεστική και τις υπηρεσίες άμεσης βοήθειας, καθώς και από συστήματα διαλογής ασθενών σε υπηρεσίες επειγόντων ιατρικών περιστατικών, θα πρέπει επίσης να ταξινομηθούν ως υψηλού κινδύνου, δεδομένου ότι λαμβάνουν αποφάσεις σε πολύ κρίσιμες καταστάσεις για τη ζωή και την υγεία των προσώπων, καθώς και για τα περιουσιακά τους στοιχεία.
(59)
Tendo em conta o papel e a responsabilidade das autoridades responsáveis pela aplicação da lei, as suas ações que implicam certas utilizações dos sistemas de IA são caracterizadas por um grau substancial de desequilíbrio de poder e podem conduzir à vigilância, detenção ou privação da liberdade de uma pessoa singular, bem como ter outras repercussões negativas nos direitos fundamentais garantidos pela Carta. Em particular, se não for treinado com dados de alta qualidade, não cumprir os requisitos adequados em termos de desempenho, de exatidão ou solidez, ou não tiver sido devidamente concebido e testado antes de ser colocado no mercado ou em serviço, o sistema de IA pode selecionar pessoas de uma forma discriminatória, incorreta ou injusta. Além disso, o exercício de importantes direitos fundamentais processuais, como o direito à ação e a um tribunal imparcial, o direito à defesa e a presunção de inocência, pode ser prejudicado, em particular, se esses sistemas de IA não forem suficientemente transparentes, explicáveis e documentados. Como tal, é apropriado classificar como sendo de risco elevado, na medida em que a sua utilização seja permitida nos termos do direito da União e o direito nacional aplicáveis, vários sistemas de IA que se destinam a ser utilizados no contexto da aplicação da lei, no qual a exatidão, a fiabilidade e a transparência são particularmente importantes para evitar repercussões negativas, manter a confiança do público e assegurar a responsabilidade e vias de recurso eficazes. Tendo em conta a natureza das atividades e os riscos associados às mesmas, esses sistemas de IA de risco elevado deverão incluir, em particular, sistemas de IA concebidos para serem utilizados por autoridades responsáveis pela aplicação da lei ou por instituições, órgãos ou organismos da União, ou em seu nome, em apoio das autoridades responsáveis pela aplicação da lei para avaliar o risco de uma pessoa singular vir a ser vítima de infrações penais, como polígrafos e instrumentos semelhantes, para avaliar a fiabilidade dos elementos de prova no decurso da investigação ou da repressão de infrações penais, e, na medida em que tal não seja proibido nos termos do presente regulamento, para avaliar o risco de uma pessoa singular cometer uma infração ou reincidência não apenas com base na definição de perfis de pessoas singulares ou na avaliação os traços e características da personalidade ou do comportamento criminal passado de pessoas singulares ou grupos, para a definição de perfis no decurso da deteção, investigação ou repressão de infrações penais. Os sistemas de IA especificamente concebidos para serem utilizados em processos administrativos por autoridades fiscais e aduaneiras, bem como por unidades de informação financeira que desempenhem funções administrativas de análise de informações nos termos do direito da União em matéria de combate ao branqueamento de capitais, não deverão ser classificados como sistemas de IA de risco elevado utilizados por autoridades responsáveis pela aplicação da lei para efeitos de prevenção, deteção, investigação e repressão de infrações penais. A utilização de ferramentas de IA pelas autoridades responsáveis pela aplicação da lei e por outras autoridades pertinentes não deverá tornar-se um fator de desigualdade nem de exclusão. Não se deverá descurar o impacto da utilização de ferramentas de IA nos direitos de defesa dos suspeitos, nomeadamente a dificuldade de obter informações significativas sobre o funcionamento desses sistemas e a dificuldade daí resultante de contestar os seus resultados em tribunal, em particular quando se trate de pessoas singulares sob investigação.
(59)
Δεδομένων του ρόλου και της ευθύνης τους, οι ενέργειες των αρχών επιβολής του νόμου που αφορούν ορισμένες χρήσεις των συστημάτων ΤΝ χαρακτηρίζονται από σημαντικό βαθμό ανισορροπίας ισχύος και μπορούν να οδηγήσουν στην παρακολούθηση, τη σύλληψη ή τη στέρηση της ελευθερίας ενός φυσικού προσώπου και να έχουν άλλες δυσμενείς επιπτώσεις για τα θεμελιώδη δικαιώματα που κατοχυρώνονται στον Χάρτη. Ειδικότερα, αν το σύστημα ΤΝ δεν είναι εκπαιδευμένο με δεδομένα υψηλής ποιότητας, δεν πληροί τις κατάλληλες απαιτήσεις όσον αφορά τις επιδόσεις, την ακρίβεια και τη στιβαρότητά του ή δεν έχει σχεδιαστεί κατάλληλα και δεν έχει υποβληθεί στις κατάλληλες δοκιμές προτού διατεθεί στην αγορά ή τεθεί με άλλο τρόπο σε λειτουργία, μπορεί να αντιμετωπίσει ορισμένα άτομα με μεροληπτικό ή άλλο εσφαλμένο ή άδικο τρόπο. Επιπλέον, θα μπορούσε να παρεμποδιστεί η άσκηση σημαντικών δικονομικών θεμελιωδών δικαιωμάτων, όπως το δικαίωμα πραγματικής προσφυγής και αμερόληπτου δικαστηρίου, καθώς και το δικαίωμα υπεράσπισης και το τεκμήριο αθωότητας, ιδίως όταν τα εν λόγω συστήματα ΤΝ δεν είναι επαρκώς διαφανή, εξηγήσιμα και τεκμηριωμένα. Ως εκ τούτου, είναι σκόπιμο να ταξινομηθεί ως υψηλού κινδύνου, στον βαθμό που η χρήση τους επιτρέπεται δυνάμει του σχετικού ενωσιακού και εθνικού δικαίου, μια σειρά συστημάτων ΤΝ που προορίζονται να χρησιμοποιηθούν στο πλαίσιο της επιβολής του νόμου όπου η ακρίβεια, η αξιοπιστία και η διαφάνεια είναι ιδιαίτερα σημαντικές για την αποφυγή δυσμενών επιπτώσεων, τη διατήρηση της εμπιστοσύνης του κοινού και τη διασφάλιση της λογοδοσίας και της αποτελεσματικής επανόρθωσης. Λόγω της φύσης των δραστηριοτήτων και των συναφών κινδύνων, στα εν λόγω συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να περιλαμβάνονται ιδίως τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από αρχές επιβολής του νόμου ή για λογαριασμό τους ή από θεσμικά και λοιπά όργανα ή οργανισμούς της Ένωσης προς στήριξη αρχών επιβολής του νόμου για την εκτίμηση του κινδύνου ένα φυσικό πρόσωπο να πέσει θύμα αξιόποινης πράξης, όπως ανιχνευτές ψεύδους ή παρόμοια εργαλεία, για την αξιολόγηση της αξιοπιστίας των αποδεικτικών στοιχείων στο πλαίσιο διερεύνησης ή δίωξης αξιόποινων πράξεων και, στον βαθμό που δεν απαγορεύεται βάσει του παρόντος κανονισμού, για την εκτίμηση του κινδύνου ένα φυσικό πρόσωπο να τελέσει ή να τελέσει εκ νέου αξιόποινη πράξη όχι μόνο αποκλειστικά με βάση την κατάρτιση προφίλ φυσικών προσώπων ή την αξιολόγηση γνωρισμάτων και χαρακτηριστικών της προσωπικότητας ή προηγούμενης εγκληματικής συμπεριφοράς φυσικών προσώπων ή ομάδων και για την κατάρτιση προφίλ στο πλαίσιο της ανίχνευσης, της διερεύνησης ή της δίωξης αξιόποινων πράξεων. Τα συστήματα ΤΝ που προορίζονται ειδικά για χρήση σε διοικητικές διαδικασίες από φορολογικές και τελωνειακές αρχές, καθώς και από μονάδες χρηματοοικονομικών πληροφοριών που εκτελούν διοικητικά καθήκοντα ανάλυσης πληροφοριών σύμφωνα με το δίκαιο της Ένωσης για την καταπολέμηση της νομιμοποίησης εσόδων από παράνομες δραστηριότητες, δεν θα πρέπει να ταξινομούνται ως συστήματα ΤΝ υψηλού κινδύνου χρησιμοποιούμενα από αρχές επιβολής του νόμου για τους σκοπούς της πρόληψης, της ανίχνευσης, της διερεύνησης και της δίωξης αξιόποινων πράξεων. Η χρήση εργαλείων ΤΝ από τις αρχές επιβολής του νόμου και άλλες σχετικές αρχές δεν θα πρέπει να καταστεί παράγοντας ανισότητας ή αποκλεισμού. Ο αντίκτυπος της χρήσης εργαλείων ΤΝ στα δικαιώματα υπεράσπισης των υπόπτων θα πρέπει να μην παραβλέπεται, ιδίως η δυσκολία απόκτησης ουσιαστικών πληροφοριών σχετικά με τη λειτουργία των συστημάτων αυτών και η συνακόλουθη δυσκολία αμφισβήτησης των αποτελεσμάτων τους στο δικαστήριο, ιδίως από τα υποκείμενα σε έρευνα φυσικά πρόσωπα.
(60)
Os sistemas de IA utilizados na gestão da migração, do asilo e do controlo das fronteiras afetam pessoas que, muitas vezes, se encontram numa posição particularmente vulnerável e que dependem do resultado das ações das autoridades públicas competentes. Como tal, a exatidão, a natureza não discriminatória e a transparência dos sistemas de IA utilizados nesses contextos são particularmente importantes para garantir o respeito dos direitos fundamentais das pessoas em causa, nomeadamente os seus direitos à livre circulação, à não discriminação, à proteção da vida privada e dos dados pessoais, à proteção internacional e a uma boa administração. Deste modo, na medida em que a sua utilização seja permitida ao abrigo do direito da União e o direito nacional aplicáveis, é apropriado classificar como sendo de risco elevado os sistemas de IA concebidos para serem utilizados por autoridades públicas competentes, ou em seu nome, ou por instituições, órgãos ou organismos da União incumbidos de funções no domínio da gestão da migração, do asilo e do controlo das fronteiras, como polígrafos e instrumentos semelhantes, para avaliar determinados riscos colocados por pessoas singulares que entram no território de um Estado-Membro ou apresentam um pedido de visto ou asilo, para ajudar as autoridades públicas competentes na análise, incluindo a avaliação conexa da fiabilidade dos elementos de prova, dos pedidos de asilo, de visto e de autorização de residência e das queixas relacionadas, no que toca ao objetivo de estabelecer a elegibilidade das pessoas singulares que requerem determinado estatuto, para efeitos de deteção, reconhecimento ou identificação de pessoas singulares no contexto da gestão da migração, do asilo e do controlo das fronteiras, com exceção da verificação de documentos de viagem. Os sistemas de IA no domínio da gestão da migração, do asilo e do controlo das fronteiras abrangidos pelo presente regulamento deverão cumprir os requisitos processuais pertinentes estabelecidos no Regulamento (CE) n.o 810/2009 do Parlamento Europeu e do Conselho (32), na Diretiva 2013/32/UE do Parlamento Europeu e do Conselho (33) e em outras disposições pertinentes do direito da União. A utilização de sistemas de IA na gestão da migração, do asilo e do controlo das fronteiras não deverá, em caso algum, ser utilizada pelos Estados-Membros nem pelas instituições, órgãos ou organismos da União como meio de contornar as suas obrigações internacionais nos termos da Convenção das Nações Unidas relativa ao Estatuto dos Refugiados, celebrada em Genebra em 28 de julho de 1951, com a redação que lhe foi dada pelo Protocolo de 31 de janeiro de 1967. Também não deverão, de modo algum, ser utilizados para violar o princípio da não repulsão nem para recusar vias legais seguras e eficazes de entrada no território da União, incluindo o direito à proteção internacional.
(60)
Τα συστήματα ΤΝ που χρησιμοποιούνται στη διαχείριση της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων επηρεάζουν πρόσωπα που βρίσκονται συχνά σε ιδιαίτερα ευάλωτη θέση και εξαρτώνται από την έκβαση των ενεργειών των αρμόδιων δημόσιων αρχών. Ως εκ τούτου, η ακρίβεια, ο αμερόληπτος χαρακτήρας και η διαφάνεια των συστημάτων ΤΝ που χρησιμοποιούνται σε αυτά τα πλαίσια είναι ιδιαίτερα σημαντικά για τη διασφάλιση του σεβασμού των θεμελιωδών δικαιωμάτων των θιγόμενων προσώπων, ιδίως των δικαιωμάτων τους στην ελεύθερη κυκλοφορία, τη μεταχείριση χωρίς διακρίσεις, την προστασία της ιδιωτικής ζωής και των δεδομένων προσωπικού χαρακτήρα, τη διεθνή προστασία και τη χρηστή διοίκηση. Ως εκ τούτου, είναι σκόπιμο να ταξινομηθούν ως υψηλού κινδύνου, στον βαθμό που η χρήση τους επιτρέπεται δυνάμει του σχετικού ενωσιακού και εθνικού δικαίου, τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν ως ανιχνευτές ψεύδους και παρεμφερή εργαλεία από αρμόδιες δημόσιες αρχές ή για λογαριασμό τους ή από τα θεσμικά και λοιπά όργανα και οργανισμούς της Ένωσης με καθήκοντα στους τομείς της διαχείρισης της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων, για την εκτίμηση ορισμένων κινδύνων που παρουσιάζουν φυσικά πρόσωπα τα οποία εισέρχονται στην επικράτεια κράτους μέλους ή υποβάλλουν αίτηση θεώρησης ή ασύλου, για την παροχή συνδρομής στις αρμόδιες δημόσιες αρχές όσον αφορά την εξέταση, συμπεριλαμβανομένης της συναφούς αξιολόγησης της αξιοπιστίας αποδεικτικών στοιχείων, των αιτήσεων ασύλου, θεώρησης και άδειας διαμονής και των συναφών καταγγελιών όσον αφορά τον στόχο του καθορισμού της επιλεξιμότητας των φυσικών προσώπων που υποβάλλουν αίτηση χορήγησης καθεστώτος, ή για τον σκοπό του εντοπισμού, της αναγνώρισης ή της ταυτοποίησης φυσικών προσώπων στο πλαίσιο της διαχείρισης της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων, πλην της επαλήθευσης ταξιδιωτικών εγγράφων. Τα συστήματα ΤΝ στον τομέα της διαχείρισης της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων τα οποία καλύπτονται από τον παρόντα κανονισμό θα πρέπει να πληρούν τις σχετικές διαδικαστικές απαιτήσεις που καθορίζονται στον κανονισμό (ΕΚ) αριθ. 810/2009 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (32), στην οδηγία 2013/32/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (33) και σε άλλους σχετικούς κανόνες ενωσιακού δικαίου. Η χρήση συστημάτων ΤΝ στη διαχείριση της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων δεν θα πρέπει, σε καμία περίπτωση, να χρησιμοποιείται από τα κράτη μέλη ή τα θεσμικά και λοιπά όργανα και ή οργανισμούς της Ένωσης ως μέσο καταστρατήγησης των διεθνών τους υποχρεώσεων βάσει της σύμβασης του ΟΗΕ για το καθεστώς των προσφύγων που έγινε στη Γενεύη στις 28 Ιουλίου 1951, όπως τροποποιήθηκε από το πρωτόκολλο της 31ης Ιανουαρίου 1967. Δεν θα πρέπει να χρησιμοποιούνται ούτε για την καθ’ οιονδήποτε τρόπο παραβίαση της αρχής της μη επαναπροώθησης ή για την αποστέρηση ασφαλών και αποτελεσματικών νόμιμων οδών εισόδου στο έδαφος της Ένωσης, συμπεριλαμβανομένου του δικαιώματος διεθνούς προστασίας.
(61)
Determinados sistemas de IA concebidos para a administração da justiça e os processos democráticos deverão ser classificados como sendo de risco elevado, tendo em conta o seu impacto potencialmente significativo na democracia, no Estado de direito e nas liberdades individuais, bem como no direito à ação e a um tribunal imparcial. Em particular, para fazer face aos riscos de potenciais enviesamentos, erros e opacidade, é apropriado classificar como sendo de risco elevado os sistemas de IA concebidos para serem utilizados por uma autoridade judiciária ou para, em seu nome, auxiliar autoridades judiciárias na investigação e interpretação de factos e do direito e na aplicação da lei a um conjunto específico de factos. Os sistemas de IA concebidos para serem utilizados por entidades de resolução alternativa de litígios para esses fins também deverão ser considerados de risco elevado quando os resultados dos procedimentos de resolução alternativa de litígios produzam efeitos jurídicos para as partes. A utilização de ferramentas de IA pode auxiliar o poder de tomada de decisão dos magistrados ou da independência judicial, mas não o deverá substituir, a decisão final tem de continuar a ser uma atividade humana. Contudo, a classificação de sistemas de IA como sendo de risco elevado não deverá ser alargada aos sistemas de IA concebidos para atividades administrativas puramente auxiliares que não afetam a administração efetiva da justiça em casos individuais, como a anonimização ou a pseudonimização de decisões judiciais, documentos ou dados, comunicações entre pessoal ou tarefas administrativas.
(61)
Ορισμένα συστήματα ΤΝ που προορίζονται για την απονομή δικαιοσύνης και τις δημοκρατικές διαδικασίες θα πρέπει να ταξινομηθούν ως υψηλού κινδύνου, λαμβανομένου υπόψη του δυνητικά σημαντικού αντικτύπου τους στη δημοκρατία, το κράτος δικαίου, τις ατομικές ελευθερίες, καθώς και στο δικαίωμα πραγματικής προσφυγής και αμερόληπτου δικαστηρίου. Ειδικότερα, για την αντιμετώπιση των κινδύνων δυνητικών προκαταλήψεων, σφαλμάτων και αδιαφάνειας, ενδείκνυται να χαρακτηριστούν ως υψηλού κινδύνου τα συστήματα ΤΝ που προορίζονται για χρήση από δικαστική αρχή ή για λογαριασμό δικαστικής αρχής με σκοπό την παροχή συνδρομής σε δικαστικές αρχές κατά την έρευνα και την ερμηνεία των πραγματικών περιστατικών και του νόμου και κατά την εφαρμογή του νόμου σε συγκεκριμένο σύνολο πραγματικών περιστατικών. Τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από φορείς εναλλακτικής επίλυσης διαφορών για τους σκοπούς αυτούς θα πρέπει επίσης να θεωρούνται υψηλού κινδύνου, όταν τα αποτελέσματα των διαδικασιών εναλλακτικής επίλυσης διαφορών παράγουν έννομα αποτελέσματα για τα μέρη. Η χρήση εργαλείων ΤΝ μπορεί να στηρίξει την εξουσία λήψης αποφάσεων των δικαστών ή τη δικαστική ανεξαρτησία, αλλά δεν θα πρέπει να την υποκαταστήσει: η τελική λήψη αποφάσεων πρέπει να παραμείνει δραστηριότητα κατευθυνόμενη από τον άνθρωπο. Ο χαρακτηρισμός συστημάτων ΤΝ ως υψηλού κινδύνου δεν θα πρέπει, ωστόσο, να επεκταθεί σε συστήματα ΤΝ που προορίζονται για αμιγώς βοηθητικές διοικητικές δραστηριότητες οι οποίες δεν επηρεάζουν στην πράξη την απονομή της δικαιοσύνης σε μεμονωμένες περιπτώσεις, όπως η ανωνυμοποίηση ή η ψευδωνυμοποίηση δικαστικών αποφάσεων, εγγράφων ή δεδομένων, η επικοινωνία μεταξύ των μελών του προσωπικού ή η εκτέλεση διοικητικών καθηκόντων.
(62)
Sem prejuízo das regras previstas no Regulamento (UE) 2024/900 do Parlamento Europeu e do Conselho (34), e a fim de fazer face aos riscos quer de interferência externa indevida no direito de voto consagrado no artigo 39.o da Carta, quer de efeitos adversos na democracia e no Estado de direito, os sistemas de IA concebidos para serem utilizados para influenciar o resultado de uma eleição ou referendo, ou o comportamento eleitoral de pessoas singulares no exercício do seu direito de voto em eleições ou referendos, deverão ser classificados como sendo sistemas de IA de risco elevado, com exceção dos sistemas de IA a cujos resultados as pessoas singulares não estejam diretamente expostas, como os instrumentos utilizados para organizar, otimizar e estruturar campanhas políticas de um ponto de vista administrativo e logístico.
(62)
Με την επιφύλαξη των κανόνων που προβλέπονται στον κανονισμό (ΕΕ) 2024/900 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (34), και προκειμένου να αντιμετωπιστούν οι κίνδυνοι αθέμιτης εξωτερικής παρέμβασης στο δικαίωμα του εκλέγειν που κατοχυρώνεται στο άρθρο 39 του Χάρτη, καθώς και οι κίνδυνοι δυσμενών επιπτώσεων στη δημοκρατία και το κράτος δικαίου, τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για να επηρεάσουν το αποτέλεσμα εκλογών ή δημοψηφίσματος ή την εκλογική συμπεριφορά φυσικών προσώπων κατά την άσκηση του εκλογικού τους δικαιώματος σε εκλογές ή δημοψηφίσματα θα πρέπει να ταξινομούνται ως συστήματα ΤΝ υψηλού κινδύνου, με εξαίρεση τα συστήματα ΤΝ στα στοιχεία εξόδου των οποίων δεν εκτίθενται άμεσα τα φυσικά πρόσωπα, όπως εργαλεία που χρησιμοποιούνται για την οργάνωση, τη βελτιστοποίηση και τη διάρθρωση πολιτικών εκστρατειών από διοικητική και υλικοτεχνική άποψη.
(63)
A classificação de um sistema de IA como sendo de risco elevado por força do presente regulamento não deverá ser interpretada como uma indicação de que a utilização do sistema é lícita ao abrigo de outros atos do direito da União ou ao abrigo do direito nacional compatível com o direito da União, por exemplo, em matéria de proteção de dados pessoais ou de utilização de polígrafos e de instrumentos semelhantes ou de outros sistemas para detetar o estado emocional de pessoas singulares. Essa utilização deverá continuar sujeita ao cumprimento dos requisitos aplicáveis resultantes da Carta e dos atos do direito derivado da União e do direito nacional em vigor. O presente regulamento não deverá ser entendido como um fundamento jurídico para o tratamento de dados pessoais, inclusive de categorias especiais de dados pessoais, se for caso disso, salvo disposição específica em contrário no presente regulamento.
(63)
Το γεγονός ότι ένα σύστημα ΤΝ ταξινομείται ως σύστημα ΤΝ υψηλού κινδύνου βάσει του παρόντος κανονισμού δεν θα πρέπει να ερμηνεύεται ως ένδειξη ότι η χρήση του συστήματος είναι νόμιμη βάσει άλλων πράξεων του ενωσιακού δικαίου ή δυνάμει του εθνικού δικαίου που είναι συμβατό με το δίκαιο της Ένωσης, όπως το δίκαιο για την προστασία των δεδομένων προσωπικού χαρακτήρα, για τη χρήση ανιχνευτών ψεύδους και παρεμφερών εργαλείων ή άλλων συστημάτων για την ανίχνευση της συναισθηματικής κατάστασης φυσικών προσώπων. Κάθε τέτοια χρήση θα πρέπει να συνεχίσει να πραγματοποιείται αποκλειστικά σύμφωνα με τις εφαρμοστέες απαιτήσεις που απορρέουν από τον Χάρτη και από τις εφαρμοστέες πράξεις του παράγωγου ενωσιακού δικαίου και του εθνικού δικαίου. Ο παρών κανονισμός δεν θα πρέπει να θεωρείται ότι παρέχει τη νομική βάση για την επεξεργασία δεδομένων προσωπικού χαρακτήρα, συμπεριλαμβανομένων ειδικών κατηγοριών δεδομένων προσωπικού χαρακτήρα κατά περίπτωση, εκτός αν ορίζεται άλλως κατά τρόπο συγκεκριμένο στον παρόντα κανονισμό.
(64)
Para atenuar os riscos dos sistemas de IA de risco elevado colocados no mercado ou colocados em serviço e para assegurar um elevado nível de fiabilidade, deverão aplicar-se determinados requisitos obrigatórios aos sistemas de IA de risco elevado, tendo em conta a finalidade prevista e o contexto de utilização do sistema de IA e de acordo com o sistema de gestão de riscos a estabelecer pelo prestador. As medidas adotadas pelos prestadores para cumprirem os requisitos obrigatórios do presente regulamento deverão ter em conta o estado da arte geralmente reconhecido em matéria de IA e ser proporcionadas e eficazes para cumprir os objetivos do presente regulamento. Com base no novo regime jurídico, tal como clarificado na comunicação da Comissão intitulada «“Guia Azul” de 2022 sobre a aplicação das regras da UE em matéria de produtos», a regra geral é a de que mais do que um ato jurídico da legislação de harmonização da União pode ser aplicável a um produto, uma vez que a sua disponibilização ou colocação em serviço só podem ter lugar quando o produto cumprir toda a legislação de harmonização da União aplicável. Os perigos dos sistemas de IA abrangidos pelos requisitos do presente regulamento dizem respeito a aspetos diferentes da legislação de harmonização da União em vigor, pelo que os requisitos do presente regulamento complementarão o atual corpo de legislação de harmonização da União. Por exemplo, as máquinas ou os dispositivos médicos que incorporam um sistema de IA podem apresentar riscos não abrangidos pelos requisitos essenciais de saúde e segurança estabelecidos nas disposições pertinentes do direito harmonizado da União, uma vez que tal legislação setorial não aborda os riscos específicos dos sistemas de IA. Tal implica a aplicação simultânea e complementar dos vários atos legislativos. A fim de assegurar a coerência e evitar encargos administrativos e custos desnecessários, os prestadores de um produto que contenha um ou mais sistemas de IA de risco elevado, aos quais se aplicam os requisitos do presente regulamento e da legislação de harmonização da União com base no novo regime jurídico e enumerados num anexo do presente regulamento, deverão ser flexíveis no que diz respeito às decisões operacionais sobre a forma otimizada de assegurar a conformidade de um produto que contenha um ou mais sistemas de IA com todos os requisitos aplicáveis dessa legislação harmonizada da União. Tal flexibilidade poderá significar, por exemplo, a decisão do prestador de integrar uma parte dos processos necessários de testagem e comunicação de informações e de informação e documentação exigidos pelo presente regulamento na documentação e nos procedimentos já existentes exigidos nos termos da legislação de harmonização da União, com base no novo regime jurídico e enumerado num anexo do presente regulamento. Tal não deverá de modo algum prejudicar a obrigação do prestador de cumprir todos os requisitos aplicáveis.
(64)
Για τον μετριασμό των κινδύνων από συστήματα ΤΝ υψηλού κινδύνου τα οποία διατίθενται στην αγορά ή τίθενται σε λειτουργία και προκειμένου να εξασφαλιστεί υψηλό επίπεδο αξιοπιστίας, θα πρέπει να εφαρμόζονται στα συστήματα ΤΝ υψηλού κινδύνου ορισμένες υποχρεωτικές απαιτήσεις, λαμβανομένων υπόψη του επιδιωκόμενου σκοπού και του πλαισίου χρήσης του συστήματος ΤΝ και σύμφωνα με το σύστημα διαχείρισης κινδύνου που θα θεσπίσει ο πάροχος. Τα μέτρα που θεσπίζονται από τους παρόχους για τη συμμόρφωση με τις υποχρεωτικές απαιτήσεις του παρόντος κανονισμού θα πρέπει να λαμβάνουν υπόψη τη γενικά αναγνωρισμένη εξέλιξη της τεχνολογίας για την ΤΝ, καθώς και να είναι αναλογικά και αποτελεσματικά για την επίτευξη των στόχων του παρόντος κανονισμού. Με βάση το νέο νομοθετικό πλαίσιο, όπως διευκρινίζεται στην ανακοίνωση της Επιτροπής με τίτλο «Ο “Γαλάζιος Οδηγός” σχετικά με την εφαρμογή των κανόνων της ΕΕ για τα προϊόντα 2022», ο γενικός κανόνας είναι ότι περισσότερες της μιας νομικές πράξεις της ενωσιακής νομοθεσίας εναρμόνισης μπορούν να εφαρμόζονται σε ένα προϊόν, καθώς το προϊόν μπορεί να διατεθεί ή να τεθεί σε λειτουργία μόνον όταν είναι σύμφωνο με όλη την εφαρμοστέα ενωσιακή νομοθεσία εναρμόνισης. Οι κίνδυνοι των συστημάτων ΤΝ που καλύπτονται από τις απαιτήσεις του παρόντος κανονισμού αφορούν πτυχές διαφορετικές από εκείνες που καλύπτει η υφιστάμενη ενωσιακή νομοθεσία εναρμόνισης και, για τον λόγο αυτόν, οι απαιτήσεις του παρόντος κανονισμού θα συμπληρώνουν το υφιστάμενο σώμα της ενωσιακής νομοθεσίας εναρμόνισης. Για παράδειγμα, τα μηχανήματα ή τα ιατροτεχνολογικά προϊόντα με ενσωματωμένο σύστημα ΤΝ ενδέχεται να παρουσιάζουν κινδύνους που δεν καλύπτονται από τις βασικές απαιτήσεις υγείας και ασφάλειας που ορίζονται στη σχετική εναρμονισμένη νομοθεσία της Ένωσης, καθώς το δίκαιο στον συγκεκριμένο τομέα δεν ασχολείται με τους κινδύνους που αφορούν ειδικά τα συστήματα ΤΝ. Αυτό απαιτεί ταυτόχρονη και συμπληρωματική εφαρμογή των διάφορων νομοθετικών πράξεων. Για να εξασφαλίζεται συνοχή και να αποφεύγεται περιττή διοικητική επιβάρυνση ή περιττό κόστος, οι πάροχοι προϊόντος που περιέχει ένα ή περισσότερα συστήματα ΤΝ υψηλού κινδύνου, στα οποία εφαρμόζονται οι απαιτήσεις του παρόντος κανονισμού και της ενωσιακής νομοθεσίας εναρμόνισης που βασίζεται στο νέο νομοθετικό πλαίσιο και παρατίθεται σε παράρτημα του παρόντος κανονισμού, θα πρέπει να είναι ευέλικτοι όσον αφορά τις επιχειρησιακές αποφάσεις σχετικά με τον βέλτιστο τρόπο εξασφάλισης της συμμόρφωσης ενός προϊόντος που περιέχει ένα ή περισσότερα συστήματα ΤΝ με όλες τις εφαρμοστέες απαιτήσεις της ενωσιακής εναρμονισμένης νομοθεσίας. Η ευελιξία αυτή θα μπορούσε να σημαίνει, για παράδειγμα, απόφαση του παρόχου να ενσωματώσει μέρος των αναγκαίων διαδικασιών δοκιμών και υποβολής εκθέσεων, των πληροφοριών και του υλικού τεκμηρίωσης που απαιτούνται βάσει του παρόντος κανονισμού σε ήδη υφιστάμενο υλικό τεκμηρίωσης και διαδικασίες που απαιτούνται βάσει της υφιστάμενης ενωσιακής νομοθεσίας εναρμόνισης η οποία βασίζεται στο νέο νομοθετικό πλαίσιο και παρατίθεται σε παράρτημα του παρόντος κανονισμού. Αυτό δεν θα πρέπει, σε καμία περίπτωση, να υπονομεύει την υποχρέωση του παρόχου να συμμορφώνεται με όλες τις εφαρμοστέες απαιτήσεις.
(65)
O sistema de gestão de riscos deverá consistir num processo iterativo contínuo, que seja planeado e executado ao longo de todo o ciclo de vida de um sistema de IA de risco elevado. Esse processo deverá ter por objetivo identificar e atenuar os riscos pertinentes dos sistemas de IA para a saúde, a segurança e os direitos fundamentais. O sistema de gestão de riscos deverá ser revisto e atualizado regularmente, a fim de assegurar a sua eficácia contínua, bem como a justificação e documentação de quaisquer decisões e medidas significativas tomadas ao abrigo do presente regulamento. Este processo deverá assegurar que o prestador identifique riscos ou repercussões negativas e aplique medidas de atenuação dos riscos conhecidos e razoavelmente previsíveis dos sistemas de IA para a saúde, a segurança e os direitos fundamentais à luz das suas finalidades previstas e da sua utilização indevida razoavelmente previsível, incluindo os possíveis riscos decorrentes da interação entre o sistema de IA e o ambiente em que opera. O sistema de gestão de riscos deverá adotar as medidas de gestão dos riscos mais adequadas à luz do estado da arte no domínio da IA. Ao identificar as medidas de gestão dos riscos mais adequadas, o prestador deverá documentar e explicar as escolhas feitas e, se for caso disso, envolver peritos e partes interessadas externas. Ao identificar a utilização indevida razoavelmente previsível de sistemas de IA de risco elevado, o prestador deverá abranger as utilizações dos sistemas de IA que, embora não diretamente abrangidas pela finalidade prevista e indicadas nas instruções de utilização, possa, no entanto, razoavelmente esperar-se que resultem de um comportamento humano facilmente previsível no contexto das características específicas e da utilização de um sistema de IA. Quaisquer circunstâncias conhecidas ou previsíveis, relacionadas com a utilização do sistema de IA de risco elevado em conformidade com a sua finalidade prevista ou em condições de utilização indevida razoavelmente previsível, que possam causar riscos para a saúde e a segurança ou os direitos fundamentais deverão ser incluídas nas instruções de utilização que são disponibilizadas pelo prestador. O objetivo é assegurar que o responsável pela implantação esteja ciente delas e as tenha em conta ao utilizar o sistema de IA de risco elevado. A identificação e a aplicação de medidas de atenuação dos riscos em caso de utilização indevida previsível por força do presente regulamento não deverão exigir medidas de treino adicionais específicas para o sistema de IA de risco elevado por parte do prestador, a fim de as combater. No entanto, os prestadores são incentivados a considerar essas medidas de treino adicionais a fim de atenuarem as utilizações indevidas razoavelmente previsíveis, conforme necessário e adequado.
(65)
Το σύστημα διαχείρισης κινδύνου θα πρέπει να συνίσταται σε μια συνεχή επαναληπτική διαδικασία που σχεδιάζεται και διατρέχει όλη τη διάρκεια του κύκλου ζωής ενός συστήματος ΤΝ υψηλού κινδύνου. Η διαδικασία αυτή θα πρέπει να στοχεύει στον εντοπισμό και τον μετριασμό των σχετικών κινδύνων των συστημάτων ΤΝ για την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα. Το σύστημα διαχείρισης κινδύνου θα πρέπει να επανεξετάζεται και να επικαιροποιείται τακτικά, ώστε να διασφαλίζεται η συνεχής αποτελεσματικότητά του, καθώς και η αιτιολόγηση και η τεκμηρίωση τυχόν σημαντικών αποφάσεων και δράσεων που λαμβάνονται βάσει του παρόντος κανονισμού. Η διαδικασία αυτή θα πρέπει να διασφαλίζει ότι ο πάροχος εντοπίζει κινδύνους ή δυσμενείς επιπτώσεις και εφαρμόζει μέτρα μετριασμού για τους γνωστούς και ευλόγως προβλέψιμους κινδύνους των συστημάτων ΤΝ για την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα υπό το πρίσμα του επιδιωκόμενου σκοπού και της ευλόγως προβλέψιμης κακής χρήσης τους, συμπεριλαμβανομένων ενδεχόμενων κινδύνων που προκύπτουν από την αλληλεπίδραση μεταξύ του συστήματος ΤΝ και του περιβάλλοντος εντός του οποίου λειτουργεί. Το σύστημα διαχείρισης κινδύνου θα πρέπει να λαμβάνει τα καταλληλότερα μέτρα διαχείρισης κινδύνου υπό το πρίσμα της εξέλιξης της τεχνολογίας στον τομέα της ΤΝ. Κατά τον προσδιορισμό των καταλληλότερων μέτρων διαχείρισης κινδύνου, ο πάροχος θα πρέπει να τεκμηριώνει και να εξηγεί τις επιλογές του και, κατά περίπτωση, να προσφεύγει σε εμπειρογνώμονες και εξωτερικούς συμφεροντούχους. Κατά τον προσδιορισμό της ευλόγως προβλέψιμης κακής χρήσης συστημάτων ΤΝ υψηλού κινδύνου, ο πάροχος θα πρέπει να καλύπτει χρήσεις συστημάτων ΤΝ οι οποίες, μολονότι δεν καλύπτονται άμεσα από τον επιδιωκόμενο σκοπό και δεν προβλέπονται στις οδηγίες χρήσης, μπορεί ευλόγως να αναμένει κανείς ότι θα προκύψουν από εύκολα προβλέψιμη ανθρώπινη συμπεριφορά στο πλαίσιο των ειδικών χαρακτηριστικών και της χρήσης ενός συγκεκριμένου συστήματος ΤΝ. Κάθε γνωστή ή προβλέψιμη περίσταση σχετιζόμενη με τη χρήση του συστήματος ΤΝ υψηλού κινδύνου σύμφωνα με τον επιδιωκόμενο σκοπό του ή υπό συνθήκες ευλόγως προβλέψιμης κακής χρήσης, η οποία μπορεί να οδηγήσει σε κινδύνους για την υγεία και την ασφάλεια ή για τα θεμελιώδη δικαιώματα, θα πρέπει να περιλαμβάνεται στις οδηγίες χρήσης που παρέχονται από τον πάροχο. Σκοπός είναι να εξασφαλιστεί ότι ο φορέας εφαρμογής είναι ενήμερος για τις περιστάσεις αυτές και τις λαμβάνει υπόψη κατά τη χρήση του συστήματος ΤΝ υψηλού κινδύνου. Ο προσδιορισμός και η εφαρμογή μέτρων μετριασμού των κινδύνων για προβλέψιμη κακή χρήση βάσει του παρόντος κανονισμού δεν θα πρέπει να απαιτούν ειδική πρόσθετη εκπαίδευση για το σύστημα ΤΝ υψηλού κινδύνου από τον πάροχο με σκοπό την αντιμετώπιση προβλέψιμης κακής χρήσης τους. Ωστόσο, οι πάροχοι παροτρύνονται να εξετάσουν το ενδεχόμενο πρόσθετων μέτρων εκπαίδευσης για τον μετριασμό της ευλόγως προβλέψιμης κακής χρήσης, εφόσον είναι αναγκαία και σκόπιμα.
(66)
Os sistemas de IA de risco elevado deverão estar sujeitos ao cumprimento de requisitos relativos à gestão de riscos, à qualidade e à pertinência dos conjuntos de dados utilizados, à documentação técnica e à manutenção de registos, à transparência e à prestação de informações aos responsáveis pela implantação, à supervisão humana, à solidez, à exatidão e à cibersegurança. Esses requisitos são necessários para atenuar eficazmente os riscos para a saúde, a segurança e os direitos fundamentais. Uma vez que não estão razoavelmente disponíveis outras medidas menos restritivas ao comércio, esses requisitos não constituem restrições injustificadas ao comércio.
(66)
Θα πρέπει να εφαρμόζονται απαιτήσεις για τα συστήματα ΤΝ υψηλού κινδύνου όσον αφορά τη διαχείριση κινδύνου, την ποιότητα και καταλληλότητα των συνόλων δεδομένων που χρησιμοποιούνται, τον τεχνικό φάκελο και την τήρηση αρχείων, τη διαφάνεια και την πληροφόρηση των φορέων εφαρμογής, την ανθρώπινη εποπτεία και τη στιβαρότητα, την ακρίβεια και την κυβερνοασφάλεια. Οι απαιτήσεις αυτές είναι αναγκαίες για τον αποτελεσματικό μετριασμό των κινδύνων για την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα. Καθώς δεν υπάρχουν ευλόγως διαθέσιμα άλλα λιγότερο περιοριστικά για το εμπόριο μέτρα, οι εν λόγω απαιτήσεις δεν αποτελούν αδικαιολόγητους περιορισμούς στο εμπόριο.
(67)
Os dados de elevada qualidade e o acesso a dados de elevada qualidade desempenham um papel essencial ao proporcionarem estrutura e garantirem o desempenho de vários sistemas de IA, sobretudo quando são utilizadas técnicas que envolvem o treino de modelos, com vista a assegurar que o sistema de IA de risco elevado funcione como pretendido e de modo seguro e não se torne uma fonte de uma discriminação proibida pelo direito da União. Para garantir conjuntos de dados de treino, validação e testagem de elevada qualidade é necessário aplicar práticas adequadas de governação e gestão de dados. Os conjuntos de dados de treino, validação e testagem, incluindo os rótulos, deverão ser pertinentes, suficientemente representativos e, tanto quanto possível, isentos de erros e completos, tendo em conta a finalidade prevista do sistema. A fim de facilitar o cumprimento da legislação da União em matéria de proteção de dados, como o Regulamento (UE) 2016/679, as práticas de governação e de gestão de dados deverão incluir, no caso dos dados pessoais, a transparência sobre a finalidade inicial da recolha de dados. Os conjuntos de dados deverão também ter as propriedades estatísticas adequadas, nomeadamente no que respeita às pessoas ou grupos de pessoas nos quais o sistema de IA de risco elevado se destina a ser utilizado, com especial atenção para a atenuação de eventuais enviesamentos nos conjuntos de dados que sejam suscetíveis de afetar a saúde e a segurança das pessoas, afetar negativamente os direitos fundamentais ou conduzir a discriminações proibidas pelo direito da União, especialmente quando os resultados dos dados influenciam entradas para operações futuras («circuitos de realimentação»). Os enviesamentos podem, por exemplo, ser inerentes a conjuntos de dados de base, especialmente quando são usados ou gerados dados históricos ao serem aplicados os sistemas a situações reais. Os resultados apresentados pelos sistemas de IA poderão ser influenciados por enviesamentos inerentes que tendem a aumentar gradualmente, e, desse modo, a perpetuar e a ampliar a discriminação existente, em particular de pessoas pertencentes a grupos vulneráveis, nomeadamente de grupos raciais ou étnicos. O requisito de os conjuntos de dados serem o mais completos possível e isentos de erros não deverá afetar a utilização de técnicas de preservação da privacidade no contexto do desenvolvimento e testagem de sistemas de IA. Em especial, os conjuntos de dados deverão ter em conta, na medida do exigido face à sua finalidade prevista, as funcionalidades, as características ou os elementos que são específicos do cenário geográfico, contextual, comportamental ou funcional no qual o sistema de IA se destina a ser utilizado. Os requisitos relacionados com a governação dos dados podem ser cumpridos recorrendo a terceiros que ofereçam serviços de conformidade certificados, incluindo a verificação da governação dos dados, da integridade dos conjuntos de dados e das práticas de treino, validação e testagem de dados, desde que seja assegurado o cumprimento dos requisitos em matéria de dados do presente regulamento.
(67)
Τα δεδομένα υψηλής ποιότητας και η πρόσβαση σε υψηλής ποιότητας δεδομένα διαδραματίζουν ζωτικό ρόλο στην οργάνωση της δομής και στην εξασφάλιση των επιδόσεων πολλών συστημάτων ΤΝ, ιδίως όταν χρησιμοποιούνται τεχνικές που αφορούν την εκπαίδευση μοντέλων, προκειμένου να διασφαλίζεται ότι το σύστημα ΤΝ υψηλού κινδύνου λειτουργεί όπως προβλέπεται και με ασφάλεια και δεν αποτελεί πηγή διακρίσεων που απαγορεύονται από το δίκαιο της Ένωσης. Τα υψηλής ποιότητας σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής απαιτούν την εφαρμογή κατάλληλων πρακτικών διακυβέρνησης και διαχείρισης δεδομένων. Τα σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής, περιλαμβανομένων των επισημάνσεων, θα πρέπει να είναι συναφή, επαρκώς αντιπροσωπευτικά και, στον μέγιστο δυνατό βαθμό, πλήρη και χωρίς σφάλματα έναντι του επιδιωκόμενου σκοπού. Προκειμένου να διευκολυνθεί η συμμόρφωση με το δίκαιο της Ένωσης για την προστασία των δεδομένων, όπως ο κανονισμός (ΕΕ) 2016/679, οι πρακτικές διακυβέρνησης και διαχείρισης δεδομένων θα πρέπει να περιλαμβάνουν, στην περίπτωση των δεδομένων προσωπικού χαρακτήρα, διαφάνεια σχετικά με τον αρχικό σκοπό της συλλογής δεδομένων. Τα σύνολα δεδομένων θα πρέπει επίσης να έχουν τις κατάλληλες στατιστικές ιδιότητες, μεταξύ άλλων όσον αφορά τα πρόσωπα ή τις ομάδες προσώπων σε σχέση με τα οποία πρόκειται να χρησιμοποιηθεί το σύστημα ΤΝ υψηλού κινδύνου, με ιδιαίτερη προσοχή στον μετριασμό ενδεχόμενων προκαταλήψεων στα σύνολα δεδομένων, οι οποίες είναι πιθανόν να επηρεάσουν την υγεία και την ασφάλεια των προσώπων, να έχουν αρνητικό αντίκτυπο στα θεμελιώδη δικαιώματα ή να οδηγήσουν σε διακρίσεις που απαγορεύονται δυνάμει του ενωσιακού δικαίου, ιδίως όταν τα δεδομένα εξόδου επηρεάζουν τα στοιχεία εισόδου για μελλοντικές δραστηριότητες (βρόχοι ανάδρασης). Οι προκαταλήψεις, για παράδειγμα, μπορεί να είναι εγγενείς στα υποκείμενα σύνολα δεδομένων, ιδίως όταν χρησιμοποιούνται ιστορικά δεδομένα, ή να προκαλούνται όταν τα συστήματα τίθενται σε εφαρμογή σε πραγματικά περιβάλλοντα. Τα αποτελέσματα που παρέχουν τα συστήματα ΤΝ θα μπορούσαν να επηρεαστούν από τέτοιου είδους εγγενείς προκαταλήψεις, που τείνουν να αυξάνονται σταδιακά, διαιωνίζοντας και ενισχύοντας έτσι υφιστάμενες διακρίσεις, ιδίως εις βάρος προσώπων που ανήκουν σε ορισμένες ευάλωτες ομάδες, συμπεριλαμβανομένων των φυλετικών ή εθνοτικών ομάδων. Η απαίτηση να είναι τα σύνολα δεδομένων στον μέγιστο δυνατό βαθμό πλήρη και χωρίς σφάλματα δεν θα πρέπει να επηρεάζει τη χρήση τεχνικών προστασίας της ιδιωτικής ζωής στο πλαίσιο της ανάπτυξης και της δοκιμής συστημάτων ΤΝ. Τα σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής θα πρέπει, ιδίως, να λαμβάνουν υπόψη, στον βαθμό που απαιτείται από τον επιδιωκόμενο σκοπό τους, τα γνωρίσματα, τα χαρακτηριστικά ή τα στοιχεία που προσιδιάζουν σε συγκεκριμένο γεωγραφικό, συμπεριφορικό, συγκυριακό ή λειτουργικό περιβάλλον εντός του οποίου προορίζεται να χρησιμοποιηθεί το σύστημα ΤΝ. Οι απαιτήσεις που σχετίζονται με τη διακυβέρνηση των δεδομένων μπορούν να τηρούνται με προσφυγή σε τρίτους που προσφέρουν πιστοποιημένες υπηρεσίες συμμόρφωσης, συμπεριλαμβανομένων της επαλήθευσης της διακυβέρνησης των δεδομένων, της ακεραιότητας του συνόλου δεδομένων και των πρακτικών εκπαίδευσης, επικύρωσης και δοκιμής δεδομένων, υπό την προϋπόθεση ότι εξασφαλίζεται η συμμόρφωση με τις απαιτήσεις του παρόντος κανονισμού όσον αφορά τα δεδομένα.
(68)
No contexto do desenvolvimento e avaliação de sistemas de IA de risco elevado, determinados intervenientes, como prestadores, organismos notificados e outras entidades pertinentes, como polos de inovação digital, instalações de testagem e experimentação e investigadores, deverão ter a possibilidade de aceder a conjuntos de dados de elevada qualidade dentro das áreas de intervenção desses intervenientes relacionadas com o presente regulamento. Os espaços comuns europeus de dados criados pela Comissão e a facilitação da partilha de dados entre empresas e com as administrações públicas por motivos de interesse público serão cruciais para conceder um acesso fiável, responsável e não discriminatório a dados de elevada qualidade para o treino, a validação e a testagem de sistemas de IA. Por exemplo, no domínio da saúde, o Espaço Europeu de Dados de Saúde facilitará o acesso não discriminatório a dados de saúde e o treino de algoritmos de IA com base nesses conjuntos de dados, de forma respeitadora da privacidade, segura, atempada, transparente e digna de confiança, e sob a alçada de uma governação institucional adequada. As autoridades competentes, incluindo as autoridades setoriais, que concedem ou apoiam o acesso aos dados também podem apoiar a disponibilização de dados de elevada qualidade para fins de treino, validação e testagem de sistemas de IA.
(68)
Για την ανάπτυξη και αξιολόγηση συστημάτων ΤΝ υψηλού κινδύνου, ορισμένοι παράγοντες, όπως πάροχοι, κοινοποιημένοι οργανισμοί και άλλες σχετικές οντότητες, όπως οι ευρωπαϊκοί κόμβοι ψηφιακής καινοτομίας, οι εγκαταστάσεις δοκιμών και πειραματισμού και οι ερευνητές, θα πρέπει να είναι σε θέση να αποκτούν πρόσβαση και να χρησιμοποιούν σύνολα δεδομένων υψηλής ποιότητας στους τομείς δραστηριοτήτων των παραγόντων αυτών που σχετίζονται με τον παρόντα κανονισμό. Οι ευρωπαϊκοί κοινοί χώροι δεδομένων που δημιουργούνται από την Επιτροπή και η διευκόλυνση της κοινοχρησίας δεδομένων μεταξύ επιχειρήσεων και με το κράτος για την εξυπηρέτηση του δημόσιου συμφέροντος θα έχουν καθοριστική σημασία για την παροχή αξιόπιστης, υπεύθυνης και χωρίς διακρίσεις πρόσβασης σε υψηλής ποιότητας δεδομένα για την εκπαίδευση, την επικύρωση και τη δοκιμή συστημάτων ΤΝ. Για παράδειγμα, στον τομέα της υγείας, ο ευρωπαϊκός χώρος δεδομένων υγείας θα διευκολύνει τη χωρίς διακρίσεις πρόσβαση σε δεδομένα υγείας και την εκπαίδευση αλγορίθμων ΤΝ με αυτά τα σύνολα δεδομένων, κατά τρόπο ασφαλή, έγκαιρο, διαφανή και αξιόπιστο, που διαφυλάσσει την ιδιωτική ζωή, και με την κατάλληλη θεσμική διακυβέρνηση. Οι σχετικές αρμόδιες αρχές, συμπεριλαμβανομένων των τομεακών αρχών, οι οποίες παρέχουν ή υποστηρίζουν την πρόσβαση σε δεδομένα μπορούν επίσης να υποστηρίξουν την παροχή δεδομένων υψηλής ποιότητας για την εκπαίδευση, την επικύρωση και τη δοκιμή συστημάτων ΤΝ.
(69)
O direito à privacidade e à proteção de dados pessoais tem de ser garantido ao longo de todo o ciclo de vida do sistema de IA. A este respeito, os princípios da minimização dos dados e da proteção de dados desde a conceção e por norma, tal como estabelecidos na legislação da União em matéria de proteção de dados, são aplicáveis quando se realiza o tratamento de dados. As medidas tomadas pelos prestadores para assegurar o cumprimento desses princípios podem incluir não só a anonimização e a cifragem, mas também a utilização de tecnologias que permitam a introdução de algoritmos nos dados e o treino dos sistemas de IA sem a transmissão entre as partes ou a cópia dos próprios dados em bruto ou estruturados, sem prejuízo dos requisitos em matéria de governação de dados previstos no presente regulamento.
(69)
Το δικαίωμα στην ιδιωτική ζωή και στην προστασία των δεδομένων προσωπικού χαρακτήρα πρέπει να διασφαλίζεται καθ’ όλη τη διάρκεια του κύκλου ζωής του συστήματος ΤΝ. Στο πλαίσιο αυτό, όταν υποβάλλονται σε επεξεργασία δεδομένα προσωπικού χαρακτήρα, έχουν εφαρμογή οι αρχές της ελαχιστοποίησης των δεδομένων και της προστασίας των δεδομένων ήδη από τον σχεδιασμό και εξ ορισμού, όπως προβλέπεται στο ενωσιακό δίκαιο για την προστασία των δεδομένων. Στα μέτρα που λαμβάνουν οι πάροχοι για τη διασφάλιση της συμμόρφωσης με τις αρχές αυτές μπορούν να περιλαμβάνονται όχι μόνο η ανωνυμοποίηση και η κρυπτογράφηση, αλλά και η χρήση τεχνολογίας που επιτρέπει την εισαγωγή αλγορίθμων στα δεδομένα και την εκπαίδευση συστημάτων ΤΝ χωρίς να διαβιβάζονται μεταξύ των μερών ή να αντιγράφονται τα ίδια τα ανεπεξέργαστα ή δομημένα δεδομένα, με την επιφύλαξη των απαιτήσεων περί διακυβέρνησης των δεδομένων που προβλέπονται στον παρόντα κανονισμό.
(70)
A fim de proteger o direito de terceiros da discriminação que possa resultar do enviesamento nos sistemas de IA, os prestadores deverão, a título excecional, na medida do estritamente necessário para assegurar a deteção e a correção de enviesamentos em relação aos sistemas de IA de risco elevado, sob reserva de salvaguardas adequadas dos direitos e liberdades fundamentais das pessoas singulares e na sequência da aplicação de todas as condições aplicáveis estabelecidas no presente regulamento, para além das condições estabelecidas nos Regulamentos (UE) 2016/679 e (UE) 2018/1725 e na Diretiva (UE) 2016/680, ser capazes de tratar também categorias especiais de dados pessoais, por razões de interesse público substancial, na aceção do artigo 9.o, n.o 2, alínea g), do Regulamento (UE) 2016/679 e do artigo 10.o, n.o 2, alínea g), do Regulamento (UE) 2018/1725.
(70)
Προκειμένου να προστατεύεται το δικαίωμα τρίτων από διακρίσεις που θα μπορούσαν να προκύψουν από προκατάληψη εντός των συστημάτων ΤΝ, οι πάροχοι θα πρέπει, κατ’ εξαίρεση, στον βαθμό που είναι απολύτως αναγκαίο για τον σκοπό της διασφάλισης του εντοπισμού και της διόρθωσης της προκατάληψης σε σχέση με τα συστήματα ΤΝ υψηλού κινδύνου, με την επιφύλαξη κατάλληλων διασφαλίσεων για τα θεμελιώδη δικαιώματα και τις ελευθερίες των φυσικών προσώπων και κατόπιν της εφαρμογής όλων των εφαρμοστέων προϋποθέσεων που προβλέπονται στον παρόντα κανονισμό επιπλέον των προϋποθέσεων που ορίζονται στους κανονισμούς (ΕΕ) 2016/679 και (ΕΕ) 2018/1725 και στην οδηγία (ΕΕ) 2016/680, να είναι σε θέση να επεξεργάζονται επίσης ειδικές κατηγορίες δεδομένων προσωπικού χαρακτήρα, για λόγους ουσιαστικού δημόσιου συμφέροντος κατά την έννοια του άρθρου 9 παράγραφος 2 στοιχείο ζ) του κανονισμού (ΕΕ) 2016/679 και του άρθρου 10 παράγραφος 2 στοιχείο ζ) του κανονισμού (ΕΕ) 2018/1725.
(71)
Dispor de informações compreensíveis sobre a forma como os sistemas de IA de risco elevado foram desenvolvidos e sobre o seu desempenho ao longo da sua vida útil é essencial para permitir a rastreabilidade desses sistemas, verificar o cumprimento dos requisitos previstos no presente regulamento, bem como o acompanhamento das suas operações e o acompanhamento pós-comercialização. Para tal, é necessário manter registos e disponibilizar documentação técnica com as informações necessárias para avaliar se o sistema de IA cumpre os requisitos aplicáveis e facilita o acompanhamento pós-comercialização. Essas informações deverão incluir as características gerais, as capacidades e as limitações do sistema, os algoritmos, os dados e os processos de treino, testagem e validação utilizados, bem como a documentação relativa ao sistema de gestão de riscos aplicado, e ser redigidas de forma clara e compreensiva. A documentação técnica deverá ser mantida devidamente atualizada ao longo de toda a vida útil do sistema de IA. Além disso, os sistemas de IA de risco elevado deverão permitir tecnicamente o registo automático de eventos, por meio de registos, durante a vida útil do sistema.
(71)
Η ύπαρξη κατανοητών πληροφοριών σχετικά με τον τρόπο ανάπτυξης συστημάτων ΤΝ υψηλού κινδύνου και τις επιδόσεις τους καθ’ όλη τη διάρκεια του κύκλου ζωής τους έχει ουσιώδη σημασία για την εξασφάλιση της ιχνηλασιμότητας των εν λόγω συστημάτων, την επαλήθευση της συμμόρφωσης με τις απαιτήσεις του παρόντος κανονισμού, καθώς και την παρακολούθηση των δραστηριοτήτων τους και την παρακολούθηση μετά τη διάθεση στην αγορά. Αυτό απαιτεί την τήρηση αρχείων και τη διαθεσιμότητα τεχνικού φακέλου, ο οποίος περιέχει πληροφορίες που είναι απαραίτητες για την αξιολόγηση της συμμόρφωσης του συστήματος ΤΝ με τις σχετικές απαιτήσεις και για τη διευκόλυνση της παρακολούθησης μετά τη διάθεση στην αγορά. Οι πληροφορίες αυτές θα πρέπει να καλύπτουν τα γενικά χαρακτηριστικά, τις ικανότητες και τους περιορισμούς του συστήματος, τους αλγορίθμους, τα δεδομένα, τις διαδικασίες εκπαίδευσης, επικύρωσης και δοκιμής που χρησιμοποιούνται, καθώς και τεκμηρίωση για το σχετικό σύστημα διαχείρισης κινδύνου, θα πρέπει δε να διατυπώνονται με σαφή και ολοκληρωμένο τρόπο. Ο τεχνικός φάκελος θα πρέπει να επικαιροποιείται δεόντως καθ’ όλη τη διάρκεια του κύκλου ζωής του συστήματος ΤΝ. Επιπλέον, τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να επιτρέπουν τεχνικά την αυτόματη καταγραφή συμβάντων, μέσω αρχείων καταγραφής, καθ’ όλη τη διάρκεια ζωής του συστήματος.
(72)
A fim de dar resposta às preocupações relacionadas com a opacidade e a complexidade de determinados sistemas de IA e ajudar os responsáveis pela implantação a cumprir as obrigações que lhes incumbem por força do presente regulamento, deverá ser exigida transparência aos sistemas de IA de risco elevado antes de serem colocados no mercado ou colocados em serviço. Os sistemas de IA de risco elevado deverão ser concebidos de forma a permitir aos responsáveis pela implantação compreender a forma como funciona o sistema de IA, avaliar a sua funcionalidade e compreender os seus pontos fortes e limitações. Os sistemas de IA de risco elevado deverão ser acompanhados de informações adequadas sob a forma de instruções de utilização. Tais informações deverão incluir as características, capacidades e limitações do desempenho do sistema de IA. Esses elementos abrangerão informações sobre eventuais circunstâncias conhecidas e previsíveis relacionadas com a utilização do sistema de IA de risco elevado, incluindo ações do responsável pela implantação que possam influenciar o comportamento e o desempenho do sistema, ao abrigo das quais o sistema de IA pode conduzir a riscos para a saúde, a segurança e os direitos fundamentais, sobre as alterações que foram predeterminadas e avaliadas para efeitos de conformidade pelo prestador e sobre as medidas de supervisão humana pertinentes, incluindo as medidas destinadas a facilitar a interpretação dos resultados do sistema de IA pelos responsáveis pela implantação. A transparência, incluindo as instruções de utilização que as acompanham, deverá ajudar os responsáveis pela implantação na utilização do sistema e apoiar a sua tomada de decisões informadas. Entre outros, os responsáveis pela implantação deverão estar em melhor posição para fazer a escolha correta do sistema que tencionam utilizar à luz das obrigações que lhes são aplicáveis, ser instruídos sobre as utilizações previstas e proibidas e utilizar o sistema de IA de forma correta e conforme adequado. A fim de melhorar a legibilidade e a acessibilidade das informações incluídas nas instruções de utilização, deverão ser incluídos, se for caso disso, exemplos ilustrativos, por exemplo, sobre as limitações e as utilizações previstas e proibidas do sistema de IA. Os prestadores deverão assegurar que toda a documentação, incluindo as instruções de utilização, contém informações significativas, abrangentes, acessíveis e compreensíveis, tendo em conta as necessidades e os conhecimentos previsíveis dos responsáveis pela implantação visados. As instruções de utilização deverão ser disponibilizadas numa língua que possa ser facilmente compreendida pelos responsáveis pela implantação visados, conforme determinado pelo Estado-Membro em causa.
(72)
Για την αντιμετώπιση των ανησυχιών σχετικά με την αδιαφάνεια και την πολυπλοκότητα ορισμένων συστημάτων ΤΝ και για τη διευκόλυνση των φορέων εφαρμογής όσον αφορά την τήρηση των υποχρεώσεών τους βάσει του παρόντος κανονισμού, θα πρέπει να απαιτείται διαφάνεια για τα συστήματα ΤΝ υψηλού κινδύνου πριν από τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία. Τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να σχεδιάζονται κατά τρόπο που να επιτρέπει στους φορείς εφαρμογής να καταλαβαίνουν πώς λειτουργεί το σύστημα ΤΝ, να αξιολογούν τη λειτουργικότητά του και να κατανοούν τα πλεονεκτήματα και τους περιορισμούς του. Τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να συνοδεύονται από κατάλληλες πληροφορίες με τη μορφή οδηγιών χρήσης. Στις πληροφορίες αυτές θα πρέπει να περιλαμβάνονται τα χαρακτηριστικά, οι ικανότητες και οι περιορισμοί των επιδόσεων του συστήματος ΤΝ. Αυτά θα καλύπτουν πληροφορίες σχετικά με ενδεχόμενες γνωστές και προβλέψιμες περιστάσεις οι οποίες συνδέονται με τη χρήση του συστήματος ΤΝ υψηλού κινδύνου, όπως, μεταξύ άλλων, ενέργειες του φορέα εφαρμογής δυνητικώς ικανές να επηρεάσουν τη συμπεριφορά και τις επιδόσεις του συστήματος, υπό τις οποίες το σύστημα ΤΝ μπορεί να οδηγήσει σε κινδύνους για την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα, σχετικά με τις αλλαγές που έχουν προκαθοριστεί και αξιολογηθεί από τον πάροχο ως προς τη συμμόρφωση, καθώς και σχετικά με τα κατάλληλα μέτρα ανθρώπινης εποπτείας, συμπεριλαμβανομένων των μέτρων για τη διευκόλυνση της ερμηνείας των στοιχείων εξόδου του συστήματος ΤΝ από τους φορείς εφαρμογής. Η διαφάνεια, συμπεριλαμβανομένων των συνοδευτικών οδηγιών χρήσης, θα πρέπει να βοηθά τους φορείς εφαρμογής στη χρήση του συστήματος και να υποστηρίζει τη λήψη τεκμηριωμένων αποφάσεων από αυτούς. Μεταξύ άλλων, θα πρέπει να βελτιωθεί η ικανότητα των φορέων εφαρμογής να επιλέγουν σωστά το σύστημα που σκοπεύουν να χρησιμοποιήσουν υπό το πρίσμα των υποχρεώσεων που υπέχουν, να έχουν γνώση των προβλεπόμενων και αποκλειόμενων χρήσεων και να χρησιμοποιούν το σύστημα ΤΝ με τον σωστό και ενδεδειγμένο τρόπο. Για να είναι πιο εύληπτες και προσβάσιμες οι πληροφορίες που περιέχονται στις οδηγίες χρήσης, θα πρέπει να περιλαμβάνονται, κατά περίπτωση, ενδεικτικά παραδείγματα, λόγου χάριν σχετικά με τους περιορισμούς και τις προβλεπόμενες και αποκλειόμενες χρήσεις του συστήματος ΤΝ. Οι πάροχοι θα πρέπει να διασφαλίζουν ότι όλο το υλικό τεκμηρίωσης, συμπεριλαμβανομένων των οδηγιών χρήσης, περιέχει ουσιαστικές, ολοκληρωμένες, προσβάσιμες και κατανοητές πληροφορίες, λαμβανομένων υπόψη των αναγκών και των προβλέψιμων γνώσεων των στοχευόμενων φορέων εφαρμογής. Οι οδηγίες χρήσης θα πρέπει να διατίθενται σε γλώσσα εύκολα κατανοητή από τους στοχευόμενους φορείς εφαρμογής, όπως καθορίζεται από το οικείο κράτος μέλος.
(73)
Os sistemas de IA de risco elevado deverão ser concebidos e desenvolvidos de maneira que pessoas singulares possam supervisionar o seu funcionamento, assegurar que são utilizados como previsto e que os seus impactos são abordados ao longo do ciclo de vida do sistema. Para o efeito, o prestador do sistema deverá identificar medidas de supervisão humana adequadas antes da colocação no mercado ou da colocação em serviço do sistema. Em particular, se for caso disso, essas medidas deverão garantir que o sistema esteja sujeito a restrições operacionais integradas impossíveis de serem anuladas pelo próprio sistema e responda ao operador humano, bem como que as pessoas singulares a quem seja atribuída a supervisão humana tenham as competências, a formação e a autoridade necessárias para desempenhar essa função. É igualmente essencial, conforme adequado, assegurar que os sistemas de IA de risco elevado incluam mecanismos para orientar e informar uma pessoa singular incumbida da supervisão humana de forma a que tome decisões informadas sobre se, quando e como intervir, a fim de evitar consequências negativas ou riscos, ou a que pare o sistema se não funcionar como previsto. Tendo em conta as consequências significativas para as pessoas em caso de uma correspondência incorreta por determinados sistemas de identificação biométrica, é conveniente prever um requisito reforçado de supervisão humana para esses sistemas, de modo a que o responsável pela implantação não possa tomar qualquer medida ou decisão com base na identificação resultante do sistema, a menos que tal tenha sido verificado e confirmado separadamente por, pelo menos, duas pessoas singulares. Essas pessoas podem pertencer a uma ou mais entidades e incluir a pessoa que opera ou utiliza o sistema. Este requisito não deverá implicar encargos ou atrasos desnecessários e pode ser suficiente que as verificações separadas efetuadas pelas diferentes pessoas sejam automaticamente gravadas nos registos gerados pelo sistema. Tendo em conta as especificidades dos domínios da aplicação da lei, da migração, do controlo das fronteiras e do asilo, este requisito não deverá aplicar-se nos casos em que o direito da União ou o direito nacional considere que a aplicação desse requisito é desproporcionada.
(73)
Τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να σχεδιάζονται και να αναπτύσσονται κατά τρόπο ώστε τα φυσικά πρόσωπα να μπορούν να επιβλέπουν τη λειτουργία τους και να διασφαλίζουν ότι χρησιμοποιούνται με τον προβλεπόμενο τρόπο και ότι οι επιπτώσεις τους αντιμετωπίζονται στη διάρκεια του κύκλου ζωής του συστήματος. Για τον σκοπό αυτόν, ο πάροχος του συστήματος θα πρέπει να προσδιορίζει κατάλληλα μέτρα ανθρώπινης εποπτείας πριν από τη διάθεση του συστήματος στην αγορά ή τη θέση του σε λειτουργία. Ειδικότερα, τα μέτρα αυτά θα πρέπει, κατά περίπτωση, να διασφαλίζουν ότι το σύστημα υπόκειται σε ενσωματωμένους περιορισμούς λειτουργίας οι οποίοι δεν μπορούν να παρακαμφθούν από το ίδιο το σύστημα και ότι ανταποκρίνεται στον άνθρωπο που το χειρίζεται, καθώς και ότι τα φυσικά πρόσωπα στα οποία έχει ανατεθεί η ανθρώπινη εποπτεία διαθέτουν την απαιτούμενη ικανότητα, κατάρτιση και εξουσιοδότηση για την εκτέλεση αυτού του καθήκοντος. Έχει επίσης ζωτική σημασία να διασφαλίζεται, κατά περίπτωση, ότι τα συστήματα ΤΝ υψηλού κινδύνου περιλαμβάνουν μηχανισμούς για την καθοδήγηση και την ενημέρωση ενός φυσικού προσώπου στο οποίο έχει ανατεθεί η ανθρώπινη εποπτεία, ώστε να λαμβάνει τεκμηριωμένες αποφάσεις σχετικά με το αν, το πότε και το πώς πρέπει να παρέμβει για να αποτρέψει αρνητικές συνέπειες ή κινδύνους ή για να σταματήσει το σύστημα εάν δεν λειτουργεί με τον προβλεπόμενο τρόπο. Λαμβανομένων υπόψη των σημαντικών συνεπειών για τα πρόσωπα σε περίπτωση εσφαλμένης αντιστοίχισης από ορισμένα συστήματα βιομετρικής ταυτοποίησης, ενδείκνυται να προβλεφθεί απαίτηση ενισχυμένης ανθρώπινης εποπτείας για τα εν λόγω συστήματα, ώστε ο φορέας εφαρμογής να μην μπορεί να προβεί σε καμία ενέργεια, ούτε να λάβει απόφαση με βάση την ταυτοποίηση που προκύπτει από το σύστημα, εκτός εάν αυτή έχει επαληθευτεί και επιβεβαιωθεί χωριστά από τουλάχιστον δύο φυσικά πρόσωπα. Τα πρόσωπα αυτά θα μπορούσαν να προέρχονται από μία ή περισσότερες οντότητες και να περιλαμβάνουν το πρόσωπο που χειρίζεται ή χρησιμοποιεί το σύστημα. Η απαίτηση αυτή δεν θα πρέπει να συνεπάγεται περιττό φόρτο ή καθυστερήσεις, θα μπορούσε δε να αρκεί οι χωριστές επαληθεύσεις από τα διάφορα πρόσωπα να καταγράφονται αυτόματα στα αρχεία καταγραφής που παράγει το σύστημα. Δεδομένων των ιδιαιτεροτήτων των τομέων της επιβολής του νόμου, της μετανάστευσης, των συνοριακών ελέγχων και του ασύλου, η απαίτηση αυτή δεν θα πρέπει να εφαρμόζεται όταν το ενωσιακό ή το εθνικό δίκαιο θεωρεί δυσανάλογη την εφαρμογή της.
(74)
Os sistemas de IA de risco elevado deverão ter um desempenho coerente ao longo de todo o seu ciclo de vida e apresentar um nível adequado de exatidão, solidez e cibersegurança, à luz da finalidade prevista e de acordo com o estado da arte geralmente reconhecido. A Comissão e as organizações e partes interessadas pertinentes são incentivadas a ter em devida consideração a atenuação dos riscos e os impactos negativos do sistema de IA. O nível esperado dos parâmetros de desempenho deverá vir declarado nas instruções de utilização que o acompanham. Os prestadores são instados a comunicar essas informações aos responsáveis pela implantação de uma forma clara e facilmente compreensível, sem mal-entendidos nem declarações enganosas. O direito da União em matéria de metrologia legal, incluindo as Diretivas 2014/31/UE (35) e 2014/32/UE (36) do Parlamento Europeu e do Conselho, visa garantir a exatidão das medições e contribuir para a transparência e a lealdade das transações comerciais. Nesse contexto, em cooperação com as partes interessadas e a organização pertinentes, como as autoridades responsáveis pela metrologia e pela avaliação comparativa, a Comissão deverá incentivar, se for caso disso, o desenvolvimento de parâmetros de referência e metodologias de medição para os sistemas de IA. Ao fazê-lo, a Comissão deverá tomar nota e colaborar com os parceiros internacionais que trabalham em metrologia e em indicadores de medição pertinentes relacionados com a IA.
(74)
Τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να λειτουργούν με συνέπεια καθ’ όλη τη διάρκεια του κύκλου ζωής τους και να επιτυγχάνουν κατάλληλο επίπεδο ακρίβειας, στιβαρότητας και κυβερνοασφάλειας, υπό το πρίσμα του επιδιωκόμενου σκοπού τους και σύμφωνα με τη γενικώς αναγνωρισμένη εξέλιξη της τεχνολογίας. Η Επιτροπή και οι σχετικοί οργανισμοί και συμφεροντούχοι παροτρύνονται να λαμβάνουν δεόντως υπόψη τον μετριασμό των κινδύνων και των αρνητικών επιπτώσεων των συστημάτων ΤΝ. Το αναμενόμενο επίπεδο των μετρήσεων επιδόσεων θα πρέπει να δηλώνεται στις συνοδευτικές οδηγίες χρήσης. Οι πάροχοι παροτρύνονται να κοινοποιούν τις πληροφορίες αυτές στους φορείς εφαρμογής με σαφή και εύκολα κατανοητό τρόπο, χωρίς παρανοήσεις και παραπλανητικές δηλώσεις. Το δίκαιο της Ένωσης για τη νόμιμη μετρολογία, συμπεριλαμβανομένων των οδηγιών 2014/31/ΕΕ (35) και 2014/32/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (36), έχει ως στόχο να εξασφαλίζει την ακρίβεια των μετρήσεων και να συμβάλλει στη διαφάνεια και τη χρηστότητα των εμπορικών συναλλαγών. Στο πλαίσιο αυτό, σε συνεργασία με τους σχετικούς συμφεροντούχους και οργανισμούς, όπως τις αρχές μετρολογίας και συγκριτικής αξιολόγησης, η Επιτροπή θα πρέπει να ενθαρρύνει, κατά περίπτωση, την ανάπτυξη κριτηρίων αναφοράς και μεθοδολογιών μέτρησης για τα συστήματα ΤΝ. Στο πλαίσιο αυτό, η Επιτροπή θα πρέπει να λαμβάνει υπόψη και να συνεργάζεται με διεθνείς εταίρους που ασχολούνται με τη μετρολογία και κατάλληλους δείκτες μέτρησης όσον αφορά την ΤΝ.
(75)
A solidez técnica é um requisito essencial dos sistemas de IA de risco elevado. Esses sistemas deverão ser resistentes a comportamentos prejudiciais ou indesejáveis que possam resultar de limitações dentro dos sistemas ou do ambiente em que os sistemas operam (por exemplo, erros, falhas, incoerências, situações inesperadas). Por conseguinte, deverão ser tomadas medidas técnicas e organizativas para assegurar a solidez dos sistemas de IA de risco elevado, por exemplo através da conceção e do desenvolvimento de soluções técnicas adequadas para prevenir ou minimizar comportamentos nocivos ou indesejáveis. Essa solução técnica pode incluir, por exemplo, mecanismos que permitam ao sistema interromper o seu funcionamento de forma segura (planos de segurança à prova de falhas) caso se verifiquem determinadas anomalias ou caso o funcionamento ocorra fora de certos limites predeterminados. A falta de proteção contra estes riscos pode causar problemas de segurança ou afetar negativamente os direitos fundamentais, por exemplo, devido a decisões erradas ou a resultados errados ou enviesados gerados pelo sistema de IA.
(75)
Η τεχνική στιβαρότητα αποτελεί βασική απαίτηση για τα συστήματα ΤΝ υψηλού κινδύνου. Θα πρέπει να είναι ανθεκτικά όσον αφορά επιβλαβή ή άλλως ανεπιθύμητη συμπεριφορά που ενδέχεται να προκύψει από περιορισμούς εντός των συστημάτων ή του περιβάλλοντος στο οποίο λειτουργούν τα συστήματα (π.χ. σφάλματα, αστοχίες, ασυνέπειες, απρόβλεπτες καταστάσεις). Ως εκ τούτου, θα πρέπει να λαμβάνονται τεχνικά και οργανωτικά μέτρα για να εξασφαλίζεται η στιβαρότητα των συστημάτων ΤΝ υψηλού κινδύνου, για παράδειγμα με τον σχεδιασμό και την ανάπτυξη κατάλληλων τεχνικών λύσεων ώστε να προλαμβάνεται ή να ελαχιστοποιείται η επιβλαβής ή άλλως ανεπιθύμητη συμπεριφορά. Στις τεχνικές αυτές λύσεις μπορεί να περιλαμβάνονται, για παράδειγμα, μηχανισμοί που επιτρέπουν στο σύστημα να διακόπτει με ασφάλεια τη λειτουργία του (σχέδια ασφαλή από αστοχίες) παρουσία ορισμένων ανωμαλιών ή όταν η λειτουργία πραγματοποιείται εκτός ορισμένων προκαθορισμένων ορίων. Η έλλειψη προστασίας από τους κινδύνους αυτούς θα μπορούσε να έχει επιπτώσεις στην ασφάλεια ή να επηρεάσει αρνητικά τα θεμελιώδη δικαιώματα, για παράδειγμα λόγω εσφαλμένων αποφάσεων ή λανθασμένων ή μεροληπτικών στοιχείων εξόδου που παράγονται από το σύστημα ΤΝ.
(76)
A cibersegurança desempenha um papel fundamental para garantir que os sistemas de IA sejam resistentes às ações de terceiros mal-intencionados que tentam explorar as vulnerabilidades dos sistemas com o objetivo de lhes alterar a utilização, o comportamento e o desempenho ou de por em causa as suas propriedades de segurança. Os ciberataques contra sistemas de IA podem tirar partido de ativos específicos de IA, como os conjuntos de dados de treino (por exemplo, contaminação de dados) ou os modelos treinados (por exemplo, ataques antagónicos ou inferência de membros), ou explorar vulnerabilidades dos ativos digitais do sistema de IA ou da infraestrutura de tecnologias da informação e comunicação (TIC) subjacente. A fim de assegurar um nível de cibersegurança adequado aos riscos, os prestadores de sistemas de IA de risco elevado deverão tomar medidas adequadas, como os controlos de segurança, tendo ainda em devida conta a infraestrutura de TIC subjacente.
(76)
Η κυβερνοασφάλεια διαδραματίζει καίριο ρόλο στη διασφάλιση της ανθεκτικότητας των συστημάτων ΤΝ έναντι προσπαθειών κακόβουλων τρίτων να αλλοιώσουν τη χρήση τους, τη συμπεριφορά τους και τις επιδόσεις τους ή να θέσουν σε κίνδυνο τις ιδιότητες ασφάλειας εκμεταλλευόμενοι τα τρωτά σημεία του συστήματος. Οι κυβερνοεπιθέσεις κατά συστημάτων ΤΝ μπορούν να μοχλεύσουν συγκεκριμένους πόρους της ΤΝ, όπως τα σύνολα δεδομένων εκπαίδευσης (π.χ. δηλητηρίαση δεδομένων) ή τα εκπαιδευμένα μοντέλα (π.χ. αντιπαραθετικές επιθέσεις ή συναγωγή παρουσίας σε σύνολο δεδομένων) ή να εκμεταλλευτούν τρωτά σημεία των ψηφιακών πόρων του συστήματος ΤΝ ή των υποκείμενων υποδομών ΤΠΕ. Ως εκ τούτου, προκειμένου να εξασφαλίζεται επίπεδο κυβερνοασφάλειας που να αρμόζει στους κινδύνους, θα πρέπει οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου να λαμβάνουν κατάλληλα μέτρα, όπως έλεγχοι ασφάλειας, συνεκτιμώντας επίσης, κατά περίπτωση, τις υποκείμενες υποδομές ΤΠΕ.
(77)
Sem prejuízo dos requisitos relacionados com a solidez e a exatidão estabelecidos no presente regulamento, os sistema de IA de risco elevado abrangidos pelo âmbito de aplicação de um regulamento do Parlamento Europeu e do Conselho relativo aos requisitos horizontais de cibersegurança dos produtos com elementos digitais, nos termos desse regulamento, podem demonstrar a conformidade com o requisito de cibersegurança do presente regulamento ao cumprirem os requisitos essenciais de cibersegurança estabelecidos nesse regulamento. Quando os sistemas de IA de risco elevado cumprem os requisitos essenciais de um regulamento do Parlamento Europeu e do Conselho relativo aos requisitos horizontais de cibersegurança dos produtos com elementos digitais, deverão ser considerados conformes com os requisitos de cibersegurança estabelecidos no presente regulamento, desde que o cumprimento desses requisitos seja demonstrado na declaração UE de conformidade ou em partes da mesma emitida nos termos desse regulamento. Para o efeito, a avaliação dos riscos de cibersegurança associados a um produto com elementos digitais classificado como sistema de IA de risco elevado nos termos do presente regulamento, realizada ao abrigo de um regulamento do Parlamento Europeu e do Conselho relativo aos requisitos horizontais de cibersegurança dos produtos com elementos digitais, deverá ter em conta os riscos para a ciberresiliência de um sistema de IA no que diz respeito às tentativas de terceiros não autorizados de alterar a sua utilização, comportamento ou desempenho, incluindo vulnerabilidades específicas da IA, como a contaminação de dados ou ataques antagónicos, bem como os riscos pertinentes para os direitos fundamentais, tal como exigido pelo presente regulamento.
(77)
Με την επιφύλαξη των απαιτήσεων του παρόντος κανονισμού που σχετίζονται με τη στιβαρότητα και την ακρίβεια, τα συστήματα ΤΝ υψηλού κινδύνου που εμπίπτουν στο πεδίο εφαρμογής κανονισμού του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου σχετικά με οριζόντιες απαιτήσεις κυβερνοασφάλειας για προϊόντα με ψηφιακά στοιχεία, σύμφωνα με τον εν λόγω κανονισμό μπορούν να αποδεικνύουν τη συμμόρφωση με τις απαιτήσεις του παρόντος κανονισμού περί κυβερνοασφάλειας εκπληρώνοντας τις ουσιώδεις απαιτήσεις κυβερνοασφάλειας που ορίζονται στον εν λόγω κανονισμό. Όταν τα συστήματα ΤΝ υψηλού κινδύνου πληρούν τις ουσιώδεις απαιτήσεις κανονισμού του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου σχετικά με οριζόντιες απαιτήσεις κυβερνοασφάλειας για προϊόντα με ψηφιακά στοιχεία, θα πρέπει να θεωρείται ότι συμμορφώνονται με τις απαιτήσεις περί κυβερνοασφάλειας που καθορίζονται στον παρόντα κανονισμό στον βαθμό που η εκπλήρωση των απαιτήσεων αυτών αποδεικνύεται στη δήλωση συμμόρφωσης ΕΕ που εκδίδεται δυνάμει του εν λόγω κανονισμού ή σε μέρη αυτής. Για τον σκοπό αυτόν, η εκτίμηση που διενεργείται δυνάμει κανονισμού του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου σχετικά με οριζόντιες απαιτήσεις κυβερνοασφάλειας για προϊόντα με ψηφιακά στοιχεία, όσον αφορά τους κινδύνους για την κυβερνοασφάλεια που συνδέονται με προϊόν με ψηφιακά στοιχεία ταξινομημένο ως σύστημα ΤΝ υψηλού κινδύνου σύμφωνα με τον παρόντα κανονισμό θα πρέπει να εξετάζει τους κινδύνους για την κυβερνοανθεκτικότητα ενός συστήματος ΤΝ σε σχέση με απόπειρες μη εξουσιοδοτημένων τρίτων να αλλοιώσουν τη χρήση, τη συμπεριφορά ή τις επιδόσεις του, συμπεριλαμβανομένων συγκεκριμένων τρωτών σημείων της ΤΝ, όπως η δηλητηρίαση δεδομένων ή οι αντιπαραθετικές επιθέσεις, καθώς και, κατά περίπτωση, τους κινδύνους για τα θεμελιώδη δικαιώματα, όπως απαιτείται από τον παρόντα κανονισμό.
(78)
O procedimento de avaliação da conformidade previsto no presente regulamento deverá aplicar-se aos requisitos essenciais de cibersegurança de um produto com elementos digitais abrangido por um Regulamento do Parlamento Europeu e do Conselho relativo aos requisitos horizontais de cibersegurança dos produtos com elementos digitais e classificado como sistema de IA de risco elevado nos termos do presente regulamento. No entanto, esta regra não deverá resultar na redução do nível de garantia necessário para os produtos críticos com elementos digitais abrangidos por um regulamento do Parlamento Europeu e do Conselho relativo aos requisitos horizontais de cibersegurança dos produtos com elementos digitais. Por conseguinte, em derrogação desta regra, os sistemas de IA de risco elevado abrangidos pelo âmbito de aplicação do presente regulamento e que também são qualificados como produtos importantes e críticos com elementos digitais nos termos de um regulamento do Parlamento Europeu e do Conselho relativo aos requisitos horizontais de cibersegurança dos produtos com elementos digitais, e aos quais se aplica o procedimento de avaliação da conformidade baseado no controlo interno referido num anexo do presente regulamento, são sujeitos às disposições em matéria de avaliação da conformidade de um regulamento do Parlamento Europeu e do Conselho relativo aos requisitos horizontais de cibersegurança dos produtos com elementos digitais, no que diz respeito aos requisitos essenciais em matéria de cibersegurança desse regulamento. Neste caso, em relação a todos os outros aspetos abrangidos pelo presente regulamento, deverão aplicar-se as respetivas disposições em matéria de avaliação da conformidade com base no controlo interno estabelecidas num anexo do presente regulamento. Com base nos conhecimentos e competências especializados da ENISA sobre a política de cibersegurança e as funções atribuídas à ENISA nos termos do Regulamento (UE) 2019/881 do Parlamento Europeu e do Conselho (37), a Comissão Europeia deverá cooperar com a ENISA em questões relacionadas com a cibersegurança dos sistemas de IA.
(78)
Η διαδικασία αξιολόγησης της συμμόρφωσης που προβλέπεται στον παρόντα κανονισμό θα πρέπει να εφαρμόζεται σε σχέση με τις ουσιώδεις απαιτήσεις κυβερνοασφάλειας ενός προϊόντος με ψηφιακά στοιχεία που καλύπτεται από κανονισμό του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου σχετικά με οριζόντιες απαιτήσεις κυβερνοασφάλειας για προϊόντα με ψηφιακά στοιχεία και ταξινομείται ως σύστημα ΤΝ υψηλού κινδύνου δυνάμει του παρόντος κανονισμού. Ωστόσο, ο κανόνας αυτός δεν θα πρέπει να έχει ως αποτέλεσμα τη μείωση του απαραίτητου επιπέδου διασφάλισης για τα κρίσιμα προϊόντα με ψηφιακά στοιχεία που καλύπτονται από κανονισμό του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου σχετικά με οριζόντιες απαιτήσεις κυβερνοασφάλειας για προϊόντα με ψηφιακά στοιχεία. Συνεπώς, κατά παρέκκλιση από τον κανόνα αυτόν, τα συστήματα ΤΝ υψηλού κινδύνου τα οποία εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού και χαρακτηρίζονται επίσης σημαντικά και κρίσιμα προϊόντα με ψηφιακά στοιχεία σύμφωνα με κανονισμό του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου σχετικά με οριζόντιες απαιτήσεις κυβερνοασφάλειας για προϊόντα με ψηφιακά στοιχεία και στα οποία εφαρμόζεται η διαδικασία αξιολόγησης της συμμόρφωσης με βάση τον εσωτερικό έλεγχο η οποία ορίζεται σε παράρτημα του παρόντος κανονισμού υπόκεινται στις σχετικές με την αξιολόγηση της συμμόρφωσης διατάξεις κανονισμού του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου σχετικά με οριζόντιες απαιτήσεις κυβερνοασφάλειας για προϊόντα με ψηφιακά στοιχεία όσον αφορά τις ουσιώδεις απαιτήσεις για την κυβερνοασφάλεια του εν λόγω κανονισμού. Στην περίπτωση αυτή, για όλες τις άλλες πτυχές που καλύπτονται από τον παρόντα κανονισμό θα πρέπει να εφαρμόζονται οι αντίστοιχες διατάξεις για την αξιολόγηση της συμμόρφωσης με βάση τον εσωτερικό έλεγχο η οποία ορίζεται σε παράρτημα του παρόντος κανονισμού. Με βάση τις γνώσεις και την εμπειρογνωσία του ENISA σχετικά με την πολιτική κυβερνοασφάλειας και τα καθήκοντα που ανατίθενται στον ENISA δυνάμει του κανονισμού (ΕΕ) 2019/881 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (37), η Επιτροπή θα πρέπει να συνεργάζεται με τον ENISA σε θέματα που σχετίζονται με την κυβερνοασφάλεια των συστημάτων ΤΝ.
(79)
É apropriado que uma pessoa singular ou coletiva específica, identificada como «prestador», assuma a responsabilidade pela colocação no mercado ou pela colocação em serviço de um sistema de IA de risco elevado, independentemente de ser ou não a pessoa que concebeu ou desenvolveu o sistema.
(79)
Ενδείκνυται ένα συγκεκριμένο φυσικό ή νομικό πρόσωπο, το οποίο ορίζεται ως ο πάροχος, να αναλαμβάνει την ευθύνη για τη διάθεση στην αγορά ή τη θέση σε λειτουργία ενός συστήματος ΤΝ υψηλού κινδύνου, ανεξάρτητα από το αν το εν λόγω φυσικό ή νομικό πρόσωπο είναι αυτό που σχεδίασε ή ανέπτυξε το σύστημα.
(80)
Enquanto signatários da Convenção das Nações Unidas sobre os Direitos das Pessoas com Deficiência, a União e os seus Estados-Membros estão legalmente obrigados a proteger as pessoas com deficiência contra a discriminação e a promover a sua igualdade, a assegurar que as pessoas com deficiência gozem da mesma igualdade de acesso que outros às tecnologias e sistemas de informação e comunicação e a assegurar o respeito pela privacidade das pessoas com deficiência. Tendo em conta a crescente importância e utilização de sistemas de IA, a aplicação dos princípios de conceção universal a todas as novas tecnologias e serviços deverá garantir o acesso pleno e equitativo de todas as pessoas potencialmente afetadas pelas tecnologias de IA ou que utilizem essas tecnologias, incluindo as pessoas com deficiência, de uma forma que tenha plenamente em conta a sua inerente dignidade e diversidade. Por conseguinte, é essencial que os prestadores assegurem a plena conformidade com os requisitos de acessibilidade, incluindo a Diretiva (UE) 2016/2102 do Parlamento Europeu e do Conselho (38) e a Diretiva (UE) 2019/882. Os prestadores deverão assegurar o cumprimento destes requisitos desde a conceção. Por conseguinte, as medidas necessárias deverão ser integradas, tanto quanto possível, na conceção do sistema de IA de risco elevado.
(80)
Ως υπογράφοντες της σύμβασης του ΟΗΕ για τα δικαιώματα των ατόμων με αναπηρία, η Ένωση και τα κράτη μέλη υποχρεούνται νομικά να προστατεύουν τα άτομα με αναπηρία από διακρίσεις και να προάγουν την ισότητά τους, να διασφαλίζουν ότι τα άτομα με αναπηρία έχουν πρόσβαση, σε ισότιμη βάση με τα άλλα άτομα, σε τεχνολογίες και συστήματα πληροφοριών και επικοινωνιών, καθώς και να διασφαλίζουν τον σεβασμό της ιδιωτικής ζωής των ατόμων με αναπηρία. Δεδομένης της αυξανόμενης σημασίας και χρήσης συστημάτων ΤΝ, η εφαρμογή των αρχών καθολικού σχεδιασμού σε όλες τις νέες τεχνολογίες και τις υπηρεσίες θα πρέπει να διασφαλίζει την πλήρη και ισότιμη πρόσβαση σε κάθε άτομο που ενδέχεται να επηρεαστεί από τεχνολογίες ΤΝ ή να τις χρησιμοποιήσει, περιλαμβανομένων των ατόμων με αναπηρία, έτσι ώστε να λαμβάνεται πλήρως υπόψη η εγγενής αξιοπρέπεια και πολυμορφία τους. Ως εκ τούτου, είναι σημαντικό οι πάροχοι να διασφαλίζουν την πλήρη συμμόρφωση με τις απαιτήσεις προσβασιμότητας, συμπεριλαμβανομένων της οδηγίας (ΕΕ) 2016/2102 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (38) και της οδηγίας (ΕΕ) 2019/882. Οι πάροχοι θα πρέπει να διασφαλίζουν τη συμμόρφωση με τις εν λόγω απαιτήσεις ήδη από τον σχεδιασμό. Συνεπώς, τα αναγκαία μέτρα θα πρέπει να ενσωματώνονται όσο το δυνατόν περισσότερο στον σχεδιασμό του συστήματος ΤΝ υψηλού κινδύνου.
(81)
O prestador deverá introduzir um sistema de gestão da qualidade sólido, garantir a realização do procedimento de avaliação da conformidade exigido, elaborar a documentação pertinente e estabelecer um sistema sólido de acompanhamento pós-comercialização. Os prestadores de sistemas de IA de risco elevado sujeitos a obrigações relativas aos sistemas de gestão da qualidade nos termos do direito setorial aplicável da União deverão ter a possibilidade de incluir os elementos do sistema de gestão da qualidade previstos no presente regulamento como parte do sistema de gestão da qualidade existente previsto nesse outro direito setorial da União. A complementaridade entre o presente regulamento e o direito setorial da União em vigor deverá também ser tida em conta nas futuras atividades de normalização ou orientações adotadas pela Comissão. As autoridades públicas que colocam em serviço sistemas de IA de risco elevado para sua própria utilização podem adotar e aplicar as regras relativas ao sistema de gestão da qualidade no âmbito do sistema de gestão da qualidade adotado a nível nacional ou regional, consoante o caso, tendo em conta as especificidades do setor e as competências e a organização da autoridade pública em causa.
(81)
Ο πάροχος θα πρέπει να θεσπίζει ένα άρτιο σύστημα διαχείρισης της ποιότητας, να διασφαλίζει την ολοκλήρωση της απαιτούμενης διαδικασίας αξιολόγησης της συμμόρφωσης, να καταρτίζει τη σχετική τεκμηρίωση και να καθιερώνει ένα στιβαρό σύστημα παρακολούθησης μετά τη διάθεση στην αγορά. Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου που υπόκεινται σε υποχρεώσεις όσον αφορά τα συστήματα διαχείρισης της ποιότητας δυνάμει του σχετικού τομεακού ενωσιακού δικαίου θα πρέπει να έχουν τη δυνατότητα να εντάσσουν τα στοιχεία του συστήματος διαχείρισης της ποιότητας που προβλέπεται στον παρόντα κανονισμό στο υφιστάμενο σύστημα διαχείρισης της ποιότητας που προβλέπεται στο εν λόγω άλλο τομεακό ενωσιακό δίκαιο. Η συμπληρωματικότητα μεταξύ του παρόντος κανονισμού και του ισχύοντος τομεακού ενωσιακού δικαίου θα πρέπει επίσης να λαμβάνεται υπόψη σε μελλοντικές δραστηριότητες ή κατευθυντήριες γραμμές τυποποίησης που εγκρίνει η Επιτροπή. Οι δημόσιες αρχές που θέτουν σε λειτουργία συστήματα ΤΝ υψηλού κινδύνου για ιδία χρήση μπορούν να θεσπίζουν και να εφαρμόζουν τους κανόνες για το σύστημα διαχείρισης της ποιότητας στο πλαίσιο του συστήματος διαχείρισης της ποιότητας που έχει θεσπιστεί σε εθνικό ή περιφερειακό επίπεδο, κατά περίπτωση, λαμβάνοντας υπόψη τις ιδιαιτερότητες του τομέα και τις αρμοδιότητες και την οργάνωση της οικείας δημόσιας αρχής.
(82)
Para permitir a execução do presente regulamento e criar condições de concorrência equitativas para os operadores, tendo ainda em conta as diferentes formas de disponibilização de produtos digitais, é importante assegurar que, em qualquer circunstância, uma pessoa estabelecida na União possa prestar às autoridades todas as informações necessárias sobre a conformidade de um sistema de IA. Como tal, antes de disponibilizarem os seus sistemas de IA na União, os prestadores estabelecidos em países terceiros deverão, através de mandato escrito, designar um mandatário estabelecido na União. O mandatário desempenha um papel central ao garantir a conformidade dos sistemas de IA de risco elevado colocados no mercado ou colocados em serviço na União por esses prestadores que não estão estabelecidos na União e ao atuar como pessoa de contacto desses prestadores estabelecida na União.
(82)
Για να καταστεί δυνατή η επιβολή του παρόντος κανονισμού και να διαμορφωθούν ισότιμοι όροι ανταγωνισμού για τους φορείς εκμετάλλευσης και λαμβανομένων υπόψη των διάφορων μορφών διάθεσης ψηφιακών προϊόντων, είναι σημαντικό να διασφαλιστεί ότι, σε κάθε περίπτωση, ένα πρόσωπο εγκατεστημένο στην Ένωση είναι σε θέση να παρέχει στις αρχές όλες τις απαραίτητες πληροφορίες σχετικά με τη συμμόρφωση ενός συστήματος ΤΝ. Συνεπώς, πριν από τη διάθεση των συστημάτων τους ΤΝ στην Ένωση, οι πάροχοι που είναι εγκατεστημένοι σε τρίτες χώρες θα πρέπει να διορίζουν με γραπτή εντολή εξουσιοδοτημένο αντιπρόσωπο εγκατεστημένο στην Ένωση. Αυτός ο εξουσιοδοτημένος αντιπρόσωπος ασκεί καίριο ρόλο στη διασφάλιση της συμμόρφωσης των συστημάτων ΤΝ υψηλού κινδύνου που διατίθενται στην αγορά ή τίθενται σε λειτουργία στην Ένωση από τους παρόχους που δεν είναι εγκατεστημένοι στην Ένωση, ενώ επίσης ενεργεί ως ο αρμόδιος επικοινωνίας τους που είναι εγκατεστημένος στην Ένωση.
(83)
Tendo em conta a natureza e a complexidade da cadeia de valor dos sistemas de IA e em consonância com o novo regime jurídico, é essencial garantir a segurança jurídica e facilitar o cumprimento do presente regulamento. Por conseguinte, é necessário clarificar o papel e as obrigações específicas dos operadores pertinentes ao longo dessa cadeia de valor, como os importadores e os distribuidores, que podem contribuir para o desenvolvimento de sistemas de IA. Em determinadas situações, esses operadores poderão desempenhar mais do que uma função ao mesmo tempo, pelo que deverão cumprir cumulativamente todas as obrigações relevantes associadas a essas funções. Por exemplo, um operador pode atuar simultaneamente como distribuidor e importador.
(83)
Δεδομένης της φύσης και της πολυπλοκότητας της αξιακής αλυσίδας των συστημάτων ΤΝ και σύμφωνα με το νέο νομοθετικό πλαίσιο, είναι σημαντικό να διασφαλιστεί η ασφάλεια δικαίου και να διευκολυνθεί η συμμόρφωση με τον παρόντα κανονισμό. Συνεπώς, είναι αναγκαίο να αποσαφηνιστεί ο ρόλος και οι ειδικές υποχρεώσεις των σχετικών φορέων εκμετάλλευσης κατά μήκος της εν λόγω αξιακής αλυσίδας, όπως οι εισαγωγείς και οι διανομείς που ενδέχεται να συμβάλουν στην ανάπτυξη συστημάτων ΤΝ. Σε ορισμένες περιπτώσεις, οι εν λόγω φορείς εκμετάλλευσης θα μπορούσαν να ενεργούν αναλαμβάνοντας ταυτόχρονα περισσότερους από ένα ρόλους και, ως εκ τούτου, θα πρέπει να εκπληρώνουν σωρευτικά όλες τις σχετικές υποχρεώσεις που συνδέονται με τους ρόλους αυτούς. Για παράδειγμα, ένας φορέας εκμετάλλευσης θα μπορούσε να ενεργεί ταυτόχρονα ως διανομέας και ως εισαγωγέας.
(84)
A fim de garantir a segurança jurídica, é necessário tornar claro que, em determinadas condições específicas, qualquer distribuidor, importador, responsável pela implantação ou outro terceiro deverá ser considerado prestador de um sistema de IA de risco elevado e, por conseguinte, deverá assumir todas as obrigações pertinentes. Tal será o caso se essa entidade puser o seu nome ou marca num sistema de IA de risco elevado já colocado no mercado ou colocado em serviço, sem prejuízo de disposições contratuais que estabeleçam que as obrigações são atribuídas de outro modo. Tal seria também o caso se essa entidade efetuar uma modificação substancial de um sistema de IA de risco elevado que já tenha sido colocado no mercado ou já tenha sido colocado em serviço de forma a que continue a ser um sistema de IA de risco elevado nos termos do presente regulamento, ou se alterar a finalidade prevista de um sistema de IA, incluindo um sistema de IA de finalidade geral, que não tenha sido classificado como sendo de risco elevado e já tenha sido colocado no mercado ou colocado em serviço, de forma a que o sistema de IA se torne um sistema de IA de risco elevado nos termos do presente regulamento. Essas disposições deverão aplicar-se sem prejuízo das disposições mais específicas estabelecidas em determinada legislação de harmonização da União com base no novo regime jurídico, conjuntamente com o presente regulamento. Por exemplo, o artigo 16.o, n.o 2, do Regulamento (UE) 2017/745, que estabelece que determinadas alterações não deverão ser consideradas alterações de um dispositivo suscetíveis de afetar a sua conformidade com os requisitos aplicáveis, deverá continuar a aplicar-se aos sistemas de IA de risco elevado que sejam dispositivos médicos na aceção do referido regulamento.
(84)
Για λόγους ασφάλειας δικαίου, είναι αναγκαίο να διευκρινιστεί ότι, υπό ορισμένες ειδικές προϋποθέσεις, κάθε διανομέας, εισαγωγέας, φορέας εφαρμογής ή άλλο τρίτο μέρος θα πρέπει να θεωρείται ότι είναι πάροχος συστήματος ΤΝ υψηλού κινδύνου και, ως εκ τούτου, να αναλαμβάνει όλες τις σχετικές υποχρεώσεις. Αυτό θα συμβεί εάν το μέρος εισαγάγει την επωνυμία ή το εμπορικό σήμα του σε σύστημα ΤΝ υψηλού κινδύνου που έχει ήδη διατεθεί στην αγορά ή τεθεί σε λειτουργία, με την επιφύλαξη των συμβατικών ρυθμίσεων που ορίζουν ότι οι υποχρεώσεις κατανέμονται με άλλον τρόπο. Αυτό θα συμβεί επίσης εάν το μέρος προβεί σε ουσιαστική τροποποίηση συστήματος ΤΝ υψηλού κινδύνου που έχει ήδη διατεθεί στην αγορά ή έχει ήδη τεθεί σε λειτουργία κατά τρόπο ώστε να παραμένει σύστημα ΤΝ υψηλού κινδύνου σύμφωνα με τον παρόντα κανονισμό, ή εάν τροποποιήσει τον επιδιωκόμενο σκοπό συστήματος ΤΝ, συμπεριλαμβανομένου συστήματος ΤΝ γενικού σκοπού, το οποίο δεν έχει ταξινομηθεί ως υψηλού κινδύνου και έχει ήδη διατεθεί στην αγορά ή τεθεί σε λειτουργία, κατά τρόπο που το καθιστά σύστημα ΤΝ υψηλού κινδύνου σύμφωνα με τον παρόντα κανονισμό. Οι διατάξεις αυτές θα πρέπει να εφαρμόζονται με την επιφύλαξη ειδικότερων διατάξεων που θεσπίζονται σε ορισμένες ενωσιακές νομοθετικές πράξεις εναρμόνισης βάσει του νέου νομοθετικού πλαισίου, με τις οποίες ο παρών κανονισμός θα πρέπει να εφαρμόζεται από κοινού. Για παράδειγμα, το άρθρο 16 παράγραφος 2 του κανονισμού (ΕΕ) 2017/745, το οποίο ορίζει ότι ορισμένες αλλαγές δεν θα πρέπει να θεωρούνται τροποποιήσεις τεχνολογικού προϊόντος που ενδέχεται να θίξει τη συμμόρφωσή του με τις ισχύουσες απαιτήσεις, θα πρέπει να συνεχίσει να ισχύει για τα συστήματα ΤΝ υψηλού κινδύνου που είναι ιατροτεχνολογικά προϊόντα κατά την έννοια του εν λόγω κανονισμού.
(85)
Sistemas de IA de finalidade geral podem ser utilizados por si próprios como sistemas de IA de risco elevado ou ser componentes de outros sistemas de IA de risco elevado. Por conseguinte, devido à sua natureza específica e a fim de assegurar uma partilha equitativa de responsabilidades ao longo da cadeia de valor da IA, os prestadores desses sistemas deverão, independentemente de poderem ser utilizados como sistemas de IA de risco elevado enquanto tal por outros prestadores ou como componentes de sistemas de IA de risco elevado, e salvo disposição em contrário no presente regulamento, deverão colaborar estreitamente com os prestadores dos sistemas de IA de risco elevado relevantes, a fim de permitir a sua conformidade com as obrigações pertinentes previstas no presente regulamento e com as autoridades competentes criadas nos termos do presente regulamento.
(85)
Συστήματα ΤΝ γενικού σκοπού μπορούν να χρησιμοποιούνται ως συστήματα ΤΝ υψηλού κινδύνου από μόνα τους ή να αποτελούν κατασκευαστικά στοιχεία άλλων συστημάτων ΤΝ υψηλού κινδύνου. Κατά συνέπεια, λόγω της ιδιαίτερης φύσης τους και προκειμένου να εξασφαλίζεται ο δίκαιος επιμερισμός των ευθυνών κατά μήκος της αξιακής αλυσίδας της ΤΝ, οι πάροχοι τέτοιων συστημάτων, ανεξάρτητα από το αν αυτά μπορούν να χρησιμοποιηθούν καθαυτά ως συστήματα ΤΝ υψηλού κινδύνου από άλλους παρόχους ή ως κατασκευαστικά στοιχεία συστημάτων ΤΝ υψηλού κινδύνου και εκτός εάν προβλέπεται διαφορετικά από τον παρόντα κανονισμό, θα πρέπει να συνεργάζονται στενά με τους παρόχους των σχετικών συστημάτων ΤΝ υψηλού κινδύνου, ώστε να καθίσταται δυνατή η συμμόρφωσή τους με τις συναφείς υποχρεώσεις που απορρέουν από τον παρόντα κανονισμό, καθώς και με τις αρμόδιες αρχές που θεσπίζονται δυνάμει του παρόντος κανονισμού.
(86)
Se, nas condições estabelecidas no presente regulamento, o prestador que colocou inicialmente o sistema de IA no mercado ou o colocou em serviço deixar de ser considerado prestador para efeitos do presente regulamento, e se não tiver excluído expressamente a mudança do sistema de IA para um sistema de IA de risco elevado, o primeiro prestador deverá, no entanto, cooperar estreitamente e disponibilizar as informações necessárias e prestar o acesso técnico razoavelmente esperado e outra assistência necessária para o cumprimento das obrigações estabelecidas no presente regulamento, em especial no que diz respeito ao cumprimento da avaliação da conformidade dos sistemas de IA de risco elevado.
(86)
Όταν, υπό τους όρους που καθορίζονται στον παρόντα κανονισμό, ο πάροχος που διέθεσε αρχικά το σύστημα ΤΝ στην αγορά ή το έθεσε σε λειτουργία δεν θα πρέπει πλέον να θεωρείται ότι είναι πάροχος για τους σκοπούς του παρόντος κανονισμού και όταν ο εν λόγω πάροχος δεν έχει αποκλείσει ρητά τη μετατροπή του συστήματος ΤΝ σε σύστημα ΤΝ υψηλού κινδύνου, ο πρώτος πάροχος θα πρέπει παρά ταύτα να συνεργάζεται στενά και να καθιστά διαθέσιμες τις απαραίτητες πληροφορίες και να παρέχει την ευλόγως αναμενόμενη τεχνική πρόσβαση και άλλη βοήθεια που απαιτούνται για την εκπλήρωση των υποχρεώσεων που ορίζονται στον παρόντα κανονισμό, ιδίως όσον αφορά την τήρηση της αξιολόγησης της συμμόρφωσης των συστημάτων ΤΝ υψηλού κινδύνου.
(87)
Além disso, caso um sistema de IA de risco elevado que seja um componente de segurança de um produto abrangido pelo âmbito de aplicação da legislação de harmonização da União com base no novo regime jurídico não seja colocado no mercado ou colocado em serviço independentemente desse produto, o fabricante do produto, conforme definido na referida legislação deverá cumprir as obrigações dos prestadores previstas no presente regulamento e deverá, nomeadamente, assegurar que o sistema de IA integrado no produto final cumpre os requisitos do presente regulamento.
(87)
Επιπλέον, όταν ένα σύστημα ΤΝ υψηλού κινδύνου που αποτελεί κατασκευαστικό στοιχείο ασφάλειας ενός προϊόντος το οποίο εμπίπτει στο πεδίο εφαρμογής της ενωσιακής νομοθεσίας εναρμόνισης βάσει του νέου νομοθετικού πλαισίου δεν διατίθεται στην αγορά ούτε τίθεται σε λειτουργία ανεξάρτητα από το προϊόν, ο κατασκευαστής του προϊόντος ο οποίος ορίζεται στην εν λόγω νομοθεσία θα πρέπει να συμμορφώνεται με τις υποχρεώσεις του παρόχου που καθορίζονται στον παρόντα κανονισμό και, ειδικότερα, να διασφαλίζει ότι το σύστημα ΤΝ που είναι ενσωματωμένο στο τελικό προϊόν συμμορφώνεται με τις απαιτήσεις του παρόντος κανονισμού.
(88)
Na cadeia de valor da IA, várias entidades disponibilizam frequentemente sistemas de IA, ferramentas e serviços, mas também componentes ou processos que são incorporados pelo prestador no sistema de IA com vários objetivos, nomeadamente o treino de modelos, a reciclagem do treino de modelos, a testagem e a avaliação de modelos, a integração em software ou outros aspetos do desenvolvimento de modelos. Essas entidades desempenham um papel importante na cadeia de valor para com o prestador do sistema de IA de risco elevado no qual os seus sistemas de IA, ferramentas, serviços, componentes ou processos estão integrados, e deverão facultar a esse prestador, mediante acordo escrito, as informações, capacidades, acesso técnico e demais assistência necessários com base no estado da arte geralmente reconhecido, a fim de permitir que o prestador cumpra plenamente as obrigações estabelecidas no presente regulamento, sem comprometer os seus próprios direitos de propriedade intelectual ou segredos comerciais.
(88)
Κατά μήκος της αξιακής αλυσίδας της ΤΝ, πολλά μέρη συχνά παρέχουν συστήματα, εργαλεία και υπηρεσίες ΤΝ, αλλά και κατασκευαστικά στοιχεία ή διαδικασίες που ενσωματώνονται από τον πάροχο στο σύστημα ΤΝ με ποικίλους στόχους, μεταξύ άλλων την εκπαίδευση μοντέλων, την επανεκπαίδευση μοντέλων, τη δοκιμή και αξιολόγηση μοντέλων, την ενσωμάτωση σε λογισμικό ή άλλες πτυχές της ανάπτυξης μοντέλων. Τα μέρη αυτά παίζουν σημαντικό ρόλο στην αξιακή αλυσίδα έναντι του παρόχου του συστήματος ΤΝ υψηλού κινδύνου στο οποίο ενσωματώνονται τα δικά τους συστήματα, εργαλεία, υπηρεσίες, κατασκευαστικά στοιχεία ή διαδικασίες ΤΝ και θα πρέπει να παρέχουν με γραπτή συμφωνία στον εν λόγω πάροχο τις απαραίτητες πληροφορίες, ικανότητες, τεχνική πρόσβαση και άλλη βοήθεια με βάση τη γενικώς αναγνωρισμένη εξέλιξη της τεχνολογίας, προκειμένου να δίνεται στον πάροχο η δυνατότητα να συμμορφώνεται πλήρως με τις υποχρεώσεις που ορίζονται στον παρόντα κανονισμό, χωρίς να θέτει σε κίνδυνο τα δικά του δικαιώματα διανοητικής ιδιοκτησίας ή το εμπορικό απόρρητο.
(89)
Os terceiros que tornam acessíveis ao público ferramentas, serviços, processos ou componentes de IA que não sejam modelos de IA de finalidade geral não deverão ser obrigados a cumprir requisitos que visem as responsabilidades ao longo da cadeia de valor da IA, em especial para com o prestador que os utilizou ou os integrou, quando essas ferramentas, serviços, processos ou componentes de IA são disponibilizados ao abrigo de uma licença gratuita e aberta. Os criadores de ferramentas, serviços, processos ou componentes de IA gratuitos e de fonte aberta que não sejam modelos de IA de finalidade geral deverão ser incentivados a aplicar práticas de documentação amplamente adotadas, como modelos de cartões e folhas de dados, como forma de acelerar a partilha de informações ao longo da cadeia de valor da IA, permitindo a promoção de sistemas de IA de confiança na União.
(89)
Τρίτα μέρη που καθιστούν προσβάσιμα στο κοινό εργαλεία, υπηρεσίες, διαδικασίες ή κατασκευαστικά στοιχεία ΤΝ που δεν είναι μοντέλα ΤΝ γενικού σκοπού δεν θα πρέπει να υποχρεούνται να συμμορφώνονται με τις απαιτήσεις που στοχεύουν στις ευθύνες κατά μήκος της αξιακής αλυσίδας της ΤΝ, ιδίως έναντι του παρόχου που τα έχει χρησιμοποιήσει ή ενσωματώσει, όταν τα εν λόγω εργαλεία, υπηρεσίες, διαδικασίες ή κατασκευαστικά στοιχεία ΤΝ καθίστανται προσβάσιμα με δωρεάν και άδεια ανοικτού κώδικα. Οι προγραμματιστές δωρεάν και ανοικτού κώδικα εργαλείων, υπηρεσιών, διαδικασιών ή κατασκευαστικών στοιχείων ΤΝ που δεν είναι μοντέλα ΤΝ γενικού σκοπού θα πρέπει να παροτρύνονται να εφαρμόζουν ευρέως αποδεκτές πρακτικές τεκμηρίωσης, όπως κάρτες μοντέλων και δελτία δεδομένων, ως τρόπο για την επιτάχυνση της ανταλλαγής πληροφοριών κατά μήκος της αξιακής αλυσίδας της ΤΝ, επιτρέποντας την προώθηση αξιόπιστων συστημάτων ΤΝ στην Ένωση.
(90)
A Comissão poderá desenvolver e recomendar modelos voluntários de cláusulas contratuais entre prestadores de sistemas de IA de risco elevado e terceiros que disponibilizem ferramentas, serviços, componentes ou processos utilizados ou integrados em sistemas de IA de risco elevado, a fim de facilitar a cooperação ao longo da cadeia de valor. Ao elaborar modelos de cláusulas contratuais voluntárias, a Comissão deverá também ter em conta eventuais requisitos contratuais aplicáveis em setores ou casos comerciais específicos.
(90)
Η Επιτροπή θα μπορούσε να αναπτύξει και να συστήσει προαιρετικούς πρότυπους συμβατικούς όρους μεταξύ παρόχων συστημάτων ΤΝ υψηλού κινδύνου και τρίτων μερών που παρέχουν εργαλεία, υπηρεσίες, κατασκευαστικά στοιχεία ή διαδικασίες που χρησιμοποιούνται ή ενσωματώνονται σε συστήματα ΤΝ υψηλού κινδύνου, για τη διευκόλυνση της συνεργασίας κατά μήκος της αξιακής αλυσίδας. Κατά την ανάπτυξη προαιρετικών πρότυπων συμβατικών όρων, η Επιτροπή θα πρέπει επίσης να λαμβάνει υπόψη ενδεχόμενες συμβατικές απαιτήσεις που εφαρμόζονται σε συγκεκριμένους τομείς ή επιχειρηματικές περιπτώσεις.
(91)
Dada a natureza dos sistemas de IA e os riscos para a segurança e os direitos fundamentais possivelmente associados à sua utilização, nomeadamente no que respeita à necessidade de assegurar um controlo adequado do desempenho de um sistema de IA num cenário real, é apropriado determinar responsabilidades específicas para os responsáveis pela implantação. Em particular, os responsáveis pela implantação deverão tomar medidas técnicas e organizacionais adequadas para assegurar que utilizam os sistemas de IA de risco elevado de acordo com as instruções de utilização e deverão ser equacionadas outras obrigações relativas ao controlo do funcionamento dos sistemas de IA e à manutenção de registos, se for caso disso. Além disso, os responsáveis pela implantação deverão assegurar que as pessoas encarregadas de aplicar as instruções de utilização e de supervisão humana, tal como estabelecido no presente regulamento, têm as competências necessárias, em especial um nível adequado de literacia, formação e autoridade no domínio da IA para desempenhar adequadamente essas funções. Essas obrigações não deverão prejudicar outras obrigações do responsável pela implantação em relação a sistemas de IA de risco elevado nos termos do direito da União ou do direito nacional.
(91)
Δεδομένης της φύσης των συστημάτων ΤΝ και δεδομένων των κινδύνων για την ασφάλεια και τα θεμελιώδη δικαιώματα που ενδεχομένως συνδέονται με τη χρήση τους, μεταξύ άλλων όσον αφορά την ανάγκη διασφάλισης ορθής παρακολούθησης των επιδόσεων ενός συστήματος ΤΝ σε πραγματικές συνθήκες, ενδείκνυται να καθοριστούν συγκεκριμένες ευθύνες για τους φορείς εφαρμογής. Οι φορείς εφαρμογής θα πρέπει ειδικότερα να λαμβάνουν κατάλληλα τεχνικά και οργανωτικά μέτρα για να διασφαλίζουν ότι χρησιμοποιούν συστήματα ΤΝ υψηλού κινδύνου σύμφωνα με τις οδηγίες χρήσης, ενώ θα πρέπει να προβλέπονται και ορισμένες άλλες υποχρεώσεις όσον αφορά την παρακολούθηση της λειτουργίας των συστημάτων ΤΝ και όσον αφορά την τήρηση αρχείων, κατά περίπτωση. Επιπλέον, οι φορείς εφαρμογής θα πρέπει να διασφαλίζουν ότι τα πρόσωπα στα οποία ανατίθεται η εφαρμογή των οδηγιών χρήσης και η ανθρώπινη εποπτεία, όπως ορίζονται στον παρόντα κανονισμό, διαθέτουν την απαιτούμενη ικανότητα, ιδίως κατάλληλο επίπεδο γραμματισμού στον τομέα της ΤΝ, κατάρτιση και εξουσιοδότηση για την ορθή εκπλήρωση αυτών των καθηκόντων. Οι υποχρεώσεις αυτές δεν θα πρέπει να θίγουν άλλες υποχρεώσεις των φορέων εφαρμογής σε σχέση με συστήματα ΤΝ υψηλού κινδύνου δυνάμει του ενωσιακού ή του εθνικού δικαίου.
(92)
O presente regulamento não prejudica a obrigação de os empregadores informarem ou de informarem e consultarem os trabalhadores ou os seus representantes, nos termos do direito e das práticas da União ou nacionais, incluindo a Diretiva 2002/14/CE do Parlamento Europeu e do Conselho (39), sobre as decisões de colocação em serviço ou de utilização de sistemas de IA. Continua a ser necessário garantir a informação dos trabalhadores e dos seus representantes sobre a implantação prevista de sistemas de IA de risco elevado no local de trabalho quando não estiverem cumpridas as condições para essas obrigações de informação ou de informação e consulta previstas noutros instrumentos jurídicos. Além disso, esse direito de informação é acessório e necessário ao objetivo de proteção dos direitos fundamentais subjacente ao presente regulamento. Por conseguinte, o presente regulamento deverá estabelecer um requisito de informação para esse efeito, sem afetar os direitos existentes dos trabalhadores.
(92)
Ο παρών κανονισμός δεν θίγει τις υποχρεώσεις των εργοδοτών να ενημερώνουν τους εργαζομένους ή τους εκπροσώπους τους ή να τους ενημερώνουν και να διαβουλεύονται μαζί τους σύμφωνα με το ενωσιακό ή το εθνικό δίκαιο και την ενωσιακή ή την εθνική πρακτική, συμπεριλαμβανομένης της οδηγίας 2002/14/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (39), όσον αφορά αποφάσεις να τεθούν σε λειτουργία ή να χρησιμοποιηθούν συστήματα ΤΝ. Είναι πάντα αναγκαίο να διασφαλίζεται η ενημέρωση των εργαζομένων και των εκπροσώπων τους σχετικά με την προγραμματισμένη εφαρμογή συστημάτων ΤΝ υψηλού κινδύνου στον χώρο εργασίας, όταν δεν πληρούνται οι όροι για τις υποχρεώσεις ενημέρωσης ή ενημέρωσης και διαβούλευσης σε άλλα νομικά εργαλεία. Εξάλλου, το δικαίωμα ενημέρωσης είναι παρεπόμενο και αναγκαίο για τον στόχο της προστασίας των θεμελιωδών δικαιωμάτων που αποτελεί τη βάση του παρόντος κανονισμού. Συνεπώς, θα πρέπει να θεσπιστεί στον παρόντα κανονισμό απαίτηση ενημέρωσης για τον σκοπό αυτό, χωρίς να θίγονται οποιαδήποτε υφιστάμενα δικαιώματα των εργαζομένων.
(93)
Ainda que os riscos relacionados com os sistemas de IA possam resultar da forma como esses sistemas são concebidos, tais riscos também podem decorrer da forma como os sistemas de IA são utilizados. Os responsáveis pela implantação de sistemas de IA de risco elevado desempenham, por conseguinte, um papel fundamental na garantia da proteção dos direitos fundamentais, complementando as obrigações do prestador aquando do desenvolvimento do sistema de IA. Os responsáveis pela implantação estão em melhor posição para entender de que forma o sistema de IA de risco elevado será utilizado em concreto, pelo que, graças a um conhecimento mais preciso do contexto de utilização, das pessoas ou grupos de pessoas suscetíveis de serem afetados, incluindo os grupos vulneráveis, conseguem identificar potenciais riscos significativos que não foram previstos na fase de desenvolvimento. Os responsáveis pela implantação de sistemas de IA de risco elevado enumerados num anexo do presente regulamento também desempenham um papel crítico na informação de pessoas singulares e deverão, quando tomam decisões ou ajudam a tomar decisões relacionadas com pessoas singulares, conforme o caso, informar as pessoas singulares de que estão sujeitas à utilização do sistema de IA de risco elevado. Essas informações deverão incluir a finalidade prevista e o tipo de decisões que toma. O responsável pela implantação deverá também informar as pessoas singulares do seu direito à explicação a que se refere o presente regulamento. No que diz respeito aos sistemas de IA de risco elevado utilizados para fins de aplicação da lei, essa obrigação deverá ser aplicada em conformidade com o artigo 13.o da Diretiva (UE) 2016/680.
(93)
Οι κίνδυνοι που σχετίζονται με συστήματα ΤΝ μπορούν μεν να προκύψουν από τον τρόπο με τον οποίον είναι σχεδιασμένα τα συστήματα αυτά, μπορούν δε επίσης να απορρέουν από τον τρόπο με τον οποίον χρησιμοποιούνται τέτοια συστήματα ΤΝ. Συνεπώς, οι φορείς εφαρμογής συστημάτων ΤΝ υψηλού κινδύνου παίζουν σημαντικό ρόλο στη διασφάλιση της προστασίας των θεμελιωδών δικαιωμάτων, συμπληρώνοντας τις υποχρεώσεις του παρόχου κατά την ανάπτυξη του συστήματος ΤΝ. Οι φορείς εφαρμογής είναι οι πλέον κατάλληλοι για να κατανοούν τον τρόπο με τον οποίο θα χρησιμοποιηθεί συγκεκριμένα το σύστημα ΤΝ υψηλού κινδύνου και, ως εκ τούτου, μπορούν να προσδιορίσουν δυνητικούς σημαντικούς κινδύνους που δεν είχαν προβλεφθεί στη φάση ανάπτυξης, χάρη στην ακριβέστερη γνώση του πλαισίου χρήσης, των ανθρώπων ή των ομάδων ανθρώπων που είναι πιθανό να επηρεαστούν, συμπεριλαμβανομένων των ευάλωτων ομάδων. Οι φορείς εφαρμογής των συστημάτων ΤΝ υψηλού κινδύνου που αναφέρονται σε παράρτημα του παρόντος κανονισμού έχουν επίσης καίριο ρόλο στην ενημέρωση των φυσικών προσώπων και θα πρέπει, όταν λαμβάνουν αποφάσεις ή βοηθούν στη λήψη αποφάσεων που αφορούν φυσικά πρόσωπα, κατά περίπτωση, να ενημερώνουν τα φυσικά πρόσωπα ότι υπόκεινται στη χρήση του συστήματος ΤΝ υψηλού κινδύνου. Η ενημέρωση θα πρέπει να περιλαμβάνει τον επιδιωκόμενο σκοπό και το είδος των αποφάσεων που λαμβάνονται. Ο φορέας εφαρμογής θα πρέπει επίσης να ενημερώνει το φυσικό πρόσωπο σχετικά με το δικαίωμα επεξήγησης που του παρέχεται σύμφωνα με τον παρόντα κανονισμό. Όσον αφορά τα συστήματα ΤΝ υψηλού κινδύνου που χρησιμοποιούνται για σκοπούς επιβολής του νόμου, η υποχρέωση αυτή θα πρέπει να εφαρμόζεται σύμφωνα με το άρθρο 13 της οδηγίας (EE) 2016/680.
(94)
Qualquer tratamento de dados biométricos envolvido na utilização de sistemas de IA destinados à identificação biométrica para efeitos de aplicação da lei tem de cumprir o disposto no artigo 10.o da Diretiva (UE) 2016/680, segundo o qual tal tratamento só é autorizado se for estritamente necessário, se estiver sujeito a garantias adequadas dos direitos e liberdades do titular dos dados e se for autorizado pelo direito da União ou de um Estado-Membro. Essa utilização, quando autorizada, também tem de respeitar os princípios estabelecidos no artigo 4.o, n.o 1, da Diretiva (UE) 2016/680, nomeadamente a licitude, a lealdade e a transparência, a limitação da finalidade, a exatidão e a limitação da conservação.
(94)
Κάθε επεξεργασία βιομετρικών δεδομένων που αφορά τη χρήση συστημάτων ΤΝ για βιομετρική ταυτοποίηση για σκοπούς επιβολής του νόμου είναι ανάγκη να συμμορφώνεται με το άρθρο 10 της οδηγίας (ΕΕ) 2016/680, το οποίο επιτρέπει την εν λόγω επεξεργασία μόνο όταν είναι απολύτως αναγκαία, με την επιφύλαξη των κατάλληλων διασφαλίσεων για τα δικαιώματα και τις ελευθερίες του υποκειμένου των δεδομένων και εφόσον επιτρέπεται από το δίκαιο της Ένωσης ή του κράτους μέλους. Αυτή η χρήση, όταν επιτρέπεται, είναι ανάγκη επίσης να τηρεί τις αρχές που ορίζονται στο άρθρο 4 παράγραφος 1 της οδηγίας (ΕΕ) 2016/680, μεταξύ άλλων τη νομιμότητα, τη δικαιοσύνη και τη διαφάνεια, τον περιορισμό του σκοπού, την ακρίβεια και τον περιορισμό της αποθήκευσης.
(95)
Sem prejuízo do direito da União aplicável, nomeadamente do Regulamento (UE) 2016/679 e da Diretiva (UE) 2016/680, tendo em conta a natureza intrusiva dos sistemas de identificação biométrica à distância em diferido, a utilização de sistemas de identificação biométrica à distância em diferido deverá estar sujeita a salvaguardas. Os sistemas de identificação biométrica à distância em diferido deverão ser sempre utilizados de uma forma proporcionada, legítima e estritamente necessária e, por conseguinte, orientada, em termos das pessoas a identificar, da localização, do âmbito temporal e com base num conjunto de dados fechados de imagens vídeo captadas licitamente. Em qualquer caso, os sistemas de identificação biométrica à distância em diferido não deverão ser utilizados no âmbito da aplicação da lei para conduzir a uma vigilância indiscriminada. As condições para a identificação biométrica à distância em diferido não deverão, em caso algum, constituir uma base para contornar as condições da proibição e as exceções rigorosas aplicáveis à identificação biométrica à distância em tempo real.
(95)
Με την επιφύλαξη του εφαρμοστέου δικαίου της Ένωσης, ιδίως του κανονισμού (ΕΕ) 2016/679 και της οδηγίας (ΕΕ) 2016/680, λαμβανομένου υπόψη του παρεμβατικού χαρακτήρα των συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης σε ύστερο χρόνο, η χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης σε ύστερο χρόνο θα πρέπει να υπόκειται σε διασφαλίσεις. Τα συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης σε ύστερο χρόνο θα πρέπει πάντα να χρησιμοποιούνται κατά τρόπο αναλογικό, νόμιμο και απολύτως αναγκαίο και, συνεπώς, στοχευμένο, ως προς τα πρόσωπα που πρόκειται να ταυτοποιηθούν, την τοποθεσία και το χρονικό πεδίο εφαρμογής, και να βασίζονται σε κλειστό σύνολο δεδομένων βιντεοληπτικού υλικού που έχει αποκτηθεί νομίμως. Σε κάθε περίπτωση, τα συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης σε ύστερο χρόνο δεν θα πρέπει να χρησιμοποιούνται στο πλαίσιο της επιβολής του νόμου με αποτέλεσμα τη μη στοχευμένη παρακολούθηση. Οι όροι για την εξ αποστάσεως βιομετρική ταυτοποίηση σε ύστερο χρόνο δεν θα πρέπει σε καμία περίπτωση να παρέχουν βάση για την παράκαμψη των όρων της απαγόρευσης και των αυστηρών εξαιρέσεων για την εξ αποστάσεως βιομετρική ταυτοποίηση σε πραγματικό χρόνο.
(96)
A fim de assegurar de forma eficiente a proteção dos direitos fundamentais, os responsáveis pela implantação de sistemas de IA de risco elevado que sejam organismos de direito público, ou as entidades privadas que prestam serviços públicos e os responsáveis pela implantação de determinados sistemas de IA de risco elevado enumerados num anexo do presente regulamento, como as entidades bancárias ou seguradoras, deverão realizar uma avaliação do seu impacto nos direitos fundamentais antes da sua colocação em serviço. Os serviços de natureza pública importantes para as pessoas também podem ser prestados por entidades privadas. As entidades privadas que prestam esses serviços públicos estão ligados a funções de interesse público, designadamente nos domínios da educação, dos cuidados de saúde, dos serviços sociais, da habitação e da administração da justiça. O objetivo da avaliação do impacto nos direitos fundamentais é que o responsável pela implantação identifique os riscos específicos para os direitos das pessoas ou grupos de pessoas suscetíveis de serem afetados e identifique as medidas a tomar em caso de concretização desses riscos. A avaliação de impacto deverá ser efetuada antes da implantação do sistema de IA de risco elevado e deverá ser atualizada quando o responsável pela implantação considerar que qualquer um dos fatores pertinentes se alterou. A avaliação de impacto deverá identificar os processos pertinentes do responsável pela implantação em que o sistema de IA de risco elevado será utilizado em conformidade com a sua finalidade prevista e deverá incluir uma descrição do período e da frequência em que o sistema se destina a ser utilizado, bem como de categorias específicas de pessoas singulares e grupos suscetíveis de serem afetados no contexto específico de utilização. A avaliação deverá também incluir a identificação de riscos específicos de danos suscetíveis de ter impacto nos direitos fundamentais dessas pessoas ou grupos. Ao realizar esta avaliação, o responsável pela implantação deverá ter em conta as informações pertinentes para uma avaliação adequada do impacto, incluindo, mas não exclusivamente, as informações facultadas pelo prestador do sistema de IA de risco elevado nas instruções de utilização. À luz dos riscos identificados, os responsáveis pela implantação deverão determinar as medidas a tomar em caso de concretização desses riscos, incluindo, por exemplo, mecanismos de governação nesse contexto específico de utilização, tais como mecanismos de supervisão humana de acordo com as instruções de utilização ou procedimentos de tratamento de queixas e de reparação, uma vez que poderão ser fundamentais para atenuar os riscos para os direitos fundamentais em casos concretos de utilização. Após a realização dessa avaliação de impacto, o responsável pela implantação deverá notificar a autoridade de fiscalização do mercado competente. Se for caso disso, para recolher as informações pertinentes necessárias para realizar a avaliação de impacto, os responsáveis pela implantação de sistemas de IA de risco elevado, em especial quando os sistemas de IA são utilizados no setor público, poderão implicar as partes interessadas pertinentes, incluindo os representantes de grupos de pessoas suscetíveis de serem afetadas pelo sistema de IA, peritos independentes e organizações da sociedade civil, na realização dessas avaliações de impacto e na conceção de medidas a tomar em caso de concretização dos riscos. O Serviço Europeu para a Inteligência Artificial («Serviço para a IA») deverá desenvolver um modelo de questionário, a fim de facilitar a conformidade e reduzir os encargos administrativos para os responsáveis pela implantação.
(96)
Προκειμένου να διασφαλιστεί αποτελεσματικά η προστασία των θεμελιωδών δικαιωμάτων, οι φορείς εφαρμογής συστημάτων ΤΝ υψηλού κινδύνου που είναι οργανισμοί δημόσιου δικαίου ή ιδιωτικές οντότητες που παρέχουν δημόσιες υπηρεσίες και φορείς εφαρμογής που αναπτύσσουν ορισμένα συστήματα ΤΝ υψηλού κινδύνου τα οποία απαριθμούνται σε παράρτημα του παρόντος κανονισμού, όπως τραπεζικές ή ασφαλιστικές οντότητες, θα πρέπει να διενεργούν εκτίμηση επιπτώσεων στα θεμελιώδη δικαιώματα προτού θέσουν το σύστημα σε χρήση. Υπηρεσίες που είναι σημαντικές για ιδιώτες και είναι δημόσιου χαρακτήρα μπορούν επίσης να παρέχονται από ιδιωτικές οντότητες. Οι ιδιωτικές οντότητες που παρέχουν τέτοιες δημόσιες υπηρεσίες συνδέονται με καθήκοντα δημόσιου συμφέροντος, όπως στους τομείς της εκπαίδευσης, της υγειονομικής περίθαλψης, των κοινωνικών υπηρεσιών, της στέγασης, της απονομής δικαιοσύνης. Στόχος της εκτίμησης επιπτώσεων στα θεμελιώδη δικαιώματα είναι να εντοπίσει ο φορέας εφαρμογής τους συγκεκριμένους κινδύνους για τα δικαιώματα των ατόμων ή των ομάδων ατόμων που ενδέχεται να επηρεαστούν και να προσδιορίσει τα μέτρα που πρέπει να ληφθούν σε περίπτωση επέλευσης των εν λόγω κινδύνων. Η εκτίμηση επιπτώσεων θα πρέπει να πραγματοποιείται πριν από την ανάπτυξη του συστήματος ΤΝ υψηλού κινδύνου και θα πρέπει να επικαιροποιείται όταν ο φορέας εφαρμογής θεωρεί ότι οποιοσδήποτε από τους σχετικούς παράγοντες έχει αλλάξει. Η εκτίμηση επιπτώσεων θα πρέπει να προσδιορίζει τις σχετικές διαδικασίες του φορέα εφαρμογής στις οποίες θα χρησιμοποιείται το σύστημα ΤΝ υψηλού κινδύνου σύμφωνα με τον επιδιωκόμενο σκοπό του και θα πρέπει να περιλαμβάνει περιγραφή της χρονικής περιόδου και της συχνότητας με την οποία προορίζεται να χρησιμοποιηθεί το σύστημα, καθώς και συγκεκριμένων κατηγοριών φυσικών προσώπων και ομάδων που είναι πιθανό να επηρεαστούν στο εκάστοτε πλαίσιο χρήσης. Η εκτίμηση θα πρέπει επίσης να περιλαμβάνει τον προσδιορισμό συγκεκριμένων κινδύνων βλάβης που είναι πιθανό να έχουν αντίκτυπο στα θεμελιώδη δικαιώματα των εν λόγω προσώπων ή ομάδων. Κατά τη διενέργεια της εκτίμησης, ο φορέας εφαρμογής θα πρέπει να λαμβάνει υπόψη πληροφορίες που είναι σημαντικές για την κατάλληλη εκτίμηση των επιπτώσεων, μεταξύ άλλων και πληροφορίες που παρέχονται από τον πάροχο του συστήματος ΤΝ υψηλού κινδύνου στις οδηγίες χρήσης. Υπό το πρίσμα των κινδύνων που εντοπίζονται, οι φορείς εφαρμογής θα πρέπει να καθορίζουν τα μέτρα που πρέπει να λαμβάνονται σε περίπτωση επέλευσης των εν λόγω κινδύνων, στα οποία περιλαμβάνονται, για παράδειγμα, ρυθμίσεις διακυβέρνησης στο εκάστοτε πλαίσιο χρήσης, όπως ρυθμίσεις για ανθρώπινη εποπτεία σύμφωνα με τις οδηγίες χρήσης, ή χειρισμός καταγγελιών και διαδικασίες προσφυγής, καθώς θα μπορούσαν να συμβάλουν καθοριστικά στον μετριασμό των κινδύνων για τα θεμελιώδη δικαιώματα σε συγκεκριμένες περιπτώσεις χρήσης. Μετά τη διενέργεια της εκτίμησης επιπτώσεων, ο φορέας εφαρμογής θα πρέπει να ενημερώνει τη σχετική αρχή εποπτείας της αγοράς. Κατά περίπτωση, για τη συλλογή σχετικών πληροφοριών που είναι αναγκαίες για τη διενέργεια της εκτίμησης επιπτώσεων, οι φορείς εφαρμογής συστημάτων ΤΝ υψηλού κινδύνου, ιδίως όταν τα συστήματα ΤΝ χρησιμοποιούνται στον δημόσιο τομέα, θα μπορούσαν να εξασφαλίζουν τη συμμετοχή των σχετικών συμφεροντούχων, συμπεριλαμβανομένων των εκπροσώπων ομάδων ατόμων που ενδέχεται να επηρεαστούν από το σύστημα ΤΝ, ανεξάρτητων εμπειρογνωμόνων και οργανώσεων της κοινωνίας των πολιτών, κατά τη διενέργεια εκτιμήσεων επιπτώσεων και τον σχεδιασμό μέτρων που πρέπει να ληφθούν σε περίπτωση επέλευσης των κινδύνων. Η Ευρωπαϊκή Υπηρεσία Τεχνητής Νοημοσύνης (Υπηρεσία ΤΝ) θα πρέπει να αναπτύξει υπόδειγμα ερωτηματολογίου προκειμένου να διευκολύνεται η συμμόρφωση και να μειωθεί ο διοικητικός φόρτος για τους φορείς εφαρμογής.
(97)
O conceito de modelos de IA de finalidade geral deverá ser claramente definido e distinguido do conceito de sistemas de IA, a fim de proporcionar segurança jurídica. A definição deverá basear-se nas principais características funcionais de um modelo de IA de finalidade geral, em especial na generalidade e na capacidade de desempenhar com competência uma vasta gama de funções distintas. Estes modelos são normalmente treinados com grandes quantidades de dados, através de vários métodos, como a aprendizagem autossupervisionada, não supervisionada ou por reforço. Os modelos de IA de finalidade geral podem ser colocados no mercado de várias formas, nomeadamente através de bibliotecas, interfaces de programação de aplicações, para descarregamento direto ou como cópia física. Estes modelos podem ser alterados ou aperfeiçoados em novos modelos. Embora os modelos de IA sejam componentes essenciais dos sistemas de IA, não constituem, por si só, sistemas de IA. Os modelos de IA exigem a adição de outros componentes, como, por exemplo, uma interface de utilizador, para se tornarem sistemas de IA. Os modelos de IA são tipicamente integrados e fazem parte integrante dos sistemas de IA. O presente regulamento estabelece regras específicas para os modelos de IA de finalidade geral e para os modelos de IA de finalidade geral que apresentam riscos sistémicos, as quais se deverão aplicar também quando estes modelos são integrados ou fazem parte integrante de um sistema de IA. Deverá entender-se que as obrigações dos prestadores de modelos de IA de finalidade geral deverão aplicar-se assim que os modelos de IA de finalidade geral sejam colocados no mercado. Quando o prestador de um modelo de IA de finalidade geral integra um modelo próprio no seu próprio sistema de IA que é disponibilizado no mercado ou colocado em serviço, esse modelo deverá ser considerado colocado no mercado e, por conseguinte, as obrigações previstas no presente regulamento para os modelos deverão continuar a aplicar-se para além das obrigações aplicáveis aos sistemas de IA. As obrigações estabelecidas para os modelos não deverão, em caso algum, aplicar-se quando um modelo próprio for utilizado para processos puramente internos não essenciais para disponibilizar um produto ou um serviço a terceiros e os direitos das pessoas singulares não forem afetados. Tendo em conta os seus potenciais efeitos significativamente negativos, os modelos de IA de finalidade geral com risco sistémico deverão estar sempre sujeitos às obrigações pertinentes nos termos do presente regulamento. A definição não deverá abranger os modelos de IA utilizados antes da sua colocação no mercado exclusivamente para fins de atividades de investigação, desenvolvimento e prototipagem. Tal não prejudica a obrigação de cumprir o presente regulamento quando, na sequência dessas atividades, um modelo for colocado no mercado.
(97)
Για λόγους ασφάλειας δικαίου, η έννοια των μοντέλων ΤΝ γενικού σκοπού θα πρέπει να οριστεί σαφώς και να διαχωριστεί από την έννοια των συστημάτων ΤΝ. Ο ορισμός θα πρέπει να βασίζεται στα βασικά λειτουργικά χαρακτηριστικά ενός μοντέλου ΤΝ γενικού σκοπού, ιδίως στη γενικότητα και την ικανότητα αποτελεσματικής εκτέλεσης ευρέος φάσματος διακριτών εργασιών. Τα μοντέλα αυτά εκπαιδεύονται συνήθως σε μεγάλο όγκο δεδομένων, μέσω διάφορων μεθόδων, όπως αυτοεποπτευόμενη, μη εποπτευόμενη ή ενισχυτική μάθηση. Τα μοντέλα ΤΝ γενικού σκοπού μπορούν να διατίθενται στην αγορά με διάφορους τρόπους, μεταξύ άλλων μέσω βιβλιοθηκών, μέσω διεπαφών προγραμματισμού εφαρμογών (ΔΠΕ), ως απευθείας τηλεφόρτωση ή ως υλικό αντίγραφο. Τα μοντέλα αυτά μπορούν να τροποποιούνται περαιτέρω ή να βελτιώνονται σε νέα μοντέλα. Μολονότι τα μοντέλα ΤΝ είναι βασικά κατασκευαστικά στοιχεία των συστημάτων ΤΝ, τα ίδια δεν αποτελούν συστήματα ΤΝ. Τα μοντέλα ΤΝ χρειάζονται την προσθήκη περαιτέρω κατασκευαστικών στοιχείων, όπως για παράδειγμα μια διεπαφή χρήστη, για να καταστούν συστήματα ΤΝ. Τα μοντέλα ΤΝ ενσωματώνονται συνήθως σε συστήματα ΤΝ και αποτελούν μέρος τους. Ο παρών κανονισμός προβλέπει ειδικούς κανόνες για τα μοντέλα ΤΝ γενικού σκοπού και για τα μοντέλα ΤΝ γενικού σκοπού που ενέχουν συστημικούς κινδύνους, οι οποίοι θα πρέπει να εφαρμόζονται επίσης όταν τα μοντέλα αυτά είναι ενσωματωμένα σε σύστημα ΤΝ ή αποτελούν μέρος του. Εξυπακούεται ότι οι υποχρεώσεις για τους παρόχους μοντέλων ΤΝ γενικού σκοπού θα πρέπει να εφαρμόζονται μόλις διατεθούν στην αγορά τα μοντέλα ΤΝ γενικού σκοπού. Όταν ο πάροχος μοντέλου ΤΝ γενικού σκοπού ενσωματώνει δικό του μοντέλο στο δικό του σύστημα ΤΝ που καθίσταται διαθέσιμο στην αγορά ή τίθεται σε λειτουργία, το εν λόγω μοντέλο θα πρέπει να θεωρείται ότι διατίθεται στην αγορά και, κατά συνέπεια, οι υποχρεώσεις που προβλέπονται στον παρόντα κανονισμό για τα μοντέλα θα πρέπει να εξακολουθήσουν να ισχύουν επιπλέον των υποχρεώσεων για τα συστήματα ΤΝ. Οι υποχρεώσεις που προβλέπονται για τα μοντέλα δεν θα πρέπει σε καμία περίπτωση να εφαρμόζονται όταν ίδιο μοντέλο χρησιμοποιείται για αμιγώς εσωτερικές διαδικασίες που δεν είναι απαραίτητες για την παροχή προϊόντος ή υπηρεσίας σε τρίτα μέρη και δεν θίγονται τα δικαιώματα των φυσικών προσώπων. Λαμβανομένων υπόψη των δυνητικών σημαντικά αρνητικών επιπτώσεών τους, τα μοντέλα ΤΝ γενικού σκοπού με συστημικό κίνδυνο θα πρέπει πάντα να υπόκεινται στις σχετικές υποχρεώσεις που απορρέουν από τον παρόντα κανονισμό. Ο ορισμός δεν θα πρέπει να καλύπτει τα μοντέλα ΤΝ που χρησιμοποιούνται πριν από τη διάθεσή τους στην αγορά με αποκλειστικό σκοπό δραστηριότητες έρευνας, ανάπτυξης και κατασκευής πρωτοτύπων. Η πρόβλεψη αυτή δεν θίγει την υποχρέωση συμμόρφωσης με τον παρόντα κανονισμό, όταν, μετά τις προαναφερόμενες δραστηριότητες, το μοντέλο διατίθεται στην αγορά.
(98)
Embora a generalidade de um modelo possa, entre outros critérios, ser também determinada por vários parâmetros, deverá considerar-se os modelos com, pelo menos, mil milhões de parâmetros e treinados com uma grande quantidade de dados utilizando a autossupervisão em escala para apresentar uma generalidade significativa e executar com competência uma vasta gama de tarefas distintas.
(98)
Ενώ η γενικότητα ενός μοντέλου θα μπορούσε, μεταξύ άλλων, να καθορίζεται επίσης από ορισμένες παραμέτρους, τα μοντέλα με τουλάχιστον ένα δισεκατομμύριο παραμέτρους τα οποία έχουν εκπαιδευτεί με μεγάλο όγκο δεδομένων χρησιμοποιώντας αυτοεποπτεία σε κλίμακα θα πρέπει να θεωρείται ότι παρουσιάζουν σημαντική γενικότητα και ότι εκτελούν αποτελεσματικά ευρύ φάσμα διακριτών εργασιών.
(99)
Os grandes modelos generativos de IA são um exemplo típico de um modelo de IA de finalidade geral, uma vez que permitem a geração flexível de conteúdos, por exemplo, sob a forma de texto, áudio, imagens ou vídeo, que podem facilmente adaptar-se a uma vasta gama de tarefas distintas.
(99)
Τα μεγάλα μοντέλα παραγωγικής ΤΝ αποτελούν κλασικό παράδειγμα μοντέλου ΤΝ γενικού σκοπού, δεδομένου ότι επιτρέπουν την ευέλικτη παραγωγή περιεχομένου, π.χ. με τη μορφή κειμένου, ήχου, εικόνων ή βίντεο, που μπορεί εύκολα να εξυπηρετήσει ευρύ φάσμα διακριτών εργασιών.
(100)
Quando um modelo de IA de finalidade geral é integrado num sistema de IA ou dele faz parte integrante, este sistema deverá ser considerado um sistema de IA de finalidade geral se, graças a esta integração, tiver a capacidade de servir uma variedade de finalidades. Um sistema de IA de finalidade geral pode ser utilizado diretamente ou ser integrado em outros sistemas de IA.
(100)
Όταν ένα μοντέλο ΤΝ γενικού σκοπού ενσωματώνεται σε σύστημα ΤΝ ή αποτελεί μέρος του, το σύστημα αυτό θα πρέπει να θεωρείται σύστημα ΤΝ γενικού σκοπού όταν, λόγω αυτής της ενσωμάτωσης, το σύστημα έχει την ικανότητα να εξυπηρετεί ποικίλους σκοπούς. Ένα σύστημα ΤΝ γενικού σκοπού μπορεί να χρησιμοποιηθεί απευθείας ή να ενσωματωθεί σε άλλα συστήματα ΤΝ.
(101)
Os prestadores de modelos de IA de finalidade geral têm um papel e uma responsabilidade específicos na cadeia de valor da IA, uma vez que os modelos que facultam podem constituir a base de uma série de sistemas a jusante, muitas vezes disponibilizados por prestadores a jusante que precisam de ter uma boa compreensão dos modelos e das suas capacidades, tanto para permitir a integração desses modelos nos seus produtos como para cumprir as suas obrigações nos termos deste ou de outros regulamentos. Por conseguinte, deverão ser previstas medidas de transparência proporcionadas, incluindo a elaboração e a atualização da documentação e a prestação de informações sobre o modelo de IA de finalidade geral para a sua utilização pelos prestadores a jusante. A documentação técnica deverá ser elaborada e mantida atualizada pelo prestador do modelo de IA de finalidade geral para efeitos da sua disponibilização, mediante pedido, ao Serviço para a IA e às autoridades nacionais competentes. O conjunto mínimo de elementos a incluir nessa documentação deverá ser estabelecido em anexos específicos do presente regulamento. A Comissão deverá estar habilitada a alterar esses anexos por meio de atos delegados à luz da evolução tecnológica.
(101)
Οι πάροχοι μοντέλων ΤΝ γενικού σκοπού έχουν ιδιαίτερο ρόλο και ευθύνη κατά μήκος της αξιακής αλυσίδας της ΤΝ, καθώς τα μοντέλα που παρέχουν μπορούν να αποτελέσουν τη βάση για ένα φάσμα κατάντη συστημάτων, τα οποία συχνά παρέχονται από κατάντη παρόχους που απαιτούν καλή κατανόηση των μοντέλων και των ικανοτήτων τους, τόσο για να καταστεί δυνατή η ενσωμάτωση των εν λόγω μοντέλων στα προϊόντα τους, όσο και για την εκπλήρωση των υποχρεώσεών τους βάσει του παρόντος κανονισμού ή άλλων κανονισμών. Συνεπώς, θα πρέπει να θεσπιστούν αναλογικά μέτρα διαφάνειας, συμπεριλαμβανομένων της κατάρτισης και της επικαιροποίησης της τεκμηρίωσης, και η παροχή πληροφοριών σχετικά με το μοντέλο ΤΝ γενικού σκοπού για τη χρήση του από τους κατάντη παρόχους. Ο τεχνικός φάκελος θα πρέπει να καταρτίζεται και να επικαιροποιείται από τον πάροχο του μοντέλου ΤΝ γενικού σκοπού προκειμένου να είναι διαθέσιμος, κατόπιν αιτήματος, στην Υπηρεσία ΤΝ και στις εθνικές αρμόδιες αρχές. Το ελάχιστο σύνολο στοιχείων που πρέπει να περιλαμβάνονται στον φάκελο τεκμηρίωσης θα πρέπει να καθορίζεται σε συγκεκριμένα παραρτήματα του παρόντος κανονισμού. Θα πρέπει να ανατεθεί στην Επιτροπή η εξουσία να τροποποιεί αυτά τα παραρτήματα με κατ’ εξουσιοδότηση πράξεις υπό το πρίσμα των τεχνολογικών εξελίξεων.
(102)
O software e os dados, incluindo os modelos, lançados ao abrigo de uma licença gratuita e de fonte aberta que lhes permita serem partilhados abertamente e que permita aos utilizadores aceder-lhes livremente, utilizá-los, modificá-los e redistribuí-los, ou a versões modificadas dos mesmos, podem contribuir para a investigação e a inovação no mercado e podem proporcionar oportunidades de crescimento significativas para a economia da União. Deverá considerar-se que os modelos de IA de finalidade geral lançados ao abrigo de licenças gratuitas e de fonte aberta asseguram elevados níveis de transparência e abertura se os seus parâmetros, incluindo as ponderações, as informações sobre a arquitetura do modelo e as informações sobre a utilização do modelo, forem disponibilizados ao público. A licença deverá também ser considerada gratuita e de fonte aberta quando permite aos utilizadores executar, copiar, distribuir, estudar, alterar e melhorar o software e os dados, incluindo os modelos, na condição de serem atribuídos os créditos ao prestador original do modelo e de serem respeitadas as condições de distribuição idênticas ou comparáveis.
(102)
Το λογισμικό και τα δεδομένα, συμπεριλαμβανομένων των μοντέλων, που διατίθενται με δωρεάν άδεια ανοικτού κώδικα που επιτρέπει την ανοικτή κοινοχρησία τους και βάσει της οποίας οι χρήστες μπορούν να έχουν ελεύθερη πρόσβαση στα εν λόγω προϊόντα ή τροποποιημένες εκδόσεις τους και να τα χρησιμοποιούν, να τα τροποποιούν και να τα αναδιανέμουν, μπορούν να συμβάλουν στην έρευνα και την καινοτομία στην αγορά και μπορούν να προσφέρουν σημαντικές ευκαιρίες ανάπτυξης για την οικονομία της Ένωσης. Τα μοντέλα ΤΝ γενικού σκοπού που διατίθενται με δωρεάν άδειες ανοικτού κώδικα θα πρέπει να θεωρείται ότι διασφαλίζουν υψηλά επίπεδα διαφάνειας και ανοικτού χαρακτήρα, εάν δημοσιοποιούνται οι παράμετροί τους, συμπεριλαμβανομένων των συντελεστών στάθμισης, των πληροφοριών σχετικά με την αρχιτεκτονική του μοντέλου και των πληροφοριών σχετικά με τη χρήση του μοντέλου. Η άδεια θα πρέπει να θεωρείται ότι είναι δωρεάν και ανοικτού κώδικα επίσης όταν επιτρέπει στους χρήστες να εκτελούν, να αντιγράφουν, να διανέμουν, να μελετούν, να αλλάζουν και να βελτιώνουν το λογισμικό και τα δεδομένα, συμπεριλαμβανομένων των μοντέλων, υπό την προϋπόθεση ότι αναφέρεται ο αρχικός πάροχος του μοντέλου και ότι τηρούνται πανομοιότυποι ή εφάμιλλοι όροι διανομής.
(103)
Componentes de IA gratuitos e de fonte aberta abrangem o software e os dados, incluindo modelos e modelos de IA de finalidade geral, ferramentas, serviços ou processos de um sistema de IA. Os componentes de IA gratuitos e de fonte aberta podem ser disponibilizados através de diferentes canais, nomeadamente o seu desenvolvimento em repositórios abertos. Para efeitos do presente regulamento, os componentes de IA disponibilizados por um preço ou convertidos em dinheiro de outra forma, nomeadamente no âmbito da prestação de apoio técnico ou de outros serviços (inclusive através de uma plataforma de software) relacionados com o componente de IA, ou a utilização de dados pessoais por motivos que não sejam exclusivamente para melhorar a segurança, a compatibilidade ou a interoperabilidade do software, com exceção das transações entre microempresas, não deverão beneficiar das exceções previstas para os componentes de IA gratuitos e de fonte aberta. O facto de disponibilizar componentes de IA através de repositórios abertos não deverá, por si só, constituir uma conversão em dinheiro.
(103)
Τα δωρεάν κατασκευαστικά στοιχεία ΤΝ ανοικτού κώδικα καλύπτουν το λογισμικό και τα δεδομένα, συμπεριλαμβανομένων των μοντέλων και των μοντέλων ΤΝ γενικού σκοπού, των εργαλείων, των υπηρεσιών ή των διαδικασιών συστήματος ΤΝ. Τα δωρεάν κατασκευαστικά στοιχεία ΤΝ ανοικτού κώδικα μπορούν να παρέχονται μέσω διάφορων διαύλων, μεταξύ άλλων με την ανάπτυξή τους σε ανοικτά αποθετήρια. Για τους σκοπούς του παρόντος κανονισμού, τα κατασκευαστικά στοιχεία ΤΝ που παρέχονται έναντι αντιτίμου ή άλλου είδους χρηματικής αποτίμησης, μεταξύ άλλων μέσω της παροχής τεχνικής υποστήριξης ή άλλων υπηρεσιών, μεταξύ άλλων μέσω πλατφόρμας λογισμικού, οι οποίες σχετίζονται με το κατασκευαστικό στοιχείο ΤΝ ή μέσω της χρήσης δεδομένων προσωπικού χαρακτήρα για λόγους άλλους από την αποκλειστική βελτίωση της ασφάλειας, της συμβατότητας ή της διαλειτουργικότητας του λογισμικού, με εξαίρεση τις συναλλαγές μεταξύ πολύ μικρών επιχειρήσεων, δεν θα πρέπει να επωφελούνται από τις απαλλαγές που χορηγούνται σε δωρεάν κατασκευαστικά στοιχεία ΤΝ ανοικτού κώδικα. Η διάθεση κατασκευαστικών στοιχείων ΤΝ μέσω ανοικτών αποθετηρίων δεν θα πρέπει, αυτή καθαυτή, να συνιστά χρηματική αποτίμηση.
(104)
Os prestadores de modelos de IA de finalidade geral lançados ao abrigo de uma licença gratuita e de fonte aberta e cujos parâmetros, incluindo as ponderações, as informações sobre a arquitetura do modelo e as informações sobre a utilização de modelos, são disponibilizados ao público deverão ser objeto de exceções no que diz respeito aos requisitos relacionados com a transparência impostos aos modelos de IA de finalidade geral, a menos que se possa considerar que apresentam um risco sistémico, caso em que a circunstância de o modelo ser transparente e acompanhado de uma licença de fonte aberta não deverá ser considerada um motivo suficiente para excluir o cumprimento das obrigações previstas no presente regulamento. Em todo o caso, uma vez que o lançamento de modelos de IA de finalidade geral ao abrigo de licenças gratuitas e de fonte aberta não revela necessariamente informações substanciais sobre o conjunto de dados utilizado para o treino ou aperfeiçoamento do modelo nem sobre a forma como foi assegurada a conformidade da legislação em matéria de direitos de autor, a exceção prevista para os modelos de IA de finalidade geral ao cumprimento dos requisitos relacionados com a transparência não deverá dizer respeito à obrigação de elaborar um resumo sobre os conteúdos utilizados para o treino de modelos nem à obrigação de aplicar uma política de cumprimento da legislação da União em matéria de direitos de autor, em especial para identificar e cumprir a reserva de direitos prevista no artigo 4.o, n.o 3, da Diretiva (UE) 2019/790 do Parlamento Europeu e do Conselho (40).
(104)
Οι πάροχοι μοντέλων ΤΝ γενικού σκοπού τα οποία διατίθενται με δωρεάν άδεια ανοικτού κώδικα και των οποίων δημοσιοποιούνται οι παράμετροι, συμπεριλαμβανομένων των συντελεστών στάθμισης, των πληροφοριών σχετικά με την αρχιτεκτονική του μοντέλου και των πληροφοριών σχετικά με τη χρήση του μοντέλου, θα πρέπει να υπόκεινται σε εξαιρέσεις όσον αφορά τις απαιτήσεις διαφάνειας που επιβάλλονται σε μοντέλα ΤΝ γενικού σκοπού, εκτός εάν μπορεί να θεωρηθεί ότι παρουσιάζουν συστημικό κίνδυνο, οπότε η συνθήκη ότι το μοντέλο είναι διαφανές και συνοδεύεται από άδεια ανοικτού κώδικα δεν θα πρέπει να θεωρείται επαρκής λόγος για να εξαιρείται από τη συμμόρφωση με τις υποχρεώσεις που απορρέουν από τον παρόντα κανονισμό. Σε κάθε περίπτωση, δεδομένου ότι η διάθεση μοντέλων ΤΝ γενικού σκοπού με δωρεάν άδεια ανοικτού κώδικα δεν αποκαλύπτει κατ’ ανάγκη ουσιαστικές πληροφορίες σχετικά με το σύνολο δεδομένων που χρησιμοποιήθηκε για την εκπαίδευση ή τη βελτίωση του μοντέλου και σχετικά με τον τρόπο με τον οποίο διασφαλίστηκε κατά συνέπεια η τήρηση του δικαίου περί πνευματικής ιδιοκτησίας, η εξαίρεση από τη συμμόρφωση με τις απαιτήσεις διαφάνειας που προβλέπεται για τα μοντέλα ΤΝ γενικού σκοπού δεν θα πρέπει να αφορά την υποχρέωση κατάρτισης περίληψης σχετικά με το περιεχόμενο που χρησιμοποιήθηκε για την εκπαίδευση μοντέλων, ούτε την υποχρέωση εφαρμογής πολιτικής συμμόρφωσης με το ενωσιακό δίκαιο περί πνευματικής ιδιοκτησίας, ειδικότερα δε για τον εντοπισμό και τη συμμόρφωση με τη διατήρηση των δικαιωμάτων κατά τα προβλεπόμενα στο άρθρο 4 παράγραφος 3 της οδηγίας (ΕΕ) 2019/790 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (40).
(105)
Os modelos de IA de finalidade geral, em especial os grandes modelos generativos de IA, capazes de gerar texto, imagens e outros conteúdos, apresentam oportunidades de inovação únicas, mas também desafios para artistas, autores e outros criadores e para a forma como os seus conteúdos criativos são criados, distribuídos, utilizados e consumidos. O desenvolvimento e o treino de tais modelos exigem o acesso a grandes quantidades de texto, imagens, vídeos e outros dados. As técnicas de prospeção de textos e dados podem ser amplamente utilizadas neste contexto para recuperar e analisar esses conteúdos, que podem ser protegidos por direitos de autor e direitos conexos. Qualquer utilização de conteúdos protegidos por direitos de autor exige a autorização dos titulares dos direitos em causa, a menos que se apliquem exceções e limitações pertinentes em matéria de direitos de autor. A Diretiva (UE) 2019/790 introduziu exceções e limitações que permitem reproduções e extrações de obras ou outro material para efeitos de prospeção de textos e dados, sob determinadas condições. Ao abrigo destas regras, os titulares de direitos podem optar por reservar os seus direitos sobre as suas obras ou outro material para impedir a prospeção de textos e dados, a menos que tal seja feito para fins de investigação científica. Sempre que os direitos de exclusão tenham sido expressamente reservados de forma adequada, os prestadores de modelos de IA de finalidade geral têm de obter uma autorização dos titulares de direitos caso pretendam realizar uma prospeção de textos e dados nessas obras.
(105)
Τα μοντέλα ΤΝ γενικού σκοπού, ιδίως τα μεγάλα παραγωγικά μοντέλα ΤΝ, που είναι ικανά να παράγουν κείμενο, εικόνες και άλλο περιεχόμενο, παρουσιάζουν μοναδικές ευκαιρίες καινοτομίας, αλλά και προκλήσεις για τους καλλιτέχνες, τους συγγραφείς και άλλους δημιουργούς και τον τρόπο με τον οποίο δημιουργείται, διανέμεται, χρησιμοποιείται και καταναλώνεται το δημιουργικό τους περιεχόμενο. Για την ανάπτυξη και την εκπαίδευση τέτοιων μοντέλων απαιτείται πρόσβαση σε τεράστιο όγκο κειμένων, εικόνων, βίντεο και άλλων δεδομένων. Οι τεχνικές εξόρυξης κειμένων και δεδομένων μπορούν να χρησιμοποιούνται εκτενώς στο πλαίσιο αυτό για την ανάκτηση και την ανάλυση τέτοιου περιεχομένου, το οποίο ενδέχεται να προστατεύεται από δικαιώματα πνευματικής ιδιοκτησίας και συγγενικά δικαιώματα. Για κάθε χρήση περιεχομένου που προστατεύεται από δικαιώματα πνευματικής ιδιοκτησίας απαιτείται η άδεια του οικείου δικαιούχου, εκτός εάν ισχύουν σχετικές εξαιρέσεις και περιορισμοί όσον αφορά τα δικαιώματα πνευματικής ιδιοκτησίας. Η οδηγία (ΕΕ) 2019/790 θέσπισε εξαιρέσεις και περιορισμούς που επιτρέπουν τις αναπαραγωγές και τις εξαγωγές έργων ή άλλων αντικειμένων προστασίας, για τους σκοπούς της εξόρυξης κειμένων και δεδομένων, υπό ορισμένες προϋποθέσεις. Σύμφωνα με τους κανόνες αυτούς, οι δικαιούχοι μπορούν να επιλέξουν να διατηρήσουν τα δικαιώματά τους επί των έργων τους ή άλλων αντικειμένων προστασίας για να αποτρέψουν την εξόρυξη κειμένων και δεδομένων, εκτός εάν αυτή γίνεται για σκοπούς επιστημονικής έρευνας. Όταν τα δικαιώματα εξαίρεσης έχουν ρητά διατηρηθεί με κατάλληλο τρόπο, οι πάροχοι μοντέλων ΤΝ γενικού σκοπού χρειάζεται να λαμβάνουν άδεια από τους δικαιούχους, εάν επιθυμούν να πραγματοποιήσουν εξόρυξη κειμένων και δεδομένων από τέτοια έργα.
(106)
Os prestadores que colocam modelos de IA de finalidade geral no mercado da União deverão assegurar o cumprimento das obrigações pertinentes previstas no presente regulamento. Para o efeito, os prestadores de modelos de IA de finalidade geral deverão pôr em prática uma política que cumpra o direito da União em matéria de direitos de autor e direitos conexos, em especial para identificar e cumprir a reserva de direitos expressa pelos titulares de direitos nos termos do artigo 4.o, n.o 3, da Diretiva (UE) 2019/790. Qualquer prestador que coloque um modelo de IA de finalidade geral no mercado da União deverá cumprir esta obrigação, independentemente da jurisdição em que têm lugar os atos relevantes em matéria de direitos de autor subjacentes ao treino desses modelos de IA de finalidade geral. Tal é necessário para assegurar condições de concorrência equitativas entre os prestadores de modelos de IA de finalidade geral em que nenhum prestador possa obter uma vantagem competitiva no mercado da União aplicando normas de direitos de autor menos rigorosas do que as previstas na União.
(106)
Οι πάροχοι που διαθέτουν μοντέλα ΤΝ γενικού σκοπού στην αγορά της Ένωσης θα πρέπει να διασφαλίζουν τη συμμόρφωση με τις σχετικές υποχρεώσεις του παρόντος κανονισμού. Για τον σκοπό αυτόν, οι πάροχοι μοντέλων ΤΝ γενικού σκοπού θα πρέπει να εφαρμόζουν πολιτική συμμόρφωσης με το ενωσιακό δίκαιο για τα δικαιώματα πνευματικής ιδιοκτησίας και τα συγγενικά δικαιώματα, ειδικότερα δε για τον εντοπισμό και τη συμμόρφωση με τη διατήρηση των δικαιωμάτων των δικαιούχων κατά τα προβλεπόμενα στο άρθρο 4 παράγραφος 3 της οδηγίας (ΕΕ) 2019/790. Κάθε πάροχος που διαθέτει μοντέλο ΤΝ γενικού σκοπού στην αγορά της Ένωσης θα πρέπει να συμμορφώνεται με την υποχρέωση αυτή, ανεξάρτητα από τη δικαιοδοσία στην οποία λαμβάνουν χώρα οι σχετικές με τα δικαιώματα πνευματικής ιδιοκτησίας πράξεις στις οποίες βασίζεται η εκπαίδευση των εν λόγω μοντέλων ΤΝ γενικού σκοπού. Αυτό είναι αναγκαίο για τη διασφάλιση ισότιμων όρων ανταγωνισμού μεταξύ των παρόχων μοντέλων ΤΝ γενικού σκοπού, όπου κανένας πάροχος δεν θα πρέπει να είναι σε θέση να αποκτά ανταγωνιστικό πλεονέκτημα στην αγορά της Ένωσης εφαρμόζοντας λιγότερο αυστηρά πρότυπα για τα δικαιώματα πνευματικής ιδιοκτησίας σε σχέση με τα προβλεπόμενα στην Ένωση.
(107)
A fim de aumentar a transparência dos dados utilizados no treino prévio e no treino de modelos de IA de finalidade geral, incluindo textos e dados protegidos pela legislação em matéria de direitos de autor, é adequado que os prestadores desses modelos elaborem e disponibilizem ao público um resumo suficientemente pormenorizado dos conteúdos utilizados para o treino do modelo de IA de finalidade geral. Embora tendo devidamente em conta a necessidade de proteger os segredos comerciais e as informações comerciais de caráter confidencial, esse resumo deverá, de um modo geral, ser abrangente no seu âmbito de aplicação, em vez de ser tecnicamente pormenorizado, a fim de facilitar às partes com interesses legítimos, incluindo os titulares de direitos de autor, o exercício e a aplicação dos seus direitos ao abrigo do direito da União, por exemplo, enumerando as principais coleções ou conjuntos de dados que entraram no treino do modelo, como grandes bases de dados públicas ou privadas ou arquivos de dados, e oferecendo uma explicação narrativa sobre outras fontes de dados utilizadas. É conveniente que o Serviço para a IA disponibilize um modelo para o resumo, que deverá ser simples e eficaz, e permita ao prestador facultar o resumo exigido sob a forma narrativa.
(107)
Προκειμένου να αυξηθεί η διαφάνεια όσον αφορά τα δεδομένα που χρησιμοποιούνται κατά την προεκπαίδευση και την εκπαίδευση μοντέλων ΤΝ γενικού σκοπού, συμπεριλαμβανομένων των κειμένων και δεδομένων που προστατεύονται από το δίκαιο περί πνευματικής ιδιοκτησίας, είναι σκόπιμο οι πάροχοι τέτοιων μοντέλων να καταρτίζουν και να δημοσιοποιούν επαρκώς λεπτομερή περίληψη του περιεχομένου που χρησιμοποιήθηκε για την εκπαίδευση του μοντέλου ΤΝ γενικού σκοπού. Λαμβάνοντας δεόντως υπόψη την ανάγκη προστασίας του εμπορικού απορρήτου και των εμπιστευτικών επιχειρηματικών πληροφοριών, η περίληψη θα πρέπει να είναι γενικά περιεκτική ως προς το εύρος της και όχι τεχνικά λεπτομερής ώστε να διευκολύνονται τα μέρη με έννομα συμφέροντα, συμπεριλαμβανομένων των κατόχων δικαιωμάτων πνευματικής ιδιοκτησίας, να ασκούν και να επιβάλλουν τα δικαιώματά τους δυνάμει του ενωσιακού δικαίου, για παράδειγμα με την απαρίθμηση των κυριότερων συλλογών ή συνόλων δεδομένων που χρησιμοποιήθηκαν για την εκπαίδευση του μοντέλου, όπως μεγάλες ιδιωτικές ή δημόσιες βάσεις δεδομένων ή αρχεία δεδομένων, και με την παροχή περιγραφικής επεξήγησης σχετικά με άλλες πηγές δεδομένων που χρησιμοποιήθηκαν. Ενδείκνυται η Υπηρεσία ΤΝ να παρέχει υπόδειγμα για την περίληψη, το οποίο θα πρέπει να είναι απλό και αποτελεσματικό και να επιτρέπει στον πάροχο να παρέχει την απαιτούμενη περίληψη σε περιγραφική μορφή.
(108)
No que diz respeito às obrigações impostas aos prestadores de modelos de IA de finalidade geral para que ponham em prática uma política de cumprimento da legislação da União em matéria de direitos de autor e disponibilizem ao público um resumo dos conteúdos utilizados para o treino, o Serviço para a IA deverá controlar se o prestador cumpriu essas obrigações sem verificar ou proceder a uma avaliação obra a obra dos dados de treino no que respeita aos direitos de autor. O presente regulamento não afeta a aplicação das regras em matéria de direitos de autor previstas no direito da União.
(108)
Όσον αφορά τις υποχρεώσεις που επιβάλλονται στους παρόχους μοντέλων ΤΝ γενικού σκοπού να εφαρμόζουν πολιτική συμμόρφωσης με το ενωσιακό δίκαιο περί πνευματικής ιδιοκτησίας και να δημοσιοποιούν περίληψη του περιεχομένου που χρησιμοποιήθηκε για την εκπαίδευση, η Υπηρεσία ΤΝ θα πρέπει να παρακολουθεί εάν ο πάροχος έχει εκπληρώσει τις εν λόγω υποχρεώσεις χωρίς να επαληθεύει τα δεδομένα εκπαίδευσης ή να προβαίνει σε αξιολόγησή τους ανά έργο ως προς τη συμμόρφωση με τα δικαιώματα πνευματικής ιδιοκτησίας. Ο παρών κανονισμός δεν θίγει την επιβολή των κανόνων περί πνευματικής ιδιοκτησίας όπως προβλέπονται στο δίκαιο της Ένωσης.
(109)
O cumprimento das obrigações aplicáveis aos prestadores de modelos de IA de finalidade geral deverá ser consentâneo e proporcionado ao tipo de prestador do modelo, excluindo a necessidade de conformidade para as pessoas que desenvolvem ou utilizam modelos para fins de investigação não profissional ou científica, que deverão, no entanto, ser incentivadas a cumprir voluntariamente esses requisitos. Sem prejuízo do direito da União em matéria de direitos de autor, o cumprimento dessas obrigações deverá ter devidamente em conta a dimensão do prestador e permitir formas simplificadas de conformidade para as PME, incluindo as empresas em fase de arranque, que não deverão representar um custo excessivo nem desencorajar a utilização de tais modelos. Em caso de alteração ou aperfeiçoamento de um modelo, as obrigações dos prestadores de modelos de IA de finalidade geral deverão limitar-se a essa alteração ou aperfeiçoamento, por exemplo, complementando a documentação técnica já existente com informações sobre as alterações, nomeadamente novas fontes de dados de treino, como forma de cumprir as obrigações da cadeia de valor previstas no presente regulamento.
(109)
Η συμμόρφωση με τις υποχρεώσεις που ισχύουν για τους παρόχους μοντέλων ΤΝ γενικού σκοπού θα πρέπει να είναι ανάλογη και αναλογική προς το είδος του παρόχου μοντέλων, εξαιρουμένης της ανάγκης συμμόρφωσης για τα πρόσωπα που αναπτύσσουν ή χρησιμοποιούν μοντέλα για μη επαγγελματικούς σκοπούς ή για σκοπούς επιστημονικής έρευνας, τα οποία, ωστόσο, θα πρέπει να παροτρύνονται να συμμορφώνονται οικειοθελώς με τις απαιτήσεις αυτές. Με την επιφύλαξη του ενωσιακού δικαίου περί πνευματικής ιδιοκτησίας, η συμμόρφωση με τις εν λόγω υποχρεώσεις θα πρέπει να λαμβάνει δεόντως υπόψη το μέγεθος του παρόχου και να επιτρέπει απλουστευμένους τρόπους συμμόρφωσης για τις ΜΜΕ, συμπεριλαμβανομένων των νεοφυών επιχειρήσεων, οι οποίοι θα πρέπει να μη συνεπάγονται υπερβολικό κόστος και να μην αποθαρρύνουν τη χρήση τέτοιων μοντέλων. Σε περίπτωση τροποποίησης ή βελτίωσης μοντέλου, οι υποχρεώσεις των παρόχων μοντέλων ΤΝ γενικού σκοπού θα πρέπει να περιορίζονται στην εν λόγω τροποποίηση ή βελτίωση, για παράδειγμα με τη συμπλήρωση του ήδη υφιστάμενου τεχνικού φακέλου με πληροφορίες σχετικά με τις τροποποιήσεις, συμπεριλαμβανομένων νέων πηγών δεδομένων εκπαίδευσης, ως μέσο συμμόρφωσης με τις υποχρεώσεις της αξιακής αλυσίδας που προβλέπονται στον παρόντα κανονισμό.
(110)
Os modelos de IA de finalidade geral poderão representar riscos sistémicos que incluem, entre outros, quaisquer efeitos negativos reais ou razoavelmente previsíveis em relação a acidentes graves, perturbações de setores críticos e consequências graves para a saúde e a segurança públicas; quaisquer efeitos negativos, reais ou razoavelmente previsíveis, em processos democráticos e na segurança pública e económica; a divulgação de conteúdos ilegais, falsos ou discriminatórios. Os riscos sistémicos deverão ser entendidos como aumentando as capacidades e o alcance do modelo, podendo surgir ao longo de todo o ciclo de vida do modelo e ser influenciados por condições de utilização indevida, fiabilidade do modelo, equidade e segurança do modelo, pelo nível de autonomia do modelo, pelo seu acesso a ferramentas, modalidades novas ou combinadas, estratégias de lançamento e distribuição, pelo potencial de remoção de barreiras de segurança e outros fatores. Em especial, as abordagens internacionais identificaram, até à data, a necessidade de prestar atenção aos riscos decorrentes de uma potencial utilização indevida intencional ou de problemas não intencionais de controlo relacionados com o alinhamento com a intenção humana; os riscos químicos, biológicos, radiológicos e nucleares, tais como as formas como as barreiras à entrada podem ser baixadas, inclusive para o desenvolvimento, a conceção, a aquisição ou a utilização de armas; as capacidades cibernéticas ofensivas, tais como as formas em que a descoberta, exploração ou utilização operacional de vulnerabilidades pode ser permitida; os efeitos da interação e da utilização de ferramentas, incluindo, por exemplo, a capacidade de controlar os sistemas físicos e de interferir com as infraestruturas críticas; os riscos decorrentes de os modelos fazerem cópias de si próprios ou de «autorreplicação», ou de treinarem outros modelos; a forma como os modelos podem dar origem a enviesamentos prejudiciais e a discriminação, com riscos para os indivíduos, as comunidades ou as sociedades; a facilitação da desinformação ou o prejuízo para a privacidade, com ameaças para os valores democráticos e os direitos humanos; o risco de que um acontecimento específico conduza a uma reação em cadeia com efeitos negativos consideráveis que possam afetar até uma cidade inteira, uma atividade num domínio inteiro ou uma comunidade inteira.
(110)
Τα μοντέλα ΤΝ γενικού σκοπού θα μπορούσαν να ενέχουν συστημικούς κινδύνους που περιλαμβάνουν, μεταξύ άλλων, ενδεχόμενες πραγματικές ή ευλόγως προβλέψιμες αρνητικές επιπτώσεις σε σχέση με μείζονα ατυχήματα, διαταραχές κρίσιμων τομέων και σοβαρές συνέπειες για τη δημόσια υγεία και ασφάλεια· ενδεχόμενες πραγματικές ή ευλόγως προβλέψιμες αρνητικές επιπτώσεις στις δημοκρατικές διαδικασίες και τη δημόσια και οικονομική ασφάλεια· και τη διάδοση παράνομου ή ψευδούς περιεχομένου ή περιεχομένου που εισάγει διακρίσεις. Οι συστημικοί κίνδυνοι θα πρέπει να θεωρείται ότι αυξάνονται με τις ικανότητες και την εμβέλεια του μοντέλου, μπορούν να ανακύψουν καθ’ όλη τη διάρκεια του κύκλου ζωής του μοντέλου και επηρεάζονται από τις συνθήκες κακής χρήσης, την αξιοπιστία του μοντέλου, το κατά πόσο το μοντέλο είναι δίκαιο και την ασφάλεια του μοντέλου, το επίπεδο αυτονομίας του μοντέλου, την πρόσβασή του σε εργαλεία, τους καινοτόμους ή συνδυασμένους τρόπους λειτουργίας, τις στρατηγικές διάθεσης και διανομής, τη δυνατότητα αφαίρεσης των δικλίδων ασφαλείας και άλλους παράγοντες. Ειδικότερα, διεθνείς προσεγγίσεις έχουν μέχρι στιγμής εντοπίσει την ανάγκη να δοθεί προσοχή στους κινδύνους από δυνητική εσκεμμένη κακή χρήση ή ακούσια ζητήματα ελέγχου που σχετίζονται με την ευθυγράμμιση με ανθρώπινη πρόθεση· σε χημικούς, βιολογικούς, ραδιολογικούς και πυρηνικούς κινδύνους, όπως οι τρόποι με τους οποίους μπορούν να μειωθούν οι φραγμοί εισόδου, μεταξύ άλλων για την ανάπτυξη όπλων, την απόκτηση σχεδιασμού ή τη χρήση όπλων· σε επιθετικές ικανότητες στον κυβερνοχώρο, όπως οι τρόποι εντοπισμού τρωτών σημείων, εκμετάλλευσης ή επιχειρησιακής χρήσης· στις επιπτώσεις της αλληλεπίδρασης και της χρήσης εργαλείων, συμπεριλαμβανομένης π.χ. της ικανότητας ελέγχου υλικών συστημάτων και παρεμβολών σε υποδομές ζωτικής σημασίας· σε κινδύνους τα μοντέλα να δημιουργήσουν αντίγραφά τους ή να «αυτοαναπαραχθούν» ή να εκπαιδεύσουν άλλα μοντέλα· στους τρόπους με τους οποίους τα μοντέλα μπορούν να προκαλέσουν επιζήμιες περιπτώσεις μεροληψίας και διακρίσεις επικίνδυνες για τα άτομα, τις κοινότητες ή τις κοινωνίες· στη διευκόλυνση της παραπληροφόρησης ή την υπονόμευση της ιδιωτικής ζωής με απειλές κατά των δημοκρατικών αξιών και των ανθρώπινων δικαιωμάτων· και στον κίνδυνο ένα συγκεκριμένο συμβάν να οδηγήσει σε αλυσιδωτή αντίδραση με σημαντικές αρνητικές επιπτώσεις που θα μπορούσαν να επηρεάσουν μια ολόκληρη πόλη, τη δραστηριότητα ενός ολόκληρου τομέα ή μια ολόκληρη κοινότητα.
(111)
É conveniente estabelecer uma metodologia para a classificação de modelos de IA de finalidade geral como modelos de IA de finalidade geral com riscos sistémicos. Uma vez que os riscos sistémicos resultam de capacidades particularmente elevadas, deverá considerar-se que um modelo de IA de finalidade geral apresenta riscos sistémicos se tiver capacidades de elevado impacto, avaliadas com base em ferramentas e metodologias técnicas adequadas ou um impacto significativo no mercado interno devido ao seu alcance. Entende-se por capacidades de elevado impacto em modelos de IA de finalidade geral as capacidades que correspondam ou excedam as capacidades registadas nos modelos de IA de finalidade geral mais avançados. O conjunto completo de capacidades num modelo poderá ser mais bem compreendido após a sua colocação no mercado ou quando os responsáveis pela implantação interagirem com o modelo. De acordo com o estado da arte no momento da entrada em vigor do presente regulamento, a quantidade acumulada de cálculo utilizado para o treino do modelo de IA de finalidade geral medido em operações de vírgula flutuante é uma das aproximações pertinentes para as capacidades do modelo. A quantidade acumulada de cálculo utilizado para o treino inclui o cálculo utilizado nas atividades e métodos destinados a reforçar as capacidades do modelo antes da implantação, como o treino prévio, a geração de dados sintéticos e o aperfeiçoamento. Por conseguinte, deverá ser estabelecido um limiar inicial de operação de vírgula flutuante que, se for cumprido por um modelo de IA de finalidade geral, conduz à presunção de que o modelo é um modelo de IA de finalidade geral com riscos sistémicos. Este limiar deverá ser ajustado ao longo do tempo para refletir as mudanças tecnológicas e industriais, tais como as melhorias algorítmicas ou uma maior eficiência do hardware, e deverá ser complementado com parâmetros de referência e indicadores da capacidade dos modelos. Para o fundamentar, o Serviço para a IA deverá colaborar com a comunidade científica, a indústria, a sociedade civil e outros peritos. Os limiares, bem como as ferramentas e os parâmetros de referência para a avaliação das capacidades de elevado impacto, deverão ser indicadores fortes da generalidade, das suas capacidades e do risco sistémico associado dos modelos de IA de finalidade geral, e poderão ter em conta a forma como o modelo será colocado no mercado ou o número de utilizadores que pode afetar. Para complementar este sistema, a Comissão deverá ter a possibilidade de tomar decisões individuais que designem um modelo de IA de finalidade geral como sendo um modelo de IA de finalidade geral com risco sistémico, caso se verifique que esse modelo tem capacidades ou impacto equivalentes aos captados pelo limiar estabelecido. Essa decisão deverá ser tomada com base numa avaliação global dos critérios de designação do modelo de IA de finalidade geral com risco sistémico estabelecidos num anexo do presente regulamento, tais como a qualidade ou a dimensão do conjunto de dados de treino, o número de utilizadores profissionais e finais, as suas modalidades de entrada e saída, o seu nível de autonomia e escalabilidade ou as ferramentas a que tem acesso. Mediante pedido fundamentado de um prestador cujo modelo tenha sido designado um modelo de IA de finalidade geral com risco sistémico, a Comissão deverá ter em conta o pedido e pode decidir reavaliar se ainda é possível considerar que o modelo de IA de finalidade geral apresenta riscos sistémicos.
(111)
Ενδείκνυται να θεσπιστεί μεθοδολογία για την ταξινόμηση μοντέλων ΤΝ γενικού σκοπού ως μοντέλων ΤΝ γενικού σκοπού με συστημικούς κινδύνους. Δεδομένου ότι οι συστημικοί κίνδυνοι απορρέουν από τις ιδιαιτέρως υψηλού επιπέδου ικανότητες, ένα μοντέλο ΤΝ γενικού σκοπού θα πρέπει να θεωρείται ότι παρουσιάζει συστημικούς κινδύνους, εάν έχει ικανότητες υψηλού αντικτύπου, οι οποίες αξιολογούνται βάσει κατάλληλων τεχνικών εργαλείων και μεθοδολογιών, ή εάν έχει σημαντικό αντίκτυπο στην εσωτερική αγορά λόγω της εμβέλειάς του. Ως ικανότητες υψηλού αντικτύπου σε μοντέλα ΤΝ γενικού σκοπού νοούνται οι ικανότητες που αντιστοιχούν στις ικανότητες που καταγράφονται στα πλέον προηγμένα μοντέλα ΤΝ γενικού σκοπού ή τις υπερβαίνουν. Το πλήρες φάσμα των ικανοτήτων ενός μοντέλου μπορεί να γίνει καλύτερα αντιληπτό μετά τη διάθεσή του στην αγορά ή όταν οι φορείς εφαρμογής αλληλεπιδρούν με το μοντέλο. Ανάλογα με την εξέλιξη της τεχνολογίας κατά τον χρόνο έναρξης ισχύος του παρόντος κανονισμού, ο σωρευτικός όγκος υπολογιστικής που χρησιμοποιήθηκε για την εκπαίδευση του μοντέλου ΤΝ γενικού σκοπού μετρημένος σε πράξεις κινητής υποδιαστολής είναι μία από τις σχετικές προσεγγίσεις για τις ικανότητες των μοντέλων. Ο σωρευτικός όγκος υπολογιστικής που χρησιμοποιείται για την εκπαίδευση περιλαμβάνει την υπολογιστική που χρησιμοποιείται σε όλες τις δραστηριότητες και τις μεθόδους που αποσκοπούν στην ενίσχυση των ικανοτήτων του μοντέλου πριν από την εφαρμογή του, όπως η προεκπαίδευση, η παραγωγή συνθετικών δεδομένων και η βελτίωση. Κατά συνέπεια, θα πρέπει να καθοριστεί ένα αρχικό κατώτατο όριο πράξεων κινητής υποδιαστολής, το οποίο, εάν πληρούται από μοντέλο ΤΝ γενικού σκοπού, συνεπάγεται τεκμήριο ότι το μοντέλο είναι μοντέλο ΤΝ γενικού σκοπού με συστημικούς κινδύνους. Το κατώτατο όριο θα πρέπει να αναπροσαρμόζεται με την πάροδο του χρόνου, ώστε να αντικατοπτρίζει τις τεχνολογικές και βιομηχανικές αλλαγές, όπως αλγοριθμικές βελτιώσεις ή αυξημένη αποδοτικότητα του υλισμικού, και θα πρέπει να συμπληρώνεται με κριτήρια αναφοράς και δείκτες για την ικανότητα του μοντέλου. Για να το διαμορφώνει αυτό, η Υπηρεσία ΤΝ θα πρέπει να συνεργάζεται με την επιστημονική κοινότητα, τη βιομηχανία, την κοινωνία των πολιτών και άλλους εμπειρογνώμονες. Τα κατώτατα όρια, καθώς και τα εργαλεία και τα κριτήρια αναφοράς για την αξιολόγηση των ικανοτήτων υψηλού αντικτύπου, θα πρέπει να αποτελούν ισχυρούς παράγοντες πρόβλεψης της γενικότητας, των ικανοτήτων και του συνδεδεμένου συστημικού κινδύνου των μοντέλων ΤΝ γενικού σκοπού και θα μπορούσαν να λαμβάνουν υπόψη τον τρόπο με τον οποίον το μοντέλο θα διατεθεί στην αγορά ή τον αριθμό των χρηστών που ενδέχεται να επηρεάσει. Για να συμπληρωθεί αυτό το σύστημα, η Επιτροπή θα πρέπει να έχει τη δυνατότητα να λαμβάνει μεμονωμένες αποφάσεις για τον χαρακτηρισμό ενός μοντέλου ΤΝ γενικού σκοπού ως μοντέλου ΤΝ γενικού σκοπού με συστημικό κίνδυνο, εάν διαπιστωθεί ότι το εν λόγω μοντέλο έχει ικανότητες ή αντίκτυπο ισοδύναμα με εκείνα που αποτυπώνονται στο καθορισμένο κατώτατο όριο. Η απόφαση αυτή θα πρέπει να λαμβάνεται βάσει συνολικής αξιολόγησης των κριτηρίων για τον χαρακτηρισμό ενός μοντέλου ΤΝ γενικού σκοπού με συστημικό κίνδυνο που περιέχεται σε παράρτημα του παρόντος κανονισμού, όπως η ποιότητα ή το μέγεθος του συνόλου δεδομένων εκπαίδευσης, ο αριθμός των επιχειρηματικών και των τελικών χρηστών, οι λεπτομέρειες εισόδου και εξόδου, το επίπεδο αυτονομίας του και η δυνατότητά του κλιμάκωσης ή τα εργαλεία στα οποία έχει πρόσβαση. Κατόπιν αιτιολογημένου αιτήματος παρόχου του οποίου το μοντέλο έχει χαρακτηριστεί ως μοντέλο ΤΝ γενικού σκοπού με συστημικό κίνδυνο, η Επιτροπή θα πρέπει να λαμβάνει υπόψη το αίτημα και μπορεί να αποφασίζει να επαναξιολογεί εάν το μοντέλο ΤΝ γενικού σκοπού μπορεί ακόμη να θεωρηθεί ότι παρουσιάζει συστημικούς κινδύνους.
(112)
É igualmente necessário tornar claro um procedimento para a classificação de um modelo de IA de finalidade geral com riscos sistémicos. Deverá presumir-se que um modelo de IA de finalidade geral que cumpra o limiar aplicável às capacidades de elevado impacto é um modelo de IA de finalidade geral com risco sistémico. O mais tardar duas semanas após o cumprimento dos requisitos ou após ter conhecimento de que um modelo de IA de finalidade geral cumprirá os requisitos que conduzem à presunção, o prestador deverá notificar o Serviço para a IA. Este aspeto é especialmente pertinente em relação ao limiar de operações de vírgula flutuante, uma vez que o treino de modelos de IA de finalidade geral exige um planeamento considerável, que inclui a afetação inicial de recursos de cálculo e, por conseguinte, os prestadores de modelos de IA de finalidade geral conseguem saber se o seu modelo cumprirá o limiar antes da conclusão do treino. No contexto dessa notificação, o prestador deverá poder demonstrar que um modelo de IA de finalidade geral, devido às suas características específicas, excecionalmente não apresenta riscos sistémicos e que, por conseguinte, não deverá ser classificado como sendo um modelo de IA de finalidade geral com riscos sistémicos. Essas informações são úteis para o Serviço para a IA antecipar a colocação no mercado de modelos de IA de finalidade geral com riscos sistémicos e os prestadores poderem começar a dialogar com o Serviço para a IA numa fase precoce. Essas informações são especialmente importantes no que diz respeito aos modelos de IA de finalidade geral que se prevê sejam lançados como fonte aberta, uma vez que, após o lançamento de modelos de fonte aberta, as medidas necessárias para assegurar o cumprimento das obrigações decorrentes do presente regulamento podem ser mais difíceis de aplicar.
(112)
Είναι επίσης απαραίτητο να διευκρινιστεί διαδικασία για την ταξινόμηση ενός μοντέλου ΤΝ γενικού σκοπού με συστημικούς κινδύνους. Μοντέλο ΤΝ γενικού σκοπού που πληροί το εφαρμοστέο κατώτατο όριο για ικανότητες υψηλού αντικτύπου θα πρέπει να τεκμαίρεται ότι είναι μοντέλο ΤΝ γενικού σκοπού με συστημικό κίνδυνο. Ο πάροχος θα πρέπει να ενημερώνει την Υπηρεσία ΤΝ το αργότερο δύο εβδομάδες μετά την εκπλήρωση των απαιτήσεων ή αφότου γίνει γνωστό ότι ένα μοντέλο ΤΝ γενικού σκοπού θα εκπληρώνει τις απαιτήσεις που συνεπάγονται τεκμήριο. Αυτό είναι ιδιαίτερα σημαντικό σε σχέση με το κατώτατο όριο πράξεων κινητής υποδιαστολής, διότι η εκπαίδευση μοντέλων ΤΝ γενικού σκοπού απαιτεί σημαντικό σχεδιασμό, ο οποίος περιλαμβάνει την εκ των προτέρων κατανομή υπολογιστικών πόρων και, ως εκ τούτου, οι πάροχοι μοντέλων ΤΝ γενικού σκοπού είναι σε θέση να γνωρίζουν αν το μοντέλο τους θα εκπληρώσει το κατώτατο όριο πριν από την ολοκλήρωση της εκπαίδευσης. Στο πλαίσιο αυτής της ενημέρωσης, ο πάροχος θα πρέπει να είναι σε θέση να αποδείξει ότι, λόγω των ειδικών χαρακτηριστικών του, ένα μοντέλο ΤΝ γενικού σκοπού κατ’ εξαίρεση δεν παρουσιάζει συστημικούς κινδύνους και ότι, ως εκ τούτου, δεν θα πρέπει να ταξινομηθεί ως μοντέλο ΤΝ γενικού σκοπού με συστημικούς κινδύνους. Οι πληροφορίες αυτές είναι πολύτιμες, ώστε η υπηρεσία ΤΝ να μπορεί να προβλέπει τη διάθεση στην αγορά μοντέλων ΤΝ γενικού σκοπού με συστημικούς κινδύνους, οι δε πάροχοι μπορούν να αρχίσουν να συνεργάζονται με την Υπηρεσία ΤΝ σε πρώιμο στάδιο. Οι πληροφορίες αυτές είναι ιδιαίτερα σημαντικές όσον αφορά τα μοντέλα ΤΝ γενικού σκοπού που προβλέπεται να διατεθούν ως ανοικτού κώδικα, δεδομένου ότι, μετά τη διάθεση μοντέλων ανοικτού κώδικα, ενδέχεται να είναι πιο δύσκολο να εφαρμοστούν τα αναγκαία μέτρα για τη διασφάλιση της συμμόρφωσης με τις υποχρεώσεις που απορρέουν από τον παρόντα κανονισμό.
(113)
Se a Comissão tomar conhecimento de que um modelo de IA de finalidade geral cumpre os requisitos para se classificar como modelo de IA de finalidade geral com risco sistémico, facto que anteriormente não era conhecido ou sobre o qual o prestador em causa não notificou a Comissão, a Comissão deverá ficar habilitada a designá-lo como tal. Um sistema de alertas qualificados deverá assegurar que o Serviço para a IA é informado pelo painel científico sobre modelos de IA de finalidade geral que possivelmente deverão ser classificados como modelos de IA de finalidade geral com risco sistémico, a par das atividades de acompanhamento do Serviço para a IA.
(113)
Εάν η Επιτροπή λάβει γνώση του γεγονότος ότι ένα μοντέλο ΤΝ γενικού σκοπού πληροί τις απαιτήσεις για να ταξινομηθεί ως μοντέλο ΤΝ γενικού σκοπού με συστημικό κίνδυνο, ενώ προηγουμένως είτε δεν ήταν γνωστό είτε ο οικείος πάροχος δεν είχε ενημερώσει σχετικά την Επιτροπή, η Επιτροπή θα πρέπει να έχει το δικαίωμα να το χαρακτηρίσει ως τέτοιο. Ένα σύστημα ειδικών προειδοποιήσεων θα πρέπει να διασφαλίζει ότι η Υπηρεσία ΤΝ ενημερώνεται από την επιστημονική ομάδα σχετικά με μοντέλα ΤΝ γενικού σκοπού που θα πρέπει ενδεχομένως να ταξινομηθούν ως μοντέλα ΤΝ γενικού σκοπού με συστημικό κίνδυνο, επιπλέον των δραστηριοτήτων παρακολούθησης της Υπηρεσίας ΤΝ.
(114)
Os prestadores de modelos de IA de finalidade geral que apresentem riscos sistémicos deverão estar sujeitos, para além das obrigações previstas para os prestadores de modelos de IA de finalidade geral, a obrigações que visem identificar e atenuar esses riscos e assegurar um nível adequado de proteção da cibersegurança, independentemente de serem disponibilizados como modelos autónomos ou incorporados num sistema de IA ou num produto. Para alcançar esses objetivos, o presente regulamento deverá exigir que os prestadores realizem as avaliações necessárias dos modelos, em especial antes da sua primeira colocação no mercado, incluindo a realização de testagens antagónicas dos modelos e a respetiva documentação, se for caso disso também por meio de testagens internas ou externas independentes. Além disso, os prestadores de modelos de IA de finalidade geral com riscos sistémicos deverão avaliar e atenuar continuamente os riscos sistémicos, nomeadamente pondo em prática políticas de gestão de riscos, como processos de responsabilização e governação, executando o acompanhamento pós-comercialização, adotando medidas adequadas ao longo de todo o ciclo de vida do modelo e cooperando com os intervenientes pertinentes ao longo de toda a cadeia de valor da IA.
(114)
Οι πάροχοι μοντέλων ΤΝ γενικού σκοπού τα οποία παρουσιάζουν συστημικούς κινδύνους θα πρέπει να υπόκεινται, επιπλέον των υποχρεώσεων που προβλέπονται για τους παρόχους μοντέλων ΤΝ γενικού σκοπού, σε υποχρεώσεις που αποσκοπούν στον εντοπισμό και τον μετριασμό των εν λόγω κινδύνων και στη διασφάλιση κατάλληλου επιπέδου προστασίας της κυβερνοασφάλειας, ανεξάρτητα από το αν το μοντέλο παρέχεται ως αυτοτελές ή ενσωματωμένο σε σύστημα ΤΝ ή σε προϊόν. Για την επίτευξη αυτών των στόχων, ο παρών κανονισμός θα πρέπει να απαιτεί από τους παρόχους να διενεργούν τις απαραίτητες αξιολογήσεις μοντέλων, ιδίως πριν από την πρώτη διάθεσή τους στην αγορά, μεταξύ άλλων διενεργώντας και τεκμηριώνοντας αντιπαραθετικές δοκιμές μοντέλων, επίσης, κατά περίπτωση, μέσω εσωτερικών ή ανεξάρτητων εξωτερικών δοκιμών. Επιπλέον, οι πάροχοι μοντέλων ΤΝ γενικού σκοπού με συστημικούς κινδύνους θα πρέπει συνεχώς να εκτιμούν και να μετριάζουν τους συστημικούς κινδύνους, μεταξύ άλλων, για παράδειγμα, με τη θέσπιση πολιτικών διαχείρισης κινδύνων, όπως διαδικασίες λογοδοσίας και διακυβέρνησης, την εφαρμογή παρακολούθησης μετά τη διάθεση στην αγορά, τη λήψη κατάλληλων μέτρων καθ’ όλη τη διάρκεια του κύκλου ζωής του μοντέλου και τη συνεργασία με σχετικούς παράγοντες κατά μήκος της αξιακής αλυσίδας της ΤΝ.
(115)
Os prestadores de modelos de IA de finalidade geral com riscos sistémicos deverão avaliar e atenuar eventuais riscos sistémicos. Se, apesar dos esforços para identificar e prevenir riscos relacionados com um modelo de IA de finalidade geral que possa apresentar riscos sistémicos, o desenvolvimento ou a utilização do modelo causar um incidente grave, o prestador do modelo de IA de finalidade geral deverá, sem demora injustificada, acompanhar o incidente e comunicar quaisquer informações pertinentes e eventuais medidas corretivas à Comissão e às autoridades nacionais competentes. Além disso, os prestadores deverão assegurar um nível adequado de proteção do modelo e das suas infraestruturas físicas em termos de cibersegurança, se for caso disso ao longo de todo o ciclo de vida do modelo. A proteção em termos de cibersegurança relacionada com os riscos sistémicos associados à utilização maliciosa ou a ataques deverá ter devidamente em conta as fugas acidentais de modelos, os lançamentos não autorizados, o contornamento de medidas de segurança e a defesa contra ciberataques, o acesso não autorizado ou o roubo de modelos. Essa proteção poderá ser facilitada garantindo as ponderações dos modelos, algoritmos, servidores e conjuntos de dados, nomeadamente por intermédio de medidas de segurança operacional para a segurança da informação, de políticas específicas em matéria de cibersegurança, de soluções técnicas e estabelecidas adequadas e de controlos informáticos e físicos do acesso, adequados às circunstâncias pertinentes e aos riscos envolvidos.
(115)
Οι πάροχοι μοντέλων ΤΝ γενικού σκοπού με συστημικούς κινδύνους θα πρέπει να εκτιμούν και να μετριάζουν πιθανούς συστημικούς κινδύνους. Εάν, παρά τις προσπάθειες για τον εντοπισμό και την πρόληψη κινδύνων που σχετίζονται με μοντέλο ΤΝ γενικού σκοπού το οποίο ενδέχεται να ενέχει συστημικούς κινδύνους, η ανάπτυξη ή η χρήση του μοντέλου προκαλέσει σοβαρό περιστατικό, ο πάροχος του μοντέλου ΤΝ γενικού σκοπού θα πρέπει, χωρίς αδικαιολόγητη καθυστέρηση, να παρακολουθεί το περιστατικό και να αναφέρει σχετικές πληροφορίες και πιθανά διορθωτικά μέτρα στην Επιτροπή και στις εθνικές αρμόδιες αρχές. Επιπλέον, οι πάροχοι θα πρέπει να διασφαλίζουν κατάλληλο επίπεδο προστασίας της κυβερνοασφάλειας για το μοντέλο και την υλική υποδομή του, κατά περίπτωση, καθ’ όλη τη διάρκεια του κύκλου ζωής του μοντέλου. Για την προστασία της κυβερνοασφάλειας που σχετίζεται με συστημικούς κινδύνους οι οποίοι συνδέονται με κακόβουλη χρήση ή επιθέσεις θα πρέπει να λαμβάνονται δεόντως υπόψη η τυχαία διαρροή μοντέλων, η μη επιτρεπόμενη διάθεση, η καταστρατήγηση των μέτρων ασφάλειας και η άμυνα κατά κυβερνοεπιθέσεων, μη εξουσιοδοτημένης πρόσβασης ή κλοπής μοντέλων. Η προστασία αυτή θα μπορούσε να διευκολυνθεί με την εξασφάλιση συντελεστών στάθμισης μοντέλου, αλγορίθμων, εξυπηρετητών και συνόλων δεδομένων, όπως μέσω μέτρων επιχειρησιακής ασφάλειας για την ασφάλεια των πληροφοριών, ειδικών πολιτικών κυβερνοασφάλειας, κατάλληλων τεχνικών και καθιερωμένων λύσεων, καθώς και ελέγχων κυβερνοπρόσβασης και φυσικής πρόσβασης, κατάλληλων για τις σχετικές περιστάσεις και τους εκάστοτε κινδύνους.
(116)
O Serviço para a IA deverá incentivar e facilitar a elaboração, a revisão e a adaptação de códigos de práticas, tendo em conta as abordagens internacionais. Todos os prestadores de modelos de IA de finalidade geral poderão ser convidados a participar. A fim de assegurar que os códigos de práticas refletem o estado da arte e têm devidamente em conta um conjunto diversificado de perspetivas, o Serviço para a IA deverá colaborar com as autoridades nacionais competentes pertinentes e poderá, se for caso disso, consultar organizações da sociedade civil e outras partes interessadas e peritos pertinentes, incluindo o painel científico, para a elaboração desses códigos. Os códigos de práticas deverão abranger as obrigações dos prestadores de modelos de IA de finalidade geral e de modelos de IA de finalidade geral que apresentem riscos sistémicos. Além disso, no que diz respeito aos riscos sistémicos, os códigos de práticas deverão ajudar a estabelecer uma taxonomia do tipo e da natureza dos riscos sistémicos a nível da União, incluindo das suas fontes. Os códigos de práticas deverão também centrar-se na avaliação específica dos riscos e em medidas de atenuação.
(116)
Η Υπηρεσία ΤΝ θα πρέπει να ενθαρρύνει και να διευκολύνει την κατάρτιση, την επανεξέταση και την προσαρμογή κωδίκων πρακτικής, λαμβάνοντας υπόψη τις διεθνείς προσεγγίσεις. Θα μπορούσαν να κληθούν να συμμετάσχουν όλοι οι πάροχοι μοντέλων ΤΝ γενικού σκοπού. Για να διασφαλιστεί ότι οι κώδικες πρακτικής αποτυπώνουν την εξέλιξη της τεχνολογίας και λαμβάνουν δεόντως υπόψη ένα ευρύ σύνολο προοπτικών, η Υπηρεσία ΤΝ θα πρέπει να συνεργάζεται με τις σχετικές εθνικές αρμόδιες αρχές και θα μπορούσε, κατά περίπτωση, να διαβουλεύεται με οργανώσεις της κοινωνίας των πολιτών και άλλους σχετικούς συμφεροντούχους και εμπειρογνώμονες, συμπεριλαμβανομένης της επιστημονικής ομάδας, για την κατάρτιση τέτοιων κωδίκων. Οι κώδικες πρακτικής θα πρέπει να καλύπτουν τις υποχρεώσεις των παρόχων μοντέλων ΤΝ γενικού σκοπού και μοντέλων ΤΝ γενικού σκοπού που παρουσιάζουν συστημικούς κινδύνους. Επιπλέον, όσον αφορά τους συστημικούς κινδύνους, οι κώδικες πρακτικής θα πρέπει να συμβάλουν στην καθιέρωση ταξινομίας κινδύνου για το είδος και τη φύση των συστημικών κινδύνων σε επίπεδο Ένωσης, συμπεριλαμβανομένων των πηγών τους. Οι κώδικες πρακτικής θα πρέπει επίσης να επικεντρώνονται σε συγκεκριμένα μέτρα εκτίμησης κινδύνου και μετριασμού.
(117)
Os códigos de práticas deverão representar um instrumento central para o cumprimento adequado das obrigações previstas no presente regulamento para os prestadores de modelos de IA de finalidade geral. Os prestadores deverão poder recorrer a códigos de práticas para demonstrar o cumprimento das obrigações. Por meio de atos de execução, a Comissão pode decidir aprovar um código de práticas e conferir-lhe uma validade geral na União ou, em alternativa, estabelecer regras comuns para a execução das obrigações pertinentes, se, no momento em que o presente regulamento se tornar aplicável, não for possível finalizar um código de práticas ou este não for considerado adequado pelo Serviço para a IA. Uma vez publicada uma norma harmonizada e considerada adequada para abranger as obrigações pertinentes do Serviço para a IA, a conformidade com uma norma europeia harmonizada deverá conferir aos prestadores a presunção de conformidade. Os prestadores de modelos de IA de finalidade geral deverão, além disso, ser capazes de demonstrar a conformidade utilizando meios alternativos adequados, se não estiverem disponíveis códigos de práticas nem normas harmonizadas, ou se os prestadores optarem por não se basear neles.
(117)
Οι κώδικες πρακτικής θα πρέπει να αποτελούν κεντρικό εργαλείο για την ορθή συμμόρφωση με τις υποχρεώσεις που προβλέπονται στον παρόντα κανονισμό για τους παρόχους μοντέλων ΤΝ γενικού σκοπού. Οι πάροχοι θα πρέπει να μπορούν να βασίζονται σε κώδικες πρακτικής για να αποδεικνύουν τη συμμόρφωση με τις υποχρεώσεις. Με εκτελεστικές πράξεις, η Επιτροπή μπορεί να αποφασίζει να εγκρίνει κώδικα πρακτικής και να του προσδίδει γενική ισχύ εντός της Ένωσης ή, εναλλακτικά, να θεσπίζει κοινούς κανόνες για την εφαρμογή των σχετικών υποχρεώσεων, εάν, κατά την έναρξη εφαρμογής του παρόντος κανονισμού, ένας κώδικας πρακτικής δεν μπορεί να οριστικοποιηθεί ή κρίνεται ακατάλληλος από την Υπηρεσία ΤΝ. Μόλις εναρμονισμένο πρότυπο δημοσιευθεί και αξιολογηθεί ως κατάλληλο για την κάλυψη των σχετικών υποχρεώσεων από την Υπηρεσία ΤΝ, η συμμόρφωση με ευρωπαϊκό εναρμονισμένο πρότυπο θα πρέπει να εξασφαλίζει στους παρόχους τεκμήριο συμμόρφωσης. Οι πάροχοι μοντέλων ΤΝ γενικού σκοπού θα πρέπει επίσης να είναι σε θέση να αποδεικνύουν τη συμμόρφωση με τη χρήση εναλλακτικών κατάλληλων μέσων, εάν δεν υπάρχουν κώδικες πρακτικής ή εναρμονισμένα πρότυπα ή όταν οι πάροχοι επιλέγουν να μη βασιστούν σε αυτά.
(118)
O presente regulamento regula os sistemas de IA e modelos de IA, impondo determinados requisitos e obrigações aos intervenientes pertinentes no mercado que os colocam no mercado, colocam em serviço ou em utilização na União, complementando assim as obrigações dos prestadores de serviços intermediários que incorporam esses sistemas ou modelos nos seus serviços regulados pelo Regulamento (UE) 2022/2065. Na medida em que esses sistemas ou modelos estejam incorporados naquelas que são designadas por plataformas em linha de muito grande dimensão ou motores de pesquisa em linha de muito grande dimensão, estão sujeitos ao regime de gestão de riscos previsto no Regulamento (UE) 2022/2065. Por conseguinte, deverá presumir-se que as obrigações correspondentes do presente Regulamento foram cumpridas, a menos que surjam e sejam identificados nesses modelos riscos sistémicos significativos não abrangidos pelo Regulamento (UE) 2022/2065. Neste contexto, os prestadores de plataformas em linha de muito grande dimensão e de motores de pesquisa em linha de muito grande dimensão são obrigados a avaliar os potenciais riscos sistémicos decorrentes da conceção, do funcionamento e da utilização dos seus serviços, incluindo a forma como a conceção dos sistemas algorítmicos utilizados no serviço pode contribuir para esses riscos, bem como os riscos sistémicos decorrentes de potenciais utilizações indevidas. Esses prestadores são igualmente obrigados a tomar medidas de atenuação adequadas no respeito dos direitos fundamentais.
(118)
Ο παρών κανονισμός ρυθμίζει τα συστήματα ΤΝ και τα μοντέλα ΤΝ επιβάλλοντας ορισμένες απαιτήσεις και υποχρεώσεις στους σχετικούς παράγοντες της αγοράς που τα διαθέτουν στην αγορά, τα θέτουν σε λειτουργία ή τα χρησιμοποιούν στην Ένωση, συμπληρώνοντας έτσι τις υποχρεώσεις των παρόχων ενδιάμεσων υπηρεσιών που ενσωματώνουν τέτοια συστήματα ή μοντέλα στις υπηρεσίες τους οι οποίες ρυθμίζονται από τον κανονισμό (ΕΕ) 2022/2065. Στον βαθμό που τα εν λόγω συστήματα ή μοντέλα είναι ενσωματωμένα σε χαρακτηρισμένες πολύ μεγάλες επιγραμμικές πλατφόρμες ή πολύ μεγάλες επιγραμμικές μηχανές αναζήτησης, υπόκεινται στο πλαίσιο διαχείρισης κινδύνων που προβλέπεται στον κανονισμό (ΕΕ) 2022/2065. Κατά συνέπεια, οι αντίστοιχες υποχρεώσεις του παρόντος κανονισμού θα πρέπει να τεκμαίρεται ότι πληρούνται, εκτός εάν προκύψουν σημαντικοί συστημικοί κίνδυνοι που δεν καλύπτονται από τον κανονισμό (ΕΕ) 2022/2065 και εντοπίζονται σε τέτοια μοντέλα. Στο πλαίσιο αυτό, οι πάροχοι πολύ μεγάλων επιγραμμικών πλατφορμών και πολύ μεγάλων επιγραμμικών μηχανών αναζήτησης υποχρεούνται να προβαίνουν σε εκτίμηση δυνητικών συστημικών κινδύνων που απορρέουν από τον σχεδιασμό, τη λειτουργία και τη χρήση των υπηρεσιών τους, συμπεριλαμβανομένου του τρόπου με τον οποίο ο σχεδιασμός αλγοριθμικών συστημάτων που χρησιμοποιούνται στην υπηρεσία ενδέχεται να συμβάλει σε τέτοιους κινδύνους, καθώς και των συστημικών κινδύνων που απορρέουν από δυνητικές κακές χρήσεις. Οι πάροχοι αυτοί υποχρεούνται επίσης να λαμβάνουν κατάλληλα μέτρα μετριασμού με σεβασμό των θεμελιωδών δικαιωμάτων.
(119)
Tendo em conta o ritmo rápido da inovação e a evolução tecnológica dos serviços digitais no âmbito dos diferentes instrumentos do direito da União, em especial tendo em conta a utilização e a perceção dos seus destinatários, os sistemas de IA abrangidos pelo presente regulamento podem ser prestados como serviços intermediários ou partes dos mesmos, na aceção do Regulamento (UE) 2022/2065, que deverão ser interpretados de forma tecnologicamente neutra. Por exemplo, os sistemas de IA podem ser utilizados para a disponibilização de motores de pesquisa em linha, em especial na medida em que um sistema de IA, como um robô de conversação em linha, efetua em princípio pesquisas em todos os sítios Web, depois incorpora os resultados nos conhecimentos que já tem e utiliza os conhecimentos atualizados para gerar um resultado único que combina diferentes fontes de informação.
(119)
Λαμβάνοντας υπόψη τον ταχύ ρυθμό της καινοτομίας και την τεχνολογική εξέλιξη των ψηφιακών υπηρεσιών που εμπίπτουν στο πεδίο εφαρμογής διάφορων πράξεων του ενωσιακού δικαίου, έχοντας ιδίως κατά νου τη χρήση και την αντίληψη των αποδεκτών τους, τα συστήματα ΤΝ που υπόκεινται στον παρόντα κανονισμό μπορούν να παρέχονται ως ενδιάμεσες υπηρεσίες ή μέρη αυτών κατά την έννοια του κανονισμού (ΕΕ) 2022/2065, ο οποίος θα πρέπει να ερμηνεύεται με τεχνολογικά ουδέτερο τρόπο. Για παράδειγμα, τα συστήματα ΤΝ μπορούν να χρησιμοποιούνται για την παροχή επιγραμμικών μηχανών αναζήτησης, ιδίως στον βαθμό που ένα σύστημα ΤΝ όπως ένα επιγραμμικό διαλογικό ρομπότ πραγματοποιεί αναζητήσεις, κατ’ αρχήν, σε όλους τους ιστοτόπους, στη συνέχεια ενσωματώνει τα αποτελέσματα στις υφιστάμενες γνώσεις του και χρησιμοποιεί τις επικαιροποιημένες γνώσεις για να παράγει ενιαία στοιχεία εξόδου που συνδυάζουν διαφορετικές πηγές πληροφοριών.
(120)
Além disso, a fim de facilitar a aplicação efetiva do Regulamento (UE) 2022/2065, as obrigações impostas por força do presente regulamento aos prestadores e responsáveis pela implantação de determinados sistemas de IA são particularmente relevantes para permitir detetar e divulgar se os resultados desses sistemas são artificialmente gerados ou manipulados. Tal aplica-se, em especial, às obrigações dos prestadores de plataformas em linha de muito grande dimensão ou de motores de pesquisa em linha de muito grande dimensão que consistem em identificar e atenuar os riscos sistémicos que possam resultar da divulgação de conteúdos artificialmente gerados ou manipulados, em especial o risco de efeitos negativos reais ou previsíveis nos processos democráticos, no debate público e nos processos eleitorais, nomeadamente através da desinformação.
(120)
Εξάλλου, οι υποχρεώσεις που επιβάλλονται στους παρόχους και τους φορείς εφαρμογής ορισμένων συστημάτων ΤΝ στον παρόντα κανονισμό προκειμένου να μπορεί να ανιχνεύεται και να αποκαλύπτεται ότι τα στοιχεία εξόδου των εν λόγω συστημάτων έχουν παραχθεί ή υποστεί χειρισμό τεχνητά είναι ιδιαίτερα σημαντικές για τη διευκόλυνση της αποτελεσματικής εφαρμογής του κανονισμού (ΕΕ) 2022/2065. Αυτό ισχύει ιδίως όσον αφορά τις υποχρεώσεις των παρόχων πολύ μεγάλων επιγραμμικών πλατφορμών ή πολύ μεγάλων επιγραμμικών μηχανών αναζήτησης να εντοπίζουν και να μετριάζουν τους συστημικούς κινδύνους που ενδέχεται να προκύψουν από τη διάδοση περιεχομένου που έχει παραχθεί ή υποστεί χειρισμό τεχνητά, ειδικότερα δε τον κίνδυνο πραγματικών ή προβλέψιμων αρνητικών επιπτώσεων στις δημοκρατικές διαδικασίες, τον πολιτικό διάλογο και τις εκλογικές διαδικασίες, μεταξύ άλλων μέσω παραπληροφόρησης.
(121)
A normalização deverá desempenhar um papel fundamental, disponibilizando aos prestadores soluções técnicas que assegurem a conformidade com o presente regulamento, em consonância com o estado da arte, a fim de promover a inovação, a competitividade e o crescimento no mercado único. O cumprimento de normas harmonizadas conforme definido no artigo 2.o, ponto 1, alínea c), do Regulamento (UE) n.o 1025/2012 do Parlamento Europeu e do Conselho (41), das quais normalmente se espera que reflitam o estado da arte, deverá constituir um meio de os prestadores demonstrarem a conformidade com os requisitos do presente regulamento. Por conseguinte, deverá ser incentivada uma representação equilibrada de interesses que implique todas as partes interessadas na elaboração de normas, em especial as PME, as organizações de consumidores e as partes interessadas ambientalistas e da sociedade civil, em conformidade com os artigos 5.o e 6.o do Regulamento (UE) n.o 1025/2012. A fim de facilitar a conformidade, os pedidos de normalização deverão ser emitidos pela Comissão sem demora injustificada. Quando preparar o pedido de normalização, a Comissão deverá consultar o fórum consultivo e o Comité, a fim de recolher conhecimentos especializados pertinentes. No entanto, na ausência de referências pertinentes a normas harmonizadas, a Comissão deverá poder estabelecer, através de atos de execução e após consulta do fórum consultivo, especificações comuns para determinados requisitos ao abrigo do presente regulamento. A especificação comum deverá ser uma solução excecional de recurso para facilitar a obrigação do prestador de cumprir os requisitos do presente regulamento caso o pedido de normalização não tenha sido aceite por nenhuma das organizações europeias de normalização, caso as normas harmonizadas pertinentes não respondam de forma suficiente às preocupações em matéria de direitos fundamentais, caso as normas harmonizadas não satisfaçam o pedido ou caso haja atrasos na adoção de uma norma harmonizada adequada. Se esse atraso na adoção de uma norma harmonizada se dever à complexidade técnica dessa norma, a Comissão deverá tomar esse facto em consideração antes de ponderar o estabelecimento de especificações comuns. Ao elaborar especificações comuns, a Comissão é incentivada a cooperar com os parceiros internacionais e os organismos internacionais de normalização.
(121)
Η τυποποίηση θα πρέπει να διαδραματίσει βασικό ρόλο στην παροχή τεχνικών λύσεων στους παρόχους για τη διασφάλιση της συμμόρφωσης με τον παρόντα κανονισμό, σύμφωνα με την εξέλιξη της τεχνολογίας, με σκοπό την προώθηση της καινοτομίας καθώς και της ανταγωνιστικότητας και της ανάπτυξης στην ενιαία αγορά. Η συμμόρφωση με τα εναρμονισμένα πρότυπα, όπως ορίζονται στο άρθρο 2 σημείο 1 στοιχείο γ) του κανονισμού (ΕΕ) αριθ. 1025/2012 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (41), τα οποία, υπό κανονικές συνθήκες, αναμένεται να ανταποκρίνονται στην εξέλιξη της τεχνολογίας, θα πρέπει να αποτελεί μέσο απόδειξης της συμμόρφωσης των παρόχων με τις απαιτήσεις του παρόντος κανονισμού. Θα πρέπει συνεπώς να ενθαρρυνθεί η ισόρροπη εκπροσώπηση των συμφερόντων με τη συμμετοχή όλων των σχετικών συμφεροντούχων στην ανάπτυξη προτύπων, ιδίως των ΜΜΕ, των ενώσεων καταναλωτών και των περιβαλλοντικών και κοινωνικών συμφεροντούχων σύμφωνα με τα άρθρα 5 και 6 του κανονισμού (ΕΕ) αριθ. 1025/2012. Προκειμένου να διευκολυνθεί η συμμόρφωση, τα αιτήματα τυποποίησης θα πρέπει να εκδίδονται από την Επιτροπή χωρίς αδικαιολόγητη καθυστέρηση. Κατά την προετοιμασία του αιτήματος τυποποίησης, η Επιτροπή θα πρέπει να συμβουλεύεται το συμβουλευτικό φόρουμ και το Συμβούλιο Τεχνητής Νοημοσύνης, προκειμένου να συλλέξει σχετική εμπειρογνωσία. Ωστόσο, ελλείψει σχετικών παραπομπών σε εναρμονισμένα πρότυπα, η Επιτροπή θα πρέπει να είναι σε θέση να θεσπίζει, μέσω εκτελεστικών πράξεων και κατόπιν διαβούλευσης με το συμβουλευτικό φόρουμ, κοινές προδιαγραφές για ορισμένες απαιτήσεις δυνάμει του παρόντος κανονισμού. Η κοινή προδιαγραφή θα πρέπει να αποτελεί κατ’ εξαίρεση εφεδρική λύση για να διευκολύνεται η υποχρέωση του παρόχου να συμμορφώνεται με τις απαιτήσεις του παρόντος κανονισμού, όταν το αίτημα τυποποίησης δεν έχει γίνει δεκτό από κανέναν από τους ευρωπαϊκούς οργανισμούς τυποποίησης ή όταν τα σχετικά εναρμονισμένα πρότυπα δεν ανταποκρίνονται επαρκώς σε ανησυχίες σχετικές με τα θεμελιώδη δικαιώματα ή όταν τα εναρμονισμένα πρότυπα δεν συμμορφώνονται με το αίτημα ή όταν καθυστερεί η έγκριση κατάλληλου εναρμονισμένου προτύπου. Όταν η καθυστέρηση της έγκρισης εναρμονισμένου προτύπου οφείλεται στην τεχνική πολυπλοκότητα του εν λόγω προτύπου, η Επιτροπή θα πρέπει να το λάβει υπόψη πριν εξετάσει το ενδεχόμενο θέσπισης κοινών προδιαγραφών. Κατά την ανάπτυξη κοινών προδιαγραφών, η Επιτροπή παροτρύνεται να συνεργάζεται με διεθνείς εταίρους και διεθνείς οργανισμούς τυποποίησης.
(122)
Sem prejuízo da utilização de normas harmonizadas e especificações comuns, é conveniente presumir que os prestadores de um sistema de IA de risco elevado que tenha sido treinado e testado em dados que reflitam o cenário geográfico, comportamental, contextual ou funcional específico no qual o sistema de IA se destina a ser utilizado cumprem a medida pertinente prevista no requisito de governação de dados estabelecido no presente regulamento. Sem prejuízo dos requisitos relacionados com a solidez e a exatidão estabelecidos no presente regulamento, em conformidade com o artigo 54.o, n.o 3, do Regulamento (UE) 2019/881, deverá presumir-se que os sistemas de IA de risco elevado que tenham sido certificados ou relativamente aos quais tenha sido emitida uma declaração de conformidade no âmbito de um sistema de certificação da cibersegurança estabelecido nos termos desse regulamento, e cujas referências tenham sido publicadas no Jornal Oficial da União Europeia, cumprem os requisitos de cibersegurança do presente regulamento, contanto que o certificado de cibersegurança ou a declaração de conformidade ou partes dos mesmos abranjam os requisitos de cibersegurança do presente regulamento. Tal não prejudica a natureza voluntária desse sistema de certificação da cibersegurança.
(122)
Ενδείκνυται, με την επιφύλαξη της χρήσης εναρμονισμένων προτύπων και κοινών προδιαγραφών, οι πάροχοι συστήματος ΤΝ υψηλού κινδύνου που έχει εκπαιδευτεί και δοκιμαστεί σε δεδομένα που αποτυπώνουν το συγκεκριμένο γεωγραφικό, συμπεριφορικό, συγκυριακό ή λειτουργικό πλαίσιο εντός του οποίου προορίζεται να χρησιμοποιηθεί το σύστημα ΤΝ να τεκμαίρεται ότι συμμορφώνονται με το σχετικό μέτρο που προβλέπεται στην απαίτηση για τη διακυβέρνηση των δεδομένων που ορίζεται στον παρόντα κανονισμό. Με την επιφύλαξη των απαιτήσεων στιβαρότητας και ακρίβειας που ορίζονται στον παρόντα κανονισμό, σύμφωνα με το άρθρο 54 παράγραφος 3 του κανονισμού (ΕΕ) 2019/881, τα συστήματα ΤΝ υψηλού κινδύνου που έχουν πιστοποιηθεί ή για τα οποία έχει εκδοθεί δήλωση συμμόρφωσης στο πλαίσιο συστήματος πιστοποίησης κυβερνοασφάλειας κατά τα προβλεπόμενα στον εν λόγω κανονισμό και των οποίων τα στοιχεία αναφοράς έχουν δημοσιευθεί στην Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης θα πρέπει να τεκμαίρεται ότι συμμορφώνονται με την απαίτηση κυβερνοασφάλειας του παρόντος κανονισμού, εφόσον το πιστοποιητικό κυβερνοασφάλειας ή η δήλωση συμμόρφωσης ή μέρη αυτών καλύπτουν την απαίτηση κυβερνοασφάλειας του παρόντος κανονισμού, χωρίς να θίγεται ο προαιρετικός χαρακτήρας του συστήματος πιστοποίησης κυβερνοασφάλειας.
(123)
A fim de assegurar um nível elevado de fiabilidade dos sistemas de IA de risco elevado, estes deverão ser sujeitos a uma avaliação da conformidade antes de serem colocados no mercado ou colocados em serviço.
(123)
Προκειμένου να διασφαλιστεί υψηλό επίπεδο αξιοπιστίας των συστημάτων ΤΝ υψηλού κινδύνου, τα συστήματα αυτά θα πρέπει να υπόκεινται σε αξιολόγηση της συμμόρφωσης πριν από τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία.
(124)
Para minimizar os encargos impostos aos operadores e evitar possíveis duplicações, é conveniente que, no caso dos sistemas de IA de risco elevado relacionados com produtos abrangidos por legislação de harmonização da União com base no novo regime jurídico, o cumprimento dos requisitos do presente regulamento por parte desses sistemas de IA seja aferido no âmbito da avaliação da conformidade já prevista nessa lei. Como tal, a aplicabilidade dos requisitos do presente regulamento não deverá afetar a lógica, a metodologia ou a estrutura geral específicas da avaliação da conformidade nos termos da legislação de harmonização da União pertinente.
(124)
Προκειμένου να ελαχιστοποιηθεί η επιβάρυνση των φορέων εκμετάλλευσης και να αποφευχθεί κάθε πιθανή επικάλυψη, όσον αφορά τα συστήματα ΤΝ υψηλού κινδύνου που σχετίζονται με προϊόντα τα οποία καλύπτονται από την υφιστάμενη ενωσιακή νομοθεσία εναρμόνισης βάσει του νέου νομοθετικού πλαισίου, ενδείκνυται η συμμόρφωση των εν λόγω συστημάτων ΤΝ με τις απαιτήσεις του παρόντος κανονισμού να αξιολογείται στο πλαίσιο της αξιολόγησης της συμμόρφωσης που ήδη προβλέπεται στο εν λόγω δίκαιο. Συνεπώς, η δυνατότητα εφαρμογής των απαιτήσεων του παρόντος κανονισμού δεν θα πρέπει να επηρεάζει την ειδική λογική, τη μεθοδολογία ή τη γενική δομή της αξιολόγησης της συμμόρφωσης δυνάμει της σχετικής ενωσιακής νομοθεσίας εναρμόνισης.
(125)
Dada a complexidade dos sistemas de IA de risco elevado e os riscos que lhes estão associados, é importante desenvolver um procedimento de avaliação da conformidade adequado para sistemas de IA de risco elevado que envolvam organismos notificados, a chamada avaliação da conformidade por terceiros. Contudo, dada a atual experiência dos certificadores de pré-comercialização profissionais no domínio da segurança dos produtos e a diferente natureza dos riscos inerentes, é apropriado limitar, pelo menos numa fase inicial da aplicação do presente regulamento, o âmbito da avaliação da conformidade por terceiros aos sistemas de IA de risco elevado que não estejam relacionados com produtos. Por conseguinte, a avaliação da conformidade desses sistemas deverá ser realizada, regra geral, pelo prestador sob a sua própria responsabilidade, com a única exceção dos sistemas de IA concebidos para utilização em biometria.
(125)
Λόγω της πολυπλοκότητας των συστημάτων ΤΝ υψηλού κινδύνου και των κινδύνων που συνδέονται με αυτά, είναι σημαντικό να αναπτυχθεί κατάλληλη διαδικασία αξιολόγησης της συμμόρφωσης για συστήματα ΤΝ υψηλού κινδύνου με τη συμμετοχή κοινοποιημένων οργανισμών, η οποία καλείται αξιολόγηση της συμμόρφωσης από τρίτο μέρος. Ωστόσο, λόγω της υφιστάμενης πείρας των επαγγελματιών φορέων πιστοποίησης πριν από τη διάθεση στην αγορά στον τομέα της ασφάλειας των προϊόντων, καθώς και της διαφορετικής φύσης των σχετικών κινδύνων, ενδείκνυται να περιοριστεί, τουλάχιστον κατά την αρχική φάση εφαρμογής του παρόντος κανονισμού, το πεδίο εφαρμογής της αξιολόγησης της συμμόρφωσης από τρίτο μέρος όσον αφορά τα συστήματα ΤΝ υψηλού κινδύνου εκτός εκείνων που σχετίζονται με τα προϊόντα. Συνεπώς, η αξιολόγηση της συμμόρφωσης τέτοιων συστημάτων θα πρέπει να διενεργείται κατά γενικό κανόνα από τον πάροχο με δική του ευθύνη, με μόνη εξαίρεση τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για βιομετρικά στοιχεία.
(126)
Sempre que seja necessário realizar avaliações da conformidade por terceiros, os organismos notificados deverão ser notificados por força do presente regulamento pelas autoridades nacionais competentes, desde que cumpram uma série de requisitos, nomeadamente em termos de independência, competência, ausência de conflitos de interesse e requisitos de cibersegurança adequados. A notificação desses organismos deverá ser enviada pelas autoridades nacionais competentes à Comissão e aos outros Estados-Membros por meio do instrumento de notificação eletrónica desenvolvido e gerido pela Comissão nos termos do artigo R23 do anexo I da Decisão n.o 768/2008/CE.
(126)
Για τη διενέργεια αξιολογήσεων της συμμόρφωσης από τρίτο μέρος όταν αυτό απαιτείται, θα πρέπει να κοινοποιούνται από τις εθνικές αρμόδιες αρχές κοινοποιημένοι οργανισμοί βάσει του παρόντος κανονισμού, υπό την προϋπόθεση ότι συμμορφώνονται με ένα σύνολο απαιτήσεων, ιδίως όσον αφορά την ανεξαρτησία, την επάρκεια, την απουσία συγκρούσεων συμφερόντων και τις δέουσες απαιτήσεις περί κυβερνοασφάλειας. Η κοινοποίηση των εν λόγω οργανισμών θα πρέπει να αποστέλλεται από τις εθνικές αρμόδιες αρχές στην Επιτροπή και στα άλλα κράτη μέλη μέσω του ηλεκτρονικού μέσου κοινοποίησης που έχει δημιουργήσει και διαχειρίζεται η Επιτροπή δυνάμει του παραρτήματος Ι άρθρο R23 της απόφασης αριθ. 768/2008/ΕΚ.
(127)
Em conformidade com os compromissos assumidos pela União no âmbito do Acordo sobre os Obstáculos Técnicos ao Comércio da Organização Mundial do Comércio, é adequado facilitar o reconhecimento mútuo dos resultados da avaliação da conformidade produzidos pelos organismos de avaliação da conformidade competentes, independentes do território em que se encontram estabelecidos, desde que esses organismos de avaliação da conformidade estabelecidos ao abrigo da legislação de um país terceiro cumpram os requisitos aplicáveis do presente regulamento e que a União tenha celebrado um acordo nessa medida. Neste contexto, a Comissão deverá explorar ativamente possíveis instrumentos internacionais para esse efeito e, em especial, celebrar acordos de reconhecimento mútuo com países terceiros.
(127)
Σε ευθυγράμμιση με τις δεσμεύσεις της Ένωσης στο πλαίσιο της συμφωνίας του Παγκόσμιου Οργανισμού Εμπορίου για τα τεχνικά εμπόδια στο εμπόριο, είναι σκόπιμο να διευκολυνθεί η αμοιβαία αναγνώριση των αποτελεσμάτων της αξιολόγησης της συμμόρφωσης που παράγονται από αρμόδιους οργανισμούς αξιολόγησης της συμμόρφωσης, ανεξαρτήτως από την επικράτεια στην οποία είναι εγκατεστημένοι, υπό την προϋπόθεση ότι οι οργανισμοί αξιολόγησης της συμμόρφωσης που έχουν συσταθεί δυνάμει του δικαίου τρίτης χώρας πληρούν τις εφαρμοστέες απαιτήσεις του παρόντος κανονισμού και η Ένωση έχει συνάψει σχετική συμφωνία. Στο πλαίσιο αυτό, η Επιτροπή θα πρέπει να διερευνήσει ενεργά πιθανές διεθνείς πράξεις για τον σκοπό αυτόν και ιδίως να επιδιώξει τη σύναψη συμφωνιών αμοιβαίας αναγνώρισης με τρίτες χώρες.
(128)
Em consonância com a noção comummente estabelecida de modificação substancial de produtos regulamentados pela legislação de harmonização da União, sempre que ocorra uma alteração que possa afetar a conformidade de um sistema de IA de risco elevado com o presente Regulamento (por exemplo, alteração do sistema operativo ou da arquitetura do software), ou sempre que a finalidade prevista do sistema se altere, é apropriado que esse sistema de IA seja considerado um novo sistema de IA que deverá ser submetido a uma nova avaliação da conformidade. No entanto, as alterações que ocorrem no algoritmo e no desempenho dos sistemas de IA que continuam a «aprender» depois de terem sido colocados no mercado ou colocados em serviço, nomeadamente que adaptam automaticamente o modo de funcionamento, não deverão constituir uma modificação substancial, desde que tenham sido predeterminadas pelo prestador e examinadas aquando da avaliação da conformidade.
(128)
Σε ευθυγράμμιση με την κοινώς καθιερωμένη έννοια της ουσιαστικής τροποποίησης για τα προϊόντα που ρυθμίζονται από την ενωσιακή νομοθεσία εναρμόνισης, όταν επέρχεται αλλαγή η οποία ενδέχεται να επηρεάσει τη συμμόρφωση ενός συστήματος ΤΝ υψηλού κινδύνου με τον παρόντα κανονισμό (π.χ. αλλαγή λειτουργικού συστήματος ή αρχιτεκτονικής λογισμικού) ή όταν αλλάζει ο επιδιωκόμενος σκοπός του συστήματος, ενδείκνυται το εν λόγω σύστημα ΤΝ να θεωρείται νέο σύστημα ΤΝ το οποίο θα πρέπει να υποβληθεί σε νέα αξιολόγηση της συμμόρφωσης. Ωστόσο, αλλαγές στον αλγόριθμο και στις επιδόσεις των συστημάτων ΤΝ που συνεχίζουν να «μαθαίνουν» μετά τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία, δηλαδή να προσαρμόζουν αυτόματα τον τρόπο εκτέλεσης των λειτουργιών, δεν θα πρέπει να συνιστούν ουσιαστική τροποποίηση, υπό την προϋπόθεση ότι οι εν λόγω αλλαγές έχουν προκαθοριστεί από τον πάροχο και έχουν αξιολογηθεί κατά τον χρόνο της αξιολόγησης της συμμόρφωσης.
(129)
Para que possam circular livremente dentro do mercado interno, os sistemas de IA de risco elevado deverão apresentar a marcação CE para indicar a sua conformidade com o presente regulamento. No caso dos sistemas de IA de risco elevado integrados num produto, deverá ser aposta uma marcação CE física, que pode ser complementada por uma marcação CE digital. No caso dos sistemas de IA de risco elevado disponibilizados apenas digitalmente, deverá ser utilizada uma marcação CE digital. Os Estados-Membros não poderão criar obstáculos injustificados à colocação no mercado nem à colocação em serviço de sistemas de IA de risco elevado que cumpram os requisitos previstos no presente regulamento e apresentem a marcação CE.
(129)
Τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να φέρουν τη σήμανση CE, ώστε να δηλώνεται η συμμόρφωσή τους με τον παρόντα κανονισμό και να μπορούν να κυκλοφορούν ελεύθερα εντός της εσωτερικής αγοράς. Για τα συστήματα ΤΝ υψηλού κινδύνου που είναι ενσωματωμένα σε προϊόν, θα πρέπει να τοποθετείται υλική σήμανση CE, η οποία μπορεί να συμπληρώνεται από ψηφιακή σήμανση CE. Για τα συστήματα ΤΝ υψηλού κινδύνου που παρέχονται μόνο ψηφιακά, θα πρέπει να χρησιμοποιείται ψηφιακή σήμανση CE. Τα κράτη μέλη δεν θα πρέπει να δημιουργούν αδικαιολόγητα εμπόδια στη διάθεση στην αγορά ή στη θέση σε λειτουργία των συστημάτων ΤΝ υψηλού κινδύνου που συμμορφώνονται με τις οριζόμενες στον παρόντα κανονισμό απαιτήσεις και φέρουν τη σήμανση CE.
(130)
Em certas condições, uma disponibilização rápida de tecnologias inovadoras pode ser crucial para a saúde e a segurança das pessoas, para a proteção do ambiente e as alterações climáticas e para a sociedade em geral. Como tal, é apropriado que, por razões excecionais de segurança pública ou proteção da vida e da saúde das pessoas singulares, da proteção do ambiente e da proteção dos ativos industriais e infraestruturais essenciais, as autoridades de fiscalização do mercado possam autorizar a colocação no mercado ou a colocação em serviço de sistemas de IA que não tenham sido objeto de uma avaliação da conformidade. Em situações devidamente justificadas, tal como previsto no presente regulamento, as autoridade responsáveis pela aplicação da lei ou as autoridades de proteção civil podem colocar em serviço um sistema de IA de risco elevado específico sem autorização da autoridade de fiscalização do mercado, desde que essa autorização seja solicitada durante ou após a utilização sem demora injustificada.
(130)
Υπό ορισμένες προϋποθέσεις, η ταχεία διαθεσιμότητα καινοτόμων τεχνολογιών μπορεί να έχει κρίσιμη σημασία για την υγεία και την ασφάλεια των προσώπων, για την προστασία του περιβάλλοντος και την κλιματική αλλαγή και για την κοινωνία στο σύνολό της. Συνεπώς, είναι σκόπιμο, για εξαιρετικούς λόγους δημόσιας ασφάλειας ή προστασίας της ζωής και της υγείας φυσικών προσώπων, προστασίας του περιβάλλοντος και προστασίας βασικών στοιχείων ενεργητικού της βιομηχανίας και των υποδομών, οι αρχές εποπτείας της αγοράς να μπορούν να επιτρέπουν τη διάθεση στην αγορά ή τη θέση σε λειτουργία συστημάτων ΤΝ που δεν έχουν υποβληθεί σε αξιολόγηση της συμμόρφωσης. Σε δεόντως αιτιολογημένες περιπτώσεις, όπως προβλέπεται στον παρόντα κανονισμό, οι αρχές επιβολής του νόμου ή οι αρχές πολιτικής προστασίας μπορούν να θέσουν σε λειτουργία ένα συγκεκριμένο σύστημα ΤΝ υψηλού κινδύνου χωρίς την άδεια της αρχής εποπτείας της αγοράς, υπό την προϋπόθεση ότι η εν λόγω άδεια ζητείται κατά τη διάρκεια της χρήσης ή μετά τη χρήση χωρίς αδικαιολόγητη καθυστέρηση.
(131)
Para facilitar o trabalho da Comissão e dos Estados-Membros no domínio da IA, bem como aumentar a transparência para o público, os prestadores de sistemas de IA de risco elevado que não os relacionados com produtos abrangidos pelo âmbito da legislação de harmonização da União em vigor aplicável, bem como os prestadores que consideram que um sistema de IA de risco elevado enumerado nos casos concretos de risco elevado num anexo do presente regulamento não é de risco elevado com base numa derrogação, deverão ser obrigados a registarem-se a si mesmos e a registar as informações sobre o seu sistema de IA de risco elevado numa base de dados da UE, a criar e gerir pela Comissão. Antes de um sistema de IA enumerado nos casos concretos de risco elevado de risco elevado num anexo do presente regulamento, os responsáveis pela implantação de sistemas de IA de risco elevado que sejam autoridades, agências ou organismos públicos, deverão registar-se nessa base de dados e selecionar o sistema que tencionam utilizar. Os outros responsáveis pela implantação deverão ter o direito de o fazer voluntariamente. Esta secção da base de dados da UE deverá ser acessível ao público, gratuitamente, e as informações deverão ser facilmente navegáveis, compreensíveis e legíveis por máquina. A base de dados da UE deverá também ser de fácil utilização, por exemplo oferecendo funcionalidades de pesquisa, nomeadamente através de palavras-chave, que permitam ao público em geral encontrar informações pertinentes a apresentar aquando do registo dos sistemas de IA de risco elevado e nos tipos de sistemas de IA de risco elevado, estabelecidas num anexo do presente regulamento a que os sistemas de IA de risco elevado correspondem. Qualquer modificação substancial de sistemas de IA de risco elevado também deverá ser registada na base de dados da UE. No caso dos sistemas de IA de risco elevado no domínio da aplicação da lei, da migração, do asilo e da gestão do controlo das fronteiras, as obrigações de registo deverão ser cumpridas numa secção não pública protegida da base de dados da UE. O acesso à secção segura não pública deverá ser estritamente limitado à Comissão e às autoridades de fiscalização do mercado no que diz respeito à respetiva secção nacional dessa base de dados. Os sistemas de IA de risco elevado no domínio das infraestruturas críticas só deverão ser registados a nível nacional. A Comissão deverá ser a responsável pelo tratamento da base de dados da UE, em conformidade com o Regulamento (UE) 2018/1725. Para assegurar que a base de dados esteja plenamente operacional à data de implantação, o procedimento para a criação da base de dados da UE deverá incluir o desenvolvimento de especificações funcionais pela Comissão e um relatório de auditoria independente. A Comissão deverá ter em conta os riscos para a cibersegurança e os riscos no exercício das suas funções de responsável pelo tratamento de dados na base de dados da UE. A fim de maximizar a disponibilidade e a utilização da base de dados pelo público, a base de dados da UE, incluindo as informações disponibilizadas através da mesma, deverá cumprir os requisitos estabelecidos na Diretiva (UE) 2019/882.
(131)
Για να διευκολυνθεί το έργο της Επιτροπής και των κρατών μελών στον τομέα της ΤΝ και για να αυξηθεί η διαφάνεια έναντι του κοινού, οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου εκτός αυτών που σχετίζονται με προϊόντα τα οποία εμπίπτουν στο πεδίο εφαρμογής της σχετικής υφιστάμενης ενωσιακής νομοθεσίας εναρμόνισης, καθώς και οι πάροχοι που θεωρούν ότι ένα σύστημα ΤΝ υψηλού κινδύνου που απαριθμείται στις περιπτώσεις χρήσης υψηλού κινδύνου σε παράρτημα του παρόντος κανονισμού δεν είναι υψηλού κινδύνου βάσει παρέκκλισης, θα πρέπει να υποχρεούνται να εγγράφονται και να καταχωρίζουν πληροφορίες σχετικά με το οικείο σύστημα ΤΝ σε βάση δεδομένων της ΕΕ, την οποία θα δημιουργήσει και θα διαχειρίζεται η Επιτροπή. Πριν από τη χρήση ενός συστήματος ΤΝ που απαριθμείται στις περιπτώσεις χρήσης υψηλού κινδύνου σε παράρτημα του παρόντος κανονισμού, οι φορείς εφαρμογής συστημάτων ΤΝ υψηλού κινδύνου που είναι δημόσιες αρχές, οργανισμοί ή φορείς θα πρέπει να εγγράφονται στην εν λόγω βάση δεδομένων και να επιλέγουν το σύστημα που προτίθενται να χρησιμοποιήσουν. Άλλοι φορείς εφαρμογής θα πρέπει να έχουν το δικαίωμα να το πράξουν οικειοθελώς. Αυτό το τμήμα της βάσης δεδομένων της ΕΕ θα πρέπει να είναι προσβάσιμο στο κοινό, δωρεάν, οι δε πληροφορίες θα πρέπει να είναι εύκολα πλοηγήσιμες, κατανοητές και μηχαναγνώσιμες. Η βάση δεδομένων της ΕΕ θα πρέπει επίσης να είναι φιλική προς τον χρήστη, για παράδειγμα παρέχοντας λειτουργικότητες αναζήτησης, μεταξύ άλλων με λέξεις-κλειδιά, που επιτρέπουν στο ευρύ κοινό να βρίσκει σχετικές πληροφορίες που πρέπει να υποβάλλονται κατά την καταχώριση συστημάτων ΤΝ υψηλού κινδύνου και σχετικά με την περίπτωση χρήσης των συστημάτων ΤΝ υψηλού κινδύνου που καθορίζονται σε παράρτημα του παρόντος κανονισμού και στα οποία αντιστοιχούν τα συστήματα ΤΝ υψηλού κινδύνου. Κάθε ουσιαστική τροποποίηση συστημάτων ΤΝ υψηλού κινδύνου θα πρέπει επίσης να καταχωρίζεται στη βάση δεδομένων της ΕΕ. Για τα συστήματα ΤΝ υψηλού κινδύνου στον τομέα της επιβολής του νόμου και της διαχείρισης της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων, οι υποχρεώσεις καταχώρισης θα πρέπει να εκπληρώνονται σε ασφαλές μη δημόσιο τμήμα της βάσης δεδομένων της ΕΕ. Η πρόσβαση στο ασφαλές μη δημόσιο τμήμα θα πρέπει να περιορίζεται αυστηρά στην Επιτροπή, καθώς και στις αρχές εποπτείας της αγοράς όσον αφορά το εθνικό τμήμα της εν λόγω βάσης δεδομένων. Τα συστήματα ΤΝ υψηλού κινδύνου στον τομέα των υποδομών ζωτικής σημασίας θα πρέπει να καταχωρίζονται μόνο σε εθνικό επίπεδο. Η Επιτροπή θα πρέπει να είναι ο υπεύθυνος επεξεργασίας της βάσης δεδομένων της ΕΕ, σύμφωνα με τον κανονισμό (ΕΕ) 2018/1725. Προκειμένου να διασφαλιστεί η πλήρης λειτουργικότητα της βάσης δεδομένων της ΕΕ, όταν διατεθεί προς χρήση, η διαδικασία για τη δημιουργία της βάσης δεδομένων θα πρέπει να περιλαμβάνει την ανάπτυξη λειτουργικών προδιαγραφών από την Επιτροπή και ανεξάρτητη έκθεση ελέγχου. Η Επιτροπή θα πρέπει να λαμβάνει υπόψη τους κινδύνους για την κυβερνοασφάλεια κατά την εκτέλεση των καθηκόντων της ως υπεύθυνης επεξεργασίας δεδομένων στη βάση δεδομένων της ΕΕ. Προκειμένου να μεγιστοποιηθεί η διαθεσιμότητα και η χρήση της βάσης δεδομένων της ΕΕ από το κοινό, η βάση δεδομένων της ΕΕ, συμπεριλαμβανομένων των πληροφοριών που διατίθενται μέσω αυτής, θα πρέπει να συμμορφώνεται με τις απαιτήσεις της οδηγίας (ΕΕ) 2019/882.
(132)
Determinados sistemas de IA concebidos para interagir com pessoas singulares ou para criar conteúdos podem representar riscos específicos de usurpação de identidade ou dissimulação, independentemente de serem considerados de risco elevado ou não. Como tal, em certas circunstâncias, a utilização desses sistemas deverá ser sujeita a obrigações de transparência específicas, sem prejuízo dos requisitos e obrigações aplicáveis aos sistemas de IA de risco elevado, e a exceções específicas, a fim de ter em conta a necessidade especial da aplicação da lei. Em particular, as pessoas singulares deverão ser informadas de que estão a interagir com um sistema de IA, salvo se tal for óbvio do ponto de vista de uma pessoa singular razoavelmente informada, atenta e advertida, tendo em conta as circunstâncias e o contexto de utilização. Ao aplicar essa obrigação, as características das pessoas singulares pertencentes a grupos vulneráveis devido à sua idade ou deficiência deverão ser tidas em conta na medida em que o sistema de IA também se destine a interagir com esses grupos. Além disso, as pessoas singulares deverão ser notificadas quando forem expostas a sistemas de IA que, através do tratamento dos seus dados biométricos, possam identificar ou inferir as emoções ou intenções dessas pessoas ou atribuí-las a categorias específicas. Essas categorias específicas podem dizer respeito a aspetos como sexo, idade, cor do cabelo, cor dos olhos, tatuagens, traços de personalidade, origem étnica, preferências e interesses pessoais. Essas informações e notificações deverão ser apresentadas em formatos acessíveis a pessoas com deficiência.
(132)
Ορισμένα συστήματα ΤΝ που προορίζονται να αλληλεπιδρούν με φυσικά πρόσωπα ή να παράγουν περιεχόμενο ενδέχεται να ενέχουν συγκεκριμένους κινδύνους πλαστοπροσωπίας ή παραπλάνησης ανεξάρτητα από το αν χαρακτηρίζονται ως υψηλού κινδύνου ή όχι. Συνεπώς, σε ορισμένες περιπτώσεις, η χρήση των συστημάτων αυτών θα πρέπει να υπόκειται σε ειδικές υποχρεώσεις διαφάνειας, με την επιφύλαξη των απαιτήσεων και των υποχρεώσεων που ισχύουν για τα συστήματα ΤΝ υψηλού κινδύνου και σε στοχευμένες εξαιρέσεις, ώστε να λαμβάνεται υπόψη η ειδική ανάγκη της επιβολής του νόμου. Ειδικότερα, τα φυσικά πρόσωπα θα πρέπει να ενημερώνονται ότι αλληλεπιδρούν με σύστημα ΤΝ, εκτός εάν αυτό είναι προφανές από τη σκοπιά φυσικού προσώπου που διαθέτει εύλογα επαρκή πληροφόρηση και είναι παρατηρητικό και προσεκτικό, λαμβανομένων υπόψη των περιστάσεων και του πλαισίου χρήσης. Κατά την εφαρμογή αυτής της υποχρέωσης, τα χαρακτηριστικά των φυσικών προσώπων που ανήκουν σε ευάλωτες ομάδες λόγω της ηλικίας ή της αναπηρίας τους θα πρέπει να λαμβάνονται υπόψη στον βαθμό που το σύστημα ΤΝ προορίζεται να αλληλεπιδρά και με τις εν λόγω ομάδες. Επιπλέον, τα φυσικά πρόσωπα θα πρέπει να ενημερώνονται όταν εκτίθενται σε συστήματα ΤΝ τα οποία, με την επεξεργασία των βιομετρικών δεδομένων τους, μπορούν να προσδιορίζουν ή να συνάγουν τα συναισθήματα ή τις προθέσεις των εν λόγω προσώπων ή να τα κατατάσσουν σε ειδικές κατηγορίες. Αυτές οι ειδικές κατηγορίες μπορεί να αφορούν πτυχές όπως φύλο, ηλικία, χρώμα μαλλιών, χρώμα οφθαλμών, δερματοστιξία, προσωπικά χαρακτηριστικά, εθνοτική καταγωγή, προσωπικές προτιμήσεις και ενδιαφέροντα. Οι πληροφορίες και κοινοποιήσεις θα πρέπει να παρέχονται σε μορφή προσβάσιμη για τα άτομα με αναπηρία.
(133)
Um número de sistemas de IA consegue gerar grandes quantidades de conteúdos sintéticos que se tornam cada vez mais difíceis para os seres humanos de distinguir dos conteúdos gerados por seres humanos e autênticos. A ampla disponibilidade e o aumento das capacidades desses sistemas têm um impacto significativo na integridade e na confiança no ecossistema da informação, suscitando novos riscos de desinformação e manipulação em grande escala, fraude, usurpação de identidade e dissimulação dos consumidores. À luz desses impactos, do rápido ritmo tecnológico e da necessidade de novos métodos e técnicas para rastrear a origem das informações, é adequado exigir que os prestadores desses sistemas incorporem soluções técnicas que permitam a marcação num formato legível por máquina e a deteção de que o resultado foi gerado ou manipulado por um sistema de IA e não por um ser humano. Essas técnicas e métodos deverão ser suficientemente fiáveis, interoperáveis, eficazes e robustos, na medida em que tal seja tecnicamente viável, tendo em conta as técnicas disponíveis ou uma combinação de técnicas, tais como marcas de água, identificações de metadados, métodos criptográficos para comprovar a proveniência e autenticidade do conteúdo, métodos de registo, impressões digitais ou outras técnicas, conforme seja adequado. Ao aplicar essa obrigação, os prestadores deverão ter igualmente em conta as especificidades e as limitações dos diferentes tipos de conteúdos e a evolução tecnológica e do mercado no terreno, tal como refletido no estado da arte geralmente reconhecido. Essas técnicas e métodos podem ser aplicados ao nível do sistema de IA ou ao nível do modelo de IA, incluindo modelos de IA de finalidade geral que geram conteúdos, facilitando assim o cumprimento desta obrigação pelo prestador a jusante do sistema de IA. É adequado prever que, para que se mantenha proporcionada, esta obrigação de marcação não deva abranger os sistemas de IA que desempenhem principalmente uma função de apoio à edição normalizada ou aos sistemas de IA que não alterem substancialmente os dados de entrada apresentados pelo responsável pela implantação nem a semântica dos mesmos.
(133)
Διάφορα συστήματα ΤΝ μπορούν να παράγουν μεγάλες ποσότητες συνθετικού περιεχομένου το οποίο όλο και πιο δύσκολα μπορούν οι άνθρωποι να διακρίνουν από το ανθρωπογενές και αυθεντικό περιεχόμενο. Η ευρεία διαθεσιμότητα και οι αυξημένες ικανότητες των συστημάτων αυτών έχουν σημαντικό αντίκτυπο στην ακεραιότητα και την εμπιστοσύνη στο οικοσύστημα πληροφοριών, εγκυμονώντας νέους κινδύνους παραπληροφόρησης και χειραγώγησης σε κλίμακα, απάτης, πλαστοπροσωπίας και παραπλάνησης των καταναλωτών. Με δεδομένες τις επιπτώσεις αυτές, τον ταχύ ρυθμό της τεχνολογίας και την ανάγκη για νέες μεθόδους και τεχνικές για την ανίχνευση της προέλευσης των πληροφοριών, ενδείκνυται να απαιτείται από τους παρόχους των εν λόγω συστημάτων να ενσωματώνουν τεχνικές λύσεις που επιτρέπουν την επισήμανση σε μηχαναγνώσιμο μορφότυπο και την ανίχνευση ότι τα στοιχεία εξόδου έχουν παραχθεί ή υποστεί χειρισμό από σύστημα ΤΝ και όχι από άνθρωπο. Τέτοιες τεχνικές και μέθοδοι θα πρέπει να είναι επαρκώς αξιόπιστες, διαλειτουργικές, αποτελεσματικές και στιβαρές, στον βαθμό που αυτό είναι τεχνικά εφικτό, λαμβανομένων υπόψη των διαθέσιμων τεχνικών ή συνδυασμού τέτοιων τεχνικών, όπως υδατογραφήματα, αναγνωριστικά μεταδεδομένων, κρυπτογραφικές μέθοδοι για την απόδειξη της προέλευσης και της γνησιότητας του περιεχομένου, μέθοδοι καταγραφής, δακτυλικά αποτυπώματα ή άλλες τεχνικές, ανάλογα με την περίπτωση. Κατά την εφαρμογή αυτής της υποχρέωσης, οι πάροχοι θα πρέπει επίσης να λαμβάνουν υπόψη τις ιδιαιτερότητες και τους περιορισμούς των διαφορετικών ειδών περιεχομένου και τις σχετικές τεχνολογικές και αγοραίες εξελίξεις στον τομέα, όπως αποτυπώνονται στη γενικώς αναγνωρισμένη εξέλιξη της τεχνολογίας. Τέτοιες τεχνικές και μέθοδοι μπορούν να υλοποιούνται σε επίπεδο συστήματος ΤΝ ή σε επίπεδο μοντέλου ΤΝ, συμπεριλαμβανομένων μοντέλων ΤΝ γενικού σκοπού που παράγουν περιεχόμενο, διευκολύνοντας έτσι την εκπλήρωση αυτής της υποχρέωσης από τον κατάντη πάροχο του συστήματος ΤΝ. Για να παραμείνει αναλογική, ενδείκνυται να προβλεφθεί ότι η εν λόγω υποχρέωση επισήμανσης δεν θα πρέπει να καλύπτει συστήματα ΤΝ που εκτελούν πρωτίστως υποστηρικτική λειτουργία για συστήματα τυποποιημένης επεξεργασίας ή συστήματα ΤΝ που δεν μεταβάλλουν ουσιαστικά τα δεδομένα εισόδου που παρέχονται από τον φορέα εφαρμογής ή τη σημασιολογία τους.
(134)
Além das soluções técnicas utilizadas pelos prestadores do sistema de IA, os responsáveis pela implantação que recorrem a um sistema de IA para gerar ou manipular conteúdos de imagem, áudio ou vídeo cuja semelhança considerável com pessoas, objetos, locais, entidades ou eventos reais possa levar uma pessoa a crer, erroneamente, que são autênticos ou verdadeiros («falsificações profundas»), deverão também revelar de forma clara e percetível que os conteúdos foram artificialmente criados ou manipulados, identificando os resultados da IA como tal e divulgando a sua origem artificial. O cumprimento desta obrigação de transparência não deverá ser interpretado como indicando que a utilização do sistema de IA ou dos seus resultados entrava o direito à liberdade de expressão e o direito à liberdade das artes e das ciências consagrados na Carta, em especial se os conteúdos fizerem parte de uma obra ou programa de natureza manifestamente criativa, satírica, artística, ficcional ou análoga, sob reserva de garantias adequadas dos direitos e liberdades de terceiros. Nesses casos, a obrigação de transparência para as falsificações profundas estabelecida no presente regulamento limita-se à divulgação da existência de tais conteúdos gerados ou manipulados, de uma forma adequada que não prejudique a exibição ou a fruição da obra, incluindo a sua exploração e utilização normais, mantendo simultaneamente a sua utilidade e qualidade. Além disso, é igualmente adequado prever uma obrigação semelhante de divulgação em relação ao texto gerado ou manipulado por IA, na medida em que seja publicado com o objetivo de informar o público sobre questões de interesse público, a menos que o conteúdo gerado por IA tenha sido submetido a um processo de análise ou controlo editorial humano e uma pessoa singular ou coletiva detenha a responsabilidade editorial pela publicação do conteúdo.
(134)
Πέραν των τεχνικών λύσεων που υλοποιούνται από τους παρόχους του συστήματος ΤΝ, οι φορείς εφαρμογής οι οποίοι χρησιμοποιούν σύστημα ΤΝ για την παραγωγή ή τον χειρισμό περιεχομένου εικόνας, ήχου ή βίντεο που έχει αισθητές ομοιότητες με υπαρκτά πρόσωπα, αντικείμενα, τόπους, οντότητες ή γεγονότα και θα μπορούσε να δώσει σε κάποιο πρόσωπο την απατηλή εντύπωση ότι είναι γνήσιο ή αληθινό (προϊόντα βαθυπαραποίησης — «deep fakes») θα πρέπει επίσης σαφώς και διακριτά να γνωστοποιούν ότι το περιεχόμενο έχει δημιουργηθεί ή έχει υποστεί χειρισμό τεχνητά, μέσω της κατάλληλης επισήμανσης των στοιχείων εξόδου του συστήματος ΤΝ και γνωστοποίησης της τεχνητής προέλευσής του. Η συμμόρφωση με αυτήν την υποχρέωση διαφάνειας δεν θα πρέπει να ερμηνεύεται ως ένδειξη ότι η χρήση του συστήματος ΤΝ ή των στοιχείων εξόδου του παρακωλύει το δικαίωμα στην ελευθερία της έκφρασης και το δικαίωμα στην ελευθερία της τέχνης και της επιστήμης που κατοχυρώνονται στον Χάρτη, ιδίως όταν το περιεχόμενο αποτελεί μέρος προφανώς δημιουργικού, σατιρικού, καλλιτεχνικού, μυθοπλαστικού ή ανάλογου έργου ή προγράμματος, με την επιφύλαξη των κατάλληλων εγγυήσεων για τα δικαιώματα και τις ελευθερίες τρίτων. Στις περιπτώσεις αυτές, η υποχρέωση διαφάνειας για τα προϊόντα βαθυπαραποίησης η οποία προβλέπεται στον παρόντα κανονισμό περιορίζεται στη γνωστοποίηση της ύπαρξης τέτοιου περιεχομένου που έχει παραχθεί ή υποστεί χειρισμό, με κατάλληλο τρόπο που δεν εμποδίζει την προβολή ή την απόλαυση του έργου, συμπεριλαμβανομένης της κανονικής εκμετάλλευσης και χρήσης του, διατηρώντας παράλληλα τη χρησιμότητα και την ποιότητα του έργου. Επιπλέον, είναι επίσης σκόπιμο να προβλεφθεί παρόμοια υποχρέωση γνωστοποίησης σε σχέση με κείμενο που έχει παραχθεί ή υποστεί χειρισμό από ΤΝ, εφόσον δημοσιεύεται με σκοπό την ενημέρωση του κοινού για θέματα δημόσιου συμφέροντος, εκτός εάν το περιεχόμενο που έχει παραχθεί από ΤΝ έχει υποβληθεί σε διαδικασία ανθρώπινης επανεξέτασης ή ανθρώπινου συντακτικού ελέγχου και ένα φυσικό ή νομικό πρόσωπο φέρει τη συντακτική ευθύνη για τη δημοσίευση του περιεχομένου.
(135)
Sem prejuízo da natureza obrigatória e da plena aplicabilidade das obrigações de transparência, a Comissão pode também incentivar e facilitar a elaboração de códigos de práticas a nível da União, a fim de facilitar a aplicação efetiva das obrigações em matéria de deteção e identificação de conteúdos artificialmente gerados ou manipulados, incluindo o apoio a disposições práticas para tornar acessíveis, se for caso disso, os mecanismos de deteção e facilitar a cooperação com outros intervenientes ao longo da cadeia de valor, a divulgação de conteúdos ou o controlo da sua autenticidade e proveniência, com vista a permitir que o público distinga eficazmente os conteúdos gerados por IA.
(135)
Με την επιφύλαξη του υποχρεωτικού χαρακτήρα και της πλήρους εφαρμογής των υποχρεώσεων διαφάνειας, η Επιτροπή μπορεί επίσης να ενθαρρύνει και να διευκολύνει την κατάρτιση κωδίκων πρακτικής σε επίπεδο Ένωσης για τη διευκόλυνση της αποτελεσματικής εφαρμογής των υποχρεώσεων σχετικά με την ανίχνευση και την επισήμανση περιεχομένου που έχει παραχθεί ή υποστεί χειρισμό τεχνητά, μεταξύ άλλων για τη στήριξη πρακτικών ρυθμίσεων ώστε να καταστούν, κατά περίπτωση, προσβάσιμοι οι μηχανισμοί ανίχνευσης και να διευκολυνθεί η συνεργασία με άλλους παράγοντες κατά μήκος της αξιακής αλυσίδας, οι οποίοι διαδίδουν περιεχόμενο ή ελέγχουν τη γνησιότητα και την προέλευσή του, προκειμένου να δίνεται στο κοινό η δυνατότητα να διακρίνει αποτελεσματικά το περιεχόμενο που παράγεται από ΤΝ.
(136)
A fim de facilitar a aplicação efetiva do Regulamento (UE) 2022/2065, as obrigações impostas por força do presente regulamento aos prestadores e responsáveis pela implantação de determinados sistemas de IA são particularmente pertinentes para permitir detetar e divulgar se os resultados desses sistemas são artificialmente gerados ou manipulados. Tal aplica-se, em especial, às obrigações dos prestadores de plataformas em linha de muito grande dimensão ou de motores de pesquisa em linha de muito grande dimensão que consistem em identificar e atenuar os riscos sistémicos que possam resultar da divulgação de conteúdos artificialmente gerados ou manipulados, em especial o risco de efeitos negativos reais ou previsíveis nos processos democráticos, no debate público e nos processos eleitorais, nomeadamente através da desinformação. O requisito de identificar conteúdos gerados por sistemas de IA nos termos do presente regulamento não prejudica a obrigação prevista no artigo 16.o, n.o 6, do Regulamento (UE) 2022/2065 de os prestadores de serviços de alojamento virtual procederem ao tratamento de notificações sobre conteúdos ilegais recebidas nos termos do artigo 16.o, n.o 1 desse regulamento, e não deverá influenciar a avaliação e a decisão sobre a ilegalidade dos conteúdos específicos. Essa avaliação deverá ser efetuada unicamente à luz das regras que regem a legalidade do conteúdo.
(136)
Οι υποχρεώσεις που επιβάλλονται στους παρόχους και τους φορείς εφαρμογής ορισμένων συστημάτων ΤΝ στον παρόντα κανονισμό, ώστε να καθίσταται δυνατή η ανίχνευση και η αποκάλυψη ότι τα στοιχεία εξόδου των εν λόγω συστημάτων έχουν παραχθεί ή υποστεί χειρισμό τεχνητά, είναι ιδιαίτερα σημαντικές για τη διευκόλυνση της αποτελεσματικής εφαρμογής του κανονισμού (ΕΕ) 2022/2065. Αυτό ισχύει ιδίως όσον αφορά τις υποχρεώσεις των παρόχων πολύ μεγάλων επιγραμμικών πλατφορμών ή πολύ μεγάλων επιγραμμικών μηχανών αναζήτησης να εντοπίζουν και να μετριάζουν τους συστημικούς κινδύνους που ενδέχεται να προκύψουν από τη διάδοση περιεχομένου που έχει παραχθεί ή υποστεί χειρισμό τεχνητά, ειδικότερα δε τον κίνδυνο πραγματικών ή προβλέψιμων αρνητικών επιπτώσεων στις δημοκρατικές διαδικασίες, τον πολιτικό διάλογο και τις εκλογικές διαδικασίες, μεταξύ άλλων μέσω παραπληροφόρησης. Η απαίτηση επισήμανσης του περιεχομένου που παράγεται από συστήματα ΤΝ δυνάμει του παρόντος κανονισμού δεν θίγει την υποχρέωση που προβλέπεται στο άρθρο 16 παράγραφος 6 του κανονισμού (ΕΕ) 2022/2065 για τους παρόχους υπηρεσιών φιλοξενίας να επεξεργάζονται ειδοποιήσεις σχετικά με παράνομο περιεχόμενο τις οποίες λαμβάνουν δυνάμει του άρθρου 16 παράγραφος 1 του εν λόγω κανονισμού και δεν θα πρέπει να επηρεάζει την αξιολόγηση και την απόφαση σχετικά με τον παράνομο χαρακτήρα του εκάστοτε περιεχομένου. Η αξιολόγηση αυτή θα πρέπει να πραγματοποιείται μόνο σε σχέση με τους κανόνες που διέπουν τη νομιμότητα του περιεχομένου.
(137)
O cumprimento das obrigações de transparência aplicáveis aos sistemas de IA abrangidas pelo presente regulamento não deverá ser interpretado como indicando que a utilização do sistema de IA ou dos seus resultados é lícita ao abrigo do presente regulamento ou de outra legislação da União e dos Estados-Membros e não deverá prejudicar outras obrigações de transparência dos responsáveis pela implantação de sistemas de IA estabelecidas no direito da União ou do direito nacional.
(137)
Η συμμόρφωση με τις υποχρεώσεις διαφάνειας για τα συστήματα ΤΝ που καλύπτονται από τον παρόντα κανονισμό δεν θα πρέπει να ερμηνεύεται ως ένδειξη ότι η χρήση του συστήματος ΤΝ ή των στοιχείων εξόδου του είναι νόμιμη βάσει του παρόντος κανονισμού ή άλλων κανόνων του δικαίου της Ένωσης και των κρατών μελών και δεν θα πρέπει να θίγει άλλες υποχρεώσεις διαφάνειας των φορέων εφαρμογής συστημάτων ΤΝ οι οποίες ορίζονται στο ενωσιακό ή το εθνικό δίκαιο.
(138)
A IA é uma família de tecnologias em rápida evolução que exige supervisão regulamentar e um espaço seguro e controlado para a experimentação, garantindo ao mesmo tempo uma inovação responsável e a integração de salvaguardas e medidas de atenuação dos riscos adequadas. Para assegurar um regime jurídico que promova a inovação, preparado para o futuro e resistente a perturbações, os Estados-Membros deverão assegurar que as respetivas autoridades nacionais competentes criem pelo menos um ambiente de testagem da regulamentação da IA a nível nacional que facilite o desenvolvimento e a testagem de sistemas de IA inovadores sob uma supervisão regulamentar rigorosa, antes de estes sistemas serem colocados no mercado ou colocados em serviço. Os Estados-Membros poderão também cumprir esta obrigação participando em ambientes de testagem da regulamentação já existentes ou criando conjuntamente um ambiente de testagem com uma ou mais autoridades competentes dos Estados-Membros, na medida em que essa participação proporcione um nível equivalente de cobertura nacional para os Estados-Membros participantes. Os ambientes de testagem da regulamentação da IA poderão ser criados sob forma física, digital ou híbrida e podem acolher produtos físicos e digitais. As autoridades responsáveis pela criação deverão também assegurar que os ambientes de testagem da regulamentação da IA dispõem dos recursos adequados para o seu funcionamento, nomeadamente recursos financeiros e humanos.
(138)
Η ΤΝ είναι ένα ταχέως αναπτυσσόμενο σύνολο τεχνολογιών που απαιτεί ρυθμιστική εποπτεία και ασφαλή και ελεγχόμενο χώρο για πειραματισμό, με παράλληλη διασφάλιση της υπεύθυνης καινοτομίας και της ενσωμάτωσης κατάλληλων διασφαλίσεων και μέτρων μετριασμού του κινδύνου. Προκειμένου να διασφαλιστεί ένα νομικό πλαίσιο που προωθεί την καινοτομία και είναι ανθεκτικό στις μελλοντικές εξελίξεις και στις διαταραχές, τα κράτη μέλη θα πρέπει να μεριμνήσουν, ώστε οι οικείες εθνικές αρμόδιες αρχές να ιδρύσουν τουλάχιστον ένα ρυθμιστικό δοκιμαστήριο ΤΝ σε εθνικό επίπεδο, προκειμένου να διευκολύνουν την ανάπτυξη και τη δοκιμή καινοτόμων συστημάτων ΤΝ υπό αυστηρή ρυθμιστική εποπτεία προτού τα εν λόγω συστήματα διατεθούν στην αγορά ή τεθούν με άλλο τρόπο σε λειτουργία. Τα κράτη μέλη θα μπορούσαν επίσης να εκπληρώσουν την υποχρέωση αυτή συμμετέχοντας σε ήδη υφιστάμενα ρυθμιστικά δοκιμαστήρια ή ιδρύοντας ένα δοκιμαστήριο από κοινού με τις αρμόδιες αρχές ενός ή περισσοτέρων κρατών μελών, εφόσον η συμμετοχή αυτή παρέχει ισοδύναμο επίπεδο εθνικής κάλυψης για τα συμμετέχοντα κράτη μέλη. Τα ρυθμιστικά δοκιμαστήρια ΤΝ θα μπορούσαν να ιδρύονται σε υλική, ψηφιακή ή υβριδική μορφή και να περιλαμβάνουν τόσο υλικά όσο και ψηφιακά προϊόντα. Οι αρχές ίδρυσης θα πρέπει επίσης να διασφαλίζουν ότι τα ρυθμιστικά δοκιμαστήρια ΤΝ διαθέτουν επαρκείς πόρους για τη λειτουργία τους, συμπεριλαμβανομένων οικονομικών και ανθρώπινων πόρων.
(139)
Os ambientes de testagem da regulamentação da IA deverão ter os seguintes objetivos: fomentar a inovação no domínio da IA, mediante a criação de um ambiente controlado de experimentação e testagem na fase de desenvolvimento e pré-comercialização, com vista a assegurar que os sistemas de IA inovadores são conformes com o presente regulamento e com outras disposições pertinentes do direito da União e do direito nacional. Além disso, os ambientes de testagem da regulamentação da IA deverão visar melhorar a segurança jurídica para os inovadores, bem como a supervisão e compreensão, por parte das autoridades competentes, das oportunidades, dos riscos emergentes e dos impactos da utilização da IA, facilitar a aprendizagem da regulamentação para as autoridades e as empresas, nomeadamente com vista a futuras adaptações do regime jurídico, apoiar a cooperação e a partilha de boas práticas com as autoridades envolvidas no ambiente de testagem da regulamentação da IA, e acelerar o acesso aos mercados, nomeadamente eliminando os entraves para as PME, incluindo as empresas em fase de arranque. Os ambientes de testagem da regulamentação da IA deverão estar amplamente disponíveis em toda a União, devendo ser prestada especial atenção à sua acessibilidade para as PME, incluindo as empresas em fase de arranque. A participação nos ambientes de testagem da regulamentação da IA deverá centrar-se em problemas que criam incerteza jurídica para os prestadores e potenciais prestadores ao inovarem, fazerem experiências com a IA na União e contribuírem para uma aprendizagem regulamentar baseada em dados concretos. A supervisão dos sistemas de IA nos ambientes de testagem da regulamentação da IA deverá, por conseguinte, abranger o seu desenvolvimento, treino, testagem e validação antes de os sistemas serem colocados no mercado ou colocados em serviço, bem como a noção e a ocorrência de modificações substanciais que possam exigir um novo procedimento de avaliação da conformidade. A identificação de quaisquer riscos significativos durante o desenvolvimento e a testagem desses sistemas de IA deverá resultar na atenuação adequada dos riscos e, na sua falta, na suspensão do processo de desenvolvimento e testagem. Se for caso disso, as autoridades nacionais competentes que criam ambientes de testagem da regulamentação da IA deverão cooperar com outras autoridades pertinentes, incluindo as que supervisionam a proteção dos direitos fundamentais, e poderão permitir a participação de outros intervenientes no ecossistema da IA, tais como organizações de normalização, organismos notificados, instalações de ensaio e experimentação, laboratórios de investigação e experimentação, polos europeus de inovação digital e organizações pertinentes das partes interessadas e da sociedade civil, quer nacionais quer europeus. Para garantir uma aplicação uniforme em toda a União e assegurar economias de escala, é apropriado criar regras comuns para a implantação dos ambientes de testagem da regulamentação da IA e um regime para a cooperação entre as autoridades competentes envolvidas na supervisão desses ambientes. Os ambientes de testagem da regulamentação da IA criados ao abrigo do presente regulamento não deverão prejudicar outras disposições pertinentes do direito que preveja a criação de outros ambientes de testagem destinados a assegurar o cumprimento do direito que não o presente regulamento. Se for caso disso, as autoridades competentes responsáveis por esses outros ambientes de testagem da regulamentação deverão ter em conta os benefícios da utilização desses ambientes de testagem também com o objetivo de assegurar a conformidade dos sistemas de IA com o presente regulamento. Mediante acordo entre as autoridades nacionais competentes e os participantes no ambiente de testagem da regulamentação da IA, a testagem em condições reais também pode ser efetuada e supervisionada no âmbito do ambiente de testagem da regulamentação da IA.
(139)
Στόχοι των ρυθμιστικών δοκιμαστηρίων ΤΝ θα πρέπει να είναι η προώθηση της καινοτομίας στον τομέα της ΤΝ με τη δημιουργία περιβάλλοντος ελεγχόμενου πειραματισμού και δοκιμών κατά τη φάση ανάπτυξης και πριν από την εμπορική προώθηση, με σκοπό τη διασφάλιση της συμμόρφωσης των καινοτόμων συστημάτων ΤΝ με τον παρόντα κανονισμό και άλλους συναφείς κανόνες ενωσιακού και εθνικού δικαίου. Επιπλέον, τα ρυθμιστικά δοκιμαστήρια ΤΝ θα πρέπει να έχουν στόχο την ενίσχυση της ασφάλειας δικαίου για τους φορείς καινοτομίας και της άσκησης εποπτείας από τις αρμόδιες αρχές και της εκ μέρους τους κατανόησης των ευκαιριών, των αναδυόμενων κινδύνων και των επιπτώσεων της χρήσης της ΤΝ, τη διευκόλυνση της ρυθμιστικής μάθησης για τις αρχές και τις επιχειρήσεις, μεταξύ άλλων ενόψει μελλοντικών προσαρμογών του νομικού πλαισίου, την υποστήριξη της συνεργασίας και της ανταλλαγής βέλτιστων πρακτικών με τις αρχές που συμμετέχουν στο ρυθμιστικό δοκιμαστήριο ΤΝ και την επιτάχυνση της πρόσβασης στις αγορές, μεταξύ άλλων με την άρση των φραγμών για τις ΜΜΕ, συμπεριλαμβανομένων των νεοφυών επιχειρήσεων. Τα ρυθμιστικά δοκιμαστήρια ΤΝ θα πρέπει να είναι ευρέως διαθέσιμα σε ολόκληρη την Ένωση και θα πρέπει να δοθεί ιδιαίτερη προσοχή στην προσβασιμότητά τους για τις ΜΜΕ, συμπεριλαμβανομένων των νεοφυών επιχειρήσεων. Η συμμετοχή στο ρυθμιστικό δοκιμαστήριο ΤΝ θα πρέπει να επικεντρώνεται σε ζητήματα που εγείρουν ανασφάλεια δικαίου για τους παρόχους και τους μελλοντικούς παρόχους όσον αφορά την καινοτομία και τον πειραματισμό με την ΤΝ στην Ένωση και τη συμβολή στην τεκμηριωμένη ρυθμιστική μάθηση. Ως εκ τούτου, η εποπτεία των συστημάτων ΤΝ στο ρυθμιστικό δοκιμαστήριο ΤΝ θα πρέπει να καλύπτει την ανάπτυξη, την εκπαίδευση, τη δοκιμή και την επικύρωση των συστημάτων πριν από τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία, καθώς και την έννοια και την επέλευση ουσιαστικής τροποποίησης που ενδέχεται να απαιτεί νέα διαδικασία αξιολόγησης της συμμόρφωσης. Οποιοιδήποτε σημαντικοί κίνδυνοι εντοπίζονται κατά την ανάπτυξη και τη δοκιμή τέτοιων συστημάτων TN θα πρέπει να έχουν ως αποτέλεσμα τον κατάλληλο μετριασμό και, ελλείψει αυτού, την αναστολή της διαδικασίας ανάπτυξης και δοκιμής. Κατά περίπτωση, οι εθνικές αρμόδιες αρχές που ιδρύουν ρυθμιστικά δοκιμαστήρια ΤΝ θα πρέπει να συνεργάζονται με άλλες σχετικές αρχές, συμπεριλαμβανομένων των αρχών εποπτείας της προστασίας των θεμελιωδών δικαιωμάτων, και θα μπορούσαν να επιτρέπουν τη συμμετοχή άλλων παραγόντων εντός του οικοσυστήματος ΤΝ, όπως εθνικοί ή ευρωπαϊκοί οργανισμοί τυποποίησης, κοινοποιημένοι οργανισμοί, εγκαταστάσεις δοκιμών και πειραματισμού, εργαστήρια έρευνας και πειραματισμού, ευρωπαϊκοί κόμβοι ψηφιακής καινοτομίας και σχετικές οργανώσεις συμφεροντούχων και της κοινωνίας των πολιτών. Για να διασφαλιστούν η ομοιόμορφη εφαρμογή σε ολόκληρη την Ένωση και οικονομίες κλίμακας, ενδείκνυται να θεσπιστούν κοινοί κανόνες για την εφαρμογή των ρυθμιστικών δοκιμαστηρίων ΤΝ, καθώς και πλαίσιο συνεργασίας μεταξύ των αρμόδιων αρχών που συμμετέχουν στην εποπτεία των δοκιμαστηρίων. Τα ρυθμιστικά δοκιμαστήρια ΤΝ που ιδρύονται δυνάμει του παρόντος κανονισμού δεν θα πρέπει να θίγουν άλλες διατάξεις του δικαίου οι οποίοι επιτρέπουν την ίδρυση άλλων δοκιμαστηρίων που αποσκοπούν στη διασφάλιση της συμμόρφωσης με κανόνες δικαίου πλην του παρόντος κανονισμού. Κατά περίπτωση, οι σχετικές αρμόδιες αρχές που είναι υπεύθυνες για τα εν λόγω άλλα ρυθμιστικά δοκιμαστήρια θα πρέπει να εξετάζουν τα οφέλη της χρήσης των εν λόγω δοκιμαστηρίων, μεταξύ άλλων και για τον σκοπό της διασφάλισης της συμμόρφωσης των συστημάτων ΤΝ με τον παρόντα κανονισμό. Κατόπιν συμφωνίας μεταξύ των εθνικών αρμόδιων αρχών και των συμμετεχόντων στο ρυθμιστικό δοκιμαστήριο ΤΝ, οι δοκιμές σε πραγματικές συνθήκες μπορούν επίσης να διενεργούνται και να εποπτεύονται στο πλαίσιο του ρυθμιστικού δοκιμαστηρίου ΤΝ.
(140)
O presente regulamento deverá estabelecer o fundamento jurídico para a utilização, pelos prestadores e potenciais prestadores no ambiente de testagem da regulamentação da IA, de dados pessoais recolhidos para outras finalidades com vista ao desenvolvimento de determinados sistemas de IA por motivos de interesse público no âmbito do ambiente de testagem da regulamentação da IA, apenas em condições específicas, em conformidade com o artigo 6.o, n.o 4, e artigo 9.o, n.o 2, alínea g), do Regulamento (UE) 2016/679 e com os artigos 5.o, 6.o e 10.o do Regulamento (UE) 2018/1725, e sem prejuízo do artigo 4.o, n.o 2, e do artigo 10.o da Diretiva (UE) 2016/680. Todas as outras obrigações dos responsáveis pelo tratamento de dados e todos os outros direitos dos titulares dos dados ao abrigo dos Regulamentos (UE) 2016/679 e (UE) 2018/1725 e da Diretiva (UE) 2016/680 continuam a ser aplicáveis. Em especial, o presente regulamento não deverá constituir uma base jurídica na aceção do artigo 22.o, n.o 2, alínea b), do Regulamento (UE) 2016/679 e do artigo 24.o, n.o 2, alínea b), do Regulamento (UE) 2018/1725. Os prestadores e potenciais prestadores no ambiente de testagem da regulamentação da IA deverão assegurar salvaguardas adequadas e cooperar com as autoridades competentes, nomeadamente seguindo as suas orientações e atuando de forma célere e de boa-fé para atenuar adequadamente eventuais riscos significativos identificados para a segurança, a saúde e os direitos fundamentais que possam revelar-se durante o desenvolvimento, a testagem e a experimentação nesse ambiente de testagem.
(140)
Ο παρών κανονισμός θα πρέπει να παρέχει τη νομική βάση ώστε οι πάροχοι και οι μελλοντικοί πάροχοι στο ρυθμιστικό δοκιμαστήριο ΤΝ να χρησιμοποιούν δεδομένα προσωπικού χαρακτήρα τα οποία έχουν συλλεχθεί για άλλους σκοπούς, προκειμένου να αναπτύσσουν ορισμένα συστήματα ΤΝ προς το δημόσιο συμφέρον εντός του ρυθμιστικού δοκιμαστηρίου ΤΝ, μόνο υπό καθορισμένες προϋποθέσεις, σύμφωνα με το άρθρο 6 παράγραφος 4 και το άρθρο 9 παράγραφος 2 στοιχείο ζ) του κανονισμού (ΕΕ) 2016/679 και τα άρθρα 5, 6 και 10 του κανονισμού (ΕΕ) 2018/1725 και με την επιφύλαξη του άρθρου 4 παράγραφος 2 και του άρθρου 10 της οδηγίας (ΕΕ) 2016/680. Όλες οι άλλες υποχρεώσεις των υπευθύνων επεξεργασίας δεδομένων και τα δικαιώματα των υποκειμένων των δεδομένων δυνάμει των κανονισμών (ΕΕ) 2016/679 και (ΕΕ) 2018/1725 και της οδηγίας (ΕΕ) 2016/680 εξακολουθούν να ισχύουν. Ειδικότερα, ο παρών κανονισμός δεν θα πρέπει να παρέχει νομική βάση κατά την έννοια του άρθρου 22 παράγραφος 2 στοιχείο β) του κανονισμού (ΕΕ) 2016/679 και του άρθρου 24 παράγραφος 2 στοιχείο β) του κανονισμού (ΕΕ) 2018/1725. Οι πάροχοι και οι μελλοντικοί πάροχοι στο ρυθμιστικό δοκιμαστήριο ΤΝ θα πρέπει να διασφαλίζουν ότι υπάρχουν κατάλληλες εγγυήσεις και να συνεργάζονται με τις αρμόδιες αρχές, μεταξύ άλλων ακολουθώντας την καθοδήγησή τους και ενεργώντας ταχέως και καλή τη πίστει για τον κατάλληλο μετριασμό οποιωνδήποτε εντοπιζόμενων σημαντικών κινδύνων για την ασφάλεια, την υγεία και τα θεμελιώδη δικαιώματα που ενδέχεται να προκύψουν κατά την ανάπτυξη, τις δοκιμές και τον πειραματισμό στο πλαίσιο του εν λόγω δοκιμαστηρίου.
(141)
A fim de acelerar o processo de desenvolvimento e colocação no mercado dos sistemas de IA de risco elevado enumerados num anexo do presente regulamento, é importante que os prestadores ou potenciais prestadores desses sistemas também possam beneficiar de um regime específico para testar esses sistemas em condições reais, sem participarem num ambiente de testagem da regulamentação da IA. Contudo, nesses casos, tendo em conta as possíveis consequências dessas testagens para as pessoas singulares, deverá ser assegurado que o presente regulamento introduz garantias e condições adequadas e suficientes para os prestadores ou potenciais prestadores. Essas garantias deverão incluir, nomeadamente, o pedido de consentimento informado às pessoas singulares para participarem na testagem em condições reais, salvo no que respeita à aplicação da lei em que a tentativa de obtenção do consentimento informado impediria o sistema de IA de ser testado. O consentimento das pessoas singulares para participar nessa testagem ao abrigo do presente regulamento é distinto e sem prejuízo do consentimento dos titulares dos dados para o tratamento dos seus dados pessoais ao abrigo da legislação aplicável em matéria de proteção de dados. É igualmente importante minimizar os riscos e permitir a supervisão pelas autoridades competentes e, por conseguinte, exigir que os potenciais prestadores tenham um plano de testagem em condições reais apresentado à autoridade de fiscalização do mercado competente, registar a testagem em secções específicas da base de dados da UE, sob reserva de algumas exceções limitadas, estabelecer limitações ao período durante o qual as testagens podem ser realizadas e exigir garantias adicionais para pessoas pertencentes a certos grupos vulneráveis, bem como um acordo escrito que defina as funções e responsabilidades dos potenciais prestadores e responsáveis pela implantação e uma supervisão eficaz por parte do pessoal competente envolvido na testagem em condições reais. Além disso, é conveniente prever salvaguardas adicionais para assegurar que as previsões, recomendações ou decisões do sistema de IA possam ser efetivamente revertidas e ignoradas e que os dados pessoais sejam protegidos e apagados quando os titulares tiverem retirado o seu consentimento para participar na testagem, sem prejuízo dos seus direitos enquanto titulares de dados ao abrigo da legislação da União em matéria de proteção de dados. No que diz respeito à transferência de dados, é igualmente conveniente prever que os dados recolhidos e tratados para efeitos de testagem em condições reais só sejam transferidos para países terceiros quando forem estabelecidas garantias adequadas e aplicáveis ao abrigo do direito da União, nomeadamente em conformidade com as bases para a transferência de dados pessoais nos termos do direito da União em matéria de proteção de dados, ao passo que, para os dados não pessoais, sejam estabelecidas garantias adequadas em conformidade com o direito da União, como os Regulamentos (UE) 2022/868 (42) e (UE) 2023/2854 (43) do Parlamento Europeu e do Conselho.
(141)
Προκειμένου να επιταχυνθούν η διαδικασία ανάπτυξης και η διάθεση στην αγορά των συστημάτων ΤΝ υψηλού κινδύνου που απαριθμούνται σε παράρτημα του παρόντος κανονισμού, είναι σημαντικό οι πάροχοι ή οι μελλοντικοί πάροχοι των εν λόγω συστημάτων να μπορούν επίσης να επωφελούνται από ειδικό καθεστώς για τη δοκιμή των εν λόγω συστημάτων σε πραγματικές συνθήκες, χωρίς να συμμετέχουν σε ρυθμιστικό δοκιμαστήριο ΤΝ. Ωστόσο, σε αυτές τις περιπτώσεις, λαμβανομένων υπόψη των πιθανών συνεπειών των εν λόγω δοκιμών στα άτομα, θα πρέπει να διασφαλίζεται ότι ο παρών κανονισμός θεσπίζει κατάλληλες και επαρκείς εγγυήσεις και προϋποθέσεις για τους παρόχους ή τους μελλοντικούς παρόχους. Στις εγγυήσεις αυτές θα πρέπει να περιλαμβάνεται, μεταξύ άλλων, η αίτηση συναίνεσης έπειτα από ενημέρωση φυσικών προσώπων για τη συμμετοχή τους σε δοκιμή σε πραγματικές συνθήκες, εξαιρουμένης της επιβολής του νόμου όπου η αναζήτηση συναίνεσης έπειτα από ενημέρωση θα εμπόδιζε τη δοκιμή του συστήματος ΤΝ. Η συναίνεση των υποκειμένων για συμμετοχή στις εν λόγω δοκιμές δυνάμει του παρόντος κανονισμού διαφέρει από και δεν θίγει τη συναίνεση των υποκειμένων των δεδομένων για την επεξεργασία των δεδομένων προσωπικού χαρακτήρα που τα αφορούν βάσει του σχετικού δικαίου για την προστασία των δεδομένων. Είναι επίσης σημαντικό να ελαχιστοποιηθούν οι κίνδυνοι και να καταστεί δυνατή η εποπτεία από τις αρμόδιες αρχές και, ως εκ τούτου, να απαιτείται από τους μελλοντικούς παρόχους να υποβάλλουν στην αρμόδια αρχή εποπτείας της αγοράς σχέδιο δοκιμής σε πραγματικές συνθήκες, να καταχωρίζονται οι δοκιμές σε ειδικά τμήματα της βάσης δεδομένων της ΕΕ με ορισμένες περιορισμένες εξαιρέσεις, να τίθενται περιορισμοί στην περίοδο για την οποία μπορούν να διενεργούνται οι δοκιμές και να απαιτούνται πρόσθετες διασφαλίσεις για τα πρόσωπα που ανήκουν σε ορισμένες ευάλωτες ομάδες, καθώς και γραπτή συμφωνία που να καθορίζει τους ρόλους και τις ευθύνες των μελλοντικών παρόχων και φορέων εφαρμογής και αποτελεσματική εποπτεία από το αρμόδιο προσωπικό που συμμετέχει στις δοκιμές σε πραγματικές συνθήκες. Επιπλέον, ενδείκνυται να προβλεφθούν πρόσθετες εγγυήσεις, για να διασφαλιστεί ότι οι προβλέψεις, οι συστάσεις ή οι αποφάσεις του συστήματος ΤΝ μπορούν να αντιστραφούν και να αγνοηθούν αποτελεσματικά και ότι τα δεδομένα προσωπικού χαρακτήρα προστατεύονται και διαγράφονται όταν τα υποκείμενα έχουν ανακαλέσει τη συγκατάθεσή τους να συμμετάσχουν στις δοκιμές, με την επιφύλαξη των δικαιωμάτων τους ως υποκειμένων των δεδομένων δυνάμει του ενωσιακού δικαίου για την προστασία των δεδομένων. Όσον αφορά τη διαβίβαση δεδομένων, είναι επίσης σκόπιμο να προβλεφθεί ότι τα δεδομένα που συλλέγονται και υποβάλλονται σε επεξεργασία για τους σκοπούς των δοκιμών σε πραγματικές συνθήκες θα πρέπει να διαβιβάζονται σε τρίτες χώρες μόνο όταν εφαρμόζονται κατάλληλες και ισχύουσες εγγυήσεις βάσει του ενωσιακού δικαίου, ειδικότερα σύμφωνα με τις νομικές βάσεις για τη διαβίβαση δεδομένων προσωπικού χαρακτήρα δυνάμει του ενωσιακού δικαίου για την προστασία των δεδομένων, ενώ για τα δεδομένα μη προσωπικού χαρακτήρα θεσπίζονται κατάλληλες εγγυήσεις σύμφωνα με το ενωσιακό δίκαιο, όπως οι κανονισμοί (ΕΕ) 2022/868 (42) και (ΕΕ) 2023/2854 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (43).
(142)
A fim de garantir que a IA conduza a resultados benéficos do ponto de vista social e ambiental, os Estados-Membros são incentivados a apoiar e promover a investigação e o desenvolvimento de soluções de IA em prol de resultados social e ambientalmente benéficos, tais como soluções baseadas na IA para aumentar a acessibilidade para as pessoas com deficiência, combater as desigualdades socioeconómicas ou cumprir as metas ambientais, através da afetação de recursos suficientes, incluindo financiamento público e da União e, se for caso disso e desde que os critérios de elegibilidade e seleção sejam cumpridos, tendo em conta, em especial, projetos que prossigam esses objetivos. Esses projetos deverão ser baseados no princípio da cooperação interdisciplinar entre criadores de IA, especialistas em matéria de desigualdade, não discriminação, acessibilidade e direitos do consumidor, ambientais e digitais, bem como do meio académico.
(142)
Για να διασφαλιστεί ότι η ΤΝ οδηγεί σε κοινωνικά και περιβαλλοντικά επωφελή αποτελέσματα, τα κράτη μέλη παροτρύνονται να στηρίζουν και να προωθούν την έρευνα και την ανάπτυξη λύσεων ΤΝ για τη στήριξη κοινωνικά και περιβαλλοντικά επωφελών αποτελεσμάτων, όπως λύσεις βασισμένες στην ΤΝ για να αυξηθεί η προσβασιμότητα των ατόμων με αναπηρία, να αντιμετωπιστούν οι κοινωνικοοικονομικές ανισότητες ή να επιτευχθούν περιβαλλοντικοί στόχοι, με τη διάθεση επαρκών πόρων, συμπεριλαμβανομένης της δημόσιας και της ενωσιακής χρηματοδότησης, και, όταν είναι σκόπιμο και εφόσον πληρούνται τα κριτήρια επιλεξιμότητας και επιλογής, εξετάζοντας ιδίως έργα που επιδιώκουν τέτοιους στόχους. Τέτοια έργα θα πρέπει να βασίζονται στην αρχή της διεπιστημονικής συνεργασίας μεταξύ φορέων ανάπτυξης ΤΝ, εμπειρογνωμόνων για την ανισότητα και τη μη διακριτική μεταχείριση, την προσβασιμότητα και τα καταναλωτικά, περιβαλλοντικά και ψηφιακά δικαιώματα, καθώς και επιστημόνων.
(143)
A fim de promover e proteger a inovação, é importante ter em especial atenção os interesses das PME, incluindo as empresas em fase de arranque, que sejam prestadores e responsáveis pela implantação de sistemas de IA. Para esse efeito, os Estados-Membros deverão desenvolver iniciativas dirigidas a esses operadores, incluindo ações de sensibilização e comunicação de informações. Os Estados-Membros deverão proporcionar às PME, incluindo às empresas em fase de arranque, com sede social ou sucursal na União acesso prioritário aos ambientes de testagem da regulamentação da IA, desde que aquelas cumpram as condições de elegibilidade e os critérios de seleção e sem impedir que outros prestadores e potenciais prestadores tenham acesso aos ambientes de testagem, contanto que estejam preenchidas as mesmas condições e critérios. Os Estados-Membros deverão utilizar os canais existentes e, se for caso disso, criar novos canais específicos para comunicar com as PME, incluindo as empresas em fase de arranque, os responsáveis pela implantação, outros inovadores e, conforme adequado, as autoridades públicas locais, a fim de apoiar as PME ao longo da sua trajetória de desenvolvimento, facultando orientações e respondendo a perguntas sobre a aplicação do presente regulamento. Sempre que adequado, esses canais deverão trabalhar em conjunto para criar sinergias e assegurar a homogeneidade da sua orientação às PME, inclusive às empresas em fase de arranque, e aos responsáveis pela implantação. Paralelamente, os Estados-Membros deverão facilitar a participação das PME e de outras partes interessadas pertinentes nos processos de desenvolvimento de normalização. Além disso, os interesses e as necessidades específicos dos prestadores que são PME, incluindo empresas em fase de arranque, deverão ser tidos em conta quando os organismos notificados fixam as taxas a pagar pela avaliação da conformidade. A Comissão deverá avaliar periodicamente os custos de certificação e de conformidade para as PME, incluindo as empresas em fase de arranque, através de consultas transparentes, e deverá trabalhar com os Estados-Membros para baixar esses custos. Por exemplo, os custos de tradução associados à documentação obrigatória e à comunicação com as autoridades podem constituir um encargo substancial para os prestadores e outros operadores, nomeadamente para os prestadores de menor dimensão. Os Estados-Membros deverão eventualmente assegurar que uma das línguas por si determinadas e aceites para a documentação pertinente dos prestadores e para a comunicação com os operadores seja uma língua amplamente compreendida pelo maior número possível de responsáveis pela implantação transfronteiriça. A fim de dar resposta às necessidades específicas das PME, incluindo as empresas em fase de arranque, a Comissão deverá disponibilizar modelos normalizados para os domínios abrangidos pelo presente regulamento, a pedido do Comité para a IA. Além disso, a Comissão deverá complementar os esforços dos Estados-Membros, disponibilizando uma plataforma única de informação com informações de fácil utilização sobre o presente regulamento para todos os prestadores e responsáveis pela implantação, organizando campanhas de comunicação adequadas para sensibilizar para as obrigações decorrentes do presente regulamento e avaliando e promovendo a convergência das melhores práticas em procedimentos de contratação pública relacionados com sistemas de IA. As empresas de média dimensão que eram até recentemente consideradas como de pequena dimensão, na aceção do anexo da Recomendação 2003/361/CE (44) da Comissão, deverão ter acesso a essas medidas de apoio, uma vez que essas novas empresas de média dimensão podem, por vezes, não dispor dos recursos jurídicos e da formação necessários para assegurar a compreensão e o cumprimento adequados do presente regulamento.
(143)
Για την προώθηση και την προστασία της καινοτομίας, είναι σημαντικό να λαμβάνονται ιδιαιτέρως υπόψη τα συμφέροντα των ΜΜΕ, συμπεριλαμβανομένων των νεοφυών επιχειρήσεων, που είναι πάροχοι ή φορείς εφαρμογής συστημάτων ΤΝ. Για τον σκοπό αυτόν, τα κράτη μέλη θα πρέπει να αναπτύξουν πρωτοβουλίες που θα απευθύνονται στους εν λόγω φορείς εκμετάλλευσης, μεταξύ άλλων όσον αφορά την ευαισθητοποίηση και την ενημέρωση. Τα κράτη μέλη θα πρέπει να παρέχουν στις ΜΜΕ, συμπεριλαμβανομένων των νεοφυών επιχειρήσεων, που έχουν καταστατική έδρα ή υποκατάστημα στην Ένωση, κατά προτεραιότητα πρόσβαση στα ρυθμιστικά δοκιμαστήρια ΤΝ, υπό την προϋπόθεση ότι πληρούν τους όρους επιλεξιμότητας και τα κριτήρια επιλογής και χωρίς να αποκλείουν άλλους παρόχους και μελλοντικούς παρόχους από την πρόσβαση στα δοκιμαστήρια, εφόσον πληρούνται οι ίδιες προϋποθέσεις και τα ίδια κριτήρια. Τα κράτη μέλη θα πρέπει να χρησιμοποιούν τους υπάρχοντες διαύλους και, κατά περίπτωση, να θεσπίζουν νέους ειδικούς διαύλους επικοινωνίας με ΜΜΕ, συμπεριλαμβανομένων των νεοφυών επιχειρήσεων, φορείς εφαρμογής, άλλους φορείς καινοτομίας και, κατά περίπτωση, τοπικές δημόσιες αρχές, προκειμένου να στηρίζουν τις ΜΜΕ σε όλη την πορεία ανάπτυξής τους με την παροχή καθοδήγησης και απαντήσεων σε ερωτήματα σχετικά με την εφαρμογή του παρόντος κανονισμού. Κατά περίπτωση, οι δίαυλοι αυτοί θα πρέπει να συνεργάζονται για τη δημιουργία συνεργειών και τη διασφάλιση ομοιογένειας στην καθοδήγηση που παρέχουν στις ΜΜΕ, συμπεριλαμβανομένων των νεοφυών επιχειρήσεων, και τους φορείς εφαρμογής. Επιπλέον, τα κράτη μέλη θα πρέπει να διευκολύνουν τη συμμετοχή των ΜΜΕ και άλλων σχετικών συμφεροντούχων στις διαδικασίες ανάπτυξης της τυποποίησης. Εξάλλου, τα ειδικά συμφέροντα και οι ανάγκες των παρόχων που είναι ΜΜΕ, συμπεριλαμβανομένων των νεοφυών επιχειρήσεων, θα πρέπει να λαμβάνονται υπόψη κατά τον καθορισμό των τελών αξιολόγησης της συμμόρφωσης από τους κοινοποιημένους οργανισμούς. Η Επιτροπή θα πρέπει να αξιολογεί τακτικά το κόστος πιστοποίησης και το κόστος συμμόρφωσης για τις ΜΜΕ, συμπεριλαμβανομένων των νεοφυών επιχειρήσεων, μέσω διαφανών διαβουλεύσεων, και να συνεργάζεται με τα κράτη μέλη με σκοπό τη μείωση του κόστους αυτού. Παραδείγματος χάριν, οι δαπάνες μετάφρασης που σχετίζονται με την υποχρεωτική τεκμηρίωση και την επικοινωνία με τις αρχές ενδέχεται να αποτελούν σημαντικό κόστος για τους παρόχους και άλλους φορείς εκμετάλλευσης, ιδίως τους φορείς μικρής κλίμακας. Τα κράτη μέλη θα πρέπει ενδεχομένως να διασφαλίσουν ότι μία από τις γλώσσες που ορίζουν και αποδέχονται για την τεκμηρίωση των σχετικών παρόχων και για την επικοινωνία με τους φορείς εκμετάλλευσης είναι γλώσσα ευρέως κατανοητή από τον μεγαλύτερο δυνατό αριθμό διασυνοριακών φορέων εφαρμογής. Προκειμένου να λαμβάνονται υπόψη οι ειδικές ανάγκες των ΜΜΕ, συμπεριλαμβανομένων των νεοφυών επιχειρήσεων, η Επιτροπή θα πρέπει να παράσχει τυποποιημένα υποδείγματα για τους τομείς που καλύπτονται από τον παρόντα κανονισμό, κατόπιν αιτήματος του Συμβουλίου Τεχνητής Νοημοσύνης. Επιπλέον, η Επιτροπή θα πρέπει να συμπληρώνει τις προσπάθειες των κρατών μελών παρέχοντας μια ενιαία πλατφόρμα πληροφόρησης με εύχρηστες πληροφορίες όσον αφορά τον παρόντα κανονισμό για όλους τους παρόχους και τους φορείς εφαρμογής, διοργανώνοντας κατάλληλες επικοινωνιακές εκστρατείες ευαισθητοποίησης σχετικά με τις υποχρεώσεις που απορρέουν από τον παρόντα κανονισμό, και αξιολογώντας και προωθώντας τη σύγκλιση των βέλτιστων πρακτικών στις διαδικασίες δημόσιων συμβάσεων όσον αφορά τα συστήματα ΤΝ. Οι μεσαίες επιχειρήσεις που μέχρι πρόσφατα χαρακτηρίζονταν μικρές επιχειρήσεις κατά την έννοια του παραρτήματος της σύστασης 2003/361/ΕΚ της Επιτροπής (44) θα πρέπει να έχουν πρόσβαση σε αυτά τα μέτρα στήριξης, δεδομένου ότι οι εν λόγω νέες μεσαίες επιχειρήσεις ενδέχεται μερικές φορές να μη διαθέτουν τους νομικούς πόρους και την κατάρτιση που απαιτούνται για να εξασφαλίσουν την ορθή κατανόηση του παρόντος κανονισμού και τη συμμόρφωση με αυτόν.
(144)
A fim de promover e proteger a inovação, a plataforma IA a pedido, todos os programas e projetos de financiamento pertinentes da União — como o Programa Europa Digital e o Horizonte Europa — executados pela Comissão e pelos Estados-Membros a nível da União ou a nível nacional deverão, conforme o caso, contribuir para a consecução dos objetivos do presente regulamento.
(144)
Για την προώθηση και την προστασία της καινοτομίας, η πλατφόρμα ΤΝ κατά παραγγελία, όλα τα σχετικά ενωσιακά χρηματοδοτικά προγράμματα και έργα, όπως το πρόγραμμα «Ψηφιακή Ευρώπη» και το πρόγραμμα «Ορίζων Ευρώπη», τα οποία υλοποιούνται από την Επιτροπή και τα κράτη μέλη σε ενωσιακό ή εθνικό επίπεδο θα πρέπει, κατά περίπτωση, να συμβάλλουν στην επίτευξη των στόχων του παρόντος κανονισμού.
(145)
A fim de minimizar os riscos para a aplicação resultantes da falta de conhecimentos e competências especializadas no mercado, bem como para facilitar o cumprimento, por parte dos prestadores, nomeadamente das PME, incluindo as empresas em fase de arranque, e dos organismos notificados, das obrigações que lhes são impostas pelo presente regulamento, a plataforma IA a pedido, os polos europeus de inovação digital e as instalações de ensaio e experimentação criadas pela Comissão e pelos Estados-Membros a nível da União ou a nível nacional poderão eventualmente contribuir para a aplicação do presente regulamento. No âmbito da respetiva missão e domínios de competência, a plataforma de IA a pedido, os polos europeus de inovação digital e as instalações de ensaio e experimentação podem prestar, em particular, apoio técnico e científico aos prestadores e aos organismos notificados.
(145)
Προκειμένου να ελαχιστοποιηθούν οι κίνδυνοι για την εφαρμογή, οι οποίοι προκύπτουν από την έλλειψη γνώσεων και εμπειρογνωσίας στην αγορά, καθώς και για να διευκολυνθεί η συμμόρφωση των παρόχων, ιδίως των ΜΜΕ, συμπεριλαμβανομένων των νεοφυών επιχειρήσεων, και των κοινοποιημένων οργανισμών με τις υποχρεώσεις τους κατά τον παρόντα κανονισμό, η πλατφόρμα ΤΝ κατά παραγγελία, οι ευρωπαϊκοί κόμβοι ψηφιακής καινοτομίας και οι εγκαταστάσεις δοκιμών και πειραματισμού που συστήνονται από την Επιτροπή και τα κράτη μέλη σε ενωσιακό ή εθνικό επίπεδο θα πρέπει να συμβάλλουν στην εφαρμογή του παρόντος κανονισμού. Στο πλαίσιο των αντίστοιχων αποστολών και πεδίων αρμοδιοτήτων τους, η πλατφόρμα ΤΝ κατά παραγγελία, οι ευρωπαϊκοί κόμβοι ψηφιακής καινοτομίας και οι εγκαταστάσεις δοκιμών και πειραματισμού είναι σε θέση να παρέχουν ιδίως τεχνική και επιστημονική υποστήριξη σε παρόχους και κοινοποιημένους οργανισμούς.
(146)
Além disso, tendo em conta a dimensão muito reduzida de alguns operadores e a fim de assegurar a proporcionalidade no que diz respeito aos custos da inovação, é conveniente permitir que as microempresas satisfaçam uma das obrigações mais onerosas, designadamente o estabelecimento de um sistema de gestão da qualidade, de uma forma simplificada que reduza os seus encargos administrativos e custos, sem afetar o nível de proteção nem a necessidade de cumprir os requisitos aplicáveis aos sistemas de IA de risco elevado. A Comissão deverá elaborar orientações para especificar os elementos do sistema de gestão da qualidade a cumprir desta forma simplificada pelas microempresas.
(146)
Επιπλέον, δεδομένου του πολύ μικρού μεγέθους ορισμένων φορέων εκμετάλλευσης και προκειμένου να διασφαλίζεται αναλογικότητα όσον αφορά το κόστος της καινοτομίας, ενδείκνυται να δοθεί η δυνατότητα στις πολύ μικρές επιχειρήσεις να εκπληρώνουν μία από τις πλέον δαπανηρές υποχρεώσεις, δηλαδή τη θέσπιση συστήματος διαχείρισης της ποιότητας, με απλουστευμένο τρόπο που μειώνει τον διοικητικό φόρτο και το κόστος για τις εν λόγω επιχειρήσεις χωρίς να επηρεάζεται το επίπεδο προστασίας και η ανάγκη συμμόρφωσης με τις απαιτήσεις για τα συστήματα ΤΝ υψηλού κινδύνου. Η Επιτροπή θα πρέπει να αναπτύξει κατευθυντήριες γραμμές για τον προσδιορισμό των στοιχείων του συστήματος διαχείρισης της ποιότητας που πρέπει να πληρούνται με αυτόν τον απλουστευμένο τρόπο από τις πολύ μικρές επιχειρήσεις.
(147)
É apropriado que a Comissão facilite, tanto quanto possível, o acesso a instalações de ensaio e experimentação aos organismos, grupos ou laboratórios criados ou acreditados nos termos da legislação de harmonização da União pertinente e que desempenham funções no contexto da avaliação da conformidade dos produtos ou dispositivos abrangidos por essa legislação de harmonização da União. É este o caso, nomeadamente, dos painéis de peritos, dos laboratórios especializados e dos laboratórios de referência no domínio dos dispositivos médicos, nos termos dos Regulamentos (UE) 2017/745 e (UE) 2017/746.
(147)
Ενδείκνυται η Επιτροπή να διευκολύνει, στο μέτρο του δυνατού, την πρόσβαση σε εγκαταστάσεις δοκιμών και πειραματισμού για τους φορείς, τις ομάδες ή τα εργαστήρια που έχουν συσταθεί ή διαπιστευτεί σύμφωνα με οποιαδήποτε σχετική ενωσιακή νομοθεσία εναρμόνισης και τα οποία εκτελούν καθήκοντα στο πλαίσιο της αξιολόγησης της συμμόρφωσης προϊόντων ή συσκευών που καλύπτονται από την εν λόγω ενωσιακή νομοθεσία εναρμόνισης. Αυτό ισχύει ειδικότερα όσον αφορά τις ομάδες εμπειρογνωμόνων, τα εργαστήρια εμπειρογνωμόνων και τα εργαστήρια αναφοράς στον τομέα των ιατροτεχνολογικών προϊόντων κατά τους κανονισμούς (ΕΕ) 2017/745 και (ΕΕ) 2017/746.
(148)
O presente regulamento deverá estatuir um modelo de governação que permita coordenar e apoiar a aplicação do presente regulamento a nível nacional, bem como criar capacidades a nível da União e integrar as partes interessadas no domínio da IA. A aplicação e execução efetivas do presente regulamento exigem um modelo de governação que permita coordenar e desenvolver conhecimentos especializados centrais a nível da União. O Serviço para a IA foi criado por decisão da Comissão (45) e tem como missão desenvolver os conhecimentos especializados e as capacidades da União no domínio da IA e contribuir para a aplicação da legislação da União em matéria de IA. Os Estados-Membros deverão facilitar o desempenho das funções do Serviço para a IA com vista a apoiar o desenvolvimento dos conhecimentos especializados e das capacidades da União a nível da União e a reforçar o funcionamento do mercado único digital. Além disso, deverá ser criado um Comité composto por representantes dos Estados-Membros, um painel científico que integre a comunidade científica e um fórum consultivo que permita às partes interessadas darem o seu contributo para a aplicação do presente regulamento, tanto a nível da União como nacional. O desenvolvimento dos conhecimentos especializados e das capacidades da União deverão também incluir a utilização dos recursos e conhecimentos especializados existentes, nomeadamente através de sinergias com estruturas criadas no contexto da aplicação a nível da União de outra lei e de sinergias com iniciativas conexas a nível da União, como a Empresa Comum para a Computação Europeia de Alto Desempenho e as instalações de ensaio e experimentação no domínio da IA no âmbito do Programa Europa Digital.
(148)
Ο παρών κανονισμός θα πρέπει να θεσπίσει πλαίσιο διακυβέρνησης που επιτρέπει τόσο τον συντονισμό, όσο και τη στήριξη της εφαρμογής του παρόντος κανονισμού σε εθνικό επίπεδο, καθώς και την ανάπτυξη ικανοτήτων σε επίπεδο Ένωσης και τη συμπερίληψη των συμφεροντούχων στον τομέα της ΤΝ. Η αποτελεσματική εφαρμογή και επιβολή του παρόντος κανονισμού απαιτούν ένα πλαίσιο διακυβέρνησης που να επιτρέπει τον συντονισμό και την ανάπτυξη κεντρικής εμπειρογνωσίας σε επίπεδο Ένωσης. Η Υπηρεσία ΤΝ συστάθηκε με απόφαση της Επιτροπής (45) και έχει ως αποστολή να αναπτύσσει την εμπειρογνωσία και τις ικανότητες της Ένωσης στον τομέα της ΤΝ και να συμβάλλει στην εφαρμογή του ενωσιακού δικαίου σχετικά με την ΤΝ. Τα κράτη μέλη θα πρέπει να διευκολύνουν τα καθήκοντα της Υπηρεσίας ΤΝ με σκοπό να στηρίζουν την ανάπτυξη ενωσιακής εμπειρογνωσίας και ικανοτήτων σε επίπεδο Ένωσης και να ενισχύουν τη λειτουργία της ψηφιακής ενιαίας αγοράς. Επιπλέον, θα πρέπει να συσταθούν Συμβούλιο Τεχνητής Νοημοσύνης αποτελούμενο από εκπροσώπους των κρατών μελών, επιστημονική ομάδα για τη συμπερίληψη της επιστημονικής κοινότητας και συμβουλευτικό φόρουμ για τη συμβολή των συμφεροντούχων στην εφαρμογή του παρόντος κανονισμού, σε ενωσιακό και εθνικό επίπεδο. Η ανάπτυξη εμπειρογνωσίας και ικανοτήτων της Ένωσης θα πρέπει επίσης να περιλαμβάνει την αξιοποίηση των υφιστάμενων πόρων και της υπάρχουσας εμπειρογνωσίας, ιδίως μέσω συνεργειών με δομές που δημιουργούνται στο πλαίσιο της επιβολής άλλων κανόνων δικαίου σε επίπεδο Ένωσης και συνεργειών με σχετικές πρωτοβουλίες σε επίπεδο Ένωσης, όπως η κοινή επιχείρηση EuroHPC και οι εγκαταστάσεις δοκιμών και πειραματισμού ΤΝ στο πλαίσιο του προγράμματος «Ψηφιακή Ευρώπη».
(149)
A fim de facilitar uma aplicação simples, eficaz e harmoniosa do presente regulamento, deverá ser criado um Comité. O Comité deverá refletir os vários interesses do ecossistema de IA e ser composto por representantes dos Estados-Membros. O Comité deverá ser responsável por uma série de funções consultivas, nomeadamente a emissão de pareceres, recomendações e conselhos, ou o contributo para orientações em questões relacionadas com a aplicação do presente regulamento, inclusive no tocante a questões de execução, especificações técnicas ou normas existentes relativas aos requisitos estabelecidos no presente regulamento, e a prestação de aconselhamento à Comissão a aos Estados-Membros e respetivas autoridades nacionais competentes sobre questões específicas relacionadas com a IA. A fim de dar alguma flexibilidade aos Estados-Membros na designação dos seus representantes no Comité, esses representantes podem ser quaisquer pessoas pertencentes a entidades públicas que deverão ter as competências e os poderes pertinentes para facilitar a coordenação a nível nacional e contribuir para o desempenho das funções do Comité. O Comité deverá criar dois subgrupos permanentes a fim de proporcionar uma plataforma de cooperação e intercâmbio entre as autoridades de fiscalização do mercado e as autoridades notificadoras sobre questões relacionadas, respetivamente, com a fiscalização do mercado e os organismos notificados. O subgrupo permanente para a fiscalização do mercado deverá atuar como grupo de cooperação administrativa (ADCO) para efeitos do presente regulamento, na aceção do artigo 30.o do Regulamento (UE) 2019/1020. Em consonância com o artigo 33.o do referido Regulamento, a Comissão deverá apoiar as atividades do subgrupo permanente para a fiscalização do mercado, realizando avaliações ou estudos de mercado, nomeadamente com vista a identificar aspetos do presente regulamento que exijam uma coordenação específica e urgente entre as autoridades de fiscalização do mercado. O Comité pode constituir outros subgrupos permanentes ou temporários consoante adequado para efeitos da análise de questões específicas. O Comité deverá também cooperar, se for caso disso, com os organismos, grupos de peritos e redes pertinentes da União ativos no contexto de outras disposições pertinentes do direito da União, incluindo, em especial, os que operam ao abrigo do direito pertinente da União em matéria de dados, produtos e serviços digitais.
(149)
Προκειμένου να διευκολυνθεί η ομαλή, αποτελεσματική και εναρμονισμένη εφαρμογή του παρόντος κανονισμού θα πρέπει να συσταθεί Συμβούλιο Τεχνητής Νοημοσύνης. Το Συμβούλιο Τεχνητής Νοημοσύνης θα πρέπει να απηχεί τα διάφορα συμφέροντα του οικοσυστήματος ΤΝ και να απαρτίζεται από εκπροσώπους των κρατών μελών. Το Συμβούλιο Τεχνητής Νοημοσύνης θα πρέπει να είναι αρμόδιο για την εκτέλεση ορισμένων συμβουλευτικών καθηκόντων, συμπεριλαμβανομένων της έκδοσης γνωμών, συστάσεων ή συμβουλών ή της συμβολής στην καθοδήγηση σε θέματα που σχετίζονται με την εφαρμογή του παρόντος κανονισμού, μεταξύ άλλων σε σχέση με θέματα επιβολής, τεχνικές προδιαγραφές ή υφιστάμενα πρότυπα όσον αφορά τις απαιτήσεις που θεσπίζονται με τον παρόντα κανονισμό, καθώς και της παροχής συμβουλών στην Επιτροπή, τα κράτη μέλη και τις εθνικές αρμόδιες αρχές τους για συγκεκριμένα ζητήματα που σχετίζονται με την ΤΝ. Προκειμένου να δοθεί κάποια ευελιξία στα κράτη μέλη όσον αφορά τον ορισμό των εκπροσώπων τους στο Συμβούλιο Τεχνητής Νοημοσύνης, οι εκπρόσωποι αυτοί μπορεί να είναι πρόσωπα από δημόσιες οντότητες τα οποία θα πρέπει να διαθέτουν τις σχετικές αρμοδιότητες και εξουσίες για να διευκολύνουν τον συντονισμό σε εθνικό επίπεδο και να συμβάλλουν στην εκπλήρωση των καθηκόντων του Συμβουλίου Τεχνητής Νοημοσύνης. Το Συμβούλιο Τεχνητής Νοημοσύνης θα πρέπει να συγκροτήσει δύο μόνιμες υποομάδες που θα χρησιμεύουν ως πλατφόρμες συνεργασίας και ανταλλαγής απόψεων μεταξύ των αρχών εποπτείας της αγοράς και των κοινοποιουσών αρχών για θέματα που αφορούν αντίστοιχα την εποπτεία της αγοράς και τους κοινοποιημένους οργανισμούς. Η μόνιμη υποομάδα για την εποπτεία της αγοράς θα πρέπει να ενεργεί ως ομάδα διοικητικής συνεργασίας (ομάδα ADCO) για τον παρόντα κανονισμό κατά την έννοια του άρθρου 30 του κανονισμού (ΕΕ) 2019/1020. Σύμφωνα με το άρθρο 33 του εν λόγω κανονισμού, η Επιτροπή θα πρέπει να υποστηρίζει τις δραστηριότητες της μόνιμης υποομάδας για την εποπτεία της αγοράς διενεργώντας αξιολογήσεις ή μελέτες της αγοράς, ιδίως με σκοπό τον προσδιορισμό πτυχών του παρόντος κανονισμού που απαιτούν ειδικό και επείγοντα συντονισμό μεταξύ των αρχών εποπτείας της αγοράς. Το Συμβούλιο Τεχνητής Νοημοσύνης μπορεί να συγκροτεί άλλες μόνιμες ή προσωρινές υποομάδες, εφόσον είναι σκόπιμο για την εξέταση συγκεκριμένων ζητημάτων. Το Συμβούλιο Τεχνητής Νοημοσύνης θα πρέπει επίσης να συνεργάζεται, κατά περίπτωση, με τους αρμόδιους φορείς, τις ομάδες εμπειρογνωμόνων και τα δίκτυα της Ένωσης που δραστηριοποιούνται στο πλαίσιο του συναφούς ενωσιακού δικαίου, συμπεριλαμβανομένων ιδίως εκείνων που δραστηριοποιούνται στο πλαίσιο του συναφούς ενωσιακού δικαίου για τα δεδομένα, τα ψηφιακά προϊόντα και τις υπηρεσίες.
(150)
A fim de assegurar a participação das partes interessadas na execução e aplicação do presente regulamento, deverá ser criado um fórum consultivo para aconselhar e disponibilizar conhecimentos técnicos especializados ao Comité e à Comissão. A fim de assegurar uma representação variada e equilibrada das partes interessadas entre interesses comerciais e não comerciais e, dentro da categoria de interesses comerciais, no que diz respeito às PME e a outras empresas, o fórum consultivo deverá englobar, nomeadamente, a indústria, as empresas em fase de arranque, as PME, o meio académico, a sociedade civil, incluindo os parceiros sociais, bem como a Agência dos Direitos Fundamentais, a ENISA, o Comité Europeu de Normalização (CEN), o Comité Europeu de Normalização Eletrotécnica (CENELEC) e o Instituto Europeu de Normalização das Telecomunicações (ETSI).
(150)
Προκειμένου να διασφαλιστεί η συμμετοχή των συμφεροντούχων στην υλοποίηση και την εφαρμογή του παρόντος κανονισμού, θα πρέπει να συσταθεί συμβουλευτικό φόρουμ για την παροχή συμβουλών και τεχνικής εμπειρογνωμοσύνης στο Συμβούλιο Τεχνητής Νοημοσύνης και την Επιτροπή. Για να εξασφαλιστεί διαφοροποιημένη και ισορροπημένη εκπροσώπηση των συμφεροντούχων μεταξύ εμπορικών και μη εμπορικών συμφερόντων και, εντός της κατηγορίας των εμπορικών συμφερόντων, όσον αφορά τις ΜΜΕ και άλλες επιχειρήσεις, το συμβουλευτικό φόρουμ θα πρέπει να περιλαμβάνει, μεταξύ άλλων, τη βιομηχανία, τις νεοφυείς επιχειρήσεις, τις ΜΜΕ, την ακαδημαϊκή κοινότητα, την κοινωνία των πολιτών, συμπεριλαμβανομένων των κοινωνικών εταίρων, καθώς και τον Οργανισμό Θεμελιωδών Δικαιωμάτων, τον ENISA, την Ευρωπαϊκή Επιτροπή Τυποποίησης (CEN), την Ευρωπαϊκή Επιτροπή Ηλεκτροτεχνικής Τυποποίησης (CENELEC) και το Ευρωπαϊκό Ινστιτούτο Τηλεπικοινωνιακών Προτύπων (ETSI).
(151)
A fim de apoiar a aplicação e a execução do presente regulamento, em especial as atividades de acompanhamento do Serviço para a IA no que diz respeito aos modelos de IA de finalidade geral, deverá ser criado um painel científico de peritos independentes. Os peritos independentes que constituem o painel científico deverão ser selecionados com base em conhecimentos científicos ou técnicos atualizados no domínio da IA e deverão desempenhar as suas funções com imparcialidade e objetividade e assegurar a confidencialidade das informações e dos dados obtidos no desempenho das suas funções e atividades. A fim de permitir o reforço das capacidades nacionais necessárias para a execução efetiva do presente regulamento, os Estados-Membros deverão poder solicitar o apoio do grupo de peritos que constituem o painel científico para as suas atividades de execução.
(151)
Για τη στήριξη της εφαρμογής και της επιβολής του παρόντος κανονισμού, ιδίως των δραστηριοτήτων παρακολούθησης της Υπηρεσίας ΤΝ όσον αφορά τα μοντέλα ΤΝ γενικού σκοπού, θα πρέπει να συσταθεί επιστημονική ομάδα ανεξάρτητων εμπειρογνωμόνων. Οι ανεξάρτητοι εμπειρογνώμονες που συγκροτούν την επιστημονική ομάδα θα πρέπει να επιλέγονται βάσει επικαιροποιημένης επιστημονικής ή τεχνικής εμπειρογνωσίας στον τομέα της ΤΝ και θα πρέπει να εκτελούν τα καθήκοντά τους με αμεροληψία και αντικειμενικότητα και να διασφαλίζουν την εμπιστευτικότητα των πληροφοριών και των δεδομένων που λαμβάνουν κατά την εκτέλεση των καθηκόντων και των δραστηριοτήτων τους. Για να καταστεί δυνατή η ενίσχυση των εθνικών ικανοτήτων που απαιτούνται για την αποτελεσματική επιβολή του παρόντος κανονισμού, τα κράτη μέλη θα πρέπει να μπορούν να ζητούν στήριξη από την ομάδα εμπειρογνωμόνων που συγκροτούν την επιστημονική ομάδα όσον αφορά τις δραστηριότητες επιβολής.
(152)
A fim de apoiar a execução adequada dos sistemas de IA e reforçar as capacidades dos Estados-Membros, deverão ser criadas e disponibilizadas aos Estados-Membros estruturas da União de apoio à testagem de IA.
(152)
Προκειμένου να υποστηριχθεί η κατάλληλη επιβολή όσον αφορά τα συστήματα ΤΝ και να ενισχυθούν οι ικανότητες των κρατών μελών, θα πρέπει να δημιουργηθούν ενωσιακές δομές υποστήριξης δοκιμών ΤΝ και να τεθούν στη διάθεση των κρατών μελών.
(153)
Os Estados-Membros desempenham um papel fundamental na aplicação e execução do presente regulamento. Nesse sentido, cada Estado-Membro deverá designar pelo menos uma autoridade notificadora e pelo menos uma autoridade de fiscalização do mercado como autoridades nacionais competentes do mercado para efeitos de supervisão da aplicação e execução do presente regulamento. Os Estados-Membros podem decidir nomear qualquer tipo de entidade pública para desempenhar as funções das autoridades nacionais competentes na aceção do presente regulamento, de acordo com as suas características e necessidades específicas em matéria de organização nacional. A fim de aumentar a eficácia organizativa dos Estados-Membros e de criar um ponto de contacto oficial único para o público e as outras contrapartes a nível dos Estados-Membros e da União, cada Estado-Membro deverá designar uma autoridade de fiscalização do mercado que atue como um ponto de contacto único.
(153)
Τα κράτη μέλη διαδραματίζουν καίριο ρόλο στην εφαρμογή και την επιβολή του παρόντος κανονισμού. Στο πλαίσιο αυτό, κάθε κράτος μέλος θα πρέπει να ορίσει τουλάχιστον μία κοινοποιούσα αρχή και τουλάχιστον μία αρχή εποπτείας της αγοράς ως εθνικές αρμόδιες αρχές για την εποπτεία της εφαρμογής και της υλοποίησης του παρόντος κανονισμού. Τα κράτη μέλη μπορούν να αποφασίσουν να ορίσουν οποιοδήποτε είδος δημόσιας οντότητας για την εκτέλεση των καθηκόντων των εθνικών αρμόδιων αρχών κατά την έννοια του παρόντος κανονισμού, σύμφωνα με τα ειδικά εθνικά οργανωτικά χαρακτηριστικά και τις ανάγκες τους. Προκειμένου να αυξηθεί η αποτελεσματικότητα της οργάνωσης από την πλευρά των κρατών μελών και να δημιουργηθεί ένα ενιαίο σημείο επαφής με το κοινό και άλλους ομολόγους σε επίπεδο κρατών μελών και σε επίπεδο Ένωσης, κάθε κράτος μέλος θα πρέπει να ορίσει μία αρχή εποπτείας της αγοράς η οποία θα λειτουργεί ως ενιαίο σημείο επαφής.
(154)
As autoridades nacionais competentes deverão exercer os seus poderes de forma independente, imparcial e sem enviesamentos, a fim de salvaguardar os princípios da objetividade das suas atividades e funções e de assegurar a aplicação e execução do presente regulamento. Os membros dessas autoridades deverão abster-se de qualquer ato incompatível com as suas funções e estar sujeitos às regras de confidencialidade previstas no presente regulamento.
(154)
Οι εθνικές αρμόδιες αρχές θα πρέπει να ασκούν τις εξουσίες τους ανεξάρτητα, αμερόληπτα και χωρίς προκαταλήψεις, ώστε να διαφυλάσσουν τις αρχές της αντικειμενικότητας των δραστηριοτήτων και των καθηκόντων τους και να διασφαλίζουν την εφαρμογή και την εκτέλεση του παρόντος κανονισμού. Τα μέλη των εν λόγω αρχών θα πρέπει να απέχουν από κάθε ενέργεια ασυμβίβαστη με τα καθήκοντά τους και θα πρέπει να υπόκεινται στους κανόνες εμπιστευτικότητας δυνάμει του παρόντος κανονισμού.
(155)
Para assegurar que os prestadores de sistemas de IA de risco elevado possam aproveitar a experiência adquirida na utilização de sistemas de IA de risco elevado para melhorarem os seus sistemas e o processo de conceção e desenvolvimento ou possam adotar eventuais medidas corretivas em tempo útil, todos os prestadores deverão dispor de um sistema de acompanhamento pós-comercialização. Se for caso disso, o acompanhamento pós-comercialização deverá incluir uma análise da interação com outros sistemas de IA, incluindo outros dispositivos e software. O acompanhamento pós-comercialização não deverá abranger os dados operacionais sensíveis dos responsáveis pela implantação que sejam autoridades responsáveis pela aplicação da lei. Este sistema também é fundamental para assegurar uma resolução mais eficaz e atempada dos eventuais riscos decorrentes dos sistemas de IA que continuam a «aprender» depois de terem sido colocados no mercado ou colocados em serviço. Neste contexto, os prestadores também deverão ser obrigados a dispor de um sistema para comunicar às autoridades competentes quaisquer incidentes graves resultantes da utilização dos seus sistemas de IA, ou seja, incidentes ou anomalias que conduzam à morte ou a danos graves para a saúde, perturbações graves e irreversíveis da gestão e do funcionamento de infraestruturas críticas, violações das obrigações decorrentes do direito da União destinadas a proteger os direitos fundamentais ou danos graves à propriedade ou ao ambiente.
(155)
Προκειμένου να διασφαλιστεί ότι οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου μπορούν να λαμβάνουν υπόψη την πείρα από τη χρήση συστημάτων ΤΝ υψηλού κινδύνου για τη βελτίωση των συστημάτων τους και της διαδικασίας σχεδιασμού και ανάπτυξης ή μπορούν να λαμβάνουν εγκαίρως ενδεχόμενα διορθωτικά μέτρα, όλοι οι πάροχοι θα πρέπει να διαθέτουν σύστημα παρακολούθησης μετά τη διάθεση στην αγορά. Κατά περίπτωση, η παρακολούθηση μετά τη διάθεση στην αγορά θα πρέπει να περιλαμβάνει ανάλυση της αλληλεπίδρασης με άλλα συστήματα ΤΝ, συμπεριλαμβανομένων άλλων συσκευών και λογισμικού. Η παρακολούθηση μετά τη διάθεση στην αγορά δεν θα πρέπει να καλύπτει ευαίσθητα επιχειρησιακά δεδομένα φορέων εφαρμογής οι οποίοι είναι αρχές επιβολής του νόμου. Το εν λόγω σύστημα έχει επίσης καίρια σημασία προκειμένου να διασφαλίζεται ότι οι πιθανοί κίνδυνοι που προκύπτουν από συστήματα ΤΝ τα οποία συνεχίζουν να «μαθαίνουν» μετά τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία μπορούν να αντιμετωπίζονται αποτελεσματικότερα και έγκαιρα. Στο πλαίσιο αυτό, οι πάροχοι θα πρέπει επίσης να υποχρεούνται να διαθέτουν σύστημα για την αναφορά στις αρμόδιες αρχές οποιωνδήποτε σοβαρών περιστατικών που προκύπτουν από τη χρήση των συστημάτων ΤΝ τους, δηλαδή περιστατικού ή δυσλειτουργίας που έχει ως συνέπεια τον θάνατο ή τη σοβαρή βλάβη στην υγεία, τη σοβαρή και μη αναστρέψιμη διαταραχή της διαχείρισης και της λειτουργίας υποδομών ζωτικής σημασίας, τις παραβάσεις υποχρεώσεων που απορρέουν από το δίκαιο της Ένωσης και αποσκοπούν στην προστασία των θεμελιωδών δικαιωμάτων ή τις σοβαρές ζημίες σε περιουσιακά στοιχεία ή στο περιβάλλον.
(156)
Para assegurar uma execução adequada e eficaz dos requisitos e obrigações estabelecidos no presente regulamento, que faz parte da legislação de harmonização da União, o sistema de fiscalização do mercado e de conformidade dos produtos estabelecido no Regulamento (UE) 2019/1020 deverá ser aplicado na íntegra. As autoridades de fiscalização do mercado designadas nos termos do presente regulamento deverão dispor de todos os poderes de execução estabelecidos no presente regulamento e no Regulamento (UE) 2019/1020 e deverão exercer os seus poderes e desempenhar as suas funções de forma independente, imparcial e objetiva. Embora a maioria dos sistemas de IA não esteja sujeita a requisitos e obrigações específicos nos termos do presente regulamento, as autoridades de fiscalização do mercado podem tomar medidas em relação a todos os sistemas de IA que apresentem um risco em conformidade com o presente regulamento. Dada a natureza específica das instituições, órgãos e organismos da União abrangidos pelo âmbito de aplicação do presente regulamento, é conveniente designar a Autoridade Europeia para a Proteção de Dados como autoridade de fiscalização do mercado competente relativamente a essas instituições, órgãos e organismos. Tal não deverá prejudicar a designação das autoridades nacionais competentes pelos Estados-Membros. As atividades de fiscalização do mercado não deverão afetar a capacidade das entidades supervisionadas de desempenharem as suas funções de forma independente, quando essa independência for exigida pelo direito da União.
(156)
Προκειμένου να διασφαλιστεί η κατάλληλη και αποτελεσματική επιβολή των απαιτήσεων και των υποχρεώσεων που ορίζονται στον παρόντα κανονισμό, ο οποίος αποτελεί ενωσιακή νομοθεσία εναρμόνισης, θα πρέπει να εφαρμόζεται στο σύνολό του το σύστημα εποπτείας της αγοράς και συμμόρφωσης των προϊόντων που θεσπίστηκε με τον κανονισμό (ΕΕ) 2019/1020. Οι αρχές εποπτείας της αγοράς που ορίζονται δυνάμει του παρόντος κανονισμού θα πρέπει να διαθέτουν όλες τις εξουσίες επιβολής που προβλέπονται στον παρόντα κανονισμό και στον κανονισμό (ΕΕ) 2019/1020 και θα πρέπει να ασκούν τις εξουσίες τους και να εκτελούν τα καθήκοντά τους ανεξάρτητα, αμερόληπτα και χωρίς προκαταλήψεις. Μολονότι τα περισσότερα συστήματα ΤΝ δεν υπόκεινται σε ειδικές απαιτήσεις και υποχρεώσεις δυνάμει του παρόντος κανονισμού, οι αρχές εποπτείας της αγοράς μπορούν να λαμβάνουν μέτρα σε σχέση με όλα τα συστήματα ΤΝ, όταν παρουσιάζουν κίνδυνο σύμφωνα με τον παρόντα κανονισμό. Λόγω της ειδικής φύσης των θεσμικών και λοιπών οργάνων και οργανισμών της Ένωσης που εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού, ενδείκνυται να οριστεί ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων ως οικεία αρμόδια αρχή εποπτείας της αγοράς. Αυτό δεν θα πρέπει να θίγει τον ορισμό εθνικών αρμόδιων αρχών από τα κράτη μέλη. Οι δραστηριότητες εποπτείας της αγοράς δεν θα πρέπει να επηρεάζουν την ικανότητα των εποπτευόμενων οντοτήτων να εκτελούν τα καθήκοντά τους με ανεξαρτησία, όταν η ανεξαρτησία αυτή απαιτείται από το δίκαιο της Ένωσης.
(157)
O presente regulamento não prejudica as competências, as atribuições, os poderes nem a independência das autoridades ou organismos públicos nacionais competentes que supervisionam a aplicação do direito da União que protege direitos fundamentais, incluindo os organismos de promoção da igualdade e as autoridades de proteção de dados. Quando tal for necessário ao cumprimento do seu mandato, essas autoridades ou organismos públicos nacionais deverão também ter acesso à documentação elaborada por força do presente regulamento. Deverá ser estabelecido um procedimento de salvaguarda específico para assegurar uma aplicação adequada e atempada relativamente aos sistemas de IA que apresentem um risco para a saúde, a segurança e os direitos fundamentais. O procedimento aplicável a esses sistemas de IA que apresentam um risco deverá ser aplicado aos sistemas de IA de risco elevado que apresentem um risco, aos sistemas proibidos que tenham sido colocados no mercado, colocados em serviço ou utilizados em violação das disposições respeitantes a práticas proibidas estabelecidas no presente regulamento e aos sistemas de IA que tenham sido disponibilizados em violação dos requisitos de transparência estabelecidos no presente regulamento e que apresentem um risco.
(157)
Ο παρών κανονισμός δεν θίγει τις αρμοδιότητες, τα καθήκοντα, τις εξουσίες και την ανεξαρτησία των σχετικών εθνικών δημόσιων αρχών ή φορέων που εποπτεύουν την εφαρμογή του δικαίου της Ένωσης για την προστασία των θεμελιωδών δικαιωμάτων, συμπεριλαμβανομένων των φορέων ισότητας και των αρχών προστασίας δεδομένων. Όταν απαιτείται για την άσκηση της εντολής τους, οι εν λόγω εθνικές δημόσιες αρχές ή φορείς θα πρέπει επίσης να έχουν πρόσβαση σε κάθε φάκελο τεκμηρίωσης που δημιουργείται δυνάμει του παρόντος κανονισμού. Θα πρέπει να θεσπιστεί ειδική διαδικασία διασφαλίσεων για την εξασφάλιση κατάλληλης και έγκαιρης επιβολής έναντι των συστημάτων ΤΝ που παρουσιάζουν κίνδυνο για την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα. Η διαδικασία για τα εν λόγω συστήματα ΤΝ που παρουσιάζουν κίνδυνο θα πρέπει να εφαρμόζεται στα συστήματα ΤΝ υψηλού κινδύνου που παρουσιάζουν κίνδυνο, στα απαγορευμένα συστήματα που έχουν διατεθεί στην αγορά, τεθεί σε λειτουργία ή χρησιμοποιούνται κατά παράβαση των διατάξεων περί απαγορευμένων πρακτικών που ορίζονται στον παρόντα κανονισμό και στα συστήματα ΤΝ που έχουν καταστεί διαθέσιμα κατά παράβαση των απαιτήσεων διαφάνειας του παρόντος κανονισμού και παρουσιάζουν κίνδυνο.
(158)
A legislação da União no domínio dos serviços financeiros inclui regras e requisitos relativos à governação interna e à gestão dos riscos aplicáveis às instituições financeiras regulamentadas durante a prestação desses serviços, inclusive quando estas utilizam sistemas de IA. Para assegurar a coerência na aplicação e na execução das obrigações previstas no presente regulamento e das regras e requisitos dos atos legais da União aplicáveis aos serviços financeiros, as autoridades competentes responsáveis pela supervisão e execução desses atos jurídicos, nomeadamente as autoridades competentes na aceção do Regulamento (UE) n.o 575/2013 do Parlamento Europeu e do Conselho (46) e as Diretivas 2008/48/CE (47), 2009/138/CE (48), 2013/36/UE (49), 2014/17/UE (50) e (UE) 2016/97 (51) do Parlamento Europeu e do Conselho, deverão ser designadas, no âmbito das respetivas competências, autoridades competentes para efeitos de supervisão da aplicação do presente regulamento, incluindo o exercício de funções de fiscalização do mercado, no que diz respeito aos sistemas de IA disponibilizados ou utilizados por instituições financeiras regulamentadas e supervisionadas, salvo se os Estados-Membros decidirem designar outra autoridade para desempenhar essas funções de fiscalização do mercado. Essas autoridades competentes deverão dispor de todos os poderes ao abrigo do presente regulamento e do Regulamento (UE) 2019/1020 para fazer cumprir os requisitos e obrigações do presente regulamento, incluindo poderes para levar a cabo atividades de fiscalização do mercado ex post que possam ser integradas, se for caso disso, nos seus mecanismos e procedimentos de supervisão existentes ao abrigo do direito da União aplicável no domínio dos serviços financeiros. É apropriado definir que, ao atuarem como autoridades de fiscalização do mercado ao abrigo do presente regulamento, as autoridades nacionais responsáveis por supervisionar as instituições de crédito regulamentadas pela Diretiva 2013/36/UE, que participam no Mecanismo Único de Supervisão estabelecido pelo Regulamento (UE) n.o 1024/2013 do Conselho (52), deverão comunicar sem demora ao Banco Central Europeu todas as informações identificadas no âmbito das suas atividades de fiscalização do mercado que possam ser de interesse potencial para as atribuições de supervisão prudencial do Banco Central Europeu especificadas nesse regulamento. A fim de reforçar a coerência entre o presente regulamento e as regras aplicáveis às instituições de crédito regulamentadas pela Diretiva 2013/36/UE, também é apropriado integrar algumas das obrigações processuais dos prestadores relativas à gestão de riscos, ao acompanhamento pós-comercialização e à documentação nas obrigações e procedimentos em vigor por força da referida diretiva. No intuito de evitar sobreposições, também deverão ser previstas derrogações limitadas no respeitante ao sistema de gestão da qualidade dos prestadores e à obrigação de controlo imposta aos responsáveis pela implantação de sistemas de IA de risco elevado, contanto que tal se aplique a instituições de crédito regulamentadas pela Diretiva 2013/36/UE. Deverá aplicar-se o mesmo regime às empresas de seguros e de resseguros e às sociedades gestoras de participações no setor dos seguros nos termos da Diretiva 2009/138/CE, aos mediadores de seguros nos termos da Diretiva (UE) 2016/97 e a outros tipos de instituições financeiras sujeitas a requisitos em matéria governação, mecanismos ou processos internos estabelecidos nos termos do direito da União aplicável no domínio dos serviços financeiros, a fim de assegurar a coerência e a igualdade de tratamento no setor financeiro.
(158)
Το δίκαιο της Ένωσης σχετικά με τις χρηματοοικονομικές υπηρεσίες περιλαμβάνει κανόνες και απαιτήσεις εσωτερικής διακυβέρνησης και διαχείρισης κινδύνου που εφαρμόζονται στα ρυθμιζόμενα χρηματοοικονομικά ιδρύματα στο πλαίσιο της παροχής των εν λόγω υπηρεσιών, μεταξύ άλλων όταν χρησιμοποιούνται συστήματα ΤΝ. Προκειμένου να διασφαλιστεί η συνεκτική εφαρμογή και επιβολή των υποχρεώσεων δυνάμει του παρόντος κανονισμού και των σχετικών κανόνων και απαιτήσεων των νομικών πράξεων της Ένωσης για τις χρηματοοικονομικές υπηρεσίες, οι αρχές που είναι αρμόδιες για την εποπτεία και την επιβολή των εν λόγω νομικών πράξεων, ειδικότερα οι αρμόδιες αρχές όπως ορίζονται στον κανονισμό (ΕΕ) αριθ. 575/2013 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (46) και στις οδηγίες 2008/48/ΕΚ (47), 2009/138/ΕΚ (48), 2013/36/ΕΕ (49), 2014/17/ΕΕ (50) και (ΕΕ) 2016/97 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (51), θα πρέπει να οριστούν, εντός του πεδίου των αντίστοιχων αρμοδιοτήτων τους, ως αρμόδιες αρχές για την εποπτεία της εφαρμογής του παρόντος κανονισμού, μεταξύ άλλων και για τις δραστηριότητες εποπτείας της αγοράς, όσον αφορά τα συστήματα ΤΝ που παρέχονται ή χρησιμοποιούνται από ρυθμιζόμενα και εποπτευόμενα χρηματοοικονομικά ιδρύματα, εκτός εάν τα κράτη μέλη αποφασίσουν να ορίσουν άλλη αρχή αρμόδια για την εκπλήρωση αυτών των καθηκόντων εποπτείας της αγοράς. Οι εν λόγω αρμόδιες αρχές θα πρέπει να διαθέτουν όλες τις εξουσίες δυνάμει του παρόντος κανονισμού και του κανονισμού (ΕΕ) 2019/1020 για την επιβολή των απαιτήσεων και των υποχρεώσεων του παρόντος κανονισμού, συμπεριλαμβανομένων των εξουσιών για τη διεξαγωγή των εκ των υστέρων δραστηριοτήτων εποπτείας της αγοράς που μπορούν να ενσωματώνονται, κατά περίπτωση, στους υφιστάμενους εποπτικούς μηχανισμούς και διαδικασίες τους δυνάμει του σχετικού δικαίου της Ένωσης για τις χρηματοοικονομικές υπηρεσίες. Ενδείκνυται να προβλεφθεί ότι, όταν ενεργούν ως αρχές εποπτείας της αγοράς δυνάμει του παρόντος κανονισμού, οι εθνικές αρχές που είναι αρμόδιες να εποπτεύουν ρυθμιζόμενα βάσει της οδηγίας 2013/36/ΕΕ πιστωτικά ιδρύματα, τα οποία συμμετέχουν στον ενιαίο εποπτικό μηχανισμό που θεσπίστηκε με τον κανονισμό (ΕΕ) αριθ. 1024/2013 του Συμβουλίου (52), θα πρέπει να αναφέρουν, χωρίς καθυστέρηση, στην Ευρωπαϊκή Κεντρική Τράπεζα κάθε πληροφορία που εντοπίζεται κατά τη διάρκεια των δραστηριοτήτων τους εποπτείας της αγοράς και που ενδέχεται να παρουσιάζει ενδιαφέρον για τα καθήκοντα προληπτικής εποπτείας της Ευρωπαϊκής Κεντρικής Τράπεζας, όπως ορίζεται στον εν λόγω κανονισμό. Προκειμένου να ενισχυθεί περαιτέρω η συνέπεια μεταξύ του παρόντος κανονισμού και των κανόνων που ισχύουν για τα πιστωτικά ιδρύματα που ρυθμίζονται από την οδηγία 2013/36/ΕΕ, είναι επίσης σκόπιμο ορισμένες από τις διαδικαστικές υποχρεώσεις των παρόχων όσον αφορά τη διαχείριση κινδύνου, την παρακολούθηση μετά τη διάθεση στην αγορά και την τεκμηρίωση να ενσωματωθούν στις υφιστάμενες υποχρεώσεις και διαδικασίες βάσει της οδηγίας 2013/36/ΕΕ. Προκειμένου να αποφευχθούν αλληλεπικαλύψεις, θα πρέπει επίσης να προβλεφθούν περιορισμένες παρεκκλίσεις σε σχέση με το σύστημα διαχείρισης ποιότητας των παρόχων και την υποχρέωση παρακολούθησης που επιβάλλεται σε φορείς εφαρμογής συστημάτων ΤΝ υψηλού κινδύνου, στον βαθμό που ισχύουν για πιστωτικά ιδρύματα που ρυθμίζονται από την οδηγία 2013/36/ΕΕ. Το ίδιο καθεστώς θα πρέπει να ισχύει για τις ασφαλιστικές και αντασφαλιστικές επιχειρήσεις και τις ασφαλιστικές εταιρείες χαρτοφυλακίου βάσει της οδηγίας 2009/138/ΕΚ και για τους ασφαλιστικούς διαμεσολαβητές βάσει της οδηγίας (ΕΕ) 2016/97, καθώς και για άλλα είδη χρηματοοικονομικών ιδρυμάτων που υπόκεινται σε απαιτήσεις όσον αφορά την εσωτερική διακυβέρνηση, τις ρυθμίσεις ή τις διαδικασίες που θεσπίζονται δυνάμει του σχετικού δικαίου της Ένωσης για τις χρηματοοικονομικές υπηρεσίες, ώστε να διασφαλίζονται η συνέπεια και η ίση μεταχείριση στον χρηματοοικονομικό τομέα.
(159)
Todas as autoridades de fiscalização do mercado dos sistemas de IA de risco elevado enumerados no domínio da biométrica, conforme enumerado num anexo do presente regulamento, na medida em que esses sistemas sejam utilizados para fins de aplicação da lei, da migração, do asilo e da gestão do controlo das fronteiras, ou para a administração da justiça e processos democráticos, deverão dispor de poderes de investigação e de correção eficazes, incluindo, pelo menos, o poder de aceder a todos os dados pessoais que estão a ser tratados e a todas as informações necessárias ao desempenho das suas funções. As autoridades de fiscalização do mercado deverão poder exercer os seus poderes atuando com total independência. Quaisquer limitações ao seu acesso a dados operacionais sensíveis nos termos do presente regulamento não deverão prejudicar os poderes que lhes são conferidos pela Diretiva (UE) 2016/680. Nenhuma exclusão da divulgação de dados às autoridades nacionais de proteção de dados ao abrigo do presente regulamento deverá afetar os atuais ou futuros poderes dessas autoridades fora do âmbito de aplicação do presente regulamento.
(159)
Κάθε αρχή εποπτείας της αγοράς για τα συστήματα ΤΝ υψηλού κινδύνου στον τομέα της βιομετρίας, όπως απαριθμούνται σε παράρτημα του παρόντος κανονισμού, εφόσον τα συστήματα αυτά χρησιμοποιούνται για σκοπούς επιβολής του νόμου, διαχείρισης της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων ή απονομής δικαιοσύνης και δημοκρατικών διαδικασιών, θα πρέπει να διαθέτει ουσιαστικές εξουσίες διερεύνησης και διόρθωσης, συμπεριλαμβανομένης τουλάχιστον της εξουσίας να αποκτά πρόσβαση σε όλα τα δεδομένα προσωπικού χαρακτήρα που υποβάλλονται σε επεξεργασία και σε όλες τις πληροφορίες που είναι αναγκαίες για την εκτέλεση των καθηκόντων της. Οι αρχές εποπτείας της αγοράς θα πρέπει να είναι σε θέση να ασκούν τις εξουσίες τους ενεργώντας με πλήρη ανεξαρτησία. Οποιοιδήποτε περιορισμοί της πρόσβασής τους σε ευαίσθητα επιχειρησιακά δεδομένα βάσει του παρόντος κανονισμού δεν θα πρέπει να θίγουν τις εξουσίες που τους ανατίθενται από την οδηγία (ΕΕ) 2016/680. Καμία εξαίρεση ως προς τη γνωστοποίηση δεδομένων στις εθνικές αρχές προστασίας δεδομένων βάσει του παρόντος κανονισμού δεν θα πρέπει να θίγει τις τρέχουσες ή μελλοντικές εξουσίες των εν λόγω αρχών πέραν του πεδίου εφαρμογής του παρόντος κανονισμού.
(160)
As autoridades de fiscalização do mercado e a Comissão deverão poder propor atividades conjuntas, incluindo investigações conjuntas, a realizar quer pelas autoridades de fiscalização do mercado quer pelas autoridades de fiscalização do mercado em conjunto com a Comissão, que tenham por objetivo promover a conformidade, identificar situações de não conformidade, sensibilizar e disponibilizar orientações em relação ao presente regulamento no que diz respeito a categorias específicas de sistemas de IA de risco elevado consideradas como apresentando um risco grave em dois ou mais Estados-Membros. As atividades conjuntas para promover a conformidade deverão ser realizadas em conformidade com o artigo 9.o do Regulamento (UE) 2019/1020. O Serviço para a IA deverá prestar apoio à coordenação de investigações conjuntas.
(160)
Οι αρχές εποπτείας της αγοράς και η Επιτροπή θα πρέπει να είναι σε θέση να προτείνουν κοινές δραστηριότητες, συμπεριλαμβανομένων κοινών ερευνών, οι οποίες θα διεξάγονται από τις αρχές εποπτείας της αγοράς ή τις αρχές εποπτείας της αγοράς από κοινού με την Επιτροπή, με στόχο την προώθηση της συμμόρφωσης, τον εντοπισμό περιπτώσεων μη συμμόρφωσης, την ευαισθητοποίηση και την παροχή καθοδήγησης σε σχέση με τον παρόντα κανονισμό όσον αφορά ειδικές κατηγορίες συστημάτων ΤΝ υψηλού κινδύνου που διαπιστώνεται ότι παρουσιάζουν σοβαρό κίνδυνο σε δύο ή περισσότερα κράτη μέλη. Οι κοινές δραστηριότητες για την προώθηση της συμμόρφωσης θα πρέπει να διεξάγονται σύμφωνα με το άρθρο 9 του κανονισμού (ΕΕ) 2019/1020. Η Υπηρεσία ΤΝ θα πρέπει να παρέχει συντονιστική υποστήριξη για τις κοινές έρευνες.
(161)
É necessário clarificar as responsabilidades e competências a nível da União e a nível nacional no que diz respeito aos sistemas de IA que se baseiam em modelos de IA de finalidade geral. A fim de evitar a sobreposição de competências, sempre que um sistema de IA se baseie num modelo de IA de finalidade geral e o modelo e o sistema sejam disponibilizados pelo mesmo prestador, a supervisão deverá ter lugar a nível da União através do Serviço para a IA, o qual deverá ter os poderes de uma autoridade de fiscalização do mercado na aceção do Regulamento (UE) 2019/1020 para esse efeito. Em todos os outros casos, os responsáveis pela supervisão dos sistemas de IA continuam a ser as autoridades nacionais de fiscalização do mercado. No entanto, para os sistemas de IA de finalidade geral que possam ser utilizados diretamente pelos responsáveis pela implantação para, pelo menos, uma finalidade classificada como sendo de risco elevado, as autoridades de fiscalização do mercado deverão cooperar com o Serviço para a IA na realização de avaliações da conformidade e informar o Comité e outras autoridades de fiscalização do mercado em conformidade. Além disso, as autoridades de fiscalização do mercado deverão poder solicitar assistência ao Serviço para a IA sempre que a autoridade de fiscalização do mercado não seja capaz de concluir uma investigação sobre um sistema de IA de risco elevado devido à sua impossibilidade de aceder a determinadas informações relacionadas com o modelo de IA de finalidade geral no qual o sistema de IA de risco elevado se baseia. Nesses casos, o procedimento relativo à assistência mútua em casos transfronteiriços previsto no capítulo VI do Regulamento (UE) 2019/1020 deverá aplicar-se mutatis mutandis.
(161)
Είναι αναγκαίο να αποσαφηνιστούν οι ευθύνες και οι αρμοδιότητες σε ενωσιακό και εθνικό επίπεδο όσον αφορά τα συστήματα ΤΝ που βασίζονται σε μοντέλα ΤΝ γενικού σκοπού. Για να αποφευχθεί η αλληλεπικάλυψη αρμοδιοτήτων, όταν ένα σύστημα ΤΝ βασίζεται σε μοντέλο ΤΝ γενικού σκοπού και το μοντέλο και το σύστημα παρέχονται από τον ίδιο πάροχο, η εποπτεία θα πρέπει να πραγματοποιείται σε επίπεδο Ένωσης μέσω της Υπηρεσίας ΤΝ, η οποία θα πρέπει να έχει τις εξουσίες αρχής εποπτείας της αγοράς κατά την έννοια του κανονισμού (ΕΕ) 2019/1020 για τον σκοπό αυτό. Σε όλες τις άλλες περιπτώσεις, οι εθνικές αρχές εποπτείας της αγοράς παραμένουν υπεύθυνες για την εποπτεία των συστημάτων ΤΝ. Ωστόσο, για τα συστήματα ΤΝ γενικού σκοπού που μπορούν να χρησιμοποιηθούν απευθείας από τους φορείς εφαρμογής για τουλάχιστον ένα σκοπό που ταξινομείται ως υψηλού κινδύνου, οι αρχές εποπτείας της αγοράς θα πρέπει να συνεργάζονται με την Υπηρεσία ΤΝ για τη διενέργεια αξιολογήσεων της συμμόρφωσης και να ενημερώνουν σχετικά το Συμβούλιο Τεχνητής Νοημοσύνης και άλλες αρχές εποπτείας της αγοράς. Επιπλέον, οι αρχές εποπτείας της αγοράς θα πρέπει να είναι σε θέση να ζητούν συνδρομή από την Υπηρεσία ΤΝ, όταν η αρχή εποπτείας της αγοράς δεν είναι σε θέση να ολοκληρώσει έρευνα σχετικά με σύστημα ΤΝ υψηλού κινδύνου λόγω της αδυναμίας της να έχει πρόσβαση σε ορισμένες πληροφορίες σχετικές με το μοντέλο ΤΝ γενικού σκοπού στο οποίο έχει βασιστεί το σύστημα ΤΝ υψηλού κινδύνου. Στις περιπτώσεις αυτές, θα πρέπει να εφαρμόζεται κατ’ αναλογία η διαδικασία διασυνοριακής αμοιβαίας συνδρομής που προβλέπεται στο κεφάλαιο VI του κανονισμού (ΕΕ) 2019/1020.
(162)
A fim de utilizar da melhor forma os conhecimentos especializados centralizados da União e as sinergias a nível da União, os poderes de supervisão e execução das obrigações dos prestadores de modelos de IA de finalidade geral deverão ser da competência da Comissão. O Serviço para a IA deverá poder realizar todas as ações necessárias para acompanhar a execução efetiva do presente regulamento no que diz respeito aos modelos de IA de finalidade geral. Deverá poder investigar eventuais infrações às regras aplicáveis aos prestadores de modelos de IA de finalidade geral, tanto por sua própria iniciativa, na sequência dos resultados das suas atividades de acompanhamento, como a pedido das autoridades de fiscalização do mercado, em conformidade com as condições estabelecidas no presente regulamento. A fim de apoiar um acompanhamento eficaz do Serviço para a IA, este deverá prever a possibilidade de os prestadores a jusante apresentarem queixas sobre possíveis infrações às regras aplicáveis aos prestadores de modelos e sistemas de IA de finalidade geral.
(162)
Για τη βέλτιστη αξιοποίηση της συγκεντρωμένης ενωσιακής εμπειρογνωσίας και των συνεργειών σε επίπεδο Ένωσης, οι εξουσίες εποπτείας και επιβολής των υποχρεώσεων των παρόχων μοντέλων ΤΝ γενικού σκοπού θα πρέπει να αποτελούν αρμοδιότητα της Επιτροπής. Η Υπηρεσία ΤΝ θα πρέπει να είναι σε θέση να εκτελεί όλες τις αναγκαίες ενέργειες για την παρακολούθηση της αποτελεσματικής εφαρμογής του παρόντος κανονισμού όσον αφορά τα μοντέλα ΤΝ γενικού σκοπού. Θα πρέπει να είναι σε θέση να διερευνά πιθανές παραβάσεις των κανόνων που επιβάλλονται στους παρόχους μοντέλων ΤΝ γενικού σκοπού είτε με δική της πρωτοβουλία, μετά τα αποτελέσματα των δραστηριοτήτων παρακολούθησης αυτής, είτε κατόπιν αιτήματος των αρχών εποπτείας της αγοράς σε ευθυγράμμιση με τους όρους που καθορίζονται στον παρόντα κανονισμό. Για την υποστήριξη της αποτελεσματικής παρακολούθησης εκ μέρους της Υπηρεσίας ΤΝ, θα πρέπει να προβλέπεται η δυνατότητα οι κατάντη πάροχοι να υποβάλλουν καταγγελίες σχετικά με πιθανές παραβάσεις των κανόνων που επιβάλλονται στους παρόχους μοντέλων και συστημάτων ΤΝ γενικού σκοπού.
(163)
Com vista a complementar os sistemas de governação aplicáveis a modelos de IA de finalidade geral, o painel científico deverá apoiar as atividades de acompanhamento do Serviço para a IA e pode, em certos casos, emitir alertas qualificados ao Serviço para a IA que desencadeiem seguimentos, como investigações. Tal deverá ser o caso se o painel científico tiver razões para suspeitar que um modelo de IA de finalidade geral representa um risco concreto e identificável a nível da União. Além disso, deverá ser esse o caso se o painel científico tiver motivos para suspeitar que um modelo de IA de finalidade geral cumpre os critérios que conduziriam a uma classificação como modelo de IA de finalidade geral com risco sistémico. A fim de dotar o painel científico das informações necessárias para o desempenho dessas funções, deverá existir um mecanismo através do qual o painel científico possa solicitar à Comissão que exija documentação ou informações a um prestador.
(163)
Προκειμένου να συμπληρωθούν τα συστήματα διακυβέρνησης για μοντέλα ΤΝ γενικού σκοπού, η επιστημονική ομάδα θα πρέπει να υποστηρίζει τις δραστηριότητες παρακολούθησης της Υπηρεσίας ΤΝ και μπορεί, σε ορισμένες περιπτώσεις, να παρέχει ειδικές προειδοποιήσεις στην Υπηρεσία ΤΝ, οι οποίες ενεργοποιούν επακόλουθες ενέργειες, όπως έρευνες. Αυτό θα ισχύει όταν η επιστημονική ομάδα έχει λόγους να υποπτεύεται ότι ένα μοντέλο ΤΝ γενικού σκοπού συνιστά συγκεκριμένο και αναγνωρίσιμο κίνδυνο σε επίπεδο Ένωσης, καθώς και όταν η επιστημονική ομάδα έχει λόγους να υποπτεύεται ότι ένα μοντέλο ΤΝ γενικού σκοπού πληροί τα κριτήρια που συνεπάγονται την ταξινόμησή του ως μοντέλου ΤΝ γενικού σκοπού με συστημικό κίνδυνο. Προκειμένου η επιστημονική ομάδα να έχει στη διάθεσή της τις πληροφορίες που είναι αναγκαίες για την εκτέλεση των καθηκόντων αυτών, θα πρέπει να υπάρχει μηχανισμός βάσει του οποίου η επιστημονική ομάδα θα μπορεί να ζητεί από την Επιτροπή να απαιτεί από πάροχο τεκμηρίωση ή πληροφορίες.
(164)
O Serviço para a IA deverá poder tomar as medidas necessárias para fiscalizar a execução efetiva e o cumprimento das obrigações dos prestadores de modelos de IA de finalidade geral estabelecidas no presente regulamento. O Serviço para a IA deverá poder investigar eventuais infrações em conformidade com os poderes previstos no presente regulamento, nomeadamente solicitando documentação e informações, realizando avaliações, bem como solicitando medidas aos prestadores de modelos de IA de finalidade geral. Na realização das avaliações, a fim de recorrer a conhecimentos especializados independentes, o Serviço para a IA deverá poder envolver peritos independentes para realizar as avaliações em seu nome. O cumprimento das obrigações deverá ser executório, nomeadamente através de pedidos de adoção de medidas adequadas, incluindo medidas de redução dos riscos em caso de riscos sistémicos identificados, bem como através da restrição da disponibilização no mercado, da retirada ou da recolha do modelo. A título de salvaguarda, sempre que seja necessário para além dos direitos processuais previstos no presente regulamento, os prestadores de modelos de IA de finalidade geral deverão gozar dos direitos processuais previstos no artigo 18.o do Regulamento (UE) 2019/1020, que deverão ser aplicáveis mutatis mutandis, sem prejuízo de direitos processuais mais específicos previstos no presente regulamento.
(164)
Η Υπηρεσία ΤΝ θα πρέπει να είναι σε θέση να προβαίνει στις αναγκαίες ενέργειες για την παρακολούθηση της αποτελεσματικής εφαρμογής και της συμμόρφωσης με τις υποχρεώσεις των παρόχων μοντέλων ΤΝ γενικού σκοπού που ορίζονται στον παρόντα κανονισμό. Η Υπηρεσία ΤΝ θα πρέπει να είναι σε θέση να διερευνά πιθανές παραβάσεις σύμφωνα με τις εξουσίες που προβλέπονται στον παρόντα κανονισμό, μεταξύ άλλων ζητώντας τεκμηρίωση και πληροφορίες, διενεργώντας αξιολογήσεις, καθώς και ζητώντας τη λήψη μέτρων από παρόχους μοντέλων ΤΝ γενικού σκοπού. Κατά τη διεξαγωγή των αξιολογήσεων, ενόψει της αξιοποίησης της ανεξάρτητης εμπειρογνωμοσύνης, η Υπηρεσία ΤΝ θα πρέπει να είναι σε θέση να εξασφαλίζει τη συμμετοχή ανεξάρτητων εμπειρογνωμόνων για τη διενέργεια των αξιολογήσεων εξ ονόματός της. Η συμμόρφωση με τις υποχρεώσεις θα πρέπει να είναι εκτελεστή, μεταξύ άλλων, μέσω αιτημάτων για τη λήψη κατάλληλων μέτρων, συμπεριλαμβανομένων μέτρων μετριασμού του κινδύνου σε περίπτωση εντοπισμένων συστημικών κινδύνων, καθώς και μέσω του περιορισμού της διαθεσιμότητας στην αγορά, της απόσυρσης ή της ανάκλησης του μοντέλου. Ως εγγύηση, όταν απαιτείται πέραν των διαδικαστικών δικαιωμάτων που προβλέπονται στον παρόντα κανονισμό, οι πάροχοι μοντέλων ΤΝ γενικού σκοπού θα πρέπει να έχουν τα διαδικαστικά δικαιώματα που προβλέπονται στο άρθρο 18 του κανονισμού (ΕΕ) 2019/1020, τα οποία θα πρέπει να εφαρμόζονται κατ’ αναλογία, με την επιφύλαξη ειδικότερων διαδικαστικών δικαιωμάτων που προβλέπονται στον παρόντα κανονισμό.
(165)
O desenvolvimento de outros sistemas de IA, que não sejam sistemas de IA de risco elevado de acordo com os requisitos do presente regulamento pode conduzir a uma maior utilização de IA ética e de confiança na União. Os prestadores de sistemas de IA que não sejam de risco elevado deverão ser incentivados a criar códigos de conduta, incluindo mecanismos de governação conexos, destinados a promover a aplicação voluntária de alguns ou de todos os requisitos obrigatórios aplicáveis aos sistemas de IA de risco elevado, adaptados à finalidade prevista dos sistemas e ao menor risco envolvido e tendo em conta as soluções técnicas disponíveis e as boas práticas da indústria, como modelos e cartões de dados. Os prestadores e, se for caso disso, os responsáveis pela implantação de todos os sistemas de IA, de risco elevado ou não, e dos modelos de IA deverão também ser incentivados a aplicar, numa base voluntária, requisitos adicionais relacionados, por exemplo, com os elementos das Orientações Éticas da União para uma IA de Confiança, a sustentabilidade ambiental, as medidas de literacia no domínio da IA, a conceção e o desenvolvimento inclusivos e diversificados de sistemas de IA, incluindo a atenção às pessoas vulneráveis e a acessibilidade das pessoas com deficiência, a participação das partes interessadas com a participação, conforme adequado, das partes interessadas pertinentes, como as organizações empresariais e da sociedade civil, o meio académico, as organizações de investigação, os sindicatos e as organizações de defesa dos consumidores na conceção e desenvolvimento de sistemas de IA, e a diversidade das equipas de desenvolvimento, incluindo o equilíbrio entre homens e mulheres. A fim de assegurar que sejam eficazes, os códigos de conduta voluntários deverão basear-se em objetivos claros e em indicadores-chave de desempenho para medir a consecução desses objetivos. Deverão também ser desenvolvidos de forma inclusiva, conforme adequado, com a participação das partes interessadas pertinentes, como as organizações empresariais e da sociedade civil, o meio académico, as organizações de investigação, os sindicatos e as organizações de defesa dos consumidores. A Comissão pode desenvolver iniciativas, nomeadamente de natureza setorial, para facilitar a redução de obstáculos técnicos que impeçam o intercâmbio transfronteiriço de dados para o desenvolvimento da IA, inclusive em matéria de infraestruturas de acesso aos dados e de interoperabilidade semântica e técnica dos diferentes tipos de dados.
(165)
Η ανάπτυξη συστημάτων ΤΝ εκτός των συστημάτων ΤΝ υψηλού κινδύνου σύμφωνα με τις απαιτήσεις του παρόντος κανονισμού μπορεί να οδηγήσει στην ευρύτερη υιοθέτηση δεοντολογικής και αξιόπιστης ΤΝ στην Ένωση. Οι πάροχοι συστημάτων ΤΝ τα οποία δεν είναι υψηλού κινδύνου θα πρέπει να ενθαρρύνονται να δημιουργούν κώδικες δεοντολογίας, συμπεριλαμβανομένων σχετικών μηχανισμών διακυβέρνησης, με σκοπό την προώθηση της οικειοθελούς εφαρμογής ορισμένων ή όλων των υποχρεωτικών απαιτήσεων που ισχύουν για τα συστήματα ΤΝ υψηλού κινδύνου, προσαρμοσμένων συναρτήσει του επιδιωκόμενου σκοπού των συστημάτων και του χαμηλότερου σχετικού κινδύνου και λαμβάνοντας υπόψη τις διαθέσιμες τεχνικές λύσεις και τις βέλτιστες πρακτικές του κλάδου, όπως τα μοντέλα και οι κάρτες δεδομένων. Οι πάροχοι και, κατά περίπτωση, οι φορείς εφαρμογής όλων των συστημάτων ΤΝ, υψηλού κινδύνου ή μη, και των μοντέλων ΤΝ θα πρέπει επίσης να ενθαρρύνονται να εφαρμόζουν σε προαιρετική βάση πρόσθετες απαιτήσεις που αφορούν, για παράδειγμα, τα στοιχεία των ενωσιακών κατευθυντήριων γραμμών δεοντολογίας για αξιόπιστη ΤΝ, την περιβαλλοντική βιωσιμότητα, μέτρα για τον γραμματισμό στον τομέα της ΤΝ, συμπεριληπτικό και διαφοροποιημένο σχεδιασμό και ανάπτυξη συστημάτων ΤΝ που, μεταξύ άλλων, δίνει προσοχή στα ευάλωτα άτομα και προσβασιμότητα στα άτομα με αναπηρία, τη συμμετοχή συμφεροντούχων με την εμπλοκή, κατά περίπτωση, σχετικών συμφεροντούχων όπως οι επιχειρηματικές οργανώσεις και οι οργανώσεις της κοινωνίας των πολιτών, η ακαδημαϊκή κοινότητα, οι ερευνητικοί οργανισμοί, οι συνδικαλιστικές οργανώσεις και οι ενώσεις προστασίας των καταναλωτών στον σχεδιασμό και την ανάπτυξη συστημάτων ΤΝ, καθώς και την πολυμορφία των ομάδων ανάπτυξης, συμπεριλαμβανομένης της ισόρροπης εκπροσώπησης των φύλων. Οι προαιρετικοί κώδικες δεοντολογίας, για να είναι αποτελεσματικοί, θα πρέπει να βασίζονται σε σαφείς στόχους και βασικούς δείκτες επιδόσεων για τη μέτρηση της επίτευξης των στόχων. Θα πρέπει επίσης να αναπτυχθούν με συμπεριληπτικό τρόπο, κατά περίπτωση, με τη συμμετοχή σχετικών συμφεροντούχων, όπως οι επιχειρηματικές οργανώσεις και οι οργανώσεις της κοινωνίας των πολιτών, η ακαδημαϊκή κοινότητα, οι ερευνητικοί οργανισμοί, οι συνδικαλιστικές οργανώσεις και οι ενώσεις προστασίας των καταναλωτών. Η Επιτροπή μπορεί να αναπτύξει πρωτοβουλίες, μεταξύ άλλων τομεακού χαρακτήρα, για να διευκολύνει τη μείωση των τεχνικών φραγμών που εμποδίζουν τη διασυνοριακή ανταλλαγή δεδομένων για την ανάπτυξη ΤΝ, μεταξύ άλλων όσον αφορά την υποδομή πρόσβασης σε δεδομένα, και τη σημασιολογική και τεχνική διαλειτουργικότητα των διάφορων ειδών δεδομένων.
(166)
Não obstante, é importante que os sistemas de IA relacionados com produtos que não são de risco elevado, nos termos do presente regulamento e que, como tal, não são obrigados a cumprir os requisitos aplicáveis a sistemas de IA de risco elevado, sejam seguros quando são colocados no mercado ou colocados em serviço. A fim de contribuir para alcançar esse objetivo, o Regulamento (UE) 2023/988 do Parlamento Europeu e do Conselho (53) deverá ser aplicado como uma rede de segurança.
(166)
Είναι σημαντικό τα συστήματα ΤΝ που σχετίζονται με προϊόντα τα οποία δεν είναι υψηλού κινδύνου σύμφωνα με τον παρόντα κανονισμό και, ως εκ τούτου, δεν απαιτείται να συμμορφώνονται με τις απαιτήσεις που ορίζονται για τα συστήματα ΤΝ υψηλού κινδύνου να είναι, παρόλα αυτά, ασφαλή κατά τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία. Για να προωθηθεί η επίτευξη αυτού του στόχου, ο κανονισμός (ΕΕ) 2023/988 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (53) θα εφαρμόζεται ως δίχτυ ασφαλείας.
(167)
Para assegurar uma cooperação de confiança e construtiva entre as autoridades competentes a nível da União e nacional, todas as partes envolvidas na aplicação do presente regulamento deverão respeitar a confidencialidade das informações e dos dados obtidos no exercício das suas funções, em conformidade com o direito da União ou o direito nacional. Deverão desempenhar as suas funções e atividades de modo a proteger, em especial, os direitos de propriedade intelectual, as informações comerciais de caráter confidencial e os segredos comerciais, a execução efetiva do presente regulamento, os interesses públicos e nacionais em matéria de segurança, a integridade dos processos penais e administrativos e a integridade das informações classificadas.
(167)
Προκειμένου να διασφαλιστεί η αξιόπιστη και εποικοδομητική συνεργασία των αρμόδιων αρχών σε ενωσιακό και σε εθνικό επίπεδο, όλα τα μέρη που συμμετέχουν στην εφαρμογή του παρόντος κανονισμού θα πρέπει να τηρούν την εμπιστευτικότητα των πληροφοριών και των δεδομένων που λαμβάνονται κατά την εκτέλεση των καθηκόντων τους, σύμφωνα με το ενωσιακό ή το εθνικό δίκαιο. Θα πρέπει να εκτελούν τα καθήκοντα και τις δραστηριότητές τους κατά τρόπο ώστε να προστατεύουν, ειδικότερα, τα δικαιώματα διανοητικής ιδιοκτησίας, τις εμπιστευτικές επιχειρηματικές πληροφορίες και το εμπορικό απόρρητο, την αποτελεσματική εφαρμογή του παρόντος κανονισμού, τα συμφέροντα δημόσιας και εθνικής ασφάλειας, την ακεραιότητα των ποινικών και διοικητικών διαδικασιών και την ακεραιότητα των διαβαθμισμένων πληροφοριών.
(168)
O cumprimento do presente regulamento deverá ter força executória através da imposição de sanções e de outras medidas de execução. Os Estados-Membros deverão tomar todas as medidas necessárias para assegurar a aplicação das disposições do presente regulamento, inclusive estabelecendo sanções efetivas, proporcionadas e dissuasivas aplicáveis em caso de violação dessas disposições, e a respeito do princípio ne bis in idem. A fim de reforçar e harmonizar as sanções administrativas em caso de infração ao presente regulamento, deverão ser estabelecidos os limites máximos para a fixação de coimas para determinadas infrações específicas. Ao avaliar o montante das coimas, os Estados-Membros deverão, em cada caso individual, ter em conta todas as circunstâncias relevantes da situação específica, prestando a devida atenção à natureza, à gravidade e à duração da infração e às suas consequências, bem como à dimensão do prestador, em particular se o prestador for uma PME, incluindo uma empresa em fase de arranque. A Autoridade Europeia para a Proteção de Dados deverá ter competências para impor coimas às instituições, órgãos e organismos da União que se enquadram no âmbito do presente regulamento.
(168)
Η συμμόρφωση με τον παρόντα κανονισμό θα πρέπει να επιβάλλεται μέσω της επιβολής κυρώσεων και άλλων μέτρων επιβολής. Τα κράτη μέλη θα πρέπει να λαμβάνουν όλα τα απαραίτητα μέτρα για να εξασφαλίζουν την εφαρμογή των διατάξεων του παρόντος κανονισμού, μεταξύ άλλων θεσπίζοντας αποτελεσματικές, αναλογικές και αποτρεπτικές κυρώσεις για την παράβασή τους, και για να τηρούν την αρχή ne bis in idem. Προκειμένου να ενισχυθούν και να εναρμονιστούν οι διοικητικές κυρώσεις σε περίπτωση παράβασης του παρόντος κανονισμού, θα πρέπει να προβλέπονται ανώτατα όρια για τον καθορισμό των διοικητικών προστίμων για ορισμένες συγκεκριμένες παραβάσεις. Κατά την εκτίμηση του ύψους των προστίμων, τα κράτη μέλη θα πρέπει, σε κάθε μεμονωμένη περίπτωση, να λαμβάνουν υπόψη όλες τις σχετικές περιστάσεις της συγκεκριμένης κατάστασης, λαμβάνοντας δεόντως υπόψη ιδίως τη φύση, τη σοβαρότητα και τη διάρκεια της παράβασης και των συνεπειών της, καθώς και το μέγεθος του παρόχου, ιδίως εάν ο πάροχος είναι ΜΜΕ, μεταξύ άλλων νεοφυής επιχείρηση. Ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων θα πρέπει να έχει την εξουσία να επιβάλλει πρόστιμα σε θεσμικά και λοιπά όργανα και οργανισμούς της Ένωσης που εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού.
(169)
O cumprimento das obrigações impostas aos prestadores de modelos de IA de finalidade geral nos termos do presente regulamento deverá ter força executória, nomeadamente, através de coimas. Para o efeito, deverão também ser estabelecidos níveis adequados de coimas em caso de infração dessas obrigações, incluindo o incumprimento das medidas solicitadas pela Comissão nos termos do presente regulamento, sob reserva de prazos de prescrição adequados, de acordo com o princípio da proporcionalidade. Todas as decisões tomadas pela Comissão ao abrigo do presente regulamento estão sujeitas a fiscalização pelo Tribunal de Justiça da União Europeia nos termos do TFUE, incluindo a plena jurisdição do Tribunal de Justiça da União Europeia no que diz respeito às sanções nos termos do artigo 261.o do TFUE.
(169)
Η συμμόρφωση με τις υποχρεώσεις των παρόχων μοντέλων ΤΝ γενικού σκοπού οι οποίες επιβάλλονται δυνάμει του παρόντος κανονισμού θα πρέπει να επιβάλλεται, μεταξύ άλλων, μέσω της επιβολής προστίμων. Για τον σκοπό αυτό, θα πρέπει επίσης να καθοριστούν κατάλληλα επίπεδα προστίμων για παράβαση των εν λόγω υποχρεώσεων, συμπεριλαμβανομένης της μη συμμόρφωσης με τα μέτρα που ζητεί η Επιτροπή σύμφωνα με τον παρόντα κανονισμό, με την επιφύλαξη κατάλληλων προθεσμιών παραγραφής σύμφωνα με την αρχή της αναλογικότητας. Όλες οι αποφάσεις που λαμβάνει η Επιτροπή δυνάμει του παρόντος κανονισμού υπόκεινται στον έλεγχο του Δικαστηρίου της Ευρωπαϊκής Ένωσης σύμφωνα με τη ΣΛΕΕ, συμπεριλαμβανομένης της πλήρους δικαιοδοσίας του Δικαστηρίου σχετικά με τις κυρώσεις κατά το άρθρο 261 ΣΛΕΕ.
(170)
O direito da União e o direito nacional já preveem vias de recurso eficazes para as pessoas singulares e coletivas cujos direitos e liberdades sejam afetados negativamente pela utilização de sistemas de IA. Sem prejuízo dessas vias, qualquer pessoa singular ou coletiva que tenha motivos para considerar que houve uma infração do presente regulamento deverá ter o direito de apresentar uma queixa à autoridade de fiscalização do mercado competente.
(170)
Το ενωσιακό και το εθνικό δίκαιο ήδη παρέχουν αποτελεσματικά μέσα έννομης προστασίας σε φυσικά και νομικά πρόσωπα των οποίων τα δικαιώματα και οι ελευθερίες θίγονται δυσμενώς από τη χρήση συστημάτων ΤΝ. Με την επιφύλαξη των εν λόγω μέσων έννομης προστασίας, κάθε φυσικό ή νομικό πρόσωπο που έχει λόγους να θεωρεί ότι έχει γίνει παράβαση του παρόντος κανονισμού θα πρέπει να έχει το δικαίωμα να υποβάλει καταγγελία στην αρμόδια αρχή εποπτείας της αγοράς.
(171)
As pessoas afetadas deverão ter o direito de obter explicações quando uma decisão do responsável pela implantação tenha por base principalmente os resultados de determinados sistemas de IA de risco elevado abrangidos pelo âmbito de aplicação do presente regulamento, e quando essa decisão produzir efeitos jurídicos ou analogamente afetar num grau significativo essas pessoas, de uma forma que considerem ter repercussões negativas na sua saúde, segurança ou direitos fundamentais. Essas explicações deverão ser claras e pertinentes e constituir uma base sobre a qual as pessoas afetadas possam exercer os seus direitos. O direito à obtenção de explicações não deverá aplicar-se à utilização de sistemas de IA para os quais decorram do direito da União ou do direito nacional exceções ou restrições e deverá aplicar-se apenas na medida em que não esteja já previsto no direito da União.
(171)
Τα θιγόμενα πρόσωπα θα πρέπει να έχουν το δικαίωμα να λαμβάνουν επεξήγηση όταν η απόφαση του φορέα εφαρμογής λαμβάνεται κυρίως με βάση τα στοιχεία εξόδου ορισμένων συστημάτων ΤΝ υψηλού κινδύνου που εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού και όταν η εν λόγω απόφαση παράγει έννομα αποτελέσματα ή επηρεάζει σημαντικά με παρόμοιο τρόπο τα θιγόμενα πρόσωπα κατά τρόπο που θεωρούν ότι υφίστανται δυσμενείς συνέπειες για την υγεία, την ασφάλεια ή τα θεμελιώδη δικαιώματά τους. Η επεξήγηση αυτή θα πρέπει να είναι σαφής και ουσιαστική και να παρέχει βάση επί της οποίας τα θιγόμενα πρόσωπα είναι σε θέση να ασκήσουν τα δικαιώματά τους. Το δικαίωμα επεξήγησης δεν θα πρέπει να ισχύει για τη χρήση συστημάτων ΤΝ για τα οποία απορρέουν εξαιρέσεις ή περιορισμοί από το ενωσιακό ή το εθνικό δίκαιο και θα πρέπει να εφαρμόζεται μόνο στον βαθμό που το δικαίωμα αυτό δεν προβλέπεται ήδη από το δίκαιο της Ένωσης.
(172)
As pessoas que atuam como denunciantes de infrações ao presente regulamento deverão ser protegidas ao abrigo do direito da União. A Diretiva (UE) 2019/1937 do Parlamento Europeu e do Conselho (54) deverá, por conseguinte, aplicar-se à denúncia de infrações ao presente regulamento e à proteção das pessoas que denunciam essas infrações.
(172)
Τα πρόσωπα που ενεργούν ως μάρτυρες δημόσιου συμφέροντος σχετικά με παραβιάσεις του παρόντος κανονισμού θα πρέπει να προστατεύονται από το δίκαιο της Ένωσης. Η οδηγία (ΕΕ) 2019/1937 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (54) θα πρέπει συνεπώς να ισχύει για την αναφορά παραβιάσεων του παρόντος κανονισμού και για την προστασία των προσώπων που αναφέρουν τις παραβιάσεις αυτές.
(173)
A fim de assegurar que o regime regulamentar possa ser adaptado sempre que necessário, o poder de adotar atos nos termos do artigo 290.o do TFUE deverá ser delegado na Comissão para que possa alterar as condições nas quais um sistema de IA não é para ser considerado de risco elevado, a lista dos sistemas de IA de risco elevado, as disposições relativas à documentação técnica, o conteúdo da declaração UE de conformidade, as disposições relativas aos procedimentos de avaliação da conformidade, as disposições que estabelecem os sistemas de IA de risco elevado aos quais se deverá aplicar o procedimento de avaliação da conformidade baseado na avaliação do sistema de gestão da qualidade e na avaliação da documentação técnica, o limiar e os parâmetros de referência e os indicadores, inclusive complementando esses parâmetros de referência e indicadores, nas regras para a classificação de modelos de IA de finalidade geral com risco sistémico, os critérios para a designação de modelos de IA de finalidade geral com risco sistémico, a documentação técnica para os prestadores de modelos de IA de finalidade geral e informações em matéria de transparência para os prestadores de modelos de IA de finalidade geral. É particularmente importante que a Comissão proceda às consultas adequadas durante os trabalhos preparatórios, inclusive ao nível de peritos, e que essas consultas sejam conduzidas de acordo com os princípios estabelecidos no Acordo Interinstitucional, de 13 de abril de 2016, sobre legislar melhor (55). Em particular, a fim de assegurar a igualdade de participação na preparação dos atos delegados, o Parlamento Europeu e o Conselho recebem todos os documentos ao mesmo tempo que os peritos dos Estados—Membros e os respetivos peritos têm sistematicamente acesso às reuniões dos grupos de peritos da Comissão que tratem da preparação dos atos delegados.
(173)
Προκειμένου να διασφαλιστεί ότι το κανονιστικό πλαίσιο μπορεί να προσαρμόζεται όταν απαιτείται, θα πρέπει να ανατεθεί στην Επιτροπή η εξουσία έκδοσης πράξεων σύμφωνα με το άρθρο 290 ΣΛΕΕ με τις οποίες θα τροποποιούνται οι προϋποθέσεις υπό τις οποίες ένα σύστημα ΤΝ δεν πρέπει να θεωρείται υψηλού κινδύνου, ο κατάλογος των συστημάτων ΤΝ υψηλού κινδύνου, οι διατάξεις που αφορούν τον τεχνικό φάκελο, το περιεχόμενο της δήλωσης συμμόρφωσης ΕΕ, οι διατάξεις που αφορούν τις διαδικασίες αξιολόγησης της συμμόρφωσης, οι διατάξεις για τον καθορισμό των συστημάτων ΤΝ υψηλού κινδύνου στα οποία θα πρέπει να εφαρμόζεται η διαδικασία αξιολόγησης της συμμόρφωσης βάσει αξιολόγησης του συστήματος διαχείρισης της ποιότητας και αξιολόγησης του τεχνικού φακέλου, το κατώτατο όριο, τα κριτήρια αναφοράς και οι δείκτες, μεταξύ άλλων με τη συμπλήρωση αυτών των κριτηρίων αναφοράς και δεικτών, στους κανόνες ταξινόμησης των μοντέλων ΤΝ γενικού σκοπού με συστημικό κίνδυνο, τα κριτήρια για τον χαρακτηρισμό μοντέλων ΤΝ γενικού σκοπού με συστημικό κίνδυνο, ο τεχνικός φάκελος για τους παρόχους μοντέλων ΤΝ γενικού σκοπού και οι πληροφορίες διαφάνειας για τους παρόχους μοντέλων ΤΝ γενικού σκοπού. Είναι ιδιαίτερα σημαντικό η Επιτροπή να διεξάγει, κατά τις προπαρασκευαστικές της εργασίες, τις κατάλληλες διαβουλεύσεις, μεταξύ άλλων σε επίπεδο εμπειρογνωμόνων, οι οποίες να πραγματοποιούνται σύμφωνα με τις αρχές που ορίζονται στη διοργανική συμφωνία της 13ης Απριλίου 2016 για τη βελτίωση του νομοθετικού έργου (55). Πιο συγκεκριμένα, προκειμένου να εξασφαλιστεί η ίση συμμετοχή στην προετοιμασία των κατ’ εξουσιοδότηση πράξεων, το Ευρωπαϊκό Κοινοβούλιο και το Συμβούλιο λαμβάνουν όλα τα έγγραφα κατά τον ίδιο χρόνο με τους εμπειρογνώμονες των κρατών μελών, και οι εμπειρογνώμονές τους έχουν συστηματικά πρόσβαση στις συνεδριάσεις των ομάδων εμπειρογνωμόνων της Επιτροπής που ασχολούνται με την προετοιμασία κατ’ εξουσιοδότηση πράξεων.
(174)
Tendo em conta a rápida evolução tecnológica e os conhecimentos técnicos necessários para a aplicação efetiva do presente regulamento, a Comissão deverá avaliar e rever o presente regulamento até 2 de agosto de 2029 e, posteriormente, de quatro em quatro anos, e apresentar um relatório ao Parlamento Europeu e ao Conselho. Além disso, tendo em conta as implicações para o âmbito de aplicação do presente regulamento, uma vez por ano a Comissão deverá efetuar uma avaliação da necessidade de alterar a lista de sistemas de IA de risco elevado e a lista de práticas proibidas. Além disso, até 2 de agosto de 2028 e, posteriormente, de quatro em quatro anos, a Comissão deverá avaliar e apresentar um relatório ao Parlamento Europeu e ao Conselho sobre a necessidade de alterar os a lista de domínios de risco elevado do anexo do presente regulamento, os sistemas de IA abrangidos pelas obrigações de transparência, a eficácia do sistema de supervisão e governação e os progressos realizados no desenvolvimento de produtos de normalização sobre o desenvolvimento eficiente do ponto de vista energético de modelos de IA de finalidade geral, incluindo a necessidade de medidas ou ações adicionais. Por fim, até 2 de agosto de 2028 e, posteriormente, de três em três anos, a Comissão deverá avaliar o impacto e a eficácia dos códigos de conduta voluntários, a fim de fomentar a aplicação dos requisitos estabelecidos para sistemas de IA de risco elevado a sistemas de IA que não sejam de risco elevado e, possivelmente, de outros requisitos adicionais para esses sistemas de IA.
(174)
Λόγω των ταχέων τεχνολογικών εξελίξεων και της τεχνικής εμπειρογνωσίας που απαιτείται για την αποτελεσματική εφαρμογή του παρόντος κανονισμού, η Επιτροπή θα πρέπει να αξιολογήσει και να επανεξετάσει τον παρόντα κανονισμό έως τις 2 Αυγούστου 2029 και στη συνέχεια ανά τετραετία και να υποβάλει έκθεση στο Ευρωπαϊκό Κοινοβούλιο και το Συμβούλιο. Επιπλέον, λαμβάνοντας υπόψη τις επιπτώσεις στο πεδίο εφαρμογής του παρόντος κανονισμού, η Επιτροπή θα πρέπει να διενεργεί αξιολόγηση της ανάγκης τροποποίησης του καταλόγου συστημάτων ΤΝ υψηλού κινδύνου και του καταλόγου απαγορευμένων πρακτικών μία φορά ετησίως. Επιπλέον, έως τις 2 Αυγούστου 2028 και στη συνέχεια ανά τετραετία, η Επιτροπή θα πρέπει να αξιολογεί και να υποβάλλει έκθεση στο Ευρωπαϊκό Κοινοβούλιο και στο Συμβούλιο σχετικά με την ανάγκη τροποποίησης του καταλόγου τομέων υψηλού κινδύνου στο παράρτημα του παρόντος κανονισμού, τα συστήματα ΤΝ που εμπίπτουν στο πεδίο εφαρμογής των υποχρεώσεων διαφάνειας, την αποτελεσματικότητα του συστήματος εποπτείας και διακυβέρνησης και την πρόοδο όσον αφορά την ανάπτυξη παραδοτέων τυποποίησης για την ενεργειακά αποδοτική ανάπτυξη μοντέλων ΤΝ γενικού σκοπού, συμπεριλαμβανομένης της ανάγκης για περαιτέρω μέτρα ή δράσεις. Τέλος, έως τις 2 Αυγούστου 2028 και στη συνέχεια ανά τριετία, η Επιτροπή θα πρέπει να αξιολογεί τον αντίκτυπο και την αποτελεσματικότητα των προαιρετικών κωδίκων δεοντολογίας για την προώθηση της εφαρμογής των απαιτήσεων που προβλέπονται για συστήματα ΤΝ υψηλού κινδύνου σε περίπτωση συστημάτων ΤΝ που δεν είναι συστήματα ΤΝ υψηλού κινδύνου και ενδεχομένως άλλων πρόσθετων απαιτήσεων για τέτοια συστήματα ΤΝ.
(175)
A fim de assegurar condições uniformes para a execução do presente regulamento, deverão ser atribuídas competências de execução à Comissão. Essas competências deverão ser exercidas nos termos do Regulamento (UE) n.o 182/2011 do Parlamento Europeu e do Conselho (56).
(175)
Προκειμένου να διασφαλιστούν ενιαίες προϋποθέσεις για την εφαρμογή του παρόντος κανονισμού, θα πρέπει να ανατεθούν στην Επιτροπή εκτελεστικές αρμοδιότητες. Οι εν λόγω αρμοδιότητες θα πρέπει να ασκούνται σύμφωνα με τον κανονισμό (ΕΕ) αριθ. 182/2011 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (56).
(176)
Atendendo a que o objetivo do presente regulamento, a saber, melhorar o funcionamento do mercado interno e promover a adoção de uma IA centrada no ser humano e de confiança, assegurando simultaneamente um elevado nível de proteção da saúde, da segurança e dos direitos fundamentais consagrados na Carta, incluindo a democracia, o Estado de direito e a proteção do ambiente contra os efeitos nocivos dos sistemas de IA na União e apoiando a inovação, não pode ser suficientemente alcançado pelos Estados-Membros mas pode, devido à dimensão ou aos efeitos da ação, ser mais bem alcançado ao nível da União, a União pode tomar medidas em conformidade com o princípio da subsidiariedade consagrado no artigo 5.o do TUE. Em conformidade com o princípio da proporcionalidade consagrado no mesmo artigo, o presente regulamento não excede o necessário para alcançar esse objetivo.
(176)
Δεδομένου ότι ο στόχος του παρόντος κανονισμού, δηλαδή η βελτίωση της λειτουργίας της εσωτερικής αγοράς και η προώθηση της υιοθέτησης ανθρωποκεντρικής και αξιόπιστης ΤΝ, με παράλληλη διασφάλιση υψηλού επιπέδου προστασίας της υγείας, της ασφάλειας, των θεμελιωδών δικαιωμάτων που κατοχυρώνονται στον Χάρτη, συμπεριλαμβανομένης της δημοκρατίας, του κράτους δικαίου και της προστασίας του περιβάλλοντος από τις επιβλαβείς συνέπειες των συστημάτων ΤΝ στην Ένωση, και τη στήριξη της καινοτομίας, δεν μπορεί να επιτευχθεί ικανοποιητικά από τα κράτη μέλη, μπορεί όμως, εξαιτίας της κλίμακας και των επιπτώσεων της δράσης, να επιτευχθεί καλύτερα σε επίπεδο Ένωσης, η Ένωση δύναται να λάβει μέτρα σύμφωνα με την αρχή της επικουρικότητας του άρθρου 5 ΣΕΕ. Σύμφωνα με την αρχή της αναλογικότητας όπως διατυπώνεται στο ίδιο άρθρο, ο παρών κανονισμός δεν υπερβαίνει τα αναγκαία όρια για την επίτευξη του στόχου αυτού.
(177)
A fim de garantir a segurança jurídica, assegurar um período de adaptação adequado para os operadores e evitar perturbações do mercado, nomeadamente assegurando a continuidade da utilização dos sistemas de IA, é conveniente que o presente regulamento só seja aplicável aos sistemas de IA de risco elevado que tenham sido colocados no mercado ou colocados em serviço antes da data geral de aplicação do mesmo, se, a partir dessa data, esses sistemas sofrerem alterações significativas na sua conceção ou finalidade prevista. É conveniente clarificar que, a este respeito, o conceito de alteração significativa deverá ser entendido como equivalente, em substância, ao conceito de modificação substancial, que é utilizado apenas no que diz respeito aos sistemas de IA de risco elevado, nos termos do presente regulamento. A título excecional e à luz da responsabilização pública, os operadores de sistemas de IA que são componentes dos sistemas informáticos de grande escala estabelecidos pelos atos jurídicos enumerados num anexo do presente regulamento e os operadores de sistemas de IA de risco elevado concebidos para serem utilizados por autoridades públicas deverão, respetivamente, tomar as medidas necessárias para cumprir os requisitos do presente regulamento até ao final de 2030 e até 2 de agosto de 2030.
(177)
Για λόγους ασφάλειας δικαίου, προκειμένου να διασφαλιστεί κατάλληλη περίοδος προσαρμογής για τους φορείς εκμετάλλευσης και να αποφευχθεί διαταραχή της αγοράς, μεταξύ άλλων με τη διασφάλιση της συνέχειας της χρήσης των συστημάτων ΤΝ, ενδείκνυται ο παρών κανονισμός να εφαρμόζεται στα συστήματα ΤΝ υψηλού κινδύνου που έχουν διατεθεί στην αγορά ή έχουν τεθεί σε λειτουργία πριν από τη γενική ημερομηνία εφαρμογής του, μόνο εάν, από την ημερομηνία αυτή, τα εν λόγω συστήματα υπόκεινται σε σημαντικές αλλαγές όσον αφορά τον σχεδιασμό ή τον επιδιωκόμενο σκοπό τους. Ενδείκνυται να διευκρινιστεί ότι, στο πλαίσιο αυτό, η έννοια της σημαντικής αλλαγής θα πρέπει να νοείται ως κατ’ ουσίαν ισοδύναμη με την έννοια της ουσιαστικής τροποποίησης, η οποία χρησιμοποιείται όσον αφορά μόνο τα συστήματα ΤΝ υψηλού κινδύνου δυνάμει του παρόντος κανονισμού. Κατ’ εξαίρεση και υπό το πρίσμα της δημόσιας λογοδοσίας, οι φορείς εκμετάλλευσης συστημάτων ΤΝ που αποτελούν κατασκευαστικά στοιχεία των συστημάτων ΤΠ μεγάλης κλίμακας που θεσπίζονται με τις νομικές πράξεις που απαριθμούνται σε παράρτημα του παρόντος κανονισμού και οι φορείς εκμετάλλευσης συστημάτων ΤΝ υψηλού κινδύνου που προορίζονται να χρησιμοποιηθούν από δημόσιες αρχές θα πρέπει, αντίστοιχα, να λάβουν τα αναγκαία μέτρα για να συμμορφωθούν με τις απαιτήσεις του παρόντος κανονισμού έως το τέλος του 2030 και έως τις 2 Αυγούστου 2030.
(178)
Os prestadores de sistemas de IA de risco elevado são incentivados a começar a cumprir, numa base voluntária, as obrigações pertinentes previstas no presente regulamento já durante o período de transição.
(178)
Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου παροτρύνονται να αρχίσουν να συμμορφώνονται, οικειοθελώς, με τις σχετικές υποχρεώσεις του παρόντος κανονισμού ήδη κατά τη διάρκεια της μεταβατικής περιόδου.
(179)
O presente regulamento é aplicável a partir de 2 de agosto de 2026. No entanto, tendo em conta o risco inaceitável associado à utilização da IA de determinadas formas, as proibições bem como as disposições gerais do presente regulamento deverão aplicar-se já a partir de 2 de fevereiro de 2025. Embora o pleno efeito dessas proibições decorra do estabelecimento da governação e da execução do presente regulamento, a antecipação da aplicação das proibições é importante para ter em conta riscos inaceitáveis e para ter efeitos noutros procedimentos, como no direito civil. Além disso, as estruturas relacionadas com a governação e o sistema de avaliação da conformidade deverão estar operacionais antes de 2 de agosto de 2026, pelo que as disposições relativas aos organismos notificados e à estrutura de governação deverão aplicar-se a partir de 2 de agosto de 2025. Tendo em conta o ritmo acelerado da evolução tecnológica e da adoção de modelos de IA de finalidade geral, as obrigações dos prestadores de modelos de IA de finalidade geral deverão aplicar-se a partir de 2 de agosto de 2025. Códigos de práticas deverão estar prontos até 2 de maio de 2025, com vista a permitir que os prestadores demonstrem o cumprimento atempadamente. O Serviço para a IA deverá assegurar que as regras e procedimentos de classificação estejam atualizados à luz da evolução tecnológica. Além disso, os Estados-Membros deverão estabelecer as regras em matéria de sanções, incluindo coimas, e notificá-las à Comissão, bem como assegurar a sua aplicação de forma efetiva e adequada à data de aplicação do presente regulamento. Como tal, as disposições relativas às sanções deverão aplicar-se a partir de 2 de agosto de 2025.
(179)
Ο παρών κανονισμός θα πρέπει να εφαρμόζεται από τις 2 Αυγούστου 2026. Ωστόσο, λαμβανομένου υπόψη του απαράδεκτου κινδύνου που συνδέεται με τη χρήση της ΤΝ από ορισμένες απόψεις, οι απαγορεύσεις καθώς και οι γενικές διατάξεις του παρόντος κανονισμού θα πρέπει να εφαρμόζονται ήδη από τις 2 Φεβρουαρίου 2025. Ενώ η πλήρης ισχύς των απαγορεύσεων αυτών απορρέει από τη θέσπιση της διακυβέρνησης και της επιβολής του παρόντος κανονισμού, η πρόβλεψη της εφαρμογής των απαγορεύσεων είναι σημαντική προκειμένου να ληφθεί υπόψη ο απαράδεκτος κίνδυνος και να υπάρξει αντίκτυπος σε άλλες διαδικασίες, όπως στο αστικό δίκαιο. Εξάλλου, η υποδομή που σχετίζεται με τη διακυβέρνηση και το σύστημα αξιολόγησης της συμμόρφωσης θα πρέπει να έχουν τεθεί σε λειτουργία πριν από τις 2 Αυγούστου 2026, συνεπώς οι διατάξεις για τους κοινοποιημένους οργανισμούς και τη δομή διακυβέρνησης θα πρέπει να εφαρμόζονται από τις 2 Αυγούστου 2025. Λόγω του ταχέος ρυθμού των τεχνολογικών εξελίξεων και της υιοθέτησης μοντέλων ΤΝ γενικού σκοπού, οι υποχρεώσεις για τους παρόχους μοντέλων ΤΝ γενικού σκοπού θα πρέπει να εφαρμόζονται από τις 2 Αυγούστου 2025. Οι κώδικες πρακτικής θα πρέπει να είναι έτοιμοι έως τις 2 Μάϊου 2025, ώστε να μπορούν οι πάροχοι να αποδεικνύουν εγκαίρως τη συμμόρφωση. Η Υπηρεσία ΤΝ θα πρέπει να διασφαλίζει ότι οι κανόνες και οι διαδικασίες ταξινόμησης είναι επικαιροποιημένοι ενόψει των τεχνολογικών εξελίξεων. Επιπλέον, τα κράτη μέλη θα πρέπει να θεσπίσουν και να κοινοποιήσουν στην Επιτροπή κανόνες σχετικά με τις κυρώσεις, συμπεριλαμβανομένων των διοικητικών προστίμων, και να διασφαλίσουν την ορθή και αποτελεσματική εφαρμογή τους κατά την ημερομηνία εφαρμογής του παρόντος κανονισμού. Ως εκ τούτου, οι διατάξεις σχετικά με τις κυρώσεις θα πρέπει να εφαρμόζονται από τις 2 Αυγούστου 2025.
(180)
A Autoridade Europeia para a Proteção de Dados e o Comité Europeu para a Proteção de Dados foram consultados nos termos do artigo 42.o, n.os 1 e 2, do Regulamento (UE) 2018/1725, e emitiram parecer em 18 de junho de 2021,
(180)
Ζητήθηκε, σύμφωνα με το άρθρο 42 παράγραφοι 1 και 2 του κανονισμού (ΕΕ) 2018/1725, η γνώμη του Ευρωπαίου Επόπτη Προστασίας Δεδομένων και του Ευρωπαϊκού Συμβουλίου Προστασίας Δεδομένων, που γνωμοδότησαν από κοινού στις 18 Ιουνίου 2021,
ADOTARAM O PRESENTE REGULAMENTO:
ΕΞΕΔΩΣΑΝ ΤΟΝ ΠΑΡΟΝΤΑ ΚΑΝΟΝΙΣΜΟ:
1. O presente regulamento é aplicável a:
1. Ο παρών κανονισμός εφαρμόζεται σε:
a)
Prestadores que coloquem no mercado ou coloquem em serviço sistemas de IA ou que coloquem no mercado modelos de IA de finalidade geral no território da União, independentemente de estarem estabelecidos ou localizados na União ou num país terceiro;
α)
παρόχους που διαθέτουν στην αγορά ή θέτουν σε λειτουργία συστήματα ΤΝ ή διαθέτουν στην αγορά μοντέλα ΤΝ γενικού σκοπού στην Ένωση, ανεξάρτητα από το αν οι εν λόγω πάροχοι είναι εγκατεστημένοι ή βρίσκονται εντός της Ένωσης ή σε τρίτη χώρα·
b)
Responsáveis pela implantação de sistemas de IA que tenham o seu local de estabelecimento ou que estejam localizados na União;
β)
φορείς εφαρμογής συστημάτων ΤΝ που έχουν τον τόπο εγκατάστασής τους ή βρίσκονται εντός της Ένωσης·
c)
Prestadores e responsáveis pela implantação de sistemas de IA que tenham o seu local de estabelecimento ou estejam localizados num país terceiro, se o resultado produzido pelo sistema de IA for utilizado na União;
γ)
παρόχους και φορείς εφαρμογής συστημάτων ΤΝ που έχουν τον τόπο εγκατάστασής τους ή βρίσκονται σε τρίτη χώρα, όταν τα στοιχεία εξόδου που παράγει το σύστημα ΤΝ χρησιμοποιούνται στην Ένωση·
d)
Importadores e distribuidores de sistemas de IA;
δ)
εισαγωγείς και διανομείς συστημάτων ΤΝ·
e)
Fabricantes de produtos que coloquem no mercado ou coloquem em serviço um sistema de IA juntamente com o seu produto e sob o seu próprio nome ou a sua própria marca;
ε)
κατασκευαστές προϊόντων που διαθέτουν στην αγορά ή θέτουν σε λειτουργία σύστημα ΤΝ μαζί με το προϊόν τους και υπό τη δική τους επωνυμία ή εμπορικό σήμα·
f)
Mandatários dos prestadores que não estejam estabelecidos na União;
στ)
εξουσιοδοτημένους αντιπροσώπους παρόχων, οι οποίοι δεν είναι εγκατεστημένοι στην Ένωση·
g)
Pessoas afetadas localizadas na União.
ζ)
θιγόμενα πρόσωπα που βρίσκονται στην Ένωση.
2. Aos sistemas de IA classificados como sistemas de IA de risco elevado em conformidade com o artigo 6.o, n.o 1, relacionados com os produtos abrangidos pelos atos enumerados na lista da legislação de harmonização da União constante do anexo I, secção B, apenas é aplicável o artigo 6.o, n.o 1, os artigos 102.o a 109.o e o artigo 112.o. O artigo 57.o só é aplicável na medida em que os requisitos aplicáveis aos sistemas de IA de risco elevado previstos no presente regulamento tenham sido integrados na referida legislação de harmonização da União.
2. Σε ό,τι αφορά τα συστήματα ΤΝ που ταξινομούνται ως συστήματα ΤΝ υψηλού κινδύνου σύμφωνα με το άρθρο 6 παράγραφος 1 σχετικά με προϊόντα τα οποία καλύπτονται από την ενωσιακή νομοθεσία εναρμόνισης που παρατίθεται στο παράρτημα I τμήμα Β, εφαρμόζονται μόνο το άρθρο 6 παράγραφος 1, τα άρθρα 102 έως 109 και το άρθρο 112. Το άρθρο 57 εφαρμόζεται μόνο στον βαθμό που οι απαιτήσεις για τα συστήματα ΤΝ υψηλού κινδύνου δυνάμει του παρόντος κανονισμού έχουν ενσωματωθεί στην εν λόγω ενωσιακή νομοθεσία εναρμόνισης.
3. O presente regulamento não se aplica a domínios não abrangidos pelo âmbito de aplicação do direito da União nem afeta, em caso algum, as competências dos Estados-Membros em matéria de segurança nacional, independentemente do tipo de entidade designada pelos Estados-Membros para desempenhar as funções relacionadas com essas competências.
3. Ο παρών κανονισμός δεν εφαρμόζεται σε τομείς εκτός του πεδίου εφαρμογής του ενωσιακού δικαίου και σε κάθε περίπτωση δεν θίγει τις αρμοδιότητες των κρατών μελών όσον αφορά την εθνική ασφάλεια, ανεξάρτητα από το είδος της οντότητας στην οποία τα κράτη μέλη αναθέτουν την εκτέλεση καθηκόντων που σχετίζονται με τις εν λόγω αρμοδιότητες.
O presente regulamento não se aplica aos sistemas de IA se e na medida em que tiverem sido colocados no mercado, colocados em serviço ou utilizados, com ou sem modificações, exclusivamente para finalidades militares, de defesa ou de segurança nacional, independentemente do tipo de entidade que realiza essas atividades.
Ο παρών κανονισμός δεν εφαρμόζεται σε συστήματα ΤΝ εάν και εφόσον διατίθενται στην αγορά, τίθενται σε λειτουργία ή χρησιμοποιούνται με ή χωρίς τροποποίηση αποκλειστικά για στρατιωτικούς και αμυντικούς σκοπούς ή σκοπούς εθνικής ασφάλειας, ανεξάρτητα από το είδος της οντότητας που εκτελεί τις εν λόγω δραστηριότητες.
O presente regulamento não se aplica aos sistemas de IA que não tenham sido colocados no mercado ou colocados em serviço na União, se os seus resultados forem utilizados na União exclusivamente para finalidades militares, de defesa ou de segurança nacional, independentemente do tipo de entidade que realiza essas atividades.
Ο παρών κανονισμός δεν εφαρμόζεται σε συστήματα ΤΝ τα οποία δεν διατίθενται στην αγορά ούτε τίθενται σε λειτουργία στην Ένωση, όταν τα στοιχεία εξόδου χρησιμοποιούνται στην Ένωση αποκλειστικά για στρατιωτικούς και αμυντικούς σκοπούς ή σκοπούς εθνικής ασφάλειας, ανεξάρτητα από το είδος της οντότητας που εκτελεί τις εν λόγω δραστηριότητες.
4. O presente regulamento não se aplica a autoridades públicas de países terceiros, nem a organizações internacionais abrangidas pelo âmbito do presente regulamento nos termos do n.o 1, quando essas autoridades ou organizações usem sistemas de IA no âmbito da cooperação internacional ou de acordos internacionais para efeitos de cooperação policial e judiciária com a União ou com um ou vários Estados-Membros, sob condição de esse país terceiro ou organização internacional apresentar salvaguardas adequadas em matéria de proteção de direitos e liberdades fundamentais das pessoas.
4. Ο παρών κανονισμός δεν εφαρμόζεται σε δημόσιες αρχές τρίτης χώρας ούτε σε διεθνείς οργανισμούς που εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού σύμφωνα με την παράγραφο 1, όταν οι εν λόγω αρχές ή οργανισμοί χρησιμοποιούν συστήματα ΤΝ στο πλαίσιο διεθνούς συνεργασίας ή διεθνών συμφωνιών για την επιβολή του νόμου και τη δικαστική συνεργασία με την Ένωση ή με ένα ή περισσότερα κράτη μέλη, υπό την προϋπόθεση ότι η εν λόγω τρίτη χώρα ή ο εν λόγω διεθνής οργανισμός παρέχει επαρκείς διασφαλίσεις όσον αφορά την προστασία των θεμελιωδών δικαιωμάτων και ελευθεριών των ατόμων.
5. O presente regulamento não afeta a aplicação das disposições relativas à responsabilidade dos prestadores de serviços intermediários estabelecidas no capítulo II do Regulamento (UE) 2022/2065.
5. Ο παρών κανονισμός δεν θίγει την εφαρμογή των διατάξεων σχετικά με την ευθύνη των παρόχων ενδιάμεσων υπηρεσιών, όπως καθορίζονται στο κεφάλαιο II του κανονισμού (ΕΕ) 2022/2065.
6. O presente regulamento não se aplica a sistemas de IA ou modelos de IA, incluindo os respetivos resultados, especificamente desenvolvidos e colocados em serviço exclusivamente para fins de investigação e desenvolvimento científicos.
6. Ο παρών κανονισμός δεν εφαρμόζεται στα συστήματα ΤΝ ή τα μοντέλα ΤΝ, περιλαμβανομένων των στοιχείων εξόδου τους, που αναπτύσσονται ειδικά και τίθενται σε λειτουργία με αποκλειστικό σκοπό την επιστημονική έρευνα και ανάπτυξη.
7. O direito da União em matéria de proteção de dados pessoais, privacidade e confidencialidade das comunicações aplica-se aos dados pessoais tratados em virtude dos direitos e obrigações estabelecidos no presente regulamento. O presente regulamento não afeta o disposto nos Regulamentos (UE) 2016/679 ou (UE) 2018/1725 nem nas Diretivas 2002/58/CE ou (UE) 2016/680, sem prejuízo do disposto no artigo 10.o, n.o 5, e no artigo 59.o do presente regulamento.
7. Στα δεδομένα προσωπικού χαρακτήρα τα οποία υποβάλλονται σε επεξεργασία σε σχέση με τα δικαιώματα και τις υποχρεώσεις που προβλέπονται στον παρόντα κανονισμό εφαρμόζεται το ενωσιακό δίκαιο για την προστασία των δεδομένων προσωπικού χαρακτήρα, της ιδιωτικής ζωής και του απορρήτου των επικοινωνιών. Ο παρών κανονισμός δεν θίγει τον κανονισμό (ΕΕ) 2016/679 ή (ΕΕ) 2018/1725 ή την οδηγία 2002/58/ΕΚ ή (ΕΕ) 2016/680, με την επιφύλαξη του άρθρου 10 παράγραφος 5 και του άρθρου 59 του παρόντος κανονισμού.
8. O presente regulamento não se aplica às atividades de investigação, testagem ou desenvolvimento relativas a sistemas de IA ou modelos de IA antes de serem colocados no mercado ou colocados em serviço. Tais atividades devem ser realizadas em conformidade com direito da União aplicável. A testagem em condições reais não é abrangida por essa exclusão.
8. Ο παρών κανονισμός δεν εφαρμόζεται σε καμία δραστηριότητα έρευνας, δοκιμής ή ανάπτυξης όσον αφορά συστήματα ΤΝ ή μοντέλα ΤΝ πριν από τη διάθεση τους στην αγορά ή τη θέση τους σε λειτουργία. Οι δραστηριότητες αυτές διεξάγονται σύμφωνα με το εφαρμοστέο ενωσιακό δίκαιο. Οι δοκιμές σε πραγματικές συνθήκες δεν καλύπτονται από αυτήν την εξαίρεση.
9. O presente regulamento não prejudica as regras estabelecidas por outros atos legislativos da União relacionados com a proteção dos consumidores e a segurança dos produtos.
9. Ο παρών κανονισμός δεν θίγει τους κανόνες που καθορίζονται σε άλλες ενωσιακές νομικές πράξεις σχετικά με την προστασία των καταναλωτών και την ασφάλεια των προϊόντων.
10. O presente regulamento não se aplica às obrigações dos responsáveis pela implantação que sejam pessoas singulares que utilizam os sistemas de IA no âmbito de uma atividade puramente pessoal de caráter não profissional.
10. Ο παρών κανονισμός δεν εφαρμόζεται στις υποχρεώσεις των φορέων εφαρμογής που είναι φυσικά πρόσωπα και χρησιμοποιούν συστήματα ΤΝ στο πλαίσιο αμιγώς προσωπικής μη επαγγελματικής δραστηριότητας.
11. O presente regulamento não impede a União nem os Estados-Membros de manterem ou introduzirem disposições legislativas, regulamentares ou administrativas mais favoráveis para os trabalhadores em termos de proteção dos seus direitos no que diz respeito à utilização de sistemas de IA por empregadores, nem de incentivarem ou permitirem a aplicação de convenções coletivas mais favoráveis para os trabalhadores.
11. Ο παρών κανονισμός δεν εμποδίζει την Ένωση ή τα κράτη μέλη να διατηρούν ή να θεσπίζουν νομοθετικές, κανονιστικές ή διοικητικές διατάξεις που είναι ευνοϊκότερες για τους εργαζομένους ως προς την προστασία των δικαιωμάτων τους όσον αφορά τη χρήση συστημάτων ΤΝ από τους εργοδότες ή να ενθαρρύνουν ή να επιτρέπουν την εφαρμογή ευνοϊκότερων συλλογικών συμβάσεων για τους εργαζομένους.
12. O presente regulamento não se aplica aos sistemas de IA lançados ao abrigo de licenças gratuitas e de código aberto, a menos que sejam colocados no mercado ou colocados em serviço como sistemas de IA de risco elevado ou que sejam sistemas de IA abrangidos pelo âmbito de aplicação dos artigos 5.o ou 50.o.
12. Ο παρών κανονισμός δεν εφαρμόζεται στα συστήματα ΤΝ που διατίθενται βάσει δωρεάν αδειών ανοικτού κώδικα, εκτός εάν διατίθενται στην αγορά ή τίθενται σε λειτουργία ως συστήματα ΤΝ υψηλού κινδύνου ή ως σύστημα ΤΝ που εμπίπτει στο άρθρο 5 ή 50.
Απαγορευμένες πρακτικές ΤΝ
1. Estão proibidas as seguintes práticas de IA:
1. Απαγορεύονται οι ακόλουθες πρακτικές ΤΝ:
a)
A colocação no mercado, a colocação em serviço ou a utilização de um sistema de IA que empregue técnicas subliminares que contornem a consciência de uma pessoa, ou técnicas manifestamente manipuladoras ou enganadoras, com o objetivo ou o efeito de distorcer substancialmente o comportamento de uma pessoa ou de um grupo de pessoas prejudicando de forma considerável a sua capacidade de tomar uma decisão informada e levando, assim, a que tomem uma decisão que, caso contrário, não tomariam, de uma forma que cause ou seja razoavelmente suscetível de causar danos significativos a essa ou a outra pessoa, ou a um grupo de pessoas;
α)
η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση συστήματος ΤΝ που εφαρμόζει τεχνικές οι οποίες απευθύνονται στο υποσυνείδητο ενός προσώπου υπερκεράζοντας το συνειδητό του ή σκόπιμα χειριστικές ή παραπλανητικές τεχνικές, με σκοπό ή με αποτέλεσμα να στρεβλώσει ουσιωδώς τη συμπεριφορά ενός προσώπου ή μιας ομάδας προσώπων υποβαθμίζοντας σημαντικά την ικανότητά τους να λάβουν τεκμηριωμένη απόφαση, με επακόλουθο να λάβουν μια απόφαση που διαφορετικά δεν θα είχαν λάβει κατά τρόπο που προκαλεί ή εύλογα ενδέχεται να προκαλέσει στο εν λόγω πρόσωπο, σε άλλο πρόσωπο ή σε ομάδα προσώπων σημαντική βλάβη·
b)
A colocação no mercado, a colocação em serviço ou a utilização de um sistema de IA que explore vulnerabilidades de uma pessoa singular ou de um grupo específico de pessoas devidas à sua idade, incapacidade ou situação socioeconómica específica, com o objetivo ou o efeito de distorcer substancialmente o comportamento dessa pessoa ou de uma pessoa pertencente a esse grupo de uma forma que cause ou seja razoavelmente suscetível de causar danos significativos a essa ou a outra pessoa;
β)
η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση συστήματος ΤΝ που εκμεταλλεύεται οποιοδήποτε από τα τρωτά σημεία ενός φυσικού προσώπου ή μιας συγκεκριμένης ομάδας προσώπων λόγω της ηλικίας τους, της αναπηρίας τους ή συγκεκριμένης κοινωνικής ή οικονομικής τους κατάστασης, με σκοπό ή με αποτέλεσμα να στρεβλώσει ουσιωδώς τη συμπεριφορά του εν λόγω προσώπου ή προσώπου που ανήκει στην εν λόγω ομάδα κατά τρόπο που προκαλεί ή εύλογα ενδέχεται να προκαλέσει στο εν λόγω πρόσωπο ή σε άλλο πρόσωπο σημαντική βλάβη·
c)
A colocação no mercado, a colocação em serviço ou a utilização de sistemas de IA para avaliação ou classificação de pessoas singulares ou grupos de pessoas durante um certo período com base no seu comportamento social ou em características de personalidade ou pessoais, conhecidas, inferidas ou previsíveis, em que a classificação social conduza a uma das seguintes situações ou a ambas:
γ)
η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση συστημάτων ΤΝ για την αξιολόγηση ή την ταξινόμηση φυσικών προσώπων ή ομάδων προσώπων για ορισμένο χρονικό διάστημα με βάση την κοινωνική τους συμπεριφορά ή γνωστά, συναγόμενα ή προβλεπόμενα προσωπικά χαρακτηριστικά τους ή χαρακτηριστικά της προσωπικότητάς τους, με κοινωνική βαθμολογία η οποία οδηγεί σε ένα ή σε αμφότερα από τα ακόλουθα:
i)
tratamento prejudicial ou desfavorável de certas pessoas singulares ou grupos de pessoas em contextos sociais não relacionados com os contextos nos quais os dados foram originalmente gerados ou recolhidos,
i)
επιζήμια ή δυσμενή μεταχείριση ορισμένων φυσικών προσώπων ή ομάδων προσώπων σε κοινωνικά πλαίσια τα οποία δεν σχετίζονται με το πλαίσιο στο οποίο παρήχθησαν ή συλλέχθηκαν αρχικά τα δεδομένα·
ii)
tratamento prejudicial ou desfavorável de certas pessoas singulares ou grupos de pessoas que seja injustificado ou desproporcionado face ao seu comportamento social ou à gravidade do mesmo;
ii)
επιζήμια ή δυσμενή μεταχείριση ορισμένων φυσικών προσώπων ή ομάδων προσώπων η οποία είναι αδικαιολόγητη ή δυσανάλογη προς την κοινωνική συμπεριφορά τους ή τη σοβαρότητά της·
d)
A colocação no mercado, a colocação em serviço para esta finalidade específica ou a utilização de um sistema de IA para a realização de avaliações de risco de pessoas singulares a fim de avaliar ou prever o risco de uma pessoa singular cometer uma infração penal, com base exclusivamente na definição de perfis de uma pessoa singular ou na avaliação dos seus traços e características de personalidade. Esta proibição não se aplica aos sistemas de IA utilizados para apoiar a avaliação humana do envolvimento de uma pessoa numa atividade criminosa, que já se baseia em factos objetivos e verificáveis diretamente ligados a uma atividade criminosa;
δ)
η διάθεση στην αγορά, η θέση σε λειτουργία για τον συγκεκριμένο αυτό σκοπό ή η χρήση συστήματος ΤΝ για τη διενέργεια εκτιμήσεων κινδύνου φυσικών προσώπων προκειμένου να εκτιμηθεί ή να προβλεφθεί ο κίνδυνος τέλεσης αξιόποινης πράξης από φυσικό πρόσωπο, με βάση αποκλειστικά την κατάρτιση προφίλ ενός φυσικού προσώπου ή την αξιολόγηση των γνωρισμάτων και των χαρακτηριστικών της προσωπικότητάς του· η απαγόρευση αυτή δεν ισχύει για συστήματα ΤΝ που χρησιμοποιούνται για να υποστηριχθεί η ανθρώπινη αξιολόγηση της συμμετοχής ενός προσώπου σε εγκληματική δραστηριότητα, η οποία βασίζεται ήδη σε αντικειμενικά και επαληθεύσιμα περιστατικά που συνδέονται άμεσα με εγκληματική δραστηριότητα·
e)
A colocação no mercado, a colocação em serviço para esta finalidade específica ou a utilização de sistemas de IA que criam ou expandem bases de dados de reconhecimento facial através da recolha aleatória de imagens faciais a partir da Internet ou de imagens de televisão em circuito fechado (TVCF);
ε)
η διάθεση στην αγορά, η θέση σε λειτουργία για τον συγκεκριμένο αυτό σκοπό ή η χρήση συστημάτων ΤΝ που δημιουργούν ή επεκτείνουν βάσεις δεδομένων αναγνώρισης προσώπου μέσω της μη στοχευμένης εξαγωγής εικόνων προσώπου από το διαδίκτυο ή βίντεο CCTV·
f)
A colocação no mercado, a colocação em serviço para esta finalidade específica ou a utilização de sistemas de IA para inferir emoções de uma pessoa singular no local de trabalho e nas instituições de ensino, exceto nos casos em que o sistema de IA se destine a ser instalado ou introduzido no mercado por razões médicas ou de segurança;
στ)
η διάθεση στην αγορά, η θέση σε λειτουργία για τον συγκεκριμένο αυτό σκοπό ή η χρήση συστημάτων ΤΝ για τη συναγωγή συναισθημάτων φυσικού προσώπου στους τομείς του χώρου εργασίας και των εκπαιδευτικών ιδρυμάτων, εκτός εάν η χρήση του συστήματος ΤΝ προορίζεται να τεθεί σε λειτουργία ή να διατεθεί στην αγορά για ιατρικούς λόγους ή λόγους ασφαλείας·
g)
A colocação no mercado, a colocação em serviço para este fim específico, ou a utilização de sistemas de categorização biométrica que classifiquem individualmente as pessoas singulares com base nos seus dados biométricos para deduzir ou inferir a sua raça, opiniões políticas, filiação sindical, convicções religiosas ou filosóficas, vida sexual ou orientação sexual; esta proibição não abrange rotulagens nem filtragens de conjuntos de dados biométricos legalmente adquiridos, tais como imagens, com base em dados biométricos ou na categorização de dados biométricos no domínio da aplicação da lei;
ζ)
η διάθεση στην αγορά, η θέση σε λειτουργία για τον συγκεκριμένο αυτό σκοπό ή η χρήση συστημάτων βιομετρικής κατηγοριοποίησης που κατηγοριοποιούν με μεμονωμένο τρόπο φυσικά πρόσωπα με βάση τα βιομετρικά δεδομένα τους για να εξαχθούν ή να συναχθούν συμπεράσματα σχετικά με τη φυλή, τα πολιτικά φρονήματα, τη συμμετοχή σε συνδικαλιστική οργάνωση, τις θρησκευτικές ή φιλοσοφικές πεποιθήσεις, τη σεξουαλική ζωή ή τον γενετήσιο προσανατολισμό τους· η απαγόρευση αυτή δεν καλύπτει οποιαδήποτε επισήμανση ή φιλτράρισμα συνόλων βιομετρικών δεδομένων που έχουν αποκτηθεί νόμιμα, όπως εικόνες, με βάση βιομετρικά δεδομένα ή κατηγοριοποίηση βιομετρικών δεδομένων στον τομέα της επιβολής του νόμου·
h)
A utilização de sistemas de identificação biométrica à distância em «tempo real» em espaços acessíveis ao público para efeitos de aplicação da lei, a menos e na medida em que essa utilização seja estritamente necessária para um dos seguintes fins:
η)
η χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο», σε δημόσια προσβάσιμους χώρους για τους σκοπούς της επιβολής του νόμου, εκτός εάν και στον βαθμό που η χρήση αυτή είναι απολύτως αναγκαία για έναν από τους ακόλουθους στόχους:
i)
busca seletiva de vítimas específicas de rapto, tráfico de seres humanos ou exploração sexual de seres humanos, bem como a busca por pessoas desaparecidas,
i)
τη στοχευμένη αναζήτηση συγκεκριμένων θυμάτων απαγωγής, εμπορίας ανθρώπων ή σεξουαλικής εκμετάλλευσης ανθρώπων, καθώς και την αναζήτηση εξαφανισθέντων προσώπων·
ii)
prevenção de uma ameaça específica, substancial e iminente à vida ou à segurança física de pessoas singulares ou de uma ameaça real e atual ou real e previsível de um ataque terrorista,
ii)
την πρόληψη συγκεκριμένης, ουσιαστικής και επικείμενης απειλής κατά της ζωής ή της σωματικής ακεραιότητας φυσικών προσώπων ή πραγματικής και υπαρκτής ή πραγματικής και προβλέψιμης απειλής τρομοκρατικής επίθεσης·
iii)
a localização ou identificação de uma pessoa suspeita de ter cometido uma infração penal, para efeitos da realização de uma investigação criminal, ou instauração de ação penal ou execução de uma sanção penal por alguma das infrações referidas no anexo II e puníveis no Estado-Membro em causa com pena ou medida de segurança privativa de liberdade de duração máxima não inferior a quatro anos.
iii)
τον εντοπισμό ή την ταυτοποίηση προσώπου ύποπτου για την τέλεση αξιόποινης πράξης, για τον σκοπό της διεξαγωγής ποινικής έρευνας ή δίωξης ή εκτέλεσης ποινικής ποινής για αξιόποινες πράξεις που αναφέρονται στο παράρτημα II και τιμωρούνται στο οικείο κράτος μέλος με στερητική της ελευθερίας ποινή ή στερητικό της ελευθερίας μέτρο ασφάλειας ανώτατης διάρκειας τουλάχιστον τεσσάρων ετών.
A alínea h) do primeiro parágrafo não prejudica o disposto no artigo 9.o do Regulamento (UE) 2016/679 no que respeita ao tratamento de dados biométricos para outros fins que não a aplicação da lei.
Το πρώτο εδάφιο στοιχείο η) εφαρμόζεται με την επιφύλαξη του άρθρου 9 του κανονισμού (ΕΕ) 2016/679 για την επεξεργασία βιομετρικών δεδομένων για σκοπούς άλλους από την επιβολή του νόμου.
2. A utilização de sistemas de identificação biométrica à distância «em tempo real» em espaços acessíveis ao público para efeitos de aplicação da lei com vista a alcançar qualquer um dos fins previstos no n.o 1, primeiro parágrafo, alínea h), deve ser implantada para os fins descritos na referida alínea, apenas com a finalidade de confirmar a identidade da pessoa especificamente visada e deve ter em conta os seguintes elementos:
2. Η χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για τους σκοπούς της επιβολής του νόμου, για οποιονδήποτε από τους στόχους που αναφέρονται στην παράγραφο 1 πρώτο εδάφιο στοιχείο η), εφαρμόζεται για τους σκοπούς που καθορίζονται στο εν λόγω στοιχείο, ώστε μόνο να επιβεβαιωθεί η ταυτότητα του ειδικά στοχευόμενου ατόμου, και λαμβάνει υπόψη τα ακόλουθα στοιχεία:
a)
A natureza da situação que origina a possível utilização, em especial a gravidade, a probabilidade e a magnitude dos danos causados na ausência da utilização do sistema;
α)
τη φύση της κατάστασης που οδηγεί στην πιθανή χρήση, ειδικότερα τη σοβαρότητα, την πιθανότητα και το μέγεθος της βλάβης που θα μπορούσε να προκληθεί εάν δεν είχε χρησιμοποιηθεί το σύστημα·
b)
As consequências da utilização do sistema para os direitos e as liberdades de todas as pessoas afetadas, em especial a gravidade, a probabilidade e a magnitude dessas consequências.
β)
τις συνέπειες της χρήσης του συστήματος για τα δικαιώματα και τις ελευθερίες όλων των ενδιαφερόμενων προσώπων, ειδικότερα τη σοβαρότητα, την πιθανότητα και την έκταση των εν λόγω συνεπειών.
Além disso, a utilização de sistemas de identificação biométrica à distância «em tempo real» em espaços acessíveis ao público para efeitos de aplicação da lei com vista a alcançar qualquer um dos objetivos referidos no n.o 1, primeiro parágrafo, alínea h), do presente artigo deve observar salvaguardas e condições necessárias e proporcionadas em conformidade com o direito nacional que autoriza tal utilização, nomeadamente no respeitante a limitações temporais, geográficas e das pessoas visadas. A utilização de um sistema de identificação biométrica à distância «em tempo real» em espaços acessíveis ao público só é autorizada se a autoridade responsáveis pela aplicação da lei tiver concluído uma avaliação de impacto sobre os direitos fundamentais, conforme previsto no artigo 27.o, e tiver registado o sistema na base de dados da UE em conformidade com o artigo 49.o. No entanto, em casos de urgência devidamente justificados, a utilização desses sistemas pode ser iniciada sem o registo na base de dados da UE, desde que esse registo seja concluído sem demora injustificada.
Επιπλέον, η χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για τους σκοπούς της επιβολής του νόμου για οποιονδήποτε από τους στόχους που αναφέρονται στο στοιχείο η) του πρώτου εδαφίου της παραγράφου 1 του παρόντος άρθρου συμμορφώνεται με τις αναγκαίες και αναλογικές διασφαλίσεις και προϋποθέσεις σχετικά με τη χρήση σύμφωνα με το εθνικό δίκαιο που επιτρέπει τη χρήση αυτήν, ιδίως όσον αφορά τους χρονικούς και γεωγραφικούς περιορισμούς, καθώς και τους περιορισμούς σχετικά με πρόσωπα. Η χρήση του συστήματος εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους επιτρέπεται μόνο εάν η αρχή επιβολής του νόμου έχει ολοκληρώσει εκτίμηση επιπτώσεων στα θεμελιώδη δικαιώματα, όπως προβλέπεται στο άρθρο 27, και έχει καταχωρίσει το σύστημα στη βάση δεδομένων της ΕΕ σύμφωνα με το άρθρο 49. Ωστόσο, σε δεόντως αιτιολογημένες επείγουσες περιπτώσεις, η χρήση τέτοιων συστημάτων μπορεί να αρχίσει χωρίς την καταχώριση στη βάση δεδομένων της ΕΕ, υπό την προϋπόθεση ότι η εν λόγω καταχώριση θα ολοκληρωθεί χωρίς αδικαιολόγητη καθυστέρηση.
3. No tocante ao n.o 1, primeiro parágrafo, alínea h), e ao n.o 2, cada utilização de um sistema de identificação biométrica à distância «em tempo real» em espaços acessíveis ao público para efeitos de aplicação da lei está sujeita a autorização prévia concedida por uma autoridade judiciária, ou uma autoridade administrativa independente cuja decisão seja vinculativa, do Estado-Membro no qual a utilização terá lugar, após apresentação de um pedido fundamentado em conformidade com as regras de execução previstas no direito nacional a que se refere o n.o 5. Contudo, numa situação de urgência devidamente justificada, a utilização do sistema pode ser iniciada sem uma autorização, desde que essa autorização seja solicitada sem demora injustificada, o mais tardar no prazo de 24 horas. Se o pedido de autorização for rejeitado, a utilização do sistema é suspensa com efeito imediato, e todos os dados, bem como os resultados dessa utilização, são imediatamente descartados e eliminados.
3. Για τους σκοπούς της παραγράφου 1 πρώτο εδάφιο στοιχείο η) και της παραγράφου 2, κάθε χρήση συστήματος εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για τους σκοπούς της επιβολής του νόμου υπόκειται σε προηγούμενη άδεια που χορηγείται από δικαστική αρχή ή ανεξάρτητη διοικητική αρχή της οποίας η απόφαση είναι δεσμευτική του κράτους μέλους στο οποίο πρόκειται να πραγματοποιηθεί η χρήση και η οποία εκδίδεται κατόπιν αιτιολογημένου αιτήματος και σύμφωνα με τους λεπτομερείς κανόνες του εθνικού δικαίου που αναφέρονται στην παράγραφο 5. Ωστόσο, σε δεόντως αιτιολογημένες επείγουσες περιπτώσεις, η χρήση του εν λόγω συστήματος μπορεί να αρχίσει χωρίς άδεια, υπό την προϋπόθεση ότι η εν λόγω άδεια θα ζητηθεί χωρίς αδικαιολόγητη καθυστέρηση και το αργότερο εντός εικοσιτεσσάρων ωρών. Εάν η εν λόγω άδεια απορριφθεί, η χρήση διακόπτεται αμέσως και το σύνολο των δεδομένων, καθώς και τα αποτελέσματα και τα στοιχεία εξόδου αυτής της χρήσης, απορρίπτονται και διαγράφονται αμέσως.
A autoridade judiciária competente, ou uma autoridade administrativa independente cuja decisão seja vinculativa, apenas concede a autorização se considerar, com base em dados objetivos ou indícios claros que lhe tenham sido apresentados, que a utilização do sistema de identificação biométrica à distância «em tempo real» em apreço é necessária e proporcionada para alcançar um dos objetivos especificados no n.o 1, primeiro parágrafo, alínea h), conforme identificado no pedido, e, em especial, se limita ao estritamente necessário no que diz respeito ao período de tempo e ao âmbito geográfico e pessoal. Ao decidir sobre o pedido, a autoridade judiciária ou administrativa competente tem em conta os elementos referidos no n.o 2. As decisões que produzam efeitos jurídicos adversos sobre uma pessoa não podem ser tomadas exclusivamente com base nos resultados saídos do sistema de identificação biométrica à distância «em tempo real».
Η αρμόδια δικαστική αρχή ή η ανεξάρτητη διοικητική αρχή της οποίας η απόφαση είναι δεσμευτική χορηγεί την άδεια μόνο εφόσον έχει πειστεί, με βάση αντικειμενικά στοιχεία ή σαφείς ενδείξεις που της προσκομίζονται, ότι η χρήση του εν λόγω συστήματος εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» είναι αναγκαία και αναλογική για την επίτευξη ενός από τους στόχους που καθορίζονται στην παράγραφο 1 πρώτο εδάφιο στοιχείο η), όπως προσδιορίζονται στο αίτημα, και, ιδίως, περιορίζεται σε ό,τι είναι απολύτως αναγκαίο όσον αφορά τη χρονική περίοδο, καθώς και το γεωγραφικό και προσωπικό πεδίο εφαρμογής. Κατά τη λήψη απόφασης σχετικά με το αίτημα, η εν λόγω αρχή λαμβάνει υπόψη τα στοιχεία που αναφέρονται στην παράγραφο 2. Δεν επιτρέπεται να λαμβάνεται απόφαση που έχει δυσμενείς νομικές συνέπειες για ένα πρόσωπο αποκλειστικά με βάση τα στοιχεία εξόδου του συστήματος εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο».
4. Sem prejuízo do disposto no n.o 3, cada utilização de um sistema de identificação biométrica à distância «em tempo real» em espaços acessíveis ao público para efeitos de aplicação da lei é notificada à autoridade de fiscalização do mercado pertinente e à autoridade nacional de proteção de dados, em conformidade com as regras nacionais a que se refere o n.o 5. A notificação deve conter, no mínimo, as informações especificadas no n.o 6 e não pode incluir dados operacionais sensíveis.
4. Με την επιφύλαξη της παραγράφου 3, κάθε χρήση συστήματος εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου κοινοποιείται στην αρμόδια αρχή εποπτείας της αγοράς και στην εθνική αρχή προστασίας δεδομένων σύμφωνα με τους εθνικούς κανόνες που αναφέρονται στην παράγραφο 5. Η κοινοποίηση περιέχει τουλάχιστον τις πληροφορίες που καθορίζονται στην παράγραφο 6 και δεν περιλαμβάνει ευαίσθητα επιχειρησιακά δεδομένα.
5. Um Estado-Membro pode decidir prever a possibilidade de autorizar total ou parcialmente a utilização de sistemas de identificação biométrica à distância «em tempo real» em espaços acessíveis ao público para fins de aplicação da lei dentro dos limites e sob as condições enumeradas no n.o 1, primeiro parágrafo, alínea h), e nos n.os 2 e 3. Os Estados-Membros em causa estabelecem na sua legislação nacional as regras de execução aplicáveis ao pedido, à emissão e ao exercício das autorizações a que se refere o n.o 3, bem como à supervisão e comunicação das mesmas. Essas regras especificam igualmente para quais dos objetivos enumerados no n.o 1, primeiro parágrafo, alínea h), inclusive para quais das infrações penais referidas na subalínea iii) da referida alínea, as autoridades competentes podem ser autorizadas a usar esses sistemas para efeitos de aplicação da lei. Os Estados-Membros notificam essas regras à Comissão o mais tardar 30 dias após a sua adoção. Os Estados-Membros podem introduzir, em conformidade com o direito da União, legislação mais restritiva sobre a utilização de sistemas de identificação biométrica à distância.
5. Ένα κράτος μέλος μπορεί να αποφασίσει να προβλέψει τη δυνατότητα πλήρους ή μερικής έγκρισης της χρήσης συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για τους σκοπούς της επιβολής του νόμου εντός των ορίων και υπό τις προϋποθέσεις που απαριθμούνται στην παράγραφο 1 πρώτο εδάφιο στοιχείο η) και στις παραγράφους 2 και 3. Τα ενδιαφερόμενα κράτη μέλη θεσπίζουν στο εθνικό τους δίκαιο τους αναγκαίους λεπτομερείς κανόνες σχετικά με την υποβολή αιτήματος για τις άδειες που αναφέρονται στην παράγραφο 3, την έκδοση και τη χρήση αυτών, καθώς και την εποπτεία αυτών και την υποβολή αναφορών όσον αφορά αυτές τις άδειες. Οι εν λόγω κανόνες προσδιορίζουν επίσης σε σχέση με ποιους από τους στόχους που απαριθμούνται στην παράγραφο 1 πρώτο εδάφιο στοιχείο η), μεταξύ άλλων για ποια από τις αξιόποινες πράξεις που αναφέρονται στο στοιχείο η) σημείο iii) αυτού, μπορεί να επιτραπεί στις αρμόδιες αρχές να χρησιμοποιούν τα εν λόγω συστήματα για τους σκοπούς της επιβολής του νόμου. Τα κράτη μέλη κοινοποιούν στην Επιτροπή τους εν λόγω κανόνες το αργότερο τριάντα ημέρες μετά την έγκρισή τους. Τα κράτη μέλη μπορούν να θεσπίζουν, σύμφωνα με το ενωσιακό δίκαιο, πιο περιοριστική νομοθεσία σχετικά με τη χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης.
6. As autoridades nacionais de fiscalização do mercado e as autoridades nacionais de proteção de dados dos Estados-Membros que tenham sido notificadas da utilização de sistemas de identificação biométrica à distância «em tempo real» em espaços acessíveis ao público para efeitos de aplicação da lei nos termos do n.o 4 apresentam à Comissão relatórios anuais sobre essa utilização. Para o efeito, a Comissão disponibiliza aos Estados-Membros e às autoridades nacionais de fiscalização do mercado e de proteção de dados um modelo que inclua informações sobre o número de decisões tomadas pelas autoridades judiciárias competentes, ou por uma autoridade administrativa independente cuja decisão seja vinculativa, após os pedidos de autorização nos termos do n.o 3, bem como sobre o seu resultado.
6. Οι εθνικές αρχές εποπτείας της αγοράς και οι εθνικές αρχές προστασίας δεδομένων των κρατών μελών στις οποίες έχει κοινοποιηθεί η χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου δυνάμει της παραγράφου 4 υποβάλλουν στην Επιτροπή ετήσιες εκθέσεις σχετικά με την εν λόγω χρήση. Για τον σκοπό αυτόν, η Επιτροπή παρέχει στα κράτη μέλη και στις εθνικές αρχές εποπτείας της αγοράς και προστασίας δεδομένων υπόδειγμα, το οποίο περιλαμβάνει πληροφορίες σχετικά με τον αριθμό των αποφάσεων που λαμβάνονται από τις αρμόδιες δικαστικές αρχές ή από ανεξάρτητη διοικητική αρχή της οποίας η απόφαση είναι δεσμευτική, κατόπιν αιτημάτων αδειοδότησης σύμφωνα με την παράγραφο 3, και το αποτέλεσμά τους.
7. A Comissão publica relatórios anuais sobre a utilização de sistemas de identificação biométrica à distância em tempo real em espaços acessíveis ao público para efeitos de aplicação da lei, baseados em dados agregados nos Estados-Membros com base nos relatórios anuais a que se refere o n.o 6. Esses relatórios anuais não podem incluir dados operacionais sensíveis sobre as atividades de aplicação da lei conexas.
7. Η Επιτροπή δημοσιεύει ετήσιες εκθέσεις σχετικά με τη χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου, με βάση ομαδοποιημένα δεδομένα στα κράτη μέλη, οι οποίες βασίζονται στις ετήσιες εκθέσεις που αναφέρονται στην παράγραφο 6. Οι εν λόγω ετήσιες εκθέσεις δεν περιλαμβάνουν ευαίσθητα επιχειρησιακά δεδομένα των σχετικών δραστηριοτήτων επιβολής του νόμου.
8. O presente artigo não afeta as proibições aplicáveis sempre que uma prática de IA infrinja outra legislação da União.
8. Το παρόν άρθρο δεν θίγει τις απαγορεύσεις που ισχύουν όταν μια πρακτική ΤΝ παραβαίνει άλλους κανόνες ενωσιακού δικαίου.
Regras para a classificação de sistemas de IA de risco elevado
Κανόνες ταξινόμησης για συστήματα ΤΝ υψηλού κινδύνου
1. Independentemente de a colocação no mercado ou a colocação em serviço de um sistema de IA ser feita separadamente dos produtos a que se referem as alíneas a) e b), esse sistema de IA é considerado de risco elevado sempre que se estejam preenchidas ambas as seguintes condições:
1. Ανεξαρτήτως του αν ένα σύστημα ΤΝ διατίθεται στην αγορά ή τίθεται σε λειτουργία ανεξάρτητα από τα προϊόντα που αναφέρονται στα στοιχεία α) και β), το συγκεκριμένο σύστημα ΤΝ θεωρείται υψηλού κινδύνου όταν πληρούνται αμφότερες οι ακόλουθες προϋποθέσεις:
a)
O sistema de IA destina-se a ser utilizado como um componente de segurança de um produto ou o sistema de IA é, ele próprio, um produto abrangido pelos atos enumerados na lista da legislação de harmonização da União constante do anexo I;
α)
το σύστημα ΤΝ προορίζεται να χρησιμοποιηθεί ως κατασκευαστικό στοιχείο ασφάλειας ενός προϊόντος ή το σύστημα ΤΝ είναι το ίδιο προϊόν που καλύπτεται από την ενωσιακή νομοθεσία εναρμόνισης που παρατίθεται στο παράρτημα Ι·
b)
O produto cujo componente de segurança nos termos da alínea a) é o sistema de IA, ou o próprio sistema de IA enquanto produto, tem de ser sujeito a uma avaliação da conformidade por terceiros com vista à sua colocação no mercado ou colocação em serviço nos termos dos atos enumerados na lista da legislação de harmonização da União constante do anexo I.
β)
το προϊόν του οποίου κατασκευαστικό στοιχείο ασφάλειας σύμφωνα με το στοιχείο α) είναι το σύστημα ΤΝ ή το ίδιο το σύστημα ΤΝ ως προϊόν απαιτείται να υποβληθεί σε αξιολόγηση της συμμόρφωσης από τρίτο μέρος με σκοπό τη διάθεση του εν λόγω προϊόντος στην αγορά ή τη θέση του σε λειτουργία, δυνάμει της ενωσιακής νομοθεσίας εναρμόνισης που παρατίθεται στο παράρτημα I.
2. Além dos sistemas de IA de risco elevado a que se refere o n.o 1, os sistemas de IA a que se refere o anexo III são também considerados de risco elevado.
2. Πέραν των συστημάτων ΤΝ υψηλού κινδύνου που αναφέρονται στην παράγραφο 1, θεωρούνται υψηλού κινδύνου και τα συστήματα ΤΝ που αναφέρονται στο παράρτημα III.
3. Em derrogação do n.o 2, um sistema de IA a que se refere o Anexo III não pode ser considerado de risco elevado se não representar um risco significativo de danos para a saúde, a segurança ou os direitos fundamentais das pessoas singulares, nomeadamente se não influenciarem de forma significativa o resultado da tomada de decisões.
3. Κατά παρέκκλιση από την παράγραφο 2, σύστημα ΤΝ που αναφέρεται στο παράρτημα ΙΙΙ δεν θεωρείται υψηλού κινδύνου, εάν δεν ενέχει σημαντικό κίνδυνο βλάβης για την υγεία, την ασφάλεια ή τα θεμελιώδη δικαιώματα φυσικών προσώπων, μεταξύ άλλων μην επηρεάζοντας ουσιωδώς το αποτέλεσμα της λήψης αποφάσεων.
O primeiro parágrafo aplica-se nos casos em que estiverem preenchidas quaisquer das seguintes condições:
Το πρώτο εδάφιο εφαρμόζεται όταν πληρούται οποιαδήποτε από τις ακόλουθες προϋποθέσεις:
a)
O sistema de IA destina-se a desempenhar uma tarefa processual restrita;
α)
το σύστημα ΤΝ προορίζεται να εκτελεί μια περιορισμένη διαδικαστική εργασία·
b)
O sistema de IA destina-se a melhorar o resultado de uma atividade humana previamente concluída;
β)
το σύστημα ΤΝ προορίζεται να βελτιώνει το αποτέλεσμα μιας ανθρώπινης δραστηριότητας που έχει ολοκληρωθεί προηγουμένως·
c)
O sistema de IA destina-se a detetar padrões de tomada de decisões ou desvios em relação a padrões de tomada de decisões anteriores e não se destina a substituir nem influenciar uma avaliação humana previamente concluída, sem que se proceda a uma verificação adequada por um ser humano; ou
γ)
το σύστημα ΤΝ προορίζεται να εντοπίζει μοτίβα λήψης αποφάσεων ή αποκλίσεις από προηγούμενα μοτίβα λήψης αποφάσεων και δεν αποσκοπεί να αντικαταστήσει ή να επηρεάσει την προηγουμένως ολοκληρωθείσα ανθρώπινη αξιολόγηση, χωρίς κατάλληλη ανθρώπινη επανεξέταση· ή
d)
O sistema de IA destina-se a executar uma tarefa preparatória no contexto de uma avaliação pertinente para efeitos dos casos de utilização enumerados no anexo III.
δ)
το σύστημα ΤΝ προορίζεται να εκτελέσει προπαρασκευαστικό καθήκον αξιολόγησης για τους σκοπούς των περιπτώσεων χρήσης που απαριθμούνται στο παράρτημα III.
Não obstante o primeiro parágrafo, os sistemas de IA a que se refere o anexo III devem ser sempre considerados de risco elevado nos casos em que executarem a definição de perfis de pessoas singulares.
Κατά παρέκκλιση από το πρώτο εδάφιο, ένα σύστημα ΤΝ που αναφέρεται στο παράρτημα III θεωρείται σε κάθε περίπτωση υψηλού κινδύνου, όταν το σύστημα ΤΝ διενεργεί κατάρτιση προφίλ φυσικών προσώπων.
4. Um prestador que considere que um dos sistemas de IA a que se refere o anexo III não é de risco elevado deve documentar a sua avaliação antes de esse sistema ser colocado no mercado ou colocado em serviço. Esse prestador está sujeito à obrigação de registo prevista no artigo 49.o, n.o 2. A pedido das autoridades nacionais competentes, o prestador deve facultar a documentação da avaliação.
4. Ο πάροχος που θεωρεί ότι ένα σύστημα ΤΝ το οποίο αναφέρεται στο παράρτημα III δεν είναι υψηλού κινδύνου, τεκμηριώνει την αξιολόγησή του πριν από τη διάθεση του εν λόγω συστήματος στην αγορά ή τη θέση του σε λειτουργία. Ο εν λόγω πάροχος υπόκειται στην υποχρέωση καταχώρισης που καθορίζεται στο άρθρο 49 παράγραφος 2. Κατόπιν αιτήματος των εθνικών αρμόδιων αρχών, ο πάροχος παρέχει την τεκμηρίωση της αξιολόγησης.
5. Após consulta do Comité Europeu para a Inteligência Artificial («Comité»), e o mais tardar até 2 de fevereiro de 2026, a Comissão disponibiliza orientações que especifiquem a aplicação prática do presente artigo em conformidade com o artigo 96.o, juntamente com uma lista exaustiva de exemplos práticos de casos de utilização de sistemas de IA de risco elevado e de risco não elevado.
5. Η Επιτροπή, κατόπιν διαβούλευσης με το Ευρωπαϊκό Συμβούλιο Τεχνητής Νοημοσύνης («Συμβούλιο Τεχνητής Νοημοσύνης») και το αργότερο τη 2α Φεβρουαρίου 2026, παρέχει κατευθυντήριες γραμμές που εξειδικεύουν την πρακτική εφαρμογή του παρόντος άρθρου σε ευθυγράμμιση με το άρθρο 96, καθώς και ολοκληρωμένο κατάλογο πρακτικών παραδειγμάτων περιπτώσεων χρήσης συστημάτων ΤΝ υψηλού και μη υψηλού κινδύνου.
6. A Comissão fica habilitada a adotar atos delegados os termos do artigo 97.o para alterar o n.o 3, segundo parágrafo, do presente artigo no que diz respeito a aditar novas condições para além das que aí se encontram previstas, ou a alterar essas condições, se existirem provas concretas e fiáveis da existência de sistemas de IA que sejam abrangidos pelo âmbito de aplicação do anexo III mas não apresentem um risco significativo de danos para a saúde, a segurança ou os direitos fundamentais das pessoas singulares.
6. Ανατίθεται στην Επιτροπή η εξουσία να εκδίδει κατ’ εξουσιοδότηση πράξεις σύμφωνα με το άρθρο 97 προκειμένου να τροποποιεί το δεύτερο εδάφιο της παραγράφου 3 του παρόντος άρθρου προσθέτοντας νέες προϋποθέσεις σε εκείνες που καθορίζονται εκεί ή τροποποιώντας τες, όταν υπάρχουν συγκεκριμένα και αξιόπιστα στοιχεία για την ύπαρξη συστημάτων ΤΝ που εμπίπτουν στο πεδίο εφαρμογής του παραρτήματος III αλλά δεν ενέχουν σημαντικό κίνδυνο βλάβης για την υγεία, την ασφάλεια ή τα θεμελιώδη δικαιώματα φυσικών προσώπων.
7. A Comissão adota atos delegados nos termos do artigo 97.o no que diz respeito à alteração do n.o 3, segundo parágrafo, do presente artigo, para suprimir qualquer uma das condições aí previstas, caso existam provas concretas e fiáveis de que tal é necessário para manter o nível de proteção da saúde, da segurança e dos direitos fundamentais previsto no presente regulamento.
7. Η Επιτροπή εκδίδει κατ’ εξουσιοδότηση πράξεις σύμφωνα με το άρθρο 97 προκειμένου να τροποποιεί το δεύτερο εδάφιο της παραγράφου 3 του παρόντος άρθρου διαγράφοντας οποιαδήποτε από τις προϋποθέσεις που καθορίζονται εκεί, όταν υπάρχουν συγκεκριμένα και αξιόπιστα στοιχεία ότι αυτό είναι αναγκαίο για τη διατήρηση του επιπέδου προστασίας της υγείας, της ασφάλειας και των θεμελιωδών δικαιωμάτων που προβλέπονται στον παρόντα κανονισμό.
8. Qualquer alteração às condições estabelecidas no n.o 3, segundo parágrafo, adotadas nos termos dos n.os 6 e 7 do presente artigo, não pode diminuir o nível geral de proteção da saúde, da segurança e dos direitos fundamentais previsto no presente regulamento e assegura a coerência com os atos delegados adotados nos termos do artigo 7.o, n.o 1, e tem em conta a evolução tecnológica e do mercado.
8. Οποιαδήποτε τροποποίηση των προϋποθέσεων που καθορίζονται στην παράγραφο 3 δεύτερο εδάφιο η οποία εκδίδεται σύμφωνα με τις παραγράφους 6 και 7 του παρόντος άρθρου δεν μειώνει το συνολικό επίπεδο προστασίας της υγείας, της ασφάλειας και των θεμελιωδών δικαιωμάτων που προβλέπονται στον παρόντα κανονισμό και διασφαλίζει τη συνοχή με τις κατ’ εξουσιοδότηση πράξεις που εκδίδονται σύμφωνα με το άρθρο 7 παράγραφος 1 και λαμβάνει υπόψη τις εξελίξεις της αγοράς και της τεχνολογίας.
Cumprimento dos requisitos
Συμμόρφωση με τις απαιτήσεις
1. Os sistemas de IA de risco elevado devem cumprir os requisitos estabelecidos na presente secção, tendo em conta a sua finalidade prevista, bem como o estado da arte geralmente reconhecido em matéria de IA e de tecnologias conexas. O sistema de gestão de riscos a que se refere o artigo 9.o deve ser tido em conta para efeitos de cumprimento desses requisitos.
1. Τα συστήματα ΤΝ υψηλού κινδύνου συμμορφώνονται με τις απαιτήσεις που καθορίζονται στο παρόν τμήμα, λαμβανομένου υπόψη του επιδιωκόμενου σκοπού τους, καθώς και της γενικώς αναγνωρισμένης τεχνολογίας αιχμής για την ΤΝ και τις συναφείς με την ΤΝ τεχνολογίες. Το σύστημα διαχείρισης κινδύνου που αναφέρεται στο άρθρο 9 λαμβάνεται υπόψη κατά τη διασφάλιση της συμμόρφωσης με τις εν λόγω απαιτήσεις.
2. Sempre que um produto contenha um sistema de IA ao qual se aplicam os requisitos do presente regulamento, bem como os requisitos dos atos enumerados na lista da legislação de harmonização da União constante do anexo I, secção A, os prestadores são responsáveis por assegurar que o seu produto está em plena conformidade com todos os requisitos aplicáveis ao abrigo da legislação de harmonização da União. Ao assegurar a conformidade dos sistemas de IA de risco elevado a que se refere o n.o 1 com os requisitos estabelecidos na presente secção, e a fim de assegurar a coerência, evitar duplicações e minimizar os encargos adicionais, os prestadores têm a possibilidade de integrar, conforme adequado, os processos de testagem e comunicação de informações necessários, bem como as informações e a documentação necessárias, por si disponibilizados relativamente ao seu produto na documentação e nos procedimentos já existentes exigidos pelos atos enumerados na lista da legislação de harmonização da União constante do anexo I, secção A.
2. Όταν ένα προϊόν περιέχει σύστημα ΤΝ, στο οποίο εφαρμόζονται οι απαιτήσεις του παρόντος κανονισμού, καθώς και οι απαιτήσεις της ενωσιακής νομοθεσίας εναρμόνισης που παρατίθεται στο παράρτημα I τμήμα Α, οι πάροχοι οφείλουν να διασφαλίζουν ότι το προϊόν τους συμμορφώνεται πλήρως με όλες τις εφαρμοστέες απαιτήσεις της ενωσιακής νομοθεσίας εναρμόνισης. Για να εξασφαλιστεί η συμμόρφωση των συστημάτων ΤΝ υψηλού κινδύνου που αναφέρονται στην παράγραφο 1 με τις απαιτήσεις που καθορίζονται στο παρόν τμήμα και προκειμένου να διασφαλιστεί η συνέπεια, να αποφευχθεί η επικάλυψη και να ελαχιστοποιηθούν οι πρόσθετες επιβαρύνσεις, οι πάροχοι έχουν την επιλογή να ενσωματώνουν, κατά περίπτωση, τις αναγκαίες διαδικασίες δοκιμών και υποβολής αναφορών, τις πληροφορίες και την τεκμηρίωση που παρέχουν σχετικά με το προϊόν τους στην τεκμηρίωση και στις διαδικασίες που υφίστανται ήδη και απαιτούνται βάσει της ενωσιακής νομοθεσίας εναρμόνισης που παρατίθεται στο παράρτημα I τμήμα Α.
Sistema de gestão de riscos
Σύστημα διαχείρισης κινδύνου
1. Deve ser criado, implantado, documentado e mantido um sistema de gestão de riscos em relação aos sistemas de IA de risco elevado.
1. Θεσπίζεται, υλοποιείται, τεκμηριώνεται και διατηρείται σύστημα διαχείρισης κινδύνου σε σχέση με τα συστήματα ΤΝ υψηλού κινδύνου.
2. O sistema de gestão de riscos é entendido como um processo iterativo contínuo, planeado e executado ao longo de todo o ciclo de vida de um sistema de IA de risco elevado, que requer revisões e atualizações sistemáticas regulares. Deve compreender as seguintes etapas:
2. Ως σύστημα διαχείρισης κινδύνου νοείται μια συνεχής επαναληπτική διαδικασία που σχεδιάζεται και διατρέχει όλη τη διάρκεια του κύκλου ζωής ενός συστήματος ΤΝ υψηλού κινδύνου και η οποία απαιτεί τακτική συστηματική επανεξέταση και επικαιροποίηση. Περιλαμβάνει τις ακόλουθες ενέργειες:
a)
A identificação e análise dos riscos conhecidos e razoavelmente previsíveis que o sistema de IA de risco elevado pode representar para a saúde, a segurança ou os direitos fundamentais quando é utilizado em conformidade com a sua finalidade prevista;
α)
τον προσδιορισμό και την ανάλυση των γνωστών και ευλόγως προβλέψιμων κινδύνων που μπορεί να ενέχει το σύστημα ΤΝ υψηλού κινδύνου για την υγεία, την ασφάλεια ή τα θεμελιώδη δικαιώματα, όταν το σύστημα ΤΝ υψηλού κινδύνου χρησιμοποιείται σύμφωνα με τον επιδιωκόμενο σκοπό του·
b)
A estimativa e avaliação dos riscos que podem surgir quando o sistema de IA de risco elevado é utilizado em conformidade com a sua finalidade prevista e em condições de utilização indevida razoavelmente previsível;
β)
την εκτίμηση και την αξιολόγηση των κινδύνων που ενδέχεται να προκύψουν όταν το σύστημα ΤΝ υψηλού κινδύνου χρησιμοποιείται σύμφωνα με τον επιδιωκόμενο σκοπό του και υπό συνθήκες ευλόγως προβλέψιμης κακής χρήσης·
c)
A avaliação de outros riscos que possam surgir, com base na análise dos dados recolhidos por meio do sistema de acompanhamento pós-comercialização a que se refere o artigo 72.o;
γ)
την αξιολόγηση άλλων δυνητικών κινδύνων με βάση την ανάλυση των δεδομένων που συλλέγονται από το σύστημα παρακολούθησης μετά τη διάθεση στην αγορά που αναφέρεται στο άρθρο 72·
d)
A adoção de medidas adequadas e específicas de gestão de riscos concebidas para fazer face aos riscos identificados nos termos da alínea a).
δ)
τη θέσπιση κατάλληλων και στοχευμένων μέτρων διαχείρισης κινδύνου για την αντιμετώπιση των κινδύνων που εντοπίζονται κατ’ εφαρμογή του στοιχείου α).
3. O presente artigo faz referência apenas aos riscos que possam ser razoavelmente atenuados ou eliminados aquando do desenvolvimento ou da conceção do sistema de IA de risco elevado ou por meio da prestação de informações técnicas adequadas.
3. Το παρόν άρθρο αφορά μόνο όσους κινδύνους μπορούν εύλογα να μετριαστούν ή να εξαλειφθούν μέσω της ανάπτυξης ή του σχεδιασμού του συστήματος ΤΝ υψηλού κινδύνου ή της παροχής επαρκών τεχνικών πληροφοριών.
4. As medidas de gestão de riscos a que se refere o n.o 2, alínea d), devem ter em devida consideração os efeitos e a eventual interação resultantes da aplicação combinada dos requisitos estabelecidos na presente secção, com vista a minimizar os riscos de forma mais eficaz e, ao mesmo tempo, alcançar um equilíbrio adequado na aplicação das medidas destinadas a cumprir esses requisitos.
4. Τα μέτρα διαχείρισης κινδύνου που αναφέρονται στην παράγραφο 2 στοιχείο δ) λαμβάνουν δεόντως υπόψη τις επιπτώσεις και την ενδεχόμενη αλληλεπίδραση που προκύπτουν από τη συνδυασμένη εφαρμογή των απαιτήσεων που καθορίζονται στο παρόν τμήμα, με στόχο να ελαχιστοποιηθούν αποτελεσματικότερα οι κίνδυνοι, επιτυγχάνοντας παράλληλα κατάλληλη ισορροπία κατά την εφαρμογή των μέτρων για την εκπλήρωση των απαιτήσεων αυτών.
5. As medidas de gestão de riscos a que se refere o n.o 2, alínea d), devem ser de molde a fazer com que o risco residual pertinente associado a cada perigo, bem como o risco residual global dos sistemas de IA de risco elevado, sejam considerados aceitáveis.
5. Τα μέτρα διαχείρισης κινδύνου που αναφέρονται στην παράγραφο 2 στοιχείο δ) είναι τέτοια, ώστε ο σχετικός υπολειπόμενος κίνδυνος που συνδέεται με κάθε παράγοντα κινδύνου, καθώς και ο συνολικός υπολειπόμενος κίνδυνος των συστημάτων ΤΝ υψηλού κινδύνου, να κρίνονται αποδεκτοί.
Ao identificar as medidas de gestão de riscos mais apropriadas, deve assegurar-se o seguinte:
Κατά τον προσδιορισμό των καταλληλότερων μέτρων διαχείρισης κινδύνου, εξασφαλίζονται τα εξής:
a)
Eliminação ou redução dos riscos identificados e avaliados nos termos do n.o 2, tanto quanto tecnicamente viável através da conceção e do desenvolvimento adequados do sistema de IA de risco elevado;
α)
εξάλειψη ή μείωση των κινδύνων που εντοπίζονται και αξιολογούνται κατ’ εφαρμογή της παραγράφου 2, στον βαθμό που αυτό είναι τεχνικά εφικτό, μέσω επαρκούς σχεδιασμού και ανάπτυξης του συστήματος ΤΝ υψηλού κινδύνου·
b)
Se for caso disso, adoção de medidas de atenuação e controlo adequadas para fazer face aos riscos que não possam ser eliminados;
β)
κατά περίπτωση, εφαρμογή κατάλληλων μέτρων μετριασμού και ελέγχου για την αντιμετώπιση κινδύνων που δεν μπορούν να εξαλειφθούν·
c)
Prestação das informações exigidas nos termos do artigo 13.o e, se for caso disso, formação dos responsáveis pela implantação.
γ)
παροχή των πληροφοριών που απαιτούνται δυνάμει του άρθρου 13 και, κατά περίπτωση, κατάρτιση των φορέων εφαρμογής.
Com vista à eliminação ou redução de riscos relacionados com a utilização do sistema de IA de risco elevado, há que ter em consideração o conhecimento técnico, a experiência, a educação e a formação que se pode esperar que o responsável pela implantação possua e o contexto presumível em que o sistema se destina a ser utilizado.
Για να εξαλειφθούν ή να μειωθούν οι κίνδυνοι που σχετίζονται με τη χρήση του συστήματος ΤΝ υψηλού κινδύνου, λαμβάνονται δεόντως υπόψη οι τεχνικές γνώσεις, η πείρα, η εκπαίδευση, η κατάρτιση που αναμένονται από τον φορέα εφαρμογής και το πιθανό πλαίσιο στο οποίο προορίζεται να χρησιμοποιηθεί το σύστημα.
6. Os sistemas de IA de risco elevado são sujeitos a testes a fim de se identificarem as medidas de gestão de riscos específicas mais adequadas. Os testes asseguram que os sistemas de IA de risco elevado funcionam de forma coerente com a sua finalidade prevista e cumprem os requisitos estabelecidos na presente secção.
6. Τα συστήματα ΤΝ υψηλού κινδύνου υποβάλλονται σε δοκιμή για τον σκοπό του προσδιορισμού των πιο κατάλληλων και στοχευμένων μέτρων διαχείρισης κινδύνου. Η δοκιμή διασφαλίζει ότι τα συστήματα ΤΝ υψηλού κινδύνου λειτουργούν με συνέπεια για τον επιδιωκόμενο σκοπό τους και ότι συμμορφώνονται με τις απαιτήσεις που καθορίζονται στο παρόν τμήμα.
7. Os procedimentos de teste podem incluir a testagem em condições reais, em conformidade com o artigo 60.
7. Οι διαδικασίες δοκιμής μπορούν να περιλαμβάνουν τη διενέργεια δοκιμών σε πραγματικές συνθήκες σύμφωνα με το άρθρο 60.
8. Os testes dos sistemas de IA de risco elevado devem ser realizados, consoante apropriado, em qualquer momento durante o processo de desenvolvimento e, em qualquer caso, antes da colocação no mercado ou da colocação em serviço. Os testes devem ser realizados com base em parâmetros e limiares probabilísticos previamente definidos que sejam adequados à finalidade prevista do sistema de IA de risco elevado.
8. Η δοκιμή συστημάτων ΤΝ υψηλού κινδύνου διενεργείται, κατά περίπτωση, σε οποιοδήποτε στάδιο της διαδικασίας ανάπτυξης και, σε κάθε περίπτωση, πριν από τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία. Η δοκιμή πραγματοποιείται βάσει προκαθορισμένων δεικτών μέτρησης και πιθανολογικών ορίων που είναι κατάλληλα για τον επιδιωκόμενο σκοπό του συστήματος ΤΝ υψηλού κινδύνου.
9. Ao implementarem o sistema de gestão de riscos tal como previsto nos n.os 1 a 7, os prestadores ponderam se, tendo em conta a sua finalidade prevista, existe a probabilidade de o sistema de IA de risco elevado ter repercussões negativas sobre pessoas com menos de 18 anos e, se for o caso, outros grupos vulneráveis.
9. Κατά την εφαρμογή του συστήματος διαχείρισης κινδύνου όπως προβλέπεται στις παραγράφους 1 έως 7, οι πάροχοι εξετάζουν αν, δεδομένου του επιδιωκόμενου σκοπού του, το σύστημα ΤΝ υψηλού κινδύνου είναι πιθανό να έχει δυσμενείς επιπτώσεις σε άτομα ηλικίας κάτω των 18 ετών και, κατά περίπτωση, σε άλλες ευάλωτων ομάδες.
10. Para os prestadores de sistemas de IA de risco elevado sujeitos a requisitos relativos aos processos internos de gestão de riscos nos termos da legislação setorial aplicável da União, os aspetos descritos nos n.os 1 a 9 podem fazer parte dos procedimentos de gestão de riscos estabelecidos nos termos dessa legislação ou ser combinados com esses procedimentos.
10. Για τους παρόχους συστημάτων ΤΝ υψηλού κινδύνου που υπόκεινται σε απαιτήσεις σχετικά με τις εσωτερικές διαδικασίες διαχείρισης κινδύνου βάσει άλλων συναφών διατάξεων του ενωσιακού δικαίου, οι πτυχές που προβλέπονται στις παραγράφους 1 έως 9 μπορούν να αποτελούν μέρος των διαδικασιών διαχείρισης κινδύνου που θεσπίζονται σύμφωνα με το εν λόγω δίκαιο ή να συνδυάζονται με αυτές.
Dados e governação de dados
Δεδομένα και διακυβέρνηση δεδομένων
1. Os sistemas de IA de risco elevado que utilizem técnicas que envolvam o treino de modelos com dados devem ser desenvolvidos com base em conjuntos de dados de treino, validação e teste que cumpram os critérios de qualidade a que se referem os n.os 2 a 5, sempre que esses conjuntos de dados sejam utilizados.
1. Τα συστήματα ΤΝ υψηλού κινδύνου τα οποία χρησιμοποιούν τεχνικές οι οποίες περιλαμβάνουν την εκπαίδευση μοντέλων ΤΝ με δεδομένα αναπτύσσονται βάσει συνόλων δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής που πληρούν τα αναφερόμενα στις παραγράφους 2 έως 5 κριτήρια, όποτε χρησιμοποιούνται τέτοια σύνολα δεδομένων.
2. Os conjuntos de dados de treino, validação e teste devem estar sujeitos a práticas de governação e gestão de dados adequadas à finalidade prevista do sistema de IA. Essas práticas dizem nomeadamente respeito:
2. Τα σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής υπόκεινται σε πρακτικές διακυβέρνησης και διαχείρισης δεδομένων οι οποίες ενδείκνυνται για τον επιδιωκόμενο σκοπό του συστήματος ΤΝ υψηλού κινδύνου. Οι πρακτικές αυτές αφορούν ειδικότερα:
a)
Às escolhas de conceção pertinentes;
α)
τις σχετικές επιλογές σχεδιασμού·
b)
A processos de recolha de dados e à origem dos dados e, no caso dos dados pessoais, à finalidade original da recolha desses dados;
β)
διαδικασίες συλλογής δεδομένων και την προέλευση των δεδομένων και, στην περίπτωση δεδομένων προσωπικού χαρακτήρα, τον αρχικό σκοπό της συλλογής δεδομένων·
c)
Às operações de tratamento necessárias para a preparação dos dados, tais como anotação, rotulagem, limpeza, atualização, enriquecimento e agregação;
γ)
σχετικές εργασίες επεξεργασίας της προετοιμασίας των δεδομένων, όπως σχολιασμός, επισήμανση, καθαρισμός, επικαιροποίηση, εμπλουτισμός και ομαδοποίηση·
d)
À formulação dos pressupostos, nomeadamente no que diz respeito às informações que os dados devem medir e representar;
δ)
τη διατύπωση παραδοχών, ιδίως όσον αφορά τις πληροφορίες τις οποίες πρέπει να μετρούν και να αντιπροσωπεύουν τα δεδομένα·
e)
À avaliação da disponibilidade, quantidade e adequação dos conjuntos de dados que são necessários;
ε)
αξιολόγηση της διαθεσιμότητας, της ποσότητας και της καταλληλότητας των απαιτούμενων συνόλων δεδομένων·
f)
Ao exame para detetar eventuais enviesamentos suscetíveis de afetar a saúde e a segurança das pessoas, de ter repercussões negativas nos direitos fundamentais ou de resultar em discriminações proibidas pelo direito da União, especialmente quando os resultados obtidos a partir dos dados influenciam os dados de entrada para operações futuras;
στ)
εξέταση έναντι πιθανών περιπτώσεων μεροληψίας που ενδέχεται να επηρεάσουν την υγεία και την ασφάλεια των προσώπων, να έχουν αρνητικό αντίκτυπο στα θεμελιώδη δικαιώματα ή να οδηγήσουν σε διακρίσεις που απαγορεύονται βάσει του ενωσιακού δικαίου, ιδίως όταν τα δεδομένα εξόδου επηρεάζουν τα δεδομένα εισόδου για μελλοντικές εργασίες·
g)
Às medidas adequadas para detetar, prevenir e atenuar eventuais enviesamentos identificados nos termos da alínea f);
ζ)
κατάλληλα μέτρα για την ανίχνευση, την πρόληψη και τον μετριασμό πιθανών περιπτώσεων μεροληψίας που εντοπίζονται σύμφωνα με το στοιχείο στ)·
h)
À identificação de lacunas ou deficiências pertinentes dos dados que impeçam o cumprimento do presente regulamento e de possíveis soluções para as mesmas.
η)
τον εντοπισμό σχετικών κενών ή ελλείψεων δεδομένων που παρεμποδίζουν τη συμμόρφωση με τον παρόντα κανονισμό και τον τρόπο με τον οποίο μπορούν να αντιμετωπιστούν τα εν λόγω κενά και ελλείψεις.
3. Os conjuntos de dados de treino, validação e teste devem ser pertinentes, suficientemente representativos e, tanto quanto possível, isentos de erros e completos, tendo em conta a finalidade prevista. Devem ter as propriedades estatísticas adequadas, nomeadamente, quando aplicável, no tocante às pessoas ou grupos de pessoas em relação às quais se destina a utilização do sistema de IA de risco elevado. Essas características dos conjuntos de dados podem ser satisfeitas a nível de conjuntos de dados individuais ou de uma combinação dos mesmos.
3. Τα σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής είναι συναφή, επαρκώς αντιπροσωπευτικά και, στον μέγιστο δυνατό βαθμό, πλήρη και χωρίς σφάλματα έναντι του επιδιωκόμενου σκοπού. Έχουν τις κατάλληλες στατιστικές ιδιότητες, μεταξύ άλλων, κατά περίπτωση, όσον αφορά τα πρόσωπα ή τις ομάδες προσώπων σε σχέση με τα οποία προορίζεται να χρησιμοποιηθεί το σύστημα ΤΝ υψηλού κινδύνου. Αυτά τα χαρακτηριστικά των συνόλων δεδομένων μπορούν να πληρούνται σε επίπεδο μεμονωμένων συνόλων δεδομένων ή συνδυασμού αυτών.
4. Os conjuntos de dados devem ter em conta, na medida do necessário para a finalidade prevista, as características ou os elementos que são idiossincráticos do enquadramento geográfico, contextual, comportamental ou funcional específico no qual o sistema de IA de risco elevado se destina a ser utilizado.
4. Τα σύνολα δεδομένων λαμβάνουν υπόψη, στον βαθμό που απαιτείται από τον επιδιωκόμενο σκοπό, τα χαρακτηριστικά ή τα στοιχεία που προσιδιάζουν σε συγκεκριμένο γεωγραφικό, συγκυριακό, συμπεριφορικό ή λειτουργικό περιβάλλον εντός του οποίου προορίζεται να χρησιμοποιηθεί το σύστημα ΤΝ υψηλού κινδύνου.
5. Na medida do estritamente necessário para assegurar a deteção e a correção de enviesamentos em relação aos sistemas de IA de risco elevado em conformidade com o n.o 2, alíneas f) e g), do presente artigo, os prestadores desses sistemas podem, excecionalmente, tratar categorias especiais de dados pessoais, sob reserva de garantias adequadas dos direitos e liberdades fundamentais das pessoas singulares. Para além das disposições estabelecidas nos Regulamentos (UE) 2016/679 e (UE) 2018/1725 e na Diretiva (UE) 2016/680, todas as seguintes condições para que esse tratamento ocorra devem ser cumpridas:
5. Στον βαθμό που είναι απολύτως αναγκαίο για τον σκοπό της διασφάλισης της ανίχνευσης και της διόρθωσης περιπτώσεων μεροληψίας σε σχέση με τα συστήματα ΤΝ υψηλού κινδύνου σύμφωνα με τα στοιχεία στ) και ζ) της παραγράφου 2 του παρόντος άρθρου, οι πάροχοι των εν λόγω συστημάτων μπορούν κατ’ εξαίρεση να επεξεργάζονται ειδικές κατηγορίες δεδομένων προσωπικού χαρακτήρα, με την επιφύλαξη κατάλληλων διασφαλίσεων για τα θεμελιώδη δικαιώματα και τις ελευθερίες των φυσικών προσώπων. Πέραν των διατάξεων που καθορίζονται στους κανονισμούς (ΕΕ) 2016/679 και (ΕΕ) 2018/1725 και στην οδηγία (ΕΕ) 2016/680, για την εν λόγω επεξεργασία πρέπει να πληρούνται όλες οι ακόλουθες προϋποθέσεις:
a)
A deteção e a correção de enviesamentos não podem ser eficazmente efetuadas através do tratamento de outros dados, nomeadamente dados sintéticos ou anonimizados;
α)
η ανίχνευση και η διόρθωση περιπτώσεων μεροληψίας δεν μπορούν να επιτευχθούν αποτελεσματικά με την επεξεργασία άλλων δεδομένων, περιλαμβανομένων των συνθετικών ή των ανωνυμοποιημένων δεδομένων·
b)
As categorias especiais de dados pessoais estão sujeitas a limitações técnicas em matéria de reutilização dos dados pessoais e às mais avançadas medidas de segurança e preservação da privacidade, incluindo a pseudonimização;
β)
οι ειδικές κατηγορίες δεδομένων προσωπικού χαρακτήρα υπόκεινται σε τεχνικούς περιορισμούς όσον αφορά την περαιτέρω χρήση των δεδομένων προσωπικού χαρακτήρα και σε προηγμένα μέτρα ασφάλειας και προστασίας της ιδιωτικής ζωής, περιλαμβανομένης της ψευδωνυμοποίησης·
c)
As categorias especiais de dados pessoais estão sujeitas a medidas destinadas a assegurar que os dados pessoais tratados estejam seguros, protegidos e sujeitos a garantias adequadas, incluindo controlos rigorosos e uma documentação criteriosa do acesso a esses dados, a fim de evitar uma utilização abusiva e assegurar que apenas tenham acesso a esses dados as pessoas autorizadas e com as devidas obrigações de confidencialidade;
γ)
οι ειδικές κατηγορίες δεδομένων προσωπικού χαρακτήρα υπόκεινται σε μέτρα που διασφαλίζουν ότι τα δεδομένα προσωπικού χαρακτήρα που υποβάλλονται σε επεξεργασία είναι ασφαλισμένα, προστατεύονται και υπόκεινται σε κατάλληλες διασφαλίσεις, περιλαμβανομένων αυστηρών ελέγχων και τεκμηρίωσης της πρόσβασης, ώστε να αποφεύγεται η κακή χρήση και να διασφαλίζεται ότι μόνο εξουσιοδοτημένα πρόσωπα έχουν πρόσβαση