Notice: This is a Juremy.com rendered version. Only European Union documents published in the Official Journal of the European Union are deemed authentic. Juremy accepts no responsibility or liability whatsoever with regard to the content of this document.
Base data © European Union, 1998-2024. Postprocessed and marked-up data © 2019-2024 Juremy.com, all rights reserved.
Render version: 0.1, render date: 2024-07-24
Επίσημη Εφημερίδα
της Ευρωπαϊκής Ένωσης
EL
Официален вестник
на Европейския съюз
BG
Σειρά L
Серия L
2024/1689
12.7.2024
2024/1689
12.7.2024
ΚΑΝΟΝΙΣΜΟΣ (ΕΕ) 2024/1689 ΤΟΥ ΕΥΡΩΠΑΪΚΟΥ ΚΟΙΝΟΒΟΥΛΙΟΥ ΚΑΙ ΤΟΥ ΣΥΜΒΟΥΛΙΟΥ
РЕГЛАМЕНТ (ЕС) 2024/1689 НА ЕВРОПЕЙСКИЯ ПАРЛАМЕНТ И НА СЪВЕТА
της 13ης Ιουνίου 2024
от 13 юни 2024 година
για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη και την τροποποίηση των κανονισμών (ΕΚ) αριθ. 300/2008, (ΕΕ) αριθ. 167/2013, (ΕΕ) αριθ. 168/2013, (ΕΕ) 2018/858, (ΕΕ) 2018/1139 και (ΕΕ) 2019/2144 και των οδηγιών 2014/90/ΕΕ, (ΕΕ) 2016/797 και (ΕΕ) 2020/1828 (κανονισμός για την τεχνητή νοημοσύνη)
за установяване на хармонизирани правила относно изкуствения интелект и за изменение на регламенти (ЕО) № 300/2008, (ЕС) № 167/2013, (ЕС) № 168/2013, (ЕС) 2018/858, (ЕС) 2018/1139 и (ЕС) 2019/2144 и директиви 2014/90/ЕС, (ЕС) 2016/797 и (ЕС) 2020/1828 (Акт за изкуствения интелект)
(Κείμενο που παρουσιάζει ενδιαφέρον για τον ΕΟΧ)
(текст от значение за ЕИП)
ΤΟ ΕΥΡΩΠΑΪΚΟ ΚΟΙΝΟΒΟΥΛΙΟ ΚΑΙ ΤΟ ΣΥΜΒΟΥΛΙΟ ΤΗΣ ΕΥΡΩΠΑΪΚΗΣ ΕΝΩΣΗΣ,
ЕВРОПЕЙСКИЯТ ПАРЛАМЕНТ И СЪВЕТЪТ НА ЕВРОПЕЙСКИЯ СЪЮЗ,
Έχοντας υπόψη τη Συνθήκη για τη λειτουργία της Ευρωπαϊκής Ένωσης, και ιδίως τα άρθρα 16 και 114,
като взеха предвид Договора за функционирането на Европейския съюз, и по-специално членове 16 и 114 от него,
Έχοντας υπόψη την πρόταση της Ευρωπαϊκής Επιτροπής,
като взеха предвид предложението на Европейската комисия,
Κατόπιν διαβίβασης του σχεδίου νομοθετικής πράξης στα εθνικά κοινοβούλια,
след предаване на проекта на законодателния акт на националните парламенти,
Έχοντας υπόψη τη γνώμη της Ευρωπαϊκής Οικονομικής και Κοινωνικής Επιτροπής (1),
като взеха предвид становището на Европейския икономически и социален комитет (1),
Έχοντας υπόψη τη γνώμη της Ευρωπαϊκής Κεντρικής Τράπεζας (2),
като взеха предвид становището на Европейската централна банка (2),
Έχοντας υπόψη τη γνώμη της Επιτροπής των Περιφερειών (3),
като взеха предвид становището на Комитета на регионите (3),
Αποφασίζοντας σύμφωνα με τη συνήθη νομοθετική διαδικασία (4),
в съответствие с обикновената законодателна процедура (4),
Εκτιμώντας τα ακόλουθα:
като имат предвид, че:
(1)
Σκοπός του παρόντος κανονισμού είναι να βελτιωθεί η λειτουργία της εσωτερικής αγοράς με τη θέσπιση ενιαίου νομικού πλαισίου, ιδίως για την ανάπτυξη, τη διάθεση στην αγορά, τη θέση σε λειτουργία και τη χρήση συστημάτων τεχνητής νοημοσύνης («συστήματα ΤΝ») εντός της Ένωσης, κατά τρόπο σύμφωνο με τις αξίες της Ένωσης, να προαχθεί η υιοθέτηση ανθρωποκεντρικής και αξιόπιστης τεχνητής νοημοσύνης (ΤΝ), με παράλληλη εξασφάλιση υψηλού επιπέδου προστασίας της υγείας, της ασφάλειας και των θεμελιωδών δικαιωμάτων, όπως κατοχυρώνονται στον Χάρτη των Θεμελιωδών Δικαιωμάτων της Ευρωπαϊκής Ένωσης («Χάρτης»), συμπεριλαμβανομένης της δημοκρατίας, του κράτους δικαίου και της προστασίας του περιβάλλοντος, να παρασχεθεί προστασία από τις επιβλαβείς επιπτώσεις των συστημάτων ΤΝ στην Ένωση και να στηριχθεί η καινοτομία. Ο παρών κανονισμός εξασφαλίζει την ελεύθερη διασυνοριακή κυκλοφορία αγαθών και υπηρεσιών που βασίζονται στην ΤΝ, εμποδίζοντας έτσι τα κράτη μέλη να επιβάλλουν περιορισμούς στην ανάπτυξη, την εμπορία και τη χρήση συστημάτων ΤΝ, εκτός εάν αυτό επιτρέπεται ρητά από τον παρόντα κανονισμό.
(1)
Целта на настоящия регламент е да се подобри функционирането на вътрешния пазар чрез установяване на единна правна рамка, по-специално за разработването, пускането на пазара, пускането в действие и използването на системи с изкуствен интелект (наричани по-долу „системи с ИИ“) в Съюза, в съответствие с ценностите на Съюза, да се насърчи навлизането на ориентиран към човека и надежден изкуствен интелект (ИИ), като същевременно се гарантира високо равнище на защита на здравето, безопасността и основните права, залегнали в Хартата на основните права на Европейския съюз (наричана по-долу „Хартата“), включително демокрацията, принципите на правовата държава и опазването на околната среда, да се осигури защита срещу вредните последици от системите с ИИ в Съюза и да се подкрепят иновациите. С настоящия регламент се гарантира свободното трансгранично движение на стоки и услуги, основани на ИИ, като по този начин не се допуска държавите членки да налагат ограничения върху разработването, предлагането на пазара и използването на системи с ИИ, освен ако това не е изрично разрешено с настоящия регламент.
(2)
Ο παρών κανονισμός θα πρέπει να εφαρμόζεται κατά τρόπο σύμφωνο προς τις αξίες της Ένωσης όπως κατοχυρώνονται στον Χάρτη, διευκολύνοντας την προστασία των φυσικών προσώπων, των επιχειρήσεων, της δημοκρατίας, του κράτους δικαίου και του περιβάλλοντος, ενισχύοντας παράλληλα την καινοτομία και την απασχόληση και καθιστώντας την Ένωση πρωτοπόρο στην υιοθέτηση αξιόπιστης ΤΝ.
(2)
Настоящият регламент следва да се прилага в съответствие с ценностите на Съюза, залегнали в Хартата, като се улеснява защитата на физическите лица, предприятията, демокрацията, принципите на правовата държава и опазването на околната среда и същевременно се насърчават иновациите и заетостта и се спомага за превръщането на Съюза в лидер във възприемането на надежден ИИ.
(3)
Τα συστήματα ΤΝ μπορούν εύκολα να εφαρμοστούν σε ευρύ φάσμα κλάδων της οικονομίας και σε πολλούς τομείς της κοινωνίας, μεταξύ άλλων και σε διασυνοριακό επίπεδο, μπορούν δε να κυκλοφορούν εύκολα σε ολόκληρη την Ένωση. Ορισμένα κράτη μέλη έχουν ήδη μελετήσει το ενδεχόμενο θέσπισης εθνικών κανόνων για να διασφαλίσουν ότι η ΤΝ είναι αξιόπιστη και ασφαλής, καθώς και ότι αναπτύσσεται και χρησιμοποιείται με τρόπο σύμφωνο προς τις υποχρεώσεις όσον αφορά τα θεμελιώδη δικαιώματα. Η θέσπιση αποκλινόντων εθνικών κανόνων ενδέχεται να οδηγήσει στον κατακερματισμό της εσωτερικής αγοράς και να μειώσει την ασφάλεια δικαίου για τους φορείς εκμετάλλευσης που αναπτύσσουν, εισάγουν ή χρησιμοποιούν συστήματα ΤΝ. Ως εκ τούτου, θα πρέπει να εξασφαλιστεί ένα συνεκτικό και υψηλό επίπεδο προστασίας σε ολόκληρη την Ένωση, προκειμένου να επιτευχθεί αξιόπιστη ΤΝ, ενώ θα πρέπει να προληφθούν αποκλίσεις που εμποδίζουν την ελεύθερη κυκλοφορία, την καινοτομία, την εφαρμογή και την υιοθέτηση συστημάτων ΤΝ και συναφών προϊόντων και υπηρεσιών εντός της εσωτερικής αγοράς με τον καθορισμό ενιαίων υποχρεώσεων για τους φορείς εκμετάλλευσης και με τη διασφάλιση της ενιαίας προστασίας του υπέρτερου δημόσιου συμφέροντος και των δικαιωμάτων των προσώπων σε ολόκληρη την εσωτερική αγορά βάσει του άρθρου 114 της Συνθήκης για τη λειτουργία της Ευρωπαϊκής Ένωσης (ΣΛΕΕ). Στον βαθμό που ο παρών κανονισμός περιέχει ειδικούς κανόνες για την προστασία των ατόμων έναντι της επεξεργασίας δεδομένων προσωπικού χαρακτήρα όσον αφορά περιορισμούς στη χρήση συστημάτων ΤΝ για την εξ αποστάσεως βιομετρική ταυτοποίηση για σκοπούς επιβολής του νόμου, στη χρήση συστημάτων ΤΝ για την εκτίμηση κινδύνων σχετιζόμενων με φυσικά πρόσωπα για σκοπούς επιβολής του νόμου, καθώς και στη χρήση συστημάτων ΤΝ βιομετρικής κατηγοριοποίησης για σκοπούς επιβολής του νόμου, ενδείκνυται ο παρών κανονισμός να βασιστεί, όσον αφορά αυτούς τους ειδικούς κανόνες, στο άρθρο 16 ΣΛΕΕ. Λαμβανομένων υπόψη των εν λόγω ειδικών κανόνων και της προσφυγής στο άρθρο 16 ΣΛΕΕ, ενδείκνυται να ζητηθεί η γνώμη του Ευρωπαϊκού Συμβουλίου Προστασίας Δεδομένων.
(3)
Системите с ИИ могат лесно да бъдат внедрени в най-различни сектори на икономиката и в много сфери на обществото, включително в трансграничен план, и да се ползват от свободно движение в целия Съюз. Някои държави членки вече са проучили възможността за приемане на национални правила, за да гарантират, че ИИ е надежден и безопасен и се разработва и използва в съответствие със задълженията, свързани с основните права. Различаващите се национални правила могат да доведат до разпокъсаност на вътрешния пазар и да намалят правната сигурност за операторите, които разработват, внасят или използват системи с ИИ. Ето защо, с цел да се осигури надежден ИИ, следва да се гарантира последователно и високо равнище на защита в целия Съюз, като същевременно се предотвратят различията, възпрепятстващи свободното движение, иновациите, внедряването и възприемането в рамките на вътрешния пазар на системи с ИИ и свързани с тях продукти и услуги, като за целта се предвидят еднакви задължения за операторите и се гарантира еднаква защита на императивните съображения от обществен интерес и на правата на лицата в рамките на целия вътрешен пазар на основание член 114 от Договора за функционирането на Европейския съюз (ДФЕС). Доколкото настоящият регламент съдържа специални правила за защита на физическите лица по отношение на обработването на лични данни във връзка с ограниченията за използването на системи с ИИ за дистанционна биометрична идентификация за правоохранителни цели, за използването на системи с ИИ за оценка на риска за физическите лица за правоохранителни цели и за използването на системи с ИИ за биометрично категоризиране за правоохранителни цели, е целесъобразно правното основание на настоящия регламент, във връзка с тези специални правила, да бъде член 16 ДФЕС. С оглед на тези специални правила и защитата съгласно член 16 ДФЕС е целесъобразно да се проведе консултация с Европейския комитет по защита на данните.
(4)
Η ΤΝ είναι ένα ταχέως εξελισσόμενο σύνολο τεχνολογιών που συμβάλλει στην επίτευξη πολλών και ποικίλων οικονομικών, περιβαλλοντικών και κοινωνικών οφελών σε ολόκληρο το φάσμα των κλάδων της οικονομίας και των κοινωνικών δραστηριοτήτων. Με τη βελτίωση της πρόβλεψης, τη βελτιστοποίηση των λειτουργιών και της κατανομής των πόρων, καθώς και την εξατομίκευση των ψηφιακών λύσεων που διατίθενται σε άτομα και οργανισμούς, η χρήση ΤΝ μπορεί να παράσχει βασικά ανταγωνιστικά πλεονεκτήματα στις επιχειρήσεις και να στηρίξει κοινωνικά και περιβαλλοντικά επωφελή αποτελέσματα, για παράδειγμα όσον αφορά την υγειονομική περίθαλψη, τη γεωργία, την ασφάλεια των τροφίμων, την εκπαίδευση και κατάρτιση, τα μέσα ενημέρωσης, τον αθλητισμό, τον πολιτισμό, τη διαχείριση υποδομών, την ενέργεια, τις μεταφορές και την εφοδιαστική, τις δημόσιες υπηρεσίες, την ασφάλεια, τη δικαιοσύνη, την αποδοτικότητα των πόρων και την ενεργειακή απόδοση, την περιβαλλοντική παρακολούθηση, τη διατήρηση και αποκατάσταση της βιοποικιλότητας και των οικοσυστημάτων, καθώς και τον μετριασμό της κλιματικής αλλαγής και την προσαρμογή σε αυτήν.
(4)
ИИ е бързо развиваща се съвкупност от технологии, които допринасят за извличането на множество икономически, екологични и обществени ползи по протежение на целия спектър от стопански сектори и социални дейности. Като подобрява прогнозирането, оптимизира операциите и разпределянето на ресурсите и персонализира цифровите решения, които са на разположение на физическите лица и организациите, използването на ИИ може да осигури ключови конкурентни предимства за предприятията и да спомогне за постигането на социално и екологично благоприятни резултати, например в областта на здравеопазването, селското стопанство, безопасността на храните, образованието и обучението, медиите, спорта, културата, управлението на инфраструктурата, енергетиката, транспорта и логистиката, публичните услуги, сигурността, правосъдието, ресурсната и енергийната ефективност, мониторинга на околната среда, опазването и възстановяването на биоразнообразието и екосистемите, както и смекчаването на последиците от изменението на климата и адаптирането към него.
(5)
Ταυτόχρονα, ανάλογα με τις περιστάσεις που αφορούν την εκάστοτε εφαρμογή και χρήση της και το επίπεδο της τεχνολογικής της ανάπτυξης, η TN μπορεί να δημιουργήσει κινδύνους και να αποβεί επιβλαβής για τα δημόσια συμφέροντα και τα θεμελιώδη δικαιώματα που προστατεύονται από το δίκαιο της Ένωσης. Η βλάβη αυτή μπορεί να είναι υλική ή άυλη, μεταξύ άλλων σωματική, ψυχολογική, κοινωνική ή οικονομική.
(5)
Същевременно, в зависимост от обстоятелствата по отношение на конкретното му приложение, използване и равнище на технологично развитие, ИИ може да доведе до рискове и да накърни обществените интереси и основните права, защитени от правото на Съюза. Тези вреди могат да бъдат имуществени или неимуществени, включително физически, психически, обществени или икономически.
(6)
Δεδομένων του σημαντικού αντικτύπου που μπορεί να έχει η ΤΝ στην κοινωνία και της ανάγκης οικοδόμησης εμπιστοσύνης, έχει ζωτική σημασία η ΤΝ και το κανονιστικό της πλαίσιο να αναπτυχθούν με τρόπο σύμφωνο προς τις αξίες της Ένωσης όπως κατοχυρώνονται στο άρθρο 2 της Συνθήκης για την Ευρωπαϊκή Ένωση (ΣΕΕ), προς τα θεμελιώδη δικαιώματα και τις ελευθερίες που κατοχυρώνονται στις Συνθήκες και, κατ’ εφαρμογή του άρθρου 6 ΣΕΕ, προς τον Χάρτη. Ως προαπαιτούμενο, η ΤΝ θα πρέπει να είναι μια τεχνολογία ανθρωποκεντρική. Θα πρέπει να χρησιμεύει σαν εργαλείο για τους ανθρώπους, με απώτατο στόχο την αύξηση της ανθρώπινης ευημερίας.
(6)
Предвид значителното въздействие, което ИИ може да окаже върху обществото, и необходимостта от изграждане на доверие, е от жизненоважно значение ИИ и неговата регулаторна рамка да бъдат разработени в съответствие с ценностите на Съюза, залегнали в член 2 от Договора за Европейския съюз (ДЕС), и основните права и свободи, залегнали в Договорите и, съгласно член 6 ДЕС, в Хартата. Като предварително условие ИИ следва да бъде технология, ориентирана към човека. Той следва да служи като инструмент за хората, като крайната цел е да се повиши тяхното благосъстояние.
(7)
Προκειμένου να εξασφαλιστεί συνεκτικό και υψηλό επίπεδο προστασίας των δημόσιων συμφερόντων όσον αφορά την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα, θα πρέπει να θεσπιστούν κοινοί κανόνες για τα συστήματα ΤΝ υψηλού κινδύνου. Οι εν λόγω κανόνες θα πρέπει να συνάδουν με τον Χάρτη, να μην εισάγουν διακρίσεις και να είναι σύμφωνοι με τις διεθνείς εμπορικές δεσμεύσεις της Ένωσης. Θα πρέπει επίσης να λαμβάνουν υπόψη την ευρωπαϊκή διακήρυξη σχετικά με τα ψηφιακά δικαιώματα και τις ψηφιακές αρχές για την ψηφιακή δεκαετία, καθώς και τις κατευθυντήριες γραμμές δεοντολογίας για αξιόπιστη ΤΝ της ομάδας εμπειρογνωμόνων υψηλού επιπέδου για την τεχνητή νοημοσύνη (ΟΕΥΕ για την ΤΝ).
(7)
За да се гарантира последователно и високо равнище на защита на обществените интереси по отношение на здравето, безопасността и основните права, следва да бъдат установени общи правила за високорисковите системи с ИИ. Тези правила следва да бъдат в съответствие с Хартата, да бъдат недискриминационни и да са в съответствие с международните търговски ангажименти на Съюза. Освен това те следва да са съобразени с Европейската декларация относно цифровите права и принципи за цифровото десетилетие и Насоките относно етичните аспекти за надежден ИИ на експертната група на високо равнище по въпросите на изкуствения интелект (ЕГВР ИИ).
(8)
Ως εκ τούτου, για την προώθηση της ανάπτυξης, της χρήσης και της υιοθέτησης της ΤΝ στην εσωτερική αγορά, είναι αναγκαίο ένα ενωσιακό νομικό πλαίσιο που να θεσπίζει εναρμονισμένους κανόνες σχετικά με την ΤΝ και να ανταποκρίνεται, ταυτόχρονα, σε υψηλό επίπεδο προστασίας των δημόσιων συμφερόντων, όπως η υγεία, η ασφάλεια και η προστασία των θεμελιωδών δικαιωμάτων, περιλαμβανομένων της δημοκρατίας, του κράτους δικαίου και της προστασίας του περιβάλλοντος, όπως αυτά αναγνωρίζονται και προστατεύονται από το δίκαιο της Ένωσης. Για την επίτευξη του στόχου αυτού, θα πρέπει να θεσπιστούν κανόνες που να ρυθμίζουν τη διάθεση στην αγορά, τη θέση σε λειτουργία και τη χρήση ορισμένων συστημάτων ΤΝ, ώστε να διασφαλίζεται έτσι η ομαλή λειτουργία της εσωτερικής αγοράς και να μπορούν τα συστήματα αυτά να επωφελούνται από την αρχή της ελεύθερης κυκλοφορίας των εμπορευμάτων και των υπηρεσιών. Οι κανόνες αυτοί θα πρέπει να είναι σαφείς και ισχυροί όσον αφορά την προστασία των θεμελιωδών δικαιωμάτων, να υποστηρίζουν νέες καινοτόμες λύσεις, να καθιστούν δυνατή τη δημιουργία ενός ευρωπαϊκού οικοσυστήματος δημόσιων και ιδιωτικών φορέων που δημιουργούν συστήματα ΤΝ σύμφωνα με τις αξίες της Ένωσης, καθώς και να απελευθερώνουν το δυναμικό του ψηφιακού μετασχηματισμού σε όλες τις περιφέρειες της Ένωσης. Με τη θέσπιση των κανόνων αυτών, καθώς και μέτρων υπέρ της καινοτομίας με ιδιαίτερη έμφαση στις μικρές και μεσαίες επιχειρήσεις (ΜΜΕ), περιλαμβανομένων των νεοφυών επιχειρήσεων, ο παρών κανονισμός στηρίζει τον στόχο να δοθεί ώθηση στην ευρωπαϊκή ανθρωποκεντρική προσέγγιση για την ΤΝ και να αναληφθεί ηγετικός ρόλος παγκοσμίως στην ανάπτυξη ασφαλούς, αξιόπιστης και δεοντολογικής ΤΝ, όπως έχει δηλώσει το Ευρωπαϊκό Συμβούλιο (5), διασφαλίζει δε την προστασία των δεοντολογικών αρχών, όπως έχει ζητηθεί συγκεκριμένα από το Ευρωπαϊκό Κοινοβούλιο (6).
(8)
Поради това е необходима правна рамка на Съюза, с която да се установят хармонизирани правила относно ИИ, за да се насърчи разработването, използването и навлизането на ИИ на вътрешния пазар, и която същевременно да осигурява високо равнище на защита на обществените интереси, например здравето и безопасността, и защитата на основните права, включително демокрацията, принципите на правовата държава и опазването на околната среда, признати и защитени от правото на Съюза. За постигането на тази цел следва да бъдат установени правила, уреждащи пускането на пазара, пускането в действие и използването на някои системи с ИИ, и по този начин да се гарантира безпрепятственото функциониране на вътрешния пазар и да се даде възможност на тези системи да се ползват от принципа на свободно движение на стоки и услуги. Тези правила следва да бъдат ясни и надеждни по отношение на защитата на основните права, да благоприятстват нови иновативни решения и да дават възможност за изграждане на европейска екосистема от публични и частни участници, които да създават системи с ИИ в съответствие с ценностите на Съюза и да отключват потенциала на цифровата трансформация във всички региони на Съюза. С установяването на такива правила, както и на мерки в подкрепа на иновациите с отделяне на специално внимание на малките и средните предприятия (МСП), включително новосъздадените предприятия, настоящият регламент подкрепя целта за насърчаване на европейския подход към ИИ, ориентиран към човека, и целта на Съюза да бъде световен лидер в разработването на сигурен, надежден и етичен ИИ, както бе посочено от Европейския съвет (5), и гарантира защитата на етичните принципи, както изрично бе поискано от Европейския парламент (6).
(9)
Θα πρέπει να θεσπιστούν εναρμονισμένοι κανόνες που θα έχουν εφαρμογή στη διάθεση στην αγορά, τη θέση σε λειτουργία και τη χρήση συστημάτων ΤΝ υψηλού κινδύνου με τρόπο σύμφωνο προς τον κανονισμό (ΕΚ) αριθ. 765/2008 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (7), την απόφαση αριθ. 768/2008/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (8), και τον κανονισμό (ΕΕ) 2019/1020 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (9) (νέο νομοθετικό πλαίσιο). Οι εναρμονισμένοι κανόνες που ορίζονται στον παρόντα κανονισμό θα πρέπει να εφαρμόζονται σε όλους τους τομείς και, σε ευθυγράμμιση με το νέο νομοθετικό πλαίσιο, θα πρέπει να ισχύουν με την επιφύλαξη του υφιστάμενου ενωσιακού δικαίου, ιδίως όσον αφορά την προστασία των δεδομένων, την προστασία των καταναλωτών, τα θεμελιώδη δικαιώματα, την απασχόληση και την προστασία των εργαζομένων και την ασφάλεια των προϊόντων, το οποίο συμπληρώνει ο παρών κανονισμός. Κατά συνέπεια, παραμένουν αμετάβλητα και εφαρμόζονται πλήρως όλα τα δικαιώματα και τα μέσα έννομης προστασίας που προβλέπει το εν λόγω ενωσιακό δίκαιο για τους καταναλωτές και τα λοιπά πρόσωπα που ενδέχεται να επηρεαστούν αρνητικά από τα συστήματα ΤΝ, μεταξύ άλλων όσον αφορά την αποζημίωση για ενδεχόμενες βλάβες δυνάμει της οδηγίας 85/374/ΕΟΚ του Συμβουλίου (10). Επιπλέον, στο πλαίσιο της απασχόλησης και της προστασίας των εργαζομένων, ο παρών κανονισμός δεν θα πρέπει, για τον λόγο αυτό, να θίγει το ενωσιακό δίκαιο για την κοινωνική πολιτική ούτε το εθνικό εργατικό δίκαιο, σε συμμόρφωση με το ενωσιακό δίκαιο, που αφορά τις συνθήκες απασχόλησης και εργασίας, συμπεριλαμβανομένης της υγείας και της ασφάλειας στην εργασία, καθώς και της σχέσης μεταξύ εργοδοτών και εργαζομένων. Εξάλλου, ο παρών κανονισμός δεν θα πρέπει να θίγει την άσκηση θεμελιωδών δικαιωμάτων που αναγνωρίζονται στα κράτη μέλη και στο επίπεδο της Ένωσης, όπως το δικαίωμα ή η ελευθερία απεργίας ή ανάληψης άλλων δράσεων που καλύπτονται από τα ειδικά συστήματα εργασιακών σχέσεων των κρατών μελών, καθώς και το δικαίωμα διαπραγμάτευσης, σύναψης και επιβολής συλλογικών συμφωνιών ή ανάληψης συλλογικής δράσης σύμφωνα με το εθνικό δίκαιο. Ο παρών κανονισμός δεν θα πρέπει να θίγει τις διατάξεις που στοχεύουν στη βελτίωση των συνθηκών εργασίας σε πλατφόρμες που καθορίζονται σε οδηγία του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου σχετικά με τη βελτίωση των συνθηκών εργασίας σε πλατφόρμες. Επιπροσθέτως, ο παρών κανονισμός αποσκοπεί στην ενίσχυση της αποτελεσματικότητας των υφιστάμενων δικαιωμάτων και μέσων έννομης προστασίας αυτού του είδους με τη θέσπιση ειδικών απαιτήσεων και υποχρεώσεων, μεταξύ άλλων όσον αφορά τη διαφάνεια, τον τεχνικό φάκελο και την τήρηση αρχείων των συστημάτων ΤΝ. Επιπλέον, οι υποχρεώσεις που επιβάλλονται σε διάφορους φορείς εκμετάλλευσης οι οποίοι συμμετέχουν στην αξιακή αλυσίδα της ΤΝ δυνάμει του παρόντος κανονισμού θα πρέπει να εφαρμόζονται με την επιφύλαξη του εθνικού δικαίου, σε συμμόρφωση με το ενωσιακό δίκαιο, που έχει ως αποτέλεσμα τον περιορισμό της χρήσης ορισμένων συστημάτων ΤΝ, όταν το δίκαιο αυτό δεν εμπίπτει στο πεδίο εφαρμογής του παρόντος κανονισμού ή επιδιώκει θεμιτούς στόχους δημόσιου συμφέροντος πέραν εκείνων που επιδιώκονται με τον παρόντα κανονισμό. Για παράδειγμα, ο παρών κανονισμός δεν θα πρέπει να θίγει το εθνικό εργατικό δίκαιο ούτε το δίκαιο περί προστασίας των ανηλίκων, δηλαδή των προσώπων ηλικίας κάτω των 18 ετών, λαμβανομένου υπόψη του γενικού σχολίου αριθ. 25 (2021) της ΣΗΕΔΠ για τα δικαιώματα των παιδιών σε σχέση με το ψηφιακό περιβάλλον, στον βαθμό που δεν αφορούν συγκεκριμένα τα συστήματα ΤΝ και επιδιώκουν άλλους θεμιτούς στόχους δημόσιου συμφέροντος.
(9)
Следва да бъдат установени хармонизирани правила, приложими за пускането на пазара, пускането в действие и използването на високорискови системи с ИИ, в съответствие с Регламент (ЕО) № 765/2008 на Европейския парламент и на Съвета (7), Решение № 768/2008/ЕО на Европейския парламент и на Съвета (8) и Регламент (ЕС) 2019/1020 на Европейския парламент и на Съвета (9) (наричани по-долу „новата законодателна рамка“). Хармонизираните правила, установени в настоящия регламент, следва да се прилагат във всички сектори и, в съответствие с новата законодателна рамка, следва да не засягат действащото право на Съюза, по-специално в областта на защитата на данните, защитата на потребителите, основните права, заетостта, защитата на работниците и безопасността на продуктите, което настоящият регламент допълва. В резултат на това всички права и правни средства за защита, предвидени в това право на Съюза в интерес на потребителите и други лица, върху които системите с ИИ могат да окажат отрицателно въздействие, включително по отношение на обезщетението за евентуални вреди съгласно Директива 85/374/ЕИО на Съвета (10), остават незасегнати и напълно приложими. Наред с това, в контекста на заетостта и защитата на работниците, настоящият регламент не следва да засяга правото на Съюза в областта на социалната политика и националното трудово право, което е в съответствие с правото на Съюза, относно условията на заетост и труд, включително здравословните и безопасни условия на труд и отношенията между работодателите и работниците. Настоящият регламент не следва да засяга и упражняването на основни права, признати в държавите членки и на равнището на Съюза, включително правото или свободата на стачка или на други действия, обхванати от специалните системи на колективни трудови правоотношения в държавите членки, както и правото да се преговаря, да се сключват и прилагат колективни трудови договори или да се предприемат колективни действия в съответствие с националното право. Настоящият регламент не следва да засяга разпоредбите, насочени към подобряване на условията на труд при работа през платформа, предвидени в директива на Европейския парламент и на Съвета относно подобряването на условията на труд при работата през платформа. Освен това настоящият регламент има за цел да повиши ефективността на тези съществуващи права и правни средства за защита чрез установяване на конкретни изисквания и задължения, включително по отношение на прозрачността, техническата документация и поддържането на регистри по отношение на системите с ИИ. Наред с това задълженията, наложени на различните оператори, участващи във веригата за създаване на стойност в областта на ИИ съгласно настоящия регламент, следва да се прилагат, без да се засяга националното право, съвместимо с правото на Съюза и което води до ограничаване на използването на определени системи с ИИ, когато това право е извън приложното поле на настоящия регламент или преследва законни цели от обществен интерес, различни от преследваните с настоящия регламент. Например националното трудово право и правото за закрила на ненавършилите пълнолетие лица, а именно лицата на възраст под 18 години, като се вземе предвид Общ коментар № 25 (2021) на Комитета по правата на детето на Организацията на обединените нации относно правата на децата във връзка с цифровата среда, доколкото те не са конкретно насочени към системите с ИИ и преследват други законни цели от обществен интерес, не следва да бъдат засегнати от настоящия регламент.
(10)
Το θεμελιώδες δικαίωμα στην προστασία των δεδομένων προσωπικού χαρακτήρα διασφαλίζεται ιδίως με τους κανονισμούς (ΕΕ) 2016/679 (11) και (ΕΕ) 2018/1725 (12) του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου και με την οδηγία (ΕΕ) 2016/680 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (13). Η οδηγία 2002/58/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (14) προστατεύει επιπλέον την ιδιωτική ζωή και το απόρρητο των επικοινωνιών, μεταξύ άλλων προβλέποντας όρους για την αποθήκευση δεδομένων προσωπικού και μη προσωπικού χαρακτήρα σε τερματικό εξοπλισμό και για την πρόσβαση σε τέτοια δεδομένα από τον εξοπλισμό αυτό. Οι εν λόγω ενωσιακές νομικές πράξεις παρέχουν τη βάση για βιώσιμη και υπεύθυνη επεξεργασία δεδομένων, μεταξύ άλλων όταν τα σύνολα δεδομένων περιλαμβάνουν συνδυασμό δεδομένων προσωπικού και μη προσωπικού χαρακτήρα. Ο παρών κανονισμός δεν επιδιώκει να θίξει την εφαρμογή του υφιστάμενου ενωσιακού δικαίου που διέπει την επεξεργασία δεδομένων προσωπικού χαρακτήρα, συμπεριλαμβανομένων των καθηκόντων και των εξουσιών των ανεξάρτητων εποπτικών αρχών που είναι αρμόδιες για την παρακολούθηση της συμμόρφωσης με τις πράξεις αυτές. Επιπλέον, δεν θίγει τις υποχρεώσεις των παρόχων και των φορέων εφαρμογής συστημάτων ΤΝ στο πλαίσιο του ρόλου τους ως υπευθύνων επεξεργασίας δεδομένων ή εκτελούντων την επεξεργασία δεδομένων, όπως αυτές απορρέουν από το ενωσιακό ή εθνικό δίκαιο για την προστασία των δεδομένων προσωπικού χαρακτήρα, στον βαθμό που ο σχεδιασμός, η ανάπτυξη ή η χρήση συστημάτων ΤΝ περιλαμβάνει την επεξεργασία δεδομένων προσωπικού χαρακτήρα. Είναι επίσης σκόπιμο να διευκρινιστεί ότι τα υποκείμενα των δεδομένων εξακολουθούν να απολαύουν όλων των δικαιωμάτων και εγγυήσεων που τους παρέχονται από το εν λόγω ενωσιακό δίκαιο, μεταξύ των οποίων τα δικαιώματα που σχετίζονται με την αποκλειστικά αυτοματοποιημένη ατομική λήψη αποφάσεων, συμπεριλαμβανομένης της κατάρτισης προφίλ. Οι εναρμονισμένοι κανόνες για τη διάθεση στην αγορά, τη θέση σε λειτουργία και τη χρήση συστημάτων ΤΝ οι οποίοι θεσπίζονται δυνάμει του παρόντος κανονισμού θα πρέπει να διευκολύνουν την αποτελεσματική εφαρμογή και να καθιστούν δυνατή την άσκηση των δικαιωμάτων των υποκειμένων των δεδομένων και άλλων μέσων έννομης προστασίας που εγγυάται το δίκαιο της Ένωσης σχετικά με την προστασία των δεδομένων προσωπικού χαρακτήρα και άλλων θεμελιωδών δικαιωμάτων.
(10)
Основното право на защита на личните данни е гарантирано по-специално с регламенти (ЕС) 2016/679 (11) и (ЕС) 2018/1725 (12) на Европейския парламент и на Съвета и с Директива (ЕС) 2016/680 на Европейския парламент и на Съвета (13). Директива 2002/58/ЕО на Европейския парламент и на Съвета (14) допълнително защитава личния живот и поверителността на съобщенията, включително чрез установяване на условията за съхраняване на лични и нелични данни в крайно оборудване и достъп до такива данни от крайно оборудване. Посочените правни актове на Съюза осигуряват основата за устойчиво и отговорно обработване на данни, включително когато наборите от данни включват комбинация от лични и нелични данни. Настоящият регламент няма за цел да засегне прилагането на съществуващото право на Съюза, уреждащо обработването на лични данни, включително задачите и правомощията на независимите надзорни органи, компетентни да наблюдават спазването на тези инструменти. Освен това той не засяга задълженията на доставчиците и внедрителите на системи с ИИ в ролята им на администратори или обработващи лични данни, които произтичат от правото на Съюза или националното право относно защитата на личните данни, доколкото проектирането, разработването или използването на системи с ИИ включва обработването на лични данни. Целесъобразно е също така да се поясни, че субектите на данни продължават да се ползват с всички права и гаранции, предоставени им с посоченото право на Съюза, включително правата, свързани с изцяло автоматизираното вземане на индивидуални решения, включително профилирането. Хармонизираните правила относно пускането на пазара, пускането в действие и използването на системи с ИИ, установени съгласно настоящия регламент, следва да улеснят ефективното прилагане и да позволят упражняването на правата на субектите на данни и другите правни средства за защита, гарантирани с правото на Съюза в областта на защитата на личните данни, и на други основни права.
(11)
Ο παρών κανονισμός δεν θα πρέπει να θίγει τις διατάξεις σχετικά με την ευθύνη των παρόχων ενδιάμεσων υπηρεσιών όπως ορίζονται στον τον κανονισμό (ΕΕ) 2022/2065 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (15).
(11)
Настоящият регламент следва да не засяга разпоредбите относно отговорността на доставчиците на посреднически услуги, установени в Регламент (ЕС) 2022/2065 на Европейския парламент и на Съвета (15).
(12)
Η έννοια του «συστήματος ΤΝ» στον παρόντα κανονισμό θα πρέπει να ορίζεται με σαφήνεια και να είναι στενά ευθυγραμμισμένη με το έργο διεθνών οργανισμών που ασχολούνται με την TN, με στόχο την ασφάλεια δικαίου και τη διευκόλυνση της διεθνούς σύγκλισης και της ευρείας αποδοχής, παρέχοντας παράλληλα ευελιξία για την προσαρμογή στις ταχείες τεχνολογικές εξελίξεις στον τομέα αυτόν. Επιπλέον, ο ορισμός θα πρέπει να στηρίζεται σε βασικά χαρακτηριστικά των συστημάτων TN τα οποία διακρίνουν τα συστήματα αυτά από απλούστερα παραδοσιακά συστήματα λογισμικού ή προσεγγίσεις προγραμματισμού, δεν θα πρέπει δε να καλύπτει συστήματα που βασίζονται στους κανόνες που ορίζονται αποκλειστικά από φυσικά πρόσωπα με σκοπό την αυτόματη εκτέλεση λειτουργιών. Βασικό χαρακτηριστικό των συστημάτων ΤΝ είναι η ικανότητά τους να συνάγουν συμπεράσματα. Η ικανότητα συναγωγής συμπερασμάτων αναφέρεται στη διαδικασία απόκτησης των στοιχείων εξόδου, όπως προβλέψεων, περιεχομένου, συστάσεων ή αποφάσεων, που μπορούν να επηρεάσουν υλικά και εικονικά περιβάλλοντα, καθώς και στην ικανότητα των συστημάτων ΤΝ να εξάγουν μοντέλα ή αλγορίθμους ή και τα δύο από στοιχεία εισόδου ή δεδομένα. Στις τεχνικές που επιτρέπουν τη συναγωγή συμπερασμάτων κατά τη δημιουργία ενός συστήματος ΤΝ περιλαμβάνονται προσεγγίσεις μηχανικής μάθησης που μαθαίνουν από δεδομένα πώς να επιτυγχάνουν ορισμένους στόχους, καθώς και προσεγγίσεις βασιζόμενες στη λογική και τη γνώση οι οποίες συνάγουν συμπεράσματα από κωδικοποιημένη γνώση ή συμβολική αναπαράσταση της προς εκτέλεση εργασίας. Η ικανότητα ενός συστήματος ΤΝ να συνάγει συμπεράσματα υπερβαίνει τη βασική επεξεργασία δεδομένων επιτρέποντας τη μάθηση, τη συλλογιστική ή τη μοντελοποίηση. Ο όρος «μηχανικά» αναφέρεται στο γεγονός ότι τα συστήματα ΤΝ λειτουργούν σε μηχανήματα. Η αναφορά σε ρητούς ή σιωπηρούς στόχους υπογραμμίζει ότι τα συστήματα ΤΝ μπορούν να λειτουργούν σύμφωνα με ρητούς καθορισμένους στόχους ή με σιωπηρούς στόχους. Οι στόχοι του συστήματος ΤΝ μπορεί να διαφέρουν από τον επιδιωκόμενο σκοπό του συστήματος ΤΝ σε ένα συγκεκριμένο πλαίσιο. Για τους σκοπούς του παρόντος κανονισμού, ως «περιβάλλοντα» θα πρέπει να νοούνται τα πλαίσια εντός των οποίων λειτουργούν τα συστήματα ΤΝ, τα δε στοιχεία εξόδου που παράγονται από το σύστημα ΤΝ αντικατοπτρίζουν διαφορετικές λειτουργίες επιτελούμενες από τα συστήματα ΤΝ και περιλαμβάνουν προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις. Τα συστήματα ΤΝ σχεδιάζονται ώστε να λειτουργούν με ποικίλα επίπεδα αυτονομίας, πράγμα που σημαίνει ότι διαθέτουν ορισμένο βαθμό ανεξαρτησίας να δρουν χωρίς ανθρώπινη συμμετοχή και ορισμένο βαθμό ικανότητας να λειτουργούν χωρίς ανθρώπινη παρέμβαση. Η προσαρμοστικότητα που θα μπορούσε να επιδείξει ένα σύστημα ΤΝ μετά την εφαρμογή του αναφέρεται σε ικανότητες αυτομάθησης οι οποίες επιτρέπουν στο σύστημα να αλλάζει ενώ χρησιμοποιείται. Τα συστήματα ΤΝ μπορούν να χρησιμοποιούνται σε αυτόνομη βάση ή ως κατασκευαστικό στοιχείο προϊόντος, ανεξάρτητα από το αν το σύστημα έχει ενσωματωθεί υλικά στο προϊόν (ενσωματωμένο σύστημα) ή εξυπηρετεί τη λειτουργικότητα του προϊόντος χωρίς να έχει ενσωματωθεί σε αυτό (μη ενσωματωμένο σύστημα).
(12)
Понятието „система с ИИ“ в настоящия регламент следва да бъде ясно определено и тясно съгласувано с резултатите от работата на международни организации в областта на ИИ, за да се гарантира правна сигурност и да се улесни сближаването и широкото приемане в международен план, като същевременно се осигури гъвкавост с цел да се реагира на бързото технологично развитие в тази област. Освен това определението следва да се основава на ключови характеристики на системите с ИИ, които ги отличават от по-прости традиционни софтуерни системи или подходи за програмиране, и не следва да обхваща системи, които се основават на правилата, определени единствено от физически лица за автоматично изпълнение на операциите. Ключова характеристика на системите с ИИ е тяхната способност да правят изводи. Тази способност да се правят изводи се отнася до процеса на получаване на резултати, например прогнози, съдържание, препоръки или решения, които могат да повлияят на физическата и виртуалната среда, както и до способността на системите с ИИ да извличат модели или алгоритми, или и двете, от входяща информация или данни. Техниките, даващи възможност да се правят изводи при изграждането на системи с ИИ, включват подходи за машинно обучение, при които те се учат от данните как да постигнат определени цели, както и основани на логика и знания подходи, при които достигат до изводи от кодирани знания или символично представяне на задачата, която трябва да бъде решена. Способността на дадена система с ИИ да прави изводи надхвърля основната обработка на данни, като дава възможност за обучение, разсъждение или моделиране. Понятието „машинно базиран“ се отнася до факта, че системите с ИИ работят с помощта на машини. С позоваването на явни или подразбиращи цели се подчертава, че системите с ИИ могат да работят в съответствие с ясно определени или с подразбиращи се цели. Целите на дадена система с ИИ може да се различават от предназначението на системата с ИИ в специфичен контекст. За целите на настоящия регламент под „среда“ следва да се разбира контекстът, в който функционират системите с ИИ, а резултатите, генерирани от системата с ИИ, отразяват различни функции, изпълнявани от системите с ИИ, и включват прогнози, съдържание, препоръки или решения. Системите с ИИ са проектирани да функционират с различна степен на автономност, което означава, че те разполагат с известна степен на независимост на действията от участието на човека и на способност за работа без човешка намеса. Адаптивността, която дадена система с ИИ би могла да прояви след внедряването ѝ, се отнася до способностите за самообучение, които позволяват на системата да се променя по време на нейното използване. Системите с ИИ могат да се използват самостоятелно или като компонент на продукт, независимо дали системата е физически интегрирана в продукта (вградена), или обслужва функционалността на продукта, без да бъде интегрирана в него (невградена).
(13)
Η έννοια του «φορέα εφαρμογής» που αναφέρεται στον παρόντα κανονισμό θα πρέπει να ερμηνεύεται ως καλύπτουσα κάθε φυσικό ή νομικό πρόσωπο, συμπεριλαμβανομένων δημόσιων αρχών, υπηρεσιών ή άλλων φορέων, που χρησιμοποιεί σύστημα ΤΝ υπό την ευθύνη του, εκτός εάν το σύστημα ΤΝ χρησιμοποιείται στο πλαίσιο προσωπικής μη επαγγελματικής δραστηριότητας. Ανάλογα με το είδος του συστήματος ΤΝ, η χρήση του συστήματος μπορεί να επηρεάζει και άλλα πρόσωπα πέραν του φορέα εφαρμογής.
(13)
Понятието „внедрител“, посочено в настоящия регламент, следва да се тълкува като всяко физическо или юридическо лице, включително публичен орган, агенция или друга структура, които използват система с ИИ, върху която упражняват контрол, с изключение на случаите, когато системата с ИИ се използва в процеса на лична непрофесионална дейност. В зависимост от вида на системата с ИИ използването на системата може да засегне лица, различни от внедрителя.
(14)
H έννοια των «βιομετρικών δεδομένων» που χρησιμοποιείται στον παρόντα κανονισμό θα πρέπει να ερμηνεύεται υπό το πρίσμα της έννοιας των βιομετρικών δεδομένων όπως ορίζονται στο άρθρο 4 σημείο 14) του κανονισμού (ΕΕ) 2016/679, στο άρθρο 3 σημείο 18) του κανονισμού (ΕΕ) 2018/1725 και στο άρθρο 3 σημείο 13) της οδηγίας (ΕΕ) 2016/680. Τα βιομετρικά δεδομένα μπορούν να επιτρέπουν την επαλήθευση της ταυτότητας, την ταυτοποίηση ή την κατηγοριοποίηση φυσικών προσώπων, καθώς και την αναγνώριση των συναισθημάτων φυσικών προσώπων.
(14)
Понятието „биометрични данни“, посочено в настоящия регламент, следва да се тълкува с оглед на понятието за биометрични данни съгласно определението в член 4, точка 14 от Регламент (ЕС) 2016/679, член 3, точка 18 от Регламент (ЕС) 2018/1725 и член 3, точка 13 от Директива (ЕС) 2016/680. Биометричните данни могат да позволят удостоверяване на самоличността, идентифициране или категоризиране на физически лица, както и разпознаване на емоции на физически лица.
(15)
Η έννοια της «βιομετρικής ταυτοποίησης» που αναφέρεται στον παρόντα κανονισμό θα πρέπει να οριστεί ως η αυτοματοποιημένη αναγνώριση σωματικών, φυσιολογικών και συμπεριφορικών ανθρώπινων χαρακτηριστικών, όπως το πρόσωπο, η κίνηση των οφθαλμών, το σχήμα του σώματος, η φωνή, η προσωδία, o τρόπος βάδισης, η στάση, ο καρδιακός ρυθμός, η αρτηριακή πίεση, η οσμή ή ο τρόπος πληκτρολόγησης, για τον σκοπό της διαπίστωσης της ταυτότητας ενός ατόμου μέσω της σύγκρισης βιομετρικών δεδομένων του εν λόγω ατόμου με αποθηκευμένα βιομετρικά δεδομένα ατόμων σε βάση δεδομένων αναφοράς, ανεξάρτητα από το αν το άτομο έχει δώσει τη συγκατάθεσή του ή όχι. Εξαιρούνται τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για βιομετρική εξακρίβωση, η οποία περιλαμβάνει την επαλήθευση ταυτότητας, με μοναδικό σκοπό να επιβεβαιώνεται αν ένα συγκεκριμένο φυσικό πρόσωπο είναι το πρόσωπο που ισχυρίζεται ότι είναι και να επιβεβαιώνεται η ταυτότητα ενός φυσικού προσώπου αποκλειστικά και μόνο για την πρόσβαση σε μια υπηρεσία, το ξεκλείδωμα συσκευής ή την πρόσβαση ασφαλείας σε εγκαταστάσεις.
(15)
Понятието „биометрична идентификация“, посочено в настоящия регламент, следва да се определи като автоматизираното разпознаване на физически, физиологични и поведенчески характеристики на човека, например лице, движение на очите, форма на тялото, глас, ритъм и интонация на говора, походка, стойка, сърдечен ритъм, кръвно налягане, мирис и особености на натиска на клавиши, с цел установяване на самоличността на дадено лице чрез сравняване на биометрични данни на това лице със съхранени биометрични данни на лица в референтна база данни, независимо дали лицето е дало своето съгласие. Това изключва системите с ИИ, предназначени да бъдат използвани за биометрична проверка, която включва удостоверяване на самоличността, чиято единствена цел е да се потвърди, че конкретно физическо лице е лицето, за което се представя, и да се потвърди самоличността на физическо лице единствено за да се получи достъп до услуга, да се отключи устройство или да се придобие сигурен достъп до помещения.
(16)
Η έννοια της «βιομετρικής κατηγοριοποίησης» που αναφέρεται στον παρόντα κανονισμό θα πρέπει να οριστεί ως η κατάταξη φυσικών προσώπων σε συγκεκριμένες κατηγορίες βάσει των βιομετρικών δεδομένων τους. Οι συγκεκριμένες αυτές κατηγορίες μπορούν να αφορούν πτυχές όπως το φύλο, η ηλικία, το χρώμα των μαλλιών, το χρώμα των οφθαλμών, η δερματοστιξία, τα χαρακτηριστικά συμπεριφοράς ή προσωπικότητας, η γλώσσα, η θρησκεία, η ιδιότητα μέλους εθνικής μειονότητας, καθώς και ο γενετήσιος ή πολιτικός προσανατολισμός. Δεν περιλαμβάνονται τα συστήματα βιομετρικής κατηγοριοποίησης που αποτελούν αμιγώς βοηθητική δυνατότητα συνδεόμενη άρρηκτα με άλλη εμπορική υπηρεσία, δηλαδή όταν η δυνατότητα αυτή δεν μπορεί, για αντικειμενικούς τεχνικούς λόγους, να χρησιμοποιηθεί χωρίς την κύρια υπηρεσία, και η ενσωμάτωση αυτής της δυνατότητας ή λειτουργικότητας δεν αποτελεί μέσο για την καταστρατήγηση της εφαρμογής των κανόνων του παρόντος κανονισμού. Για παράδειγμα, τα φίλτρα που κατηγοριοποιούν χαρακτηριστικά προσώπου ή σώματος και χρησιμοποιούνται σε επιγραμμικές αγορές θα μπορούσαν να αποτελούν τέτοια βοηθητική δυνατότητα, καθώς μπορούν να χρησιμοποιηθούν μόνο σε σχέση με την κύρια υπηρεσία, που συνίσταται στην πώληση προϊόντος, παρέχοντας στον καταναλωτή τη δυνατότητα προεπισκόπησης ενός προϊόντος πάνω του και βοηθώντας τον να αποφασίσει αν θα προχωρήσει στην αγορά. Βοηθητική δυνατότητα θα μπορούσαν να θεωρηθούν επίσης φίλτρα χρησιμοποιούμενα σε επιγραμμικές υπηρεσίες κοινωνικής δικτύωσης που κατηγοριοποιούν χαρακτηριστικά προσώπου ή σώματος για να μπορούν οι χρήστες να προσθέτουν ή να τροποποιούν εικόνες ή βίντεο, καθώς αυτού του είδους τα φίλτρα δεν μπορούν να χρησιμοποιηθούν χωρίς την κύρια υπηρεσία των υπηρεσιών κοινωνικής δικτύωσης, που συνίσταται στην ανταλλαγή περιεχομένου μέσω του διαδικτύου.
(16)
Понятието „биометрично категоризиране“, посочено в настоящия регламент, следва да се определи като отнасяне на физически лица към конкретни категории въз основа на техните биометрични данни. Подобни конкретни категории могат да са свързани с аспекти като пол, възраст, цвят на косата, цвят на очите, татуировки, поведенчески или личностни черти, език, религия, принадлежност към национално малцинство, сексуална или политическа ориентация. Това не включва системи за биометрично категоризиране, които представляват чисто спомагателна функция, неразривно свързана с друга търговска услуга, което означава, че тази функция не може по обективни технически причини да се използва без основната услуга и интегрирането на тази функция или функционалност не е средство за заобикаляне на приложимостта на правилата на настоящия регламент. Например филтрите за категоризиране на черти на лицето или тялото, използвани на онлайн места за търговия, биха могли да представляват такава спомагателна функция, тъй като могат да се използват само във връзка с основната услуга, която се състои в продажбата на продукт, като позволяват на потребителя да визуализира изображението на продукта върху себе си и му помагат да вземе решение при покупка. Филтрите, използвани в онлайн услугите на социалните мрежи, които категоризират черти на лицето или тялото, за да позволят на ползвателите да добавят или променят снимки или видеоклипове, също могат да се считат за спомагателна функция, тъй като такъв филтър не може да се използва без основната услуга при услугите на социалните мрежи, състояща се в споделяне на съдържание онлайн.
(17)
Η έννοια του «συστήματος εξ αποστάσεως βιομετρικής ταυτοποίησης» που αναφέρεται στον παρόντα κανονισμό θα πρέπει να οριστεί λειτουργικά, ως σύστημα ΤΝ που προορίζεται για την ταυτοποίηση φυσικών προσώπων, χωρίς την ενεργό συμμετοχή τους, κατά κανόνα εξ αποστάσεως, μέσω της αντιπαραβολής των βιομετρικών δεδομένων ενός προσώπου με τα βιομετρικά δεδομένα που περιέχονται σε βάση δεδομένων αναφοράς, ανεξάρτητα από τη συγκεκριμένη τεχνολογία, τις συγκεκριμένες διαδικασίες ή τα συγκεκριμένα είδη βιομετρικών δεδομένων που χρησιμοποιούνται. Τέτοια συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης χρησιμοποιούνται κατά κανόνα για την ταυτόχρονη εξέταση πολλαπλών προσώπων ή της συμπεριφοράς τους, προκειμένου να διευκολυνθεί σημαντικά η ταυτοποίηση φυσικών προσώπων χωρίς την ενεργό συμμετοχή τους. Εξαιρούνται τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για βιομετρική εξακρίβωση, συμπεριλαμβανομένης της επαλήθευσης ταυτότητας, με μοναδικό σκοπό να επιβεβαιώνεται αν ένα συγκεκριμένο φυσικό πρόσωπο είναι το πρόσωπο που ισχυρίζεται ότι είναι και να επιβεβαιώνεται η ταυτότητα ενός φυσικού προσώπου αποκλειστικά και μόνο για την πρόσβαση σε μια υπηρεσία, το ξεκλείδωμα συσκευής ή την πρόσβαση ασφαλείας σε εγκαταστάσεις. Η εξαίρεση αυτή δικαιολογείται από το γεγονός ότι τα εν λόγω συστήματα είναι πιθανόν να έχουν περιορισμένο αντίκτυπο στα θεμελιώδη δικαιώματα των φυσικών προσώπων σε σύγκριση με τα συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης που μπορούν να χρησιμοποιούνται για την επεξεργασία των βιομετρικών δεδομένων μεγάλου αριθμού προσώπων χωρίς την ενεργό συμμετοχή τους. Όσον αφορά τα συστήματα ταυτοποίησης σε «πραγματικό χρόνο», η λήψη των βιομετρικών δεδομένων, η αντιπαραβολή και η ταυτοποίηση πραγματοποιούνται αμέσως, σχεδόν αμέσως ή, σε κάθε περίπτωση, χωρίς σημαντική καθυστέρηση. Στο πλαίσιο αυτό, με την πρόβλεψη μικρών καθυστερήσεων δεν θα πρέπει να υπάρχει κανένα περιθώριο καταστρατήγησης των κανόνων του παρόντος κανονισμού σχετικά με τη χρήση των σχετικών συστημάτων ΤΝ «σε πραγματικό χρόνο». Τα συστήματα ταυτοποίησης «σε πραγματικό χρόνο» περιλαμβάνουν τη χρήση υλικού σε «ζωντανή μετάδοση» ή «σχεδόν ζωντανή μετάδοση», όπως βίντεο, που δημιουργείται μέσω κάμερας ή άλλης συσκευής με παρόμοια λειτουργικότητα. Αντιθέτως, στην περίπτωση των συστημάτων ταυτοποίησης «σε ύστερο χρόνο», τα βιομετρικά δεδομένα έχουν ήδη ληφθεί και η αντιπαραβολή και η ταυτοποίηση πραγματοποιούνται μόνο με σημαντική καθυστέρηση. Πρόκειται για υλικό, όπως φωτογραφίες ή βίντεο από κάμερες συστημάτων τηλεόρασης κλειστού κυκλώματος ή ιδιωτικές συσκευές, το οποίο είχε δημιουργηθεί προτού χρησιμοποιηθεί το σύστημα για τα συγκεκριμένα φυσικά πρόσωπα.
(17)
Понятието „система за дистанционна биометрична идентификация“, посочено в настоящия регламент, следва да се определи функционално като система с ИИ, предназначена за идентифициране на физически лица без тяхното активно участие, обикновено от разстояние, чрез сравняване на биометричните данни на дадено лице с биометричните данни, съдържащи се в референтна база данни, независимо от конкретните използвани технологии, процеси или видове биометрични данни. Такива системи за дистанционна биометрична идентификация обикновено се използват за едновременно наблюдение на множество лица или тяхното поведение с цел да се улесни значително идентифицирането на физически лица без тяхното активно участие. Това изключва системите с ИИ, предназначени да бъдат използвани за биометрична проверка, която включва удостоверяване на самоличността, чиято единствена цел е да се потвърди, че конкретно физическо лице е лицето, за което се представя, и да се потвърди самоличността на физическо лице единствено за да се получи достъп до услуга, да се отключи устройство или да се придобие сигурен достъп до помещения. Това изключване е обосновано от факта, че е вероятно такива системи да оказват незначително въздействие върху основните права на физическите лица в сравнение със системите за дистанционна биометрична идентификация, които могат да се използват за обработването на биометрични данни на голям брой лица без тяхното активно участие. При системите, работещи в реално време, снемането на биометрични данни, сравнението и идентификацията се осъществяват мигновено, почти мигновено или при всички случаи без значително забавяне. В това отношение не следва да има възможност за заобикаляне на правилата на настоящия регламент относно използването в реално време на съответните системи с ИИ и за целта в него следва да се уредят незначителните забавяния. Системите, работещи в реално време, предполагат използването на материал „на живо“ или „почти на живо“, като видеозапис от камера или друго устройство с подобна функция. За разлика от тях при функциониращите впоследствие системи биометричните данни вече са снети и сравняването и идентифицирането се извършват едва след значително забавяне. Това предполага материал, като снимки или видеозаписи от камери от вътрешна система за видеонаблюдение или от частни устройства, които са направени преди използването на системата по отношение на съответните физически лица.
(18)
Η έννοια του «συστήματος αναγνώρισης συναισθημάτων» που αναφέρεται στον παρόντα κανονισμό θα πρέπει να οριστεί ως σύστημα ΤΝ με σκοπό τον προσδιορισμό ή τη συναγωγή συναισθημάτων ή προθέσεων φυσικών προσώπων βάσει των βιομετρικών δεδομένων τους. Η έννοια αφορά συναισθήματα ή προθέσεις όπως χαρά, θλίψη, θυμός, έκπληξη, απέχθεια, αμηχανία, ενθουσιασμός, ντροπή, περιφρόνηση, ικανοποίηση και ευθυμία. Δεν περιλαμβάνει σωματικές καταστάσεις, όπως πόνο ή κόπωση, συμπεριλαμβανομένων, για παράδειγμα, των συστημάτων που χρησιμοποιούνται για την ανίχνευση της κατάστασης κόπωσης επαγγελματιών χειριστών αεροσκαφών ή οδηγών για την πρόληψη ατυχημάτων. Δεν περιλαμβάνει ούτε την απλή ανίχνευση εύκολα αντιληπτών εκφράσεων, χειρονομιών ή κινήσεων, εφόσον δεν χρησιμοποιούνται για τον προσδιορισμό ή τη συναγωγή συναισθημάτων. Οι εκφράσεις αυτές μπορούν να είναι βασικές εκφράσεις του προσώπου, όπως η συνοφρύωση ή το χαμόγελο, χειρονομίες όπως η κίνηση των χεριών, των βραχιόνων ή της κεφαλής, ή χαρακτηριστικά της φωνής ενός προσώπου, όπως η ύψωση του τόνου της φωνής ή το ψιθύρισμα.
(18)
Понятието „система за разпознаване на емоции“, посочено в настоящия регламент, следва да се определи като система с ИИ, чието предназначение е да определи или да прави изводи за емоциите или намеренията на физически лица въз основа на техните биометрични данни. Това понятие се отнася до емоции или намерения като щастие, тъга, гняв, изненада, отвращение, смущение, вълнение, срам, презрение, удовлетворение и забавление. Не се включват физически състояния като болка или умора, като например системи, използвани за установяване на състояние на умора при професионални пилоти или водачи с цел предотвратяване на произшествия. Освен това то не включва откриването на лесно забележими изражения, жестове или движения, освен ако те не се използват, за да се определят или да се правят изводи за емоциите. Тези изражения могат да бъдат основни изражения на лицето, като например намръщване или усмивка, или жестове като движение на ръцете или главата, или характеристики на човешкия глас, например висок глас или шепот.
(19)
Για τους σκοπούς του παρόντος κανονισμού, η έννοια του «δημόσια προσβάσιμου χώρου» θα πρέπει να θεωρείται ότι αφορά κάθε φυσικό χώρο προσβάσιμο σε απροσδιόριστο αριθμό φυσικών προσώπων, είτε ο χώρος αυτός είναι ιδιωτικός είτε δημόσιος, ανεξάρτητα από τη δραστηριότητα για την οποία μπορεί να χρησιμοποιηθεί ο χώρος, όπως για εμπόριο, π.χ. καταστήματα, εστιατόρια, καφετέριες, για παροχή υπηρεσιών, π.χ. τράπεζες, χώροι όπου διεξάγονται επαγγελματικές δραστηριότητες, χώροι φιλοξενίας, για αθλητισμό, π.χ. πισίνες, γυμναστήρια, στάδια, για μεταφορές, π.χ. σταθμοί λεωφορείων, μετρό και τρένων, αερολιμένες, μέσα μεταφοράς, για ψυχαγωγία, π.χ. κινηματογράφοι, θέατρα, μουσεία, συναυλιακοί και συνεδριακοί χώροι, ή για αναψυχή ή άλλη χρήση, π.χ. δημόσιες οδοί και πλατείες, πάρκα, δάση, παιδικές χαρές. Ένας χώρος θα πρέπει επίσης να χαρακτηρίζεται δημόσια προσβάσιμος, εάν, ανεξάρτητα από δυνητικούς περιορισμούς χωρητικότητας ή ασφάλειας, η πρόσβαση σε αυτόν υπόκειται σε συγκεκριμένους προκαθορισμένους όρους τους οποίους μπορεί να πληροί απροσδιόριστος αριθμός προσώπων, όπως η αγορά εισιτηρίου ή τίτλου μεταφοράς, η προηγούμενη εγγραφή ή ορισμένη ηλικία. Αντιθέτως, ένας χώρος δεν θα πρέπει να θεωρείται δημόσια προσβάσιμος, εάν η πρόσβαση σε αυτόν περιορίζεται σε συγκεκριμένα και καθορισμένα φυσικά πρόσωπα είτε μέσω του ενωσιακού ή του εθνικού δικαίου που σχετίζεται άμεσα με τη δημόσια ασφάλεια ή προστασία, είτε μέσω της σαφούς εκδήλωσης βούλησης του προσώπου που είναι αρμόδιο για τον συγκεκριμένο χώρο. Η δυνατότητα πρόσβασης αυτή καθαυτή, όπως μη κλειδωμένη πόρτα ή ανοικτή πύλη σε περίφραξη, δεν συνεπάγεται ότι ο χώρος είναι δημόσια προσβάσιμος, εάν υπάρχουν ενδείξεις ή περιστάσεις που υποδηλώνουν το αντίθετο, όπως σήματα που απαγορεύουν ή περιορίζουν την πρόσβαση. Οι εγκαταστάσεις εταιρειών ή εργοστασίων, καθώς και τα γραφεία και οι χώροι εργασίας όπου η πρόσβαση επιτρέπεται μόνο στους οικείους υπαλλήλους και παρόχους υπηρεσιών, είναι χώροι μη δημόσια προσβάσιμοι. Στους δημόσια προσβάσιμους χώρους δεν θα πρέπει να περιλαμβάνονται οι φυλακές και οι χώροι συνοριακού ελέγχου. Ορισμένες άλλες περιοχές μπορούν να συνίστανται τόσο σε δημόσια προσβάσιμους όσο και σε μη δημόσια προσβάσιμους χώρους, όπως ο διάδρομος ενός ιδιωτικού κτιρίου κατοικιών που είναι απαραίτητος για την πρόσβαση σε γραφείο ιατρού ή οι αερολιμένες. Δεν καλύπτονται οι επιγραμμικοί χώροι, καθώς δεν είναι φυσικοί χώροι. Ωστόσο, το αν ένας συγκεκριμένος χώρος είναι προσβάσιμος στο κοινό θα πρέπει να καθορίζεται κατά περίπτωση, λαμβανομένων υπόψη των ιδιαιτεροτήτων της εκάστοτε εξεταζόμενης κατάστασης.
(19)
За целите на настоящия регламент понятието „обществено достъпно място“ следва да се разбира като означаващо всяко физическо място, което е достъпно за неопределен брой физически лица, независимо дали това място е частна или публична собственост и без значение от дейността, за която мястото може да се използва, като за търговия, например магазини, ресторанти, кафенета, за услуги, например банки, професионални дейности, хотелиерство и ресторантьорство, за спорт, например плувни басейни, спортни зали, стадиони, за транспорт, например автобусни, метро и железопътни гари, летища, транспортни средства, за развлечение, например кина, театри, музеи, концертни и конферентни зали, за отдих или други дейности, например отворени за обществено ползване пътища, площади, паркове, гори, детски площадки. Дадено място следва също така да се класифицира като обществено достъпно ако, независимо от потенциалния капацитет или ограниченията във връзка със сигурността, достъпът до него зависи от някои предварително определени условия, които могат да бъдат изпълнени от неопределен брой лица, като например закупуване на билет или друг превозен документ, предварителна регистрация или навършване на определена възраст. Дадено място не следва обаче да се счита за обществено достъпно, ако достъпът до него е ограничен до конкретни и определени физически лица чрез правото на Съюза или националното право, пряко свързано с обществената безопасност или сигурност, или чрез ясното волеизявление от страна на лицето, което е носител на съответните права по отношение на мястото. Единствено фактическата възможност за достъп, например незаключена врата или отворена порта в ограда, не означава, че мястото е обществено достъпно, при наличие на признаци или обстоятелства, които предполагат обратното, например знаци, забраняващи или ограничаващи достъпа. Помещенията на дадено дружество и фабрика, както и офисите и работните места, до които се предвижда достъп само за съответните служители и доставчици на услуги, не са обществено достъпни места. Обществено достъпните места не следва да включват затворите или зоните за граничен контрол. Други зони могат да се състоят както от зони, които са обществено достъпни, така и от зони, които не са обществено достъпни, като например коридорите в частни жилищни сгради, необходими за достъп до лекарски кабинет, или летищата. Онлайн пространствата не се включват, тъй като те не са физически места. Дали дадено място е достъпно за обществеността обаче следва да се определя отделно във всеки един случай, като се отчитат особеностите на отделния случай.
(20)
Για να αντληθούν τα μέγιστα δυνατά οφέλη από τα συστήματα ΤΝ, με παράλληλη προστασία των θεμελιωδών δικαιωμάτων, της υγείας και της ασφάλειας, καθώς και για να καταστεί δυνατός ο δημοκρατικός έλεγχος, ο γραμματισμός στον τομέα της ΤΝ θα πρέπει να εφοδιάζει τους παρόχους, τους φορείς εφαρμογής και τα θιγόμενα πρόσωπα με τις απαραίτητες έννοιες, ώστε να λαμβάνουν τεκμηριωμένες αποφάσεις σχετικά με τα συστήματα ΤΝ. Οι έννοιες αυτές μπορούν να ποικίλλουν ανάλογα με το εκάστοτε πλαίσιο και μπορούν να περιλαμβάνουν κατανόηση της ορθής εφαρμογής των τεχνικών στοιχείων κατά τη φάση ανάπτυξης του συστήματος ΤΝ, τα μέτρα που πρέπει να εφαρμόζονται κατά τη χρήση του, τους κατάλληλους τρόπους ερμηνείας των στοιχείων εξόδου του συστήματος ΤΝ, καθώς και, στην περίπτωση των θιγόμενων προσώπων, τις γνώσεις που απαιτούνται για να κατανοούν πώς θα τα επηρεάσουν οι αποφάσεις που λαμβάνονται με τη βοήθεια ΤΝ. Στο πλαίσιο της εφαρμογής του παρόντος κανονισμού, ο γραμματισμός στον τομέα της ΤΝ θα πρέπει να εφοδιάζει όλους τους σχετικούς παράγοντες που συμμετέχουν στην αξιακή αλυσίδα της ΤΝ με την αντιληπτική ικανότητα που απαιτείται για την εξασφάλιση της δέουσας συμμόρφωσης με τον παρόντα κανονισμό και της ορθής επιβολής του. Επιπλέον, η εκτεταμένη εφαρμογή μέτρων γραμματισμού στον τομέα της ΤΝ και η θέσπιση κατάλληλων επακόλουθων δράσεων θα μπορούσαν να συμβάλουν στη βελτίωση των συνθηκών εργασίας και, εν τέλει, στη στήριξη της εμπέδωσης και της πορείας καινοτομίας μιας αξιόπιστης ΤΝ στην Ένωση. Το Ευρωπαϊκό Συμβούλιο Τεχνητής Νοημοσύνης («Συμβούλιο Τεχνητής Νοημοσύνης») θα πρέπει να στηρίζει την Επιτροπή για την προώθηση του γραμματισμού στον τομέα της ΤΝ, της ευαισθητοποίησης του κοινού και της κατανόησης των οφελών, των κινδύνων, των διασφαλίσεων, των δικαιωμάτων και των υποχρεώσεων που σχετίζονται με τη χρήση συστημάτων ΤΝ. Σε συνεργασία με τους σχετικούς συμφεροντούχους, η Επιτροπή και τα κράτη μέλη θα πρέπει να διευκολύνουν την κατάρτιση προαιρετικών κωδίκων δεοντολογίας με σκοπό την προώθηση του γραμματισμού στον τομέα της ΤΝ για τα άτομα που ασχολούνται με την ανάπτυξη, τη λειτουργία και τη χρήση ΤΝ.
(20)
За да се извлекат максимални ползи от системите с ИИ, като същевременно се защитават основните права, здравето и безопасността, и за да се даде възможност за демократичен контрол, грамотността в областта на ИИ следва да осигури на доставчиците, внедрителите и засегнатите лица необходимите понятия за вземане на информирани решения относно системите с ИИ. Тези понятия могат да се различават по отношение на съответния контекст и могат да включват разбиране на правилното прилагане на техническите елементи по време на етапа на разработване на системата с ИИ, мерките, които трябва да се прилагат по време на използването ѝ, подходящите начини за тълкуване на резултатите от системата с ИИ и, по отношение на засегнатите лица, знанията, необходими за разбиране на начина, по който решенията, взети с помощта на ИИ, ще окажат въздействие върху тях. В контекста на прилагането на настоящия регламент грамотността в областта на ИИ следва да осигури на всички съответни участници във веригата за създаване на стойност в областта на ИИ необходимата информация, за да се гарантира подходящото спазване и правилното му прилагане. Освен това широкото прилагане на мерки за повишаване на грамотността в областта на ИИ и въвеждането на подходящи последващи действия биха могли да допринесат за подобряване на условията на труд и в крайна сметка да поддържат процеса на утвърждаване и иновации на надеждния ИИ в Съюза. Европейският съвет по изкуствен интелект (наричан по-долу „Съветът по ИИ“) следва да подпомага Комисията с цел насърчаване на инструментите за грамотност в областта на ИИ, обществената осведоменост и разбирането на ползите, рисковете, гаранциите, правата и задълженията във връзка с използването на системи с ИИ. В сътрудничество със съответните заинтересовани страни Комисията и държавите членки следва да улеснят изготвянето на незадължителни кодекси за поведение с цел повишаване на грамотността в областта на ИИ сред лицата, занимаващи се с разработването, експлоатацията и използването на ИИ.
(21)
Προκειμένου να διασφαλιστούν ισότιμοι όροι ανταγωνισμού και αποτελεσματική προστασία των δικαιωμάτων και των ελευθεριών των ατόμων σε ολόκληρη την Ένωση, οι κανόνες που θεσπίζονται με τον παρόντα κανονισμό θα πρέπει να εφαρμόζονται στους παρόχους συστημάτων ΤΝ χωρίς διακρίσεις, ανεξάρτητα από το αν είναι εγκατεστημένοι εντός της Ένωσης ή σε τρίτη χώρα, καθώς και στους φορείς εφαρμογής συστημάτων ΤΝ που είναι εγκατεστημένοι εντός της Ένωσης.
(21)
За да се гарантират равнопоставеност и ефективна защита на правата и свободите на физическите лица в целия Съюз, правилата, установени с настоящия регламент, следва да се прилагат недискриминационно за доставчиците на системи с ИИ, независимо дали са установени в Съюза, или в трета държава, както и за внедрителите на системи с ИИ, установени в Съюза.
(22)
Δεδομένου του ψηφιακού τους χαρακτήρα, ορισμένα συστήματα ΤΝ θα πρέπει να εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού, ακόμη και σε περίπτωση που δεν διατίθενται στην αγορά, δεν τίθενται σε λειτουργία ή δεν χρησιμοποιούνται στην Ένωση. Αυτό ισχύει, για παράδειγμα, στην περίπτωση που φορέας εκμετάλλευσης εγκατεστημένος στην Ένωση αναθέτει ορισμένες υπηρεσίες σε φορέα εκμετάλλευσης εγκατεστημένο σε τρίτη χώρα σε σχέση με δραστηριότητα η οποία πρόκειται να εκτελεστεί από σύστημα ΤΝ το οποίο χαρακτηρίζεται υψηλού κινδύνου. Στις περιπτώσεις αυτές, το σύστημα ΤΝ που χρησιμοποιείται σε τρίτη χώρα από τον φορέα εκμετάλλευσης θα μπορούσε να επεξεργάζεται δεδομένα που έχουν συλλεχθεί και διαβιβαστεί νομίμως από την Ένωση και να παρέχει στον αναθέτοντα φορέα εκμετάλλευσης στην Ένωση τα στοιχεία εξόδου του συστήματος ΤΝ που προκύπτουν από την εν λόγω επεξεργασία, χωρίς το εν λόγω σύστημα ΤΝ να έχει διατεθεί στην αγορά, να έχει τεθεί σε λειτουργία ή να χρησιμοποιείται στην Ένωση. Για να αποφευχθεί η καταστρατήγηση του παρόντος κανονισμού και να διασφαλιστεί η αποτελεσματική προστασία των φυσικών προσώπων που βρίσκονται στην Ένωση, ο παρών κανονισμός θα πρέπει να εφαρμόζεται και στους παρόχους και τους φορείς εφαρμογής συστημάτων ΤΝ που είναι εγκατεστημένοι σε τρίτη χώρα, στον βαθμό που τα παραγόμενα από τα εν λόγω συστήματα στοιχεία εξόδου προορίζονται για χρήση στην Ένωση. Ωστόσο, προκειμένου να ληφθούν υπόψη οι υφιστάμενες ρυθμίσεις και οι ειδικές ανάγκες για τη μελλοντική συνεργασία με αλλοδαπούς εταίρους με τους οποίους ανταλλάσσονται πληροφορίες και αποδεικτικά στοιχεία, ο παρών κανονισμός δεν θα πρέπει να εφαρμόζεται σε δημόσιες αρχές τρίτης χώρας και σε διεθνείς οργανισμούς όταν ενεργούν στο πλαίσιο συνεργασίας ή διεθνών συμφωνιών που συνάπτονται σε ενωσιακό ή εθνικό επίπεδο για σκοπούς επιβολής του νόμου και δικαστικής συνεργασίας με την Ένωση ή τα κράτη μέλη, υπό την προϋπόθεση ότι η τρίτη χώρα ή οι διεθνείς οργανισμοί αυτοί παρέχουν επαρκείς διασφαλίσεις όσον αφορά την προστασία των θεμελιωδών δικαιωμάτων και ελευθεριών των ατόμων. Κατά περίπτωση, μπορούν να καλύπτονται δραστηριότητες οντοτήτων στις οποίες έχει ανατεθεί από τρίτες χώρες η εκτέλεση ειδικών εργασιών προς υποστήριξη της επιβολής του νόμου και της δικαστικής συνεργασίας. Πλαίσια συνεργασίας ή συμφωνίες αυτού του είδους έχουν συναφθεί σε διμερές επίπεδο μεταξύ κρατών μελών και τρίτων χωρών ή μεταξύ της Ευρωπαϊκής Ένωσης, της Ευρωπόλ και άλλων οργανισμών της Ένωσης και τρίτων χωρών ή διεθνών οργανισμών. Οι αρχές που είναι αρμόδιες για την εποπτεία των αρχών επιβολής του νόμου και των δικαστικών αρχών βάσει του παρόντος κανονισμού θα πρέπει να αξιολογούν αν τα πλαίσια συνεργασίας ή οι διεθνείς συμφωνίες περιλαμβάνουν επαρκείς διασφαλίσεις όσον αφορά την προστασία των θεμελιωδών δικαιωμάτων και ελευθεριών των ατόμων. Οι εθνικές αρχές και τα θεσμικά και λοιπά όργανα και οργανισμοί της Ένωσης που είναι αποδέκτες τέτοιων στοιχείων εξόδου και τα χρησιμοποιούν στην Ένωση παραμένουν υπόλογοι για τη διασφάλιση της χρήσης τους σύμφωνα με το δίκαιο της Ένωσης. Σε περίπτωση αναθεώρησης των εν λόγω διεθνών συμφωνιών ή σύναψης νέων στο μέλλον, τα συμβαλλόμενα μέρη θα πρέπει να καταβάλλουν κάθε δυνατή προσπάθεια για την ευθυγράμμιση των εν λόγω συμφωνιών με τις απαιτήσεις του παρόντος κανονισμού.
(22)
Поради своето цифрово естество някои системи с ИИ следва да попадат в обхвата на настоящия регламент дори когато не се пускат на пазара, не се пускат в действие и не се използват в Съюза. Такъв е например случаят с оператор, установен в Съюза, който сключва договор за определени услуги с оператор, установен в трета държава, във връзка с дейност, която ще се извършва от система с ИИ, която би била определена като високорискова. При тези обстоятелства системата с ИИ, използвана в трета държава от оператора, би могла да обработва данни, които са законно събрани в Съюза и прехвърлени от Съюза, и да предоставя на сключилия договор оператор в Съюза резултата от системата с ИИ, получен въз основа на тази обработка, без системата с ИИ да е била пускана на пазара, пусната в действие или използвана в Съюза. За да не се допусне заобикаляне на настоящия регламент и да се гарантира ефективна защита на физическите лица, намиращи се в Съюза, настоящият регламент следва също така да се прилага за доставчиците и внедрителите на системи с ИИ, установени в трета държава, доколкото резултатът, получен от тези системи, е предназначен да се използва в Съюза. Независимо от това, за да се вземат предвид съществуващите договорености и особените нужди от бъдещо сътрудничество с чуждестранни партньори, с които се обменят информация и доказателства, настоящият регламент не следва да се прилага за публични органи на трета държава и за международни организации, когато те действат в рамките на споразумения за сътрудничество или международни споразумения, сключени на равнището на Съюза или на национално равнище за сътрудничество в областта на правоприлагането и за съдебно сътрудничество със Съюза или с неговите държави членки, при условие че съответната трета държава или международна организация осигурява подходящи гаранции по отношение на защитата на основните права и свободи на лицата. Когато е приложимо, това може да обхваща дейности на субекти, на които третите държави са възложили изпълнението на конкретни задачи в подкрепа на това сътрудничество в областта на правоприлагането и съдебно сътрудничество. Такива рамки за сътрудничество или споразумения са установени двустранно между държави членки и трети държави или между Европейския съюз, Европол и други агенции на Съюза, трети държави и международни организации. Органите, компетентни за надзора на правоохранителните органи и органите на съдебната власт съгласно настоящия регламент, следва да преценят дали тези рамки за сътрудничество или международни споразумения включват подходящи гаранции по отношение на защитата на основните права и свободи на лицата. Националните органи и институциите, органите, службите и агенциите на Съюза, които получават и използват такива резултати в Съюза, продължават да са задължени да гарантират, че използването им е в съответствие с правото на Съюза. Когато тези международни споразумения се преразглеждат или се сключват нови в бъдеще, договарящите страни следва да положат максимални усилия да приведат тези споразумения в съответствие с изискванията на настоящия регламент.
(23)
Ο παρών κανονισμός θα πρέπει επίσης να εφαρμόζεται στα θεσμικά και λοιπά όργανα και οργανισμούς της Ένωσης όταν ενεργούν ως πάροχοι ή φορείς εφαρμογής συστήματος ΤΝ.
(23)
Настоящият регламент следва да се прилага и за институциите, органите, службите и агенциите на Съюза, когато те действат като доставчик или внедрител на система с ИИ.
(24)
Εάν και στον βαθμό που τα συστήματα ΤΝ διατίθενται στην αγορά, τίθενται σε λειτουργία ή χρησιμοποιούνται με ή χωρίς τροποποίηση για στρατιωτικούς ή αμυντικούς σκοπούς ή για σκοπούς εθνικής ασφάλειας, θα πρέπει να εξαιρούνται από το πεδίο εφαρμογής του παρόντος κανονισμού ανεξάρτητα από το είδος της οντότητας που ασκεί τις εν λόγω δραστηριότητες, π.χ. ανεξάρτητα από το αν πρόκειται για δημόσια ή ιδιωτική οντότητα. Όσον αφορά τους στρατιωτικούς και αμυντικούς σκοπούς, η εξαίρεση αυτή δικαιολογείται τόσο από το άρθρο 4 παράγραφος 2 ΣΕΕ, όσο και από τις ιδιαιτερότητες της αμυντικής πολιτικής των κρατών μελών και της κοινής ενωσιακής αμυντικής πολιτικής που καλύπτεται από τον τίτλο V κεφάλαιο 2 ΣΕΕ οι οποίες υπόκεινται στο δημόσιο διεθνές δίκαιο, το οποίο αποτελεί, συνεπώς, το καταλληλότερο νομικό πλαίσιο για τη ρύθμιση των συστημάτων ΤΝ στο πλαίσιο της χρήσης φονικής βίας και άλλων συστημάτων ΤΝ στο πλαίσιο στρατιωτικών και αμυντικών δραστηριοτήτων. Όσον αφορά τους σκοπούς εθνικής ασφάλειας, η εξαίρεση δικαιολογείται τόσο από το γεγονός ότι η εθνική ασφάλεια παραμένει αποκλειστική αρμοδιότητα των κρατών μελών σύμφωνα με το άρθρο 4 παράγραφος 2 ΣΕΕ, όσο και από τον ειδικό χαρακτήρα και τις επιχειρησιακές ανάγκες των δραστηριοτήτων εθνικής ασφάλειας και από τους ειδικούς εθνικούς κανόνες που ισχύουν για τις εν λόγω δραστηριότητες. Ωστόσο, εάν ένα σύστημα ΤΝ που αναπτύσσεται, διατίθεται στην αγορά, τίθεται σε λειτουργία ή χρησιμοποιείται για στρατιωτικούς ή αμυντικούς σκοπούς ή σκοπούς εθνικής ασφάλειας χρησιμοποιείται, πέραν των σκοπών αυτών, σε προσωρινή ή μόνιμη βάση για άλλους σκοπούς, επί παραδείγματι για μη στρατιωτικούς ή ανθρωπιστικούς σκοπούς, για σκοπούς επιβολής του νόμου ή για σκοπούς δημόσιας ασφάλειας, το εν λόγω σύστημα θα εμπίπτει στο πεδίο εφαρμογής του παρόντος κανονισμού. Στην περίπτωση αυτή, η οντότητα που χρησιμοποιεί το σύστημα ΤΝ για σκοπούς πέραν των στρατιωτικών ή αμυντικών σκοπών ή των σκοπών εθνικής ασφάλειας θα πρέπει να διασφαλίζει τη συμμόρφωση του συστήματος ΤΝ με τον παρόντα κανονισμό, εκτός εάν το σύστημα συμμορφώνεται ήδη με αυτόν. Τα συστήματα ΤΝ που διατίθενται στην αγορά ή τίθενται σε λειτουργία για εξαιρούμενο σκοπό, δηλαδή για στρατιωτικό ή αμυντικό σκοπό ή για σκοπό εθνικής ασφάλειας, και για έναν ή περισσότερους μη εξαιρούμενους σκοπούς, όπως μη στρατιωτικούς σκοπούς ή σκοπούς επιβολής του νόμου, εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού και οι πάροχοι των εν λόγω συστημάτων θα πρέπει να διασφαλίζουν τη συμμόρφωση με αυτόν. Στις περιπτώσεις αυτές, το γεγονός ότι ένα σύστημα ΤΝ ενδέχεται να εμπίπτει στο πεδίο εφαρμογής του παρόντος κανονισμού δεν θα πρέπει να επηρεάζει τη δυνατότητα των οντοτήτων που ασκούν δραστηριότητες εθνικής ασφάλειας και αμυντικές και στρατιωτικές δραστηριότητες, ανεξάρτητα από το είδος της οντότητας που ασκεί τις εν λόγω δραστηριότητες, να χρησιμοποιούν για σκοπούς εθνικής ασφάλειας και για στρατιωτικούς και αμυντικούς σκοπούς συστήματα ΤΝ των οποίων η χρήση εξαιρείται από το πεδίο εφαρμογής του παρόντος κανονισμού. Ένα σύστημα ΤΝ που διατίθεται στην αγορά για μη στρατιωτικούς σκοπούς ή σκοπούς επιβολής του νόμου και χρησιμοποιείται με ή χωρίς τροποποίηση για στρατιωτικούς ή αμυντικούς σκοπούς ή για σκοπούς εθνικής ασφάλειας δεν θα πρέπει να εμπίπτει στο πεδίο εφαρμογής του παρόντος κανονισμού, ανεξάρτητα από το είδος της οντότητας που ασκεί τις εν λόγω δραστηριότητες.
(24)
Ако и доколкото системите с ИИ се пускат на пазара, пускат в действие или използват, със или без изменение на тези системи, за военни цели и цели, свързани с отбраната или националната сигурност, те следва да бъдат изключени от обхвата на настоящия регламент, независимо от това какъв вид субект извършва тези дейности, например дали е публичен, или частен субект. По отношение на военните цели и целите, свързани с отбраната, това изключение е обосновано както от член 4, параграф 2 ДЕС, така и от специфичните особености на политиката за отбрана на държавите членки и общата политика за отбрана на Съюза, обхваната от дял V, глава 2 ДЕС, спрямо които се прилага международното публично право, което поради това е по-подходящата правна рамка за регулиране на системите с ИИ в контекста на употребата на смъртоносна сила и на други системи с ИИ в контекста на военните и отбранителните дейности. По отношение на целите на националната сигурност, изключението е обосновано както от факта, че националната сигурност продължава да бъде отговорност единствено на държавите членки в съответствие с член 4, параграф 2 ДЕС, така и от специфичното естество и оперативни нужди на дейностите в областта на националната сигурност и специалните национални правила, приложими за тези дейности. Въпреки това, ако система с ИИ, разработена, пусната на пазара, пусната в действие или използвана за военни цели и цели, свързани с отбраната или националната сигурност, се използва извън рамките на тези цели временно или се използва постоянно за други цели, например за граждански или хуманитарни цели и за правоохранителни цели или цели, свързани с обществената сигурност, тази система би попаднала в обхвата на настоящия регламент. В този случай субектът, използващ системата с ИИ за цели, различни от военни цели и цели, свързани с отбраната или националната сигурност, следва да гарантира съответствието на системата с ИИ с настоящия регламент, освен ако системата вече не е в съответствие с настоящия регламент. Системите с ИИ, пуснати на пазара или пуснати в действие за изключена цел, а именно военна цел и цел, свързана с отбраната или национална сигурност, и една или повече неизключени цели, например граждански цели или правоохранителни цели, попадат в обхвата на настоящия регламент и доставчиците на тези системи следва да гарантират спазването на настоящия регламент. В тези случаи фактът, че дадена система с ИИ може да попадне в обхвата на настоящия регламент, не следва да засяга възможността субектите, извършващи дейности в областта на националната сигурност и отбраната и военни дейности, независимо от вида на субекта, извършващ тези дейности, да използват за цели в областта на националната сигурност и отбраната и за военни цели системи с ИИ, чието използване е изключено от обхвата на настоящия регламент. Система с ИИ, пусната на пазара за граждански цели или за правоохранителни цели, която се използва, със или без изменение, за военни цели и за цели, свързани с отбраната или националната сигурност, не следва да попада в обхвата на настоящия регламент, независимо от вида на субекта, извършващ тези дейности.
(25)
Ο παρών κανονισμός θα πρέπει να στηρίζει την καινοτομία, θα πρέπει να σέβεται την ελευθερία της επιστήμης και να μην υπονομεύει τις δραστηριότητες έρευνας και ανάπτυξης. Είναι, επομένως, απαραίτητο να εξαιρεθούν από το πεδίο εφαρμογής του συστήματα και μοντέλα ΤΝ τα οποία έχουν αναπτυχθεί ειδικά και τεθεί σε λειτουργία με αποκλειστικό σκοπό την επιστημονική έρευνα και ανάπτυξη. Επιπλέον, είναι απαραίτητο να διασφαλιστεί ότι ο παρών κανονισμός δεν θίγει με άλλο τρόπο τις δραστηριότητες επιστημονικής έρευνας και ανάπτυξης στον τομέα των συστημάτων και μοντέλων ΤΝ πριν από τη διάθεση τους στην αγορά ή τη θέση τους σε λειτουργία. Όσον αφορά τις δραστηριότητες έρευνας, δοκιμής και ανάπτυξης που σχετίζονται με συστήματα και μοντέλα ΤΝ και είναι προσανατολισμένες προς προϊόντα, οι διατάξεις του παρόντος κανονισμού δεν θα πρέπει να εφαρμόζονται πριν από τη θέση των συστημάτων και των μοντέλων αυτών σε λειτουργία ή τη διάθεσή τους στην αγορά. Η εξαίρεση αυτή ισχύει με την επιφύλαξη της υποχρέωσης συμμόρφωσης με τον παρόντα κανονισμό σε περίπτωση που ένα σύστημα ΤΝ το οποίο εμπίπτει στο πεδίο εφαρμογής του παρόντος κανονισμού διατίθεται στην αγορά ή τίθεται σε λειτουργία ως αποτέλεσμα τέτοιου είδους δραστηριότητας έρευνας και ανάπτυξης και με την επιφύλαξη της εφαρμογής των διατάξεων που αφορούν τα ρυθμιστικά δοκιμαστήρια ΤΝ και τις δοκιμές σε πραγματικές συνθήκες. Επιπλέον, με την επιφύλαξη της εξαίρεσης των συστημάτων ΤΝ που αναπτύσσονται ειδικά και τίθενται σε λειτουργία με αποκλειστικό σκοπό την επιστημονική έρευνα και ανάπτυξη, κάθε άλλο σύστημα ΤΝ που μπορεί να χρησιμοποιηθεί για την άσκηση οποιασδήποτε δραστηριότητας έρευνας και ανάπτυξης θα πρέπει να συνεχίσει να υπόκειται στις διατάξεις του παρόντος κανονισμού. Σε κάθε περίπτωση, κάθε δραστηριότητα έρευνας και ανάπτυξης θα πρέπει να ασκείται σύμφωνα με αναγνωρισμένα δεοντολογικά και επαγγελματικά πρότυπα για την επιστημονική έρευνα και θα πρέπει να διεξάγεται σύμφωνα με το εφαρμοστέο ενωσιακό δίκαιο.
(25)
Настоящият регламент следва да подкрепя иновациите, да зачита свободата на науката и не следва да е пречка за научноизследователската и развойната дейност. Поради това е необходимо от неговия обхват да бъдат изключени системите и моделите с ИИ, специално разработени и пуснати в действие единствено с цел научноизследователска и развойна дейност. Освен това е необходимо да се гарантира, че настоящият регламент не засяга по друг начин научноизследователската и развойната дейност в областта на системите или моделите с ИИ преди пускането им на пазара или пускането им в действие. По отношение на ориентираната към продуктите научноизследователска, изпитателна и развойна дейност във връзка със системи или модели с ИИ, разпоредбите на настоящия регламент също така не следва да се прилагат преди пускането в действие или пускането на пазара на тези системи и модели. Това изключение не засяга задължението за спазване на настоящия регламент, когато система с ИИ, попадаща в обхвата на настоящия регламент, е пусната на пазара или пусната в действие в резултат на такава научноизследователска и развойна дейност, както и прилагането на разпоредбите относно регулаторните лаборатории в областта на ИИ и изпитването в реални условия. Освен това, без да се засяга изключението по отношение на системите с ИИ, специално разработени и пуснати в действие единствено за целите на научноизследователската и развойната дейност, за всяка друга система с ИИ, която може да се използва за извършването на научноизследователска и развойна дейност, разпоредбите на настоящия регламент следва да продължат да се прилагат. Във всеки случай всяка научноизследователска и развойна дейност следва да се извършва в съответствие с признатите етични и професионални стандарти по отношение на научните изследвания и следва да се провежда в съответствие с приложимото право на Съюза.
(26)
Προκειμένου να θεσπιστεί ένα αναλογικό και αποτελεσματικό σύνολο δεσμευτικών κανόνων για τα συστήματα ΤΝ, θα πρέπει να ακολουθηθεί μια σαφώς καθορισμένη προσέγγιση βάσει κινδύνου. Η προσέγγιση θα πρέπει να προσαρμόζει το είδος και το περιεχόμενο των εν λόγω κανόνων στην ένταση και την έκταση των κινδύνων που μπορούν να δημιουργήσουν τα συστήματα ΤΝ. Ως εκ τούτου, είναι αναγκαίο να απαγορευτούν ορισμένες απαράδεκτες πρακτικές TN και να καθοριστούν απαιτήσεις για τα συστήματα ΤΝ υψηλού κινδύνου, υποχρεώσεις για τους σχετικούς φορείς εκμετάλλευσης, καθώς και υποχρεώσεις διαφάνειας για ορισμένα συστήματα ΤΝ.
(26)
За да се въведе пропорционален и ефективен набор от задължителни правила за системите с ИИ, следва да се прилага ясно определен подход, основан на риска. В рамките на този подход видът и съдържанието на правилата следва да се адаптират към интензитета и обхвата на рисковете, които системите с ИИ могат да породят. Поради това е необходимо да се забранят някои неприемливи практики в областта на ИИ, да се установят изисквания за високорисковите системи с ИИ и задължения за съответните оператори, както и да се установят задължения за прозрачност за някои системи с ИИ.
(27)
Παρότι η προσέγγιση βάσει κινδύνου αποτελεί το θεμέλιο για ένα αναλογικό και αποτελεσματικό σύνολο δεσμευτικών κανόνων, είναι σημαντικό να υπενθυμιστούν οι κατευθυντήριες γραμμές δεοντολογίας για αξιόπιστη ΤΝ του 2019, τις οποίες ανέπτυξε η ανεξάρτητη ΟΕΥΕ για την ΤΝ που είχε διοριστεί από την Επιτροπή. Στις κατευθυντήριες αυτές γραμμές, η ΟΕΥΕ για την ΤΝ ανέπτυξε επτά μη δεσμευτικές δεοντολογικές αρχές για την ΤΝ που έχουν στόχο να βοηθήσουν στη διασφάλιση της αξιοπιστίας και της δεοντολογικής ορθότητας της ΤΝ. Στις επτά αρχές περιλαμβάνονται η ανθρώπινη παρέμβαση και εποπτεία· η τεχνική στιβαρότητα και ασφάλεια· η ιδιωτική ζωή και διακυβέρνηση των δεδομένων· η διαφάνεια· η πολυμορφία, η απαγόρευση των διακρίσεων και η δικαιοσύνη· η κοινωνική και περιβαλλοντική ευημερία και η λογοδοσία. Με την επιφύλαξη των νομικά δεσμευτικών απαιτήσεων του παρόντος κανονισμού και κάθε άλλου εφαρμοστέου κανόνα του ενωσιακού δικαίου, οι κατευθυντήριες αυτές γραμμές συμβάλλουν στον σχεδιασμό συνεκτικής, αξιόπιστης και ανθρωποκεντρικής ΤΝ, σύμφωνης με τον Χάρτη και τις αξίες στις οποίες εδράζεται η Ένωση. Σύμφωνα με τις κατευθυντήριες γραμμές της ΟΕΥΕ για την ΤΝ, η αρχή της «ανθρώπινης παρέμβασης και εποπτείας» σημαίνει ότι τα συστήματα ΤΝ αναπτύσσονται και χρησιμοποιούνται ως εργαλείο που εξυπηρετεί τον άνθρωπο, σέβεται την ανθρώπινη αξιοπρέπεια και την προσωπική αυτονομία και λειτουργεί κατά τρόπο που μπορεί να ελέγχεται και να εποπτεύεται καταλλήλως από τον άνθρωπο. Η τεχνική στιβαρότητα και ασφάλεια σημαίνει ότι τα συστήματα ΤΝ αναπτύσσονται και χρησιμοποιούνται κατά τρόπο που, αφενός, εξασφαλίζει στιβαρότητα σε περίπτωση προβλημάτων και ανθεκτικότητα έναντι προσπαθειών που έχουν στόχο να αλλοιωθούν η χρήση ή οι επιδόσεις του συστήματος ΤΝ και να καταστεί έτσι δυνατή η παράνομη χρήση του από τρίτους και, αφετέρου, ελαχιστοποιεί την ακούσια βλάβη. Η ιδιωτική ζωή και η διακυβέρνηση των δεδομένων σημαίνουν ότι τα συστήματα ΤΝ αναπτύσσονται και χρησιμοποιούνται κατά τρόπο σύμφωνο προς τους κανόνες για την προστασία της ιδιωτικής ζωής και των δεδομένων, ενώ επεξεργάζονται δεδομένα που πληρούν υψηλά πρότυπα ποιότητας και ακεραιότητας. Η διαφάνεια σημαίνει ότι τα συστήματα ΤΝ αναπτύσσονται και χρησιμοποιούνται κατά τρόπο που επιτρέπει κατάλληλη ιχνηλασιμότητα και εξηγησιμότητα, ενώ παράλληλα καθίσταται σαφές στον άνθρωπο ότι επικοινωνεί ή αλληλεπιδρά με ένα σύστημα ΤΝ και ενημερώνονται δεόντως οι μεν φορείς εφαρμογής για τις δυνατότητες και τους περιορισμούς του εν λόγω συστήματος ΤΝ, τα δε θιγόμενα πρόσωπα για τα δικαιώματά τους. Η πολυμορφία, η απαγόρευση των διακρίσεων και η δικαιοσύνη σημαίνουν ότι τα συστήματα ΤΝ αναπτύσσονται και χρησιμοποιούνται κατά τρόπο που συμπεριλαμβάνει ποικίλους παράγοντες και προωθεί την ίση πρόσβαση, την ισότητα των φύλων και την πολιτιστική πολυμορφία, αποφεύγοντας παράλληλα διακρίσεις και αθέμιτες προκαταλήψεις που απαγορεύονται από το ενωσιακό ή το εθνικό δίκαιο. Η κοινωνική και περιβαλλοντική ευημερία σημαίνει ότι τα συστήματα ΤΝ αναπτύσσονται και χρησιμοποιούνται με βιώσιμο και φιλικό προς το περιβάλλον τρόπο, καθώς και με τρόπο που ωφελεί όλους τους ανθρώπους, ενώ παράλληλα παρακολουθούνται και αξιολογούνται οι μακροπρόθεσμες επιπτώσεις στο άτομο, την κοινωνία και τη δημοκρατία. Η εφαρμογή αυτών των αρχών θα πρέπει να αποτυπώνεται, όποτε είναι δυνατόν, στον σχεδιασμό και τη χρήση μοντέλων ΤΝ. Θα πρέπει σε κάθε περίπτωση να χρησιμεύουν σαν βάση για την κατάρτιση κωδίκων δεοντολογίας δυνάμει του παρόντος κανονισμού. Όλοι οι συμφεροντούχοι, συμπεριλαμβανομένων της βιομηχανίας, της ακαδημαϊκής κοινότητας, της κοινωνίας των πολιτών και των οργανισμών τυποποίησης, παροτρύνονται να λαμβάνουν υπόψη, όπως αρμόζει, τις δεοντολογικές αρχές για την ανάπτυξη προαιρετικών βέλτιστων πρακτικών και προτύπων.
(27)
Въпреки че основаният на риска подход е основата за пропорционален и ефективен набор от задължителни правила, е важно да се припомнят Насоките относно етичните аспекти за надежден ИИ от 2019 г., разработени от независимата ЕГВР ИИ, определена от Комисията. В тези насоки ЕГВР ИИ е разработила седем необвързващи етични принципа за ИИ, които имат за цел да спомогнат да се гарантира, че ИИ е надежден и етичен. Седемте принципа включват човешки фактор и контрол; техническа стабилност и безопасност; неприкосновеност на личния живот и управление на данните; прозрачност; многообразие, недискриминация и справедливост; обществено и екологично благосъстояние; отчетност. Без да засягат правно обвързващите изисквания на настоящия регламент и на всички други приложими правни актове на Съюза, посочените насоки допринасят за разработването на съгласуван, надежден и ориентиран към човека ИИ в съответствие с Хартата и с ценностите, на които се основава Съюзът. Съгласно Насоките на ЕГВР ИИ човешки фактор и контрол означава, че системите с ИИ се разработват и използват като инструмент, който служи на хората, зачита човешкото достойнство и личната независимост и функционира така, че да може да се контролира и наблюдава от хората по подходящ начин. Техническа стабилност и безопасност означава, че системите с ИИ се разработват и използват по начин, който позволява стабилност в случай на проблеми и устойчивост срещу опити за промяна на използването или действието на системата с ИИ, така че да се даде възможност за незаконно използване от трети лица, и който свежда до минимум непреднамерените вреди. Неприкосновеност на личния живот и управление на данните означава, че системите с ИИ се разработват и използват в съответствие с правилата относно неприкосновеността на личния живот и защитата на данните, като същевременно се обработват данни, които отговарят на високи стандарти по отношение на качеството и целостта. Прозрачност означава, че системите с ИИ се разработват и използват по начин, който позволява подходяща проследимост и разбираемост, като същевременно хората се уведомяват, че комуникират или си взаимодействат със система с ИИ, и внедрителите надлежно се информират за способностите и ограниченията на тази система с ИИ, а засегнатите лица – за техните права. Многообразие, недискриминация и справедливост означава, че системите с ИИ се разработват и използват по начин, който включва различни участници и насърчава равния достъп, равенството между половете и културното многообразие, като същевременно се избягват дискриминационните въздействия и несправедливата предубеденост, които са забранени от правото на Съюза или националното право. Обществено и екологично благосъстояние означава, че системите с ИИ се разработват и използват по устойчив и екологосъобразен начин, както и така, че да са от полза за всички хора, като същевременно се наблюдават и оценяват дългосрочните въздействия върху отделните лица, обществото и демокрацията. Прилагането на тези принципи следва да бъде отразено, когато е възможно, при проектирането и използването на модели с ИИ. При всички случаи те следва да служат като основа за изготвянето на кодекси за поведение съгласно настоящия регламент. Всички заинтересовани страни, включително стопанските сектори, академичните среди, гражданското общество и организациите за стандартизация, се насърчават да вземат предвид, когато е целесъобразно, етичните принципи за разработването на незадължителни най-добри практики и стандарти.
(28)
Πέρα από τις πολλές επωφελείς χρήσεις της ΤΝ, μπορεί επίσης να χρησιμοποιηθεί αντικανονικά και να παράσχει νέα και ισχυρά εργαλεία για πρακτικές χειραγώγησης, εκμετάλλευσης και κοινωνικού ελέγχου. Οι πρακτικές αυτές είναι ιδιαίτερα επιβλαβείς και καταχρηστικές και θα πρέπει να απαγορευτούν, διότι έρχονται σε αντίθεση με τις ενωσιακές αξίες του σεβασμού της ανθρώπινης αξιοπρέπειας, της ελευθερίας, της ισότητας, της δημοκρατίας και του κράτους δικαίου, καθώς και με τα θεμελιώδη δικαιώματα που κατοχυρώνονται στον Χάρτη, συμπεριλαμβανομένων του δικαιώματος στη μεταχείριση χωρίς διακρίσεις, στην προστασία των δεδομένων και στην ιδιωτική ζωή και των δικαιωμάτων του παιδιού.
(28)
Въпреки че ИИ има многобройни полезни приложения, с него може да се злоупотребява и той може да осигури нови и мощни инструменти за манипулативни и експлоататорски практики и практики за социален контрол. Тези практики са особено вредни и недобросъвестни и следва да бъдат забранени, тъй като противоречат на ценностите на Съюза за зачитане на човешкото достойнство, свободата, равенството, демокрацията и принципите на правовата държава, и основните права, залегнали в Хартата, включително правото на недискриминация, на защита на данните и на неприкосновеност на личния живот, както и правата на детето.
(29)
Τεχνικές χειραγώγησης που βασίζονται στην ΤΝ μπορούν να χρησιμοποιηθούν για να πεισθούν άτομα να επιδοθούν σε ανεπιθύμητες συμπεριφορές ή για να εξαπατηθούν μέσω της εξώθησής τους στη λήψη αποφάσεων κατά τρόπο που υπονομεύει και περιορίζει την αυτονομία, την ικανότητα λήψης αποφάσεων και τις ελεύθερες επιλογές τους. Η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση ορισμένων συστημάτων ΤΝ με στόχο ή αποτέλεσμα την ουσιώδη στρέβλωση της ανθρώπινης συμπεριφοράς, λόγω της οποίας είναι πιθανή η πρόκληση σημαντικής βλάβης, ιδίως με αρκούντως σοβαρές δυσμενείς επιπτώσεις στη σωματική ή ψυχολογική υγεία ή στα οικονομικά συμφέροντα, είναι ιδιαίτερα επικίνδυνες και, για τον λόγο αυτό, θα πρέπει να απαγορεύονται. Αυτού του είδους τα συστήματα ΤΝ χρησιμοποιούν κατασκευαστικά στοιχεία που απευθύνονται στο υποσυνείδητο, όπως ερεθίσματα ήχου, εικόνας και βίντεο τα οποία τα πρόσωπα δεν μπορούν να αντιληφθούν, καθώς τα εν λόγω ερεθίσματα υπερβαίνουν την ανθρώπινη αντίληψη, ή άλλες τεχνικές χειραγώγησης ή παραπλάνησης που υπονομεύουν ή περιορίζουν την αυτονομία, την ικανότητα λήψης αποφάσεων ή τις ελεύθερες επιλογές του προσώπου με τρόπους με τους οποίους δεν αντιλαμβάνεται συνειδητά τις εν λόγω τεχνικές ή, εάν τις αντιλαμβάνεται, μπορεί παρά ταύτα να παραπλανηθεί ή δεν είναι σε θέση να τις ελέγξει ή να αντισταθεί σε αυτές. Κάτι τέτοιο θα μπορούσε, για παράδειγμα, να γίνει ευκολότερο με διεπαφές μηχανήματος-εγκεφάλου ή με την εικονική πραγματικότητα, καθώς επιτρέπουν μεγαλύτερο έλεγχο των ερεθισμάτων που παρουσιάζονται στα πρόσωπα, δεδομένου ότι μπορούν να στρεβλώσουν ουσιωδώς τη συμπεριφορά τους με ιδιαίτερα επιβλαβή τρόπο. Επιπλέον, τα συστήματα ΤΝ μπορούν επίσης να εκμεταλλεύονται με άλλο τρόπο τα τρωτά σημεία ενός προσώπου ή μιας συγκεκριμένης ομάδας προσώπων λόγω της ηλικίας τους, της αναπηρίας τους κατά την έννοια της οδηγίας (ΕΕ) 2019/882 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (16) ή μιας συγκεκριμένης κοινωνικής ή οικονομικής κατάστασης που πιθανόν καθιστά τα εν λόγω πρόσωπα περισσότερο ευάλωτα στην εκμετάλλευση, όπως τα άτομα που ζουν σε συνθήκες ακραίας φτώχειας ή ανήκουν σε εθνοτικές ή θρησκευτικές μειονότητες. Τέτοια συστήματα ΤΝ μπορούν να διατίθενται στην αγορά, να τίθενται σε λειτουργία ή να χρησιμοποιούνται με στόχο ή αποτέλεσμα την ουσιώδη στρέβλωση της συμπεριφοράς ενός προσώπου κατά τρόπο που προκαλεί ή είναι ευλόγως πιθανόν να προκαλέσει σημαντική βλάβη στο εν λόγω πρόσωπο ή σε άλλο πρόσωπο ή ομάδες προσώπων, συμπεριλαμβανομένων βλαβών που μπορεί να συσσωρευθούν με την πάροδο του χρόνου, και συνεπώς θα πρέπει να απαγορευθούν. Ενδέχεται να μην είναι δυνατόν να εικασθεί πως υπάρχει πρόθεση στρέβλωσης της συμπεριφοράς, εάν η στρέβλωση προκύπτει από παράγοντες εκτός του συστήματος ΤΝ τους οποίους δεν μπορεί να ελέγξει ο πάροχος ή ο φορέας εφαρμογής, δηλαδή παράγοντες που ενδεχομένως δεν είναι ευλόγως προβλέψιμοι και, συνεπώς, ο πάροχος ή ο φορέας εφαρμογής του συστήματος ΤΝ δεν είναι δυνατόν να μετριάσει. Σε κάθε περίπτωση, δεν είναι απαραίτητο να έχουν ο πάροχος ή ο φορέας εφαρμογής την πρόθεση να προκαλέσουν σημαντική βλάβη, εφόσον η βλάβη αυτή προκύπτει από πρακτικές χειραγώγησης ή εκμετάλλευσης που βασίζονται στην ΤΝ. Η απαγόρευση των εν λόγω πρακτικών ΤΝ είναι συμπληρωματική προς τις διατάξεις της οδηγίας 2005/29/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (17), απαγορεύονται δε ιδίως σε κάθε περίπτωση, ανεξάρτητα από το αν ασκούνται μέσω συστημάτων ΤΝ ή με άλλο τρόπο, αθέμιτες εμπορικές πρακτικές που προκαλούν οικονομικές ή χρηματοπιστωτικές βλάβες στους καταναλωτές. Η απαγόρευση των πρακτικών χειραγώγησης και εκμετάλλευσης στον παρόντα κανονισμό δεν θα πρέπει να θίγει νόμιμες πρακτικές στο πλαίσιο ιατρικής περίθαλψης, όπως η ψυχοθεραπεία για την αντιμετώπιση ψυχικής νόσου ή η φυσιοθεραπεία, όταν οι πρακτικές αυτές ασκούνται σύμφωνα με το εφαρμοστέο δίκαιο και τα ιατρικά πρότυπα, για παράδειγμα με τη ρητή συγκατάθεση των ατόμων ή των νόμιμων εκπροσώπων τους. Επιπλέον, οι κοινές και νόμιμες εμπορικές πρακτικές, για παράδειγμα στο πεδίο της διαφήμισης, που είναι σύμφωνες με το εφαρμοστέο δίκαιο δεν θα πρέπει να θεωρούνται καθαυτές επιβλαβείς πρακτικές χειραγώγησης που βασίζονται στην ΤΝ.
(29)
Манипулативните техники, използващи ИИ, могат да служат за склоняване на хората към нежелано поведение или за подвеждането им, като ги подтикват да вземат решения по начин, който подкопава и накърнява тяхната независимост, вземане на решения и свободен избор. Пускането на пазара, пускането в действие или използването на някои системи с ИИ с цел или последици, изразяващи се в съществено изменение на човешкото поведение, при което е вероятно да възникнат значителни вреди, по-специално оказващи достатъчно значимо неблагоприятно въздействие върху физическото или психологическото здраве или финансовите интереси, са особено опасни и поради това следва да бъдат забранени. Такива системи с ИИ използват компоненти, действащи на подсъзнанието, например стимули чрез изображения и аудио и видео стимули, които хората не могат да възприемат, тъй като тези стимули са отвъд човешкото възприятие, или други манипулативни или заблуждаващи техники, които подкопават или накърняват независимостта, вземането на решения или свободния избор така, че хората не осъзнават, че се използват такива техники, или дори когато го осъзнават, те все пак могат да бъдат заблудени или не са в състояние да ги контролират или да им устоят. Това може да бъде улеснено например от интерфейси мозък-машина или виртуална реалност, тъй като те позволяват по-висока степен на контрол върху това какви стимули се предоставят на хората, доколкото те могат съществено да променят поведението им по начин, който води до значителна вреда. Наред с това системите с ИИ могат да се възползват и по друг начин от уязвимостта на дадено лице или конкретна група лица поради тяхната възраст, увреждане по смисъла на Директива (ЕС) 2019/882 на Европейския парламенти и на Съвета (16) или конкретно социално или икономическо положение, което има вероятност да направи тези лица по-уязвими на експлоатация, като например лица, живеещи в крайна бедност, етнически или религиозни малцинства. Такива системи с ИИ могат да бъдат пуснати на пазара, пуснати в действие или използвани с цел или последици, изразяващи се в съществено изменение на поведението на дадено лице, и по начин, който причинява или има разумна вероятност да причини значителна вреда на това или на друго лице или групи лица, включително вреди, които могат да се натрупват с течение на времето, поради което следва да бъдат забранени. Може да не е възможно да се приеме, че е налице намерение за изменение на поведението, когато изменението се дължи на фактори, външни за системата с ИИ, които са извън контрола на доставчика или внедрителя, а именно фактори, които може да не са разумно предвидими и поради това да не е възможно доставчикът или внедрителят на системата с ИИ да ги смекчи. Във всеки случай не е необходимо доставчикът или внедрителят да има намерение да причини значителна вреда, при условие че тази вреда произтича от манипулативни или експлоататорски практики, използващи ИИ. Забраните за такива практики в областта на ИИ допълват разпоредбите, съдържащи се в Директива 2005/29/ЕО на Европейския парламент и на Съвета (17), по-специално за забрана при всички обстоятелства на нелоялните търговски практики, водещи до икономически или финансови вреди за потребителите, независимо дали са въведени чрез системи с ИИ, или по друг начин. Забраните за манипулативни и експлоататорски практики в настоящия регламент не следва да засягат законните практики при медицинско лечение, като например психологическо лечение на психично заболяване или физическа рехабилитация, когато тези практики се извършват в съответствие с приложимото право и приложимите медицински стандарти, например за изричното съгласие на лицата или техните законни представители. Освен това общоприетите и законни търговски практики, например в областта на рекламата, които са в съответствие с приложимото право, не следва сами по себе си да се считат за вредни манипулативни практики, използващи ИИ.
(30)
Θα πρέπει να απαγορεύονται τα συστήματα βιομετρικής κατηγοριοποίησης που βασίζονται σε βιομετρικά δεδομένα φυσικών προσώπων, όπως το πρόσωπο ή το δακτυλικό αποτύπωμα ενός ατόμου, για να συμπεραίνονται ή να συνάγονται τα πολιτικά φρονήματα, η συμμετοχή σε συνδικαλιστική οργάνωση, οι θρησκευτικές ή φιλοσοφικές πεποιθήσεις, η φυλή, η σεξουαλική ζωή ή ο γενετήσιος προσανατολισμός του ατόμου. Η απαγόρευση αυτή δεν θα πρέπει να καλύπτει τη νόμιμη επισήμανση, το νόμιμο φιλτράρισμα ή τη νόμιμη κατηγοριοποίηση συνόλων βιομετρικών δεδομένων που έχουν αποκτηθεί σύμφωνα με το ενωσιακό ή το εθνικό δίκαιο με βάση βιομετρικά δεδομένα, όπως η διαλογή εικόνων ανάλογα με το χρώμα των μαλλιών ή των οφθαλμών, τα οποία μπορούν, για παράδειγμα, να χρησιμοποιηθούν στον τομέα της επιβολής του νόμου.
(30)
Следва да бъдат забранени системите за биометрично категоризиране, които се основават на биометрични данни на физическите лица, като например лицето или пръстовите отпечатъци на дадено лице, за да се направят заключения или изводи относно неговите политически възгледи, членство в синдикални организации, религиозни или философски убеждения, раса, сексуален живот или сексуална ориентация. Тази забрана не следва да обхваща законното обозначаване, филтриране или категоризиране на наборите от биометрични данни, получени в съответствие с правото на Съюза или националното право въз основа на биометрични данни, като например сортиране на изображения според цвета на косата или цвета на очите, които могат да се използват например в правоохранителната област.
(31)
Τα συστήματα ΤΝ που παρέχουν κοινωνική βαθμολόγηση φυσικών προσώπων από δημόσιους ή ιδιωτικούς φορείς μπορούν να οδηγήσουν σε διακρίσεις και στον αποκλεισμό ορισμένων ομάδων. Μπορούν να παραβιάσουν το δικαίωμα στην αξιοπρέπεια και στη μεταχείριση χωρίς διακρίσεις, καθώς και τις αξίες της ισότητας και της δικαιοσύνης. Τα συστήματα ΤΝ αυτού του είδους αξιολογούν ή ταξινομούν φυσικά πρόσωπα ή ομάδες φυσικών προσώπων με βάση πολλαπλά σημεία δεδομένων σχετιζόμενα με την κοινωνική τους συμπεριφορά σε πολλαπλά πλαίσια ή με βάση γνωστά, συναγόμενα ή προβλεπόμενα προσωπικά χαρακτηριστικά τους ή χαρακτηριστικά της προσωπικότητάς τους για ορισμένα χρονικά διαστήματα. Η κοινωνική βαθμολογία που λαμβάνεται από τέτοια συστήματα ΤΝ μπορεί να οδηγήσει σε επιζήμια ή δυσμενή μεταχείριση φυσικών προσώπων ή ολόκληρων ομάδων φυσικών προσώπων σε κοινωνικά πλαίσια, τα οποία δεν σχετίζονται με το πλαίσιο στο οποίο παρήχθησαν ή συνελέγησαν αρχικά τα δεδομένα, ή σε επιζήμια μεταχείριση η οποία είναι δυσανάλογη ή αδικαιολόγητη σε σχέση με τη σοβαρότητα της κοινωνικής συμπεριφοράς τους. Τα συστήματα ΤΝ που περιλαμβάνουν τέτοιες απαράδεκτες πρακτικές βαθμολόγησης και οδηγούν σε επιζήμια ή δυσμενή αποτελέσματα αυτού του είδους θα πρέπει, συνεπώς, να απαγορεύονται. Η απαγόρευση αυτή δεν θα πρέπει να θίγει τις νόμιμες πρακτικές αξιολόγησης φυσικών προσώπων που διενεργούνται για συγκεκριμένο σκοπό κατά τρόπο σύμφωνο προς το ενωσιακό και το εθνικό δίκαιο.
(31)
Системите с ИИ, осигуряващи социално оценяване на физически лица, извършено от публични или частни субекти, могат да доведат до дискриминационни резултати и изключване на определени групи. Те могат да нарушат правото на достойнство и недискриминация и ценностите на равенството и справедливостта. Подобни системи с ИИ оценяват или класифицират физически лица или групи от такива лица въз основа на множество данни, свързани с тяхното социално поведение в различен контекст, или известни, изведени или предполагаеми лични или личностни характеристики, през определен период от време. Социалната класация, получена от такива системи с ИИ, може да доведе до увреждащо или неблагоприятно третиране на физически лица или на цели групи от такива лица в социален контекст, който няма връзка с контекста, в който първоначално са били генерирани или събрани данните, или до увреждащо третиране, което е непропорционално или неоправдано с оглед на тежестта, която се отдава на тяхното социално поведение. Поради това системите с ИИ, които включват такива неприемливи практики за оценяване и водещи до вредни или неблагоприятни резултати, следва да бъдат забранени. Тази забрана не следва да засяга законните практики за оценяване на физически лица, извършвани за конкретна цел в съответствие с правото на Съюза или националното право.
(32)
Η χρήση συστημάτων ΤΝ για την εξ αποστάσεως βιομετρική ταυτοποίηση φυσικών προσώπων σε «πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου είναι ιδιαιτέρως παρεμβατική όσον αφορά τα δικαιώματα και τις ελευθερίες των σχετικών προσώπων, στον βαθμό που μπορεί να επηρεάσει την ιδιωτική ζωή μεγάλου τμήματος του πληθυσμού, να δημιουργήσει την αίσθηση συνεχούς παρακολούθησης και να αποθαρρύνει έμμεσα την άσκηση της ελευθερίας του συνέρχεσθαι και άλλων θεμελιωδών δικαιωμάτων. Τεχνικές ανακρίβειες συστημάτων ΤΝ που προορίζονται για την εξ αποστάσεως βιομετρική ταυτοποίηση φυσικών προσώπων μπορούν να οδηγήσουν σε μεροληπτικά αποτελέσματα και να επιφέρουν διακρίσεις. Τα μεροληπτικά αποτελέσματα και οι διακρίσεις αυτού του είδους σχετίζονται ιδίως με την ηλικία, την εθνοτική καταγωγή, τη φυλή, το φύλο ή τις αναπηρίες. Επιπλέον, η αμεσότητα των επιπτώσεων και οι περιορισμένες δυνατότητες για τη διενέργεια περαιτέρω ελέγχων ή διορθώσεων σε σχέση με τη χρήση τέτοιων συστημάτων που λειτουργούν σε πραγματικό χρόνο ενέχουν αυξημένους κινδύνους για τα δικαιώματα και τις ελευθερίες των ενδιαφερόμενων προσώπων στο πλαίσιο δραστηριοτήτων επιβολής του νόμου ή τα οποία υφίστανται τις επιπτώσεις τέτοιων δραστηριοτήτων.
(32)
Използването на системи с ИИ за дистанционна биометрична идентификация в реално време на физически лица на обществено достъпни места за правоохранителни цели особено силно накърнява правата и свободите на засегнатите лица, доколкото то може да засегне личния живот на голяма част от населението, да породи усещане за постоянно наблюдение и косвено да действа разубеждаващо по отношение на упражняването на свободата на събранията и други основни права. Техническите неточности на системите с ИИ, предназначени за дистанционна биометрична идентификация на физически лица, могат да доведат до опорочени от предубеденост резултати и до дискриминация. Такива възможни опорочени от предубеденост резултати и дискриминационни последици са от особено значение по отношение на възраст, етническа принадлежност, раса, пол или увреждане. Освен това непосредственият ефект и ограничените възможности за допълнителни проверки или корекции във връзка с използването на такива системи, функциониращи в реално време, крият повишен риск за правата и свободите на лицата, които са засегнати при правоохранителните дейности или върху които тези дейности оказват въздействие.
(33)
Η χρήση των συστημάτων αυτών για σκοπούς επιβολής του νόμου θα πρέπει, συνεπώς, να απαγορεύεται, με εξαίρεση εξαντλητικά απαριθμούμενες και αυστηρά καθορισμένες περιπτώσεις, στις οποίες η χρήση τους είναι απολύτως αναγκαία για την επίτευξη σκοπού ουσιαστικού δημόσιου συμφέροντος, η σπουδαιότητα του οποίου υπερτερεί των κινδύνων. Στις περιπτώσεις αυτές περιλαμβάνονται η αναζήτηση ορισμένων θυμάτων εγκληματικών πράξεων, συμπεριλαμβανομένων των εξαφανισμένων προσώπων· ορισμένες απειλές κατά της ζωής ή της σωματικής ακεραιότητας φυσικών προσώπων ή απειλές τρομοκρατικής επίθεσης· και ο εντοπισμός ή η ταυτοποίηση δραστών ή υπόπτων για τις αξιόποινες πράξεις που απαριθμούνται σε παράρτημα του παρόντος κανονισμού, εφόσον οι αξιόποινες αυτές πράξεις τιμωρούνται στο σχετικό κράτος μέλος με στερητική της ελευθερίας ποινή ή στερητικό της ελευθερίας μέτρο ασφάλειας ανώτατης διάρκειας τουλάχιστον τεσσάρων ετών και όπως ορίζονται κατά το δίκαιο του εν λόγω κράτους μέλους. Αυτό το όριο για τη στερητική της ελευθερίας ποινή ή το στερητικό της ελευθερίας μέτρο ασφάλειας σύμφωνα με το εθνικό δίκαιο συμβάλλει στο να διασφαλιστεί ότι η αξιόποινη πράξη θα είναι αρκετά σοβαρή ώστε να δικαιολογεί δυνητικά τη χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο». Εξάλλου, ο κατάλογος αξιόποινων πράξεων που παρατίθεται σε παράρτημα του παρόντος κανονισμού βασίζεται στις 32 αξιόποινες πράξεις που απαριθμούνται στην απόφαση-πλαίσιο 2002/584/ΔΕΥ του Συμβουλίου (18), λαμβανομένου υπόψη ότι στην πράξη ορισμένες από αυτές είναι πιθανόν να παρουσιάζουν μεγαλύτερη συνάφεια από κάποιες άλλες, υπό την έννοια ότι είναι αναμενόμενο να ποικίλλει σημαντικά ο βαθμός στον οποίο η προσφυγή στην εξ αποστάσεως βιομετρική ταυτοποίηση «σε πραγματικό χρόνο» θα μπορούσε να είναι αναγκαία και αναλογική για την έμπρακτη επιδίωξη του εντοπισμού ή της ταυτοποίησης δράστη ή υπόπτου για τις διάφορες απαριθμούμενες αξιόποινες πράξεις και λαμβανομένων επίσης υπόψη των πιθανών διαφορών ως προς τη σοβαρότητα, την πιθανότητα και την κλίμακα της βλάβης ή των ενδεχόμενων αρνητικών συνεπειών. Η επικείμενη απειλή κατά της ζωής ή της σωματικής ακεραιότητας φυσικών προσώπων θα μπορούσε επίσης να προκύψει από σοβαρή διατάραξη υποδομών ζωτικής σημασίας, όπως ορίζονται στο άρθρο 2 σημείο 4) της οδηγίας (ΕΕ) 2022/2557 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (19), όταν η διατάραξη ή η καταστροφή των εν λόγω υποδομών ζωτικής σημασίας θα οδηγούσε σε επικείμενη απειλή κατά της ζωής ή της σωματικής ακεραιότητας ενός προσώπου, μεταξύ άλλων μέσω σοβαρής βλάβης στην παροχή βασικών προμηθειών στον πληθυσμό ή στην άσκηση των βασικών λειτουργιών του κράτους. Επιπλέον, με τον παρόντα κανονισμό θα πρέπει να διατηρείται η δυνατότητα των αρχών που είναι αρμόδιες για την επιβολή του νόμου, τους συνοριακούς ελέγχους, τη μετανάστευση ή το άσυλο να διενεργούν ελέγχους ταυτότητας παρουσία του ενδιαφερόμενου προσώπου σύμφωνα με τις προϋποθέσεις που καθορίζονται στο ενωσιακό και το εθνικό δίκαιο για τους ελέγχους αυτούς. Ειδικότερα, οι αρχές που είναι αρμόδιες για την επιβολή του νόμου, τους συνοριακούς ελέγχους, τη μετανάστευση ή το άσυλο θα πρέπει να είναι σε θέση να χρησιμοποιούν συστήματα πληροφοριών, σύμφωνα με το ενωσιακό ή το εθνικό δίκαιο, για την ταυτοποίηση προσώπων τα οποία, κατά τη διάρκεια ελέγχου ταυτότητας, είτε αρνούνται να ταυτοποιηθούν είτε δεν είναι σε θέση να δηλώσουν ή να αποδείξουν την ταυτότητά τους, χωρίς να απαιτείται βάσει του παρόντος κανονισμού λήψη προηγούμενης άδειας. Αυτό θα μπορούσε να αφορά, για παράδειγμα, ένα πρόσωπο που εμπλέκεται σε εγκληματική πράξη και δεν είναι πρόθυμο ή δεν είναι σε θέση, λόγω ατυχήματος ή ιατρικής πάθησης, να αποκαλύψει την ταυτότητά του στις αρχές επιβολής του νόμου.
(33)
Поради това използването на тези системи за правоохранителни цели следва да бъде забранено, освен в изчерпателно изброени и подробно определени ситуации, при които използването е строго необходимо за постигане на значителен обществен интерес, чиято важност надделява над рисковете. Тези ситуации включват издирването на някои жертви на престъпления, включително изчезнали лица; някои заплахи за живота или физическата безопасност на физически лица или от терористично нападение; както и установяването на местоположението или самоличността на извършители или заподозрени в извършването на престъпленията, изброени в приложение към настоящия регламент, когато тези престъпления се наказват в съответната държава членка с лишаване от свобода или мярка за задържане с максимален срок не по-малко от четири години, като се отчита определението на тези престъпления в правото на съответната държава членка. Прагът относно срока на лишаването от свобода или на мярката за задържане в съответствие с националното право спомага да се гарантира, че престъплението е достатъчно тежко, за да обоснове евентуално използването на системи за дистанционна биометрична идентификация в реално време. Освен това списъкът на престъпленията, поместен в приложение към настоящия регламент, се основава на 32-те престъпления, изброени в Рамково решение 2002/584/ПВР на Съвета (18), като се отчита, че някои от тези престъпления на практика вероятно имат по-голямо значение от други, доколкото използването на дистанционна биометрична идентификация в реално време би могло да е вероятно необходимо и пропорционално в много различна степен с оглед на практическото установяване на местоположението или самоличността на извършителя или заподозрения за различните изброени престъпления, като се имат предвид също вероятните разлики в тяхната тежест, вероятност и размер на вредата или възможните отрицателни последици. Непосредствена заплаха за живота или физическата безопасност на физически лица може да възникне и от сериозно нарушаване на критична инфраструктура съгласно определението в член 2, точка 4 от Директива (ЕС) 2022/2557 на Европейския парламент и на Съвета (19), когато нарушаването или унищожаването на такава критична инфраструктура би довело до непосредствена заплаха за живота или физическата безопасност на дадено лице, включително чрез сериозно увреждане на снабдяването с основни продукти за населението или на упражняването на основните функции на държавата. Освен това с настоящия регламент следва да се запази възможността правоохранителните органи, органите за граничен контрол, имиграционните органи или органите в областта на убежището да извършват проверки на самоличността в присъствието на засегнатото лице в съответствие с условията, определени в правото на Съюза и в националното право за такива проверки. По-специално, правоохранителните органи, органите за граничен контрол, имиграционните органи или органите в областта на убежището следва да могат да използват информационни системи, в съответствие с правото на Съюза или националното право, за установяване на самоличността на лица, които по време на проверка за установяване на самоличността отказват да бъде установена самоличността им или не са в състояние да посочат или докажат самоличността си, без настоящият регламент да изисква предварително разрешение с тази цел. Това може да бъде например лице, замесено в престъпление, което не желае или не може, поради злополука или здравословно състояние, да разкрие самоличността си пред правоохранителните органи.
(34)
Προκειμένου να διασφαλιστεί ότι τα συστήματα αυτά χρησιμοποιούνται κατά τρόπο υπεύθυνο και αναλογικό, είναι επίσης σημαντικό να καθοριστεί ότι, σε καθεμία από αυτές τις εξαντλητικά απαριθμούμενες και αυστηρά καθορισμένες περιπτώσεις, θα πρέπει να λαμβάνονται υπόψη ορισμένα στοιχεία, ιδίως όσον αφορά τη φύση της κατάστασης στο πλαίσιο της οποίας προκύπτει το αίτημα και τις συνέπειες της χρήσης για τα δικαιώματα και τις ελευθερίες όλων των ενδιαφερόμενων προσώπων, καθώς και τις εγγυήσεις και τους όρους που προβλέπονται για τη χρήση. Επιπλέον, η χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου θα πρέπει να γίνεται μόνο για την επιβεβαίωση της ταυτότητας του ειδικά στοχευόμενου ατόμου και θα πρέπει να περιορίζεται σε ό,τι είναι απολύτως αναγκαίο όσον αφορά τη χρονική περίοδο, καθώς και το γεωγραφικό και προσωπικό πεδίο εφαρμογής, λαμβανομένων ιδίως υπόψη των αποδεικτικών στοιχείων ή ενδείξεων σχετικά με τις απειλές, τα θύματα ή τον δράστη. Η χρήση του συστήματος εξ αποστάσεως βιομετρικής ταυτοποίησης σε πραγματικό χρόνο σε δημόσια προσβάσιμους χώρους θα πρέπει να επιτρέπεται μόνο εάν η σχετική αρχή επιβολής του νόμου έχει ολοκληρώσει εκτίμηση επιπτώσεων στα θεμελιώδη δικαιώματα και, εκτός αν προβλέπεται άλλως στον παρόντα κανονισμό, έχει καταχωρίσει το σύστημα στη βάση δεδομένων όπως ορίζεται στον παρόντα κανονισμό. Η βάση δεδομένων αναφοράς για τα πρόσωπα θα πρέπει να είναι κατάλληλη για κάθε περίπτωση χρήσης σε καθεμία από τις περιπτώσεις που αναφέρονται ανωτέρω.
(34)
За да се гарантира, че тези системи се използват по отговорен и пропорционален начин, е важно също така да се определи, че във всяка от тези изчерпателно изброени и подробно определени ситуации следва да се вземат предвид определени елементи, по-специално по отношение на естеството на ситуацията, във връзка с която е искането, и последиците от използването за правата и свободите на всички засегнати лица, както и гаранциите и условията, при които ще премине използването. Освен това използването на системи за дистанционна биометрична идентификация в реално време на обществено достъпни места за правоохранителни цели следва да бъде единствено с цел потвърждаване на самоличността на конкретно лице и следва да бъде ограничено до строго необходимото от гледна точка на срок, както и на териториален обхват и обхват по отношение на лицата, като се вземат предвид по-специално доказателствата или признаците за опасностите, жертвите или извършителя. Използването на системата за дистанционна биометрична идентификация в реално време на обществено достъпни места следва да бъде разрешено само ако съответният правоохранителен орган е извършил оценка на въздействието върху основните права и, освен ако в настоящия регламент не е предвидено друго, е регистрирал системата в базата данни, посочена в настоящия регламент. Референтната база данни на лицата следва да бъде подходяща за всеки случай на използване във всяка от посочените по-горе ситуации.
(35)
Κάθε χρήση συστήματος εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου θα πρέπει να υπόκειται σε ρητή και ειδική άδεια που χορηγείται από δικαστική αρχή ή από ανεξάρτητη διοικητική αρχή κράτους μέλους της οποίας η απόφαση έχει δεσμευτική ισχύ. Η άδεια αυτή θα πρέπει, κατ’ αρχήν, να λαμβάνεται πριν από τη χρήση του συστήματος ΤΝ με σκοπό την ταυτοποίηση προσώπου ή προσώπων. Εξαιρέσεις από τον κανόνα αυτό θα πρέπει να επιτρέπονται σε δεόντως αιτιολογημένες περιπτώσεις για λόγους επείγοντος, δηλαδή σε περιπτώσεις στις οποίες η ανάγκη χρήσης των σχετικών συστημάτων είναι τέτοια που η λήψη άδειας πριν από την έναρξη της χρήσης του συστήματος ΤΝ καθίσταται πρακτικά και αντικειμενικά αδύνατη. Σε αυτές τις επείγουσες περιπτώσεις, η χρήση του συστήματος ΤΝ θα πρέπει να περιορίζεται στο απολύτως ελάχιστο αναγκαίο και να υπόκειται στις κατάλληλες εγγυήσεις και προϋποθέσεις, όπως καθορίζονται στο εθνικό δίκαιο και εξειδικεύονται στο πλαίσιο κάθε επιμέρους περίπτωσης επείγουσας χρήσης από την ίδια την αρχή επιβολής του νόμου. Επιπλέον, σε τέτοιες περιπτώσεις, η αρχή επιβολής του νόμου θα πρέπει να ζητεί την άδεια αυτή, αναφέροντας παράλληλα τους λόγους για τους οποίους δεν ήταν σε θέση να τη ζητήσει νωρίτερα, χωρίς αδικαιολόγητη καθυστέρηση και το αργότερο εντός 24 ωρών. Εάν απορριφθεί μια τέτοια άδεια, η χρήση συστημάτων βιομετρικής ταυτοποίησης σε πραγματικό χρόνο που συνδέεται με την άδεια αυτή θα πρέπει να παύεται με άμεση ισχύ και όλα τα δεδομένα που σχετίζονται με τη συγκεκριμένη χρήση θα πρέπει να απορρίπτονται και να διαγράφονται. Στα δεδομένα αυτά περιλαμβάνονται δεδομένα εισόδου που έχουν αποκτηθεί απευθείας από σύστημα ΤΝ κατά τη διάρκεια της χρήσης τέτοιου συστήματος, καθώς και τα αποτελέσματα και τα στοιχεία εξόδου της χρήσης που συνδέεται με την άδεια αυτή. Δεν θα πρέπει να περιλαμβάνονται στοιχεία εισόδου που έχουν αποκτηθεί νόμιμα σύμφωνα με άλλο κανόνα ενωσιακού ή εθνικού δικαίου. Σε κάθε περίπτωση, δεν θα πρέπει να λαμβάνεται απόφαση που έχει δυσμενείς νομικές συνέπειες για ένα πρόσωπο με βάση αποκλειστικά τα στοιχεία εξόδου του συστήματος εξ αποστάσεως βιομετρικής ταυτοποίησης.
(35)
За всяко използване на система за дистанционна биометрична идентификация в реално време на обществено достъпни места за правоохранителни цели следва да се изисква изрично и конкретно разрешение от съдебен орган или от независим административен орган на държава членка, чието решение е задължително. Това разрешение следва по принцип да бъде получено преди използването на системата с ИИ с цел идентифициране на дадено лице или лица. Изключения от това правило следва да се допускат в надлежно обосновани спешни случаи, а именно в ситуации, при които необходимостта от използване на съответните системи е такава, че е практически и обективно невъзможно да бъде получено разрешение преди началото на използването на системата с ИИ. При такива спешни ситуации използването на системата с ИИ следва да бъде ограничено до абсолютно необходимия минимум и да е съпроводено с подходящи гаранции и условия, както са установени в националното право и специално указани в контекста на всеки отделен случай на спешно използване от самия правоохранителен орган. Освен това в такива ситуации правоохранителният орган следва да поиска такова разрешение, като посочи причините, поради които не е могъл да го поиска по-рано, без ненужно забавяне и най-късно в рамките на 24 часа. Ако искането за това разрешение бъде отхвърлено, използването на системи за биометрична идентификация в реално време, свързано с това разрешение, следва да бъде прекратено незабавно и всички данни, свързани с това използване, следва да бъдат премахнати и заличени. Тези данни включват входящите данни, получени пряко от система с ИИ в хода на използването на такава система, както и резултатите от използването, свързано с това разрешение. Това не следва да включва входящи данни, законно придобити в съответствие с друг правен акт на Съюза или национален правен акт. Във всеки случай решение, което поражда неблагоприятни правни последици за дадено лице, не следва да бъде взето единствено въз основа на резултата от системата за дистанционна биометрична идентификация.
(36)
Για την εκτέλεση των καθηκόντων τους σύμφωνα με τις απαιτήσεις που ορίζονται στον παρόντα κανονισμό, καθώς και σε εθνικούς κανόνες, θα πρέπει να κοινοποιείται στην αρμόδια αρχή εποπτείας της αγοράς και στην εθνική αρχή προστασίας δεδομένων κάθε χρήση του συστήματος βιομετρικής ταυτοποίησης σε πραγματικό χρόνο. Οι αρχές εποπτείας της αγοράς και οι εθνικές αρχές προστασίας δεδομένων στις οποίες έχει γίνει κοινοποίηση θα πρέπει να υποβάλλουν στην Επιτροπή ετήσια έκθεση σχετικά με τη χρήση συστημάτων βιομετρικής ταυτοποίησης σε πραγματικό χρόνο.
(36)
За да изпълняват задачите си в съответствие с изискванията, установени в настоящия регламент, както и в националните правила, съответният орган за надзор на пазара и националният орган за защита на данните следва да бъдат уведомявани за всяко използване на системата за биометрична идентификация в реално време. Уведомените за това използване органи за надзор на пазара и национални органи за защита на данните следва да представят на Комисията годишен доклад относно използването на системи за биометрична идентификация в реално време.
(37)
Πέραν τούτου, ενδείκνυται να προβλεφθεί, εντός του εξαντλητικού πλαισίου που ορίζει ο παρών κανονισμός, ότι η εν λόγω χρήση στην επικράτεια κράτους μέλους σύμφωνα με τον παρόντα κανονισμό θα πρέπει να είναι δυνατή μόνο όταν και στον βαθμό που το σχετικό κράτος μέλος έχει αποφασίσει να προβλέψει ρητά τη δυνατότητα να επιτρέπεται η χρήση αυτή στο πλαίσιο των ειδικότερων κανόνων του εθνικού του δικαίου. Συνεπώς, τα κράτη μέλη έχουν την ευχέρεια, δυνάμει του παρόντος κανονισμού, να μην προβλέψουν καθόλου αυτήν τη δυνατότητα ή να προβλέψουν τη δυνατότητα αυτή μόνο για ορισμένους από τους στόχους που μπορούν να δικαιολογήσουν την εγκεκριμένη χρήση που προσδιορίζεται στον παρόντα κανονισμό. Οι εθνικοί αυτοί κανόνες θα πρέπει να κοινοποιούνται στην Επιτροπή εντός 30 ημερών από τη θέσπισή τους.
(37)
Също така е целесъобразно да се предвиди, в рамките на изчерпателната уредба, създадена с настоящия регламент, че такова използване на територията на държава членка в съответствие с настоящия регламент следва да бъде възможно само и доколкото съответната държава членка е решила изрично да предвиди възможността за допускане на такова използване в подробните правила на националното си право. Следователно съгласно настоящия регламент държавите членки са свободни изобщо да не предвиждат такава възможност или да предвидят такава възможност само по отношение на някои от целите, посочени в настоящия регламент, които могат да оправдаят допустимото използване. Тези национални правила следва да бъдат съобщени на Комисията в срок от 30 дни след приемането им.
(38)
Η χρήση συστημάτων ΤΝ για την εξ αποστάσεως βιομετρική ταυτοποίηση φυσικών προσώπων σε πραγματικό χρόνο σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου περιλαμβάνει κατ’ ανάγκη την επεξεργασία βιομετρικών δεδομένων. Οι κανόνες του παρόντος κανονισμού οι οποίοι, με την επιφύλαξη ορισμένων εξαιρέσεων, απαγορεύουν αυτήν τη χρήση και βασίζονται στο άρθρο 16 ΣΛΕΕ θα πρέπει να εφαρμόζονται ως lex specialis σε σχέση με τους κανόνες για την επεξεργασία βιομετρικών δεδομένων που περιέχονται στο άρθρο 10 της οδηγίας (ΕΕ) 2016/680, ρυθμίζοντας, συνεπώς, κατά τρόπο εξαντλητικό, τη χρήση αυτήν και την επεξεργασία των σχετικών βιομετρικών δεδομένων. Ως εκ τούτου, αυτή η χρήση και η επεξεργασία θα πρέπει να είναι δυνατές μόνο στον βαθμό που είναι συμβατές με το καθοριζόμενο στον παρόντα κανονισμό πλαίσιο, χωρίς να υπάρχει περιθώριο, εκτός του πλαισίου αυτού, για τις αρμόδιες αρχές, όταν ενεργούν για σκοπούς επιβολής του νόμου, να χρησιμοποιούν τα εν λόγω συστήματα και να επεξεργάζονται τα εν λόγω δεδομένα σε σχέση με αυτά τα συστήματα για τους λόγους που απαριθμούνται στο άρθρο 10 της οδηγίας (ΕΕ) 2016/680. Στο πλαίσιο αυτό, ο παρών κανονισμός δεν προορίζεται να αποτελέσει τη νομική βάση για την επεξεργασία δεδομένων προσωπικού χαρακτήρα σύμφωνα με το άρθρο 8 της οδηγίας (ΕΕ) 2016/680. Ωστόσο, η χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης σε πραγματικό χρόνο σε δημόσια προσβάσιμους χώρους για σκοπούς πλην της επιβολής του νόμου, μεταξύ άλλων από τις αρμόδιες αρχές, δεν θα πρέπει να καλύπτεται από το ειδικό πλαίσιο σχετικά με τη χρήση αυτή για σκοπούς επιβολής του νόμου το οποίο καθορίζεται στον παρόντα κανονισμό. Ως εκ τούτου, η χρήση αυτή για σκοπούς πλην της επιβολής του νόμου δεν θα πρέπει να υπόκειται στην απαίτηση λήψης άδειας δυνάμει του παρόντος κανονισμού και των εφαρμοστέων ειδικών κανόνων εθνικού δικαίου που ενδεχομένως θέτουν σε εφαρμογή την άδεια αυτή.
(38)
Използването на системи с ИИ за дистанционна биометрична идентификация в реално време на физически лица на обществено достъпни места за правоохранителни цели задължително включва обработването на биометрични данни. Правилата на настоящия регламент, които забраняват, с някои изключения, подобно използване и чието правно основание е член 16 ДФЕС, следва да се прилагат като lex specialis по отношение на правилата относно обработването на биометрични данни, съдържащи се в член 10 от Директива (ЕС) 2016/680, като по този начин се урежда изчерпателно това използване и свързаното с него обработване на биометрични данни. Поради това такова използване и такова обработване следва да бъдат възможни само доколкото са съвместими с рамката, установена с настоящия регламент, без да има възможност извън тази рамка компетентните органи, когато действат с правоохранителни цели, да използват такива системи и да обработват такива данни във връзка с тях на основанията, изброени в член 10 от Директива (ЕС) 2016/680. В този контекст настоящият регламент няма за цел да осигури правно основание на обработването на лични данни съгласно член 8 от Директива (ЕС) 2016/680. Използването обаче на системи за дистанционна биометрична идентификация в реално време на обществено достъпни места за цели, различни от правоохранителни цели, включително от компетентни органи, не следва да бъде обхванато от специалната рамка относно такова използване за правоохранителни цели, установена с настоящия регламент. Поради това спрямо използването за цели, различни от правоохранителни цели, не следва да се прилагат изискването за разрешение съгласно настоящия регламент и приложимите подробни правила на националното право, които може да уреждат това разрешение.
(39)
Κάθε επεξεργασία βιομετρικών δεδομένων και άλλων δεδομένων προσωπικού χαρακτήρα στο πλαίσιο της χρήσης συστημάτων ΤΝ για βιομετρική ταυτοποίηση, πλην αυτής που συνδέεται με τη χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης σε πραγματικό χρόνο σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου κατά τα οριζόμενα στον παρόντα κανονισμό, θα πρέπει να εξακολουθεί να συμμορφώνεται με όλες τις απαιτήσεις που απορρέουν από το άρθρο 10 της οδηγίας (ΕΕ) 2016/680. Για σκοπούς εκτός της επιβολής του νόμου, το άρθρο 9 παράγραφος 1 του κανονισμού (ΕΕ) 2016/679 και το άρθρο 10 παράγραφος 1 του κανονισμού (ΕΕ) 2018/1725 απαγορεύουν την επεξεργασία βιομετρικών δεδομένων, με περιορισμένης έκτασης εξαιρέσεις όπως προβλέπονται στα εν λόγω άρθρα. Κατά την εφαρμογή του άρθρου 9 παράγραφος 1 του κανονισμού (ΕΕ) 2016/679, έχουν ήδη εκδοθεί από εθνικές αρχές προστασίας δεδομένων απαγορευτικές αποφάσεις όσον αφορά τη χρήση εξ αποστάσεως βιομετρικής ταυτοποίησης για σκοπούς εκτός της επιβολής του νόμου.
(39)
Всяко обработване на биометрични данни и други лични данни, необходимо за използването на системи с ИИ за биометрична идентификация, различно от обработване във връзка с използването на системи за дистанционна биометрична идентификация в реално време на обществено достъпни места за правоохранителни цели, уредено в настоящия регламент, следва да продължи да отговаря на всички изисквания, произтичащи от член 10 от Директива (ЕС) 2016/680. За цели, различни от правоохранителни цели, с член 9, параграф 1 от Регламент (ЕС) 2016/679 и член 10, параграф 1 от Регламент (ЕС) 2018/1725 се забранява обработването на биометрични данни, като се прилагат ограничен брой изключения, предвидени в посочените членове. В приложение на член 9, параграф 1 от Регламент (ЕС) 2016/679 използването на дистанционна биометрична идентификация за цели, различни от правоохранителни цели, вече е забранявано с решения на националните органи за защита на данните.
(40)
Σύμφωνα με το άρθρο 6α του πρωτοκόλλου αριθ. 21 για τη θέση του Ηνωμένου Βασιλείου και της Ιρλανδίας όσον αφορά τον χώρο ελευθερίας, ασφάλειας και δικαιοσύνης, το οποίο προσαρτάται στη ΣΕΕ και στη ΣΛΕΕ, η Ιρλανδία δεν δεσμεύεται από τους κανόνες οι οποίοι καθορίζονται στο άρθρο 5 παράγραφος 1 πρώτο εδάφιο στοιχείο ζ), στον βαθμό που εφαρμόζεται στη χρήση συστημάτων βιομετρικής κατηγοριοποίησης για δραστηριότητες στο πεδίο της αστυνομικής συνεργασίας και της δικαστικής συνεργασίας σε ποινικές υποθέσεις, στο άρθρο 5 παράγραφος 1 πρώτο εδάφιο στοιχείο δ), στον βαθμό που εφαρμόζεται στη χρήση συστημάτων ΤΝ καλυπτόμενων από την εν λόγω διάταξη, στο άρθρο 5 παράγραφος 1 πρώτο εδάφιο στοιχείο η), στο άρθρο 5 παράγραφοι 2 έως 6 και στο άρθρο 26 παράγραφος 10 του παρόντος κανονισμού και οι οποίοι θεσπίζονται βάσει του άρθρου 16 ΣΛΕΕ και αφορούν την επεξεργασία δεδομένων προσωπικού χαρακτήρα από τα κράτη μέλη κατά τη διεξαγωγή δραστηριοτήτων που εμπίπτουν στο πεδίο εφαρμογής του τρίτου μέρους τίτλος V κεφάλαιο 4 ή κεφάλαιο 5 ΣΛΕΕ, στον βαθμό που η Ιρλανδία δεν δεσμεύεται από τους κανόνες οι οποίοι διέπουν τις μορφές δικαστικής συνεργασίας σε ποινικές υποθέσεις ή αστυνομικής συνεργασίας στο πλαίσιο των οποίων πρέπει να τηρούνται οι διατάξεις οι οποίες θεσπίζονται βάσει του άρθρου 16 ΣΛΕΕ.
(40)
В съответствие с член 6а от Протокол № 21 относно позицията на Обединеното кралство и Ирландия по отношение на пространството на свобода, сигурност и правосъдие, приложен към ДЕС и към ДФЕС, Ирландия не е обвързана от правилата, предвидени в член 5, параграф 1, първа алинея, буква ж), доколкото се прилагат за използването на системи за биометрично категоризиране за дейности в областта на полицейското и съдебното сътрудничество по наказателноправни въпроси, в член 5, параграф 1, първа алинея, буква г), доколкото се прилагат за използването на системи с ИИ, обхванати от посочената разпоредба, в член 5, параграф 1, първа алинея, буква з) и параграфи 2 – 6 и в член 26, параграф 10 от настоящия регламент, приети на основание член 16 ДФЕС и отнасящи се до обработването на лични данни от държавите членки при осъществяване на дейности, попадащи в обхвата на трета част, дял V, глава 4 или 5 ДФЕС, когато Ирландия не е обвързана от правилата, уреждащи формите на съдебно сътрудничество по наказателноправни въпроси или на полицейско сътрудничество, в рамките на които трябва да бъдат спазвани разпоредбите, установени на основание член 16 ДФЕС.
(41)
Σύμφωνα με τα άρθρα 2 και 2α του πρωτοκόλλου αριθ. 22 σχετικά με τη θέση της Δανίας, το οποίο προσαρτάται στη ΣΕΕ και στη ΣΛΕΕ, η Δανία δεν δεσμεύεται από τους κανόνες οι οποίοι καθορίζονται στο άρθρο 5 παράγραφος 1 πρώτο εδάφιο στοιχείο ζ), στον βαθμό που εφαρμόζεται στη χρήση συστημάτων βιομετρικής κατηγοριοποίησης για δραστηριότητες στο πεδίο της αστυνομικής συνεργασίας και της δικαστικής συνεργασίας σε ποινικές υποθέσεις, στο άρθρο 5 παράγραφος 1 πρώτο εδάφιο στοιχείο δ), στον βαθμό που εφαρμόζονται στη χρήση συστημάτων ΤΝ καλυπτόμενων από την εν λόγω διάταξη, στο άρθρο 5 παράγραφος 1 πρώτο εδάφιο στοιχείο η), στο άρθρο 5 παράγραφοι 2 έως 6 και στο άρθρο 26 παράγραφος 10 του παρόντος κανονισμού και οι οποίοι θεσπίζονται βάσει του άρθρου 16 ΣΛΕΕ και αφορούν την επεξεργασία δεδομένων προσωπικού χαρακτήρα από τα κράτη μέλη κατά τη διεξαγωγή δραστηριοτήτων που εμπίπτουν στο πεδίο εφαρμογής του τρίτου μέρους τίτλος V κεφάλαιο 4 ή κεφάλαιο 5 ΣΛΕΕ, ούτε υπόκειται στην εφαρμογή τους.
(41)
В съответствие с членове 2 и 2а от Протокол № 22 относно позицията на Дания, приложен към ДЕС и към ДФЕС, Дания не е обвързана и за нея не се прилагат правилата, предвидени в член 5, параграф 1, първа алинея, буква ж), доколкото се прилагат за използването на системи за биометрично категоризиране за дейности в областта на полицейското и съдебното сътрудничество по наказателноправни въпроси, в член 5, параграф 1, първа алинея, буква г), доколкото се прилагат за използването на системи с ИИ, обхванати от посочената разпоредба, в член 5, параграф 1, първа алинея, буква з) и параграфи 2 – 6 и в член 26, параграф 10 от настоящия регламент, приети на основание член 16 от ДФЕС и отнасящи се до обработването на лични данни от държавите членки при осъществяването на дейности, попадащи в обхвата на трета част, дял V, глава 4 или 5 ДФЕС.
(42)
Σύμφωνα με το τεκμήριο της αθωότητας, τα φυσικά πρόσωπα στην Ένωση θα πρέπει πάντα να κρίνονται με βάση την πραγματική συμπεριφορά τους. Τα φυσικά πρόσωπα δεν θα πρέπει ποτέ να κρίνονται με βάση την προβλεπόμενη από την ΤΝ συμπεριφορά που βασίζεται αποκλειστικά στην κατάρτιση προφίλ για αυτά ή σε γνωρίσματα ή χαρακτηριστικά της προσωπικότητάς τους, όπως ιθαγένεια, τόπος γέννησης, τόπος διαμονής, αριθμός παιδιών, ύψος χρέους ή είδος αυτοκινήτου, χωρίς εύλογες υπόνοιες εμπλοκής του εν λόγω προσώπου σε εγκληματική δραστηριότητα βάσει αντικειμενικών και επαληθεύσιμων γεγονότων και χωρίς ανθρώπινη αξιολόγησή τους. Ως εκ τούτου, θα πρέπει να απαγορεύονται οι εκτιμήσεις κινδύνου που διενεργούνται για φυσικά πρόσωπα προκειμένου να εκτιμηθεί η πιθανότητα να τελέσουν αξιόποινη πράξη ή να προβλεφθεί η τέλεση πραγματικής ή δυνητικής αξιόποινης πράξης με βάση αποκλειστικά την κατάρτιση προφίλ για αυτά ή την αξιολόγηση γνωρισμάτων και χαρακτηριστικών της προσωπικότητάς τους. Σε κάθε περίπτωση, η απαγόρευση αυτή δεν αφορά ούτε θίγει αναλύσεις κινδύνου που δεν βασίζονται στην κατάρτιση προφίλ για άτομα ή σε γνωρίσματα και χαρακτηριστικά της προσωπικότητας ατόμων, όπως συστήματα ΤΝ που χρησιμοποιούν αναλύσεις κινδύνου για την εκτίμηση της πιθανότητας οικονομικής απάτης από επιχειρήσεις βάσει ύποπτων συναλλαγών ή εργαλεία ανάλυσης κινδύνου για την πρόβλεψη της πιθανότητας εντοπισμού ναρκωτικών ή παράνομων εμπορευμάτων από τις τελωνειακές αρχές, για παράδειγμα με βάση γνωστές οδούς διακίνησης.
(42)
В съответствие с презумпцията за невиновност физическите лица в Съюза следва винаги да бъдат съдени въз основа на тяхното действително поведение. Физическите лица никога не следва да бъдат съдени въз основа на прогнозирано от ИИ поведение, базирано единствено на тяхното профилиране, личностни черти или характеристики, например гражданство, място на раждане, местопребиваване, брой деца, равнище на задлъжнялост или вид автомобил, без основателно подозрение за участието на лицето в престъпна дейност въз основа на обективни и проверими факти и без човешка оценка. Поради това следва да се забрани извършването на оценки на риска по отношение на физически лица, за да се оцени вероятността от извършване на престъпление или да се прогнозира извършването на действително или вероятно престъпление единствено въз основа на профилирането им или на оценката на техните личностни черти и характеристики. Във всеки случай тази забрана не се отнася до анализа на вероятността, който не се основава на профилирането на лица или на личностните черти и характеристики на тези лица, като например системи с ИИ, използващи анализ на риска за оценка на риска от финансови измами от страна на предприятия въз основа на подозрителни сделки или инструменти за анализ на риска за прогнозиране на вероятността за откриване на наркотици или незаконни стоки от страна на митническите органи, например въз основа на известни маршрути за трафик.
(43)
Θα πρέπει να απαγορεύεται η διάθεση στην αγορά, η θέση σε λειτουργία για τον συγκεκριμένο αυτό σκοπό ή η χρήση συστημάτων ΤΝ που δημιουργούν ή επεκτείνουν βάσεις δεδομένων αναγνώρισης προσώπου μέσω της μη στοχευμένης εξαγωγής εικόνων προσώπου από το διαδίκτυο ή από βίντεο CCTV, καθώς η πρακτική αυτή αυξάνει το αίσθημα μαζικής παρακολούθησης και μπορεί να οδηγήσει σε κατάφωρες παραβιάσεις των θεμελιωδών δικαιωμάτων, συμπεριλαμβανομένου του δικαιώματος στην ιδιωτική ζωή.
(43)
Пускането на пазара, пускането в действие за тази конкретна цел или използването на системи с ИИ, които създават или разширяват бази данни за разпознаване на лица чрез нецеленасочено извличане на лицеви изображения от интернет или записи от видеонаблюдение, следва да бъдат забранени, тъй като тази практика допринася за усещането за масово наблюдение и може да доведе до груби нарушения на основните права, включително правото на неприкосновеност на личния живот.
(44)
Υπάρχουν σοβαρές ανησυχίες σχετικά με την επιστημονική βάση συστημάτων ΤΝ που στοχεύουν στον προσδιορισμό ή τη συναγωγή συναισθημάτων, ιδίως επειδή η έκφραση συναισθημάτων διαφέρει σημαντικά μεταξύ πολιτισμών και καταστάσεων, αλλά ακόμη και στο ίδιο άτομο. Στις βασικές αδυναμίες των συστημάτων αυτών συγκαταλέγονται η περιορισμένη αξιοπιστία, η έλλειψη εξειδικευτικότητας και η περιορισμένη γενικευτικότητα. Ως εκ τούτου, τα συστήματα ΤΝ που προβαίνουν σε προσδιορισμό ή συναγωγή συναισθημάτων ή προθέσεων φυσικών προσώπων βάσει των βιομετρικών τους δεδομένων μπορούν να οδηγήσουν σε διακρίσεις και καταπάτηση των δικαιωμάτων και των ελευθεριών των ενδιαφερόμενων προσώπων. Λαμβάνοντας υπόψη την ανισορροπία ισχύος στο πλαίσιο της εργασίας και της εκπαίδευσης, σε συνδυασμό με τον παρεμβατικό χαρακτήρα των συστημάτων αυτών, τα εν λόγω συστήματα θα μπορούσαν να οδηγήσουν σε επιζήμια ή δυσμενή μεταχείριση ορισμένων φυσικών προσώπων ή ολόκληρων ομάδων φυσικών προσώπων. Κατά συνέπεια, θα πρέπει να απαγορεύεται η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση συστημάτων ΤΝ που προορίζονται να χρησιμοποιηθούν για τον προσδιορισμό της συναισθηματικής κατάστασης ατόμων σε καταστάσεις που σχετίζονται με τον χώρο εργασίας και την εκπαίδευση. Η απαγόρευση αυτή δεν θα πρέπει να καλύπτει συστήματα ΤΝ που διατίθενται στην αγορά αποκλειστικά για ιατρικούς λόγους ή για λόγους ασφάλειας, όπως τα συστήματα που προορίζονται για θεραπευτική χρήση.
(44)
Съществуват сериозни опасения относно научната основа на системите с ИИ, които имат за цел да определят или да направят изводи за емоциите, по-специално като се има предвид, че изразяването на емоции се различава значително в отделните култури и ситуации и дори при едно и също лице. Сред основните недостатъци на тези системи са ограничената надеждност, липсата на съобразен с конкретния случай подход и ограничената възможност за обобщаване. Поради това системите с ИИ, които определят или правят изводи за емоциите или намеренията на физически лица въз основа на техните биометрични данни, могат да доведат до дискриминационни резултати и да накърнят правата и свободите на съответните лица. Като се има предвид властовото неравновесие в контекста на работата или образованието, съчетано с инвазивния характер на тези системи, подобни системи биха могли да доведат до увреждащо или неблагоприятно третиране на определени физически лица или на цели групи от такива лица. Поради това пускането на пазара, пускането в действие или използването на системи с ИИ, предназначени за определяне на емоционалното състояние на лица в ситуации, свързани с работното място и образованието, следва да бъдат забранени. Тази забрана не следва да обхваща системи с ИИ, пуснати на пазара единствено от медицински съображения или съображения, свързани с безопасността, като например системи, предназначени за терапевтична употреба.
(45)
Οι πρακτικές που απαγορεύονται από το ενωσιακό δίκαιο, συμπεριλαμβανομένου του δικαίου για την προστασία των δεδομένων, του δικαίου κατά των διακρίσεων, του δικαίου για την προστασία των καταναλωτών και του δικαίου ανταγωνισμού, δεν θα πρέπει να επηρεάζονται από τον παρόντα κανονισμό.
(45)
Практиките, които са забранени от правото на Съюза, включително правото в областта на защитата на данните, недискриминацията и защитата на потребителите, както и правото в областта на конкуренцията, не следва да бъдат засегнати от настоящия регламент.
(46)
Τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να διατίθενται στην αγορά της Ένωσης, να τίθενται σε λειτουργία ή να χρησιμοποιούνται μόνο εάν συμμορφώνονται με ορισμένες υποχρεωτικές απαιτήσεις. Οι απαιτήσεις αυτές θα πρέπει να διασφαλίζουν ότι τα συστήματα ΤΝ υψηλού κινδύνου που διατίθενται στην Ένωση ή των οποίων τα στοιχεία εξόδου χρησιμοποιούνται με άλλο τρόπο στην Ένωση δεν ενέχουν μη αποδεκτούς κινδύνους για σημαντικά δημόσια συμφέροντα της Ένωσης, όπως αναγνωρίζονται και προστατεύονται από το ενωσιακό δίκαιο. Με βάση το νέο νομοθετικό πλαίσιο, όπως διευκρινίζεται στην ανακοίνωση της Επιτροπής με τίτλο «Ο “Γαλάζιος Οδηγός” σχετικά με την εφαρμογή των κανόνων της ΕΕ για τα προϊόντα 2022» (20), ο γενικός κανόνας είναι ότι μπορούν να εφαρμόζονται σε ένα προϊόν περισσότερες από μία νομικές πράξεις της ενωσιακής νομοθεσίας εναρμόνισης, όπως οι κανονισμοί (ΕΕ) 2017/745 (21) και (ΕΕ) 2017/746 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (22) ή η οδηγία 2006/42/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (23), καθώς το προϊόν μπορεί να διατεθεί ή να τεθεί σε λειτουργία μόνο όταν είναι σύμφωνο με όλη την εφαρμοστέα ενωσιακή νομοθεσία εναρμόνισης. Για να εξασφαλίζεται συνοχή και να αποφεύγονται περιττές διοικητικές επιβαρύνσεις ή κόστος, οι πάροχοι προϊόντος που περιέχει ένα ή περισσότερα συστήματα ΤΝ υψηλού κινδύνου, στα οποία εφαρμόζονται οι απαιτήσεις του παρόντος κανονισμού και της ενωσιακής νομοθεσίας εναρμόνισης που παρατίθεται σε παράρτημα του παρόντος κανονισμού, θα πρέπει να είναι ευέλικτοι όσον αφορά τις επιχειρησιακές αποφάσεις σχετικά με τον βέλτιστο τρόπο εξασφάλισης της συμμόρφωσης ενός προϊόντος που περιέχει ένα ή περισσότερα συστήματα ΤΝ με όλες τις εφαρμοστέες απαιτήσεις της ενωσιακής νομοθεσίας εναρμόνισης. Τα συστήματα ΤΝ που χαρακτηρίζονται ως υψηλού κινδύνου θα πρέπει να περιορίζονται σε αυτά που έχουν σημαντικές επιβλαβείς επιπτώσεις στην υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα των προσώπων στην Ένωση και ο περιορισμός αυτός θα πρέπει να ελαχιστοποιεί τυχόν δυνητικούς περιορισμούς στο διεθνές εμπόριο.
(46)
Високорисковите системи с ИИ следва да се пускат на пазара на Съюза, да се пускат в действие или да се използват само ако отговарят на определени задължителни изисквания. Тези изисквания следва да гарантират, че високорисковите системи с ИИ, които се предлагат в Съюза или резултатите от които се използват по друг начин в Съюза, не пораждат неприемливи рискове за важни обществени интереси на Съюза, признати и защитени от правото на Съюза. Въз основа на новата законодателна рамка, както е пояснено в известието на Комисията „Синьото ръководство“ за прилагане на правилата на ЕС относно продуктите – 2022 г. (20), общото правило е, че повече от един правен акт от законодателството на Съюза за хармонизация, например регламенти (ЕС) 2017/745 (21) и (ЕС) 2017/746 (22) на Европейския парламент и на Съвета или Директива 2006/42/ЕО на Европейския парламент и на Съвета (23), може да е приложим за един продукт, тъй като предоставянето или пускането в действие може да се извърши само когато продуктът е в съответствие с цялото приложимо законодателство на Съюза за хармонизация. За да се гарантира съгласуваност и да се избегне ненужна административна тежест или разходи, доставчиците на продукт, който съдържа една или повече високорискови системи с ИИ, за които се прилагат изискванията на настоящия регламент и на законодателството на Съюза за хармонизация, посочено в приложение към настоящия регламент, следва да разполагат с гъвкавост по отношение на оперативните решения за това как да се гарантира оптимално съответствие на продукт, който съдържа една или повече системи с ИИ, с всички приложими изисквания на законодателството на Съюза за хармонизация. Системите с ИИ, които се определят като високорискови, следва да се ограничат до имащите значително вредно въздействие върху здравето, безопасността и основните права на хората в Съюза, като при това следва да се свежда до минимум всяко възможно ограничаване на международната търговия.
(47)
Τα συστήματα ΤΝ θα μπορούσαν να έχουν δυσμενή αντίκτυπο στην υγεία και την ασφάλεια των προσώπων, ιδίως όταν τα εν λόγω συστήματα λειτουργούν ως κατασκευαστικά στοιχεία ασφάλειας προϊόντων. Με συνέπεια όσον αφορά τους στόχους της ενωσιακής νομοθεσίας εναρμόνισης οι οποίοι συνίστανται στη διευκόλυνση της ελεύθερης κυκλοφορίας των εμπορευμάτων στην εσωτερική αγορά και στο να διασφαλίζεται ότι μόνο ασφαλή και κατά τα άλλα συμμορφούμενα προϊόντα εισέρχονται στην αγορά, είναι σημαντικό να προλαμβάνονται και να μετριάζονται κατάλληλα οι κίνδυνοι για την ασφάλεια που ενδέχεται να προκύψουν από ένα προϊόν στο σύνολό του λόγω των ψηφιακών κατασκευαστικών του στοιχείων, συμπεριλαμβανομένων των συστημάτων ΤΝ. Για παράδειγμα, τα ολοένα και πιο αυτόνομα ρομπότ, είτε στο πλαίσιο της κατασκευαστικής είτε της προσωπικής βοήθειας και φροντίδας, θα πρέπει να είναι σε θέση να λειτουργούν με ασφάλεια και να εκτελούν τις λειτουργίες τους σε σύνθετα περιβάλλοντα. Ομοίως, στον τομέα της υγείας όπου το διακύβευμα για τη ζωή και την υγεία είναι ιδιαίτερα υψηλό, τα ολοένα και πιο εξελιγμένα συστήματα διάγνωσης και τα συστήματα που υποστηρίζουν τις ανθρώπινες αποφάσεις θα πρέπει να είναι αξιόπιστα και ακριβή.
(47)
Системите с ИИ биха могли да имат неблагоприятни последици за здравето и безопасността на хората, по-специално когато тези системи функционират като защитни елементи на продуктите. В съответствие с целите на законодателството на Съюза за хармонизация – да се улесни свободното движение на продукти на вътрешния пазар и да се гарантира, че на пазара се предлагат само безопасни и съответстващи на изискванията продукти – е важно да бъдат надлежно предотвратени и ограничени рисковете за безопасността, които могат да бъдат породени от даден продукт като цяло поради неговите цифрови компоненти, включително системи с ИИ. Например все по-автономните роботи, независимо дали в контекста на производството, или на личната помощ и грижи, следва да могат да работят и да изпълняват функциите си безопасно в сложна среда. По същия начин, в сектора на здравеопазването, където рисковете за живота и здравето са особено високи, все по-усъвършенстваните системи за диагностика и системите за подпомагане на човешките решения следва да бъдат надеждни и точни.
(48)
Η έκταση των δυσμενών επιπτώσεων του συστήματος ΤΝ στα θεμελιώδη δικαιώματα που προστατεύονται από τον Χάρτη έχει ιδιαίτερη σημασία για την ταξινόμηση ενός συστήματος ΤΝ ως υψηλού κινδύνου. Τα δικαιώματα αυτά περιλαμβάνουν το δικαίωμα στην ανθρώπινη αξιοπρέπεια, τον σεβασμό της ιδιωτικής και οικογενειακής ζωής, την προστασία των δεδομένων προσωπικού χαρακτήρα, την ελευθερία έκφρασης και πληροφόρησης, την ελευθερία του συνέρχεσθαι και του συνεταιρίζεσθαι, το δικαίωμα στην απαγόρευση των διακρίσεων, το δικαίωμα εκπαίδευσης, την προστασία των καταναλωτών, τα δικαιώματα των εργαζομένων, τα δικαιώματα των ατόμων με αναπηρία, την ισότητα των φύλων, τα δικαιώματα διανοητικής ιδιοκτησίας, το δικαίωμα πραγματικής προσφυγής και αμερόληπτου δικαστηρίου, το δικαίωμα υπεράσπισης και το τεκμήριο αθωότητας, καθώς και το δικαίωμα χρηστής διοίκησης. Πέραν των δικαιωμάτων αυτών, είναι σημαντικό να επισημανθεί το γεγονός ότι τα παιδιά έχουν ειδικά δικαιώματα, όπως κατοχυρώνονται στο άρθρο 24 του Χάρτη και στη Σύμβαση των Ηνωμένων Εθνών για τα Δικαιώματα του Παιδιού, που αναπτύσσονται περαιτέρω στο γενικό σχόλιο αριθ. 25 της ΣΗΕΔΠ όσον αφορά το ψηφιακό περιβάλλον· αμφότερες οι διατάξεις αυτές απαιτούν να λαμβάνονται υπόψη τα ευάλωτα χαρακτηριστικά των παιδιών και να παρέχονται η προστασία και η φροντίδα που απαιτούνται για την ευημερία τους. Το θεμελιώδες δικαίωμα σε υψηλό επίπεδο προστασίας του περιβάλλοντος, το οποίο κατοχυρώνεται στον Χάρτη και εφαρμόζεται σε πολιτικές της Ένωσης, θα πρέπει επίσης να λαμβάνεται υπόψη κατά την αξιολόγηση της σοβαρότητας της βλάβης που μπορεί να προκαλέσει ένα σύστημα ΤΝ, μεταξύ άλλων και σε σχέση με την υγεία και την ασφάλεια των προσώπων.
(48)
Степента на неблагоприятно въздействие на системата с ИИ върху основните права, защитени от Хартата, е от особено значение, когато дадена система с ИИ се класифицира като високорискова. Тези права включват правото на човешко достойнство, правото на зачитане на личния и семейния живот, защитата на личните данни, свободата на изразяване на мнение и свободата на информация, свободата на събранията и сдруженията, правото на недискриминация, правото на образование, защитата на потребителите, правата на работниците, правата на хората с увреждания, равенството между половете, правата върху интелектуалната собственост, правото на ефективни правни средства за защита и на справедлив съдебен процес, правото на защита и презумпцията за невиновност, както и правото на добра администрация. В допълнение към тези права е важно да се подчертае факта, че децата имат специални права, които са залегнали в член 24 от Хартата и в Конвенцията на Организацията на обединените нации за правата на детето, допълнително разработени в Общ коментар № 25 по Конвенцията на ООН за правата на детето по отношение на цифровата среда, като и в двата акта се изисква да се отчита уязвимостта на децата и да се осигуряват защитата и грижите, необходими за тяхното благосъстояние. Основното право на високо равнище на опазване на околната среда, залегнало в Хартата и отразено в политиките на Съюза, също следва да се взема предвид при оценката на тежестта на вредата, която дадена система с ИИ може да причини, включително във връзка с човешкото здраве и безопасност.
(49)
Όσον αφορά τα συστήματα ΤΝ υψηλού κινδύνου που αποτελούν κατασκευαστικά στοιχεία ασφάλειας προϊόντων ή συστημάτων ή είναι τα ίδια προϊόντα ή συστήματα που εμπίπτουν στο πεδίο εφαρμογής του κανονισμού (ΕΚ) αριθ. 300/2008 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (24), του κανονισμού (ΕΕ) αριθ. 167/2013 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (25), του κανονισμού (ΕΕ) αριθ. 168/2013 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (26), της οδηγίας 2014/90/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (27), της οδηγίας (ΕΕ) 2016/797 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (28), του κανονισμού (ΕΕ) 2018/858 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (29), του κανονισμού (ΕΕ) 2018/1139 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (30) και του κανονισμού (ΕΕ) 2019/2144 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (31), ενδείκνυται να τροποποιηθούν οι πράξεις αυτές, ώστε να διασφαλιστεί ότι η Επιτροπή λαμβάνει υπόψη, βάσει των τεχνικών και κανονιστικών ιδιαιτεροτήτων κάθε τομέα, και χωρίς να παρεμβαίνει στους υφιστάμενους μηχανισμούς διακυβέρνησης, αξιολόγησης της συμμόρφωσης και επιβολής, καθώς και στις αρχές που συγκροτούνται στο πλαίσιο αυτών, τις υποχρεωτικές απαιτήσεις για τα συστήματα ΤΝ υψηλού κινδύνου οι οποίες καθορίζονται στον παρόντα κανονισμό κατά τη θέσπιση τυχόν σχετικών κατ’ εξουσιοδότηση ή εκτελεστικών πράξεων βάσει των εν λόγω πράξεων.
(49)
По отношение на високорисковите системи с ИИ, които са защитни елементи на продукти или системи или които сами по себе си са продукти или системи, попадащи в обхвата на Регламент (ЕО) № 300/2008 на Европейския парламент и на Съвета (24), Регламент (ЕС) № 167/2013 на Европейския парламент и на Съвета (25), Регламент (ЕС) № 168/2013 на Европейския парламент и на Съвета (26), Директива 2014/90/ЕС на Европейския парламент и на Съвета (27), Директива (ЕС) 2016/797 на Европейския парламент и на Съвета (28), Регламент (ЕС) 2018/858 на Европейския парламент и на Съвета (29), Регламент (ЕС) 2018/1139 на Европейския парламент и на Съвета (30) и Регламент (ЕС) 2019/2144 на Европейския парламент и на Съвета (31), е целесъобразно тези актове да бъдат изменени, за да се гарантира, че Комисията отчита – въз основа на техническата и регулаторна специфика на всеки сектор и без да има намеса в съществуващите механизми и органи за управление, оценяване на съответствието и контрол на прилагането, създадени съгласно горепосочените актове – задължителните изисквания за високорисковите системи с ИИ, установени в настоящия регламент, когато приема съответни делегирани актове или актове за изпълнение на основание на горепосочените актове.
(50)
Όσον αφορά τα συστήματα ΤΝ που αποτελούν κατασκευαστικά στοιχεία ασφάλειας προϊόντων ή είναι τα ίδια προϊόντα που εμπίπτουν στο πεδίο εφαρμογής ορισμένων ενωσιακών νομοθετικών πράξεων εναρμόνισης που απαριθμούνται σε παράρτημα του παρόντος κανονισμού, ενδείκνυται να ταξινομηθούν ως υψηλού κινδύνου βάσει του παρόντος κανονισμού εάν το σχετικό προϊόν υποβάλλεται στη διαδικασία αξιολόγησης της συμμόρφωσης από τρίτο οργανισμό αξιολόγησης της συμμόρφωσης δυνάμει της εν λόγω σχετικής ενωσιακής νομοθεσίας εναρμόνισης. Ειδικότερα, τα προϊόντα αυτά είναι μηχανήματα, παιχνίδια, ανελκυστήρες, εξοπλισμός και συστήματα προστασίας που προορίζονται για χρήση σε εκρήξιμες ατμόσφαιρες, ραδιοεξοπλισμός, εξοπλισμός υπό πίεση, εξοπλισμός σκαφών αναψυχής, εγκαταστάσεις με συρματόσχοινα, συσκευές με καύση αέριων καυσίμων, ιατροτεχνολογικά προϊόντα, in vitro διαγνωστικά ιατροτεχνολογικά προϊόντα, προϊόντα αυτοκινητοβιομηχανίας και προϊόντα αεροπορίας.
(50)
По отношение на системите с ИИ, които са защитни елементи на продукти или които сами по себе си са продукти, попадащи в обхвата на определено законодателство на Съюза за хармонизация, посочено в приложение към настоящия регламент, е целесъобразно те да бъдат класифицирани като високорискови съгласно настоящия регламент, ако съответният продукт преминава през процедура за оценяване на съответствието с орган за оценяване на съответствието – трето лице, съгласно съответното законодателство на Съюза за хармонизация. Подобни продукти са по-специално машини, играчки, асансьори, оборудване и защитни системи, предназначени за използване в потенциално взривоопасна среда, радиооборудване, оборудване под налягане, оборудване за плавателни съдове за отдих, въжени линии, уреди, захранвани с газово гориво, медицински изделия, медицински изделия за инвитро диагностика, автомобили и въздухоплавателни средства.
(51)
Η ταξινόμηση ενός συστήματος ΤΝ ως υψηλού κινδύνου δυνάμει του παρόντος κανονισμού δεν θα πρέπει κατ’ ανάγκη να σημαίνει ότι το προϊόν του οποίου κατασκευαστικό στοιχείο ασφάλειας είναι το σύστημα ΤΝ, ή το ίδιο το σύστημα ΤΝ ως προϊόν, θεωρείται υψηλού κινδύνου σύμφωνα με τα κριτήρια που καθορίζονται στη σχετική ενωσιακή νομοθεσία εναρμόνισης που εφαρμόζεται στο προϊόν. Αυτό ισχύει, ιδίως, στην περίπτωση των κανονισμών (ΕΕ) 2017/745 και (ΕΕ) 2017/746, όπου προβλέπεται αξιολόγηση της συμμόρφωσης από τρίτο μέρος για προϊόντα μεσαίου και υψηλού κινδύνου.
(51)
Класифицирането на дадена система с ИИ като високорискова съгласно настоящия регламент не следва непременно да означава, че продуктът, чийто защѝтен елемент е системата с ИИ, или самата система с ИИ като продукт, се счита за високорисков или високорискова съгласно критериите, установени в съответното законодателство на Съюза за хармонизация, приложимо за продукта. Такъв е по-специално случаят с регламенти (ЕС) 2017/745 и (ЕС) 2017/746, в които се предвижда оценяване на съответствието от трето лице за продукти със среден и висок риск.
(52)
Όσον αφορά τα αυτόνομα συστήματα ΤΝ, δηλαδή τα συστήματα ΤΝ υψηλού κινδύνου πλην αυτών που αποτελούν κατασκευαστικά στοιχεία ασφάλειας προϊόντων ή είναι τα ίδια προϊόντα, ενδείκνυται να ταξινομηθούν ως υψηλού κινδύνου εάν, με βάση τον επιδιωκόμενο σκοπό τους, ενέχουν υψηλό κίνδυνο βλάβης για την υγεία και την ασφάλεια ή τα θεμελιώδη δικαιώματα των προσώπων, λαμβανομένων υπόψη τόσο της σοβαρότητας της ενδεχόμενης βλάβης, όσο και της πιθανότητας επέλευσής της, και χρησιμοποιούνται σε ορισμένους ειδικά προκαθορισμένους τομείς που προσδιορίζονται στον παρόντα κανονισμό. Ο προσδιορισμός των εν λόγω συστημάτων βασίζεται στην ίδια μεθοδολογία και στα ίδια κριτήρια που προβλέπονται και για τυχόν μελλοντικές τροποποιήσεις του καταλόγου των συστημάτων ΤΝ υψηλού κινδύνου που θα πρέπει να εξουσιοδοτηθεί η Επιτροπή να εγκρίνει, μέσω κατ’ εξουσιοδότηση πράξεων, ώστε να λαμβάνονται υπόψη ο ταχύς ρυθμός της τεχνολογικής ανάπτυξης και οι δυνητικές αλλαγές της χρήσης των συστημάτων ΤΝ.
(52)
По отношение на самостоятелните системи с ИИ, а именно високорисковите системи с ИИ, различни от тези, които са защитни елементи на продукти или които сами по себе си са продукти, е целесъобразно те да бъдат класифицирани като високорискови, ако с оглед на предназначението си представляват висок риск от увреждане на здравето и безопасността или на основните права на хората, като се вземат предвид както тежестта на възможната вреда, така и вероятността от настъпването ѝ, и тези системи с ИИ се използват в някои конкретно и предварително определени области, посочени в настоящия регламент. Идентифицирането на тези системи се основава на същата методика и критерии като предвидените и за евентуални бъдещи изменения на списъка на високорисковите системи с ИИ, които Комисията следва да бъде оправомощена да приеме чрез делегирани актове, за да се вземат предвид бързите темпове на технологично развитие, както и възможните промени в използването на системите с ИИ.
(53)
Είναι επίσης σημαντικό να διευκρινιστεί ότι ενδέχεται να υπάρχουν ειδικές περιπτώσεις όπου συστήματα ΤΝ τα οποία αναφέρονται σε προκαθορισμένους τομείς προσδιοριζόμενους στον παρόντα κανονισμό δεν εγκυμονούν σημαντικό κίνδυνο βλάβης των έννομων συμφερόντων που προστατεύονται στους τομείς αυτούς επειδή δεν επηρεάζουν ουσιωδώς τη λήψη αποφάσεων ή δεν βλάπτουν ουσιωδώς τα εν λόγω συμφέροντα. Για τους σκοπούς του παρόντος κανονισμού, ως σύστημα ΤΝ που δεν επηρεάζει ουσιωδώς το αποτέλεσμα της λήψης αποφάσεων θα πρέπει να νοείται ένα σύστημα ΤΝ που δεν έχει αντίκτυπο στην ουσία και, συνεπώς, στο αποτέλεσμα της λήψης αποφάσεων, είτε ανθρώπινης είτε αυτοματοποιημένης. Ένα σύστημα ΤΝ που δεν επηρεάζει ουσιωδώς το αποτέλεσμα της λήψης αποφάσεων θα μπορούσε να περιλαμβάνει καταστάσεις όπου πληρούνται μία ή περισσότερες από τις ακόλουθες προϋποθέσεις. Η πρώτη προϋπόθεση θα πρέπει να είναι ότι το σύστημα ΤΝ προορίζεται για την εκτέλεση μιας περιορισμένης διαδικαστικής εργασίας, όπως ένα σύστημα ΤΝ που μετατρέπει μη δομημένα δεδομένα σε δομημένα δεδομένα, ένα σύστημα ΤΝ που ταξινομεί εισερχόμενα έγγραφα σε κατηγορίες ή ένα σύστημα ΤΝ που χρησιμοποιείται για τον εντοπισμό διπλότυπων σε ένα μεγάλο σύνολο αιτήσεων. Οι εργασίες αυτές έχουν τόσο στενό και περιορισμένο χαρακτήρα ώστε εγκυμονούν μόνο περιορισμένης κλίμακας κινδύνους, οι οποίοι δεν αυξάνονται μέσω της χρήσης συστήματος ΤΝ σε πλαίσιο που απαριθμείται ως χρήση υψηλού κινδύνου σε παράρτημα του παρόντος κανονισμού. Η δεύτερη προϋπόθεση θα πρέπει να είναι ότι η εργασία που εκτελείται από το σύστημα ΤΝ στοχεύει στη βελτίωση του αποτελέσματος ανθρώπινης δραστηριότητας που έχει ολοκληρωθεί προηγουμένως και μπορεί να σχετίζεται με τους σκοπούς των χρήσεων υψηλού κινδύνου που απαριθμούνται σε παράρτημα του παρόντος κανονισμού. Λαμβανομένων υπόψη των χαρακτηριστικών αυτών, το σύστημα ΤΝ συμπληρώνει απλώς μια ανθρώπινη δραστηριότητα με μειωμένο, κατά συνέπεια, κίνδυνο. Η προϋπόθεση αυτή θα μπορούσε, για παράδειγμα, να αφορά συστήματα ΤΝ που προορίζονται για τη βελτίωση της γλώσσας που χρησιμοποιείται σε έγγραφα που έχουν ήδη συνταχθεί, για παράδειγμα σε σχέση με τον επαγγελματικό τόνο ή το ακαδημαϊκό γλωσσικό ύφος ή για την ευθυγράμμιση του κειμένου με ορισμένη στρατηγική εταιρικής επικοινωνίας. Η τρίτη προϋπόθεση θα πρέπει να είναι ότι το σύστημα ΤΝ έχει ως σκοπό τον εντοπισμό μοτίβων λήψης αποφάσεων ή αποκλίσεων από προηγούμενα μοτίβα λήψης αποφάσεων. Ο κίνδυνος θα είναι μειωμένος διότι η χρήση του συστήματος ΤΝ έπεται ανθρώπινης αξιολόγησης που έχει ολοκληρωθεί προηγουμένως και την οποία δεν αποσκοπεί να αντικαταστήσει ή να επηρεάσει χωρίς κατάλληλη ανθρώπινη επανεξέταση. Στα συστήματα ΤΝ αυτού του είδους περιλαμβάνονται, για παράδειγμα, εκείνα που, με δεδομένο ένα ορισμένο μοτίβο βαθμολόγησης ενός εκπαιδευτικού, μπορούν να χρησιμοποιηθούν για να ελεγχθεί εκ των υστέρων αν ο εκπαιδευτικός έχει ενδεχομένως αποκλίνει από το μοτίβο βαθμολόγησης, ώστε να επισημαίνονται δυνητικές ασυνέπειες ή ανωμαλίες. Η τέταρτη προϋπόθεση θα πρέπει να είναι ότι το σύστημα ΤΝ προορίζεται για την εκτέλεση εργασίας που είναι απλώς προπαρασκευαστική για τη διενέργεια αξιολόγησης σχετιζόμενης με τους σκοπούς των συστημάτων ΤΝ που παρατίθενται σε παράρτημα του παρόντος κανονισμού, καθιστώντας έτσι πολύ μικρό τον ενδεχόμενο αντίκτυπο των στοιχείων εξόδου του συστήματος από την άποψη του κινδύνου που εγκυμονούν τα στοιχεία αυτά για την αξιολόγηση που θα ακολουθήσει. Η προϋπόθεση αυτή καλύπτει, μεταξύ άλλων, έξυπνες λύσεις για τον χειρισμό αρχείων, στις οποίες περιλαμβάνονται διάφορες λειτουργίες, όπως η ευρετηρίαση, η αναζήτηση, η επεξεργασία κειμένου και ομιλίας ή η σύνδεση δεδομένων με άλλες πηγές δεδομένων, ή συστήματα ΤΝ που χρησιμοποιούνται για τη μετάφραση αρχικών εγγράφων. Σε κάθε περίπτωση, τα συστήματα ΤΝ που χρησιμοποιούνται σε περιπτώσεις χρήσης υψηλού κινδύνου που απαριθμούνται σε παράρτημα του παρόντος κανονισμού θα πρέπει να θεωρείται ότι εγκυμονούν σημαντικούς κινδύνους βλάβης της υγείας, της ασφάλειας ή των θεμελιωδών δικαιωμάτων, εάν το σύστημα ΤΝ συνεπάγεται κατάρτιση προφίλ κατά την έννοια του άρθρου 4 σημείο 4) του κανονισμού (ΕΕ) 2016/679 ή του άρθρου 3 σημείο 4) της οδηγίας (ΕΕ) 2016/680 ή του άρθρου 3 σημείο 5) του κανονισμού (ΕΕ) 2018/1725. Για την εξασφάλιση ιχνηλασιμότητας και διαφάνειας, ένας πάροχος που θεωρεί ότι ένα σύστημα ΤΝ δεν είναι υψηλού κινδύνου βάσει των προϋποθέσεων που αναφέρονται ανωτέρω θα πρέπει να καταρτίζει υλικό τεκμηρίωσης της αξιολόγησης πριν από τη διάθεση του συστήματος στην αγορά ή τη θέση του σε λειτουργία και θα πρέπει να παρέχει αυτό το υλικό τεκμηρίωσης στις εθνικές αρμόδιες αρχές κατόπιν αιτήματος. Ο πάροχος αυτός θα πρέπει να υποχρεούται να καταχωρίσει το σύστημα ΤΝ στη βάση δεδομένων της ΕΕ που δημιουργείται δυνάμει του παρόντος κανονισμού. Με σκοπό την παροχή περαιτέρω καθοδήγησης για την πρακτική εφαρμογή των προϋποθέσεων υπό τις οποίες τα συστήματα ΤΝ που απαριθμούνται σε παράρτημα του παρόντος κανονισμού είναι, κατ’ εξαίρεση, μη υψηλού κινδύνου, η Επιτροπή θα πρέπει, κατόπιν διαβούλευσης με το Συμβούλιο Τεχνητής Νοημοσύνης, να παρέχει κατευθυντήριες γραμμές που να διευκρινίζουν την πρακτική αυτή εφαρμογή, μαζί με πλήρη κατάλογο πρακτικών παραδειγμάτων περιπτώσεων χρήσης συστημάτων ΤΝ που είναι υψηλού κινδύνου και περιπτώσεων χρήσης μη υψηλού κινδύνου.
(53)
Важно е също така да се поясни, че може да има особени случаи, в които системите с ИИ, свързани с предварително определени области, посочени в настоящия регламент, не водят до значителен риск от увреждане на правните интереси, защитени в тези области, тъй като не оказват съществено влияние върху вземането на решения или не увреждат съществено тези интереси. За целите на настоящия регламент система с ИИ, която не оказва съществено влияние върху резултата от вземането на решения, следва да се разбира като система с ИИ, която не оказва въздействие върху същността, а оттам и върху резултата от вземането на решения, независимо дали е от човека, или автоматизирано. Система с ИИ, която не оказва съществено влияние върху резултата от вземането на решения, може да включва ситуации, при които са изпълнени едно или повече от посочените по-нататък условия. Първото условие следва да бъде системата с ИИ да е предназначена да изпълнява конкретно определена процедурна задача, като например система с ИИ, която преобразува неструктурирани данни в структурирани данни, система с ИИ, която класифицира входящите документи в категории, или система с ИИ, която се използва за откриване на случаи на дублиране в рамките на голям брой приложения. Тези задачи са с толкова тесен и ограничен характер, че пораждат само ограничени рискове, които не се увеличават чрез използването на система с ИИ в контекст, посочен като високорисково използване в приложение към настоящия регламент. Второто условие следва да бъде задачата, изпълнявана от системата с ИИ, да има за цел подобряване на резултата от извършена преди това човешка дейност, която може да е от значение за целите на видовете високорисково използване, изброени в приложение към настоящия регламент. Като се имат предвид тези характеристики, системата с ИИ представлява само допълнение към човешката дейност с произтичащ от това понижен риск. Това условие например ще е приложимо при системи с ИИ, които имат за цел да подобрят езика, използван във вече изготвени документи, например във връзка с професионалния тон, академичния стил на езика или чрез привеждане на текста в съответствие с определено послание на дадена марка. Третото условие следва да бъде системата с ИИ да е предназначена да открива модели за вземане на решения или отклонения от съществуващи модели за вземане на решения. Рискът ще бъде намален, тъй като използването на системата с ИИ следва предварително извършена човешка оценка, която системата няма за цел да замени или да повлияе без подходящ преглед, извършен от човек. Тези системи с ИИ включват например такива, които, предвид определен модел на оценяване от преподавател, могат да се използват за последваща проверка на вероятността преподавателят да се е отклонил от модела на оценяване, така че да се откроят възможни несъответствия или аномалии. Четвъртото условие следва да бъде системата с ИИ да е предназначена да изпълнява задача, която представлява само подготвителен етап преди извършването на оценка, която е от значение за целите на системите с ИИ, изброени в приложение в настоящия регламент, като по този начин възможното въздействие на резултата от системата намалява в значителна степен от гледна точка на това дали представлява риск за оценката, която ще последва. Това условие обхваща, наред с другото, интелигентни решения за обработка на файлове, които включват различни функции като индексиране, търсене, обработка на текст и реч или свързване на данни с други източници на данни, или системи с ИИ, използвани за превод на първоначални документи. Във всеки случай следва да се счита, че системи с ИИ, използвани в случаи на високорисково използване, посочени в приложение към настоящия регламент, пораждат значителни рискове от вреди за здравето, безопасността или основните права, ако системата с ИИ предполага профилиране по смисъла на член 4, точка 4 от Регламент (ЕС) 2016/679 или член 3, точка 4 от Директива (ЕС) 2016/680, или член 3, точка 5 от Регламент (ЕС) 2018/1725. За да се гарантират проследимост и прозрачност, доставчик, който счита, че дадена система с ИИ не е високорискова въз основа на посочените по-горе условия, следва да изготви документация за оценката, преди системата да бъде пусната на пазара или пусната в действие, и при поискване да предостави тази документация на националните компетентни органи. Този доставчик следва да бъде задължен да регистрира системата с ИИ в базата данни на ЕС, създадена съгласно настоящия регламент. С цел да се дадат допълнителни насоки за практическото изпълнение на условията, съгласно които системи с ИИ, изброени в приложение към настоящия регламент, по изключение не са високорискови, Комисията, след консултация със Съвета по ИИ, следва да предостави насоки, в които да се конкретизира това практическо изпълнение, допълнено от изчерпателен списък с практически примери за случаи на използване на системи с ИИ, които са високорискови, и такива, които не са.
(54)
Καθώς τα βιομετρικά δεδομένα συνιστούν ειδική κατηγορία δεδομένων προσωπικού χαρακτήρα, ενδείκνυται να ταξινομηθούν ως υψηλού κινδύνου διάφορες περιπτώσεις κρίσιμης χρήσης βιομετρικών συστημάτων, στον βαθμό που η χρήση τους επιτρέπεται βάσει του σχετικού ενωσιακού και εθνικού δικαίου. Τεχνικές ανακρίβειες συστημάτων ΤΝ που προορίζονται για την εξ αποστάσεως βιομετρική ταυτοποίηση φυσικών προσώπων μπορούν να οδηγήσουν σε μεροληπτικά αποτελέσματα και να επιφέρουν διακρίσεις. Ο κίνδυνος για τέτοιου είδους μεροληπτικά αποτελέσματα και διακρίσεις σχετίζεται ιδίως με την ηλικία, την εθνοτική καταγωγή, τη φυλή, το φύλο ή τις αναπηρίες. Τα συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης θα πρέπει, συνεπώς, να ταξινομούνται ως υψηλού κινδύνου λόγω των κινδύνων που εγκυμονούν. Από την ταξινόμηση αυτή εξαιρούνται τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για βιομετρική εξακρίβωση, συμπεριλαμβανομένης της επαλήθευσης ταυτότητας, με μοναδικό σκοπό να επιβεβαιώνεται αν ένα συγκεκριμένο φυσικό πρόσωπο είναι το πρόσωπο που ισχυρίζεται ότι είναι και να επιβεβαιώνεται η ταυτότητα ενός φυσικού προσώπου αποκλειστικά και μόνο για την πρόσβαση σε μια υπηρεσία, το ξεκλείδωμα συσκευής ή την ασφαλή πρόσβαση σε εγκαταστάσεις. Επιπλέον, θα πρέπει να ταξινομούνται ως υψηλού κινδύνου τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για βιομετρική κατηγοριοποίηση σύμφωνα με ευαίσθητα γνωρίσματα ή χαρακτηριστικά προστατευόμενα δυνάμει του άρθρου 9 παράγραφος 1 του κανονισμού (ΕΕ) 2016/679 βάσει βιομετρικών δεδομένων, στον βαθμό που αυτά δεν απαγορεύονται δυνάμει του παρόντος κανονισμού, και τα συστήματα αναγνώρισης συναισθημάτων που δεν απαγορεύονται δυνάμει του παρόντος κανονισμού. Τα βιομετρικά συστήματα που προορίζονται να χρησιμοποιηθούν αποκλειστικά για τη διευκόλυνση μέτρων προστασίας της κυβερνοασφάλειας και των δεδομένων προσωπικού χαρακτήρα δεν θα πρέπει να θεωρούνται συστήματα ΤΝ υψηλού κινδύνου.
(54)
Тъй като биометричните данни представляват специална категория лични данни, е целесъобразно да се класифицират като високорискови няколко случая на критично използване на биометрични системи, доколкото тяхното използване е разрешено съгласно съответното право на Съюза и национално право. Техническите неточности на системите с ИИ, предназначени за дистанционна биометрична идентификация на физически лица, могат да доведат до опорочени от предубеденост резултати и до дискриминация. Рискът от такива опорочени от предубеденост резултати и дискриминация е от особено значение във връзка с възраст, етническа принадлежност, раса, пол или увреждане. Поради това системите за дистанционна биометрична идентификация следва да бъдат класифицирани като високорискови с оглед на рисковете, които пораждат. Тази класификация изключва системите с ИИ, предназначени да бъдат използвани за биометрична проверка, включително за удостоверяване на самоличността, чиято единствена цел е да се потвърди, че конкретно физическо лице е лицето, за което се представя, и да се потвърди самоличността на физическо лице единствено за да се получи достъп до услуга, да се отключи устройство или да се придобие сигурен достъп до помещения. Освен това следва да бъдат класифицирани като високорискови системите с ИИ, предназначени да се използват за биометрично категоризиране в съответствие с чувствителни признаци или характеристики, защитени съгласно член 9, параграф 1 от Регламент (ЕС) 2016/679, въз основа на биометрични данни, доколкото те не са забранени съгласно настоящия регламент, и системи за разпознаване на емоции, които не са забранени съгласно настоящия регламент. Биометричните системи, които са предназначени да се използват единствено с цел да се позволи предприемането на мерки за киберсигурност и за защита на личните данни, не следва да се считат за високорискови системи с ИИ.
(55)
Όσον αφορά τη διαχείριση και τη λειτουργία υποδομών ζωτικής σημασίας, ενδείκνυται να ταξινομηθούν ως υψηλού κινδύνου τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν ως κατασκευαστικά στοιχεία ασφάλειας στη διαχείριση και τη λειτουργία ψηφιακών υποδομών ζωτικής σημασίας, όπως απαριθμούνται στο παράρτημα σημείο 8) της οδηγίας (ΕΕ) 2022/2557, στην οδική κυκλοφορία και στην παροχή νερού, φυσικού αερίου, θέρμανσης και ηλεκτρικής ενέργειας, δεδομένου ότι η αστοχία ή η δυσλειτουργία τους μπορεί να θέσει σε κίνδυνο τη ζωή και την υγεία των προσώπων σε μεγάλη κλίμακα και να προκαλέσει σημαντική διατάραξη της συνήθους άσκησης των κοινωνικών και οικονομικών δραστηριοτήτων. Τα κατασκευαστικά στοιχεία ασφάλειας των υποδομών ζωτικής σημασίας, συμπεριλαμβανομένων των ψηφιακών υποδομών ζωτικής σημασίας, είναι συστήματα που χρησιμοποιούνται για την άμεση προστασία της υλικής ακεραιότητας των υποδομών ζωτικής σημασίας ή της υγείας και της ασφάλειας προσώπων και περιουσιακών στοιχείων, αλλά δεν είναι απαραίτητα για τη λειτουργία του συστήματος. Η αστοχία ή η δυσλειτουργία τέτοιων κατασκευαστικών στοιχείων μπορεί να οδηγήσει άμεσα σε κινδύνους για την υλική ακεραιότητα των υποδομών ζωτικής σημασίας και, ως εκ τούτου, σε κινδύνους για την υγεία και την ασφάλεια των προσώπων και των περιουσιακών στοιχείων. Τα κατασκευαστικά στοιχεία που προορίζονται να χρησιμοποιηθούν αποκλειστικά για σκοπούς κυβερνοασφάλειας δεν θα πρέπει να χαρακτηρίζονται ως κατασκευαστικά στοιχεία ασφάλειας. Παραδείγματα κατασκευαστικών στοιχείων ασφάλειας τέτοιων υποδομών ζωτικής σημασίας μπορεί να είναι, μεταξύ άλλων, τα συστήματα παρακολούθησης της πίεσης του νερού ή τα συστήματα ελέγχου συναγερμού πυρκαγιάς σε κέντρα υπολογιστικού νέφους.
(55)
Във връзка с управлението и експлоатацията на критична инфраструктура, е целесъобразно системите с ИИ, предназначени да бъдат използвани като защитни елементи при управлението и експлоатацията на критична цифрова инфраструктура, посочена в точка 8 от приложението към Директива (ЕС) 2022/2557, движението по пътищата и водоснабдяването, газоснабдяването, отоплението и електроенергията, да бъдат класифицирани като високорискови системи с ИИ, тъй като при тях аварията или неизправността може да изложи на риск живота и здравето на множество хора и да доведе до значителни смущения в обичайното осъществяване на социални и икономически дейности. Защитните елементи на критичната инфраструктура, включително критичната цифрова инфраструктура, са системи, използвани за пряка защита на физическата цялост на критичната инфраструктура или на здравето и безопасността на хората и имуществото, но не са необходими за функционирането на системата. Аварията или неизправността на тези елементи може пряко да породи рискове за физическата цялост на критичната инфраструктура и оттук –рискове за здравето и безопасността на хората и имуществото. Елементи, предназначени да се използват единствено за целите на киберсигурността, не следва да се квалифицират като защитни елементи. Сред примерите за защитни елементи на критичната инфраструктура могат да се посочат системите за наблюдение на водното налягане или контролните системи за пожароизвестяване в центровете за изчисления в облак.
(56)
Η εφαρμογή συστημάτων ΤΝ στην εκπαίδευση είναι σημαντική για την προαγωγή της ψηφιακής εκπαίδευσης και κατάρτισης υψηλής ποιότητας, καθώς και για να δίνεται σε όλους τους εκπαιδευόμενους και τους εκπαιδευτικούς η δυνατότητα να αποκτούν και να μοιράζονται τις απαραίτητες ψηφιακές δεξιότητες και ικανότητες, συμπεριλαμβανομένου του γραμματισμού στα μέσα επικοινωνίας και της κριτικής σκέψης, ώστε να συμμετέχουν ενεργά στην οικονομία, την κοινωνία και τις δημοκρατικές διαδικασίες. Ωστόσο, τα συστήματα ΤΝ που χρησιμοποιούνται στην εκπαίδευση ή την επαγγελματική κατάρτιση, ιδίως για τον καθορισμό της πρόσβασης ή της εισαγωγής, για την τοποθέτηση προσώπων σε ιδρύματα ή προγράμματα εκπαίδευσης και επαγγελματικής κατάρτισης όλων των βαθμίδων, για την αξιολόγηση των μαθησιακών αποτελεσμάτων προσώπων, για την εκτίμηση του κατάλληλου επιπέδου εκπαίδευσης για ένα άτομο και για την άσκηση ουσιώδους επιρροής στο επίπεδο εκπαίδευσης και κατάρτισης που θα λάβει ή στο οποίο θα μπορεί να έχει πρόσβαση ένα άτομο ή για την παρακολούθηση και τον εντοπισμό απαγορευμένης συμπεριφοράς σπουδαστών κατά τη διάρκεια εξετάσεων, θα πρέπει να ταξινομούνται ως συστήματα ΤΝ υψηλού κινδύνου, δεδομένου ότι μπορούν να καθορίσουν την εκπαιδευτική και επαγγελματική πορεία της ζωής ενός προσώπου και, ως εκ τούτου, να επηρεάσουν την ικανότητά του να εξασφαλίσει τα μέσα βιοπορισμού του. Όταν σχεδιάζονται και χρησιμοποιούνται εσφαλμένα, τα συστήματα αυτά ενδέχεται να είναι ιδιαίτερα παρεμβατικά και να παραβιάζουν το δικαίωμα στην εκπαίδευση και στην κατάρτιση, καθώς και το δικαίωμα σε μεταχείριση χωρίς διακρίσεις, και να διαιωνίζουν ιστορικές νοοτροπίες διακρίσεων, για παράδειγμα εις βάρος γυναικών, ορισμένων ηλικιακών ομάδων, ατόμων με αναπηρία ή ατόμων συγκεκριμένης φυλετικής ή εθνοτικής καταγωγής ή γενετήσιου προσανατολισμού.
(56)
Внедряването на системи с ИИ в образованието е важно, за да се насърчи висококачествено цифрово образование и обучение и да се даде възможност на всички учащи се и преподаватели да придобиват и споделят необходимите цифрови умения и компетентности, включително за медийна грамотност и критично мислене, за да участват активно в икономиката, обществото и демократичните процеси. Същевременно системите с ИИ, използвани в образованието или професионалното обучение, по-специално за определяне на достъпа или приема, за разпределяне на лица в институции или програми на всички нива на образованието и професионалното обучение, за оценяване на учебните резултати, за оценяване на подходящото ниво на образование за дадено лице и за оказване на съществено влияние върху нивото на образование и обучение, което лицата ще получат или до което ще могат да имат достъп, или за наблюдение и откриване на забранено поведение на ученици и студенти по време на изпити, следва да се класифицират като високорискови системи с ИИ, тъй като могат да определят образователния и професионалния път на дадено лице и така да повлияят на способността на това лице да осигурява прехраната си. Когато не са правилно проектирани и използвани, тези системи може да са особено инвазивни и е възможно да нарушат правото на образование и обучение, както и правото на недискриминация, и да продължат да възпроизвеждат исторически наложени дискриминационни модели, например срещу жени, определени възрастови групи, хора с увреждания или с определен расов или етнически произход или сексуална ориентация.
(57)
Τα συστήματα ΤΝ που χρησιμοποιούνται στην απασχόληση, τη διαχείριση εργαζομένων και την πρόσβαση στην αυτοαπασχόληση, ιδίως για την πρόσληψη και την επιλογή προσώπων, για τη λήψη αποφάσεων από τις οποίες επηρεάζονται οι όροι της σχέσης που σχετίζεται με την εργασία, η προαγωγή και η καταγγελία συμβατικών σχέσεων που σχετίζονται με την εργασία, για την κατανομή καθηκόντων με βάση την συμπεριφορά του ατόμου ή προσωπικά γνωρίσματα ή χαρακτηριστικά του και για την παρακολούθηση ή την αξιολόγηση προσώπων που τελούν σε συμβατικές σχέσεις που σχετίζονται με την εργασία, θα πρέπει επίσης να ταξινομηθούν ως υψηλού κινδύνου, δεδομένου ότι τα εν λόγω συστήματα ενδέχεται να έχουν αισθητό αντίκτυπο στις μελλοντικές προοπτικές σταδιοδρομίας, τα μέσα βιοπορισμού αυτών των προσώπων και τα δικαιώματα των εργαζομένων. Οι συναφείς συμβατικές σχέσεις που σχετίζονται με την εργασία θα πρέπει να καλύπτουν κατά τρόπο ουσιαστικό τους εργαζομένους και τα πρόσωπα που παρέχουν υπηρεσίες μέσω πλατφορμών, όπως αναφέρεται στο πρόγραμμα εργασίας της Επιτροπής για το 2021. Καθ’ όλη τη διάρκεια της διαδικασίας πρόσληψης και κατά την αξιολόγηση, την προαγωγή ή τη διατήρηση προσώπων σε συμβατικές σχέσεις που σχετίζονται με την εργασία, τα συστήματα αυτά μπορούν να διαιωνίσουν ιστορικές νοοτροπίες διακρίσεων, για παράδειγμα εις βάρος γυναικών, ορισμένων ηλικιακών ομάδων, ατόμων με αναπηρία ή ατόμων συγκεκριμένης φυλετικής ή εθνοτικής καταγωγής ή γενετήσιου προσανατολισμού. Τα συστήματα ΤΝ που χρησιμοποιούνται για την παρακολούθηση των επιδόσεων και της συμπεριφοράς των εν λόγω προσώπων ενδέχεται επίσης να υπονομεύσουν τα θεμελιώδη δικαιώματά τους στην προστασία των δεδομένων και στην ιδιωτική ζωή.
(57)
Системите с ИИ, използвани в областта на заетостта, управлението на работниците и достъпа до самостоятелна заетост, по-специално за подбор и наемане на лица, за вземане на решения, засягащи условията за повишение при отношения във връзка с полагане на труд и прекратяване на договорни отношения във връзка с полагане на труд, за разпределяне на задачи въз основа на индивидуално поведение, личностни черти или характеристики и за наблюдение или оценка на лица, които имат договорни отношения във връзка с полагане на труд, също следва да бъдат класифицирани като високорискови, тъй като тези системи могат в значителна степен да повлияят на бъдещите перспективи за професионално развитие, осигуряването на прехраната на тези лица и правата на работниците. Съответните договорни отношения във връзка с полагането на труд следва по пълноценен начин да включват и служителите и лицата, предоставящи услуги чрез платформи, както е посочено в работната програма на Комисията за 2021 г. По време на целия процес на набиране на персонал и при оценката, повишаването или задържането на лица в договорни отношения във връзка с полагането на труд такива системи могат да продължат да възпроизвеждат исторически наложени дискриминационни модели, например срещу жени, определени възрастови групи, хора с увреждания или с определен расов или етнически произход или сексуална ориентация. Системите с ИИ, използвани за наблюдение на работата и поведението на тези лица, могат също така да накърнят техните основни права на защита на данните и неприкосновеност на личния живот.
(58)
Ένας άλλος τομέας στο πλαίσιο του οποίου αξίζει να δοθεί ιδιαίτερη προσοχή στη χρήση των συστημάτων ΤΝ είναι η πρόσβαση και η απόλαυση ορισμένων βασικών ιδιωτικών και δημόσιων υπηρεσιών και παροχών που είναι απαραίτητες για την πλήρη συμμετοχή των πολιτών στην κοινωνία ή τη βελτίωση του βιοτικού τους επιπέδου. Ειδικότερα, τα φυσικά πρόσωπα που ζητούν ή λαμβάνουν βασικές παροχές και υπηρεσίες δημόσιας αρωγής από δημόσιες αρχές, ιδίως υπηρεσίες υγειονομικής περίθαλψης, παροχές κοινωνικής ασφάλισης, κοινωνικές υπηρεσίες που παρέχουν προστασία σε περιπτώσεις, μεταξύ άλλων, μητρότητας, ασθενείας, εργατικού ατυχήματος, εξάρτησης ή γήρατος και απώλειας εργασίας, καθώς και κοινωνική και στεγαστική αρωγή, εξαρτώνται κατά κανόνα από τις εν λόγω παροχές και υπηρεσίες και βρίσκονται σε ευάλωτη θέση σε σχέση με τις αρμόδιες αρχές. Εάν χρησιμοποιούνται συστήματα ΤΝ για να προσδιορίζεται αν οι αρμόδιες αρχές θα πρέπει να χορηγήσουν ή να αρνηθούν την πρόσβαση στις εν λόγω παροχές και υπηρεσίες ή να τις μειώσουν, να τις ανακαλέσουν ή να τις ανακτήσουν, συμπεριλαμβανομένου του αν οι ωφελούμενοι δικαιούνται νομίμως τις εν λόγω παροχές ή υπηρεσίες, τα συστήματα αυτά ενδέχεται να έχουν σημαντικό αντίκτυπο στα μέσα διαβίωσης των προσώπων και να παραβιάζουν τα θεμελιώδη δικαιώματά τους, όπως το δικαίωμα στην κοινωνική προστασία, στη μεταχείριση χωρίς διακρίσεις, στην ανθρώπινη αξιοπρέπεια ή σε πραγματική προσφυγή, και θα πρέπει συνεπώς να ταξινομούνται ως υψηλού κινδύνου. Ωστόσο, ο παρών κανονισμός δεν θα πρέπει να παρεμποδίζει την ανάπτυξη και τη χρήση καινοτόμων προσεγγίσεων στη δημόσια διοίκηση, η οποία θα μπορούσε να επωφεληθεί από την ευρύτερη χρήση συμμορφούμενων και ασφαλών συστημάτων ΤΝ, υπό την προϋπόθεση ότι τα εν λόγω συστήματα δεν ενέχουν υψηλό κίνδυνο για τα νομικά και τα φυσικά πρόσωπα. Επιπλέον, τα συστήματα ΤΝ που χρησιμοποιούνται για την αξιολόγηση της πιστοληπτικής βαθμολογίας ή της πιστοληπτικής ικανότητας των φυσικών προσώπων θα πρέπει να ταξινομηθούν ως συστήματα ΤΝ υψηλού κινδύνου, καθώς καθορίζουν την πρόσβαση των εν λόγω προσώπων σε οικονομικούς πόρους ή βασικές υπηρεσίες, όπως στέγαση, ηλεκτρική ενέργεια και τηλεπικοινωνιακές υπηρεσίες. Τα συστήματα ΤΝ που χρησιμοποιούνται για τους σκοπούς αυτούς μπορούν να οδηγήσουν σε διακρίσεις μεταξύ προσώπων ή ομάδων και να διαιωνίσουν ιστορικές νοοτροπίες διακρίσεων, όπως αυτές που βασίζονται στη φυλετική ή εθνοτική καταγωγή, το φύλο, τις αναπηρίες, την ηλικία ή τον γενετήσιο προσανατολισμό, ή να δημιουργήσουν νέες μορφές διακρίσεων. Ωστόσο, τα συστήματα ΤΝ που προβλέπονται από το δίκαιο της Ένωσης για τον εντοπισμό περιπτώσεων απάτης κατά την προσφορά χρηματοοικονομικών υπηρεσιών και για σκοπούς προληπτικής εποπτείας προκειμένου να υπολογίζονται οι κεφαλαιακές απαιτήσεις πιστωτικών ιδρυμάτων και ασφαλιστικών επιχειρήσεων δεν θα πρέπει να θεωρούνται υψηλού κινδύνου βάσει του παρόντος κανονισμού. Επιπλέον, τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για την εκτίμηση κινδύνων και την τιμολόγηση σε σχέση με φυσικά πρόσωπα για ασφάλιση υγείας και ζωής μπορούν επίσης να έχουν σημαντικό αντίκτυπο στα μέσα βιοπορισμού των προσώπων και, εάν δεν σχεδιάζονται, δεν αναπτύσσονται και δεν χρησιμοποιούνται δεόντως, μπορούν να παραβιάσουν τα θεμελιώδη δικαιώματά τους και να έχουν σοβαρές συνέπειες για τη ζωή και την υγεία των ανθρώπων, συμπεριλαμβανομένων του οικονομικού αποκλεισμού και των διακρίσεων. Τέλος, τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούνται για την αξιολόγηση και ταξινόμηση κλήσεων έκτακτης ανάγκης από φυσικά πρόσωπα ή την αποστολή ή τον καθορισμό προτεραιοτήτων για την αποστολή υπηρεσιών πρώτης αντίδρασης σε καταστάσεις έκτακτης ανάγκης, μεταξύ άλλων από την αστυνομία, την πυροσβεστική και τις υπηρεσίες άμεσης βοήθειας, καθώς και από συστήματα διαλογής ασθενών σε υπηρεσίες επειγόντων ιατρικών περιστατικών, θα πρέπει επίσης να ταξινομηθούν ως υψηλού κινδύνου, δεδομένου ότι λαμβάνουν αποφάσεις σε πολύ κρίσιμες καταστάσεις για τη ζωή και την υγεία των προσώπων, καθώς και για τα περιουσιακά τους στοιχεία.
(58)
Друга област, в която използването на системи с ИИ заслужава специално внимание, е достъпът до и ползването на някои основни частни и публични услуги и подпомагане, необходими на хората за пълноценно участие в обществото или за подобряване на техния стандарт на живот. По-специално, физическите лица, които кандидатстват или получават основно обществено подпомагане и услуги от публични органи, а именно здравни услуги, социалноосигурителни обезщетения, социални услуги, осигуряващи закрила в случаи като майчинство, заболяване, трудова злополука, зависимост или старост и загуба на работа, както и на социална помощ и помощ за жилищно настаняване, обикновено зависят от това подпомагане и услуги и са в уязвимо положение по отношение на отговорните органи. Ако системите с ИИ се използват, за да се определи дали това подпомагане и услуги следва да бъдат предоставени, отказани, намалени, отменени или възстановени от органите, включително дали бенефициерите имат законно право да се ползват от това подпомагане или услуги, въпросните системи могат да окажат значително въздействие върху материалната издръжка на тези лица и да нарушат основните им права, като правото на социална закрила, недискриминация, човешко достойнство или ефективни правни средства за защита, и поради това следва да бъдат класифицирани като високорискови. Независимо от това настоящият регламент не следва да възпрепятства разработването и използването на иновативни подходи в публичната администрация, за които по-широкото използване на съвместими и безопасни системи с ИИ би било полезно, при условие че тези системи не пораждат висок риск за юридическите и физическите лица. Наред с това системите с ИИ, използвани за оценка на кредитния рейтинг или кредитоспособността на физически лица, следва да бъдат класифицирани като високорискови системи с ИИ, тъй като те определят какъв достъп ще имат тези лица до финансови ресурси или основни услуги като жилищно настаняване, електроенергия и телекомуникационни услуги. Използваните за тези цели системи с ИИ могат да доведат до дискриминация на лица или групи и да продължат да възпроизвеждат исторически наложени дискриминационни модели, например въз основа на расов или етнически произход, пол, увреждане, възраст, сексуална ориентация, или да създадат нови форми на дискриминация. Системите с ИИ, предвидени в правото на Съюза за целите на разкриването на измами при предлагането на финансови услуги и за пруденциални цели за изчисляване на капиталовите изисквания на кредитните институции и застрахователите, не следва обаче да се считат за високорискови съгласно настоящия регламент. Освен това системите с ИИ, предназначени да се използват за оценка на риска и ценообразуване във връзка със здравно застраховане и животозастраховане на физически лица, също могат да окажат значително въздействие върху осигуряването на прехраната на лицата и ако не са надлежно проектирани, разработени и използвани, могат да нарушат техните основни права и да доведат до сериозни последици за живота и здравето на хората, включително финансово изключване и дискриминация. И на последно място, системите с ИИ, използвани за оценка и класифициране на спешните повиквания от физически лица или за изпращане или определяне на приоритет по отношение на изпращането на службите за спешно реагиране, включително от полицията, пожарната и медицинската помощ, както и на системите за разпределяне на пациенти в областта на спешната здравна помощ, също следва да бъдат класифицирани като високорискови, тъй като те вземат решения в ситуации, които са изключително критични за живота и здравето на хората и за тяхното имущество.
(59)
Δεδομένων του ρόλου και της ευθύνης τους, οι ενέργειες των αρχών επιβολής του νόμου που αφορούν ορισμένες χρήσεις των συστημάτων ΤΝ χαρακτηρίζονται από σημαντικό βαθμό ανισορροπίας ισχύος και μπορούν να οδηγήσουν στην παρακολούθηση, τη σύλληψη ή τη στέρηση της ελευθερίας ενός φυσικού προσώπου και να έχουν άλλες δυσμενείς επιπτώσεις για τα θεμελιώδη δικαιώματα που κατοχυρώνονται στον Χάρτη. Ειδικότερα, αν το σύστημα ΤΝ δεν είναι εκπαιδευμένο με δεδομένα υψηλής ποιότητας, δεν πληροί τις κατάλληλες απαιτήσεις όσον αφορά τις επιδόσεις, την ακρίβεια και τη στιβαρότητά του ή δεν έχει σχεδιαστεί κατάλληλα και δεν έχει υποβληθεί στις κατάλληλες δοκιμές προτού διατεθεί στην αγορά ή τεθεί με άλλο τρόπο σε λειτουργία, μπορεί να αντιμετωπίσει ορισμένα άτομα με μεροληπτικό ή άλλο εσφαλμένο ή άδικο τρόπο. Επιπλέον, θα μπορούσε να παρεμποδιστεί η άσκηση σημαντικών δικονομικών θεμελιωδών δικαιωμάτων, όπως το δικαίωμα πραγματικής προσφυγής και αμερόληπτου δικαστηρίου, καθώς και το δικαίωμα υπεράσπισης και το τεκμήριο αθωότητας, ιδίως όταν τα εν λόγω συστήματα ΤΝ δεν είναι επαρκώς διαφανή, εξηγήσιμα και τεκμηριωμένα. Ως εκ τούτου, είναι σκόπιμο να ταξινομηθεί ως υψηλού κινδύνου, στον βαθμό που η χρήση τους επιτρέπεται δυνάμει του σχετικού ενωσιακού και εθνικού δικαίου, μια σειρά συστημάτων ΤΝ που προορίζονται να χρησιμοποιηθούν στο πλαίσιο της επιβολής του νόμου όπου η ακρίβεια, η αξιοπιστία και η διαφάνεια είναι ιδιαίτερα σημαντικές για την αποφυγή δυσμενών επιπτώσεων, τη διατήρηση της εμπιστοσύνης του κοινού και τη διασφάλιση της λογοδοσίας και της αποτελεσματικής επανόρθωσης. Λόγω της φύσης των δραστηριοτήτων και των συναφών κινδύνων, στα εν λόγω συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να περιλαμβάνονται ιδίως τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από αρχές επιβολής του νόμου ή για λογαριασμό τους ή από θεσμικά και λοιπά όργανα ή οργανισμούς της Ένωσης προς στήριξη αρχών επιβολής του νόμου για την εκτίμηση του κινδύνου ένα φυσικό πρόσωπο να πέσει θύμα αξιόποινης πράξης, όπως ανιχνευτές ψεύδους ή παρόμοια εργαλεία, για την αξιολόγηση της αξιοπιστίας των αποδεικτικών στοιχείων στο πλαίσιο διερεύνησης ή δίωξης αξιόποινων πράξεων και, στον βαθμό που δεν απαγορεύεται βάσει του παρόντος κανονισμού, για την εκτίμηση του κινδύνου ένα φυσικό πρόσωπο να τελέσει ή να τελέσει εκ νέου αξιόποινη πράξη όχι μόνο αποκλειστικά με βάση την κατάρτιση προφίλ φυσικών προσώπων ή την αξιολόγηση γνωρισμάτων και χαρακτηριστικών της προσωπικότητας ή προηγούμενης εγκληματικής συμπεριφοράς φυσικών προσώπων ή ομάδων και για την κατάρτιση προφίλ στο πλαίσιο της ανίχνευσης, της διερεύνησης ή της δίωξης αξιόποινων πράξεων. Τα συστήματα ΤΝ που προορίζονται ειδικά για χρήση σε διοικητικές διαδικασίες από φορολογικές και τελωνειακές αρχές, καθώς και από μονάδες χρηματοοικονομικών πληροφοριών που εκτελούν διοικητικά καθήκοντα ανάλυσης πληροφοριών σύμφωνα με το δίκαιο της Ένωσης για την καταπολέμηση της νομιμοποίησης εσόδων από παράνομες δραστηριότητες, δεν θα πρέπει να ταξινομούνται ως συστήματα ΤΝ υψηλού κινδύνου χρησιμοποιούμενα από αρχές επιβολής του νόμου για τους σκοπούς της πρόληψης, της ανίχνευσης, της διερεύνησης και της δίωξης αξιόποινων πράξεων. Η χρήση εργαλείων ΤΝ από τις αρχές επιβολής του νόμου και άλλες σχετικές αρχές δεν θα πρέπει να καταστεί παράγοντας ανισότητας ή αποκλεισμού. Ο αντίκτυπος της χρήσης εργαλείων ΤΝ στα δικαιώματα υπεράσπισης των υπόπτων θα πρέπει να μην παραβλέπεται, ιδίως η δυσκολία απόκτησης ουσιαστικών πληροφοριών σχετικά με τη λειτουργία των συστημάτων αυτών και η συνακόλουθη δυσκολία αμφισβήτησης των αποτελεσμάτων τους στο δικαστήριο, ιδίως από τα υποκείμενα σε έρευνα φυσικά πρόσωπα.
(59)
Предвид техните функции и отговорност, действията на правоохранителните органи, включващи определени видове използване на системи с ИИ, се характеризират със значителна степен на властово неравновесие и могат да доведат до наблюдение, задържане или лишаване от свобода на физическо лице, както и до други неблагоприятни въздействия по отношение на основните права, гарантирани от Хартата. По-специално, ако системата с ИИ не е обучена с висококачествени данни, не отговаря на съответните изисквания по отношение на своето функциониране, точност или надеждност или не е била правилно проектирана и изпитана преди да бъде пусната на пазара или по друг начин пусната в действие, тя може да избира лица по дискриминационен начин или по неправилен или необективен в друго отношение начин. Освен това упражняването на важни процесуални основни права, като правото на ефективни правни средства за защита и на справедлив съдебен процес, както и правото на защита и презумпцията за невиновност, би могло да бъде възпрепятствано, по-специално когато системите с ИИ не са достатъчно прозрачни, разбираеми и документирани. Поради това е целесъобразно редица системи с ИИ, предназначени да бъдат използвани в правоохранителен контекст, където точността, надеждността и прозрачността са особено важни за избягване на неблагоприятни въздействия, запазване на общественото доверие и гарантиране на отчетност и ефективна правна защита, да се класифицират като високорискови, доколкото тяхното използване е разрешено съгласно съответното право на Съюза и национално право. С оглед на естеството на дейностите и свързаните с тях рискове тези високорискови системи с ИИ следва да включват по-специално системи с ИИ, предназначени да бъдат използвани от или от името на правоохранителните органи или от институции, органи, служби или агенции на Съюза в подкрепа на правоохранителните органи за оценка на риска дадено физическо лице да стане жертва на престъпления, например полиграфи и подобни инструменти, за оценка на надеждността на доказателствата в хода на разследването или наказателното преследване на престъпления, и, доколкото това не е забранено съгласно настоящия регламент, за оценка на риска дадено физическо лице да извърши нарушение или повторно нарушение не само въз основа на профилирането на физически лица или на оценката на личностни черти и характеристики или на минало престъпно поведение на физически лица или групи, както и за профилиране в хода на разкриването, разследването или наказателното преследване на престъпления. Системите с ИИ, специално предназначени да се използват за административни производства от данъчните и митническите органи, както и от звената за финансово разузнаване, изпълняващи административни задачи за анализ на информация съгласно правото на Съюза за борба с изпирането на пари, не следва да се класифицират като високорискови системи с ИИ, използвани от правоохранителните органи за целите на предотвратяването, разкриването, разследването и наказателното преследване на престъпления. Използването на инструменти с ИИ от страна на правоохранителните и други съответни органи не следва да се превръща във фактор, обуславящ неравенство или изключване. Въздействието на използването на инструменти с ИИ върху правата на защита на заподозрените лица не следва да се пренебрегва, по-специално трудностите при получаване на съдържателна информация относно функционирането на тези системи и произтичащите от това трудности при оспорване на резултатите от тях в съда, по-специално от страна на физически лица, срещу които се води разследване.
(60)
Τα συστήματα ΤΝ που χρησιμοποιούνται στη διαχείριση της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων επηρεάζουν πρόσωπα που βρίσκονται συχνά σε ιδιαίτερα ευάλωτη θέση και εξαρτώνται από την έκβαση των ενεργειών των αρμόδιων δημόσιων αρχών. Ως εκ τούτου, η ακρίβεια, ο αμερόληπτος χαρακτήρας και η διαφάνεια των συστημάτων ΤΝ που χρησιμοποιούνται σε αυτά τα πλαίσια είναι ιδιαίτερα σημαντικά για τη διασφάλιση του σεβασμού των θεμελιωδών δικαιωμάτων των θιγόμενων προσώπων, ιδίως των δικαιωμάτων τους στην ελεύθερη κυκλοφορία, τη μεταχείριση χωρίς διακρίσεις, την προστασία της ιδιωτικής ζωής και των δεδομένων προσωπικού χαρακτήρα, τη διεθνή προστασία και τη χρηστή διοίκηση. Ως εκ τούτου, είναι σκόπιμο να ταξινομηθούν ως υψηλού κινδύνου, στον βαθμό που η χρήση τους επιτρέπεται δυνάμει του σχετικού ενωσιακού και εθνικού δικαίου, τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν ως ανιχνευτές ψεύδους και παρεμφερή εργαλεία από αρμόδιες δημόσιες αρχές ή για λογαριασμό τους ή από τα θεσμικά και λοιπά όργανα και οργανισμούς της Ένωσης με καθήκοντα στους τομείς της διαχείρισης της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων, για την εκτίμηση ορισμένων κινδύνων που παρουσιάζουν φυσικά πρόσωπα τα οποία εισέρχονται στην επικράτεια κράτους μέλους ή υποβάλλουν αίτηση θεώρησης ή ασύλου, για την παροχή συνδρομής στις αρμόδιες δημόσιες αρχές όσον αφορά την εξέταση, συμπεριλαμβανομένης της συναφούς αξιολόγησης της αξιοπιστίας αποδεικτικών στοιχείων, των αιτήσεων ασύλου, θεώρησης και άδειας διαμονής και των συναφών καταγγελιών όσον αφορά τον στόχο του καθορισμού της επιλεξιμότητας των φυσικών προσώπων που υποβάλλουν αίτηση χορήγησης καθεστώτος, ή για τον σκοπό του εντοπισμού, της αναγνώρισης ή της ταυτοποίησης φυσικών προσώπων στο πλαίσιο της διαχείρισης της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων, πλην της επαλήθευσης ταξιδιωτικών εγγράφων. Τα συστήματα ΤΝ στον τομέα της διαχείρισης της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων τα οποία καλύπτονται από τον παρόντα κανονισμό θα πρέπει να πληρούν τις σχετικές διαδικαστικές απαιτήσεις που καθορίζονται στον κανονισμό (ΕΚ) αριθ. 810/2009 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (32), στην οδηγία 2013/32/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (33) και σε άλλους σχετικούς κανόνες ενωσιακού δικαίου. Η χρήση συστημάτων ΤΝ στη διαχείριση της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων δεν θα πρέπει, σε καμία περίπτωση, να χρησιμοποιείται από τα κράτη μέλη ή τα θεσμικά και λοιπά όργανα και ή οργανισμούς της Ένωσης ως μέσο καταστρατήγησης των διεθνών τους υποχρεώσεων βάσει της σύμβασης του ΟΗΕ για το καθεστώς των προσφύγων που έγινε στη Γενεύη στις 28 Ιουλίου 1951, όπως τροποποιήθηκε από το πρωτόκολλο της 31ης Ιανουαρίου 1967. Δεν θα πρέπει να χρησιμοποιούνται ούτε για την καθ’ οιονδήποτε τρόπο παραβίαση της αρχής της μη επαναπροώθησης ή για την αποστέρηση ασφαλών και αποτελεσματικών νόμιμων οδών εισόδου στο έδαφος της Ένωσης, συμπεριλαμβανομένου του δικαιώματος διεθνούς προστασίας.
(60)
Системите с ИИ, използвани в управлението на миграцията, убежището и граничния контрол, засягат лица, които често са в особено уязвимо положение и които зависят от резултата от действията на компетентните публични органи. Поради това точността, недискриминационният характер и прозрачността на системите с ИИ, използвани в тези ситуации, са особено важни, за да се гарантира зачитането на основните права на засегнатите лица, по-специално правото им на свободно движение, недискриминация, защита на личния живот и личните данни, международна закрила и добра администрация. Поради това е целесъобразно, доколкото използването им е разрешено съгласно съответното право на Съюза и национално право, да бъдат класифицирани като високорискови системите с ИИ, предназначени да бъдат използвани от или от името на компетентните публични органи или от институции, органи, служби или агенции на Съюза, натоварени със задачи в областта на управлението на миграцията, убежището и граничния контрол, например полиграфи и подобни инструменти, за оценка на определени рискове, произтичащи от физически лица, които влизат на територията на държава членка или подават молба за виза или убежище, за подпомагане на компетентните публични органи при разглеждането, включително свързаната с това оценка на надеждността на доказателствата, на молби за убежище, визи и разрешения за пребиваване и свързаните с тях жалби по отношение на целта за установяване на допустимостта на физическите лица, кандидатстващи за статут, с цел откриване, разпознаване или установяване на самоличността на физически лица в контекста на управлението на миграцията, убежището и граничния контрол, с изключение на проверка на документите за пътуване. Системите с ИИ в областта на управлението на миграцията, убежището и граничния контрол, обхванати от настоящия регламент, следва да съответстват на съответните процедурни изисквания, установени в Регламент (ЕО) № 810/2009 на Европейския парламент и на Съвета (32), Директива 2013/32/ЕС на Европейския парламент и на Съвета (33) и друго съответно право на Съюза. Системите с ИИ в контекста на управлението на миграцията, убежището и граничния контрол не следва при никакви обстоятелства да се използват от държавите членки или институциите, органите, службите или агенциите на Съюза като средство за заобикаляне на техните международни задължения съгласно Конвенцията на Организацията на обединените нации за статута на бежанците, съставена в Женева на 28 юли 1951 г. и изменена с Протокола от 31 януари 1967 г. Те не следва да се използват и за нарушаване по какъвто и да било начин на принципа на забрана за връщане или за отказ във връзка с безопасни и ефективни законни възможности за достъп до територията на Съюза, включително правото на международна закрила.
(61)
Ορισμένα συστήματα ΤΝ που προορίζονται για την απονομή δικαιοσύνης και τις δημοκρατικές διαδικασίες θα πρέπει να ταξινομηθούν ως υψηλού κινδύνου, λαμβανομένου υπόψη του δυνητικά σημαντικού αντικτύπου τους στη δημοκρατία, το κράτος δικαίου, τις ατομικές ελευθερίες, καθώς και στο δικαίωμα πραγματικής προσφυγής και αμερόληπτου δικαστηρίου. Ειδικότερα, για την αντιμετώπιση των κινδύνων δυνητικών προκαταλήψεων, σφαλμάτων και αδιαφάνειας, ενδείκνυται να χαρακτηριστούν ως υψηλού κινδύνου τα συστήματα ΤΝ που προορίζονται για χρήση από δικαστική αρχή ή για λογαριασμό δικαστικής αρχής με σκοπό την παροχή συνδρομής σε δικαστικές αρχές κατά την έρευνα και την ερμηνεία των πραγματικών περιστατικών και του νόμου και κατά την εφαρμογή του νόμου σε συγκεκριμένο σύνολο πραγματικών περιστατικών. Τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από φορείς εναλλακτικής επίλυσης διαφορών για τους σκοπούς αυτούς θα πρέπει επίσης να θεωρούνται υψηλού κινδύνου, όταν τα αποτελέσματα των διαδικασιών εναλλακτικής επίλυσης διαφορών παράγουν έννομα αποτελέσματα για τα μέρη. Η χρήση εργαλείων ΤΝ μπορεί να στηρίξει την εξουσία λήψης αποφάσεων των δικαστών ή τη δικαστική ανεξαρτησία, αλλά δεν θα πρέπει να την υποκαταστήσει: η τελική λήψη αποφάσεων πρέπει να παραμείνει δραστηριότητα κατευθυνόμενη από τον άνθρωπο. Ο χαρακτηρισμός συστημάτων ΤΝ ως υψηλού κινδύνου δεν θα πρέπει, ωστόσο, να επεκταθεί σε συστήματα ΤΝ που προορίζονται για αμιγώς βοηθητικές διοικητικές δραστηριότητες οι οποίες δεν επηρεάζουν στην πράξη την απονομή της δικαιοσύνης σε μεμονωμένες περιπτώσεις, όπως η ανωνυμοποίηση ή η ψευδωνυμοποίηση δικαστικών αποφάσεων, εγγράφων ή δεδομένων, η επικοινωνία μεταξύ των μελών του προσωπικού ή η εκτέλεση διοικητικών καθηκόντων.
(61)
Някои системи с ИИ, предназначени за използване в правораздаването и при демократичните процеси, следва да бъдат класифицирани като високорискови, като се има предвид потенциално значителното им въздействие върху демокрацията, принципите на правовата държава, индивидуалните свободи, както и правото на ефективни правни средства за защита и на справедлив съдебен процес. По-специално, за да се преодолеят рисковете от възможна предубеденост, грешки и непрозрачност, е целесъобразно да се класифицират като високорискови системите с ИИ, предназначени да бъдат използвани от орган на съдебна власт или от негово име, за да подпомагат органите на съдебна власт при проучването и тълкуването на фактите и правото и при прилагането на правото към конкретен набор от факти. Системите с ИИ, предназначени да бъдат използвани от органите за алтернативно разрешаване на спорове за тези цели, също следва да се считат за високорискови, когато резултатите от производството по алтернативно разрешаване на спорове пораждат правни последици за страните. Използването на инструменти с ИИ може да подпомогне, но не следва да заменя правомощията на съда за вземане на решения или независимостта на съдебната власт; окончателното вземане на решение трябва да продължи да бъде ръководено от човека. Класификацията на системите с ИИ като високорискови не следва обаче да обхваща системите с ИИ, предназначени за чисто спомагателни административни дейности, които не засягат самото правораздаване по отделните дела, като например анонимизиране или псевдонимизиране на съдебни решения, документи или данни, комуникация между персонала и административни задачи.
(62)
Με την επιφύλαξη των κανόνων που προβλέπονται στον κανονισμό (ΕΕ) 2024/900 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (34), και προκειμένου να αντιμετωπιστούν οι κίνδυνοι αθέμιτης εξωτερικής παρέμβασης στο δικαίωμα του εκλέγειν που κατοχυρώνεται στο άρθρο 39 του Χάρτη, καθώς και οι κίνδυνοι δυσμενών επιπτώσεων στη δημοκρατία και το κράτος δικαίου, τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για να επηρεάσουν το αποτέλεσμα εκλογών ή δημοψηφίσματος ή την εκλογική συμπεριφορά φυσικών προσώπων κατά την άσκηση του εκλογικού τους δικαιώματος σε εκλογές ή δημοψηφίσματα θα πρέπει να ταξινομούνται ως συστήματα ΤΝ υψηλού κινδύνου, με εξαίρεση τα συστήματα ΤΝ στα στοιχεία εξόδου των οποίων δεν εκτίθενται άμεσα τα φυσικά πρόσωπα, όπως εργαλεία που χρησιμοποιούνται για την οργάνωση, τη βελτιστοποίηση και τη διάρθρωση πολιτικών εκστρατειών από διοικητική και υλικοτεχνική άποψη.
(62)
Без да се засягат правилата, предвидени в Регламент (ЕС) 2024/900 на Европейския парламент и на Съвета (34), и с цел да се преодолеят рисковете от неправомерна външна намеса в упражняването на правото на глас, залегнало в член 39 от Хартата, и от неблагоприятните последици за демокрацията и принципите на правовата държава, системите с ИИ, предназначени да се използват за оказване на влияние върху резултата от избори или референдум или върху поведението на физическите лица при упражняване на правото им на глас в избори или референдум, следва да се класифицират като високорискови системи с ИИ, с изключение на системите с ИИ, на чиито резултати физическите лица не са пряко изложени, като например инструменти, използвани за организиране, оптимизиране и структуриране на политически кампании от административна и логистична гледна точка.
(63)
Το γεγονός ότι ένα σύστημα ΤΝ ταξινομείται ως σύστημα ΤΝ υψηλού κινδύνου βάσει του παρόντος κανονισμού δεν θα πρέπει να ερμηνεύεται ως ένδειξη ότι η χρήση του συστήματος είναι νόμιμη βάσει άλλων πράξεων του ενωσιακού δικαίου ή δυνάμει του εθνικού δικαίου που είναι συμβατό με το δίκαιο της Ένωσης, όπως το δίκαιο για την προστασία των δεδομένων προσωπικού χαρακτήρα, για τη χρήση ανιχνευτών ψεύδους και παρεμφερών εργαλείων ή άλλων συστημάτων για την ανίχνευση της συναισθηματικής κατάστασης φυσικών προσώπων. Κάθε τέτοια χρήση θα πρέπει να συνεχίσει να πραγματοποιείται αποκλειστικά σύμφωνα με τις εφαρμοστέες απαιτήσεις που απορρέουν από τον Χάρτη και από τις εφαρμοστέες πράξεις του παράγωγου ενωσιακού δικαίου και του εθνικού δικαίου. Ο παρών κανονισμός δεν θα πρέπει να θεωρείται ότι παρέχει τη νομική βάση για την επεξεργασία δεδομένων προσωπικού χαρακτήρα, συμπεριλαμβανομένων ειδικών κατηγοριών δεδομένων προσωπικού χαρακτήρα κατά περίπτωση, εκτός αν ορίζεται άλλως κατά τρόπο συγκεκριμένο στον παρόντα κανονισμό.
(63)
Фактът, че дадена система с ИИ е класифицирана като високорискова система с ИИ съгласно настоящия регламент, не следва да се тълкува като указване, че използването на системата е законосъобразно съгласно други актове на правото на Съюза или съгласно националното право, съвместимо с правото на Съюза, като например относно защитата на личните данни и използването на полиграфи и подобни инструменти или други системи за разпознаване на емоционалното състояние на физическите лица. Всяко такова използване следва да продължи да се извършва единствено в съответствие с приложимите изисквания, произтичащи от Хартата и от приложимите актове на вторичното право на Съюза и националното право. Настоящият регламент не следва да се тълкува като предоставящ правно основание за обработването на лични данни, включително, ако е приложимо, на специални категории лични данни, освен когато в него изрично е предвидено друго.
(64)
Για τον μετριασμό των κινδύνων από συστήματα ΤΝ υψηλού κινδύνου τα οποία διατίθενται στην αγορά ή τίθενται σε λειτουργία και προκειμένου να εξασφαλιστεί υψηλό επίπεδο αξιοπιστίας, θα πρέπει να εφαρμόζονται στα συστήματα ΤΝ υψηλού κινδύνου ορισμένες υποχρεωτικές απαιτήσεις, λαμβανομένων υπόψη του επιδιωκόμενου σκοπού και του πλαισίου χρήσης του συστήματος ΤΝ και σύμφωνα με το σύστημα διαχείρισης κινδύνου που θα θεσπίσει ο πάροχος. Τα μέτρα που θεσπίζονται από τους παρόχους για τη συμμόρφωση με τις υποχρεωτικές απαιτήσεις του παρόντος κανονισμού θα πρέπει να λαμβάνουν υπόψη τη γενικά αναγνωρισμένη εξέλιξη της τεχνολογίας για την ΤΝ, καθώς και να είναι αναλογικά και αποτελεσματικά για την επίτευξη των στόχων του παρόντος κανονισμού. Με βάση το νέο νομοθετικό πλαίσιο, όπως διευκρινίζεται στην ανακοίνωση της Επιτροπής με τίτλο «Ο “Γαλάζιος Οδηγός” σχετικά με την εφαρμογή των κανόνων της ΕΕ για τα προϊόντα 2022», ο γενικός κανόνας είναι ότι περισσότερες της μιας νομικές πράξεις της ενωσιακής νομοθεσίας εναρμόνισης μπορούν να εφαρμόζονται σε ένα προϊόν, καθώς το προϊόν μπορεί να διατεθεί ή να τεθεί σε λειτουργία μόνον όταν είναι σύμφωνο με όλη την εφαρμοστέα ενωσιακή νομοθεσία εναρμόνισης. Οι κίνδυνοι των συστημάτων ΤΝ που καλύπτονται από τις απαιτήσεις του παρόντος κανονισμού αφορούν πτυχές διαφορετικές από εκείνες που καλύπτει η υφιστάμενη ενωσιακή νομοθεσία εναρμόνισης και, για τον λόγο αυτόν, οι απαιτήσεις του παρόντος κανονισμού θα συμπληρώνουν το υφιστάμενο σώμα της ενωσιακής νομοθεσίας εναρμόνισης. Για παράδειγμα, τα μηχανήματα ή τα ιατροτεχνολογικά προϊόντα με ενσωματωμένο σύστημα ΤΝ ενδέχεται να παρουσιάζουν κινδύνους που δεν καλύπτονται από τις βασικές απαιτήσεις υγείας και ασφάλειας που ορίζονται στη σχετική εναρμονισμένη νομοθεσία της Ένωσης, καθώς το δίκαιο στον συγκεκριμένο τομέα δεν ασχολείται με τους κινδύνους που αφορούν ειδικά τα συστήματα ΤΝ. Αυτό απαιτεί ταυτόχρονη και συμπληρωματική εφαρμογή των διάφορων νομοθετικών πράξεων. Για να εξασφαλίζεται συνοχή και να αποφεύγεται περιττή διοικητική επιβάρυνση ή περιττό κόστος, οι πάροχοι προϊόντος που περιέχει ένα ή περισσότερα συστήματα ΤΝ υψηλού κινδύνου, στα οποία εφαρμόζονται οι απαιτήσεις του παρόντος κανονισμού και της ενωσιακής νομοθεσίας εναρμόνισης που βασίζεται στο νέο νομοθετικό πλαίσιο και παρατίθεται σε παράρτημα του παρόντος κανονισμού, θα πρέπει να είναι ευέλικτοι όσον αφορά τις επιχειρησιακές αποφάσεις σχετικά με τον βέλτιστο τρόπο εξασφάλισης της συμμόρφωσης ενός προϊόντος που περιέχει ένα ή περισσότερα συστήματα ΤΝ με όλες τις εφαρμοστέες απαιτήσεις της ενωσιακής εναρμονισμένης νομοθεσίας. Η ευελιξία αυτή θα μπορούσε να σημαίνει, για παράδειγμα, απόφαση του παρόχου να ενσωματώσει μέρος των αναγκαίων διαδικασιών δοκιμών και υποβολής εκθέσεων, των πληροφοριών και του υλικού τεκμηρίωσης που απαιτούνται βάσει του παρόντος κανονισμού σε ήδη υφιστάμενο υλικό τεκμηρίωσης και διαδικασίες που απαιτούνται βάσει της υφιστάμενης ενωσιακής νομοθεσίας εναρμόνισης η οποία βασίζεται στο νέο νομοθετικό πλαίσιο και παρατίθεται σε παράρτημα του παρόντος κανονισμού. Αυτό δεν θα πρέπει, σε καμία περίπτωση, να υπονομεύει την υποχρέωση του παρόχου να συμμορφώνεται με όλες τις εφαρμοστέες απαιτήσεις.
(64)
За да се ограничат рисковете, произтичащи от високорискови системи с ИИ, пуснати на пазара или пуснати в действие, и за да се гарантира високо равнище на надеждност, за високорисковите системи с ИИ следва да се прилагат някои задължителни изисквания, при които се вземат предвид предназначението и контекстът на използване на системата с ИИ и които са съобразени със системата за управление на риска, която ще бъде създадена от доставчика. Мерките, предприети от доставчиците за спазване на задължителните изисквания на настоящия регламент, следва да са съобразени с общопризнатите съвременни технически постижения в областта на ИИ и да бъдат пропорционални и ефективни за постигане на целите на настоящия регламент. Въз основа на новата законодателна рамка, съгласно обясненията в известието на Комисията „Синьото ръководство“ за прилагане на правилата на ЕС относно продуктите – 2022 г., общото правило е, че повече от един правен акт от законодателството на Съюза за хармонизация може да е приложим за един продукт, тъй като предоставянето на пазара или пускането в действие може да се извърши само когато продуктът е в съответствие с цялото приложимо законодателство на Съюза за хармонизация. Опасностите, свързани със системите с ИИ, обхванати от изискванията на настоящия регламент, се отнасят до аспекти, различни от действащото законодателство на Съюза за хармонизация, поради което изискванията на настоящия регламент ще допълнят действащото законодателство на Съюза за хармонизация. Например машините или медицинските изделия, включващи система с ИИ, могат да представляват рискове, които не са обхванати от съществените изисквания, свързани със здравето и безопасността, установени в съответното законодателство на Съюза за хармонизация, тъй като в това секторно право не се уреждат рисковете, присъщи за системите с ИИ. Поради това е необходимо едновременно и допълващо се прилагане на различните законодателни актове. За да се гарантира съгласуваност и да се избегнат ненужна административна тежест и ненужни разходи, доставчиците на продукт, който съдържа една или повече високорискови системи с ИИ, за които се прилагат изискванията на настоящия регламент и на законодателството на Съюза за хармонизация въз основа на новата законодателна рамка, което е посочено в приложение към настоящия регламент, следва да разполагат с гъвкавост по отношение на оперативните решения за това как да се гарантира оптимално съответствие на продукт, който съдържа една или повече системи с ИИ, с всички приложими изисквания на това законодателство на Съюза за хармонизация. Тази гъвкавост би могла да означава например решение на доставчика да интегрира част от необходимите процеси на изпитване и докладване, информация и документация, изисквани съгласно настоящия регламент, във вече съществуваща документация и процедури, изисквани съгласно съществуващото законодателство на Съюза за хармонизация въз основа на новата законодателна рамка, посочено в приложение към настоящия регламент. Това по никакъв начин не следва да засяга задължението на доставчика да спазва всички приложими изисквания.
(65)
Το σύστημα διαχείρισης κινδύνου θα πρέπει να συνίσταται σε μια συνεχή επαναληπτική διαδικασία που σχεδιάζεται και διατρέχει όλη τη διάρκεια του κύκλου ζωής ενός συστήματος ΤΝ υψηλού κινδύνου. Η διαδικασία αυτή θα πρέπει να στοχεύει στον εντοπισμό και τον μετριασμό των σχετικών κινδύνων των συστημάτων ΤΝ για την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα. Το σύστημα διαχείρισης κινδύνου θα πρέπει να επανεξετάζεται και να επικαιροποιείται τακτικά, ώστε να διασφαλίζεται η συνεχής αποτελεσματικότητά του, καθώς και η αιτιολόγηση και η τεκμηρίωση τυχόν σημαντικών αποφάσεων και δράσεων που λαμβάνονται βάσει του παρόντος κανονισμού. Η διαδικασία αυτή θα πρέπει να διασφαλίζει ότι ο πάροχος εντοπίζει κινδύνους ή δυσμενείς επιπτώσεις και εφαρμόζει μέτρα μετριασμού για τους γνωστούς και ευλόγως προβλέψιμους κινδύνους των συστημάτων ΤΝ για την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα υπό το πρίσμα του επιδιωκόμενου σκοπού και της ευλόγως προβλέψιμης κακής χρήσης τους, συμπεριλαμβανομένων ενδεχόμενων κινδύνων που προκύπτουν από την αλληλεπίδραση μεταξύ του συστήματος ΤΝ και του περιβάλλοντος εντός του οποίου λειτουργεί. Το σύστημα διαχείρισης κινδύνου θα πρέπει να λαμβάνει τα καταλληλότερα μέτρα διαχείρισης κινδύνου υπό το πρίσμα της εξέλιξης της τεχνολογίας στον τομέα της ΤΝ. Κατά τον προσδιορισμό των καταλληλότερων μέτρων διαχείρισης κινδύνου, ο πάροχος θα πρέπει να τεκμηριώνει και να εξηγεί τις επιλογές του και, κατά περίπτωση, να προσφεύγει σε εμπειρογνώμονες και εξωτερικούς συμφεροντούχους. Κατά τον προσδιορισμό της ευλόγως προβλέψιμης κακής χρήσης συστημάτων ΤΝ υψηλού κινδύνου, ο πάροχος θα πρέπει να καλύπτει χρήσεις συστημάτων ΤΝ οι οποίες, μολονότι δεν καλύπτονται άμεσα από τον επιδιωκόμενο σκοπό και δεν προβλέπονται στις οδηγίες χρήσης, μπορεί ευλόγως να αναμένει κανείς ότι θα προκύψουν από εύκολα προβλέψιμη ανθρώπινη συμπεριφορά στο πλαίσιο των ειδικών χαρακτηριστικών και της χρήσης ενός συγκεκριμένου συστήματος ΤΝ. Κάθε γνωστή ή προβλέψιμη περίσταση σχετιζόμενη με τη χρήση του συστήματος ΤΝ υψηλού κινδύνου σύμφωνα με τον επιδιωκόμενο σκοπό του ή υπό συνθήκες ευλόγως προβλέψιμης κακής χρήσης, η οποία μπορεί να οδηγήσει σε κινδύνους για την υγεία και την ασφάλεια ή για τα θεμελιώδη δικαιώματα, θα πρέπει να περιλαμβάνεται στις οδηγίες χρήσης που παρέχονται από τον πάροχο. Σκοπός είναι να εξασφαλιστεί ότι ο φορέας εφαρμογής είναι ενήμερος για τις περιστάσεις αυτές και τις λαμβάνει υπόψη κατά τη χρήση του συστήματος ΤΝ υψηλού κινδύνου. Ο προσδιορισμός και η εφαρμογή μέτρων μετριασμού των κινδύνων για προβλέψιμη κακή χρήση βάσει του παρόντος κανονισμού δεν θα πρέπει να απαιτούν ειδική πρόσθετη εκπαίδευση για το σύστημα ΤΝ υψηλού κινδύνου από τον πάροχο με σκοπό την αντιμετώπιση προβλέψιμης κακής χρήσης τους. Ωστόσο, οι πάροχοι παροτρύνονται να εξετάσουν το ενδεχόμενο πρόσθετων μέτρων εκπαίδευσης για τον μετριασμό της ευλόγως προβλέψιμης κακής χρήσης, εφόσον είναι αναγκαία και σκόπιμα.
(65)
Системата за управление на риска следва да се състои от непрекъснат цикличен процес, който се планира и протича през целия жизнен цикъл на високорисковата система с ИИ. Този процес следва да бъде насочен към установяване и ограничаване на съответните рискове, произтичащи от системите с ИИ, за здравето, безопасността и основните права. Системата за управление на риска следва да подлежи на редовен преглед и за бъде актуализирана, за да се гарантира непрекъснатата ѝ ефективност, както и обосновката и документирането на всички важни решения и действия, предприети съгласно настоящия регламент. Този процес следва да гарантира, че доставчикът установява рисковете или неблагоприятните въздействия и прилага мерки за ограничаване на известните и разумно предвидими рискове, произтичащи от системите с ИИ, за здравето, безопасността и основните права с оглед на тяхното предназначение и разумно предвидима неправилна експлоатация, включително възможните рискове, произтичащи от взаимодействието между системата с ИИ и средата, в която тя работи. Системата за управление на риска следва да предприема най-подходящите мерки за управление на риска с оглед на съвременните технически постижения в областта на ИИ. При определянето на най-подходящите мерки за управление на риска доставчикът следва да документира и обясни направения избор и, когато е целесъобразно, да включи експерти и външни заинтересовани страни. При установяването на разумно предвидима неправилна експлоатация на високорискови системи с ИИ доставчикът следва да обхване използването на системите с ИИ, които, макар и да не са пряко обхванати от предназначението и предвидени в инструкциите за употреба, може все пак да се очаква, че са резултат от лесно предвидимо човешко поведение в контекста на специфичните характеристики и използване на конкретна система с ИИ. Всички известни или предвидими обстоятелства, свързани с използването на високорисковата система с ИИ в съответствие с предназначението ѝ или в условия на разумно предвидима неправилна експлоатация, които могат да породят рискове за здравето и безопасността или за основните права, следва да бъдат включени в инструкциите за употреба, предоставени от доставчика. Целта е да се гарантира, че внедрителят е запознат с тях и ги взема предвид при използването на високорисковата система с ИИ. Определянето и прилагането на мерки за ограничаване на риска в случаи на предвидима неправилна експлоатация съгласно настоящия регламент не следва да изискват осигуряването на конкретно допълнително обучение за високорисковата система с ИИ от страна на доставчика с цел намиране на решение във връзка с предвидимата неправилна експлоатация. Доставчиците обаче се насърчават да обмислят такива допълнителни мерки за обучение с цел ограничаване на случаи на разумно предвидима неправилна експлоатация, когато това е необходимо и целесъобразно.
(66)
Θα πρέπει να εφαρμόζονται απαιτήσεις για τα συστήματα ΤΝ υψηλού κινδύνου όσον αφορά τη διαχείριση κινδύνου, την ποιότητα και καταλληλότητα των συνόλων δεδομένων που χρησιμοποιούνται, τον τεχνικό φάκελο και την τήρηση αρχείων, τη διαφάνεια και την πληροφόρηση των φορέων εφαρμογής, την ανθρώπινη εποπτεία και τη στιβαρότητα, την ακρίβεια και την κυβερνοασφάλεια. Οι απαιτήσεις αυτές είναι αναγκαίες για τον αποτελεσματικό μετριασμό των κινδύνων για την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα. Καθώς δεν υπάρχουν ευλόγως διαθέσιμα άλλα λιγότερο περιοριστικά για το εμπόριο μέτρα, οι εν λόγω απαιτήσεις δεν αποτελούν αδικαιολόγητους περιορισμούς στο εμπόριο.
(66)
По отношение на високорисковите системи с ИИ следва да се прилагат изисквания за управлението на риска, качеството и целесъобразността на използваните набори от данни, техническата документация и поддържането на регистри, прозрачността и предоставянето на информация на внедрителите, човешкия контрол, надеждността, точността и киберсигурността. Тези изисквания са необходими за ефективно ограничаване на рисковете за здравето, безопасността и основните права. Тъй като не съществуват други разумни, по-малко ограничителни мерки за търговията, тези изисквания не представляват необосновани ограничения на търговията.
(67)
Τα δεδομένα υψηλής ποιότητας και η πρόσβαση σε υψηλής ποιότητας δεδομένα διαδραματίζουν ζωτικό ρόλο στην οργάνωση της δομής και στην εξασφάλιση των επιδόσεων πολλών συστημάτων ΤΝ, ιδίως όταν χρησιμοποιούνται τεχνικές που αφορούν την εκπαίδευση μοντέλων, προκειμένου να διασφαλίζεται ότι το σύστημα ΤΝ υψηλού κινδύνου λειτουργεί όπως προβλέπεται και με ασφάλεια και δεν αποτελεί πηγή διακρίσεων που απαγορεύονται από το δίκαιο της Ένωσης. Τα υψηλής ποιότητας σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής απαιτούν την εφαρμογή κατάλληλων πρακτικών διακυβέρνησης και διαχείρισης δεδομένων. Τα σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής, περιλαμβανομένων των επισημάνσεων, θα πρέπει να είναι συναφή, επαρκώς αντιπροσωπευτικά και, στον μέγιστο δυνατό βαθμό, πλήρη και χωρίς σφάλματα έναντι του επιδιωκόμενου σκοπού. Προκειμένου να διευκολυνθεί η συμμόρφωση με το δίκαιο της Ένωσης για την προστασία των δεδομένων, όπως ο κανονισμός (ΕΕ) 2016/679, οι πρακτικές διακυβέρνησης και διαχείρισης δεδομένων θα πρέπει να περιλαμβάνουν, στην περίπτωση των δεδομένων προσωπικού χαρακτήρα, διαφάνεια σχετικά με τον αρχικό σκοπό της συλλογής δεδομένων. Τα σύνολα δεδομένων θα πρέπει επίσης να έχουν τις κατάλληλες στατιστικές ιδιότητες, μεταξύ άλλων όσον αφορά τα πρόσωπα ή τις ομάδες προσώπων σε σχέση με τα οποία πρόκειται να χρησιμοποιηθεί το σύστημα ΤΝ υψηλού κινδύνου, με ιδιαίτερη προσοχή στον μετριασμό ενδεχόμενων προκαταλήψεων στα σύνολα δεδομένων, οι οποίες είναι πιθανόν να επηρεάσουν την υγεία και την ασφάλεια των προσώπων, να έχουν αρνητικό αντίκτυπο στα θεμελιώδη δικαιώματα ή να οδηγήσουν σε διακρίσεις που απαγορεύονται δυνάμει του ενωσιακού δικαίου, ιδίως όταν τα δεδομένα εξόδου επηρεάζουν τα στοιχεία εισόδου για μελλοντικές δραστηριότητες (βρόχοι ανάδρασης). Οι προκαταλήψεις, για παράδειγμα, μπορεί να είναι εγγενείς στα υποκείμενα σύνολα δεδομένων, ιδίως όταν χρησιμοποιούνται ιστορικά δεδομένα, ή να προκαλούνται όταν τα συστήματα τίθενται σε εφαρμογή σε πραγματικά περιβάλλοντα. Τα αποτελέσματα που παρέχουν τα συστήματα ΤΝ θα μπορούσαν να επηρεαστούν από τέτοιου είδους εγγενείς προκαταλήψεις, που τείνουν να αυξάνονται σταδιακά, διαιωνίζοντας και ενισχύοντας έτσι υφιστάμενες διακρίσεις, ιδίως εις βάρος προσώπων που ανήκουν σε ορισμένες ευάλωτες ομάδες, συμπεριλαμβανομένων των φυλετικών ή εθνοτικών ομάδων. Η απαίτηση να είναι τα σύνολα δεδομένων στον μέγιστο δυνατό βαθμό πλήρη και χωρίς σφάλματα δεν θα πρέπει να επηρεάζει τη χρήση τεχνικών προστασίας της ιδιωτικής ζωής στο πλαίσιο της ανάπτυξης και της δοκιμής συστημάτων ΤΝ. Τα σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής θα πρέπει, ιδίως, να λαμβάνουν υπόψη, στον βαθμό που απαιτείται από τον επιδιωκόμενο σκοπό τους, τα γνωρίσματα, τα χαρακτηριστικά ή τα στοιχεία που προσιδιάζουν σε συγκεκριμένο γεωγραφικό, συμπεριφορικό, συγκυριακό ή λειτουργικό περιβάλλον εντός του οποίου προορίζεται να χρησιμοποιηθεί το σύστημα ΤΝ. Οι απαιτήσεις που σχετίζονται με τη διακυβέρνηση των δεδομένων μπορούν να τηρούνται με προσφυγή σε τρίτους που προσφέρουν πιστοποιημένες υπηρεσίες συμμόρφωσης, συμπεριλαμβανομένων της επαλήθευσης της διακυβέρνησης των δεδομένων, της ακεραιότητας του συνόλου δεδομένων και των πρακτικών εκπαίδευσης, επικύρωσης και δοκιμής δεδομένων, υπό την προϋπόθεση ότι εξασφαλίζεται η συμμόρφωση με τις απαιτήσεις του παρόντος κανονισμού όσον αφορά τα δεδομένα.
(67)
Висококачествените данни и достъпът до тях имат жизненоважна роля за осигуряването на структура и за гарантирането на функционирането на много системи с ИИ, особено когато се използват техники, включващи обучение на модели, с цел да се гарантира, че високорисковата система с ИИ функционира по предназначение и по безопасен начин и не води до дискриминация, забранена от правото на Съюза. Висококачествените набори от обучителни, валидационни и изпитвателни данни изискват прилагането на подходящи практики за администриране и управление на данни. Наборите от обучителни, валидационни и изпитвателни данни, включително обозначенията, следва да бъдат подходящи, достатъчно представителни и във възможно най-голяма степен пълни и без грешки с оглед на предназначението на системата. За да се улесни спазването на правото на Съюза в областта на защитата на данните, като например Регламент (ЕС) 2016/679, практиките за администриране и управление на данни следва да включват, в случай на лични данни, прозрачност по отношение на първоначалната цел на събирането на данните. Наборите от данни следва също така да имат подходящи статистически свойства, включително по отношение на лицата или групите лица, във връзка с които е предназначена да се използва високорисковата система с ИИ, като се обръща специално внимание на намаляването на възможна предубеденост в наборите от данни, която има вероятност да засегне здравето и безопасността на хората, да окаже отрицателно въздействие върху основните права или да доведе до дискриминация, забранена съгласно правото на Съюза, особено когато резултатите от данните оказват влияние върху входящите данни за бъдещи операции (обратни връзки). Предубедеността може например да бъде присъща за основните набори от данни, особено при използването или генерирането на исторически данни, когато системите се внедряват в реални условия. Резултатите, предоставени от системи с ИИ, могат да се повлияват от такава присъща предубеденост, при която съществува тенденция постепенно да се увеличава и по този начин да затвърждава и засилва съществуващата дискриминация, по-специално по отношение на лица, принадлежащи към определени уязвими групи, включително расови или етнически групи. Изискването наборите от данни да бъдат във възможно най-голяма степен пълни и без грешки не следва да засяга използването на техники за опазване на неприкосновеността на личния живот в контекста на разработването и изпитването на системи с ИИ. По-специално, наборите от данни следва да са съобразени, доколкото това се изисква с оглед на предназначението им, с особеностите, характеристиките или елементите, характерни за конкретната географска, контекстуална, поведенческа или функционална среда, в която системата с ИИ е предназначена да бъде използвана. Изискванията, свързани с администрирането на данни, могат да бъдат спазени чрез използване на услугите на трети лица, които предлагат сертифицирани услуги за осигуряване на съответствие, включително проверка на администрирането на данните, целостта на наборите от данни и практиките за обучение, валидиране и изпитване на данните, доколкото се гарантира спазването на изискванията за данните по настоящия регламент.
(68)
Για την ανάπτυξη και αξιολόγηση συστημάτων ΤΝ υψηλού κινδύνου, ορισμένοι παράγοντες, όπως πάροχοι, κοινοποιημένοι οργανισμοί και άλλες σχετικές οντότητες, όπως οι ευρωπαϊκοί κόμβοι ψηφιακής καινοτομίας, οι εγκαταστάσεις δοκιμών και πειραματισμού και οι ερευνητές, θα πρέπει να είναι σε θέση να αποκτούν πρόσβαση και να χρησιμοποιούν σύνολα δεδομένων υψηλής ποιότητας στους τομείς δραστηριοτήτων των παραγόντων αυτών που σχετίζονται με τον παρόντα κανονισμό. Οι ευρωπαϊκοί κοινοί χώροι δεδομένων που δημιουργούνται από την Επιτροπή και η διευκόλυνση της κοινοχρησίας δεδομένων μεταξύ επιχειρήσεων και με το κράτος για την εξυπηρέτηση του δημόσιου συμφέροντος θα έχουν καθοριστική σημασία για την παροχή αξιόπιστης, υπεύθυνης και χωρίς διακρίσεις πρόσβασης σε υψηλής ποιότητας δεδομένα για την εκπαίδευση, την επικύρωση και τη δοκιμή συστημάτων ΤΝ. Για παράδειγμα, στον τομέα της υγείας, ο ευρωπαϊκός χώρος δεδομένων υγείας θα διευκολύνει τη χωρίς διακρίσεις πρόσβαση σε δεδομένα υγείας και την εκπαίδευση αλγορίθμων ΤΝ με αυτά τα σύνολα δεδομένων, κατά τρόπο ασφαλή, έγκαιρο, διαφανή και αξιόπιστο, που διαφυλάσσει την ιδιωτική ζωή, και με την κατάλληλη θεσμική διακυβέρνηση. Οι σχετικές αρμόδιες αρχές, συμπεριλαμβανομένων των τομεακών αρχών, οι οποίες παρέχουν ή υποστηρίζουν την πρόσβαση σε δεδομένα μπορούν επίσης να υποστηρίξουν την παροχή δεδομένων υψηλής ποιότητας για την εκπαίδευση, την επικύρωση και τη δοκιμή συστημάτων ΤΝ.
(68)
За разработването и оценката на високорискови системи с ИИ определени участници, като например доставчици, нотифицирани органи и други съответни субекти, например европейски цифрови иновационни центрове, структури за експериментиране и изпитване и научни работници, следва да имат достъп до и да използват висококачествени набори от данни в областите на дейност на тези участници, които са свързани с настоящия регламент. Общите европейски пространства на данни, създадени от Комисията, и улесняването на обмена на данни между предприятията и с държавните органи в името на обществения интерес ще бъдат от основно значение за осигуряването на надежден, отговорен и недискриминационен достъп до висококачествени данни за обучението, валидирането и изпитването на системите с ИИ. Например в областта на здравеопазването европейското пространство на здравни данни ще улесни недискриминационния достъп до здравни данни и обучението на алгоритми на ИИ въз основа на тези набори от данни по сигурен, навременен, прозрачен и надежден начин, при който се запазва неприкосновеността на личния живот, и при подходящо институционално управление. Съответните компетентни органи, включително секторните органи, които предоставят или подпомагат достъпа до данни, могат също така да подкрепят предоставянето на висококачествени данни за обучението, валидирането и изпитването на системите с ИИ.
(69)
Το δικαίωμα στην ιδιωτική ζωή και στην προστασία των δεδομένων προσωπικού χαρακτήρα πρέπει να διασφαλίζεται καθ’ όλη τη διάρκεια του κύκλου ζωής του συστήματος ΤΝ. Στο πλαίσιο αυτό, όταν υποβάλλονται σε επεξεργασία δεδομένα προσωπικού χαρακτήρα, έχουν εφαρμογή οι αρχές της ελαχιστοποίησης των δεδομένων και της προστασίας των δεδομένων ήδη από τον σχεδιασμό και εξ ορισμού, όπως προβλέπεται στο ενωσιακό δίκαιο για την προστασία των δεδομένων. Στα μέτρα που λαμβάνουν οι πάροχοι για τη διασφάλιση της συμμόρφωσης με τις αρχές αυτές μπορούν να περιλαμβάνονται όχι μόνο η ανωνυμοποίηση και η κρυπτογράφηση, αλλά και η χρήση τεχνολογίας που επιτρέπει την εισαγωγή αλγορίθμων στα δεδομένα και την εκπαίδευση συστημάτων ΤΝ χωρίς να διαβιβάζονται μεταξύ των μερών ή να αντιγράφονται τα ίδια τα ανεπεξέργαστα ή δομημένα δεδομένα, με την επιφύλαξη των απαιτήσεων περί διακυβέρνησης των δεδομένων που προβλέπονται στον παρόντα κανονισμό.
(69)
Правото на неприкосновеност на личния живот и на защита на личните данни трябва да бъде гарантирано през целия жизнен цикъл на системата с ИИ. В това отношение принципите на свеждане на данните до минимум и на защита на данните при проектирането и по подразбиране, определени в правото на Съюза в областта на защитата на данните, са приложими при обработването на лични данни. Мерките, предприети от доставчиците за гарантиране на спазването на тези принципи, могат да включват не само анонимизиране и криптиране, но и използване на технологии, които позволяват въвеждането на алгоритми в данните и позволяват обучение на системи с ИИ без предаване между страните или копиране на самите необработени или структурирани данни, без да се засягат изискванията за администриране на данните, предвидени в настоящия регламент.
(70)
Προκειμένου να προστατεύεται το δικαίωμα τρίτων από διακρίσεις που θα μπορούσαν να προκύψουν από προκατάληψη εντός των συστημάτων ΤΝ, οι πάροχοι θα πρέπει, κατ’ εξαίρεση, στον βαθμό που είναι απολύτως αναγκαίο για τον σκοπό της διασφάλισης του εντοπισμού και της διόρθωσης της προκατάληψης σε σχέση με τα συστήματα ΤΝ υψηλού κινδύνου, με την επιφύλαξη κατάλληλων διασφαλίσεων για τα θεμελιώδη δικαιώματα και τις ελευθερίες των φυσικών προσώπων και κατόπιν της εφαρμογής όλων των εφαρμοστέων προϋποθέσεων που προβλέπονται στον παρόντα κανονισμό επιπλέον των προϋποθέσεων που ορίζονται στους κανονισμούς (ΕΕ) 2016/679 και (ΕΕ) 2018/1725 και στην οδηγία (ΕΕ) 2016/680, να είναι σε θέση να επεξεργάζονται επίσης ειδικές κατηγορίες δεδομένων προσωπικού χαρακτήρα, για λόγους ουσιαστικού δημόσιου συμφέροντος κατά την έννοια του άρθρου 9 παράγραφος 2 στοιχείο ζ) του κανονισμού (ΕΕ) 2016/679 και του άρθρου 10 παράγραφος 2 στοιχείο ζ) του κανονισμού (ΕΕ) 2018/1725.
(70)
За да се защитят правата на други лица от дискриминацията, която може да произтича от предубеденост в системите с ИИ, доставчиците следва по изключение, доколкото това е строго необходимо за целите на осигуряването на откриване и коригиране на предубедеността във високорисковите системи с ИИ, при спазване на подходящи гаранции за основните права и свободи на физическите лица и след прилагането на всички приложими условия, установени в настоящия регламент, в допълнение към условията, установени в регламенти (ЕС) 2016/679 и (ЕС) 2018/1725 и в Директива (ЕС) 2016/680, да могат да обработват и специални категории лични данни като въпрос от важен обществен интерес по смисъла на член 9, параграф 2, буква ж) от Регламент (ЕС) 2016/679 и член 10, параграф 2, буква ж) от Регламент (ЕС) 2018/1725.
(71)
Η ύπαρξη κατανοητών πληροφοριών σχετικά με τον τρόπο ανάπτυξης συστημάτων ΤΝ υψηλού κινδύνου και τις επιδόσεις τους καθ’ όλη τη διάρκεια του κύκλου ζωής τους έχει ουσιώδη σημασία για την εξασφάλιση της ιχνηλασιμότητας των εν λόγω συστημάτων, την επαλήθευση της συμμόρφωσης με τις απαιτήσεις του παρόντος κανονισμού, καθώς και την παρακολούθηση των δραστηριοτήτων τους και την παρακολούθηση μετά τη διάθεση στην αγορά. Αυτό απαιτεί την τήρηση αρχείων και τη διαθεσιμότητα τεχνικού φακέλου, ο οποίος περιέχει πληροφορίες που είναι απαραίτητες για την αξιολόγηση της συμμόρφωσης του συστήματος ΤΝ με τις σχετικές απαιτήσεις και για τη διευκόλυνση της παρακολούθησης μετά τη διάθεση στην αγορά. Οι πληροφορίες αυτές θα πρέπει να καλύπτουν τα γενικά χαρακτηριστικά, τις ικανότητες και τους περιορισμούς του συστήματος, τους αλγορίθμους, τα δεδομένα, τις διαδικασίες εκπαίδευσης, επικύρωσης και δοκιμής που χρησιμοποιούνται, καθώς και τεκμηρίωση για το σχετικό σύστημα διαχείρισης κινδύνου, θα πρέπει δε να διατυπώνονται με σαφή και ολοκληρωμένο τρόπο. Ο τεχνικός φάκελος θα πρέπει να επικαιροποιείται δεόντως καθ’ όλη τη διάρκεια του κύκλου ζωής του συστήματος ΤΝ. Επιπλέον, τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να επιτρέπουν τεχνικά την αυτόματη καταγραφή συμβάντων, μέσω αρχείων καταγραφής, καθ’ όλη τη διάρκεια ζωής του συστήματος.
(71)
Наличието на разбираема информация за начина на разработване на високорисковите системи с ИИ и начина на функционирането им през целия срок на експлоатация е от съществено значение, за да се даде възможност за проследимост на тези системи, проверка на съответствието с изискванията съгласно настоящия регламент, както и мониторинг на тяхното функциониране и мониторинг след пускането на пазара. Това изисква поддържането на регистри и наличието на техническа документация, съдържаща информация, която е необходима за оценяване на съответствието на системата с ИИ с приложимите изисквания и за улесняване на мониторинга след пускането на пазара. Тази информация следва да включва общите характеристики, способностите и ограниченията на системата, използваните алгоритми, данни и процеси на обучение, изпитване и валидиране, както и документация за съответната система за управление на риска, и следва да се изготвя в ясна и разбираема форма. Техническата документация следва да се актуализира по подходящ начин през целия срок на експлоатация на системата с ИИ. Освен това високорисковите системи с ИИ следва технически да позволяват автоматично записване на събития посредством записи по време на срока на експлоатация на системата.
(72)
Για την αντιμετώπιση των ανησυχιών σχετικά με την αδιαφάνεια και την πολυπλοκότητα ορισμένων συστημάτων ΤΝ και για τη διευκόλυνση των φορέων εφαρμογής όσον αφορά την τήρηση των υποχρεώσεών τους βάσει του παρόντος κανονισμού, θα πρέπει να απαιτείται διαφάνεια για τα συστήματα ΤΝ υψηλού κινδύνου πριν από τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία. Τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να σχεδιάζονται κατά τρόπο που να επιτρέπει στους φορείς εφαρμογής να καταλαβαίνουν πώς λειτουργεί το σύστημα ΤΝ, να αξιολογούν τη λειτουργικότητά του και να κατανοούν τα πλεονεκτήματα και τους περιορισμούς του. Τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να συνοδεύονται από κατάλληλες πληροφορίες με τη μορφή οδηγιών χρήσης. Στις πληροφορίες αυτές θα πρέπει να περιλαμβάνονται τα χαρακτηριστικά, οι ικανότητες και οι περιορισμοί των επιδόσεων του συστήματος ΤΝ. Αυτά θα καλύπτουν πληροφορίες σχετικά με ενδεχόμενες γνωστές και προβλέψιμες περιστάσεις οι οποίες συνδέονται με τη χρήση του συστήματος ΤΝ υψηλού κινδύνου, όπως, μεταξύ άλλων, ενέργειες του φορέα εφαρμογής δυνητικώς ικανές να επηρεάσουν τη συμπεριφορά και τις επιδόσεις του συστήματος, υπό τις οποίες το σύστημα ΤΝ μπορεί να οδηγήσει σε κινδύνους για την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα, σχετικά με τις αλλαγές που έχουν προκαθοριστεί και αξιολογηθεί από τον πάροχο ως προς τη συμμόρφωση, καθώς και σχετικά με τα κατάλληλα μέτρα ανθρώπινης εποπτείας, συμπεριλαμβανομένων των μέτρων για τη διευκόλυνση της ερμηνείας των στοιχείων εξόδου του συστήματος ΤΝ από τους φορείς εφαρμογής. Η διαφάνεια, συμπεριλαμβανομένων των συνοδευτικών οδηγιών χρήσης, θα πρέπει να βοηθά τους φορείς εφαρμογής στη χρήση του συστήματος και να υποστηρίζει τη λήψη τεκμηριωμένων αποφάσεων από αυτούς. Μεταξύ άλλων, θα πρέπει να βελτιωθεί η ικανότητα των φορέων εφαρμογής να επιλέγουν σωστά το σύστημα που σκοπεύουν να χρησιμοποιήσουν υπό το πρίσμα των υποχρεώσεων που υπέχουν, να έχουν γνώση των προβλεπόμενων και αποκλειόμενων χρήσεων και να χρησιμοποιούν το σύστημα ΤΝ με τον σωστό και ενδεδειγμένο τρόπο. Για να είναι πιο εύληπτες και προσβάσιμες οι πληροφορίες που περιέχονται στις οδηγίες χρήσης, θα πρέπει να περιλαμβάνονται, κατά περίπτωση, ενδεικτικά παραδείγματα, λόγου χάριν σχετικά με τους περιορισμούς και τις προβλεπόμενες και αποκλειόμενες χρήσεις του συστήματος ΤΝ. Οι πάροχοι θα πρέπει να διασφαλίζουν ότι όλο το υλικό τεκμηρίωσης, συμπεριλαμβανομένων των οδηγιών χρήσης, περιέχει ουσιαστικές, ολοκληρωμένες, προσβάσιμες και κατανοητές πληροφορίες, λαμβανομένων υπόψη των αναγκών και των προβλέψιμων γνώσεων των στοχευόμενων φορέων εφαρμογής. Οι οδηγίες χρήσης θα πρέπει να διατίθενται σε γλώσσα εύκολα κατανοητή από τους στοχευόμενους φορείς εφαρμογής, όπως καθορίζεται από το οικείο κράτος μέλος.
(72)
За да се отговори на опасенията, свързани с непрозрачността и сложността на някои системи с ИИ, и да се помогне на внедрителите да изпълняват задълженията си съгласно настоящия регламент, следва да се изисква прозрачност за високорисковите системи с ИИ преди пускането им на пазара или пускането им в действие. Високорисковите системи с ИИ следва да бъдат проектирани по начин, който позволява на внедрителите да разберат как функционира системата с ИИ, да оценят нейната функционалност и да разберат нейните силни страни и ограничения. Високорисковите системи с ИИ следва да се придружават от подходяща информация под формата на инструкции за употреба. Тази информация следва да включва характеристиките, способностите и ограниченията на действието на системата с ИИ. Те ще обхващат информация относно възможните известни и предвидими обстоятелства, свързани с използването на високорисковата система с ИИ, включително действия от страна на внедрителя, които могат да повлияят на поведението и работата на системата и в рамките на които системата с ИИ може да породи рискове за здравето, безопасността и основните права, относно промените, които са предварително определени и чието съответствие е оценено от доставчика, както и относно съответните мерки за човешки контрол, включително мерките за улесняване на тълкуването на резултатите от системата с ИИ от внедрителите. Прозрачността, включително придружаващите инструкции за употреба, следва да подпомага внедрителите при използването на системата, както и при вземането на информирани решения. Внедрителите следва, наред с другото, да разполагат с по-добра възможност да направят правилния избор за системата, която възнамеряват да използват с оглед на приложимите за тях задължения, да бъдат запознати с предвиденото и неразрешеното използване и да използват системата с ИИ правилно и целесъобразно. За да се подобри разбираемостта и достъпността на информацията, включена в инструкциите за употреба, когато е целесъобразно следва да бъдат включени илюстративни примери, например относно ограниченията и относно предвиденото и неразрешеното използване на системата с ИИ. Доставчиците следва да гарантират, че цялата документация, включително инструкциите за употреба, съдържа съдържателна, изчерпателна, достъпна и разбираема информация, като се вземат предвид нуждите и предвидимите познания на внедрителите, за които е предназначена. Инструкциите за употреба следва да се предоставят на език, лесно разбираем за внедрителите, за които са предназначени, който е определен от съответната държава членка.
(73)
Τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να σχεδιάζονται και να αναπτύσσονται κατά τρόπο ώστε τα φυσικά πρόσωπα να μπορούν να επιβλέπουν τη λειτουργία τους και να διασφαλίζουν ότι χρησιμοποιούνται με τον προβλεπόμενο τρόπο και ότι οι επιπτώσεις τους αντιμετωπίζονται στη διάρκεια του κύκλου ζωής του συστήματος. Για τον σκοπό αυτόν, ο πάροχος του συστήματος θα πρέπει να προσδιορίζει κατάλληλα μέτρα ανθρώπινης εποπτείας πριν από τη διάθεση του συστήματος στην αγορά ή τη θέση του σε λειτουργία. Ειδικότερα, τα μέτρα αυτά θα πρέπει, κατά περίπτωση, να διασφαλίζουν ότι το σύστημα υπόκειται σε ενσωματωμένους περιορισμούς λειτουργίας οι οποίοι δεν μπορούν να παρακαμφθούν από το ίδιο το σύστημα και ότι ανταποκρίνεται στον άνθρωπο που το χειρίζεται, καθώς και ότι τα φυσικά πρόσωπα στα οποία έχει ανατεθεί η ανθρώπινη εποπτεία διαθέτουν την απαιτούμενη ικανότητα, κατάρτιση και εξουσιοδότηση για την εκτέλεση αυτού του καθήκοντος. Έχει επίσης ζωτική σημασία να διασφαλίζεται, κατά περίπτωση, ότι τα συστήματα ΤΝ υψηλού κινδύνου περιλαμβάνουν μηχανισμούς για την καθοδήγηση και την ενημέρωση ενός φυσικού προσώπου στο οποίο έχει ανατεθεί η ανθρώπινη εποπτεία, ώστε να λαμβάνει τεκμηριωμένες αποφάσεις σχετικά με το αν, το πότε και το πώς πρέπει να παρέμβει για να αποτρέψει αρνητικές συνέπειες ή κινδύνους ή για να σταματήσει το σύστημα εάν δεν λειτουργεί με τον προβλεπόμενο τρόπο. Λαμβανομένων υπόψη των σημαντικών συνεπειών για τα πρόσωπα σε περίπτωση εσφαλμένης αντιστοίχισης από ορισμένα συστήματα βιομετρικής ταυτοποίησης, ενδείκνυται να προβλεφθεί απαίτηση ενισχυμένης ανθρώπινης εποπτείας για τα εν λόγω συστήματα, ώστε ο φορέας εφαρμογής να μην μπορεί να προβεί σε καμία ενέργεια, ούτε να λάβει απόφαση με βάση την ταυτοποίηση που προκύπτει από το σύστημα, εκτός εάν αυτή έχει επαληθευτεί και επιβεβαιωθεί χωριστά από τουλάχιστον δύο φυσικά πρόσωπα. Τα πρόσωπα αυτά θα μπορούσαν να προέρχονται από μία ή περισσότερες οντότητες και να περιλαμβάνουν το πρόσωπο που χειρίζεται ή χρησιμοποιεί το σύστημα. Η απαίτηση αυτή δεν θα πρέπει να συνεπάγεται περιττό φόρτο ή καθυστερήσεις, θα μπορούσε δε να αρκεί οι χωριστές επαληθεύσεις από τα διάφορα πρόσωπα να καταγράφονται αυτόματα στα αρχεία καταγραφής που παράγει το σύστημα. Δεδομένων των ιδιαιτεροτήτων των τομέων της επιβολής του νόμου, της μετανάστευσης, των συνοριακών ελέγχων και του ασύλου, η απαίτηση αυτή δεν θα πρέπει να εφαρμόζεται όταν το ενωσιακό ή το εθνικό δίκαιο θεωρεί δυσανάλογη την εφαρμογή της.
(73)
Високорисковите системи с ИИ следва да бъдат проектирани и разработени по такъв начин, че физическите лица да могат да следят тяхното функциониране, да гарантират, че те се използват по предназначение и че въздействието им се взема предвид през целия жизнен цикъл на системата. За тази цел доставчикът на системата следва да определи подходящи мерки за човешки контрол преди пускането ѝ на пазара или пускането ѝ в действие. По-специално, когато е целесъобразно, тези мерки следва да гарантират, че за системата се прилагат вградени оперативни ограничения, които не могат да бъдат заобиколени от самата система, и че тя отговаря на човека оператор, както и че физическите лица, на които е възложен човешкият контрол, разполагат с необходимата компетентност, обучение и авторитет за изпълнение на тази роля. Освен това е от съществено значение, когато е целесъобразно, да се гарантира, че високорисковите системи с ИИ включват механизми за даване на насоки и информация на дадено физическо лице, на което е възложен човешки контрол, за да взема информирани решения дали, кога и как да се намеси, за да се избегнат отрицателни последици или рискове, или да се спре системата, ако тя не функционира по предназначение. Предвид сериозните последици за хората в случай на неточно съвпадение, генерирано от някои системи за биометрична идентификация, е целесъобразно да се предвиди изискване за засилен човешки контрол над тези системи, така че внедрителят да не може да предприеме действие или да вземе решение въз основа на установена от системата самоличност, без това да е било проверено и потвърдено най-малко от две физически лица поотделно. Тези лица могат да се числят към един или повече образувания и да включват лицето, което управлява или използва системата. Това изискване не следва да поражда ненужна тежест или да води до забавяне; автоматичното вписване на отделните проверки, извършени от различните лица, в генерираните от системата записи би могло да е достатъчно. Като се имат предвид особеностите на правоохранителната област и областите на миграцията, граничния контрол и убежището, това изискване не следва да се прилага, когато според правото на Съюза или националното право се счита, че прилагането на това изискване е непропорционално.
(74)
Τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να λειτουργούν με συνέπεια καθ’ όλη τη διάρκεια του κύκλου ζωής τους και να επιτυγχάνουν κατάλληλο επίπεδο ακρίβειας, στιβαρότητας και κυβερνοασφάλειας, υπό το πρίσμα του επιδιωκόμενου σκοπού τους και σύμφωνα με τη γενικώς αναγνωρισμένη εξέλιξη της τεχνολογίας. Η Επιτροπή και οι σχετικοί οργανισμοί και συμφεροντούχοι παροτρύνονται να λαμβάνουν δεόντως υπόψη τον μετριασμό των κινδύνων και των αρνητικών επιπτώσεων των συστημάτων ΤΝ. Το αναμενόμενο επίπεδο των μετρήσεων επιδόσεων θα πρέπει να δηλώνεται στις συνοδευτικές οδηγίες χρήσης. Οι πάροχοι παροτρύνονται να κοινοποιούν τις πληροφορίες αυτές στους φορείς εφαρμογής με σαφή και εύκολα κατανοητό τρόπο, χωρίς παρανοήσεις και παραπλανητικές δηλώσεις. Το δίκαιο της Ένωσης για τη νόμιμη μετρολογία, συμπεριλαμβανομένων των οδηγιών 2014/31/ΕΕ (35) και 2014/32/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (36), έχει ως στόχο να εξασφαλίζει την ακρίβεια των μετρήσεων και να συμβάλλει στη διαφάνεια και τη χρηστότητα των εμπορικών συναλλαγών. Στο πλαίσιο αυτό, σε συνεργασία με τους σχετικούς συμφεροντούχους και οργανισμούς, όπως τις αρχές μετρολογίας και συγκριτικής αξιολόγησης, η Επιτροπή θα πρέπει να ενθαρρύνει, κατά περίπτωση, την ανάπτυξη κριτηρίων αναφοράς και μεθοδολογιών μέτρησης για τα συστήματα ΤΝ. Στο πλαίσιο αυτό, η Επιτροπή θα πρέπει να λαμβάνει υπόψη και να συνεργάζεται με διεθνείς εταίρους που ασχολούνται με τη μετρολογία και κατάλληλους δείκτες μέτρησης όσον αφορά την ΤΝ.
(74)
Високорисковите системи с ИИ следва да функционират стабилно през целия си жизнен цикъл и да съответстват на подходящо ниво на точност, надеждност и киберсигурност, с оглед на тяхното предназначение и в съответствие с общопризнатите съвременни технически постижения. Комисията и съответните организации и заинтересовани страни се насърчават да вземат надлежно предвид ограничаването на рисковете и отрицателното въздействие на системата с ИИ. Очакваното ниво на показателите за ефективност следва да бъде обявено в придружаващите инструкции за употреба. Доставчиците се приканват да съобщават тази информация на внедрителите по ясен и лесно разбираем начин, без възможности за недоразумения или подвеждащи твърдения. Правото на Съюза в областта на законовата метрология, включително директиви 2014/31/ЕС (35) и 2014/32/ЕС (36) на Европейския парламент и на Съвета, има за цел да гарантира точността на измерванията и да спомогне за прозрачността и почтеността на търговските сделки. В този контекст, в сътрудничество със съответните заинтересовани страни и организации, като например органите по метрология и сравнителен анализ, Комисията следва да насърчава, когато е целесъобразно, разработването на сравнителни показатели и методики за измерване за системите с ИИ. При това Комисията следва да вземе под внимание и да си сътрудничи с международните партньори, работещи в областта на метрологията и съответните показатели за измерване, свързани с ИИ.
(75)
Η τεχνική στιβαρότητα αποτελεί βασική απαίτηση για τα συστήματα ΤΝ υψηλού κινδύνου. Θα πρέπει να είναι ανθεκτικά όσον αφορά επιβλαβή ή άλλως ανεπιθύμητη συμπεριφορά που ενδέχεται να προκύψει από περιορισμούς εντός των συστημάτων ή του περιβάλλοντος στο οποίο λειτουργούν τα συστήματα (π.χ. σφάλματα, αστοχίες, ασυνέπειες, απρόβλεπτες καταστάσεις). Ως εκ τούτου, θα πρέπει να λαμβάνονται τεχνικά και οργανωτικά μέτρα για να εξασφαλίζεται η στιβαρότητα των συστημάτων ΤΝ υψηλού κινδύνου, για παράδειγμα με τον σχεδιασμό και την ανάπτυξη κατάλληλων τεχνικών λύσεων ώστε να προλαμβάνεται ή να ελαχιστοποιείται η επιβλαβής ή άλλως ανεπιθύμητη συμπεριφορά. Στις τεχνικές αυτές λύσεις μπορεί να περιλαμβάνονται, για παράδειγμα, μηχανισμοί που επιτρέπουν στο σύστημα να διακόπτει με ασφάλεια τη λειτουργία του (σχέδια ασφαλή από αστοχίες) παρουσία ορισμένων ανωμαλιών ή όταν η λειτουργία πραγματοποιείται εκτός ορισμένων προκαθορισμένων ορίων. Η έλλειψη προστασίας από τους κινδύνους αυτούς θα μπορούσε να έχει επιπτώσεις στην ασφάλεια ή να επηρεάσει αρνητικά τα θεμελιώδη δικαιώματα, για παράδειγμα λόγω εσφαλμένων αποφάσεων ή λανθασμένων ή μεροληπτικών στοιχείων εξόδου που παράγονται από το σύστημα ΤΝ.
(75)
Техническата надеждност е ключово изискване за високорисковите системи с ИИ. Те следва да бъдат устойчиви на вредно или друго нежелателно поведение, което може да се прояви в резултат на ограничения в системите или средата, в която те работят (например грешки, дефекти, несъответствия, неочаквани ситуации). Поради това следва да се предприемат технически и организационни мерки, за да се гарантира надеждността на високорисковите системи с ИИ, например чрез проектиране и разработване на подходящи технически решения за предотвратяване или свеждане до минимум на вредното или друго нежелано поведение. Тези технически решения могат да включват например механизми, позволяващи на системата безопасно да прекъсне работата си (аварийни планове) при наличието на определени аномалии или когато работата се извършва извън предварително определени граници. Липсата на защита срещу тези рискове може да повлияе на безопасността или да се отрази отрицателно на основните права, например поради неправилни решения или погрешни или опорочени от предубеденост резултати, генерирани от системата с ИИ.
(76)
Η κυβερνοασφάλεια διαδραματίζει καίριο ρόλο στη διασφάλιση της ανθεκτικότητας των συστημάτων ΤΝ έναντι προσπαθειών κακόβουλων τρίτων να αλλοιώσουν τη χρήση τους, τη συμπεριφορά τους και τις επιδόσεις τους ή να θέσουν σε κίνδυνο τις ιδιότητες ασφάλειας εκμεταλλευόμενοι τα τρωτά σημεία του συστήματος. Οι κυβερνοεπιθέσεις κατά συστημάτων ΤΝ μπορούν να μοχλεύσουν συγκεκριμένους πόρους της ΤΝ, όπως τα σύνολα δεδομένων εκπαίδευσης (π.χ. δηλητηρίαση δεδομένων) ή τα εκπαιδευμένα μοντέλα (π.χ. αντιπαραθετικές επιθέσεις ή συναγωγή παρουσίας σε σύνολο δεδομένων) ή να εκμεταλλευτούν τρωτά σημεία των ψηφιακών πόρων του συστήματος ΤΝ ή των υποκείμενων υποδομών ΤΠΕ. Ως εκ τούτου, προκειμένου να εξασφαλίζεται επίπεδο κυβερνοασφάλειας που να αρμόζει στους κινδύνους, θα πρέπει οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου να λαμβάνουν κατάλληλα μέτρα, όπως έλεγχοι ασφάλειας, συνεκτιμώντας επίσης, κατά περίπτωση, τις υποκείμενες υποδομές ΤΠΕ.
(76)
Киберсигурността има решаващо значение, за да се гарантира, че системите с ИИ са устойчиви на опити за промяна на тяхното използване, поведение или ефективност или за засягане на техните свойства, свързани със сигурността, от недобросъвестни трети лица, които се възползват от уязвимостта на системата. Кибератаките срещу системи с ИИ могат да засегнат специфични за ИИ ресурси, като например набори от обучителни данни (например чрез „отравяне на данните“) или обучени модели (например чрез враждебни атаки или изводи за принадлежност), или да използват уязвимите места в цифровите ресурси на системата с ИИ или в основната ИКТ инфраструктура. За да се гарантира ниво на киберсигурност, съобразено с рисковете, доставчиците на високорискови системи с ИИ следва да предприемат подходящи мерки, например проверки на сигурността, като отчитат надлежно и основната ИКТ инфраструктура.
(77)
Με την επιφύλαξη των απαιτήσεων του παρόντος κανονισμού που σχετίζονται με τη στιβαρότητα και την ακρίβεια, τα συστήματα ΤΝ υψηλού κινδύνου που εμπίπτουν στο πεδίο εφαρμογής κανονισμού του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου σχετικά με οριζόντιες απαιτήσεις κυβερνοασφάλειας για προϊόντα με ψηφιακά στοιχεία, σύμφωνα με τον εν λόγω κανονισμό μπορούν να αποδεικνύουν τη συμμόρφωση με τις απαιτήσεις του παρόντος κανονισμού περί κυβερνοασφάλειας εκπληρώνοντας τις ουσιώδεις απαιτήσεις κυβερνοασφάλειας που ορίζονται στον εν λόγω κανονισμό. Όταν τα συστήματα ΤΝ υψηλού κινδύνου πληρούν τις ουσιώδεις απαιτήσεις κανονισμού του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου σχετικά με οριζόντιες απαιτήσεις κυβερνοασφάλειας για προϊόντα με ψηφιακά στοιχεία, θα πρέπει να θεωρείται ότι συμμορφώνονται με τις απαιτήσεις περί κυβερνοασφάλειας που καθορίζονται στον παρόντα κανονισμό στον βαθμό που η εκπλήρωση των απαιτήσεων αυτών αποδεικνύεται στη δήλωση συμμόρφωσης ΕΕ που εκδίδεται δυνάμει του εν λόγω κανονισμού ή σε μέρη αυτής. Για τον σκοπό αυτόν, η εκτίμηση που διενεργείται δυνάμει κανονισμού του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου σχετικά με οριζόντιες απαιτήσεις κυβερνοασφάλειας για προϊόντα με ψηφιακά στοιχεία, όσον αφορά τους κινδύνους για την κυβερνοασφάλεια που συνδέονται με προϊόν με ψηφιακά στοιχεία ταξινομημένο ως σύστημα ΤΝ υψηλού κινδύνου σύμφωνα με τον παρόντα κανονισμό θα πρέπει να εξετάζει τους κινδύνους για την κυβερνοανθεκτικότητα ενός συστήματος ΤΝ σε σχέση με απόπειρες μη εξουσιοδοτημένων τρίτων να αλλοιώσουν τη χρήση, τη συμπεριφορά ή τις επιδόσεις του, συμπεριλαμβανομένων συγκεκριμένων τρωτών σημείων της ΤΝ, όπως η δηλητηρίαση δεδομένων ή οι αντιπαραθετικές επιθέσεις, καθώς και, κατά περίπτωση, τους κινδύνους για τα θεμελιώδη δικαιώματα, όπως απαιτείται από τον παρόντα κανονισμό.
(77)
Без да се засягат изискванията, свързани с надеждността и точността, установени в настоящия регламент, при високорисковите системи с ИИ, които попадат в обхвата на регламент на Европейския парламент и на Съвета относно хоризонтални изисквания за киберсигурност за продукти с цифрови елементи, в съответствие с посочения регламент, може да се докаже съответствие с изискванията за киберсигурност на настоящия регламент, като се изпълнят съществените изисквания за киберсигурност, установени в посочения регламент. Когато високорисковите системи с ИИ съответстват на съществените изисквания на регламент на Европейския парламент и на Съвета относно хоризонтални изисквания за киберсигурност за продукти с цифрови елементи, те следва да се считат за съответстващи на изискванията за киберсигурност, установени в настоящия регламент, доколкото изпълнението на тези изисквания е доказано в ЕС декларацията за съответствие или части от нея, изготвена съгласно посочения регламент. За тази цел при оценката на рисковете за киберсигурността, свързани с продукт с цифрови елементи, класифициран като високорискова система с ИИ съгласно настоящия регламент, извършена съгласно регламент на Европейския парламент и на Съвета относно хоризонтални изисквания за киберсигурност за продукти с цифрови елементи, следва да се вземат предвид рисковете за киберустойчивостта на дадена система с ИИ по отношение на опитите на неоправомощени трети лица да променят нейното използване, поведение или работа, включително специфичните за ИИ уязвими места, като например „отравяне на данни“ или враждебни атаки, както и, ако е целесъобразно, рисковете за основните права, както се изисква в настоящия регламент.
(78)
Η διαδικασία αξιολόγησης της συμμόρφωσης που προβλέπεται στον παρόντα κανονισμό θα πρέπει να εφαρμόζεται σε σχέση με τις ουσιώδεις απαιτήσεις κυβερνοασφάλειας ενός προϊόντος με ψηφιακά στοιχεία που καλύπτεται από κανονισμό του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου σχετικά με οριζόντιες απαιτήσεις κυβερνοασφάλειας για προϊόντα με ψηφιακά στοιχεία και ταξινομείται ως σύστημα ΤΝ υψηλού κινδύνου δυνάμει του παρόντος κανονισμού. Ωστόσο, ο κανόνας αυτός δεν θα πρέπει να έχει ως αποτέλεσμα τη μείωση του απαραίτητου επιπέδου διασφάλισης για τα κρίσιμα προϊόντα με ψηφιακά στοιχεία που καλύπτονται από κανονισμό του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου σχετικά με οριζόντιες απαιτήσεις κυβερνοασφάλειας για προϊόντα με ψηφιακά στοιχεία. Συνεπώς, κατά παρέκκλιση από τον κανόνα αυτόν, τα συστήματα ΤΝ υψηλού κινδύνου τα οποία εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού και χαρακτηρίζονται επίσης σημαντικά και κρίσιμα προϊόντα με ψηφιακά στοιχεία σύμφωνα με κανονισμό του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου σχετικά με οριζόντιες απαιτήσεις κυβερνοασφάλειας για προϊόντα με ψηφιακά στοιχεία και στα οποία εφαρμόζεται η διαδικασία αξιολόγησης της συμμόρφωσης με βάση τον εσωτερικό έλεγχο η οποία ορίζεται σε παράρτημα του παρόντος κανονισμού υπόκεινται στις σχετικές με την αξιολόγηση της συμμόρφωσης διατάξεις κανονισμού του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου σχετικά με οριζόντιες απαιτήσεις κυβερνοασφάλειας για προϊόντα με ψηφιακά στοιχεία όσον αφορά τις ουσιώδεις απαιτήσεις για την κυβερνοασφάλεια του εν λόγω κανονισμού. Στην περίπτωση αυτή, για όλες τις άλλες πτυχές που καλύπτονται από τον παρόντα κανονισμό θα πρέπει να εφαρμόζονται οι αντίστοιχες διατάξεις για την αξιολόγηση της συμμόρφωσης με βάση τον εσωτερικό έλεγχο η οποία ορίζεται σε παράρτημα του παρόντος κανονισμού. Με βάση τις γνώσεις και την εμπειρογνωσία του ENISA σχετικά με την πολιτική κυβερνοασφάλειας και τα καθήκοντα που ανατίθενται στον ENISA δυνάμει του κανονισμού (ΕΕ) 2019/881 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (37), η Επιτροπή θα πρέπει να συνεργάζεται με τον ENISA σε θέματα που σχετίζονται με την κυβερνοασφάλεια των συστημάτων ΤΝ.
(78)
Процедурата за оценяване на съответствието, предвидена в настоящия регламент, следва да се прилага по отношение на съществените изисквания за киберсигурност на даден продукт с цифрови елементи, попадащ в обхвата на регламент на Европейския парламент и на Съвета относно хоризонтални изисквания за киберсигурност за продукти с цифрови елементи и класифициран като високорискова система с ИИ съгласно настоящия регламент. Това правило обаче не следва да води до намаляване на необходимото ниво на увереност за критичните продукти с цифрови елементи, обхванати от регламент на Европейския парламент и на Съвета относно хоризонтални изисквания за киберсигурност за продукти с цифрови елементи. Поради това, чрез дерогация от това правило, за високорисковите системи с ИИ, които попадат в обхвата на настоящия регламент и които също така са определени като важни и критични продукти с цифрови елементи съгласно регламент на Европейския парламент и на Съвета относно хоризонтални изисквания за киберсигурност за продукти с цифрови елементи, и за които се прилага процедурата за оценяване на съответствието въз основа на вътрешен контрол, посочена в приложение към настоящия регламент, се прилагат разпоредбите за оценяване на съответствието, съдържащи се в регламент на Европейския парламент и на Съвета относно хоризонтални изисквания за киберсигурност за продукти с цифрови елементи, доколкото това се отнася до съществените изисквания за киберсигурност, установени в посочения регламент. В този случай за всички останали аспекти, обхванати от настоящия регламент, следва да се прилагат съответните разпоредби относно оценяването на съответствието въз основа на вътрешен контрол, установени в приложение към настоящия регламент. Въз основа на знанията и експертния опит на Агенцията на Европейския съюз за киберсигурност (ENISA) относно политиката в областта на киберсигурността и задачите, възложени на ENISA съгласно Регламент (ЕС) 2019/881 на Европейския парламент и на Съвета (37), Комисията следва да си сътрудничи с ENISA по въпроси, свързани с киберсигурността на системите с ИИ.
(79)
Ενδείκνυται ένα συγκεκριμένο φυσικό ή νομικό πρόσωπο, το οποίο ορίζεται ως ο πάροχος, να αναλαμβάνει την ευθύνη για τη διάθεση στην αγορά ή τη θέση σε λειτουργία ενός συστήματος ΤΝ υψηλού κινδύνου, ανεξάρτητα από το αν το εν λόγω φυσικό ή νομικό πρόσωπο είναι αυτό που σχεδίασε ή ανέπτυξε το σύστημα.
(79)
Целесъобразно е конкретно физическо или юридическо лице, определено като доставчик, да поеме отговорността за пускането на пазара или пускането в действие на дадена високорискова система с ИИ, независимо дали това физическо или юридическо лице е проектирало или разработило системата.
(80)
Ως υπογράφοντες της σύμβασης του ΟΗΕ για τα δικαιώματα των ατόμων με αναπηρία, η Ένωση και τα κράτη μέλη υποχρεούνται νομικά να προστατεύουν τα άτομα με αναπηρία από διακρίσεις και να προάγουν την ισότητά τους, να διασφαλίζουν ότι τα άτομα με αναπηρία έχουν πρόσβαση, σε ισότιμη βάση με τα άλλα άτομα, σε τεχνολογίες και συστήματα πληροφοριών και επικοινωνιών, καθώς και να διασφαλίζουν τον σεβασμό της ιδιωτικής ζωής των ατόμων με αναπηρία. Δεδομένης της αυξανόμενης σημασίας και χρήσης συστημάτων ΤΝ, η εφαρμογή των αρχών καθολικού σχεδιασμού σε όλες τις νέες τεχνολογίες και τις υπηρεσίες θα πρέπει να διασφαλίζει την πλήρη και ισότιμη πρόσβαση σε κάθε άτομο που ενδέχεται να επηρεαστεί από τεχνολογίες ΤΝ ή να τις χρησιμοποιήσει, περιλαμβανομένων των ατόμων με αναπηρία, έτσι ώστε να λαμβάνεται πλήρως υπόψη η εγγενής αξιοπρέπεια και πολυμορφία τους. Ως εκ τούτου, είναι σημαντικό οι πάροχοι να διασφαλίζουν την πλήρη συμμόρφωση με τις απαιτήσεις προσβασιμότητας, συμπεριλαμβανομένων της οδηγίας (ΕΕ) 2016/2102 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (38) και της οδηγίας (ΕΕ) 2019/882. Οι πάροχοι θα πρέπει να διασφαλίζουν τη συμμόρφωση με τις εν λόγω απαιτήσεις ήδη από τον σχεδιασμό. Συνεπώς, τα αναγκαία μέτρα θα πρέπει να ενσωματώνονται όσο το δυνατόν περισσότερο στον σχεδιασμό του συστήματος ΤΝ υψηλού κινδύνου.
(80)
Като страни по Конвенцията на Организацията на обединените нации за правата на хората с увреждания Съюзът и държавите членки са правно задължени да защитават хората с увреждания от дискриминация и да насърчават тяхното равенство, да гарантират, че хората с увреждания имат достъп на равна основа с всички останали до информационни и комуникационни технологии и системи, и да гарантират зачитане на неприкосновеността на личния живот на хората с увреждания. Предвид нарастващото значение и използване на системи с ИИ прилагането на принципите за универсален дизайн за всички нови технологии и услуги следва да гарантира пълен и равен достъп на всички, които е възможно да бъдат засегнати от технологиите за ИИ или които ги използват, включително хората с увреждания, по начин, който изцяло отчита присъщото им достойнство и многообразие. Следователно е от съществено значение доставчиците да осигурят пълно съответствие с изискванията за достъпност, включително с Директива (ЕС) 2016/2102 на Европейския парламент и на Съвета (38) и Директива (ЕС) 2019/882. Доставчиците следва да осигурят съответствието с тези изисквания при проектирането. Поради това необходимите мерки следва да бъдат интегрирани във възможно най-голяма степен в проектирането на високорисковата система с ИИ.
(81)
Ο πάροχος θα πρέπει να θεσπίζει ένα άρτιο σύστημα διαχείρισης της ποιότητας, να διασφαλίζει την ολοκλήρωση της απαιτούμενης διαδικασίας αξιολόγησης της συμμόρφωσης, να καταρτίζει τη σχετική τεκμηρίωση και να καθιερώνει ένα στιβαρό σύστημα παρακολούθησης μετά τη διάθεση στην αγορά. Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου που υπόκεινται σε υποχρεώσεις όσον αφορά τα συστήματα διαχείρισης της ποιότητας δυνάμει του σχετικού τομεακού ενωσιακού δικαίου θα πρέπει να έχουν τη δυνατότητα να εντάσσουν τα στοιχεία του συστήματος διαχείρισης της ποιότητας που προβλέπεται στον παρόντα κανονισμό στο υφιστάμενο σύστημα διαχείρισης της ποιότητας που προβλέπεται στο εν λόγω άλλο τομεακό ενωσιακό δίκαιο. Η συμπληρωματικότητα μεταξύ του παρόντος κανονισμού και του ισχύοντος τομεακού ενωσιακού δικαίου θα πρέπει επίσης να λαμβάνεται υπόψη σε μελλοντικές δραστηριότητες ή κατευθυντήριες γραμμές τυποποίησης που εγκρίνει η Επιτροπή. Οι δημόσιες αρχές που θέτουν σε λειτουργία συστήματα ΤΝ υψηλού κινδύνου για ιδία χρήση μπορούν να θεσπίζουν και να εφαρμόζουν τους κανόνες για το σύστημα διαχείρισης της ποιότητας στο πλαίσιο του συστήματος διαχείρισης της ποιότητας που έχει θεσπιστεί σε εθνικό ή περιφερειακό επίπεδο, κατά περίπτωση, λαμβάνοντας υπόψη τις ιδιαιτερότητες του τομέα και τις αρμοδιότητες και την οργάνωση της οικείας δημόσιας αρχής.
(81)
Доставчикът следва да създаде стабилна система за управление на качеството, да гарантира изпълнението на изискваната процедура за оценяване на съответствието, да изготви съответната документация и да създаде надеждна система за мониторинг след пускането на пазара. Доставчиците на високорискови системи с ИИ, които имат задължения по отношение на системите за управление на качеството съгласно съответното секторно право на Съюза, следва да имат възможност да включат елементите на системата за управление на качеството, предвидена в настоящия регламент, като част от съществуващата система за управление на качеството, предвидена в посоченото друго секторно право на Съюза. Взаимното допълване между настоящия регламент и действащото секторно право на Съюза също следва да бъде взето предвид в бъдещите дейности по стандартизация или в насоките, приемани от Комисията. Публичните органи, които пускат в действие високорискови системи с ИИ за свое собствено ползване, могат да приемат и прилагат правилата за системата за управление на качеството като част от приетата на национално или регионално равнище система за управление на качеството, когато е целесъобразно, като вземат предвид особеностите на сектора и компетентността и организацията на съответния публичен орган.
(82)
Για να καταστεί δυνατή η επιβολή του παρόντος κανονισμού και να διαμορφωθούν ισότιμοι όροι ανταγωνισμού για τους φορείς εκμετάλλευσης και λαμβανομένων υπόψη των διάφορων μορφών διάθεσης ψηφιακών προϊόντων, είναι σημαντικό να διασφαλιστεί ότι, σε κάθε περίπτωση, ένα πρόσωπο εγκατεστημένο στην Ένωση είναι σε θέση να παρέχει στις αρχές όλες τις απαραίτητες πληροφορίες σχετικά με τη συμμόρφωση ενός συστήματος ΤΝ. Συνεπώς, πριν από τη διάθεση των συστημάτων τους ΤΝ στην Ένωση, οι πάροχοι που είναι εγκατεστημένοι σε τρίτες χώρες θα πρέπει να διορίζουν με γραπτή εντολή εξουσιοδοτημένο αντιπρόσωπο εγκατεστημένο στην Ένωση. Αυτός ο εξουσιοδοτημένος αντιπρόσωπος ασκεί καίριο ρόλο στη διασφάλιση της συμμόρφωσης των συστημάτων ΤΝ υψηλού κινδύνου που διατίθενται στην αγορά ή τίθενται σε λειτουργία στην Ένωση από τους παρόχους που δεν είναι εγκατεστημένοι στην Ένωση, ενώ επίσης ενεργεί ως ο αρμόδιος επικοινωνίας τους που είναι εγκατεστημένος στην Ένωση.
(82)
За да се даде възможност за прилагането на настоящия регламент и за да се създадат условия на равнопоставеност за операторите, както и предвид различните форми на предоставяне на цифрови продукти, е важно да се гарантира, че при всички обстоятелства установено в Съюза лице може да предостави на органите цялата необходима информация относно съответствието на дадена система с ИИ. Следователно преди да се предоставят техните системи на пазара на Съюза, доставчиците, установени в трети държави, следва да определят с писмено пълномощно упълномощен представител, който е установен в Съюза. Този упълномощен представител има ключово значение за осигуряване на съответствието на високорисковите системи с ИИ, пуснати на пазара или пуснати в действие в Съюза от тези доставчици, които не са установени в Съюза, както и за изпълнение на функциите на лице за връзка, установено в Съюза.
(83)
Δεδομένης της φύσης και της πολυπλοκότητας της αξιακής αλυσίδας των συστημάτων ΤΝ και σύμφωνα με το νέο νομοθετικό πλαίσιο, είναι σημαντικό να διασφαλιστεί η ασφάλεια δικαίου και να διευκολυνθεί η συμμόρφωση με τον παρόντα κανονισμό. Συνεπώς, είναι αναγκαίο να αποσαφηνιστεί ο ρόλος και οι ειδικές υποχρεώσεις των σχετικών φορέων εκμετάλλευσης κατά μήκος της εν λόγω αξιακής αλυσίδας, όπως οι εισαγωγείς και οι διανομείς που ενδέχεται να συμβάλουν στην ανάπτυξη συστημάτων ΤΝ. Σε ορισμένες περιπτώσεις, οι εν λόγω φορείς εκμετάλλευσης θα μπορούσαν να ενεργούν αναλαμβάνοντας ταυτόχρονα περισσότερους από ένα ρόλους και, ως εκ τούτου, θα πρέπει να εκπληρώνουν σωρευτικά όλες τις σχετικές υποχρεώσεις που συνδέονται με τους ρόλους αυτούς. Για παράδειγμα, ένας φορέας εκμετάλλευσης θα μπορούσε να ενεργεί ταυτόχρονα ως διανομέας και ως εισαγωγέας.
(83)
С оглед на естеството и сложността на веригата за създаване на стойност за системите с ИИ и в съответствие с новата законодателна рамка, е от съществено значение да се гарантира правна сигурност и да се улесни спазването на настоящия регламент. Поради това е необходимо да се изяснят функциите и конкретните задължения на съответните оператори по веригата за създаване на стойност, като например вносителите и дистрибуторите, които могат да допринесат за разработването на системи с ИИ. В определени ситуации тези оператори биха могли да имат едновременно повече от една функция и поради това следва кумулативно да изпълняват всички съответни задължения, свързани с тези функции. Например даден оператор може да действа едновременно като дистрибутор и вносител.
(84)
Για λόγους ασφάλειας δικαίου, είναι αναγκαίο να διευκρινιστεί ότι, υπό ορισμένες ειδικές προϋποθέσεις, κάθε διανομέας, εισαγωγέας, φορέας εφαρμογής ή άλλο τρίτο μέρος θα πρέπει να θεωρείται ότι είναι πάροχος συστήματος ΤΝ υψηλού κινδύνου και, ως εκ τούτου, να αναλαμβάνει όλες τις σχετικές υποχρεώσεις. Αυτό θα συμβεί εάν το μέρος εισαγάγει την επωνυμία ή το εμπορικό σήμα του σε σύστημα ΤΝ υψηλού κινδύνου που έχει ήδη διατεθεί στην αγορά ή τεθεί σε λειτουργία, με την επιφύλαξη των συμβατικών ρυθμίσεων που ορίζουν ότι οι υποχρεώσεις κατανέμονται με άλλον τρόπο. Αυτό θα συμβεί επίσης εάν το μέρος προβεί σε ουσιαστική τροποποίηση συστήματος ΤΝ υψηλού κινδύνου που έχει ήδη διατεθεί στην αγορά ή έχει ήδη τεθεί σε λειτουργία κατά τρόπο ώστε να παραμένει σύστημα ΤΝ υψηλού κινδύνου σύμφωνα με τον παρόντα κανονισμό, ή εάν τροποποιήσει τον επιδιωκόμενο σκοπό συστήματος ΤΝ, συμπεριλαμβανομένου συστήματος ΤΝ γενικού σκοπού, το οποίο δεν έχει ταξινομηθεί ως υψηλού κινδύνου και έχει ήδη διατεθεί στην αγορά ή τεθεί σε λειτουργία, κατά τρόπο που το καθιστά σύστημα ΤΝ υψηλού κινδύνου σύμφωνα με τον παρόντα κανονισμό. Οι διατάξεις αυτές θα πρέπει να εφαρμόζονται με την επιφύλαξη ειδικότερων διατάξεων που θεσπίζονται σε ορισμένες ενωσιακές νομοθετικές πράξεις εναρμόνισης βάσει του νέου νομοθετικού πλαισίου, με τις οποίες ο παρών κανονισμός θα πρέπει να εφαρμόζεται από κοινού. Για παράδειγμα, το άρθρο 16 παράγραφος 2 του κανονισμού (ΕΕ) 2017/745, το οποίο ορίζει ότι ορισμένες αλλαγές δεν θα πρέπει να θεωρούνται τροποποιήσεις τεχνολογικού προϊόντος που ενδέχεται να θίξει τη συμμόρφωσή του με τις ισχύουσες απαιτήσεις, θα πρέπει να συνεχίσει να ισχύει για τα συστήματα ΤΝ υψηλού κινδύνου που είναι ιατροτεχνολογικά προϊόντα κατά την έννοια του εν λόγω κανονισμού.
(84)
За да се гарантира правна сигурност, е необходимо да се поясни, че при определени специфични условия всеки дистрибутор, вносител, внедрител или друго трето лице следва да се счита за доставчик на високорискова система с ИИ и следователно да поеме всички съответни задължения. Такъв би бил случаят, ако това лице постави името или търговската си марка върху високорискова система с ИИ, която вече е пусната на пазара или пусната в действие, без да се засягат споразумения, предвиждащи, че задълженията се разпределят по друг начин. Такъв би бил и случаят, ако това лице внесе съществено изменение във високорискова система с ИИ, която вече е пусната на пазара или пусната в действие, по такъв начин, че тя да продължи да бъде високорискова система с ИИ в съответствие с настоящия регламент, или ако измени предназначението на система с ИИ, включително система с ИИ с общо предназначение, която не е класифицирана като високорискова и вече е пусната на пазара или пусната в действие, по такъв начин, че системата с ИИ да стане високорискова система с ИИ в съответствие с настоящия регламент. Тези разпоредби следва да се прилагат, без да се засягат специалните разпоредби, установени в някои секторни законодателни актове на Съюза за хармонизация въз основа на новата законодателна рамка, заедно с които следва да се прилага настоящият регламент. Например член 16, параграф 2 от Регламент (ЕС) 745/2017, съгласно който определени изменения не следва да се считат за промени на изделие, които могат да се отразят на съответствието му с приложимите изисквания, следва да продължи да се прилага за високорисковите системи с ИИ, които са медицински изделия по смисъла на посочения регламент.
(85)
Συστήματα ΤΝ γενικού σκοπού μπορούν να χρησιμοποιούνται ως συστήματα ΤΝ υψηλού κινδύνου από μόνα τους ή να αποτελούν κατασκευαστικά στοιχεία άλλων συστημάτων ΤΝ υψηλού κινδύνου. Κατά συνέπεια, λόγω της ιδιαίτερης φύσης τους και προκειμένου να εξασφαλίζεται ο δίκαιος επιμερισμός των ευθυνών κατά μήκος της αξιακής αλυσίδας της ΤΝ, οι πάροχοι τέτοιων συστημάτων, ανεξάρτητα από το αν αυτά μπορούν να χρησιμοποιηθούν καθαυτά ως συστήματα ΤΝ υψηλού κινδύνου από άλλους παρόχους ή ως κατασκευαστικά στοιχεία συστημάτων ΤΝ υψηλού κινδύνου και εκτός εάν προβλέπεται διαφορετικά από τον παρόντα κανονισμό, θα πρέπει να συνεργάζονται στενά με τους παρόχους των σχετικών συστημάτων ΤΝ υψηλού κινδύνου, ώστε να καθίσταται δυνατή η συμμόρφωσή τους με τις συναφείς υποχρεώσεις που απορρέουν από τον παρόντα κανονισμό, καθώς και με τις αρμόδιες αρχές που θεσπίζονται δυνάμει του παρόντος κανονισμού.
(85)
Системите с ИИ с общо предназначение могат да се използват като високорискови системи с ИИ сами по себе си или да бъдат компоненти на други високорискови системи с ИИ. Ето защо поради специфичното си естество и за да се гарантира справедливо разпределяне на отговорността по веригата за създаване на стойност в областта на ИИ, доставчиците на такива системи, независимо дали те могат да се използват сами по себе си като високорискови системи с ИИ от други доставчици, или като компоненти на високорискови системи с ИИ, и освен ако не е предвидено друго съгласно настоящия регламент, следва да си сътрудничат тясно с доставчиците на съответните високорискови системи с ИИ, за да им се даде възможност да спазват съответните задължения съгласно настоящия регламент, както и с компетентните органи, създадени съгласно настоящия регламент.
(86)
Όταν, υπό τους όρους που καθορίζονται στον παρόντα κανονισμό, ο πάροχος που διέθεσε αρχικά το σύστημα ΤΝ στην αγορά ή το έθεσε σε λειτουργία δεν θα πρέπει πλέον να θεωρείται ότι είναι πάροχος για τους σκοπούς του παρόντος κανονισμού και όταν ο εν λόγω πάροχος δεν έχει αποκλείσει ρητά τη μετατροπή του συστήματος ΤΝ σε σύστημα ΤΝ υψηλού κινδύνου, ο πρώτος πάροχος θα πρέπει παρά ταύτα να συνεργάζεται στενά και να καθιστά διαθέσιμες τις απαραίτητες πληροφορίες και να παρέχει την ευλόγως αναμενόμενη τεχνική πρόσβαση και άλλη βοήθεια που απαιτούνται για την εκπλήρωση των υποχρεώσεων που ορίζονται στον παρόντα κανονισμό, ιδίως όσον αφορά την τήρηση της αξιολόγησης της συμμόρφωσης των συστημάτων ΤΝ υψηλού κινδύνου.
(86)
Когато съгласно условията, предвидени в настоящия регламент, доставчикът, който първоначално е пуснал на пазара системата с ИИ или я е пуснал в действие, вече не следва да се счита за доставчик за целите на настоящия регламент и когато този доставчик не е изключил изрично промяната на системата с ИИ във високорискова система с ИИ, първоначалният доставчик следва въпреки това да си сътрудничи тясно и да предостави необходимата информация, както и да осигури разумно очакваните технически достъп и друга помощ, които са необходими за изпълнението на задълженията, установени в настоящия регламент, по-специално по отношение на спазването на оценката на съответствието на високорисковите системи с ИИ.
(87)
Επιπλέον, όταν ένα σύστημα ΤΝ υψηλού κινδύνου που αποτελεί κατασκευαστικό στοιχείο ασφάλειας ενός προϊόντος το οποίο εμπίπτει στο πεδίο εφαρμογής της ενωσιακής νομοθεσίας εναρμόνισης βάσει του νέου νομοθετικού πλαισίου δεν διατίθεται στην αγορά ούτε τίθεται σε λειτουργία ανεξάρτητα από το προϊόν, ο κατασκευαστής του προϊόντος ο οποίος ορίζεται στην εν λόγω νομοθεσία θα πρέπει να συμμορφώνεται με τις υποχρεώσεις του παρόχου που καθορίζονται στον παρόντα κανονισμό και, ειδικότερα, να διασφαλίζει ότι το σύστημα ΤΝ που είναι ενσωματωμένο στο τελικό προϊόν συμμορφώνεται με τις απαιτήσεις του παρόντος κανονισμού.
(87)
Освен това когато високорискова система с ИИ, която е защѝтен елемент на продукт, попадащ в обхвата на законодателството на Съюза за хармонизация въз основа на новата законодателна рамка, не е пусната на пазара или пусната в действие независимо от продукта, производителят на продукта съгласно определението в съответното законодателство, следва да спазва задълженията на доставчика, установени в настоящия регламент, и следва по-специално да гарантира, че системата с ИИ, вградена в крайния продукт, съответства на изискванията на настоящия регламент.
(88)
Κατά μήκος της αξιακής αλυσίδας της ΤΝ, πολλά μέρη συχνά παρέχουν συστήματα, εργαλεία και υπηρεσίες ΤΝ, αλλά και κατασκευαστικά στοιχεία ή διαδικασίες που ενσωματώνονται από τον πάροχο στο σύστημα ΤΝ με ποικίλους στόχους, μεταξύ άλλων την εκπαίδευση μοντέλων, την επανεκπαίδευση μοντέλων, τη δοκιμή και αξιολόγηση μοντέλων, την ενσωμάτωση σε λογισμικό ή άλλες πτυχές της ανάπτυξης μοντέλων. Τα μέρη αυτά παίζουν σημαντικό ρόλο στην αξιακή αλυσίδα έναντι του παρόχου του συστήματος ΤΝ υψηλού κινδύνου στο οποίο ενσωματώνονται τα δικά τους συστήματα, εργαλεία, υπηρεσίες, κατασκευαστικά στοιχεία ή διαδικασίες ΤΝ και θα πρέπει να παρέχουν με γραπτή συμφωνία στον εν λόγω πάροχο τις απαραίτητες πληροφορίες, ικανότητες, τεχνική πρόσβαση και άλλη βοήθεια με βάση τη γενικώς αναγνωρισμένη εξέλιξη της τεχνολογίας, προκειμένου να δίνεται στον πάροχο η δυνατότητα να συμμορφώνεται πλήρως με τις υποχρεώσεις που ορίζονται στον παρόντα κανονισμό, χωρίς να θέτει σε κίνδυνο τα δικά του δικαιώματα διανοητικής ιδιοκτησίας ή το εμπορικό απόρρητο.
(88)
В рамките на веригата за създаване на стойност в областта на ИИ множество лица често доставят системи, инструменти и услуги с ИИ, но също така и компоненти или процеси, които са интегрирани от доставчика в системата с ИИ с различни цели, включително обучение и повторно обучение на модели и изпитване и оценка на модели, интегриране в софтуера или други аспекти на разработването на модели. Тези лица заемат важно място във веригата за създаване на стойност по отношение на доставчика на високорисковата система с ИИ, в която са интегрирани техните системи, инструменти, услуги, компоненти или процеси с ИИ, и следва да предоставят чрез писмено споразумение на този доставчик необходимата информация, капацитет, технически достъп и друга помощ въз основа на общопризнатите съвременни технически постижения, за да се даде възможност на доставчика да изпълни изцяло задълженията, установени в настоящия регламент, без да се излагат на риск собствените им права върху интелектуалната собственост или търговски тайни.
(89)
Τρίτα μέρη που καθιστούν προσβάσιμα στο κοινό εργαλεία, υπηρεσίες, διαδικασίες ή κατασκευαστικά στοιχεία ΤΝ που δεν είναι μοντέλα ΤΝ γενικού σκοπού δεν θα πρέπει να υποχρεούνται να συμμορφώνονται με τις απαιτήσεις που στοχεύουν στις ευθύνες κατά μήκος της αξιακής αλυσίδας της ΤΝ, ιδίως έναντι του παρόχου που τα έχει χρησιμοποιήσει ή ενσωματώσει, όταν τα εν λόγω εργαλεία, υπηρεσίες, διαδικασίες ή κατασκευαστικά στοιχεία ΤΝ καθίστανται προσβάσιμα με δωρεάν και άδεια ανοικτού κώδικα. Οι προγραμματιστές δωρεάν και ανοικτού κώδικα εργαλείων, υπηρεσιών, διαδικασιών ή κατασκευαστικών στοιχείων ΤΝ που δεν είναι μοντέλα ΤΝ γενικού σκοπού θα πρέπει να παροτρύνονται να εφαρμόζουν ευρέως αποδεκτές πρακτικές τεκμηρίωσης, όπως κάρτες μοντέλων και δελτία δεδομένων, ως τρόπο για την επιτάχυνση της ανταλλαγής πληροφοριών κατά μήκος της αξιακής αλυσίδας της ΤΝ, επιτρέποντας την προώθηση αξιόπιστων συστημάτων ΤΝ στην Ένωση.
(89)
Трети лица, които предоставят публичен достъп до инструменти, услуги, процеси или компоненти с ИИ, различни от модели на ИИ с общо предназначение, не следва да са задължени да спазват изискванията, насочени към отговорността по веригата за създаване на стойност в областта на ИИ, по-специално по отношение на доставчика, който ги е използвал или интегрирал, когато тези инструменти, услуги, процеси или компоненти с ИИ са достъпни в рамките на безплатен лиценз с отворен код. Разработчиците на безплатни инструменти, услуги, процеси или компоненти с ИИ с отворен код, различни от модели на ИИ с общо предназначение, следва да се насърчават да прилагат широко възприети практики за документиране, например карти за модели и информационни фишове, като начин за ускоряване на обмена на информация по веригата за създаване на стойност в областта на ИИ, което ще даде възможност да се популяризират надеждни системи с ИИ в Съюза.
(90)
Η Επιτροπή θα μπορούσε να αναπτύξει και να συστήσει προαιρετικούς πρότυπους συμβατικούς όρους μεταξύ παρόχων συστημάτων ΤΝ υψηλού κινδύνου και τρίτων μερών που παρέχουν εργαλεία, υπηρεσίες, κατασκευαστικά στοιχεία ή διαδικασίες που χρησιμοποιούνται ή ενσωματώνονται σε συστήματα ΤΝ υψηλού κινδύνου, για τη διευκόλυνση της συνεργασίας κατά μήκος της αξιακής αλυσίδας. Κατά την ανάπτυξη προαιρετικών πρότυπων συμβατικών όρων, η Επιτροπή θα πρέπει επίσης να λαμβάνει υπόψη ενδεχόμενες συμβατικές απαιτήσεις που εφαρμόζονται σε συγκεκριμένους τομείς ή επιχειρηματικές περιπτώσεις.
(90)
Комисията би могла да разработи и препоръча незадължителни примерни договорни условия между доставчиците на високорискови системи с ИИ и трети лица, които доставят инструменти, услуги, компоненти или процеси, използвани или интегрирани във високорискови системи с ИИ, за да се улесни сътрудничеството по веригата за създаване на стойност. При разработването на незадължителни примерни договорни условия Комисията следва също така да взема предвид възможните договорни изисквания, приложими в конкретни сектори или стопански дейности.
(91)
Δεδομένης της φύσης των συστημάτων ΤΝ και δεδομένων των κινδύνων για την ασφάλεια και τα θεμελιώδη δικαιώματα που ενδεχομένως συνδέονται με τη χρήση τους, μεταξύ άλλων όσον αφορά την ανάγκη διασφάλισης ορθής παρακολούθησης των επιδόσεων ενός συστήματος ΤΝ σε πραγματικές συνθήκες, ενδείκνυται να καθοριστούν συγκεκριμένες ευθύνες για τους φορείς εφαρμογής. Οι φορείς εφαρμογής θα πρέπει ειδικότερα να λαμβάνουν κατάλληλα τεχνικά και οργανωτικά μέτρα για να διασφαλίζουν ότι χρησιμοποιούν συστήματα ΤΝ υψηλού κινδύνου σύμφωνα με τις οδηγίες χρήσης, ενώ θα πρέπει να προβλέπονται και ορισμένες άλλες υποχρεώσεις όσον αφορά την παρακολούθηση της λειτουργίας των συστημάτων ΤΝ και όσον αφορά την τήρηση αρχείων, κατά περίπτωση. Επιπλέον, οι φορείς εφαρμογής θα πρέπει να διασφαλίζουν ότι τα πρόσωπα στα οποία ανατίθεται η εφαρμογή των οδηγιών χρήσης και η ανθρώπινη εποπτεία, όπως ορίζονται στον παρόντα κανονισμό, διαθέτουν την απαιτούμενη ικανότητα, ιδίως κατάλληλο επίπεδο γραμματισμού στον τομέα της ΤΝ, κατάρτιση και εξουσιοδότηση για την ορθή εκπλήρωση αυτών των καθηκόντων. Οι υποχρεώσεις αυτές δεν θα πρέπει να θίγουν άλλες υποχρεώσεις των φορέων εφαρμογής σε σχέση με συστήματα ΤΝ υψηλού κινδύνου δυνάμει του ενωσιακού ή του εθνικού δικαίου.
(91)
Предвид естеството на системите с ИИ и евентуалните рискове за безопасността и основните права, свързани с тяхното използване, включително по отношение на необходимостта да се гарантира подходящ мониторинг на работата на дадена система с ИИ в реални условия, е целесъобразно да се определят конкретни отговорности за внедрителите. Внедрителите следва по-специално да предприемат подходящи технически и организационни мерки, за да гарантират, че използват високорискови системи с ИИ в съответствие с инструкциите за употреба, а също така следва да се предвидят някои други задължения по отношение на мониторинга на функционирането на системите с ИИ и по отношение на поддържането на регистри, когато е целесъобразно. Освен това внедрителите следва да гарантират, че лицата, на които е възложено да изпълняват инструкциите за употреба и човешкия контрол съгласно настоящия регламент, притежават необходимата компетентност, по-специално подходящо ниво на грамотност, обучение и авторитет в областта на ИИ, за да изпълняват правилно тези задачи. Тези задължения не следва да засягат други задължения на внедрителите във връзка с високорискови системи с ИИ съгласно правото на Съюза или националното право.
(92)
Ο παρών κανονισμός δεν θίγει τις υποχρεώσεις των εργοδοτών να ενημερώνουν τους εργαζομένους ή τους εκπροσώπους τους ή να τους ενημερώνουν και να διαβουλεύονται μαζί τους σύμφωνα με το ενωσιακό ή το εθνικό δίκαιο και την ενωσιακή ή την εθνική πρακτική, συμπεριλαμβανομένης της οδηγίας 2002/14/ΕΚ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (39), όσον αφορά αποφάσεις να τεθούν σε λειτουργία ή να χρησιμοποιηθούν συστήματα ΤΝ. Είναι πάντα αναγκαίο να διασφαλίζεται η ενημέρωση των εργαζομένων και των εκπροσώπων τους σχετικά με την προγραμματισμένη εφαρμογή συστημάτων ΤΝ υψηλού κινδύνου στον χώρο εργασίας, όταν δεν πληρούνται οι όροι για τις υποχρεώσεις ενημέρωσης ή ενημέρωσης και διαβούλευσης σε άλλα νομικά εργαλεία. Εξάλλου, το δικαίωμα ενημέρωσης είναι παρεπόμενο και αναγκαίο για τον στόχο της προστασίας των θεμελιωδών δικαιωμάτων που αποτελεί τη βάση του παρόντος κανονισμού. Συνεπώς, θα πρέπει να θεσπιστεί στον παρόντα κανονισμό απαίτηση ενημέρωσης για τον σκοπό αυτό, χωρίς να θίγονται οποιαδήποτε υφιστάμενα δικαιώματα των εργαζομένων.
(92)
Настоящият регламент не засяга задълженията на работодателите да информират или да информират и консултират работниците или техните представители съгласно правото и практиката на Съюза или националното право и практика, включително Директива 2002/14/ЕО на Европейския парламент и на Съвета (39), относно решения за пускане в действие или използване на системи с ИИ. Продължава да е необходимо да се гарантира предоставянето на информация на работниците и техните представители относно планираното внедряване на високорискови системи с ИИ на работното място, когато не са изпълнени условията за тези задължения за информиране или информиране и консултиране, предвидени в други правни актове. Освен това подобно право на информиране допълва и е необходимо за постигането на целта за защита на основните права, залегнала в основата на настоящия регламент. Поради това в настоящия регламент следва да бъде предвидено изискване за информиране в този смисъл, без да се засягат съществуващите права на работниците.
(93)
Οι κίνδυνοι που σχετίζονται με συστήματα ΤΝ μπορούν μεν να προκύψουν από τον τρόπο με τον οποίον είναι σχεδιασμένα τα συστήματα αυτά, μπορούν δε επίσης να απορρέουν από τον τρόπο με τον οποίον χρησιμοποιούνται τέτοια συστήματα ΤΝ. Συνεπώς, οι φορείς εφαρμογής συστημάτων ΤΝ υψηλού κινδύνου παίζουν σημαντικό ρόλο στη διασφάλιση της προστασίας των θεμελιωδών δικαιωμάτων, συμπληρώνοντας τις υποχρεώσεις του παρόχου κατά την ανάπτυξη του συστήματος ΤΝ. Οι φορείς εφαρμογής είναι οι πλέον κατάλληλοι για να κατανοούν τον τρόπο με τον οποίο θα χρησιμοποιηθεί συγκεκριμένα το σύστημα ΤΝ υψηλού κινδύνου και, ως εκ τούτου, μπορούν να προσδιορίσουν δυνητικούς σημαντικούς κινδύνους που δεν είχαν προβλεφθεί στη φάση ανάπτυξης, χάρη στην ακριβέστερη γνώση του πλαισίου χρήσης, των ανθρώπων ή των ομάδων ανθρώπων που είναι πιθανό να επηρεαστούν, συμπεριλαμβανομένων των ευάλωτων ομάδων. Οι φορείς εφαρμογής των συστημάτων ΤΝ υψηλού κινδύνου που αναφέρονται σε παράρτημα του παρόντος κανονισμού έχουν επίσης καίριο ρόλο στην ενημέρωση των φυσικών προσώπων και θα πρέπει, όταν λαμβάνουν αποφάσεις ή βοηθούν στη λήψη αποφάσεων που αφορούν φυσικά πρόσωπα, κατά περίπτωση, να ενημερώνουν τα φυσικά πρόσωπα ότι υπόκεινται στη χρήση του συστήματος ΤΝ υψηλού κινδύνου. Η ενημέρωση θα πρέπει να περιλαμβάνει τον επιδιωκόμενο σκοπό και το είδος των αποφάσεων που λαμβάνονται. Ο φορέας εφαρμογής θα πρέπει επίσης να ενημερώνει το φυσικό πρόσωπο σχετικά με το δικαίωμα επεξήγησης που του παρέχεται σύμφωνα με τον παρόντα κανονισμό. Όσον αφορά τα συστήματα ΤΝ υψηλού κινδύνου που χρησιμοποιούνται για σκοπούς επιβολής του νόμου, η υποχρέωση αυτή θα πρέπει να εφαρμόζεται σύμφωνα με το άρθρο 13 της οδηγίας (EE) 2016/680.
(93)
Рисковете, свързани със системите с ИИ, могат да произтичат от начина, по който са проектирани тези системи, но могат да се дължат и на начина, по който се използват тези системи с ИИ. По тази причина внедрителите на високорискова система с ИИ имат решаващо значение за гарантиране на защитата на основните права, като допълват задълженията на доставчика при разработването на системата с ИИ. Внедрителите могат най-добре да разберат как конкретно ще бъде използвана високорисковата система с ИИ и следователно могат да установят потенциални значителни рискове, които не са били предвидени на етапа на разработване, тъй като разполагат с по-точни знания за контекста на използване и лицата или групите лица, които има вероятност да бъдат засегнати, включително уязвимите групи. Внедрителите на високорискови системи с ИИ, изброени в приложение към настоящия регламент, също имат решаващо значение за информирането на физическите лица и следва, когато вземат решения или подпомагат вземането на решения, свързани с физическите лица, когато е приложимо, да ги информират, че спрямо тях се използва високорискова система с ИИ. Тази информация следва да включва предназначението и вида на решенията, които се вземат. Внедрителят следва също така да информира физическите лица за правото им да получат обяснение, предвидено в настоящия регламент. По отношение на високорисковите системи с ИИ, използвани за правоохранителни цели, това задължение следва да се прилага в съответствие с член 13 от Директива (ЕС) 2016/680.
(94)
Κάθε επεξεργασία βιομετρικών δεδομένων που αφορά τη χρήση συστημάτων ΤΝ για βιομετρική ταυτοποίηση για σκοπούς επιβολής του νόμου είναι ανάγκη να συμμορφώνεται με το άρθρο 10 της οδηγίας (ΕΕ) 2016/680, το οποίο επιτρέπει την εν λόγω επεξεργασία μόνο όταν είναι απολύτως αναγκαία, με την επιφύλαξη των κατάλληλων διασφαλίσεων για τα δικαιώματα και τις ελευθερίες του υποκειμένου των δεδομένων και εφόσον επιτρέπεται από το δίκαιο της Ένωσης ή του κράτους μέλους. Αυτή η χρήση, όταν επιτρέπεται, είναι ανάγκη επίσης να τηρεί τις αρχές που ορίζονται στο άρθρο 4 παράγραφος 1 της οδηγίας (ΕΕ) 2016/680, μεταξύ άλλων τη νομιμότητα, τη δικαιοσύνη και τη διαφάνεια, τον περιορισμό του σκοπού, την ακρίβεια και τον περιορισμό της αποθήκευσης.
(94)
Всяко обработване на биометрични данни, свързано с използването на системи с ИИ за биометрична идентификация за правоохранителни цели, трябва да бъде в съответствие с член 10 от Директива (ЕС) 2016/680, който позволява такова обработване само когато това е строго необходимо, при спазване на подходящи гаранции за правата и свободите на субекта на данните, и когато това е разрешено от правото на Съюза или правото на държава членка. При такова разрешено използване трябва също така да се спазват принципите, установени в член 4, параграф 1 от Директива (ЕС) 2016/680, включително законосъобразност, добросъвестност и прозрачност, ограничаване в рамките на целта, точност и ограничаване на съхранението.
(95)
Με την επιφύλαξη του εφαρμοστέου δικαίου της Ένωσης, ιδίως του κανονισμού (ΕΕ) 2016/679 και της οδηγίας (ΕΕ) 2016/680, λαμβανομένου υπόψη του παρεμβατικού χαρακτήρα των συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης σε ύστερο χρόνο, η χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης σε ύστερο χρόνο θα πρέπει να υπόκειται σε διασφαλίσεις. Τα συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης σε ύστερο χρόνο θα πρέπει πάντα να χρησιμοποιούνται κατά τρόπο αναλογικό, νόμιμο και απολύτως αναγκαίο και, συνεπώς, στοχευμένο, ως προς τα πρόσωπα που πρόκειται να ταυτοποιηθούν, την τοποθεσία και το χρονικό πεδίο εφαρμογής, και να βασίζονται σε κλειστό σύνολο δεδομένων βιντεοληπτικού υλικού που έχει αποκτηθεί νομίμως. Σε κάθε περίπτωση, τα συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης σε ύστερο χρόνο δεν θα πρέπει να χρησιμοποιούνται στο πλαίσιο της επιβολής του νόμου με αποτέλεσμα τη μη στοχευμένη παρακολούθηση. Οι όροι για την εξ αποστάσεως βιομετρική ταυτοποίηση σε ύστερο χρόνο δεν θα πρέπει σε καμία περίπτωση να παρέχουν βάση για την παράκαμψη των όρων της απαγόρευσης και των αυστηρών εξαιρέσεων για την εξ αποστάσεως βιομετρική ταυτοποίηση σε πραγματικό χρόνο.
(95)
Без да се засяга приложимото право на Съюза, по-специално Регламент (ЕС) 2016/679 и Директива (ЕС) 2016/680, като се има предвид инвазивният характер на системите за последваща дистанционна биометрична идентификация, използването на тези системи следва да е придружено с гаранции. Системите за последваща дистанционна биометрична идентификация следва винаги да се използват по начин, който е пропорционален, законосъобразен и строго необходим, и следователно конкретизиран, по отношение на лицата, които трябва да бъдат идентифицирани, местоположението и времевия обхват, и въз основа на затворен набор от данни от законно придобити видеозаписи. Във всеки случай системите за последваща дистанционна биометрична идентификация не следва да се използват в правоохранителен контекст с цел неизбирателно наблюдение. Условията за последващата дистанционна биометрична идентификация не следва в никакъв случай да предоставят основание за заобикаляне на условията на забраната и строгите изключения по отношение на дистанционната биометрична идентификация в реално време.
(96)
Προκειμένου να διασφαλιστεί αποτελεσματικά η προστασία των θεμελιωδών δικαιωμάτων, οι φορείς εφαρμογής συστημάτων ΤΝ υψηλού κινδύνου που είναι οργανισμοί δημόσιου δικαίου ή ιδιωτικές οντότητες που παρέχουν δημόσιες υπηρεσίες και φορείς εφαρμογής που αναπτύσσουν ορισμένα συστήματα ΤΝ υψηλού κινδύνου τα οποία απαριθμούνται σε παράρτημα του παρόντος κανονισμού, όπως τραπεζικές ή ασφαλιστικές οντότητες, θα πρέπει να διενεργούν εκτίμηση επιπτώσεων στα θεμελιώδη δικαιώματα προτού θέσουν το σύστημα σε χρήση. Υπηρεσίες που είναι σημαντικές για ιδιώτες και είναι δημόσιου χαρακτήρα μπορούν επίσης να παρέχονται από ιδιωτικές οντότητες. Οι ιδιωτικές οντότητες που παρέχουν τέτοιες δημόσιες υπηρεσίες συνδέονται με καθήκοντα δημόσιου συμφέροντος, όπως στους τομείς της εκπαίδευσης, της υγειονομικής περίθαλψης, των κοινωνικών υπηρεσιών, της στέγασης, της απονομής δικαιοσύνης. Στόχος της εκτίμησης επιπτώσεων στα θεμελιώδη δικαιώματα είναι να εντοπίσει ο φορέας εφαρμογής τους συγκεκριμένους κινδύνους για τα δικαιώματα των ατόμων ή των ομάδων ατόμων που ενδέχεται να επηρεαστούν και να προσδιορίσει τα μέτρα που πρέπει να ληφθούν σε περίπτωση επέλευσης των εν λόγω κινδύνων. Η εκτίμηση επιπτώσεων θα πρέπει να πραγματοποιείται πριν από την ανάπτυξη του συστήματος ΤΝ υψηλού κινδύνου και θα πρέπει να επικαιροποιείται όταν ο φορέας εφαρμογής θεωρεί ότι οποιοσδήποτε από τους σχετικούς παράγοντες έχει αλλάξει. Η εκτίμηση επιπτώσεων θα πρέπει να προσδιορίζει τις σχετικές διαδικασίες του φορέα εφαρμογής στις οποίες θα χρησιμοποιείται το σύστημα ΤΝ υψηλού κινδύνου σύμφωνα με τον επιδιωκόμενο σκοπό του και θα πρέπει να περιλαμβάνει περιγραφή της χρονικής περιόδου και της συχνότητας με την οποία προορίζεται να χρησιμοποιηθεί το σύστημα, καθώς και συγκεκριμένων κατηγοριών φυσικών προσώπων και ομάδων που είναι πιθανό να επηρεαστούν στο εκάστοτε πλαίσιο χρήσης. Η εκτίμηση θα πρέπει επίσης να περιλαμβάνει τον προσδιορισμό συγκεκριμένων κινδύνων βλάβης που είναι πιθανό να έχουν αντίκτυπο στα θεμελιώδη δικαιώματα των εν λόγω προσώπων ή ομάδων. Κατά τη διενέργεια της εκτίμησης, ο φορέας εφαρμογής θα πρέπει να λαμβάνει υπόψη πληροφορίες που είναι σημαντικές για την κατάλληλη εκτίμηση των επιπτώσεων, μεταξύ άλλων και πληροφορίες που παρέχονται από τον πάροχο του συστήματος ΤΝ υψηλού κινδύνου στις οδηγίες χρήσης. Υπό το πρίσμα των κινδύνων που εντοπίζονται, οι φορείς εφαρμογής θα πρέπει να καθορίζουν τα μέτρα που πρέπει να λαμβάνονται σε περίπτωση επέλευσης των εν λόγω κινδύνων, στα οποία περιλαμβάνονται, για παράδειγμα, ρυθμίσεις διακυβέρνησης στο εκάστοτε πλαίσιο χρήσης, όπως ρυθμίσεις για ανθρώπινη εποπτεία σύμφωνα με τις οδηγίες χρήσης, ή χειρισμός καταγγελιών και διαδικασίες προσφυγής, καθώς θα μπορούσαν να συμβάλουν καθοριστικά στον μετριασμό των κινδύνων για τα θεμελιώδη δικαιώματα σε συγκεκριμένες περιπτώσεις χρήσης. Μετά τη διενέργεια της εκτίμησης επιπτώσεων, ο φορέας εφαρμογής θα πρέπει να ενημερώνει τη σχετική αρχή εποπτείας της αγοράς. Κατά περίπτωση, για τη συλλογή σχετικών πληροφοριών που είναι αναγκαίες για τη διενέργεια της εκτίμησης επιπτώσεων, οι φορείς εφαρμογής συστημάτων ΤΝ υψηλού κινδύνου, ιδίως όταν τα συστήματα ΤΝ χρησιμοποιούνται στον δημόσιο τομέα, θα μπορούσαν να εξασφαλίζουν τη συμμετοχή των σχετικών συμφεροντούχων, συμπεριλαμβανομένων των εκπροσώπων ομάδων ατόμων που ενδέχεται να επηρεαστούν από το σύστημα ΤΝ, ανεξάρτητων εμπειρογνωμόνων και οργανώσεων της κοινωνίας των πολιτών, κατά τη διενέργεια εκτιμήσεων επιπτώσεων και τον σχεδιασμό μέτρων που πρέπει να ληφθούν σε περίπτωση επέλευσης των κινδύνων. Η Ευρωπαϊκή Υπηρεσία Τεχνητής Νοημοσύνης (Υπηρεσία ΤΝ) θα πρέπει να αναπτύξει υπόδειγμα ερωτηματολογίου προκειμένου να διευκολύνεται η συμμόρφωση και να μειωθεί ο διοικητικός φόρτος για τους φορείς εφαρμογής.
(96)
За да се гарантира по ефективен начин защитата на основните права, внедрителите на високорискови системи с ИИ, които са публични органи, или частните субекти, предоставящи публични услуги, както и внедрителите на някои високорискови системи с ИИ, изброени в приложение към настоящия регламент, като например банкови институции или застрахователи, следва да извършват оценка на въздействието върху основните права преди пускането в действие. Услуги от обществен характер, които са от значение за физическите лица, могат да се предоставят и от частни субекти. Частните субекти, предоставящи такива публични услуги, са свързани с изпълнението на задачи от обществен интерес, например в областите на образованието, здравеопазването, социалните услуги, жилищното настаняване и правораздаването. Целта на оценката на въздействието върху основните права е внедрителят да установи конкретните рискове за правата на лицата или групите лица, които е вероятно да бъдат засегнати, и да набележи мерките, които да бъдат предприети при настъпване на тези рискове. Оценката на въздействието следва да се извърши преди внедряването на високорисковата система с ИИ и следва да се актуализира, когато внедрителят счете, че някой от съответните фактори се е променил. В оценката на въздействието следва да се определят съответните процеси на внедрителя, в рамките на които високорисковата система с ИИ ще бъде използвана в съответствие с нейното предназначение, и следва да се посочи срокът, в който системата е предназначена да се използва, и честотата, с която тя е предназначена да се използва, както и конкретните категории физически лица и групи, които е вероятно да бъдат засегнати в конкретния контекст на използване. Оценката следва да включва и установяването на конкретните рискове от настъпване на вреди, които е вероятно да окажат въздействие върху основните права на тези лица или групи. При извършването на тази оценка внедрителят следва да вземе предвид информацията, която е от значение за правилната оценка на въздействието, включително, но не само, информацията, предоставена от доставчика на високорисковата система с ИИ в инструкциите за употреба. С оглед на установените рискове внедрителите следва да определят мерките, които да бъдат предприети при настъпване на тези рискове, включително например правила за управление в този конкретен контекст на използване, като например механизми за човешки контрол в съответствие с инструкциите за употреба или процедури за разглеждане на жалби и правна защита, тъй като те биха могли да бъдат от основно значение за ограничаване на рисковете за основните права в конкретни случаи на използване. След извършването на тази оценка на въздействието внедрителят следва да уведоми съответния орган за надзор на пазара. Когато е целесъобразно, за да се събере съответната информация, необходима за извършване на оценката на въздействието, внедрителите на високорискова система с ИИ, по-специално когато системите с ИИ се използват в публичния сектор, биха могли да включат съответните заинтересовани страни, включително представители на групи лица, които е вероятно да бъдат засегнати от системата с ИИ, независими експерти и организации на гражданското общество, в извършването на такива оценки на въздействието и разработването на мерки, които да бъдат предприети в случай на настъпване на рисковете. Европейската служба по изкуствен интелект (наричана по-долу „Службата по ИИ“) следва да разработи образец на въпросник, за да се улесни спазването на изискванията и да се намали административната тежест за внедрителите.
(97)
Για λόγους ασφάλειας δικαίου, η έννοια των μοντέλων ΤΝ γενικού σκοπού θα πρέπει να οριστεί σαφώς και να διαχωριστεί από την έννοια των συστημάτων ΤΝ. Ο ορισμός θα πρέπει να βασίζεται στα βασικά λειτουργικά χαρακτηριστικά ενός μοντέλου ΤΝ γενικού σκοπού, ιδίως στη γενικότητα και την ικανότητα αποτελεσματικής εκτέλεσης ευρέος φάσματος διακριτών εργασιών. Τα μοντέλα αυτά εκπαιδεύονται συνήθως σε μεγάλο όγκο δεδομένων, μέσω διάφορων μεθόδων, όπως αυτοεποπτευόμενη, μη εποπτευόμενη ή ενισχυτική μάθηση. Τα μοντέλα ΤΝ γενικού σκοπού μπορούν να διατίθενται στην αγορά με διάφορους τρόπους, μεταξύ άλλων μέσω βιβλιοθηκών, μέσω διεπαφών προγραμματισμού εφαρμογών (ΔΠΕ), ως απευθείας τηλεφόρτωση ή ως υλικό αντίγραφο. Τα μοντέλα αυτά μπορούν να τροποποιούνται περαιτέρω ή να βελτιώνονται σε νέα μοντέλα. Μολονότι τα μοντέλα ΤΝ είναι βασικά κατασκευαστικά στοιχεία των συστημάτων ΤΝ, τα ίδια δεν αποτελούν συστήματα ΤΝ. Τα μοντέλα ΤΝ χρειάζονται την προσθήκη περαιτέρω κατασκευαστικών στοιχείων, όπως για παράδειγμα μια διεπαφή χρήστη, για να καταστούν συστήματα ΤΝ. Τα μοντέλα ΤΝ ενσωματώνονται συνήθως σε συστήματα ΤΝ και αποτελούν μέρος τους. Ο παρών κανονισμός προβλέπει ειδικούς κανόνες για τα μοντέλα ΤΝ γενικού σκοπού και για τα μοντέλα ΤΝ γενικού σκοπού που ενέχουν συστημικούς κινδύνους, οι οποίοι θα πρέπει να εφαρμόζονται επίσης όταν τα μοντέλα αυτά είναι ενσωματωμένα σε σύστημα ΤΝ ή αποτελούν μέρος του. Εξυπακούεται ότι οι υποχρεώσεις για τους παρόχους μοντέλων ΤΝ γενικού σκοπού θα πρέπει να εφαρμόζονται μόλις διατεθούν στην αγορά τα μοντέλα ΤΝ γενικού σκοπού. Όταν ο πάροχος μοντέλου ΤΝ γενικού σκοπού ενσωματώνει δικό του μοντέλο στο δικό του σύστημα ΤΝ που καθίσταται διαθέσιμο στην αγορά ή τίθεται σε λειτουργία, το εν λόγω μοντέλο θα πρέπει να θεωρείται ότι διατίθεται στην αγορά και, κατά συνέπεια, οι υποχρεώσεις που προβλέπονται στον παρόντα κανονισμό για τα μοντέλα θα πρέπει να εξακολουθήσουν να ισχύουν επιπλέον των υποχρεώσεων για τα συστήματα ΤΝ. Οι υποχρεώσεις που προβλέπονται για τα μοντέλα δεν θα πρέπει σε καμία περίπτωση να εφαρμόζονται όταν ίδιο μοντέλο χρησιμοποιείται για αμιγώς εσωτερικές διαδικασίες που δεν είναι απαραίτητες για την παροχή προϊόντος ή υπηρεσίας σε τρίτα μέρη και δεν θίγονται τα δικαιώματα των φυσικών προσώπων. Λαμβανομένων υπόψη των δυνητικών σημαντικά αρνητικών επιπτώσεών τους, τα μοντέλα ΤΝ γενικού σκοπού με συστημικό κίνδυνο θα πρέπει πάντα να υπόκεινται στις σχετικές υποχρεώσεις που απορρέουν από τον παρόντα κανονισμό. Ο ορισμός δεν θα πρέπει να καλύπτει τα μοντέλα ΤΝ που χρησιμοποιούνται πριν από τη διάθεσή τους στην αγορά με αποκλειστικό σκοπό δραστηριότητες έρευνας, ανάπτυξης και κατασκευής πρωτοτύπων. Η πρόβλεψη αυτή δεν θίγει την υποχρέωση συμμόρφωσης με τον παρόντα κανονισμό, όταν, μετά τις προαναφερόμενες δραστηριότητες, το μοντέλο διατίθεται στην αγορά.
(97)
Понятието „модели на ИИ с общо предназначение“ следва да бъде ясно определено и разграничено от понятието „системи с ИИ“, за да се гарантира правна сигурност. Определението следва да се основава на ключовите функционални характеристики на модел на ИИ с общо предназначение, по-специално общ характер и способност за компетентно изпълнение на широк набор от отделни задачи. Тези модели обикновено се обучават въз основа на голямо количество данни чрез различни методи, като например обучение (самообучение) със и без надзор и обучение с утвърждение. Моделите на ИИ с общо предназначение могат да бъдат пускани на пазара по различни начини, включително чрез библиотеки, приложно-програмни интерфейси (API), за директно изтегляне или с физическо копие. Тези модели могат да бъдат допълнително изменени или усъвършенствани в нови модели. Въпреки че моделите на ИИ са основни компоненти на системите с ИИ, сами по себе си те не представляват системи с ИИ. Моделите на ИИ изискват добавянето на допълнителни компоненти, като например потребителски интерфейс, за да се превърнат в системи с ИИ. Моделите на ИИ обикновено са интегрирани в системите с ИИ и са част от тях. В настоящия регламент се предвиждат специални правила за моделите на ИИ с общо предназначение и за моделите на ИИ с общо предназначение, пораждащи системни рискове, които следва да се прилагат и когато тези модели са интегрирани в система с ИИ или са част от нея. Приема се, че задълженията на доставчиците на модели на ИИ с общо предназначение следва да се прилагат след пускането на тези модели на пазара. Когато доставчикът на модел на ИИ с общо предназначение интегрира собствен модел в своя собствена система с ИИ, която се предоставя на пазара или се пуска в действие, този модел следва да се счита за пуснат на пазара и поради това задълженията, установени в настоящия регламент по отношение на моделите, следва да продължат да се прилагат в допълнение към задълженията за системите с ИИ. Задълженията, установени за моделите, във всички случаи не следва да се прилагат, когато собствен модел се използва за чисто вътрешни процеси, които не са от съществено значение за предоставянето на продукт или услуга на трети лица, и когато правата на физическите лица не са засегнати. Като се има предвид възможното им значително отрицателно въздействие, за моделите на ИИ с общо предназначение, пораждащи системен риск, следва винаги да се прилагат съответните задължения съгласно настоящия регламент. Определението не следва да обхваща модели на ИИ, използвани преди пускането им на пазара единствено с цел научноизследователска и развойна дейност и дейности по създаване на прототипи. Това не засяга задължението за спазване на настоящия регламент, когато след такива дейности на пазара се пуска модел.
(98)
Ενώ η γενικότητα ενός μοντέλου θα μπορούσε, μεταξύ άλλων, να καθορίζεται επίσης από ορισμένες παραμέτρους, τα μοντέλα με τουλάχιστον ένα δισεκατομμύριο παραμέτρους τα οποία έχουν εκπαιδευτεί με μεγάλο όγκο δεδομένων χρησιμοποιώντας αυτοεποπτεία σε κλίμακα θα πρέπει να θεωρείται ότι παρουσιάζουν σημαντική γενικότητα και ότι εκτελούν αποτελεσματικά ευρύ φάσμα διακριτών εργασιών.
(98)
Въпреки че общият характер на даден модел би могъл, наред с другото, да се определя и от редица параметри, следва да се счита, че модели с поне един милиард параметри, обучени с голямо количество данни и проявяващи в голяма степен самонадзор, се отличават със значителна степен на общ характер и компетентно изпълняват широк набор от отделни задачи.
(99)
Τα μεγάλα μοντέλα παραγωγικής ΤΝ αποτελούν κλασικό παράδειγμα μοντέλου ΤΝ γενικού σκοπού, δεδομένου ότι επιτρέπουν την ευέλικτη παραγωγή περιεχομένου, π.χ. με τη μορφή κειμένου, ήχου, εικόνων ή βίντεο, που μπορεί εύκολα να εξυπηρετήσει ευρύ φάσμα διακριτών εργασιών.
(99)
Големите генеративни модели на ИИ са типичен пример за модел на ИИ с общо предназначение, като се има предвид, че те дават възможност за гъвкаво генериране на съдържание, например под формата на текст, аудиоматериали, изображения или видеоматериали, което лесно може да покрие широк спектър от отделни задачи.
(100)
Όταν ένα μοντέλο ΤΝ γενικού σκοπού ενσωματώνεται σε σύστημα ΤΝ ή αποτελεί μέρος του, το σύστημα αυτό θα πρέπει να θεωρείται σύστημα ΤΝ γενικού σκοπού όταν, λόγω αυτής της ενσωμάτωσης, το σύστημα έχει την ικανότητα να εξυπηρετεί ποικίλους σκοπούς. Ένα σύστημα ΤΝ γενικού σκοπού μπορεί να χρησιμοποιηθεί απευθείας ή να ενσωματωθεί σε άλλα συστήματα ΤΝ.
(100)
Когато модел на ИИ с общо предназначение е интегриран в система с ИИ или е част от нея, тази система следва да се счита за система с ИИ с общо предназначение, когато поради тази интеграция системата е в състояние да обслужва най-различни цели. Системата с ИИ с общо предназначение може да бъде използвана пряко или може да бъде интегрирана в други системи с ИИ.
(101)
Οι πάροχοι μοντέλων ΤΝ γενικού σκοπού έχουν ιδιαίτερο ρόλο και ευθύνη κατά μήκος της αξιακής αλυσίδας της ΤΝ, καθώς τα μοντέλα που παρέχουν μπορούν να αποτελέσουν τη βάση για ένα φάσμα κατάντη συστημάτων, τα οποία συχνά παρέχονται από κατάντη παρόχους που απαιτούν καλή κατανόηση των μοντέλων και των ικανοτήτων τους, τόσο για να καταστεί δυνατή η ενσωμάτωση των εν λόγω μοντέλων στα προϊόντα τους, όσο και για την εκπλήρωση των υποχρεώσεών τους βάσει του παρόντος κανονισμού ή άλλων κανονισμών. Συνεπώς, θα πρέπει να θεσπιστούν αναλογικά μέτρα διαφάνειας, συμπεριλαμβανομένων της κατάρτισης και της επικαιροποίησης της τεκμηρίωσης, και η παροχή πληροφοριών σχετικά με το μοντέλο ΤΝ γενικού σκοπού για τη χρήση του από τους κατάντη παρόχους. Ο τεχνικός φάκελος θα πρέπει να καταρτίζεται και να επικαιροποιείται από τον πάροχο του μοντέλου ΤΝ γενικού σκοπού προκειμένου να είναι διαθέσιμος, κατόπιν αιτήματος, στην Υπηρεσία ΤΝ και στις εθνικές αρμόδιες αρχές. Το ελάχιστο σύνολο στοιχείων που πρέπει να περιλαμβάνονται στον φάκελο τεκμηρίωσης θα πρέπει να καθορίζεται σε συγκεκριμένα παραρτήματα του παρόντος κανονισμού. Θα πρέπει να ανατεθεί στην Επιτροπή η εξουσία να τροποποιεί αυτά τα παραρτήματα με κατ’ εξουσιοδότηση πράξεις υπό το πρίσμα των τεχνολογικών εξελίξεων.
(101)
Доставчиците на модели на ИИ с общо предназначение имат особено значение и отговорност по веригата за създаване на стойност в областта на ИИ, тъй като моделите, които предоставят, могат да бъдат основа за набор от системи надолу по веригата, често предоставяни от доставчици надолу по веригата, които трябва добре да разбират моделите и техните способности, както за да могат да интегрират такива модели в своите продукти, така и за да изпълняват задълженията си съгласно настоящия или други регламенти. Поради това следва да се определят пропорционални мерки за прозрачност, включително изготвяне и актуализиране на документацията и предоставяне на информация относно модела на ИИ с общо предназначение за използването му от доставчиците надолу по веригата. Техническата документация следва да се изготвя и актуализира от доставчика на модели на ИИ с общо предназначение с цел предоставянето ѝ при поискване на Службата по ИИ и на националните компетентни органи. Минималният набор от елементи, които трябва да бъдат включени в тази документация, следва да бъде посочен в конкретни приложения към настоящия регламент. На Комисията следва да бъде предоставено правомощието да изменя тези приложения чрез делегирани актове с оглед на технологичното развитие.
(102)
Το λογισμικό και τα δεδομένα, συμπεριλαμβανομένων των μοντέλων, που διατίθενται με δωρεάν άδεια ανοικτού κώδικα που επιτρέπει την ανοικτή κοινοχρησία τους και βάσει της οποίας οι χρήστες μπορούν να έχουν ελεύθερη πρόσβαση στα εν λόγω προϊόντα ή τροποποιημένες εκδόσεις τους και να τα χρησιμοποιούν, να τα τροποποιούν και να τα αναδιανέμουν, μπορούν να συμβάλουν στην έρευνα και την καινοτομία στην αγορά και μπορούν να προσφέρουν σημαντικές ευκαιρίες ανάπτυξης για την οικονομία της Ένωσης. Τα μοντέλα ΤΝ γενικού σκοπού που διατίθενται με δωρεάν άδειες ανοικτού κώδικα θα πρέπει να θεωρείται ότι διασφαλίζουν υψηλά επίπεδα διαφάνειας και ανοικτού χαρακτήρα, εάν δημοσιοποιούνται οι παράμετροί τους, συμπεριλαμβανομένων των συντελεστών στάθμισης, των πληροφοριών σχετικά με την αρχιτεκτονική του μοντέλου και των πληροφοριών σχετικά με τη χρήση του μοντέλου. Η άδεια θα πρέπει να θεωρείται ότι είναι δωρεάν και ανοικτού κώδικα επίσης όταν επιτρέπει στους χρήστες να εκτελούν, να αντιγράφουν, να διανέμουν, να μελετούν, να αλλάζουν και να βελτιώνουν το λογισμικό και τα δεδομένα, συμπεριλαμβανομένων των μοντέλων, υπό την προϋπόθεση ότι αναφέρεται ο αρχικός πάροχος του μοντέλου και ότι τηρούνται πανομοιότυποι ή εφάμιλλοι όροι διανομής.
(102)
Софтуер и данни, включително модели, предоставени с безплатен лиценз с отворен код, който им позволява да бъдат споделяни свободно и чрез който ползвателите могат свободно да ги достъпват, използват, променят и разпространяват в променен или непроменен вид, могат да допринесат за научните изследвания и иновациите на пазара и да осигурят значителни възможности за растеж на икономиката на Съюза. Следва да се обмисли използването на модели на ИИ с общо предназначение, представени с безплатни лицензи с отворен код, за да се гарантират високи равнища на прозрачност и отвореност, ако техните параметри, включително теглата, информацията за архитектурата на модела и информацията за използването на модела са публично достъпни. Лицензът следва да се счита за безплатен и с отворен код и когато дава възможност на ползвателите да използват, копират, разпространяват, изучават, променят и подобряват софтуер и данни, включително модели, при условие че се посочва първоначалният доставчик на модела и се спазват еднакви или сходни условия на разпространение.
(103)
Τα δωρεάν κατασκευαστικά στοιχεία ΤΝ ανοικτού κώδικα καλύπτουν το λογισμικό και τα δεδομένα, συμπεριλαμβανομένων των μοντέλων και των μοντέλων ΤΝ γενικού σκοπού, των εργαλείων, των υπηρεσιών ή των διαδικασιών συστήματος ΤΝ. Τα δωρεάν κατασκευαστικά στοιχεία ΤΝ ανοικτού κώδικα μπορούν να παρέχονται μέσω διάφορων διαύλων, μεταξύ άλλων με την ανάπτυξή τους σε ανοικτά αποθετήρια. Για τους σκοπούς του παρόντος κανονισμού, τα κατασκευαστικά στοιχεία ΤΝ που παρέχονται έναντι αντιτίμου ή άλλου είδους χρηματικής αποτίμησης, μεταξύ άλλων μέσω της παροχής τεχνικής υποστήριξης ή άλλων υπηρεσιών, μεταξύ άλλων μέσω πλατφόρμας λογισμικού, οι οποίες σχετίζονται με το κατασκευαστικό στοιχείο ΤΝ ή μέσω της χρήσης δεδομένων προσωπικού χαρακτήρα για λόγους άλλους από την αποκλειστική βελτίωση της ασφάλειας, της συμβατότητας ή της διαλειτουργικότητας του λογισμικού, με εξαίρεση τις συναλλαγές μεταξύ πολύ μικρών επιχειρήσεων, δεν θα πρέπει να επωφελούνται από τις απαλλαγές που χορηγούνται σε δωρεάν κατασκευαστικά στοιχεία ΤΝ ανοικτού κώδικα. Η διάθεση κατασκευαστικών στοιχείων ΤΝ μέσω ανοικτών αποθετηρίων δεν θα πρέπει, αυτή καθαυτή, να συνιστά χρηματική αποτίμηση.
(103)
Безплатните компоненти с ИИ с отворен код обхващат софтуера и данните, включително модели и модели, инструменти, услуги или процеси с ИИ с общо предназначение на дадена система с ИИ. Безплатните компоненти с ИИ с отворен код могат да бъдат предоставяни по различни начини, включително чрез разработването им в хранилища със свободен достъп. За целите на настоящия регламент компонентите с ИИ, които се предоставят срещу заплащане или се възмездяват по друг начин, включително чрез предоставянето на техническа поддръжка или други услуги, включително чрез софтуерна платформа, свързани с компонента с ИИ, или използването на лични данни по причини, различни от изключителната цел за подобряване на сигурността, съвместимостта или оперативната съвместимост на софтуера, с изключение на сделките между микропредприятия, не следва да се ползват от изключенията, предвидени за безплатните компоненти с ИИ с отворен код. Предоставянето на компоненти с ИИ чрез хранилища със свободен достъп не следва само по себе си да представлява възмездяване.
(104)
Οι πάροχοι μοντέλων ΤΝ γενικού σκοπού τα οποία διατίθενται με δωρεάν άδεια ανοικτού κώδικα και των οποίων δημοσιοποιούνται οι παράμετροι, συμπεριλαμβανομένων των συντελεστών στάθμισης, των πληροφοριών σχετικά με την αρχιτεκτονική του μοντέλου και των πληροφοριών σχετικά με τη χρήση του μοντέλου, θα πρέπει να υπόκεινται σε εξαιρέσεις όσον αφορά τις απαιτήσεις διαφάνειας που επιβάλλονται σε μοντέλα ΤΝ γενικού σκοπού, εκτός εάν μπορεί να θεωρηθεί ότι παρουσιάζουν συστημικό κίνδυνο, οπότε η συνθήκη ότι το μοντέλο είναι διαφανές και συνοδεύεται από άδεια ανοικτού κώδικα δεν θα πρέπει να θεωρείται επαρκής λόγος για να εξαιρείται από τη συμμόρφωση με τις υποχρεώσεις που απορρέουν από τον παρόντα κανονισμό. Σε κάθε περίπτωση, δεδομένου ότι η διάθεση μοντέλων ΤΝ γενικού σκοπού με δωρεάν άδεια ανοικτού κώδικα δεν αποκαλύπτει κατ’ ανάγκη ουσιαστικές πληροφορίες σχετικά με το σύνολο δεδομένων που χρησιμοποιήθηκε για την εκπαίδευση ή τη βελτίωση του μοντέλου και σχετικά με τον τρόπο με τον οποίο διασφαλίστηκε κατά συνέπεια η τήρηση του δικαίου περί πνευματικής ιδιοκτησίας, η εξαίρεση από τη συμμόρφωση με τις απαιτήσεις διαφάνειας που προβλέπεται για τα μοντέλα ΤΝ γενικού σκοπού δεν θα πρέπει να αφορά την υποχρέωση κατάρτισης περίληψης σχετικά με το περιεχόμενο που χρησιμοποιήθηκε για την εκπαίδευση μοντέλων, ούτε την υποχρέωση εφαρμογής πολιτικής συμμόρφωσης με το ενωσιακό δίκαιο περί πνευματικής ιδιοκτησίας, ειδικότερα δε για τον εντοπισμό και τη συμμόρφωση με τη διατήρηση των δικαιωμάτων κατά τα προβλεπόμενα στο άρθρο 4 παράγραφος 3 της οδηγίας (ΕΕ) 2019/790 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (40).
(104)
За доставчиците на модели на ИИ с общо предназначение, които са предоставени с безплатен лиценз с отворен код и чиито параметри, включително теглата, информацията за архитектурата на модела и информацията за използването на модела, са публично достъпни, следва да се прилагат изключения по отношение на свързаните с прозрачността изисквания, наложени на моделите на ИИ с общо предназначение, освен когато може да се счита, че те пораждат системен риск, като в този случай обстоятелството, че моделът е прозрачен и придружен от лиценз с отворен код, не следва да се счита за достатъчна причина за изключване на спазването на задълженията съгласно настоящия регламент. Във всеки случай, като се има предвид, че предоставянето на модели на ИИ с общо предназначение с безплатен лиценз с отворен код не разкрива непременно съществена информация относно набора от данни, използван за обучението или финото регулиране на модела, и относно това как по този начин се гарантира спазването на авторското право, предвиденото за моделите на ИИ с общо предназначение изключение от съответствието с изискванията, свързани с прозрачността, не следва да се отнася до задължението за изготвяне на обобщение на съдържанието, използвано за обучение на модели, и задължението за въвеждане на политика за спазване на правото на Съюза в областта на авторското право, по-специално за установяване и съблюдаване на запазването на права съгласно член 4, параграф 3 от Директива (ЕС) 2019/790 на Европейския парламент и на Съвета (40).
(105)
Τα μοντέλα ΤΝ γενικού σκοπού, ιδίως τα μεγάλα παραγωγικά μοντέλα ΤΝ, που είναι ικανά να παράγουν κείμενο, εικόνες και άλλο περιεχόμενο, παρουσιάζουν μοναδικές ευκαιρίες καινοτομίας, αλλά και προκλήσεις για τους καλλιτέχνες, τους συγγραφείς και άλλους δημιουργούς και τον τρόπο με τον οποίο δημιουργείται, διανέμεται, χρησιμοποιείται και καταναλώνεται το δημιουργικό τους περιεχόμενο. Για την ανάπτυξη και την εκπαίδευση τέτοιων μοντέλων απαιτείται πρόσβαση σε τεράστιο όγκο κειμένων, εικόνων, βίντεο και άλλων δεδομένων. Οι τεχνικές εξόρυξης κειμένων και δεδομένων μπορούν να χρησιμοποιούνται εκτενώς στο πλαίσιο αυτό για την ανάκτηση και την ανάλυση τέτοιου περιεχομένου, το οποίο ενδέχεται να προστατεύεται από δικαιώματα πνευματικής ιδιοκτησίας και συγγενικά δικαιώματα. Για κάθε χρήση περιεχομένου που προστατεύεται από δικαιώματα πνευματικής ιδιοκτησίας απαιτείται η άδεια του οικείου δικαιούχου, εκτός εάν ισχύουν σχετικές εξαιρέσεις και περιορισμοί όσον αφορά τα δικαιώματα πνευματικής ιδιοκτησίας. Η οδηγία (ΕΕ) 2019/790 θέσπισε εξαιρέσεις και περιορισμούς που επιτρέπουν τις αναπαραγωγές και τις εξαγωγές έργων ή άλλων αντικειμένων προστασίας, για τους σκοπούς της εξόρυξης κειμένων και δεδομένων, υπό ορισμένες προϋποθέσεις. Σύμφωνα με τους κανόνες αυτούς, οι δικαιούχοι μπορούν να επιλέξουν να διατηρήσουν τα δικαιώματά τους επί των έργων τους ή άλλων αντικειμένων προστασίας για να αποτρέψουν την εξόρυξη κειμένων και δεδομένων, εκτός εάν αυτή γίνεται για σκοπούς επιστημονικής έρευνας. Όταν τα δικαιώματα εξαίρεσης έχουν ρητά διατηρηθεί με κατάλληλο τρόπο, οι πάροχοι μοντέλων ΤΝ γενικού σκοπού χρειάζεται να λαμβάνουν άδεια από τους δικαιούχους, εάν επιθυμούν να πραγματοποιήσουν εξόρυξη κειμένων και δεδομένων από τέτοια έργα.
(105)
Моделите на ИИ с общо предназначение, по-специално големите генеративни модели на ИИ, способни да генерират текст, изображения и друго съдържание, представляват уникални възможности за иновации, но също така са свързани и с трудности за хората на изкуството, авторите и другите творци, както и за начина, по който тяхното творческо съдържание се създава, разпространява, използва и потребява. Разработването и обучението на такива модели изисква достъп до големи количества текст, изображения, видеоматериали и други данни. Техниките за извличане на информация от текст и данни могат да се използват широко в този контекст за извличане и анализ на такова съдържание, което може да бъде защитено с авторско право и сродните му права. Всяко използване на защитено с авторско право съдържание изисква разрешение от съответните носители на права, освен ако не се прилагат съответните изключения и ограничения, свързани с авторското право. С Директива (ЕС) 2019/790 бяха въведени изключения и ограничения, които позволяват възпроизвеждането и извличането на откъси от произведения или други обекти за целите на извличането на информация от текст и данни при определени условия. Съгласно тези правила носителите на права могат да изберат да запазят правата си върху своите произведения или други обекти, за да предотвратят извличането на информация от текст и данни, освен ако това не се извършва за целите на научни изследвания. Когато правото на отказ е изрично запазено по подходящ начин, доставчиците на модели на ИИ с общо предназначение трябва да получат разрешение от носителите на права, ако желаят да извършват извличане на информация от текст и данни за такива произведения.
(106)
Οι πάροχοι που διαθέτουν μοντέλα ΤΝ γενικού σκοπού στην αγορά της Ένωσης θα πρέπει να διασφαλίζουν τη συμμόρφωση με τις σχετικές υποχρεώσεις του παρόντος κανονισμού. Για τον σκοπό αυτόν, οι πάροχοι μοντέλων ΤΝ γενικού σκοπού θα πρέπει να εφαρμόζουν πολιτική συμμόρφωσης με το ενωσιακό δίκαιο για τα δικαιώματα πνευματικής ιδιοκτησίας και τα συγγενικά δικαιώματα, ειδικότερα δε για τον εντοπισμό και τη συμμόρφωση με τη διατήρηση των δικαιωμάτων των δικαιούχων κατά τα προβλεπόμενα στο άρθρο 4 παράγραφος 3 της οδηγίας (ΕΕ) 2019/790. Κάθε πάροχος που διαθέτει μοντέλο ΤΝ γενικού σκοπού στην αγορά της Ένωσης θα πρέπει να συμμορφώνεται με την υποχρέωση αυτή, ανεξάρτητα από τη δικαιοδοσία στην οποία λαμβάνουν χώρα οι σχετικές με τα δικαιώματα πνευματικής ιδιοκτησίας πράξεις στις οποίες βασίζεται η εκπαίδευση των εν λόγω μοντέλων ΤΝ γενικού σκοπού. Αυτό είναι αναγκαίο για τη διασφάλιση ισότιμων όρων ανταγωνισμού μεταξύ των παρόχων μοντέλων ΤΝ γενικού σκοπού, όπου κανένας πάροχος δεν θα πρέπει να είναι σε θέση να αποκτά ανταγωνιστικό πλεονέκτημα στην αγορά της Ένωσης εφαρμόζοντας λιγότερο αυστηρά πρότυπα για τα δικαιώματα πνευματικής ιδιοκτησίας σε σχέση με τα προβλεπόμενα στην Ένωση.
(106)
Доставчиците, които пускат на пазара на Съюза модели на ИИ с общо предназначение, следва да гарантират спазването на съответните задължения, установени в настоящия регламент. За тази цел доставчиците на модели на ИИ с общо предназначение следва да въведат политика за спазване на правото на Съюза в областта на авторското право и сродните му права, по-специално за установяване и съблюдаване на запазването на права, изразено от носителите на права съгласно член 4, параграф 3 от Директива (ЕС) 2019/790. Всеки доставчик, който пуска на пазара на Съюза модел на ИИ с общо предназначение, следва да спазва това задължение, независимо от юрисдикцията, в която се извършват действията, свързани с авторското право, които са в основата на обучението на тези модели на ИИ с общо предназначение. Това е необходимо, за да се гарантира равнопоставеност на доставчиците на модели на ИИ с общо предназначение, при което нито един доставчик не следва да може да получи конкурентно предимство на пазара на Съюза чрез прилагане на по-ниски стандарти в областта на авторското право от предвидените в Съюза.
(107)
Προκειμένου να αυξηθεί η διαφάνεια όσον αφορά τα δεδομένα που χρησιμοποιούνται κατά την προεκπαίδευση και την εκπαίδευση μοντέλων ΤΝ γενικού σκοπού, συμπεριλαμβανομένων των κειμένων και δεδομένων που προστατεύονται από το δίκαιο περί πνευματικής ιδιοκτησίας, είναι σκόπιμο οι πάροχοι τέτοιων μοντέλων να καταρτίζουν και να δημοσιοποιούν επαρκώς λεπτομερή περίληψη του περιεχομένου που χρησιμοποιήθηκε για την εκπαίδευση του μοντέλου ΤΝ γενικού σκοπού. Λαμβάνοντας δεόντως υπόψη την ανάγκη προστασίας του εμπορικού απορρήτου και των εμπιστευτικών επιχειρηματικών πληροφοριών, η περίληψη θα πρέπει να είναι γενικά περιεκτική ως προς το εύρος της και όχι τεχνικά λεπτομερής ώστε να διευκολύνονται τα μέρη με έννομα συμφέροντα, συμπεριλαμβανομένων των κατόχων δικαιωμάτων πνευματικής ιδιοκτησίας, να ασκούν και να επιβάλλουν τα δικαιώματά τους δυνάμει του ενωσιακού δικαίου, για παράδειγμα με την απαρίθμηση των κυριότερων συλλογών ή συνόλων δεδομένων που χρησιμοποιήθηκαν για την εκπαίδευση του μοντέλου, όπως μεγάλες ιδιωτικές ή δημόσιες βάσεις δεδομένων ή αρχεία δεδομένων, και με την παροχή περιγραφικής επεξήγησης σχετικά με άλλες πηγές δεδομένων που χρησιμοποιήθηκαν. Ενδείκνυται η Υπηρεσία ΤΝ να παρέχει υπόδειγμα για την περίληψη, το οποίο θα πρέπει να είναι απλό και αποτελεσματικό και να επιτρέπει στον πάροχο να παρέχει την απαιτούμενη περίληψη σε περιγραφική μορφή.
(107)
За да се повиши прозрачността по отношение на данните, които се използват при предварителното обучение и обучението на модели на ИИ с общо предназначение, включително текст и данни, защитени от правото в областта на авторското право, е целесъобразно доставчиците на такива модели да изготвят и оповестяват публично достатъчно подробно обобщение на съдържанието, използвано за обучение на модела на ИИ с общо предназначение. Като се отчита надлежно необходимостта от защита на търговските тайни и поверителната търговска информация, това обобщение следва като цяло да бъде изчерпателно по своя обхват, а не технически подробно, за да улесни лицата със законни интереси, включително носителите на авторски права, да упражняват и прилагат правата си съгласно правото на Съюза, например чрез изброяване на основните събрани данни или набори от данни, които са използвани при обучението по модела, като например големи частни или публични бази данни или архиви с данни, и чрез предоставяне на описателно разяснение за други използвани източници на данни. Целесъобразно е Службата по ИИ да осигури образец на обобщението, който следва да бъде опростен, ефективен и да позволява на доставчика да предостави изискваното обобщение в описателна форма.
(108)
Όσον αφορά τις υποχρεώσεις που επιβάλλονται στους παρόχους μοντέλων ΤΝ γενικού σκοπού να εφαρμόζουν πολιτική συμμόρφωσης με το ενωσιακό δίκαιο περί πνευματικής ιδιοκτησίας και να δημοσιοποιούν περίληψη του περιεχομένου που χρησιμοποιήθηκε για την εκπαίδευση, η Υπηρεσία ΤΝ θα πρέπει να παρακολουθεί εάν ο πάροχος έχει εκπληρώσει τις εν λόγω υποχρεώσεις χωρίς να επαληθεύει τα δεδομένα εκπαίδευσης ή να προβαίνει σε αξιολόγησή τους ανά έργο ως προς τη συμμόρφωση με τα δικαιώματα πνευματικής ιδιοκτησίας. Ο παρών κανονισμός δεν θίγει την επιβολή των κανόνων περί πνευματικής ιδιοκτησίας όπως προβλέπονται στο δίκαιο της Ένωσης.
(108)
По отношение на задълженията, наложени на доставчиците на модели на ИИ с общо предназначение, да въведат политика за спазване на правото на Съюза в областта на авторското право и да оповестят публично обобщение на съдържанието, използвано за обучението, Службата по ИИ следва да следи дали доставчикът е изпълнил тези задължения, без да проверява или да извършва оценка на обучителните данни за всяко отделно произведение от гледна точка на спазването на авторското право. Настоящият регламент не засяга прилагането на правилата в областта на авторското право, предвидени в правото на Съюза.
(109)
Η συμμόρφωση με τις υποχρεώσεις που ισχύουν για τους παρόχους μοντέλων ΤΝ γενικού σκοπού θα πρέπει να είναι ανάλογη και αναλογική προς το είδος του παρόχου μοντέλων, εξαιρουμένης της ανάγκης συμμόρφωσης για τα πρόσωπα που αναπτύσσουν ή χρησιμοποιούν μοντέλα για μη επαγγελματικούς σκοπούς ή για σκοπούς επιστημονικής έρευνας, τα οποία, ωστόσο, θα πρέπει να παροτρύνονται να συμμορφώνονται οικειοθελώς με τις απαιτήσεις αυτές. Με την επιφύλαξη του ενωσιακού δικαίου περί πνευματικής ιδιοκτησίας, η συμμόρφωση με τις εν λόγω υποχρεώσεις θα πρέπει να λαμβάνει δεόντως υπόψη το μέγεθος του παρόχου και να επιτρέπει απλουστευμένους τρόπους συμμόρφωσης για τις ΜΜΕ, συμπεριλαμβανομένων των νεοφυών επιχειρήσεων, οι οποίοι θα πρέπει να μη συνεπάγονται υπερβολικό κόστος και να μην αποθαρρύνουν τη χρήση τέτοιων μοντέλων. Σε περίπτωση τροποποίησης ή βελτίωσης μοντέλου, οι υποχρεώσεις των παρόχων μοντέλων ΤΝ γενικού σκοπού θα πρέπει να περιορίζονται στην εν λόγω τροποποίηση ή βελτίωση, για παράδειγμα με τη συμπλήρωση του ήδη υφιστάμενου τεχνικού φακέλου με πληροφορίες σχετικά με τις τροποποιήσεις, συμπεριλαμβανομένων νέων πηγών δεδομένων εκπαίδευσης, ως μέσο συμμόρφωσης με τις υποχρεώσεις της αξιακής αλυσίδας που προβλέπονται στον παρόντα κανονισμό.
(109)
Спазването на задълженията, приложими за доставчиците на модели на ИИ с общо предназначение, следва да бъде съизмеримо и пропорционално на вида доставчик на модели, като се изключва необходимостта от спазването им за лицата, които разработват или използват модели за непрофесионални или научноизследователски цели, които въпреки това следва да бъдат насърчавани да спазват тези изисквания на доброволна основа. Без да се засяга правото на Съюза в областта на авторското право, спазването на тези задължения следва да е надлежно съобразено с размера на доставчика и да дава възможност за опростени начини за постигане на съответствие за МСП, включително новосъздадени предприятия, които не следва да представляват прекомерни разходи и да не възпират използването на такива модели. В случай на изменение или фино регулиране на даден модел задълженията на доставчиците на модели на ИИ с общо предназначение следва да бъдат ограничени до това изменение или фино регулиране, например чрез допълване на вече съществуващата техническа документация с информация за измененията, включително нови източници на обучителни данни, като начин да се гарантира спазването на задълженията по веригата за създаване на стойност, предвидени в настоящия регламент.
(110)
Τα μοντέλα ΤΝ γενικού σκοπού θα μπορούσαν να ενέχουν συστημικούς κινδύνους που περιλαμβάνουν, μεταξύ άλλων, ενδεχόμενες πραγματικές ή ευλόγως προβλέψιμες αρνητικές επιπτώσεις σε σχέση με μείζονα ατυχήματα, διαταραχές κρίσιμων τομέων και σοβαρές συνέπειες για τη δημόσια υγεία και ασφάλεια· ενδεχόμενες πραγματικές ή ευλόγως προβλέψιμες αρνητικές επιπτώσεις στις δημοκρατικές διαδικασίες και τη δημόσια και οικονομική ασφάλεια· και τη διάδοση παράνομου ή ψευδούς περιεχομένου ή περιεχομένου που εισάγει διακρίσεις. Οι συστημικοί κίνδυνοι θα πρέπει να θεωρείται ότι αυξάνονται με τις ικανότητες και την εμβέλεια του μοντέλου, μπορούν να ανακύψουν καθ’ όλη τη διάρκεια του κύκλου ζωής του μοντέλου και επηρεάζονται από τις συνθήκες κακής χρήσης, την αξιοπιστία του μοντέλου, το κατά πόσο το μοντέλο είναι δίκαιο και την ασφάλεια του μοντέλου, το επίπεδο αυτονομίας του μοντέλου, την πρόσβασή του σε εργαλεία, τους καινοτόμους ή συνδυασμένους τρόπους λειτουργίας, τις στρατηγικές διάθεσης και διανομής, τη δυνατότητα αφαίρεσης των δικλίδων ασφαλείας και άλλους παράγοντες. Ειδικότερα, διεθνείς προσεγγίσεις έχουν μέχρι στιγμής εντοπίσει την ανάγκη να δοθεί προσοχή στους κινδύνους από δυνητική εσκεμμένη κακή χρήση ή ακούσια ζητήματα ελέγχου που σχετίζονται με την ευθυγράμμιση με ανθρώπινη πρόθεση· σε χημικούς, βιολογικούς, ραδιολογικούς και πυρηνικούς κινδύνους, όπως οι τρόποι με τους οποίους μπορούν να μειωθούν οι φραγμοί εισόδου, μεταξύ άλλων για την ανάπτυξη όπλων, την απόκτηση σχεδιασμού ή τη χρήση όπλων· σε επιθετικές ικανότητες στον κυβερνοχώρο, όπως οι τρόποι εντοπισμού τρωτών σημείων, εκμετάλλευσης ή επιχειρησιακής χρήσης· στις επιπτώσεις της αλληλεπίδρασης και της χρήσης εργαλείων, συμπεριλαμβανομένης π.χ. της ικανότητας ελέγχου υλικών συστημάτων και παρεμβολών σε υποδομές ζωτικής σημασίας· σε κινδύνους τα μοντέλα να δημιουργήσουν αντίγραφά τους ή να «αυτοαναπαραχθούν» ή να εκπαιδεύσουν άλλα μοντέλα· στους τρόπους με τους οποίους τα μοντέλα μπορούν να προκαλέσουν επιζήμιες περιπτώσεις μεροληψίας και διακρίσεις επικίνδυνες για τα άτομα, τις κοινότητες ή τις κοινωνίες· στη διευκόλυνση της παραπληροφόρησης ή την υπονόμευση της ιδιωτικής ζωής με απειλές κατά των δημοκρατικών αξιών και των ανθρώπινων δικαιωμάτων· και στον κίνδυνο ένα συγκεκριμένο συμβάν να οδηγήσει σε αλυσιδωτή αντίδραση με σημαντικές αρνητικές επιπτώσεις που θα μπορούσαν να επηρεάσουν μια ολόκληρη πόλη, τη δραστηριότητα ενός ολόκληρου τομέα ή μια ολόκληρη κοινότητα.
(110)
Моделите на ИИ с общо предназначение биха могли да породят системни рискове, които включват, но не се ограничават до действителни или разумно предвидими отрицателни последици във връзка с големи аварии, смущения в критични сектори и сериозни последици за общественото здраве и безопасност; действителни или разумно предвидими отрицателни последици за демократичните процеси, обществената и икономическата сигурност; разпространението на незаконно, невярно или дискриминационно съдържание. Следва да се приеме, че системните рискове нарастват заедно със способностите и обхвата на модела, могат да възникнат по време на целия жизнен цикъл на модела и се влияят от условията на неправилна експлоатация, надеждността, добросъвестността и сигурността на модела, степента на автономност на модела, неговия достъп до инструменти, новите или комбинираните условия, стратегиите за предоставяне и разпространение, възможността за премахване на предпазните механизми и други фактори. По-специално, досега международните подходи са установили необходимостта да се обърне внимание на рисковете, произтичащи от възможна умишлена неправилна експлоатация или непреднамерени проблеми с контрола, свързан с привеждането в съответствие с човешките намерения; химичните, биологичните, радиологичните и ядрените рискове, като например начините, по които могат да бъдат намалени пречките за достъп, включително за разработване, придобиване на дизайн или използване на оръжия; офанзивните киберспособности, като например средствата, позволяващи откриване, експлоатация или оперативно използване на уязвими места; последиците от взаимодействието и използването на инструменти, включително например капацитета за контрол на физическите системи и за намеса в критичната инфраструктура; рисковете, свързани с възможността моделите да изготвят свои собствени копия, да се самовъзпроизвеждат или да обучават други модели; начините, по които моделите могат да доведат до вредна предубеденост и дискриминация с рискове за физически лица, общности или общества; улесняването на дезинформацията или накърняването на неприкосновеността на личния живот чрез заплахи за демократичните ценности и правата на човека; риска дадено събитие да доведе до верижна реакция със значителни отрицателни последици, които биха могли да засегнат цял град, цяла област на дейност или цяла общност.
(111)
Ενδείκνυται να θεσπιστεί μεθοδολογία για την ταξινόμηση μοντέλων ΤΝ γενικού σκοπού ως μοντέλων ΤΝ γενικού σκοπού με συστημικούς κινδύνους. Δεδομένου ότι οι συστημικοί κίνδυνοι απορρέουν από τις ιδιαιτέρως υψηλού επιπέδου ικανότητες, ένα μοντέλο ΤΝ γενικού σκοπού θα πρέπει να θεωρείται ότι παρουσιάζει συστημικούς κινδύνους, εάν έχει ικανότητες υψηλού αντικτύπου, οι οποίες αξιολογούνται βάσει κατάλληλων τεχνικών εργαλείων και μεθοδολογιών, ή εάν έχει σημαντικό αντίκτυπο στην εσωτερική αγορά λόγω της εμβέλειάς του. Ως ικανότητες υψηλού αντικτύπου σε μοντέλα ΤΝ γενικού σκοπού νοούνται οι ικανότητες που αντιστοιχούν στις ικανότητες που καταγράφονται στα πλέον προηγμένα μοντέλα ΤΝ γενικού σκοπού ή τις υπερβαίνουν. Το πλήρες φάσμα των ικανοτήτων ενός μοντέλου μπορεί να γίνει καλύτερα αντιληπτό μετά τη διάθεσή του στην αγορά ή όταν οι φορείς εφαρμογής αλληλεπιδρούν με το μοντέλο. Ανάλογα με την εξέλιξη της τεχνολογίας κατά τον χρόνο έναρξης ισχύος του παρόντος κανονισμού, ο σωρευτικός όγκος υπολογιστικής που χρησιμοποιήθηκε για την εκπαίδευση του μοντέλου ΤΝ γενικού σκοπού μετρημένος σε πράξεις κινητής υποδιαστολής είναι μία από τις σχετικές προσεγγίσεις για τις ικανότητες των μοντέλων. Ο σωρευτικός όγκος υπολογιστικής που χρησιμοποιείται για την εκπαίδευση περιλαμβάνει την υπολογιστική που χρησιμοποιείται σε όλες τις δραστηριότητες και τις μεθόδους που αποσκοπούν στην ενίσχυση των ικανοτήτων του μοντέλου πριν από την εφαρμογή του, όπως η προεκπαίδευση, η παραγωγή συνθετικών δεδομένων και η βελτίωση. Κατά συνέπεια, θα πρέπει να καθοριστεί ένα αρχικό κατώτατο όριο πράξεων κινητής υποδιαστολής, το οποίο, εάν πληρούται από μοντέλο ΤΝ γενικού σκοπού, συνεπάγεται τεκμήριο ότι το μοντέλο είναι μοντέλο ΤΝ γενικού σκοπού με συστημικούς κινδύνους. Το κατώτατο όριο θα πρέπει να αναπροσαρμόζεται με την πάροδο του χρόνου, ώστε να αντικατοπτρίζει τις τεχνολογικές και βιομηχανικές αλλαγές, όπως αλγοριθμικές βελτιώσεις ή αυξημένη αποδοτικότητα του υλισμικού, και θα πρέπει να συμπληρώνεται με κριτήρια αναφοράς και δείκτες για την ικανότητα του μοντέλου. Για να το διαμορφώνει αυτό, η Υπηρεσία ΤΝ θα πρέπει να συνεργάζεται με την επιστημονική κοινότητα, τη βιομηχανία, την κοινωνία των πολιτών και άλλους εμπειρογνώμονες. Τα κατώτατα όρια, καθώς και τα εργαλεία και τα κριτήρια αναφοράς για την αξιολόγηση των ικανοτήτων υψηλού αντικτύπου, θα πρέπει να αποτελούν ισχυρούς παράγοντες πρόβλεψης της γενικότητας, των ικανοτήτων και του συνδεδεμένου συστημικού κινδύνου των μοντέλων ΤΝ γενικού σκοπού και θα μπορούσαν να λαμβάνουν υπόψη τον τρόπο με τον οποίον το μοντέλο θα διατεθεί στην αγορά ή τον αριθμό των χρηστών που ενδέχεται να επηρεάσει. Για να συμπληρωθεί αυτό το σύστημα, η Επιτροπή θα πρέπει να έχει τη δυνατότητα να λαμβάνει μεμονωμένες αποφάσεις για τον χαρακτηρισμό ενός μοντέλου ΤΝ γενικού σκοπού ως μοντέλου ΤΝ γενικού σκοπού με συστημικό κίνδυνο, εάν διαπιστωθεί ότι το εν λόγω μοντέλο έχει ικανότητες ή αντίκτυπο ισοδύναμα με εκείνα που αποτυπώνονται στο καθορισμένο κατώτατο όριο. Η απόφαση αυτή θα πρέπει να λαμβάνεται βάσει συνολικής αξιολόγησης των κριτηρίων για τον χαρακτηρισμό ενός μοντέλου ΤΝ γενικού σκοπού με συστημικό κίνδυνο που περιέχεται σε παράρτημα του παρόντος κανονισμού, όπως η ποιότητα ή το μέγεθος του συνόλου δεδομένων εκπαίδευσης, ο αριθμός των επιχειρηματικών και των τελικών χρηστών, οι λεπτομέρειες εισόδου και εξόδου, το επίπεδο αυτονομίας του και η δυνατότητά του κλιμάκωσης ή τα εργαλεία στα οποία έχει πρόσβαση. Κατόπιν αιτιολογημένου αιτήματος παρόχου του οποίου το μοντέλο έχει χαρακτηριστεί ως μοντέλο ΤΝ γενικού σκοπού με συστημικό κίνδυνο, η Επιτροπή θα πρέπει να λαμβάνει υπόψη το αίτημα και μπορεί να αποφασίζει να επαναξιολογεί εάν το μοντέλο ΤΝ γενικού σκοπού μπορεί ακόμη να θεωρηθεί ότι παρουσιάζει συστημικούς κινδύνους.
(111)
Целесъобразно е да се създаде методика за класифициране на моделите на ИИ с общо предназначение като модели на ИИ с общо предназначение, пораждащи системен риск. Тъй като системните рискове произтичат от особено големи способности, следва да се счита, че моделът на ИИ с общо предназначение поражда системни рискове, ако има способности с висока степен на въздействие, оценени въз основа на подходящи технически инструменти и методики, или значително въздействие върху вътрешния пазар поради своя обхват. Способностите с висока степен на въздействие при моделите на ИИ с общо предназначение означава способности, които съответстват на или надхвърлят способностите, регистрирани в най-напредналите модели на ИИ с общо предназначение. Пълният набор от способности на даден модел би могъл да бъде по-добре разбран след пускането му на пазара или при взаимодействието на внедрителите с модела. В зависимост от съвременните технически постижения към момента на влизане в сила на настоящия регламент общото количество изчисления, използвани за обучението на модела на ИИ с общо предназначение, измерено при операции с плаваща запетая, е една от значимите приблизителни стойности за способностите на модела. Общото количество изчисления, използвано за обучение, включва изчисленията, използвани за всички дейности и методи, които са предназначени да подобрят способностите на модела преди внедряването, като например предварително обучение, генериране на синтетични данни и фино регулиране. Поради това следва да се определи първоначален праг за операции с плаваща запетая, който, ако бъде достигнат от даден модел на ИИ с общо предназначение, води до презумпцията, че това е модел на ИИ с общо предназначение, пораждащ системен риск. Този праг следва да бъде коригиран с течение на времето, за да отразява технологичните и промишлените промени, като например подобрения в алгоритмите или повишена ефективност на хардуера, и следва да бъде допълван с референтни стойности и показатели за способностите на модела. За тази цел Службата по ИИ следва да работи с научната общност, стопанския сектор, гражданското общество и други експерти. Праговете, както и инструментите и референтните показатели за оценка на способностите с висока степен на въздействие следва да бъдат добри прогнозни фактори за общия характер, способностите и свързания системен риск на моделите на ИИ с общо предназначение и биха могли да вземат предвид начина, по който моделът ще бъде пуснат на пазара, или броя на ползвателите, които той може да засегне. За да се допълни тази система, Комисията следва да има възможност да взема индивидуални решения за определяне на модел на ИИ с общо предназначение като модел на ИИ с общо предназначение, пораждащ системен риск, ако се установи, че този модел има способности или въздействие, равностойни на тези, обхванати от определения праг. Това решение следва да се вземе въз основа на цялостна оценка на критериите за определяне на модели на ИИ с общо предназначение, пораждащи системен риск, посочени в приложение към настоящия регламент, като например качество или размер на набора от обучителни данни, брой на бизнес ползвателите и крайните ползватели, свързаните с него условия за входящи данни и резултати, степен на автономност и възможности за увеличаване на мащаба или инструментите, до които той има достъп. При обосновано искане от доставчик, чийто модел е определен като модел на ИИ с общо предназначение, пораждащ системен риск, Комисията следва да вземе предвид искането и може да реши да направи нова преценка дали все още може да се счита, че моделът на ИИ с общо предназначение поражда системни рискове.
(112)
Είναι επίσης απαραίτητο να διευκρινιστεί διαδικασία για την ταξινόμηση ενός μοντέλου ΤΝ γενικού σκοπού με συστημικούς κινδύνους. Μοντέλο ΤΝ γενικού σκοπού που πληροί το εφαρμοστέο κατώτατο όριο για ικανότητες υψηλού αντικτύπου θα πρέπει να τεκμαίρεται ότι είναι μοντέλο ΤΝ γενικού σκοπού με συστημικό κίνδυνο. Ο πάροχος θα πρέπει να ενημερώνει την Υπηρεσία ΤΝ το αργότερο δύο εβδομάδες μετά την εκπλήρωση των απαιτήσεων ή αφότου γίνει γνωστό ότι ένα μοντέλο ΤΝ γενικού σκοπού θα εκπληρώνει τις απαιτήσεις που συνεπάγονται τεκμήριο. Αυτό είναι ιδιαίτερα σημαντικό σε σχέση με το κατώτατο όριο πράξεων κινητής υποδιαστολής, διότι η εκπαίδευση μοντέλων ΤΝ γενικού σκοπού απαιτεί σημαντικό σχεδιασμό, ο οποίος περιλαμβάνει την εκ των προτέρων κατανομή υπολογιστικών πόρων και, ως εκ τούτου, οι πάροχοι μοντέλων ΤΝ γενικού σκοπού είναι σε θέση να γνωρίζουν αν το μοντέλο τους θα εκπληρώσει το κατώτατο όριο πριν από την ολοκλήρωση της εκπαίδευσης. Στο πλαίσιο αυτής της ενημέρωσης, ο πάροχος θα πρέπει να είναι σε θέση να αποδείξει ότι, λόγω των ειδικών χαρακτηριστικών του, ένα μοντέλο ΤΝ γενικού σκοπού κατ’ εξαίρεση δεν παρουσιάζει συστημικούς κινδύνους και ότι, ως εκ τούτου, δεν θα πρέπει να ταξινομηθεί ως μοντέλο ΤΝ γενικού σκοπού με συστημικούς κινδύνους. Οι πληροφορίες αυτές είναι πολύτιμες, ώστε η υπηρεσία ΤΝ να μπορεί να προβλέπει τη διάθεση στην αγορά μοντέλων ΤΝ γενικού σκοπού με συστημικούς κινδύνους, οι δε πάροχοι μπορούν να αρχίσουν να συνεργάζονται με την Υπηρεσία ΤΝ σε πρώιμο στάδιο. Οι πληροφορίες αυτές είναι ιδιαίτερα σημαντικές όσον αφορά τα μοντέλα ΤΝ γενικού σκοπού που προβλέπεται να διατεθούν ως ανοικτού κώδικα, δεδομένου ότι, μετά τη διάθεση μοντέλων ανοικτού κώδικα, ενδέχεται να είναι πιο δύσκολο να εφαρμοστούν τα αναγκαία μέτρα για τη διασφάλιση της συμμόρφωσης με τις υποχρεώσεις που απορρέουν από τον παρόντα κανονισμό.
(112)
Необходимо е също така да се изясни процедурата за класифициране на модел на ИИ с общо предназначение, пораждащ системен риск. Модел на ИИ с общо предназначение, който отговаря на приложимия праг за способности с висока степен на въздействие, следва да се счита за модел на ИИ с общо предназначение, пораждащ системен риск. Доставчикът следва да уведоми Службата по ИИ най-късно две седмици след като бъдат изпълнени изискванията или стане известно, че даден модел на ИИ с общо предназначение ще отговаря на изискванията, свързани с презумпцията. Това е от особено значение във връзка с прага на операции с плаваща запетая, тъй като обучението на модели на ИИ с общо предназначение преминава през значително планиране, което включва предварително разпределяне на изчислителните ресурси, и следователно доставчиците на модели на ИИ с общо предназначение са в състояние да знаят дали техният модел би достигнал прага преди завършване на обучението. В контекста на това уведомяване доставчикът следва да може да докаже, че поради конкретните си характеристики даден модел на ИИ с общо предназначение по изключение не поражда системни рискове и че поради това не следва да бъде класифициран като модел на ИИ с общо предназначение, пораждащ системен риск. Тази информация е ценна, за да даде възможност на Службата по ИИ да предвиди пускането на пазара на модели на ИИ с общо предназначение, пораждащи системен риск, а на доставчиците да могат да започнат работа със Службата по ИИ на ранен етап. Информацията е особено важна по отношение на модели на ИИ с общо предназначение, за които се планира да бъдат пуснати с отворен код, като се има предвид, че след пускането на модел с отворен код може да е по-трудно да се приложат необходимите мерки за гарантиране на спазването на задълженията съгласно настоящия регламент.
(113)
Εάν η Επιτροπή λάβει γνώση του γεγονότος ότι ένα μοντέλο ΤΝ γενικού σκοπού πληροί τις απαιτήσεις για να ταξινομηθεί ως μοντέλο ΤΝ γενικού σκοπού με συστημικό κίνδυνο, ενώ προηγουμένως είτε δεν ήταν γνωστό είτε ο οικείος πάροχος δεν είχε ενημερώσει σχετικά την Επιτροπή, η Επιτροπή θα πρέπει να έχει το δικαίωμα να το χαρακτηρίσει ως τέτοιο. Ένα σύστημα ειδικών προειδοποιήσεων θα πρέπει να διασφαλίζει ότι η Υπηρεσία ΤΝ ενημερώνεται από την επιστημονική ομάδα σχετικά με μοντέλα ΤΝ γενικού σκοπού που θα πρέπει ενδεχομένως να ταξινομηθούν ως μοντέλα ΤΝ γενικού σκοπού με συστημικό κίνδυνο, επιπλέον των δραστηριοτήτων παρακολούθησης της Υπηρεσίας ΤΝ.
(113)
Ако на Комисията стане известен фактът, че даден модел на ИИ с общо предназначение отговаря на изискванията за класифициране като модел ИИ с общо предназначение, пораждащ системен риск, който преди това не е бил известен или за който съответният доставчик не е уведомил Комисията, на Комисията следва да бъде предоставено правомощието да го определи като такъв. Системата за приоритетни сигнали следва да гарантира, че Службата по ИИ е информирана от експертната група за модели на ИИ с общо предназначение, които евентуално следва да бъдат класифицирани като модели на ИИ с общо предназначение, пораждащи системен риск, в допълнение към дейностите по мониторинг на Службата по ИИ.
(114)
Οι πάροχοι μοντέλων ΤΝ γενικού σκοπού τα οποία παρουσιάζουν συστημικούς κινδύνους θα πρέπει να υπόκεινται, επιπλέον των υποχρεώσεων που προβλέπονται για τους παρόχους μοντέλων ΤΝ γενικού σκοπού, σε υποχρεώσεις που αποσκοπούν στον εντοπισμό και τον μετριασμό των εν λόγω κινδύνων και στη διασφάλιση κατάλληλου επιπέδου προστασίας της κυβερνοασφάλειας, ανεξάρτητα από το αν το μοντέλο παρέχεται ως αυτοτελές ή ενσωματωμένο σε σύστημα ΤΝ ή σε προϊόν. Για την επίτευξη αυτών των στόχων, ο παρών κανονισμός θα πρέπει να απαιτεί από τους παρόχους να διενεργούν τις απαραίτητες αξιολογήσεις μοντέλων, ιδίως πριν από την πρώτη διάθεσή τους στην αγορά, μεταξύ άλλων διενεργώντας και τεκμηριώνοντας αντιπαραθετικές δοκιμές μοντέλων, επίσης, κατά περίπτωση, μέσω εσωτερικών ή ανεξάρτητων εξωτερικών δοκιμών. Επιπλέον, οι πάροχοι μοντέλων ΤΝ γενικού σκοπού με συστημικούς κινδύνους θα πρέπει συνεχώς να εκτιμούν και να μετριάζουν τους συστημικούς κινδύνους, μεταξύ άλλων, για παράδειγμα, με τη θέσπιση πολιτικών διαχείρισης κινδύνων, όπως διαδικασίες λογοδοσίας και διακυβέρνησης, την εφαρμογή παρακολούθησης μετά τη διάθεση στην αγορά, τη λήψη κατάλληλων μέτρων καθ’ όλη τη διάρκεια του κύκλου ζωής του μοντέλου και τη συνεργασία με σχετικούς παράγοντες κατά μήκος της αξιακής αλυσίδας της ΤΝ.
(114)
За доставчиците на модели на ИИ с общо предназначение, пораждащи системни рискове, следва да се прилагат, в допълнение към задълженията, предвидени за доставчиците на модели на ИИ с общо предназначение, задължения, насочени към установяване и ограничаване на тези рискове и осигуряване на подходящо равнище на защита на киберсигурността, независимо дали тези модели се предоставят като самостоятелни модели, или са вградени в система с ИИ или продукт. За постигането на тези цели настоящият регламент следва да изисква от доставчиците да извършват необходимите оценки на модела, по-специално преди първото му пускане на пазара, включително провеждане и документиране на конкурентно изпитване на модели, когато е целесъобразно и чрез вътрешни или независими външни изпитвания. Освен това доставчиците на модели на ИИ с общо предназначение, пораждащи системен риск, следва непрекъснато да оценяват и ограничават системните рискове, включително например чрез въвеждане на политики за управление на риска, като например процеси на отчетност и администриране, проследяване след пускането на пазара, предприемане на подходящи мерки през целия жизнен цикъл на модела и сътрудничество със съответните участници по веригата за създаване на стойност в областта на ИИ.
(115)
Οι πάροχοι μοντέλων ΤΝ γενικού σκοπού με συστημικούς κινδύνους θα πρέπει να εκτιμούν και να μετριάζουν πιθανούς συστημικούς κινδύνους. Εάν, παρά τις προσπάθειες για τον εντοπισμό και την πρόληψη κινδύνων που σχετίζονται με μοντέλο ΤΝ γενικού σκοπού το οποίο ενδέχεται να ενέχει συστημικούς κινδύνους, η ανάπτυξη ή η χρήση του μοντέλου προκαλέσει σοβαρό περιστατικό, ο πάροχος του μοντέλου ΤΝ γενικού σκοπού θα πρέπει, χωρίς αδικαιολόγητη καθυστέρηση, να παρακολουθεί το περιστατικό και να αναφέρει σχετικές πληροφορίες και πιθανά διορθωτικά μέτρα στην Επιτροπή και στις εθνικές αρμόδιες αρχές. Επιπλέον, οι πάροχοι θα πρέπει να διασφαλίζουν κατάλληλο επίπεδο προστασίας της κυβερνοασφάλειας για το μοντέλο και την υλική υποδομή του, κατά περίπτωση, καθ’ όλη τη διάρκεια του κύκλου ζωής του μοντέλου. Για την προστασία της κυβερνοασφάλειας που σχετίζεται με συστημικούς κινδύνους οι οποίοι συνδέονται με κακόβουλη χρήση ή επιθέσεις θα πρέπει να λαμβάνονται δεόντως υπόψη η τυχαία διαρροή μοντέλων, η μη επιτρεπόμενη διάθεση, η καταστρατήγηση των μέτρων ασφάλειας και η άμυνα κατά κυβερνοεπιθέσεων, μη εξουσιοδοτημένης πρόσβασης ή κλοπής μοντέλων. Η προστασία αυτή θα μπορούσε να διευκολυνθεί με την εξασφάλιση συντελεστών στάθμισης μοντέλου, αλγορίθμων, εξυπηρετητών και συνόλων δεδομένων, όπως μέσω μέτρων επιχειρησιακής ασφάλειας για την ασφάλεια των πληροφοριών, ειδικών πολιτικών κυβερνοασφάλειας, κατάλληλων τεχνικών και καθιερωμένων λύσεων, καθώς και ελέγχων κυβερνοπρόσβασης και φυσικής πρόσβασης, κατάλληλων για τις σχετικές περιστάσεις και τους εκάστοτε κινδύνους.
(115)
Доставчиците на модели на ИИ с общо предназначение, пораждащи системен риск, следва да оценяват и ограничават възможните системни рискове. Ако въпреки усилията за установяване и предотвратяване на рискове, свързани с модел на ИИ с общо предназначение, който може да поражда системни рискове, разработването или използването на модела причини сериозен инцидент, доставчикът на модел на ИИ с общо предназначение следва без ненужно забавяне да проследи инцидента и да докладва на Комисията и на националните компетентни органи за всяка съответна информация и възможни коригиращи действия. Освен това доставчиците следва да гарантират подходящо равнище на защита на киберсигурността на модела и неговата физическа инфраструктура, ако е целесъобразно, през целия жизнен цикъл на модела. Защитата на киберсигурността от системни рискове, свързани с недобросъвестно използване или атаки, следва надлежно да отчита случайни фактори като изтичане на модел, неразрешено предоставяне, заобикаляне на мерките за безопасност и защита срещу кибератаки, неразрешен достъп или кражба на модел. Тази защита може да бъде улеснена чрез осигуряване на тегла на моделите, алгоритми, сървъри и набори от данни, например чрез оперативни мерки за информационна сигурност, специфични политики за киберсигурност, подходящи технически и изпитани решения и контрол на кибердостъпа и физическия достъп, съобразени със съответните обстоятелства и рискове.
(116)
Η Υπηρεσία ΤΝ θα πρέπει να ενθαρρύνει και να διευκολύνει την κατάρτιση, την επανεξέταση και την προσαρμογή κωδίκων πρακτικής, λαμβάνοντας υπόψη τις διεθνείς προσεγγίσεις. Θα μπορούσαν να κληθούν να συμμετάσχουν όλοι οι πάροχοι μοντέλων ΤΝ γενικού σκοπού. Για να διασφαλιστεί ότι οι κώδικες πρακτικής αποτυπώνουν την εξέλιξη της τεχνολογίας και λαμβάνουν δεόντως υπόψη ένα ευρύ σύνολο προοπτικών, η Υπηρεσία ΤΝ θα πρέπει να συνεργάζεται με τις σχετικές εθνικές αρμόδιες αρχές και θα μπορούσε, κατά περίπτωση, να διαβουλεύεται με οργανώσεις της κοινωνίας των πολιτών και άλλους σχετικούς συμφεροντούχους και εμπειρογνώμονες, συμπεριλαμβανομένης της επιστημονικής ομάδας, για την κατάρτιση τέτοιων κωδίκων. Οι κώδικες πρακτικής θα πρέπει να καλύπτουν τις υποχρεώσεις των παρόχων μοντέλων ΤΝ γενικού σκοπού και μοντέλων ΤΝ γενικού σκοπού που παρουσιάζουν συστημικούς κινδύνους. Επιπλέον, όσον αφορά τους συστημικούς κινδύνους, οι κώδικες πρακτικής θα πρέπει να συμβάλουν στην καθιέρωση ταξινομίας κινδύνου για το είδος και τη φύση των συστημικών κινδύνων σε επίπεδο Ένωσης, συμπεριλαμβανομένων των πηγών τους. Οι κώδικες πρακτικής θα πρέπει επίσης να επικεντρώνονται σε συγκεκριμένα μέτρα εκτίμησης κινδύνου και μετριασμού.
(116)
Службата по ИИ следва да насърчава и улеснява изготвянето, прегледа и адаптирането на кодекси за добри практики, като взема предвид международните подходи. Всички доставчици на модели на ИИ с общо предназначение биха могли да бъдат поканени да участват. За да се гарантира, че кодексите за добри практики отразяват съвременните технически постижения и са надлежно съобразени с набор от различни гледни точки, Службата по ИИ следва да си сътрудничи със съответните национални компетентни органи и би могла, когато е целесъобразно, да се консултира с организации на гражданското общество и други съответни заинтересовани страни и експерти, включително експертната група, за изготвянето на такива кодекси. Кодексите за добри практики следва да включват задълженията на доставчиците на модели на ИИ с общо предназначение и на модели на ИИ с общо предназначение, пораждащи системен риск. Освен това, по отношение на системните рискове, кодексите за добри практики следва да спомогнат за установяването на таксономия на вида и естеството на системните рискове на равнището на Съюза, включително техните източници. Кодексите за добри практики следва също така да бъдат съсредоточени върху конкретни мерки за оценка и ограничаване на риска.
(117)
Οι κώδικες πρακτικής θα πρέπει να αποτελούν κεντρικό εργαλείο για την ορθή συμμόρφωση με τις υποχρεώσεις που προβλέπονται στον παρόντα κανονισμό για τους παρόχους μοντέλων ΤΝ γενικού σκοπού. Οι πάροχοι θα πρέπει να μπορούν να βασίζονται σε κώδικες πρακτικής για να αποδεικνύουν τη συμμόρφωση με τις υποχρεώσεις. Με εκτελεστικές πράξεις, η Επιτροπή μπορεί να αποφασίζει να εγκρίνει κώδικα πρακτικής και να του προσδίδει γενική ισχύ εντός της Ένωσης ή, εναλλακτικά, να θεσπίζει κοινούς κανόνες για την εφαρμογή των σχετικών υποχρεώσεων, εάν, κατά την έναρξη εφαρμογής του παρόντος κανονισμού, ένας κώδικας πρακτικής δεν μπορεί να οριστικοποιηθεί ή κρίνεται ακατάλληλος από την Υπηρεσία ΤΝ. Μόλις εναρμονισμένο πρότυπο δημοσιευθεί και αξιολογηθεί ως κατάλληλο για την κάλυψη των σχετικών υποχρεώσεων από την Υπηρεσία ΤΝ, η συμμόρφωση με ευρωπαϊκό εναρμονισμένο πρότυπο θα πρέπει να εξασφαλίζει στους παρόχους τεκμήριο συμμόρφωσης. Οι πάροχοι μοντέλων ΤΝ γενικού σκοπού θα πρέπει επίσης να είναι σε θέση να αποδεικνύουν τη συμμόρφωση με τη χρήση εναλλακτικών κατάλληλων μέσων, εάν δεν υπάρχουν κώδικες πρακτικής ή εναρμονισμένα πρότυπα ή όταν οι πάροχοι επιλέγουν να μη βασιστούν σε αυτά.
(117)
Кодексите за добри практики следва да представляват основен инструмент за правилното спазване на задълженията, предвидени в настоящия регламент за доставчиците на модели на ИИ с общо предназначение. Доставчиците следва да могат да се основават на кодекси за добри практики, за да докажат спазването на задълженията. Комисията може да реши да одобри чрез акт за изпълнение кодекс за добри практики и да осигури общата му приложимост в рамките на Съюза или, като друга възможност, да предвиди общи правила за изпълнението на съответните задължения, ако до началото на прилагането на настоящия регламент даден кодекс за добри практики не може да бъде подготвен или не се счита за подходящ от Службата по ИИ. След като даден хармонизиран стандарт бъде публикуван и оценен като подходящ за покриване на съответните задължения от Службата по ИИ, съответствието с европейски хармонизиран стандарт следва да дава на доставчиците презумпция за съответствие. Освен това доставчиците на модели на ИИ с общо предназначение следва да могат да докажат съответствие, като използват други подходящи средства, ако няма кодекси за добри практики или хармонизирани стандарти или ако решат да не разчитат на тях.
(118)
Ο παρών κανονισμός ρυθμίζει τα συστήματα ΤΝ και τα μοντέλα ΤΝ επιβάλλοντας ορισμένες απαιτήσεις και υποχρεώσεις στους σχετικούς παράγοντες της αγοράς που τα διαθέτουν στην αγορά, τα θέτουν σε λειτουργία ή τα χρησιμοποιούν στην Ένωση, συμπληρώνοντας έτσι τις υποχρεώσεις των παρόχων ενδιάμεσων υπηρεσιών που ενσωματώνουν τέτοια συστήματα ή μοντέλα στις υπηρεσίες τους οι οποίες ρυθμίζονται από τον κανονισμό (ΕΕ) 2022/2065. Στον βαθμό που τα εν λόγω συστήματα ή μοντέλα είναι ενσωματωμένα σε χαρακτηρισμένες πολύ μεγάλες επιγραμμικές πλατφόρμες ή πολύ μεγάλες επιγραμμικές μηχανές αναζήτησης, υπόκεινται στο πλαίσιο διαχείρισης κινδύνων που προβλέπεται στον κανονισμό (ΕΕ) 2022/2065. Κατά συνέπεια, οι αντίστοιχες υποχρεώσεις του παρόντος κανονισμού θα πρέπει να τεκμαίρεται ότι πληρούνται, εκτός εάν προκύψουν σημαντικοί συστημικοί κίνδυνοι που δεν καλύπτονται από τον κανονισμό (ΕΕ) 2022/2065 και εντοπίζονται σε τέτοια μοντέλα. Στο πλαίσιο αυτό, οι πάροχοι πολύ μεγάλων επιγραμμικών πλατφορμών και πολύ μεγάλων επιγραμμικών μηχανών αναζήτησης υποχρεούνται να προβαίνουν σε εκτίμηση δυνητικών συστημικών κινδύνων που απορρέουν από τον σχεδιασμό, τη λειτουργία και τη χρήση των υπηρεσιών τους, συμπεριλαμβανομένου του τρόπου με τον οποίο ο σχεδιασμός αλγοριθμικών συστημάτων που χρησιμοποιούνται στην υπηρεσία ενδέχεται να συμβάλει σε τέτοιους κινδύνους, καθώς και των συστημικών κινδύνων που απορρέουν από δυνητικές κακές χρήσεις. Οι πάροχοι αυτοί υποχρεούνται επίσης να λαμβάνουν κατάλληλα μέτρα μετριασμού με σεβασμό των θεμελιωδών δικαιωμάτων.
(118)
С настоящия регламент се уреждат системите с ИИ и моделите на ИИ, като се налагат определени изисквания и задължения за съответните пазарни участници, които ги пускат на пазара, пускат в действие или използват в Съюза, като по този начин се допълват задълженията на доставчиците на посреднически услуги, които интегрират такива системи или модели в своите услуги, които се уреждат от Регламент (ЕС) 2022/2065. Доколкото тези системи или модели са вградени в определени много големи онлайн платформи или много големи онлайн търсачки, за тях се прилага рамката за управление на риска, предвидена в Регламент (ЕС) 2022/2065. Следователно съответните задължения съгласно настоящия регламент следва да се считат за изпълнени, освен ако в такива модели не възникнат и се установят значителни системни рискове, които не са обхванати от Регламент (ЕС) 2022/2065. В тази контекст от доставчиците на много големи онлайн платформи и много големи онлайн търсачки се изисква да оценяват потенциалните системни рискове, произтичащи от проектирането, функционирането и използването на техните услуги, включително начина, по който проектирането на алгоритмични системи, използвани в услугата, може да допринесе за появата на такива рискове, както и системните рискове, произтичащи от еветуална неправилна експлоатация. Тези доставчици са длъжни също така да предприемат подходящи мерки за ограничаване при спазване на основните права.
(119)
Λαμβάνοντας υπόψη τον ταχύ ρυθμό της καινοτομίας και την τεχνολογική εξέλιξη των ψηφιακών υπηρεσιών που εμπίπτουν στο πεδίο εφαρμογής διάφορων πράξεων του ενωσιακού δικαίου, έχοντας ιδίως κατά νου τη χρήση και την αντίληψη των αποδεκτών τους, τα συστήματα ΤΝ που υπόκεινται στον παρόντα κανονισμό μπορούν να παρέχονται ως ενδιάμεσες υπηρεσίες ή μέρη αυτών κατά την έννοια του κανονισμού (ΕΕ) 2022/2065, ο οποίος θα πρέπει να ερμηνεύεται με τεχνολογικά ουδέτερο τρόπο. Για παράδειγμα, τα συστήματα ΤΝ μπορούν να χρησιμοποιούνται για την παροχή επιγραμμικών μηχανών αναζήτησης, ιδίως στον βαθμό που ένα σύστημα ΤΝ όπως ένα επιγραμμικό διαλογικό ρομπότ πραγματοποιεί αναζητήσεις, κατ’ αρχήν, σε όλους τους ιστοτόπους, στη συνέχεια ενσωματώνει τα αποτελέσματα στις υφιστάμενες γνώσεις του και χρησιμοποιεί τις επικαιροποιημένες γνώσεις για να παράγει ενιαία στοιχεία εξόδου που συνδυάζουν διαφορετικές πηγές πληροφοριών.
(119)
Предвид бързия темп на иновациите и технологичното развитие на цифровите услуги, попадащи в обхвата на различните инструменти на правото на Съюза, по-специално като се има предвид използването и възприемането им от страна на техните получатели, системите с ИИ, които са предмет на настоящия регламент, могат да бъдат предоставяни като посреднически услуги или части от тях по смисъла на Регламент (ЕС) 2022/2065, който следва да се тълкува по технологично неутрален начин. Например системите с ИИ могат да се използват за предоставяне на онлайн търсачки, по-специално доколкото дадена система с ИИ, като например онлайн чатбот, извършва търсене по принцип на всички уебсайтове, след това интегрира резултатите в съществуващите си знания и използва актуализираните знания, за да генерира единен резултат, който съчетава различни източници на информация.
(120)
Εξάλλου, οι υποχρεώσεις που επιβάλλονται στους παρόχους και τους φορείς εφαρμογής ορισμένων συστημάτων ΤΝ στον παρόντα κανονισμό προκειμένου να μπορεί να ανιχνεύεται και να αποκαλύπτεται ότι τα στοιχεία εξόδου των εν λόγω συστημάτων έχουν παραχθεί ή υποστεί χειρισμό τεχνητά είναι ιδιαίτερα σημαντικές για τη διευκόλυνση της αποτελεσματικής εφαρμογής του κανονισμού (ΕΕ) 2022/2065. Αυτό ισχύει ιδίως όσον αφορά τις υποχρεώσεις των παρόχων πολύ μεγάλων επιγραμμικών πλατφορμών ή πολύ μεγάλων επιγραμμικών μηχανών αναζήτησης να εντοπίζουν και να μετριάζουν τους συστημικούς κινδύνους που ενδέχεται να προκύψουν από τη διάδοση περιεχομένου που έχει παραχθεί ή υποστεί χειρισμό τεχνητά, ειδικότερα δε τον κίνδυνο πραγματικών ή προβλέψιμων αρνητικών επιπτώσεων στις δημοκρατικές διαδικασίες, τον πολιτικό διάλογο και τις εκλογικές διαδικασίες, μεταξύ άλλων μέσω παραπληροφόρησης.
(120)
Освен това задълженията, наложени с настоящия регламент на доставчиците и внедрителите на някои системи с ИИ с цел откриване и оповестяване, че резултатите от тези системи са изкуствено генерирани или обработени, са от особено значение с оглед на ефективното прилагане на Регламент (ЕС) 2022/2065. Това се отнася по-специално за задълженията на доставчиците на много големи онлайн платформи или много големи онлайн търсачки да установяват и ограничават системните рискове, които могат да възникнат поради разпространението на съдържание, което е било изкуствено генерирано или обработено, и по-специално риска от действителни или предвидими отрицателни последици за демократичните процеси, гражданския дебат и изборните процеси, включително чрез дезинформация.
(121)
Η τυποποίηση θα πρέπει να διαδραματίσει βασικό ρόλο στην παροχή τεχνικών λύσεων στους παρόχους για τη διασφάλιση της συμμόρφωσης με τον παρόντα κανονισμό, σύμφωνα με την εξέλιξη της τεχνολογίας, με σκοπό την προώθηση της καινοτομίας καθώς και της ανταγωνιστικότητας και της ανάπτυξης στην ενιαία αγορά. Η συμμόρφωση με τα εναρμονισμένα πρότυπα, όπως ορίζονται στο άρθρο 2 σημείο 1 στοιχείο γ) του κανονισμού (ΕΕ) αριθ. 1025/2012 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (41), τα οποία, υπό κανονικές συνθήκες, αναμένεται να ανταποκρίνονται στην εξέλιξη της τεχνολογίας, θα πρέπει να αποτελεί μέσο απόδειξης της συμμόρφωσης των παρόχων με τις απαιτήσεις του παρόντος κανονισμού. Θα πρέπει συνεπώς να ενθαρρυνθεί η ισόρροπη εκπροσώπηση των συμφερόντων με τη συμμετοχή όλων των σχετικών συμφεροντούχων στην ανάπτυξη προτύπων, ιδίως των ΜΜΕ, των ενώσεων καταναλωτών και των περιβαλλοντικών και κοινωνικών συμφεροντούχων σύμφωνα με τα άρθρα 5 και 6 του κανονισμού (ΕΕ) αριθ. 1025/2012. Προκειμένου να διευκολυνθεί η συμμόρφωση, τα αιτήματα τυποποίησης θα πρέπει να εκδίδονται από την Επιτροπή χωρίς αδικαιολόγητη καθυστέρηση. Κατά την προετοιμασία του αιτήματος τυποποίησης, η Επιτροπή θα πρέπει να συμβουλεύεται το συμβουλευτικό φόρουμ και το Συμβούλιο Τεχνητής Νοημοσύνης, προκειμένου να συλλέξει σχετική εμπειρογνωσία. Ωστόσο, ελλείψει σχετικών παραπομπών σε εναρμονισμένα πρότυπα, η Επιτροπή θα πρέπει να είναι σε θέση να θεσπίζει, μέσω εκτελεστικών πράξεων και κατόπιν διαβούλευσης με το συμβουλευτικό φόρουμ, κοινές προδιαγραφές για ορισμένες απαιτήσεις δυνάμει του παρόντος κανονισμού. Η κοινή προδιαγραφή θα πρέπει να αποτελεί κατ’ εξαίρεση εφεδρική λύση για να διευκολύνεται η υποχρέωση του παρόχου να συμμορφώνεται με τις απαιτήσεις του παρόντος κανονισμού, όταν το αίτημα τυποποίησης δεν έχει γίνει δεκτό από κανέναν από τους ευρωπαϊκούς οργανισμούς τυποποίησης ή όταν τα σχετικά εναρμονισμένα πρότυπα δεν ανταποκρίνονται επαρκώς σε ανησυχίες σχετικές με τα θεμελιώδη δικαιώματα ή όταν τα εναρμονισμένα πρότυπα δεν συμμορφώνονται με το αίτημα ή όταν καθυστερεί η έγκριση κατάλληλου εναρμονισμένου προτύπου. Όταν η καθυστέρηση της έγκρισης εναρμονισμένου προτύπου οφείλεται στην τεχνική πολυπλοκότητα του εν λόγω προτύπου, η Επιτροπή θα πρέπει να το λάβει υπόψη πριν εξετάσει το ενδεχόμενο θέσπισης κοινών προδιαγραφών. Κατά την ανάπτυξη κοινών προδιαγραφών, η Επιτροπή παροτρύνεται να συνεργάζεται με διεθνείς εταίρους και διεθνείς οργανισμούς τυποποίησης.
(121)
Стандартизацията следва да заема ключово място за осигуряването на технически решения на доставчиците, за да се гарантира спазването на настоящия регламент, съобразно съвременните технически постижения, с цел да се насърчат иновациите, както и конкурентоспособността и растежът на единния пазар. Съответствието с хармонизираните стандарти по смисъла на определението в член 2, точка 1, буква в) от Регламент (ЕС) № 1025/2012 на Европейския парламент и на Съвета (41), които обикновено се очаква да отразяват съвременните технически постижения, следва да бъде средство за доказване на спазването на изискванията на настоящия регламент от доставчиците. Поради това следва да се насърчава балансирано представителство на интереси с участието в разработването на стандарти на всички съответни заинтересовани страни, по-специално МСП, организации на потребители и представляващите екологични и социални интереси заинтересовани страни в съответствие с членове 5 и 6 от Регламент (ЕС) № 1025/2012. За да се улесни съответствието, исканията за стандартизация следва да се отправят от Комисията без ненужно забавяне. При изготвянето на искането за стандартизация Комисията следва да се консултира с консултативния форум и със Съвета по ИИ, за да събере съответния експертен опит. При липсата на съответни позовавания на хармонизирани стандарти обаче Комисията следва да може да установява, чрез актове за изпълнение и след консултация с консултативния форум, общи спецификации за някои изисквания съгласно настоящия регламент. Общата спецификация следва да бъде извънредно алтернативно решение, за да се улесни изпълнението на задължението на доставчика да спазва изискванията на настоящия регламент, когато искането за стандартизация не е било прието от някоя от европейските организации за стандартизация или когато съответните хармонизирани стандарти не отразяват в достатъчна степен опасенията, свързани с основните права, или когато хармонизираните стандарти не отговарят на искането, или когато има забавяне в приемането на подходящ хармонизиран стандарт. Когато това забавяне в приемането на хармонизиран стандарт се дължи на техническата сложност на стандарта, това следва да се вземе предвид от Комисията, преди да се разгледа възможността за установяване на общи спецификации. При разработването на общи спецификации Комисията се насърчава да си сътрудничи с международни партньори и международни органи за стандартизация.
(122)
Ενδείκνυται, με την επιφύλαξη της χρήσης εναρμονισμένων προτύπων και κοινών προδιαγραφών, οι πάροχοι συστήματος ΤΝ υψηλού κινδύνου που έχει εκπαιδευτεί και δοκιμαστεί σε δεδομένα που αποτυπώνουν το συγκεκριμένο γεωγραφικό, συμπεριφορικό, συγκυριακό ή λειτουργικό πλαίσιο εντός του οποίου προορίζεται να χρησιμοποιηθεί το σύστημα ΤΝ να τεκμαίρεται ότι συμμορφώνονται με το σχετικό μέτρο που προβλέπεται στην απαίτηση για τη διακυβέρνηση των δεδομένων που ορίζεται στον παρόντα κανονισμό. Με την επιφύλαξη των απαιτήσεων στιβαρότητας και ακρίβειας που ορίζονται στον παρόντα κανονισμό, σύμφωνα με το άρθρο 54 παράγραφος 3 του κανονισμού (ΕΕ) 2019/881, τα συστήματα ΤΝ υψηλού κινδύνου που έχουν πιστοποιηθεί ή για τα οποία έχει εκδοθεί δήλωση συμμόρφωσης στο πλαίσιο συστήματος πιστοποίησης κυβερνοασφάλειας κατά τα προβλεπόμενα στον εν λόγω κανονισμό και των οποίων τα στοιχεία αναφοράς έχουν δημοσιευθεί στην Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης θα πρέπει να τεκμαίρεται ότι συμμορφώνονται με την απαίτηση κυβερνοασφάλειας του παρόντος κανονισμού, εφόσον το πιστοποιητικό κυβερνοασφάλειας ή η δήλωση συμμόρφωσης ή μέρη αυτών καλύπτουν την απαίτηση κυβερνοασφάλειας του παρόντος κανονισμού, χωρίς να θίγεται ο προαιρετικός χαρακτήρας του συστήματος πιστοποίησης κυβερνοασφάλειας.
(122)
Без да се засяга използването на хармонизирани стандарти и общи спецификации, е целесъобразно да се счита, че доставчиците на високорискова система с ИИ, която е била обучена и изпитана въз основа на данни, отразяващи конкретната географска, контекстуална, поведенческа или функционална среда, в която системата с ИИ е предназначена да бъде използвана, съответстват на съответната мярка, предвидена съгласно изискването за администриране на данни, определено в настоящия регламент. Без да се засягат изискванията, свързани с надеждността и точността, установени в настоящия регламент, в съответствие с член 54, параграф 3 от Регламент (ЕС) 2019/881 високорисковите системи с ИИ, които са сертифицирани или за които е издадена декларация за съответствие по схема за киберсигурност съгласно посочения регламент и данните за които са били публикувани в Официален вестник на Европейския съюз, следва да се считат за съответстващи на изискването за киберсигурност съгласно настоящия регламент, доколкото сертификатът за киберсигурност или декларацията за съответствие, или части от тях включват изискването за киберсигурност съгласно настоящия регламент. Това не засяга доброволния характер на тази схема за киберсигурност.
(123)
Προκειμένου να διασφαλιστεί υψηλό επίπεδο αξιοπιστίας των συστημάτων ΤΝ υψηλού κινδύνου, τα συστήματα αυτά θα πρέπει να υπόκεινται σε αξιολόγηση της συμμόρφωσης πριν από τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία.
(123)
За да се гарантира високо ниво на надеждност на високорисковите системи с ИИ, те следва да подлежат на оценяване на съответствието преди пускането им на пазара или пускането им в действие.
(124)
Προκειμένου να ελαχιστοποιηθεί η επιβάρυνση των φορέων εκμετάλλευσης και να αποφευχθεί κάθε πιθανή επικάλυψη, όσον αφορά τα συστήματα ΤΝ υψηλού κινδύνου που σχετίζονται με προϊόντα τα οποία καλύπτονται από την υφιστάμενη ενωσιακή νομοθεσία εναρμόνισης βάσει του νέου νομοθετικού πλαισίου, ενδείκνυται η συμμόρφωση των εν λόγω συστημάτων ΤΝ με τις απαιτήσεις του παρόντος κανονισμού να αξιολογείται στο πλαίσιο της αξιολόγησης της συμμόρφωσης που ήδη προβλέπεται στο εν λόγω δίκαιο. Συνεπώς, η δυνατότητα εφαρμογής των απαιτήσεων του παρόντος κανονισμού δεν θα πρέπει να επηρεάζει την ειδική λογική, τη μεθοδολογία ή τη γενική δομή της αξιολόγησης της συμμόρφωσης δυνάμει της σχετικής ενωσιακής νομοθεσίας εναρμόνισης.
(124)
За да се сведе до минимум тежестта за операторите и да се избегне всякакво възможно дублиране, за високорисковите системи с ИИ, свързани с продукти, които са обхванати от съществуващото законодателство на Съюза за хармонизация въз основа на новата законодателна рамка, е целесъобразно съответствието на тези системи с ИИ с изискванията на настоящия регламент да се оценява като част от оценяването на съответствието, което вече е предвидено съгласно посоченото право. Следователно приложимостта на изискванията на настоящия регламент не следва да засяга специфичната логика, методика или обща структура за оценяване на съответствието съгласно съответното законодателство на Съюза за хармонизация.
(125)
Λόγω της πολυπλοκότητας των συστημάτων ΤΝ υψηλού κινδύνου και των κινδύνων που συνδέονται με αυτά, είναι σημαντικό να αναπτυχθεί κατάλληλη διαδικασία αξιολόγησης της συμμόρφωσης για συστήματα ΤΝ υψηλού κινδύνου με τη συμμετοχή κοινοποιημένων οργανισμών, η οποία καλείται αξιολόγηση της συμμόρφωσης από τρίτο μέρος. Ωστόσο, λόγω της υφιστάμενης πείρας των επαγγελματιών φορέων πιστοποίησης πριν από τη διάθεση στην αγορά στον τομέα της ασφάλειας των προϊόντων, καθώς και της διαφορετικής φύσης των σχετικών κινδύνων, ενδείκνυται να περιοριστεί, τουλάχιστον κατά την αρχική φάση εφαρμογής του παρόντος κανονισμού, το πεδίο εφαρμογής της αξιολόγησης της συμμόρφωσης από τρίτο μέρος όσον αφορά τα συστήματα ΤΝ υψηλού κινδύνου εκτός εκείνων που σχετίζονται με τα προϊόντα. Συνεπώς, η αξιολόγηση της συμμόρφωσης τέτοιων συστημάτων θα πρέπει να διενεργείται κατά γενικό κανόνα από τον πάροχο με δική του ευθύνη, με μόνη εξαίρεση τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για βιομετρικά στοιχεία.
(125)
С оглед на сложността на високорисковите системи с ИИ и свързаните с тях рискове, е важно да се разработи подходяща процедура за оценяване на съответствието за високорискови системи с ИИ, включваща нотифицирани органи, т.нар. оценяване на съответствието от трето лице. Като се има предвид обаче настоящият опит в областта на безопасността на продуктите на професионалните сертифициращи органи преди пускането на пазара, както и различното естество на свързаните с тези продукти рискове, е целесъобразно да се ограничи, поне в началната фаза на прилагане на настоящия регламент, приложното поле на оценяването на съответствието от трето лице за високорисковите системи с ИИ, различни от свързаните с продукти. Поради това оценяването на съответствието на такива системи следва като общо правило да се извършва от доставчика на негова отговорност, като единствено изключение са системите с ИИ, предназначени да се използват за биометрични цели.
(126)
Για τη διενέργεια αξιολογήσεων της συμμόρφωσης από τρίτο μέρος όταν αυτό απαιτείται, θα πρέπει να κοινοποιούνται από τις εθνικές αρμόδιες αρχές κοινοποιημένοι οργανισμοί βάσει του παρόντος κανονισμού, υπό την προϋπόθεση ότι συμμορφώνονται με ένα σύνολο απαιτήσεων, ιδίως όσον αφορά την ανεξαρτησία, την επάρκεια, την απουσία συγκρούσεων συμφερόντων και τις δέουσες απαιτήσεις περί κυβερνοασφάλειας. Η κοινοποίηση των εν λόγω οργανισμών θα πρέπει να αποστέλλεται από τις εθνικές αρμόδιες αρχές στην Επιτροπή και στα άλλα κράτη μέλη μέσω του ηλεκτρονικού μέσου κοινοποίησης που έχει δημιουργήσει και διαχειρίζεται η Επιτροπή δυνάμει του παραρτήματος Ι άρθρο R23 της απόφασης αριθ. 768/2008/ΕΚ.
(126)
С цел извършване на оценяване на съответствието от трето лице, когато това се изисква, националните компетентни органи следва да нотифицират съгласно настоящия регламент нотифицираните органи, при условие че последните отговарят на набор от изисквания, по-специално относно независимостта, компетентността и отсъствието на конфликти на интереси и на подходящи изисквания за киберсигурност. Националните компетентни органи следва да изпращат нотификацията за тези органи до Комисията и другите държави членки чрез средството за електронно нотифициране, разработено и управлявано от Комисията съгласно член R23 от приложение I към Решение № 768/2008/ЕО.
(127)
Σε ευθυγράμμιση με τις δεσμεύσεις της Ένωσης στο πλαίσιο της συμφωνίας του Παγκόσμιου Οργανισμού Εμπορίου για τα τεχνικά εμπόδια στο εμπόριο, είναι σκόπιμο να διευκολυνθεί η αμοιβαία αναγνώριση των αποτελεσμάτων της αξιολόγησης της συμμόρφωσης που παράγονται από αρμόδιους οργανισμούς αξιολόγησης της συμμόρφωσης, ανεξαρτήτως από την επικράτεια στην οποία είναι εγκατεστημένοι, υπό την προϋπόθεση ότι οι οργανισμοί αξιολόγησης της συμμόρφωσης που έχουν συσταθεί δυνάμει του δικαίου τρίτης χώρας πληρούν τις εφαρμοστέες απαιτήσεις του παρόντος κανονισμού και η Ένωση έχει συνάψει σχετική συμφωνία. Στο πλαίσιο αυτό, η Επιτροπή θα πρέπει να διερευνήσει ενεργά πιθανές διεθνείς πράξεις για τον σκοπό αυτόν και ιδίως να επιδιώξει τη σύναψη συμφωνιών αμοιβαίας αναγνώρισης με τρίτες χώρες.
(127)
В съответствие с ангажиментите на Съюза съгласно Споразумението на Световната търговска организация за техническите пречки пред търговията е целесъобразно да се улесни взаимното признаване на резултатите от оценяването на съответствието, получени от компетентни органи за оценяване на съответствието, независимо от територията, на която са създадени, при условие че тези органи за оценяване на съответствието, създадени съгласно правото на трета държава, отговарят на приложимите изисквания на настоящия регламент и че Съюзът е сключил споразумение в това отношение. В този контекст Комисията следва активно да проучи възможните международни инструменти за тази цел и по-специално да се стреми към сключване на споразумения за взаимно признаване с трети държави.
(128)
Σε ευθυγράμμιση με την κοινώς καθιερωμένη έννοια της ουσιαστικής τροποποίησης για τα προϊόντα που ρυθμίζονται από την ενωσιακή νομοθεσία εναρμόνισης, όταν επέρχεται αλλαγή η οποία ενδέχεται να επηρεάσει τη συμμόρφωση ενός συστήματος ΤΝ υψηλού κινδύνου με τον παρόντα κανονισμό (π.χ. αλλαγή λειτουργικού συστήματος ή αρχιτεκτονικής λογισμικού) ή όταν αλλάζει ο επιδιωκόμενος σκοπός του συστήματος, ενδείκνυται το εν λόγω σύστημα ΤΝ να θεωρείται νέο σύστημα ΤΝ το οποίο θα πρέπει να υποβληθεί σε νέα αξιολόγηση της συμμόρφωσης. Ωστόσο, αλλαγές στον αλγόριθμο και στις επιδόσεις των συστημάτων ΤΝ που συνεχίζουν να «μαθαίνουν» μετά τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία, δηλαδή να προσαρμόζουν αυτόματα τον τρόπο εκτέλεσης των λειτουργιών, δεν θα πρέπει να συνιστούν ουσιαστική τροποποίηση, υπό την προϋπόθεση ότι οι εν λόγω αλλαγές έχουν προκαθοριστεί από τον πάροχο και έχουν αξιολογηθεί κατά τον χρόνο της αξιολόγησης της συμμόρφωσης.
(128)
В съответствие с общоприетото понятие за съществено изменение за продукти, регулирани от законодателството на Съюза за хармонизация, е целесъобразно дадена система с ИИ да се счита за нова система с ИИ, която следва да бъде подложена на ново оценяване на съответствието всеки път, когато настъпи промяна, която може да засегне съответствието на високорискова система с ИИ с настоящия регламент (например промяна на операционната система или на софтуерната архитектура), или когато предназначението на системата се промени. Въпреки това промените на алгоритъма или на действието на системи с ИИ, които продължават да се обучават след пускането им на пазара или пускането им в действие, а именно автоматично адаптират начина, по който се изпълняват функциите, не следва да се смятат за съществено изменение, при условие че тези промени са били предварително определени от доставчика и оценени към момента на оценяването на съответствието.
(129)
Τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να φέρουν τη σήμανση CE, ώστε να δηλώνεται η συμμόρφωσή τους με τον παρόντα κανονισμό και να μπορούν να κυκλοφορούν ελεύθερα εντός της εσωτερικής αγοράς. Για τα συστήματα ΤΝ υψηλού κινδύνου που είναι ενσωματωμένα σε προϊόν, θα πρέπει να τοποθετείται υλική σήμανση CE, η οποία μπορεί να συμπληρώνεται από ψηφιακή σήμανση CE. Για τα συστήματα ΤΝ υψηλού κινδύνου που παρέχονται μόνο ψηφιακά, θα πρέπει να χρησιμοποιείται ψηφιακή σήμανση CE. Τα κράτη μέλη δεν θα πρέπει να δημιουργούν αδικαιολόγητα εμπόδια στη διάθεση στην αγορά ή στη θέση σε λειτουργία των συστημάτων ΤΝ υψηλού κινδύνου που συμμορφώνονται με τις οριζόμενες στον παρόντα κανονισμό απαιτήσεις και φέρουν τη σήμανση CE.
(129)
Високорисковите системи с ИИ следва да носят маркировката „СЕ“, указваща тяхното съответствие с настоящия регламент с цел свободно движение в рамките на вътрешния пазар. За високорисковите системи с ИИ, вградени в продукт, следва да се постави физическа маркировка „СЕ“, която може да бъде допълнена с цифрова маркировка „СЕ“. За високорисковите системи с ИИ, предоставяни само в цифров вид, следва да се използва цифрова маркировка „CE“. Държавите членки не следва да създават необосновани пречки пред пускането на пазара или пускането в действие на високорискови системи с ИИ, които съответстват на изискванията, предвидени в настоящия регламент, и носят маркировката „СЕ“.
(130)
Υπό ορισμένες προϋποθέσεις, η ταχεία διαθεσιμότητα καινοτόμων τεχνολογιών μπορεί να έχει κρίσιμη σημασία για την υγεία και την ασφάλεια των προσώπων, για την προστασία του περιβάλλοντος και την κλιματική αλλαγή και για την κοινωνία στο σύνολό της. Συνεπώς, είναι σκόπιμο, για εξαιρετικούς λόγους δημόσιας ασφάλειας ή προστασίας της ζωής και της υγείας φυσικών προσώπων, προστασίας του περιβάλλοντος και προστασίας βασικών στοιχείων ενεργητικού της βιομηχανίας και των υποδομών, οι αρχές εποπτείας της αγοράς να μπορούν να επιτρέπουν τη διάθεση στην αγορά ή τη θέση σε λειτουργία συστημάτων ΤΝ που δεν έχουν υποβληθεί σε αξιολόγηση της συμμόρφωσης. Σε δεόντως αιτιολογημένες περιπτώσεις, όπως προβλέπεται στον παρόντα κανονισμό, οι αρχές επιβολής του νόμου ή οι αρχές πολιτικής προστασίας μπορούν να θέσουν σε λειτουργία ένα συγκεκριμένο σύστημα ΤΝ υψηλού κινδύνου χωρίς την άδεια της αρχής εποπτείας της αγοράς, υπό την προϋπόθεση ότι η εν λόγω άδεια ζητείται κατά τη διάρκεια της χρήσης ή μετά τη χρήση χωρίς αδικαιολόγητη καθυστέρηση.
(130)
При определени условия бързото осигуряване на иновативни технологии може да бъде от решаващо значение за здравето и безопасността на хората, опазването на околната среда и изменението на климата, както и за обществото като цяло. Поради това е целесъобразно по извънредни причини, свързани с обществената сигурност или защитата на живота и здравето на физическите лица, опазването на околната среда и защитата на ключови промишлени и инфраструктурни активи, органите за надзор на пазара да могат да разрешават пускането на пазара или пускането в действие на системи с ИИ, които не са преминали оценяване на съответствието. В надлежно обосновани случаи, предвидени в настоящия регламент, правоохранителните органи или органите за гражданска защита могат да пуснат в действие конкретна високорискова система с ИИ без разрешението на органа за надзор на пазара, при условие че такова разрешение е поискано без ненужно забавяне по време на използването или след него.
(131)
Για να διευκολυνθεί το έργο της Επιτροπής και των κρατών μελών στον τομέα της ΤΝ και για να αυξηθεί η διαφάνεια έναντι του κοινού, οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου εκτός αυτών που σχετίζονται με προϊόντα τα οποία εμπίπτουν στο πεδίο εφαρμογής της σχετικής υφιστάμενης ενωσιακής νομοθεσίας εναρμόνισης, καθώς και οι πάροχοι που θεωρούν ότι ένα σύστημα ΤΝ υψηλού κινδύνου που απαριθμείται στις περιπτώσεις χρήσης υψηλού κινδύνου σε παράρτημα του παρόντος κανονισμού δεν είναι υψηλού κινδύνου βάσει παρέκκλισης, θα πρέπει να υποχρεούνται να εγγράφονται και να καταχωρίζουν πληροφορίες σχετικά με το οικείο σύστημα ΤΝ σε βάση δεδομένων της ΕΕ, την οποία θα δημιουργήσει και θα διαχειρίζεται η Επιτροπή. Πριν από τη χρήση ενός συστήματος ΤΝ που απαριθμείται στις περιπτώσεις χρήσης υψηλού κινδύνου σε παράρτημα του παρόντος κανονισμού, οι φορείς εφαρμογής συστημάτων ΤΝ υψηλού κινδύνου που είναι δημόσιες αρχές, οργανισμοί ή φορείς θα πρέπει να εγγράφονται στην εν λόγω βάση δεδομένων και να επιλέγουν το σύστημα που προτίθενται να χρησιμοποιήσουν. Άλλοι φορείς εφαρμογής θα πρέπει να έχουν το δικαίωμα να το πράξουν οικειοθελώς. Αυτό το τμήμα της βάσης δεδομένων της ΕΕ θα πρέπει να είναι προσβάσιμο στο κοινό, δωρεάν, οι δε πληροφορίες θα πρέπει να είναι εύκολα πλοηγήσιμες, κατανοητές και μηχαναγνώσιμες. Η βάση δεδομένων της ΕΕ θα πρέπει επίσης να είναι φιλική προς τον χρήστη, για παράδειγμα παρέχοντας λειτουργικότητες αναζήτησης, μεταξύ άλλων με λέξεις-κλειδιά, που επιτρέπουν στο ευρύ κοινό να βρίσκει σχετικές πληροφορίες που πρέπει να υποβάλλονται κατά την καταχώριση συστημάτων ΤΝ υψηλού κινδύνου και σχετικά με την περίπτωση χρήσης των συστημάτων ΤΝ υψηλού κινδύνου που καθορίζονται σε παράρτημα του παρόντος κανονισμού και στα οποία αντιστοιχούν τα συστήματα ΤΝ υψηλού κινδύνου. Κάθε ουσιαστική τροποποίηση συστημάτων ΤΝ υψηλού κινδύνου θα πρέπει επίσης να καταχωρίζεται στη βάση δεδομένων της ΕΕ. Για τα συστήματα ΤΝ υψηλού κινδύνου στον τομέα της επιβολής του νόμου και της διαχείρισης της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων, οι υποχρεώσεις καταχώρισης θα πρέπει να εκπληρώνονται σε ασφαλές μη δημόσιο τμήμα της βάσης δεδομένων της ΕΕ. Η πρόσβαση στο ασφαλές μη δημόσιο τμήμα θα πρέπει να περιορίζεται αυστηρά στην Επιτροπή, καθώς και στις αρχές εποπτείας της αγοράς όσον αφορά το εθνικό τμήμα της εν λόγω βάσης δεδομένων. Τα συστήματα ΤΝ υψηλού κινδύνου στον τομέα των υποδομών ζωτικής σημασίας θα πρέπει να καταχωρίζονται μόνο σε εθνικό επίπεδο. Η Επιτροπή θα πρέπει να είναι ο υπεύθυνος επεξεργασίας της βάσης δεδομένων της ΕΕ, σύμφωνα με τον κανονισμό (ΕΕ) 2018/1725. Προκειμένου να διασφαλιστεί η πλήρης λειτουργικότητα της βάσης δεδομένων της ΕΕ, όταν διατεθεί προς χρήση, η διαδικασία για τη δημιουργία της βάσης δεδομένων θα πρέπει να περιλαμβάνει την ανάπτυξη λειτουργικών προδιαγραφών από την Επιτροπή και ανεξάρτητη έκθεση ελέγχου. Η Επιτροπή θα πρέπει να λαμβάνει υπόψη τους κινδύνους για την κυβερνοασφάλεια κατά την εκτέλεση των καθηκόντων της ως υπεύθυνης επεξεργασίας δεδομένων στη βάση δεδομένων της ΕΕ. Προκειμένου να μεγιστοποιηθεί η διαθεσιμότητα και η χρήση της βάσης δεδομένων της ΕΕ από το κοινό, η βάση δεδομένων της ΕΕ, συμπεριλαμβανομένων των πληροφοριών που διατίθενται μέσω αυτής, θα πρέπει να συμμορφώνεται με τις απαιτήσεις της οδηγίας (ΕΕ) 2019/882.
(131)
С цел да се улесни работата на Комисията и на държавите членки в областта на ИИ, както и за да се повиши прозрачността пред обществеността, от доставчиците на високорискови системи с ИИ, различни от свързаните с продукти, попадащи в обхвата на съответното действащо законодателство на Съюза за хармонизация, както и от доставчиците, които считат, че дадена система с ИИ, включена в случаите на високорискова употреба, посочени в приложение към настоящия регламент, не е високорискова въз основа на дерогация, следва да се изисква да се регистрират и да впишат информацията за своята система с ИИ в база данни на ЕС, която да бъде създадена и управлявана от Комисията. Преди да използват такава система с ИИ, включена в случаите на високорискова употреба в приложение към настоящия регламент, внедрителите на високорискови системи с ИИ, които са публични органи, агенции или структури, следва да се регистрират в тази база данни и да изберат системата, която възнамеряват да използват. Останалите внедрители следва да имат право да направят това на доброволна основа. Този раздел на базата данни на ЕС следва да бъде публично достъпен, безплатен, а информацията следва да бъде лесна за навигация, разбираема и машинночетима. Базата данни на ЕС следва също така да бъде лесна за ползване, например като осигурява функции за търсене, включително чрез ключови думи, за да се даде възможност на широката общественост да намери съответната информация, която трябва да бъде предоставена при регистрацията на високорискови системи с ИИ, както и информация за случаите на употреба на високорисковите системи с ИИ, посочени в приложение към настоящия регламент, на които отговарят високорисковите системи с ИИ. Всяко съществено изменение на високорискови системи с ИИ също следва да се регистрира в базата данни на ЕС. За високорисковите системи с ИИ в правоохранителната област и в областта на управлението на миграцията, убежището и граничния контрол задълженията за регистрация следва да се изпълняват в защитен непубличен раздел на базата данни на ЕС. Достъпът до защитения непубличен раздел следва да бъде строго ограничен до Комисията, както и до органите за надзор на пазара по отношение на техния национален раздел на тази база данни. Високорисковите системи с ИИ в областта на критичната инфраструктура следва да се регистрират само на национално равнище. Комисията следва да бъде администратор на базата данни на ЕС в съответствие с Регламент (ЕС) 2018/1725. За да се гарантира цялостна готовност на базата данни при нейното въвеждане, процедурата по създаване на базата данни на ЕС следва да включва разработването на функционални спецификации от Комисията и независим одитен доклад. Комисията следва да вземе предвид рисковете, свързани с киберсигурността, когато изпълнява задачите си като администратор на данни по отношение на базата данни на ЕС. За да се увеличи максимално достъпността и използването на базата данни на ЕС от обществеността, базата данни на ЕС, включително информацията, предоставяна чрез нея, следва да отговаря на изискванията на Директива (ЕС) 2019/882.
(132)
Ορισμένα συστήματα ΤΝ που προορίζονται να αλληλεπιδρούν με φυσικά πρόσωπα ή να παράγουν περιεχόμενο ενδέχεται να ενέχουν συγκεκριμένους κινδύνους πλαστοπροσωπίας ή παραπλάνησης ανεξάρτητα από το αν χαρακτηρίζονται ως υψηλού κινδύνου ή όχι. Συνεπώς, σε ορισμένες περιπτώσεις, η χρήση των συστημάτων αυτών θα πρέπει να υπόκειται σε ειδικές υποχρεώσεις διαφάνειας, με την επιφύλαξη των απαιτήσεων και των υποχρεώσεων που ισχύουν για τα συστήματα ΤΝ υψηλού κινδύνου και σε στοχευμένες εξαιρέσεις, ώστε να λαμβάνεται υπόψη η ειδική ανάγκη της επιβολής του νόμου. Ειδικότερα, τα φυσικά πρόσωπα θα πρέπει να ενημερώνονται ότι αλληλεπιδρούν με σύστημα ΤΝ, εκτός εάν αυτό είναι προφανές από τη σκοπιά φυσικού προσώπου που διαθέτει εύλογα επαρκή πληροφόρηση και είναι παρατηρητικό και προσεκτικό, λαμβανομένων υπόψη των περιστάσεων και του πλαισίου χρήσης. Κατά την εφαρμογή αυτής της υποχρέωσης, τα χαρακτηριστικά των φυσικών προσώπων που ανήκουν σε ευάλωτες ομάδες λόγω της ηλικίας ή της αναπηρίας τους θα πρέπει να λαμβάνονται υπόψη στον βαθμό που το σύστημα ΤΝ προορίζεται να αλληλεπιδρά και με τις εν λόγω ομάδες. Επιπλέον, τα φυσικά πρόσωπα θα πρέπει να ενημερώνονται όταν εκτίθενται σε συστήματα ΤΝ τα οποία, με την επεξεργασία των βιομετρικών δεδομένων τους, μπορούν να προσδιορίζουν ή να συνάγουν τα συναισθήματα ή τις προθέσεις των εν λόγω προσώπων ή να τα κατατάσσουν σε ειδικές κατηγορίες. Αυτές οι ειδικές κατηγορίες μπορεί να αφορούν πτυχές όπως φύλο, ηλικία, χρώμα μαλλιών, χρώμα οφθαλμών, δερματοστιξία, προσωπικά χαρακτηριστικά, εθνοτική καταγωγή, προσωπικές προτιμήσεις και ενδιαφέροντα. Οι πληροφορίες και κοινοποιήσεις θα πρέπει να παρέχονται σε μορφή προσβάσιμη για τα άτομα με αναπηρία.
(132)
Някои системи с ИИ, предназначени да взаимодействат с физически лица или да генерират съдържание, могат да породят особени рискове от измама на основата на прилика или заблуда, независимо дали отговарят на критериите за високорискови системи, или не. Поради това при определени обстоятелства при използването на тези системи следва да се прилагат специални задължения за прозрачност, без да се засягат изискванията и задълженията за високорискови системи с ИИ и при прилагане на целеви изключения с цел да се вземат предвид особените правоохранителни нужди. По-специално, физическите лица следва да бъдат уведомявани, че взаимодействат със система с ИИ, освен ако това не е очевидно от гледна точка на физическо лице, което е в разумни граници осведомено, наблюдателно и съобразително предвид обстоятелствата и контекста на използване. При изпълнението на това задължение следва да се вземат предвид характеристиките на физическите лица, принадлежащи към уязвими групи поради своята възраст или увреждане, доколкото системата с ИИ е предназначена да взаимодейства и с тези групи. Наред с това, физическите лица следва да бъдат уведомявани, когато са изложени на системи с ИИ, които чрез обработване на биометричните им данни могат да определят или да направят изводи за емоциите или намеренията на тези лица или да ги отнесат към конкретни категории. Подобни конкретни категории може да са свързани с аспекти като пол, възраст, цвят на косата, цвят на очите, татуировки, личностни черти, етнически произход, лични предпочитания и интереси. Тази информация и уведомленията следва да се предоставят в достъпни формати за хората с увреждания.
(133)
Διάφορα συστήματα ΤΝ μπορούν να παράγουν μεγάλες ποσότητες συνθετικού περιεχομένου το οποίο όλο και πιο δύσκολα μπορούν οι άνθρωποι να διακρίνουν από το ανθρωπογενές και αυθεντικό περιεχόμενο. Η ευρεία διαθεσιμότητα και οι αυξημένες ικανότητες των συστημάτων αυτών έχουν σημαντικό αντίκτυπο στην ακεραιότητα και την εμπιστοσύνη στο οικοσύστημα πληροφοριών, εγκυμονώντας νέους κινδύνους παραπληροφόρησης και χειραγώγησης σε κλίμακα, απάτης, πλαστοπροσωπίας και παραπλάνησης των καταναλωτών. Με δεδομένες τις επιπτώσεις αυτές, τον ταχύ ρυθμό της τεχνολογίας και την ανάγκη για νέες μεθόδους και τεχνικές για την ανίχνευση της προέλευσης των πληροφοριών, ενδείκνυται να απαιτείται από τους παρόχους των εν λόγω συστημάτων να ενσωματώνουν τεχνικές λύσεις που επιτρέπουν την επισήμανση σε μηχαναγνώσιμο μορφότυπο και την ανίχνευση ότι τα στοιχεία εξόδου έχουν παραχθεί ή υποστεί χειρισμό από σύστημα ΤΝ και όχι από άνθρωπο. Τέτοιες τεχνικές και μέθοδοι θα πρέπει να είναι επαρκώς αξιόπιστες, διαλειτουργικές, αποτελεσματικές και στιβαρές, στον βαθμό που αυτό είναι τεχνικά εφικτό, λαμβανομένων υπόψη των διαθέσιμων τεχνικών ή συνδυασμού τέτοιων τεχνικών, όπως υδατογραφήματα, αναγνωριστικά μεταδεδομένων, κρυπτογραφικές μέθοδοι για την απόδειξη της προέλευσης και της γνησιότητας του περιεχομένου, μέθοδοι καταγραφής, δακτυλικά αποτυπώματα ή άλλες τεχνικές, ανάλογα με την περίπτωση. Κατά την εφαρμογή αυτής της υποχρέωσης, οι πάροχοι θα πρέπει επίσης να λαμβάνουν υπόψη τις ιδιαιτερότητες και τους περιορισμούς των διαφορετικών ειδών περιεχομένου και τις σχετικές τεχνολογικές και αγοραίες εξελίξεις στον τομέα, όπως αποτυπώνονται στη γενικώς αναγνωρισμένη εξέλιξη της τεχνολογίας. Τέτοιες τεχνικές και μέθοδοι μπορούν να υλοποιούνται σε επίπεδο συστήματος ΤΝ ή σε επίπεδο μοντέλου ΤΝ, συμπεριλαμβανομένων μοντέλων ΤΝ γενικού σκοπού που παράγουν περιεχόμενο, διευκολύνοντας έτσι την εκπλήρωση αυτής της υποχρέωσης από τον κατάντη πάροχο του συστήματος ΤΝ. Για να παραμείνει αναλογική, ενδείκνυται να προβλεφθεί ότι η εν λόγω υποχρέωση επισήμανσης δεν θα πρέπει να καλύπτει συστήματα ΤΝ που εκτελούν πρωτίστως υποστηρικτική λειτουργία για συστήματα τυποποιημένης επεξεργασίας ή συστήματα ΤΝ που δεν μεταβάλλουν ουσιαστικά τα δεδομένα εισόδου που παρέχονται από τον φορέα εφαρμογής ή τη σημασιολογία τους.
(133)
Различни системи с ИИ могат да генерират големи количества синтетично съдържание, което хората все по-трудно могат да разграничават от генерирано от човека и автентично съдържание. Широката наличност и нарастващият капацитет на тези системи оказват значително влияние върху почтеността и доверието в информационната екосистема, което поражда нови рискове от масивно навлизане на невярна информация и манипулиране, измами на основата на прилика и заблуда на потребителите. С оглед на това въздействие, бързия темп на развитие на технологиите и необходимостта от нови методи и техники за проследяване на произхода на информацията е целесъобразно да се изисква от доставчиците на тези системи да вграждат технически решения, позволяващи маркиране в машинночетим формат и разпознаване, че резултатът е генериран или обработен от система с ИИ, а не от човек. Тези техники и методи следва да бъдат достатъчно надеждни, оперативно съвместими, ефективни и сигурни, доколкото това е технически осъществимо, и да се основават на наличните техники или на комбинация от такива техники, например водни знаци, идентифициране на метаданни, криптографски методи за доказване на произхода и автентичността на съдържанието, методи за регистриране, пръстови отпечатъци или други техники, в зависимост от случая. При изпълнението на това задължение доставчиците следва също така да отчитат особеностите и ограниченията на различните видове съдържание и технологичното и пазарното развитие в тази област, които намират отражение в общопризнатото най-съвременно равнище на технологиите. Тези техники и методи могат да бъдат приложени на равнището на системата с ИИ или на равнището на модела на ИИ, включително при модели на ИИ с общо предназначение, генериращи съдържание, като по този начин се улеснява изпълнението на това задължение от доставчика надолу по веригата на системата с ИИ. За да бъде пропорционално това задължение за маркиране, е целесъобразно да се предвиди то да няма приложение при системи с ИИ, изпълняващи предимно помощна функция при стандартно редактиране, или за системи с ИИ, които не променят съществено входящите данни, въведени от внедрителя, или тяхната семантика.
(134)
Πέραν των τεχνικών λύσεων που υλοποιούνται από τους παρόχους του συστήματος ΤΝ, οι φορείς εφαρμογής οι οποίοι χρησιμοποιούν σύστημα ΤΝ για την παραγωγή ή τον χειρισμό περιεχομένου εικόνας, ήχου ή βίντεο που έχει αισθητές ομοιότητες με υπαρκτά πρόσωπα, αντικείμενα, τόπους, οντότητες ή γεγονότα και θα μπορούσε να δώσει σε κάποιο πρόσωπο την απατηλή εντύπωση ότι είναι γνήσιο ή αληθινό (προϊόντα βαθυπαραποίησης — «deep fakes») θα πρέπει επίσης σαφώς και διακριτά να γνωστοποιούν ότι το περιεχόμενο έχει δημιουργηθεί ή έχει υποστεί χειρισμό τεχνητά, μέσω της κατάλληλης επισήμανσης των στοιχείων εξόδου του συστήματος ΤΝ και γνωστοποίησης της τεχνητής προέλευσής του. Η συμμόρφωση με αυτήν την υποχρέωση διαφάνειας δεν θα πρέπει να ερμηνεύεται ως ένδειξη ότι η χρήση του συστήματος ΤΝ ή των στοιχείων εξόδου του παρακωλύει το δικαίωμα στην ελευθερία της έκφρασης και το δικαίωμα στην ελευθερία της τέχνης και της επιστήμης που κατοχυρώνονται στον Χάρτη, ιδίως όταν το περιεχόμενο αποτελεί μέρος προφανώς δημιουργικού, σατιρικού, καλλιτεχνικού, μυθοπλαστικού ή ανάλογου έργου ή προγράμματος, με την επιφύλαξη των κατάλληλων εγγυήσεων για τα δικαιώματα και τις ελευθερίες τρίτων. Στις περιπτώσεις αυτές, η υποχρέωση διαφάνειας για τα προϊόντα βαθυπαραποίησης η οποία προβλέπεται στον παρόντα κανονισμό περιορίζεται στη γνωστοποίηση της ύπαρξης τέτοιου περιεχομένου που έχει παραχθεί ή υποστεί χειρισμό, με κατάλληλο τρόπο που δεν εμποδίζει την προβολή ή την απόλαυση του έργου, συμπεριλαμβανομένης της κανονικής εκμετάλλευσης και χρήσης του, διατηρώντας παράλληλα τη χρησιμότητα και την ποιότητα του έργου. Επιπλέον, είναι επίσης σκόπιμο να προβλεφθεί παρόμοια υποχρέωση γνωστοποίησης σε σχέση με κείμενο που έχει παραχθεί ή υποστεί χειρισμό από ΤΝ, εφόσον δημοσιεύεται με σκοπό την ενημέρωση του κοινού για θέματα δημόσιου συμφέροντος, εκτός εάν το περιεχόμενο που έχει παραχθεί από ΤΝ έχει υποβληθεί σε διαδικασία ανθρώπινης επανεξέτασης ή ανθρώπινου συντακτικού ελέγχου και ένα φυσικό ή νομικό πρόσωπο φέρει τη συντακτική ευθύνη για τη δημοσίευση του περιεχομένου.
(134)
Освен техническите решения, приложени от доставчиците на системата с ИИ, и внедрителите, които използват система с ИИ за генериране или обработване на изображения, аудио или видео съдържание, наподобяващи до голяма степен съществуващи лица, предмети, места, субекти или събития, които е вероятно някой да приеме за истински или достоверни (т.нар. „убедителни фалшификати“), следва също по ясен и разпознаваем начин да оповестят обстоятелството, че съдържанието е било изкуствено генерирано или обработено, като обозначат по подходящ начин продукта от работата на ИИ и разкрият неговия изкуствен произход. Спазването на това задължение за прозрачност не следва да се тълкува в смисъл, че използването на системата с ИИ или резултатите от нея възпрепятства правото на свобода на изразяване на мнение и правото на свобода на изкуствата и науките, гарантирани от Хартата, по-специално когато съдържанието е част от произведение или програма, които имат очевиден творчески, сатиричен, артистичен, художествен или подобен характер, при прилагане на подходящи гаранции за правата и свободите на трети лица. В тези случаи задължението за прозрачност по отношение на убедителните фалшификати, предвидено в настоящия регламент, се ограничава до оповестяване на наличието на такова генерирано или обработено съдържание по подходящ начин, който не възпрепятства показването или използването на произведението, включително нормалната му експлоатация и употреба, като същевременно се запазват полезността и качеството на произведението. Освен това е целесъобразно да се предвиди подобно задължение за оповестяване във връзка с текст, който е генериран или обработен от ИИ, доколкото той е публикуван с цел информиране на обществеността по въпроси от обществен интерес, освен ако генерираното от ИИ съдържание не е преминало преглед от човек или подложено на редакторски контрол и редакционната отговорност за публикуването му се носи от физическо или юридическо лице.
(135)
Με την επιφύλαξη του υποχρεωτικού χαρακτήρα και της πλήρους εφαρμογής των υποχρεώσεων διαφάνειας, η Επιτροπή μπορεί επίσης να ενθαρρύνει και να διευκολύνει την κατάρτιση κωδίκων πρακτικής σε επίπεδο Ένωσης για τη διευκόλυνση της αποτελεσματικής εφαρμογής των υποχρεώσεων σχετικά με την ανίχνευση και την επισήμανση περιεχομένου που έχει παραχθεί ή υποστεί χειρισμό τεχνητά, μεταξύ άλλων για τη στήριξη πρακτικών ρυθμίσεων ώστε να καταστούν, κατά περίπτωση, προσβάσιμοι οι μηχανισμοί ανίχνευσης και να διευκολυνθεί η συνεργασία με άλλους παράγοντες κατά μήκος της αξιακής αλυσίδας, οι οποίοι διαδίδουν περιεχόμενο ή ελέγχουν τη γνησιότητα και την προέλευσή του, προκειμένου να δίνεται στο κοινό η δυνατότητα να διακρίνει αποτελεσματικά το περιεχόμενο που παράγεται από ΤΝ.
(135)
Без да се засягат задължителният характер и пълната приложимост на задълженията за прозрачност, Комисията може също да насърчава и улеснява изготвянето на кодекси за добри практики на равнището на Съюза с цел да се допринесе за ефективното изпълнение на задълженията за откриване и обозначаване на изкуствено генерирано или обработено съдържание, включително да се съдейства във връзка с практически правила, които да осигурят при необходимост достъпност на механизмите за откриване и да подпомагат сътрудничеството с други участници по веригата за създаване на стойност, разпространение на съдържание или проверка на неговата автентичност и произход, за да се даде възможност на обществеността действително да разпознава генерираното от ИИ съдържание.
(136)
Οι υποχρεώσεις που επιβάλλονται στους παρόχους και τους φορείς εφαρμογής ορισμένων συστημάτων ΤΝ στον παρόντα κανονισμό, ώστε να καθίσταται δυνατή η ανίχνευση και η αποκάλυψη ότι τα στοιχεία εξόδου των εν λόγω συστημάτων έχουν παραχθεί ή υποστεί χειρισμό τεχνητά, είναι ιδιαίτερα σημαντικές για τη διευκόλυνση της αποτελεσματικής εφαρμογής του κανονισμού (ΕΕ) 2022/2065. Αυτό ισχύει ιδίως όσον αφορά τις υποχρεώσεις των παρόχων πολύ μεγάλων επιγραμμικών πλατφορμών ή πολύ μεγάλων επιγραμμικών μηχανών αναζήτησης να εντοπίζουν και να μετριάζουν τους συστημικούς κινδύνους που ενδέχεται να προκύψουν από τη διάδοση περιεχομένου που έχει παραχθεί ή υποστεί χειρισμό τεχνητά, ειδικότερα δε τον κίνδυνο πραγματικών ή προβλέψιμων αρνητικών επιπτώσεων στις δημοκρατικές διαδικασίες, τον πολιτικό διάλογο και τις εκλογικές διαδικασίες, μεταξύ άλλων μέσω παραπληροφόρησης. Η απαίτηση επισήμανσης του περιεχομένου που παράγεται από συστήματα ΤΝ δυνάμει του παρόντος κανονισμού δεν θίγει την υποχρέωση που προβλέπεται στο άρθρο 16 παράγραφος 6 του κανονισμού (ΕΕ) 2022/2065 για τους παρόχους υπηρεσιών φιλοξενίας να επεξεργάζονται ειδοποιήσεις σχετικά με παράνομο περιεχόμενο τις οποίες λαμβάνουν δυνάμει του άρθρου 16 παράγραφος 1 του εν λόγω κανονισμού και δεν θα πρέπει να επηρεάζει την αξιολόγηση και την απόφαση σχετικά με τον παράνομο χαρακτήρα του εκάστοτε περιεχομένου. Η αξιολόγηση αυτή θα πρέπει να πραγματοποιείται μόνο σε σχέση με τους κανόνες που διέπουν τη νομιμότητα του περιεχομένου.
(136)
Задълженията, наложени в настоящия регламент на доставчиците и внедрителите на някои системи с ИИ с цел откриване и обозначаване, че резултатите от тези системи са изкуствено генерирани или обработени, са от особено значение с оглед на ефективното прилагане на Регламент (ЕС) 2022/2065. Това се отнася по-специално за задълженията на доставчиците на много големи онлайн платформи или много големи онлайн търсачки да установяват и ограничават системните рискове, които могат да възникнат поради разпространението на съдържание, което е било изкуствено генерирано или обработено, и по-специално риска от действителни или предвидими отрицателни последици за демократичните процеси, гражданския дебат и изборните процеси, включително чрез дезинформация. Изискването съгласно настоящия регламент за обозначаване на съдържание, генерирано от системи с ИИ, не засяга задължението по член 16, параграф 6 от Регламент (ЕС) 2022/2065 на доставчиците на хостинг услуги да обработват уведомления за незаконно съдържание, получени съгласно член 16, параграф 1 от посочения регламент, и не следва да влияе на оценката и решението относно незаконния характер на конкретното съдържание. Тази преценка следва да се извършва единствено с оглед на правилата, уреждащи законосъобразността на съдържанието.
(137)
Η συμμόρφωση με τις υποχρεώσεις διαφάνειας για τα συστήματα ΤΝ που καλύπτονται από τον παρόντα κανονισμό δεν θα πρέπει να ερμηνεύεται ως ένδειξη ότι η χρήση του συστήματος ΤΝ ή των στοιχείων εξόδου του είναι νόμιμη βάσει του παρόντος κανονισμού ή άλλων κανόνων του δικαίου της Ένωσης και των κρατών μελών και δεν θα πρέπει να θίγει άλλες υποχρεώσεις διαφάνειας των φορέων εφαρμογής συστημάτων ΤΝ οι οποίες ορίζονται στο ενωσιακό ή το εθνικό δίκαιο.
(137)
Спазването на задълженията за прозрачност относно системите с ИИ, обхванати от настоящия регламент, не следва да се тълкува като знак, че използването на системата с ИИ или на резултатите от нея е законосъобразно съгласно настоящия регламент или друго законодателство на Съюза и на държава членка, и не следва да засяга други задължения за прозрачност за внедрители на системи с ИИ, предвидени в правото на Съюза или в националното право.
(138)
Η ΤΝ είναι ένα ταχέως αναπτυσσόμενο σύνολο τεχνολογιών που απαιτεί ρυθμιστική εποπτεία και ασφαλή και ελεγχόμενο χώρο για πειραματισμό, με παράλληλη διασφάλιση της υπεύθυνης καινοτομίας και της ενσωμάτωσης κατάλληλων διασφαλίσεων και μέτρων μετριασμού του κινδύνου. Προκειμένου να διασφαλιστεί ένα νομικό πλαίσιο που προωθεί την καινοτομία και είναι ανθεκτικό στις μελλοντικές εξελίξεις και στις διαταραχές, τα κράτη μέλη θα πρέπει να μεριμνήσουν, ώστε οι οικείες εθνικές αρμόδιες αρχές να ιδρύσουν τουλάχιστον ένα ρυθμιστικό δοκιμαστήριο ΤΝ σε εθνικό επίπεδο, προκειμένου να διευκολύνουν την ανάπτυξη και τη δοκιμή καινοτόμων συστημάτων ΤΝ υπό αυστηρή ρυθμιστική εποπτεία προτού τα εν λόγω συστήματα διατεθούν στην αγορά ή τεθούν με άλλο τρόπο σε λειτουργία. Τα κράτη μέλη θα μπορούσαν επίσης να εκπληρώσουν την υποχρέωση αυτή συμμετέχοντας σε ήδη υφιστάμενα ρυθμιστικά δοκιμαστήρια ή ιδρύοντας ένα δοκιμαστήριο από κοινού με τις αρμόδιες αρχές ενός ή περισσοτέρων κρατών μελών, εφόσον η συμμετοχή αυτή παρέχει ισοδύναμο επίπεδο εθνικής κάλυψης για τα συμμετέχοντα κράτη μέλη. Τα ρυθμιστικά δοκιμαστήρια ΤΝ θα μπορούσαν να ιδρύονται σε υλική, ψηφιακή ή υβριδική μορφή και να περιλαμβάνουν τόσο υλικά όσο και ψηφιακά προϊόντα. Οι αρχές ίδρυσης θα πρέπει επίσης να διασφαλίζουν ότι τα ρυθμιστικά δοκιμαστήρια ΤΝ διαθέτουν επαρκείς πόρους για τη λειτουργία τους, συμπεριλαμβανομένων οικονομικών και ανθρώπινων πόρων.
(138)
ИИ е бързо развиваща се съвкупност от технологии, която изисква регулаторен надзор и безопасно и контролирано пространство за експериментиране, като същевременно се гарантира отговорното новаторство и интегрирането на подходящи предпазни мерки и мерки за ограничаване на риска. За да се гарантира благоприятна за иновациите, ориентирана към бъдещето и устойчива на смущения правна рамка, държавите членки следва да гарантират, че националните им компетентни органи създават най-малко една регулаторна лаборатория в областта на ИИ на национално равнище, за да се улесни разработването и изпитването на иновативни системи с ИИ под строг регулаторен надзор, преди тези системи да бъдат пуснати на пазара или пуснати в действие по друг начин. Държавите членки биха могли да изпълнят това задължение и чрез участие във вече съществуващи регулаторни лаборатории или съвместно създаване на лаборатория с компетентните органи на една или повече държави членки, доколкото това участие осигурява равностойно национално покритие за участващите държави членки. Регулаторните лаборатории в областта на ИИ могат да бъдат създадени във физическа, цифрова или хибридна форма и да включват както физически, така и цифрови продукти. Създаващите ги органи следва също така да гарантират, че регулаторните лаборатории в областта на ИИ разполагат с подходящи ресурси за функционирането си, включително финансови и човешки ресурси.
(139)
Στόχοι των ρυθμιστικών δοκιμαστηρίων ΤΝ θα πρέπει να είναι η προώθηση της καινοτομίας στον τομέα της ΤΝ με τη δημιουργία περιβάλλοντος ελεγχόμενου πειραματισμού και δοκιμών κατά τη φάση ανάπτυξης και πριν από την εμπορική προώθηση, με σκοπό τη διασφάλιση της συμμόρφωσης των καινοτόμων συστημάτων ΤΝ με τον παρόντα κανονισμό και άλλους συναφείς κανόνες ενωσιακού και εθνικού δικαίου. Επιπλέον, τα ρυθμιστικά δοκιμαστήρια ΤΝ θα πρέπει να έχουν στόχο την ενίσχυση της ασφάλειας δικαίου για τους φορείς καινοτομίας και της άσκησης εποπτείας από τις αρμόδιες αρχές και της εκ μέρους τους κατανόησης των ευκαιριών, των αναδυόμενων κινδύνων και των επιπτώσεων της χρήσης της ΤΝ, τη διευκόλυνση της ρυθμιστικής μάθησης για τις αρχές και τις επιχειρήσεις, μεταξύ άλλων ενόψει μελλοντικών προσαρμογών του νομικού πλαισίου, την υποστήριξη της συνεργασίας και της ανταλλαγής βέλτιστων πρακτικών με τις αρχές που συμμετέχουν στο ρυθμιστικό δοκιμαστήριο ΤΝ και την επιτάχυνση της πρόσβασης στις αγορές, μεταξύ άλλων με την άρση των φραγμών για τις ΜΜΕ, συμπεριλαμβανομένων των νεοφυών επιχειρήσεων. Τα ρυθμιστικά δοκιμαστήρια ΤΝ θα πρέπει να είναι ευρέως διαθέσιμα σε ολόκληρη την Ένωση και θα πρέπει να δοθεί ιδιαίτερη προσοχή στην προσβασιμότητά τους για τις ΜΜΕ, συμπεριλαμβανομένων των νεοφυών επιχειρήσεων. Η συμμετοχή στο ρυθμιστικό δοκιμαστήριο ΤΝ θα πρέπει να επικεντρώνεται σε ζητήματα που εγείρουν ανασφάλεια δικαίου για τους παρόχους και τους μελλοντικούς παρόχους όσον αφορά την καινοτομία και τον πειραματισμό με την ΤΝ στην Ένωση και τη συμβολή στην τεκμηριωμένη ρυθμιστική μάθηση. Ως εκ τούτου, η εποπτεία των συστημάτων ΤΝ στο ρυθμιστικό δοκιμαστήριο ΤΝ θα πρέπει να καλύπτει την ανάπτυξη, την εκπαίδευση, τη δοκιμή και την επικύρωση των συστημάτων πριν από τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία, καθώς και την έννοια και την επέλευση ουσιαστικής τροποποίησης που ενδέχεται να απαιτεί νέα διαδικασία αξιολόγησης της συμμόρφωσης. Οποιοιδήποτε σημαντικοί κίνδυνοι εντοπίζονται κατά την ανάπτυξη και τη δοκιμή τέτοιων συστημάτων TN θα πρέπει να έχουν ως αποτέλεσμα τον κατάλληλο μετριασμό και, ελλείψει αυτού, την αναστολή της διαδικασίας ανάπτυξης και δοκιμής. Κατά περίπτωση, οι εθνικές αρμόδιες αρχές που ιδρύουν ρυθμιστικά δοκιμαστήρια ΤΝ θα πρέπει να συνεργάζονται με άλλες σχετικές αρχές, συμπεριλαμβανομένων των αρχών εποπτείας της προστασίας των θεμελιωδών δικαιωμάτων, και θα μπορούσαν να επιτρέπουν τη συμμετοχή άλλων παραγόντων εντός του οικοσυστήματος ΤΝ, όπως εθνικοί ή ευρωπαϊκοί οργανισμοί τυποποίησης, κοινοποιημένοι οργανισμοί, εγκαταστάσεις δοκιμών και πειραματισμού, εργαστήρια έρευνας και πειραματισμού, ευρωπαϊκοί κόμβοι ψηφιακής καινοτομίας και σχετικές οργανώσεις συμφεροντούχων και της κοινωνίας των πολιτών. Για να διασφαλιστούν η ομοιόμορφη εφαρμογή σε ολόκληρη την Ένωση και οικονομίες κλίμακας, ενδείκνυται να θεσπιστούν κοινοί κανόνες για την εφαρμογή των ρυθμιστικών δοκιμαστηρίων ΤΝ, καθώς και πλαίσιο συνεργασίας μεταξύ των αρμόδιων αρχών που συμμετέχουν στην εποπτεία των δοκιμαστηρίων. Τα ρυθμιστικά δοκιμαστήρια ΤΝ που ιδρύονται δυνάμει του παρόντος κανονισμού δεν θα πρέπει να θίγουν άλλες διατάξεις του δικαίου οι οποίοι επιτρέπουν την ίδρυση άλλων δοκιμαστηρίων που αποσκοπούν στη διασφάλιση της συμμόρφωσης με κανόνες δικαίου πλην του παρόντος κανονισμού. Κατά περίπτωση, οι σχετικές αρμόδιες αρχές που είναι υπεύθυνες για τα εν λόγω άλλα ρυθμιστικά δοκιμαστήρια θα πρέπει να εξετάζουν τα οφέλη της χρήσης των εν λόγω δοκιμαστηρίων, μεταξύ άλλων και για τον σκοπό της διασφάλισης της συμμόρφωσης των συστημάτων ΤΝ με τον παρόντα κανονισμό. Κατόπιν συμφωνίας μεταξύ των εθνικών αρμόδιων αρχών και των συμμετεχόντων στο ρυθμιστικό δοκιμαστήριο ΤΝ, οι δοκιμές σε πραγματικές συνθήκες μπορούν επίσης να διενεργούνται και να εποπτεύονται στο πλαίσιο του ρυθμιστικού δοκιμαστηρίου ΤΝ.
(139)
Целите на регулаторните лаборатории в областта на ИИ следва да бъдат: насърчаване на иновациите в областта на ИИ чрез създаване на контролирана среда за експериментиране и изпитване във фазата на разработване и преди пускането на пазара с цел да се гарантира съответствието на иновативните системи с ИИ с настоящия регламент и друго съответно право на Съюза и национално право. В допълнение регулаторните лаборатории в областта на ИИ следва да имат за цел подобряване на правната сигурност за новаторите и надзора и разбирането от страна на компетентните органи на възможностите, нововъзникващите рискове и въздействието на използването на ИИ, улесняване на натрупването на регулаторен опит от страна на органите и предприятията, включително с оглед на бъдещи изменения на правната рамка, подкрепа за сътрудничеството и обмена на най-добри практики с органите, участващи в регулаторната лаборатория в областта на ИИ, както и ускоряване на достъпа до пазарите, включително чрез премахване на пречките пред МСП, включително новосъздадените предприятия. Следва да се предостави широк достъп до регулаторните лаборатории в областта на ИИ на територията на Съюза, като се обърне специално внимание на достъпността им за МСП, включително новосъздадените предприятия. Участието в регулаторните лаборатории в областта на ИИ следва да е насочено към въпроси, които пораждат правна несигурност за доставчиците и потенциалните доставчици при въвеждането на иновации и експериментирането с ИИ в Съюза и да допринася за основан на факти регулаторен опит. Поради това надзорът върху системите с ИИ в регулаторните лаборатории в областта на ИИ следва да обхваща тяхното разработване, обучение, изпитване и валидиране, преди системите да бъдат пуснати на пазара или пуснати в действие, както и концепцията за и настъпването на съществено изменение, което може да изисква провеждането на нова процедура за оценяване на съответствието. Всички значителни рискове, установени по време на разработването и изпитването на такива системи с ИИ, следва да водят до адекватни ограничителни мерки, а при липса на такива — до спиране на процеса на разработване и изпитване. Когато е целесъобразно, националните компетентни органи, които създават регулаторни лаборатории в областта на ИИ, следва да си сътрудничат с други съответни органи, включително упражняващите надзор върху защитата на основните права, и биха могли да позволят привличането на други участници в екосистемата на ИИ, като например национални или европейски организации за стандартизация, нотифицирани органи, структури за изпитване и експериментиране, лаборатории за научни изследвания и експерименти, европейски цифрови иновационни центрове и съответни заинтересовани страни и организации на гражданското общество. За да се гарантират еднакво прилагане в целия Съюз и икономии на мащаба, е целесъобразно да се установят общи правила за създаването на регулаторните лаборатории в областта на ИИ и рамка за сътрудничество между съответните органи, участващи в надзора на лабораториите. Регулаторните лаборатории в областта на ИИ, създадени съгласно настоящия регламент, не следва да засягат друго право, допускащо създаването на други лаборатории и чиято цел е да се гарантира спазването на правни норми извън настоящия регламент. Когато е целесъобразно, съответните компетентни органи, които отговарят за други регулаторни лаборатории, следва да преценят доколко би било полезно използването им и с цел осигуряване на съответствието на системите с ИИ с настоящия регламент. По споразумение между националните компетентни органи и участниците в регулаторната лаборатория в областта на ИИ в такава лаборатория също така може да се извършва изпитване в реални условия и върху него да се осъществява надзор.
(140)
Ο παρών κανονισμός θα πρέπει να παρέχει τη νομική βάση ώστε οι πάροχοι και οι μελλοντικοί πάροχοι στο ρυθμιστικό δοκιμαστήριο ΤΝ να χρησιμοποιούν δεδομένα προσωπικού χαρακτήρα τα οποία έχουν συλλεχθεί για άλλους σκοπούς, προκειμένου να αναπτύσσουν ορισμένα συστήματα ΤΝ προς το δημόσιο συμφέρον εντός του ρυθμιστικού δοκιμαστηρίου ΤΝ, μόνο υπό καθορισμένες προϋποθέσεις, σύμφωνα με το άρθρο 6 παράγραφος 4 και το άρθρο 9 παράγραφος 2 στοιχείο ζ) του κανονισμού (ΕΕ) 2016/679 και τα άρθρα 5, 6 και 10 του κανονισμού (ΕΕ) 2018/1725 και με την επιφύλαξη του άρθρου 4 παράγραφος 2 και του άρθρου 10 της οδηγίας (ΕΕ) 2016/680. Όλες οι άλλες υποχρεώσεις των υπευθύνων επεξεργασίας δεδομένων και τα δικαιώματα των υποκειμένων των δεδομένων δυνάμει των κανονισμών (ΕΕ) 2016/679 και (ΕΕ) 2018/1725 και της οδηγίας (ΕΕ) 2016/680 εξακολουθούν να ισχύουν. Ειδικότερα, ο παρών κανονισμός δεν θα πρέπει να παρέχει νομική βάση κατά την έννοια του άρθρου 22 παράγραφος 2 στοιχείο β) του κανονισμού (ΕΕ) 2016/679 και του άρθρου 24 παράγραφος 2 στοιχείο β) του κανονισμού (ΕΕ) 2018/1725. Οι πάροχοι και οι μελλοντικοί πάροχοι στο ρυθμιστικό δοκιμαστήριο ΤΝ θα πρέπει να διασφαλίζουν ότι υπάρχουν κατάλληλες εγγυήσεις και να συνεργάζονται με τις αρμόδιες αρχές, μεταξύ άλλων ακολουθώντας την καθοδήγησή τους και ενεργώντας ταχέως και καλή τη πίστει για τον κατάλληλο μετριασμό οποιωνδήποτε εντοπιζόμενων σημαντικών κινδύνων για την ασφάλεια, την υγεία και τα θεμελιώδη δικαιώματα που ενδέχεται να προκύψουν κατά την ανάπτυξη, τις δοκιμές και τον πειραματισμό στο πλαίσιο του εν λόγω δοκιμαστηρίου.
(140)
В съответствие с член 6, параграф 4 и член 9, параграф 2, буква ж) от Регламент (ЕС) 2016/679 и членове 5, 6 и 10 от Регламент (ЕС) 2018/1725 и без да се засягат член 4, параграф 2 и член 10 от Директива (ЕС) 2016/680, настоящият регламент следва да предостави на доставчиците и потенциалните доставчици в регулаторните лаборатории в областта на ИИ правното основание за използването, само при определени условия, на лични данни, събирани за други цели, с оглед на разработването на определени системи с ИИ в обществен интерес в рамките на регулаторната лаборатория в областта на ИИ. Всички други задължения на администраторите на данни и правата на субектите на данни съгласно регламенти (ЕС) 2016/679 и (ЕС) 2018/1725 и Директива (ЕС) 2016/680 остават приложими. По-специално настоящият регламент не следва да предоставя правно основание по смисъла на член 22, параграф 2, буква б) от Регламент (ЕС) 2016/679 и член 24, параграф 2, буква б) от Регламент (ЕС) 2018/1725. Доставчиците и потенциалните доставчици в регулаторната лаборатория в областта на ИИ следва да осигурят подходящи гаранции и да си сътрудничат с компетентните органи, включително като следват техните насоки и действат бързо и добросъвестно, за да ограничат по подходящ начин всички установени значителни рискове за безопасността, здравето и основните права, които могат да се проявят по време на разработването, изпитването и експериментирането в лабораторията.
(141)
Προκειμένου να επιταχυνθούν η διαδικασία ανάπτυξης και η διάθεση στην αγορά των συστημάτων ΤΝ υψηλού κινδύνου που απαριθμούνται σε παράρτημα του παρόντος κανονισμού, είναι σημαντικό οι πάροχοι ή οι μελλοντικοί πάροχοι των εν λόγω συστημάτων να μπορούν επίσης να επωφελούνται από ειδικό καθεστώς για τη δοκιμή των εν λόγω συστημάτων σε πραγματικές συνθήκες, χωρίς να συμμετέχουν σε ρυθμιστικό δοκιμαστήριο ΤΝ. Ωστόσο, σε αυτές τις περιπτώσεις, λαμβανομένων υπόψη των πιθανών συνεπειών των εν λόγω δοκιμών στα άτομα, θα πρέπει να διασφαλίζεται ότι ο παρών κανονισμός θεσπίζει κατάλληλες και επαρκείς εγγυήσεις και προϋποθέσεις για τους παρόχους ή τους μελλοντικούς παρόχους. Στις εγγυήσεις αυτές θα πρέπει να περιλαμβάνεται, μεταξύ άλλων, η αίτηση συναίνεσης έπειτα από ενημέρωση φυσικών προσώπων για τη συμμετοχή τους σε δοκιμή σε πραγματικές συνθήκες, εξαιρουμένης της επιβολής του νόμου όπου η αναζήτηση συναίνεσης έπειτα από ενημέρωση θα εμπόδιζε τη δοκιμή του συστήματος ΤΝ. Η συναίνεση των υποκειμένων για συμμετοχή στις εν λόγω δοκιμές δυνάμει του παρόντος κανονισμού διαφέρει από και δεν θίγει τη συναίνεση των υποκειμένων των δεδομένων για την επεξεργασία των δεδομένων προσωπικού χαρακτήρα που τα αφορούν βάσει του σχετικού δικαίου για την προστασία των δεδομένων. Είναι επίσης σημαντικό να ελαχιστοποιηθούν οι κίνδυνοι και να καταστεί δυνατή η εποπτεία από τις αρμόδιες αρχές και, ως εκ τούτου, να απαιτείται από τους μελλοντικούς παρόχους να υποβάλλουν στην αρμόδια αρχή εποπτείας της αγοράς σχέδιο δοκιμής σε πραγματικές συνθήκες, να καταχωρίζονται οι δοκιμές σε ειδικά τμήματα της βάσης δεδομένων της ΕΕ με ορισμένες περιορισμένες εξαιρέσεις, να τίθενται περιορισμοί στην περίοδο για την οποία μπορούν να διενεργούνται οι δοκιμές και να απαιτούνται πρόσθετες διασφαλίσεις για τα πρόσωπα που ανήκουν σε ορισμένες ευάλωτες ομάδες, καθώς και γραπτή συμφωνία που να καθορίζει τους ρόλους και τις ευθύνες των μελλοντικών παρόχων και φορέων εφαρμογής και αποτελεσματική εποπτεία από το αρμόδιο προσωπικό που συμμετέχει στις δοκιμές σε πραγματικές συνθήκες. Επιπλέον, ενδείκνυται να προβλεφθούν πρόσθετες εγγυήσεις, για να διασφαλιστεί ότι οι προβλέψεις, οι συστάσεις ή οι αποφάσεις του συστήματος ΤΝ μπορούν να αντιστραφούν και να αγνοηθούν αποτελεσματικά και ότι τα δεδομένα προσωπικού χαρακτήρα προστατεύονται και διαγράφονται όταν τα υποκείμενα έχουν ανακαλέσει τη συγκατάθεσή τους να συμμετάσχουν στις δοκιμές, με την επιφύλαξη των δικαιωμάτων τους ως υποκειμένων των δεδομένων δυνάμει του ενωσιακού δικαίου για την προστασία των δεδομένων. Όσον αφορά τη διαβίβαση δεδομένων, είναι επίσης σκόπιμο να προβλεφθεί ότι τα δεδομένα που συλλέγονται και υποβάλλονται σε επεξεργασία για τους σκοπούς των δοκιμών σε πραγματικές συνθήκες θα πρέπει να διαβιβάζονται σε τρίτες χώρες μόνο όταν εφαρμόζονται κατάλληλες και ισχύουσες εγγυήσεις βάσει του ενωσιακού δικαίου, ειδικότερα σύμφωνα με τις νομικές βάσεις για τη διαβίβαση δεδομένων προσωπικού χαρακτήρα δυνάμει του ενωσιακού δικαίου για την προστασία των δεδομένων, ενώ για τα δεδομένα μη προσωπικού χαρακτήρα θεσπίζονται κατάλληλες εγγυήσεις σύμφωνα με το ενωσιακό δίκαιο, όπως οι κανονισμοί (ΕΕ) 2022/868 (42) και (ΕΕ) 2023/2854 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (43).
(141)
За да се ускори процесът на разработване и пускане на пазара на високорисковите системи с ИИ, чийто списък се съдържа в приложение към настоящия регламент, е важно доставчиците или потенциалните доставчици на такива системи да могат да ползват специален режим за изпитване на тези системи в реални условия и без да участват в регулаторна лаборатория в областта на ИИ. В такива случаи обаче, предвид евентуалните последици, които това изпитване може да има върху хората, следва да се гарантира, че настоящият регламент въвежда подходящи и достатъчни гаранции и условия по отношение на доставчиците или потенциалните доставчици. Тези гаранции следва да включват, наред с другото, искането на информирано съгласие от физическите лица за участие в изпитвания в реални условия, освен в правоохранителната област, когато искането на информирано съгласие би попречило на изпитването на системата с ИИ. Съгласието на субектите на данни да участват в такива изпитвания в съответствие с настоящия регламент е различно от съгласието на субектите на данни личните им данни да бъдат обработвани съгласно съответното законодателство за защита на данните и не засяга това съгласие. Важно е също така рисковете да бъдат сведени до минимум и компетентните органи да могат да упражняват надзор, във връзка с което да се въведат изисквания потенциалните доставчици да представят на компетентния орган за надзор на пазара план за изпитване в реални условия, да регистрират изпитването в специални раздели на базата данни на ЕС с ограничен брой изключения, да определят ограничения на срока, в който може да се извърши изпитването, както и да се изискват допълнителни гаранции за лица, принадлежащи към определени уязвими групи, и писмено споразумение, в което се установяват функциите и отговорностите на потенциалните доставчици и внедрителите и ефективен надзор от страна на компетентния персонал, участващ в изпитванията в реални условия. Освен това е целесъобразно да се предвидят допълнителни гаранции, за да се гарантира, че прогнозите, препоръките или решенията на дадена система с ИИ могат ефективно да се отменят и пренебрегнат, както и че личните данни са защитени и се заличават, след като субектите в изпитването са оттеглили съгласието си за участие в изпитването, без да се засягат правата им като субекти на данни съгласно правото на Съюза в областта на защитата на данните. По отношение на предаването на данни е целесъобразно също така да се предвиди, че данните, събирани и обработвани за целите на изпитването в реални условия, следва да се предават на трети държави само при прилагане на подходящи и приложими гаранции съгласно правото на Съюза, по-специално в съответствие с основанията за предаване на лични данни съгласно правото на Съюза относно защитата на данните, докато по отношение на неличните данни се прилагат подходящи гаранции в съответствие с правото на Съюза, като например регламенти (ЕС) 2022/868 (42) и (ЕС) 2023/2854 (43) на Европейския парламент и на Съвета.
(142)
Για να διασφαλιστεί ότι η ΤΝ οδηγεί σε κοινωνικά και περιβαλλοντικά επωφελή αποτελέσματα, τα κράτη μέλη παροτρύνονται να στηρίζουν και να προωθούν την έρευνα και την ανάπτυξη λύσεων ΤΝ για τη στήριξη κοινωνικά και περιβαλλοντικά επωφελών αποτελεσμάτων, όπως λύσεις βασισμένες στην ΤΝ για να αυξηθεί η προσβασιμότητα των ατόμων με αναπηρία, να αντιμετωπιστούν οι κοινωνικοοικονομικές ανισότητες ή να επιτευχθούν περιβαλλοντικοί στόχοι, με τη διάθεση επαρκών πόρων, συμπεριλαμβανομένης της δημόσιας και της ενωσιακής χρηματοδότησης, και, όταν είναι σκόπιμο και εφόσον πληρούνται τα κριτήρια επιλεξιμότητας και επιλογής, εξετάζοντας ιδίως έργα που επιδιώκουν τέτοιους στόχους. Τέτοια έργα θα πρέπει να βασίζονται στην αρχή της διεπιστημονικής συνεργασίας μεταξύ φορέων ανάπτυξης ΤΝ, εμπειρογνωμόνων για την ανισότητα και τη μη διακριτική μεταχείριση, την προσβασιμότητα και τα καταναλωτικά, περιβαλλοντικά και ψηφιακά δικαιώματα, καθώς και επιστημόνων.
(142)
За да се гарантира, че ИИ води до благоприятни за обществото и околната среда резултати, държавите членки се насърчават да подкрепят и поощряват научните изследвания и разработването на решения в областта на ИИ, способстващи за постигането на такива резултати — например основани на ИИ решения за увеличаване на достъпността за хората с увреждания, противодействие на социално-икономическите неравенства или постигане на екологичните цели, чрез разпределяне на достатъчно ресурси, включително публично финансиране и финансиране от Съюза, и когато е целесъобразно и при условие че са изпълнени критериите за допустимост и подбор, разглеждане на проекти, които преследват тези цели. Такива проекти следва да се основават на принципа на интердисциплинарното сътрудничество между разработчици на ИИ, експерти по въпросите на неравенството и недискриминацията, достъпността, правата на потребителите, правата, свързани с околната среда, и цифровите права, както и академичните среди.
(143)
Για την προώθηση και την προστασία της καινοτομίας, είναι σημαντικό να λαμβάνονται ιδιαιτέρως υπόψη τα συμφέροντα των ΜΜΕ, συμπεριλαμβανομένων των νεοφυών επιχειρήσεων, που είναι πάροχοι ή φορείς εφαρμογής συστημάτων ΤΝ. Για τον σκοπό αυτόν, τα κράτη μέλη θα πρέπει να αναπτύξουν πρωτοβουλίες που θα απευθύνονται στους εν λόγω φορείς εκμετάλλευσης, μεταξύ άλλων όσον αφορά την ευαισθητοποίηση και την ενημέρωση. Τα κράτη μέλη θα πρέπει να παρέχουν στις ΜΜΕ, συμπεριλαμβανομένων των νεοφυών επιχειρήσεων, που έχουν καταστατική έδρα ή υποκατάστημα στην Ένωση, κατά προτεραιότητα πρόσβαση στα ρυθμιστικά δοκιμαστήρια ΤΝ, υπό την προϋπόθεση ότι πληρούν τους όρους επιλεξιμότητας και τα κριτήρια επιλογής και χωρίς να αποκλείουν άλλους παρόχους και μελλοντικούς παρόχους από την πρόσβαση στα δοκιμαστήρια, εφόσον πληρούνται οι ίδιες προϋποθέσεις και τα ίδια κριτήρια. Τα κράτη μέλη θα πρέπει να χρησιμοποιούν τους υπάρχοντες διαύλους και, κατά περίπτωση, να θεσπίζουν νέους ειδικούς διαύλους επικοινωνίας με ΜΜΕ, συμπεριλαμβανομένων των νεοφυών επιχειρήσεων, φορείς εφαρμογής, άλλους φορείς καινοτομίας και, κατά περίπτωση, τοπικές δημόσιες αρχές, προκειμένου να στηρίζουν τις ΜΜΕ σε όλη την πορεία ανάπτυξής τους με την παροχή καθοδήγησης και απαντήσεων σε ερωτήματα σχετικά με την εφαρμογή του παρόντος κανονισμού. Κατά περίπτωση, οι δίαυλοι αυτοί θα πρέπει να συνεργάζονται για τη δημιουργία συνεργειών και τη διασφάλιση ομοιογένειας στην καθοδήγηση που παρέχουν στις ΜΜΕ, συμπεριλαμβανομένων των νεοφυών επιχειρήσεων, και τους φορείς εφαρμογής. Επιπλέον, τα κράτη μέλη θα πρέπει να διευκολύνουν τη συμμετοχή των ΜΜΕ και άλλων σχετικών συμφεροντούχων στις διαδικασίες ανάπτυξης της τυποποίησης. Εξάλλου, τα ειδικά συμφέροντα και οι ανάγκες των παρόχων που είναι ΜΜΕ, συμπεριλαμβανομένων των νεοφυών επιχειρήσεων, θα πρέπει να λαμβάνονται υπόψη κατά τον καθορισμό των τελών αξιολόγησης της συμμόρφωσης από τους κοινοποιημένους οργανισμούς. Η Επιτροπή θα πρέπει να αξιολογεί τακτικά το κόστος πιστοποίησης και το κόστος συμμόρφωσης για τις ΜΜΕ, συμπεριλαμβανομένων των νεοφυών επιχειρήσεων, μέσω διαφανών διαβουλεύσεων, και να συνεργάζεται με τα κράτη μέλη με σκοπό τη μείωση του κόστους αυτού. Παραδείγματος χάριν, οι δαπάνες μετάφρασης που σχετίζονται με την υποχρεωτική τεκμηρίωση και την επικοινωνία με τις αρχές ενδέχεται να αποτελούν σημαντικό κόστος για τους παρόχους και άλλους φορείς εκμετάλλευσης, ιδίως τους φορείς μικρής κλίμακας. Τα κράτη μέλη θα πρέπει ενδεχομένως να διασφαλίσουν ότι μία από τις γλώσσες που ορίζουν και αποδέχονται για την τεκμηρίωση των σχετικών παρόχων και για την επικοινωνία με τους φορείς εκμετάλλευσης είναι γλώσσα ευρέως κατανοητή από τον μεγαλύτερο δυνατό αριθμό διασυνοριακών φορέων εφαρμογής. Προκειμένου να λαμβάνονται υπόψη οι ειδικές ανάγκες των ΜΜΕ, συμπεριλαμβανομένων των νεοφυών επιχειρήσεων, η Επιτροπή θα πρέπει να παράσχει τυποποιημένα υποδείγματα για τους τομείς που καλύπτονται από τον παρόντα κανονισμό, κατόπιν αιτήματος του Συμβουλίου Τεχνητής Νοημοσύνης. Επιπλέον, η Επιτροπή θα πρέπει να συμπληρώνει τις προσπάθειες των κρατών μελών παρέχοντας μια ενιαία πλατφόρμα πληροφόρησης με εύχρηστες πληροφορίες όσον αφορά τον παρόντα κανονισμό για όλους τους παρόχους και τους φορείς εφαρμογής, διοργανώνοντας κατάλληλες επικοινωνιακές εκστρατείες ευαισθητοποίησης σχετικά με τις υποχρεώσεις που απορρέουν από τον παρόντα κανονισμό, και αξιολογώντας και προωθώντας τη σύγκλιση των βέλτιστων πρακτικών στις διαδικασίες δημόσιων συμβάσεων όσον αφορά τα συστήματα ΤΝ. Οι μεσαίες επιχειρήσεις που μέχρι πρόσφατα χαρακτηρίζονταν μικρές επιχειρήσεις κατά την έννοια του παραρτήματος της σύστασης 2003/361/ΕΚ της Επιτροπής (44) θα πρέπει να έχουν πρόσβαση σε αυτά τα μέτρα στήριξης, δεδομένου ότι οι εν λόγω νέες μεσαίες επιχειρήσεις ενδέχεται μερικές φορές να μη διαθέτουν τους νομικούς πόρους και την κατάρτιση που απαιτούνται για να εξασφαλίσουν την ορθή κατανόηση του παρόντος κανονισμού και τη συμμόρφωση με αυτόν.
(143)
С цел насърчаване и защита на иновациите е важно да се обърне специално внимание на интересите на МСП, включително новосъздадените предприятия, които са доставчици или внедрители на системи с ИИ. За тази цел държавите членки следва да разработят инициативи, насочени към тези оператори, включително за повишаване на осведомеността и съобщаването на информация. Държавите членки следва да осигуряват на МСП, включително новосъздадените предприятия, които имат седалище или клон в Съюза, приоритетен достъп до регулаторните лаборатории в областта на ИИ, при условие че те отговарят на условията за допустимост и на критериите за подбор, без да се възпрепятства достъпът на други доставчици и потенциални доставчици до лабораториите, при условие че са изпълнени същите условия и критерии. Държавите членки следва да използват наличните, а когато е целесъобразно - да създават нови, специални канали за комуникация с МСП, новосъздадени предприятия, внедрители, други новатори и - в зависимост от случая - органи на местна власт, с цел да подпомагат МСП по пътя им на развитие чрез даване на насоки и отговаряне на запитвания във връзка с прилагането на настоящия регламент. Когато е целесъобразно, тези канали следва да работят заедно, за да се създадат полезни взаимодействия и да се гарантира еднообразност на насоките за МСП, включително новосъздадените предприятия, и внедрителите. Наред с това държавите членки следва да улесняват участието на МСП и на други заинтересовани страни в процесите на разработване на стандарти. Освен това, при определянето на таксите за оценяване на съответствието нотифицираните органи следва да вземат предвид особените интереси и нужди на доставчиците, които са МСП, включително новосъздадени предприятия. Комисията следва да оценява редовно разходите на МСП, включително новосъздадените предприятия, за сертифициране и привеждане в съответствие чрез прозрачни консултации и следва да работи с държавите членки за понижаването на тези разходи. Така например разходите за превод, свързани със задължителната документация и комуникацията с органите, могат да представляват значителни разходи за доставчиците и другите оператори, по-специално за по-малките. Държавите членки следва по възможност да гарантират, че един от езиците, определени и приети от тях за съответната документация на доставчиците и за комуникация с операторите, е език, които в значителна степен се разбира от възможно най-голям брой трансгранични внедрители. За да се отговори на специфичните нужди на МСП, включително новосъздадените предприятия, Комисията следва да осигури стандартизирани образци за областите, обхванати от настоящия регламент, по искане на Съвета по ИИ. Освен това Комисията следва да допълни усилията на държавите членки, като осигури единна информационна платформа с лесна за ползване информация относно настоящия регламент, предназначена за всички доставчици и внедрители, като организира подходящи комуникационни кампании за повишаване на осведомеността относно задълженията, произтичащи от настоящия регламент, и като оценява и насърчава сближаването на най-добрите практики, прилагани в рамките на процедурите за възлагане на обществени поръчки във връзка със системите с ИИ. Средните предприятия, които доскоро са съответствали на критериите за малки предприятия по смисъла на приложението към Препоръка 2003/361/ЕО на Комисията (44), следва да имат достъп до тези мерки за подкрепа, тъй като е възможно тези нови средни предприятия да не разполагат с правните ресурси и обучението, необходими, за да се гарантира правилното разбиране и спазване на настоящия регламент.
(144)
Για την προώθηση και την προστασία της καινοτομίας, η πλατφόρμα ΤΝ κατά παραγγελία, όλα τα σχετικά ενωσιακά χρηματοδοτικά προγράμματα και έργα, όπως το πρόγραμμα «Ψηφιακή Ευρώπη» και το πρόγραμμα «Ορίζων Ευρώπη», τα οποία υλοποιούνται από την Επιτροπή και τα κράτη μέλη σε ενωσιακό ή εθνικό επίπεδο θα πρέπει, κατά περίπτωση, να συμβάλλουν στην επίτευξη των στόχων του παρόντος κανονισμού.
(144)
С цел насърчаване и защита на иновациите платформата за ИИ по заявка, всички съответни програми и проекти на Съюза за финансиране, като например програмите „Цифрова Европа“ и „Хоризонт Европа“, изпълнявани от Комисията и държавите членки на национално равнище или на равнището на Съюза, следва, когато е целесъобразно, да допринасят за постигането на целите на настоящия регламент.
(145)
Προκειμένου να ελαχιστοποιηθούν οι κίνδυνοι για την εφαρμογή, οι οποίοι προκύπτουν από την έλλειψη γνώσεων και εμπειρογνωσίας στην αγορά, καθώς και για να διευκολυνθεί η συμμόρφωση των παρόχων, ιδίως των ΜΜΕ, συμπεριλαμβανομένων των νεοφυών επιχειρήσεων, και των κοινοποιημένων οργανισμών με τις υποχρεώσεις τους κατά τον παρόντα κανονισμό, η πλατφόρμα ΤΝ κατά παραγγελία, οι ευρωπαϊκοί κόμβοι ψηφιακής καινοτομίας και οι εγκαταστάσεις δοκιμών και πειραματισμού που συστήνονται από την Επιτροπή και τα κράτη μέλη σε ενωσιακό ή εθνικό επίπεδο θα πρέπει να συμβάλλουν στην εφαρμογή του παρόντος κανονισμού. Στο πλαίσιο των αντίστοιχων αποστολών και πεδίων αρμοδιοτήτων τους, η πλατφόρμα ΤΝ κατά παραγγελία, οι ευρωπαϊκοί κόμβοι ψηφιακής καινοτομίας και οι εγκαταστάσεις δοκιμών και πειραματισμού είναι σε θέση να παρέχουν ιδίως τεχνική και επιστημονική υποστήριξη σε παρόχους και κοινοποιημένους οργανισμούς.
(145)
За да се сведат до минимум рисковете за правоприлагането, произтичащи от липсата на знания и експертен опит на пазара, както и за да се улесни спазването на задълженията по настоящия регламент от страна на доставчиците, по-специално МСП, включително новосъздадените предприятия, и нотифицираните органи, платформата за ИИ по заявка, европейските цифрови иновационни центрове и структурите за изпитване и експериментиране, създадени от Комисията и държавите членки на национално равнище или на равнището на Съюза, следва да допринасят за прилагането на настоящия регламент. В рамките на своята мисия и области на компетентност платформата за ИИ по заявка, европейските цифрови иновационни центрове и структурите за изпитване и експериментиране могат да предоставят по-специално техническа и научна подкрепа на доставчиците и нотифицираните органи.
(146)
Επιπλέον, δεδομένου του πολύ μικρού μεγέθους ορισμένων φορέων εκμετάλλευσης και προκειμένου να διασφαλίζεται αναλογικότητα όσον αφορά το κόστος της καινοτομίας, ενδείκνυται να δοθεί η δυνατότητα στις πολύ μικρές επιχειρήσεις να εκπληρώνουν μία από τις πλέον δαπανηρές υποχρεώσεις, δηλαδή τη θέσπιση συστήματος διαχείρισης της ποιότητας, με απλουστευμένο τρόπο που μειώνει τον διοικητικό φόρτο και το κόστος για τις εν λόγω επιχειρήσεις χωρίς να επηρεάζεται το επίπεδο προστασίας και η ανάγκη συμμόρφωσης με τις απαιτήσεις για τα συστήματα ΤΝ υψηλού κινδύνου. Η Επιτροπή θα πρέπει να αναπτύξει κατευθυντήριες γραμμές για τον προσδιορισμό των στοιχείων του συστήματος διαχείρισης της ποιότητας που πρέπει να πληρούνται με αυτόν τον απλουστευμένο τρόπο από τις πολύ μικρές επιχειρήσεις.
(146)
Освен това, предвид твърде малкия размер на някои оператори и с цел да се гарантира пропорционалност по отношение на разходите за иновации, е целесъобразно да се даде възможност на микропредприятията да изпълнят едно от най-скъпо струващите задължения, а именно създаването на система за управление на качеството, по опростен начин, което би намалило административната тежест и разходите за тези предприятия, без да се засягат равнището на защита и необходимостта от съответствие с изискванията за високорисковите системи с ИИ. Комисията следва да разработи насоки с цел да се определят елементите на системата за управление на качеството, които трябва да бъдат изпълнени по този опростен начин от микропредприятията.
(147)
Ενδείκνυται η Επιτροπή να διευκολύνει, στο μέτρο του δυνατού, την πρόσβαση σε εγκαταστάσεις δοκιμών και πειραματισμού για τους φορείς, τις ομάδες ή τα εργαστήρια που έχουν συσταθεί ή διαπιστευτεί σύμφωνα με οποιαδήποτε σχετική ενωσιακή νομοθεσία εναρμόνισης και τα οποία εκτελούν καθήκοντα στο πλαίσιο της αξιολόγησης της συμμόρφωσης προϊόντων ή συσκευών που καλύπτονται από την εν λόγω ενωσιακή νομοθεσία εναρμόνισης. Αυτό ισχύει ειδικότερα όσον αφορά τις ομάδες εμπειρογνωμόνων, τα εργαστήρια εμπειρογνωμόνων και τα εργαστήρια αναφοράς στον τομέα των ιατροτεχνολογικών προϊόντων κατά τους κανονισμούς (ΕΕ) 2017/745 και (ΕΕ) 2017/746.
(147)
Целесъобразно е Комисията да улеснява, доколкото е възможно, достъпа до структури за изпитване и експериментиране на органи, групи или лаборатории, създадени или акредитирани съгласно съответното законодателство на Съюза за хармонизация, които изпълняват задачи в контекста на оценяването на съответствието на продукти или изделия, попадащи в обхвата на посоченото законодателство на Съюза за хармонизация. Такъв е по-специално случаят с експертните групи, специализираните лаборатории и референтните лаборатории в областта на медицинските изделия съгласно регламенти (ЕС) 2017/745 и (ЕС) 2017/746.
(148)
Ο παρών κανονισμός θα πρέπει να θεσπίσει πλαίσιο διακυβέρνησης που επιτρέπει τόσο τον συντονισμό, όσο και τη στήριξη της εφαρμογής του παρόντος κανονισμού σε εθνικό επίπεδο, καθώς και την ανάπτυξη ικανοτήτων σε επίπεδο Ένωσης και τη συμπερίληψη των συμφεροντούχων στον τομέα της ΤΝ. Η αποτελεσματική εφαρμογή και επιβολή του παρόντος κανονισμού απαιτούν ένα πλαίσιο διακυβέρνησης που να επιτρέπει τον συντονισμό και την ανάπτυξη κεντρικής εμπειρογνωσίας σε επίπεδο Ένωσης. Η Υπηρεσία ΤΝ συστάθηκε με απόφαση της Επιτροπής (45) και έχει ως αποστολή να αναπτύσσει την εμπειρογνωσία και τις ικανότητες της Ένωσης στον τομέα της ΤΝ και να συμβάλλει στην εφαρμογή του ενωσιακού δικαίου σχετικά με την ΤΝ. Τα κράτη μέλη θα πρέπει να διευκολύνουν τα καθήκοντα της Υπηρεσίας ΤΝ με σκοπό να στηρίζουν την ανάπτυξη ενωσιακής εμπειρογνωσίας και ικανοτήτων σε επίπεδο Ένωσης και να ενισχύουν τη λειτουργία της ψηφιακής ενιαίας αγοράς. Επιπλέον, θα πρέπει να συσταθούν Συμβούλιο Τεχνητής Νοημοσύνης αποτελούμενο από εκπροσώπους των κρατών μελών, επιστημονική ομάδα για τη συμπερίληψη της επιστημονικής κοινότητας και συμβουλευτικό φόρουμ για τη συμβολή των συμφεροντούχων στην εφαρμογή του παρόντος κανονισμού, σε ενωσιακό και εθνικό επίπεδο. Η ανάπτυξη εμπειρογνωσίας και ικανοτήτων της Ένωσης θα πρέπει επίσης να περιλαμβάνει την αξιοποίηση των υφιστάμενων πόρων και της υπάρχουσας εμπειρογνωσίας, ιδίως μέσω συνεργειών με δομές που δημιουργούνται στο πλαίσιο της επιβολής άλλων κανόνων δικαίου σε επίπεδο Ένωσης και συνεργειών με σχετικές πρωτοβουλίες σε επίπεδο Ένωσης, όπως η κοινή επιχείρηση EuroHPC και οι εγκαταστάσεις δοκιμών και πειραματισμού ΤΝ στο πλαίσιο του προγράμματος «Ψηφιακή Ευρώπη».
(148)
С настоящия регламент следва да се създаде рамка за управление, която да позволява координация и подкрепа при прилагането на настоящия регламент на национално равнище, както и изграждане на капацитет на равнището на Съюза и включване на заинтересованите страни в областта на изкуствения интелект. Ефективното изпълнение и прилагане на настоящия регламент изискват рамка за управление, която да дава възможност за координация и изграждане на експертен опит на централно ниво, на равнището на Съюза. Службата по ИИ беше създадена с решение на Комисията (45) с мисията да развива експертния опит и способностите на Съюза в областта на ИИ и да допринася за прилагането на правото на Съюза в областта на ИИ. Държавите членки следва да улесняват изпълнението на задачите на Службата по ИИ с цел да се подпомогне развитието на експертния опит на Съюза и на способностите на равнището на Съюза и да се укрепи функционирането на цифровия единен пазар. Наред с това следва да бъдат създадени Съвет по ИИ, съставен от представители на държавите членки, експертна група, с която да се привлече научната общност, и консултативен форум, чрез който заинтересованите страни да допринасят за прилагането на настоящия регламент както на национално равнище, така и на равнището на Съюза. Развитието на експертния опит и способностите на Съюза следва да включва също така използването на съществуващите ресурси и експертен опит, по-специално чрез полезни взаимодействия със структури, изградени в контекста на прилагането в рамките на Съюза на друго законодателство, както и полезни взаимодействия със свързани инициативи на равнището на Съюза, например Съвместното предприятие за европейски високопроизводителни изчисления (EuroHPC) и съоръженията за изпитване и експериментиране с ИИ в рамките на програмата „Цифрова Европа“.
(149)
Προκειμένου να διευκολυνθεί η ομαλή, αποτελεσματική και εναρμονισμένη εφαρμογή του παρόντος κανονισμού θα πρέπει να συσταθεί Συμβούλιο Τεχνητής Νοημοσύνης. Το Συμβούλιο Τεχνητής Νοημοσύνης θα πρέπει να απηχεί τα διάφορα συμφέροντα του οικοσυστήματος ΤΝ και να απαρτίζεται από εκπροσώπους των κρατών μελών. Το Συμβούλιο Τεχνητής Νοημοσύνης θα πρέπει να είναι αρμόδιο για την εκτέλεση ορισμένων συμβουλευτικών καθηκόντων, συμπεριλαμβανομένων της έκδοσης γνωμών, συστάσεων ή συμβουλών ή της συμβολής στην καθοδήγηση σε θέματα που σχετίζονται με την εφαρμογή του παρόντος κανονισμού, μεταξύ άλλων σε σχέση με θέματα επιβολής, τεχνικές προδιαγραφές ή υφιστάμενα πρότυπα όσον αφορά τις απαιτήσεις που θεσπίζονται με τον παρόντα κανονισμό, καθώς και της παροχής συμβουλών στην Επιτροπή, τα κράτη μέλη και τις εθνικές αρμόδιες αρχές τους για συγκεκριμένα ζητήματα που σχετίζονται με την ΤΝ. Προκειμένου να δοθεί κάποια ευελιξία στα κράτη μέλη όσον αφορά τον ορισμό των εκπροσώπων τους στο Συμβούλιο Τεχνητής Νοημοσύνης, οι εκπρόσωποι αυτοί μπορεί να είναι πρόσωπα από δημόσιες οντότητες τα οποία θα πρέπει να διαθέτουν τις σχετικές αρμοδιότητες και εξουσίες για να διευκολύνουν τον συντονισμό σε εθνικό επίπεδο και να συμβάλλουν στην εκπλήρωση των καθηκόντων του Συμβουλίου Τεχνητής Νοημοσύνης. Το Συμβούλιο Τεχνητής Νοημοσύνης θα πρέπει να συγκροτήσει δύο μόνιμες υποομάδες που θα χρησιμεύουν ως πλατφόρμες συνεργασίας και ανταλλαγής απόψεων μεταξύ των αρχών εποπτείας της αγοράς και των κοινοποιουσών αρχών για θέματα που αφορούν αντίστοιχα την εποπτεία της αγοράς και τους κοινοποιημένους οργανισμούς. Η μόνιμη υποομάδα για την εποπτεία της αγοράς θα πρέπει να ενεργεί ως ομάδα διοικητικής συνεργασίας (ομάδα ADCO) για τον παρόντα κανονισμό κατά την έννοια του άρθρου 30 του κανονισμού (ΕΕ) 2019/1020. Σύμφωνα με το άρθρο 33 του εν λόγω κανονισμού, η Επιτροπή θα πρέπει να υποστηρίζει τις δραστηριότητες της μόνιμης υποομάδας για την εποπτεία της αγοράς διενεργώντας αξιολογήσεις ή μελέτες της αγοράς, ιδίως με σκοπό τον προσδιορισμό πτυχών του παρόντος κανονισμού που απαιτούν ειδικό και επείγοντα συντονισμό μεταξύ των αρχών εποπτείας της αγοράς. Το Συμβούλιο Τεχνητής Νοημοσύνης μπορεί να συγκροτεί άλλες μόνιμες ή προσωρινές υποομάδες, εφόσον είναι σκόπιμο για την εξέταση συγκεκριμένων ζητημάτων. Το Συμβούλιο Τεχνητής Νοημοσύνης θα πρέπει επίσης να συνεργάζεται, κατά περίπτωση, με τους αρμόδιους φορείς, τις ομάδες εμπειρογνωμόνων και τα δίκτυα της Ένωσης που δραστηριοποιούνται στο πλαίσιο του συναφούς ενωσιακού δικαίου, συμπεριλαμβανομένων ιδίως εκείνων που δραστηριοποιούνται στο πλαίσιο του συναφούς ενωσιακού δικαίου για τα δεδομένα, τα ψηφιακά προϊόντα και τις υπηρεσίες.
(149)
С цел подпомагане на безпрепятственото, ефективно и хармонизирано прилагане на настоящия регламент следва да бъде създаден Съвет по ИИ. Той следва да отразява различните интереси в рамките на екосистемата на ИИ и да се състои от представители на държавите членки. Съветът по ИИ следва да отговаря за изпълнението на редица консултативни задачи, включително да приема становища, препоръки, съвети или да допринася за приемането на насоки по въпроси, свързани с изпълнението на настоящия регламент, включително по въпроси на прилагането, техническите спецификации или съществуващите стандарти във връзка с изискванията, установени в настоящия регламент, и да консултира Комисията и държавите членки и техните национални компетентни органи по конкретни въпроси, свързани с ИИ. За да се осигури известна гъвкавост за държавите членки при определянето на техните представители в Съвета по ИИ, представители могат да бъдат всички лица, принадлежащи към публични субекти, които следва да разполагат със съответните компетентност и правомощия да улесняват координацията на национално равнище и да допринасят за изпълнението на задачите на Съвета по ИИ. Съветът по ИИ следва да създаде две постоянни подгрупи, които да осигуряват платформа за сътрудничество и обмен между органите за надзор на пазара и нотифициращите органи по въпроси, свързани съответно с надзора на пазара и нотифицираните органи. Постоянната подгрупа за надзор на пазара следва да действа като група за административно сътрудничество (ADCO група) за настоящия регламент по смисъла на член 30 от Регламент (ЕС) 2019/1020. В съответствие с член 33 от същия регламент Комисията следва да подпомага дейностите на постоянната подгрупа за надзор на пазара чрез извършване на оценки или проучвания на пазара, по-специално с цел да се установят аспекти на настоящия регламент, изискващи специфична и спешна координация между органите за надзор на пазара. Съветът по ИИ може да създаде други постоянни или временни подгрупи, когато това е целесъобразно за разглеждането на конкретни въпроси. Съветът по ИИ следва също така да си сътрудничи, когато е целесъобразно, със съответните органи, експертни групи и мрежи на Съюза, извършващи дейност в контекста на съответното право на Съюза, включително по-специално извършващите дейност съгласно правото на Съюза в областта на данните и цифровите продукти и услуги.
(150)
Προκειμένου να διασφαλιστεί η συμμετοχή των συμφεροντούχων στην υλοποίηση και την εφαρμογή του παρόντος κανονισμού, θα πρέπει να συσταθεί συμβουλευτικό φόρουμ για την παροχή συμβουλών και τεχνικής εμπειρογνωμοσύνης στο Συμβούλιο Τεχνητής Νοημοσύνης και την Επιτροπή. Για να εξασφαλιστεί διαφοροποιημένη και ισορροπημένη εκπροσώπηση των συμφεροντούχων μεταξύ εμπορικών και μη εμπορικών συμφερόντων και, εντός της κατηγορίας των εμπορικών συμφερόντων, όσον αφορά τις ΜΜΕ και άλλες επιχειρήσεις, το συμβουλευτικό φόρουμ θα πρέπει να περιλαμβάνει, μεταξύ άλλων, τη βιομηχανία, τις νεοφυείς επιχειρήσεις, τις ΜΜΕ, την ακαδημαϊκή κοινότητα, την κοινωνία των πολιτών, συμπεριλαμβανομένων των κοινωνικών εταίρων, καθώς και τον Οργανισμό Θεμελιωδών Δικαιωμάτων, τον ENISA, την Ευρωπαϊκή Επιτροπή Τυποποίησης (CEN), την Ευρωπαϊκή Επιτροπή Ηλεκτροτεχνικής Τυποποίησης (CENELEC) και το Ευρωπαϊκό Ινστιτούτο Τηλεπικοινωνιακών Προτύπων (ETSI).
(150)
За да се гарантира участието на заинтересованите страни в изпълнението и прилагането на настоящия регламент, следва да се създаде консултативен форум, който да консултира и да предоставя технически експертни становища на Съвета по ИИ и на Комисията. За да се гарантира разнообразно и балансирано представителство на заинтересованите страни, свързани с търговски и нетърговски интереси и, в рамките на категорията на търговските интереси, на МСП и други предприятия, консултативният форум следва да включва, наред с другото, стопанския сектор, новосъздадените предприятия, МСП, академичните среди, гражданското общество, включително социалните партньори, както и Агенцията за основните права, ENISA, Европейския комитет по стандартизация (CEN), Европейския комитет за стандартизация в електротехниката (CENELEC) и Европейския институт за стандарти в далекосъобщенията (ETSI).
(151)
Για τη στήριξη της εφαρμογής και της επιβολής του παρόντος κανονισμού, ιδίως των δραστηριοτήτων παρακολούθησης της Υπηρεσίας ΤΝ όσον αφορά τα μοντέλα ΤΝ γενικού σκοπού, θα πρέπει να συσταθεί επιστημονική ομάδα ανεξάρτητων εμπειρογνωμόνων. Οι ανεξάρτητοι εμπειρογνώμονες που συγκροτούν την επιστημονική ομάδα θα πρέπει να επιλέγονται βάσει επικαιροποιημένης επιστημονικής ή τεχνικής εμπειρογνωσίας στον τομέα της ΤΝ και θα πρέπει να εκτελούν τα καθήκοντά τους με αμεροληψία και αντικειμενικότητα και να διασφαλίζουν την εμπιστευτικότητα των πληροφοριών και των δεδομένων που λαμβάνουν κατά την εκτέλεση των καθηκόντων και των δραστηριοτήτων τους. Για να καταστεί δυνατή η ενίσχυση των εθνικών ικανοτήτων που απαιτούνται για την αποτελεσματική επιβολή του παρόντος κανονισμού, τα κράτη μέλη θα πρέπει να μπορούν να ζητούν στήριξη από την ομάδα εμπειρογνωμόνων που συγκροτούν την επιστημονική ομάδα όσον αφορά τις δραστηριότητες επιβολής.
(151)
За да се подпомогне изпълнението и прилагането на настоящия регламент, и по-специално дейностите по мониторинг на Службата по ИИ по отношение на моделите на ИИ с общо предназначение, следва да се създаде експертна група, съставена от независими експерти. Независимите експерти, които влизат в състава на експертната група, следва да бъдат подбрани въз основа на актуални научни или технически експертни познания в областта на ИИ, да изпълняват задачите си безпристрастно и обективно и да гарантират поверителността на информацията и данните, получени при изпълнението на задачите и дейностите си. За да се даде възможност за укрепване на националния капацитет, необходим за ефективното прилагане на настоящия регламент, държавите членки следва да могат да искат съдействие от експертите, влизащи в състава на експертната група, във връзка с дейностите си по прилагане на регламента.
(152)
Προκειμένου να υποστηριχθεί η κατάλληλη επιβολή όσον αφορά τα συστήματα ΤΝ και να ενισχυθούν οι ικανότητες των κρατών μελών, θα πρέπει να δημιουργηθούν ενωσιακές δομές υποστήριξης δοκιμών ΤΝ και να τεθούν στη διάθεση των κρατών μελών.
(152)
С цел да се допринесе за адекватното правоприлагане по отношение на системите с ИИ и да се укрепи капацитетът на държавите членки, следва да се създадат структури на Съюза за подкрепа на изпитванията в областта на ИИ, които да бъдат на разположение на държавите членки.
(153)
Τα κράτη μέλη διαδραματίζουν καίριο ρόλο στην εφαρμογή και την επιβολή του παρόντος κανονισμού. Στο πλαίσιο αυτό, κάθε κράτος μέλος θα πρέπει να ορίσει τουλάχιστον μία κοινοποιούσα αρχή και τουλάχιστον μία αρχή εποπτείας της αγοράς ως εθνικές αρμόδιες αρχές για την εποπτεία της εφαρμογής και της υλοποίησης του παρόντος κανονισμού. Τα κράτη μέλη μπορούν να αποφασίσουν να ορίσουν οποιοδήποτε είδος δημόσιας οντότητας για την εκτέλεση των καθηκόντων των εθνικών αρμόδιων αρχών κατά την έννοια του παρόντος κανονισμού, σύμφωνα με τα ειδικά εθνικά οργανωτικά χαρακτηριστικά και τις ανάγκες τους. Προκειμένου να αυξηθεί η αποτελεσματικότητα της οργάνωσης από την πλευρά των κρατών μελών και να δημιουργηθεί ένα ενιαίο σημείο επαφής με το κοινό και άλλους ομολόγους σε επίπεδο κρατών μελών και σε επίπεδο Ένωσης, κάθε κράτος μέλος θα πρέπει να ορίσει μία αρχή εποπτείας της αγοράς η οποία θα λειτουργεί ως ενιαίο σημείο επαφής.
(153)
Държавите членки заемат ключово място в прилагането и изпълнението на настоящия регламент. Във връзка с това всяка държава членка следва да определи най-малко един нотифициращ орган и най-малко един орган за надзор на пазара в качеството им на национални компетентни органи за целите на надзора върху прилагането и изпълнението на настоящия регламент. Държавите членки могат да решат да определят всякакъв вид публичен субект да изпълнява задачите на националните компетентни органи по смисъла на настоящия регламент, в съответствие със своите конкретни национални организационни характеристики и нужди. С цел да се повиши ефективността на организацията от страна на държавите членки и да се създаде единно звено за контакт с обществеността и други партньори на равнището на държавите членки и на Съюза, всяка държава членка следва да определи орган за надзор на пазара, който да изпълнява функциите на единно звено за контакт.
(154)
Οι εθνικές αρμόδιες αρχές θα πρέπει να ασκούν τις εξουσίες τους ανεξάρτητα, αμερόληπτα και χωρίς προκαταλήψεις, ώστε να διαφυλάσσουν τις αρχές της αντικειμενικότητας των δραστηριοτήτων και των καθηκόντων τους και να διασφαλίζουν την εφαρμογή και την εκτέλεση του παρόντος κανονισμού. Τα μέλη των εν λόγω αρχών θα πρέπει να απέχουν από κάθε ενέργεια ασυμβίβαστη με τα καθήκοντά τους και θα πρέπει να υπόκεινται στους κανόνες εμπιστευτικότητας δυνάμει του παρόντος κανονισμού.
(154)
Националните компетентни органи следва да упражняват правомощията си независимо, безпристрастно и непредубедено, за да бъдат спазени принципите за обективност в дейностите и задачите им и да се гарантира прилагането и изпълнението на настоящия регламент. Членовете на тези органи следва да се въздържат от всякакви действия, несъвместими с техните задължения, и да спазват правилата за поверителност съгласно настоящия регламент.
(155)
Προκειμένου να διασφαλιστεί ότι οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου μπορούν να λαμβάνουν υπόψη την πείρα από τη χρήση συστημάτων ΤΝ υψηλού κινδύνου για τη βελτίωση των συστημάτων τους και της διαδικασίας σχεδιασμού και ανάπτυξης ή μπορούν να λαμβάνουν εγκαίρως ενδεχόμενα διορθωτικά μέτρα, όλοι οι πάροχοι θα πρέπει να διαθέτουν σύστημα παρακολούθησης μετά τη διάθεση στην αγορά. Κατά περίπτωση, η παρακολούθηση μετά τη διάθεση στην αγορά θα πρέπει να περιλαμβάνει ανάλυση της αλληλεπίδρασης με άλλα συστήματα ΤΝ, συμπεριλαμβανομένων άλλων συσκευών και λογισμικού. Η παρακολούθηση μετά τη διάθεση στην αγορά δεν θα πρέπει να καλύπτει ευαίσθητα επιχειρησιακά δεδομένα φορέων εφαρμογής οι οποίοι είναι αρχές επιβολής του νόμου. Το εν λόγω σύστημα έχει επίσης καίρια σημασία προκειμένου να διασφαλίζεται ότι οι πιθανοί κίνδυνοι που προκύπτουν από συστήματα ΤΝ τα οποία συνεχίζουν να «μαθαίνουν» μετά τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία μπορούν να αντιμετωπίζονται αποτελεσματικότερα και έγκαιρα. Στο πλαίσιο αυτό, οι πάροχοι θα πρέπει επίσης να υποχρεούνται να διαθέτουν σύστημα για την αναφορά στις αρμόδιες αρχές οποιωνδήποτε σοβαρών περιστατικών που προκύπτουν από τη χρήση των συστημάτων ΤΝ τους, δηλαδή περιστατικού ή δυσλειτουργίας που έχει ως συνέπεια τον θάνατο ή τη σοβαρή βλάβη στην υγεία, τη σοβαρή και μη αναστρέψιμη διαταραχή της διαχείρισης και της λειτουργίας υποδομών ζωτικής σημασίας, τις παραβάσεις υποχρεώσεων που απορρέουν από το δίκαιο της Ένωσης και αποσκοπούν στην προστασία των θεμελιωδών δικαιωμάτων ή τις σοβαρές ζημίες σε περιουσιακά στοιχεία ή στο περιβάλλον.
(155)
За да се гарантира, че доставчиците на високорискови системи с ИИ могат да вземат предвид опита от използването на високорискови системи с ИИ с цел да подобряват своите системи и процеса на проектиране и разработване, или че могат своевременно да предприемат евентуални коригиращи действия, всички доставчици следва да разполагат със система за мониторинг след пускането на пазара. Когато е целесъобразно, мониторингът след пускането на пазара следва да включва анализ на взаимодействието с други системи с ИИ, включително други устройства и софтуер. Мониторингът след пускането на пазара не следва да обхваща чувствителни оперативни данни на внедрители, които са правоохранителни органи. Тази система е от ключово значение и с оглед на това да се гарантира, че възможните рискове, произтичащи от системите с ИИ, които продължават да се обучават след пускането им на пазара или пускането им в действие, могат да бъдат преодолени по-ефикасно и своевременно. В този контекст от доставчиците следва също да се изисква да разполагат със система за докладване до съответните органи за всякакви сериозни инциденти, които произтичат от използването на техните системи с ИИ и представляват инцидент или неизправност, водещ(а) до смърт или сериозно увреждане на здравето, сериозно и необратимо нарушаване на управлението и експлоатацията на критична инфраструктура, нарушения на задължения съгласно правото на Съюза, имащо за цел да защитава основните права, или сериозно увреждане на имущество или на околната среда.
(156)
Προκειμένου να διασφαλιστεί η κατάλληλη και αποτελεσματική επιβολή των απαιτήσεων και των υποχρεώσεων που ορίζονται στον παρόντα κανονισμό, ο οποίος αποτελεί ενωσιακή νομοθεσία εναρμόνισης, θα πρέπει να εφαρμόζεται στο σύνολό του το σύστημα εποπτείας της αγοράς και συμμόρφωσης των προϊόντων που θεσπίστηκε με τον κανονισμό (ΕΕ) 2019/1020. Οι αρχές εποπτείας της αγοράς που ορίζονται δυνάμει του παρόντος κανονισμού θα πρέπει να διαθέτουν όλες τις εξουσίες επιβολής που προβλέπονται στον παρόντα κανονισμό και στον κανονισμό (ΕΕ) 2019/1020 και θα πρέπει να ασκούν τις εξουσίες τους και να εκτελούν τα καθήκοντά τους ανεξάρτητα, αμερόληπτα και χωρίς προκαταλήψεις. Μολονότι τα περισσότερα συστήματα ΤΝ δεν υπόκεινται σε ειδικές απαιτήσεις και υποχρεώσεις δυνάμει του παρόντος κανονισμού, οι αρχές εποπτείας της αγοράς μπορούν να λαμβάνουν μέτρα σε σχέση με όλα τα συστήματα ΤΝ, όταν παρουσιάζουν κίνδυνο σύμφωνα με τον παρόντα κανονισμό. Λόγω της ειδικής φύσης των θεσμικών και λοιπών οργάνων και οργανισμών της Ένωσης που εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού, ενδείκνυται να οριστεί ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων ως οικεία αρμόδια αρχή εποπτείας της αγοράς. Αυτό δεν θα πρέπει να θίγει τον ορισμό εθνικών αρμόδιων αρχών από τα κράτη μέλη. Οι δραστηριότητες εποπτείας της αγοράς δεν θα πρέπει να επηρεάζουν την ικανότητα των εποπτευόμενων οντοτήτων να εκτελούν τα καθήκοντά τους με ανεξαρτησία, όταν η ανεξαρτησία αυτή απαιτείται από το δίκαιο της Ένωσης.
(156)
С оглед да се гарантира подходящо и ефективно прилагане на изискванията и задълженията, установени с настоящия регламент, който е част от законодателството на Съюза за хармонизация, системата за надзор на пазара и съответствие на продуктите, установена с Регламент (ЕС) 2019/1020, следва да се прилага в своята цялост. Органите за надзор на пазара, определени съгласно настоящия регламент, следва да разполагат с всички правомощия за осигуряване на спазването, установени съгласно настоящия регламент и Регламент (ЕС) 2019/1020, и следва да упражняват своите правомощия и да изпълняват своите задължения независимо, безпристрастно и непредубедено. Въпреки че за по-голямата част от системите с ИИ не се прилагат специални изисквания и задължения съгласно настоящия регламент, органите за надзор на пазара могат да предприемат мерки по отношение на всички системи с ИИ, когато те представляват риск в съответствие с настоящия регламент. Поради особеното естество на институциите, агенциите и органите на Съюза, попадащи в обхвата на настоящия регламент, е целесъобразно Европейският надзорен орган по защита на данните да бъде определен за компетентен орган за надзор на пазара по отношение на тях. Това не следва да засяга определянето на национални компетентни органи от държавите членки. Дейностите по надзор на пазара не следва да засягат способността на поднадзорните субекти да изпълняват задачите си по независим начин, когато тази независимост се изисква от правото на Съюза.
(157)
Ο παρών κανονισμός δεν θίγει τις αρμοδιότητες, τα καθήκοντα, τις εξουσίες και την ανεξαρτησία των σχετικών εθνικών δημόσιων αρχών ή φορέων που εποπτεύουν την εφαρμογή του δικαίου της Ένωσης για την προστασία των θεμελιωδών δικαιωμάτων, συμπεριλαμβανομένων των φορέων ισότητας και των αρχών προστασίας δεδομένων. Όταν απαιτείται για την άσκηση της εντολής τους, οι εν λόγω εθνικές δημόσιες αρχές ή φορείς θα πρέπει επίσης να έχουν πρόσβαση σε κάθε φάκελο τεκμηρίωσης που δημιουργείται δυνάμει του παρόντος κανονισμού. Θα πρέπει να θεσπιστεί ειδική διαδικασία διασφαλίσεων για την εξασφάλιση κατάλληλης και έγκαιρης επιβολής έναντι των συστημάτων ΤΝ που παρουσιάζουν κίνδυνο για την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα. Η διαδικασία για τα εν λόγω συστήματα ΤΝ που παρουσιάζουν κίνδυνο θα πρέπει να εφαρμόζεται στα συστήματα ΤΝ υψηλού κινδύνου που παρουσιάζουν κίνδυνο, στα απαγορευμένα συστήματα που έχουν διατεθεί στην αγορά, τεθεί σε λειτουργία ή χρησιμοποιούνται κατά παράβαση των διατάξεων περί απαγορευμένων πρακτικών που ορίζονται στον παρόντα κανονισμό και στα συστήματα ΤΝ που έχουν καταστεί διαθέσιμα κατά παράβαση των απαιτήσεων διαφάνειας του παρόντος κανονισμού και παρουσιάζουν κίνδυνο.
(157)
Настоящият регламент не засяга компетентността, задачите, правомощията и независимостта на съответните национални публични органи или структури, които упражняват надзор върху прилагането на правото на Съюза за защита на основните права, включително органите по въпросите на равенството и органите за защита на данните. Когато това е необходимо за упражняването на техните правомощия, тези национални публични органи или структури следва също така да имат достъп до всяка документация, изготвена съгласно настоящия регламент. Следва да се установи специална предпазна процедура, за да се гарантира адекватното и навременно осигуряване на спазването по отношение на системите с ИИ, които представляват риск за здравето, безопасността и основните права. Процедурата за такива системи с ИИ, представляващи риск, следва да се прилага за високорисковите системи с ИИ, представляващи риск, забранените системи, които са били пуснати на пазара, пуснати в действие или използвани в нарушение на определените в настоящия регламент забранени практики, и системите с ИИ, които са били предоставени в нарушение на установените в настоящия регламент изисквания за прозрачност и представляващи риск.
(158)
Το δίκαιο της Ένωσης σχετικά με τις χρηματοοικονομικές υπηρεσίες περιλαμβάνει κανόνες και απαιτήσεις εσωτερικής διακυβέρνησης και διαχείρισης κινδύνου που εφαρμόζονται στα ρυθμιζόμενα χρηματοοικονομικά ιδρύματα στο πλαίσιο της παροχής των εν λόγω υπηρεσιών, μεταξύ άλλων όταν χρησιμοποιούνται συστήματα ΤΝ. Προκειμένου να διασφαλιστεί η συνεκτική εφαρμογή και επιβολή των υποχρεώσεων δυνάμει του παρόντος κανονισμού και των σχετικών κανόνων και απαιτήσεων των νομικών πράξεων της Ένωσης για τις χρηματοοικονομικές υπηρεσίες, οι αρχές που είναι αρμόδιες για την εποπτεία και την επιβολή των εν λόγω νομικών πράξεων, ειδικότερα οι αρμόδιες αρχές όπως ορίζονται στον κανονισμό (ΕΕ) αριθ. 575/2013 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (46) και στις οδηγίες 2008/48/ΕΚ (47), 2009/138/ΕΚ (48), 2013/36/ΕΕ (49), 2014/17/ΕΕ (50) και (ΕΕ) 2016/97 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (51), θα πρέπει να οριστούν, εντός του πεδίου των αντίστοιχων αρμοδιοτήτων τους, ως αρμόδιες αρχές για την εποπτεία της εφαρμογής του παρόντος κανονισμού, μεταξύ άλλων και για τις δραστηριότητες εποπτείας της αγοράς, όσον αφορά τα συστήματα ΤΝ που παρέχονται ή χρησιμοποιούνται από ρυθμιζόμενα και εποπτευόμενα χρηματοοικονομικά ιδρύματα, εκτός εάν τα κράτη μέλη αποφασίσουν να ορίσουν άλλη αρχή αρμόδια για την εκπλήρωση αυτών των καθηκόντων εποπτείας της αγοράς. Οι εν λόγω αρμόδιες αρχές θα πρέπει να διαθέτουν όλες τις εξουσίες δυνάμει του παρόντος κανονισμού και του κανονισμού (ΕΕ) 2019/1020 για την επιβολή των απαιτήσεων και των υποχρεώσεων του παρόντος κανονισμού, συμπεριλαμβανομένων των εξουσιών για τη διεξαγωγή των εκ των υστέρων δραστηριοτήτων εποπτείας της αγοράς που μπορούν να ενσωματώνονται, κατά περίπτωση, στους υφιστάμενους εποπτικούς μηχανισμούς και διαδικασίες τους δυνάμει του σχετικού δικαίου της Ένωσης για τις χρηματοοικονομικές υπηρεσίες. Ενδείκνυται να προβλεφθεί ότι, όταν ενεργούν ως αρχές εποπτείας της αγοράς δυνάμει του παρόντος κανονισμού, οι εθνικές αρχές που είναι αρμόδιες να εποπτεύουν ρυθμιζόμενα βάσει της οδηγίας 2013/36/ΕΕ πιστωτικά ιδρύματα, τα οποία συμμετέχουν στον ενιαίο εποπτικό μηχανισμό που θεσπίστηκε με τον κανονισμό (ΕΕ) αριθ. 1024/2013 του Συμβουλίου (52), θα πρέπει να αναφέρουν, χωρίς καθυστέρηση, στην Ευρωπαϊκή Κεντρική Τράπεζα κάθε πληροφορία που εντοπίζεται κατά τη διάρκεια των δραστηριοτήτων τους εποπτείας της αγοράς και που ενδέχεται να παρουσιάζει ενδιαφέρον για τα καθήκοντα προληπτικής εποπτείας της Ευρωπαϊκής Κεντρικής Τράπεζας, όπως ορίζεται στον εν λόγω κανονισμό. Προκειμένου να ενισχυθεί περαιτέρω η συνέπεια μεταξύ του παρόντος κανονισμού και των κανόνων που ισχύουν για τα πιστωτικά ιδρύματα που ρυθμίζονται από την οδηγία 2013/36/ΕΕ, είναι επίσης σκόπιμο ορισμένες από τις διαδικαστικές υποχρεώσεις των παρόχων όσον αφορά τη διαχείριση κινδύνου, την παρακολούθηση μετά τη διάθεση στην αγορά και την τεκμηρίωση να ενσωματωθούν στις υφιστάμενες υποχρεώσεις και διαδικασίες βάσει της οδηγίας 2013/36/ΕΕ. Προκειμένου να αποφευχθούν αλληλεπικαλύψεις, θα πρέπει επίσης να προβλεφθούν περιορισμένες παρεκκλίσεις σε σχέση με το σύστημα διαχείρισης ποιότητας των παρόχων και την υποχρέωση παρακολούθησης που επιβάλλεται σε φορείς εφαρμογής συστημάτων ΤΝ υψηλού κινδύνου, στον βαθμό που ισχύουν για πιστωτικά ιδρύματα που ρυθμίζονται από την οδηγία 2013/36/ΕΕ. Το ίδιο καθεστώς θα πρέπει να ισχύει για τις ασφαλιστικές και αντασφαλιστικές επιχειρήσεις και τις ασφαλιστικές εταιρείες χαρτοφυλακίου βάσει της οδηγίας 2009/138/ΕΚ και για τους ασφαλιστικούς διαμεσολαβητές βάσει της οδηγίας (ΕΕ) 2016/97, καθώς και για άλλα είδη χρηματοοικονομικών ιδρυμάτων που υπόκεινται σε απαιτήσεις όσον αφορά την εσωτερική διακυβέρνηση, τις ρυθμίσεις ή τις διαδικασίες που θεσπίζονται δυνάμει του σχετικού δικαίου της Ένωσης για τις χρηματοοικονομικές υπηρεσίες, ώστε να διασφαλίζονται η συνέπεια και η ίση μεταχείριση στον χρηματοοικονομικό τομέα.
(158)
Правото на Съюза в областта на финансовите услуги включва правила и изисквания за вътрешно управление и управление на риска, които са приложими за регулираните финансови институции в процеса на предоставяне на тези услуги, включително когато те използват системи с ИИ. За да се гарантира съгласувано изпълнение и прилагане на задълженията по настоящия регламент и на съответните правила и изисквания съгласно правните актове на Съюза в областта на финансовите услуги, органите, компетентни за надзора и прилагането съгласно тези правни актове, и по-специално компетентните органи по смисъла на Регламент (ЕС) 575/2013 на Европейския парламент и на Съвета (46) и директиви 2008/48/ЕО (47), 2009/138/ЕО (48), 2013/36/ЕС (49), 2014/17/ЕС (50) и (ЕС) 2016/97 (51) на Европейския парламент и на Съвета, следва да бъдат определени, в рамките на съответната им компетентност, за компетентни органи за целите на надзора на прилагането на настоящия регламент, включително за дейностите по надзор на пазара по отношение на системите с ИИ, предоставяни или използвани от регулирани и поднадзорни финансови институции, освен ако държавите членки не решат да определят друг орган, който да изпълнява тези задачи по надзор на пазара. Тези компетентни органи следва да разполагат с всички правомощия съгласно настоящия регламент и Регламент (ЕС) 2019/1020 за налагане на изпълнението на изискванията и задълженията по настоящия регламент, включително правомощия за извършване на дейности по надзор след пускане на пазара, които могат да бъдат включени, когато е целесъобразно, в техните налични надзорни механизми и процедури съгласно съответното право на Съюза в областта на финансовите услуги. Целесъобразно е да се предвиди, че когато действат като органи за надзор на пазара съгласно настоящия регламент, националните органи, отговорни за надзора над кредитните институции, регулирани съгласно Директива 2013/36/ЕС, които участват в единния надзорен механизъм, създаден с Регламент (ЕС) № 1024/2013 на Съвета (52), следва незабавно да докладват на Европейската централна банка всяка информация, установена в хода на дейностите им по надзор на пазара, която може да представлява потенциален интерес във връзка със задачите на Европейската централна банка по упражняване на пруденциален надзор, определени в посочения регламент. За да се подобри още повече съгласуваността между настоящия регламент и правилата, приложими за кредитните институции, регулирани съгласно Директива 2013/36/ЕС, е целесъобразно също така някои от процедурните задължения на доставчиците във връзка с управлението на риска, мониторинга след пускането на пазара и документирането да бъдат включени в съществуващите задължения и процедури съгласно Директива 2013/36/ЕС. За да се избегне припокриване, следва да се предвидят и ограничени дерогации във връзка със системата за управление на качеството на доставчиците и задължението за мониторинг, наложено на внедрителите на високорискови системи с ИИ, доколкото те се прилагат за кредитни институции, регулирани с Директива 2013/36/ЕС. Същият режим следва да се прилага за застрахователните и презастрахователните предприятия и застрахователните холдинги съгласно Директива 2009/138/ЕО и за застрахователните посредници съгласно Директива (ЕС) 2016/97, както и за други видове финансови институции, за които се прилагат изискванията по отношение на вътрешното управление, механизмите или процесите, установени съгласно съответното право на Съюза в областта на финансовите услуги, с цел да се гарантира последователност и равно третиране във финансовия сектор.
(159)
Κάθε αρχή εποπτείας της αγοράς για τα συστήματα ΤΝ υψηλού κινδύνου στον τομέα της βιομετρίας, όπως απαριθμούνται σε παράρτημα του παρόντος κανονισμού, εφόσον τα συστήματα αυτά χρησιμοποιούνται για σκοπούς επιβολής του νόμου, διαχείρισης της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων ή απονομής δικαιοσύνης και δημοκρατικών διαδικασιών, θα πρέπει να διαθέτει ουσιαστικές εξουσίες διερεύνησης και διόρθωσης, συμπεριλαμβανομένης τουλάχιστον της εξουσίας να αποκτά πρόσβαση σε όλα τα δεδομένα προσωπικού χαρακτήρα που υποβάλλονται σε επεξεργασία και σε όλες τις πληροφορίες που είναι αναγκαίες για την εκτέλεση των καθηκόντων της. Οι αρχές εποπτείας της αγοράς θα πρέπει να είναι σε θέση να ασκούν τις εξουσίες τους ενεργώντας με πλήρη ανεξαρτησία. Οποιοιδήποτε περιορισμοί της πρόσβασής τους σε ευαίσθητα επιχειρησιακά δεδομένα βάσει του παρόντος κανονισμού δεν θα πρέπει να θίγουν τις εξουσίες που τους ανατίθενται από την οδηγία (ΕΕ) 2016/680. Καμία εξαίρεση ως προς τη γνωστοποίηση δεδομένων στις εθνικές αρχές προστασίας δεδομένων βάσει του παρόντος κανονισμού δεν θα πρέπει να θίγει τις τρέχουσες ή μελλοντικές εξουσίες των εν λόγω αρχών πέραν του πεδίου εφαρμογής του παρόντος κανονισμού.
(159)
Всеки орган за надзор на пазара на високорисковите системи с ИИ в областта на биометричните данни, чийто списък се съдържа в приложение към настоящия регламент — доколкото системите се използват за правоохранителни цели или за целите на миграцията, убежището, управлението на граничния контрол или правораздаването и демократичните процеси — следва да разполага с ефективни правомощия за разследване и с коригиращи правомощия, включително най-малко правомощието да получава достъп до всички лични данни, които се обработват, и до цялата информация, необходима за изпълнението на неговите задачи. Органите за надзор на пазара следва да могат да упражняват правомощията си, като действат напълно независимо. Ограниченията на достъпа им до чувствителни оперативни данни съгласно настоящия регламент не следва да засягат правомощията, предоставени им с Директива (ЕС) 2016/680. Случаите, в които се изключва разкриването на данни пред националните органи за защита на данните съгласно настоящия регламент, не следва да засягат настоящите или бъдещите правомощия на тези органи извън обхвата на настоящия регламент.
(160)
Οι αρχές εποπτείας της αγοράς και η Επιτροπή θα πρέπει να είναι σε θέση να προτείνουν κοινές δραστηριότητες, συμπεριλαμβανομένων κοινών ερευνών, οι οποίες θα διεξάγονται από τις αρχές εποπτείας της αγοράς ή τις αρχές εποπτείας της αγοράς από κοινού με την Επιτροπή, με στόχο την προώθηση της συμμόρφωσης, τον εντοπισμό περιπτώσεων μη συμμόρφωσης, την ευαισθητοποίηση και την παροχή καθοδήγησης σε σχέση με τον παρόντα κανονισμό όσον αφορά ειδικές κατηγορίες συστημάτων ΤΝ υψηλού κινδύνου που διαπιστώνεται ότι παρουσιάζουν σοβαρό κίνδυνο σε δύο ή περισσότερα κράτη μέλη. Οι κοινές δραστηριότητες για την προώθηση της συμμόρφωσης θα πρέπει να διεξάγονται σύμφωνα με το άρθρο 9 του κανονισμού (ΕΕ) 2019/1020. Η Υπηρεσία ΤΝ θα πρέπει να παρέχει συντονιστική υποστήριξη για τις κοινές έρευνες.
(160)
Органите за надзор на пазара и Комисията следва да могат да предлагат съвместни дейности, включително съвместни разследвания, които да се провеждат от органите за надзор на пазара или от органите за надзор на пазара съвместно с Комисията, и да имат за цел насърчаване на постигането на съответствие, установяване на несъответствие, повишаване на осведомеността и осигуряване на насоки във връзка с настоящия регламент по отношение на конкретни категории високорискови системи с ИИ, за които е установено, че представляват сериозен риск в две или повече държави членки. Съвместни дейности за насърчаване на постигането на съответствие следва да се извършват съгласно член 9 от Регламент (ЕС) 2019/1020. Службата по ИИ следва да предоставя координационна подкрепа за съвместни разследвания.
(161)
Είναι αναγκαίο να αποσαφηνιστούν οι ευθύνες και οι αρμοδιότητες σε ενωσιακό και εθνικό επίπεδο όσον αφορά τα συστήματα ΤΝ που βασίζονται σε μοντέλα ΤΝ γενικού σκοπού. Για να αποφευχθεί η αλληλεπικάλυψη αρμοδιοτήτων, όταν ένα σύστημα ΤΝ βασίζεται σε μοντέλο ΤΝ γενικού σκοπού και το μοντέλο και το σύστημα παρέχονται από τον ίδιο πάροχο, η εποπτεία θα πρέπει να πραγματοποιείται σε επίπεδο Ένωσης μέσω της Υπηρεσίας ΤΝ, η οποία θα πρέπει να έχει τις εξουσίες αρχής εποπτείας της αγοράς κατά την έννοια του κανονισμού (ΕΕ) 2019/1020 για τον σκοπό αυτό. Σε όλες τις άλλες περιπτώσεις, οι εθνικές αρχές εποπτείας της αγοράς παραμένουν υπεύθυνες για την εποπτεία των συστημάτων ΤΝ. Ωστόσο, για τα συστήματα ΤΝ γενικού σκοπού που μπορούν να χρησιμοποιηθούν απευθείας από τους φορείς εφαρμογής για τουλάχιστον ένα σκοπό που ταξινομείται ως υψηλού κινδύνου, οι αρχές εποπτείας της αγοράς θα πρέπει να συνεργάζονται με την Υπηρεσία ΤΝ για τη διενέργεια αξιολογήσεων της συμμόρφωσης και να ενημερώνουν σχετικά το Συμβούλιο Τεχνητής Νοημοσύνης και άλλες αρχές εποπτείας της αγοράς. Επιπλέον, οι αρχές εποπτείας της αγοράς θα πρέπει να είναι σε θέση να ζητούν συνδρομή από την Υπηρεσία ΤΝ, όταν η αρχή εποπτείας της αγοράς δεν είναι σε θέση να ολοκληρώσει έρευνα σχετικά με σύστημα ΤΝ υψηλού κινδύνου λόγω της αδυναμίας της να έχει πρόσβαση σε ορισμένες πληροφορίες σχετικές με το μοντέλο ΤΝ γενικού σκοπού στο οποίο έχει βασιστεί το σύστημα ΤΝ υψηλού κινδύνου. Στις περιπτώσεις αυτές, θα πρέπει να εφαρμόζεται κατ’ αναλογία η διαδικασία διασυνοριακής αμοιβαίας συνδρομής που προβλέπεται στο κεφάλαιο VI του κανονισμού (ΕΕ) 2019/1020.
(161)
Необходимо е да се изяснят отговорностите и компетентността на равнището на Съюза и на национално равнище по отношение на системите с ИИ, изградени въз основа на модели на ИИ с общо предназначение. За да се избегне припокриването на компетентност, когато дадена система с ИИ се основава на модел на ИИ с общо предназначение и моделът и системата се предоставят от един и същи доставчик, надзорът следва да се извършва на равнището на Съюза чрез Службата по ИИ, която следва да разполага с правомощията на орган за надзор на пазара по смисъла на Регламент (ЕС) 2019/1020 за тази цел. Във всички останали случаи националните органи за надзор на пазара продължават да носят отговорност за надзора на системите с ИИ. За системите с ИИ с общо предназначение обаче, които могат да се използват пряко от внедрителите с най-малко едно предназначение, класифицирано като високорисково, органите за надзор на пазара следва да си сътрудничат със Службата по ИИ, за да извършат оценки на съответствието, и да информират съответно Съвета по ИИ и другите органи за надзор на пазара. Освен това органите за надзор на пазара следва да могат да искат съдействие от Службата по ИИ, когато органът за надзор на пазара не е в състояние да приключи дадено разследване на високорискова система с ИИ поради невъзможност да получи достъп до определена информация, свързана с модела на ИИ с общо предназначение, въз основа на който е изградена високорисковата система с ИИ. В такива случаи следва да се прилага mutatis mutandis процедурата за трансгранична взаимопомощ, предвидена в глава VI от Регламент (ЕС) 2019/1020.
(162)
Για τη βέλτιστη αξιοποίηση της συγκεντρωμένης ενωσιακής εμπειρογνωσίας και των συνεργειών σε επίπεδο Ένωσης, οι εξουσίες εποπτείας και επιβολής των υποχρεώσεων των παρόχων μοντέλων ΤΝ γενικού σκοπού θα πρέπει να αποτελούν αρμοδιότητα της Επιτροπής. Η Υπηρεσία ΤΝ θα πρέπει να είναι σε θέση να εκτελεί όλες τις αναγκαίες ενέργειες για την παρακολούθηση της αποτελεσματικής εφαρμογής του παρόντος κανονισμού όσον αφορά τα μοντέλα ΤΝ γενικού σκοπού. Θα πρέπει να είναι σε θέση να διερευνά πιθανές παραβάσεις των κανόνων που επιβάλλονται στους παρόχους μοντέλων ΤΝ γενικού σκοπού είτε με δική της πρωτοβουλία, μετά τα αποτελέσματα των δραστηριοτήτων παρακολούθησης αυτής, είτε κατόπιν αιτήματος των αρχών εποπτείας της αγοράς σε ευθυγράμμιση με τους όρους που καθορίζονται στον παρόντα κανονισμό. Για την υποστήριξη της αποτελεσματικής παρακολούθησης εκ μέρους της Υπηρεσίας ΤΝ, θα πρέπει να προβλέπεται η δυνατότητα οι κατάντη πάροχοι να υποβάλλουν καταγγελίες σχετικά με πιθανές παραβάσεις των κανόνων που επιβάλλονται στους παρόχους μοντέλων και συστημάτων ΤΝ γενικού σκοπού.
(162)
За да се използват по най-добрия начин централизираният експертен опит на Съюза и полезните взаимодействия на равнището на Съюза, правомощията за надзор и осигуряване на спазване по отношение на задълженията на доставчиците на модели на ИИ с общо предназначение следва да бъдат от компетентността на Комисията. Службата по ИИ следва да може да извършва всички необходими действия за мониторинг на ефективното прилагане на настоящия регламент по отношение на моделите на ИИ с общо предназначение. Тя следва да може да разследва евентуални нарушения на правилата относно доставчиците на модели на ИИ с общо предназначение както по собствена инициатива, на основание на резултатите от своите дейности по мониторинг, така и по искане на органите за надзор на пазара, в съответствие с условията, установени в настоящия регламент. За да се допринесе за извършването на ефективен мониторинг от страна на Службата по ИИ, следва да се предвиди възможността доставчиците надолу по веригата да подават жалби във връзка с евентуални нарушения на правилата относно доставчиците на модели на ИИ с общо предназначение и системи с ИИ с общо предназначение.
(163)
Προκειμένου να συμπληρωθούν τα συστήματα διακυβέρνησης για μοντέλα ΤΝ γενικού σκοπού, η επιστημονική ομάδα θα πρέπει να υποστηρίζει τις δραστηριότητες παρακολούθησης της Υπηρεσίας ΤΝ και μπορεί, σε ορισμένες περιπτώσεις, να παρέχει ειδικές προειδοποιήσεις στην Υπηρεσία ΤΝ, οι οποίες ενεργοποιούν επακόλουθες ενέργειες, όπως έρευνες. Αυτό θα ισχύει όταν η επιστημονική ομάδα έχει λόγους να υποπτεύεται ότι ένα μοντέλο ΤΝ γενικού σκοπού συνιστά συγκεκριμένο και αναγνωρίσιμο κίνδυνο σε επίπεδο Ένωσης, καθώς και όταν η επιστημονική ομάδα έχει λόγους να υποπτεύεται ότι ένα μοντέλο ΤΝ γενικού σκοπού πληροί τα κριτήρια που συνεπάγονται την ταξινόμησή του ως μοντέλου ΤΝ γενικού σκοπού με συστημικό κίνδυνο. Προκειμένου η επιστημονική ομάδα να έχει στη διάθεσή της τις πληροφορίες που είναι αναγκαίες για την εκτέλεση των καθηκόντων αυτών, θα πρέπει να υπάρχει μηχανισμός βάσει του οποίου η επιστημονική ομάδα θα μπορεί να ζητεί από την Επιτροπή να απαιτεί από πάροχο τεκμηρίωση ή πληροφορίες.
(163)
С цел допълване на системите за управление на моделите на ИИ с общо предназначение, експертната група следва да подпомага дейностите по мониторинг на Службата по ИИ и да може в определени случаи да отправя приоритетни сигнали до Службата по ИИ, които да водят до последващи действия, например разследвания. Такъв следва да бъде случаят, когато експертната група има основания да предполага, че даден модел на ИИ с общо предназначение представлява конкретен и установим риск на равнището на Съюза. Освен това такъв следва да бъде случаят, когато експертната група има основания да предполага, че даден модел на ИИ с общо предназначение отговаря на критериите, които биха довели до класифицирането му като модел на ИИ с общо предназначение, пораждащ системен риск. За да може експертната група да разполага с информацията, необходима за изпълнението на тези задачи, следва да има механизъм, чрез който експертната група да може да отправи искане към Комисията с цел да бъде изискана документация или информация от даден доставчик.
(164)
Η Υπηρεσία ΤΝ θα πρέπει να είναι σε θέση να προβαίνει στις αναγκαίες ενέργειες για την παρακολούθηση της αποτελεσματικής εφαρμογής και της συμμόρφωσης με τις υποχρεώσεις των παρόχων μοντέλων ΤΝ γενικού σκοπού που ορίζονται στον παρόντα κανονισμό. Η Υπηρεσία ΤΝ θα πρέπει να είναι σε θέση να διερευνά πιθανές παραβάσεις σύμφωνα με τις εξουσίες που προβλέπονται στον παρόντα κανονισμό, μεταξύ άλλων ζητώντας τεκμηρίωση και πληροφορίες, διενεργώντας αξιολογήσεις, καθώς και ζητώντας τη λήψη μέτρων από παρόχους μοντέλων ΤΝ γενικού σκοπού. Κατά τη διεξαγωγή των αξιολογήσεων, ενόψει της αξιοποίησης της ανεξάρτητης εμπειρογνωμοσύνης, η Υπηρεσία ΤΝ θα πρέπει να είναι σε θέση να εξασφαλίζει τη συμμετοχή ανεξάρτητων εμπειρογνωμόνων για τη διενέργεια των αξιολογήσεων εξ ονόματός της. Η συμμόρφωση με τις υποχρεώσεις θα πρέπει να είναι εκτελεστή, μεταξύ άλλων, μέσω αιτημάτων για τη λήψη κατάλληλων μέτρων, συμπεριλαμβανομένων μέτρων μετριασμού του κινδύνου σε περίπτωση εντοπισμένων συστημικών κινδύνων, καθώς και μέσω του περιορισμού της διαθεσιμότητας στην αγορά, της απόσυρσης ή της ανάκλησης του μοντέλου. Ως εγγύηση, όταν απαιτείται πέραν των διαδικαστικών δικαιωμάτων που προβλέπονται στον παρόντα κανονισμό, οι πάροχοι μοντέλων ΤΝ γενικού σκοπού θα πρέπει να έχουν τα διαδικαστικά δικαιώματα που προβλέπονται στο άρθρο 18 του κανονισμού (ΕΕ) 2019/1020, τα οποία θα πρέπει να εφαρμόζονται κατ’ αναλογία, με την επιφύλαξη ειδικότερων διαδικαστικών δικαιωμάτων που προβλέπονται στον παρόντα κανονισμό.
(164)
Службата по ИИ следва да може да предприема необходимите действия за мониторинг на ефективното изпълнение и спазване на установените в настоящия регламент задължения на доставчиците на модели на ИИ с общо предназначение. Службата за ИИ следва да може да разследва евентуални нарушения в съответствие с правомощията, предвидени в настоящия регламент, включително като изисква документация и информация, като извършва оценки, както и като изисква предприемането на мерки от доставчиците на модели на ИИ с общо предназначение. При извършването на оценките, с цел да използва независим експертен опит, Службата по ИИ следва да може да привлича независими експерти, които да извършват оценките от нейно име. Спазването на задълженията следва да бъде осигурено, наред с другото, чрез искания за предприемане на подходящи мерки, включително мерки за ограничаване на риска в случай на установени системни рискове, както и чрез ограничаване на предоставянето на пазара на даден модел, неговото изтегляне или изземване. Като гаранция в случай на необходимост, освен процесуалните права, предвидени в настоящия регламент, доставчиците на модели на ИИ с общо предназначение следва да разполагат с процесуалните права съгласно член 18 от Регламент (ЕС) 2019/1020, които следва да се прилагат, mutatis mutandis, без да се засягат специалните процесуални права, предвидени в настоящия регламент.
(165)
Η ανάπτυξη συστημάτων ΤΝ εκτός των συστημάτων ΤΝ υψηλού κινδύνου σύμφωνα με τις απαιτήσεις του παρόντος κανονισμού μπορεί να οδηγήσει στην ευρύτερη υιοθέτηση δεοντολογικής και αξιόπιστης ΤΝ στην Ένωση. Οι πάροχοι συστημάτων ΤΝ τα οποία δεν είναι υψηλού κινδύνου θα πρέπει να ενθαρρύνονται να δημιουργούν κώδικες δεοντολογίας, συμπεριλαμβανομένων σχετικών μηχανισμών διακυβέρνησης, με σκοπό την προώθηση της οικειοθελούς εφαρμογής ορισμένων ή όλων των υποχρεωτικών απαιτήσεων που ισχύουν για τα συστήματα ΤΝ υψηλού κινδύνου, προσαρμοσμένων συναρτήσει του επιδιωκόμενου σκοπού των συστημάτων και του χαμηλότερου σχετικού κινδύνου και λαμβάνοντας υπόψη τις διαθέσιμες τεχνικές λύσεις και τις βέλτιστες πρακτικές του κλάδου, όπως τα μοντέλα και οι κάρτες δεδομένων. Οι πάροχοι και, κατά περίπτωση, οι φορείς εφαρμογής όλων των συστημάτων ΤΝ, υψηλού κινδύνου ή μη, και των μοντέλων ΤΝ θα πρέπει επίσης να ενθαρρύνονται να εφαρμόζουν σε προαιρετική βάση πρόσθετες απαιτήσεις που αφορούν, για παράδειγμα, τα στοιχεία των ενωσιακών κατευθυντήριων γραμμών δεοντολογίας για αξιόπιστη ΤΝ, την περιβαλλοντική βιωσιμότητα, μέτρα για τον γραμματισμό στον τομέα της ΤΝ, συμπεριληπτικό και διαφοροποιημένο σχεδιασμό και ανάπτυξη συστημάτων ΤΝ που, μεταξύ άλλων, δίνει προσοχή στα ευάλωτα άτομα και προσβασιμότητα στα άτομα με αναπηρία, τη συμμετοχή συμφεροντούχων με την εμπλοκή, κατά περίπτωση, σχετικών συμφεροντούχων όπως οι επιχειρηματικές οργανώσεις και οι οργανώσεις της κοινωνίας των πολιτών, η ακαδημαϊκή κοινότητα, οι ερευνητικοί οργανισμοί, οι συνδικαλιστικές οργανώσεις και οι ενώσεις προστασίας των καταναλωτών στον σχεδιασμό και την ανάπτυξη συστημάτων ΤΝ, καθώς και την πολυμορφία των ομάδων ανάπτυξης, συμπεριλαμβανομένης της ισόρροπης εκπροσώπησης των φύλων. Οι προαιρετικοί κώδικες δεοντολογίας, για να είναι αποτελεσματικοί, θα πρέπει να βασίζονται σε σαφείς στόχους και βασικούς δείκτες επιδόσεων για τη μέτρηση της επίτευξης των στόχων. Θα πρέπει επίσης να αναπτυχθούν με συμπεριληπτικό τρόπο, κατά περίπτωση, με τη συμμετοχή σχετικών συμφεροντούχων, όπως οι επιχειρηματικές οργανώσεις και οι οργανώσεις της κοινωνίας των πολιτών, η ακαδημαϊκή κοινότητα, οι ερευνητικοί οργανισμοί, οι συνδικαλιστικές οργανώσεις και οι ενώσεις προστασίας των καταναλωτών. Η Επιτροπή μπορεί να αναπτύξει πρωτοβουλίες, μεταξύ άλλων τομεακού χαρακτήρα, για να διευκολύνει τη μείωση των τεχνικών φραγμών που εμποδίζουν τη διασυνοριακή ανταλλαγή δεδομένων για την ανάπτυξη ΤΝ, μεταξύ άλλων όσον αφορά την υποδομή πρόσβασης σε δεδομένα, και τη σημασιολογική και τεχνική διαλειτουργικότητα των διάφορων ειδών δεδομένων.
(165)
Разработването на системи с ИИ, различни от високорискови системи с ИИ, в съответствие с изискванията на настоящия регламент може да доведе до по-широко внедряване на етичен и надежден ИИ в Съюза. Доставчиците на системи с ИИ, които не са високорискови, следва да бъдат насърчавани да изготвят кодекси за поведение, включително свързани с тях управленски механизми, предназначени да поощряват прилагането на доброволна основа на някои или на всички задължителни изисквания, приложими за високорисковите системи с ИИ и адаптирани с оглед на предназначението на системите и по-ниския риск, като вземат предвид наличните технически решения и най-добрите практики в сектора, например карти за модели и данни. Доставчиците и, когато е целесъобразно, внедрителите на всички системи с ИИ — високорискови или не, както и на всички модели с ИИ, следва също да бъдат насърчавани да прилагат на доброволна основа допълнителни изисквания, свързани например с елементи на Насоките на Съюза относно етичните аспекти за надежден ИИ, екологичната устойчивост, мерките относно грамотността в областта на ИИ, приобщаващия характер и многообразието при проектирането и разработването на системи с ИИ, включително повишеното внимание към уязвимите лица и достъпността за хора с увреждания, участието на заинтересованите страни чрез привличане, когато е целесъобразно, на заинтересовани страни като професионални организации и организации на гражданското общество, академични среди, научноизследователски организации, синдикати и организации за защита на потребителите, в проектирането и разработването на системи с ИИ, както и многообразието на екипите от разработчици, включително баланса между половете. За да се гарантира, че незадължителните кодекси за поведение са ефективни, те следва да се основават на ясни цели и ключови показатели за ефективност, за да може да бъде оценено постигането на тези цели. Те следва също така да бъдат разработени по приобщаващ начин, когато е целесъобразно - с участието на съответните заинтересовани страни, като професионални организации и организации на гражданското общество, академични среди, научноизследователски организации, синдикати и организации за защита на потребителите. Комисията може да разработва инициативи, включително от секторен характер, за да улесни преодоляването на техническите пречки пред трансграничния обмен на данни за разработването на ИИ, включително свързаните с инфраструктурата за достъп до данни и семантичната и техническата оперативна съвместимост на различните видове данни.
(166)
Είναι σημαντικό τα συστήματα ΤΝ που σχετίζονται με προϊόντα τα οποία δεν είναι υψηλού κινδύνου σύμφωνα με τον παρόντα κανονισμό και, ως εκ τούτου, δεν απαιτείται να συμμορφώνονται με τις απαιτήσεις που ορίζονται για τα συστήματα ΤΝ υψηλού κινδύνου να είναι, παρόλα αυτά, ασφαλή κατά τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία. Για να προωθηθεί η επίτευξη αυτού του στόχου, ο κανονισμός (ΕΕ) 2023/988 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (53) θα εφαρμόζεται ως δίχτυ ασφαλείας.
(166)
Важно е системите с ИИ, свързани с продукти, които не са високорискови в съответствие с настоящия регламент и поради това не е задължително да отговарят на изискванията, установени за високорисковите системи с ИИ, да бъдат въпреки това безопасни при пускането им на пазара или пускането им в действие. За да се допринесе за постигането на тази цел, допълнителна гаранция ще представлява възможността за прилагане на Регламент (ЕС) 2023/988 на Европейския парламент и на Съвета (53).
(167)
Προκειμένου να διασφαλιστεί η αξιόπιστη και εποικοδομητική συνεργασία των αρμόδιων αρχών σε ενωσιακό και σε εθνικό επίπεδο, όλα τα μέρη που συμμετέχουν στην εφαρμογή του παρόντος κανονισμού θα πρέπει να τηρούν την εμπιστευτικότητα των πληροφοριών και των δεδομένων που λαμβάνονται κατά την εκτέλεση των καθηκόντων τους, σύμφωνα με το ενωσιακό ή το εθνικό δίκαιο. Θα πρέπει να εκτελούν τα καθήκοντα και τις δραστηριότητές τους κατά τρόπο ώστε να προστατεύουν, ειδικότερα, τα δικαιώματα διανοητικής ιδιοκτησίας, τις εμπιστευτικές επιχειρηματικές πληροφορίες και το εμπορικό απόρρητο, την αποτελεσματική εφαρμογή του παρόντος κανονισμού, τα συμφέροντα δημόσιας και εθνικής ασφάλειας, την ακεραιότητα των ποινικών και διοικητικών διαδικασιών και την ακεραιότητα των διαβαθμισμένων πληροφοριών.
(167)
За да се гарантира надеждно и конструктивно сътрудничество между компетентните органи на равнището на Съюза и на национално равнище, всички страни, участващи в прилагането на настоящия регламент, следва да зачитат поверителността на информацията и данните, получавани при изпълнението на техните задачи, в съответствие с правото на Съюза и националното право. Те следва да изпълняват задачите и дейностите си по такъв начин, че да закрилят по-специално правата върху интелектуалната собственост, поверителната търговска информация и търговските тайни, ефективното прилагане на настоящия регламент, обществените интереси и националната сигурност, независимостта на наказателните или административните производства и неприкосновеността на класифицираната информация.
(168)
Η συμμόρφωση με τον παρόντα κανονισμό θα πρέπει να επιβάλλεται μέσω της επιβολής κυρώσεων και άλλων μέτρων επιβολής. Τα κράτη μέλη θα πρέπει να λαμβάνουν όλα τα απαραίτητα μέτρα για να εξασφαλίζουν την εφαρμογή των διατάξεων του παρόντος κανονισμού, μεταξύ άλλων θεσπίζοντας αποτελεσματικές, αναλογικές και αποτρεπτικές κυρώσεις για την παράβασή τους, και για να τηρούν την αρχή ne bis in idem. Προκειμένου να ενισχυθούν και να εναρμονιστούν οι διοικητικές κυρώσεις σε περίπτωση παράβασης του παρόντος κανονισμού, θα πρέπει να προβλέπονται ανώτατα όρια για τον καθορισμό των διοικητικών προστίμων για ορισμένες συγκεκριμένες παραβάσεις. Κατά την εκτίμηση του ύψους των προστίμων, τα κράτη μέλη θα πρέπει, σε κάθε μεμονωμένη περίπτωση, να λαμβάνουν υπόψη όλες τις σχετικές περιστάσεις της συγκεκριμένης κατάστασης, λαμβάνοντας δεόντως υπόψη ιδίως τη φύση, τη σοβαρότητα και τη διάρκεια της παράβασης και των συνεπειών της, καθώς και το μέγεθος του παρόχου, ιδίως εάν ο πάροχος είναι ΜΜΕ, μεταξύ άλλων νεοφυής επιχείρηση. Ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων θα πρέπει να έχει την εξουσία να επιβάλλει πρόστιμα σε θεσμικά και λοιπά όργανα και οργανισμούς της Ένωσης που εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού.
(168)
Спазването на настоящия регламент следва да може да се гарантира чрез налагането на санкции и други мерки за изпълнение. Държавите членки следва да предприемат всички необходими мерки, за да гарантират прилагането на разпоредбите на настоящия регламент, включително чрез установяването на ефективни, пропорционални и възпиращи санкции за тяхното нарушаване, за да осигурят зачитането на принципа non bis in idem. С цел подсилване и хармонизиране на административните санкции за нарушения на настоящия регламент, следва да се установят горните граници за определяне на административните глоби и имуществени санкции за някои конкретни нарушения. При определянето на размера на глобите и имуществените санкции държавите членки следва във всеки отделен случай да вземат предвид всички обстоятелства на конкретния случай, като надлежно отчитат по-специално естеството, тежестта и продължителността на нарушението и неговите последици, както и размера на доставчика, по-специално ако доставчикът е МСП, включително новосъздадено предприятие. Европейският надзорен орган по защита на данните следва да има правомощията да налага глоби на институциите, агенциите и органите на Съюза, попадащи в обхвата на настоящия регламент.
(169)
Η συμμόρφωση με τις υποχρεώσεις των παρόχων μοντέλων ΤΝ γενικού σκοπού οι οποίες επιβάλλονται δυνάμει του παρόντος κανονισμού θα πρέπει να επιβάλλεται, μεταξύ άλλων, μέσω της επιβολής προστίμων. Για τον σκοπό αυτό, θα πρέπει επίσης να καθοριστούν κατάλληλα επίπεδα προστίμων για παράβαση των εν λόγω υποχρεώσεων, συμπεριλαμβανομένης της μη συμμόρφωσης με τα μέτρα που ζητεί η Επιτροπή σύμφωνα με τον παρόντα κανονισμό, με την επιφύλαξη κατάλληλων προθεσμιών παραγραφής σύμφωνα με την αρχή της αναλογικότητας. Όλες οι αποφάσεις που λαμβάνει η Επιτροπή δυνάμει του παρόντος κανονισμού υπόκεινται στον έλεγχο του Δικαστηρίου της Ευρωπαϊκής Ένωσης σύμφωνα με τη ΣΛΕΕ, συμπεριλαμβανομένης της πλήρους δικαιοδοσίας του Δικαστηρίου σχετικά με τις κυρώσεις κατά το άρθρο 261 ΣΛΕΕ.
(169)
Спазването на задълженията на доставчиците на модели на ИИ с общо предназначение, наложени с настоящия регламент, следва да може да се гарантира, наред с другото, чрез глоби. За тази цел следва да се определят и подходящи размери на глобите за нарушение на тези задължения, включително неизпълнението на мерките, изисквани от Комисията в съответствие с настоящия регламент, при прилагане на подходящи давностни срокове в съответствие с принципа на пропорционалност. Всички решения, приемани от Комисията съгласно настоящия регламент, подлежат на контрол от Съда на Европейския съюз в съответствие с ДФЕС, включително на пълната юрисдикция на Съда във връзка със санкциите съгласно член 261 ДФЕС.
(170)
Το ενωσιακό και το εθνικό δίκαιο ήδη παρέχουν αποτελεσματικά μέσα έννομης προστασίας σε φυσικά και νομικά πρόσωπα των οποίων τα δικαιώματα και οι ελευθερίες θίγονται δυσμενώς από τη χρήση συστημάτων ΤΝ. Με την επιφύλαξη των εν λόγω μέσων έννομης προστασίας, κάθε φυσικό ή νομικό πρόσωπο που έχει λόγους να θεωρεί ότι έχει γίνει παράβαση του παρόντος κανονισμού θα πρέπει να έχει το δικαίωμα να υποβάλει καταγγελία στην αρμόδια αρχή εποπτείας της αγοράς.
(170)
В правото на Съюза и националното право вече са предвидени ефективни правни средства за защита на физическите и юридическите лица, чиито права и свободи са неблагоприятно засегнати от използването на системи с ИИ. Без да се засягат тези правни средства за защита, всяко физическо или юридическо лице, което има основания да счита, че е налице нарушение на настоящия регламент, следва да има правото да подаде жалба до съответния орган за надзор на пазара.
(171)
Τα θιγόμενα πρόσωπα θα πρέπει να έχουν το δικαίωμα να λαμβάνουν επεξήγηση όταν η απόφαση του φορέα εφαρμογής λαμβάνεται κυρίως με βάση τα στοιχεία εξόδου ορισμένων συστημάτων ΤΝ υψηλού κινδύνου που εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού και όταν η εν λόγω απόφαση παράγει έννομα αποτελέσματα ή επηρεάζει σημαντικά με παρόμοιο τρόπο τα θιγόμενα πρόσωπα κατά τρόπο που θεωρούν ότι υφίστανται δυσμενείς συνέπειες για την υγεία, την ασφάλεια ή τα θεμελιώδη δικαιώματά τους. Η επεξήγηση αυτή θα πρέπει να είναι σαφής και ουσιαστική και να παρέχει βάση επί της οποίας τα θιγόμενα πρόσωπα είναι σε θέση να ασκήσουν τα δικαιώματά τους. Το δικαίωμα επεξήγησης δεν θα πρέπει να ισχύει για τη χρήση συστημάτων ΤΝ για τα οποία απορρέουν εξαιρέσεις ή περιορισμοί από το ενωσιακό ή το εθνικό δίκαιο και θα πρέπει να εφαρμόζεται μόνο στον βαθμό που το δικαίωμα αυτό δεν προβλέπεται ήδη από το δίκαιο της Ένωσης.
(171)
Засегнатите лица следва да имат правото да получат обяснение, в случай че дадено решение, взето от внедрител преди всичко въз основа на резултата от работата на определени високорискови системи с ИИ, попадащи в обхвата на настоящия регламент, поражда правни последици за тях или по сходен начин ги засяга в значителна степен по начин, който според тях оказва неблагоприятно въздействие върху тяхното здраве, безопасност или основни права. Това обяснение следва да бъде ясно и изчерпателно и да дава основание на засегнатите лица да упражнят правата си. Правото на получаване на обяснение не следва да се прилага относно използването на системи с ИИ, по отношение на които от правото на Съюза или от националното право произтичат изключения или ограничения, и следва да се прилага само доколкото това право все още не е предвидено в законодателството на Съюза.
(172)
Τα πρόσωπα που ενεργούν ως μάρτυρες δημόσιου συμφέροντος σχετικά με παραβιάσεις του παρόντος κανονισμού θα πρέπει να προστατεύονται από το δίκαιο της Ένωσης. Η οδηγία (ΕΕ) 2019/1937 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (54) θα πρέπει συνεπώς να ισχύει για την αναφορά παραβιάσεων του παρόντος κανονισμού και για την προστασία των προσώπων που αναφέρουν τις παραβιάσεις αυτές.
(172)
Лица, сигнализиращи за нередности във връзка с нарушения на настоящия регламент, следва да бъдат защитени в съответствие с правото на Съюза. Поради това по отношение на подаването на сигнали за нарушения на настоящия регламент и защитата на лицата, които подават сигнали за такива нарушения, следва да се прилага Директива (ЕС) 2019/1937 на Европейския парламент и на Съвета (54).
(173)
Προκειμένου να διασφαλιστεί ότι το κανονιστικό πλαίσιο μπορεί να προσαρμόζεται όταν απαιτείται, θα πρέπει να ανατεθεί στην Επιτροπή η εξουσία έκδοσης πράξεων σύμφωνα με το άρθρο 290 ΣΛΕΕ με τις οποίες θα τροποποιούνται οι προϋποθέσεις υπό τις οποίες ένα σύστημα ΤΝ δεν πρέπει να θεωρείται υψηλού κινδύνου, ο κατάλογος των συστημάτων ΤΝ υψηλού κινδύνου, οι διατάξεις που αφορούν τον τεχνικό φάκελο, το περιεχόμενο της δήλωσης συμμόρφωσης ΕΕ, οι διατάξεις που αφορούν τις διαδικασίες αξιολόγησης της συμμόρφωσης, οι διατάξεις για τον καθορισμό των συστημάτων ΤΝ υψηλού κινδύνου στα οποία θα πρέπει να εφαρμόζεται η διαδικασία αξιολόγησης της συμμόρφωσης βάσει αξιολόγησης του συστήματος διαχείρισης της ποιότητας και αξιολόγησης του τεχνικού φακέλου, το κατώτατο όριο, τα κριτήρια αναφοράς και οι δείκτες, μεταξύ άλλων με τη συμπλήρωση αυτών των κριτηρίων αναφοράς και δεικτών, στους κανόνες ταξινόμησης των μοντέλων ΤΝ γενικού σκοπού με συστημικό κίνδυνο, τα κριτήρια για τον χαρακτηρισμό μοντέλων ΤΝ γενικού σκοπού με συστημικό κίνδυνο, ο τεχνικός φάκελος για τους παρόχους μοντέλων ΤΝ γενικού σκοπού και οι πληροφορίες διαφάνειας για τους παρόχους μοντέλων ΤΝ γενικού σκοπού. Είναι ιδιαίτερα σημαντικό η Επιτροπή να διεξάγει, κατά τις προπαρασκευαστικές της εργασίες, τις κατάλληλες διαβουλεύσεις, μεταξύ άλλων σε επίπεδο εμπειρογνωμόνων, οι οποίες να πραγματοποιούνται σύμφωνα με τις αρχές που ορίζονται στη διοργανική συμφωνία της 13ης Απριλίου 2016 για τη βελτίωση του νομοθετικού έργου (55). Πιο συγκεκριμένα, προκειμένου να εξασφαλιστεί η ίση συμμετοχή στην προετοιμασία των κατ’ εξουσιοδότηση πράξεων, το Ευρωπαϊκό Κοινοβούλιο και το Συμβούλιο λαμβάνουν όλα τα έγγραφα κατά τον ίδιο χρόνο με τους εμπειρογνώμονες των κρατών μελών, και οι εμπειρογνώμονές τους έχουν συστηματικά πρόσβαση στις συνεδριάσεις των ομάδων εμπειρογνωμόνων της Επιτροπής που ασχολούνται με την προετοιμασία κατ’ εξουσιοδότηση πράξεων.
(173)
С цел да се гарантира, че регулаторната рамка може да бъде адаптирана при необходимост, на Комисията следва да бъде делегирано правомощието да приема актове в съответствие с член 290 ДФЕС за изменение на условията, при които дадена система с ИИ не се смята за високорискова, списъка на високорисковите системи с ИИ, разпоредбите относно техническата документация, съдържанието на ЕС декларацията за съответствие, разпоредбите относно процедурите за оценяване на съответствието, разпоредбите за определяне на високорисковите системи с ИИ, за които се прилага процедурата за оценяване на съответствието въз основа на оценката на системата за управление на качеството и оценката на техническата документация, праговете, референтните стойности и показателите, включително чрез допълване на тези референтни стойности и показатели, в правилата за класифициране на моделите на ИИ с общо предназначение, пораждащи системен риск, критериите за определяне на моделите на ИИ с общо предназначение, пораждащи системен риск, техническата документация за доставчиците на модели на ИИ с общо предназначение и информацията с цел прозрачност за доставчиците на модели на ИИ с общо предназначение. От особена важност е по време на подготвителната си работа Комисията да проведе подходящи консултации, включително на експертно равнище, и тези консултации да бъдат проведени в съответствие с принципите, заложени в Междуинституционалното споразумение от 13 април 2016 г. за по-добро законотворчество (55). По-специално, с цел осигуряване на равно участие при подготовката на делегираните актове, Европейският парламент и Съветът получават всички документи едновременно с експертите от държавите членки, като техните експерти получават систематично достъп до заседанията на експертните групи на Комисията, занимаващи се с подготовката на делегираните актове.
(174)
Λόγω των ταχέων τεχνολογικών εξελίξεων και της τεχνικής εμπειρογνωσίας που απαιτείται για την αποτελεσματική εφαρμογή του παρόντος κανονισμού, η Επιτροπή θα πρέπει να αξιολογήσει και να επανεξετάσει τον παρόντα κανονισμό έως τις 2 Αυγούστου 2029 και στη συνέχεια ανά τετραετία και να υποβάλει έκθεση στο Ευρωπαϊκό Κοινοβούλιο και το Συμβούλιο. Επιπλέον, λαμβάνοντας υπόψη τις επιπτώσεις στο πεδίο εφαρμογής του παρόντος κανονισμού, η Επιτροπή θα πρέπει να διενεργεί αξιολόγηση της ανάγκης τροποποίησης του καταλόγου συστημάτων ΤΝ υψηλού κινδύνου και του καταλόγου απαγορευμένων πρακτικών μία φορά ετησίως. Επιπλέον, έως τις 2 Αυγούστου 2028 και στη συνέχεια ανά τετραετία, η Επιτροπή θα πρέπει να αξιολογεί και να υποβάλλει έκθεση στο Ευρωπαϊκό Κοινοβούλιο και στο Συμβούλιο σχετικά με την ανάγκη τροποποίησης του καταλόγου τομέων υψηλού κινδύνου στο παράρτημα του παρόντος κανονισμού, τα συστήματα ΤΝ που εμπίπτουν στο πεδίο εφαρμογής των υποχρεώσεων διαφάνειας, την αποτελεσματικότητα του συστήματος εποπτείας και διακυβέρνησης και την πρόοδο όσον αφορά την ανάπτυξη παραδοτέων τυποποίησης για την ενεργειακά αποδοτική ανάπτυξη μοντέλων ΤΝ γενικού σκοπού, συμπεριλαμβανομένης της ανάγκης για περαιτέρω μέτρα ή δράσεις. Τέλος, έως τις 2 Αυγούστου 2028 και στη συνέχεια ανά τριετία, η Επιτροπή θα πρέπει να αξιολογεί τον αντίκτυπο και την αποτελεσματικότητα των προαιρετικών κωδίκων δεοντολογίας για την προώθηση της εφαρμογής των απαιτήσεων που προβλέπονται για συστήματα ΤΝ υψηλού κινδύνου σε περίπτωση συστημάτων ΤΝ που δεν είναι συστήματα ΤΝ υψηλού κινδύνου και ενδεχομένως άλλων πρόσθετων απαιτήσεων για τέτοια συστήματα ΤΝ.
(174)
Предвид бързото технологично развитие и техническия експертен опит, необходим за ефективното прилагане на настоящия регламент, Комисията следва да направи оценка и преглед на настоящия регламент до 2 август 2029 г. и на всеки четири години след това, и да докладва на Европейския парламент и на Съвета. Освен това, с оглед на последиците за обхвата на настоящия регламент, Комисията следва веднъж годишно да прави оценка на необходимостта от изменение на списъка на високорисковите системи с ИИ и на списъка на забранените практики. Наред с това, до 2 август 2028 г. и на всеки четири години след това Комисията следва да оценява и да докладва на Европейския парламент и на Съвета за необходимостта от изменение на наименованията на високорисковите области в приложението към настоящия регламент, системите с ИИ, попадащи в обхвата на задълженията за прозрачност, ефективността на системата за надзор и управление и напредъка по разработването на стандартизационни документи за енергийно ефективно разработване на модели на ИИ с общо предназначение, включително за необходимостта от допълнителни мерки или действия. И на последно място, до 2 август 2028 г. и на всеки три години след това Комисията следва да оценява въздействието и ефективността на незадължителните кодекси за поведение с цел да се насърчи прилагането на изискванията, предвидени за високорисковите системи с ИИ, по отношение на системи, различни от високорискови системи с ИИ, и евентуално на други допълнителни изисквания за такива системи с ИИ.
(175)
Προκειμένου να διασφαλιστούν ενιαίες προϋποθέσεις για την εφαρμογή του παρόντος κανονισμού, θα πρέπει να ανατεθούν στην Επιτροπή εκτελεστικές αρμοδιότητες. Οι εν λόγω αρμοδιότητες θα πρέπει να ασκούνται σύμφωνα με τον κανονισμό (ΕΕ) αριθ. 182/2011 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (56).
(175)
За да се гарантират еднакви условия за изпълнение на настоящия регламент, на Комисията следва да бъдат предоставени изпълнителни правомощия. Тези правомощия следва да бъдат упражнявани в съответствие с Регламент (ЕС) № 182/2011 на Европейския парламент и на Съвета (56).
(176)
Δεδομένου ότι ο στόχος του παρόντος κανονισμού, δηλαδή η βελτίωση της λειτουργίας της εσωτερικής αγοράς και η προώθηση της υιοθέτησης ανθρωποκεντρικής και αξιόπιστης ΤΝ, με παράλληλη διασφάλιση υψηλού επιπέδου προστασίας της υγείας, της ασφάλειας, των θεμελιωδών δικαιωμάτων που κατοχυρώνονται στον Χάρτη, συμπεριλαμβανομένης της δημοκρατίας, του κράτους δικαίου και της προστασίας του περιβάλλοντος από τις επιβλαβείς συνέπειες των συστημάτων ΤΝ στην Ένωση, και τη στήριξη της καινοτομίας, δεν μπορεί να επιτευχθεί ικανοποιητικά από τα κράτη μέλη, μπορεί όμως, εξαιτίας της κλίμακας και των επιπτώσεων της δράσης, να επιτευχθεί καλύτερα σε επίπεδο Ένωσης, η Ένωση δύναται να λάβει μέτρα σύμφωνα με την αρχή της επικουρικότητας του άρθρου 5 ΣΕΕ. Σύμφωνα με την αρχή της αναλογικότητας όπως διατυπώνεται στο ίδιο άρθρο, ο παρών κανονισμός δεν υπερβαίνει τα αναγκαία όρια για την επίτευξη του στόχου αυτού.
(176)
Доколкото целта на настоящия регламент, а именно да се подобри функционирането на вътрешния пазар и да се насърчи навлизането на ориентиран към човека и надежден ИИ, като същевременно се гарантира високо равнище на защита на здравето, безопасността, основните права, залегнали в Хартата, включително демокрацията, принципите на правовата държава и опазването на околната среда, срещу вредното въздействие на системите с ИИ в Съюза и да се подкрепят иновациите, не може да бъде постигната в достатъчна степен от държавите членки, а поради мащаба или последиците на действието може да бъде по-добре постигната на равнището на Съюза, Съюзът може да приеме мерки в съответствие с принципа на субсидиарност, уреден в член 5 от Договора за Европейския съюз. В съответствие с принципа на пропорционалност, уреден в същия член, настоящият регламент не надхвърля необходимото за постигането на тази цел.
(177)
Για λόγους ασφάλειας δικαίου, προκειμένου να διασφαλιστεί κατάλληλη περίοδος προσαρμογής για τους φορείς εκμετάλλευσης και να αποφευχθεί διαταραχή της αγοράς, μεταξύ άλλων με τη διασφάλιση της συνέχειας της χρήσης των συστημάτων ΤΝ, ενδείκνυται ο παρών κανονισμός να εφαρμόζεται στα συστήματα ΤΝ υψηλού κινδύνου που έχουν διατεθεί στην αγορά ή έχουν τεθεί σε λειτουργία πριν από τη γενική ημερομηνία εφαρμογής του, μόνο εάν, από την ημερομηνία αυτή, τα εν λόγω συστήματα υπόκεινται σε σημαντικές αλλαγές όσον αφορά τον σχεδιασμό ή τον επιδιωκόμενο σκοπό τους. Ενδείκνυται να διευκρινιστεί ότι, στο πλαίσιο αυτό, η έννοια της σημαντικής αλλαγής θα πρέπει να νοείται ως κατ’ ουσίαν ισοδύναμη με την έννοια της ουσιαστικής τροποποίησης, η οποία χρησιμοποιείται όσον αφορά μόνο τα συστήματα ΤΝ υψηλού κινδύνου δυνάμει του παρόντος κανονισμού. Κατ’ εξαίρεση και υπό το πρίσμα της δημόσιας λογοδοσίας, οι φορείς εκμετάλλευσης συστημάτων ΤΝ που αποτελούν κατασκευαστικά στοιχεία των συστημάτων ΤΠ μεγάλης κλίμακας που θεσπίζονται με τις νομικές πράξεις που απαριθμούνται σε παράρτημα του παρόντος κανονισμού και οι φορείς εκμετάλλευσης συστημάτων ΤΝ υψηλού κινδύνου που προορίζονται να χρησιμοποιηθούν από δημόσιες αρχές θα πρέπει, αντίστοιχα, να λάβουν τα αναγκαία μέτρα για να συμμορφωθούν με τις απαιτήσεις του παρόντος κανονισμού έως το τέλος του 2030 και έως τις 2 Αυγούστου 2030.
(177)
С цел да се гарантира правна сигурност, да се осигури подходящ срок за адаптация за операторите и да се избегнат смущения на пазара, включително чрез осигуряване на непрекъснатост в използването на системите с ИИ, е целесъобразно настоящият регламент да се прилага за високорисковите системи с ИИ, които са били пуснати на пазара или пуснати в действие преди общата начална дата на прилагането му, само в случай че след тази дата бъдат извършени значителни промени в проекта или предназначението на тези системи. Следва да се поясни, че в този контекст понятието „значителна промяна“ следва да се разбира като равностойно по същество на понятието „съществено изменение“, което се използва само по отношение на високорисковите системи с ИИ съгласно определението в настоящия регламент. По изключение и с оглед на публичната отчетност операторите на системи с ИИ, които са компоненти на широкомащабните информационни системи, създадени с правните актове, чийто списък е приложен към настоящия регламент, и операторите на високорискови системи с ИИ, предназначени да бъдат използвани от публични органи, следва да предприемат мерките, необходими, за да се съобразят с изискванията на настоящия регламент, съответно до края на 2030 г. и в срок до 2 август 2030 г.
(178)
Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου παροτρύνονται να αρχίσουν να συμμορφώνονται, οικειοθελώς, με τις σχετικές υποχρεώσεις του παρόντος κανονισμού ήδη κατά τη διάρκεια της μεταβατικής περιόδου.
(178)
Доставчиците на високорискови системи с ИИ се насърчават да започнат да спазват на доброволна основа съответните задължения, предвидени съгласно настоящия регламент, още по време на преходния период.
(179)
Ο παρών κανονισμός θα πρέπει να εφαρμόζεται από τις 2 Αυγούστου 2026. Ωστόσο, λαμβανομένου υπόψη του απαράδεκτου κινδύνου που συνδέεται με τη χρήση της ΤΝ από ορισμένες απόψεις, οι απαγορεύσεις καθώς και οι γενικές διατάξεις του παρόντος κανονισμού θα πρέπει να εφαρμόζονται ήδη από τις 2 Φεβρουαρίου 2025. Ενώ η πλήρης ισχύς των απαγορεύσεων αυτών απορρέει από τη θέσπιση της διακυβέρνησης και της επιβολής του παρόντος κανονισμού, η πρόβλεψη της εφαρμογής των απαγορεύσεων είναι σημαντική προκειμένου να ληφθεί υπόψη ο απαράδεκτος κίνδυνος και να υπάρξει αντίκτυπος σε άλλες διαδικασίες, όπως στο αστικό δίκαιο. Εξάλλου, η υποδομή που σχετίζεται με τη διακυβέρνηση και το σύστημα αξιολόγησης της συμμόρφωσης θα πρέπει να έχουν τεθεί σε λειτουργία πριν από τις 2 Αυγούστου 2026, συνεπώς οι διατάξεις για τους κοινοποιημένους οργανισμούς και τη δομή διακυβέρνησης θα πρέπει να εφαρμόζονται από τις 2 Αυγούστου 2025. Λόγω του ταχέος ρυθμού των τεχνολογικών εξελίξεων και της υιοθέτησης μοντέλων ΤΝ γενικού σκοπού, οι υποχρεώσεις για τους παρόχους μοντέλων ΤΝ γενικού σκοπού θα πρέπει να εφαρμόζονται από τις 2 Αυγούστου 2025. Οι κώδικες πρακτικής θα πρέπει να είναι έτοιμοι έως τις 2 Μάϊου 2025, ώστε να μπορούν οι πάροχοι να αποδεικνύουν εγκαίρως τη συμμόρφωση. Η Υπηρεσία ΤΝ θα πρέπει να διασφαλίζει ότι οι κανόνες και οι διαδικασίες ταξινόμησης είναι επικαιροποιημένοι ενόψει των τεχνολογικών εξελίξεων. Επιπλέον, τα κράτη μέλη θα πρέπει να θεσπίσουν και να κοινοποιήσουν στην Επιτροπή κανόνες σχετικά με τις κυρώσεις, συμπεριλαμβανομένων των διοικητικών προστίμων, και να διασφαλίσουν την ορθή και αποτελεσματική εφαρμογή τους κατά την ημερομηνία εφαρμογής του παρόντος κανονισμού. Ως εκ τούτου, οι διατάξεις σχετικά με τις κυρώσεις θα πρέπει να εφαρμόζονται από τις 2 Αυγούστου 2025.
(179)
Настоящият регламент следва да се прилага от 2 август 2026 г. Същевременно, като се има предвид неприемливият риск, свързан с използването на ИИ по определени начини, забраните, както и общите разпоредби на настоящия регламент следва да се прилагат още от 2 февруари 2025 г. Въпреки че тези забрани ще влязат напълно в действие, след като бъде установено управлението и прилагането на настоящия регламент, предварителното им прилагане е важно с оглед да се вземе предвид неприемливият риск и да се въздейства върху други процедури, например в гражданското право. Наред с това, инфраструктурата, свързана с управлението и системата за оценяване на съответствието, следва да започне да функционира преди 2 август 2026 г., поради което разпоредбите относно нотифицираните органи и структурата на управление следва да се прилагат от 2 август 2025 г. Като се има предвид бързият темп на технологичния напредък и възприемането на модели на ИИ с общо предназначение, задълженията на доставчиците на модели на ИИ с общо предназначение следва да се прилагат от 2 август 2025 г. Кодексите за добри практики следва да бъдат готови в срок до 2 май 2025 г., за да се даде възможност на доставчиците своевременно да докажат спазването им. Службата по ИИ следва да гарантира, че правилата и процедурите за класифициране са актуални с оглед на технологичното развитие. Освен това държавите членки следва да установят и изпратят до Комисията правилата относно санкциите, включително административните глоби и имуществени санкции, и да гарантират, че те се прилагат правилно и ефективно към началната дата на прилагане на настоящия регламент. Поради това разпоредбите относно санкциите следва да се прилагат от 2 август 2025 г.
(180)
Ζητήθηκε, σύμφωνα με το άρθρο 42 παράγραφοι 1 και 2 του κανονισμού (ΕΕ) 2018/1725, η γνώμη του Ευρωπαίου Επόπτη Προστασίας Δεδομένων και του Ευρωπαϊκού Συμβουλίου Προστασίας Δεδομένων, που γνωμοδότησαν από κοινού στις 18 Ιουνίου 2021,
(180)
В съответствие с член 42, параграфи 1 и 2 от Регламент (ЕС) 2018/1725 беше проведена консултация с Европейския надзорен орган по защита на данните и Европейския комитет по защита на данните, които представиха съвместното си становище на 18 юни 2021 г.,
ΕΞΕΔΩΣΑΝ ΤΟΝ ΠΑΡΟΝΤΑ ΚΑΝΟΝΙΣΜΟ:
ПРИЕХА НАСТОЯЩИЯ РЕГЛАМЕНТ:
ΚΕΦΑΛΑΙΟ I
ГЛАВА I
ΓΕΝΙΚΕΣ ΔΙΑΤΑΞΕΙΣ
ОБЩИ РАЗПОРЕДБИ
Άρθρο 1
Член 1
Αντικείμενο
Предмет
1. Σκοπός του παρόντος κανονισμού είναι να βελτιώσει τη λειτουργία της εσωτερικής αγοράς και να προωθήσει την υιοθέτηση ανθρωποκεντρικής και αξιόπιστης τεχνητής νοημοσύνης (ΤΝ), παράλληλα διασφαλίζοντας υψηλό επίπεδο προστασίας της υγείας, της ασφάλειας, των θεμελιωδών δικαιωμάτων που κατοχυρώνονται στον Χάρτη, συμπεριλαμβανομένης της δημοκρατίας, του κράτους δικαίου και της περιβαλλοντικής προστασίας από τις επιζήμιες συνέπειες των συστημάτων ΤΝ στην Ένωση, και στηρίζοντας την καινοτομία.
1. Целта на настоящия регламент е да се подобри функционирането на вътрешния пазар и да се насърчи навлизането на ориентиран към човека и надежден изкуствен интелект (ИИ), като същевременно се осигурява високо равнище на защита на здравето, безопасността, основните права, залегнали в Хартата, включително демокрацията, принципите на правовата държава и опазването на околната среда, от вредните въздействия на системите с ИИ в Съюза, както и да се подкрепят иновациите.
2. Ο παρών κανονισμός θεσπίζει:
2. С настоящия регламент се установяват:
α)
εναρμονισμένους κανόνες για τη διάθεση στην αγορά, τη θέση σε λειτουργία και τη χρήση συστημάτων ΤΝ στην Ένωση·
a)
хармонизирани правила за пускането на пазара, пускането в действие и използването на системи с ИИ в Съюза;
β)
απαγορεύσεις ορισμένων πρακτικών ΤΝ·
б)
забрани на определени практики в областта на ИИ;
γ)
ειδικές απαιτήσεις για συστήματα ΤΝ υψηλού κινδύνου και υποχρεώσεις για τους φορείς εκμετάλλευσης τέτοιων συστημάτων·
в)
особени изисквания за високорисковите системи с ИИ и задължения за операторите на такива системи;
δ)
εναρμονισμένους κανόνες διαφάνειας για ορισμένα συστήματα ΤΝ·
г)
хармонизирани правила за прозрачност за определени системи с ИИ;
ε)
εναρμονισμένους κανόνες για τη διάθεση στην αγορά μοντέλων ΤΝ γενικού σκοπού·
д)
хармонизирани правила за пускането на пазара на модели на ИИ с общо предназначение;
στ)
κανόνες για την παρακολούθηση της αγοράς, την εποπτεία της αγοράς, τη διακυβέρνηση και την επιβολή·
е)
правила за мониторинг на пазара, надзор на пазара, управление и осигуряване на спазването;
ζ)
μέτρα για τη στήριξη της καινοτομίας, με ιδιαίτερη έμφαση στις ΜΜΕ, περιλαμβανομένων των νεοφυών επιχειρήσεων.
ж)
мерки в подкрепа на иновациите с особено внимание към МСП, включително новосъздадените предприятия.
Άρθρο 2
Член 2
Πεδίο εφαρμογής
Обхват
1. Ο παρών κανονισμός εφαρμόζεται σε:
1. Настоящият регламент се прилага по отношение на:
α)
παρόχους που διαθέτουν στην αγορά ή θέτουν σε λειτουργία συστήματα ΤΝ ή διαθέτουν στην αγορά μοντέλα ΤΝ γενικού σκοπού στην Ένωση, ανεξάρτητα από το αν οι εν λόγω πάροχοι είναι εγκατεστημένοι ή βρίσκονται εντός της Ένωσης ή σε τρίτη χώρα·
a)
доставчици, които пускат на пазара или пускат в действие системи с ИИ или пускат на пазара модели на ИИ с общо предназначение в Съюза, независимо дали тези доставчици са установени или се намират на територията на Съюза или в трета държава;
β)
φορείς εφαρμογής συστημάτων ΤΝ που έχουν τον τόπο εγκατάστασής τους ή βρίσκονται εντός της Ένωσης·
б)
внедрители на системи с ИИ, чието място на установяване е на територията на Съюза или които се намират на територията на Съюза;
γ)
παρόχους και φορείς εφαρμογής συστημάτων ΤΝ που έχουν τον τόπο εγκατάστασής τους ή βρίσκονται σε τρίτη χώρα, όταν τα στοιχεία εξόδου που παράγει το σύστημα ΤΝ χρησιμοποιούνται στην Ένωση·
в)
доставчици и внедрители на системи с ИИ, чието място на установяване е в трета държава или които се намират в трета държава, когато резултатът, получен от системата с ИИ, се използва в Съюза;
δ)
εισαγωγείς και διανομείς συστημάτων ΤΝ·
г)
вносители и дистрибутори на системи с ИИ;
ε)
κατασκευαστές προϊόντων που διαθέτουν στην αγορά ή θέτουν σε λειτουργία σύστημα ΤΝ μαζί με το προϊόν τους και υπό τη δική τους επωνυμία ή εμπορικό σήμα·
д)
производители на продукти, които пускат на пазара или пускат в действие система с ИИ заедно със своя продукт и със своето име или търговска марка;
στ)
εξουσιοδοτημένους αντιπροσώπους παρόχων, οι οποίοι δεν είναι εγκατεστημένοι στην Ένωση·
е)
упълномощени представители на доставчици, които не са установени в Съюза;
ζ)
θιγόμενα πρόσωπα που βρίσκονται στην Ένωση.
ж)
засегнати лица, които се намират в Съюза.
2. Σε ό,τι αφορά τα συστήματα ΤΝ που ταξινομούνται ως συστήματα ΤΝ υψηλού κινδύνου σύμφωνα με το άρθρο 6 παράγραφος 1 σχετικά με προϊόντα τα οποία καλύπτονται από την ενωσιακή νομοθεσία εναρμόνισης που παρατίθεται στο παράρτημα I τμήμα Β, εφαρμόζονται μόνο το άρθρο 6 παράγραφος 1, τα άρθρα 102 έως 109 και το άρθρο 112. Το άρθρο 57 εφαρμόζεται μόνο στον βαθμό που οι απαιτήσεις για τα συστήματα ΤΝ υψηλού κινδύνου δυνάμει του παρόντος κανονισμού έχουν ενσωματωθεί στην εν λόγω ενωσιακή νομοθεσία εναρμόνισης.
2. За системи с ИИ, които са класифицирани като високорискови системи с ИИ в съответствие с член 6, параграф 1, които са свързани с продукти, обхванати от законодателството на Съюза за хармонизация, посочено в раздел Б от приложение I, се прилагат само член 6, параграф 1 и членове 102 – 109 и 112. Член 57 се прилага само доколкото изискванията за високорисковите системи с ИИ съгласно настоящия регламент са били включени в това законодателство на Съюза за хармонизация.
3. Ο παρών κανονισμός δεν εφαρμόζεται σε τομείς εκτός του πεδίου εφαρμογής του ενωσιακού δικαίου και σε κάθε περίπτωση δεν θίγει τις αρμοδιότητες των κρατών μελών όσον αφορά την εθνική ασφάλεια, ανεξάρτητα από το είδος της οντότητας στην οποία τα κράτη μέλη αναθέτουν την εκτέλεση καθηκόντων που σχετίζονται με τις εν λόγω αρμοδιότητες.
3. Настоящият регламент не се прилага в области извън обхвата на правото на Съюза и не засяга компетентността на държавите членки по отношение на националната сигурност, независимо от вида на субекта, на който държавите членки са възложили изпълнението на задачите във връзка с тази компетентност.
Ο παρών κανονισμός δεν εφαρμόζεται σε συστήματα ΤΝ εάν και εφόσον διατίθενται στην αγορά, τίθενται σε λειτουργία ή χρησιμοποιούνται με ή χωρίς τροποποίηση αποκλειστικά για στρατιωτικούς και αμυντικούς σκοπούς ή σκοπούς εθνικής ασφάλειας, ανεξάρτητα από το είδος της οντότητας που εκτελεί τις εν λόγω δραστηριότητες.
Настоящият регламент не се прилага за системи с ИИ, ако и доколкото те са пуснати на пазара, пуснати в действие или използвани със или без изменение на тези системи изключително за военни цели и цели, свързани с отбраната или националната сигурност, независимо от вида на субекта, който извършва тези дейности.
Ο παρών κανονισμός δεν εφαρμόζεται σε συστήματα ΤΝ τα οποία δεν διατίθενται στην αγορά ούτε τίθενται σε λειτουργία στην Ένωση, όταν τα στοιχεία εξόδου χρησιμοποιούνται στην Ένωση αποκλειστικά για στρατιωτικούς και αμυντικούς σκοπούς ή σκοπούς εθνικής ασφάλειας, ανεξάρτητα από το είδος της οντότητας που εκτελεί τις εν λόγω δραστηριότητες.
Настоящият регламент не се прилага за системи с ИИ, които не са пуснати на пазара или пуснати в действие в Съюза, когато резултатите се използват в Съюза изключително за военни цели и цели, свързани с отбраната или националната сигурност, независимо от вида на субекта, който извършва тези дейности.
4. Ο παρών κανονισμός δεν εφαρμόζεται σε δημόσιες αρχές τρίτης χώρας ούτε σε διεθνείς οργανισμούς που εμπίπτουν στο πεδίο εφαρμογής του παρόντος κανονισμού σύμφωνα με την παράγραφο 1, όταν οι εν λόγω αρχές ή οργανισμοί χρησιμοποιούν συστήματα ΤΝ στο πλαίσιο διεθνούς συνεργασίας ή διεθνών συμφωνιών για την επιβολή του νόμου και τη δικαστική συνεργασία με την Ένωση ή με ένα ή περισσότερα κράτη μέλη, υπό την προϋπόθεση ότι η εν λόγω τρίτη χώρα ή ο εν λόγω διεθνής οργανισμός παρέχει επαρκείς διασφαλίσεις όσον αφορά την προστασία των θεμελιωδών δικαιωμάτων και ελευθεριών των ατόμων.
4. Настоящият регламент не се прилага за публични органи в трета държава, нито за международни организации, попадащи в обхвата на настоящия регламент съгласно параграф 1, когато тези органи или организации използват системи с ИИ в рамките на международно сътрудничество или споразумения за правоприлагане и съдебно сътрудничество със Съюза или с една или повече държави членки, при условие че тази трета държава или международна организация осигурява подходящи гаранции по отношение на защитата на основните права и свободи на физическите лица.
5. Ο παρών κανονισμός δεν θίγει την εφαρμογή των διατάξεων σχετικά με την ευθύνη των παρόχων ενδιάμεσων υπηρεσιών, όπως καθορίζονται στο κεφάλαιο II του κανονισμού (ΕΕ) 2022/2065.
5. Настоящият регламент не засяга прилагането на разпоредбите относно отговорността на доставчиците на посреднически услуги, установени в глава II от Регламент (ЕС) 2022/2065.
6. Ο παρών κανονισμός δεν εφαρμόζεται στα συστήματα ΤΝ ή τα μοντέλα ΤΝ, περιλαμβανομένων των στοιχείων εξόδου τους, που αναπτύσσονται ειδικά και τίθενται σε λειτουργία με αποκλειστικό σκοπό την επιστημονική έρευνα και ανάπτυξη.
6. Настоящият регламент не се прилага за системите с ИИ или моделите на ИИ, които са специално разработени и пуснати в действие единствено с цел научноизследователска и развойна дейност, включително за техните резултати.
7. Στα δεδομένα προσωπικού χαρακτήρα τα οποία υποβάλλονται σε επεξεργασία σε σχέση με τα δικαιώματα και τις υποχρεώσεις που προβλέπονται στον παρόντα κανονισμό εφαρμόζεται το ενωσιακό δίκαιο για την προστασία των δεδομένων προσωπικού χαρακτήρα, της ιδιωτικής ζωής και του απορρήτου των επικοινωνιών. Ο παρών κανονισμός δεν θίγει τον κανονισμό (ΕΕ) 2016/679 ή (ΕΕ) 2018/1725 ή την οδηγία 2002/58/ΕΚ ή (ΕΕ) 2016/680, με την επιφύλαξη του άρθρου 10 παράγραφος 5 και του άρθρου 59 του παρόντος κανονισμού.
7. Правото на Съюза относно защитата на личните данни, неприкосновеността на личния живот и поверителността на съобщенията се прилага за личните данни, обработвани във връзка с правата и задълженията, предвидени в настоящия регламент. Настоящият регламент не засяга регламенти (ЕС) 2016/679 и (ЕС) 2018/1725, нито директиви 2002/58/ЕО и (ЕС) 2016/680, без да се засягат член 10, параграф 5 и член 59 от настоящия регламент.
8. Ο παρών κανονισμός δεν εφαρμόζεται σε καμία δραστηριότητα έρευνας, δοκιμής ή ανάπτυξης όσον αφορά συστήματα ΤΝ ή μοντέλα ΤΝ πριν από τη διάθεση τους στην αγορά ή τη θέση τους σε λειτουργία. Οι δραστηριότητες αυτές διεξάγονται σύμφωνα με το εφαρμοστέο ενωσιακό δίκαιο. Οι δοκιμές σε πραγματικές συνθήκες δεν καλύπτονται από αυτήν την εξαίρεση.
8. Настоящият регламент не се прилага за научноизследователски дейности, изпитвания или развойни дейности по отношение на системи с ИИ или модели на ИИ преди пускането на пазара или пускането в действие на тези системи или модели. Тези дейности се извършват в съответствие с приложимото право на Съюза. Изпитването в реални условия не попада в обхвата на това изключение.
9. Ο παρών κανονισμός δεν θίγει τους κανόνες που καθορίζονται σε άλλες ενωσιακές νομικές πράξεις σχετικά με την προστασία των καταναλωτών και την ασφάλεια των προϊόντων.
9. Настоящият регламент не засяга правилата, установени в други правни актове на Съюза, свързани със защитата на потребителите и безопасността на продуктите.
10. Ο παρών κανονισμός δεν εφαρμόζεται στις υποχρεώσεις των φορέων εφαρμογής που είναι φυσικά πρόσωπα και χρησιμοποιούν συστήματα ΤΝ στο πλαίσιο αμιγώς προσωπικής μη επαγγελματικής δραστηριότητας.
10. Настоящият регламент не се прилага за задълженията на внедрители, които са физически лица, използващи системи с ИИ в рамките на изцяло лична непрофесионална дейност.
11. Ο παρών κανονισμός δεν εμποδίζει την Ένωση ή τα κράτη μέλη να διατηρούν ή να θεσπίζουν νομοθετικές, κανονιστικές ή διοικητικές διατάξεις που είναι ευνοϊκότερες για τους εργαζομένους ως προς την προστασία των δικαιωμάτων τους όσον αφορά τη χρήση συστημάτων ΤΝ από τους εργοδότες ή να ενθαρρύνουν ή να επιτρέπουν την εφαρμογή ευνοϊκότερων συλλογικών συμβάσεων για τους εργαζομένους.
11. Настоящият регламент не e пречка Съюзът или държавите членки да запазят или въведат законови, подзаконови или административни разпоредби, които са по-благоприятни за работниците по отношение на защитата на правата им във връзка с използването от работодателите на системи с ИИ, нито да насърчават или разрешават прилагането на колективни трудови договори, които са по-благоприятни за работниците.
12. Ο παρών κανονισμός δεν εφαρμόζεται στα συστήματα ΤΝ που διατίθενται βάσει δωρεάν αδειών ανοικτού κώδικα, εκτός εάν διατίθενται στην αγορά ή τίθενται σε λειτουργία ως συστήματα ΤΝ υψηλού κινδύνου ή ως σύστημα ΤΝ που εμπίπτει στο άρθρο 5 ή 50.
12. Настоящият регламент не се прилага за системи с ИИ, предоставени с безплатен лиценз с отворен код, освен ако не са пуснати на пазара или пуснати в действие като високорискови системи с ИИ или като система с ИИ, попадаща в обхвата на член 5 или 50.
Άρθρο 3
Член 3