Πράξη για την Τεχνητή Νοημοσύνη: Το πλαίσιο δημιουργίας της και ένα πρακτικό παράδειγμα

* Γράφει η Τατιάνα Κυτταρούδη, συνεργάτιδα της Rhetor Law Firm

Η Τεχνητή Νοημοσύνη (ΤΝ) αποτελεί μία πραγματικότητα που βρίσκεται πλέον δυναμικά σε πληθώρα πτυχών της καθημερινής ζωής, ωστόσο σίγουρα δεν πρόκειται για γέννημα της τρέχουσας δεκαετίας. Στην πραγματικότητα, για αυτή γίνεται λόγος ήδη από το 1950, με επιστήμονες όπως ο Alan Turing να συζητούν για τις δυνατότητες των αλγορίθμων και τη διαχωριστική τους γραμμή με τις ικανότητες των ανθρώπων.

Προχωρώντας από τις επιστημονικές έρευνες και την ανάπτυξη των συστημάτων, και μη γνωρίζοντας ακριβώς πώς πρέπει να αντιμετωπιστεί η γεωμετρικά αυξανόμενη πρόοδος και επέκτασή τους με νόμους, οι εμπειρογνώμονες μίλησαν για ηθική (ethics in AI), αυτορρύθμιση, διαφάνεια, αμεροληψία. Σε εκείνο το στάδιο της απαρχής της εξάπλωσης της ΤΝ, η τακτική νομοθέτηση θα ήταν όχι μόνον επιστημονικά απαιτητική, αλλά και ενδεχομένως εσφαλμένη. Η καινοτομία θα περιοριζόταν, αλλά κυρίως οι όποιες εισακτέες ρυθμίσεις θα πλαισίωναν έννοιες και εξελίξεις που δεν είχαν ακόμη δοκιμαστεί και δεν είχαν εκδηλώσει επαρκώς τις προεκτάσεις τους, θετικές και αρνητικές, ώστε να διαγνωστούν οι ακριβείς ανάγκες και τα προβλήματα που χρήζουν ρύθμισης. Σήμερα, μιλάμε πλέον για ένα υπερεθνικό ρυθμιστικό πεδίο που πλαισιώνει την ανάπτυξη της Τεχνητής Νοημοσύνης, με την ειδοποιό διαφορά της εισαγωγής μηχανισμών εποπτείας της συμμόρφωσης με τις επιταγές του.

Επιστέγασμα των νομοθετικών διαπραγματεύσεων, διαβουλεύσεων και σχεδίων για την ΤΝ αποτελεί, αναμφίβολα, η Πράξη για την Τεχνητή Νοημοσύνη (AI Act). Ο Κανονισμός (EE) 2024/1689 συνιστά πρωτοπόρο νομοθετικό κείμενο και είναι το πρώτο συνεκτικό πλαίσιο κανόνων που στοχεύουν στην ανάπτυξη, διάθεση στην αγορά και τη χρήση συστημάτων ΤΝ σε παγκόσμιο επίπεδο. Για τα ευρωπαϊκά δεδομένα, ο Κανονισμός ψηφίστηκε σχετικά σύντομα, όχι βέβαια χωρίς τη συνοδεία μίας πρότερης περιόδου έντονου πολιτικού και επιστημονικού διαλόγου αλλά και αντιπαραθέσεων. Περαιτέρω, έρχεται να συμπληρώσει ένα πακέτο μέτρων της Ένωσης με στόχο την προώθηση της Αξιόπιστης ΤΝ (Trustworthy AI), συμπεριλαμβανομένου του AI Innovation Package και του Coordinated Plan on AI.

Η μεθοδολογική προσέγγιση που υιοθετεί ο Κανονισμός προκειμένου να πετύχει τους σκοπούς ασφάλειας, διαφάνειας και λογοδοσίας των συστημάτων ΤΝ, όπως φωτίζονται από τις ευρωπαϊκές αξίες και αρχές, είναι η προσέγγιση βάσει κινδύνου (risk-based approach), κατηγοριοποιώντας δηλαδή τα συστήματα ΤΝ σε 4 βασικές κατηγορίες:

1. Μη αποδεκτού κινδύνου: θέτουν σαφή απειλή στην ασφάλεια και τα δικαιώματα και η διάθεσή τους απαγορεύεται (π.χ. αυτοματοποιημένη προβλεπτική αστυνόμευση).
2. Υψηλού κινδύνου: θέτουν σημαντικούς κινδύνους στην ασφάλεια και τα θεμελιώδη δικαιώματα και υπόκεινται σε αυστηρούς περιορισμούς (ανθρώπινη επίβλεψη, διαφάνεια, ποιότητα δεδομένων που χρησιμοποιούνται για την εκπαίδευση των μοντέλων).
3. Χαμηλού κινδύνου: συστήματα με περιορισμένες απαιτήσεις διαφάνειας λόγω χαμηλής αξιολόγησης ρίσκου (π.χ. AI chatbots).
4. Ελάχιστου κινδύνου: συστήματα με μηδαμινό ή μικρό κίνδυνο και, κατά συνέπεια, ελάχιστη ρύθμιση (π.χ. φίλτρα για ανεπιθύμητα μηνύματα).

Δεδομένου του μεγάλου αριθμού άρθρων και εξαντλητικών αναλύσεων του Κανονισμού και προς αποφυγή επαναλήψεων, θα εξετάσουμε ένα πρακτικό παράδειγμα για την καλύτερη κατανόηση των νέων επιταγών που εισήχθησαν και που οι νομικοί πληροφορικής θα πρέπει πλέον να κάνουν κτήμα τους στην επαγγελματική πρακτική τους. Είναι γεγονός πως η ΤΝ ανοίγει τον δρόμο για την λεγόμενη «4η Βιομηχανική Επανάσταση» και τη «Βιομηχανία 4.0» και, εντός του πλαισίου αυτού, ο τομέας της Ενέργειας δεν αποτελεί εξαίρεση. Η ΤΝ, η Μηχανική Μάθηση, το Διαδίκτυο των Πραγμάτων και η Ανάλυση Μεγάλου Όγκου Δεδομένων αλλάζουν ριζικά τον κλάδο της Ενέργειας, δημιουργώντας αποκεντρωμένα μοντέλα και δίνοντας λύσεις σε θεμελιώδη προβλήματα, με κυριότερο την εξισορρόπηση ζήτησης-προσφοράς.

Σε αυτή την κατεύθυνση, οι έξυπνοι μετρητές (smart meters) που ενσωματώνουν τεχνολογίες ΤΝ, επιτρέπουν τη συλλογή δεδομένων ενέργειας από συσκευές κλιματισμού, κεντρικές μονάδες, καλοριφέρ κλπ. σε συγκεκριμένα νοικοκυριά ή κτίρια και παρέχουν πληροφορίες και ανάλυση σχετικά με την ενεργειακή κατανάλωση, απόδοση, σπατάλη αλλά και τον περιβαλλοντικό αντίκτυπο. Σε συνεργασία με την ΤΝ, οι δυνατότητες αυξάνονται και προσφέρονται προβλεπτικές ειδοποιήσεις και προσωποποιημένες ενεργειακές προτάσεις.

Τατιάνα Κυτταρούδη

Σύμφωνα με το Παράρτημα ΙΙΙ και την Αιτιολογική Σκέψη 55 του Κανονισμού, ως συστήματα υψηλού κινδύνου θεωρούνται αυτά που χρησιμοποιούνται ως κατασκευαστικά στοιχεία ασφάλειας για τη διαχείριση και λειτουργία της παροχής θέρμανσης και ηλεκτρικής ενέργειας στις υποδομές ζωτικής σημασίας, στην οποία εντάσσεται εν γένει ο κλάδος της Ενέργειας βάσει της ευρωπαϊκής νομοθεσίας. Κατά την ερμηνεία δε της εν λόγω διάταξης, όποιο σύστημα ΤΝ εξυπηρετεί οποιαδήποτε λειτουργία επιχειρησιακού ή διοικητικού ελέγχου, ταξινομείται ως υψηλού κινδύνου, ανεξάρτητα από το αν το σύστημα ΤΝ διαθέτει λειτουργία ασφάλειας, όπως οι έξυπνοι μετρητές.

Συνεπώς, για τη διάθεση των μετρητών, θα πρέπει να προηγηθεί αξιολόγηση και πιστοποίηση της συμμόρφωσής τους με τον Κανονισμό, ανεξάρτητος έλεγχος ποιότητας και εκτίμηση κινδύνου αλλά και αντικτύπου, καθώς και παροχή αποδείξεων διαφάνειας και σαφών οδηγιών χρήσης από τους παρόχους των συστημάτων. Κατόπιν της διάθεσής τους στην αγορά, θα πρέπει να υπάρχει εποπτεία τους, αξιολόγηση ενδεχόμενων κινδύνων και υιοθέτηση σχετικών μέτρων, παράλληλα με την άμεση αναφορά περιστατικών που δύνανται να αξιολογηθούν ως παραβάσεις του Κανονισμού.

Η Πράξη για την Τεχνητή Νοημοσύνη τέθηκε σε ισχύ την 1η Αυγούστου 2024 με την πλήρη εφαρμογή της να ολοκληρώνεται τον Αύγουστο του 2027. Πλέον, συνοδεύει τη νομική θεωρία και πράξη, ωστόσο θα πρέπει να αντιμετωπίζεται ως μέρος ενός ευρύτερου συνόλου ευρωπαϊκών νομοθετημάτων, τόσο Κανονισμών όσο και Οδηγιών, τα οποία από κοινού συνδιαμορφώνουν τις τεχνολογικές και ψηφιακές εξελίξεις της σύγχρονης εποχής (βλ. ενδεικτικά Digital Services Act, Digital Markets Act, Digital Operational Resilience Act, NIS 2, Cyber Resilience Act, Data Act, GDPR κλπ.).

*Η Τατιάνα Κυτταρούδη είναι Δικηγόρος παρά Πρωτοδίκαις, μέλος του Δικηγορικού Συλλόγου Ορεστιάδας από το 2022 και πιστοποιημένη Υπεύθυνη Προστασίας Προσωπικών Δεδομένων (DPO) από το ΚΕΔΙΒΙΜ ΑΠΘ.