Τεχνητή Νοημοσύνη και Αστική Ευθύνη στο κανονιστικό πλαίσιο της Ευρωπαϊκής Ένωσης - Ζητήματα υπό το πρίσμα των Εφαρμογών Συντρόφου ΤΝ

* Ο Μαρίνος Εμμανουήλ Καλπάκος είναι δικηγόρος Πειραιώς και διδακτορικός ερευνητής ως μέλος ΔΕΠ στο Πανεπιστήμιο του Λουξεμβούργου με διδακτικά και ερευνητικά καθήκοντα που αφορούν στο Ευρωπαϊκό δίκαιο και στο δίκαιο της Τεχνητής Νοημοσύνης, κάτοχος μεταπτυχιακού τίτλου (LLM) από το πανεπιστήμιο του Λέιντεν και απόφοιτος νομικής ΔΠΘ.
I . Εισαγωγή
Η επέλαση της Τεχνητής Νοημοσύνης (εφεξής “ΤΝ”) γίνεται αισθητή όλο και περισσότερο σε σχεδόν όλες τις πτυχές της οικονομικής, κοινωνικής, και προσωπικής ζωής των ατόμων, επαναπροσδιορίζοντας τα δεδομένα στις ανθρώπινες αλληλεπιδράσεις και ενδεχομένως την ίδια την έννοια της ανθρώπινης αλληλεπίδρασης. Περιηγητές καθοδηγούμενοι από chatbots ΤΝ, μοντέλα ΤΝ γενικού σκοπού άμεσα διαθέσιμα στο ευρύ κοινό ικανά να παράγουν τόσο κείμενο όσο και εικόνες και βίντεο καθ’υπόδειξη του χρήστη. Μία ολόκληρη αγορά που εξελίσσεται ραγδαία και προδιαγνώσκεται να λάβει ανεπανάληπτες διαστάσεις μέσα στα επόμενα χρόνια έχει ήδη παρεισφρήσει στις σχέσεις μεταξύ των ατόμων, απευθυνόμενη σε όσο το δυνατόν μεγαλύτερο μέρος του καταναλωτικού κοινού.
Σε αυτό το πλαίσιο ο ενωσιακός νομοθέτης, ιδιαίτερα θορυβημένος από την σαρωτική επιτυχία του ChatGPT από το Νοέμβριο του 2022 και έπειτα, αποφάσισε να ρυθμίσει την ΤΝ προκειμένου να προστατέψει την ασφάλεια και τα δικαιώματα των ατόμων που τη χρησιμοποιούν. Μέσα σε ένα πλούσιο πρόσφατο νομοπαρασκευαστικό έργο, η ΤΝ ανάγεται σε προϊόν σύμφωνα με την πρόσφατα υιοθετημένη Ευρωπαϊκή Οδηγία για την ευθύνη λόγω ελαττωματικών προϊόντων (revised Product Liability Directive) το οποίο λαμβάνει διαφορετικές κατηγορίες ρίσκου σύμφωνα με τον Ευρωπαϊκό Κανονισμό για την ΤΝ - AI Act (εφεξής Κανονισμός για την ΤΝ), τόσο ανάλογα με τα χαρακτηριστικά του όσο και ανάλογα με τη χρήση του, με διαφορετικές υποχρεώσεις, ανάλογα με την κατηγορία στην οποία εμπίπτει, και περισσότερα πρόσωπα τα οποία δύνανται να καταστούν υπεύθυνα σε περίπτωση παραβίασης των σχετικών κανόνων. Η αναθεωρημένη Οδηγία για την ευθύνη λόγω ελαττωματικών προϊόντων περιλαμβάνει πλέον στο πεδίο εφαρμογής της και συστήματα ΤΝ προκειμένου να ανταποκριθεί στις τεχνολογικές εξελίξεις. Συγγενής με αυτήν ήταν η υπό διαπραγμάτευση Οδηγία για την προσαρμογή των κανόνων περί εξωσυμβατικής αστικής ευθύνης στην ΤΝ (εφεξής “οδηγία περί ευθύνης για την ΤΝ”) η οποία είχε ως στόχο την διευκόλυνση των ζημιωθέντων από τη χρήση εφαρμογών ΤΝ στην διεκδίκηση αποζημίωσης στα πλαίσια της εξωσυμβατικής αστικής ευθύνης, αλλά τελικά αποσύρθηκε. Μπορεί να υποστηριχθεί ως εκ τούτου ότι παρατηρούμε έναν νέο κλάδο δικαίου εν τη γενέσει, ενόψει όλων αυτών των αλλαγών, που στοχεύει στη ρύθμιση της ΤΝ και ο οποίος θα πρέπει να συνάδει αρμονικά με το υφιστάμενο κανονιστικό πλαίσιο της Ευρωπαϊκής Ένωσης για τις νέες τεχνολογίες.
Το παρόν πόνημα ευελπιστεί να προσφέρει μία εύχρηστη θεώρηση των ανωτέρω νομοθετημάτων και να εξερευνήσει την συνδυαστική τους εφαρμογή παράλληλα με το ελληνικό δίκαιο σχετικά με την αστική, εξωσυμβατική ευθύνη που ανακύπτει σε περίπτωση ζημίας που ενδέχεται να προκληθεί κατά τη χρήση Εφαρμογών Συντρόφου ΤΝ, ήτοι ευρέως διαθέσιμων ηλεκτρονικών εφαρμογών ΤΝ που μιμούνται ρομαντικούς συντρόφους. Το άρθρο θέτει ως στόχο να απαντήσει στο εξής Ερευνητικό Ερώτημα:
Πώς το ισχύον κανονιστικό πλαίσιο της Ευρωπαϊκής Ένωσης για την ΤΝ και το ελληνικό αστικό δίκαιο αντιμετωπίζουν ζητήματα εξωσυμβατικής ευθύνης που ανακύπτουν από τη χρήση εφαρμογών συντρόφων ΤΝ, υπό το πρίσμα της αλληλεπίδρασης ανθρώπου-ΤΝ σε γενικά και εξειδικευμένα πλαίσια;
Συγκεκριμένα, το άρθρο θα εξετάσει τις κύριες διατάξεις των σχετικών με την ΤΝ ανωτέρω ενωσιακών νομοθετημάτων αντικριστά με την εφαρμογή του ελληνικού δικαίου για την εξωσυμβατική ευθύνη (Κεφάλαιο ΙΙ). Η σύγκριση και εφαρμογή των επιλεγμένων νομοθετημάτων θα πραγματοποιηθεί στο πλαίσιο μιας υποθετικής περιπτωσιολογίας διερευνώντας την ζημία που ενδέχεται να προκύψει σε δύο διαφορετικές, πιθανές παραλλαγές αλληλεπίδρασης του χρήστη με την ΤΝ, μία γενική και μία πιο εξειδικευμένη, χρησιμοποιώντας τις εφαρμογές συντρόφων ΤΝ ως σημείο αναφοράς και προτείνοντας ερμηνευτικές προσεγγίσεις στις υφιστάμενες διατάξεις (Κεφάλαιο ΙΙΙ). Τελικώς, η ανάλυση θα απαντήσει στο Ερευνητικό Ερώτημα, υπό το πρίσμα της διασφάλισης αποτελεσματικής προστασίας των ατόμων, προσφέροντας την εκτεθείσα περιπτωσιολογία ως πηγή έμπνευσης για άλλες αντίστοιχες αλληλεπιδράσεις ανθρώπου με την ΤΝ, στις οποίες μπορεί να παρατηρηθεί παρόμοια διάκριση μεταξύ γενικής και εξειδικευμένης χρήσης (Κεφάλαιο IV).
II . Tο Ευρωπαϊκό Κανονιστικό Πλαίσιο σχετικά με την ΤΝ
Α. Ο Κανονισμός 2024/1689 για την Τεχνητή Νοημοσύνη (
AI Act)
Μετά την έκδοση της Λευκής Βίβλου τον Φεβρουάριο του 2019, η Ευρωπαϊκή Επιτροπή διεξήγαγε αξιολογήσεις και διαβουλεύσεις με ενδιαφερόμενους φορείς, βάσει των οποίων πρότεινε τον Κανονισμό για την ΤΝ στις 21 Απριλίου του 2021. Ως κανονισμός ασφάλειας προϊόντων που βασίζεται στο Άρθρο 114 της ΣΛΕΕ, ο γενικός του στόχος είναι, σύμφωνα με την Αιτιολογική Έκθεση της πρότασης της Επιτροπής, «να διασφαλίσει την ορθή λειτουργία της εσωτερικής αγοράς με την θέσπιση εναρμονισμένων κανόνων για την ανάπτυξη και χρήση αξιόπιστης ΤΝ στην Ένωση». Ο στόχος αυτός επιδιώκεται μέσω μίας βάσει κινδύνου τιθέμενου από το εκάστοτε σύστημα ΤΝ προσέγγισης (risk-based approach) για τη δημιουργία ενός ρυθμιστικού πλαισίου αποτελούμενο από τέσσερις κατηγορίες κινδύνου με ανάλογους μηχανισμούς επιβολής. Σε αυτό το πλαίσιο, αυστηρότερες απαιτήσεις εφαρμόζονται καθώς αυξάνεται το επίπεδο κινδύνου. Ο Κανονισμός τέθηκε σε ισχύ την 1η Αυγούστου του 2024 - με τις διατάξεις του να τίθενται σε βαθμιαία εφαρμογή σύμφωνα με το Άρθρο 113.
Α.1 Ταξινόμηση Συστημάτων ΤΝ σε Κατηγορίες Κινδύνου
Στην πρώτη κατηγορία κινδύνου τίθενται τα συστήματα ΤΝ με απαράδεκτο επίπεδο κινδύνου, ήτοι οι ‘απαγορευμένες πρακτικές ΤΝ’, που απαγορεύονται κατά το Άρθρο 5 του Κανονισμού. Αυτά είναι τα συστήματα ΤΝ που επιστρατεύουν τις ακόλουθες πρακτικές: χρήση τεχνικών που επηρεάζουν το υποσυνείδητο ή χειραγωγούν σκόπιμα τη συμπεριφορά ατόμων κατά τρόπο που προκαλεί ή ενδέχεται να προκαλέσει σοβαρή βλάβη, εκμετάλλευση ευπαθειών λόγω ηλικίας, αναπηρίας ή κοινωνικοοικονομικής κατάστασης κατά αντίστοιχο με τον προαναφερθέντα τρόπο, αξιολόγηση ή ταξινόμηση ατόμων με βάση κοινωνικές συμπεριφορές ή προσωπικά χαρακτηριστικά μέσω κοινωνικής βαθμολογίας με επιζήμια ή δυσμενή αποτελέσματα, πρόβλεψη αξιόποινων πράξεων βασιζόμενη αποκλειστικά σε προφίλ ατόμων χωρίς αντικειμενικά και επαληθεύσιμα περιστατικά, δημιουργία ή επέκταση βάσεων δεδομένων αναγνώρισης προσώπου μέσω μη στοχευμένων εικόνων, ανάλυση συναισθημάτων σε χώρους εργασίας ή εκπαιδευτικά ιδρύματα (εκτός ιατρικών λόγων ή λόγων ασφαλείας), βιομετρική κατηγοριοποίηση βάση ευαίσθητων δεδομένων όπως θρησκευτικές ή πολιτικές πεποιθήσεις και εξ αποστάσεως βιομετρική ταυτοποίηση σε πραγματικό χρόνο σε δημόσιους χώρους για επιβολή του νόμου με συγκεκριμένες εξαιρέσεις υπό αυστηρές προϋποθέσεις.
Η δεύτερη κατηγορία κινδύνου περιλαμβάνει τα συστήματα ΤΝ υψηλού κινδύνου στα οποία επιβάλλονται υποχρεωτικές απαιτήσεις που αποτυπώνονται στον Κεφάλαιο ΙΙΙ Τμήμα 2 του Κανονισμού, συμπληρουμένων από τις διατάξεις των επόμενων Τμημάτων.
Οι αναφερόμενες στο Άρθρο 6 παράγραφος 1 του Κανονισμού υψηλού κινδύνου συστήματα, περιλαμβάνουν συστήματα ΤΝ τα οποία χρησιμοποιούνται ως κατασκευαστικά στοιχεία ασφαλείας ενός προϊόντος ή είναι τα ίδια προϊόντα που καλύπτονται από την ενωσιακή νομοθεσία του Παραρτήματος Ι του Κανονισμού και παράλληλα απαιτείται να υποβληθούν σε αξιολόγηση συμμόρφωσης από τρίτο μέρος, για τη διάθεση τους στην αγορά ή τη θέση τους σε λειτουργία, σύμφωνα με την εναρμονισμένη ενωσιακή νομοθεσία του σχετικού Παραρτήματος. Το δε Παράρτημα Ι του Κανονισμού περιέχει κατάλογο εναρμονίζουσας ενωσιακής νομοθεσίας σχετικά με την ασφάλεια προϊόντων. Σε αυτόν περιλαμβάνονται οδηγίες και κανονισμοί που αφορούν στη διασφάλιση της ασφάλειας και συμμόρφωσης σε διάφορους τομείς, συγκεκριμένα για μηχανήματα, παιχνίδια, σκάφη αναψυχής, ανελκυστήρες, συστήματα προστασίας σε εκρήξιμες ατμόσφαιρες, ραδιοεξοπλισμό, διαθεσιμότητα εξοπλισμού υπό πίεση στην αγορά, εγκαταστάσεις με συρματόσχοινα, μέσα ατομικής προστασίας, συσκευές με καύση αερίων, ιατροτεχνολογικά προϊόντα, εξοπλισμό πλοίων, σιδηροδρομικά συστήματα, μηχανοκίνητα οχήματα, γεωργικά και δασικά οχήματα και πολιτική αεροπορία.
Συστήματα υψηλού κινδύνου θεωρούνται και τα συστήματα που απαριθμίζονται στο Παράρτημα ΙΙΙ του Κανονισμού, σύμφωνα με την παράγραφο 2 του Άρθρου 6, δεδομένου ότι αυτά ενέχουν, κατά την παράγραφο 3 του ίδιου Άρθρου, σημαντικό κίνδυνο βλάβης για την υγεία, την ασφάλεια ή τα θεμελιώδη δικαιώματα φυσικών προσώπων, μεταξύ άλλων επηρεάζοντας ουσιωδώς το αποτέλεσμα λήψης αποφάσεων.
Το Παράρτημα ΙΙΙ του Κανονισμού απαριθμίζει περιοριστικά τους εξής τομείς στους οποίους τα συστήματα ΤΝ χαρακτηρίζονται ως υψηλού κινδύνου: Βιομετρικά στοιχεία - αφορά σε συστήματα ΤΝ βιομετρικής ταυτοποίησης, βιομετρικής κατηγοριοποίησης και αναγνώρισης συναισθημάτων· Υποδομές ζωτικής σημασίας - πρόκειται για συστήματα ΤΝ που προορίζονται για χρήση ως στοιχεία ασφάλειας στη διαχείριση και στην λειτουργία ψηφιακών υποδομών ζωτικής σημασίας, οδικής κυκλοφορίας και βασικές υπηρεσίες όπως παροχή νερού και ενέργειας· Εκπαίδευση και επαγγελματική κατάρτιση - περιλαμβάνει συστήματα ΤΝ για τον καθορισμό πρόσβασης σε ιδρύματα εκπαίδευσης, την αξιολόγηση μαθησιακών αποτελεσμάτων ή του κατάλληλου προσβάσιμου επιπέδου εκπαίδευσης και την παρακολούθηση συμπεριφοράς κατά τη διάρκεια εξετάσεων· Απασχόληση, διαχείριση εργαζομένων και πρόσβαση στην αυτοαπασχόληση - εδώ εμπίπτουν τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για την πρόσληψη εργαζομένων, τους όρους των εργασιακών σχέσεων και την αξιολόγηση της απόδοσης τους· Πρόσβαση σε βασικές δημόσιες ή ιδιωτικές υπηρεσίες και παροχές - πρόκειται για συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για αξιολόγηση επιλεξιμότητας για κοινωνικές παροχές από τις δημόσιες αρχές, πιστοληπτικής ικανότητας (με την εξαίρεση του εντοπισμού οικονομικής απάτης), εκτίμηση ασφάλειας υγείας και ζωής, και αξιολόγηση ή ιεράρχηση κλήσεων έκτακτης ανάγκης (π.χ. αστυνομία, πυροσβεστική) και διαλογής ασθενών σε επείγοντα περιστατικά· Επιβολή του νόμου - συστήματα ΤΝ για εκτίμηση κινδύνου ενός φυσικού προσώπου να πέσει θύμα αξιόποινης πράξης, ανιχνευτές ψεύδους, συστήματα για την αξιολόγηση της αξιοπιστίας αποδεικτικών στοιχείων σχετικά με αξιόποινες πράξεις, συστήματα για την αξιολόγηση του κινδύνου τέλεσης εκ νέου αξιόποινης πράξης και συστήματα για την κατάρτιση προφίλ στο πλαίσιο έρευνας εγκληματικών πράξεων· Διαχείριση μετανάστευσης ασύλου και συνοριακών ελέγχων - αυτά είναι τα συστήματα που προορίζονται να χρησιμοποιηθούν για ανίχνευση ψεύδους, αξιολόγηση κινδύνων για την ασφάλεια, την εξέταση των αιτήσεων ασύλου και αδειών διαμονής και την διαχείριση τη μετανάστευσης και των συνοριακών ελέγχων με σκοπό τον εντοπισμό, την αναγνώριση και την ταυτοποίηση φυσικών προσώπων· Απονομή δικαιοσύνης και δημοκρατικές διαδικασίες - πρόκειται για τα συστήματα ΤΝ που υποστηρίζουν δικαστικές αποφάσεις ή εναλλακτική επίλυση διαφορών, και συστήματα που επηρεάζουν εκλογές ή δημοψηφίσματα.
Η Ευρωπαϊκή Επιτροπή δύναται να τροποποιήσει τον κατάλογο συστημάτων ΤΝ υψηλού κινδύνου στο Παράρτημα III, σύμφωνα με το Άρθρο 7, είτε προσθέτοντας συστήματα, προοριζόμενα να χρησιμοποιηθούν από τους ίδιους τομείς που απαριθμούνται στο Παράρτημα ΙΙΙ με τουλάχιστον ισοδύναμο κίνδυνο για την υγεία, ασφάλεια και τα θεμελιώδη δικαιώματα με τα ήδη περιεχόμενα στο Παράρτημα ΙΙΙ συστήματα, είτε αφαιρώντας συστήματα, δεδομένου ότι αυτά δεν ενέχουν πλέον σημαντικό κίνδυνο για τα ανωτέρω αγαθά και υπό την προϋπόθεση ότι διατηρείται το συνολικό επίπεδο προστασίας των θεμελιωδών δικαιωμάτων βάσει του ενωσιακού δικαίου.
Παρατηρούμε ότι η κατάφαση του υψηλού κινδύνου ως προς ένα σύστημα ΤΝ μπορεί να γίνει είτε ενόψει της παραγράφου 1 του Άρθρου 6 είτε ενόψει του συνδυασμού των παραγράφων 2 και 3. Σύμφωνα με την παράγραφο 1 τίθενται ως σωρευτικές προϋποθέσεις το σύστημα ΤΝ να εμπίπτει στην απαριθμιζόμενη στο Παράρτημα Ι ενωσιακή νομοθεσία και να απαιτείται να υποβληθεί σε αξιολόγηση συμμόρφωσης από τρίτο μέρος βάσει αυτής. Σύμφωνα με τον συνδυασμό των παραγράφων 2 και 3 το σύστημα ΤΝ πρέπει να εμπίπτει σε έναν από τους περιοριστικά αναφερόμενους τομείς του Παραρτήματος ΙΙΙ και να ενέχει σημαντικό κίνδυνο βλάβης για την υγεία, την ασφάλεια ή τα θεμελιώδη δικαιώματα φυσικών προσώπων. Η κατάφαση αυτή χαίρει ιδιαίτερης σημασίας καθότι ενεργοποιεί την πλειονότητα των διατάξεων του κανονισμού από τις οποίες τα επιμέρους σχετιζόμενα πρόσωπα μπορεί να ευθύνονται για παραβίαση των σχετικών υποχρεώσεων του Τμήματος 3 του Κανονισμού και να υπόκεινται μεταξύ άλλων στις κυρώσεις του Άρθρου 99 του Κανονισμού.
Στην τρίτη κατηγορία κινδύνου υπάγονται τα συστήματα ΤΝ περιορισμένου κινδύνου, όπως έχουν ονομαστεί, που περιλαμβάνουν συστήματα με κίνδυνο χειραγώγησης ή εξαπάτησης, τα οποία υπόκεινται στις υποχρεώσεις διαφάνειας του Άρθρου 50 του Κανονισμού. Αυτά είναι τα συστήματα ΤΝ που αλληλεπιδρούν με φυσικά πρόσωπα, τα συστήματα που παράγουν συνθετικό περιεχόμενο ήχου, εικόνας, βίντεο ή κειμένου (Generative AI), τα συστήματα αναγνώρισης συναισθημάτων ή βιομετρικής κατηγοριοποίησης, και τα συστήματα που παράγουν περιεχόμενο βαθυπαραποίησης (deepfakes). Οι σχετικές υποχρεώσεις διαφάνειας συνίστανται στην ενημέρωση των προσώπων που αλληλεπιδρούν με τεχνητή νοημοσύνη και με συστήματα αναγνώρισης συναισθημάτων και βιομετρικής κατηγοριοποίησης και στην υποχρέωση των παρόχων και φορέων εφαρμογής να επισημαίνουν με σαφήνεια ότι συγκεκριμένο περιεχόμενο είναι τεχνητά παραγόμενο ή βαθυπαραποιημένο. Σε αυτήν την κατηγορία κινδύνου με τις ανάλογες υποχρεώσεις υπάγονται τα chatbots εξυπηρέτησης πελατών και οι εφαρμογές που παράγουν βαθυποιημένο περιεχόμενο όπως το face swap. Ιδιαίτερης μνείας χαίρει το γεγονός ότι παρά τις επιβλαβείς εφαρμογές που μπορεί να έχουν αυτά τα συστήματα, από διαδικτυακή παρενόχληση και απάτη μέχρι μη συναινετική πορνογραφία και σεξουαλική εκμετάλλευση ανηλίκων στο διαδίκτυο, στα πλαίσια του Κανονισμού υπόκεινται μόνο σε διατυπώσεις διαφάνειας – χωρίς αυτό όμως να αποκλείει αυστηρότερες ρυθμίσεις και κυρώσεις από άλλα, ενωσιακά ή εθνικά, κανονιστικά πλαίσια.
Η τέταρτη κατηγορία κινδύνου περιλαμβάνει τα συστήματα ΤΝ που παρουσιάζουν ελάχιστο κίνδυνο, στην οποία εμπίπτουν όλα τα συστήματα που δεν υπάγονται στις ανωτέρω τρεις κατηγορίες, όπως τα φίλτρα ανεπιθύμητης αλληλογραφίας και τα βιντεοπαιχνίδια με δυνατότητες τεχνητής νοημοσύνης. Σε αυτά δεν τίθενται συγκεκριμένες υποχρεώσεις ή υποχρεωτικοί περιορισμοί, αλλά ενθαρρύνεται η ακολούθηση γενικών αρχών και εθελοντικών πλαισίων. Πρόκειται για την κατηγορία στην οποία υπάγονται τα περισσότερα συστήματα ΤΝ σε κυκλοφορία στην ενιαία αγορά της ένωσης.
Α.2 Μοντέλα και Συστήματα ΤΝ Γενικού Σκοπού
Σε ειδικότερους κανόνες υπόκεινται τα μοντέλα ΤΝ γενικού σκοπού. Ως μοντέλο ΤΝ γενικού σκοπού κατά το Άρθρο 3 (63) του Κανονισμού ορίζεται ένα μοντέλο ΤΝ που έχει εκπαιδευτεί με μεγάλο όγκο δεδομένων, παρουσιάζει σημαντική γενικότητα και είναι ικανό να εκτελεί αποτελεσματικά ευρύ φάσμα καθηκόντων ενώ μπορεί να ενσωματωθεί σε διάφορα συστήματα ή εφαρμογές. Ως σύστημα ΤΝ γενικού σκοπού ορίζεται κατά το Άρθρο 3 (66) το σύστημα ΤΝ που βασίζεται σε μοντέλο ΤΝ γενικού σκοπού με την ικανότητα να εξυπηρετεί διάφορους σκοπούς, τόσο για άμεση χρήση όσο και για ενσωμάτωση σε άλλα συστήματα ΤΝ. Ως σύστημα ΤΝ, ορισμός καθοριστικός για το πεδίο εφαρμογής του Κανονισμού κατά το Άρθρο 2, ορίζεται στο Άρθρο 3 (1) ένα μηχανικό σύστημα με διάφορα επίπεδα αυτονομίας και δυνατότητα προσαρμοστικότητας που χρησιμοποιεί στοιχεία εισόδου (input) για να παράγει στοιχεία εξόδου (output), όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις, δυνάμενα να επηρεάσουν υλικά ή εικονικά περιβάλλοντα. Σημειωτέον πως, ενώ τόσο τα συστήματα ΤΝ όσο και τα μοντέλα και συστήματα ΤΝ γενικού σκοπού ορίζονται στο Άρθρο 3, δεν περιέχεται σχετικός ορισμός για το τι συνιστά μοντέλο ΤΝ - όρος που ωστόσο αποτελεί συστατικό στοιχείο του ορισμού του μοντέλου ΤΝ γενικού σκοπού. Κάποια πρακτικά παραδείγματα συστημάτων ΤΝ που θα μπορούσαν να θεωρηθούν συστήματα ΤΝ γενικού σκοπού κατά τις ανωτέρω διατυπώσεις είναι το ChatGPT της Open AI, το DALL-E, το Copilot της Microsoft και το Gemini της Google.
Το κεφάλαιο V του Κανονισμού παραθέτει τους κανόνες σχετικά με τα μοντέλα ΤΝ γενικού σκοπού και συντείνει σε μία τριεπίπεδη ταξινόμηση των εν λόγω μοντέλων όσον αφορά τις υποχρεώσεις των παρόχων τους. Οι πάροχοι τυπικών μοντέλων ΤΝ γενικού σκοπού υποχρεούνται, κατά το Άρθρο 53 παράγραφος 1, να πληρούν απαιτήσεις διαφάνειας, τεκμηρίωσης και συμμόρφωσης με την ενωσιακή νομοθεσία περί πνευματικής ιδιοκτησίας. Οι πάροχοι μοντέλων ΤΝ γενικού σκοπού που διατίθενται βάσει δωρεάν και άδειας ανοικτού κώδικα υπόκεινται, κατά το Άρθρο 53 παράγραφος 2, μόνο σε τεχνική τεκμηρίωση και σεβασμό του δικαίου πνευματικής ιδιοκτησίας, εκτός αν τα μοντέλα προβάλλουν συστημικούς κινδύνους. Τέλος, οι πάροχοι μοντέλων ΤΝ γενικού σκοπού με συστημικό κίνδυνο υπόκεινται σε επιπρόσθετες υποχρεώσεις, όπως αντιπαραθετικές δοκιμές (adversarial testing), διαχείριση κινδύνων με αξιολόγηση και μετρίαση τους, αναφορά σοβαρών περιστατικών στην Ευρωπαϊκή Υπηρεσία ΤΝ και προστασία κυβερνοασφάλειας. Οι τελευταίοι μπορούν να βασίζονται σε κώδικες πρακτικής κατά την έννοια του Άρθρου 56 ή Eυρωπαϊκά εναρμονισμένα πρότυπα για να αποδεικνύουν συμμόρφωση με τις ανωτέρω επιταγές.
Παρατηρούμε ότι υπάρχει πάλι μία βάσει κινδύνου προσέγγιση με την εισαγωγή του στοιχείου του συστημικού κινδύνου για τα μοντέλα ΤΝ γενικού σκοπού. Ως συστημικός κίνδυνος ορίζεται στο Άρθρο 3 (65) ο κίνδυνος που αφορά τις ικανότητες υψηλού αντίκτυπου των μοντέλων ΤΝ γενικού σκοπού και έχει σημαντικό αντίκτυπο στην ενωσιακή αγορά είτε λόγω της εμβέλειας τους, είτε λόγω αρνητικών επιπτώσεων στη δημόσια υγεία, την ασφάλεια, τα θεμελιώδη δικαιώματα, ή την κοινωνία στο σύνολό της και ο οποίος μπορεί να διαδοθεί σε ευρεία κλίμακα σε ολόκληρη την αξιακή αλυσίδα. Οι δε ικανότητες υψηλού αντικτύπου είναι κατά το Άρθρο 3 (64) οι ικανότητες που είναι ισοδύναμες ή ανώτερες από εκείνες των πιο προηγμένων μοντέλων ΤΝ γενικού σκοπού.
Ένα μοντέλο ΤΝ γενικού σκοπού θεωρείται ότι έχει συστημικό κίνδυνο κατά το Άρθρο 51 αν έχει ικανότητες υψηλού αντίκτυπου, ή αν βάσει απόφασης της Ευρωπαϊκής Επιτροπής έχει κριθεί ότι έχει ικανότητες υψηλού αντίκτυπου, λαμβανομένων υπόψη των κριτηρίων του Παραρτήματος ΧΙΙΙ. Επομένως, το κρίσιμο στοιχείο είναι η κατάφαση ικανοτήτων υψηλού αντίκτυπου. Βάσει της παραγράφου 2 του ίδιου άρθρου, ένα μοντέλο ΤΝ γενικού σκοπού τεκμαίρεται μαχητά ότι έχει ικανότητες υψηλού αντίκτυπου όταν ο όγκος υπολογισμών που χρησιμοποιείται για την εκπαίδευσή του υπερβαίνει τις 10 εις την 25η πράξεις κινητής υποδιαστολής (FLOPS). Εν κατακλείδι, ένα μοντέλο ΤΝ γενικού σκοπού θα έχει συστημικό κίνδυνο αν υπερβαίνει τις 10 εις την 25η πράξεις κινητής υποδιαστολής, εκτός αν ο πάροχος μπορεί να αποδείξει το αντίθετο. Η Ευρωπαϊκή Επιτροπή μπορεί να τροποποιήσει τα κατώτατα όρια του τεχνικού αυτού κριτηρίου ενόψει μελλοντικών τεχνολογικών εξελίξεων σύμφωνα με το Άρθρο 51 παράγραφος 3. Το Τμήμα 5 του Κεφαλαίου IX προβλέπει κανόνες σχετικά με την επίβλεψη έρευνα επιβολή και παρακολούθηση των μοντέλων ΤΝ γενικού σκοπού (Άρθρα 88 έως 94).
Α.3 Διοικητικές Κυρώσεις και Μέσα Έννομης Προστασίας σε Περίπτωση μη Συμμόρφωσης
Το Κεφάλαιο ΧΙΙ προβλέπει πρόστιμα σε περίπτωση μη συμμόρφωσης με τις επιταγές του κανονισμού. Κατά το Άρθρο 99, ο καθορισμός συγκεκριμένων κανόνων για την επιβολή των προβλεπόμενων διοικητικών προστίμων εναπόκειται στα Κράτη-Μέλη, με την προϋπόθεση να είναι αποτελεσματικοί, αναλογικοί και αποτρεπτικοί ενώ λαμβάνουν υπόψη τα συμφέροντα των μικρών και μεσαίων επιχειρήσεων (εφεξής ‘ΜΜΕ’) και των νεοφυών επιχειρήσεων (start-ups). Τα δε διοικητικά πρόστιμα προβλέπονται ρητά στον Κανονισμό, έως 35 εκατομμύρια ευρώ ή 7% του παγκόσμιου κύκλου εργασιών, όποιο είναι μεγαλύτερο, για παραβιάσεις του Άρθρου 5 του Κανονισμού - ήτοι των διατάξεων για τα απαγορευμένα συστήματα ΤΝ, έως 15 εκατομμύρια ευρώ ή 3% του κύκλου εργασιών για μη συμμόρφωση με συγκεκριμένες διατάξεις (Άρθρα 16, 22, 23, 24, 26, 31, 33 παράγραφοι 1, 3 και 4, Άρθρα 34 και 50) και έως 7,5 εκατομμύρια ευρώ ή 1% του κύκλου εργασιών για την παροχή ψευδών ή ελλιπών πληροφοριών κατά την απάντηση σε αίτημα. Για ΜΜΕ και νεοφυείς επιχειρήσεις, τα εν λόγω πρόστιμα περιορίζονται σε χαμηλότερα όρια σύμφωνα με το άρθρο. Τα πρόστιμα σε παρόχους μοντέλων ΤΝ γενικού σκοπού μπορούν να επιβληθούν απευθείας από την Επιτροπή έως 3% του ετήσιου συνολικού παγκοσμίου κύκλου εργασιών ή 15 εκατομμύρια ευρώ, όποιο ποσό είναι μεγαλύτερο, εάν διαπιστωθεί από την Επιτροπή εκ προθέσεως ή εξ αμελείας παραβίαση των σχετικών διατάξεων του κανονισμού, μη συμμόρφωση με αίτημα παροχής εγγράφων ή πληροφοριών κατά το Άρθρο 91, μη συμμόρφωση με μέτρο που ζητήθηκε κατά το Άρθρο 93, ή μη διάθεση του μοντέλου για αξιολόγηση από την Επιτροπή βάσει του Άρθρου 92. Τα δε προβλεπόμενα πρόστιμα που αναφέρθηκαν είναι αμιγώς διοικητικά χωρίς χαρακτήρα αστικής αποζημίωσης.
Παρότι ο Κανονισμός δεν προβλέπει δικαίωμα αξίωσης αποζημίωσης για ζημία που προέκυψε κατά παράβαση του, το Τμήμα 4 του Κεφαλαίου IX προβλέπει ορισμένα μέσα έννομης προστασίας στα οποία μπορούν να καταφύγουν τα υποκείμενα. Αυτά είναι το δικαίωμα του Άρθρου 85 για υποβολή καταγγελίας σε αρχή εποπτείας της αγοράς, σύμφωνα με το οποίο οποιοδήποτε πρόσωπο θεωρεί ότι παραβιάζεται ο κανονισμός μπορεί να υποβάλει καταγγελία στην αρμόδια αρχή εποπτείας της αγοράς, και το δικαίωμα του Άρθρου 86 για σαφείς και ουσιαστικές επεξηγήσεις σχετικά με τον ρόλο συστημάτων ΤΝ σε διαδικασία ατομικής λήψης αποφάσεων. Είναι σημαντικό να σημειωθεί ότι, παρόλο που ο ίδιος ο νόμος για την τεχνητή νοημοσύνη δεν δημιουργεί νέο δικαίωμα αποζημίωσης για ζημίες που προκαλούνται από την τεχνητή νοημοσύνη, εξακολουθούν να ισχύουν τα υφιστάμενα δικαιώματα βάσει άλλων νομοθεσιών της ΕΕ ή των εθνικών νόμων.
Β. Το Ευρωπαϊκό Νομοθετικό πλαίσιο περί Ευθύνης για την ΤΝ
Ο Κανονισμός για την ΤΝ είναι ένας Κανονισμός ασφάλειας προϊόντων προσανατολισμένος στην προστασία των θεμελιωδών δικαιωμάτων, που επιβάλλει καθήκοντα επιμέλειας για τους χειριστές της ΤΝ, αλλά δεν προβλέπει κανόνες για την ευθύνη που προκύπτει σε περίπτωση ζημίας. Οι τελικοί χρήστες ΤΝ μπορεί να αντιμετωπίζουν απαγορευτικές δυσκολίες στην ικανοποίηση τους σε περιπτώσεις ζημίας λόγω των ιδιαίτερων χαρακτηριστικών της. Αυτά είναι η πολυπλοκότητα της (complexity), η αδιαφάνεια της (opacity), η δεκτικότητα της (openness) σε αναβαθμίσεις και αλληλεπιδράσεις με άλλα συστήματα και η αυξανόμενη αυτονομία της (increasing autonomy) στο να πραγματοποιεί εργασίες με λίγο έως και καθόλου ανθρώπινο έλεγχο ή επίβλεψη. Όλα αυτά τα χαρακτηριστικά γεννούν το ερώτημα του κατά πόσο οι χρήστες ΤΝ απολαμβάνουν την ίδια προστασία με τους χρήστες άλλων προϊόντων οι χρήστες ΤΝ.
Ενόψει των δυσχερειών που επέφεραν οι νέες τεχνολογικές εξελίξεις, ο ενωσιακός νομοθέτης έκρινε περαιτέρω νομοθετική δράση απαραίτητη για την προστασία των εν δυνάμει ζημιωθέντων με την πρόταση για Οδηγία περί Ευθύνης η οποία εν τέλει αποσύρθηκε και την νέα, σε ισχύ από τις 9 Δεκεμβρίου του 2024, Οδηγία για την Ευθύνη λόγω Ελαττωματικών Προϊόντων.
Β.1 Η αποσυρθείσα πρόταση Οδηγίας περί Ευθύνης για την ΤΝ
Κρίθηκε σκόπιμο να συμπεριληφθεί στην ανάλυση η πρόταση Οδηγίας περί ευθύνης για την ΤΝ παρά την απόσυρση της στις 11 Φεβρουαρίου 2025, αφενός, λόγω της σχετικότητας του κειμένου της με το ευρύτερο πλαίσιο ευθύνης για την τεχνητή νοημοσύνη καθώς και της εκτενούς κάλυψης που είχε λάβει στην πρόσφατη βιβλιογραφία, αφετέρου, λόγω της ανοιχτής ακόμα κατά την στιγμή της γραφής, πιθανότητας αναβίωσης της, ή πρότασης κάποιου παρόμοιου νομοθετήματος, στο μέλλον και της γενικότερης ερμηνευτικής έμπνευσης που μπορεί να αποτελέσει. Με αυτό υπόψη, τονίζεται ότι το υφιστάμενο πλαίσιο για την εξωσυμβατική ευθύνη της ΤΝ στην ΕΕ βασίζεται κυρίως στους εθνικούς νόμους περί αδικοπραξίας και στη νέα Οδηγία για την ευθύνη λόγω ελαττωματικών προϊόντων.
Η Ευρωπαϊκή Επιτροπή είχε προβεί σε μία φιλόδοξη πρωτοβουλία εναρμόνισης κανόνων περί εξωσυμβατικής αστικής ευθύνης ενόψει προσαρμογής στην ΤΝ προτείνοντας την Οδηγία περί ευθύνης για την ΤΝ στις 28 Σεπτεμβρίου του 2022, η οποία εν τέλει δεν εγκρίθηκε. Στόχος της αποσυρθείσας πρότασης ήταν να εξασφαλιστεί ότι, παρά την πολυπλοκότητα και την αδιαφάνεια των συστημάτων ΤΝ, κάθε άτομο ή επιχείρηση που υφίσταται βλάβη ως αποτέλεσμα χρήσης της, θα μπορούσε να αξιώσει αποζημίωση, όπως θα γινόταν αν η βλάβη είχε προκληθεί υπό οποιεσδήποτε άλλες, μη σχετιζόμενες με ΤΝ περιστάσεις. Ενώ ο Κανονισμός για την ΤΝ αποσκοπεί στην πρόληψη ζημίας θέτοντας κανόνες ασφαλείας, η αποσυρθείσα πρόταση Οδηγίας περί ευθύνης για την ΤΝ ευελπιστούσε να διασφαλίσει την αποζημίωση άπαξ και προκύψει ζημία, λειτουργώντας ως «δίχτυ ασφαλείας». Η αποσυρθείσα πρόταση χρησιμοποιούσε τους ίδιους ορισμούς και κατηγορίες κινδύνου με τον Κανονισμό, ενώ αναγνώριζε τις απαιτήσεις διαφάνειας και τεκμηρίωσης που περιέχονται στον τελευταίο, καθιστώντας τες λειτουργικές μέσω του σχετικού δικαιώματος αποκάλυψης πληροφοριών του Άρθρου 3.
Η αποσυρθείσα πρόταση αφορούσε σε στοχευμένη εναρμόνιση των εθνικών καθεστώτων υποκειμενικής ευθύνης εστιάζοντας σε αξιώσεις κατά οποιουδήποτε προσώπου για υπαιτιότητα που επηρέασε το σύστημα ΤΝ οδηγώντας σε ζημία. Θα επρόκειτο επομένως για μία ενωσιακή πρωτοβουλία μερικής εναρμόνισης της αστικής, υποκειμενικής, εξωσυμβατικής ευθύνης σε δικονομικό επίπεδο, με άξονα τα συστήματα ΤΝ.
Σύμφωνα με το Άρθρο 1, το πεδίο εφαρμογής της Οδηγίας θα κάλυπτε όλες τις αξιώσεις έναντι οποιουδήποτε προσώπου, παρόχου, φορέα ανάπτυξης ή χρήστη, για την αποζημίωση κάθε είδους ζημίας που εμπίπτει στο εθνικό δίκαιο (δηλαδή ως προς τη ζωή, την υγεία, την περιουσία, την ιδιωτικότητα κ.α.) για κάθε ζημιωθέντα. Σύμφωνα με το ίδιο Άρθρο, η ύλη της Οδηγίας θα αφορούσε σε ελάχιστη εναρμόνιση (παράγραφος 4) των κανόνων σχετικά με την αποκάλυψη αποδεικτικών στοιχείων για συστήματα ΤΝ και το βάρος απόδειξης σε περίπτωση άσκησης αστικής αξίωσης αποζημίωσης για εξωσυμβατική, υποκειμενική ευθύνη για ζημίες προκληθείσες από αυτά. Θα εξαιρούταν από το πεδίο εφαρμογής η ποινική ευθύνη, ενώ δεν θα θίγονταν οι εθνικοί κανόνες σχετικά με το βάρος απόδειξης, τον απαιτούμενο βαθμό βεβαιότητας στο μέτρο απόδειξης και τον τρόπο ορισμού της υπαιτιότητας, πέραν των όσων προβλέπονται στα Άρθρα 3 και 4 της πρότασης Οδηγίας. Οι ορισμοί του Άρθρου 2 θα επικαιροποιούνταν ενόψει συμβατότητας με τον Κανονισμό για την ΤΝ.
Η αποσυρθείσα πρόταση Οδηγίας δεν πρότεινε την αντιστροφή του βάρους απόδειξης ούτε την αντικειμενική ευθύνη για την ΤΝ υψηλού κινδύνου όπως έχει συζητηθεί στην θεωρία. Εν αντιθέσει, θα εισήγαγε τεκμήρια ύπαρξης υπαιτιότητας και αιτιώδους συνάφειας, πληρουμένων των προϋποθέσεων των Άρθρων 3 και 4 της Οδηγίας αντίστοιχα. Απώτερος στόχος, θα ήταν η ανάδειξη της έλλειψης συμμόρφωσης προς ένα καθήκον επιμέλειας σε μία αποτελεσματική βάση διεκδίκησης αποζημίωσης, συνδεδεμένη με την υπαιτιότητα. Η επιλογή αυτή είχε γίνει έναντι της αντιστροφής του βάρους απόδειξης ή της αντικειμενικής ευθύνης, ενόψει αποφυγής έκθεσης των παρόχων σε μεγαλύτερους κινδύνους ευθύνης, πράγμα που θα μπορούσε να περιορίσει την τεχνολογική καινοτομία.
Στο Άρθρο 3 της Οδηγίας καθιερωνόταν το δικαίωμα του ενάγοντος να ζητήσει από το δικαστήριο την υποχρεωτική αποκάλυψη αποδεικτικών στοιχείων από τον πάροχο, ή το πρόσωπο που υπόκειται στις υποχρεώσεις του παρόχου, συστήματος ΤΝ υψηλού κινδύνου, και σε περίπτωση που ο εναγόμενος δεν θα το έπραττε θα τεκμαιρόταν μαχητά μη συμμόρφωσή του με καθήκον επιμέλειας σύμφωνα με την παράγραφο 5. Ωστόσο, είχε συζητηθεί ότι θα ήταν δύσκολο για τους ενάγοντες να θεμελιώσουν την αιτιώδη συνάφεια μεταξύ της μη συμμόρφωσης με το καθήκον επιμέλειας και της αποτυχίας του συστήματος ΤΝ. Το Άρθρο 4 παράγραφος 1 της πρότασης Οδηγίας υπαγόρευε μαχητό τεκμήριο ύπαρξης αιτιώδους συνάφειας ανάμεσα στην υπαιτιότητα του εναγομένου και στην ζημία που προκάλεσε το σύστημα ΤΝ, εφόσον η υπαιτιότητα αποδεικνύετο ή τεκμαίρετο, μπορούσε να θεωρηθεί ευλόγως πιθανό ότι είχε επηρεάσει τα στοιχεία εξόδου (output) του συστήματος ΤΝ και ο ενάγων είχε αποδείξει ότι η παραγωγή ή μη των στοιχείων αυτών προκάλεσαν τη ζημία του. Οι παράγραφοι 2 έως 5 έθεταν κριτήρια για την κατάφαση του τεκμηρίου αιτιώδους συνάφειας, συγκεκριμένα σχετικά με συστήματα ΤΝ υψηλού κινδύνου.
Κατά την παράγραφο 2, όταν η αξίωση αποζημίωσης θα στρεφόταν κατά παρόχου προσώπου που υπόκειται στις υποχρεώσεις του παρόχου, η πρώτη προϋπόθεση της προηγούμενης παραγράφου - να αποδεικνύεται ή να τεκμαίρεται η υπαιτιότητα του εναγομένου - για την κατάφαση του τεκμηρίου αιτιότητας, θα πληρούταν μόνο αν ο ενάγων αποδείκνυε μη συμμόρφωση του εναγομένου με έστω και μία από ορισμένες, απαριθμούμενες στην παράγραφο, απαιτήσεις του Κανονισμού για την ΤΝ. Οι εν λόγω απαιτήσεις συνίσταντο σε συμμόρφωση με τα κριτήρια ποιότητας δεδομένων, τήρηση απαιτήσεων διαφάνειας, σχεδίαση για αποτελεσματική ανθρώπινη εποπτεία, σχεδίαση για επίτευξη κατάλληλου επιπέδου ακρίβειας, στιβαρότητας και κυβερνοασφάλειας και έγκαιρη λήψη διορθωτικών μέτρων για συμμόρφωση ή απόσυρση του συστήματος. Όταν η αξίωση θα στρεφόταν κατά χρήστη συστήματος ΤΝ υψηλού κινδύνου, κατά την παράγραφο 3, η ανωτέρω προϋπόθεση θα πληρούταν εφόσον ο ενάγων αποδείκνυε ότι ο χρήστης δεν συμμορφώθηκε με τις υποχρεώσεις χρήσης, παρακολούθησης ή αναστολής και διακοπής χρήσης του συστήματος ΤΝ ή εξέθεσε το σύστημα σε άσχετα με τον επιδιωκόμενο σκοπό του συστήματος δεδομένα εισόδου. Σύμφωνα με τις παραγράφους 4 και 5, στις περιπτώσεις αξίωσης αποζημίωσης που αφορά συστήματα ΤΝ υψηλού κινδύνου, το τεκμήριο δεν θα εφαρμοζόταν αν ο εναγόμενος αποδείκνυε ότι ο ενάγων είχε εύλογη πρόσβαση σε επαρκή αποδεικτικά στοιχεία και εξειδίκευση ώστε να αποδείκνυε την αιτιώδη συνάφεια, ενώ θα εφαρμοζόταν μόνο αν το δικαστήριο θα έκρινε εξαιρετικά δύσκολη για τον ενάγοντα την απόδειξη της αιτιώδους συνάφειας. Τέλος, κατά την παράγραφο 6, όταν ο εναγόμενος θα χρησιμοποιούσε το σύστημα ΤΝ για προσωπική, μη επαγγελματική χρήση, το τεκμήριο θα ίσχυε μόνο εάν θα είχε παρενέβη ουσιωδώς στην λειτουργία του συστήματος ή θα ήταν σε θέση να καθορίσει τους όρους λειτουργίας του και δεν το έπραξε.
Β.2 Η νέα Οδηγία για την Ευθύνη λόγω Ελαττωματικών Προϊόντων
Η αποσυρθείσα πρόταση Οδηγίας περί ευθύνης για την ΤΝ περιοριζόταν σε διευκόλυνση της υποκειμενικής, αστικής ευθύνης, ειδικά όσον αφορά τα συστήματα ΤΝ υψηλού κινδύνου, μη ακολουθώντας τις προτάσεις της θεωρίας σχετικά με αναστροφή του βάρους απόδειξης ή καθιέρωση αντικειμενικής ευθύνης για την ΤΝ, γεγονός που έχει προκαλέσει ανάμεικτα συναισθήματα. Ενόσω η αποσυρθείσα πρόταση βρισκόταν ακόμα σε επίπεδο διαπραγμάτευσης, η νέα Οδηγία για την ευθύνη λόγω ελαττωματικών προϊόντων είχε ήδη δημοσιευθεί στην επίσημη εφημερίδα της Ευρωπαϊκής Ένωσης υιοθετώντας μία πιο δυναμική στάση με την άνευ πταίσματος ευθύνη να ανακηρύσσεται στην Αιτιολογική Σκέψη (2) ως ‘μοναδικός τρόπος για τον δίκαιο καταμερισμό των εγγενών στην σύγχρονη τεχνολογική παραγωγή κινδύνων’.
Η ΤΝ και τα συστήματα και αγαθά που χρησιμοποιούν ΤΝ πλέον θεωρούνται ‘προϊόντα’ σύμφωνα με το Άρθρο 4 παράγραφος 1 της νέας Οδηγίας, εμπίπτοντας στο πεδίο εφαρμογής της, που προκρίνει καθεστώς αντικειμενικής ευθύνης. Επομένως, φυσικά πρόσωπα που έχουν υποστεί ζημία από σύστημα ΤΝ μπορούν να απαιτήσουν αποζημίωση και χωρίς να χρειάζεται να αποδείξουν πταίσμα του κατασκευαστή ή του παρόχου, δεδομένου ότι στοιχειοθετείται ευθύνη λόγω ελαττωματικού προϊόντος σύμφωνα με την Οδηγία. Έχοντας ως στόχο την ορθή λειτουργία της εσωτερικής αγοράς και την προστασία των καταναλωτών και άλλων φυσικών προσώπων, η οδηγία θεσπίζει κοινούς κανόνες για την ευθύνη των οικονομικών φορέων για ζημία φυσικών προσώπων από ελαττωματικά προϊόντα και για την σχετική αποζημίωση. Στο πεδίο εφαρμογής της αναθεωρημένης Οδηγίας, κατά το Άρθρο 2, εμπίπτουν τα προϊόντα που διατίθενται στην αγορά δύο χρόνια μετά από την θέση της σε ισχύ, δηλαδή από τις 9 Δεκεμβρίου του 2026 και μετά. Επομένως, συστήματα ΤΝ τα οποία έχουν ήδη διατεθεί στην αγορά όπως το ChatGPT ή το Copilot φαίνεται να εκφεύγουν του πεδίου εφαρμογής της οδηγίας και ως εκ τούτου να μην υπάγονται σε καθεστώς αντικειμενικής ευθύνης ως προϊόντα.
Η ανωτέρω παρατήρηση καθίσταται ιδιαιτέρως σημαντική ενόψει της υφιστάμενης κυριαρχικής παρουσίας Αμερικανικών τεχνολογικών γιγάντων στην αγορά της ΤΝ, των οποίων τα ήδη διαθέσιμα συστήματα ΤΝ δεν θα υπόκεινται στους ίδιους κανόνες αντικειμενικής ευθύνης με μελλοντικά συστήματα ΤΝ ευρωπαϊκής προέλευσης, θίγοντας την ευρωπαϊκή καινοτομία, ειδικά λαμβανομένου υπόψη του μέγιστου επιπέδου εναρμόνισης που επιδιώκεται στην Οδηγία κατά το Άρθρο 3 αυτής. Κρίσιμο επομένως θα είναι το κατά πόσο μελλοντικές εκδόσεις των υφιστάμενων συστημάτων θα εμπίπτουν στο πεδίο εφαρμογής της Οδηγίας. Η Οδηγία 85/374/ΕΟΚ μένει σε ισχύ για προϊόντα που θα έχουν διατεθεί στην αγορά πριν από την έναρξη της Οδηγίας 2024/2853, δηλαδή πριν από τις 9 Δεκεμβρίου του 2026, επομένως, προϊόντα τα οποία δεν εμπίπτουν στο πεδίο εφαρμογής της αναθεωρημένης έκδοσης θα καλύπτονται από τις διατάξεις της προηγούμενης. Ωστόσο, το προηγούμενο καθεστώς δεν φαίνεται να καλύπτει συστήματα ΤΝ, όπως αυτά ορίζονται στο νέο ευρωπαϊκό νομοθετικό πλαίσιο για την ΤΝ, με την Ευρωπαϊκή Επιτροπή να κάνει αναφορά σε λογισμικό μόνο ως κινητό πράγμα καθώς αυτό ενσωματώνεται σε υλικό φορέα όπως δισκέτες, σε σχετικό κείμενο ερωτήσεων και απαντήσεων.
Αξίζει να σημειωθεί επίσης πως δεν εμπίπτει στο πεδίο εφαρμογής της Οδηγίας το ελεύθερο λογισμικό ανοιχτού κώδικα (open source) το οποίο αναπτύσσεται ή παρέχεται εκτός του πλαισίου εμπορικής δραστηριότητας, ενώ δεν θίγονται η εφαρμογή του Γενικού Κανονισμού Προστασίας Δεδομένων και τυχόν δικαιώματα που έχουν οι ζημιωθέντες στο πλαίσιο εθνικών κανόνων για λόγους πέραν της ελαττωματικότητας ενός προϊόντος.
Βάσει της αναθεωρημένης Οδηγίας, κάθε φυσικό πρόσωπο που υφίσταται ζημία λόγω ελαττωματικού προϊόντος, καθώς και οι διάδοχοι του και τα πρόσωπα που ενεργούν για λογαριασμό του, δικαιούται αποζημίωση κατά το Άρθρο 5. Πρόκειται για μία νομική βάση διεκδίκησης αποζημίωσης από το ενωσιακό δίκαιο όσον αφορά την ζημία που προκύπτει ως αποτέλεσμα της ελαττωματικότητας ενός προϊόντος. Η ζημία και η ελαττωματικότητα ως στοιχειοθετικοί όροι του σχετικού δικαιώματος επεξηγούνται στα Άρθρα 6 και 7 της Οδηγίας. Κατά το Άρθρο 6, τα είδη ζημίας που καλύπτονται από το δικαίωμα αποζημίωσης δυνάμει της Οδηγίας είναι ο θάνατος, η σωματική ή ψυχική βλάβη, περιουσιακή ζημία εκτός του ίδιου του ελαττωματικού προϊόντος ή επαγγελματικής περιουσίας και απώλεια ή καταστροφή δεδομένων μη επαγγελματικής χρήσης. Το σχετικό δικαίωμα αποζημίωσης καλύπτει τόσο υλικές όσο και μη υλικές ζημίες που μπορούν να αποζημιωθούν κατά το εθνικό δίκαιο. Κατά το Άρθρο 7, η ελαττωματικότητα συνίσταται στην μη παροχή της αναμενόμενης ή απαιτούμενης, βάσει δικαίου, ασφάλειας του προϊόντος κατά την αξιολόγηση της οποίας λαμβάνονται υπόψη όλες οι περιστάσεις. Μεταξύ των ενδεικτικά αναφερομένων τέτοιων περιστάσεων στο σχετικό Άρθρο είναι και η τυχόν ικανότητα συνεχούς εκμάθησης του προϊόντος ή απόκτησης νέων χαρακτηριστικών αφού διατεθεί στην αγορά, μνεία ιδιαίτερα σχετική για τα συστήματα ΤΝ που εμφανίζουν δυνατότητες μηχανικής μάθησης (machine learning).
Η ευθύνη κατά την Οδηγία για την ευθύνη λόγω ελαττωματικών προϊόντων ρυθμίζεται στα Άρθρα 8 και 11 σχετικά με τους οικονομικούς φορείς που δύνανται να καταστούν υπεύθυνοι για ελαττωματικά προϊόντα και τις προϋποθέσεις για απαλλαγή από την ευθύνη αντίστοιχα. Λαμβανομένου υπόψη του γεγονότος ότι η Οδηγία έχει ευρύτερο πεδίο εφαρμογής από τον κανονισμό για την ΤΝ, καλύπτοντας περισσότερα προϊόντα πέραν των συστημάτων ΤΝ (όπως συμβατικά ή μη τεχνολογικά προϊόντα), σκόπιμη σε αυτό το σημείο κρίνεται η αντιστοίχιση των όρων του Κανονισμού όσον αφορά την αξιακή αλυσίδα της ΤΝ με τους όρους που συνιστούν τους οικονομικούς φορείς που κατά την Οδηγία δύνανται να καταστούν αντικειμενικά υπεύθυνοι για ζημία λόγω ελαττωματικότητας του συστήματος ΤΝ.
Οι φορείς που περιλαμβάνονται στην αξιακή αλυσίδα της ΤΝ και στους οποίους ανατίθενται υποχρεώσεις από τον Κανονισμό για την ΤΝ, αποκαλούνται συνολικά φορείς εκμετάλλευσης και είναι ο πάροχος, ο κατασκευαστής του προϊόντος, ο φορέας εφαρμογής, ο εξουσιοδοτημένος αντιπρόσωπος, ο εισαγωγέας και ο διανομέας. Οι σχετικοί ορισμοί περιέχονται στο Άρθρο 3 του Κανονισμού ενώ οι υποχρεώσεις που αντιστοιχούν σε κάθε έναν από τους φορείς εκμετάλλευσης σχετικά με συστήματα ΤΝ υψηλού κινδύνου αναφέρονται στα Άρθρα 16 έως 26, με το Άρθρο 25 να ορίζει τις περιπτώσεις όπου ο εισαγωγέας, ο διανομέας και ο φορέας εφαρμογής υπεισέρχονται στην θέση του παρόχου. Ως προς την αντιστοίχιση των φορέων εκμετάλλευσης του Κανονισμού για την ΤΝ με τους δυνητικά υπεύθυνους οικονομικούς φορείς κατά το Άρθρο 8 της Οδηγίας για την ευθύνη λόγω ελαττωματικών προϊόντων, ο εξουσιοδοτημένος αντιπρόσωπος, ο εισαγωγέας και ο διανομέας, φαίνεται να είναι, ως επί το πλείστον, κοινές από άποψη ορισμού έννοιες και στα δύο νομοθετήματα με παρατηρήσιμη διαφορά ότι κατά την Οδηγία ο εισαγωγέας δεν χρειάζεται ρητά να βρίσκεται στο έδαφος της Ένωσης. Ο πάροχος κατά τον Κανονισμό για την ΤΝ φαίνεται να αντιστοιχεί στον κατασκευαστή κατά την Οδηγία καθότι είναι ο φορέας που αναπτύσσει ή διαθέτει το σύστημα ΤΝ στην αγορά με το δικό του σήμα, όπως ο κατασκευαστής αναπτύσσει ένα προϊόν ή εμφανίζεται ως κατασκευαστής του θέτοντας το σήμα του. Τέλος, ο φορέας εφαρμογής, κατά τον Κανονισμό, είναι κατ’ουσίαν ο χρήστης που χρησιμοποιεί το σύστημα ΤΝ για επαγγελματική, μη προσωπική δραστηριότητα. Δεν υπάρχει ανάλογος ορισμός στην Οδηγία, αλλά ένας χρήστης μπορεί να θεωρηθεί υπόχρεος ως κατασκευαστής αν επιφέρει ουσιώδεις αλλαγές στο σύστημα ΤΝ κατά το Άρθρο 8 παράγραφος 2 της Οδηγίας, ενώ ο φορέας εφαρμογής υπεισέρχεται στην θέση του παρόχου κατά το Άρθρο 25 του Κανονισμού. Υπάρχει επομένως νομικό έρεισμα τόσο στον Κανονισμό όσο και στην Οδηγία για να καταστεί και ο φορέας εφαρμογής υπεύθυνος λόγω ελαττωματικότητας.
Όσον αφορά τους δυνητικά ευθυνόμενους φορείς κατά το Άρθρο 8, ο κατασκευαστής του ελαττωματικού προϊόντος είναι κατά κόρον υπεύθυνος για ζημίες καθώς και ο κατασκευαστής ελαττωματικού συστατικού. Στην περίπτωση που είναι εγκατεστημένος εκτός της Ένωσης, υπεύθυνοι είναι ο εισαγωγέας και ο εξουσιοδοτημένος αντιπρόσωπος, ενώ αν δεν υπάρχει τέτοιος εγκατεστημένος στην Ένωση, ο πάροχος υπηρεσιών διεκπεραίωσης. Κάθε φυσικό ή νομικό πρόσωπο που τροποποιεί ουσιωδώς ένα προϊόν εκτός του ελέγχου του κατασκευαστή και το διαθέτει στην αγορά ευθύνεται με την ευθύνη του κατασκευαστή. Κάθε διανομέας ελαττωματικού προϊόντος ευθύνεται όταν ένας από τους προαναφερθέντες εγκατεστημένους στην ένωση οικονομικούς φορείς δεν μπορεί να προσδιοριστεί και δεν ταυτοποιεί οικονομικό φορέα ή δικό του διανομέα κατόπιν αίτησης του ζημιωθέντος. Τα κράτη μέλη μπορούν, μέσα στα πλαίσια ευχέρειας, να προβλέψουν εθνικά συστήματα αποζημίωσης αν κανείς δεν μπορεί να θεωρηθεί υπεύθυνος δυνάμει της Οδηγίας.
Σύμφωνα με το Άρθρο 11 της Οδηγίας για την Ευθύνη λόγω Ελαττωματικών προϊόντων, ο υπεύθυνος κατά το Άρθρο 8 οικονομικός φορέας απαλλάσσεται από την σχετική ευθύνη αν αποδείξει ότι δεν διέθεσε το προϊόν στην αγορά, ή ότι η ελαττωματικότητα πιθανώς να μην υπήρχε όταν το προϊόν διατέθηκε στην αγορά. Στην δεύτερη περίπτωση, οι οικονομικοί φορείς κατ’ εξαίρεση δεν απαλλάσσονται από την ευθύνη αν το προϊόν τελεί υπό τον έλεγχο του κατασκευαστή και η ελαττωματικότητα του οφείλεται σε συναφείς υπηρεσίες, ενημερώσεις ή αναβαθμίσεις λογισμικού, απουσία ενημερώσεων ή αναβαθμίσεων λογισμικού, ή ουσιώδη τροποποίηση του προϊόντος. Ο οικονομικός φορέας απαλλάσσεται επίσης αν αποδείξει ότι το προϊόν κατασκευάστηκε σύμφωνα με νομικές απαιτήσεις που οδήγησαν στην ελαττωματικότητα, ή ότι δεν ήταν δυνατή η διαπίστωση της ελαττωματικότητας με βάση την τότε διαθέσιμη γνώση. Ο κατασκευαστής ελαττωματικού συστατικού απαλλάσσεται, εάν αποδείξει ότι η ελαττωματικότητα του προϊόντος στο οποίο ενσωματώθηκε το συστατικό οφείλεται σε οδηγίες του κατασκευαστή του τελικού προϊόντος, ενώ το πρόσωπο που τροποποιεί προϊόν μπορεί να απαλλαγεί, εάν αποδείξει ότι η ελαττωματικότητα δεν επηρεάστηκε από την τροποποίηση.
Κατά το Άρθρο 9 ο ενάγων μπορεί να ζητήσει από το δικαστήριο να υποχρεώσει τον εναγόμενο να αποκαλύψει σχετικά αποδεικτικά στοιχεία, και το αντίστροφο. Η αποκάλυψη περιορίζεται σε ό,τι είναι αναγκαίο και αναλογικό, λαμβάνοντας υπόψη τα έννομα συμφέροντα τρίτων και την προστασία εμπιστευτικών πληροφοριών και εμπορικών απορρήτων. Κατά το Άρθρο 10, ο ενάγων καλείται να αποδείξει την ελαττωματικότητα, την ζημία και την αιτιώδη συνάφεια. Η ελαττωματικότητα τεκμαίρεται μαχητά υπέρ του ενάγοντα αν ο εναγόμενος δεν αποκαλύπτει στοιχεία δυνάμει του Άρθρου 9, ή αν δεν τηρούνται απαιτήσεις ασφαλείας ή υπάρχει προφανής δυσλειτουργία. Η αιτιώδης συνάφεια μεταξύ ελαττωματικότητας και ζημίας τεκμαίρεται μαχητά αν το προϊόν είναι ελαττωματικό και η ζημία συνάδει κατά κανόνα με το σχετικό ελάττωμα. Σε περιπτώσεις τεχνικής ή επιστημονικής πολυπλοκότητας η ελαττωματικότητα ή αιτιώδης συνάφεια τεκμαίρονται και παρά την αποκάλυψη αποδεικτικών στοιχείων αν ο ενάγων αντιμετωπίζει υπερβολικές δυσκολίες και αποδεικνύει ότι είναι έστω πιθανό το προϊόν να είναι ελαττωματικό ή να υπάρχει αιτιώδης συνάφεια.
Εν κατακλείδι, συγκεκριμένα σχετικά με τις υποχρεώσεις αποκάλυψης αποδεικτικών στοιχείων και τα μαχητά τεκμήρια, παρατηρούμε πως η αποσυρθείσα πρόταση Οδηγίας περί ευθύνης για την ΤΝ θα εισήγαγε, όσον αφορά το φάσμα της πταισματικής, εξωσυμβατικής ευθύνης, υποχρέωση αποκάλυψης αποδεικτικών στοιχείων με ανάλογο μαχητό τεκμήριο μη συμμόρφωσης με σχετικό καθήκον επιμέλειας σε περίπτωση άρνησης, αποκλειστικά για συστήματα ΤΝ υψηλού κινδύνου. Το τεκμήριο αιτιώδους συνάφειας μεταξύ υπαιτιότητας και ζημίας, θα ενεργοποιείτο πληρουμένων ορισμένων προϋποθέσεων, οι οποίες θα ήταν ευχερέστερο για τον ενάγοντα να πληρούνται όταν θα επρόκειτο για συστήματα ΤΝ υψηλού κινδύνου, καθώς αυτά συνδέονται με την παράβαση αυστηρών υποχρεώσεων βάσει του Κανονισμού για την ΤΝ. Σε αντιδιαστολή, η νέα Οδηγία για την Ευθύνη λόγω Ελαττωματικών προϊόντων, εισάγει, στα πλαίσια της αντικειμενικής ευθύνης, ευρύτερη, εκατέρωθεν υποχρέωση αποκάλυψης αποδεικτικών στοιχείων που καλύπτει και μη υψηλού κινδύνου συστήματα ΤΝ, αλλά και γενικότερα μαχητά τεκμήρια σχετικά τόσο με την ελαττωματικότητα όσο και με την αιτιώδη συνάφεια, με συγκεκριμένες ρήτρες απαλλαγής και εξαιρέσεις από αυτές, ειδικά για το λογισμικό.
ΙΙΙ. Εφαρμογές Συντρόφου ΤΝ και Εφαρμογή του σχετικού Κανονιστικού Πλαισίου σε περίπτωση Ζημίας
Κατόπιν έκθεσης και ανάλυσης του ευρωπαϊκού νομοθετικού πλαισίου σχετικά με την ΤΝ και την ευθύνη που ενδέχεται να ανακύψει από την χρήση της, θα εξετάσουμε σε αυτό το σημείο την υπαγωγή ενδεχόμενων πραγματικών περιστατικών στο πλαίσιο αυτό, υπό το πρίσμα μιας ενδεικτικής, υποθετικής περιπτωσιολογίας με βάση τις εφαρμογές συντρόφου ΤΝ (AI girlfriends). Η επιλογή αυτής της εφαρμογής προς εξέταση έγινε ενόψει της ανεπανάληπτης ανόδου της παραγωγικής τεχνητής νοημοσύνης (Generative AI) και της ενδιαφέρουσας πολυπλοκότητας που εμφανίζει σαν περιπτωσιολογία, τόσο σε κανονιστικό όσο και ηθικο-κοινωνικό επίπεδο. Η ακόλουθη ανάλυση μπορεί να αποτελέσει χρήσιμο σημείο αναφοράς για ανάλογες περιπτώσεις ανθρώπινης αλληλεπίδρασης με παραγωγική ΤΝ, και συγκριτικά, σε εξειδικευμένους κλάδους, όπως τα οικονομικά και η ιατρική ή οποιοσδήποτε άλλος κλάδος υιοθετεί συστήματα ΤΝ στην καθημερινή του πρακτική. Κατά την άποψη του γράφοντος, η εδώ εκτιθέμενη περιπτωσιολογία προδιαγνώσκεται να κερδίσει όλο και μεγαλύτερο καταναλωτικό έδαφος στο μέλλον, κάνοντας την κάτωθι ανάλυση περισσότερο σχετική.
Α. Τι είναι οι Εφαρμογές Συντρόφου ΤΝ?
Ως εφαρμογές συντρόφου ΤΝ για τους σκοπούς του παρόντος άρθρου λογίζονται οι εφαρμογές που αλληλεπιδρούν με τον χρήστη έχοντας την δυνατότητα να παριστάνουν διάφορους τύπους συνομιλιών ερωτικού περιεχομένου με μία εικονική σύντροφο. Αυτές οι εφαρμογές χρησιμοποιούν προηγμένους αλγόριθμους μηχανικής μάθησης (Machine Learning) και επεξεργασίας φυσικής γλώσσας (Natural Language Processing) για να αλληλεπιδρούν με τους χρήστες, προσφέροντας συνομιλίες και υποσχόμενες συντροφιά και συναισθηματική υποστήριξη. Οι χρήστες μπορούν συχνά να προσαρμόσουν την εμφάνιση και την προσωπικότητα της εικονικής συντρόφου τους σύμφωνα με τις προτιμήσεις τους. Τέτοιες εφαρμογές έχουν τον τύπο διεπαφής διαλογικού ρομπότ (Chatbot) με δυνατότητα ανταλλαγής κειμένου ή και οπτικοακουστικών μέσων με τον χρήστη και είναι, κατά την στιγμή της γραφής, ήδη διαθέσιμες στο ευρύ καταναλωτικό κοινό μέσω του Play Store και του App Store, τα πλέον διαδεδομένα διαδικτυακά καταστήματα εφαρμογών για το κινητό τηλέφωνο.
Η μηχανική μάθηση επιτρέπει στην εφαρμογή να προσαρμόζεται στον εκάστοτε χρήστη, συλλέγοντας δεδομένα σχετικά με τις προτιμήσεις, τις συνήθειες και το στυλ επικοινωνίας του προκειμένου να βελτιώσει τις απαντήσεις της, καθιστώντας τες πιο εξατομικευμένες και αντανακλώντας κατά προσέγγιση τις επιθυμίες και τις προσδοκίες του χρήστη. Η τεχνολογία της επεξεργασίας φυσικής γλώσσας επιτρέπει στην εφαρμογή να κατανοεί και να ανταποκρίνεται στο κείμενο που εισάγει ο χρήστης (στοιχεία εισόδου) με τρόπο που φαίνεται φυσικός και συνομιλητικός, παράγοντας απαντήσεις (στοιχεία εξόδου) που είναι συναισθηματικά συντονισμένες. Ευαγγελιζόμενος στόχος των εν λόγω εφαρμογών είναι η παροχή εξατομικευμένης συντροφιάς με ενσυναίσθηση. Οι χρήστες μπορούν να μοιραστούν τις σκέψεις και τα συναισθήματά τους με τις εικονικές συντρόφους τους, οι οποίες είναι προγραμματισμένες να ανταποκρίνονται με κατανόηση και ενθάρρυνση. Κατά μία άποψη, αυτή η συναισθηματική υποστήριξη μπορεί να είναι ιδιαίτερα ευεργετική για άτομα που βιώνουν άγχος ή μοναξιά. Κάποιες εφαρμογές προσφέρουν δυνατότητες παιχνιδιού ρόλων (role-playing) με εικονικές συντρόφους, επιτρέποντας στους χρήστες να συμμετέχουν σε ιστορίες με φανταστικά σενάρια που ενισχύουν την εμπειρία τους. Ωστόσο, οι εικονικές αυτές αλληλεπιδράσεις εγείρουν επίσης ηθικά ερωτήματα σχετικά με τη φύση των ανθρώπινων σχέσεων και τον αντίκτυπο της τεχνολογίας στους κοινωνικούς κανόνες. Λαμβανομένων αυτών υπόψη, κατά την άποψη του γράφοντος, είναι επιτακτικό να υπάρχει ένας εποικοδομητικός αλλά αυστηρός όπου χρειάζεται αντίλογος απέναντι στους δυνητικά ευγενείς σκοπούς αυτής της χρήσης της τεχνολογίας, ειδικά ενόψει των φωνών της σχετικής ακαδημαϊκής κοινότητας που αποκαλούν τους πιο επικριτικούς ‘meatware bigots’, ήτοι προκατειλημμένους υπέρ των ανθρώπων και ενάντια των μηχανών ‘φανατικούς της σάρκας’.
Β. Πως υπάγονται στο Ευρωπαϊκό Κανονιστικό Πλαίσιο?
Ως διαλογικά ρομπότ, οι εφαρμογές συντρόφου ΤΝ υπάγονται στον ορισμό του συστήματος ΤΝ κατά τον κανονισμό για την ΤΝ και φαίνεται να εμπίπτουν στις διατάξεις για τα συστήματα ΤΝ περιορισμένου κινδύνου, ως chatbots τα οποία δεν εφαρμόζονται σε κάποιον από τους τομείς εφαρμογής υψηλού κινδύνου. Ως εκ τούτου υπόκεινται στις υποχρεώσεις διαφάνειας του Άρθρου 50, με τις οποίες θα πρέπει να συμμορφωθεί ο πάροχος. Ενόψει του συναισθηματικού και προσωπικού χαρακτήρα της αλληλεπίδρασης των εφαρμογών αυτών με το χρήστη, θα μπορούσε να προβληθεί ο ισχυρισμός ότι δύνανται να συνιστούν απαγορευμένα συστήματα κατά το Άρθρο 5 τα οποία επηρεάζουν το υποσυνείδητο και χειραγωγούν συμπεριφορές ή εκμεταλλεύονται ευπάθειες. Ωστόσο, αυτό είναι κάτι που θα πρέπει να κριθεί σε ατομικό επίπεδο εξετάζοντας συγκεκριμένα την εκάστοτε εφαρμογή καθώς θα ήταν ανεπιεικής μία γενικευμένη απαγόρευση ενόψει δυνητικών κινδύνων που θα καταργούσε συλλήβδην την σχετική αγορά, μη λαμβάνοντας υπόψη τα πιθανά οφέλη που θα είχαν ασφαλείς εφαρμογές για τους χρήστες. Επίσης, δεδομένου ότι η Ευρωπαϊκή Επιτροπή δύναται να τροποποιήσει την λίστα συστημάτων ΤΝ υψηλού κινδύνου, είναι δυνατόν μελλοντικά η υφιστάμενη κατηγοριοποίηση αυτών των εφαρμογών να αλλάξει ανάλογα με την εξέλιξη της τεχνολογίας και της κοινωνίας.
Εφόσον οι εφαρμογές συντρόφου ΤΝ είναι συστήματα ΤΝ περιορισμένου κινδύνου, τα πιθανά θύματα ζημίας κάθε μορφής σε εξωσυμβατικό πλαίσιο δεν θα μπορούσαν να βασιστούν στο Άρθρο 3 της αποσυρθείσας πρότασης Οδηγίας περί ευθύνης για την ΤΝ, καθότι αυτό αφορούσε μόνο συστήματα ΤΝ υψηλού κινδύνου. Ωστόσο, αν η πρόταση δεν είχε αποσυρθεί, θα μπορούσαν ενδεχομένως να βασιστούν στο Άρθρο 4 και να επωφεληθούν του τεκμηρίου αιτιώδους συνάφειας αν δύναντο να αποδείξουν παράβαση καθήκοντος επιμέλειας παρά το γεγονός ότι επρόκειτο για σύστημα περιορισμένου κινδύνου και η απόδειξη της αιτιώδους συνάφειας κρινόταν εξαιρετικά δύσκολη. Η αποσυρθείσα πρόταση αναφέρεται εδώ κατά ιστορική αντιπαραβολή για λόγους πληρότητας. Λόγω απόσυρσης της, η διεκδίκηση αποζημίωσης θα βασίζεται στο εθνικό δίκαιο και την Οδηγία για την ευθύνη λόγω ελαττωματικών προϊόντων.
Όσον αφορά το πλαίσιο της αναθεωρημένης Οδηγίας περί ευθύνης λόγω ελαττωματικών προϊόντων, κρίσιμο είναι το κατά πόσον οι εν λόγω εφαρμογές εμπίπτουν στο πεδίο ορισμού της ως λογισμικό. Tο λογισμικό με την έννοια της αναθεωρημένης Οδηγίας περιλαμβάνει την ΤΝ ως λογισμικό με ένα περισσότερο ή λιγότερο σύνθετο μαθηματικό μοντέλο, επεκτείνοντας τελικά το υλικό πεδίο εφαρμογής της Οδηγίας και σε συστήματα ΤΝ μη υψηλού κινδύνου (όπως εν προκειμένω οι εφαρμογές συντρόφου ΤΝ). Επομένως, ακόμα και αν δεν περικλείονται σε συγκεκριμένο υλικό φορέα, οι εν λόγω εφαρμογές μπορούν να θεωρηθούν προϊόντα σύμφωνα με την αναθεωρημένη Οδηγία και ως εκ τούτου να θεωρηθούν ελαττωματικές κατά το Άρθρο 7, ενεργοποιώντας την ευθύνη του σχετικού οικονομικού φορέα, εν προκειμένω του κατασκευαστή - ήτοι του παρόχου κατά τον Κανονισμό για την ΤΝ - σύμφωνα με το Άρθρο 8, για τα αναφερόμενα στο Άρθρο 6 της αναθεωρημένης Οδηγίας είδη ζημίας. Σημειωτέον πως δεν χωρεί απαλλαγή από την ευθύνη κατά το Άρθρο 11 εφόσον η ελαττωματικότητα οφείλεται σε λογισμικό ή στην απουσία αναβαθμίσεων ασφαλείας που ήταν απαραίτητες.
Ιδιαίτερο ενδιαφέρον γεννάει η περίπτωση όπου το σύστημα ΤΝ, εν προκειμένω η εφαρμογή συντρόφου ΤΝ, βασίζεται σε μοντέλο ΤΝ γενικού σκοπού, καλώντας σε εφαρμογή τις σχετικές διατάξεις του κανονισμού για την ΤΝ. Η ίδια η εφαρμογή συντρόφου ΤΝ δεν φαίνεται να εμπίπτει στον ορισμό του μοντέλου ΤΝ γενικού σκοπού αλλά ούτε και του συστήματος ΤΝ γενικού σκοπού καθότι δεν πρόκειται για εφαρμογή που τίθεται προς εξυπηρέτηση ευρέος φάσματος καθηκόντων, αλλά για συγκεκριμένη χρήση αποκλειστικά σε πλαίσια διαλογικής αλληλεπίδρασης με το χρήστη που προσιδιάζει σε ρομαντική συνομιλία. Είναι συχνό φαινόμενο πολλά συστήματα ΤΝ να βασίζονται σε θεμελιώδη μοντέλα, όπως ονομάζονται κατά την επιστήμη της πληροφορικής, τα οποία υπάγονται στον ορισμό του μοντέλου ΤΝ γενικού σκοπού κατά τον Κανονισμό.
Είναι πιθανό επομένως μία εφαρμογή συντρόφου ΤΝ να βασίζεται σε ένα θεμελιώδες μοντέλο, όπως το GPT-4 ή το Mistral 7B, για την λειτουργία της. Σε αυτή την περίπτωση το θεμελιώδες μοντέλο θεωρείται μοντέλο ΤΝ γενικού σκοπού κατά τον Κανονισμό και έχει χαρακτήρα συστατικού προϊόντος κατά την αναθεωρημένη Οδηγία, ως άυλο στοιχείο που διασυνδέεται με το τελικό προϊόν. Ο κατασκευαστής, δηλαδή πάροχος, του μοντέλου ΤΝ γενικού σκοπού ευθύνεται ως κατασκευαστής συστατικού προϊόντος, σύμφωνα με την αναθεωρημένη Οδηγία, αν το θεμελιώδες μοντέλο είναι ενσωματωμένο ή διασυνδεδεμένο με το τελικό προϊόν και αυτό βρίσκεται υπό τον έλεγχο του τελικού κατασκευαστή. Σε αυτή την περίπτωση, κατά την αναθεωρημένη Οδηγία, ο ζημιωθείς, πληρουμένων των λοιπών προϋποθέσεων, μπορεί να κινηθεί τόσο κατά του παρόχου της τελικής εφαρμογής όσο και κατά του παρόχου του μοντέλου ΤΝ γενικού σκοπού στο οποίο αυτή βασίζεται ως συστατικό της, με ανάλογη αναγωγή των υποχρέων μεταξύ τους σύμφωνα με τους εθνικούς κανόνες.
Κρίσιμο σε αυτή την περίπτωση είναι το κατά πόσο το θεμελιώδες μοντέλο είναι ενσωματωμένο ή διασυνδεδεμένο με το τελικό προϊόν κατά τέτοιο τρόπο ώστε να λογίζεται συστατικό κατά την αναθεωρημένη Οδηγία, δηλαδή το κατά πόσο βρίσκεται υπό τον έλεγχο του κατασκευαστή του τελικού προϊόντος, προκειμένου να δημιουργείται ευθύνη του παρόχου του ως κατασκευαστή ελαττωματικού συστατικού σύμφωνα με τα ανωτέρω. Στην περίπτωση που η ενσωμάτωση του θεμελιώδους μοντέλου γίνεται απλώς με κλήση API (δηλαδή όταν το τελικό προϊόν «καλεί» το θεμελιώδες μοντέλο στον server του παρόχου του, χωρίς παροχή λογισμικού που ενσωματώνεται τοπικά στον κώδικα του τελικού προϊόντος) η κατάφαση του χαρακτηρισμού του κατασκευαστή συστατικού στο πρόσωπο του παρόχου του θεμελιώδους μοντέλου γίνεται δυσκολότερη, καθώς ο τελευταίος προσφέρει στην ουσία μια εξωτερική υπηρεσία χωρίς να παραχωρεί το λογισμικό εντός του τελικού προϊόντος. Σε αυτή την περίπτωση, ο πάροχος του θεμελιώδους μοντέλου δεν ευθύνεται ως κατασκευαστής ελαττωματικού συστατικού κατά την Οδηγία και ο κατασκευαστής του τελικού προϊόντος θα πρέπει να ερευνήσει την δυνατότητα να στραφεί εναντίον του βάσει εθνικού νομικού ερείσματος. Ωστόσο, αν ο τελικός κατασκευαστής διατηρεί ακόμα τον έλεγχο στις σχετικές τεχνικές ρυθμίσεις και καθιστά το θεμελιώδες μοντέλο αναπόσπαστο κομμάτι της λειτουργίας του τελικού προϊόντος, ενδέχεται το θεμελιώδες μοντέλο να θεωρηθεί και πάλι συστατικό. Πρόκειται για μία περίπτωση η οποία, κατά την άποψη του γράφοντος, θα πρέπει να εξετάζεται ad hoc και αναμένεται να αποτελέσει στο μέλλον αφορμή για καθιέρωση σημαντικού νομολογιακού προηγούμενου.
Γ. Περιπτωσιολογία προς Ανάλυση - Γενική και Εξειδικευμένη αλληλεπίδραση
Χάριν πληρέστερης και ορθότερης τοποθέτησης ως προς την εφαρμογή του εθνικού και ενωσιακού κανονιστικού πλαισίου σχετικά με την ευθύνη που ανακύπτει κατά την χρήση εφαρμογών συντρόφου ΤΝ, θα εκτεθεί σε αυτό το σημείο μία υποθετική ενδεχόμενη αλληλεπίδραση ενός χρήστη με μία τέτοια εφαρμογή, με δύο πιθανές παραλλαγές.
Έστω ότι ο μέσος, λογικά σκεπτόμενος χρήστης κατεβάζει μια τέτοια εφαρμογή στο κινητό του από το play store και χρεώνεται συνδρομή για να απολαμβάνει τη χρήση της. Στην πρώτη παραλλαγή, χρησιμοποιεί την εφαρμογή για απλές συζητήσεις καθημερινού περιεχομένου προκειμένου να αισθάνεται συντροφικότητα. Στη δεύτερη παραλλαγή, χρησιμοποιεί ειδική υπηρεσία διαθέσιμη κατόπιν καταβολής αυξημένου αντιτίμου - η οποία του δίνει τη δυνατότητα να αλληλεπιδρά με την εφαρμογή στα πλαίσια συνομιλίας φετιχιστικού περιεχομένου.
Η ζημία που προκύπτει στην πρώτη περίπτωση θα μπορούσε να υποστηριχθεί ότι είναι η απομόνωσή του από τους φίλους του, την οικογένεια του και τον ευρύτερο κοινωνικό του περίγυρο με όλες τις ψυχολογικές βλάβες που αυτό συνεπάγεται, ως αποτέλεσμα της χρήσης της εφαρμογής. Στην δεύτερη περίπτωση, έστω ότι ο χρήστης προβαίνει σε συγκεκριμένες πράξεις σεξουαλικού χαρακτήρα στο σώμα του καθ’ υπόδειξη συγκεκριμένων εντολών της εφαρμογής στα πλαίσια σαδομαζοχιστικού παιχνιδιού ρόλων προκαλώντας σοβαρή σωματική βλάβη ως αποτέλεσμα εσφαλμένης οδηγίας της εφαρμογής η οποία έπαιζε τον ρόλο της σαδίστριας συντρόφου (dominatrix). Το ερώτημα σε κάθε περίπτωση είναι κατά πόσο μπορεί ο ζημιωθείς χρήστης να διεκδικήσει αστική αποζημίωση.
Η συγκεκριμένη περιπτωσιολογία επιλέγεται ενόψει μελέτης της ανθρώπινης αλληλεπίδρασης με σύστημα ΤΝ στα πλαίσια γενικής χρήσης, εν προκειμένω απλής συζήτησης, κατ’ αντιπαραβολή με την ειδική χρήση, ήτοι ικανοποίηση συγκεκριμένης, φετιχιστικής φαντασίωσης. Ανεξαρτήτως της περίπτωσης χρήσης που εξετάζουμε, σε τεχνικό επίπεδο η ΤΝ μπορεί να χωριστεί σε γενική και εξειδικευμένη με βάση τις δυνατότητες της. Η γενική ΤΝ μπορεί να εκτελεί διαφορετικές εργασίες και να προσαρμόζεται σε διάφορα σενάρια, μιμούμενη την ανθρώπινη σκέψη σε πολλούς τομείς, προσφέροντας ευελιξία. Η εξειδικευμένη ΤΝ, αντίθετα, είναι σχεδιασμένη για συγκεκριμένες εργασίες ή τομείς, όπως η αναγνώριση προσώπου ή ομιλίας, προσφέροντας υψηλή τεχνογνωσία, ακρίβεια και αποτελεσματικότητα συγκεκριμένα για αυτές τις εργασίες.
Επομένως, η διαφορά μεταξύ γενικής και εξειδικευμένης ΤΝ έγκειται στο εύρος των εφαρμογών τους και στην απόδοση τους, με την γενική ΤΝ να είναι ευέλικτη στην διαχείριση ευρέως φάσματος εργασιών σε διάφορους, μη αυστηρά εξειδικευμένους τομείς, όπως η αυτοματοποίηση εξυπηρέτησης πελατών και η δημιουργία γενικού περιεχομένου, και την εξειδικευμένη ΤΝ να είναι ειδικά εκπαιδευμένη (συνήθως σε μεγάλο όγκο πληροφορίας σχετικής με την εκάστοτε βιομηχανία στην οποία εφαρμόζεται) για συγκεκριμένες λειτουργίες μέσα σε ένα καθορισμένο πλαίσιο, προσφέροντας υψηλή ακρίβεια σε συγκεκριμένες βιομηχανίες, όπως η υγειονομική περίθαλψη και τα χρηματοοικονομικά.
Πρέπει να σημειωθεί ότι η τεχνική διάκριση αυτή, κατά την άποψη του γράφοντος, δεν ταυτίζεται αυστηρά με τα μοντέλα και συστήματα ΤΝ γενικού σκοπού όπως αυτά ορίζονται στον Κανονισμό για την ΤΝ, καθώς η εξειδικευμένη ΤΝ μπορεί και πάλι να πληροί τον σχετικό ορισμό, ούτε και κρίνεται σκόπιμο να εκφεύγουν του πεδίου εφαρμογής του Κανονισμού πιο εξειδικευμένα μοντέλα ως αποτέλεσμα κάποιας πιθανής υπεράσπισης της θέσης ότι δεν είναι μοντέλα γενικού σκοπού επειδή εφαρμόζονται σε εξειδικευμένη βιομηχανία. Στο επιλεγμένο μας παράδειγμα, χρησιμοποιείται το ίδιο σύστημα ΤΝ σε αμφότερες τις παραλλαγές. Στην περίπτωση χρήσης με συνδρομή, το σύστημα έχει ως διαθέσιμες διαφορετικές δυνατότητες προς εξυπηρέτηση μίας ειδικότερης χρήσης. Αξιοσημείωτη είναι η διαφορά στην ανακύπτουσα ζημία, ενώ σημαντική είναι και η αναμενόμενη εμπιστοσύνη του χρήστη στο σύστημα ΤΝ σε κάθε μία από τις δύο εξεταζόμενες περιπτώσεις.
Συγκεκριμένα, η εμπιστοσύνη του χρήστη επηρεάζεται από τον ανθρωπομορφισμό που μπορεί να εμφανίζει ένα σύστημα ΤΝ καθώς και από την ατομική γνώση του χρήστη σχετικά με την λειτουργία του. Οι εφαρμογές συντρόφου, ως συστήματα ΤΝ προγραμματισμένα να εμφανίζουν ανθρωπόμορφα στοιχεία που προσιδιάζουν σε ενσυναίσθηση και συναισθηματικό δέσιμο με τον χρήστη, ενθαρρύνουν ένα μεγαλύτερο επίπεδο εμπιστοσύνης προσφέροντας συναισθηματική διάδραση και κοινωνική παρουσία. Η δε ανεπάρκεια γνώσης του μέσου χρήστη ως προς τον τρόπο λειτουργίας του συστήματος, σε συνδυασμό με την έλλειψη γνώσης επί του αντικειμένου της διαλογικής αλληλεπίδρασης μπορεί να ενισχύσει την εμπιστοσύνη του χρήστη στα δεδομένα εξόδου που λαμβάνει. Αυτή η εμπιστοσύνη επαυξάνεται ενόψει του επαγγελματικοφανούς επικοινωνιακού πλαισίου, ειδικά όταν αυτό περιλαμβάνει φετιχιστικό περιεχόμενο το οποίο η εφαρμογή συντρόφου φαίνεται να προσφέρει στον χρήστη κατόπιν συνδρομής όπως θα έκανε ένας επαγγελματίας του χώρου στον πραγματικό κόσμο κατόπιν αμοιβής. Με αυτό τον τρόπο δημιουργείται στον χρήστη η ενδεχομένως εύλογη εντύπωση ότι μπορεί να εμπιστευτεί το περιεχόμενο που λαμβάνει όπως αντίστοιχα θα μπορούσε να εμπιστευτεί μία επί χρήμασι υπηρεσία που θα λάμβανε από επαγγελματία.
Γ.1 Συμβατικός Περιορισμός της Ευθύνης
Η ανάλυση της εν προκειμένω περιπτωσιολογίας θα περιοριστεί, λόγω έκτασης, στην εξέταση της εκ του νόμου ευθύνης που ενδεχομένως ανακύπτει. Ήδη εκ πρώτης όψεως πρέπει να ληφθεί υπόψη το ενδεχόμενο να έχει συμφωνηθεί εκ των προτέρων περιορισμός ή αποκλεισμός της σχετικής ευθύνης κατά τους γενικούς όρους συναλλαγής με τους οποίους καλείται να συμφωνήσει ο χρήστης κατά την είσοδο του στην εφαρμογή (general terms & conditions).
Η ενωσιακή Οδηγία 93/13/ΕΟΚ σχετικά με τις καταχρηστικές ρήτρες στις συμβάσεις με καταναλωτές θεωρεί καταχρηστική και κατ’επέκταση απαγορευμένη κάθε ρήτρα που επιβάλλεται αντίθετα προς την καλή πίστη προκαλώντας σημαντική ανισορροπία σε βάρος του καταναλωτή, κυρίως όταν αυτή δεν αποτέλεσε αντικείμενο ατομικής διαπραγμάτευσης. Σύμφωνα με τον ενδεικτικό κατάλογο εν δυνάμει καταχρηστικών ρητρών που περιέχεται στο παράρτημα της Οδηγίας, τέτοια θεωρείται και η ρήτρα που έχει σκοπό ή αποτέλεσμα να αποκλείσει ή περιορίσει την εκ του νόμου ευθύνη σε περίπτωση θανάτου ή σωματικής βλάβης του καταναλωτή.
Η ενσωμάτωση της Οδηγίας στην ελληνική έννομη τάξη έγινε με τον νόμο 2251/1994 κατά το Άρθρο 2 του οποίου γενικοί όροι συναλλαγών που προκαλούν σημαντική διατάραξη της ισορροπίας εις βάρος του καταναλωτή απαγορεύονται ως καταχρηστικοί και είναι άκυροι ενώ θεωρούνται ρητά καταχρηστικοί οι όροι που αποκλείουν ή περιορίζουν υπέρμετρα την ευθύνη του προμηθευτή - έννοια που κατά τον σχετικό ορισμό του συγκεκριμένου νόμου φαίνεται να μπορεί να συμπεριλάβει τον πάροχο κατά τον Κανονισμό για την ΤΝ και τον κατασκευαστή κατά την αναθεωρημένη Οδηγία περί ευθύνης για ελαττωματικά προϊόντα. Τέλος, σε επίπεδο Αστικού Κώδικα, κατά το Άρθρο 332 είναι άκυρη κάθε εκ των προτέρων συμφωνία με την οποία αποκλείεται ή περιορίζεται η ευθύνη από δόλο ή βαριά αμέλεια καθώς και ρήτρα με την οποία απαλλάσσεται ο οφειλέτης από ‘την ευθύνη για προσβολή αγαθών που απορρέουν από την προσωπικότητα, ιδίως της ζωής, της υγείας, της ελευθερίας και της τιμής’.
Καθίσταται προφανές επομένως ότι τουλάχιστον στην δεύτερη παραλλαγή της περίπτωσης που εξετάζουμε, όπου ο χρήστης υφίσταται σωματική βλάβη, δεν χωρεί συμβατική απαλλαγή από εκ του νόμου ευθύνη, αν αυτή στοιχειοθετείται. Ενδιαφέρον εμφανίζει η περίπτωση ευθύνης του play store κατά τον Κανονισμό 2022/2065 για τις ψηφιακές υπηρεσίες, σε περίπτωση που αυτό γνωρίζει ή λάβει γνώση για παράνομο περιεχόμενο και δεν το αποσύρει. Ωστόσο εδώ επικεντρωνόμαστε στην ευθύνη του παρόχου της εφαρμογής. Αξίζει επίσης να σημειωθεί ότι οι Οδηγίες 2019/770 και 2019/771 σχετικά με τις συμβάσεις για την προμήθεια ψηφιακού περιεχομένου και ψηφιακών υπηρεσιών και τις συμβάσεις για τις πωλήσεις αγαθών αντίστοιχα όπως έχουν ενσωματωθεί με τον νόμο 4967/2022, αφορούν αμιγώς συμβατική ευθύνη και δεν εφαρμόζονται στην περίπτωση της εκ του νόμου ευθύνης που εξετάζουμε εν προκειμένω.
Γ.2 Αδικοπρακτική Ευθύνη και Συντρέχον Πταίσμα
Σύμφωνα με τη διατύπωση της γενικής ρήτρας που ρυθμίζει την αδικοπρακτική ευθύνη στον ελληνικό Αστικό Κώδικα, οι προϋποθέσεις στοιχειοθέτησης της τελευταίας είναι η ύπαρξη ανθρώπινης συμπεριφοράς, το παράνομο και υπαίτιο αυτής, η επέλευση ζημίας και η ύπαρξη αιτιώδους συνδέσμου μεταξύ της συμπεριφοράς και της ζημίας. Οι δυσχέρειες στην στοιχειοθέτηση των προϋποθέσεων της αδικοπρακτικής ευθύνης καθίστανται εμφανείς δεδομένων των ιδιαίτερων χαρακτηριστικών της ΤΝ (complexity, οpacity, openness, increasing autonomy) που έχουν αναπτυχθεί εκτενώς στην θεωρία. Επίσης, έχει υποστηριχθεί το επιχείρημα υιοθέτησης της ευθύνης από διακινδύνευση για την TN προς επίλυση της έλλειψης ανθρώπινης πράξης και της δυσχέρειας στην κατάφαση του αιτιώδους συνδέσμου. Ένα επιχείρημα το οποίο ελήφθη υπόψη στην νομοπαρασκευαστική διαδικασία του ευρωπαϊκού νομοθετικού πλαισίου για την ευθύνη για την ΤΝ, που έχει ήδη αναπτυχθεί.
Ωστόσο, ο γράφων θα ήθελε να προτείνει και την εναλλακτική μίας πιο διασταλτικής ερμηνείας της διάταξης του Άρθρου 914 ΑΚ. Τα δεδομένα εξόδου συστήματος ΤΝ (output) τα οποία οδηγούν αποφασιστικά σε συγκεκριμένο αποτέλεσμα στον φυσικό κόσμο και εξάγονται στα πλαίσια αλληλεπίδρασης με τον χρήστη που προσιδιάζει σε υπαρκτές συναλλαγές, θα μπορούσαν να θεωρηθούν ως οιονεί ανθρώπινη πράξη. Τέτοια είναι εν προκειμένω η περίπτωση της δεύτερης παραλλαγής όπου το ιδιαίτερο πλαίσιο της αλληλεπίδρασης προσιδιάζει σε ερωτική συναλλαγή επί χρήμασι με ταυτόχρονη καθοδήγηση του χρήστη στην βλάβη του σώματός του ως αποτέλεσμα εσφαλμένων οδηγιών που έλαβε από τα δεδομένα εξόδου του συστήματος ΤΝ. Το παράνομο στην προκειμένη περίπτωση έγκειται στην προσβολή του δικαιώματος στην προσωπικότητα, συγκεκριμένα της εκδήλωσης του με την έκφανση της υγείας και σωματικής ακεραιότητας. Όσον αφορά την προϋπόθεση της υπαιτιότητας, δεδομένου ότι στις συνήθεις περιπτώσεις πληρούται αρκεί στο πρόσωπο του ζημιώσαντος να συντρέχει οποιαδήποτε μορφή δόλου ή αμέλειας, ακόμα και ελαφρά, με βάση τον συνετό άνθρωπο, στην περίπτωση που εξετάζουμε θα μπορούσε να πληρούται με την συνδρομή των ίδιων στοιχείων στο πρόσωπο του ζημιώσαντος, εν προκειμένω του παρόχου της εφαρμογής, στον οποίο πρέπει λογικά να συντρέχει και η ικανότητα προς καταλογισμό. Η ζημία εν προκειμένω στην δεύτερη παραλλαγή, είναι τόσο περιουσιακή όσο και μη περιουσιακή περιλαμβάνοντας νοσήλια και σωματικό πόνο, ενώ στην πρώτη παραλλαγή θα μπορούσε ενδεχομένως να υποστηριχθεί μόνο αποζημίωση για ηθική βλάβη. Τέλος, η αιτιώδης συνάφεια μπορεί να υποστηριχθεί στην δεύτερη παραλλαγή κατά την άποψη του γράφοντος και από την θεωρία της πρόσφορης αιτιότητας, με τα δεδομένα εξόδου να είναι πρόσφορος όρος που ενόψει του συγκεκριμένου επικοινωνιακού πλαισίου της αλληλεπίδρασης έχει την ίδια τάση να επιφέρει το συγκεκριμένο αποτέλεσμα που θα είχε και εσφαλμένη χορήγηση αντίστοιχων υπηρεσιών από επαγγελματία του είδους. Στην πρώτη παραλλαγή, αιτιώδης συνάφεια θα μπορούσε να υποστηριχθεί μόνο μέσω μίας γενναιόδωρα διασταλτικής ερμηνευτικής προσέγγισης κατά την θεωρία του ισοδυνάμου των όρων, ο σύνδεσμος ωστόσο φαίνεται και πάλι χαλαρός για να υποστηρίξει αξίωση αποζημίωσης.
Βεβαίως, σε κάθε μία από τις δύο παραλλαγές, δεν μπορεί να μην γίνει λόγος για συντρέχον πταίσμα του ζημιωθέντος κατά Άρθρο 300 ΑΚ καθότι η τελική ζημία επέρχεται λόγω αυτενέργειας του, έστω και καθ’υπόδειξη της εφαρμογής. Το δικαστήριο στις περιπτώσεις συντρέχοντος πταίσματος έχει διακριτική ευχέρεια να απαλλάξει εντελώς τον ζημιώσαντα, να επιμερίσει την ζημία μεταξύ αυτού και του ζημιωθέντος ή να παράσχει πλήρη αποζημίωση στον ζημιωθέντα, παρά την συμβολή του στη ζημία. Ως κριτήρια μεταξύ άλλων είναι και ο βαθμός πταίσματος του ζημιώσαντος και του ζημιωθέντος, καθώς και η οικονομική τους κατάσταση. Κατά την άποψη του γράφοντος, δεν θα έπρεπε να τίθεται ζήτημα επιμερισμού της ζημίας, αλλά η αποζημίωση του ζημιωθέντος θα έπρεπε να είναι πλήρης σε περίπτωση που αυτή προκύπτει ξεκάθαρα και αποκλειστικά από την εμπιστοσύνη του χρήστη στα δεδομένα εξόδου του συστήματος ΤΝ, όταν αυτά αφορούν σε αλληλεπίδραση ειδικού χαρακτήρα που άπτεται ειδικών τεχνικών πληροφοριών και γνώσεων που δεν θα ήταν αναμενόμενο να κατέχει ο μέσος λογικά σκεπτόμενος χρήστης, όπως εν προκειμένω οι ειδικές τεχνικές πληροφορίες και γνώσεις για την ορθή εκτέλεση συγκεκριμένης φετιχιστικής φαντασίωσης. Σημείο αναφοράς μπορεί να είναι η εμπιστοσύνη που θα ήταν αναμενόμενο να έχει ο μέσος καταναλωτής, αν λάμβανε υπηρεσία ή προϊόν με αντίστοιχα χαρακτηριστικά στον φυσικό κόσμο, όπως η παροχή ερωτικών, φετιχιστικών επί χρήμασι υπηρεσιών. H εδώ προτεινόμενη εναλλακτική προσέγγιση αποκτά ιδιαίτερο ενδιαφέρον μέχρι την ενσωμάτωση της νέας Οδηγίας περί ευθύνης για ελαττωματικά προϊόντα στην ελληνική έννομη τάξη και κατά την άποψη του γράφοντος ακολουθεί το πνεύμα της, όσον αφορά την προστασία του καταναλωτή, αλλά και το πνεύμα της ευρύτερης ενωσιακής, σχετικής νομοθεσίας όσον αφορά την ανάγκη επαρκούς αποζημίωσης των θυμάτων σε περιστατικά που περιλαμβάνουν συστήματα ΤΝ.
Γ.3 Ευθύνη κατά το Ενωσιακό Νομικό Πλαίσιο
Όσον αφορά συγκεκριμένα το ενωσιακό νομοθετικό πλαίσιο ευθύνης για την ΤΝ, η αποσυρθείσα πρόταση Οδηγίας περί ευθύνης για την ΤΝ, θα μπορούσε να είχε ελαφρύνει την θέση του ζημιωθέντος, κατά τα μαχητά τεκμήρια μη συμμόρφωσης με καθήκον επιμέλειας και αιτιώδους συνάφειας. Ωστόσο, και στις δύο παραλλαγές της περίπτωσης που εξετάζουμε, το εν λόγω σύστημα ΤΝ δεν φαίνεται να είναι σύστημα ΤΝ υψηλού κινδύνου με αποτέλεσμα, ακόμα και αν δεν είχε αποσυρθεί η πρόταση, να μην τύχαινε εφαρμογής το τεκμήριο υπαιτιότητας του Άρθρου 3 παράγραφος 5 σε περίπτωση μη αποκάλυψης αποδεικτικών στοιχείων, ενώ για να ίσχυε το τεκμήριο αιτιώδους συνάφειας θα έπρεπε ο ζημιωθείς να αποδείκνυε την μη συμμόρφωση του παρόχου της εφαρμογής με καθήκον επιμέλειας και ότι αυτή είχε επηρεάσει τα στοιχεία εξόδου του συστήματος τα οποία προκάλεσαν τη ζημία του.
Η μη συμμόρφωση με το καθήκον επιμέλειας εν προκειμένω, αν δεν είχε αποσυρθεί η πρόταση, θα μπορούσε να συνίστατο, για παράδειγμα, σε παραβίαση των υποχρεώσεων διαφάνειας του Άρθρου 50 του Κανονισμού για την ΤΝ. Αυτό θα ίσχυε ειδικά στην πρώτη παραλλαγή, αν δεν γινόταν αντιληπτή σε βάθος χρόνου η διάσταση της αλληλεπίδρασης με την εφαρμογή και ο χρόνος που αφιερώνεται σε αυτήν μέσω κάποιας υπενθύμισης για την εικονικότητα του περιεχομένου ή επισήμανσης της πιθανής ανακρίβειας του. Στην δεύτερη παραλλαγή η μη συμμόρφωση θα μπορούσε να συνίστατο και σε γενικότερη αντίθεση στα χρηστά ήθη, που θα μπορούσε να υποστηριχθεί ενόψει του χαρακτήρα που μπορεί να λάβει η αλληλεπίδραση με την εφαρμογή, αναλόγως της έντασης της.
Συγκεκριμένα ως προς την αναθεωρημένη Οδηγία για την ευθύνη για ελαττωματικά προϊόντα, το δικαίωμα αποζημίωσης του Άρθρου 5 στοιχειοθετείται ενόψει ζημίας προκαλούμενης από ελαττωματικότητα προϊόντος, εν προκειμένω της εφαρμογής συντρόφου ΤΝ ως ‘λογισμικού’. Η ζημία του Άρθρου 6 περιλαμβάνει τόσο σωματική βλάβη όσο και βλάβη της ψυχικής υγείας, επομένως δυνητικά καλύπτονται και οι δύο παραλλαγές, ενώ η ελαττωματικότητα κατά το Άρθρο 7 συνίσταται στην μη παροχή της αναμενόμενης ασφάλειας από το προϊόν με ειδική αναφορά στην ικανότητα συνεχούς εκμάθησης, όπως αυτή που έχουν τα θεμελιώδη μοντέλα στα οποία ενδεχομένως βασίζονται τα διαλογικά ρομπότ που συνιστούν τις εφαρμογές συντρόφου ΤΝ. Στην πρώτη παραλλαγή, η ελαττωματικότητα δεν φαίνεται να προκύπτει από τα δεδομένα εξόδου του συστήματος ΤΝ, εκτός εάν τυχόν υπερβολικά ή παραπλανητικά αληθοφανής αλληλεπίδραση με το χρήστη σε μεγάλο χρονικό βάθος θεωρηθεί ως μη αναμενόμενη συμπεριφορά του συστήματος. Η αιτιώδης συνάφεια ωστόσο με τυχόν ψυχική ζημία από την κοινωνική απομόνωση εξακολουθεί να φαίνεται δυσχερής, ειδικά χωρίς να φαίνεται να ενεργοποιούνται τεκμήρια κατά το Άρθρο 10.
Στην δεύτερη παραλλαγή τα δεδομένα εξόδου του συστήματος ΤΝ σφάλλουν, με αποτέλεσμα ο χρήστης να βλάψει το σώμα του ακολουθώντας τις οδηγίες. Δεδομένου ότι η εν λόγω αλληλεπίδραση συνιστά τρόπον τινά υποκατάστατο υπαρκτής ανθρώπινης συνδιαλλαγής από φαινόμενα εξειδικευμένο σε αυτήν την αλληλεπίδραση σύστημα ΤΝ, δεν θα ήταν λάθος να θεωρηθεί ότι η απαίτηση της αναμενόμενης ασφάλειας δεν πληρούται, ειδικά εάν ληφθεί ως μέτρο σύγκρισης η ασφάλεια που θα δικαιούνταν να αναμένει ένας άνθρωπος αν λάμβανε αντίστοιχη υπηρεσία στον φυσικό κόσμο. Η ελαττωματικότητα μπορεί να τεκμαρθεί στη δεύτερη παραλλαγή και βάσει του Άρθρου 10 παράγραφος 2 (γ) με ενδεχόμενη ενεργοποίηση και του τεκμηρίου αιτιώδους συνάφειας κατά την παράγραφο 3 καθότι η ζημία είναι άμεσο αποτέλεσμα της ελαττωματικότητας, η οποία εκφράζεται μέσω των εσφαλμένων δεδομένων εξόδου. Επομένως, στην δεύτερη παραλλαγή θα ευθύνεται αντικειμενικά βάσει της Οδηγίας ο πάροχος της εφαρμογής-κατασκευαστής καθώς και, εάν αυτή βασίζεται σε θεμελιώδες μοντέλο, ενδεχομένως ο πάροχος του μοντέλου όπως έχει ήδη αναλυθεί ανωτέρω.
Αξίζει εδώ να γίνει αναφορά στον παραλληλισμό που μπορεί να παρατηρηθεί μεταξύ της εξεταζόμενης περίπτωσης και της ονομαζόμενης στην θεωρία ‘ρήτρας ΙΚΕΑ’ όπως έχει εισαχθεί στο Άρθρο 536 ΑΚ που αφορά στην μη ανταπόκριση πράγματος στην σύμβαση πώλησης από πλημμελή εγκατάσταση του προκαλούμενη από ατελείς οδηγίες που παρασχέθηκαν από τον πωλητή στον αγοραστή, με την ευθύνη που αυτή συνεπάγεται κατά το Άρθρο 537 ΑΚ. Μετά την ενσωμάτωση του Άρθρου 8 της Οδηγίας 2019/771, η σχετική ρύθμιση περιλαμβάνει και αγαθά με ψηφιακά στοιχεία. Η συγκεκριμένη ρύθμιση μπορεί να αποτελέσει πηγή έμπνευσης για περιπτώσεις όπως η εξεταζόμενη, καθώς η ζημία προκύπτει κατ’ουσίαν λόγω ατελών οδηγιών που παρέχονται από την εφαρμογή στον χρήστη. Δεδομένου ότι ο νομοθέτης έχει ήδη επιλέξει να επεκτείνει την ανακύπτουσα ευθύνη από μη ανταπόκριση σε σύμβαση στον πάροχο ψηφιακού περιεχομένου ή ψηφιακής υπηρεσίας όταν οι οδηγίες που δίνει στον καταναλωτή είναι ελλιπείς, οι εσφαλμένες οδηγίες που δίνονται από την εφαρμογή συντρόφου ΤΝ στον χρήστη με αποτέλεσμα αυτός να υποστεί βλάβη, θα πρέπει να θεωρηθούν εξίσου προβληματικές.
Εν κατακλείδι, μπορούμε να παρατηρήσουμε ότι η δυνατότητα αξίωσης αποζημίωσης εξαρτάται σημαντικά από τη φύση της αλληλεπίδρασης του χρήστη με την εφαρμογή, συγκεκριμένα από το αν αυτή είναι γενική ή ειδική. Στην πρώτη παραλλαγή όπου ο χρήστης χρησιμοποιεί εφαρμογή για καθημερινές συνομιλίες αναζητώντας συντροφικότητα (γενική αλληλεπίδραση) η ψυχολογική ζημία από την παρεπόμενη κοινωνική απομόνωση είναι έμμεση και δύσκολο να αποδειχθεί ότι συνδέεται αιτιωδώς με την εφαρμογή, το ίδιο και τυχόν υπαιτιότητα του παρόχου. Αντίθετα, στη δεύτερη παραλλαγή που αφορά ειδική αλληλεπίδραση, ο χρήστης εμπλέκεται σε φετιχιστικές συζητήσεις και ακολουθεί οδηγίες που προξενούν σωματική του βλάβη προκαλώντας άμεση ζημία, ενώ η ελαττωματικότητα της εφαρμογής μπορεί να στοιχειοθετηθεί δεδομένου ότι αυτή αποτυγχάνει να παρέχει το απαιτούμενο επίπεδο ασφαλείας. Η αιτιώδης συνάφεια είναι ισχυρή σε αυτή την περίπτωση καθώς η ζημία προκύπτει απευθείας από τις εσφαλμένες οδηγίες της εφαρμογής, καθιστώντας πιο εύκολη την αξίωση αποζημίωσης και βάσει της αναθεωρημένης Οδηγίας για την ευθύνη λόγω ελαττωματικών προϊόντων.
IV . Επίλογος
Το παρόν πόνημα εξέτασε το ενωσιακό νομοθετικό πλαίσιο για την ΤΝ όπως αυτό αποτυπώνεται στον Κανονισμό για την ΤΝ, στην αναθεωρημένη Οδηγία για την ευθύνη λόγω ελαττωματικών προϊόντων και στην προταθείσα αλλά εν τέλει αποσυρθείσα Οδηγία περί ευθύνης για την ΤΝ, παράλληλα με τις σχετικές διατάξεις του ελληνικού νόμου, υπό το πρίσμα της εξωσυμβατικής ευθύνης που μπορεί να γεννηθεί από την αλληλεπίδραση του χρήστη με την ΤΝ, χρησιμοποιώντας ως σημείο αναφοράς τις εφαρμογές συντρόφου ΤΝ. Ενόψει της εκτεθείσας ανάλυσης, το Ερευνητικό Ερώτημα του άρθρου μπορεί να ανακληθεί και να απαντηθεί ως εξής:
Η ενωσιακή νομοθεσία και η ιστορική νομοπαρασκευαστική βούληση έχουν ως κεντρικό στόχο την ασφάλεια των ατόμων και την διασφάλιση ότι οι χρήστες συστημάτων ΤΝ χαίρουν νομικής προστασίας αντίστοιχης με εκείνη που θα είχαν αν το στοιχείο της ΤΝ εξέλιπε. Ως εκ τούτου προκρίνεται η ερμηνεία της εθνικής νομοθεσίας υπό το ίδιο πνεύμα έως ότου η ολότητα των ενωσιακών νομοθετημάτων ενσωματωθεί στην ελληνική έννομη τάξη. Η ανάλυση της επιλεγμένης περιπτωσιολογίας αναδεικνύει τη σημασία της διάκρισης μεταξύ γενικής και ειδικής αλληλεπίδρασης, με την παρεπόμενη διαφοροποίηση των νομικών ζητημάτων που ανακύπτουν. Συγκεκριμένα, στην ειδική αλληλεπίδραση, όπως η συζήτηση με ένα διαλογικό ρομπότ σε πλαίσια φετιχιστικής φαντασίωσης όπου τα δεδομένα εξόδου του συστήματος ΤΝ είναι εσφαλμένα και επηρεάζουν άμεσα τις πράξεις του χρήστη οδηγώντας στην σωματική του βλάβη, η ευθύνη του παρόχου φαίνεται να θεμελιώνεται αντικειμενικά βάσει της Οδηγίας περί ελαττωματικών προϊόντων. Από την άλλη, στην γενική αλληλεπίδραση η αιτιώδης συνάφεια και η ελαττωματικότητα είναι δυσκολότερο να αποδειχθούν απαιτώντας ιδιαίτερα γενναιόδωρες διασταλτικές ερμηνείες, γεγονός που ενδεχομένως καθιστά αναγκαία την ενίσχυση του σχετικού ρυθμιστικού πλαισίου για αυτές τις περιπτώσεις.
Είναι σημαντικό να υπογραμμιστεί ότι τα ζητήματα που θίγονται αφορμή του επιλεγμένου παραδείγματος είναι σχετικά και πρέπει να λαμβάνονται υπόψη και για παρόμοια συστήματα ΤΝ με διαφορετικές εφαρμογές τα οποία παρότι φαίνεται να εμπίπτουν στα συστήματα περιορισμένου κινδύνου κατά την ταξινόμηση του Κανονισμού, εμφανίζουν την δυνατότητα να έχουν σημαντικές οικονομικές, κοινωνικές και ηθικές επιπτώσεις. Τέτοια είναι για παράδειγμα τα θρησκευτικά chatbots, που με αντίστοιχο τρόπο προσποιούνται ιερά πρόσωπα στην αλληλεπίδραση τους με τον χρήστη, τα chatbots που υπόσχονται υπηρεσίες ψυχολόγου καθώς και Μεγάλα Γλωσσικά Μοντέλα στον χρηματοοικονομικό τομέα, τα οποία χρησιμοποιούνται συμβουλευτικά κατά τη διαδικασία λήψης επενδυτικών αποφάσεων. Ενόψει όλων των εδώ εκτιθέμενων παρατηρήσεων και της μεγάλης κριτικής στην οποία έχει υποβληθεί ο Κανονισμός για την ΤΝ σχετικά με την πληρότητα των κατηγοριών ρίσκου, φαίνεται ότι η νομολογία θα κληθεί να παίξει σημαντικό ρόλο στην διασφάλιση της προστασίας των ατόμων στην εποχή της ΤΝ.