Ζητήματα ευθύνης των αυτόνομων έξυπνων συμβολαίων που βασίζονται στην Τεχνητή Νοημοσύνη

Ι. Εισαγωγικές και συνοπτικές επισημάνσεις
Η τεχνητή νοημοσύνη (Artificial Intelligence-AI), μια σύλληψη του Alan Turing, είναι μια έννοια «ομπρέλα», που περιλαμβάνει διάφορες εφαρμογές και συστήματα «εξυπνων μηχανών». Σε γενικές γραμμές και στο επίπεδο των αφηρημένων προσεγγίσεων επί των νομοθεσιών, υπάρχουν δύο προσεγγίσεις, η πρώτη προσέγγιση αντιλαμβάνεται τη τεχνητή νοημοσύνη (ΤΝ) ως έναν τρόπο ανακατασκευής της ανθρώπινης νοημοσύνης μέσω μηχανών ενώ η δεύτερη προσέγγιση αντιλαμβάνεται την τεχνητή νοημοσύνη ως δυνητικά μια επικίνδυνη κατάσταση. Η πρώτη προσέγγιση συνεπώς τάσσεται υπέρ της άποψης για την επάρκεια των ήδη υφιστάμενων ρυθμίσεων για τα ζητήματα ευθύνης, ενώ η δεύτερη προσέγγιση τάσσεται ανοιχτά για την υιοθέτηση ρυθμίσεων για τα «ασυνήθιστα» ζητήματα ευθύνης. Η ΤΝ είναι κάτι παραπάνω από ένα επιστημονικό επίτευγμα. Είναι μια αφορμή για αλλαγή διαδικασιών στην αγορά και στην κοινωνία. Σίγουρα και όπως κάθε μεταβολή στην κοινωνική, οικονομική και πολιτική σφαίρα δημιουργεί εξωτερικότητες (externalities), τόσο θετικές εξωτερικότητες, λ.χ. ατομική, κοινωνική και οικονομική ανάπτυξη, όσο όμως και αρνητικές, λ.χ. ασάφειες στη κάλυψη ή όχι του ζητήματος εφαρμογής των διατάξεων ενός νόμου όπως αυτή της ευθύνης (liability), πιθανά και απρόβλεπτες εξωτερικότητες.
Σελ. 1036 Μια εκ των βασικών και σύγχρονων κατηγοριοποιήσεων των εφαρμογών της ΤΝ είναι αυτή που τις χωρίζει σε συστήματα «μαύρου κουτιού» (black boxes) και σε συστήματα «άσπρου κουτιού» (white box). Στα συστήματα «μαύρου κουτιού» το σύνολο των πληροφορικών και των διαδικασιών που εισαγονται και εξάγονται από το σύστημα (input and outputs) διακρίνονται από μυστικότητα και προσβασιμότητα και συνεπώς είναι πρακτικά δύσκολη - αν όχι αδύνατη- η όποια βάσιμη πρόβλεψη. Βέβαια, υφίσταται πλέον η τεχνολογία ώστε ακόμα και τα συστήματα «μαύρου κουτιού» να μπορούν να εξετάζονται με κατάλληλες τεχνικές και μεθόδους. Οι τεχνικές και οι μέθοδοι αυτοί αποδίδονται με την έννοια της «Εξηγήσιμης Τεχνητής Νοημοσύνης» (Explainable Artificial Intelligence XAI - ΕΤΝ). Η χρήση της λέξης «εξηγήσιμη» αποδίδει δύο έννοιες, την έννοια της «καταληψιμότητας» (intelligibility), που αφορά τη κατανόηση του τρόπου λειτουργίας του συστήματος ΤΝ και την έννοια της «λογοδοσίας» (accountability), που αφορά τη κατανόηση του ποιος είναι υπεύθυνος για την ΤΝ. Ένα από τα πιο θερμά ζητήματα στον δημόσιο λόγο, με τεράστιο - και όχι μόνον- νομικό ενδιαφέρον είναι ποιο πρέπει να είναι το περιεχόμενο εν γένει ενός πιθανού κανονιστικού πλαισίου για τα αυτόνομα συστήματα; Τα αυτόνομα συστήματα, που είναι μια εφαρμογή της ΤΝ έχουν εισχωρήσει πλέον τόσο στη δημόσια σφαίρα όσο και στην ιδιωτική σφαίρα, ενδεικτικά αναφέρονται παιχνίδια, οικιακά ρομπότ, εφαρμογές, έξυπνα συμβόλαια, chatbots και αυτοοδηγούμενα οχήματα. Το ερώτημα ποιος πρέπει να ευθύνεται για τις πιθανές αρνητικές εξωτερικότητες, κατά το αστικό δίκαιο για τις ζημιές που προκαλούνται από αυτόνομα συστήματα, βρίσκεται, λόγω της τεράστιας πρακτικής του συνάφειας, δικαιολογημένα στο επίκεντρο της νομικής συζήτησης.
Στη παρούσα μελέτη θα γίνει μια προσπάθεια να αναζητηθεί μια πιθανή απάντηση, σύμφωνα με το υφιστάμενο σύστημα ευθύνης κατά το ελληνικό δίκαιο, για τα αυτόνομα έξυπνα συμβόλαια, τα οποία ενσωματώνουν βασικά στοιχεία της ΤΝ και να υπάρξει και μια πρώτη και συνοπτική προσπάθεια καταγραφής των αρχών μιας επόμενης νομοθεσίας. Δεν αποκλείεται πολλά από όσα να αναπτυχθούν να αφορούν και άλλες μορφές αυτόνομων συστημάτων, αφού το ζήτημα της ευθύνης αυτών δεν αντιμετωπίζεται πλέον - σε Ενωσιακό επίπεδο έστω- τμηματικά αλλά στο πλαίσιο της μιας κοινής νομοθέτησης για την ΤΝ. Σε κάθε περίπτωση η ανάλυση γίνεται υπό το πρίσμα ότι τα αυτόνομα έξυπνα συμβόλαια με ΤΝ δεν λαμβάνουν νομική προσωπικότητα από τον νόμο - για την ώρα- όπως συμβαίνει με τα φυσι
Σελ. 1037 κά πρόσωπα και τα νομικά πρόσωπα και πρόκειται για «προϊόντα ή υπηρεσίες». Η έννοια και τα βασικά χαρακτηριστικά των γενικών έξυπνων συμβολαίων είναι αυτή που έχει υιοθετηθεί σε προηγούμενο πόνημα. Τα έξυπνα συμβόλαια, που βασίζονται σε τεχνολογίες αποκεντρωμένου μητρώου (Decentralized Ledger Technology DLT), άσχετα εάν βασίζονται και στην ΤΝ, διαθέτουν τρεις ιδιαιτερότητες σε σχέση με τα παραδοσιακά προϊόντα. Αυτές είναι: α) πολυπλοκότητα (complexity). Οι μηχανές αυτές διαθέτουν περισσότερα εξαρτήματα τα οποία καθιστούν πιο δύσκολο τον εντοπισμό των εσωτερικών διαδικασιών που συνέβαλαν στην πρόκληση βλάβης, όμως και οι αλγόριθμοι εφαρμόζονται σε αυτά τα προϊόντα επίσης όλο και περισσότερο εκλεπτυσμένο β) αδιαφάνεια (opacity). Όσο πιο σύνθετες γίνονται οι αναδυόμενες ψηφιακές τεχνολογίες τόσο λιγότερο όσοι εκμεταλλεύονται τις λειτουργίες τους ή εκτίθονται σε αυτές μπορούν να κατανοήσουν τις διαδικασίες που μπορεί να έχουν προκαλέσει βλάβη στον εαυτό τους ή στους άλλους και γ) ανοιχτή ανταλλαγή πληροφοριών (Open exchange of information). Η αυξανόμενη εξάρτηση με τη συνεχή εισαγωγή δεδομένων εντείνει τον κίνδυνο θα προκληθεί «σημαντική» βλάβη εάν αυτά τα δεδομένα είναι επισφαλή. Συνεπώς, τα επισφαλή δεδομένα ενεργοποιούν τις κατάλληλες απαντήσεις σε ακατάλληλα δεδομένα, που μπορεί με την σειρά τους οι απαντήσεις να οδηγήσουν σε ζημιά παρόλο που το σύστημα ΤΝ είναι αυτό καθαυτό άψογο. Για τα έξυπνα συμβόλαια με ΤΝ γίνεται διάκριση σε τρία ήδη έξυπνων συμβολαίων με βάση το κριτήριο της αυτονομίας τους από τον ανθρώπινο παράγοντα. Τα τρία έξυπνα συμβόλαια με DLT είναι: α) Μη αυτόνομα συμβόλαια. Απαιτούν λειτουργικά την ανθρώπινη επέμβαση, δεν πρόκειται ουσιαστικά για συμβόλαια με ΤΝ, β) Τα αυτόνομα συμβόλαια. Δεν απαιτούν λειτουργικά την ανθρώπινη επέμβαση, αλλά κατά τη κατασκευή υπάρχει ανθρώπινη επέμβαση και διαθέτουν φορέα και γ) Τα πλήρως αυτόνομα συμβόλαια. Αυτά έχουν «κατασκευαστεί» από άλλα έξυπνα συμβόλαια και πιθανά να έχουν «φορέα» το ίδιο αυτόνομο συμβόλαιο ή ακόμα και ένα άλλο αυτόνομο έξυπνο συμβόλαιο, λχ DAOs. Και οι τρεις κατηγορίες έξυπνων συμβολαίων έχουν δύο ιδιαίτερα χαρακτηριστικά, είναι «αυτο-εκτελούμενα» και «αυτο-επιβαλλόμενα». Ωστόσο τα έξυπνα συμβόλαια με ΤΝ έχουν ένα τρίτο χαρακτηριστικό, είναι αυτόνομα.
ΙΙ. Η ζημία από αυτόνομα συστήματα σαν πρόκληση για το δίκαιο της ευθύνης
Α. Γενικά τα δύο είδη ευθύνης: Υποκειμενική Ευθύνη και η Αυστηρή Ευθύνη
Εισαγωγικά και επιγραμματικά η έννοια της ευθύνης, σε αφηρημένο επίπεδο, σχετίζεται τη ζημία ή απώλεια που έχει προκαλέσει κάποιο πρόσωπο (φυσικό ή νομικό). Το παραδοσιακό αστικό δίκαιο αναγνωρίζει δύο βασικά μοντέλα ευθύνης και τα οποία είναι σίγουρα η βάση για την αναζήτηση της ευθύνης για τα αυτόνομα συστήματα. Το πρώτο μοντέλο είναι αυτό της υποκειμενικής ευθύνης (fault based liability ή negligence ή subjective liability ή strict liability in the narrow sense) το οποίο είναι και το σύνηθες σε χώρες Γερμανικού-Ρωμαϊκού Αστικού Δικαίου, ενδεικτικά και για την Ελλάδα αναφέρεται το άρθρο 914 του ΑΚ περί αδικοπρακτικής ευθύνης. Στον αντίποδα του μοντέλου της υποκειμενικής ευθύνη βρίσκεται το δεύτερο μοντέλο «αυστηρής ευθύνης» (strict liability). Αυτό με τη σειρά του διακρίνεται από δύο υποείδη: α) το πρώτο υποείδος είναι αυτό της αντικειμενικής ευθύνης που αποδίδει την ευθύνη ως αποτέλεσμα του γεγονότος ότι έχει προκληθεί ζημία. Απαιτείται η μια συγκεκριμένη σφαίρα κινδύνου για την στοιχειοθέτηση της ευθύνης, λχ η οδήγηση οχήματος, η ιδιοκτησία κοκ και το στοιχείο της υπαιτιότητας είναι νομικά αδιάφορο για την θεμελίωσή της. Στο Ελληνικό Σύστημα Ευθύνης, η ευθύνη αυτή λέγεται γνήσια αντικειμενική ευθύνη και ενδεικτικά παραδείγματα είναι η ευθύνη από διακινδύνευση εκ μέρους του ιδιοκτήτη, του κατόχου και του οδηγού αυτοκινήτου για τις ζημίες που προκαλούνται σε τρίτους κατά τη λειτουργία του αυτοκινήτου κατά το άρθρο 1 του ΓϠN/1911. β) το δεύτερο
Σελ. 1038 υποείδος είναι αυτό της νόθου ή μη γνήσιας αντικειμενικής ευθύνης. Μη γνήσια ή νόθος αντικειμενική ευθύνη είναι ευθύνη όπου η υπαιτιότητα τεκμαίρεται, και ο εναγόμενος φέρει το βάρος απόδειξης της έλλειψης ευθύνης, υφίσταται δηλαδή αντιστροφή του βάρους απόδειξης.Στο Ελληνικό Σύστημα Ευθύνης, παραδείγματα είναι η ευθύνη του παραγωγού για τη ζημία που οφείλεται σε ελάττωμα του προϊόντος του, ως προς το ότι κατά τον χρόνο που το προϊόν ήταν στη σφαίρα επιρροής του δεν υπήρξε πλημμέλεια στην παραγωγή ή ανάλογα στη συντήρηση και διάθεση του προϊόντος ή ότι η τυχόν πλημμέλεια δεν οφείλεται σε υπαιτιότητά του ή σε υπαιτιότητα προσώπων για τα οποία ευθύνεται, η ευθύνη του παρόχου υπηρεσιών για τη ζημία που προκάλεσε υπαιτίως κατά την παροχή των υπηρεσιών, η ευθύνη από πρόκληση ηθικής βλάβης στο υποκείμενο των προσωπικών δεδομένων κατά παράβαση του Ν 2472/1997 και η ευθύνη από πρόκληση ηθικής βλάβης στο υποκείμενο των προσωπικών δεδομένων κατά παράβαση του ΓΚΠΔ. Β. Ένα παράδειγμα υφιστάμενης ευθύνης για την ζημιογόνο δράση των αυτόνομων συστημάτων στο Ελληνικό Σύστημα Ευθύνης: Η περίπτωση των αυτοοδηγούμενων οχημάτων
Το ζήτημα της ευθύνης των αυτόνομων οχημάτων φαίνεται ότι μπορεί να αποτελεί μια περίπτωση όπου η υφιστάμενη νομοθεσία ευθύνης αρκεί. Πρώτη, είναι η περίπτωση της αντικειμενικής ευθύνης ΓϠN/1911, η οποία και καλείται και ευθύνη από διακινδύνευση συνδέεται με την λειτουργία του αυτοκινήτου, ως πηγή κινδύνων. Η ύπαρξη του αυτοκινήτου δεν δημιουργεί κίνδυνο αλλά η ενεργοποίησή του αποτελεί. Η αντικειμενική ευθύνη απαιτεί τη σύνδεση προσώπου με το αυτοκίνητο. Διακρίνεται η νομική σχέση, που αφορά τον ιδιοκτήτη και η πραγματική σχέση, που αφορά τον κάτοχο και τον οδηγό. Ειδικά στο άρθρο 4 ορίζεται το βάρος ευθύνης του ιδιοκτήτη. Για την απόδειξη της κυριότητας απαιτείται τίτλος κυριότητας και τέτοιον αποτελεί η άδεια κυκλοφορίας που εκδίδεται από δημόσια, η οποία πιστοποιεί και εκδηλώνει αυτοτελή και αυθυπόστατη βούληση. Δεύτερη και με παρόμοια λογική είναι η περίπτωση του ΠΔ 237/1986, που αφορά την υποχρεωτική ασφάλιση οχημάτων. Εκ πρώτης όψεως, οι δύο ανωτέρω νομοθεσίες φαίνεται ότι καλύπτουν τα αυτόνομα οχήματα, καθότι αυτά δεν έχουν οδηγό ή κάτοχο αλλά σίγουρα έχουν ιδιοκτήτη. Πρόκειται για νομοθεσίες που εντάσσονται στο μοντέλο γνήσιας αντικειμενικής ευθύνης και στηρίζονται σε μια νομική βάση, την κυριότητα. Η υπαγωγή των ζημιογόνων πράξεων των αυτόνομων οχημάτων στα δύο εθνική νομοθετήματα όμως είναι καθαρά συγκυριακή και στερείται πραγματικής βάσης αλλά και αγνοεί την λογική της ΤΝ. Η πραγματική βάση είναι σε αρκετές περιπτώσεις διαφορετική, καθότι στη πράξη ποτέ τον πραγματικό έλεγχο του αυτο οδηγούμενου οχήματος τον έχει ο ιδιοκτήτης ή ο κατασκευαστής του οχήματος, αλλά το ίδιο το όχημα. Συνεπώς, προκύπτει ο προβληματισμός, για το κατά πόσο θα έπρεπε να γίνεται μια αλλαγή στο πεδίο ευθύνη του κατασκευαστή, με την εισαγωγή της γνήσιας αντικειμενικής ευθύνης και στον παραγωγό τέτοιων οχημάτων, με τον ίδιο τρόπο που ισχύει για τον ιδιοκτήτη; Η αλλαγή βέβαια από την ισχύουσα νόθο αντικειμενική ευθύνη στη γνήσια αντικειμενική ευθύνη ενός παραγω
Σελ. 1039 γού προϊόντος εγείρει ζητήματα. Αυτό δεν θα απαιτούσε μόνο αλλαγή του άρθρου 6 του Ν 2251/1994 αλλά και του Ενωσιακού Νομοθετικού Πλαισίου, της Οδηγίας 85/374/ΕΟΚ (PLD). Ειδικά, νομικά και επιχειρηματικά είναι κάπως σοκαριστικό να αναλάβει ένας κατασκευαστής ενός προϊόντος τον κίνδυνο μιας αντικειμενικής ευθύνης, ανυπολόγιστης σε έκταση, αλλά σε σχετικά πρόσφατη έρευνα της Γερμανικής Ένωσης Ψηφιακής Βιομηχανίας Bitkom, τα ευρήματα είναι αρκετά ενδιαφέροντα. Είναι ενδιαφέρον ότι το 73% των 1.006 ερωτηθέντων, ηλικίας 14 ετών και άνω, πίστευαν ότι οι κατασκευαστές οχημάτων 35% και οι πάροχοι λογισμικού 38% θα έπρεπε να είναι υπεύθυνοι, ενώ το 0% θεώρησε ότι ο εγγεγραμμένος κάτοχος θα έπρεπε να είναι υπεύθυνος. Εκτός αυτού, ακόμα και σε επίπεδο βιομηχανίας, από τις 177 εταιρείες στην αυτοκινητοβιομηχανία, μόνο το 12% υπέδειξε τον εγγεγραμμένο κάτοχο του οχήματος ως υπεύθυνο, ενώ ως υπεύθυνος έθεσαν του παρόχους λογισμικού κατά 41% και τους κατασκευαστές κατά 19%.
ΙΙΙ. Η ευθύνη για τα αυτόνομα συστήματα γενικά
Α. Η ευθύνη του φορέα (operator) του συστήματος με βάση το σύστημα ευθύνης κατόχου ζώου
Στις χώρες του Ρωμαϊκού Δικαίου, υπάρχει ένα σύστημα ευθύνης που θα μπορούσε κατά αρκετούς να είναι ένα μοντέλο για την ευθύνη του φορέα ενός αυτόνομου συστήμα και αυτό είναι το μοντέλο για την ευθύνης μιας αυτόνομης ύπαρξης, ενός ζώου. Στην Ελλάδα, το σύστημα εντοπίζεται εντός του ΑΚ. Κατά το άρθρο 924 ΑΚ «ο κάτοχος ζώου ευθύνεται για τη ζημία που προξενήθηκε από αυτό σε τρίτον (παρ. 1). Αν η ζημία έγινε από κατοικίδιο ζώο που χρησιμοποιείται για το επάγγελμα, τη φύλαξη της κατοικίας ή τη διατροφή του κατόχου του, αυτός δεν ευθύνεται αν αποδείξει ότι δεν τον βαρύνει κανένα πταίσμα ως προς τη φύλαξη και την εποπτεία του ζώου (παρ. 2)». Με τη πρώτη παράγραφο του άρθρου αυτού καθιερώνεται η αντικειμενική ευθύνη του κατόχου του ζώου για τη ζημία που έγινε από αυτό σε τρίτο, δηλαδή από μόνο το γεγονός της κατοχής του ζώου και ανεξάρτητα από οποιαδήποτε υπαιτιότητά του. Και τούτο γιατί ο κάτοχος που έχει τα ωφελήματα από το ζώο πρέπει να φέρει και τον κίνδυνο κάθε ζημίας που προξενείται από αυτό. Αντίθετα, προκειμένου για κατοικίδιο ζώο, θεσπίζεται με τη δεύτερη παράγραφο του ίδιου άρθρου η νόθος αντικειμενική ευθύνη του κατόχου ζώου, στηριζόμενη σε εικαζόμενο πταίσμα αυτού για τη φύλαξη και εποπτεία του ζώου. Η βάση της ρύθμισης του 924 ΑΚ, στηρίζεται στον Γερμανικό BGB στο § 833.
Από το σύστημα ευθύνης κατόχου ζώου προκύπτουν κάποια αφηρημένα συμπεράσματα: α) πρώτο συμπέρασμα η ύπαρξη δύο κριτηρίων για τη διαφοροποίηση του πλαισίου ευθύνης, πρώτο κριτήριο είναι ο βαθμός κινδύνου της αυτόνομης ύπαρξης, καθότι αναγνωρίζεται ότι το κατοικίδιο ζώο είναι λιγότερο επισφαλές από ότι ένα μη κατοικίδιο ζώο και δεύτερο κριτήριο είναι αυτό του δημοσίου ενδιαφέροντος, καθότι η έννοια το άγριου ζώου δεν περιλαμβάνει τα ζώα που χρησιμοποιούνται για επάγγελμα και με τον τρόπο αυτό αποδεικνύεται η πρόνοια του Κράτους να περιορίσει την ευθύνη των γεωργών και κτηνοτρόφων - που εμφανώς υιοθετήθηκε από τον συντάκτη του ΑΚ κατά τα Γερμανικά πρότυπα. β) δεύτερο συμπέρασμα είναι ότι η αρχή νομοθέτησης πίσω από τους κανόνες ευθύνης αυτόνομων υπάρξεων είναι η αντικειμενική ευθύνη, όπως το άρθρο 924 ΑΚ προκρίνει τη καθιέρωση ενός ειδικού καθεστώτος ευθύνης για τις ενέργειες εκείνων είναι κάτοχοι ανεξάρτητων όντων, των οποίων οι ενέργειες δεν είναι ούτε απολύτως προβλέψιμες ούτε και ελεγχόμενες ενέργειες, αλλιώς θα προκρινόταν το μοντέλο της υποκειμενικής ευθύνης. γ) τρίτο συμπέρασμα είναι απόβλεπτά και ανεξέλεγτα γεγονότα δεν μπορούν να αποφευχθούν - έστω και αν καταβάλλεται εύλογη προσπάθεια. Εφόσον δεν υπάρχει πρόκριση δημόσιου ενδιαφέροντος, τα όποια μέτρα πρόληψης δεν αναιρούν την ευθύνη, λχ το 924 παρ. 1 ΑΚ. δ) τέταρτο συμπέρασμα είναι ότι και τα δύο υποδείδη της αυστηρής ευθύνης συνδυαζόνται. Τα ανωτέρω συμπεράσματα θα μπορούσαν να είναι χρήσιμα για τη καθιέρωση της ευθύνης του φορέα της ΤΝ.
Β. Η ευθύνη του φορέα στο υπό κατασκευή Ενωσιακό Πλέγμα Ευθύνης για την ΤΝ
Υποστηρίζεται ότι ένας από τους βασικούς αποδέκτες της ευθύνης είναι αυτός που αφορά τον φορέα του συστήματος (Operator Liability for Autonomous System). Στην έννοια του φορέα εντάσσονται συνήθως, ο πάροχος (provider), ο χρήστης (user), ο εξουσιοδοτημένος αντιπρόσωπος (authorised representative), ο εισαγωγέας (importer) και ο διανομέας (distributor), όχι όμως ο κατασκευαστής. Σε Ενωσιακό Επίπεδο με την έκθεση της Ομάδας Ειδικών έχει κατατεθεί πρόταση για εισαγωγή συστήματος αυστηρής ευθύνης για τον φορέα των αυτόνομων.
Σελ. 1040 Κατά τη συγγραφή του παρόντος και ενώ μερικές ημέρες πριν υοθετήθηκε από το Ευρωπαϊκή Κοινοβούλιο η τροποποίηση της πρότασης για τον Κανονισμό TN, υφίσταται μια ευρύτερη πρόταση κανονιστικού πλαισίου για την τεχνητή νοημοσύνη (AI Act, αλλαγή της PLD και AI Liability Directive). Στην πρώτη έκδοση της Πρότασης Κανονισμού για τη περίπτωση της τεχνητής νοημοσύνης υψηλού κινδύνου προκρινόταν το μοντέλο της αυστηρής ευθύνης του φορέα. Βέβαια το μοντέλο αυτό θα ήταν συγκεκριμένο κατά τη παράγραφο 2 και θα αφορούσε τις εφαρμογές της τεχνητής νοημοσύνης που θα καταγράφονται στο Παράρτημα του Κανονισμού. Για την περίπτωση της τεχνητής, η αρχική μορφή της πρότασης, κατά το άρθρο 8, πρόκρινε ένα σύστημα υποκειμενικής ευθύνης με αντιστροφή του βάρους απόδειξης. Ωστόσο, το αρχικό πλάνο της Πρότασης εγκαταλείφθηκε με την εισαγωγή πρότασης Οδηγίας ειδικά για το ζήτημα της ευθύνης από την TN (AILD), το 2022, η οποία και φιλοδοξεί -μεταξύ άλλων- να εναρμονίσει τη μη συμβατική ευθύνη από ζημίες από TN και να αναθεωρήσει την Οδηγία για Ελαττωματικά Προϊόντα (PLD). Ουσιαστικά η ευθύνη πλέον θα καθοριστεί από τον Κανονισμό TN, την ΑΙLD και την PLD. Η AILD προκρίνει για την ώρα μοντέλο υποκειμενικής ευθύνης του φορέα, θεσπίζοντας ιδιαίτερο καθήκον στον φορέα και υπαναχωρώντας από την επιλογή της PLD να ενισχύει τους «καταναλωτές» αποδέκτες των προϊόντων. Η Οδηγία προσπαθεί να μετριάσει εντυπώσεις από την «υποχώρηση» με την εισαγωγή του «τεκμηρίου αιτιότητας» (causality) το οποίο αποσκοπεί στο να αμβλύνει τις δυσκολίες των θυμάτων, όταν καλούνται να εξηγήσουν λεπτομερώς το τρόπο που προκλήθηκε η ζημία από ένα σύστημα ΑΙ. Επιπλέον τα θύματα θα έχουν περισσότερα νομικά εργαλεία καθώς καθιερώνεται δικαίωμα πρόσβασης σε αποδεικτικά στοιχεία εταιρειών και παρόχων, σε περιπτώσεις στις οποίες εμπλέκεται σύστημα TN υψηλού κινδύνου, γεγονός που θα επιτρέψει στα θύματα να εντοπίσουν το πρόσωπο που θα μπορούσε να θεωρηθεί υπεύθυνο και να μάθουν το λάθος που συνέβη.
Κατά τη σκέψη 15 της Οδηγίας βέβαια, πεδίο εφαρμογής είναι τα αυτόνομα συστήματα, δηλαδή συστήματα που δεν υπάρχει πουθενά στην αλυσίδα λειτουργία τους ανθρώπινος παράγοντας. Αυτο σημαίνει ότι αυτόνομα έξυπνα συμβόλαια με ΤΝ θα υπάγονται στο πεδίο εφαρμογής. Όμως στη περίπτωση αυτή επειδή ο φορέας και ο κατασκευαστής δύναται να είναι ένα άλλο έξυπνο συμβόλαιο, πρακτικά οι όποιες ρυθμίσεις θα είναι ανεφάρμοστες και οι χρήστες των πλήρως αυτόνομων συμβολαίων είναι σε ανασφάλεια δικαίου, αποδεχόμενοι τον όποιον κίνδυνο.
IV. Η ευθύνη για τα ζημιογόνα έξυπνα συμβόλαια
Συμφωνώντας με την αξιωματική ρήση του DiMatteo, τα έξυπνα συμβόλαια δεν υπερτερούν του νόμου. Ωστόσο, μπορούν να αποτυπώνουν μια πραγματικότητα που μπορεί να αδιαφορεί για έως και να προσπερνά το νόμο. Συνεπώς, ακόμα και με το υφιστάμενο δίκαιο πράγματι ένα αυτόνομο έξυπνο συμβόλαιο μπορεί να συνάπτε
Σελ. 1041ται, εκτελείται, αναθεωρείται κατά την εκτέλεση πιθανά και εφόσον το επιτρέπει ο αλγόριθμος και να αυτο επιβάλλεται, δίχως ποτέ να γίνει αντικείμενο είτε δικαστικού ελέγχου είτε ακόμα και νομικού ελέγχου, πριν την «υπογραφή» του από τα μέρη.
Α. Η ευθύνη για τα μη αυτόνομα έξυπνα συμβόλαια
Ουσιαστικά στη περίπτωση αυτή η ευθύνη στα έξυπνα συμβόλαια εξαρτάται από τον ανθρώπινο παράγοντα, δεν υπάρχει εμπλοκή της ΤΝ. Άρα μπορεί να είναι οποιαδήποτε «παραδοσιακή» ευθύνη. Μια τέτοια μορφή είναι η συμβατική ευθύνη. Η ευθύνη μπορεί να έχει τέσσερις βάσεις: α) Το συμβόλαιο σαν λογισμικό είναι προϊόν, β) Το συμβόλαιο σαν λογισμικό είναι υπηρεσία, γ) Το συμβόλαιο σαν λογισμικό ανάλογα με τον σκοπό χρήσης του μπορεί να εμπίπτει σε ειδικότερα νομοθετικά πλαίσια, λχ. να είναι σύμβαση ανοίγματος καταθέσεων τύπου Wallet, την προστασία των χρηστών που είναι καταναλωτές και προστατεύονται κατά τον τρόπο αυτό και δ) Το συμβόλαιο μπορεί να είναι παράνομο στους όρους του και να αντιτίθεται σε ειδικότερες αναγκαστικές διατάξεις, λχ παραβίαση του επιτοκίου, να είναι αντίθετο σε ρήτρες δικαίου, λχ τα χρηστά ήθη και τα συναλλακτικά ήθη ή ακόμα να αντιτίθεται σε κανόνες δημόσιας τάξης, λχ όρος που ορίζει ως κρυπτονόμισμα το μέσο πληρωμής σε έννομη τάξη που δεν τα αναγνωρίζει σαν νόμιμο μέσο πληρωμής.
Β. Η ευθύνη για τα αυτόνομα έξυπνα συμβόλαια
Ωστόσο, τα έξυπνα συμβόλαια είναι αυτόνομα, αλλά έχουν και πάλι κατασκευαστεί από ανθρώπινο παράγοντα και έχουν φορέα που είναι ανιχνεύσιμος και με νομική προσωπικότητα. Και σε κάθε περίπτωση υπό το πρίσμα του υπό κατασκευή Ενωσιακού πλαισίου για την ΑΙ, εντάσσονται στο πεδίο ορισμού αυτής, άρα θα τεθούν πρότυποι κανόνες για την εναρμόνιση της νομοθεσίας των Κρατών-Μελών. Συνεπώς εδώ ένα νομικό πλέγμα της ευθύνης, παρόμοιας λογικής με τα δύο νομοθετήματα τον ΓϠN/1911 και το ΠΔ 237/1986 μπορεί να δημιουργηθεί, όπως άλλωστε και με το σύστημα ευθύνης κατόχου ζώου.
Γ. Τα πλήρως αυτόνομα έξυπνα συμβόλαια
Τα πλήρως αυτόνομα έξυπνα συμβόλαια έχουν δημιουργεί από έτερα έξυπνα συμβόλαια, συνήθως μέσω ενός αυτόνομου αποκεντρωμένου οργανισμού (Decentralized Autonomous Organization - DAO). Εκτός όμως από την δημιουργία τους ακόμα και ο φορέας τους είναι ένα άλλο αυτόνομο έξυπνο συμβόλαιο. Συνεπώς, ο όποιος συναλλασσόμενος που επιλέγει ένα αυτόνομο έξυπνο συμβόλαιο εντός πλαισίου ενός αυτόνομου αποκεντρωμένου οργανισμού - και σε κάθε περίπτωση μπορεί να είναι άγνωστο ή δύσκολα αντιληπτό στον συναλλασσόμενο εάν ο «φορέας» του αυτόνομου συμβολαίου που επίλεξε έχει νομική προσωπικότητα ή είναι λογισμικό - είναι σαφές ότι θα αντιμετωπίσει σημαντικούς κινδύνους. Εδώ υφίσταται κίνδυνος για μια τρομακτική πληροφοριακή ασυμμετρία σε επίπεδα καταληψιμότητας και λογοδοσίας. Επομένως, για τη περίπτωση των πλήρως αυτόνομων έξυπνων συμβολαίων υπάρχουν δύο επιλογές. Η πρώτη επιλογή είναι η καθολική απαγόρευση των αυτόνομων έξυπνων συμβολαίων εντός πλαισίου ενός αυτόνομου αποκεντρωμένου οργανισμού, δηλαδή ουσιαστικά η απαγόρευση των DAOs. Αυτή η επιλογή είναι αρκετά αυστηρή και σίγουρα θα οδηγήσει στη δημιουργία σκιώδους αγοράς, δημιουργώντας επιπλέον ζητήματα. Η δεύτερη επιλογή είναι αυτής της επιβολής ιδιαίτερων κανόνων διαφάνειας στους όρους συναλλαγών. Η επιλογή της υποχρεωτικότητας της «Εξηγήσιμης ΤΝ» στον αλγόριθμο είναι μια επιλογή, η οποία θα έλυνε σε αρκετές περιπτώσεις τα ζητήματα καταληψιμότητας και λογοδοσίας. Η επιλογή αυτή είναι ένας πληροφοριακός νυγμός.Διότι οι DAOs που είναι «φορείς» πλήρως έξυπνων συμβολαίων, ανήκουν σε πρόσωπα, νομικά ή φυσικά. Η επιβολή κανόνων πληροφόρησης που να παραπέμπουν πέρα από το πλήρως αυτόνομο έξυπνο συμβόλαιο και στο DAO, προς το κοινό, στη λογική της πληροφόρησης ενωσιακών νομοθεσιών λχ για τη κατασκευή και προέλευση επενδυτικών προϊόντων. Τα μη συμμορφούμενα DAO και πλήρως αυτόνομα συμβόλαια θα μπορούσαν να είναι παράνομα και εκτός αγοράς. Η τρίτη επιλογή, η οποία ξεπερνά την σύγχρονη αντιμετώπιση είναι η θέσπιση μιας τρίτης μορφής νομικής προσωπικότητας, της ηλεκτρονικής προσωπικότητας.
V. Αντί επιλόγου
Σελ. 1042Η ίδια η Ενωσιακή προσπάθεια αναδεικνύει ότι για τα εθνικά πλαίσια ευθύνης είναι μη αποτελεσματικά και απειλούν την ενιαία αγορά. Η αναθεώρηση του εθνικού πλαισίου όπου απαιτείται και η εισαγωγή νομοθεσίας ελάχιστης εναρμόνισης είναι σίγουρα μια δίοδος αλλά αυτή θα πρέπει να συμβεί, δεδομένων των νέων συνθηκών που ήδη εμφανίζονται στις συναλλαγές. Συνεπώς, για τη θέσπιση κανόνων θα πρέπει να λαμβάνονται υπόψη τρια στοιχεία
Το πρώτο σημείο αφορά τη περίπτωση επιλογής μοντέλου υποκειμενικής ευθύνης. Πρέπει να υπάρξει μια ευθυγράμμιση των περιπτώσεων που το ζημιογόνο γεγονός είναι προϊόν ανθρώπινη διάνοιας ή ενός έξυπνου συμβολαίου στηριζόμενο στη ΤΝ. Η διαφορετική αντιμετώπιση μιας «απόφασης» που βλάπτει κάποιο πρόσωπο, ανάλογα με το αν η «απόφαση» είναι προϊόν ανθρώπου ή ΤΝ είναι μια «ανώμαλη» και αναποτελεσματική κατάσταση, vise versa. Το δεύτερο σημείο είναι η αποτελεσματική στάθμιση των αντικρουόμενων συμφερόντων και η αποτελεσματική επιλογή του σπουδαιότερου κατά την επιλογή είτε της υποκειμενικής ευθύνης είτε της αυστηρής ευθύνης. Στο κλασικό παράδειγμα της αδικοπραξίας από τη μια πλευρά κατά τη στάθμιση είναι ανάλογα η σωματική βλάβη, η ηθική βλάβη, η ψυχική οδύνη, η περιουσιακή βλάβη και από την άλλη πλευρά η οικονομική βλάβη. Διαφορετική μεταχείριση για την ΤΝ που «αδικοπρακτεί», εφόσον η ΤΝ αναγνωριζόταν σαν ένα τρίτο είδος νομικής προσωπικότητας δεν είχε δικαιολογία. Ωστόσο και για την ώρα επειδή η ΤΝ αναγνωρίζεται σαν προϊόν ή υπηρεσία, στη στάθμιση θα πρέπει να μπουν από την μια πλευρά η αγορά σαν ολότητα και από την άλλη ο καταναλωτής και ο επαγγελματίας αποδέκτης, όπως ακριβώς ισχύει με την PLD. Το τρίτο στοιχείο είναι η υποχρεωτικότητα των πρωτοκόλλων και μεθόδων ΧΑΙ εντός του αυτόνομου έξυπνου συμβολαίου. Ειδικά για τη περίπτωση των πλήρως αυτόνομων έξυπνων συμβολαίων η υποχρεωτητα της «Εξηγήσιμης ΤΝ» θα πρέπει να είναι πιθανά μονόδρομος τόσο για την ολότητα της αγοράς όσο και για τη προστασία των καταναλωτών. Το τέταρτο στοιχείο είναι να υπάρχει αποζημίωση για τρίτους που βλάπτονται και είναι ευάλωτοι απέναντι στο κίνδυνο, μη αντιλαμβανόμενοι την ΤΝ και τους κινδύνους.