Κείμενο
1. Πρόλογος
Την τελευταία δεκαετία διανύουμε μία εποχή ραγδαίας τεχνολογικής ανάπτυξης στον τομέα της Τεχνητής Νοημοσύνης (εφεξής ΤΝ). Συστήματα ΤΝ επιστρατεύονται ευρέως από δημόσιους και ιδιωτικούς φορείς προκειμένου να αυτοματοποιήσουν διαδικασίες και να συνδράμουν στη λήψη αποφάσεων σε νευραλγικούς τομείς της κοινωνίας και της οικονομίας, από την πρόσβαση στην ιατρική περίθαλψη, την εκπαίδευση και την πίστωση έως την αστυνόμευση, την έκδοση διοικητικών αποφάσεων και τη δικαστική πρακτική.
O χώρος της εργασίας μάλιστα, συμπεριλαμβανομένου του πεδίου διαχείρισης ανθρωπίνου δυναμικού, έχει ήδη αναδειχθεί σε χώρο ιδιαίτερα προσφιλή στην υιοθέτηση συστημάτων ΤΝ, με εργοδότριες εταιρίες να βασίζονται όλο και περισσότερο σε αλγοριθμικά συστήματα για να αποφασίσουν το άτομο που θα κληθεί σε συνέντευξη, θα προσληφθεί, θα πάρει προαγωγή ή και θα απολυθεί. Η αυτοματοποίηση
Σελ. 1126της διαδικασίας προσλήψεων μέσω της χρήσης αλγοριθμικών συστημάτων που συνδράμουν στη στρατολόγηση προσωπικού (AI-recruiting), όπως για παράδειγμα λογισμικών διαλογής βιογραφικών σημειωμάτων ή λογισμικών ανάλυσης συνεντεύξεων των υποψηφίων μέσω λήψης βίντεο ή ήχου1126 , φαίνεται να αποτελεί ήδη μία ιδιαίτερα σημαντική τάση αλλά και πρόκληση στο χώρο διαχείρισης ανθρωπίνου δυναμικού.
Παρά το κύμα αισιοδοξίας που πυροδότησε αρχικά η τάση αυτή, πλήθος εμπειρικών παραδειγμάτων αλλά και εντατική επιστημονική έρευνα ήρθαν σύντομα να αναδείξουν τη δυνατότητα εμφιλοχώρησης μεροληψίας και προκαταλήψεων σε σύγχρονα αλγοριθμικά συστήματα (algorithmic bias) και τον συνεπαγόμενο κίνδυνο αλγοριθμικής διαιώνισης διακρίσεων σε βάρος ορισμένων πληθυσμιακών ομάδων.
Οι αιτίες ή αλλιώς οι πηγές αλγοριθμικής εισαγωγής προκαταλήψεων έχουν κατηγοριοποιηθεί ποικιλοτρόπως στη διεθνή βιβλιογραφία, με αυτές να μπορούν σε πολύ γενικές γραμμές να συνοψισθούν στην ποιότητα των επιλεχθέντων δεδομένων εκπαίδευσης/training data (πρβλ. λανθασμένα, ελλιπή ή μη αντιπροσωπευτικά δεδομένα εκπαίδευσης καθώς και δεδομένα που ως απότοκα κοινωνικής συμπεριφοράς ενσαρκώνουν προϋφιστάμενες πρακτικές διακρίσεων), στο χειρισμό της επιλεχθείσας βάσης δεδομένων (πρβλ. επισήμανση, καθαρισμός, εμπλουτισμός, ομαδοποίηση των δεδομένων) αλλά και το συνολικό σχεδιασμό του αλγοριθμικού μοντέλου (πρβλ. οριοθέτηση του προς λύση προβλήματος, αξιολόγηση επίδοσης και επικύρωση αλγοριθμικού μοντέλου).
Σε συνδυασμό με την αδιαφάνεια, την πολυπλοκότητα αλλά και την εν γένει λειτουργία των συστημάτων ΤΝ οι παραπάνω πηγές δημιουργούν νέες προκλήσεις για την εφαρμογή της νομοθεσίας κατά των διακρίσεων και τοποθετούν την επίτευξη της «αλγοριθμικής ισότητας» (algorithmic fairness) στο επίκεντρο της διεθνούς επιστημονικής έρευνας αλλά και της ενωσιακής πολιτικής, με τον τομέα της απασχόλησης να αξιολογείται μάλιστα ως τομέας υψηλού κινδύνου από τον προτεινόμενο Κανονισμό για την ΤΝ και να απολαμβάνει αυξημένες εγγυήσεις προστασίας.
Αυτόν ακριβώς τον κίνδυνο διακρίσεων ως αποτέλεσμα της χρήσης συστημάτων ΤΝ κατά τη λήψη αποφάσεων στο πεδίο της εργασίας [ΑΙ-based decision making/ Algorithmic Decision Systems (ADS)] και συγκεκριμένα
Σελ. 1127κατά το προσυμβατικό στάδιο σύναψης της σύμβασης εργασίας, αλλά και τις συνεπαγόμενες προκλήσεις για το εθνικό δίκαιο απαγόρευσης των διακρίσεων επιδιώκει να φωτίσει η παρούσα μελέτη μέσα από μια ταυτόχρονη εξέταση και ερμηνεία της σχετικής εθνικής και ενωσιακής νομοθεσίας.
2. Αλγοριθμικές προκαταλήψεις και δίκαιο απαγόρευσης διακρίσεων
2.1 Πεδίο εφαρμογής
Τόσο οι ενωσιακές οδηγίες που αφορούν την καταπολέμηση των διακρίσεων στο πεδίο της εργασίας όσο και τα εθνικά νομοθετήματα που τις ενσωματώνουν στο ελληνικό δίκαιο προβλέπουν ρητώς ότι το πεδίο εφαρμογής τους καταλαμβάνει την απαγόρευση διακρίσεων ήδη κατά το προσυμβατικό στάδιο και αφορούν κάθε άτομο που επιδιώκει να προσληφθεί σε μια θέση εργασίας αναφορικά με τα κριτήρια επιλογής και τους όρους πρόσληψής του στη θέση αυτή. Σε αυτό το στάδιο περιλαμβάνεται ολόκληρο το φάσμα προπαρασκευαστικών ενεργειών που μεσολαβούν μέχρι τη σύναψη της σύμβασης εργασίας και ευρύτερα μέχρι την είσοδο στην απασχόληση. Συγκεκριμένα, κατά το γράμμα των σχετικών διατάξεων το πεδίο εφαρμογής τους καταλαμβάνει, μεταξύ άλλων, «τους όρους πρόσβασης στην εργασία και την απασχόληση εν γένει, συμπεριλαμβανομένων των κριτηρίων επιλογής και των όρων πρόσληψης...».
Καθώς, λοιπόν, τα αλγοριθμικά συστήματα που χρησιμοποιούνται κατά τη διαδικασία πρόσληψης επηρεάζουν ή και καθορίζουν τα κριτήρια επιλογής των προς πρόσληψη εργαζομένων και κατ’ επέκταση τους όρους πρόσβασής τους στην εργασία, εντάσσονται χωρίς ιδιαίτερη δογματική δυσκολία στο καθ’ ύλην πεδίο εφαρμογής των σχετικών νομοθετημάτων.
Το ΔΕΕ μάλιστα ερμηνεύει παγίως με ιδιαίτερη ευρύτητα την έννοια της πρόσβασης στην εργασία, εντάσσοντας σε αυτήν ένα ευρύ φάσμα ενεργειών, στο οποίο δεν εμπίπτει μόνο η ίδια η διαδικασία επιλογής αλλά και προκαταρκτικές αυτής ενέργειες, όπως η αποθάρρυνση της εκδήλωσης ενδιαφέροντος για σύναψη της σύμβασης εργασίας, η ανακοίνωση της πρόσκλησης ή πρότασης αυτής, η δημιουργία μηχανισμού υποδοχής των αιτήσεων των υποψηφίων αλλά και η διαδικασία per se, λ.χ. η διενέργεια διαγωνισμού. Ενόψει των παραπάνω αλλά και του σκοπού των σχετικών οδηγιών, ο οποίος έγκειται σύμφωνα με τις αιτιολογικές σκέψεις στη «δημιουργία των προϋποθέσεων για μια αγορά εργασίας που ευνοεί την κοινωνική ένταξη», ακόμη και η ίδια η προπαρασκευαστική ενέργεια της εγκατάστασης και αξιοποίησης αυτοματοποιημένων συστημάτων για τη διαδικασία προσλήψεων δύναται υπό προϋποθέσεις να ενεργοποιήσει τους προστατευτικούς κανόνες.
Σε κάθε περίπτωση τα σχετικά νομοθετήματα δεν αποκλείουν συστήματα αλγοριθμικής λήψης αποφάσεων από το προστατευτικό τους πεδίο. Μπορεί βέβαια ο ιστορικός νομοθέτης να είχε αποκλειστικά υπόψη του τον ανθρώπινο παράγοντα ως φορέα καθορισμού των κριτηρίων πρόσληψης και των όρων πρόσβασης στην εργασία, οι σχετικές διατάξεις είναι ωστόσο διατυπωμένες κατά τρόπο τεχνολογικά ουδέτερο. Το πεδίο εφαρμογής των Οδηγιών καθορίζεται βάσει ρητά προβλεπόμενων τομέων, οι οποίοι και προστατεύονται από τις σχετικές διατάξεις (λ.χ. απασχόληση, κοινωνική ασφάλιση, πρόσβαση σε αγαθά και υπηρεσίες), και ρητά προστατευόμενων γνωρισμάτων (λ.χ. φύλο, αναπηρία, εθνική/εθνοτική καταγωγή), και όχι με άξονα τα εκάστοτε μέσα τέλεσης της διακριτικής μεταχείρισης.
Σελ. 11282.2 Μορφές διακρίσεων
Για να εξασφαλίσουν την παροχή αποτελεσματικής έννομης προστασίας έναντι των διακρίσεων οι ενωσιακές Οδηγίες και τα προς εναρμόνιση εθνικά νομοθετήματα αναγνωρίζουν - και συγχρόνως απαγορεύουν- δύο βασικές μορφές διάκρισης, την άμεση και την έμμεση διάκριση. Η αναγνώριση των δύο αυτών μορφών διακριτικής μεταχείρισης αποκτά μεγάλη πρακτική σημασία και στην περίπτωση της αλγοριθμικής εισαγωγής διακρίσεων.
α) Άμεση διάκριση
Αρχικά, σύμφωνα με τον πανομοιότυπο ορισμό των ευρωπαϊκών Οδηγιών και των εθνικών νομοθετημάτων, άμεση διάκριση συντρέχει, όταν ένα πρόσωπο υφίσταται λιγότερο ευνοϊκή μεταχείριση από αυτή την οποία υφίσταται, υπέστη ή θα υφίστατο ένα άλλο πρόσωπο σε ανάλογη κατάσταση για λόγους που ανάγονται σε ένα από τα προστατευόμενα από τα ως άνω νομοθετήματα χαρακτηριστικά γνωρίσματα (πρβλ. φύλο, φυλετική ή εθνοτική καταγωγή, θρησκευτικές ή άλλες πεποιθήσεις, αναπηρία, ηλικία, σεξουαλικός προσανατολισμός).
Κατά την κρατούσα στη διεθνή βιβλιογραφία άποψη, η άμεση διάκριση δεν φαίνεται να αναπτύσσει ιδιαίτερο πεδίο εφαρμογής στα πλαίσια της αλγοριθμικής εισαγωγής διακρίσεων. Οι λόγοι σχετίζονται αφενός με τις αποδεικτικές δυσκολίες που παρουσιάζει εν γένει ο θεσμός της άμεσης διάκρισης και αφετέρου με τις ιδιαιτερότητες των αλγοριθμικών συστημάτων.
Πιο συγκεκριμένα, όπως προκύπτει από τον ως άνω ορισμό, για την διαπίστωσή της άμεσης διάκρισης απαιτείται μια λιγότερο ευνοϊκή μεταχείριση, οφειλόμενη σε έναν από τους λόγους που δεν επιτρέπεται να αποτελέσουν κριτήριο διάκρισης. Προϋπόθεση λοιπόν της άμεσης διάκρισης αποτελεί η ύπαρξη ενός αιτιώδους συνδέσμου μεταξύ της λιγότερο ευνοϊκής μεταχείρισης και του προστατευόμενου γνωρίσματος.
Την ύπαρξη ενός τέτοιου απαιτούμενου αιτιώδους συνδέσμου και συνεπώς μιας άμεσης διάκρισης θα μπορούσαμε να φανταστούμε στην περίπτωση που κάποιο προστατευόμενο γνώρισμα (πρβλ. φύλο) έχει χρησιμοποιηθεί ως μεταβλητή εισόδου (input variable) στο στάδιο της εκπαίδευσης του αλγοριθμικού μοντέλου και επιδρά τελικά στην εξαγωγή του συγκεκριμένου αποτελέσματος.
Ωστόσο, πέρα από το γεγονός ότι κάτι τέτοιο θα αποτελεί μάλλον την εξαίρεση στην πράξη, καθώς, όπως υποστηρίζεται, τα προστατευόμενα γνωρίσματα τις περισσότερες φορές εξαιρούνται από το σύνολο διαθέσιμων μεταβλητών, η απόδειξη ενός τέτοιου αιτιώδους συνδέσμου θα είναι σε κάθε περίπτωση ιδιαίτερα περίπλοκη ή και αδύνατη ενόψει της πολυπλοκότητας, αδιαφάνειας και μη επεξηγησιμότητας των συστημάτων ΤΝ. Περίπλοκα αλγοριθμικά συστήματα λειτουργούν συχνά ως μαύρα κουτιά (black box), υπό την έννοια ότι οι εσωτερικές τους διεργασίες δεν μπορούν να γίνουν αντιληπτές και να ερμηνευτούν ακόμη και από τις/τους ειδήμονες, πόσο μάλλον από το μέσο άνθρωπο. Το γεγονός αυτό, ενόψει μάλιστα και δικαιωμάτων πνευματικής ιδιοκτησίας και εμπορικών απορρήτων που απαντώνται σε αλγοριθμικά μοντέλα, εμποδίζοντας την πρόσβαση σε σχετικές πληροφορίες, καθιστά την ιχνηλάτηση της συγκεκριμένης αιτίας ενός διακριτικού αποτελέσματος σε μία δεδομένη χρονική στιγμή ένα ιδιαίτερα δύσκολο έργο.
Οι αποδεικτικές δυσχέρειες αποτελούν βέβαια εγγενή πρόκληση για τη διασφάλιση αποτελεσματικής προστασίας των θυμάτων διακριτικής μεταχείρισης, ανεξαρτήτως της χρήσης ή μη αλγοριθμικών συστημάτων, καθώς η απόδειξη της διάκρισης από το φερόμενο ως θύμα προϋποθέτει την πρόσβαση σε στοιχεία που βρίσκονται
Σελ. 1129 στη σφαίρα επιρροής της εναγόμενης εργοδοσίας. Οι προκλήσεις αυτές οδήγησαν τον ενωσιακό και εθνικό νομοθέτη να αποκλίνει από το γενικότερο δικονομικό κανόνα και να μεταθέσει μερικά το βάρος απόδειξης στην εργοδοσία, διευκολύνοντας έτσι δικονομικά τη θέση του θύματος. Σύμφωνα με τη δικονομική αυτή διευκόλυνση, η ενάγουσα οφείλει να προσκομίσει στοιχεία από τα οποία «να πιθανολογείται» (κατ’ άλλη διατύπωση: «να μπορεί να συναχθεί») η ύπαρξη διάκρισης λόγω ενός προστατευόμενου γνωρίσματος οπότε και το βάρος απόδειξης μεταφέρεται στην εναγομένη. Η τελευταία οφείλει να αποδείξει παρέχοντας πλήρη δικανική πεποίθηση ότι δεν υπήρξε παράβαση της αρχής ίσης μεταχείρισης.
Ωστόσο, ακόμη κι αυτή η δικονομική διευκόλυνση δεν φαίνεται ικανή να άρει τις αποδεικτικές δυσχέρειες στα πλαίσια μιας αλγοριθμικής διάκρισης, καθώς ακόμη και η εισφορά πραγματικών στοιχείων (ενδείξεων), από τα οποία να μπορεί να συναχθεί η αντικειμενική αιτιότητα της διάκρισης παραμένει ιδιαίτερα δυσχερής ενόψει της μη πρόσβασης του θύματος στο αλγοριθμικό μοντέλο και της συνεπαγόμενης άγνοιάς του, μεταξύ άλλων, αναφορικά με τις μεταβλητές που αξιοποιήθηκαν. Η χρήση από την εργοδοσία συστημάτων χωρίς πιστοποίηση, η μη εφαρμογή κατάλληλων πρακτικών εξάλειψης ή ελαχιστοποίησης αλγοριθμικών προκαταλήψεων (debiasing/bias correction/bias mitigation), η μη τήρηση σχετικών αρχείων ή η άρνηση παροχής πρόσβασης σε αυτά ενδεχομένως να αποκτήσουν ενδιαφέρον μελλοντικά ως ενδείξεις για την ύπαρξη διάκρισης λόγω ενός προστατευόμενου γνωρίσματος.
Σε κάθε περίπτωση, η τοποθέτηση της αιτιώδους σχέσης στο επίκεντρο του θεσμού της άμεσης διάκρισης φαίνεται να την απομακρύνει από την περίπτωση των αλγοριθμικών διακρίσεων. Όπως έχει επισημανθεί, ο εντοπισμός της αιτιώδους συνάφειας παρουσιάζει ιδιαίτερα προβλήματα λόγω του τρόπου λειτουργίας των αλγορίθμων μηχανικής μάθησης και των τεχνικών εξόρυξης και ανάλυσης δεδομένων, οι οποίοι εντοπίζουν στατιστικές σχέσεις μεταξύ μεταβλητών σε διαθέσιμα δεδομένα, χωρίς να ενδιαφέρονται για το λόγο ύπαρξης αυτών. Ως αποτέλεσμα οι εντοπισθέντες αξιοποιούμενοι συσχετισμοί σπάνια θα αντανακλούν αιτιακές σχέσεις, όπως τις αντιλαμβάνεται ο κοινός νομικός νους, ή συχνά θα προσκρούουν ως τέτοιες σε φραγμούς της ανθρώπινης λογικής και ηθικής.
Είναι σημαντικό να σημειωθεί ότι για τη θεμελίωση οποιαδήποτε μορφής διάκρισης σύμφωνα με την ευρωπαϊκή νομοθεσία δεν απαιτείται η ύπαρξη υπαιτιότητας. Η πρόβλεψη αυτή έχει ιδιαίτερη σημασία στο πλαίσιο των αλγοριθμικών διακρίσεων, όπου η διακριτική μεταχείριση είναι τις περισσότερες φορές στοχαστικό αποτέλεσμα της εξόρυξης και ανάλυσης δεδομένων και όχι συνειδητή επιλογή ή σκοπός των προσώπων που σχεδιάζουν ή χρησιμοποιούν τα συστήματα ΤΝ.
β) Έμμεση διάκριση
Μεγαλύτερο ενδιαφέρον παρουσιάζει στα πλαίσια της αλγοριθμικής εισαγωγής διακρίσεων ο θεσμός της έμμεσης διάκρισης. Πράγματι, κοινή μοιάζει να είναι σήμερα η πεποίθηση πως η φύση της αλγοριθμικής διάκρισης παραπέμπει περισσότερο στην έμμεση διάκριση, τόσο από δογματική και εννοιολογική σκοπιά όσο και από λειτουργική, με την απαγόρευση της έμμεσης διάκρισης να αποτελεί έτσι το κλειδί για τη νομική αντιμετώπιση του νέου αυτού φαινομένου.
Σελ. 1130 Έμμεση διάκριση συντρέχει, κατά το κείμενο των σχετικών προστατευτικών διατάξεων, όταν μία εκ πρώτης όψεως ουδέτερη διάταξη, κριτήριο ή πρακτική μπορεί να θέσει πρόσωπα με συγκεκριμένα προστατευόμενα γνωρίσματα σε μειονεκτική θέση συγκριτικά με άλλα πρόσωπα. Το ρυθμιστικό αυτό πλαίσιο επιτρέπει την ένταξη μεγάλου αριθμού περιπτώσεων αλγοριθμικών διακρίσεων.
Αρχικά, προϋπόθεση του πραγματικού της έμμεσης διάκρισης αποτελεί η ύπαρξη μιας φαινομενικά ουδέτερης πρακτικής ή ενός κριτηρίου, το οποίο μολονότι διατυπώνεται κατά τρόπο ουδέτερο, παραπέμποντας δηλαδή σε κριτήρια μη άρρηκτα συνδεδεμένα με το προστατευόμενο χαρακτηριστικό, θίγει κατ’ αποτέλεσμα κυρίως πρόσωπα που είναι φορείς αυτού, όπως λ.χ. πρόσωπα ορισμένης εθνικής καταγωγής, ορισμένου φύλου, ορισμένων θρησκευτικών πεποιθήσεων κ.ο.κ.. Στον «αναλογικό» κόσμο ως τέτοια «ύποπτα κριτήρια» επιλογής προς πρόσληψη έχουν χαρακτηριστεί ενδεικτικά από τη νομολογία η πρόβλεψη ελάχιστου αναστήματος, η απαίτηση για προηγούμενη πλήρη απασχόληση, η απαίτηση για προσαρμοστικότητα σε μεταβαλλόμενα ωράρια και τόπους εργασίας, η αρχαιότητα κ.α.. Τα κριτήρια αυτά, παρότι δε συνδέονται ευθέως με κάποιο προστατευόμενο γνώρισμα, μπορούν να εισάγουν έμμεση διάκριση στο βαθμό που η χρήση τους φέρει σε δυσμενή θέση κατά κύριο λόγο μέλη προστατευόμενων ομάδων, αν αναλογισθούμε, κατ΄ αντιστοιχία με τα παραπάνω κριτήρια, ότι οι άνδρες είναι κατά μέσο όρο ψηλότεροι των γυναικών, ότι οι γυναίκες λόγω των καθηκόντων και του «παραδοσιακού» ρόλου τους στην οικογένεια απαρτίζουν μέχρι σήμερα το μεγαλύτερο αριθμό των μερικώς απασχολούμενων εργαζομένων, ότι λόγω των οικιακών και οικογενειακών καθηκόντων των οποίων έχουν την ευθύνη δε μπορούν να μεταβάλουν τον τόπο εργασίας με την ίδια ελαστικότητα που μπορούν οι άνδρες καθώς και ότι οι γυναίκες εισήλθαν πιο πρόσφατα στην αγορά εργασίας και αναγκάζονται συχνότερα να διακόπτουν τη σταδιοδρομία τους για λόγους που έχουν σχέση με τη μητρότητα.
Η απαγόρευση της έμμεσης διάκρισης παρέχει έτσι ένα κατάλληλο προστατευτικό πλαίσιο έναντι των αλγοριθμικών διακρίσεων, καθώς επιτρέπει την ένταξη μεγάλου εύρους περιπτώσεων κατά τις οποίες το αλγοριθμικό σύστημα, παρότι δεν αξιοποιεί άμεσα κάποιο προστατευόμενο χαρακτηριστικό ως παράμετρο για τη λήψη απόφασης, κατ’ αποτέλεσμα θίγει σε δυσανάλογο βαθμό μέλη προστατευόμενων ομάδων. Ειδικότερα, ουδέτερα είναι τις περισσότερες φορές και τα κριτήρια/μεταβλητές που αξιοποιούνται από τους αλγόριθμους για την εξαγωγή του αλγοριθμικού αποτελέσματος, καθώς αυτοί συχνά σχεδιάζονται κατά τρόπο τέτοιο, ώστε να είναι «τυφλοί» απέναντι σε προστατευόμενα γνωρίσματα. Ωστόσο επιδιώκοντας να προσεγγίσουν κατά το δυνατόν την πραγματικότητα και λόγω της ικανότητας τους να εντοπίζουν στατιστικά χρήσιμους συσχετισμούς μεταξύ πληθώρας μεταβλητών και δεδομένων, οι αλγόριθμοι μηχανικής μάθησης δύνανται να αξιοποιήσουν ουδέτερα μεν γνωρίσματα, τα οποία ωστόσο συχνά συνδέονται με τα προστατευόμενα, λειτουργώντας ως δηλωτικά αυτών. Οι εντοπισθέντες συσχετισμοί μεταξύ των ουδέτερων αυτών μεταβλητών αντικατοπτρίζουν πολλές φορές ιστορικά μοτίβα ανισότητας, με αποτέλεσμα η αξιοποίησή τους να οδηγεί σε δυσμενέστερη μεταχείριση μελών ιστορικά περιθωριοποιημένων κοινωνικών ομάδων. Αυτός είναι κατά την κρατούσα άποψη και ο βασικός τρόπος εισαγωγής διακρίσεων από αλγοριθμικά συστήματα, καθώς αυτά βασίζονται σε de facto, συχνά προκατειλημμένα κοινωνικά δεδομένα.
Εδώ συγκλίνει η έννοια της έμμεσης διάκρισης με την αλγοριθμική. Όπως ορθώς επισημαίνεται, η έμμεση διάκριση δεν προκύπτει ευθέως από την εργοδοτική απόφαση, αλλά κατ’ αποτέλεσμα λόγω των περιορισμών που θέτει η οικονομική και κοινωνική πραγματικότητα,
Σελ. 1131 οι προκαταλήψεις και τα στερεότυπα. Η σύμπτωση με την περίπτωση της υποεκπροσώπησης γυναικών είτε άλλων μειονοτήτων σε μια βάση «εργασιακών» δεδομένων είναι εμφανής.
Ενόψει της ικανότητας των αλγορίθμων να εντοπίζουν άγνωστες έως τώρα στατιστικές σχέσεις μεταξύ ουδέτερων μεταβλητών, οι οποίες είτε αντανακλούν υπάρχουσες ανισότητες είτε άλλοτε είναι εντελώς συμπτωματικές, έχουν διατυπωθεί προβληματισμοί σχετικά με το εάν η περιοριστική απαρίθμηση απαγορευμένων λόγων διάκρισης από τις ενωσιακές Οδηγίες παρέχει κατάλληλο πλαίσιο προστασίας έναντι νέων μορφών αλγοριθμικής διάκρισης ή εάν το πεδίο εφαρμογής θα έπρεπε να διευρυνθεί, ώστε να περιλάβει νεοεμφανιζόμενους λόγους διάκρισης. Συγκεκριμένα, οι Οδηγίες δεν επιβάλλουν στην εργοδοσία μια γενική υποχρέωση ίσης μεταχείρισης, αλλά περιορίζονται στην απαγόρευση διακρίσεων που στηρίζονται σε συγκεκριμένους και ρητά κατονομαζόμενους λόγους, προβλέποντας έναν εξαντλητικό κατάλογο προστατευόμενων χαρακτηριστικών που καλύπτει το φύλο, τη φυλετική ή εθνοτική καταγωγή, τη θρησκεία ή τις πεποιθήσεις, τον σεξουαλικό προσανατολισμό, την αναπηρία και την ηλικία. Η επιλογή αυτή βασίστηκε σε μια αξιολόγηση των στοιχείων εκείνων, ως προς τα οποία υφίσταται ιδιαίτερα μεγάλος κίνδυνος να υποστεί ένα πρόσωπο δυσμενή μεταχείριση, καθιστώντας τους φορείς τους ιδιαίτερα ευάλωτους. Ωστόσο συστήματα ΤΝ επιτρέπουν τη διάκριση μεταξύ υποκειμένων βάσει ασυνήθιστων χαρακτηριστικών γνωρισμάτων τα οποία δεν περιλαμβάνονται στην ως άνω περιοριστικά προβλεπόμενη λίστα κριτηρίων διάκρισης και δεν έχουν απασχολήσει ως τώρα στο πλαίσιο απαγόρευσης διακρίσεων. Ανεξάρτητα από τα επιχειρήματα υπέρ ή κατά της επέκτασης του υποκειμενικού ή και του καθ’ ύλην πεδίου εφαρμογής των προστατευτικών ενωσιακών διατάξεων ενόψει του φαινομένου αλγοριθμικών διακρίσεων, αξίζει να σημειωθεί πως το εθνικό δίκαιο εμφανίζεται ήδη πιο ευέλικτο σε μία τέτοια διεύρυνση των απαγορευμένων λόγων διάκρισης. Συγκεκριμένα ο Έλληνας Νομοθέτης ήδη με τον N. 4443/2016 επέλεξε να διευρύνει το υποκειμενικό πεδίο προστασίας, εισάγοντας νέους λόγους διάκρισης, οι οποίοι δεν απαντώνται στις Οδηγίες. Με την προσθήκη μάλιστα του όρου «κοινωνική κατάσταση» ως λόγο διάκρισης ο Νομοθέτης εισήγαγε μια λευκή ρήτρα η οποία και μετέτρεψε, όπως έχει ερμηνευτεί, τη διάταξη του νόμου σε ανοιχτή λίστα ύποπτων κριτηρίων. Καθώς η ρήτρα αυτή επιτρέπει την εξέλιξη των σχετικών εννοιών με τη διεύρυνση των λόγων διάκρισης ανάλογα με τις κοινωνικές ανάγκες, δύναται να αποτελέσει χρήσιμο εργαλείο για την αντιμετώπιση κάποιων εκ των νέων τύπων διάκρισης που εισάγει η χρήση αλγοριθμικών συστημάτων.
Από μια διαφορετική οπτική γωνία, η όλη διαδικασία αλγοριθμικής λήψης αποφάσεων μπορεί να ιδωθεί ως μία ουδέτερη πρακτική κατά το πραγματικό της έμμεσης διάκρισης, στο βαθμό που προστατευόμενα χαρακτηριστικά δεν αξιοποιούνται άμεσα από το αλγοριθμικό σύστημα. Άλλωστε όπως γίνεται δεκτό, η μειονεκτική μεταχείριση μπορεί κατά κανόνα να συνδέεται με ένα μεμονωμένο κριτήριο ή προϋπόθεση αλλά δεν αποκλείεται και μια διαδικασία, συνολικά εκτιμώμενη,
Σελ. 1132 να επιφέρει τη δυσμενή αυτή ενέργεια και συνεπώς να οδηγήσει σε έμμεση διάκριση. Η έμμεση διάκριση απαγορεύει πρακτικές που ενώ τυπικά εφαρμόζονται αδιακρίτως σε όλους, έχουν ως συνέπεια μια σημαντικά δυσανάλογη επιβάρυνση προσώπων προστατευόμενων ομάδων. Έτσι και οι περιπτώσεις αυτοματοποίησης της διαδικασίας προσλήψεων αφορούν πρακτικές που εφαρμόζονται μεν κατά τρόπο γενικευμένο και αδιάκριτο έναντι όλων των υποψηφίων προς πρόσληψη, δύνανται δε να μεροληπτούν σε βάρος συγκεκριμένων ομάδων πληθυσμού.
Ακόμη, από άποψη εννοιολογικής προσέγγισης, στην έμμεση διάκριση εντοπίζεται – κατά αντιδιαστολή με την άμεση - μια μετατόπιση του κέντρου βάρους από την πράξη μεταχείρισης ως τέτοια (πρβλ. εργοδοτική απόφαση) στις δυσμενείς συνέπειες αυτής. Σε αλγοριθμικό επίπεδο αυτό αντιστοιχεί σε μια στροφή του κέντρου βάρους από τη λειτουργία, τους κανόνες, τις παραμέτρους και το περιεχόμενο των αλγορίθμων, στο αποτέλεσμα αυτών, γεγονός που μπορεί να διευκολύνει σε μεγάλο βαθμό τη θέση των θυμάτων, ενόψει της αδιαφάνειας και πολυπλοκότητας των αλγοριθμικών συστημάτων. Μάλιστα το κέντρο βάρους μετατοπίζεται αντιστοίχως από το πρόσωπο του θύτη σε αυτό του θύματος - και μάλιστα το θύμα ως μέλος μιας ομάδας-, γεγονός που προσεγγίζει καλύτερα την περίπτωση της αλγοριθμικής διάκρισης, η οποία καθώς απορρέει από την εξόρυξη μεγάλων βάσεων δεδομένων προς εύρεση κοινών μοτίβων αφορά ομάδες πληθυσμών που μοιράζονται κοινά χαρακτηριστικά. Τέλος, στο ρυθμιστικό πλαίσιο της έμμεσης διάκρισης παρατηρείται και μια στροφή από την αναζήτηση μιας αιτιώδους συνάφειας (λ.χ. φύλο -εργοδοτική απόφαση) στην αναζήτηση μίας σχέσης μεταξύ ενός φαινομενικά ουδέτερου κριτηρίου πρόσληψης (λ.χ. εμπειρία πλήρους απασχόλησης) και μιας δυσανάλογης επιβάρυνσης μιας προστατευόμενης ομάδας (πρβλ. γυναίκες), προσέγγιση που συλλαμβάνει καλύτερα την εγγενή λειτουργία των αλγορίθμων μηχανικής μάθησης.
Οι προαναφερθείσες μετατοπίσεις, πέραν του ότι επιτρέπουν την δογματική ένταξη της αλγοριθμικής διάκρισης στην ευρύτερη έννοια της έμμεσης διάκρισης, επιτρέπουν στα θύματα να αποφύγουν την πρόκληση του «ανοίγματος» του μαύρου κουτιού, μειώνοντας έτσι τις αποδεικτικές δυσκολίες και εξυπηρετώντας την πρακτική αποτελεσματικότητα της παρεχόμενης νομοθετικής προστασίας. Σε αυτήν την αποδεικτική για το θύμα διευκόλυνση κρίσιμο ρόλο μπορεί να διαδραματίσει και η συγκέντρωση στατιστικών στοιχείων για την απόδειξη της συγκριτικά δυσμενέστερης μεταχείρισης μιας προστατευόμενης ομάδας, η οποία φαίνεται να είναι περισσότερο εφικτή στην περίπτωση χρήσης αλγοριθμικών συστημάτων μιας και αυτά βασίζονται ακριβώς σε στατιστικούς υπολογισμούς και αναλύσεις. Η προσκόμιση στατιστικών στοιχείων μπορεί να μην αποτελεί πλέον προϋπόθεση για τη θεμελίωση έμμεσης διάκρισης, εξακολουθεί όμως να είναι ένα σημαντικό μέσο και δύναται, εφόσον πρόκειται για στοιχεία έγκυρα και σημαντικά, να τεκμηριώσει με ασφάλεια τη συσχέτιση της διάκρισης με τα προστατευόμενα κριτήρια. Η πραγματοποίηση μετρήσεων και ελέγχων των αποτελεσμάτων ενός αλγοριθμικού μοντέλου, κατά τρόπο συγκεντρωτικό και ανώνυμο, μπορεί να υποδείξει με μεγαλύτερη ευκολία τις επιπτώσεις μια ουδέτερης πρακτικής, ενόψει μάλιστα και των πρακτικών και νομικών δυσχερειών ενός τέτοιου εγχειρήματος στην περίπτωση μιας «αναλογικής» πρόσληψης, προσφέροντας έτσι ένα ευκολότερο αποδεικτικό μέσο στο φερόμενο θύμα. Σημαντικό ρόλο στο σημείο αυτό θα διαδραματίσει, μεταξύ άλλων, η πρόβλεψη σχετικών διαδικασιών ελέγχου και παρακολούθησης των σχετικών αλγοριθμικών συστημάτων, υποχρεώσεων τήρησης αρχείων από την εργοδοσία και παραχώρησης πρόσβασης σε αυτά καθώς και των σχετικών εποπτικών αρμοδιοτήτων από τα εκάστοτε όργανα ισότητας.
2.3 Δικαιολογητικοί λόγοι αλγοριθμικών διακρίσεων
Η υποστηριζόμενη ωστόσο δογματική ένταξη της αλγοριθμικής διάκρισης στο προστατευτικό πεδίο της έμμεσης διάκρισης δεν συνεπάγεται μονάχα διευκολύνσεις για το θύμα μίας δυσμενούς μεταχείρισης και ούτε είναι άμοιρη περαιτέρω συνεπειών. Πιο συγκεκριμένα, η νομοθετική αντιμετώπιση της έμμεσης διάκρισης προσφέρει σε αντίθεση με την άμεση ένα ευρύ φάσμα δυνατοτήτων δικαιολόγησης μίας prima facie διακριτικής μεταχείρισης. Πρόκειται για την αρνητική προϋπόθεση
Σελ. 1133 του πραγματικού της έμμεσης διάκρισης, σύμφωνα με την οποία η δυσμενέστερη μεταχείριση δικαιολογείται αντικειμενικά - και συνεπώς δεν συντρέχει ανεπίτρεπτη έμμεση διάκριση - όταν η διάταξη, το κριτήριο ή η πρακτική που συνεπάγεται τη μεταχείριση αυτή υπηρετεί έναν θεμιτό σκοπό και τα μέσα επίτευξής του είναι πρόσφορα και αναγκαία.
Όσον αφορά την πρώτη προϋπόθεση, υποστηρίζεται ευλόγως πως η ίδια η βέλτιστη εκτίμηση/ «προγνωστική» λειτουργία που επιτελούν τα συστήματα αλγοριθμικής λήψης αποφάσεων, λ.χ. η εκτίμηση της μελλοντικής επίδοσης της/του προς πρόσληψη εργαζομένης/ου, μπορεί να στοιχειοθετήσει έναν σκοπό θεμιτώς επιδιωκόμενο από την εργοδότρια εταιρία. Όσον αφορά την προσφορότητα του μέσου, η εργοδοσία θα μπορούσε να επικαλεστεί τον ικανοποιητικό βαθμό «προγνωστικής» απόδοσης ή/και ακρίβειας που επιδεικνύει το συγκεκριμένο αλγοριθμικό μοντέλο (χρησιμοποιηθέν μέσο), ώστε να στηρίξει την καταλληλόλητα και αποτελεσματικότητά του προς επίτευξη του ως άνω επιδιωκόμενου σκοπού. Η διατεινόμενη προγνωστική απόδοση και ακρίβεια των συστημάτων μηχανικής μάθησης μπορεί να ανοίξει έτσι το δρόμο για τη δικαιολόγηση της έμμεσης διάκρισης που η χρήση τους κάποιες φορές επιφέρει σε βάρος προστατευόμενων ομάδων.
Απαραίτητη είναι βέβαια και η πλήρωση του στοιχείου της αναγκαιότητας της συγκεκριμένης πρακτικής, σύμφωνα με την αρχή της αναλογικότητας. Αναγκαία είναι μία πρακτική όταν ο επιδιωκόμενος θεμιτός σκοπός δε θα μπορούσε να επιτευχθεί με άλλα εξίσου αποτελεσματικά αλλά ηπιότερα μέσα. Στο βαθμό που το συγκεκριμένο αλγοριθμικό σύστημα διαθέτει σημαντική προγνωστική ακρίβεια, υποστηρίζεται πως η αποτελεσματικότητά του πιθανόν θα ξεπερνάει τυχόν εναλλακτικούς τρόπους λήψης αποφάσεων, ιδίως εκείνων που δεν αξιοποιούν τις αυξημένες υπολογιστικές δυνατότητες που προσφέρουν οι αλγόριθμοι. Αυτός είναι άλλωστε και ο λόγος που τεχνικές μηχανικής μάθησης επιστρατεύονται όλο και περισσότερο σε διάφορα πεδία, καθώς έρχονται να δώσουν λύσεις στο σημείο που η γνωσιακή ικανότητα των ανθρώπων αρχίζει να δείχνει συγκριτικά ανεπαρκής για την αντιμετώπιση περίπλοκων προβλημάτων, προσφέροντας δυνατότητες επιτάχυνσης και επέκτασης των τρόπων παραγωγής γνώσης. Ωστόσο, εξίσου αποτελεσματικά αλλά λιγότερο επεμβατικά μέσα θα μπορούσαν λ.χ. να κριθούν, εφόσον διαθέσιμα σε εύλογο κόστος, αλγοριθμικά συστήματα τα οποία χρησιμοποιούν καλύτερης ποιότητας ή περισσότερο αντιπροσωπευτικά ως προς την σκοπούμενη χρήση εκπαιδευτικά δεδομένα ή συστήματα που έχουν υποστεί τεχνικές εξάλειψης ή ελαχιστοποίησης των προκαταλήψεων και παρέχουν συγχρόνως αντίστοιχα επίπεδα προγνωστικής ακρίβειας.
Στο πλαίσιο αυτού του κριτηρίου και αφού τα χρησιμοποιηθέντα μέσα αποδειχθούν πρόσφορα και αναγκαία γίνεται έλεγχος της stricto sensu αναλογικότητας, κατά τον οποίο επιχειρείται μία στάθμιση και εξισορρόπηση των αντικρουόμενων συμφερόντων, προκειμένου να διαπιστωθεί εάν οι δυσχέρειες οι οποίες προκαλούνται από την επίδικη πρακτική είναι υπέρμετρες σε σχέση με τους επιδιωκόμενους σκοπούς και εάν η πρακτική αυτή προσβάλλει υπέρμετρα τα έννομα συμφέροντα των προσώπων στα οποία απευθύνεται. Με άλλα λόγια πρέπει να εναρμονίζεται ο επιδιωκόμενος θεμιτός σκοπός, στο μέτρο του δυνατού, με τις απαιτήσεις της αρχής της ίσης μεταχειρίσεως και να εξισορροπούνται τα διάφορα εμπλεκόμενα συμφέροντα. Ο έλεγχος αυτός της εν στενή εννοία αναλογικότητας και τα συμφέροντα
Σελ. 1134 των μελών της προστατευόμενης ομάδας επιβάλλουν κατά μία ερμηνεία στην εργοδοσία να επιλέξει τη χρήση ενός μοντέλου το οποίο ελαχιστοποιεί σε σχέση με άλλες διαθέσιμες πρακτικές τη δυνατότητα εμφιλοχώρησης προκαταλήψεων, ακόμη κι αν αυτό συνεπάγεται επιπρόσθετα έξοδα. Όπως αναφέρει μάλιστα και το ΔΕΕ η εργοδοσία δε μπορεί να δικαιολογήσει τη διάκριση με μόνη τη δικαιολογία ότι η εξάλειψη της διάκρισης αυτής θα οδηγούσε σε αύξηση των εξόδων της. Στην περίπτωση πάντως που η εξασφάλιση τέτοιων πρακτικών δεν είναι δυνατή, η χρήση αλγοριθμικών συστημάτων μάλλον θα περνάει επιτυχώς κατ' αυτήν την ερμηνεία τον έλεγχο αναλογικότητας, λαμβάνοντας υπόψη πως ούτε η λύση της πλήρους αποχής από τη χρήση αλγοριθμικών συστημάτων και της λήψης της απόφασης πρόσληψης αποκλειστικά από τον ανθρώπινο παράγοντα υπόσχεται αποτελέσματα εντελώς απαλλαγμένα από συνειδητές ή ασυνείδητες προκαταλήψεις. Σύμφωνα ωστόσο με άλλη άποψη, η προϋπόθεση της stricto sensu αναλογικότητας οδηγεί σε μία στάθμιση μεταξύ προγνωστικής ακρίβειας από τη μία πλευρά και ισότητας από την άλλη ή αλλιώς μεταξύ αποτελεσματικότητας και μη διακριτικής μεταχείρισης, με αποτέλεσμα να αμφισβητείται το κατά πόσο αλγοριθμικά συστήματα μπορούν να περνούν επιτυχώς έναν τέτοιο έλεγχο και να υπερισχύουν της αρχής της ίσης μεταχείρισης στηριζόμενα μονάχα στην προγνωστική τους ακρίβεια και δύναμη.
3. Αστικές έννομες συνέπειες επί δυσμενούς αλγοριθμικής διάκρισης
3.1 Εισαγωγικές παρατηρήσεις
Η αξία της απαγόρευσης των διακρίσεων εξαρτάται σε πολύ μεγάλο βαθμό από τις έννομες συνέπειες που το δίκαιο προβλέπει σε περίπτωση παράβασης των απαγορευτικών του διατάξεων και τα δικαιώματα και τις αξιώσεις που αναγνωρίζει στο εκάστοτε θύμα της διάκρισης. Άρρηκτα συνδεδεμένο με τις αξιώσεις του θύματος σε περίπτωση παράνομης διακριτικής μεταχείρισης είναι το ζήτημα της αστικής ευθύνης της εργοδοσίας για το διακριτικό αποτέλεσμα των συστημάτων ΤΝ που χρησιμοποιεί. Το ζήτημα αυτό εντάσσεται στο ευρύτερο δυσεπίλυτο πρόβλημα θεμελίωσης νομικής ευθύνης σε περίπτωση ζημίας που προκαλείται από τη χρήση συστημάτων ΤΝ.
Στη βάση του προβλήματος αυτού βρίσκονται τα ιδιαίτερα χαρακτηριστικά που διακρίνουν τα εν λόγω συστήματα, όπως είναι η πολυπλοκότητα, η αδιαφάνεια, η συνδεσιμότητα και η δυνητική τους αυτονομία, και τα οποία σε συνδυασμό με την συμμετοχή πληθώρας φορέων στην αξιακή εφοδιαστική αλυσίδα των συστημάτων ΤΝ θέτουν την αποτελεσματικότητα του ενωσιακού και του εθνικού δικαίου εξωδικαιοπρακτικής ευθύνης προ σημαντικών προκλήσεων. Στο εσωτερικό της Γηραιάς Ηπείρου πληθαίνουν έτσι οι συζητήσεις και οι πρωτοβουλίες σχετικά με το κατάλληλο καθεστώς ευθύνης για ελαττωματικούς αλγορίθμους, μεταξύ άλλων και υπό την έννοια της προκατάληψης.
Ενόψει αυτών και της σχετικής πολιτικής πίεσης η Ευρωπαϊκή Επιτροπή έχει δεσμευτεί να προχωρήσει έως το τέλος του 2022 σε μια νέα νομοθετική πρόταση, η οποία θα αφορά αποκλειστικά ζητήματα αστικής ευθύνης. Από τις έως τώρα διατυπώσεις της έχει καταστεί
Σελ. 1135 σαφές πως η πρόταση αυτή θα έχει ως βασικό στόχο τον εκσυγχρονισμό του καθεστώτος εξωδικαιοπρακτικής ευθύνης ενόψει των νέων τεχνολογιών και την εξασφάλιση της δυνατότητας αποκατάστασης των ζημιών που προκαλούνται από αυτές. Τα παραπάνω μάλιστα μέσα από ένα πλαίσιο ενωσιακής εναρμόνισης, το οποίο θα λειτουργεί συμπληρωματικά με την υπάρχουσα εθνική και λοιπή ενωσιακή νομοθεσία.
Παρακάτω επιχειρείται μια εξέταση του ζητήματος αστικής ευθύνης της εργοδοσίας για την παραβίαση της απαγόρευσης διακρίσεων μέσω της χρήσης συστημάτων ΤΝ υπό το πρίσμα των οικείων εθνικών νομοθετημάτων, συμπεριλαμβανομένων των διατάξεων του αστικού κώδικα, λαμβάνοντας υπόψη και σχετικά κείμενα χάραξης ενωσιακής πολιτικής.
3.2 Έννομες συνέπειες κατά το εθνικό ιδιωτικό δίκαιο
Το ευρωπαϊκό δευτερογενές δίκαιο κατά των διακρίσεων δεν προβλέπει ρητά συγκεκριμένες κυρώσεις για την περίπτωση παραβίασης της απαγόρευσης των διακρίσεων, αλλά αφήνει στα κράτη μέλη την ευχέρεια επιλογής των σχετικών έννομων συνεπειών. Η ευχέρεια αυτή δεν είναι ωστόσο απεριόριστη. Οι κυρώσεις που προβλέπουν τα κράτη μέλη θα πρέπει να είναι αποτελεσματικές, ανάλογες με την παράβαση και αποτρεπτικές, ούτως ώστε να εξασφαλίζεται η αποτελεσματικότητα του ενωσιακού δικαίου κατά τη μεταφορά του στην εσωτερική έννομη τάξη.
Εν προκειμένω, οι έννομες συνέπειες που έχει προβλέψει ο Έλληνας νομοθέτης στα πλαίσια του ιδιωτικού δικαίου για την περίπτωση παραβίασης της αρχής της ισότητας κατά την πρόσβαση στην απασχόληση και κατ’ επέκταση η προστασία που παρέχει στο εκάστοτε θύμα διάκρισης κρίνεται μάλλον προβληματική, γεγονός που δυσχεραίνει την αντιμετώπιση των προκλήσεων της αλγοριθμικής εισαγωγής διακρίσεων.
Συγκεκριμένα, όσον αφορά τις διακρίσεις λόγω φύλου ο Ν. 3896/2010, αρ. 23 παρ. 1 προβλέπει ότι «η παραβίαση της κατά τον παρόντα νόμο απαγόρευσης διακρίσεων λόγω φύλου γεννά, εκτός των άλλων, και αξίωση προς πλήρη αποζημίωση του θύματος, η οποία θα καλύπτει τη θετική και την αποθετική ζημία, καθώς και την ηθική βλάβη.». Πρόκειται, όπως γίνεται δεκτό, για μία, κατά απαίτηση του ενωσιακού δικαίου, πρόβλεψη ειδικής μορφής (ex lege) αντικειμενικής αδικοπρακτικής ευθύνης. Πράγματι όπως ρητά προκύπτει από την πάγια ενωσιακή νομολογία, η σχετική Οδηγία (βλ. Οδηγία 76/207/ΕΚ όπως αναδιατυπώθηκε µε την Οδηγία 2006/54/ΕΚ) δεν εξαρτά κατά κανένα τρόπο την ευθύνη του αυτουργού μιας δυσμενούς διακρίσεως από την απόδειξη πταίσματος….και oσάκις ένα κράτος μέλος επιλέγει να επιβάλει κύρωση για την παραβίαση της απαγορεύσεως των διακρίσεων μεταξύ ανδρών και γυναικών εργαζομένων στα πλαίσια συστήματος αστικής ευθύνης του εργοδότη, η παραβίαση της απαγορεύσεως των διακρίσεων πρέπει να αρκεί για τη γένεση, λόγω αυτής και μόνης, της πλήρους ευθύνης του παραβιάζοντος, χωρίς να μπορούν να ληφθούν υπόψη οι λόγοι απαλλαγής που προβλέπει το εθνικό δίκαιο.
Η εθνική αυτή πρόβλεψη συμβαδίζει λοιπόν με τις επιταγές του ΔΕΕ για πραγματική και αποτελεσματική δικαστική προστασία, με μία πράγματι αποτρεπτική επίδραση έναντι του εργοδότη, η οποία μάλιστα και διατηρείται ενόψει των νέων μορφών αλγοριθμικής διάκρισης, δημιουργώντας ένα πρόσφορο έδαφος δικαστικής τους αντιμετώπισης. Αυτό οφείλεται αφενός στο γεγονός ότι η αλγοριθμική διακριτική μεταχείριση είναι τις περισσότερες φορές στοχαστικό αποτέλεσμα της εξόρυξης και ανάλυσης δεδομένων και όχι συνειδητή επιλογή των προσώπων που σχεδιάζουν ή χρησιμοποιούν τα συστήματα ΤΝ και αφετέρου στην πολυπλοκότητα, αδιαφάνεια και δυνητική αυτονομία των συστημάτων αυτών, οι οποίες καθιστούν πρακτικά δύσκολο και δαπανηρό τον προσδιορισμό της αιτίας πρόκλησης του εκάστοτε επιζήμιου αποτελέσματος άρα και του προσώπου που το προκάλεσε· πόσο μάλλον της ψυχικής του στάσης απέναντι σε αυτό.
Ωστόσο, όσον αφορά τον Ν. 4443/2016 και τα λοιπά προστατευόμενα γνωρίσματα παρατηρείται μια παντελής έλλειψη διατάξεων σχετικών με τις αστικές κυρώσεις σε περίπτωση παράβασης του προστατευτικού τους πεδίου. Ως προς αυτό μπορεί να γίνει λόγος για μία μη ορθή ενσωμάτωση των ενωσιακών Οδηγιών 2000/43/ΕΚ
Σελ. 1136 και 2000/78/ΕΚ από τον Έλληνα Νομοθέτη. Πράγματι, το γράμμα των Οδηγιών δεν φαίνεται καταρχάς να επιβάλλει την πρόβλεψη συγκεκριμένου είδους κυρώσεων, γεγονός που επιβεβαιώνει εκ πρώτης όψεως και η Νομολογία του ΔΕΕ. Η ίδια επισημαίνει ωστόσο πως η πραγματική ισότητα ευκαιριών δεν μπορεί να υπάρξει χωρίς το ανάλογο σύστημα κυρώσεων και πως τα κράτη μέλη οφείλουν να λαμβάνουν μέτρα τα οποία είναι κατάλληλα και αρκούντως αποτελεσματικά για την επίτευξη του σκοπού των Οδηγιών και να ενεργούν κατά τρόπον ώστε τα εκάστοτε θύματα να μπορούν να επικαλούνται λυσιτελώς τα μέτρα αυτά ενώπιον των εθνικών δικαστηρίων. Υποστηρίζεται λοιπόν ένθερμα από μεγάλη μερίδα της ευρωπαϊκής θεωρίας πως η πρόβλεψη κυρώσεων αμιγώς διοικητικού και ποινικού χαρακτήρα δεν συνάδει με τις αρχές της αποτελεσματικής μεταφοράς των Οδηγιών - η οποία και επιτάσσει κυρώσεις που συνιστούν δίκαιη αποκατάσταση για το ζημιούμενο θύμα και σοβαρό μέτρο πίεσης για την εργοδοσία - και δεν ανταποκρίνεται στην επιταγή αποτελεσματικής έννομης προστασίας, συνηγορώντας έτσι υπέρ της υποχρέωσης των κρατών μελών να προβλέπουν κυρώσεις αστικής φύσεως.
Σε αυτό το πλαίσιο λύση θα μπορούσε να προσφέρει η αναλογική εφαρμογή του αρ. 23 παρ. 1 Ν. 3896/2010 στην περίπτωση των λοιπών προστατευόμενων γνωρισμάτων του Ν. 4443/2016. Η λύση αυτή κρίνεται εύλογη ενόψει του κοινού δικαιολογητικού σκοπού, που επιβάλλει την ειδική προστασία της αρχής απαγόρευσης των διακρίσεων λόγω ορισμένων γνωρισμάτων, ως ειδικότερη έκφραση της αρχής της ισότητας. Το δίκαιο ισότητας των φύλων αποτελεί μάλιστα τη μήτρα για τη διάπλαση ενός γενικού δικαίου της ΕΕ κατά των διακρίσεων, με τη σχετική Οδηγία να χαρακτηρίζεται και ως μητέρα των λοιπών Οδηγιών απαγόρευσης διακρίσεων. ‘Άλλωστε κατά το ΔΕΕ, η αρχή της σύμφωνης με το δίκαιο της ΕΕ ερμηνείας επιβάλλει στα εθνικά δικαστήρια να χρησιμοποιούν κάθε δυνατότητα εντός των ορίων της αρμοδιότητάς τους, λαμβάνοντας υπόψη το σύνολο του εσωτερικού δικαίου και εφαρμόζοντας μεθόδους ερμηνείας που αναγνωρίζονται από το δίκαιο αυτό, προκειμένου να εξασφαλίζουν την πλήρη αποτελεσματικότητα της οικείας οδηγίας και να καταλήγουν σε λύση σύμφωνη προς τον σκοπό που επιδιώκει η οδηγία αυτή.
Όπως υποστηρίζεται μάλιστα, προς κάλυψη του κενού αυτού- αλλά και ανεξάρτητα από αυτό – αστικές έννομες συνέπειες δύνανται να αναζητηθούν και στις γενικές διατάξεις του κοινού αστικού δικαίου και συγκεκριμένα στις διατάξεις περί προσβολής της προσωπικότητας (αρ. 57, 59 ΑΚ) και αδικοπραξίας (αρ. 914, 932 ΑΚ). Οι προϋποθέσεις, ωστόσο, εφαρμογής των οικείων διατάξεων γεννούν σημαντικά δογματικά και πρακτικά ζητήματα όσον αφορά τη θεμελίωση αστικής ευθύνης της εργοδοσίας για μια αλγοριθμική διάκριση. Παρακάτω επιχειρείται μια επιλεκτική προσέγγιση των ζητημάτων αυτών, ιδιαίτερα όσον αφορά την ευθύνη της εργοδοσίας προς αποζημίωση.
3.2.1 Ευθύνη προς αποζημίωση του θύματος αλγοριθμικής διακριτικής μεταχείρισης κατά τις διατάξεις του ΑΚ
Αρχικά, για τη θεμελίωση ευθύνης προς αποζημίωση από αδικοπραξία τόσο βάσει των άρθρων 57, 59 ΑΚ όσο και των ΑΚ 914, 932 απαιτείται ανθρώπινη παράνομη συμπεριφορά, η οποία μπορεί να συνίσταται είτε σε θετική ενέργεια είτε σε παράλειψη.
Εν προκειμένω λοιπόν, η θετική ενέργεια εκ μέρους της εργοδοσίας θα μπορούσε να εντοπιστεί στην ίδια την χρήση του συστήματος ΤΝ και τη λήψη απόφασης με βάση αυτό, την απόφασή της δηλαδή να ακολουθήσει το περιεχόμενο μιας αλγοριθμικής σύστασης ή αλλιώς το στοιχείο εξόδου ενός επιβοηθητικού συστήματος ΤΝ, αξιοποιώντας λ.χ. την αλγοριθμική βαθμολογική λίστα κατάταξης των υποψηφίων για τη λήψη της τελικής της απόφασης. Σε περίπτωση χρήσης πλήρως αυτοματοποιημένων συστημάτων ΤΝ, όταν δηλαδή το προγνωστικό αλγοριθμικό αποτέλεσμα μετουσιώνεται αυτόματα σε απόφαση, λ.χ. απόρριψη ορισμένων ακατάλληλων υποψηφίων χωρίς ανθρώπινη παρέμβαση, η θετική ενέργεια της εργοδοσίας θα μπορούσε να μετατεθεί χρονικά και συνολικά ιδωμένη να εντοπιστεί στην εγκατάσταση και χρήση ενός τέτοιου συστήματος.
Σελ. 1137 Η παρανομία αυτής της πράξης εκ μέρους της εργοδοσίας απορρέει εν προκειμένω από το αποτέλεσμα της διακριτικής μεταχείρισης, όπως αυτό απαγορεύεται από τα αρ. 2, παρ. 1, Ν. 4443/2016 και αρ. 3 , παρ. 1, Ν. 3896/2010, και της συνακόλουθης προσβολής του απόλυτου δικαιώματος της προσωπικότητας του θύματος, όπως αυτό κατοχυρώνεται στο άρ. 57 ΑΚ, δεδομένου ότι τα προστατευόμενα γνωρίσματα συνδέονται στενά με θεμελιώδεις εκφάνσεις της προσωπικότητας. Συγκεκριμένα, το αποτέλεσμα της διάκρισης απορρέει άμεσα από την θετική ενέργεια αξιοποίησης του συστήματος ΤΝ ή/και του στοιχείου εξόδου του και εμφανίζεται αναπόσπαστα συνδεδεμένο με αυτή, με αποτέλεσμα να «συγκαθορίζει» το εννοιολογικό της περιεχόμενο, εντασσόμενο στα πλαίσια της διαδρομής της. Ως εκ τούτου χρωματίζει παράνομη την συμπεριφορά της εργοδοσίας, ακόμη κι αν αυτή τη στιγμή που πραγματώνεται στον εξωτερικό κόσμο δεν αποδοκιμάζεται από την έννομη τάξη, δεδομένου ότι η χρήση αλγοριθμικών συστημάτων για την πρόσληψη προσωπικού δεν απαγορεύεται per se από εκείνη.
Ως αποφασιστικός παράγοντας για την κρίση της αμεσότητας μεταξύ πράξης και αποτελέσματος έχει υποστηριχθεί στη γερμανική θεωρία το κατά πόσον «η ίδια η διαδικασία προσβολής εξακολουθεί να υπόκειται στον έλεγχο, στην κυριαρχία του παρεμβαίνοντος, ακόμη και αν ασκεί τον έλεγχο αυτό εσφαλμένα ή καθόλου». O παράγοντας αυτός μπορεί να καταφαθεί στις επίμαχες περιπτώσεις, όπου η εργοδοσία δύναται να δεχτεί ή και να απορρίψει τις προτάσεις ενός επιβοηθητικού συστήματος ΤΝ. Στο σημείο αυτό βέβαια ανακύπτει το ζήτημα της δυνατότητας άσκησης ουσιαστικής εποπτείας και ελέγχου επί ενός συστήματος ΤΝ από την πλευρά της χρήστριας εργοδοσίας. Πράγματι η δυνατότητα ουσιαστικής παρέμβασης του φορέα χρήσης ενός συστήματος ΤΝ έχει απασχολήσει έντονα την νομική θεωρία στα πλαίσια εφαρμογής του αρ. 22 ΓΚΠΔ ενόψει της πολυπλοκότητας και αδιαφάνειας των οικείων συστημάτων. Έντονος προβληματισμός εκφράζεται σχετικά με το κατά πόσο ο μέσος φορέας χρήσης ενός συστήματος ΤΝ διαθέτει την απαιτούμενη τεχνογνωσία που του επιτρέπει να κατανοήσει τη λειτουργία του ή ακόμη περισσότερο να ασκήσει κριτικό έλεγχο επί των αποτελεσμάτων του.
Η θεμελίωση ευθύνης προς αποζημίωση, είτε πρόκειται για περιουσιακή είτε για μη περιουσιακή ζημία, προϋποθέτει επίσης σύμφωνα με τις διατάξεις του ΑΚ και υπαιτιότητα της εργοδοσίας ή των προστηθέντων αυτής προσώπων. Η προϋπόθεση αυτή έχει εγείρει εν προκειμένω προβληματισμούς όσον αφορά τη συμβατότητά της με τις απαιτήσεις του ενωσιακού δικαίου.
Όπως προαναφέρθηκε, παρότι οι ενωσιακές οδηγίες αφήνουν στα κράτη μέλη την ελευθερία επιλογής των κυρώσεων για την παραβίαση της απαγόρευσης των διακρίσεων, θέτουν τους όρους της αποτελεσματικότητας, της αναλογικότητας και αποτρεπτικής ενέργειας αυτών. Το ΔΕΕ απαιτεί άλλωστε ρητά μια ανεξάρτητη από υπαιτιότητα ευθύνη, σε περίπτωση που το κράτος μέλος επιλέξει μια κύρωση που εντάσσεται στο πλαίσιο ενός συστήματος αστικής ευθύνης της εργοδοσίας επισημαίνοντας πως «αν η ευθύνη ενός εργοδότη για την παραβίαση της αρχής της ίσης μεταχείρισης εξήρτατο από την απόδειξη πταίσματος που καταλογίστηκε σ’ αυτόν, η πρακτική αποτελεσματικότητα των αρχών αυτών θα αποδυναμωνόταν αισθητά». Μπορεί η ως άνω διατύπωση της νομολογίας να αφορά τις διακρίσεις με βάση το φύλο και την Οδηγία 76/207/ΕΟΚ, το ίδιο σκεπτικό μπορεί ωστόσο να μεταφερθεί και στην απαγόρευση
Σελ. 1138 διακρίσεων βάσει των λοιπών Οδηγιών (Οδηγίες 2000/43/ΕΚ και 2000/78/ΕΚ). Κάτι τέτοιο κρίνεται εύλογο καθώς οι προβλέψεις των εν λόγω Οδηγιών όσον αφορά τις έννομες συνέπειες όχι μόνο δεν διαφοροποιούνται από εκείνες της Οδηγίας 76/207/ΕΟΚ αλλά διαμορφώθηκαν ακριβώς βάσει της Νομολογίας του Ευρωπαϊκού Δικαστηρίου επί της πρώτης.
Πράγματι αμφισβητείται ένθερμα κατά πόσο η δυνατότητα της εναγόμενης εργοδοσίας να αποφύγει την αποκαταστατική της ευθύνη μέσω επίκλησης ελλείψεως υπαιτιότητας επιτρέπει την αποτελεσματική δικαστική προστασία των θυμάτων διάκρισης και τη δυνατότητα πλήρους αποκατάστασής τους, ικανοποιώντας τις αρχές της αποτελεσματικότητας και της αποτρεπτικής ενέργειας των έννομων συνεπειών. Το επιχείρημα αυτό ενισχύεται ακόμη περισσότερο στην περίπτωση των αλγοριθμικών διακρίσεων, όπου οι ιδιαιτερότητες της ΤΝ θολώνουν τα νερά της υπαιτιότητας. Έτσι λοιπόν μπορεί να υποστηριχθεί ότι εφόσον εν προκειμένω αξιοποιείται η έννομη συνέπεια της αποζημίωσης για την αντιμετώπιση των διακρίσεων από πλευράς εργοδοσίας, αυτή οφείλει και να ανταποκρίνεται στις απαιτήσεις του ενωσιακού δικαίου για μία αποτελεσματική ανεξάρτητη από υπαιτιότητα ευθύνη.
Ενόψει των παραπάνω κι όσον αφορά τις διατάξεις 57, 59 ΑΚ και την αξίωση μη περιουσιακής ζημίας του θύματος διάκρισης στο πεδίο της απασχόλησης προκρίνεται de lege lata η υιοθέτηση από τα εθνικά δικαστήρια της ήδη κρατούσας στη θεωρία άποψης περί αντικειμενικής ευθύνης στα πλαίσια της χρηματικής ικανοποίησης της ηθικής βλάβης. Όπως προλέχθηκε, το εθνικό δικαστήριο οφείλει να ερμηνεύει το εθνικό δίκαιο, στο μέτρο του δυνατού, υπό το φως του κειμένου και του σκοπού των σχετικών οδηγιών κι εάν υπάρχουν περισσότερες δυνατές ερμηνείες, οφείλει να επιλέξει εκείνη που στοιχεί εγγύτερα στον επιδιωκόμενο σκοπό, εν προκειμένω την επίτευξη πραγματικής ισότητας και την αποτελεσματική προστασία των προσώπων που θίγονται από τις διακρίσεις.
Η λύση μιας σύμφωνης με το δίκαιο της ΕΕ ερμηνείας του εθνικού δικαίου έχει υποστηριχθεί και στα πλαίσια της 914 ΑΚ, σύμφωνα με την οποία η γενική αρχή της υπαιτιότητας που διέπει το ελληνικό αστικό δίκαιο κάμπτεται όταν η ευθύνη γεννάται ευθέως από τη φύση του δικαιώματος που παραβιάζεται ως θεμελιώδες δικαίωμα της ενωσιακής έννομης τάξης, εν προκειμένω του δικαιώματος ίσης μεταχείρισης, όπως αυτό κατοχυρώνεται στο αρ. 21 Χ.Θ.Δ.Δ.Ε..
Άλλωστε μία νομολογιακή ανύψωση του μέτρου της απαιτούμενης επιμέλειας σε ιδιαίτερα υψηλά επίπεδα σε συνδυασμό με την αντιστροφή του βάρους απόδειξης στις περιπτώσεις των διακρίσεων, θα μπορούσε να αντιμετωπίσει ως έναν βαθμό την υπάρχουσα ασυμφωνία χωρίς ιδιαίτερα δογματικά ζητήματα. Η μεθόδευση έτσι της πλασματικής υπαιτιότητας εμφανίζεται εν προκειμένω ως ερμηνευτικό αποτέλεσμα της αρχής της αποτελεσματικότητας του ενωσιακού δικαίου.
Όσον αφορά την προϋπόθεση της ζημίας, αυτή μπορεί να συνίσταται στην υλική ζημία που υφίσταται το θύμα της διάκρισης από τη μη πρόσληψή του ή από τον αποκλεισμό του από τη διαδικασία προσλήψεως αλλά και στην ηθική του βλάβη λόγω της συνεπαγόμενης προσβολής της προσωπικότητάς του ως φορέας κάποιου προστατευόμενου γνωρίσματος.
Τέλος, απαραίτητο όρο για τη γέννηση της ευθύνης προς αποζημίωση αποτελεί η αιτιώδης συνάφεια μεταξύ της παράνομης συμπεριφοράς και της ζημίας. Η αιτιώδης συνάφεια συνάγεται εν προκειμένω από την αμεσότητα μεταξύ της αξιοποίησης του συστήματος ΤΝ και του αποτελέσματος της διάκρισης. Σύμφωνα άλλωστε με την πάγια Νομολογία του Αρείου Πάγου, αιτιώδης συνάφεια υπάρχει όταν η πράξη ή παράλειψη του ευθυνόμενου προσώπου ήταν, κατά τα διδάγματα της κοινής πείρας, ικανή και μπορούσε αντικειμενικά να επιφέρει κατά τη συνηθισμένη πορεία των πραγμάτων το επιζήμιο αποτέλεσμα. Μπορεί να υποστηριχθεί λοιπόν πως το στοιχείο της προσφορότητας πληρούται εν προκειμένω ενόψει του αναγνωρισμένου υψηλού κινδύνου εμφιλοχώρησης και αναπαραγωγής προκαταλήψεων από τη χρήση συστημάτων μηχανικής μάθησης και συγκεκριμένα λόγω της εξάρτησης των συστημάτων μηχανικής μάθησης από δεδομένα, των καταγεγραμμένων ιστορικών πρακτικών διάκρισης σε βάρος ευάλωτων κοινωνικών
Σελ. 1139 ομάδων κατά την είσοδο στην εργασία και της δυνατότητας των συστημάτων ΤΝ να εντοπίζουν στατιστικές σχέσεις μεταξύ μεγάλων όγκου δεδομένων, τα οποία και σχετίζονται συχνά με τα προστατευόμενα από την σχετική νομοθεσία γνωρίσματα. Είναι βέβαια γεγονός πως τα ιδιαίτερα χαρακτηριστικά της ΤΝ (πολυπλοκότητα, αδιαφάνεια, περιορισμένη προβλεψιμότητα), σε συνδυασμό με την ταχεία της εξέλιξη, θολώνουν το κανονιστικό περιεχόμενο των όρων «κοινή πείρα», «αντικειμενικά» και «συνηθισμένη πορεία των πραγμάτων». Η αυτονομία συστημάτων ΤΝ που βασίζονται σε τεχνολογίες όπως νευρωνικά δίκτυα και διαδικασίες βαθιάς μάθησης συγκρούεται σε πολλές περιπτώσεις με την (αντικειμενική) δυνατότητα πρόβλεψης του επιζήμιου αποτελέσματος, στοιχείο απαραίτητο για την κατάφαση της συνδρομής του πρόσφορου αιτιώδους συνδέσμου.
Σε κατάφαση της αιτιότητας οδηγούμαστε και μέσω της εφαρμογής της θεωρίας του σκοπού του κανόνα δικαίου, καθώς τόσο οι νόμοι 4443/2016, 3896/2010 όσο και οι διατάξεις των ενωσιακών Οδηγιών που αυτοί μεταφέρουν - ιδίως εκείνες που αφορούν τις έννομες συνέπειες-, αποσκοπούν ακριβώς στην προστασία των θεμελιωδών ατομικών δικαιωμάτων ισότητας των ευάλωτων θυμάτων διάκρισης καθώς και στην προώθηση της αρχής της ίσης μεταχείρισης και την καταπολέμηση των διακρίσεων μέσω αποτελεσματικών, ανάλογων και αποτρεπτικών κυρώσεων. Το ίδιο ισχύει και στην περίπτωση του αρ. 57 ΑΚ, αντικείμενο του οποίου αποτελεί η προστασία του ατομικού δικαιώματος στην προσωπικότητα από παράνομες προσβολές των ειδικότερων εκφάνσεων της.
Ως συνέπεια των παραπάνω ερμηνευτικών αναζητήσεων, και ειδικότερα ενόψει των αυξημένων προκλήσεων που θέτει η χρήση συστημάτων ΤΝ στην αποτελεσματική προστασία των θυμάτων διάκρισης και με σκοπό να αποφευχθούν καταστάσεις κατά τις οποίες άτομα που υφίστανται ζημία καταλήγουν να μην λαμβάνουν αποζημίωση, κρίνεται σκόπιμη η παρέμβαση του Έλληνα Νομοθέτη για τη ρητή θέσπιση ειδικής περίπτωση αντικειμενικής εκ του νόμου ευθύνης κατά τα πρότυπα του αρ. 23 Ν. 3896/2010, όταν παραβιάζεται η αρχή της απαγόρευσης των διακρίσεων λόγω οποιουδήποτε προστατευόμενου γνωρίσματος. Άλλωστε, όσον αφορά το καθεστώς αστικής ευθύνης σε περίπτωση χρήσης συστημάτων ΤΝ υψηλού κινδύνου, όπως αυτά που χρησιμοποιούνται κατά την πρόσβαση στην εργασία, η λύση της αντικειμενικής ευθύνης από διακινδύνευση φαίνεται να προκρίνεται στα πλαίσια των συστάσεων ενωσιακής πολιτικής και εκτός πλαισίου προσβολής θεμελιωδών ανθρωπίνων δικαιωμάτων.
4. Επίλογος
Είναι γεγονός πως βρισκόμαστε στην τροχιά της τέταρτης βιομηχανικής επανάστασης, με τα συστήματα ΤΝ να διεκδικούν σημαντικό ρόλο σε νευραλγικούς τομείς και διαδικασίες της παγκόσμιας οικονομίας και κοινωνίας. Οι εξελίξεις αυτές διεισδύουν αναπόφευκτα στο δικαιϊκό μας σύστημα, με τα ιδιαίτερα χαρακτηριστικά των τεχνολογιών αυτών να θέτουν ενώπιων προκλήσεων κλασσικά δόγματα του ευρωπαϊκού και εθνικού δικαίου και να καλούν επιτακτικά σε νομική επαγρύπνηση και δράση.
Η παρούσα μελέτη θέλησε να παρουσιάσει τις προκλήσεις που συνεπάγεται η χρήση συστημάτων τεχνητής νοημοσύνης για την αρχή της ίσης μεταχείρισης κατά την πρόσβαση στην απασχόληση και τη σχετική εφαρμογή του εθνικού νομικού πλαισίου σε περιπτώσεις αλγοριθμικής εισαγωγής διακρίσεων. Σκοπός της μελέτης ήταν να φωτίσει και να ερμηνεύσει τις σχετικές διατάξεις του ενωσιακού και εθνικού δικαίου απαγόρευσης των διακρίσεων υπό το φως των ιδιαιτεροτήτων της αξιοποίησης συστημάτων ΤΝ κατά την πρόσληψη εργαζομένων.
Βάση της μελέτης αυτής αποτέλεσε ο κίνδυνος εμφιλοχώρησης μεροληψίας σε συστήματα ΤΝ και αλγοριθμικής διαιώνισης διακρίσεων σε βάρος ευάλωτων πληθυσμιακών ομάδων, έναν κίνδυνο που τόσο η Ευρωπαϊκή Επιτροπή όσο και το Ευρωπαϊκό Κοινοβούλιο έχουν αναγνωρίσει, καλώντας επιτακτικά στη δημιουργία ενός νομοθετικού πλαισίου που να διασφαλίζει την προστασία των δικαιωμάτων ισότητας. Η διαμόρφωση ενός
Σελ. 1140συγκεκριμένου ρυθμιστικού πλαισίου με διεθνή εμβέλεια για την ανάπτυξη και τη χρήση της τεχνητής νοημοσύνης είναι αναμφίβολα καθοριστικής σημασίας για την προληπτική αλλά και κατασταλτική αντιμετώπιση των προσβολών ανθρωπίνων δικαιωμάτων που σχετίζονται με την ΤΝ.
Ωστόσο ο αναδυόμενος αυτός κίνδυνος έρχεται να συναντήσει στη χώρα μας μια ήδη περιορισμένη - αναιμική θα λέγαμε - εφαρμογή του δικαίου κατά των διακρίσεων στη δικαστική πρακτική. Η τυχόν εισαγωγή νέων μορφών διάκρισης, υπό το πρόσθετο βάρος μάλιστα της αδιαφάνειας και πολυπλοκότητας των επίμαχων τεχνολογιών, απειλεί να δυσχεράνει ακόμη περισσότερο το τοπίο αυτό. Οι ταχείες εξελίξεις στο χώρο της ΤΝ αποτελούν λοιπόν μια πρόκληση αλλά και συνάμα μια ευκαιρία για τον Έλληνα Νομοθέτη και τον νομικό κόσμο εν γένει να αναμετρηθεί τόσο με τα αναδυόμενα νομικά ζητήματα που θέτει η χρήση της ΤΝ όσο και με τις υπάρχουσες ανεπάρκειες του ελληνικού νομικού πλαισίου απαγόρευσης των διακρίσεων. Η αναδιαμόρφωση του κανονιστικού περιεχομένου της οικείας νομοθεσίας, η διεύρυνση των σχετικών δικονομικών δυνατοτήτων των θυμάτων διάκρισης και η ενίσχυση του ρόλου και των πόρων των επίσημων φορέων ισότητας συγκαταλέγονται μεταξύ των λύσεων που θα μπορούσαν να συνδράμουν στο ως άνω εγχείρημα.
Σε αυτήν την αναμέτρηση της νομικής κοινότητας με τις προκλήσεις που θέτει η τεχνητή νοημοσύνη στο δίκαιο κατά των διακρίσεων φιλοδοξεί να συνδράμει η γράφουσα με την παρούσα μελέτη.