Σαν μήνυμα από το μέλλον, μια πρόσφατη ανακοίνωση στην Αλβανία προκάλεσε το ενδιαφέρον της διεθνούς κοινότητας. Ο Πρωθυπουργός Edi Rama παρουσίασε μια «υπουργό» διαφορετική από κάθε προηγούμενη. Η Diella δεν έχει σώμα, ούτε παρελθόν, ούτε βιογραφικό, μα προορίζεται να συμμετέχει στο Υπουργικό Συμβούλιο. Δεν είναι άνθρωπος, αλλά ένα ψηφιακό πρόσωπο σχεδιασμένο από ΤΝ. Η αποστολή της είναι η εποπτεία και, σταδιακά, η εκτέλεση των δημόσιων συμβάσεων του κράτους. Το ίδιο της το όνομα, Diella, που στα αλβανικά σημαίνει «ήλιος», δεν είναι τυχαίο, αλλά φέρει βαρύνουσα σημειολογική φόρτιση. Παραπέμπει στο φως, την καθαρότητα, την εξυγίανση και σε μια νέα αρχή. Η κυβέρνηση υποστηρίζει πως η είσοδος αυτού του ψηφιακού «όντος» στην πολιτική σκηνή προορίζεται να φέρει ριζική κάθαρση. Ένα σύστημα απαλλαγμένο από ανθρώπινη μεροληψία, ιδιοτέλεια ή σκοπιμότητα, χωρίς συμφέροντα, χωρίς πιθανότητα διαφθοράς. Η τεχνολογική παρουσία, σύμφωνα με τους υποστηρικτές της, μπορεί να εγγυηθεί την αμεροληψία και την ακεραιότητα εκεί όπου η πολιτική έχει κατ’ επανάληψη δοκιμαστεί. Η υπόσχεση μιας τέτοιας εικόνας γοητεύει και για πολλούς, καθησυχάζει. Ποιος πολίτης θα έλεγε όχι στην ύπαρξη ενός ψηφιακού «ήλιου» που θα φωτίσει τις σκοτεινές πλευρές του κρατικού μηχανισμού; Και πράγματι, η ιδέα μιας ουδέτερης, τεχνοκρατικής διαχείρισης μπορεί αρχικά να γεννά αίσθημα ασφάλειας. Όμως πίσω από κάθε φως υπάρχουν και σκιές και γι’ αυτό ακριβώς αξίζει να την κοιτάξουμε όχι με ενθουσιασμό, αλλά με προσεκτικό και καθαρό βλέμμα.
Η Diella δεν εμφανίστηκε ξαφνικά, σαν ψηφιακή Παλλάδα από το κεφάλι κάποιου αλγορίθμου. Εδώ και καιρό είχε ήδη εδραιώσει την παρουσία της στην καθημερινότητα των Αλβανών, ως φωνητικός και διαλογικός βοηθός στην επίσημη κρατική πλατφόρμα e-Albania διευκολύνοντας τις συναλλαγές πολιτών και επιχειρήσεων με την δημόσια διοίκηση, απαντώντας σε ερωτήσεις, καθοδηγώντας διαδικασίες, εξοικονομώντας χρόνο. Η ψηφιακή Diella περνά πλέον από τον ρόλο της εξυπηρέτησης στον ρόλο της απόφασης. Δεν περιορίζεται πια στο να καθοδηγεί διαδικασίες αλλά αναβαθμίζεται σε εικονική υπουργό, αναλαμβάνοντας ρόλους που, μέχρι πρότινος, ανήκαν σε φυσικά πρόσωπα. Το ψηφιακό της είδωλο, ντυμένο με την παραδοσιακή αλβανική φορεσιά, δεν αποτελεί απλώς μια αισθητική επιλογή. Είναι ένα σύμβολο, και το μήνυμα που φέρει απευθύνεται ταυτόχρονα προς το παρελθόν, που επικαλείται με σεβασμό, και προς το μέλλον, το οποίο φιλοδοξεί να διαμορφώσει όχι μόνο θεσμικά, αλλά και συναισθηματικά, καλλιεργώντας από τώρα τις προϋποθέσεις για να την εμπιστευτούν οι πολίτες ως αυθεντικό κομμάτι του κρατικού μηχανισμού. Αφενός, η επιλογή αυτή αγγίζει το συλλογικό φαντασιακό, δηλαδή η Diella παρουσιάζεται σαν κόρη του έθνους, φορέας συνέχειας, παράδοσης, και «εμπιστοσύνης», αφετέρου, λειτουργεί ως εργαλείο οικειότητας, ένα avatar που συνοδεύει και καθιστά πιο εύπεπτη μια σιωπηρή αλλά κρίσιμη θεσμική αλλαγή. Αυτό που αλλάζει εδώ δεν είναι μόνο το «ποιος μιλά» στο όνομα του κράτους, αλλά είναι το «ποιος αποφασίζει».
Η αρμοδιότητα της κατακύρωσης δημοσίων συμβάσεων μια από τις πιο νευραλγικές πράξεις της εκτελεστικής εξουσίας δεν θα ανήκει πια αποκλειστικά σε ηθικά πρόσωπα, μεταφέρεται, βήμα-βήμα, σε ένα σύστημα κανόνων, σε μια μηχανή που λειτουργεί χωρίς πρόσωπο και το κυριότερο χωρίς πρόθεση, με στόχο την απόλυτη όπως λέγεται διαφάνεια. Το διακύβευμα, επομένως, είναι διπλό. Από τη μία, έχουμε την τεχνική αποπροσωποποίηση της απόφασης, δηλαδή δεν είναι κάποιος συγκεκριμένος που αποφασίζει, αλλά κάτι. Από την άλλη, συντελείται μια συμβολική αποπολιτικοποίηση, καθώς η απόφαση παρουσιάζεται ως ουδέτερη, σαν να μην φέρει πλέον καμία αξιακή ή πολιτική προϋπόθεση. Και κάπου εδώ αρχίζουν τα δύσκολα. Η διαφάνεια δεν είναι μία ιδιότητα που ενσωματώνεται στον κώδικα, ούτε μια απλή ρύθμιση παραμέτρων. Είναι αποτέλεσμα θεσμικού σχεδιασμού, ισχυρών μηχανισμών λογοδοσίας και συνεχούς δυνατότητας επαλήθευσης. Σε αυτό το σημείο, τα ερωτήματα πληθαίνουν. Ποιος έχει την αρμοδιότητα ελέγχου των μοντέλων και των κριτηρίων στάθμισης; Υπάρχει πρόβλεψη για παρέμβαση ανθρώπου όταν κάτι πάει λάθος; Όταν χρειάζεται να διορθωθεί μια απόφαση, να εξεταστεί μια ένσταση, να εξηγηθεί το «γιατί»; Και κυρίως πώς αιτιολογείται η απόφαση του συστήματος ώστε ένας απορριφθείς υποψήφιος να έχει ουσιαστικό δικαίωμα προσφυγής; Γιατί αν δεν γνωρίζει τα «πως και τα γιατί» της απόρριψής του, δεν έχει καμία πραγματική δυνατότητα να διεκδικήσει το δίκιο του.
Χωρίς δοκιμές αμεροληψίας και πλήρη αρχεία καταγραφής αποφάσεων, η εξαγγελία περί 100% διαφάνειας κινδυνεύει να μείνει μια δημόσια ρητορική χωρίς θεσμικό αντίκρισμα. Πίσω όμως από την τεχνολογική υπεροχή αναδύεται μια πιο σιωπηλή αλλά εξίσου καθοριστική διάσταση, αυτή που αφορά τη θεσμική τάξη. Σε ένα δημοκρατικό κράτος δικαίου, ο υπουργός δεν είναι απλώς ένας διαχειριστής που επιβλέπει διαδικασίες. Είναι ηθικό και πολιτικό πρόσωπο με όνομα και θεσμική ευθύνη. Οφείλει να μπορεί να αιτιολογήσει τις αποφάσεις του, να τις εξηγήσει και, όταν απαιτείται, να αναλάβει την ευθύνη τους για αυτές. Αυτή είναι η βάση της πολιτικής νομιμοποίησης, ότι κάποιος στέκεται δημόσια, ενώπιον της κοινωνίας, και αναλαμβάνει το βάρος των επιλογών του. Όταν αυτό το πρόσωπο που λογοδοτεί αντικαθίσταται από μια ψηφιακή περσόνα, το τοπίο αλλάζει, η ίδια η έννοια της ευθύνης αρχίζει να ατονεί. Σε περιπτώσεις αστοχίας, σφάλματος ή αδικίας ποιος είναι εκείνος που φέρει την ευθύνη; Ο προγραμματιστής που έγραψε τον κώδικα; Η εταιρεία που παρέχει την τεχνολογία; Ο δημόσιος υπάλληλος που επιβλέπει την διαδικασία; Ή τελικά ο ίδιος ο πρωθυπουργός που επέλεξε να δώσει αρμοδιότητες σε μια μηχανή;
Η μετάβαση από το πολιτικό πρόσωπο στο ψηφιακό υποκατάστατο καλλιεργεί την ψευδαίσθηση της ουδετερότητας, σαν οι αποφάσεις να προκύπτουν αυτόματα, απαλλαγμένες από ιδεολογικές ή αξιακές φορτίσεις. Όμως κάθε αξιολόγηση, είτε αφορά την τιμή, είτε την ποιότητα, είτε τον επιχειρηματικό κίνδυνο, είτε κοινωνικές ή περιβαλλοντικές ρήτρες, ενσωματώνει επιλογές. Κάθε σταθμισμένο κριτήριο αποκαλύπτει τι θεωρούμε σημαντικό, ποιον ευνοούμε, πώς ορίζουμε το το ορθό και το δίκαιο. Η τεχνολογία μπορεί να «εκτελεί» χωρίς δισταγμούς. Δεν μπορεί όμως να αποφασίζει ηθικά ή πολιτικά. Γιατί αυτά τα δύο απαιτούν ηθική κρίση και η κρίση, στον πυρήνα της, απαιτεί πρόσωπα. Εδώ είναι που η φιλοσοφική σκέψη προσφέρει τα κατάλληλα εργαλεία για να κατανοήσουμε τι πραγματικά διακυβεύεται και ειδικά η αριστοτελική ηθική μας επιτρέπει να διακρίνουμε με σαφήνεια το βάθος αυτής της μετατόπισης. Ο Αριστοτέλης παρέχει ένα καθαρό κριτήριο, διακρίνει την τέχνη από την φρόνηση. Η τέχνη είναι δεξιότητα παραγωγής, δηλαδή σύμφωνα με κανόνες μπορεί να φέρει σε πέρας ένα έργο με τεχνική αρτιότητα. Η φρόνηση, αντιθέτως, είναι η ηθική ικανότητα ορθής στάθμισης του δέοντος μέσα στην κοινότητα, η αρετή που μας επιτρέπει να κρίνουμε όχι μόνο το πώς, αλλά και το αν και πότε πρέπει να πράξουμε για το κοινό καλό.
Η κατακύρωση μιας σύμβασης δεν είναι ποτέ μία ουδέτερη τεχνική πράξη. Εμπλέκει δικαιοσύνη, ισότητα ευκαιριών, τήρηση υποχρεώσεων, σεβασμό στο δημόσιο συμφέρον. Ένα σύστημα αλγορίθμων μπορεί να εφαρμόσει κανόνες (τέχνη), δεν μπορεί όμως να ασκήσει φρόνηση. Στην αριστοτελική προοπτική, η πολιτική δεν είναι χώρος τεχνικών λύσεων, αλλά χώρος πράξεως, όπου οι άνθρωποι καλούνται να ζυγίσουν τι είναι δίκαιο και συμφέρον για το κοινό καλό. Η τεχνολογία μπορεί να είναι πολύτιμο εργαλείο. Δεν μπορεί, όμως, να υποκαταστήσει την ανθρώπινη ευθύνη. Η διαφάνεια του αλγορίθμου, αντίθετα, δεν είναι αρετή αλλά αρνητική ιδιότητα, που προκύπτει απλώς από την απουσία βούλησης και προσωπικού κινήτρου. Το μηχάνημα δεν μπορεί να δωροδοκηθεί, αλλά δεν μπορεί ούτε να είναι δίκαιο, ούτε να αναλάβει ευθύνη, ούτε να σταθεί με γενναιότητα στον δημόσιο χώρο. Έτσι, το κράτος ίσως να προφυλάσσεται από τον κίνδυνο της διαφθοράς, αλλά χάνει την ευκαιρία να ενσαρκώσει ένα ηθικό πρόσωπο, την αρετή της φρόνησης και της υπεύθυνης κρίσης. Η Diella, ντυμένη με εθνική φορεσιά, υπόσχεται οικειότητα. Αλλά το ένδυμα δεν προσδίδει φρόνηση σε μια μηχανή. Η αρετή της φρόνησης προϋποθέτει άλλα αμιγώς ανθρώπινα στοιχεία, όπως ελεύθερη βούληση, αυτονομία, χαρακτήρα, ηθική συγκρότηση, παιδεία. Ιδιότητες που ανήκουν στο πεδίο της ανθρώπινης εμπειρίας και όχι της τεχνολογικής κατασκευής. Η αισθητικοποίηση της τεχνοκρατίας συνιστά μία μορφή «τεχνο-λαϊκισμού» όπου η εικόνα λειτουργεί ως υποκατάστατο πολιτικής πράξης. Πρόκειται για μια στρατηγική που ντύνει την τεχνοκρατική εξουσία με πολιτισμικά σύμβολα, για να γίνει πιο εύπεπτη στο κοινό.
Το μήνυμα που διαχέεται είναι απλό και καθησυχαστικό: «η εικονική μας υπουργός θα καθαρίσει το τοπίο». Όμως η πολιτική φιλοσοφία μας υπενθυμίζει πως, κάθε φορά που η εξουσία υπόσχεται απόλυτη αμεροληψία, το ουσιώδες δεν βρίσκεται στην υπόσχεση αυτή καθαυτή, αλλά στους μηχανισμούς ελέγχου, διαφάνειας και λογοδοσίας που τη συνοδεύουν. Στο ευρωπαϊκό πλαίσιο, οι αλγοριθμικές αποφάσεις στον δημόσιο τομέα θεωρούνται ήδη ως εν δυνάμει υψηλού κινδύνου, ιδίως όταν επηρεάζουν θεμελιώδη δικαιώματα. Για τον λόγο αυτό, απαιτείται συστηματική τεκμηρίωση, λεπτομερής καταγραφή, εξωτερική εποπτεία και δοκιμές αμεροληψίας, πριν ακόμη τεθούν σε εφαρμογή. Ακόμη κι αν η διαχείριση προμηθειών δεν υπάγεται οριζόντια σε συγκεκριμένη κατηγορία υψηλού κινδύνου, η οικονομική και κοινωνική της σημασία επιβάλλει αντίστοιχες προδιαγραφές δημοσιότητας και ελέγχου. Πολύ περισσότερο όταν πρόκειται για μια χώρα που επιδιώκει σύγκλιση με το ευρωπαϊκό κεκτημένο. Οι αληθινές εγγυήσεις δεν κατοικούν σε δελτία Τύπου, ούτε αποτυπώνονται στα γραφικά ενός avatar. Εδράζονται σε πράξεις και σε θεσμικά αντανακλαστικά που αντέχουν στον χρόνο. Στην δημοσιοποίηση των μεθοδολογιών, στα σαφώς ορισμένα βάρη αξιολόγησης, στις προσβάσιμες προδιαγραφές δεδομένων, στους ελέγχους πριν και μετά την εφαρμογή, στην υποχρεωτική αιτιολόγηση κάθε κατακύρωσης, στη δυνατότητα ουσιαστικής προσφυγής με ανασταλτικό αποτέλεσμα, και, πάνω απ’ όλα, στην ύπαρξη ορισμένου φορέα που φέρει πολιτική και διοικητική ευθύνη. Γιατί η πολιτική, στην αριστοτελική προοπτική, δεν είναι βασίλειο της «σωστής εκτέλεσης», αλλά χώρος πράξεως. Είναι το πεδίο όπου οι άνθρωποι σταθμίζουν, διαλέγονται, αποφασίζουν για το κοινό καλό.
Η τεχνολογία είναι πολύτιμο βοήθημα, όχι υποκατάστατο της φρόνησης. Μπορεί να ενισχύσει την ακρίβεια, να περιορίσει την αυθαιρεσία, να υποστηρίξει τις διαδικασίες λήψης αποφάσεων. Δεν μπορεί, όμως, να αντικαταστήσει την κρίση. Γιατί χωρίς φρόνηση, χωρίς την ικανότητα του στοχασμού εντός της συγκεκριμένης περίστασης, αυτό που διατηρείται είναι ίσως απλώς ο τύπος της νομιμότητας, αλλά κενός από την ουσία της δικαιοσύνης. Προστατευόμαστε ίσως από το σφάλμα, αλλά χάνουμε την προοπτική του δικαίου. Ίσως, τελικά, το βαθύτερο στοχαστικό ερώτημα που εγείρει η μορφή της «ψηφιακής υπουργού» να μην αφορά την ίδια την μηχανή, αλλά την δική μας ετοιμότητα να της εκχωρήσουμε την επιμέλεια του κρίσιμου. Όχι από φόβο, αλλά ίσως από αδράνεια, όχι επειδή δεν μπορούμε, αλλά επειδή παύουμε πλέον να θέλουμε. Επομένως δεν είναι η μηχανή που διεκδικεί τη θέση μας αλλά είμαστε εμείς που σιωπηλά της την προσφέρουμε. Όχι επειδή μας λείπει η ικανότητα, αλλά επειδή φθίνει η βούληση.
Γοητευμένοι από την υπόσχεση της άψογης αλγοριθμικής ουδετερότητας, της ακρίβειας και της κανονιστικής καθαρότητας, αποσυρόμαστε από την βάσανο της κρίσης, εκεί όπου δοκιμάζεται η φρόνηση και η ευθύνη. Λησμονούμε τελικά το ουσιώδες, ότι η δικαιοσύνη δεν προγραμματίζεται, ούτε αυτοματοποιείται, δεν αποτελεί προϊόν υπολογισμού, αλλά πολιτικό κατόρθωμα. Δεν είναι μέγεθος που προκύπτει εξισωτικά, αλλά οικοδομείται ως ζωντανή διαδικασία, μέσα από διαφωνίες, δοκιμασίες, αστοχίες και αποφάσεις που ωριμάζουν στον χρόνο, διαμορφωμένες από πρόσωπα που είναι φορείς ηθικής ευθύνης. Η τεχνολογία μπορεί να λειτουργήσει ως καθρέφτης της ανθρώπινης βούλησης, αλλά δεν μπορεί να την υποκαταστήσει. Διότι ό,τι αξίζει να λέγεται δίκαιο δεν γεννιέται από τον υπολογισμό, ούτε μαθηματικοποιείται, αλλά σφυρηλατείται στο πεδίο της εμπειρίας, του Λόγου και της ευθύνης. Και εκεί, στον πυρήνα της πολιτικής πράξεως, η ανθρώπινη παρουσία δεν είναι απλώς αναγκαία. Είναι αναντικατάστατη. Αν η Diella είναι το μέλλον, ας θυμηθούμε πως το φως που δεν περνά από κρίση, τυφλώνει και κανένα μέλλον δεν αξίζει, αν δεν το εγγυάται η ευθύνη του ανθρώπου και δεν το διαπραγματεύεται ο Λόγος.
Της Δρος Μαρίας Κ. Χωριανοπούλου
Επ. Καθηγήτρια, Ε.Κ.Π.Α.
H Δρ Μαρία Κ. Χωριανοπούλου.