Η τεχνητή νοημοσύνη μπορεί να υπόσχεται ένα ταχύτερο και αποτελεσματικότερο ψηφιακό κράτος, ωστόσο η ενσωμάτωσή της στις δημόσιες υπηρεσίες φέρνει μαζί της ένα κρίσιμο ερώτημα: ποιος σχεδιάζει τα συστήματα που αύριο ενδέχεται να λαμβάνουν αποφάσεις για τους πολίτες και ποιες προκαταλήψεις περνούν μέσα σε αυτά;
Το ζήτημα βρέθηκε στο επίκεντρο της συζήτησης «AI and Equal Participation: Who Shapes the Digital State?» στο Cyprus Forum, με τη συμμετοχή της Επιτρόπου Ισότητας των Φύλων Τζόζι Χριστοδούλου, της επιστημονικής συντονίστριας του Hope For Children Ροδούλας Παπαλαμπριανού και του Ανδρέα Δημητρίου από το AI Integrity Institute.
Η τεχνητή νοημοσύνη είναι προκατειλημμένη
Κοινός παρονομαστής των παρεμβάσεων ήταν ότι η τεχνητή νοημοσύνη δεν λειτουργεί σε κοινωνικό κενό. Τα δεδομένα με τα οποία εκπαιδεύεται, οι άνθρωποι που τη σχεδιάζουν και οι κοινωνικές αντιλήψεις που έχουν ήδη καταγραφεί σε τεράστιο όγκο ψηφιακού υλικού μπορούν να μεταφέρουν υφιστάμενες ανισότητες σε ένα νέο, αυτοματοποιημένο περιβάλλον.
Ο Ανδρέας Δημητρίου χρησιμοποίησε ένα απλό παράδειγμα για να περιγράψει τον τρόπο με τον οποίο γεννιέται η προκατάληψη στα μοντέλα τεχνητής νοημοσύνης.
Όπως ανέφερε, αν ένα σύστημα εκπαιδευτεί σε χίλια βιβλία στα οποία ο γιατρός παρουσιάζεται πάντοτε ως άνδρας και η νοσηλεύτρια ως γυναίκα, τότε είναι πολύ πιθανό να συνδέσει αυτόματα τη λέξη «γιατρός» με έναν άνδρα. Η ΤΝ, όπως εξήγησε, μαθαίνει από τα πρότυπα που υπάρχουν στα δεδομένα που της δίνονται.
Η Επίτροπος Ισότητας των Φύλων Τζόζι Χριστοδούλου σημείωσε από την πλευρά της ότι τα συστήματα αυτά δημιουργούνται από ανθρώπους και επομένως οι ανθρώπινες, συνειδητές ή ασυνείδητες, προκαταλήψεις μπορούν να περάσουν μέσα στην τεχνολογία.
Ιδιαίτερη αναφορά έκανε στη χαμηλή εκπροσώπηση των γυναικών στον χώρο της τεχνολογίας, υπογραμμίζοντας ότι το πρόβλημα πρέπει να αντιμετωπιστεί ήδη από το σχολείο.
«Πρέπει να εργαστούμε ώστε να δίνουμε τις ευκαιρίες και στα κορίτσια που θέλουν να ακολουθήσουν θετικές επιστήμες», ανέφερε, επισημαίνοντας παράλληλα ότι οι προκαταλήψεις των ενηλίκων δεν πρέπει να συνεχίσουν να αντανακλώνται στα παιδιά.
Σύμφωνα με την κ. Χριστοδούλου, το ζήτημα δεν περιορίζεται στην είσοδο περισσότερων γυναικών στα τεχνολογικά επαγγέλματα αλλά αφορά και την παραμονή τους σε αυτά.
Όπως σημείωσε, παρατηρείται ένα ότι γυναίκες εισέρχονται στον χώρο, αλλά σε μεταγενέστερο στάδιο εγκαταλείπουν επαγγέλματα του τεχνολογικού τομέα και στρέφονται συχνότερα προς την έρευνα ή την ακαδημαϊκή καριέρα. Το φαινόμενο, όπως είπε, γίνεται ιδιαίτερα αισθητό σε ηλικίες κατά τις οποίες τίθεται το ζήτημα δημιουργίας οικογένειας.
Η απάντηση, κατά την ίδια, περνά τόσο μέσα από πρακτικές πολιτικές, όπως οι βρεφονηπιακοί σταθμοί και η συμφιλίωση επαγγελματικής και οικογενειακής ζωής, όσο και μέσα από μια βαθύτερη αλλαγή κουλτούρας.
«Ένα αγόρι δεν θα το ρωτήσουμε “αν δεν γίνεις πατέρας, τι θα κάνεις στη ζωή σου;”. Συνήθως το ρωτούμε τι θέλει να γίνει. Όταν μιλούμε όμως σε κορίτσια, πολύ συχνά υπογραμμίζουμε τη μητρότητα», ανέφερε.
Τα στερεότυπα, πρόσθεσε, ξεκινούν πολύ νωρίς. Παρέπεμψε σε ασκήσεις που έχουν γίνει με παιδιά δημοτικού, στα οποία ζητήθηκε να φανταστούν έναν αστροναύτη ή έναν γιατρό και τα οποία στις περισσότερες περιπτώσεις σκέφτονταν άνδρες, ενώ όταν καλούνταν να φανταστούν έναν νηπιαγωγό επέλεγαν συνήθως γυναίκα.
Από τον ιδιωτικό τομέα στο κράτος
Η συζήτηση αποκτά μεγαλύτερη σημασία όσο η τεχνητή νοημοσύνη περνά από τον ιδιωτικό τομέα στο κράτος.
Ο Ανδρέας Δημητρίου προειδοποίησε ότι οι συνέπειες μιας προκατειλημμένης αυτοματοποιημένης απόφασης είναι πολύ σοβαρότερες όταν αυτή χρησιμοποιείται από δημόσιες υπηρεσίες.
Έφερε ως παράδειγμα την υπόθεση των επιδομάτων παιδικής φροντίδας στην Ολλανδία, όπου αυτοματοποιημένα συστήματα αξιολόγησης κινδύνου χρησιμοποιήθηκαν για τον εντοπισμό πιθανών περιπτώσεων απάτης, με την εθνικότητα να περιλαμβάνεται μεταξύ των παραγόντων που επηρέαζαν την αξιολόγηση.
«Πρέπει να είμαστε πάρα πολύ προσεκτικοί όταν προσπαθούμε να δημιουργήσουμε το ψηφιακό κράτος», τόνισε.
Η κ. Χριστοδούλου έθεσε παράλληλα το ζήτημα του «γραμματισμού» στην AI, δηλαδή της ικανότητας των πολιτών να κατανοούν τι είναι η τεχνητή νοημοσύνη, πώς λειτουργεί και πώς μπορούν να τη χρησιμοποιούν.
Όπως ανέφερε, η ψηφιακή μετάβαση δεν μπορεί να αφορά μόνο όσους έχουν ήδη υψηλό επίπεδο τεχνολογικών δεξιοτήτων. Έφερε ως παράδειγμα τις γυναίκες της υπαίθρου, οι οποίες, όπως είπε, θα πρέπει να εκπαιδευτούν ώστε να μπορούν να αξιοποιούν το ψηφιακό περιβάλλον ακόμη και για την προώθηση και πώληση των προϊόντων τους.
Στο ίδιο πλαίσιο έθεσε και το ζήτημα της συνεργασίας κράτους και ιδιωτικών εταιρειών, σημειώνοντας ότι η διάσταση του φύλου θα πρέπει να λαμβάνεται υπόψη κατά τον σχεδιασμό πολιτικών και συστημάτων τεχνητής νοημοσύνης.
Όπως ανέφερε χαρακτηριστικά, «κανένας δεν διαφωνεί με την ισότητα. Το ζήτημα είναι τι γίνεται την ώρα που πρέπει να τη βάλουμε στην πράξη».
Για τους συμμετέχοντες στη συζήτηση, το διακύβευμα δεν είναι απλώς πόσο γρήγορα θα υιοθετήσει η Κύπρος την τεχνητή νοημοσύνη. Είναι κατά πόσο το ψηφιακό κράτος που δημιουργείται θα μπορεί να αναγνωρίζει και να περιορίζει τις ανισότητες της πραγματικής κοινωνίας, αντί να τις μεταφέρει αυτούσιες μέσα στους αλγόριθμους.
