Η βαθύτερη απειλή από την Τεχνητή Νοημοσύνη έχει ήδη όνομα: άκριτη εμπιστοσύνη στη μηχανή, τόνισε στο ΚΥΠΕ ο Αντιπρύτανης Έρευνας και Καινοτομίας, Καθηγητής Τεχνητής Νοημοσύνης στο Πανεπιστήμιο Νεάπολις Πάφος Σάββας Α. Χατζηχριστοφής.
Η υπαρξιακή απειλή, τόνισε, μπορεί τελικά να μην πάρει τη μορφή μιας μηχανής που θα μας επιτεθεί. "Μπορεί να πάρει τη μορφή μιας κοινωνίας που δεν αισθάνεται πλέον ικανή να αποφασίσει χωρίς τη μηχανή".
Μίλησε και για πιο άμεσους κίνδυνους όπως είναι οι αυτοματοποιημένες κυβερνοεπιθέσεις, βιολογική κακόβουλη χρήση, παραπληροφόρηση, μαζική επιτήρηση, διακρίσεις σε προσλήψεις ή πιστοδοτήσεις, απώλεια θέσεων εργασίας και οπλικά συστήματα χωρίς επαρκή ανθρώπινο έλεγχο.
Κατά τον κ. Χατζηχριστοφή, δεν είναι αργά. Εξήγησε ότι εάν ήταν αργά, οι ίδιες οι προειδοποιήσεις δεν θα είχαν κανένα νόημα.
"Είναι, όμως, αργά για αφέλεια" είπε και τόνισε ότι η πρώτη παρέμβαση, πρέπει να γίνει στην εκπαίδευση και πρέπει να γίνει άμεσα.
"Το πραγματικό ερώτημα δεν είναι αν θα χρησιμοποιούμε Τεχνητή Νοημοσύνη. Θα τη χρησιμοποιούμε. Το ερώτημα είναι εάν θα τη χρησιμοποιούμε ως εργαλείο που υπηρετεί την ανθρώπινη σκέψη ή ως αυθεντία στην οποία θα παραδώσουμε σταδιακά το δικαίωμα να σκέφτεται για εμάς" τόνισε.
Να ακούσουμε σοβαρά τις προειδοποιήσεις
Σε συνέντευξή του στο ΚΥΠΕ με αφορμή τις πρόσφατες δηλώσεις επικεφαλής εταιρειών ΤΝ ή παραιτηθέντων ερευνητών που κρούουν τον κώδωνα του κινδύνου για την επικινδυνότητα της ΤΝ και την επιβίωση του ανθρώπινου είδους, ο κ. Χατζηχριστοφής είπε ότι θα χώριζε τις δύο αυτές περιπτώσεις.
Εξήγησε συγκεκριμένα, ότι οι παραιτήσεις ερευνητών έχουν ιδιαίτερη βαρύτητα, επειδή προέρχονται από ανθρώπους που γνωρίζουν τα συστήματα εκ των έσω και επιλέγουν να εγκαταλείψουν θέσεις υψηλού κύρους και σημαντικές οικονομικές απολαβές.
"Αυτό δεν σημαίνει ότι οι προβλέψεις τους θα επαληθευτούν. Σημαίνει, όμως, ότι οφείλουμε να τους ακούσουμε σοβαρά. Βλέπουν ένα εξαιρετικά ισχυρό εργαλείο να αναπτύσσεται με τεράστια ταχύτητα και να συγκεντρώνεται στα χέρια μιας μικρής ομάδας εταιρειών" τόνισε.
Διαφορετικά, συνέχισε, αξιολογεί τις δηλώσεις των επικεφαλής αυτών των εταιρειών και διευκρίνισε ότι ο Dario Amodei της Anthropic πρότεινε διαρκή πρόσβαση ανεξάρτητων αξιολογητών στα εργαστήρια, κοινά πρότυπα ασφάλειας, ελέγχους πριν από την κυκλοφορία των μοντέλων, περιορισμούς σε χρήσεις που σχετίζονται με κυβερνοεπιθέσεις ή βιολογικά όπλα και, στο πιο ακραίο σενάριο, συντονισμένη επιβράδυνση της ανάπτυξης. Την ίδια ώρα, ανέφερε, ο Sam Altman υποστήριξε ότι η πρόοδος πρέπει να συνεχιστεί, αλλά με χαμηλότερο ρυθμό και αυστηρότερη παρακολούθηση, ενώ αντίστοιχες ανησυχίες έχουν εκφράσει και άλλα κορυφαία στελέχη του κλάδου, χωρίς πάντως να υπάρχει πλήρης ομοφωνία.
"Οι φόβοι που περιγράφουν μπορεί να είναι πραγματικοί. Αυτό, όμως, δεν αναιρεί το γεγονός ότι οι εταιρείες έχουν ισχυρά επιχειρηματικά συμφέροντα" επισήμανε ο κ. Χατζηχριστοφής.
Εξήγησε ότι μια δήλωση μπορεί να είναι ταυτόχρονα ειλικρινής και επωφελής για εκείνον που την κάνει και ότι όταν οι εταιρείες που βρίσκονται ήδη στην κορυφή ζητούν επιβράδυνση και αυστηρούς κανόνες, είναι εύλογο να αναρωτηθούμε ποιος θα γράψει αυτούς τους κανόνες, ποιος θα μπορεί να ανταποκριθεί στο κόστος συμμόρφωσης και ποιος τελικά θα μείνει εκτός αγοράς.
"Ένα πραγματικό pause, με καθολικούς κανόνες, διαφάνεια και ανεξάρτητο έλεγχο, μπορεί να υπηρετήσει τη δημόσια ασφάλεια. Ένα pause σχεδιασμένο από τους σημερινούς πρωταγωνιστές, με εξαιρέσεις και πρότυπα που οι ίδιοι διαμορφώνουν, μπορεί να παγιώσει την κυριαρχία τους. Εκεί ακριβώς εμφανίζεται ο κίνδυνος της ρυθμιστικής αιχμαλωσίας: εκείνοι που πρέπει να ελεγχθούν αποκτούν καθοριστικό ρόλο στη διαμόρφωση του ελέγχου τους" τόνισε.
Γιατί γίνονται τώρα αυτές οι δηλώσεις και η οικονομική διάσταση
Ερωτηθείς για το τι προηγήθηκε των δηλώσεων αυτών, ο κ. Χατζηχριστοφής είπε στο ΚΥΠΕ ότι οι δηλώσεις δεν προέκυψαν από το πουθενά.
"Είχαν προηγηθεί οι προειδοποιήσεις του Geoffrey Hinton, οι παραιτήσεις ερευνητών, οι ανοιχτές επιστολές για επιβράδυνση της ανάπτυξης, τα διεθνή συνέδρια για την ασφάλεια και πειράματα στα οποία συστήματα ΤΝ εμφάνισαν συμπεριφορές εξαπάτησης, παράκαμψης περιορισμών ή χειραγώγησης του περιβάλλοντος αξιολόγησής τους. Δεν έχουμε αποδείξεις ότι τα σημερινά συστήματα βρίσκονται ένα βήμα πριν καταλάβουν τον κόσμο. Έχουμε, όμως, αρκετές ενδείξεις ότι η πολυπλοκότητά τους αυξάνεται γρηγορότερα από την ικανότητά μας να εξηγούμε και να ελέγχουμε κάθε συμπεριφορά τους" υπογράμμισε.
Η χρονική στιγμή, επισήμανε ακόμα, έχει και μια οικονομική διάσταση.
Οπως είπε, "η εκπαίδευση ενός νέου μοντέλου αιχμής απαιτεί ολοένα περισσότερα υπολογιστικά συστήματα, ενέργεια, δεδομένα και κεφάλαια, ενώ κάθε νέα επένδυση δεν εξασφαλίζει αναγκαστικά μια αντίστοιχη αύξηση των δυνατοτήτων. Η πρόοδος συνεχίζεται, αλλά δεν ακολουθεί μια απλή, ευθεία και προβλέψιμη γραμμή".
Ο κ. Χατζηχριστοφή είπε στο ΚΥΠΕ ότι συχνά αντιμετωπίζουμε την εξέλιξη της ΤΝ σαν να παρακολουθούμε ένα παιδί. "Γεννιέται, σε λίγους μήνες μπουσουλάει, περίπου έναν χρόνο αργότερα περπατά και λίγο μετά αρχίζει να τρέχει. Αν επεκτείναμε μηχανικά αυτή την καμπύλη, θα συμπεραίναμε ότι στα τέσσερά του χρόνια θα μπορεί να πετάξει. Γνωρίζουμε, όμως, ότι η ανάπτυξη δεν λειτουργεί έτσι. Οι πρώτες θεαματικές βελτιώσεις δεν εγγυώνται ότι ο ίδιος ρυθμός θα συνεχιστεί για πάντα" τόνισε.
Σε αυτή τη φάση, είπε ο κ. Χατζηχριστοφή, μια επιβράδυνση μπορεί να δώσει στις πρωτοπόρες εταιρείες χρόνο να περιορίσουν το κόστος της κούρσας, να αξιοποιήσουν εμπορικά τις υπάρχουσες υποδομές τους και να κατοχυρώσουν το προβάδισμά τους.
Παράλληλα, ανέφερε, η εφαρμογή του ευρωπαϊκού AI Act περνά πλέον από τις γενικές αρχές στην εποπτεία και την επιβολή συγκεκριμένων υποχρεώσεων.
"Οι εταιρείες γνωρίζουν ότι το ρυθμιστικό πλαίσιο διαμορφώνεται τώρα. Επομένως, έχουν κάθε λόγο να διεκδικήσουν θέση στο τραπέζι όπου θα αποφασιστούν τα πρότυπα, οι έλεγχοι και τα όρια ευθύνης τους".
Δεν υποστηρίζω, συνέχισε, ότι υπάρχει κάποια συντονισμένη συνωμοσία. "Επισημαίνω ένα προφανές κίνητρο. Η επίκληση της ασφάλειας μπορεί να λειτουργήσει και ως μηχανισμός προστασίας των εταιρειών που έχουν ήδη αποκτήσει δεδομένα, υποδομές, υπολογιστική ισχύ και πρόσβαση στην αγορά" σημείωσε ο κ. Χατζηχριστοφή.
Πώς μπορεί η ΤΝ να αποβεί επικίνδυνη για την ανθρωπότητα; Με ποιον τρόπο;
Η βαθύτερη απειλή από την ΤΝ, είπε ο κ. Χατζηχριστοφή στο ΚΥΠΕ, έχει ήδη όνομα: άκριτη εμπιστοσύνη στη μηχανή.
Εξήγησε ότι "ο μεγαλύτερος κίνδυνος δεν είναι μόνο ένα μελλοντικό υπερσύστημα που θα στραφεί εναντίον μας. Είναι η σταδιακή εκχώρηση της ανθρώπινης κρίσης στον αλγόριθμο".
"Όταν συνηθίζουμε να ρωτάμε τη μηχανή πριν προσπαθήσουμε να σκεφτούμε, να αποδεχόμαστε πριν ελέγξουμε και να εκτελούμε πριν αναλάβουμε την ευθύνη μιας απόφασης, δημιουργείται αυτό που θα ονόμαζα αποικιοποίηση της ανθρώπινης κρίσης. Η μηχανή δεν χρειάζεται να αποκτήσει συνείδηση για να περιορίσει τη δική μας. Αρκεί εμείς να πάψουμε να αμφιβάλλουμε" υπέδειξε.
Το πρόβλημα, τόνισε, γίνεται ακόμη μεγαλύτερο επειδή τα κυρίαρχα συστήματα ελέγχονται από ελάχιστες εταιρείες.
Διευκρίνισε ότι οι εταιρείες αυτές συγκεντρώνουν δεδομένα, υπολογιστική ισχύ, μοντέλα και τις πλατφόρμες μέσα από τις οποίες εκατομμύρια άνθρωποι πληροφορούνται, εργάζονται, γράφουν και αποφασίζουν.
"Όποιος ελέγχει τα δεδομένα και την υποδομή δεν ελέγχει μόνο μια αγορά. Επηρεάζει ποιες απαντήσεις θα εμφανιστούν, ποιες πηγές θα θεωρηθούν σημαντικές και ποια εκδοχή της πραγματικότητας θα γίνει ορατή" υπογράμμισε ο κ. Χατζηχριστοφή.
Μίλησε και για πιο άμεσους κίνδυνους όπως είναι οι αυτοματοποιημένες κυβερνοεπιθέσεις, βιολογική κακόβουλη χρήση, παραπληροφόρηση, μαζική επιτήρηση, διακρίσεις σε προσλήψεις ή πιστοδοτήσεις, απώλεια θέσεων εργασίας και οπλικά συστήματα χωρίς επαρκή ανθρώπινο έλεγχο.
"Δεν πρέπει, όμως, η συζήτηση για ένα θεαματικό σενάριο εξαφάνισης να μας κάνει να αγνοήσουμε τη βλάβη που μπορεί να συντελείται ήδη, αθόρυβα, μέσα στην εκπαίδευση, στην εργασία, στη δημοκρατία και στην καθημερινή λήψη αποφάσεων" υπέδειξε ο κ. Χατζηχριστοφή.
Η υπαρξιακή απειλή, τόνισε, μπορεί τελικά να μην πάρει τη μορφή μιας μηχανής που θα μας επιτεθεί. "Μπορεί να πάρει τη μορφή μιας κοινωνίας που δεν αισθάνεται πλέον ικανή να αποφασίσει χωρίς τη μηχανή".
Ποια μέτρα θεωρείτε ότι πρέπει να ληφθούν; Είναι ήδη αργά, όπως λένε πρωτοπόροι του κλάδου;
Κατά τον κ. Χατζηχριστοφή, δεν είναι αργά. Εξήγησε ότι εάν ήταν αργά, οι ίδιες οι προειδοποιήσεις δεν θα είχαν κανένα νόημα.
"Είναι, όμως, αργά για αφέλεια. Η ΤΝ έχει ήδη ενσωματωθεί στην εκπαίδευση, στην εργασία, στην ενημέρωση και στη δημόσια διοίκηση. Οι αποφάσεις που θα λάβουμε τώρα θα καθορίσουν εάν θα λειτουργήσει ως εργαλείο ανθρώπινης ενδυνάμωσης ή ως μηχανισμός εξάρτησης και συγκέντρωσης εξουσίας" τόνισε.
Η πρώτη παρέμβαση, είπε ο κ. Χατζηχριστοφή στο ΚΥΠΕ, πρέπει να γίνει στην εκπαίδευση και πρέπει να γίνει άμεσα.
"Ο γραμματισμός στην ΤΝ δεν μπορεί να περιορίζεται σε μερικές οδηγίες για ασφαλή χρήση ή σε μαθήματα συγγραφής καλών prompts. Τα παιδιά πρέπει να μαθαίνουν πώς παράγεται μια απάντηση, πώς ελέγχεται μια πηγή, πώς αναγνωρίζεται η αβεβαιότητα, ποιος επιλέγει τα δεδομένα και ποιος ωφελείται από μια αυτοματοποιημένη απόφαση. Κυρίως, πρέπει να μάθουν να μη δίνουν στη μηχανή το πρώτο δικαίωμα πάνω στη σκέψη τους" προειδοποίησε.
Παράλληλα, είπε ο κ. Χατζηχριστοφή, χρειάζεται να ενισχύσουμε τις ικανότητες που μας κρατούν ανθρώπους: την κριτική σκέψη, τη φαντασία, τη μνήμη, την ενσυναίσθηση, τον διάλογο, την ηθική κρίση και την ανάληψη ευθύνης.
Οπως είπε, "εάν η εκπαίδευση χρησιμοποιήσει την ΤΝ για να αφαιρέσει από το παιδί την προσπάθεια, την αποτυχία και την αμφιβολία, θα έχει αφαιρέσει ακριβώς τις διαδικασίες μέσα από τις οποίες ωριμάζει η σκέψη".
Σε θεσμικό επίπεδο, ανέφερε ότι χρειαζόμαστε πραγματικά ανεξάρτητους ελέγχους των ισχυρότερων μοντέλων, υποχρεωτική αναφορά σοβαρών περιστατικών, πρόσβαση των εποπτικών αρχών και των ανεξάρτητων ερευνητών στα απαραίτητα στοιχεία, σαφή ανθρώπινη ευθύνη για αποφάσεις υψηλού κινδύνου και αποτελεσματικές κυρώσεις.
Χρειαζόμαστε επίσης, συνέχισε, πολιτικές ανταγωνισμού, δημόσιες ψηφιακές υποδομές και κυριαρχία επί των δεδομένων, ώστε η γνώση και η εκπαίδευση να μη γίνουν ιδιοκτησία λίγων τεχνολογικών προμηθευτών.
Αναφερόμενος στο AI Act, είπε ότι αυτό μπορεί να αποτελέσει ουσιαστικό φρένο στην ανεξέλεγκτη εταιρική ισχύ, εφόσον εφαρμοστεί με ανεξαρτησία, διαφάνεια και επαρκείς πόρους.
Ένας νόμος, όμως, συνέχισε ο κ. Χατζηχριστοφή, μπορεί να ελέγξει τη συμπεριφορά των εταιρειών. Δεν μπορεί από μόνος του να διατηρήσει ενεργή τη δική μας κρίση.
"Το πραγματικό ερώτημα δεν είναι αν θα χρησιμοποιούμε Τεχνητή Νοημοσύνη. Θα τη χρησιμοποιούμε. Το ερώτημα είναι εάν θα τη χρησιμοποιούμε ως εργαλείο που υπηρετεί την ανθρώπινη σκέψη ή ως αυθεντία στην οποία θα παραδώσουμε σταδιακά το δικαίωμα να σκέφτεται για εμάς" κατέληξε.
Πηγή: ΚΥΠΕ
