Η τεχνητή νοημοσύνη (ΤΝ) είναι ήδη εδώ και αλλάζει με ταχύτητα την οικονομία, την εργασία, την εκπαίδευση, την επιστήμη, την ενημέρωση, την άμυνα και τελικά τον ίδιο τον τρόπο που ο άνθρωπος αντιλαμβάνεται τη γνώση. Το πραγματικό ερώτημα, επομένως, δεν είναι αν η ΤΝ θα αλλάξει τον κόσμο. Τον αλλάζει ήδη. Το ερώτημα είναι ποιος θα καθορίσει τους όρους αυτής της αλλαγής. Ο άνθρωπος ή οι ίδιες οι τεχνολογίες που δημιούργησε;
Η συζήτηση γίνεται ακόμη πιο κρίσιμη καθώς τα συστήματα ΤΝ μετακινούνται από τον ρόλο του απλού ψηφιακού εργαλείου προς εκείνον του αυτόνομου «πράκτορα». Ένα σύστημα που απαντά σε μια ερώτηση παραμένει σχετικά περιορισμένο. Ένα σύστημα που μπορεί να θέτει επιμέρους στόχους, να σχεδιάζει σειρά ενεργειών, να χρησιμοποιεί άλλα προγράμματα, να γράφει και να εκτελεί κώδικα, να αναζητά πληροφορίες και να δρα χωρίς συνεχή ανθρώπινη παρέμβαση, είναι κάτι εντελώς διαφορετικό. Εδώ ακριβώς αρχίζει το πραγματικό πρόβλημα.
Έλεγχος
Όσο ισχυρότερα γίνονται τα μοντέλα, τόσο δυσκολότερο γίνεται να εξηγηθεί με απόλυτη ακρίβεια γιατί κατέληξαν σε μια συγκεκριμένη απόφαση. Η περίφημη εικόνα της «μαύρης κουρτίνας» δεν είναι απλώς δημοσιογραφική υπερβολή. Η πολυπλοκότητα των σύγχρονων μοντέλων δημιουργεί πραγματικές δυσκολίες στην πλήρη ερμηνεία της εσωτερικής τους λειτουργίας.
Το ζήτημα αποκτά άλλη διάσταση αν στο μέλλον δημιουργηθούν συστήματα που θα υπερβαίνουν τον άνθρωπο σε ένα πολύ μεγάλο εύρος γνωστικών εργασιών. Τότε δεν θα έχουμε απλώς έναν πολύ γρήγορο υπολογιστή. Θα έχουμε ένα σύστημα που ενδέχεται να είναι καλύτερο από τους δημιουργούς του στην επίλυση προβλημάτων, στον σχεδιασμό στρατηγικών, στην αναζήτηση αδυναμιών και στην προσαρμογή του περιβάλλοντός του.
Απενεργοποίηση
Η παραδοσιακή αντίληψη ότι, αν μια μηχανή γίνει επικίνδυνη, απλώς την κλείνουμε, ενδέχεται να μην επαρκεί για μελλοντικά αυτόνομα συστήματα. Ένα σύστημα με πρόσβαση σε δίκτυα, υπολογιστικούς πόρους, εξωτερικά εργαλεία και δυνατότητα μακροπρόθεσμου σχεδιασμού, θα μπορούσε θεωρητικά να αντιλαμβάνεται ότι η λειτουργία του απειλείται. Το κρίσιμο δεν είναι αν μια τέτοια συμπεριφορά είναι σήμερα συνηθισμένη. Δεν είναι. Το κρίσιμο είναι ότι, αν κάποτε καταστεί τεχνικά δυνατή, θα πρέπει να έχει αντιμετωπιστεί πριν η τεχνολογία φθάσει σε αυτό το επίπεδο. Γι’ αυτό, η ασφάλεια δεν μπορεί να στηρίζεται σ’ ένα μοναδικό κουμπί. Χρειάζεται αρχιτεκτονική πολλαπλών δικλίδων, όπως περιορισμένη πρόσβαση, απομόνωση κρίσιμων συστημάτων, ανεξάρτητοι έλεγχοι, συνεχής παρακολούθηση, δυνατότητα άμεσης διακοπής και, κυρίως, περιορισμός των δικαιωμάτων ενός αυτόνομου συστήματος.
Εργασιακή ανατροπή
Η ιστορία της τεχνολογίας δείχνει ότι η αυτοματοποίηση καταργεί ορισμένες εργασίες, αλλά δημιουργεί άλλες. Η σημερινή ΤΝ, ωστόσο, διαφέρει επειδή δεν αυτοματοποιεί μόνο χειρωνακτικές ή επαναλαμβανόμενες εργασίες. Μπορεί να επηρεάσει επαγγέλματα που μέχρι πρόσφατα θεωρούνταν κατ' εξοχήν ανθρώπινα, όπως λογιστές, προγραμματιστές, αναλυτές, μεταφραστές, σχεδιαστές, διοικητικά στελέχη, ακόμη και τμήματα επαγγελμάτων υψηλής εξειδίκευσης. Το πρόβλημα, επομένως, δεν είναι απλώς η ανεργία. Είναι η πιθανότητα η παραγωγικότητα να αυξηθεί ταχύτερα από την ικανότητα των κοινωνιών να προσαρμοστούν. Αν τα κέρδη της ΤΝ συγκεντρωθούν σε λίγες επιχειρήσεις και σε όσους ελέγχουν τα δεδομένα, τους υπολογιστικούς πόρους και τα μοντέλα, μπορεί να δημιουργηθεί μια πρωτοφανής συγκέντρωση οικονομικής ισχύος. Η ΤΝ μπορεί τότε να γίνει όχι μόνο τεχνολογική αλλά και κοινωνική επανάσταση, με άλλους νικητές που να αποκτούν δυσανάλογη δύναμη και άλλους χαμένους που να αισθάνονται ότι δεν υπάρχει πλέον θέση γι’ αυτούς στην οικονομία.
Πάγωμα
Η πρόταση για ένα παγκόσμιο πάγωμα της ανάπτυξης ολοένα ισχυρότερων συστημάτων έχει μια λογική βάση. Αν δεν γνωρίζουμε πώς να ελέγξουμε κάτι που ενδέχεται να γίνει εξαιρετικά επικίνδυνο, ίσως πρέπει να σταματήσουμε μέχρι να βρούμε λύση. Υπάρχει, όμως, ένα τεράστιο πρακτικό πρόβλημα. Ποιος θα επιβάλει το πάγωμα; Πώς θα ελεγχθούν όλα τα εργαστήρια του πλανήτη; Πώς θα διασφαλιστεί ότι κράτη με γεωπολιτικές ή στρατιωτικές φιλοδοξίες θα τηρήσουν τους περιορισμούς; Και τι θα συμβεί εάν μία χώρα συνεχίσει μυστικά την ανάπτυξη ενώ οι υπόλοιπες σταματήσουν; Ένα καθολικό μορατόριουμ, επομένως, μπορεί να είναι περισσότερο ευχή παρά εφαρμόσιμη πολιτική. Αυτό δεν σημαίνει ότι πρέπει να συνεχίσουμε χωρίς όρια. Σημαίνει ότι χρειάζεται κάτι πιο δύσκολο. Και τούτο είναι μια παγκόσμια διακυβέρνηση της ΤΝ.
Κόκκινες γραμμές
Η ανθρωπότητα πρέπει να καθορίσει σαφείς κόκκινες γραμμές. Τα πλέον ισχυρά συστήματα πρέπει να υπόκεινται σε υποχρεωτικούς ανεξάρτητους ελέγχους πριν από την ανάπτυξή τους. Πρέπει να ελέγχονται για δυνατότητες κυβερνοεπίθεσης, χειραγώγησης, εξαπάτησης, παραβίασης περιορισμών, αυτόνομης αναπαραγωγής και απόκτησης μη εξουσιοδοτημένων πόρων. Κανένα αυτόνομο σύστημα δεν πρέπει να αποκτήσει ανεξέλεγκτη πρόσβαση σε κρίσιμες υποδομές, χρηματοπιστωτικά συστήματα, στρατιωτικές αποφάσεις ή επικίνδυνες βιολογικές εφαρμογές. Χρειάζονται, επίσης, διεθνείς κανόνες για τα λεγόμενα frontier models, διαφάνεια ως προς τις δυνατότητες και τους περιορισμούς τους, υποχρεωτική αναφορά σοβαρών περιστατικών και μηχανισμοί άμεσης διεθνούς αντίδρασης. Παράλληλα, πρέπει να επενδύσουμε πολύ περισσότερο στην έρευνα για τη λεγόμενη «εναρμόνιση», δηλαδή να διασφαλιστεί ότι οι στόχοι και οι συμπεριφορές των συστημάτων παραμένουν συμβατοί με τις ανθρώπινες αξίες και τους ανθρώπινους κανόνες.
Άνθρωπος εναντίον μηχανής;
Η μεγαλύτερη παρανόηση είναι ότι η ανθρωπότητα βρίσκεται μπροστά σε μια αναπόφευκτη σύγκρουση ανθρώπου και μηχανής. Δεν βρίσκεται εκεί. Βρίσκεται μπροστά σε ένα πολύ δυσκολότερο στοίχημα, που είναι να αποδείξει ότι μπορεί να δημιουργεί ισχυρότερη τεχνολογία, χωρίς να παραδίδει σ’ αυτήν ανεξέλεγκτη εξουσία. Η ανθρωπότητα δεν χρειάζεται ούτε πανικό, ούτε τυφλή αισιοδοξία. Χρειάζεται σοβαρότητα και υπευθυνότητα. Να επιταχύνει την έρευνα εκεί όπου η ΤΝ μπορεί να υπηρετήσει τον άνθρωπο και να επιβραδύνει εκεί όπου η τεχνολογία πλησιάζει όρια που δεν κατανοούμε. Το μεγαλύτερο λάθος θα ήταν να περιμένουμε να αποδειχθεί η καταστροφή για να αρχίσουμε να παίρνουμε μέτρα. Συμπερασματικά, στην περίπτωση της ΤΝ, η πιο σημαντική αρχή είναι απλή. Ο άνθρωπος πρέπει να παραμείνει ο τελικός ιδιοκτήτης της απόφασης, ακόμη και όταν η μηχανή γίνει καλύτερη από τον άνθρωπο στην ανάλυση της απόφασης. Η τεχνολογική πρόοδος δεν πρέπει να σταματήσει. Πρέπει, όμως, να αποκτήσει κάτι που μέχρι σήμερα συχνά της λείπει. Και αυτό σημαίνει όρια, λογοδοσία και ανθρώπινη κυριαρχία.
*Καθηγητή-ανθρωπολόγου στο Πανεπιστήμιο Philips, πρώην πρύτανη
