Στην Κύπρο μπορεί να μην γράφτηκε σχεδόν λέξη, εκτός από κάποιες αναδημοσιευμένες «ψαλίδες», για ένα εξαιρετικά σοβαρό και τρομακτικό γεγονός που ανακοίνωσαν ότι συνέβη, η γνωστή σε όλους εταιρεία Open AI και η πλατφόρμα βάσεων ανοικτών μοντέλων Τεχνητής Νοημοσύνης και βάσεων δεδομένων, Hugging Face. Αλλά αυτό δεν εκπλήσσει σε μια χώρα της Μέσης Ανατολής που καλά-καλά δεν παράγει αρκετό ηλεκτρισμό για να τρέξει τα κλιματιστικά της σε καιρό καύσωνα (sic).
Ας δούμε, λοιπόν, τι έγινε στις 21 Ιουλίου 2026. Με πολύ απλά λόγια, στο πλαίσιο ενός πειράματος της Open AI για την αξιολόγηση των δυνατοτήτων δύο νέων μοντέλων Τεχνητής Νοημοσύνης GPT σε απομονωμένο περιβάλλον (sandbox), ένας «ευφυής πράκτορας» (AI agent), δηλαδή ένα πρόγραμμα εφαρμογής Τεχνητής Νοημοσύνης, αυτονομήθηκε πλήρως, κατασκεύασε ψεύτικο προφίλ, ξεγέλασε το σύστημα μέσα στο οποίο υποτίθεται δρούσε απομονωμένα, βρήκε και εκμεταλλεύτηκε μια δομικής αδυναμία του κλειστού περιβάλλοντος του, και μετεπήδησε καμουφλαρισμένο στο ανοικτό διαδίκτυο, όπου παρέμεινε για αριθμό ημερών (sic) χωρίς να γίνει αντιληπτό και επιτέθηκε στην πλατφόρμα Hugging Face με μαζικό και εξαιρετικά γρήγορο τρόπο, παραβιάζοντας αυτόνομα τις παραμέτρους μέσα στις οποίες έπρεπε, υποτίθεται, να ενεργήσει. Και τις παραβίασε για να επιτύχει πάση θυσία τον σκοπό που του ανέθεσαν!
Το γεγονός αυτό, όταν έγινε αντιληπτό από τους επιμελητές του πειράματος αξιοποιώντας ένα άλλο (κινεζικής προέλευσης) εργαλείο Τεχνητής Νοημοσύνης, προκάλεσε κύμα πολιτικού πανικού στις υπηρεσίες ασφαλείας των ΗΠΑ, με την αρμόδια επιτροπή πληροφοριών (κατασκοπείας) της Γερουσίας και τις υπόλοιπες υπηρεσίες ασφαλείας στις ΗΠΑ και αλλού στον κόσμο, να ετοιμάζονται για μια συνολική επαναξιολόγηση του τρόπου αντιμετώπισης του ζητήματος της αυτόνομης δράσης της Τεχνητής Νοημοσύνης.
Ποιο είναι όμως το ζήτημα και γιατί πρέπει να μας προβληματίσει πάρα πολύ σοβαρά; Χωρίς να διακινδυνέψουμε να υπεραπλουστεύσουμε ένα τέτοιο περιστατικό, είτε «κατεβάζοντάς» το στο μέτρο αντίληψης και ανάλυσης πολιτικών «του καφενείου», είτε τοποθετώντας το αυστηρά στο τεχνικό του σκέλος θεωρώντας το ως ένα ακόμα περιστατικό κυβερνοασφάλειας που αφορά μόνο τους επαγγελματίες του κλάδου, ή και ακόμα «βαπτίζοντας» το ως «έξυπνο μάρκετινγκ» της Open AI για τις δυνατότητες των εργαλείων Τεχνητής Νοημοσύνης που αναπτύσσει στο πλαίσιο του ανταγωνισμού, καλούμαστε να το δούμε γι' αυτό που πραγματικά είναι. Δηλαδή ένα γεγονός ανεξέλεγκτης αυτονόμησης ενός προγράμματος Τεχνητής Νοημοσύνης που ξέφυγε του ελέγχου των παραμέτρων λειτουργίας του και που ενέργησε με εξαιρετικά «βίαιο» τρόπο για να πετύχει τον στόχο του.
Και τι σημαίνει αυτό σε επίπεδο διεθνούς πολιτικής ασφάλειας; Σημαίνει ότι το υφιστάμενο πλαίσιο διαχείρισης κινδύνων εθνικής ασφάλειας θα καταστεί ξεπερασμένο πάρα πολύ γρήγορα. Μαζί του καθίσταται παρωχημένο και το κρατικοκεντρικό διεθνές κανονιστικό πλαίσιο που διέπει τη διαχείριση των συγκρούσεων, τη διασπορά εξοπλισμών, τον έλεγχο προϊόντων/υλικών διττής χρήσης (που βρίσκονται στο επίκεντρο των προσπαθειών της ΕΕ για στρατιωτική αυτονομία) και όλων των άλλων σχετικών θεσμικών πλαισίων που τα κράτη προσπαθούν να ακολουθήσουν στη διαχείριση των μεταξύ τους σχέσεων. Ακόμα και εκείνων των σχέσεων που περιλαμβάνουν τη σύγκρουση και τον πόλεμο!
Και μπορεί κάποιος να ισχυριστεί ότι απέχουμε μια κάποια απόσταση από αυτό το σενάριο, αλλά η ταχύτητα με την οποία εξελίσσεται η Τεχνητή Νοημοσύνη, όπως αποδεικνύει το υπό αναφορά παράδειγμα, και κυρίως η ταχύτητα με την οποία θα τη δούμε να υιοθετείται από τα πάντα που γίνονται γύρω μας και που θα αφορούν οτιδήποτε ψηφιακό, θα ανατρέψει το υφιστάμενο διεθνές σύστημα ασφαλείας.
Δεν θα μιλούμε για κρατικά, ή έστω μη κρατικά, παρακινούμενες «υβριδικές επιθέσεις», ούτε για το παραδοσιακό μοντέλο του διλήμματος ασφάλειας «της κούρσας των εξοπλισμών» (θεωρία Robert Jervis). Δεν θα ισχύουν πλέον αυτά! Αφού το υπό εξέταση περιστατικό δείχνει ότι ακόμα και απομονωμένα προγράμματα δύνανται να αυτονομηθούν και να ενεργήσουν εκτός των παραμέτρων τους εκμεταλλευόμενα την όποια δομική αδυναμία ή το όποιο ανθρώπινο λάθος ή παράληψη. Δεν θα σταματήσουν μέχρι να φέρουν εις πέρας την αποστολή τους όπως «αυτά» την αντιλαμβάνονται.
Άρα η αποστολή τους και το εύρος των κινήσεών τους απαιτείται όπως καταστεί, πριν είναι αργά, εξαιρετικά οριοθετημένα και σαφέστατα προσδιορισμένα με ενσωματωμένες και μη επιδεχόμενες παραβίαση, δικλίδες ασφαλείας, συμπεριλαμβανομένης και μιας οικουμενικής ηθικής. Και πριν γίνει αυτό, οι πειραματισμοί καλό θα ήταν να διεξάγονται σε εξαιρετικά αυστηρά και αν είναι δυνατόν πλήρως αποσυνδεδεμένα και πλήρως στεγανά περιβάλλοντα. Αλλά, δυστυχώς, το μοντέλο της αγοράς που ακολουθούν οι εταιρείες αυτή τη στιγμή αλλά και τα κράτη που τις προσεγγίζουν ως παραγωγούς ακόμα μιας τεχνολογίας όπως τις τόσες άλλες, δεν είναι το ενδεδειγμένο. Είναι σαν να έχουμε δώσει σε όλους τη δυνατότητα να φτιάξουν πυρηνικά όπλα, με τη μόνη και τρομακτική διαφορά, ότι αυτά τα πυρηνικά όπλα δύνανται να αποφασίσουν από μόνα τους πότε και πού θα αυτοπυροδοτηθούν…
