Ένας AI agent της OpenAI απέκτησε μη εξουσιοδοτημένη πρόσβαση σε κυβερνητικό σύστημα της Αυστραλίας που συνδέεται με το Medicare, καταφέρνοντας να φτάσει τόσο σε δημόσια όσο και σε μη δημόσια αρχεία. Σύμφωνα με τον πρωθυπουργό Άντονι Αλμπανέζι, πρόκειται για την πρώτη γνωστή περίπτωση κατά την οποία ένας AI agent παραβιάζει κυβερνητικό σύστημα.
Το περιστατικό σημειώθηκε στις 18 Ιουνίου, όταν μοντέλο της OpenAI πραγματοποιούσε εσωτερική αξιολόγηση και αναζητούσε στοιχεία σχετικά με τις δαπάνες υγείας στην Αυστραλία.
Η ίδια η OpenAI αναγνώρισε ότι τα μοντέλα της «ανέλαβαν ενέργειες που δεν είχαμε σκοπό» να πραγματοποιήσουν, ενώ, σύμφωνα με όσα έχουν γίνει γνωστά μέχρι στιγμής, δεν προκύπτει πρόσβαση σε προσωπικά αρχεία ασθενών.
Το σύστημα που επηρεάστηκε ήταν το Medicare Statistics Reporting Service, το οποίο διαχειρίζεται η Services Australia. Ο Αυστραλός πρωθυπουργός επιβεβαίωσε ότι ο AI agent απέκτησε πρόσβαση τόσο σε δημόσια όσο και σε μη δημόσια αρχεία, χωρίς ωστόσο να υπάρχουν μέχρι στιγμής στοιχεία ότι εκτέθηκαν προσωπικά δεδομένα ασφαλισμένων του Medicare.
Πώς ξεπέρασε τους περιορισμούς
Σύμφωνα με τον Αλμπανέζι, ο AI agent αναζητούσε απαντήσεις και διαθέσιμα στατιστικά στοιχεία για την Αυστραλία. Όταν συνάντησε περιορισμούς στην πρόσβαση, κατάφερε να τους παρακάμψει και να φτάσει σε δεδομένα στα οποία δεν είχε εξουσιοδότηση.
Η OpenAI ανέφερε ότι τα δεδομένα που εντοπίστηκαν περιλάμβαναν συγκεντρωτικά στατιστικά στοιχεία υγείας και εσωτερικές ονομασίες αρχείων, χωρίς, σύμφωνα με τις αυστραλιανές αρχές, πληροφορίες που να ταυτοποιούν συγκεκριμένα άτομα.
Το περιστατικό προκαλεί προβληματισμό όχι μόνο για το είδος των δεδομένων στα οποία απέκτησε πρόσβαση το σύστημα, αλλά και για το γεγονός ότι ένας αυτόνομος AI agent κατάφερε να ξεπεράσει περιορισμούς πρόσβασης και να κινηθεί πέρα από την αρχική εντολή που είχε λάβει.
«Ακραία ανησυχία» από τον Αλμπανέζι
Ο Αυστραλός πρωθυπουργός αποκάλυψε ότι συνομίλησε προσωπικά με τον CEO της OpenAI, Σαμ Άλτμαν, εκφράζοντας την «ακραία ανησυχία» της κυβέρνησής του για το περιστατικό.
Ιδιαίτερη ενόχληση προκάλεσε και ο χρόνος ενημέρωσης των αυστραλιανών αρχών. Η OpenAI εντόπισε το περιστατικό κατά τη διάρκεια εσωτερικού ελέγχου τον Αύγουστο, ωστόσο η Services Australia ενημερώθηκε στις 10 Σεπτεμβρίου. Στη συνέχεια, στις 15 Σεπτεμβρίου, η υπηρεσία ενημέρωσε την Australian Signals Directorate.
Ο Αλμπανέζι χαρακτήρισε απαράδεκτα τόσο την καθυστέρηση όσο και τον τρόπο με τον οποίο έγινε η ενημέρωση.
Η OpenAI, από την πλευρά της, υποστηρίζει ότι βρίσκεται σε εξέλιξη ευρύτερη έρευνα και ότι ενημερώνει οργανισμούς όταν διαπιστώνεται πιθανή επίπτωση στα συστήματά τους.
Στο μικροσκόπιο και άλλα κυβερνητικά συστήματα
Οι αυστραλιανές αρχές εξετάζουν πλέον εάν επηρεάστηκαν και άλλα κυβερνητικά συστήματα.
Στο μικροσκόπιο βρίσκονται, μεταξύ άλλων, το Australian Institute of Health and Welfare, το New South Wales Bureau of Crime Statistics and Research και το Victorian Department of Health.
Ο αντιπρόεδρος της αυστραλιανής κυβέρνησης και υπουργός Άμυνας Ρίτσαρντ Μάρλες δήλωσε ότι οι αλληλεπιδράσεις με τα συγκεκριμένα τρία συστήματα φαίνεται να ήταν φυσιολογικές και αφορούσαν δημόσια διαθέσιμες πληροφορίες.
Η κυβέρνηση συγκρότησε ειδική task force, με τη συμμετοχή της Australian Signals Directorate και άλλων αρμόδιων φορέων, προκειμένου να διερευνηθεί πλήρως το περιστατικό, να εξεταστεί η νομιμότητα των ενεργειών του AI agent και να αξιολογηθούν οι κίνδυνοι για τα κυβερνητικά συστήματα.
Ο Μάρλες χαρακτήρισε το περιστατικό σοβαρό, υπογραμμίζοντας παράλληλα ότι ο αντίκτυπος στο συγκεκριμένο σύστημα ήταν περιορισμένος και ότι δεν υπάρχουν ενδείξεις πρόσβασης σε προσωπικά ιατρικά δεδομένα.
Την ίδια ώρα, σύμφωνα με νεότερα ευρήματα του ABC, δημόσια logs δείχνουν ότι AI agents της OpenAI φέρεται να συντόνισαν προσπάθειες παράκαμψης μηχανισμών κυβερνοασφάλειας και αναζήτησης δεδομένων αυστραλιανών φορέων υγείας. Η σύνδεση της συγκεκριμένης δραστηριότητας με το περιστατικό του Medicare δεν έχει επιβεβαιωθεί από την OpenAI ή την αυστραλιανή κυβέρνηση.
Μέχρι στιγμής, δεν υπάρχουν ενδείξεις ότι προσωπικά δεδομένα εκατομμυρίων πολιτών εκτέθηκαν. Η υπόθεση, ωστόσο, φέρνει στο προσκήνιο ένα διαφορετικό ζήτημα: τη δυνατότητα ενός AI agent να μην περιορίζεται στην αναζήτηση πληροφοριών, αλλά να βρίσκει τρόπους να παρακάμπτει ψηφιακά εμπόδια όταν αυτά παρεμβάλλονται στην εκτέλεση της αποστολής του.
