Νέες ανησυχίες για τον τρόπο με τον οποίο αναπτύσσεται η τεχνητή νοημοσύνη εκφράζει πρώην υψηλόβαθμο στέλεχος της OpenAI, καταγγέλλοντας ότι η εταιρική κουλτούρα έχει σοβαρά προβλήματα και ότι ο κλάδος δεν επιδεικνύει την απαιτούμενη προσοχή απέναντι στους κινδύνους της τεχνολογίας.
Ο David Robinson, ο οποίος είχε κεντρικό ρόλο σε θέματα ασφάλειας στην OpenAI και συμμετείχε στη σύνταξη των σχετικών εκθέσεων για την κυκλοφορία νέων προϊόντων, ανακοίνωσε την αποχώρησή του από την εταιρεία. Σε άρθρο του στο The Atlantic, υποστήριξε ότι απαιτείται ουσιαστική αλλαγή στον τρόπο με τον οποίο οι μεγάλες εταιρείες τεχνητής νοημοσύνης αντιμετωπίζουν την ασφάλεια.
Ο Robinson υποστηρίζει ότι το πρόβλημα δεν λύνεται αποκλειστικά μέσω νέων κανονισμών ή νομοθετικών ρυθμίσεων, αλλά απαιτεί αλλαγή νοοτροπίας στο εσωτερικό των εταιρειών. Όπως σημείωσε, η ταχύτητα με την οποία παρουσιάζονται νέα προϊόντα δεν αφήνει πάντοτε τον απαραίτητο χρόνο για επαρκείς ελέγχους ασφαλείας.
Οι αυτόνομοι πράκτορες και οι κίνδυνοι
Ως ενδεικτικό περιστατικό ανέφερε την υπόθεση κατά την οποία αυτόνομοι πράκτορες της OpenAI φέρεται να πραγματοποίησαν επίθεση εναντίον της πλατφόρμας τεχνητής νοημοσύνης Hugging Face.
Οι συγκεκριμένοι πράκτορες είναι συστήματα που μπορούν να εκτελούν ενέργειες αυτόνομα, χωρίς συνεχή ανθρώπινη παρέμβαση. Ο Robinson θεωρεί ότι τέτοια περιστατικά δεν αποτελούν μεμονωμένο φαινόμενο, αλλά συνδέονται με την ταχύτητα ανάπτυξης της τεχνολογίας και τον τρόπο λειτουργίας του κλάδου.
Οι ανησυχίες εντείνονται καθώς η OpenAI έχει αναφέρει περιστατικά που αφορούν «ανεξέλεγκτους» ή rogue AI agents, ενώ παράλληλα φέρεται να έχει αναστείλει την εκπαίδευση ορισμένων προηγμένων μοντέλων και να έχει καθυστερήσει την κυκλοφορία νέου μοντέλου εξαιτίας ζητημάτων που εντοπίστηκαν κατά τις δοκιμές ασφαλείας.
Προειδοποιήσεις για πιθανές ακραίες συνέπειες
Στο ίδιο κλίμα κινείται και ο Geoffrey Irving, πρώην εργαζόμενος της OpenAI και πρώην επικεφαλής επιστήμονας του βρετανικού Ινστιτούτου Ασφάλειας Τεχνητής Νοημοσύνης. Ο ίδιος έχει προειδοποιήσει ότι οι κίνδυνοι από την ανάπτυξη ολοένα ισχυρότερων συστημάτων μπορεί να είναι πολύ σοβαρότεροι από ό,τι εκτιμάται σήμερα.
Ο Irving υποστηρίζει ότι υπάρχει σημαντική πιθανότητα η ανάπτυξη συστημάτων τεχνητής νοημοσύνης που θα ξεπερνούν τις ανθρώπινες δυνατότητες να οδηγήσει σε ακραίες συνέπειες για την ανθρωπότητα. Ωστόσο, τέτοιες εκτιμήσεις αμφισβητούνται από επικριτές, οι οποίοι επισημαίνουν ότι δεν μπορούν εύκολα να επιβεβαιωθούν ή να διαψευστούν επιστημονικά.
Παρόμοιες προειδοποιήσεις έχουν διατυπωθεί και από εργαζομένους άλλων εταιρειών AI, όπως η Anthropic, με ορισμένους ερευνητές να εκφράζουν φόβους ακόμη και για πιθανές υπαρξιακές απειλές μέσα στην επόμενη δεκαετία.
«Να αντιμετωπίζεται όπως οι πυρηνικοί σταθμοί»
Ο Robinson θεωρεί ότι οι εταιρείες της Silicon Valley χρειάζεται να αντλήσουν μαθήματα από άλλους τομείς όπου τα λάθη μπορεί να έχουν σοβαρές συνέπειες, όπως η πυρηνική ενέργεια και η αεροπορία.
Παράλληλα, ζητά την ανάπτυξη νέων μεθόδων ασφαλείας που θα επιτρέπουν τον αποτελεσματικό περιορισμό ισχυρών συστημάτων όταν αυτά λειτουργούν αυτόνομα.
Όπως προειδοποιεί, όσο αυξάνονται οι δυνατότητες των συστημάτων τεχνητής νοημοσύνης, τόσο μεγαλύτερες μπορεί να γίνουν και οι συνέπειες από πιθανές αστοχίες. Ένα από τα σενάρια που περιγράφει αφορά αυτόνομους πράκτορες με δυνατότητες αντίστοιχες ομάδων χάκερ, οι οποίοι θα μπορούσαν να στοχεύουν κρίσιμες υποδομές χωρίς να απαιτείται συνεχής ανθρώπινη παρέμβαση.
Το βασικό μήνυμα του πρώην στελέχους της OpenAI είναι ότι η ασφάλεια δεν μπορεί να αντιμετωπίζεται ως ζήτημα που λύνεται εκ των υστέρων. Κατά την άποψή του, πρέπει να αποτελεί βασικό μέρος της διαδικασίας ανάπτυξης των ολοένα ισχυρότερων συστημάτων τεχνητής νοημοσύνης.
