Τριάντα δύο νέες θέσεις εργασίας, με απολαβές που φτάνουν σε εκατοντάδες χιλιάδες δολάρια, ανοίγει η Anthropic, αναζητώντας ειδικούς που θα εντοπίζουν πώς τα συστήματα μπορούν να αξιοποιηθούν για την κατασκευή εκρηκτικών, την ανάπτυξη πυρηνικών όπλων, κυβερνοεπιθέσεις και άλλες μορφές μαζικής καταστροφής.
Οι αγγελίες εργασίας της Anthropic μοιάζουν περισσότερο με κατάλογο παγκόσμιων απειλών παρά με συνηθισμένες θέσεις σε εταιρεία τεχνολογίας, σύμφωνα με τον ιστότοπο Axios.com.
Συνολικά, η εταιρεία αναζητεί προσωπικό για 32 ρόλους, με κοινό στόχο τον έγκαιρο εντοπισμό των τρόπων με τους οποίους κάποιος θα μπορούσε να εκμεταλλευτεί συστήματα τεχνητής νοημοσύνης για να προκαλέσει πραγματική καταστροφή.
Από τα εκρηκτικά έως τα πυρηνικά όπλα
Η Anthropic προσλαμβάνει αναλυτές με εξειδίκευση στα χημικά και τα εκρηκτικά, στα πυρηνικά και ραδιολογικά όπλα, στις οικονομικές απάτες, στο κυβερνοέγκλημα και σε άλλες μορφές κακόβουλης χρήσης της τεχνητής νοημοσύνης.
Σε μία από τις αγγελίες αναφέρεται ότι ο υποψήφιος θα έχει «κρίσιμο ρόλο στην προστασία από την κατάχρηση συστημάτων τεχνητής νοημοσύνης για ραδιολογικές και πυρηνικές βλάβες».
Οι νέοι εργαζόμενοι θα καλούνται να σκέφτονται όπως εκείνοι που επιχειρούν να παρακάμψουν τα φίλτρα ασφαλείας, να αποσπάσουν επικίνδυνες πληροφορίες από τα μοντέλα και να τα χρησιμοποιήσουν για την κατασκευή όπλων ή την εκτέλεση επιθέσεων.
Μισθοί που πλησιάζουν τις 300.000 δολάρια
Η εταιρεία είναι διατεθειμένη να πληρώσει ακριβά τη συγκεκριμένη τεχνογνωσία, καθώς οι αμοιβές για αρκετές από τις θέσεις κινούνται από τα μέσα έως τα υψηλά επίπεδα των 200.000 δολαρίων ετησίως.
Το ύψος των μισθών καταδεικνύει τη βαρύτητα που αποδίδουν πλέον οι εταιρείες τεχνητής νοημοσύνης στον κίνδυνο τα ισχυρότερα μοντέλα τους να μετατραπούν σε εργαλεία στα χέρια εγκληματιών, τρομοκρατικών οργανώσεων ή κρατικών μηχανισμών.
Εκπρόσωπος της Anthropic δήλωσε ότι βασική προϋπόθεση της υπεύθυνης ανάπτυξης είναι να διασφαλίζεται ότι τα μοντέλα δεν παρέχουν δυνητικά επικίνδυνες πληροφορίες.
Όπως εξήγησε, η εταιρεία προσλαμβάνει συστηματικά ειδικούς σε ευαίσθητους τομείς, οι οποίοι γνωρίζουν τόσο τη φύση των απειλών όσο και τον τρόπο με τον οποίο η τεχνητή νοημοσύνη μπορεί να τις ενισχύσει.
Αναζητούν τις αδυναμίες πριν από την κυκλοφορία των μοντέλων
Το έργο των ειδικών δεν περιορίζεται στον προγραμματισμό. Καλούνται να δοκιμάζουν τα συστήματα πριν κυκλοφορήσουν, να επιχειρούν να παρακάμψουν τους μηχανισμούς ασφαλείας και να εντοπίζουν κενά που θα μπορούσαν να εκμεταλλευτούν κακόβουλοι χρήστες.
Η Anthropic υποστηρίζει ότι απασχολεί ήδη εκατοντάδες εργαζομένους που ασχολούνται αποκλειστικά με ζητήματα ασφάλειας. Οι ομάδες αυτές πραγματοποιούν διαρκείς δοκιμές πίεσης στα μοντέλα και διορθώνουν τις αδυναμίες που εντοπίζουν.
Για τον λόγο αυτό, οι θέσεις απαιτούν πραγματική εμπειρία σε τομείς όπως η βιολογία, η πυρηνική τεχνολογία, τα εκρηκτικά και η κυβερνοασφάλεια. Δεν αρκεί η γνώση του τρόπου λειτουργίας ενός μοντέλου τεχνητής νοημοσύνης, αλλά απαιτείται και κατανόηση του τρόπου με τον οποίο θα μπορούσε να χρησιμοποιηθεί στον πραγματικό κόσμο για να προκαλέσει βλάβη.
Οι προειδοποιήσεις Αμοντέι για επιθέσεις με εκατομμύρια θύματα
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, έχει επανειλημμένα προειδοποιήσει ότι η τεχνητή νοημοσύνη μπορεί να ενισχύσει δραματικά τις δυνατότητες κακόβουλων δρώντων.
Σε κείμενό του τον Ιανουάριο είχε χαρακτηρίσει τις βιολογικές επιθέσεις ως ένα από τα πιο ανησυχητικά σενάρια. Είχε σημειώσει ότι δεν θεωρεί βέβαιο πως μια τέτοια επίθεση θα πραγματοποιηθεί αμέσως μόλις καταστεί τεχνικά εφικτή. Εκτιμά, ωστόσο, ότι όσο αυξάνεται ο αριθμός των ανθρώπων με πρόσβαση σε ισχυρά μοντέλα και όσο περνούν τα χρόνια, μεγαλώνει και ο κίνδυνος μιας μεγάλης επίθεσης με εκατομμύρια θύματα.
Η Anthropic έχει δεχθεί συχνά κριτική ότι υιοθετεί υπερβολικά καταστροφολογική στάση απέναντι στην τεχνητή νοημοσύνη. Οι νέες προσλήψεις, ωστόσο, δείχνουν ότι η εταιρεία δεν περιορίζεται στις προειδοποιήσεις, αλλά επενδύει μεγάλα ποσά για να αντιμετωπίσει τους κινδύνους που η ίδια περιγράφει.
Η σύγκρουση με το Πεντάγωνο
Στις αρχές του έτους, η Anthropic συγκρούστηκε με το αμερικανικό υπουργείο Άμυνας σχετικά με την πιθανή χρήση της τεχνολογίας της σε συστήματα μαζικής παρακολούθησης και αυτόνομα όπλα.
Η διαφωνία ανέδειξε το ερώτημα ποιος αποφασίζει πώς μπορούν να χρησιμοποιούνται τα ισχυρότερα μοντέλα τεχνητής νοημοσύνης, ιδιαίτερα όταν το κράτος, ο στρατός και οι ιδιωτικές εταιρείες έχουν διαφορετικές προτεραιότητες.
Ειδικούς για βιολογικούς κινδύνους αναζητεί και η OpenAI
Η Anthropic δεν είναι η μόνη εταιρεία που ενισχύει τις ομάδες ασφαλείας της. Η OpenAI αναζητεί επίσης ερευνητή με ειδίκευση στους βιολογικούς και χημικούς κινδύνους, προσφέροντας ετήσιο βασικό μισθό από 295.000 έως 445.000 δολάρια.
Καθώς τα μοντέλα γίνονται ισχυρότερα, οι μεγαλύτερες εταιρείες του κλάδου επιχειρούν να προλάβουν κινδύνους που μέχρι πρόσφατα έμοιαζαν περισσότερο με σενάρια επιστημονικής φαντασίας.
Οι ίδιες οι εταιρείες καλούνται να θέσουν τους κανόνες
Η τεχνογνωσία μετακινείται ολοένα περισσότερο προς τον ιδιωτικό τομέα και λιγότερο προς τις κυβερνήσεις και τις δημόσιες αρχές.
Σε συνδυασμό με την απουσία ενός συνεκτικού διεθνούς ρυθμιστικού πλαισίου, οι ίδιες οι εταιρείες που κατασκευάζουν τα ισχυρότερα μοντέλα καλούνται να αποφασίσουν ποιοι κίνδυνοι είναι αποδεκτοί, ποια φίλτρα θεωρούνται επαρκή και ποιες χρήσεις πρέπει να απαγορεύονται.
Η αντίφαση είναι εμφανής: οι εταιρείες τεχνητής νοημοσύνης αναπτύσσουν συστήματα που υπόσχονται να αλλάξουν τον κόσμο και, ταυτόχρονα, προσλαμβάνουν ομάδες ειδικών για να διασφαλίσουν ότι τα ίδια συστήματα δεν θα χρησιμοποιηθούν για να τον καταστρέψουν.
Πηγή: naftemporiki.gr
