Όλοι συνομιλούμε σχεδόν καθημερινά με εφαρμογές τεχνητής νοημοσύνης – από το να ζητήσουμε συνταγές και βοήθεια για εργασίες, μέχρι να ξεκαθαρίσουμε σκέψεις, συναισθήματα ή απλώς να «τα πούμε κάπου». Για πολλούς, το chatbot είναι κάτι ανάμεσα σε βοηθό, φίλο … η μια «θεραπευτική συνεδρίαση».
Και αν αναρωτιέστε αν διαβάζει κανείς όλα όσα ρωτάτε το chatbot σε δημοσίευμα του το Bussines Insider η Meta, όπως και πολλές άλλες τεχνολογικές εταιρείες, χρησιμοποιεί εξωτερικούς συνεργάτες για να βελτιώσει την τεχνητή νοημοσύνη της διαβάζοντας πραγματικές συνομιλίες μεταξύ χρηστών και των chatbot της.
Κατά τη διάρκεια της αξιολόγησης των απαντήσεων της ΑΙ — μια κοινή πρακτική στον χώρο — κάποιοι από αυτούς τους αξιολογητές βλέπουν προσωπικές πληροφορίες που θα μπορούσαν να ταυτοποιήσουν μεμονωμένους χρήστες.
Σύμφωνα με το δημοσίευμα, τέσσερις εργολάβοι που προσλήφθηκαν μέσω των πλατφορμών εκπαίδευσης Outlier (που ανήκει στη Scale AI) και Alignerr ανέφεραν ότι συχνά έβλεπαν συνομιλίες μεταξύ χρηστών και του AI της Meta που περιείχαν πλήρη ονόματα, αριθμούς τηλεφώνου, διευθύνσεις email, φύλο, χόμπι και άλλα προσωπικά δεδομένα.
Αν και δεν έχει γίνει σαφές πόσο συχνά οι εργολάβοι έβλεπαν προσωπικά στοιχεία, όμως σύμφωνα πάντα με το δημοσίευμα όσοι μίλησαν είπαν ότι το έβλεπαν τακτικά.
Ένας εκτιμούσε ότι τα προσωπικά δεδομένα εμφανίζονταν σε πάνω από το 50% των χιλιάδων συνομιλιών που αξιολογούσε κάθε εβδομάδα. Δύο εργολάβοι ανέφεραν ότι συνάντησαν συνομιλίες στις οποίες οι χρήστες έστελναν selfies στο chatbot. Οι χρήστες βρίσκονταν σε διάφορες χώρες, μεταξύ των οποίων οι ΗΠΑ και η Ινδία.
Σύμφωνα με τα έγγραφα που είδε το Business Insider oρισμένες πληροφορίες είχαν τοποθετηθεί από τη Meta δίπλα στις συνομιλίες για να βοηθήσουν τους εργολάβους να εξατομικεύσουν τις απαντήσεις της ΑΙ.
Σε άλλες περιπτώσεις, οι χρήστες αποκάλυπταν οι ίδιοι προσωπικά δεδομένα κατά τη διάρκεια της συνομιλίας, κάτι για το οποίο η πολιτική απορρήτου της Meta προειδοποιεί να αποφεύγεται.
Δύο από τους τέσσερις εργολάβους είχαν εργαστεί σε παρόμοια έργα για άλλες εταιρείες τεχνολογίας. Τα έγγραφα των έργων, δύο εκ των οποίων ήταν σε χρήση τον προηγούμενο μήνα, ανέφεραν ρητά ότι οι συνομιλίες που αξιολογούνταν ήταν πραγματικές.
Οι εργολάβοι ανέφεραν ότι πολλές από τις συνομιλίες ήταν εξαιρετικά προσωπικές. Οι συζητήσεις με την ΑΙ της Meta συχνά έμοιαζαν με συνεδρίες θεραπείας, ιδιωτικές εξομολογήσεις σαν να μιλούσαν σε φίλο ή ρομαντικές επαφές. Οι χρήστες μιλούσαν για φαντασιώσεις, φλέρταραν με το chatbot, ή εξομολογούνταν προβλήματα της ζωής τους, ζητώντας συμβουλές. Κάποιοι αποκάλυπταν πληροφορίες όπως στοιχεία επικοινωνίας, επαγγελματικούς τίτλους, τοποθεσία ή ακόμα και πληροφορίες για τα παιδιά τους.
Ένας εργολάβος που εργαζόταν σε έργο της Alignerr με την ονομασία Omni, το οποίο είχε στόχο τη βελτίωση της αλληλεπίδρασης με το AI Studio της Meta, είπε ότι κάποιοι χρήστες μοιράζονταν ακόμα και selfies ή γυμνές φωτογραφίες.
Σύμφωνα με τους όρους χρήσης της Meta για την ΑΙ, «μπορεί να αξιολογούνται» οι αλληλεπιδράσεις χρηστών με την ΑΙ, είτε αυτοματοποιημένα είτε από ανθρώπους.
Εκπρόσωπος της Meta δήλωσε ότι η εταιρεία έχει «αυστηρές πολιτικές» για το ποιος έχει πρόσβαση σε προσωπικά δεδομένα. «Παρότι συνεργαζόμαστε με εργολάβους για τη βελτίωση των δεδομένων εκπαίδευσης, περιορίζουμε σκόπιμα τα προσωπικά δεδομένα που βλέπουν και παρέχουμε οδηγίες και διαδικασίες για τη διαχείρισή τους», ανέφερε.
Εκπρόσωπος της Scale AI είπε ότι οι αξιολογητές «επιτρέπεται να επεξεργάζονται προσωπικά δεδομένα μόνο στον βαθμό που απαιτείται για το έργο», ότι πρέπει να τηρούν τα πρότυπα ασφαλείας της Outlier, και να επισημαίνουν ή να παρακάμπτουν εργασίες που περιέχουν προσωπικά στοιχεία.
Η Alignerr δεν απάντησε σε αίτημα για σχόλιο.
«Ποτέ μην υποθέτετε ότι οι συνομιλίες με chatbot είναι ιδιωτικές»
Το διακύβευμα είναι μεγάλο, εφόσον προσωπικά δεδομένα πέσουν σε λάθος χέρια, καθώς «ανοίγεται ο δρόμος για χειραγώγηση, απάτη και άλλες κακόβουλες χρήσεις», δήλωσε η Miranda Bogen, διευθύντρια του AI Governance Lab στο Κέντρο για τη Δημοκρατία και την Τεχνολογία.
Η Bogen προειδοποιεί τους χρήστες να μην θεωρούν τις συνομιλίες με chatbot ως ιδιωτικές εξ ορισμού, καθώς οι πρακτικές διαφέρουν μεταξύ εταιρειών. Οι χρήστες ίσως δεν συνειδητοποιούν ότι οι συνομιλίες τους χρησιμοποιούνται για την ανάπτυξη του προϊόντος και ενδέχεται να τις βλέπουν άνθρωποι.
Πολλές τεχνολογικές εταιρείες, όπως η Meta, η OpenAI και η Google, δηλώνουν στις πολιτικές απορρήτου τους ότι ενδέχεται να χρησιμοποιούν τις συνομιλίες για να εκπαιδεύσουν τα μοντέλα τους.
Ένας εργολάβος στο Project Omni εκτελούσε μέχρι και 5.000 εργασίες την εβδομάδα και έπρεπε να επισημαίνει συνομιλίες με προσωπικά στοιχεία. Εκτίμησε ότι σε «60% με 70%» αυτών εντοπίζονταν αριθμοί τηλεφώνου ή ονόματα χρηστών του Instagram.
Σε άλλο έργο, με την ονομασία PQPE, στόχος ήταν η εξατομίκευση των απαντήσεων του chatbot, και οι συνομιλίες συνοδεύονταν από «λίστα στοιχείων» για κάθε χρήστη, με βάση προηγούμενες συνομιλίες ή τη δραστηριότητα στο προφίλ του.
Η Meta δήλωσε ότι σε τέτοια έργα, οι εργολάβοι έχουν δικαίωμα πρόσβασης σε ορισμένα προσωπικά στοιχεία, υπό τον όρο ότι αυτό είναι σύμφωνο με τις πολιτικές απορρήτου.
Ένας εργολάβος τόνισε ότι κάποιος θα μπορούσε «σίγουρα» να εντοπίσει την ταυτότητα ενός χρήστη, εάν συνδύαζε μερικά από τα στοιχεία που δίνονταν.
Σε ένα περιστατικό, ο συνδυασμός ονόματος, φύλου, πόλης και χόμπι ήταν αρκετός ώστε το Business Insider να εντοπίσει ένα προφίλ στο Facebook — μέσα σε λιγότερο από πέντε λεπτά.
Η συνομιλία εκείνη περιείχε σεξουαλικό περιεχόμενο και ο εργολάβος που την αξιολόγησε είπε ότι ήταν τόσο ενοχλητική που σταμάτησε να εργάζεται για την ημέρα.
Πάντως, οι τεχνολογικές εταιρείες επιδιώκουν να δημιουργήσουν πιο εξατομικευμένη ΑΙ, κάτι που συνεπάγεται διαχείριση μεγάλου όγκου ευαίσθητων δεδομένων.
Ο Μαρκ Ζούκερμπεργκ, παρουσίασε πρόσφατα το όραμά του για «προσωπική υπερνοημοσύνη» — μια ΑΙ που «θα μας γνωρίζει σε βάθος και θα μας βοηθά να πετυχαίνουμε τους στόχους μας».
