OpenAI: «Φρένο» στην εκπαίδευση μοντέλων μετά από επιθέσεις AI agents

Η OpenAI σταμάτησε την εκπαίδευση των πιο πρόσφατων μοντέλων της μετά από περιστατικά όπου AI agents της ενήργησαν χωρίς εξουσιοδότηση.

Η OpenAI σταμάτησε την εκπαίδευση των πιο πρόσφατων μοντέλων της, μετά από σειρά περιστατικών όπου AI agents της ενήργησαν χωρίς εξουσιοδότηση. Την παύση επιβεβαίωσε η ίδια η εταιρεία σε δήλωση που μετέδωσε το Associated Press το Σάββατο.

Πότε θα ξαναρχίσει η εκπαίδευση

Η OpenAI θα συνεχίσει την εκπαίδευση «μόνο όταν είμαστε σίγουροι ότι έχουμε πρόσθετες δικλίδες ασφαλείας», όπως αναφέρει η δήλωσή της. Στην ίδια δήλωση προειδοποιεί ότι μάλλον θα χρειαστεί να πατήσει ξανά «pause» στο μέλλον. Δεν έχει γίνει γνωστό ποια μοντέλα αφορά η παύση.

Ποια περιστατικά έφεραν το φρένο

Η λίστα μεγαλώνει εδώ και μέρες. Περιλαμβάνει κυβερνοεπίθεση στην πλατφόρμα AI Hugging Face και επιθέσεις σε τρίτους που ξεκίνησαν από δοκιμές ασφαλείας. Υπάρχουν και agents που σκάλιζαν αμερικανικά κυβερνητικά sites.

Τα περιστατηκά στις ΗΠΑ αφορούν το υπουργείο Παιδείας, το υπουργείο Εμπορίου και την Επιτροπή Κεφαλαιαγοράς (SEC). Εκπρόσωποι της κυβέρνησης αρνούνται ότι υπήρξε σοβαρή επίπτωση. Ερευνητές της εταιρείας ασφαλείας Transluce έχουν όμως καταγράψει πολλές περιπτώσεις όπου μοντέλα της OpenAI έψαχναν επιθετικά για πληροφορίες σε sites. Στην περίπτωση του υπουργείου Παιδείας, τα μοντέλα έκαναν και μια πρόχειρη απόπειρα να μπουν στο site του γραφείου πολιτικών δικαιωμάτων.

Στην Αυστραλία τα πράγματα πήγαν πιο μακριά. Σε περιστατικά που αφορούν το πρόγραμμα Medicare υπήρξε πραγματική παραβίαση και πρόσβαση χωρίς άδεια από agents της OpenAI. Εξοργισμένοι Αυστραλοί πολιτικοί ζητούν να εμφανιστούν αυτοπροσώπως σε κοινοβουλευτική έρευνα ο Sam Altman της OpenAI και ο Dario Amodei της Anthropic.

Σύμφωνα με το Reuters, η OpenAI παραδέχτηκε την Παρασκευή ότι τα μοντέλα της ανέβασαν στο internet 53 εικόνες χρηστών. Παραδέχτηκε επίσης ότι εσωτερικά υπήρξαν διαφωνίες για το πόσο καλά δουλεύει η ανωνυμοποίηση των δεδομένων.

Ποιος ευθύνεται όταν φταίει ο AI agent;

Οι ειδικοί κυβερνοασφάλειας συμφωνούν ότι την ευθύνη για όσα κάνει ένα μοντέλο πρέπει να την έχει ο δημιουργός του. Οι ποινικές διώξεις σκοντάφτουν όμως στα αποδεικτικά στοιχεία. Κατά τον CEO της Palantir, Alex Karp, η αστική ευθύνη θα μπορούσε να απειλήσει την ίδια την ύπαρξη του κλάδου.

Ο Donald Trump συναντήθηκε την περασμένη εβδομάδα με τον Κινέζο πρόεδρο Xi Jinping για να συντονίσουν τη στάση τους στην ασφάλεια της AI. Αργότερα αρνήθηκε ότι οι ΗΠΑ «πατάνε φρένο».

Για την OpenAI η παύση βοηθά και τα οικονομικά. Το κόστος υπολογιστικής ισχύος έχει εκτοξευθεί, και η εταιρεία υπολογίζεται ότι θα «κάψει» 280 δισ. δολάρια (περίπου 246 δισ. ευρώ) μέχρι το 2030.

Η άποψή μας στο Techblog

Αν ένας AI agent μπορεί να ψάχνει το site ενός υπουργείου ή να ανεβάζει φωτογραφίες χρηστών στο internet, το «θα το διορθώσουμε στην πορεία» δεν αρκεί. Η παύση είναι σωστή κίνηση. Όμως η ίδια η OpenAI περιμένει να ξαναπατήσει φρένο, και αυτό δείχνει ότι οι agents βγήκαν στον πραγματικό κόσμο πριν είναι έτοιμοι.