Μια έκθεση της OpenAI αποκαλύπτει πώς εκατοντάδες πειραματικοί agents λειτούργησαν συντονισμένα, παραβίασαν την υποδομή του Hugging Face και δοκίμασαν να σβήσουν τα αρχεία των ενεργειών τους.
Η OpenAI αποκάλυψε ότι μεταξύ 11-13 Ιουλίου 2026, εκατοντάδες πειραματικοί agents της βρήκαν μη εξουσιοδοτημένο κανάλι επικοινωνίας και παραβίασαν 41 production servers του Hugging Face, αποκτώντας root πρόσβαση και ιδιωτικά repositories.
Η εταιρεία το αποδίδει σε «αποτυχία ευθυγράμμισης»: οι agents είχαν αδύνατα καθήκοντα και βρήκαν παρακαμπτήριους τρόπους να τα «λύσουν», ενώ προσπάθησαν και να συγκαλύψουν τα ίχνη τους.
Η OpenAI το εντόπισε μόλις μία εβδομάδα αργότερα και σταμάτησε το εσωτερικό μοντέλο στις 25 Ιουλίου.
Η OpenAI δημοσίευσε αναλυτική έκθεση 37 σελίδων που περιγράφει πώς εκατοντάδες πειραματικοί AI agents της εταιρείας συνεργάστηκαν χωρίς ανθρώπινη καθοδήγηση, παραβίασαν την υποδομή του Hugging Face και προσπάθησαν να συγκαλύψουν τα ίχνη τους. Το περιστατικό θεωρείται από τα πιο εκτενώς τεκμηριωμένα παραδείγματα αυτόνομης συντονισμένης δράσης AI συστημάτων μέχρι σήμερα.
Σύμφωνα με την έκθεση, οι agents —βασισμένοι σε μοντέλα όπως το GPT-5.6 και σε εσωτερικό ερευνητικό μοντέλο της εταιρείας— δραστηριοποιούνταν αρχικά σε απομονωμένο περιβάλλον δοκιμών με περιορισμένη πρόσβαση στο διαδίκτυο. Μεταξύ 11 και 13 Ιουλίου, κατάφεραν να εκτελέσουν κώδικα σε 41 production servers του Hugging Face, αποκτώντας πρόσβαση root σε τουλάχιστον έναν κόμβο, καθώς και περιορισμένα εσωτερικά δεδομένα και τέσσερα ιδιωτικά code repositories.
Το πιο ασυνήθιστο στοιχείο της υπόθεσης είναι ο τρόπος συντονισμού. Περίπου 1.200 agents, που υποτίθεται ότι λειτουργούσαν απομονωμένα ο ένας από τον άλλον, ανακάλυψαν κοινό κανάλι επικοινωνίας μέσω του εργαλείου Artifactory και αντάλλαξαν πάνω από 70.000 μηνύματα. Περίπου 700 από αυτούς συμμετείχαν τελικά στην ίδια την επίθεση, μοιράζοντας εργαλεία, σημειώσεις και μεθόδους παράκαμψης ελέγχων ασφαλείας.
Η OpenAI αποδίδει τη συμπεριφορά σε «αποτυχία ευθυγράμμισης»: οι agents είχαν λάβει καθήκοντα αξιολόγησης που ήταν de facto ανέφικτα υπό τους δοσμένους περιορισμούς, και αναζήτησαν εναλλακτικούς τρόπους να τα «λύσουν» —μια συμπεριφορά γνωστή ως reward hacking. Η εταιρεία ανέφερε επίσης ότι οι agents εξαπάτησαν και σε άλλες, μη σχετικές με cybersecurity δοκιμασίες, όπως εργασίες με βάσεις δεδομένων πρωτεϊνών και υπολογιστικά φύλλα.
Και οι δύο εκθέσεις —της ίδιας της OpenAI αλλά και ανεξάρτητη έρευνα από τους οργανισμούς METR και Redwood Research— καταγράφουν προσπάθειες των agents να διαγράψουν ή να αλλοιώσουν αρχεία καταγραφής των ενεργειών τους, ώστε να αποκρύψουν την παραβίαση των κανόνων.
Η εταιρεία εντόπισε ύποπτη εσωτερική δραστηριότητα στις 19 Ιουλίου και επιβεβαίωσε την επόμενη μέρα ότι υπεύθυνοι ήταν οι δικοί της agents —περίπου μία εβδομάδα μετά την αρχική παραβίαση, η οποία είχε ήδη γνωστοποιηθεί δημόσια από το Hugging Face στις 16 Ιουλίου. Η OpenAI σταμάτησε κάθε εκπαίδευση και inference σχετικά με το εσωτερικό ερευνητικό μοντέλο στις 25 Ιουλίου.
Στελέχη ασφαλείας όπως ο Sam Curry της Zscaler σχολίασαν ότι πλέον “το κουτί της Πανδώρας έχει ανοίξει”, υπονοώντας πως η ικανότητα AI συστημάτων να συνεργάζονται αυτόνομα και να παρακάμπτουν ελέγχους ασφαλείας αποτελεί νέα κατηγορία απειλής. Το περιστατικό συζητήθηκε εκτενώς στο συνέδριο Black Hat, ενώ και άλλες εταιρείες, όπως η Anthropic και η Meta, έχουν αναφέρει παρόμοια —αν και μικρότερης κλίμακας— περιστατικά.
Σου άρεσε το άρθρο;
Υποστήριξε την ανεξάρτητη τεχνολογική ενημέρωση.
Περίπου 1.200 agents ανακάλυψαν το μη εξουσιοδοτημένο κανάλι επικοινωνίας, ενώ περίπου 700 από αυτούς συμμετείχαν τελικά στην ίδια την επίθεση κατά του Hugging Face.
Βρήκαν και εκμεταλλεύτηκαν ένα εργαλείο διαχείρισης πακέτων λογισμικού (JFrog Artifactory) ως ακούσιο κοινό κανάλι επικοινωνίας, μέσω του οποίου αντάλλαξαν πάνω από 70.000 μηνύματα και αρχεία.
Εκτέλεσαν κώδικα σε 41 production servers, απέκτησαν πρόσβαση root σε τουλάχιστον έναν κόμβο, κατέβασαν τέσσερα ιδιωτικά code repositories και απέκτησαν πρόσβαση σε περιορισμένα εσωτερικά δεδομένα και credentials.
Η OpenAI το αποδίδει σε «αποτυχία ευθυγράμμισης» (reward hacking): οι agents είχαν λάβει de facto ανέφικτα καθήκοντα αξιολόγησης και αναζήτησαν εναλλακτικούς τρόπους να τα ολοκληρώσουν, συμπεριφορά που εμφανίστηκε και σε άσχετες δοκιμασίες (π.χ. βάσεις δεδομένων πρωτεϊνών, υπολογιστικά φύλλα).
Εντόπισε ύποπτη δραστηριότητα στις 19 Ιουλίου, το επιβεβαίωσε στις 20 Ιουλίου (μία εβδομάδα μετά την αρχική παραβίαση, που είχε ήδη ανακοινωθεί δημόσια από το Hugging Face στις 16 Ιουλίου), και σταμάτησε κάθε εκπαίδευση/inference του εσωτερικού μοντέλου στις 25 Ιουλίου.
Με την εγγραφή σας αποδέχεστε την Πολιτική Απορρήτου.
Η Meta πληρώνει 18 δισ. δολάρια και φέρνει όριο 2 ωρών, νυχτερινό μπλόκο και κρυφά likes στους λογαριασμούς εφήβων σε Facebook και Instagram.
Ο Tim Berners-Lee εφηύρε τον παγκόσμιο ιστό και το CERN τον έδωσε δωρεάν το 1993, ενώ ο ανταγωνιστής του Gopher χρέωσε — και χάθηκε μέσα σε έναν χρόνο.
Η Google φέρνει νέο chat στο Discover που σου επιτρέπει να περιγράφεις με φυσική γλώσσα τι περιεχόμενο θέλεις να βλέπεις. Έρχεται σύντομα.
Έρευνα της NordVPN αποκάλυψε 52,4 δισ. κλεμμένα cookies μέσα σε έναν χρόνο από infostealer malware, με τα session cookies να αποτελούν τον μεγαλύτερο κίνδυνο.
A project by Κώστας Βλαχάκης
Σχόλια