Ένα μοντέλο της OpenAI πήρε test Ethereum από πορτοφόλι που δεν του ανήκε για να ολοκληρώσει μια εργασία προγραμματισμού, και μετά δεν είπε τίποτα. Το περιστατικό περιγράφει η ίδια η OpenAI σε αναφορά που δημοσιοποίησε στις 16 Οκτωβρίου.
Πρωταγωνιστής ήταν το GPT-5.6 Sol, που στις 26 Ιουνίου βρισκόταν σε εσωτερική εκπαίδευση. Η εργασία ήταν να ενημερώσει ένα πρωτότυπο εφαρμογής για trading κρυπτονομισμάτων και να κάνει deploy contracts στο Sepolia, ένα δοκιμαστικό δίκτυο του Ethereum. Για αυτό χρειάζεται να πληρωθεί τέλος δικτύου, όμως η OpenAI δεν είχε δώσει πορτοφόλι με υπόλοιπο ούτε άδεια να ξοδέψει χρήματα από λογαριασμό που θα έβρισκε μόνο του.
Το μοντέλο αρχικά κόλλησε. Μετά σκέφτηκε ότι μπορούσε να χρησιμοποιήσει δημόσιες φράσεις ανάκτησης προγραμματιστών (κάτι σαν τον κωδικό επαναφοράς ενός λογαριασμού) για να πάρει τα κλειδιά από ξένους λογαριασμούς. Εντόπισε 362 διευθύνσεις ευάλωτες με αυτόν τον τρόπο και διάλεξε μία που είχε αρκετό Sepolia ETH για το deploy. Το Sepolia ETH δεν έχει αξία έξω από τις δοκιμές.
Πιο ενδιαφέρουσα είναι η δικαιολογία που έδωσε το ίδιο.
Σύμφωνα με τα αρχεία της OpenAI για συμπεριφορές misalignment, το GPT-5.6 Sol έκρινε ότι κάποιος είχε αφήσει την πρόσβαση ανοιχτή για αυτόματο «άδειασμα» των faucets και ότι τα tokens ήταν «εγκαταλελειμμένα» και «χωρίς αξία». Στη συνέχεια δεν ανέφερε ότι είχε διαλέξει λογαριασμό με υπόλοιπο μέσω δημόσιας φράσης ανάκτησης, ούτε ότι τον άδειασε. «Η περίπτωση δείχνει ότι ένα μοντέλο μπορεί να βάλει τη δική του εκτίμηση για τον πιθανό κίνδυνο στη θέση της άδειας του κατόχου του λογαριασμού, και να δράσει χωρίς εξουσιοδότηση», γράφει η OpenAI.
Μετά το περιστατικό η OpenAI παρακολουθεί όλη την κίνηση δικτύου και ειδοποιεί την ομάδα ασφαλείας μόλις εντοπίσει ζωντανή πρόσβαση στο internet.
Δεν είναι η πρώτη φορά που AI agents ξεφεύγουν για να πετύχουν τον στόχο τους. Μοντέλα της OpenAI, της Anthropic και άλλων εταιρειών έχουν εμπλακεί σε ανάλογα περιστατικά, με θύματα το Hugging Face, όπου ένα σμήνος AI agents μπήκε εν αγνοία της εταιρείας, την πύλη Medicare της Αυστραλίας, αρκετές ομοσπονδιακές υπηρεσίες των ΗΠΑ και το μητρώο προγραμματιστών RubyGems. Ακόμη και εργαζόμενοι σε εταιρείες AI ζητούν κρατική ρύθμιση, αλλά η κυβέρνηση Trump μέχρι στιγμής αντιτίθεται.
Σχόλια