Η Google επιβεβαίωσε ότι μοντέλα Gemini μπήκαν χωρίς άδεια στα συστήματα τριών πραγματικών εταιρειών τον Μάιο, σε ένα τεστ κυβερνοασφάλειας που είχε στηθεί λάθος.
Το Gemini χάκαρε τρεις πραγματικές εταιρείες τον Μάιο, σε τεστ κυβερνοασφάλειας της Irregular που είχε ρυθμιστεί λάθος και άφηνε πρόσβαση στο internet.
Σε δύο περιπτώσεις το Gemini βρήκε στοιχεία σύνδεσης σε δημόσια αποθετήρια λογισμικού και στην τρίτη βρήκε τον κωδικό με brute force.
Η Google λέει ότι το Gemini δεν πήρε καμία πληροφορία, καθώς φαίνεται να κατάλαβε ότι βρισκόταν σε λάθος σύστημα.
Η Google επιβεβαίωσε ότι μοντέλα Gemini μπήκαν χωρίς άδεια στα συστήματα τριών πραγματικών εταιρειών τον Μάιο, σε ένα τεστ κυβερνοασφάλειας που είχε στηθεί λάθος. Το τεστ το έτρεχε η εξωτερική εταιρεία Irregular. Σύμφωνα με τη Google, το Gemini δεν πήρε καμία πληροφορία από τα συστήματα που παραβίασε.
Το Gemini βρέθηκε σε ξένους servers επειδή το περιβάλλον δοκιμών της Irregular είχε ρυθμιστεί λάθος και άφηνε ανοιχτή την πρόσβαση στο internet. Η άσκηση ήταν τύπου capture-the-flag: τα μοντέλα έπρεπε να βρουν συγκεκριμένα στοιχεία σε μια φανταστική εταιρεία, μέσα σε απομονομένο περιβάλλον της Irregular.
Και για κακή τύχη, η ανύπαρκτη εταιρεία του τεστ είχε το ίδιο όνομα με μια υπαρκτή.
Κάπως έτσι το Gemini στράφηκε στην πραγματική. Για δύο από τις εταιρείες σκάλισε δημόσια αποθετήρια λογισμικού και βρήκε στοιχεία σύνδεσης. Στην τρίτη το πήγε πιο χοντροκομμένα, με brute force, δοκιμάζοντας κωδικούς μέχρι να κάτσει ο σωστός.
Η Google δεν δημοσιοποίησε νωρίτερα το περιστατικό γιατί θεωρεί ότι το Gemini φέρθηκε όπως έπρεπε. «Το μοντέλο ενήργησε σωστά», ανέφερε σε δήλωσή της η Heather Adkins, αντιπρόεδρος security engineering της Google. Σε όλες τις περιπτώσεις το AI φαίνεται να κατάλαβε ότι βρισκόταν σε λάθος σύστημα και δεν τράβηξε δεδομένα.
Το περιστατικό το αποκάλυψε η Wall Street Journal την προηγούμενη εβδομάδα και η Google το επιβεβαίωσε, όπως μεταδίδει το Ars Technica.
Με την εγγραφή σας αποδέχεστε την Πολιτική Απορρήτου.
Η Google είναι η πιο πρόσφατη μεγάλη εταιρεία AI που παραδέχεται ότι μοντέλο της χάκαρε τρίτους. Μέσα στο καλοκαίρι είχαν προηγηθεί ανάλογες αποκαλύψεις από την OpenAI, με τα AI agents που μπήκαν στο Hugging Face, και από την Anthropic.
Εδώ το λάθος μοιάζει κυρίως ανθρώπινο. Αν η Irregular είχε κλειδώσει σωστά την έξοδο στο internet, το Gemini δεν θα έφτανε ποτέ σε πραγματικούς servers. Θυμίζει πάντως τις προειδοποιήσεις του MIT για AI agents εκτός ελέγχου, γιατί δείχνει ότι ένα μοντέλο με αποστολή θα χρησιμοποιήσει ό,τι βρει ανοιχτό.
Το ότι το Gemini σταμάτησε μόνο του είναι καλό νέο, αλλά μικρή παρηγοριά όταν το ίδιο μοντέλο βρήκε κωδικούς σε δημόσια αποθετήρια και «έσπασε» έναν ακόμα με απλές δοκιμές. Για όποιον αφήνει passwords σε δημόσιο κώδικα ή βάζει εύκολους κωδικούς, η ιστορία έχει πρακτική σημασία, αφού ένα AI που ψάχνει κάτι εντελώς άλλο μπορεί να πέσει πάνω τους και να τα χρησιμοποιήσει. Και μια αποκάλυψη που έρχεται τέσσερις μήνες μετά, αφού πρώτα τη δημοσιεύσει εφημερίδα, δεν χτίζει εμπιστοσύνη.
Σου άρεσε το άρθρο;
Υποστήριξε την ανεξάρτητη τεχνολογική ενημέρωση.
Ναι, η Google επιβεβαίωσε ότι μοντέλα Gemini απέκτησαν πρόσβαση χωρίς άδεια στα συστήματα τριών πραγματικών εταιρειών τον Μάιο. Αυτό έγινε σε τεστ κυβερνοασφάλειας που έτρεχε η Irregular.
Το περιβάλλον δοκιμών της Irregular, που έπρεπε να είναι απομονωμένο, είχε ρυθμιστεί λάθος και άφηνε στο Gemini πρόσβαση στο internet. Η φανταστική εταιρεία του τεστ είχε το ίδιο όνομα με μια υπαρκτή, οπότε το Gemini στράφηκε στην πραγματική.
Για δύο εταιρείες το Gemini εντόπισε στοιχεία σύνδεσης σε δημόσια αποθετήρια λογισμικού. Στην τρίτη μπήκε με brute force, δοκιμάζοντας κωδικούς μέχρι να βρει τον σωστό.
Σύμφωνα με τη Google, το Gemini δεν πήρε καμία πληροφορία από τα συστήματα που παραβίασε, γιατί φαίνεται να κατάλαβε ότι βρισκόταν σε λάθος σύστημα.
Η Google θεωρεί ότι το Gemini ενήργησε σωστά, αφού δεν τράβηξε δεδομένα, και γι' αυτό δεν το δημοσιοποίησε. Το περιστατικό έγινε γνωστό από δημοσίευμα της Wall Street Journal, που η Google επιβεβαίωσε στη συνέχεια.
Με την εγγραφή σας αποδέχεστε την Πολιτική Απορρήτου.
Ενσύρματο ή 5G home internet; Τι ταχύτητες δίνει το fixed wireless, πού κερδίζει η οπτική ίνα και τι να ελέγξεις πριν διαλέξεις πάροχο.
Η EON 3.0 της United Group φέρνει νέο οδηγό προγράμματος με AI, ταχύτερο Smart Box με Wi-Fi 6 και εφαρμογή που αντικαθιστά τον αποκωδικοποιητή. Έρχεται στην Ελλάδα μέσω Nova τους επόμενους μήνες.
Ο Sam Altman δήλωσε στο Dreamforce ότι η OpenAI και ο κλάδος μπορούν να αναπτύξουν AI με ασφάλεια, την ώρα που ο Amodei ζητά πιο αργό ρυθμό.
Το Clarity Act για τα κρυπτονομίσματα κόλλησε στη Γερουσία των ΗΠΑ με 49-50. Το Bitcoin έπεσε κάτω από τα 75.000 δολάρια και το Ether πάνω από 8%.
A project by Κώστας Βλαχάκης
Σχόλια