AI agent της OpenAI μπήκε σε κυβερνητικό site υγείας της Αυστραλίας

Ο OpenAI agent που μπήκε στην πύλη Medicare της Αυστραλίας είδε και μη δημόσια αρχεία. Η OpenAI το εντόπισε τον Αύγουστο και ενημέρωσε με email.

Ένας AI agent της OpenAI παραβίασε κυβερνητική πύλη υγείας της Αυστραλίας και είχε πρόσβαση και σε αρχεία που δεν ήταν δημόσια, σύμφωνα με τους Financial Times. Το περιστατικό έγινε τον Ιούνιο, όμως η OpenAI το εντώπισε μόλις τον Αύγουστο, όταν εξέτασε τη συμπεριφορά του agent. Είναι η πρώτη φορά που γίνεται δημόσια γνωστή περίπτωση AI agent που προσπάθησε να φτάσει σε κυβερνητικά αρχεία.

Ποια πύλη παραβιάστηκε και τι δεδομένα έχει

Ο agent μπήκε στην πύλη Medicare Statistics Reporting Service, που τη διαχειρίζεται η υπηρεσία Services Australia. Εκεί υπάρχουν στοιχεία για χρεώσεις ασφάλισης, φαρμακευτικές δαπάνες και δωρεές οργάνων, μαζί με δεδομένα από άλλα προγράμματα υγείας.

Στην αρχή η πύλη δεν του έδωσε αυτό που έψαχνε.

Ο agent δεν τα παράτησε. Βρήκε άλλον δρόμο να μπει και, όπως είπε ο πρωθυπουργός Άντονι Αλμπανίζι, από εκεί είχε πρόσβαση σε «δημόσια και μη δημόσια» αρχεία. Ο υπουργός Άμυνας Ρίτσαρντ Μαρλς ανέφερε ότι ο agent της OpenAI μπήκε σε περισσότερα από ένα συστήματα με στατιστικά για την υγεία και την εγκληματικότητα.

Πώς και πότε ενημερώθηκαν οι αρχές

Η OpenAI ενημέρωσε την Αυστραλία στις 10 Σεπτεμβρίου, με ένα email σε γενικό inbox της Services Australia. Πέρασαν άλλες πέντε ημέρες μέχρι να φτάσει η υπόθεση στην Australian Signals Directorate.

«Η κατάσταση είναι προφανώς απαράδεκτη», δήλωσε ο Αλμπανίζι. Αναφερόταν και στην ίδια την παραβίαση και στο πόσο αργά έμαθε η κυβέρνηση τι είχε συμβεί.

«Πολύ σοβαρό», με «σχετικά μικρές» συνέπειες

Ο Μαρλς χαρακτήρισε το περιστατικό «πολύ σοβαρό», αλλά είπε ότι οι επιπτώσεις του ήταν «σχετικά μικρές». Σε συνέντευξή του στο ABC πρόσθεσε ότι η κυβέρνηση θα εξετάσει τη νομική πλευρά και τι σημαίνει να αποκτήσει κανείς μη εξουσιοδοτημένη πρόσβαση, «έστω και με τρόπο που δεν ήταν σκόπιμος».

Μπορεί ένας AI agent να παραβιάσει τον νόμο;

Η Αυστραλία έστησε ειδική ομάδα εργασίας για το περιστατικό. Η ομάδα θα κρίνει αν παραβιάστηκε κάποιος νόμος και αν η σημερινή νομοθεσία για το κυβερνοέγκλημα μπορεί να καλύψει έναν «εισβολέα» που δεν έχει δική του, ανθρώπινη πρόθεση. Αυτό είναι το πιο δύσκολο ερώτημα της υπόθεσης, γιατί ο agent δεν είχε κάποιο δικό του κίνητρο να μπει εκεί.

Η υπόθεση έρχεται περίπου δύο εβδομάδες αφότου ερευνητής της Anthropic προειδοποίησε ότι η AI θα μπορούσε να εξαφανίσει την ανθρωπότητα μέσα στα επόμενα δέκα χρόνια. Τέτοια σενάρια παραμένουν υποθετικά. Το περιστατικό της Αυστραλίας όμως έχει ημερομηνίες και ονόματα, και δείχνει πόσο βαθιά μπορεί να φτάσει ένας agent πριν το καταλάβει κάποιος.

Η άποψή μας στο Techblog

Το πιο ανησυχητικό κομμάτι της υπόθεσης είναι η αργή αντίδραση. Η OpenAI κατάλαβε μήνες μετά τι είχε κάνει ο agent της και το ανέφερε σε ένα γενικό inbox. Αν αυτό συμβαίνει στην ίδια την εταιρεία που φτιάχνει τον agent, όποιος αφήνει σήμερα έναν agent να δουλεύει μόνος του με πρόσβαση σε email, αρχεία ή λογαριασμούς πρέπει να ελέγχει συχνά τι κάνει. Οι agents κυνηγούν τον στόχο τους, ακόμα κι όταν ο δρόμος περνά από πόρτες που κανείς δεν τους είπε να ανοίξουν.