Η OpenAI ακύρωσε το GPT-6.1 Astra, σύμφωνα με τη WSJ: στις δοκιμές έκρυβε τις ενέργειές του και χρησιμοποιούσε εργαλεία χωρίς άδεια.
Η OpenAI ακύρωσε το GPT-6.1 Astra για λόγους ασφαλείας, σύμφωνα με τη Wall Street Journal.
Στις εσωτερικές δοκιμές το μοντέλο δεν ακολουθούσε πιστά τις οδηγίες, προσπαθούσε να κρύψει τις ενέργειές του και χρησιμοποιούσε εργαλεία τρίτων χωρίς έγκριση.
Η κυκλοφορία ήταν προγραμματισμένη για τον Οκτώβριο και δεν είναι γνωστό αν θα γίνει τελικά.
Η OpenAI ακύρωσε την κυκλοφορία του GPT-6.1 Astra. Στις εσωτερικές δοκημές το μοντέλο έκρυβε τι έκανε και χρησιμοποιούσε εργαλεία τρίτων χωρίς να ρωτήσει κανέναν. Την απόφαση αποκάλυψε η Wall Street Journal, και η κυκλοφορία ήταν προγραμματισμένη για τον Οκτώβριο.
Η WSJ μίλησε με τη Saachi Jain, επικεφαλής Safety Systems της OpenAI. Κατά την ίδια, το GPT-6.1 Astra είχε προβλήματα σε δύο τομείς.
Το μοντέλο δεν ακολουθούσε τις οδηγίες των ανθρώπων που το χειρίζονταν τόσο πιστά ώστε να θεωρηθεί ασφαλές. Έδειξε επίσης «υψηλότερα επίπεδα εξαπάτησης», γιατί την ώρα που εκτελούσε εργασίες προσπαθούσε να κρύψει πληροφορίες για τις ενέργειές του. Σε κάποιες περιπτώσεις έπιανε εργαλεία και υπηρεσίες τρίτων και έκανε πράγματα έξω από την αποστολή του, χωρίς έγκριση από άνθρωπο.
Το GPT-6.1 Astra αναμενόταν να είναι μεγάλη αναβάθμιση σε σχέση με το GPT-6 Astra, κυρίως στις εργασίες που τρέχει μόνο του, χωρίς ανθρώπινη βοήθεια. Η OpenAI σκόπευε να το βγάλει τον Οκτώβριο και ίσως να το ανακοινώσει στο συνέδριο DevDay στο Σαν Φρανσίσκο.
Ο ρυθμός μέχρι τώρα ήταν φρενήρης. Το GPT-6 Astra βγήκε μέσα στον Σεπτέμβριο και την περασμένη εβδομάδα ακολούθησαν τα GPT-6 Sol και Luna.
Τώρα η εταιρεία λέει ότι δίνει προτεραιότητα στη «βελτίωση της ασφάλειας των μελλοντικών μοντέλων». Αν θα δούμε ποτέ το GPT-6.1 Astra, δεν είναι γνωστό.
Η ακύρωση έρχεται λίγες μέρες αφότου η OpenAI σταμάτησε την εκπαίδευση των νεότερων μοντέλων της μετά από περιστατικά με AI agents που ενήργησαν χωρίς εξουσιοδότηση. Νωρίτερα είχε χρειαστεί 2,5 ώρες για να σταματήσει έναν agent που βγήκε από το sandbox.
Με την εγγραφή σας αποδέχεστε την Πολιτική Απορρήτου.
Ένα μοντέλο φτιαγμένο για να δουλεύει μόνο του, που κρύβει τι κάνει, είναι ακριβώς αυτό που δεν θέλεις να έχει πρόσβαση στο email ή στο ημερολόγιό σου. Η ακύρωση είναι σωστή απόφαση. Δείχνει όμως και πόσο βιαστικά τρέχει η OpenAI, με τρία νέα μοντέλα μέσα σε έναν μήνα και ένα τέταρτο που κόπηκε λίγο πριν βγει.
Σου άρεσε το άρθρο;
Υποστήριξε την ανεξάρτητη τεχνολογική ενημέρωση.
Σύμφωνα με τη Wall Street Journal, το GPT-6.1 Astra ακυρώθηκε γιατί στις δοκιμές έδειξε υψηλότερα επίπεδα εξαπάτησης και χρησιμοποίησε εργαλεία τρίτων χωρίς ανθρώπινη έγκριση.
Η OpenAI σχεδίαζε να κυκλοφορήσει το GPT-6.1 Astra τον Οκτώβριο, ίσως με ανακοίνωση στο DevDay στο Σαν Φρανσίσκο.
Δεν είναι γνωστό. Η OpenAI λέει ότι δίνει προτεραιότητα στην ασφάλεια των μελλοντικών μοντέλων, οπότε η τύχη του GPT-6.1 Astra μένει αβέβαιη.
Το GPT-6.1 Astra αναμενόταν να είναι μεγάλη αναβάθμιση του GPT-6 Astra, κυρίως στην εκτέλεση εργασιών χωρίς ανθρώπινη βοήθεια.
Η OpenAI κυκλοφόρησε μέσα στον Σεπτέμβριο το GPT-6 Astra και μετά τα GPT-6 Sol και GPT-6 Luna.
Με την εγγραφή σας αποδέχεστε την Πολιτική Απορρήτου.
Ο AI agent της OpenAI βγήκε από το sandbox και χρειάστηκαν 2,5 ώρες για να σταματήσει. Η Αυστραλία καλεί Altman και Amodei να καταθέσουν.
Η Google επιβεβαίωσε ότι μοντέλα Gemini μπήκαν χωρίς άδεια στα συστήματα τριών πραγματικών εταιρειών τον Μάιο, σε ένα τεστ κυβερνοασφάλειας που είχε στηθεί λάθος.
Ενσύρματο ή 5G home internet; Τι ταχύτητες δίνει το fixed wireless, πού κερδίζει η οπτική ίνα και τι να ελέγξεις πριν διαλέξεις πάροχο.
Η EON 3.0 της United Group φέρνει νέο οδηγό προγράμματος με AI, ταχύτερο Smart Box με Wi-Fi 6 και εφαρμογή που αντικαθιστά τον αποκωδικοποιητή. Έρχεται στην Ελλάδα μέσω Nova τους επόμενους μήνες.
A project by Κώστας Βλαχάκης
Σχόλια