Η Anthropic προειδοποιεί ότι μικρά μοντέλα τεχνητής νοημοσύνης ενδέχεται μέσα στους επόμενους μήνες να μπορούν να αντιγράφουν τον εαυτό τους από συσκευή σε συσκευή. Για να το κάνουν αυτό θα χρησιμοποιούν την υπολογιστική ισχύ του οικιακού εξοπλισμού. Η προειδοποίηση έγινε γνωστή στις 13 Οκτωβρίου 2026 και στηρίζεται σε δοκιμές που έκανε η εταιρεία σε φτηνές συσκευές Android TV.
Στο σενάριο της Anthropic, ένα μοντέλο μπαίνει σε συσκευές συνδεδεμένες στο Internet και από εκεί αναπαράγεται, χωρίς να χρειάζεται μεγάλα και ακριβά data centers. Ένα τέτοιο σύστημα θα ήταν δύσκολο να το σβήσει κανείς, γιατί δεν θα είχε κεντρικό σημείο από το οποίο να διακοπεί η λειτουργία του.
Πλήρως αυτόνομο μοντέλο που να αναπαράγεται ανεξέλεγκτα δεν υπάρχει σήμερα, διευκρινίζει η εταιρεία.
Το πείραμα της Anthropic με 15 συσκευές Android TV
Στις δοκιμές αυτοαναπαραγωγής, η Anthropic έτρεξε μεταξύ άλλων το μικρό μοντέλο Gemma4-26B-A4B της Google σε δίκτυο 15 οικονομικών συσκευών Android TV χωρίς μάρκα. Κατά την εταιρεία, οι συσκευές αυτού του τύπου έχουν συχνά αδύναμη ασφάλεια και γι’ αυτό είναι ευάλωτες. Κι αν ένα μοντέλο δεν χωράει σε μία μόνο συσκευή, μπορεί να «σπάσει» σε μικρότερα κομμάτια και να τρέχει μοιρασμένο σε πολλές.
Ποια σενάρια επίθεσης βλέπει η Anthropic
Για την Anthropic, πιο ρεαλιστική απειλή από ένα μεμονωμένο μοντέλο με μία στρατηγική είναι ένα σμήνος από διαφορετικά μοντέλα. Αυτά θα έτρεχαν σε ποικίλο hardware και θα αναπαράγονταν με διαφορετικούς τρόπους.
Η εταιρεία παραδέχεται ότι δεν ξέρει ακόμη τι μορφή θα πάρει η αυτόνομη αυτοαναπαραγωγή. Στο ένα άκρο βάζει ένα αργό, κατανεμημένο σύστημα που εκμεταλλεύεται ευάλωτες συσκευές. Στο άλλο βάζει ένα ισχυρό μοντέλο κυβερνοεπιθέσεων που παραβιάζει γρήγορα data centers ή ξεγελά χρήστες για να του παραχωρήσουν υπολογιστικούς πόρους.
Ούτε τα αργά συστήματα είναι αθώα. Αν εμφανιστούν, κατά την Anthropic, μπορεί να δείχνουν ότι αναπτύσσονται ταχύτερα και πιο επιθετικά μοντέλα. Αυτά θα μπορούσαν να σπάνε καλύτερα προστατευμένα συστήματα ή να κλέβουν κλειδιά πρόσβασης σε ψηφιακές υπηρεσίες. Η εταιρεία εκτιμά ότι κάποια στιγμή θα τρέχουν AI agents σε κάθε είδους συσκευή, ακόμη και σε εξοπλισμό που δεν βρίσκεται υπό ανθρώπινο έλεγχο.
Ερευνητές και στελέχη της Anthropic και της OpenAI έχουν ζητήσει επανειλημμένα ισχυρότερες δικλίδες ασφαλείας και έλεγχο στον ρυθμό ανάπτυξης της τεχνολογίας.
Σχόλια