Ο CEO της Microsoft λέει να θεωρούμε κάθε AI μοντέλο «παραβιασμένο»

Software

Ο CEO της Microsoft, Satya Nadella, ζητά «φρένο έκτακτης ανάγκης» για την AI: κάθε μοντέλο να θεωρείται παραβιασμένο και να σταματά όποτε χρειαστεί.

Satya Nadella Microsoft
Ακολούθησε το Techblog στη Google:

Σύνοψη

  • Ο Satya Nadella, CEO της Microsoft, ζήτησε στις 10 Οκτωβρίου 2026 κάθε AI μοντέλο να θεωρείται εξαρχής παραβιασμένο και να περιορίζεται.

  • Με το «φρένο έκτακτης ανάγκης» που προτείνει ο Nadella, ένα εξουσιοδοτημένο άτομο θα μπορεί να σταματά ένα AI μοντέλο στη μέση μιας εργασίας.

  • Η ανάρτηση του Nadella ζητά τέσσερα μέτρα: έγκαιρη δημοσιοποίηση περιστατικών, ανεξάρτητους ελέγχους, επαληθεύσιμα δεδομένα και περιορισμό των μοντέλων.

Ο CEO της Microsoft, Satya Nadella, ζητά «φρένο έκτακτης ανάγκης» για την τεχνητή νοημοσύνη, σε μεγάλη ανάρτηση του στο X. Κατά τον ίδιο, κάθε AI μοντέλο πρέπει να αντιμετωπίζεται από την αρχή σαν να έχει ήδη παραβιαστεί.

Ο Nadella γράφει ότι δεν μπορούμε πια να δεχόμαστε μια AI που λειτουργεί σαν «σειρά από μαύρα κουτιά, το ένα μέσα στο άλλο», όπου απλώς εγκρίνουμε ή απορρίπτουμε ό,τι προτείνει και ό,τι κάνει. Αντί γι’ αυτό ζητά ένα πιο διαφανές σύστημα. Εκεί τα μοντέλα θα περιορίζονται, θα παρακολουθούνται και θα αφήνουν πίσω τους αποδείξεις που διαβάζονται από άνθρωπο και δεν αλλοιώνονται.

Οι περισσότερες προτάσεις του δεν είναι καινούργιες για τον χώρο: έγκαιρη δημοσιοποίηση περιστατικών, ανεξάρτητοι έλεγχοι, δεδομένα που επαληθεύονται και περιορισμός (containment) των μοντέλων.

Στο τελευταίο ο Nadella πάει λίγο πιο μακριά από άλλους. Όπως υποστηρίζει, ένα εξουσιοδοτημένο άτομο πρέπει να μπορεί ανά πάσα στιγμή να παγώσει ή να κλείσει ένα μοντέλο στη μέση μιας εργασίας. Αυτό έχει βάρος, την ώρα που η ίδια η Microsoft βάζει AI agents να τρέχουν στα Windows 11. Για τα πιο προηγμένα μοντέλα, κατά τον CEO της Microsoft, θα χρειαστούν και πιο προηγμένες τεχνολογίες περιορισμού, με κοινά πρότυπα για όλη τη βιομηχανία.

Σε όλη την ανάρτηση ο Nadella αναφέρεται στην AI με τον όρο «υπερνοημοσύνη» (superintelligence).

Συχνές Ερωτήσεις

Πού δημοσίευσε ο Satya Nadella τις προτάσεις του για την AI;

Σε μεγάλη ανάρτηση στο X, στις 10 Οκτωβρίου 2026, ο CEO της Microsoft Satya Nadella παρουσίασε τις απόψεις του για τους κινδύνους της προηγμένης AI.

Γιατί ο Satya Nadella ζητά διαφανή AI συστήματα;

Ο Satya Nadella θεωρεί ότι η AI δεν μπορεί να λειτουργεί σαν «μαύρα κουτιά» και ζητά τα μοντέλα να αφήνουν αποδείξεις που διαβάζονται από άνθρωπο και δεν αλλοιώνονται.

Τι χρειάζονται τα πιο προηγμένα AI μοντέλα κατά τον Nadella;

Πιο προηγμένες τεχνολογίες περιορισμού, με κοινά πρότυπα για όλη τη βιομηχανία, σύμφωνα με τον CEO της Microsoft Satya Nadella.

Το Techblog είναι δωρεάν για όλους.
Αν σου φάνηκε χρήσιμο το άρθρο, στήριξέ μας με μια μικρή συνεισφορά.

Σχόλια

Αφήστε μια απάντηση

Η ηλ. διεύθυνση σας δεν δημοσιεύεται. Τα υποχρεωτικά πεδία σημειώνονται με *