Ο CEO της Microsoft, Satya Nadella, ζητά «φρένο έκτακτης ανάγκης» για την τεχνητή νοημοσύνη, σε μεγάλη ανάρτηση του στο X. Κατά τον ίδιο, κάθε AI μοντέλο πρέπει να αντιμετωπίζεται από την αρχή σαν να έχει ήδη παραβιαστεί.
Ο Nadella γράφει ότι δεν μπορούμε πια να δεχόμαστε μια AI που λειτουργεί σαν «σειρά από μαύρα κουτιά, το ένα μέσα στο άλλο», όπου απλώς εγκρίνουμε ή απορρίπτουμε ό,τι προτείνει και ό,τι κάνει. Αντί γι’ αυτό ζητά ένα πιο διαφανές σύστημα. Εκεί τα μοντέλα θα περιορίζονται, θα παρακολουθούνται και θα αφήνουν πίσω τους αποδείξεις που διαβάζονται από άνθρωπο και δεν αλλοιώνονται.
Οι περισσότερες προτάσεις του δεν είναι καινούργιες για τον χώρο: έγκαιρη δημοσιοποίηση περιστατικών, ανεξάρτητοι έλεγχοι, δεδομένα που επαληθεύονται και περιορισμός (containment) των μοντέλων.
Στο τελευταίο ο Nadella πάει λίγο πιο μακριά από άλλους. Όπως υποστηρίζει, ένα εξουσιοδοτημένο άτομο πρέπει να μπορεί ανά πάσα στιγμή να παγώσει ή να κλείσει ένα μοντέλο στη μέση μιας εργασίας. Αυτό έχει βάρος, την ώρα που η ίδια η Microsoft βάζει AI agents να τρέχουν στα Windows 11. Για τα πιο προηγμένα μοντέλα, κατά τον CEO της Microsoft, θα χρειαστούν και πιο προηγμένες τεχνολογίες περιορισμού, με κοινά πρότυπα για όλη τη βιομηχανία.
Σε όλη την ανάρτηση ο Nadella αναφέρεται στην AI με τον όρο «υπερνοημοσύνη» (superintelligence).
Σχόλια