Sam Altman στο Dreamforce: «Πολύ σίγουρος» ότι η AI μπορεί να αναπτυχθεί με ασφάλεια

Ο Sam Altman δήλωσε στο Dreamforce ότι η OpenAI και ο κλάδος μπορούν να αναπτύξουν AI με ασφάλεια, την ώρα που ο Amodei ζητά πιο αργό ρυθμό.

Ο CEO της OpenAI, Sam Altman, δήλωσε την Τρίτη ότι είναι «πολύ σίγουρος» πως η εταιρεία του και ολόκληρος ο κλάδος της τεχνητής νοημοσύνης μπορούν να αναπτύξουν την τεχνολογία με ασφάλεια, χωρίς σοβαρή ζημιά για το ευρύ κοινό. Η τοποθέτηση έγινε στη σκηνή του Dreamforce, στο Σαν Φρανσίσκο. Και δεν ήρθε σε ουδέτερη στιγμή.

Τι ακριβώς είπε ο Altman στο Dreamforce

Ο Altman μίλησε σε συζήτηση με τον Marc Benioff, CEO της Salesforce, στο μεγάλο ετήσιο συνέδριο που διοργανώνει η εταιρεία. «Είμαι πολύ σίγουρος ότι η εταιρεία μας, και ολόκληρη η βιομηχανία, έχουμε την ικανότητα να το κάνουμε αυτό με ασφάλεια», είπε, όπως μετέδωσε το Bloomberg.

Το πιο ενδιαφέρον κομμάτι ήταν άλλο. Η OpenAI δουλεύει ήδη σε θέματα ασφάλειας μαζί με την Anthropic και την Google DeepMind, όμως ο Altman υποστήριξε ότι κάθε εταιρεία AI θα πρέπει να μπορεί να βελτιώνει με ασφάλεια τα μοντέλα της και ανεξάρτητα.

«Είμαι απογοητευμένος που αυτό ερμηνεύτηκε έτσι», πρόσθεσε.

Το κείμενο του Amodei που άναψε ξανά τη συζήτηση

Η δήλωση πέφτει πάνω σε μια αντιπαράθεση που δεν λέει να κλείσει. Πολιτικοί και άνθρωποι του κλάδου συζητούν αν χρειάζεται κρατική ρύθμιση ώστε η AI να μην ξεφύγει από τον ανθρώπινο έλεγχο. Η διαφωνία αφορά ουσιαστικά το αν τους κανόνες πρέπει να τους βάλουν οι κυβερνήσεις ή αν οι εταιρείες μπορούν να εγγυηθούν μόνες τους την ασφάλεια των μοντέλων τους.

Τον τελευταίο γύρο τον άνοιξε το περασμένο Σάββατο ο Dario Amodei, CEO της Anthropic, της εταιρείας με την οποία η OpenAI κονταροχτυπιέται για την πρωτιά. Σε κείμενό του καταγράφει τους κινδύνους που μπορεί να φέρει η τεχνολογία και υποστηρίζει ότι ο ρυθμός ανάπτυξης πρέπει να πέσει.

Υπάρχει και μια λεπτομέρεια που κάνει την εικόνα πιο μπερδεμένη. Λίγες μέρες νωρίτερα, ο ίδιος ο Altman είχε συζητήσει με το προσωπικό της OpenAI το ενδεχόμενο εθελοντικής παύσης στην ανάπτυξη AI, άρα το θέμα δεν μένει μόνο στις σκηνές των συνεδρίων.

Η άποψή μας στο Techblog

Όταν ο επικεφαλής της εταιρείας που φτιάχνει το ChatGPT λέει ότι όλα είναι υπό έλεγχο, αυτό είναι δήλωση πρόθεσης και όχι απόδειξη, και το ίδιο ισχύει για τους αντιπάλους του που ζητούν φρένο, αφού όλοι παλεύουν για τους ίδιους πελάτες. Για όποιον χρησιμοποιεί chatbot κάθε μέρα στη δουλειά ή αφήνει το παιδί του να το ανοίγει στο κινητό, η εμπιστωσύνη θα χτιστεί με ανεξάρτητους ελέγχους και διαφάνεια, όχι με ατάκες από τη σκηνή. Και προς το παρόν, ούτε το ChatGPT for Teens δεν έχει πείσει ακόμα τους ειδικούς.