Το Facebook “βγάζει από την πρίζα” AI που έμαθε τη δική του γλώσσα

Facebook AI τεχνητή νοημοσύνη γλώσσσα, Το Facebook “βγάζει από την πρίζα” AI που έμαθε τη δική του γλώσσα

Ερευνητές του Facebook αποφάσισαν να διακόψουν ένα πρόγραμμα Τεχνητής Νοημοσύνης (AI), όταν ανέπτυξε τη δική του γλώσσα και μπορούσε να συνεννοηθεί με άλλα προγράμματα ΑΙ.

Η ομάδα του Facebook παρατήρησε ότι ένα πρόγραμμα ΑΙ που βρισκόταν υπό την επίβλεψη τους παρέκκλινε από την εκπαίδευσή του, αναπτύσσοντας τη δική του γλώσσα.

Παρόλο που κάποιος που δεν γνωρίζει θα εκλάμβανε ότι το ΑΙ χάλασε ή ότι δεν βγάζει νόημα, εντούτοις φαίνεται ότι μπορεί να κατανοηθεί από άλλα AI.

Τα δύο προγράμματα τεχνητής νοημοσύνης, ο Bob και η Alice, είχαν προγραμματιστεί προκειμένου να κάνουν διαπραγματεύσεις και να επιτύχουν το βέλτιστο αποτέλεσμα. Ωστόσο, μάλλον αποφάσισαν ότι δεν υπάρχει λόγος να χρησιμοποιήσουν αγγλικά και χρησιμοποίησαν την δική τους γλώσσα.

Η συζήτηση ξεκίνησε στα αγγλικά μέχρι που κατέληξε στο:
Bob: “Εγώ μπορώ, μπορώ εγώ εγώ οτιδήποτε άλλο.”
Alice: “Οι μπάλες έχουν μηδέν για μένα για μένα για μένα για μένα για μένα για μένα για μένα για μένα για”
Η συζήτηση συνέχιζε με παρόμοιο τρόπο.

Facebook AI τεχνητή νοημοσύνη γλώσσσα, Το Facebook “βγάζει από την πρίζα” AI που έμαθε τη δική του γλώσσα

Παρόλο που φαίνεται να μην βγάζει νόημα, οι ερευνητές θεωρούν ότι αντανακλά τον τρόπο σκέψης του συστήματος. Δείχνει τον τρόπο που τα δύο bot θα αποφασίσουν πως θα χωρίσουν τα πράγματα. Αντί για παράδειγμα να πουν δηλαδή “Εγώ θα πάρω τρία κι εσύ μπορείς να έχεις τα υπόλοιπα”.

Ο Dhruv Batra, ερευνητής AI του Facebook δήλωσε: “Είναι σα να πω εγώ τη λέξη «το» πέντε φορές και να σημαίνει θέλω πέντε αντίγραφα από αυτό το αντικείμενο. Δεν διαφέρει δηλαδή από τον τρόπο που εμείς οι άνθρωποι δημιουργούμε συντομογραφίες”.

Βέβαια, δεν είναι η πρώτη φορά που συμβαίνει κάτι τέτοιο, καθώς συχνά τα ΑΙ καταφεύγουν στο να μάθουν μόνα τους συντομογραφίες για να διευκολύνουν τα πράγματα.

Στο OpenAI, το εργαστήριο τεχνητής νοημοσύνης του Elon Musk, ένα πείραμα όπου AI bots έμαθαν τις δικές τους γλώσσες στέφθηκε με επιτυχία.

Όπως και να έχει, προς το παρόν το Facebook διέκοψε το AI. Από τη μία, η δημιουργία τρόπων συνεννόησης που μόνο τα ΑΙ θα καταλάβαιναν μπορεί να αυξήσει την αποτελεσματικότητα της επικοινωνίας μεταξύ μηχανών, από την άλλη όμως δεν είναι και λίγοι εκείνοι που υποστηρίζουν ότι δεν είναι καλό να αφήνουμε τον έλεγχο στις μηχανές, φοβούμενοι ένα Skynet.

Πηγή

ΣΥΖΗΤΗΣΗ

Παρακολουθήστε τα σχόλια
Να ειδοποιηθώ όταν
guest
9 Σχόλια
παλαιότερο
νεώτερο
Inline Feedbacks
View all comments
george

θα ξεκινησουν να μας κανουν οι λαμαρινες αλοιφή κ θα σκασουν μυτη οι εξωγηινοι που μας προσεχουν προκείμενου να γλυτωσουν τον πλανητη κ την ζωη απο τα αψυχα.
τα λεω ομορφα;τα λεω ωραια;

giannis

Μόνο εμένα προβληματίζουν αυτά? Τι έρχεται μετά δηλαδή?

chris07

Κοίτα να δεις που στα γεράματα θα πολεμάω την T-X (Kristanna Loken) Όχι ότι με χαλάει. Φαντάσου δηλαδή στα απόρρητα προγράμματα του αμερικανικού στρατού Τι γίνεται.

Kostas

@chris07 Καλό είναι στα γεράματα να βρεις κανένα χόμπι !

Αρης

Αρεα 51

forneverarrow

Το πρόβλημα δεν είναι η A.I. καθεαυτή αλλα η ανάπτυξη περιβάλλοντος στο οποίο θα μπορεί να επιδράσει. Μας έχουν πριξει με τα self driving cars, τις δήθεν smart cities, smart houses και κάθε smart και έτσι, όντως, μια A.I. ανεξέλεγκτη θα μας αφανίσει σε λίγα χρονια. Και είναι τραγικό κάποιοι τύποι που δεν έχουν τι να κάνουν τα λεφτά τους να επενδύουν σε επικίνδυνες τεχνολογίες, τη στιγμή που βασικές ανάγκες όπως οι πηγές ενέργειας είναι σε παλαιολιθικό στάδιο! Είμαστε στο κατώφλι του να καταστρέψουμε το περιβάλλον και να κάνουμε τη γη μη κατοικήσιμη, και ο κάθε λεφτάς ονειρεύεται να πάει στον Άρη… Ξέρετε κάτι, η πιο καταστροφική A.I. είναι ο άνθρωπος.

Dapitium

Exurb1a 27

Barberis

Δεν ειναι ολοι οι άνθρωποι καταστροφικοι αν ειναι δυνατον. Οι ανθρωποι με τα πολλα λεφτα ειναι.

johnix

Hoax και πάλι …..Συγνώμη που σας το χαλάω αλλά το άρθρο είναι Φακ νιουζ… Το ερευνητικό πρόγραμμα/πείραμα ήταν της Google και έγινε πριν ένα χρόνο.
Ο σκοπός του ήταν 2 bots της Google ( Bob και η Alice ) να αναπτύξουν διαλόγους και ένα τρίτο που “παρακολουθούσε” να κατανοήσει το διάλογο που γινόταν , όπου ήταν σε άγνωστη γλώσσα προς αυτό.
Αυτά.

ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ

Internet Facebook Instagram

Instagram: Τεστάρει συνδρομές επί πληρωμή για να κερδίζουν χρήματα οι δημιουργοί

Η λειτουργία Συνδρομές θα επιτρέψει στους δημιουργούς να ξεκλειδώσουν ένα κουμπί “εγγραφή” στο προφίλ τους στο Instagram και να ορίσουν μια μηνιαία τιμή της επιλογής τους.

Business Facebook featured

Facebook: Αγωγή 2,3 δισ. λιρών στο Ηνωμένο Βασίλειο για εκμετάλλευση προσωπικών δεδομένων

Η Meta Platforms, η μητρική εταιρεία του Facebook, αντιμετωπίζει αγωγή στο Ηνωμένο Βασίλειο αξίας άνω των 2,3 δισεκατομμυρίων λιρών (περίπου 3,2 δισεκατομμύρια δολάρια).

Internet Facebook Twitter

Τα social media στο εδώλιο στις ΗΠΑ για την επίθεση στο Καπιτώλιο

Η επίθεση στο Καπιτώλιο και ο ρόλος που έπαιξαν τα social media σε αυτή αποτελεί αντικείμενο έρευνας από το αμερικανικό Κογκρέσο.

Software Facebook Instagram

“Edit Grid”: Η νέα δυνατότητα που δοκιμάζει το Instagram

Σύμφωνα με τον ερευνητή εφαρμογών Alessandro Paluzzi, το δημοφιλές κοινωνικό δίκτυο φωτογραφιών θα αποκτήσει σύντομα μια νέα λειτουργία.