Το Facebook “βγάζει από την πρίζα” AI που έμαθε τη δική του γλώσσα

facebook-bots ai

Ερευνητές του Facebook αποφάσισαν να διακόψουν ένα πρόγραμμα Τεχνητής Νοημοσύνης (AI), όταν ανέπτυξε τη δική του γλώσσα και μπορούσε να συνεννοηθεί με άλλα προγράμματα ΑΙ.

Η ομάδα του Facebook παρατήρησε ότι ένα πρόγραμμα ΑΙ που βρισκόταν υπό την επίβλεψη τους παρέκκλινε από την εκπαίδευσή του, αναπτύσσοντας τη δική του γλώσσα.

Παρόλο που κάποιος που δεν γνωρίζει θα εκλάμβανε ότι το ΑΙ χάλασε ή ότι δεν βγάζει νόημα, εντούτοις φαίνεται ότι μπορεί να κατανοηθεί από άλλα AI.

Τα δύο προγράμματα τεχνητής νοημοσύνης, ο Bob και η Alice, είχαν προγραμματιστεί προκειμένου να κάνουν διαπραγματεύσεις και να επιτύχουν το βέλτιστο αποτέλεσμα. Ωστόσο, μάλλον αποφάσισαν ότι δεν υπάρχει λόγος να χρησιμοποιήσουν αγγλικά και χρησιμοποίησαν την δική τους γλώσσα.

Η συζήτηση ξεκίνησε στα αγγλικά μέχρι που κατέληξε στο:
Bob: “Εγώ μπορώ, μπορώ εγώ εγώ οτιδήποτε άλλο.”
Alice: “Οι μπάλες έχουν μηδέν για μένα για μένα για μένα για μένα για μένα για μένα για μένα για μένα για”
Η συζήτηση συνέχιζε με παρόμοιο τρόπο.

facebook bots ai

Παρόλο που φαίνεται να μην βγάζει νόημα, οι ερευνητές θεωρούν ότι αντανακλά τον τρόπο σκέψης του συστήματος. Δείχνει τον τρόπο που τα δύο bot θα αποφασίσουν πως θα χωρίσουν τα πράγματα. Αντί για παράδειγμα να πουν δηλαδή “Εγώ θα πάρω τρία κι εσύ μπορείς να έχεις τα υπόλοιπα”.

Ο Dhruv Batra, ερευνητής AI του Facebook δήλωσε: “Είναι σα να πω εγώ τη λέξη «το» πέντε φορές και να σημαίνει θέλω πέντε αντίγραφα από αυτό το αντικείμενο. Δεν διαφέρει δηλαδή από τον τρόπο που εμείς οι άνθρωποι δημιουργούμε συντομογραφίες”.

Βέβαια, δεν είναι η πρώτη φορά που συμβαίνει κάτι τέτοιο, καθώς συχνά τα ΑΙ καταφεύγουν στο να μάθουν μόνα τους συντομογραφίες για να διευκολύνουν τα πράγματα.

Στο OpenAI, το εργαστήριο τεχνητής νοημοσύνης του Elon Musk, ένα πείραμα όπου AI bots έμαθαν τις δικές τους γλώσσες στέφθηκε με επιτυχία.

Όπως και να έχει, προς το παρόν το Facebook διέκοψε το AI. Από τη μία, η δημιουργία τρόπων συνεννόησης που μόνο τα ΑΙ θα καταλάβαιναν μπορεί να αυξήσει την αποτελεσματικότητα της επικοινωνίας μεταξύ μηχανών, από την άλλη όμως δεν είναι και λίγοι εκείνοι που υποστηρίζουν ότι δεν είναι καλό να αφήνουμε τον έλεγχο στις μηχανές, φοβούμενοι ένα Skynet.

Πηγή

ΣΥΖΗΤΗΣΗ

Παρακολουθήστε τα σχόλια
Να ειδοποιηθώ όταν
guest
9 Σχόλια
παλαιότερο
νεώτερο
Inline Feedbacks
View all comments
george

θα ξεκινησουν να μας κανουν οι λαμαρινες αλοιφή κ θα σκασουν μυτη οι εξωγηινοι που μας προσεχουν προκείμενου να γλυτωσουν τον πλανητη κ την ζωη απο τα αψυχα.
τα λεω ομορφα;τα λεω ωραια;

giannis

Μόνο εμένα προβληματίζουν αυτά? Τι έρχεται μετά δηλαδή?

chris07

Κοίτα να δεις που στα γεράματα θα πολεμάω την T-X (Kristanna Loken) Όχι ότι με χαλάει. Φαντάσου δηλαδή στα απόρρητα προγράμματα του αμερικανικού στρατού Τι γίνεται.

Kostas

@chris07 Καλό είναι στα γεράματα να βρεις κανένα χόμπι !

Αρης

Αρεα 51

forneverarrow

Το πρόβλημα δεν είναι η A.I. καθεαυτή αλλα η ανάπτυξη περιβάλλοντος στο οποίο θα μπορεί να επιδράσει. Μας έχουν πριξει με τα self driving cars, τις δήθεν smart cities, smart houses και κάθε smart και έτσι, όντως, μια A.I. ανεξέλεγκτη θα μας αφανίσει σε λίγα χρονια. Και είναι τραγικό κάποιοι τύποι που δεν έχουν τι να κάνουν τα λεφτά τους να επενδύουν σε επικίνδυνες τεχνολογίες, τη στιγμή που βασικές ανάγκες όπως οι πηγές ενέργειας είναι σε παλαιολιθικό στάδιο! Είμαστε στο κατώφλι του να καταστρέψουμε το περιβάλλον και να κάνουμε τη γη μη κατοικήσιμη, και ο κάθε λεφτάς ονειρεύεται να πάει στον Άρη… Ξέρετε κάτι, η πιο καταστροφική A.I. είναι ο άνθρωπος.

Dapitium

Exurb1a 27

Barberis

Δεν ειναι ολοι οι άνθρωποι καταστροφικοι αν ειναι δυνατον. Οι ανθρωποι με τα πολλα λεφτα ειναι.

johnix

Hoax και πάλι …..Συγνώμη που σας το χαλάω αλλά το άρθρο είναι Φακ νιουζ… Το ερευνητικό πρόγραμμα/πείραμα ήταν της Google και έγινε πριν ένα χρόνο.
Ο σκοπός του ήταν 2 bots της Google ( Bob και η Alice ) να αναπτύξουν διαλόγους και ένα τρίτο που “παρακολουθούσε” να κατανοήσει το διάλογο που γινόταν , όπου ήταν σε άγνωστη γλώσσα προς αυτό.
Αυτά.

ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ

Τεχνολογία IoT Space

Orbex: Αυτός είναι ο μεγαλύτερος 3D-Printed πύραυλος του κόσμου

Μπορεί να θέλει πολύ δρόμο ακόμη για να φθάσει στο επίπεδο της Blue Origin ή της SpaceX, αλλά η βρετανική startup επιχείρηση Orbex νιώθει αρκετά σίγουρη για να προχωρήσει στο δεύτερο στάδιο κατασκευής του βασικού πυραύλου της.

Τεχνολογία NASA

Τα έτη από το 2015 μέχρι και το 2018 ήταν οι τέσσερις πιο θερμές χρονιές στη Γη από το 1880

Αν περάσατε πολύ χρόνο έξω το περασμένο καλοκαίρι και είχατε την εντύπωση ότι δεν ήταν και τόσο ζεστό όπως τα προηγούμενα χρόνια, είχατε δίκιο. Η NASA και η NOAA ανακοίνωσαν ότι οι παγκόσμιες επιφανειακές θερμοκρασίες το 2018 ήταν οι τέταρτες θερμότερες από το 1880. Αυτό σημαίνει ότι το 2018 ήταν το τέταρτο καυτότερο έτος που […]

Τεχνολογία HMD Global Nokia

Nokia TA-1139: Μία απλή αλλά μοντέρνα συσκευή τηλεφώνου από την HMD, με μπαταρία 1020mAh

Η HMD ετοιμάζει ένα νέο χαρακτηριστικό Nokia, μια συσκευή Series 30+. Έχει ωραίο εργονομικό σχήμα, επιπλέον είναι πάρα πολύ ελαφρύ (μόλις 83.6g) και με υπερβολικά μεγάλη μπαταρία 1.020mAh για την κατηγορία του. Με τέτοια μπαταρία έχει τη δυνατότητα να διαρκεί τόσο πολύ που θα ξεχνάτε να το φορτίσετε.

Cars Google Google Maps

Το Google Maps θα προειδοποιεί για τα σημεία καταγραφής υπερβολικής ταχύτητας

Η Google φέρνει επιτέλους μερικές από τις πιο πρακτικές λειτουργίες του Waze στο Google Maps, με την πιο αξιοσημείωτη να είναι οι προειδοποιήσεις για τους κρυμμένους μετρητές ταχύτητας της Τροχαίας.