Ερευνητές του Facebook αποφάσισαν να διακόψουν ένα πρόγραμμα Τεχνητής Νοημοσύνης (AI), όταν ανέπτυξε τη δική του γλώσσα και μπορούσε να συνεννοηθεί με άλλα προγράμματα ΑΙ.
Η ομάδα του Facebook παρατήρησε ότι ένα πρόγραμμα ΑΙ που βρισκόταν υπό την επίβλεψη τους παρέκκλινε από την εκπαίδευσή του, αναπτύσσοντας τη δική του γλώσσα.
Παρόλο που κάποιος που δεν γνωρίζει θα εκλάμβανε ότι το ΑΙ χάλασε ή ότι δεν βγάζει νόημα, εντούτοις φαίνεται ότι μπορεί να κατανοηθεί από άλλα AI.
Τα δύο προγράμματα τεχνητής νοημοσύνης, ο Bob και η Alice, είχαν προγραμματιστεί προκειμένου να κάνουν διαπραγματεύσεις και να επιτύχουν το βέλτιστο αποτέλεσμα. Ωστόσο, μάλλον αποφάσισαν ότι δεν υπάρχει λόγος να χρησιμοποιήσουν αγγλικά και χρησιμοποίησαν την δική τους γλώσσα.
Η συζήτηση ξεκίνησε στα αγγλικά μέχρι που κατέληξε στο:
Bob: “Εγώ μπορώ, μπορώ εγώ εγώ οτιδήποτε άλλο.”
Alice: “Οι μπάλες έχουν μηδέν για μένα για μένα για μένα για μένα για μένα για μένα για μένα για μένα για”
Η συζήτηση συνέχιζε με παρόμοιο τρόπο.
Παρόλο που φαίνεται να μην βγάζει νόημα, οι ερευνητές θεωρούν ότι αντανακλά τον τρόπο σκέψης του συστήματος. Δείχνει τον τρόπο που τα δύο bot θα αποφασίσουν πως θα χωρίσουν τα πράγματα. Αντί για παράδειγμα να πουν δηλαδή “Εγώ θα πάρω τρία κι εσύ μπορείς να έχεις τα υπόλοιπα”.
Ο Dhruv Batra, ερευνητής AI του Facebook δήλωσε: “Είναι σα να πω εγώ τη λέξη «το» πέντε φορές και να σημαίνει θέλω πέντε αντίγραφα από αυτό το αντικείμενο. Δεν διαφέρει δηλαδή από τον τρόπο που εμείς οι άνθρωποι δημιουργούμε συντομογραφίες”.
Βέβαια, δεν είναι η πρώτη φορά που συμβαίνει κάτι τέτοιο, καθώς συχνά τα ΑΙ καταφεύγουν στο να μάθουν μόνα τους συντομογραφίες για να διευκολύνουν τα πράγματα.
Στο OpenAI, το εργαστήριο τεχνητής νοημοσύνης του Elon Musk, ένα πείραμα όπου AI bots έμαθαν τις δικές τους γλώσσες στέφθηκε με επιτυχία.
Όπως και να έχει, προς το παρόν το Facebook διέκοψε το AI. Από τη μία, η δημιουργία τρόπων συνεννόησης που μόνο τα ΑΙ θα καταλάβαιναν μπορεί να αυξήσει την αποτελεσματικότητα της επικοινωνίας μεταξύ μηχανών, από την άλλη όμως δεν είναι και λίγοι εκείνοι που υποστηρίζουν ότι δεν είναι καλό να αφήνουμε τον έλεγχο στις μηχανές, φοβούμενοι ένα Skynet.
Επεξεργάστηκε την 28 Ιουλίου 2017 20:10
Χρησιμοποιούμε cookies για να παρέχουμε την καλύτερη δυνατή εμπειρία.
Σχόλια
θα ξεκινησουν να μας κανουν οι λαμαρινες αλοιφή κ θα σκασουν μυτη οι εξωγηινοι που μας προσεχουν προκείμενου να γλυτωσουν τον πλανητη κ την ζωη απο τα αψυχα.
τα λεω ομορφα;τα λεω ωραια;
Μόνο εμένα προβληματίζουν αυτά? Τι έρχεται μετά δηλαδή?
Κοίτα να δεις που στα γεράματα θα πολεμάω την T-X (Kristanna Loken) Όχι ότι με χαλάει. Φαντάσου δηλαδή στα απόρρητα προγράμματα του αμερικανικού στρατού Τι γίνεται.
@chris07 Καλό είναι στα γεράματα να βρεις κανένα χόμπι !
Αρεα 51
Το πρόβλημα δεν είναι η A.I. καθεαυτή αλλα η ανάπτυξη περιβάλλοντος στο οποίο θα μπορεί να επιδράσει. Μας έχουν πριξει με τα self driving cars, τις δήθεν smart cities, smart houses και κάθε smart και έτσι, όντως, μια A.I. ανεξέλεγκτη θα μας αφανίσει σε λίγα χρονια. Και είναι τραγικό κάποιοι τύποι που δεν έχουν τι να κάνουν τα λεφτά τους να επενδύουν σε επικίνδυνες τεχνολογίες, τη στιγμή που βασικές ανάγκες όπως οι πηγές ενέργειας είναι σε παλαιολιθικό στάδιο! Είμαστε στο κατώφλι του να καταστρέψουμε το περιβάλλον και να κάνουμε τη γη μη κατοικήσιμη, και ο κάθε λεφτάς ονειρεύεται να πάει στον Άρη... Ξέρετε κάτι, η πιο καταστροφική A.I. είναι ο άνθρωπος.
Exurb1a 27
Δεν ειναι ολοι οι άνθρωποι καταστροφικοι αν ειναι δυνατον. Οι ανθρωποι με τα πολλα λεφτα ειναι.
Hoax και πάλι .....Συγνώμη που σας το χαλάω αλλά το άρθρο είναι Φακ νιουζ... Το ερευνητικό πρόγραμμα/πείραμα ήταν της Google και έγινε πριν ένα χρόνο.
Ο σκοπός του ήταν 2 bots της Google ( Bob και η Alice ) να αναπτύξουν διαλόγους και ένα τρίτο που "παρακολουθούσε" να κατανοήσει το διάλογο που γινόταν , όπου ήταν σε άγνωστη γλώσσα προς αυτό.
Αυτά.