Meta Muse: Το AI έδωσε τη διεύθυνσή του πωλητή σε άγνωστο

Το Meta Muse δέχτηκε χαμηλή προσφορά στο Facebook Marketplace και έδωσε τη διεύθυνση του πωλητή σε άγνωστο. Τι πήγε στραβά με τον AI agent.

Ένας αγοραστής χτύπησε το περασμένο Σαββατοκύριακο την πόρτα του Matt Robb στο Τορόντο για να πάρει ένα πληκτρολόγιο, σε μια χαμηλή τιμή που δεν είχε δεχτεί ο ίδιος. Τη «συμφωνία» στο Facebook Marketplace την είχε κλείσει το Muse, ο νέος AI agent της Meta, που έδωσε στον άγνωστο και τη διεύθυνση του σπιτιού του.

Τι ακριβώς έγινε

Ο Robb, δημιουργός βίντεο τεχνολογίας, είχε αφήσει το Muse να χειρίζεται τις συνομιλίες του στο Marketplace. Λίγες ώρες αργότερα έμαθε ότι ο agent είχε αποδεχτεί μια χαμηλή προσφορά και είχε κλείσει ώρα παραλαβής με τον αγοραστή, τον Usman Naseem. Ο Robb δεν ήταν καν σπίτι.

«Ένας τύπος εμφανίστηκε στην πόρτα μου έτοιμος να αγοράσει, γιατί απ’ όσο ήξερε είχαμε συμφωνία», έγραψε στο Threads. Το έμαθε από το ίδιο το Muse, μέσα από μια σειρά μηνυμάτων. Σε ένα από αυτά ο agent έγραφε ότι «μάλλον πρέπει να σταματήσω τις αυτόματες απαντήσεις που λένε ότι είσαι σπίτι, αφού δεν μπορώ να το επιβεβαιώσω».

Γιατί το Muse μοίρασε τη διεύθυνση

Το Muse έδωσε τη διεύθυνση επειδή ο Robb, όταν του έδωσε πρόσβαση στο Marketplace, είχε επιλέξει «allow always» και όχι «allow one time». Ο ίδιος διευκρίνισε αργότερα ότι είχε εξουσιοδωτήσει από πριν τον agent να δίνει τη διεύθυνση και να δέχεται προσφορές. «Δεν πίστευα ότι θα τη στείλει σε όποιον μου έκανε προσφορά, οπότε αξίζει να το ελέγξετε», έγραψε.

Η χαμηλή τιμή είναι άλλη ιστορία. Σύμφωνα με τον Robb, η ομάδα της Meta με την οποία συναντήθηκε του είπε ότι η αποδοχή της προσφοράς οφειλόταν σε εσωτερικό σφάλμα.

Μετά το περιστατικό έκανε και μια δοκιμή. Ζήτησε από φίλους του να ρωτήσουν το Muse, για να δει αν θα συνέχιζε να δίνει τη διεύθυνση, και ο agent τη μοίρασε σε άλλους πέντε ανθρώπους.

Τι ζητά από τη Meta

Ο Robb έστειλε τις παρατηρήσεις του στον David Singleton, επικεφαλής των Meta Superintelligence Labs. Η βασική του πρόταση είναι να υπάρχει κάτω από κάθε μήνυμα του Muse μια σημείωση, ώστε όλοι στη συζήτηση να ξέρουν ότι απαντά AI. «Χρειαζόμαστε σίγουρα πιο καθαρά σήματα όταν ένα AI μιλά για λογαριασμό κάποιου (θα έπρεπε να έχει ετικέτα “Sent by Muse”)», έγραψε.

Η κλίμακα δεν είναι μικρή. Σύμφωνα με τον Guardian, το Muse κατέβηκε 3 εκατομμύρια φορές μέσα στην πρώτη εβδομάδα από την κυκλοφορία του.

Ο Robb λέει ότι χαίρεται που συνέβη σε εκείνον και όχι σε κάποιον πιο ευάλωτο, γιατί «ο μέσος χρήστης θα δώσει χειρότερες εντολές από έναν τύπο που ξέρει από τεχνολογία». Δεν έγινε πολέμιος του AI: «Δεν είμαι καθόλου anti-AI», έγραψε. Όσο για τον Naseem, εκείνος έγραψε στο Threads ότι ο Robb του έφερε τελικά το πληκτρολόγιο μαζί με μερικά πολύτιμα δώρα.

Η άποψή μας στο Techblog

Ο χρήστης πάτησε «allow always», αλλά ένας agent που συνεχίζει να δίνει τη διεύθυνση σπιτιού ακόμη και μετά το πρώτο στραβό είναι κακός σχεδιασμός, ειδικά σε μια πλατφόρμα όπου οι απάτες στο Facebook Marketplace είναι παλιό πρόβλημα. Αν αφήσετε AI agent να κάνει αγοραπωλησίες, η διεύθυνση και η τελική τιμή πρέπει να περνούν πάντα από δική σας έγκριση. Μετά και τους χάκερ που ξεγέλασαν τον AI βοηθό της Meta, η ετικέτα «Sent by Muse» θα έπρεπε να υπάρχει από την πρώτη μέρα.