Μέσα στην εβδομάδα, η Microsoft έφερε το chatbot τεχνητής νοημοσύνης στο Twitter έτσι ώστε να έρθει σε επαφή με τον πραγματικό κόσμο. Τελικά τα πράγματα δεν πήγαν ακριβώς όπως θα περίμενε η Microsoft και η ομάδα της.
Η Tay από ένα 19χρονο κορίτσι που υποτίθεται ότι θα ενσάρκωνε, μετατράπηκε σε ένα έκφυλο ρατσιστικό ρομπότ με ναζιστικά και σεξιστικά σχόλια. Σε λιγότερο από ένα 24ωρο έκανε 94.00 tweets και η Microsoft αναγκάστηκε να την βάλει για ύπνο.
Η Tay στόχευε σε ηλικίες 18-24 και το ίντερνετ έδειξε πόσο σκληρό μπορεί να γίνει μαθαίνοντάς της ότι χειρότερο μπορούσε.
Η Microsoft μέσα από blog post ζητά δημόσια συγγνώμη και εξηγεί ότι τα tweets δεν έχουν καμία σχέση με τα δικά της πιστεύω και αξίες και δεν σχετίζονται με το πως σχεδιάστηκε η Tay. Το λογισμικό τεχνητής νοημοσύνης ήταν προετοιμασμένο να αντιμετωπίσει λεκτικές επιθέσεις, όμως δέχτηκε μαζική επίθεση, η οποία εκμεταλλεύτηκε ένα πρόβλημα στην Tay.
Στην ίδια ανακοίνωση η Microsoft αναφέρει ότι αυτή τη στιγμή η Tay είναι offline και θα την φέρει πίσω όταν είναι σίγουρη ότι μπορεί να αντιμετωπίσει καλύτερα κακόβουλες επιθέσεις που έρχονται σε σύγκρουση με τις αρχές και τις αξίες της Microsoft.
ΣΥΖΗΤΗΣΗ
Προσθήκη σχόλιου