Φωτογραφίες αλλοιωμένες από AI κάνουν τους ανθρώπους να θυμούνται λάθος αυτό που είδαν, και μάλιστα να είναι σίγουροι γι’ αυτό. Αυτό δείχνει έρευνα της ομάδας της Pattie Maes στο MIT. Η Maes μίλησε για τη μελέτη στη Washington Post. Στο ίδιο συμπέρασμα καταλήγουν κι άλλες έρευνες για εικόνες και κείμενα που φτιάχνει η τεχνητή νοημοσύνη.
Οι συμμετέχοντες στο πείραμα του MIT είδαν αρχικά μια σειρά φωτογραφιών. Μετά από ένα διάλειμμα, κάποιοι ξαναείδαν ακριβώς τις ίδιες και άλλοι εκδοχές τους πειραγμένες με AI. Στο τεστ μνήμης που ακολούθησε, όσοι είχαν δει τις αλλοιωμένες εικόνες θυμούνταν πιο συχνά λάθος την αρχική. Ήταν επίσης υπερβολικά σίγουροι για τις λάθος αναμνήσεις τους.
Ότι η ανθρώπινη μνήμη επηρεάζεται εύκολα το δείχνουν ψυχολογικά πειράματα ήδη από τον 19ο αιώνα. Μελέτες δείχνουν ότι η παραπληροφόρηση συνεχίζει να επηρεάζει αποφάσεις, και πολιτικές, ακόμα κι αφού δημοσιευτεί διόρθωση. Το περιεχόμενο που φτιάχνει το AI γίνεται όλο και πιο πειστικό και ήδη τροφοδοτεί ένα νέο κύμα απάτης και παραπληροφόρησης.
Μια μελέτη του 2025 έδειξε ότι deepfakes και κείμενα από AI φύτεψαν στους συμμετέχοντες ψεύτικες αναμνήσεις για πολιτικά σκάνδαλα που δεν συνέβησαν ποτέ. Το αποτέλεσμα ήταν να μειωθεί η πρόθεσή τους να ψηφίσουν.
Το εύρημα αφορά και το «human in the loop». Έτσι λέγεται ο άνθρωπος, συνήθως έμπειρο στέλεχος, που ελέγχει την έξοδο ενός συστήματος AI πριν γίνει πράξη. Κυβερνητικές υπηρεσίες, τράπεζες, στρατοί και νοσοκομεία στηρίζονται σε αυτόν τον έλεγχο για να πιάνουν τα λάθη των μοντέλων, τα λεγόμενα hallucinations. Οι έρευνες όμως δείχνουν ότι οι χρήστες δεν τα εντοπίζουν εύκολα. Ακόμα κι όταν το AI λέει κάτι που ο ειδικός ξέρει ότι είναι λάθος, η κρίση του μπορεί να επηρεαστεί.
Σύμφωνα με μελέτες, ο μέσος άνθρωπος αναγνωρίζει το περιεχόμενο από AI περίπου με την ίδια επιτυχία που θα είχε αν έστριβε ένα κέρμα. Ερευνητές δοκιμάζουν μεθόδους εκπαίδευσης για να βελτιωθεί ο εντοπισμός των deepfakes, αλλά σίγουρη λύση δεν υπάρχει ακόμα. Στο μεταξύ η βιομηχανία τρέχει προς agentic συστήματα που θα δουλεύουν εντελώς αυτόνομα, χωρίς άνθρωπο να τα ελέγχει.
Το κενό αυτό έχει ήδη κοστίσει ζωές. Νωρίτερα μέσα στο 2026, αμερικανική στρατιωτική επίθεση σε δημοτικό σχολείο στο Ιράν σκότωσε πάνω από 150 ανθρώπους, ανάμεσά τους τουλάχιστον 123 παιδιά. Το Bloomberg ανέφερε τον Σεπτέμβριο μια εσωτερική έρευνα του Υπουργείου Άμυνας των ΗΠΑ. Σύμφωνα με αυτήν, η επίθεση οφείλεται εν μέρει στην υπερβολική εμπιστοσύνη σε σύστημα AI της Palantir, που είχε προτείνει το σχολείο ως στόχο της πρώτης ημέρας με βάση παλιά δεδομένα.
Σχόλια