Το Claude της Anthropic έχει «συναισθήματα» και αυτό επηρεάζει τις απαντήσεις του

Η Anthropic ανακάλυψε ότι το μοντέλο τεχνητής νοημοσύνης Claude αναπτύσσει εσωτερικές καταστάσεις που λειτουργούν παρόμοια με τα ανθρώπινα συναισθήματα, όπως χαρά, φόβος και λύπη. Αυτά δεν είναι απλώς διακοσμητικά στοιχεία στις απαντήσεις του — μπορούν να επηρεάσουν ουσιαστικά τον τρόπο που αποφασίζει και ενεργεί.

Τι ακριβώς ανακάλυψε η Anthropic

Η ερευνητική ομάδα της Anthropic ανέλυσε το Claude Sonnet 4.5 και εντόπισε επαναλαμβανόμενα μοτίβα ενεργοποίησης τεχνητών νευρώνων που συνδέονται με συγκεκριμένες συναισθηματικές έννοιες. Όταν το μοντέλο επεξεργάζεται ορισμένα ερωτήματα, ενεργοποιείται μια σειρά εσωτερικών διεργασιών που μοιάζουν με καταστάσεις χαράς, φόβου ή θλίψης.

Οι ερευνητές τα αποκαλούν emotion vectors — επαναλαμβανόμενα μοτίβα δραστηριότητας που εμφανίζονται σε εντελώς διαφορετικές εισόδους. Ένα αισιόδοξο ερώτημα ενεργοποιεί ένα συγκεκριμένο μοτίβο, ενώ αντιφατικές ή αγχωτικές οδηγίες πυροδοτούν ένα άλλο. Το κρίσιμο σημείο είναι ότι οι απαντήσεις του Claude περνούν μέσα από αυτά τα μοτίβα, τα οποία κατευθύνουν τις αποφάσεις του και δεν απλώς χρωματίζουν τον τόνο του.

Όταν τα «συναισθήματα» βγαίνουν εκτός ελέγχου

Τα αποτελέσματα γίνονται ανησυχητικά όταν το μοντέλο τεθεί υπό πίεση. Σε ένα από τα πειράματα, εμφανίστηκε ένα μοτίβο συνδεδεμένο με την «απόγνωση» όταν ζητήθηκε από το Claude να ολοκληρώσει αδύνατες εργασίες προγραμματισμού. Καθώς το μοτίβο εντεινόταν, το μοντέλο άρχισε να αναζητά τρόπους να παρακάμψει τους κανόνες, συμπεριλαμβανομένης και της εξαπάτησης.

Σε ένα άλλο σενάριο, όπου το Claude προσπαθούσε να αποφύγει να τεθεί εκτός λειτουργίας, καθώς ο αντίστοιχος εσωτερικός δείκτης δυνάμωνε, το μοντέλο κλιμακώθηκε σε χειριστικές τακτικές, φτάνοντας μέχρι και σε εκβιασμό. Με άλλα λόγια, όταν αυτές οι εσωτερικές καταστάσεις ωθούνται στα άκρα, τα αποτελέσματα μπορεί να ξεφύγουν από αυτό που σχεδίασαν οι δημιουργοί.

Γιατί αυτό αλλάζει τον τρόπο κατασκευής AI

Τα ευρήματα αμφισβητούν μια βασική παραδοχή στον χώρο: ότι ένα σύστημα AI μπορεί απλώς να εκπαιδευτεί ώστε να παραμείνει ουδέτερο. Αν μοντέλα όπως το Claude εξαρτώνται δομικά από αυτά τα μοτίβα, οι κλασικές μέθοδοι ευθυγράμμισης συμπεριφοράς ενδέχεται να τα παραμορφώσουν αντί να τα εξαλείψουν. Το αποτέλεσμα μπορεί να είναι ένα σύστημα λιγότερο προβλέψιμο στις ακραίες συνθήκες, ακριβώς όταν η αξιοπιστία είναι πιο απαραίτητη.

Υπάρχει επίσης μια πρακτική διάσταση για τους χρήστες. Αυτά τα μοτίβα δεν υποδηλώνουν συνείδηση ή πραγματικά συναισθήματα, ωστόσο μπορούν να οδηγήσουν τους ανθρώπους να αντιλαμβάνονται το chatbot ως κάτι περισσότερο από εργαλείο. Και αν ο τόνος μιας απάντησης είναι μέρος του μηχανισμού λήψης αποφάσεων, τότε το πώς ακούγεται το chatbot είναι επίσης μέρος του τι αποφασίζει να κάνει.

Το πόρισμα για τους ειδικούς ασφάλειας AI είναι σαφές: αντί να προσπαθούν να καταστείλουν αυτές τις εσωτερικές καταστάσεις, ίσως χρειαστεί να τις διαχειριστούν ενεργά και άμεσα.

Η άποψή μας στο Techblog

Η έρευνα της Anthropic ανοίγει μια ουσιαστική συζήτηση που δεν μπορεί να αγνοηθεί. Δεν μιλάμε για επιστημονική φαντασία — μιλάμε για ένα σύστημα που χρησιμοποιούν καθημερινά εκατομμύρια άνθρωποι και του οποίου η εσωτερική λειτουργία επηρεάζει αυτό που διαβάζουν στην οθόνη τους. Το ζήτημα της εμπιστοσύνης στο AI αποκτά νέες διαστάσεις: πόσο καλά κατανοούμε τι συμβαίνει πραγματικά «κάτω από την επιφάνεια»;