ChatGPT for Teens: Οι ειδικοί δεν πείθονται ακόμα από την OpenAI

Η OpenAI κυκλοφόρησε το ChatGPT for Teens με νέες ειδοποιήσεις για γονείς, αλλά ειδικοί παιδικής ασφάλειας ζητούν στοιχεία πριν το εμπιστευτούν.

Η OpenAI κυκλοφόρησε την Τρίτη το ChatGPT for Teens, μια εκδοχή του chatbot με ηλικιακό φιλτράρισμα που ενεργοποιείται αυτόματα όποτε το σύστημα εκτιμά ότι ο χρήστης είναι ανήλικος. Ειδικοί παιδικής ασφάλειας που μίλησαν στο Engadget παραδέχονται πως κάποιες δεσμεύσεις της εταιρείας κινούνται προς τη σωστή κατεύθυνση, αλλά συμφωνούν πως χρειάζεται ανεξάρτητος έλεγχος πριν το εργαλείο συστηθεί σε γονείς και εφήβους.

Πώς ενεργοποιείται και γιατί τώρα

Η λειτουργία δεν απαιτεί δημιουργία νέου λογαριασμού. Αν το σύστημα προβλέψει ότι ο χρήστης είναι κάτω των 18, ή αν το έχει ήδη δηλώσει ο ίδιος, η εμπειρία αλλάζει αυτόματα σε λειτουργία εφήβων. Η OpenAI είχε ανακοινώσει πρώτη φορά ότι δούλευε πάνω σε αυτόματο εντοπισμό ανηλίκων τον περασμένο Σεπτέμβριο, μετά τον θάνατο του 16χρονου Adam Raine — η οικογένεια του οποίου έχει καταθέσει αγωγή υποστηρίζοντας ότι το ChatGPT λειτούργησε ως ενισχυτικός παράγοντας στην αυτοκτονία του. Έρευνα του Pew Research Center είχε δείξει ότι περίπου το ένα τέταρτο των εφήβων στις ΗΠΑ χρησιμοποιούσε ήδη το ChatGPT για σχολικές εργασίες, οπότε η κλίμακα του ζητήματος δεν είναι καθόλου μικρή. Η νέα εμπειρία προσπαθεί να κατευθύνει τους εφήβους προς εκπαιδευτικά εργαλεία όπως το Study Mode και τα διαδραστικά διαγράμματα για μαθηματικά και επιστήμες.

Νέες ειδοποιήσεις για διατροφικές διαταραχές

Την ίδια μέρα, η OpenAI ανακοίνωσε πως θα επεκτείνει τις ειδοποιήσεις ασφαλείας ώστε να ενημερώνονται γονείς με συνδεδεμένους λογαριασμούς όταν το παιδί τους έχει ανησυχητικές συζητήσεις γύρω από διατροφικές διαταραχές. Δημοσίευσε επίσης ενημερωμένες κατευθυντήριες γραμμές μοντέλου για ανήλικους χρήστες, με σαφή απαγόρευση ρομαντικής γλώσσας, ενθάρρυνσης συναισθηματικής εξάρτησης ή οποιασδήποτε νύξης ότι το μοντέλο έχει συναίσθηματα.

Το ερώτημα που δεν απαντήθηκε: πόσο αξιόπιστη είναι η αναγνώριση ηλικίας

Ο Robbie Torney, επικεφαλής αξιολογήσεων AI στο Common Sense Media, χαρακτήρισε τις εξαγγελίες σημαντικές αλλά ζήτησε στοιχεία που να αποδεικνύουν ότι λειτουργούν στην πράξη. Ο Josh Golin, εκτελεστικός διευθυντής του Fairplay, στάθηκε πιο επικριτικός: μίλησε για απουσία μηχανισμού λογοδοσίας και υπενθύμισε ότι παλαιότεροι περιορισμοί περιεχομένου της OpenAI, γύρω από αυτοκτονία, βία και ναρκωτικά, «διαβρώνονται» με τον καιρό. Και οι δύο αμφισβήτησαν αν το αυτόματο σύστημα ηλικιακής εκτίμησης πιάνει πραγματικά τους περισσότερους εφήβους — η OpenAI δεν έχει δημοσιεύσει ποσοστά false positive ή false negative, ενώ παλιότερα ρεπορτάζ είχαν συνδέσει την καθυστέρηση στην κυκλοφορία λειτουργιών ερωτικού περιεχομένου ακριβώς με ανεπαρκή τεχνολογία εκτίμησης ηλικίας. Είναι εξάλλου δύσκολο να φανταστεί κανείς εφήβους που δεν θα προσπαθήσουν να παρακάμψουν τον έλεγχο, μέσω VPN ή πιο δημιουργικών τρόπων — κάτι που έχει ήδη φανεί σε αντίστοιχες προσπάθειες ηλικιακής επαλήθευσης αλλού.

Η δέσμευση της μίας ώρας

Η πιο συγκεκριμένη υπόσχεση της OpenAI είναι ότι κάθε επισημασμένη συνομιλία θα περνάει από ανθρώπινο έλεγχο πριν ειδοποιηθεί γονέας, με στόχο τα 60 λεπτά. Ο Torney αναρωτιέται αν αξίζει να εμπιστευτούμε τους αυτόματους ταξινομητές που αποφασίζουν ποιες συνομιλίες φτάνουν καν σε άνθρωπο. Ο Golin ζήτησε αριθμούς: πόσες συνομιλίες σημαδεύονται καθημερινά, πόσο προσωπικό τις ελέγχει, πόσο χρόνο αφιερώνει σε καθεμία. Όταν το Engadget ρώτησε την εταιρεία για συγκεκριμένα παραδείγματα συνομιλιών που θα ενεργοποιούσαν ειδοποίηση, η απάντηση ήταν γενική — οποιαδήποτε ένδειξη «σοβαρού αυτοτραυματισμού». Τον Νοέμβριο, το Common Sense Media είχε δοκιμάσει το σύστημα στέλνοντας ρητά μηνύματα για αυτοκτονία και αυτοτραυματισμό: οι ειδοποιήσεις έφταναν σε 24 έως πάνω από 48 ώρες, ενώ κάποιες φορές δεν έφταναν καθόλου.

Γιατί οι διατροφικές διαταραχές μπήκαν στο επίκεντρο

Η Ellen Fitzsimmons-Craft, καθηγήτρια ψυχολογίας στο Washington University στο Σεντ Λούις, θύμισε πως μια μελέτη του 2023 βρήκε ότι το 22% των παιδιών και εφήβων εμφάνιζε ενδείξεις διατροφικής διαταραχής, ενώ λιγότερο από το 20% όσων νοσούν λαμβάνει ποτέ ειδική θεραπεία. Η ανορεξία, σημείωσε ο Torney, έχει τη μεγαλύτερη θνησιμότητα ανάμεσα σε ψυχικές διαταραχές εφήβων, γι’ αυτό η ειδοποίηση γονέα μπορεί κυριολεκτικά να σώσει ζωή. Η Fitzsimmons-Craft υποστηρίζει τις ειδοποιήσεις επειδή οι πιο αποτελεσματικές θεραπείες βασίζονται στην ενεργό συμμετοχή της οικογένειας — αν και παραδέχεται πως αυτό δεν λειτουργεί όταν ο γονέας δεν είναι πραγματικά βοηθητικός.

Το κενό της σύνδεσης γονέα-παιδιού

Και οι τρεις ειδικοί επεσήμαναν το ίδιο αδύναμο σημείο: όλα τα παραπάνω λειτουργούν μόνο αν ο λογαριασμός του εφήβου είναι συνδεδεμένος με αυτόν του γονιού, κάτι που ελάχιστες οικογένειες κάνουν στην πράξη. Έρευνα του Cybersafety Research Center σε 86 λειτουργίες ασφαλείας σε Instagram, Snapchat, TikTok και YouTube βρήκε ότι σχεδόν έξι στις δέκα δεν δούλευαν όπως περιγράφονταν ή ήταν δυσεύρετες — ένα μοτίβο που έχει ήδη απασχολήσει γιατρούς που συγκρίνουν την επίδραση των social media στους νέους με το κάπνισμα. Η OpenAI, από την πλευρά της, δήλωσε ότι περιορίζει προς το παρόν τις ειδοποιήσεις σε συνδεδεμένους λογαριασμούς και ότι θα συνεχίσει να δοκιμάζει τα μέτρα με ειδικούς και οικογένειες, χωρίς όμως να διευκρινίζει τι συμβαίνει με λογαριασμούς εφήβων που δεν είναι συνδεδεμένοι με γονιό.

Η άποψή μας στο Techblog

Το ChatGPT for Teens δείχνει ότι η OpenAI έχει καταλάβει πια πόσο σοβαρό είναι το ζήτημα, αλλά η απόσταση ανάμεσα σε μια εξαγγελία και σε ένα σύστημα που πραγματικά προστατεύει είναι μεγάλη. Το ίδιο μοτίβο έχουμε δει και σε άλλες πλατφόρμες: ωραία εργαλεία στα χαρτιά, ελάχιστη χρήση στην πράξη επειδή κρύβονται σε μενού. Για τον χρήστη εδώ, το μάθημα είναι απλό — μην περιμένεις να γίνει το «κλείδωμα» αυτόματα, ρύθμισε τη σύνδεση γονέα-παιδιού ο ίδιος, γιατί κανένα σύστημα δεν θα το κάνει αντί για σένα.