YouTube: Νέο εργαλείο AI εντοπίζει deepfake βίντεο με πολιτικούς και δημοσιογράφους

Το YouTube επεκτείνει το εργαλείο τεχνητής νοημοσύνης που χρησιμοποιεί για τον εντοπισμό deepfake βίντεο, επιτρέποντας πλέον σε πολιτικούς, κυβερνητικούς αξιωματούχους και δημοσιογράφους να ανιχνεύουν περιεχόμενο όπου χρησιμοποιείται ψηφιακά η εικόνα τους. Η κίνηση εντάσσεται στις προσπάθειες της πλατφόρμας να αντιμετωπίσει την αυξανόμενη χρήση generative AI για τη δημιουργία ψευδών ή παραπλανητικών βίντεο.

Πώς λειτουργεί το εργαλείο εντοπισμού

Το σύστημα ονομάζεται “likeness detection” και σχεδιάστηκε για να εντοπίζει βίντεο που περιλαμβάνουν ψηφιακά τροποποιημένη ή συνθετική εικόνα ενός προσώπου. Η λειτουργία θυμίζει τον τρόπο που λειτουργεί το Content ID του YouTube, όμως αντί να εντοπίζει περιεχόμενο με πνευματικά δικαιώματα, αναζητά εμφανίσεις ενός προσώπου που έχουν δημιουργηθεί ή αλλοιωθεί με τεχνητή νοημοσύνη.

Αν το εργαλείο εντοπίσει ένα βίντεο που πιθανόν χρησιμοποιεί την εικόνα κάποιου, το άτομο που συμμετέχει στο πρόγραμμα μπορεί να το εξετάσει και να υποβάλει αίτημα αφαίρεσης. Το YouTube διευκρινίζει ότι κάθε αίτημα αξιολογείται ξεχωριστά και δεν θα αφαιρούνται αυτόματα όλα τα βίντεο, καθώς ορισμένα μπορεί να θεωρούνται αποδεκτά σύμφωνα με τις πολιτικές της πλατφόρμας, όπως σε περιπτώσεις σάτιρας ή δημόσιου σχολιασμού.

Πιλοτική επέκταση σε νέες κατηγορίες χρηστών

Το εργαλείο είχε παρουσιαστεί αρχικά για δημιουργούς περιεχομένου στο YouTube. Η εταιρεία τώρα το επεκτείνει πιλοτικά ώστε να καλύπτει και: δημοσιογράφους, πολιτικούς υποψηφίους, κυβερνητικούς αξιωματούχους.

Η εταιρεία δεν έχει ανακοινώσει ποια πρόσωπα συμμετέχουν στη δοκιμαστική φάση.

Τι απαιτείται για τη χρήση

Για να αποκτήσει κάποιος πρόσβαση στο εργαλείο πρέπει να υποβάλει ένα βίντεο του εαυτού του καθώς και επίσημο έγγραφο ταυτοποίησης. Τα δεδομένα χρησιμοποιούνται για να εκπαιδευτεί το σύστημα αναγνώρισης και μπορούν να διαγραφούν κατόπιν αιτήματος.

Η άποψή μας στο Techblog

Η διάδοση των εργαλείων generative AI έχει κάνει τα deepfake πιο εύκολα και πιο ρεαλιστικά από ποτέ. Η δυνατότητα να εντοπίζεται η ψηφιακή απομίμηση ενός προσώπου και να υπάρχει διαδικασία ελέγχου αποτελεί ένα πρώτο βήμα για τον περιορισμό της παραπληροφόρησης, ιδιαίτερα όταν αφορά δημόσια πρόσωπα.