Πρόσθετο του Chrome χρησιμοποιεί Machine Learning για να μπλοκάρει τοξικά σχόλια

Η Jigsaw είναι μια θυγατρική εταιρεία της Google, η οποία βοηθά τον κολοσσό στην ανάπτυξη νέων τεχνολογιών που στοχεύουν στην αντιμετώπιση παγκόσμιων απειλών ασφαλείας. Μερικά από τα πιο αξιοσημείωτα project της Jigsaw, έχουν να κάνουν με την πρόληψη DDoS επιθέσεων και τον χειρισμό DNS. Το πιο πρόσφατο project της εταιρείας είναι μια επέκταση για τον Google Chrome, η οποία ονομάζεται Tune, και φιλτράρει τα τοξικά online σχόλια μέσω Machine Learning.

Η λειτουργία του πρόσθετου βασίζεται στο Perspective API, που έχει δημιουργήσει η Jigsaw. Για μεγάλο χρονικό διάστημα η εταιρεία δοκίμαζε το API της, σε συνεργασία με τις The New York Times, The Economist, και The Guardian, για το φιλτράρισμα σχολίων και την βαθμολόγηση της τοξικότητας του κάθε ενός. Το αποτέλεσμα των δοκιμών της είναι το πρόσθετο Tune για τον Chrome, χάρη στο οποίο μπορούμε και εμείς να φιλτράρουμε τα σχόλια που βλέπουμε στο Youtube, το Facebook, το Twitter, το Reddit, και το Disqus.

Στο Tune μπορούμε να ορίσουμε των αριθμό των τοξικών σχολίων που θέλουμε να βλέπουμε, μέσω ενός περιστρεφόμενου διακόπτη. Συνολικά υπάρχουν 7 βαθμίδες, που ξεκινούν από το να μην βλέπουμε τοξικά σχόλια, και φτάνουν στο να τα βλέπουμε όλα. Όσα σχόλια είναι κρυμμένα έχουν μια κουκκίδα δίπλα τους, καθώς και έγχρωμη κωδικοποίηση, ώστε να μπορούμε να ξεχωρίσουμε το πόσο αισχρά είναι.

Επίσης, το Tune διαθέτει τη δυνατότητα φιλτραρίσματος τοξικότητας, και μπορούμε να επιλέξουμε ξεχωριστά αν θέλουμε να βλέπουμε ή να κρύψουμε σχόλια τα οποία αποτελούν προσωπικές επιθέσεις, προσβολές, ύβρεις, απειλές ή σχόλια σεξουαλικού περιεχομένου.

Η Jigsaw αναφέρει ότι κατά το πρόσθετο της δεν αποθηκεύει προσωπικά δεδομένα. Κάθε σχόλιο που χαρακτηρίζεται ως τοξικό αποστέλλεται για βαθμολόγηση, και όταν η αξιολόγηση του ολοκληρωθεί τότε διαγράφεται αυτόματα. Για τη χρήση του πρόσθετου, και του Perspective API, οι χρήστες πρέπει να συνδεθούν στον Google λογαριασμό τους.