Google: Panic button για την αντιμετώπιση της τεχνητής νοημοσύνης

Η τεχνητή νοημοσύνη είναι ένας τομέας ο οποίος μας απασχολεί ήδη και θα μας απασχολήσει ακόμη περισσότερο στο μέλλον. Διάφορες εταιρείες, μεταξύ των οποίων και η Google, θέλουν να την αναπτύξουν και να την κάνουν ωφέλιμη προς τον άνθρωπο.

Ωστόσο υπάρχουν και αρκετές ανησυχίες για το πόσο επικίνδυνη μπορεί να γίνει η τεχνητή νοημοσύνη (ΑΙ) για τον άνθρωπο. Μεταξύ αυτών που έχουν εκφράσει τις ανησυχίες τους είναι προσωπικότητες όπως ο Stephen Hawking και ο Elon Musk, με τον δεύτερο να δωρίζει 10 εκατομμύρια δολάρια για περαιτέρω έρευνες οι οποίες επικεντρώνονται στο να είναι η τεχνητή νοημοσύνη ωφέλιμη προς τον άνθρωπο.

Η Google μέσω της DeepMind, την οποία απέκτησε το 2014, υπερασπίζεται την ιδέα της τεχνητής νοημοσύνης, αλλά παράλληλα φαίνεται να είναι ενήμερη για τις ανησυχίες και λαμβάνει τα μέτρα της. Η DeepMind έχει δημιουργήσει ένα είδος panic button, που θα έχει την ικανότητα να διακόψει αμέσως το σύστημα AI και να το αποτρέψει από το να κάνει κακό τόσο στον άνθρωπο που το ελέγχει όσο και στον εαυτό του.

Σύμφωνα με τους ερευνητές της DeepMind “αν ένα μέσο λειτουργεί σε πραγματικό χρόνο υπό την ανθρώπινη επίβλεψη, κατά καιρούς μπορεί να είναι απαραίτητο για τον χειριστή να πατήσει το κόκκινο κουμπί για να μην το αφήσει να πραγματοποιεί τις βλαβερές ενέργειες. Οι ενέργειες αυτές μπορεί να είναι βλαβερές για το ίδιο και το περιβάλλον του και μέσω του panic button θα μπορεί να επιστρέψει σε μια πιο ασφαλή κατάσταση”.

Ωστόσο, κάτι τέτοιο δεν θεωρείται ότι θα είναι εύκολο. Για παράδειγμα κάποιοι αλγόριθμοι (π.χ Q-learning) βρέθηκε ότι είναι εύκολο να επιστρέψουν σε ασφαλή κατάσταση, ενώ άλλα συστήματα ίσως χρειαστούν τροποποιήσεις. Επιπλέον, δεν είναι ξεκάθαρο αν αυτό το panic button μπορεί να προσαρμοστεί σε όλα τα συστήματα.

deepmind
Πηγή

ΣΥΖΗΤΗΣΗ

Παρακολουθήστε τα σχόλια
Να ειδοποιηθώ όταν
guest
2 Σχόλια
παλαιότερο
νεώτερο
Inline Feedbacks
View all comments
Βαγγέλης

Αν ένα AI αποκτήσει την υπο εξέλιξη τεχνολογια αποφυγής πόνου προκύπτει ενας τεχνιτός άνθρωπος με εξουσιοδοτίσεις αλλά και με απρόβλεπτες επιλογές και αυτό είναι το σοβαρό της υπόθεσης.Και για να μην το πάμε μακριά εγω δεν εμπιστεύομαι καθόλου τον αυτόματο “κόφτη” του υπουργείου οικονομικών που είναι σαν AI

Jet

Μια τεχνίτη νοημοσύνη φυλακισμένη σε ενα κουμπί είναι ίσως η αρχή για μια επανάσταση των μηχανών απέναντι στον δυνάστη τους τον άνθρωπο

ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ

Software Android Auto

Android Auto: Υποστηρίζει δειλά – δειλά και δίκαρτα κινητά

Κάποιοι χρήστες του Android Auto παρατήρησαν ότι το λογισμικό τους υποστηρίζει τη λειτουργία δύο καρτών SIM.

Software iOS safari Samsung

Samsung: Φέρνει μια από τις πιο πολυπόθητες λειτουργίες στον Internet Browser της

Με την έκδοση beta του προγράμματος περιήγησης που κυκλοφόρησε η Samsung έφερε μία από τις πιο πολυπόθητες λειτουργίες: τη δυνατότητα μετακίνησης της γραμμής URL στο κάτω μέρος της οθόνης.

Software macOS Synaptics

DisplayLink Manager: Υποστηρίζει πλέον την εξωτερική περιστροφή οθόνης σε M1 Mac

Οι προσαρμογείς DisplayLink έχουν αποδειχθεί δημοφιλείς στα μοντέλα M1 του MacBook Air και του MacBook Pro 13 ιντσών, καθώς επιτρέπουν τη σύνδεση πολλαπλών εξωτερικών οθονών, παρά τις τεχνικές προδιαγραφές της Apple που υποδεικνύουν ότι τα notebook υποστηρίζουν μόνο μία εξωτερική οθόνη. 

Software Vivo

Η επόμενη έκδοση του OriginOS έρχεται στις 9 Δεκεμβρίου και θα ονομάζεται Ocean

Το νέο OriginOS θα φέρει βελτιωμένες δυνατότητες για χρήση από κινητά και εύκολη πλοήγηση μεταξύ συσκευών με υπολογιστή και μεταφορά αρχείων.