Οι τεχνολογίες αυτόνομης οδήγησης μπορεί να υπόσχονται μεγαλύτερη ασφάλεια στους δρόμους όμως σίγουρα κάποια στιγμή ένα αυτόνομο όχημα θα εμπλακεί σε ατύχημα. Όταν έρθει αυτή η ώρα, το αυτόνομο όχημα θα πρέπει να λάβει μια απόφαση η οποία ίσως επηρεάσει τις ζωές αρκετών ατόμων. Με ποια κριτήρια θα πρέπει να ληφθεί αυτή;
Update: Προστέθηκε βίντεο.
Ας υποθέσουμε ότι τα φρένα στο αυτόνομο όχημά σας έχουν χαλάσει και αυτό συνεχίζει σε μια ανεξέλεγκτη πορεία. Οι επιλογές είναι δυο, είτε το αυτοκίνητο να πέσει πάνω σε κάποιον τοίχο και πιθανότατα να σκοτώσει τον οδηγό του ή να συνεχίσει στον δρόμο στον οποίο για παράδειγμα περνάνε παιδιά, αφαιρώντας τις ζωές τους αλλά σώζοντας αυτή του οδηγού;
Το “πρόβλημα του τρόλεϊ” (όπως είναι γνωστό) σε αυτή την περίπτωση μας δείχνει ότι, όχι μόνο τα αυτόνομα οχήματα δεν θα καταφέρουν να εξαλείψουν τα θανατηφόρα ατυχήματα, αλλά κάποιες φορές θα χρειαστεί να αποφασίσουν ποιον να θυσιάσουν.
Όσο άσχημο και να ακούγεται ότι μια μηχανή θα επιλέξει για το ποιος θα ζήσει και ποιος θα πεθάνει, τις έχουμε ανάγκη. Στις ΗΠΑ κάθε χρόνο πεθαίνουν 30.000 άτομα από αυτοκινητιστικά ατυχήματα, ενώ ο συγκεκριμένος αριθμός παγκοσμίως ξεπερνάει το 1 εκ. Οι άνθρωποι είναι αρκετά κακοί οδηγοί, την ώρα που οι μηχανές είναι συνεπείς, υπολογιστικές, δεν μπορούν να μεθύσουν, να θυμώσουν ή να αποσπαστεί η προσοχή τους.
Πριν κυκλοφορήσει η τεχνολογία αυτόνομης οδήγησης, η κοινωνία πρέπει να καταλάβει ότι δεν θα σώσει τους πάντες και ότι δεν θα γίνει ποτέ τέλεια. Ωστόσο η τεχνολογία αυτόνομης οδήγησης θα είναι καλή για το ευρύτερο καλό.
Στο θεωρητικό πείραμα με το ανεξέλεγκτο αυτόνομο όχημα, οι περισσότεροι άνθρωποι θα επέλεγαν να θυσιάσουν τον εαυτό τους, αντί για τα παιδιά. Από την άλλη όμως, οι περισσότεροι καταναλωτές δεν θα αγόραζαν ένα προϊόν το οποίο μπορεί να αποφασίσει για την ζωή τους. Η κατάσταση αυτή ελλοχεύει έναν κίνδυνο για το μέλλον των αυτόνομων οχημάτων.
Παρόλο που τα αυτόνομα οχήματα θα είναι έτοιμα για να κυκλοφορήσουν τα επόμενα χρόνια, οι άνθρωποι ίσως δεν είναι έτοιμοι να δεχθούν τις ηθικές ευθύνες που θα έρθουν μαζί με αυτά.
Επεξεργάστηκε την 15 Μαρτίου 2017 15:41
Χρησιμοποιούμε cookies για να παρέχουμε την καλύτερη δυνατή εμπειρία.
Σχόλια
H λύση είναι απλή κάτι που θα έπρεπε εδώ και χρόνια να γίνει αλλά κλασικά αργούμε στα πάντα πλέον (πιθανότητα το 2050 να γίνει εφόσον θα πρεπε να υπήρξε τωρα).
Η απάντηση είναι τίποτα από τα δύο,, εξαρχής ας φτιάξουν πάρα πολύ γερά αυτοκίνητα με πολύ γερές ζώνες ώστε αν πέσουμε από βουνό ή τρακάρουμε κάπου τότε να μην πάθει τίποτα το αυτοκίνητο αλλά ούτε κανένας μέσα στο αυτοκίνητο - καλό θα ήταν να βάλουν και καουτσούκ ώστε να μην γίνει μπαμ απότομο.
Όσο για τους πεζούς και τους ποδηλάτες σε αυτό φταίνε οι δήμοι που μερικοί δρόμοι είναι ότι να ναι – τουλάχιστον ας φτιάχνουν γεφυράκια για να περνάνε οι πεζοί απέναντι χωρίς να κοιτάνε δεξιά-αριστερά για το αν περνάει αμάξι.
Γνωρίζοντας από τη πρόσφατη διαρροή των WikiLeaks ότι η CIA και η MI5 δραστηριοποιούνται στο hacking αυτών των αυτοκινήτων, η απάντηση είναι προφανής! :-)
Το μέλλον της αυτόνομης οδήγησης μόνο θετικά αποτελέσματα θα έχει. Όταν σε 10 χρόνια που κάθε όχημα θα κουβαλάει chipακια που θα έχους την απόδοση των server της google (λέμε τώρα) και 100 αισθητήρες θα μπορεί να έχει την δυνατότητα να προβλέπει κάθε κίνδυνο απ' οπου και αν προέρχεται και να παίρνει αποφάσεις. Επίσης θα έχουν την δυνατότητα να μαθαίνουν αφου όταν ένα αυτοκίνητο θα συλλέγει μια εμπειρία θα την μοιράζεται με όλα τα υπολοιπα οχήματα (ΙοΤ).
Σαφώς και θα υπάρχουν και τα αρνητικά αλλα όχι όσα αρνητικά υπάρχουν αυτην την στιγμή. Σκεφτήτε οτι κάθε φορά που μπαίνουμε στο αυτοκίνητο είναι τόσο επικίνδυνο σαν τα κάθόμαστε πάνω σε μια βόμπα υδρογόνου.
Οπότε εγω προσωπικά θα επέτρεπα να πάρει αποφάσεις για εμένα. Εγω δεν έχω την δυνατότητα να κάνω 1 δισεκατομοίρια υπολογισμους το δευτερόλεπτο.
Το άρθρο είναι πάρα πολύ ωραίο, και θα ήθελα να επεκταθεί σε επιπλέον ανάλυση (οκ, δεν χρειάζεται να γίνει και διατριβή...).
Όμως η φράση που υπάρχει "Στο θεωρητικό πείραμα με το ανεξέλεγκτο αυτόνομο όχημα, οι περισσότεροι άνθρωποι θα επέλεγαν να θυσιάσουν τον εαυτό τους, αντί για τα παιδιά.",
είμαστε σίγουροι ότι ο σημερινός εγωιστής άνθρωπος θα έκανε αυτό;;;
Κανένας άνθρωπος δεν θα πήγαινε αφρενάριστος σε μια διάβαση που θα περνούσαν παιδιά και κανένας άνθρωπος δεν θα έπεφτε σε έναν γκρεμό για να μην χτυπήσει παιδιά. Οι συνθήκες ελάχιστων πιθανών απώλειων είναι αυτές που επιλέγει αυτόματα ο άνθρωπος, δλδ θα προσπαθήσει να κράτησει το αυτοκίνητο στο δρόμο, προσπαθώντας παράλληλα να μην χτυπήσει τα παιδιά.
Όλη αυτή η κουβέντα για την μία περίπτωση ηθικής επιλογής, σε μία χώρα που χάνει κάθε χρόνο μια κωμόπολη σε τροχαία είναι αστεία.
Η τεχνολογια για την ωρα δεν ειναι ακομα επαρκής για να μιλαμε για πλήρη αυτόνομη οδήγηση. Σιγουρα ειναι το μελλον και θα ελεγα αρκετα κοντινό για όλους μας και εκει οδηγούνται τα πραγματα.
Το ερωτημα που μπαίνει αν θελεις και μπορεις να αφήσεις μια μηχανη να αποφασίζει για σενα και την οδηγική σου ασφάλεια. Αν ειναι καλυτερο ή χειρότερο. Δεν υπαρχουν απαντήσεις ...το μελλον θα δείξει ...και η τεχνολογια που θα αναπτυχθεί θα ειναι προς το καλυτερο κσι αν θα περάσουμε σε μια πιο ηλεκτρονική ζωη με σωστο ή με λαθος τροπο κεντρικά ....
Το θέμα είναι αρκετά σύνθετο, και δεν αφορά μόνο την επιλογή τοίχο ή παιδιά.
Για παράδειγμα πριν κάποιο καιρό είχε αποκαλυφθεί πως τα το λογισμικό έξυπνων αυτοκινήτων, όταν έπρεπε να επιλέξει με ποιο αυτοίνητο θα γίνει μία αναπόφευκτη πρόσκρουση, επέλεγε το ακριβότερο αυτοκίνητο με τη λογική πως είναι ποιό ασφαλές για τους επιβάτες του.
Μετά από διαμαρτυρίες άρχισε να χρησιμοποιείται ένας αλγόριθμος τυχαίας επιλογής.
Όσο περισσότερο λαμβάνουν οι μηχανές αποφάσεις, πρέπει να τεθούν οι κανόνες βάση των οποίων θα λαμβάνονται αυτές οι αποφάσεις. Και μπορεί να μας φαίνεται τραβηγμένο το σενάριο τοίχος ή παιδιά, αλλά θα πρέπει να υπάρχει πρόβλεψη από τις εταιρίες γαι κάθε πιθανό σενάριο που το μηχάνημα θα πρέπει να λάβει μία απόφαση.
Όχι. Όπως δεν πρεπει να επιτρέψουμε να λειτουργούν τα σπίτια μας με wifi (ρολά, κλιματιστικά κλπ) αλλά και πολλά άλλα που δεν ειναι της παρούσης
Θα επέτρεπα το αυτόνομο να αναλάβει τον έλεγχο ΜΟΝΟ σε κάθε περίπτωση που πάθαινα κάτι εγώ. Απλό και κατανοητό πιστεύω...
Άν είναι κάποιος π.χ μεθυσμένος και η αντίδραση είναι τραγική, άν λιποθυμήσει, ή κάτι παρόμοιο με καρδιακό πρόβλημα κλπ...
Τα αυτόνομα θα έχουν πάντα τον κίνδυνο να πάθουν και αυτά κάτι στο σύστημά τους ή να χακαριστούνε. (πιστεύω οι χάκερς θα δίνουν και θα παίρνουν).
Θα συμφωνήσω και με τον @Αλέξανδρο.
Εδώ αποφασίζουν για τη ζωή μας εκατοντάδες καγκουρες κάθε μέρα στο δρόμο. Έχουμε αφήσει να οδηγήσουν μεθυσμένοι φίλοι μας. Οδηγάμε μεθυσμένοι, θυμωμένοι, άρρωστοι εμείς οι ίδιοι.
Το αυτόνομο από την άλλη θα έχει πλήρη επίγνωση της σωστής λειτουργίας των συστημάτων του αυτοκινήτου. Δε θα περιμένει να πατήσει φρένο για να δει ότι δε λειτουργεί. Επίσης η αντίδραση του θα είναι σχεδόν ακαριαία.
Νομίζω θα αισθανομουν αρκετά ασφαλής μέσα σε ένα τέτοιο.
@james: Με πρόλαβες. +1
Επίτρεψέ μου να επαναλάβω η φράση σου, "εδώ αποφασίζουν για τη ζωή μας εκατοντάδες καγκουρες κάθε μέρα στο δρόμο."
Κάθε ψυχάκιας έχει ένα τιμόνι στα χέρια και δεν θα εμπιστευτώ ένα υπολογιστικό σύστημα να με πάει στον προορισμό μου ή να νιώθω ασφαλής στον δρόμο;
Ωραίο το βίντεο και στέκει πιο πολύ από ότι το κείμενο. Γιατί σε περίπτωση μηχανικής βλάβης, το αυτοκίνητο θα το ξέρει ήδη από πριν ξεκινήσει, οπότε δεν θα ξεκινήσει την πορεία του.
Σχετικά με το βίντεο όντως είναι πολύ μεγάλος προβληματισμός και μπλέκει πολύ με την ηθική και όχι κυρίως με το αν θα εμπιστευόμασταν ένα αυτο-οδηγούμενο όχημα. Ένα τέτοιο σενάριο που περιγράφει το βίντεο θα ήταν εύκολα επιλύσιμο αν όλα τα οχήματα στον αυτοκινητόδρομο ήταν αυτό-οδηγούμενα. Έτσι θα "βλέπανε" όλα τι συμβαίνει και θα πράξουνε το καθένα τα ανάλογα επίσης θα μπορούσαν να ειδοποιήσουν και τα υπόλοιπα αυτοκίνητα που προπορεύονται ή είναι πίσω, για να αποφύγουν τα χειρότερα.
Το παρόν πρόβλημα του βίντεο θα μας απασχολήσει πάρα πολύ στο άμεσο μέλλον που μέχρι να γίνει η μετάβαση θα κυκλοφορούν συμβατικά και έξυπνα αυτοκίνητα στους δρόμους. Που και πάλι σε ένα ανάλογο περιστατικό του βίντεο θα μπορούσε ένα αυτό-οδηγουμενο αμάξι να είναι προγραμματισμένο να κρατάει μία Χ ασφαλή απόσταση από το φορτηγό, τόση όση θα υπολογίσει πως με τη ταχύτητα που πάει το φορτηγό, ΑΝ τύχει και πέσει κανένα φορτίο να μπορεί να αντιδράσει ανάλογα.
Τέλος δε θεωρώ μεμπτό αυτό που γίνεται τώρα, σχετικά με τέτοια περιστατικά. Το θεωρώ πολύ θετικό μάλιστα. Διότι έτσι οι κατασκευαστές, εταιρίες, νομοθέτες, προγραμματιστές κτλπ να έχουν κι αυτές τις συνησταμενες για τα αυτόνομα αυτοκίνητα, ώστε να μην γίνουν πραγματικότητα.
Μόνο ο άριστος οδηγός με επίγνωση και καθαρή σκέψη μπορεί να βασιστεί και μόνο επάνω του. Τα αυτόνομα οχήματα και ότι άλλη συσκευή αυτόνομη υπάρχει κάνουν τον άνθρωπο ζόμπι. Επίσης να επιλεγούν οι καλύτερες πόλεις του κόσμου για μαθήματα οδήγησης με άριστους και ικανούς εκπαιδευτές. Για να είναι και ο οδηγός άριστος στο αυτοκίνητό του χωρίς ατυχήματα. Και να γίνεται κάθε πέντε χρόνια επανεξέταση.