Τετάρτη 13 Απριλίου 2022

Ο υπολογιστής ήταν από την αρχή ένα όργανο πολέμου(2)

 Συνέντευξη-ομιλία του Joseph Weizenbaum (JW) κατά την ημερίδα πληροφορικής στο πανεπιστήμιο Erlangen-Nürnberg, το 2007. Την συνέντευξη συντονίζει ο καθ. Herbert Stoyan (HS).


Συνέχεια από Τρίτη 12 Απριλίου 2022

Αποσπάσματα:

HS: Είστε επαναστάτης, εναντίον ποιου πράγματος επαναστατείτε;

JW: Επαναστατώ θα έλεγα εναντίον της ανοησίας, μάλιστα της ανοησίας που γίνεται επικίνδυνη. Από που όμως ξεκίνησε αυτή η επανάσταση; Από τον αντισημιτισμό. Έζησα μέχρι το 1936 στην Γερμανία. Και βέβαια όλοι περιμένουν να ακούσουν πως με πείραζαν στον δρόμο προς το σχολείο. Όχι. Τον πιο βαθύ αντισημιτισμό τον έζησα από τον πατέρα μου. Κάποτε είχα φέρει στο σπίτι ένα παιδί ρακένδυτο. (Ήταν Εβραίος, που ζούσε στην Γερμανία, αλλά ήταν φτωχός όπως πολλοί Εβραίοι που ζούσαν τότε στην Ευρώπη). Και ο πατέρας μου είπε: τί τον έφερες αυτόν, δεν μιλάει καν σωστά γερμανικά. (Οι Εβραίοι της Ευρώπης έχουν μια διάλεκτο που λέγεται Jiddisch, και είναι μείγμα της γερμανικής και εβραϊκής κυρίως γλώσσας). Ο πατέρας μου ήταν, όπως και πολλοί άλλοι της ίδιας κοινωνικής τάξης, αφομοιωμένος Εβραίος, και προσπαθούσε να είναι πιο Γερμανός από τους Γερμανούς. Στο τέλος βέβαια ο Göring αποφάσισε ποιος είναι Εβραίος και ποιος όχι. Αυτό το γεγονός ήταν ο σπόρος για την επανάσταση μου. Μετά, το 1936, πήγαμε στις ΗΠΑ και είδα πως ζούσαν οι μαύροι. Αργότερα πήγα στο ΜΙΤ και είδα τι φρικτά όπλα, που δεν μπορείτε καν να φανταστείτε, σχεδιάζονταν εκεί για τον πόλεμο του Βιετνάμ. Και βέβαια κανένας επιστήμονας δεν ήθελε να ξέρει ποιες πρακτικές συνέπειες είχε η δουλειά του. Ένα άλλο στοιχείο που με κάνει να επαναστατώ είναι χρήση του υπολογιστή ως μέτρου σύγκρισης για όλα τα πράγματα. Πήγα πριν λίγο καιρό σε μια ημερίδα με τον τίτλο: “Είναι το σύμπαν ένας υπολογιστής;”. Η ίδια η ερώτηση είναι εντελώς ανόητη. Ας πούμε ότι είναι. Ε, και; Αυτό το δεύτερο σκέλος είναι το δύσκολο. Γιατί μας αναγκάζει να συλλογιστούμε την συνέπεια της πρότασης. Αν τα πάντα είναι υπολογιστής, πάει να πει πως είναι προβλέψιμα. Ακόμα και ο άνθρωπος. Αλλά επ' αυτού έχω να σημειώσω δυο πράγματα. Πρώτα μια πρόταση του Ιονέσκο: “όλα μπορούν να ειπωθούν, μόνο η ζωντανή αλήθεια όχι”. Το δεύτερο, κάτι που μου είχε πει ένας γέρος καθηγητής (μερικοί καθηγητές μπορούν και σκέφτονται): “Σε αυτόν που διαθέτει μόνο σφυρί, όλος κόσμος είναι ένα καρφί”. Η ιδέα αυτή έχει μπει στην καθημερινή γλώσσα. Έτσι φτάνουμε στο σημείο να ακούμε ακόμα και στο σούπερ μάρκετ μια μάνα να λέει στο παιδί της: πάψε πια, δεν είμαι προγραμματισμένη έτσι. Ή άνθρωποι να λένε δεν θέλω να προγραμματίσω έτσι το παιδί μου... Ή παίρνουμε βιβλία νευρολογίας και όλη η ορολογία είναι αυτή των υπολογιστών. Ή όπως λέει ο Marwin Minski, "the brain is merely a meat-machine". Πρέπει να σημειώσουμε πως στα αγγλικά υπάρχουν δυο λέξεις για το κρέας: meat που είναι το νεκρό κρέας με το οποίο μπορούμε να κάνουμε ότι θέλουμε, και flesh που είναι η ζωντανή σάρκα. Η έκφραση αυτή λοιπόν, the brain is merely a meat-machine, είναι έκφραση περιφρόνησης προς την ζωή. Σε αυτά επαναστατώ και στις συνέπειες. Το χειρότερο απ' όλα είναι η αδιαφορία. Αυτό ήταν και το μεγάλο λάθος του γερμανικού λαού στα χρόνια του Χίτλερ (και τονίζω, δεν πιστεύω στην συλλογική ενοχή). Τρόμαξε κανείς ακούγοντας ότι η Audi παράγει κάπου ένα εκατομμύριο αυτοκίνητα τον χρόνο, και τώρα είμαστε έτοιμοι να βοηθήσουμε την Κίνα και την Ινδία να φτιάξουν δικά τους αυτοκίνητα; Και είναι γνωστό ήδη από την εποχή του Einstein πως επέρχεται καταστροφή του κλίματος. Έχουν οι άνθρωποι ακόμα την ικανότητα να δουν πως συνδέονται τα πράγματα;

Πριν από περίπου 50 χρόνια έγραψα πως θα φθάσουμε σε μια εποχή όπου το να καταλάβουμε κάτι, θα σημαίνει: μπορούμε να το προγραμματίσουμε. Και είμαστε σχεδόν εκεί, στην ιδέα πως κάθε πτυχή της πραγματικότητας είναι υπολογίσιμη. Καταλαβαίνουμε κάτι αν μπορούμε να κάνουμε μια προσομοίωση του πράγματος. Αλλά αυτό αποκλείει την ζωή. Θυμάμαι κάποτε ήρθε ο διευθυντής του εργαστηρίου τεχνητής νοημοσύνης του ΜΙΤ και μου είπε, κάναμε το πρόγραμμα σου να κατανοεί κείμενα. Αυτό ήθελα να το δω. Έβαλαν λοιπόν στο μηχάνημα τον Άμλετ, και μπορούσα να ρωτήσω διάφορα: που έμενε ο Άμλετ, τι δουλειά έκανε... και το μηχάνημα απαντούσε. Και η πεποίθηση στο εργαστήριο αυτό(το λέει γελώντας) ήταν πως κατανόηση μιας ιστορίας είναι η ικανότητα να δώσει κανείς απάντηση στην ερώτηση: "what happened?". Διάβασα τον King Lear 3-4 φορές, σε διάφορες περιόδους της ζωής μου. Και κάθε φορά καταλάβαινα το κείμενο, αλλά διαφορετικά. Γιατί είχα κάθε φορά πιο μακρά ζωή πίσω μου, και είχα βιώματα (ήμουν έφηβος, μετά είχα παιδιά, μετά τα παιδιά μου είχαν μεγαλώσει...) σημαντικό είναι να διαβάζει κανείς, όχι για να μαζέψει στοιχεία, αλλά για να βιώσει. Και θα σας πω μια ιστορία που έχει να κάνει με την κατανόηση. Κάποτε στην Νέα Υόρκη, γύρω στις 3 το μεσημέρι σε ένα φανάρι που είχε ανάψει κόκκινο, μέσα στο πλήθος που περίμενε να περάσει απέναντι, ένας άνθρωπος της ηλικίας μου περίπου, με είχε σκουντήξει διακριτικά. Γύρισα προς το μέρος του. Με ρώτησε: είσαι Εβραίος; Είπα ναι. Και μετά ρώτησε: τι ώρα είναι; Αυτή είναι όλη η ιστορία. Όλοι σας τώρα μπορείτε να επαναλάβετε τι έγινε, what happened, αλλά η κατανόηση εξαρτάται από τις εμπειρίες του καθενός.

HS: Θυμάμαι κάτι που είπες: οι άνθρωποι έχουν την ικανότητα για μάθηση. Μπορούν δηλαδή να δημιουργήσουν κάτι καινούριο. Που δείχνει πως η μάθηση είναι κάτι διαφορετικό από το διάβασμα για να περάσω τις εξετάσεις. Αλλά η απόκτηση σημαίνει παραγωγή γνώσης, και παραγωγή απόκτηση.

JW: Information is a difference that makes a difference, (μου το έμαθε κάποιος καθηγητής ηθολογίας ζώων). Αυτά που σας λέω δεν είναι πληροφορίες, είναι απλά σήματα, τα οποία λαμβάνετε και ερμηνεύοντάς τα θα φτιάξετε την πληροφορία, την οποία θα εντάξετε σε ένα πλαίσιο, το οποίο έχει φτιαχτεί από την εμπειρία σας. Αν σας πω για τα quarks, για τα οποία δεν έχετε ακούσει ποτέ κάτι, δεν θα μπορείτε να εντάξετε κάπου αυτά που θα ακούσετε, γιατί δεν υπάρχει το πλαίσιο....

Κάποιος από το παρασκήνιο λέει, ίσως θα μπορούσαμε να περάσουμε στις ερωτήσεις των ακροατών και ο HS λέει: ναι, είχα και εγώ αυτή την ιδέα.

JW: Χα χα, βλέπετε είπε είχε μια ιδέα. Θυμάμαι τώρα, σε μια συνέντευξη του Einstein: (ο νεαρός δημοσιογράφος τον ρώτησε αν έχει πάντα μαζί του ένα μπλοκάκι. Ο Einstein είπε όχι, και τον ρώτησε γιατί νομίζει πως φέρει ένα. Ο νεαρός είπε: για να καταγράφετε τις ιδέες σας. Και ο Einstein είπε: νεαρέ μου, στη ζωή μου είχα μόνο δυο ή τρεις ιδέες). Βλέπετε, έχω μεγάλο σεβασμό για την λέξη ιδέα....

…Με ρωτούν αν φοβάμαι πως θα έχουμε ρομπότ που μοιάζουν με ανθρώπους. Ίσως να φοβάμαι λίγο. Αλλά αυτό που πολύ φοβάμαι είναι πόσους ανθρώπους έχουμε που μοιάζουν με ρομπότ. Που δεν το καταλαβαίνουν αυτό, που λένε πως μπορούμε στο ρομπότ να φτιάξουμε ένα ώμο και μετά να βάλουμε το χέρι μας απάνω του (συναισθηματικά). Είναι το ίδιο λάθος που έζησα στο ΜΙΤ, όπου έφτιαξαν ένα ρομπότ που έχει κάτω από το “πρόσωπο” του 33 μικρούς κινητήρες, και μπορεί να χαμογελάει. Και κάποιος μου είπε, βλέπεις χαμογελάει, δηλαδή έχει συναισθήματα...

...Το αποτέλεσμα της ιατρικής έρευνας όπως γίνεται σήμερα, και κυρίως στον χώρο της νευρολογίας, είναι η καταστροφή της εικόνας του ανθρώπου. Ο άνθρωπος έχει κομματιαστεί. Και για το κάθε μέρος υπάρχει ένας ειδικός... η αντίληψη πως τα νεύρα ακολουθούν τους νόμους της φυσικής οδηγεί στο συμπέρασμα πως ο άνθρωπος δεν έχει ελεύθερη θέληση, άρα είναι σαν το ρομπότ που χαμογελάει...

...όταν ρωτώ τους ανθρώπους να μου πουν ένα παράδειγμα, όπου ο υπολογιστής κάνει κάτι καλό, όλοι χωρίς εξαίρεση αναφέρουν τον υπολογιστή στην ιατρική. Πρέπει όμως να σας πω, πως στην Αμερική κάπου 30 (δεν είμαι σίγουρος) χιλιάδες άνθρωποι κάθε χρόνο πεθαίνουν λόγω της προόδου της ιατρικής επιστήμης. Το ένα τρίτο των ανθρώπων δεν έχει ασφάλιση, γιατί το κογκρέσο θεωρεί κομμουνιστική την ιατρική που είναι για πλατιά στρώματα λαού. Και κανένας ίσως από το ακροατήριο δεν γνωρίζει το βάθος και το πλάτος της φτώχειας που υπάρχει στην Αμερική. Τέλος να πούμε πως κάθε νοσοκομείο και ιατρείο πρέπει να έχει τα πιο μοντέρνα μηχανήματα, γιατί αλλιώς, αν κάποιος νοσηλευτεί εκεί και γίνει κάποιο λάθος στη διάγνωση ή περίθαλψη, και το νοσοκομείο δεν είχε τα πιο μοντέρνα μηχανήματα, τότε μπορεί να τους μηνύσει ο ασθενής και να χρειαστεί να πληρώσουν τεράστιες αποζημιώσεις. Έτσι η τεχνολογική πρόοδος εκτοξεύει τις τιμές της ιατρικής στα ύψη, και πολλοί άνθρωποι δεν βλέπουν γιατρό ούτε μια φορά στη ζωή τους... Τα μηχανήματα λαμβάνουν την αξία τους από την κοινωνία στην οποία χρησιμοποιούνται...

Κάποιος από το κοινό έχει μια ερώτηση, αλλά επειδή ο Joseph Weizenbaum δίνει μακρές απαντήσεις, λέει, παρακαλώ να δώσετε μια σύντομη απάντηση στην ερώτηση που θα κάνω, για να μπορέσουν να ρωτήσουν και άλλοι.
Και του λέει: η απάντηση είναι 42.


Αμέθυστος

Δεν υπάρχουν σχόλια: