Όταν η αλγοριθμική βοήθεια τροποποιεί τη γραφή χωρίς απαραίτητα να σβήνει τη σκέψη, την ευθύνη και την πρωτοτυπία του συγγραφέα.
Σύνταξη Inchiostronero
Συντακτικό σημείωμα
Η τεχνητή νοημοσύνη έχει πλέον γίνει μέρος της καθημερινής γραφής. Κάποιοι τη θεωρούν ένα εργαλείο όπως ένα λεξικό ή έναν διορθωτή, ενώ άλλοι τη βλέπουν ως απειλή για την αυθεντικότητα του έργου. Αυτό το δοκίμιο δεν παίρνει θέση επί της αρχής, αλλά επιχειρεί να διακρίνει την τεχνική βοήθεια από την υποκατάσταση της σκέψης, θίγοντας ένα ερώτημα που προορίζεται να διαμορφώσει το μέλλον του πολιτισμού: πότε μπορούμε ακόμα να μιλάμε για συγγραφέα;
Δεν είναι η τεχνητή νοημοσύνη που δοκιμάζεται.
Είμαστε εμείς και η ιδέα μας για έναν συγγραφέα.
Ο συγγραφέας σε δίκη
Η εξάπλωση της τεχνητής νοημοσύνης έχει μετατρέψει ένα τεχνικό ζήτημα σε φιλοσοφικό. Σήμερα, κρίνουμε όχι μόνο τι λέει ένα κείμενο, αλλά και ποιος —ή τι— το έγραψε.
Μέχρι πριν από λίγα χρόνια, η αξία ενός άρθρου, ενός δοκιμίου ή ενός μυθιστορήματος μετριόταν κυρίως από την ποιότητα των ιδεών του, τη δύναμη των επιχειρημάτων του, τη σαφήνεια της έκθεσής του και, φυσικά, την ευχαρίστηση της ανάγνωσης. Σήμερα, συμβαίνει κάτι διαφορετικό. Πριν καν συζητήσουμε το περιεχόμενο, αναρωτιόμαστε για την προέλευσή του: είναι καρπός ανθρώπινης προσπάθειας ή ήταν έργο τεχνητής νοημοσύνης;
Αυτό το φαινομενικά εύλογο ερώτημα, ωστόσο, κρύβει ένα άλλο, πολύ βαθύτερο: τι σημαίνει να είσαι συγγραφέας;
Αρκεί να πληκτρολογήσουμε κάθε λέξη στο πληκτρολόγιο; Ή μήπως ο συγγραφέας είναι κάποιος που συλλαμβάνει μια ιδέα, κατασκευάζει μια συλλογιστική, επιλέγει τα επιχειρήματα και αναλαμβάνει την ευθύνη για ό,τι δημοσιεύει;
Η ιστορία της γραφής είναι επίσης η ιστορία των εργαλείων της. Η γραφίδα έχει δώσει τη θέση της στην πένα, η πένα στη γραφομηχανή, η γραφομηχανή στον υπολογιστή. Κάθε καινοτομία έχει γίνει δεκτή με καχυποψία, σχεδόν σαν το νέο μέσο να θα αποδυνάμωνε αναπόφευκτα την ανθρώπινη δημιουργικότητα. Η τεχνητή νοημοσύνη αναμφίβολα αντιπροσωπεύει μια πιο ριζική αλλαγή, αλλά το κρίσιμο ζήτημα δεν αφορά τη μηχανή. Αφορά τον άνθρωπο.
Για αυτόν τον λόγο, η συζήτηση δεν θα πρέπει να περιοριστεί σε μια στείρα αντιπαράθεση μεταξύ υποστηρικτών και επικριτών της τεχνητής νοημοσύνης. Το πραγματικό ερώτημα είναι: πότε ένα εργαλείο σταματά να βοηθά τον δημιουργό του και αντίθετα αρχίζει να τον αντικαθιστά;
Είναι ένα ερώτημα που αφορά τη γραφή, αλλά και την ευθύνη, τη δημιουργικότητα και, τελικά, την ίδια την ιδέα του πολιτισμού. Διότι, αν αλλάξει η έννοια της λέξης « συγγραφέας» , αναπόφευκτα θα αλλάξει και ο τρόπος που βλέπουμε τα βιβλία, τα δοκίμια, ίσως ακόμη και την ίδια τη σκέψη.
Ποιος γράφει πραγματικά ένα βιβλίο;
Όταν παίρνουμε ένα βιβλίο και διαβάζουμε το όνομα του συγγραφέα στο εξώφυλλο, σπάνια σταματάμε για να σκεφτούμε τη σημασία αυτής της λέξης. Κι όμως, είναι μια από τις πιο περίπλοκες στον πολιτισμό μας. Ποιος είναι πραγματικά συγγραφέας; Αυτός που έγραψε φυσικά κάθε πρόταση; Ή αυτός που φαντάστηκε το έργο, κατασκεύασε την αρχιτεκτονική του, επέλεξε τα θέματα και αναλαμβάνει την ευθύνη για όσα λέει;
Το ερώτημα δεν προέκυψε με την τεχνητή νοημοσύνη. Υπάρχει από την αρχή της συγγραφής. Κάθε βιβλίο είναι αποτέλεσμα ανάγνωσης, επανεξέτασης, διορθώσεων, συζητήσεων και προτάσεων. Κανένα έργο δεν γεννιέται στο κενό. Πίσω από κάθε σελίδα κρύβεται μια μακρά διαδικασία ανάπτυξης που ο αναγνώστης, στις περισσότερες περιπτώσεις, δεν βλέπει.
Ο Ουμπέρτο Έκο μας υπενθύμισε ότι η γραφή σημαίνει, πάνω απ' όλα, ξαναγράψιμο. Η έμπνευση από μόνη της δεν είναι αρκετή. Ένα κείμενο παίρνει μορφή μέσα από συνεχείς αναθεωρήσεις, έλεγχο πηγών, εξάλειψη περιττών και αναζήτηση της καταλληλότερης λέξης. Ο συγγραφέας δεν γεμίζει απλώς σελίδες: κατασκευάζει μια νοηματική πορεία. Αυτή η ευθύνη είναι που κάνει ένα έργο αναγνωρίσιμο ως δικό του, πολύ πέρα από την απλή φυσική πράξη της γραφής . ^1
Ο Ουμπέρτο Γκαλιμπέρτι μας ενθαρρύνει επίσης να κοιτάξουμε πέρα από το μέσο. Έχει παρατηρήσει εδώ και καιρό ότι η τεχνολογία δεν είναι ποτέ απλώς ένα ουδέτερο μέσο: κάθε καινοτομία αλλάζει επίσης τον τρόπο που οι άνθρωποι σκέφτονται και σχετίζονται με τον κόσμο. Η τεχνητή νοημοσύνη δεν αποτελεί εξαίρεση. Δεν αλλάζει μόνο τον τρόπο που γράφουμε. Μας αναγκάζει να επανεξετάσουμε την ίδια την έννοια της πνευματικής δραστηριότητας. Το ερώτημα, επομένως, δεν είναι αν θα χρησιμοποιήσουμε ή όχι μια νέα τεχνολογία, αλλά ποιος χώρος απομένει για κρίση, δημιουργικότητα και προσωπική ευθύνη . ^2
Ο Λουτσιάνο Ντε Κρεσέντσο πιθανότατα θα είχε προσεγγίσει αυτή τη συζήτηση με το χαμόγελο που χαρακτήριζε τη δημοφιλή φιλοσοφία του. Του άρεσε να υπενθυμίζει στους ανθρώπους ότι η σκέψη προκύπτει από τα ερωτήματα ακόμη και πριν από τις απαντήσεις. Επομένως, το ερώτημα δεν είναι αν ένας αλγόριθμος μπορεί να κατασκευάσει μια κομψή πρόταση ή να μιμηθεί ένα λογοτεχνικό ύφος. Το κρίσιμο ερώτημα είναι άλλο: μπορεί να έχει διαίσθηση; Μπορεί να αμφιβάλλει; Μπορεί να μετατρέψει μια βιωμένη εμπειρία σε μια πρωτότυπη αντανάκλαση; Εδώ είναι που η μηχανή συναντά τα όριά της.
Ίσως, λοιπόν, να θέτουμε λάθος ερώτημα. Δεν θα έπρεπε να ρωτάμε αν η τεχνητή νοημοσύνη είναι ικανή να γράφει, αλλά τι πραγματικά καθιστά έναν άνθρωπο συγγραφέα ενός έργου. Αν ο συγγραφέας ήταν απλώς αυτός που πληκτρολογεί τις λέξεις, τότε ένα πληκτρολόγιο θα ήταν αρκετό για να τον αντικαταστήσει. Αλλά αν αυτός είναι που παράγει τη σκέψη, οργανώνει το νόημα και αναλαμβάνει την ευθύνη για αυτό που δημοσιεύει, τότε το πρόβλημα αποκτά μια εντελώς διαφορετική προοπτική.
Η τεχνητή νοημοσύνη μπορεί να προτείνει σαφέστερη διατύπωση, να διορθώσει ένα γραμματικό λάθος, να ανακτήσει μια βιβλιογραφική πηγή ή ακόμα και να προτείνει μια διαφορετική δομή προτάσεων. Τίποτα από αυτά, ωστόσο, δεν επαρκεί για να το μετατρέψει σε συγγραφέα. Η πατρότητα ενός έργου δεν προκύπτει από τη φυσική εκτέλεση του κειμένου, αλλά από την προέλευση της σκέψης που εκφράζει το κείμενο.
Αυτή είναι πιθανώς η διάκριση που θα πρέπει να μάθουμε να διατηρούμε τα επόμενα χρόνια: ο συγγραφέας δεν είναι απλώς το άτομο που γράφει ένα κείμενο. Είναι το άτομο που παράγει τη σκέψη, κατευθύνει το νόημά της και αναλαμβάνει την πλήρη ευθύνη γι' αυτήν.
Σημειώσεις Ουμπέρτο Έκο, Πώς να γράψετε μια διατριβή , Bompiani, Μιλάνο, 1977. Στο ίδιο, Λέγοντας σχεδόν το ίδιο πράγμα. Εμπειρίες στη μετάφραση , Bompiani, Μιλάνο, 2003.
Umberto Galimberti, Psyche and Techne: Man in the Age of Technology , Feltrinelli, Μιλάνο, 1999.
Μπορούν οι μηχανές να σκεφτούν;
Πολλές συζητήσεις σχετικά με την τεχνητή νοημοσύνη πηγάζουν από μια παρεξήγηση. Επειδή επικοινωνεί μαζί μας χρησιμοποιώντας τη φυσική γλώσσα, έχουμε την τάση να της αποδίδουμε τυπικά ανθρώπινα χαρακτηριστικά. Λέμε ότι «συλλογίζεται», «καταλαβαίνει», «γνωρίζει», ακόμη και «έχει άποψη». Στην πραγματικότητα, αυτές οι εκφράσεις περιγράφουν την εντύπωση που μας κάνουν οι αντιδράσεις της, όχι τον τρόπο με τον οποίο παράγονται.
Τα σύγχρονα συστήματα τεχνητής νοημοσύνης, γνωστά ως Μεγάλα Γλωσσικά Μοντέλα (LLM), επεξεργάζονται τη γλώσσα εντοπίζοντας στατιστικές σχέσεις μεταξύ λέξεων, προτάσεων και συμφραζομένων. Εκπαιδευμένα σε τεράστιες ποσότητες κειμένου, παράγουν μια απάντηση προβλέποντας, βήμα προς βήμα, ποια γλωσσική ακολουθία είναι πιο συνεπής με το αίτημα που λαμβάνεται. ^1
Ακριβώς αυτή η ικανότητα καθιστά τις απαντήσεις τους συχνά ρευστές, σχετικές και μερικές φορές ακόμη και πρωτότυπες. Η παρεξήγηση προκύπτει από το γεγονός ότι έχουμε τη φυσική τάση να αναγνωρίζουμε έναν συνομιλητή κάθε φορά που συναντάμε πειστική γλώσσα. Αλλά ένας διάλογος δεν συνεπάγεται απαραίτητα συνείδηση. Στην τρέχουσα κατάσταση της γνώσης, στην πραγματικότητα, δεν υπάρχουν στοιχεία που να αποδίδουν την πρόθεση, την επίγνωση ή την κατανόηση με την ανθρώπινη έννοια του όρου σε αυτά τα συστήματα. Δεν διαθέτουν βιωμένες εμπειρίες, δεν διατυπώνουν προσωπικές πεποιθήσεις και δεν επιδιώκουν τους δικούς τους στόχους. Επεξεργάζονται γλωσσικές πληροφορίες με εξαιρετική αποτελεσματικότητα, αλλά δεν γνωρίζουν τη σημασία αυτού που παράγουν. ^2
Η διάκριση δεν είναι απλώς τεχνική· είναι φιλοσοφική. Η κατανόηση της γλώσσας σημαίνει πολύ περισσότερα από τον σωστό συνδυασμό των στοιχείων της. Σημαίνει την απόδοση νοήματος στις λέξεις, τη σύνδεσή τους με την εμπειρία, τη διατύπωση κρίσεων και την τροποποίηση των πεποιθήσεών μας υπό το πρίσμα νέων συλλογισμών. Αυτή η σκόπιμη διάσταση είναι που χαρακτηρίζει την ανθρώπινη σκέψη.
Δεν είναι τυχαίο ότι ένα από τα πιο διάσημα ερωτήματα στη φιλοσοφία της επιστήμης των υπολογιστών διατυπώθηκε από τον Άλαν Τούρινγκ το 1950: «Μπορούν οι μηχανές να σκέφτονται;» ^ 3
Πάνω από εβδομήντα χρόνια αργότερα, το ερώτημα παραμένει ανοιχτό, αλλά σήμερα μπορούμε να διακρίνουμε με μεγαλύτερη ακρίβεια μεταξύ της ικανότητας δημιουργίας πειστικών κειμένων και της ικανότητας να έχουμε μια πραγματική κατανόησή τους.
Η αναγνώριση αυτού του περιορισμού δεν σημαίνει μείωση της χρησιμότητας της τεχνητής νοημοσύνης. Αντιθέτως, μας επιτρέπει να κατανοήσουμε καλύτερα την αξία της. Ένα μεταπτυχιακό LLM μπορεί να συνοψίσει ένα έγγραφο, να συγκρίνει πηγές, να διορθώσει λάθη, να προτείνει πιο αποτελεσματικές διατυπώσεις και να επιταχύνει την έρευνα. Σε όλες αυτές τις δραστηριότητες, αντιπροσωπεύει ένα εξαιρετικά ισχυρό εργαλείο.
Το κρίσιμο σημείο είναι άλλο. Η τεχνητή νοημοσύνη δεν αποφασίζει ποιο πρόβλημα θα αντιμετωπίσει, δεν επιλέγει τη θέση που θα υποστηρίξει και δεν είναι υπεύθυνη για τις συνέπειες των όσων έχουν γραφτεί. Όλα αυτά εξακολουθούν να εξαρτώνται από τον άνθρωπο που διατυπώνει το ερώτημα, αξιολογεί τις απαντήσεις, αποδέχεται ή απορρίπτει προτάσεις και, τέλος, υπογράφει το κείμενο.
Για αυτόν τον λόγο, το ζήτημα δεν είναι αν μια μηχανή γράφει καλά ή κακά. Το πραγματικό ερώτημα είναι αν η προέλευση της σκέψης παραμένει ανθρώπινη. Όσο η τεχνητή νοημοσύνη οργανώνει τη γλώσσα για να υπηρετήσει μια ιδέα που έχει συλλάβει ο συγγραφέας, παραμένει ένα εργαλείο, όσο εξελιγμένο κι αν είναι. Αν, ωστόσο, αντικαθιστούσε την ίδια τη διαδικασία της πνευματικής ανάπτυξης, δεν θα άλλαζε μόνο τον τρόπο που γράφουμε: θα άλλαζε και την ίδια την έννοια της λέξης « συγγραφέας ».
ΣημειώσειςStephen Wolfram, Τι κάνει το ChatGPT… και γιατί λειτουργεί;, Wolfram Media, 2023.
Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Margaret Mitchell, Σχετικά με τους κινδύνους των στοχαστικών παπαγάλων: Μπορούν τα γλωσσικά μοντέλα να είναι πολύ μεγάλα;, στα Πρακτικά του Συνεδρίου ACM 2021 για τη Δικαιοσύνη, την Ευθύνη και τη Διαφάνεια , 2021.
Άλαν Μ. Τούρινγκ, Υπολογιστικά Μηχανήματα και Νοημοσύνη , Νους , τόμος 59, αρ. 236, 1950.
Η εξάπλωση της τεχνητής νοημοσύνης έχει μετατρέψει ένα τεχνικό ζήτημα σε φιλοσοφικό. Σήμερα, κρίνουμε όχι μόνο τι λέει ένα κείμενο, αλλά και ποιος —ή τι— το έγραψε.
Μέχρι πριν από λίγα χρόνια, η αξία ενός άρθρου, ενός δοκιμίου ή ενός μυθιστορήματος μετριόταν κυρίως από την ποιότητα των ιδεών του, τη δύναμη των επιχειρημάτων του, τη σαφήνεια της έκθεσής του και, φυσικά, την ευχαρίστηση της ανάγνωσης. Σήμερα, συμβαίνει κάτι διαφορετικό. Πριν καν συζητήσουμε το περιεχόμενο, αναρωτιόμαστε για την προέλευσή του: είναι καρπός ανθρώπινης προσπάθειας ή ήταν έργο τεχνητής νοημοσύνης;
Αυτό το φαινομενικά εύλογο ερώτημα, ωστόσο, κρύβει ένα άλλο, πολύ βαθύτερο: τι σημαίνει να είσαι συγγραφέας;
Αρκεί να πληκτρολογήσουμε κάθε λέξη στο πληκτρολόγιο; Ή μήπως ο συγγραφέας είναι κάποιος που συλλαμβάνει μια ιδέα, κατασκευάζει μια συλλογιστική, επιλέγει τα επιχειρήματα και αναλαμβάνει την ευθύνη για ό,τι δημοσιεύει;
Η ιστορία της γραφής είναι επίσης η ιστορία των εργαλείων της. Η γραφίδα έχει δώσει τη θέση της στην πένα, η πένα στη γραφομηχανή, η γραφομηχανή στον υπολογιστή. Κάθε καινοτομία έχει γίνει δεκτή με καχυποψία, σχεδόν σαν το νέο μέσο να θα αποδυνάμωνε αναπόφευκτα την ανθρώπινη δημιουργικότητα. Η τεχνητή νοημοσύνη αναμφίβολα αντιπροσωπεύει μια πιο ριζική αλλαγή, αλλά το κρίσιμο ζήτημα δεν αφορά τη μηχανή. Αφορά τον άνθρωπο.
Για αυτόν τον λόγο, η συζήτηση δεν θα πρέπει να περιοριστεί σε μια στείρα αντιπαράθεση μεταξύ υποστηρικτών και επικριτών της τεχνητής νοημοσύνης. Το πραγματικό ερώτημα είναι: πότε ένα εργαλείο σταματά να βοηθά τον δημιουργό του και αντίθετα αρχίζει να τον αντικαθιστά;
Είναι ένα ερώτημα που αφορά τη γραφή, αλλά και την ευθύνη, τη δημιουργικότητα και, τελικά, την ίδια την ιδέα του πολιτισμού. Διότι, αν αλλάξει η έννοια της λέξης « συγγραφέας» , αναπόφευκτα θα αλλάξει και ο τρόπος που βλέπουμε τα βιβλία, τα δοκίμια, ίσως ακόμη και την ίδια τη σκέψη.
Ποιος γράφει πραγματικά ένα βιβλίο;
Όταν παίρνουμε ένα βιβλίο και διαβάζουμε το όνομα του συγγραφέα στο εξώφυλλο, σπάνια σταματάμε για να σκεφτούμε τη σημασία αυτής της λέξης. Κι όμως, είναι μια από τις πιο περίπλοκες στον πολιτισμό μας. Ποιος είναι πραγματικά συγγραφέας; Αυτός που έγραψε φυσικά κάθε πρόταση; Ή αυτός που φαντάστηκε το έργο, κατασκεύασε την αρχιτεκτονική του, επέλεξε τα θέματα και αναλαμβάνει την ευθύνη για όσα λέει;
Το ερώτημα δεν προέκυψε με την τεχνητή νοημοσύνη. Υπάρχει από την αρχή της συγγραφής. Κάθε βιβλίο είναι αποτέλεσμα ανάγνωσης, επανεξέτασης, διορθώσεων, συζητήσεων και προτάσεων. Κανένα έργο δεν γεννιέται στο κενό. Πίσω από κάθε σελίδα κρύβεται μια μακρά διαδικασία ανάπτυξης που ο αναγνώστης, στις περισσότερες περιπτώσεις, δεν βλέπει.
Ο Ουμπέρτο Έκο μας υπενθύμισε ότι η γραφή σημαίνει, πάνω απ' όλα, ξαναγράψιμο. Η έμπνευση από μόνη της δεν είναι αρκετή. Ένα κείμενο παίρνει μορφή μέσα από συνεχείς αναθεωρήσεις, έλεγχο πηγών, εξάλειψη περιττών και αναζήτηση της καταλληλότερης λέξης. Ο συγγραφέας δεν γεμίζει απλώς σελίδες: κατασκευάζει μια νοηματική πορεία. Αυτή η ευθύνη είναι που κάνει ένα έργο αναγνωρίσιμο ως δικό του, πολύ πέρα από την απλή φυσική πράξη της γραφής . ^1
Ο Ουμπέρτο Γκαλιμπέρτι μας ενθαρρύνει επίσης να κοιτάξουμε πέρα από το μέσο. Έχει παρατηρήσει εδώ και καιρό ότι η τεχνολογία δεν είναι ποτέ απλώς ένα ουδέτερο μέσο: κάθε καινοτομία αλλάζει επίσης τον τρόπο που οι άνθρωποι σκέφτονται και σχετίζονται με τον κόσμο. Η τεχνητή νοημοσύνη δεν αποτελεί εξαίρεση. Δεν αλλάζει μόνο τον τρόπο που γράφουμε. Μας αναγκάζει να επανεξετάσουμε την ίδια την έννοια της πνευματικής δραστηριότητας. Το ερώτημα, επομένως, δεν είναι αν θα χρησιμοποιήσουμε ή όχι μια νέα τεχνολογία, αλλά ποιος χώρος απομένει για κρίση, δημιουργικότητα και προσωπική ευθύνη . ^2
Ο Λουτσιάνο Ντε Κρεσέντσο πιθανότατα θα είχε προσεγγίσει αυτή τη συζήτηση με το χαμόγελο που χαρακτήριζε τη δημοφιλή φιλοσοφία του. Του άρεσε να υπενθυμίζει στους ανθρώπους ότι η σκέψη προκύπτει από τα ερωτήματα ακόμη και πριν από τις απαντήσεις. Επομένως, το ερώτημα δεν είναι αν ένας αλγόριθμος μπορεί να κατασκευάσει μια κομψή πρόταση ή να μιμηθεί ένα λογοτεχνικό ύφος. Το κρίσιμο ερώτημα είναι άλλο: μπορεί να έχει διαίσθηση; Μπορεί να αμφιβάλλει; Μπορεί να μετατρέψει μια βιωμένη εμπειρία σε μια πρωτότυπη αντανάκλαση; Εδώ είναι που η μηχανή συναντά τα όριά της.
Ίσως, λοιπόν, να θέτουμε λάθος ερώτημα. Δεν θα έπρεπε να ρωτάμε αν η τεχνητή νοημοσύνη είναι ικανή να γράφει, αλλά τι πραγματικά καθιστά έναν άνθρωπο συγγραφέα ενός έργου. Αν ο συγγραφέας ήταν απλώς αυτός που πληκτρολογεί τις λέξεις, τότε ένα πληκτρολόγιο θα ήταν αρκετό για να τον αντικαταστήσει. Αλλά αν αυτός είναι που παράγει τη σκέψη, οργανώνει το νόημα και αναλαμβάνει την ευθύνη για αυτό που δημοσιεύει, τότε το πρόβλημα αποκτά μια εντελώς διαφορετική προοπτική.
Η τεχνητή νοημοσύνη μπορεί να προτείνει σαφέστερη διατύπωση, να διορθώσει ένα γραμματικό λάθος, να ανακτήσει μια βιβλιογραφική πηγή ή ακόμα και να προτείνει μια διαφορετική δομή προτάσεων. Τίποτα από αυτά, ωστόσο, δεν επαρκεί για να το μετατρέψει σε συγγραφέα. Η πατρότητα ενός έργου δεν προκύπτει από τη φυσική εκτέλεση του κειμένου, αλλά από την προέλευση της σκέψης που εκφράζει το κείμενο.
Αυτή είναι πιθανώς η διάκριση που θα πρέπει να μάθουμε να διατηρούμε τα επόμενα χρόνια: ο συγγραφέας δεν είναι απλώς το άτομο που γράφει ένα κείμενο. Είναι το άτομο που παράγει τη σκέψη, κατευθύνει το νόημά της και αναλαμβάνει την πλήρη ευθύνη γι' αυτήν.
Σημειώσεις Ουμπέρτο Έκο, Πώς να γράψετε μια διατριβή , Bompiani, Μιλάνο, 1977. Στο ίδιο, Λέγοντας σχεδόν το ίδιο πράγμα. Εμπειρίες στη μετάφραση , Bompiani, Μιλάνο, 2003.
Umberto Galimberti, Psyche and Techne: Man in the Age of Technology , Feltrinelli, Μιλάνο, 1999.
Μπορούν οι μηχανές να σκεφτούν;
Πολλές συζητήσεις σχετικά με την τεχνητή νοημοσύνη πηγάζουν από μια παρεξήγηση. Επειδή επικοινωνεί μαζί μας χρησιμοποιώντας τη φυσική γλώσσα, έχουμε την τάση να της αποδίδουμε τυπικά ανθρώπινα χαρακτηριστικά. Λέμε ότι «συλλογίζεται», «καταλαβαίνει», «γνωρίζει», ακόμη και «έχει άποψη». Στην πραγματικότητα, αυτές οι εκφράσεις περιγράφουν την εντύπωση που μας κάνουν οι αντιδράσεις της, όχι τον τρόπο με τον οποίο παράγονται.
Τα σύγχρονα συστήματα τεχνητής νοημοσύνης, γνωστά ως Μεγάλα Γλωσσικά Μοντέλα (LLM), επεξεργάζονται τη γλώσσα εντοπίζοντας στατιστικές σχέσεις μεταξύ λέξεων, προτάσεων και συμφραζομένων. Εκπαιδευμένα σε τεράστιες ποσότητες κειμένου, παράγουν μια απάντηση προβλέποντας, βήμα προς βήμα, ποια γλωσσική ακολουθία είναι πιο συνεπής με το αίτημα που λαμβάνεται. ^1
Ακριβώς αυτή η ικανότητα καθιστά τις απαντήσεις τους συχνά ρευστές, σχετικές και μερικές φορές ακόμη και πρωτότυπες. Η παρεξήγηση προκύπτει από το γεγονός ότι έχουμε τη φυσική τάση να αναγνωρίζουμε έναν συνομιλητή κάθε φορά που συναντάμε πειστική γλώσσα. Αλλά ένας διάλογος δεν συνεπάγεται απαραίτητα συνείδηση. Στην τρέχουσα κατάσταση της γνώσης, στην πραγματικότητα, δεν υπάρχουν στοιχεία που να αποδίδουν την πρόθεση, την επίγνωση ή την κατανόηση με την ανθρώπινη έννοια του όρου σε αυτά τα συστήματα. Δεν διαθέτουν βιωμένες εμπειρίες, δεν διατυπώνουν προσωπικές πεποιθήσεις και δεν επιδιώκουν τους δικούς τους στόχους. Επεξεργάζονται γλωσσικές πληροφορίες με εξαιρετική αποτελεσματικότητα, αλλά δεν γνωρίζουν τη σημασία αυτού που παράγουν. ^2
Η διάκριση δεν είναι απλώς τεχνική· είναι φιλοσοφική. Η κατανόηση της γλώσσας σημαίνει πολύ περισσότερα από τον σωστό συνδυασμό των στοιχείων της. Σημαίνει την απόδοση νοήματος στις λέξεις, τη σύνδεσή τους με την εμπειρία, τη διατύπωση κρίσεων και την τροποποίηση των πεποιθήσεών μας υπό το πρίσμα νέων συλλογισμών. Αυτή η σκόπιμη διάσταση είναι που χαρακτηρίζει την ανθρώπινη σκέψη.
Δεν είναι τυχαίο ότι ένα από τα πιο διάσημα ερωτήματα στη φιλοσοφία της επιστήμης των υπολογιστών διατυπώθηκε από τον Άλαν Τούρινγκ το 1950: «Μπορούν οι μηχανές να σκέφτονται;» ^ 3
Πάνω από εβδομήντα χρόνια αργότερα, το ερώτημα παραμένει ανοιχτό, αλλά σήμερα μπορούμε να διακρίνουμε με μεγαλύτερη ακρίβεια μεταξύ της ικανότητας δημιουργίας πειστικών κειμένων και της ικανότητας να έχουμε μια πραγματική κατανόησή τους.
Η αναγνώριση αυτού του περιορισμού δεν σημαίνει μείωση της χρησιμότητας της τεχνητής νοημοσύνης. Αντιθέτως, μας επιτρέπει να κατανοήσουμε καλύτερα την αξία της. Ένα μεταπτυχιακό LLM μπορεί να συνοψίσει ένα έγγραφο, να συγκρίνει πηγές, να διορθώσει λάθη, να προτείνει πιο αποτελεσματικές διατυπώσεις και να επιταχύνει την έρευνα. Σε όλες αυτές τις δραστηριότητες, αντιπροσωπεύει ένα εξαιρετικά ισχυρό εργαλείο.
Το κρίσιμο σημείο είναι άλλο. Η τεχνητή νοημοσύνη δεν αποφασίζει ποιο πρόβλημα θα αντιμετωπίσει, δεν επιλέγει τη θέση που θα υποστηρίξει και δεν είναι υπεύθυνη για τις συνέπειες των όσων έχουν γραφτεί. Όλα αυτά εξακολουθούν να εξαρτώνται από τον άνθρωπο που διατυπώνει το ερώτημα, αξιολογεί τις απαντήσεις, αποδέχεται ή απορρίπτει προτάσεις και, τέλος, υπογράφει το κείμενο.
Για αυτόν τον λόγο, το ζήτημα δεν είναι αν μια μηχανή γράφει καλά ή κακά. Το πραγματικό ερώτημα είναι αν η προέλευση της σκέψης παραμένει ανθρώπινη. Όσο η τεχνητή νοημοσύνη οργανώνει τη γλώσσα για να υπηρετήσει μια ιδέα που έχει συλλάβει ο συγγραφέας, παραμένει ένα εργαλείο, όσο εξελιγμένο κι αν είναι. Αν, ωστόσο, αντικαθιστούσε την ίδια τη διαδικασία της πνευματικής ανάπτυξης, δεν θα άλλαζε μόνο τον τρόπο που γράφουμε: θα άλλαζε και την ίδια την έννοια της λέξης « συγγραφέας ».
ΣημειώσειςStephen Wolfram, Τι κάνει το ChatGPT… και γιατί λειτουργεί;, Wolfram Media, 2023.
Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Margaret Mitchell, Σχετικά με τους κινδύνους των στοχαστικών παπαγάλων: Μπορούν τα γλωσσικά μοντέλα να είναι πολύ μεγάλα;, στα Πρακτικά του Συνεδρίου ACM 2021 για τη Δικαιοσύνη, την Ευθύνη και τη Διαφάνεια , 2021.
Άλαν Μ. Τούρινγκ, Υπολογιστικά Μηχανήματα και Νοημοσύνη , Νους , τόμος 59, αρ. 236, 1950.
Σέρβις ή αντικατάσταση;
Έχοντας διαπιστώσει ότι η τεχνητή νοημοσύνη είναι ένα εργαλείο ικανό να επεξεργάζεται τη γλώσσα, απομένει να απαντηθεί το πιο λεπτό ερώτημα: πότε βοηθά το έργο του συγγραφέα και πότε, αντίθετα, καταλήγει να το αντικαθιστά;
Η διάκριση δεν εξαρτάται από το μέγεθος της μηχανικής παρέμβασης, αλλά από την ποιότητα της ανθρώπινης συμβολής. Ένας συγγραφέας μπορεί να χρησιμοποιήσει τεχνητή νοημοσύνη για να διορθώσει τη σύνταξη, να εξαλείψει τις επαναλήψεις, να επαληθεύσει μια παραπομπή, να ελέγξει μια ιστορική ημερομηνία, να συγκρίνει βιβλιογραφικές πηγές ή να λάβει στυλιστικές προτάσεις. Σε όλες αυτές τις περιπτώσεις, η ιδέα, η δομή του επιχειρήματος και η τελική ευθύνη για το κείμενο παραμένουν στα χέρια του συγγραφέα.
Αυτό δεν είναι εντελώς καινούργιο. Οι συγγραφείς ανέκαθεν χρησιμοποιούσαν εργαλεία υποστήριξης. Λεξικά, εγκυκλοπαίδειες, διορθωτές κειμένων, επιστημονικοί σύμβουλοι, επιμελητές και προγράμματα επεξεργασίας κειμένου συνόδευαν την παραγωγή βιβλίων και δοκιμίων χωρίς κανείς να αμφισβητήσει την πατρότητα του έργου. Η τεχνητή νοημοσύνη διευρύνει σημαντικά αυτές τις δυνατότητες, αλλά δεν μεταβάλλει αυτόματα τη σχέση μεταξύ συγγραφέα και κειμένου.
Η κατάσταση αλλάζει όταν το εργαλείο δεν χρησιμοποιείται πλέον για να ενισχύσει την υπάρχουσα σκέψη, αλλά μάλλον για να την αντικαταστήσει. Όταν ο συγγραφέας αναθέτει στην τεχνητή νοημοσύνη όχι μόνο τη μορφή του κειμένου, αλλά και την επιλογή των ιδεών, την κατασκευή του επιχειρήματος και την ανάπτυξη του περιεχομένου, τότε το πρόβλημα δεν είναι πλέον η τεχνολογία. Είναι η απουσία του συγγραφέα.
Ένα κείμενο μπορεί να είναι γραμματικά άψογο, πλούσιο σε πληροφορίες, ακόμη και κομψό σε ύφος. Ωστόσο, αν κανείς δεν έχει πραγματικά επιλέξει τη θέση, δεν έχει αξιολογήσει τα επιχειρήματα, δεν έχει ελέγξει τις πηγές και δεν έχει αποφασίσει τι να επιβεβαιώσει ή να παραλείψει, λείπει αυτό ακριβώς που χαρακτηρίζει ένα πνευματικό έργο: μια αναγνωρίσιμη ευθύνη.
Επιπλέον, το ζήτημα της συγγραφής δεν προέκυψε με την τεχνητή νοημοσύνη. Υπάρχουν εδώ και καιρό βιβλία υπογεγραμμένα από δημόσια πρόσωπα και γραμμένα από συγγραφείς-φαντάσματα, αυτοβιογραφίες γραμμένες από συνεργάτες και έργα στα οποία το όνομα στο εξώφυλλο δεν ταιριάζει με το πραγματικό όνομα του συγγραφέα. Η τεχνητή νοημοσύνη δεν δημιουργεί αυτό το πρόβλημα. Απλώς το κάνει πιο εμφανές.
Το παράδειγμα της αρχιτεκτονικής είναι διαφωτιστικό. Κανένας επαγγελματίας σήμερα δεν σχεδιάζει ένα κτίριο χωρίς να χρησιμοποιεί εξελιγμένο λογισμικό σχεδιασμού με τη βοήθεια υπολογιστή. Ωστόσο, κανείς δεν αποδίδει τον σχεδιασμό στο πρόγραμμα. Εάν το κτίριο έχει κάποιο δομικό ελάττωμα, δεν θα είναι υπεύθυνο το λογισμικό, αλλά ο αρχιτέκτονας που το υπέγραψε. Ομοίως, ένας συγγραφέας μπορεί να χρησιμοποιήσει την τεχνητή νοημοσύνη ως τεχνικό συνεργάτη χωρίς να παραιτηθεί από τον ρόλο του ως συγγραφέας. ^1
Η πραγματική διαχωριστική γραμμή, επομένως, δεν διαχωρίζει όσους χρησιμοποιούν τεχνητή νοημοσύνη από εκείνους που δεν την χρησιμοποιούν. Αν ίσχυε αυτό, θα έπρεπε να λάβουμε υπόψη οποιονδήποτε συγγραφέα χρησιμοποιεί ορθογραφικό έλεγχο, λογισμικό μετάφρασης ή ύποπτο ψηφιακό αρχείο. Η διαφορά έγκειται αλλού: αφενός, υπάρχει ένα εργαλείο που καθιστά την πνευματική εργασία πιο αποτελεσματική· αφετέρου, υπάρχει η ίδια η ανάθεση αυτής της πνευματικής εργασίας.
Σε αυτή την αντιπροσώπευση, ο συγγραφέας κινδυνεύει να εξαφανιστεί. Όχι επειδή οι λέξεις γράφτηκαν από μια μηχανή, αλλά επειδή κανείς δεν τις έχει πραγματικά συλλάβει, επιλέξει και κάνει δικές του. Το ζήτημα, επομένως, δεν είναι τεχνολογικό. Είναι ηθικό και πολιτισμικό. ^2
Για αυτόν τον λόγο, το αποφασιστικό κριτήριο δεν θα πρέπει να είναι η παρουσία ή η απουσία τεχνητής νοημοσύνης στη διαδικασία της γραφής. Θα πρέπει μάλλον να αναρωτηθούμε αν πίσω από αυτό το κείμενο υπάρχει ακόμα ένα μυαλό που το συνέλαβε, το επέκρινε, το διόρθωσε και τελικά το υιοθέτησε ως έκφραση της δικής του σκέψης. Όταν η απάντηση είναι ναι, η τεχνητή νοημοσύνη παραμένει ένα εργαλείο. Όταν η απάντηση είναι όχι, ο συγγραφέας κινδυνεύει να γίνει απλώς το όνομα που είναι τυπωμένο στο εξώφυλλο.
Η τεχνητή νοημοσύνη δεν αμφισβητεί τον συγγραφέα επειδή γράφει. Τον αμφισβητεί μόνο όταν ο συγγραφέας σταματά να σκέφτεται.
Έχοντας διαπιστώσει ότι η τεχνητή νοημοσύνη είναι ένα εργαλείο ικανό να επεξεργάζεται τη γλώσσα, απομένει να απαντηθεί το πιο λεπτό ερώτημα: πότε βοηθά το έργο του συγγραφέα και πότε, αντίθετα, καταλήγει να το αντικαθιστά;
Η διάκριση δεν εξαρτάται από το μέγεθος της μηχανικής παρέμβασης, αλλά από την ποιότητα της ανθρώπινης συμβολής. Ένας συγγραφέας μπορεί να χρησιμοποιήσει τεχνητή νοημοσύνη για να διορθώσει τη σύνταξη, να εξαλείψει τις επαναλήψεις, να επαληθεύσει μια παραπομπή, να ελέγξει μια ιστορική ημερομηνία, να συγκρίνει βιβλιογραφικές πηγές ή να λάβει στυλιστικές προτάσεις. Σε όλες αυτές τις περιπτώσεις, η ιδέα, η δομή του επιχειρήματος και η τελική ευθύνη για το κείμενο παραμένουν στα χέρια του συγγραφέα.
Αυτό δεν είναι εντελώς καινούργιο. Οι συγγραφείς ανέκαθεν χρησιμοποιούσαν εργαλεία υποστήριξης. Λεξικά, εγκυκλοπαίδειες, διορθωτές κειμένων, επιστημονικοί σύμβουλοι, επιμελητές και προγράμματα επεξεργασίας κειμένου συνόδευαν την παραγωγή βιβλίων και δοκιμίων χωρίς κανείς να αμφισβητήσει την πατρότητα του έργου. Η τεχνητή νοημοσύνη διευρύνει σημαντικά αυτές τις δυνατότητες, αλλά δεν μεταβάλλει αυτόματα τη σχέση μεταξύ συγγραφέα και κειμένου.
Η κατάσταση αλλάζει όταν το εργαλείο δεν χρησιμοποιείται πλέον για να ενισχύσει την υπάρχουσα σκέψη, αλλά μάλλον για να την αντικαταστήσει. Όταν ο συγγραφέας αναθέτει στην τεχνητή νοημοσύνη όχι μόνο τη μορφή του κειμένου, αλλά και την επιλογή των ιδεών, την κατασκευή του επιχειρήματος και την ανάπτυξη του περιεχομένου, τότε το πρόβλημα δεν είναι πλέον η τεχνολογία. Είναι η απουσία του συγγραφέα.
Ένα κείμενο μπορεί να είναι γραμματικά άψογο, πλούσιο σε πληροφορίες, ακόμη και κομψό σε ύφος. Ωστόσο, αν κανείς δεν έχει πραγματικά επιλέξει τη θέση, δεν έχει αξιολογήσει τα επιχειρήματα, δεν έχει ελέγξει τις πηγές και δεν έχει αποφασίσει τι να επιβεβαιώσει ή να παραλείψει, λείπει αυτό ακριβώς που χαρακτηρίζει ένα πνευματικό έργο: μια αναγνωρίσιμη ευθύνη.
Επιπλέον, το ζήτημα της συγγραφής δεν προέκυψε με την τεχνητή νοημοσύνη. Υπάρχουν εδώ και καιρό βιβλία υπογεγραμμένα από δημόσια πρόσωπα και γραμμένα από συγγραφείς-φαντάσματα, αυτοβιογραφίες γραμμένες από συνεργάτες και έργα στα οποία το όνομα στο εξώφυλλο δεν ταιριάζει με το πραγματικό όνομα του συγγραφέα. Η τεχνητή νοημοσύνη δεν δημιουργεί αυτό το πρόβλημα. Απλώς το κάνει πιο εμφανές.
Το παράδειγμα της αρχιτεκτονικής είναι διαφωτιστικό. Κανένας επαγγελματίας σήμερα δεν σχεδιάζει ένα κτίριο χωρίς να χρησιμοποιεί εξελιγμένο λογισμικό σχεδιασμού με τη βοήθεια υπολογιστή. Ωστόσο, κανείς δεν αποδίδει τον σχεδιασμό στο πρόγραμμα. Εάν το κτίριο έχει κάποιο δομικό ελάττωμα, δεν θα είναι υπεύθυνο το λογισμικό, αλλά ο αρχιτέκτονας που το υπέγραψε. Ομοίως, ένας συγγραφέας μπορεί να χρησιμοποιήσει την τεχνητή νοημοσύνη ως τεχνικό συνεργάτη χωρίς να παραιτηθεί από τον ρόλο του ως συγγραφέας. ^1
Η πραγματική διαχωριστική γραμμή, επομένως, δεν διαχωρίζει όσους χρησιμοποιούν τεχνητή νοημοσύνη από εκείνους που δεν την χρησιμοποιούν. Αν ίσχυε αυτό, θα έπρεπε να λάβουμε υπόψη οποιονδήποτε συγγραφέα χρησιμοποιεί ορθογραφικό έλεγχο, λογισμικό μετάφρασης ή ύποπτο ψηφιακό αρχείο. Η διαφορά έγκειται αλλού: αφενός, υπάρχει ένα εργαλείο που καθιστά την πνευματική εργασία πιο αποτελεσματική· αφετέρου, υπάρχει η ίδια η ανάθεση αυτής της πνευματικής εργασίας.
Σε αυτή την αντιπροσώπευση, ο συγγραφέας κινδυνεύει να εξαφανιστεί. Όχι επειδή οι λέξεις γράφτηκαν από μια μηχανή, αλλά επειδή κανείς δεν τις έχει πραγματικά συλλάβει, επιλέξει και κάνει δικές του. Το ζήτημα, επομένως, δεν είναι τεχνολογικό. Είναι ηθικό και πολιτισμικό. ^2
Για αυτόν τον λόγο, το αποφασιστικό κριτήριο δεν θα πρέπει να είναι η παρουσία ή η απουσία τεχνητής νοημοσύνης στη διαδικασία της γραφής. Θα πρέπει μάλλον να αναρωτηθούμε αν πίσω από αυτό το κείμενο υπάρχει ακόμα ένα μυαλό που το συνέλαβε, το επέκρινε, το διόρθωσε και τελικά το υιοθέτησε ως έκφραση της δικής του σκέψης. Όταν η απάντηση είναι ναι, η τεχνητή νοημοσύνη παραμένει ένα εργαλείο. Όταν η απάντηση είναι όχι, ο συγγραφέας κινδυνεύει να γίνει απλώς το όνομα που είναι τυπωμένο στο εξώφυλλο.
Η τεχνητή νοημοσύνη δεν αμφισβητεί τον συγγραφέα επειδή γράφει. Τον αμφισβητεί μόνο όταν ο συγγραφέας σταματά να σκέφτεται.
Σημειώσεις
1 Ethan Mollick, Συν-Νοημοσύνη: Ζώντας και Εργαζόμενοι με την Τεχνητή Νοημοσύνη , Portfolio, 2024.
2. Luciano Floridi, Η Ηθική της Τεχνητής Νοημοσύνης: Αρχές, Προκλήσεις και Ευκαιρίες , Oxford University Press, 2022.
Η ευθύνη παραμένει ανθρώπινη
Και υπάρχει ένας απλός τρόπος για να προσδιορίσετε την πραγματική πατρότητα ενός κειμένου. Δεν πρόκειται για τον προσδιορισμό του ποιος πληκτρολόγησε κάθε λέξη, αλλά για το ερώτημα ποιος είναι υπεύθυνος γι' αυτήν.
Κάθε πνευματικό έργο φέρει μια ευθύνη. Ένα δοκίμιο μπορεί να περιέχει λάθη, αμφισβητήσιμες ερμηνείες, αμφιλεγόμενες κρίσεις ή καινοτόμες ιδέες. Όποια και αν είναι η αξία του, κάποιος θα πρέπει να λογοδοτήσει γι' αυτό στους αναγνώστες, στην επιστημονική κοινότητα ή, στις πιο σοβαρές περιπτώσεις, ακόμη και στο νόμο.
Η τεχνητή νοημοσύνη δεν μπορεί να αναλάβει αυτήν την ευθύνη. Δεν γράφει ένα άρθρο, δεν υπερασπίζεται μια θέση, δεν είναι υπεύθυνη για τις πηγές που χρησιμοποιούνται ή για τις πιθανές συνέπειες αυτού που δημοσιεύεται. Μπορεί να δημιουργήσει ένα κείμενο, αλλά δεν μπορεί να αναλάβει την ευθύνη γι' αυτό.¹
Αυτή ακριβώς είναι η πτυχή που διακρίνει ένα μουσικό όργανο από έναν δημιουργό.
Το παράδειγμα της αρχιτεκτονικής είναι ιδιαίτερα σημαντικό. Σήμερα, κανένας επαγγελματίας δεν σχεδιάζει ένα κτίριο χωρίς να χρησιμοποιεί εξελιγμένα προγράμματα σχεδιασμού με τη βοήθεια υπολογιστή. Ωστόσο, κανείς δεν αποδίδει τον σχεδιασμό στο λογισμικό. Εάν το κτίριο έχει κάποιο δομικό ελάττωμα, δεν θα είναι το πρόγραμμα που θα εμφανιστεί ενώπιον ενός δικαστή ή του επαγγελματικού συλλόγου, αλλά ο αρχιτέκτονας που το υπέγραψε.
Η γραφή δεν αποτελεί εξαίρεση. Ακόμα και όταν ένας συγγραφέας χρησιμοποιεί τεχνητή νοημοσύνη για να βελτιώσει ένα κείμενο, να επαληθεύσει πληροφορίες ή να αναδιατυπώσει ένα απόσπασμα, εξακολουθεί να επιλέγει τι θα δημοσιεύσει. Αποφασίζει ποιες προτάσεις θα αποδεχτεί, ποιες θα απορρίψει και τι νόημα θα δώσει στα λόγια του.
Για αυτόν τον λόγο, η συζήτηση για την τεχνητή νοημοσύνη συχνά κινδυνεύει να επικεντρωθεί σε λάθος ερώτημα. Δεν πρέπει απλώς να αναρωτηθούμε αν ένα κείμενο γράφτηκε με τη βοήθεια της Τεχνητής Νοημοσύνης. Θα πρέπει, αντίθετα, να αναρωτηθούμε αν όσοι το υπογράφουν το αναγνωρίζουν πραγματικά ως έκφραση της δικής τους σκέψης και είναι πρόθυμοι να αναλάβουν πλήρως την ευθύνη γι' αυτό.²
Τελικά, αυτό ήταν πάντα το νόημα του να είσαι συγγραφέας. Όχι η υλική ικανότητα να γεμίσεις μια σελίδα, αλλά το θάρρος να βάλεις το όνομά σου πίσω από μια ιδέα και να αποδεχτείς όλες τις συνέπειές της.
Ίσως αυτό ακριβώς είναι το μάθημα που η τεχνητή νοημοσύνη μας αναγκάζει να ανακαλύψουμε ξανά. Όσο πιο ισχυρά γίνονται τα εργαλεία, τόσο μεγαλύτερη είναι η αξία της προσωπικής ευθύνης. Η τεχνολογία μπορεί να μας βοηθήσει να γράφουμε καλύτερα, πιο γρήγορα και με μεγαλύτερη ακρίβεια. Αλλά δεν μπορεί ποτέ να αντικαταστήσει αυτή την βαθιά ανθρώπινη χειρονομία του να λέει: αυτές οι ιδέες είναι δικές μου και αναλαμβάνω την ευθύνη γι' αυτές.
1 Ethan Mollick, Συν-Νοημοσύνη: Ζώντας και Εργαζόμενοι με την Τεχνητή Νοημοσύνη , Portfolio, 2024.
2. Luciano Floridi, Η Ηθική της Τεχνητής Νοημοσύνης: Αρχές, Προκλήσεις και Ευκαιρίες , Oxford University Press, 2022.
Η ευθύνη παραμένει ανθρώπινη
Και υπάρχει ένας απλός τρόπος για να προσδιορίσετε την πραγματική πατρότητα ενός κειμένου. Δεν πρόκειται για τον προσδιορισμό του ποιος πληκτρολόγησε κάθε λέξη, αλλά για το ερώτημα ποιος είναι υπεύθυνος γι' αυτήν.
Κάθε πνευματικό έργο φέρει μια ευθύνη. Ένα δοκίμιο μπορεί να περιέχει λάθη, αμφισβητήσιμες ερμηνείες, αμφιλεγόμενες κρίσεις ή καινοτόμες ιδέες. Όποια και αν είναι η αξία του, κάποιος θα πρέπει να λογοδοτήσει γι' αυτό στους αναγνώστες, στην επιστημονική κοινότητα ή, στις πιο σοβαρές περιπτώσεις, ακόμη και στο νόμο.
Η τεχνητή νοημοσύνη δεν μπορεί να αναλάβει αυτήν την ευθύνη. Δεν γράφει ένα άρθρο, δεν υπερασπίζεται μια θέση, δεν είναι υπεύθυνη για τις πηγές που χρησιμοποιούνται ή για τις πιθανές συνέπειες αυτού που δημοσιεύεται. Μπορεί να δημιουργήσει ένα κείμενο, αλλά δεν μπορεί να αναλάβει την ευθύνη γι' αυτό.¹
Αυτή ακριβώς είναι η πτυχή που διακρίνει ένα μουσικό όργανο από έναν δημιουργό.
Το παράδειγμα της αρχιτεκτονικής είναι ιδιαίτερα σημαντικό. Σήμερα, κανένας επαγγελματίας δεν σχεδιάζει ένα κτίριο χωρίς να χρησιμοποιεί εξελιγμένα προγράμματα σχεδιασμού με τη βοήθεια υπολογιστή. Ωστόσο, κανείς δεν αποδίδει τον σχεδιασμό στο λογισμικό. Εάν το κτίριο έχει κάποιο δομικό ελάττωμα, δεν θα είναι το πρόγραμμα που θα εμφανιστεί ενώπιον ενός δικαστή ή του επαγγελματικού συλλόγου, αλλά ο αρχιτέκτονας που το υπέγραψε.
Η γραφή δεν αποτελεί εξαίρεση. Ακόμα και όταν ένας συγγραφέας χρησιμοποιεί τεχνητή νοημοσύνη για να βελτιώσει ένα κείμενο, να επαληθεύσει πληροφορίες ή να αναδιατυπώσει ένα απόσπασμα, εξακολουθεί να επιλέγει τι θα δημοσιεύσει. Αποφασίζει ποιες προτάσεις θα αποδεχτεί, ποιες θα απορρίψει και τι νόημα θα δώσει στα λόγια του.
Για αυτόν τον λόγο, η συζήτηση για την τεχνητή νοημοσύνη συχνά κινδυνεύει να επικεντρωθεί σε λάθος ερώτημα. Δεν πρέπει απλώς να αναρωτηθούμε αν ένα κείμενο γράφτηκε με τη βοήθεια της Τεχνητής Νοημοσύνης. Θα πρέπει, αντίθετα, να αναρωτηθούμε αν όσοι το υπογράφουν το αναγνωρίζουν πραγματικά ως έκφραση της δικής τους σκέψης και είναι πρόθυμοι να αναλάβουν πλήρως την ευθύνη γι' αυτό.²
Τελικά, αυτό ήταν πάντα το νόημα του να είσαι συγγραφέας. Όχι η υλική ικανότητα να γεμίσεις μια σελίδα, αλλά το θάρρος να βάλεις το όνομά σου πίσω από μια ιδέα και να αποδεχτείς όλες τις συνέπειές της.
Ίσως αυτό ακριβώς είναι το μάθημα που η τεχνητή νοημοσύνη μας αναγκάζει να ανακαλύψουμε ξανά. Όσο πιο ισχυρά γίνονται τα εργαλεία, τόσο μεγαλύτερη είναι η αξία της προσωπικής ευθύνης. Η τεχνολογία μπορεί να μας βοηθήσει να γράφουμε καλύτερα, πιο γρήγορα και με μεγαλύτερη ακρίβεια. Αλλά δεν μπορεί ποτέ να αντικαταστήσει αυτή την βαθιά ανθρώπινη χειρονομία του να λέει: αυτές οι ιδέες είναι δικές μου και αναλαμβάνω την ευθύνη γι' αυτές.
ΣημειώσειςLuciano Floridi, Η Ηθική της Τεχνητής Νοημοσύνης: Αρχές, Προκλήσεις και Ευκαιρίες , Oxford University Press, 2022.
Κανονισμός (ΕΕ) 2024/1689 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου της 13ης Ιουνίου 2024 ( Νόμος περί Τεχνητής Νοημοσύνης ).
Σύναψη
Ο Συγγραφέας του Μέλλοντος
Κάθε σημαντική τεχνολογική καινοτομία έχει αναγκάσει την ανθρωπότητα να επαναπροσδιορίσει τον εαυτό της. Η τεχνητή νοημοσύνη δεν αποτελεί εξαίρεση. Όχι επειδή έχει αντικαταστήσει την ανθρώπινη σκέψη, αλλά επειδή μας αναγκάζει να αμφισβητήσουμε τι πραγματικά σημαίνει να σκέφτεσαι, να δημιουργείς και να αναλαμβάνεις την ευθύνη για ένα έργο.
Ίσως, σε λίγα χρόνια, η χρήση εργαλείων τεχνητής νοημοσύνης στη γραφή να είναι τόσο συνηθισμένη όσο η χρήση μιας μηχανής αναζήτησης, ενός ορθογραφικού ελέγχου ή ενός ψηφιακού αρχείου σήμερα. Η τεχνολογία θα συνεχίσει να εξελίσσεται και τα εργαλεία θα γίνονται ολοένα και πιο εξελιγμένα. Θα ήταν αφελές να φανταστούμε το αντίθετο.
Αυτό που δεν πρέπει να αλλάξει είναι η σημασία της λέξης συγγραφέας .
Ένας συγγραφέας δεν ορίζεται από τα εργαλεία που χρησιμοποιεί, αλλά από την ικανότητά του να μετατρέπει τις πληροφορίες σε γνώση, τη γνώση σε στοχασμό και τον στοχασμό σε αναγνωρίσιμη σκέψη. Είναι εκείνοι που επιλέγουν μια θέση, αξιολογούν τα στοιχεία, αποδέχονται την αμφιβολία, τροποποιούν τις πεποιθήσεις τους όταν τα επιχειρήματα υπαγορεύουν και, τέλος, υπογράφουν το γραπτό τους, γνωρίζοντας ότι θα λογοδοτήσουν.
Η τεχνητή νοημοσύνη μπορεί να επιταχύνει πολλές από αυτές τις λειτουργίες. Μπορεί να βοηθήσει στην εύρεση μιας ξεχασμένης πηγής, στη βελτίωση μιας διατύπωσης, στον εντοπισμό μιας αντίφασης, ακόμη και να προτείνει οπτικές γωνίες που ο συγγραφέας δεν είχε λάβει υπόψη. Αλλά η αποφασιστική στιγμή παραμένει μια άλλη: όταν κάποιος αναγνωρίζει ένα κείμενο ως έκφραση της δικής του σκέψης και αποφασίζει να αναλάβει την ευθύνη γι' αυτό.
Για αυτόν τον λόγο, το μέλλον της γραφής δεν θα εξαρτηθεί από μηχανές, αλλά από ανθρώπους που θα ξέρουν πώς να τις χρησιμοποιούν χωρίς να θυσιάζουν την πνευματική τους αυτονομία. Η πραγματική πρόκληση δεν θα είναι να μάθουμε να επικοινωνούμε με την τεχνητή νοημοσύνη. Θα είναι να συνεχίσουμε να επικοινωνούμε με τον εαυτό μας.
Ίσως αυτό ακριβώς να είναι το παράδοξο της εποχής μας. Όσο περισσότερες μηχανές γίνονται ικανές να μιμούνται την ανθρώπινη γλώσσα, τόσο πιο πολύτιμη γίνεται η ιδιότητα που κανένας αλγόριθμος δεν μπορεί να εγγυηθεί: η πνευματική ειλικρίνεια όσων αναζητούν την αλήθεια, αγκαλιάζουν την αμφιβολία και υποστηρίζουν τις ιδέες τους.
Τελικά, λοιπόν, το ερώτημα δεν είναι αν η τεχνητή νοημοσύνη μπορεί να γράψει ένα βιβλίο.
Το ερώτημα είναι αν θα συνεχίσουμε να είμαστε συγγραφείς.
Κανονισμός (ΕΕ) 2024/1689 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου της 13ης Ιουνίου 2024 ( Νόμος περί Τεχνητής Νοημοσύνης ).
Σύναψη
Ο Συγγραφέας του Μέλλοντος
Κάθε σημαντική τεχνολογική καινοτομία έχει αναγκάσει την ανθρωπότητα να επαναπροσδιορίσει τον εαυτό της. Η τεχνητή νοημοσύνη δεν αποτελεί εξαίρεση. Όχι επειδή έχει αντικαταστήσει την ανθρώπινη σκέψη, αλλά επειδή μας αναγκάζει να αμφισβητήσουμε τι πραγματικά σημαίνει να σκέφτεσαι, να δημιουργείς και να αναλαμβάνεις την ευθύνη για ένα έργο.
Ίσως, σε λίγα χρόνια, η χρήση εργαλείων τεχνητής νοημοσύνης στη γραφή να είναι τόσο συνηθισμένη όσο η χρήση μιας μηχανής αναζήτησης, ενός ορθογραφικού ελέγχου ή ενός ψηφιακού αρχείου σήμερα. Η τεχνολογία θα συνεχίσει να εξελίσσεται και τα εργαλεία θα γίνονται ολοένα και πιο εξελιγμένα. Θα ήταν αφελές να φανταστούμε το αντίθετο.
Αυτό που δεν πρέπει να αλλάξει είναι η σημασία της λέξης συγγραφέας .
Ένας συγγραφέας δεν ορίζεται από τα εργαλεία που χρησιμοποιεί, αλλά από την ικανότητά του να μετατρέπει τις πληροφορίες σε γνώση, τη γνώση σε στοχασμό και τον στοχασμό σε αναγνωρίσιμη σκέψη. Είναι εκείνοι που επιλέγουν μια θέση, αξιολογούν τα στοιχεία, αποδέχονται την αμφιβολία, τροποποιούν τις πεποιθήσεις τους όταν τα επιχειρήματα υπαγορεύουν και, τέλος, υπογράφουν το γραπτό τους, γνωρίζοντας ότι θα λογοδοτήσουν.
Η τεχνητή νοημοσύνη μπορεί να επιταχύνει πολλές από αυτές τις λειτουργίες. Μπορεί να βοηθήσει στην εύρεση μιας ξεχασμένης πηγής, στη βελτίωση μιας διατύπωσης, στον εντοπισμό μιας αντίφασης, ακόμη και να προτείνει οπτικές γωνίες που ο συγγραφέας δεν είχε λάβει υπόψη. Αλλά η αποφασιστική στιγμή παραμένει μια άλλη: όταν κάποιος αναγνωρίζει ένα κείμενο ως έκφραση της δικής του σκέψης και αποφασίζει να αναλάβει την ευθύνη γι' αυτό.
Για αυτόν τον λόγο, το μέλλον της γραφής δεν θα εξαρτηθεί από μηχανές, αλλά από ανθρώπους που θα ξέρουν πώς να τις χρησιμοποιούν χωρίς να θυσιάζουν την πνευματική τους αυτονομία. Η πραγματική πρόκληση δεν θα είναι να μάθουμε να επικοινωνούμε με την τεχνητή νοημοσύνη. Θα είναι να συνεχίσουμε να επικοινωνούμε με τον εαυτό μας.
Ίσως αυτό ακριβώς να είναι το παράδοξο της εποχής μας. Όσο περισσότερες μηχανές γίνονται ικανές να μιμούνται την ανθρώπινη γλώσσα, τόσο πιο πολύτιμη γίνεται η ιδιότητα που κανένας αλγόριθμος δεν μπορεί να εγγυηθεί: η πνευματική ειλικρίνεια όσων αναζητούν την αλήθεια, αγκαλιάζουν την αμφιβολία και υποστηρίζουν τις ιδέες τους.
Τελικά, λοιπόν, το ερώτημα δεν είναι αν η τεχνητή νοημοσύνη μπορεί να γράψει ένα βιβλίο.
Το ερώτημα είναι αν θα συνεχίσουμε να είμαστε συγγραφείς.
H TEXNHTH NOΗΜΟΣΥΝΗ, ΟΠΩΣ ΚΑΙ ΤΟ ΒΙΒΛΙΟ, ΑΝΗΚΕΙ ΣΤΟΝ ΚΟΣΜΟ ΤΗΣ ΓΡΑΦΗΣ, ΤΗΣ SOLA SCRIPTURA .H OΠΟΙΑ ΓΕΝΝΗΣΕ ΤΗΝ ΣΚΕΨΗ. ΤΟ ΠΑΙΔΙ ΤΗΣ ΕΡΜΗΝΕΙΑΣ. ΑΝΗΚΕΙ ΣΕ ΕΝΑΝ ΠΟΛΙΤΙΣΜΟ ΣΤΟΝ ΟΠΟΙΟ ΤΙΠΟΤΕ ΔΕΝ ΕΙΝΑΙ ΠΛΕΟΝ ΤΕΧΝΗ. ΤΕΧΝΗ ΤΟΥ ΛΟΓΟΥ. ΠΟΙΗΣΗ. ΣΤΥΛ. Η ΣΚΕΨΗ ΣΗΜΕΡΑ ΕΙΝΑΙ ΠΑΝΕΠΙΣΤΗΜΙΑΚΗ ΥΠΟΘΕΣΗ ΚΑΙ ΤΟ ΒΙΒΛΙΟ ΔΙΔΑΚΤΟΡΙΚΗ ΕΡΓΑΣΙΑ.
ΤΙ ΣΗΜΑΙΝΕΙ Η ΙΣΤΟΡΙΑ ΣΑΝ ΠΡΟΣΩΠΙΚΗ ΙΣΤΟΡΙΑ ΤΗΝ ΟΠΟΙΑ ΕΠΕΒΑΛΛΕ ΤΟ ΥΠΟΚΕΙΜΕΝΟ ΤΟΥ ΑΥΓΟΥΣΤΙΝΟΥ; ΟΤΑ Η ΠΝΕΥΜΑΤΙΚΗ ΕΡΓΑΣΙΑ ΕΙΝΑΙ ΚΑΤ' ΑΝΑΛΟΓΙΑΝ ΑΠΟΔΕΙΞΕΙΣ ΤΗΣ ΥΠΑΡΞΕΩΣ ΜΙΑΣ ΠΡΟΣΩΠΙΚΟΤΗΤΟΣ;
ΕΝΟΣ ΚΑΤΑ ΦΑΝΤΑΣΙΑΝ ΔΗΜΙΟΥΡΓΟΥ ΠΕΠΡΩΜΕΝΟΥ;
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου