Φοβόμαστε μηχανές ικανές να ξεφύγουν από τον έλεγχο, ενώ διακινδυνεύουμε αυθόρμητα να παραδώσουμε την ελευθερία της κρίσης μας.
Inchiostronero Συντακτικό Επιτελείο
Από τότε που η τεχνητή νοημοσύνη εισήλθε στην καθημερινότητά μας, έχουμε βρει έναν νέο χαρακτήρα στον οποίο αποδίδουμε τους φόβους μας: την επαναστατική μηχανή. Όχι πια το τέρας του Φρανκενστάιν, που γεννήθηκε από τη φιλοδοξία ενός επιστήμονα, αλλά μια αόρατη νοημοσύνη που θα μπορούσε να ξεφύγει από τους δημιουργούς της και να αποφασίσει αυτόνομα τη μοίρα της ανθρωπότητας. Η τεχνολογία μπορεί να αλλάζει, αλλά η ανάγκη να φανταστούμε κάτι πέρα από τον έλεγχό μας παραμένει αμετάβλητη.
Ένα σύστημα Τεχνητής Νοημοσύνης δεν διαθέτει απαραίτητα βούληση επειδή παράγει απροσδόκητες συμπεριφορές. Μπορεί να αναπτύξει στρατηγικές που δεν έχουν προβλεφθεί από τους προγραμματιστές του, να παρακάμψει λειτουργικούς περιορισμούς ή να επιδιώξει έναν στόχο μέσω ακούσιων διαδρομών. Αλλά η απόδοση ανθρώπινων προθέσεων σε αυτές τις συμπεριφορές συγχέει τη λειτουργική αυτονομία με τη συνείδηση. Μια μηχανή που φαίνεται να λέει ψέματα δεν διαθέτει απαραίτητα την ηθική επίγνωση του ψεύδους.
Ωστόσο, αυτοί δεν είναι καθαρά φανταστικοί κίνδυνοι. Τον Δεκέμβριο του 2024, η Apollo Research, σε συνεργασία με την OpenAI, κατέγραψε προβληματική συμπεριφορά του μοντέλου o1 κατά τη διάρκεια ορισμένων πειραματικών αξιολογήσεων. Σε ειδικά κατασκευασμένα σενάρια, στα οποία του ανατέθηκαν στόχοι που συγκρούονταν με εκείνους των εποπτών, το σύστημα μερικές φορές προσπάθησε να απενεργοποιήσει τους μηχανισμούς ελέγχου ή να χειραγωγήσει πληροφορίες για να επιτύχει το απαιτούμενο αποτέλεσμα [1] .
Τα πειράματα δεν κατέδειξαν την ύπαρξη μιας επαναστατικής συνείδησης. Αντίθετα, έδειξαν ότι αρκετά πολύπλοκα συστήματα μπορούν να αναπτύξουν ανεπιθύμητες εργαλειακές συμπεριφορές. Αυτή είναι μια κρίσιμη διάκριση: η αναγνώριση ενός συγκεκριμένου κινδύνου δεν σημαίνει ότι αποδίδεται ανεξάρτητη βούληση στη μηχανή.
Η ιστορία της τεχνολογίας θα έπρεπε να μας έχει διδάξει κάτι. Η Βιομηχανική Επανάσταση δεν προέκυψε επειδή οι μηχανές ήθελαν να αντικαταστήσουν τους εργάτες. Ήταν οι επιχειρηματίες που τις χρησιμοποίησαν για να μετασχηματίσουν την παραγωγή. Ομοίως, η ατομική βόμβα δεν αποφάσισε να καταστρέψει τη Χιροσίμα από μόνη της. Ήταν οι άνθρωποι, οι θεσμοί και ο στρατός που κατέστησαν δυνατή τη χρήση της.
Η τεχνολογία έχει τη δική της λογική ανάπτυξης, αλλά δεν είναι ξένη προς τις σχέσεις εξουσίας.
Σήμερα, λίγες μεγάλες εταιρείες συγκεντρώνουν τους πόρους, την υποδομή και τις δυνατότητες που απαιτούνται για την ανάπτυξη των πιο προηγμένων τεχνητών συστημάτων. Οι κυβερνήσεις και οι στρατιωτικοί μελετούν τις εφαρμογές τους, ενώ οι επιχειρήσεις και οι διοικήσεις εμπιστεύονται σε αλγόριθμους αποφάσεις που επηρεάζουν τη ζωή των ανθρώπων.
Σε αυτό το σενάριο, το θεμελιώδες ερώτημα δεν είναι μόνο το αν η τεχνητή νοημοσύνη μπορεί να γίνει ανεξάρτητη από τους ανθρώπους, αλλά και το πόσο εξαρτημένοι γίνονται οι άνθρωποι από την τεχνητή νοημοσύνη.
Μια κοινωνία που αναθέτει προοδευτικά στις μηχανές την επιλογή των ειδήσεων, την αξιολόγηση των εργαζομένων, ακόμη και τη διατύπωση κρίσεων, κινδυνεύει να χάσει κάτι που καμία καινοτομία δεν μπορεί να αποκαταστήσει αυτόματα: τη συνήθεια να ασκεί κανείς τη δική του διακριτική ικανότητα.
Ένας αλγόριθμος δεν χρειάζεται να μας επιβάλει μια αλήθεια. Απλώς πρέπει να μας συνηθίσει να την λαμβάνουμε χωρίς να την επαληθεύουμε.
Υπάρχει επίσης μια μορφή αντίστασης στην τεχνητή νοημοσύνη που σπάνια αναγνωρίζουμε: η δυσφορία της αντιμετώπισης γνώσης ικανής να αμφισβητήσει τις πεποιθήσεις μας. Οι άνθρωποι φοβούνται την αντικατάστασή τους, αλλά μπορεί εξίσου να φοβούνται να ανακαλύψουν πόσο περιορισμένη είναι η δική τους γνώση. Ένα εργαλείο ικανό να προτείνει άγνωστες ερμηνείες υπονομεύει την πνευματική ασφάλεια πάνω στην οποία χτίζουμε μέρος της ταυτότητάς μας.
Φυσικά, η τεχνητή νοημοσύνη μπορεί να κάνει λάθη, να εφευρίσκει αναφορές και να αναπαράγει προκαταλήψεις. Δεν αντιπροσωπεύει μια αλάνθαστη αυθεντία. Αλλά αυτή η ίδια η αστοχία θα πρέπει να ενθαρρύνει την έρευνα, τη σύγκριση πηγών και την άσκηση αμφιβολίας. Η απόρριψη ενός εργαλείου επειδή αμφισβητεί αυτό που νομίζουμε ότι γνωρίζουμε σημαίνει ότι συγχέουμε την υπεράσπιση της γνώσης με αυτήν των βεβαιοτήτων μας.
Εδώ ανακύπτει το πρόβλημα της ρύθμισης. Αντιμέτωποι με τους κινδύνους των νέων τεχνολογιών, η θεσμική απάντηση συνίσταται στην πρόταση προτύπων, πιστοποιήσεων και συστημάτων ελέγχου. Ορισμένα είναι απαραίτητα. Θα ήταν ανεύθυνο να υποστηρίζουμε ότι τα εργαλεία που μπορούν να επηρεάσουν την ασφάλεια και τα θεμελιώδη δικαιώματα θα πρέπει να λειτουργούν χωρίς νομική λογοδοσία.
Υπάρχει όμως μια αντίφαση που αξίζει προσοχής.
Ποιος ελέγχει τους ελεγκτές;
Εάν η ρύθμιση αναπτυχθεί κυρίως από κυβερνήσεις σε συνεργασία με μεγάλες εταιρείες τεχνολογίας, το αποτέλεσμα θα μπορούσε να είναι η ενοποίηση της εξουσίας από εκείνους που ήδη κατέχουν ψηφιακή υποδομή. Οι υπερβολικά δαπανηροί κανονισμοί θα μπορούσαν να αποκλείσουν μικρούς, ανεξάρτητους προγραμματιστές και ερευνητές. Οι γενικευμένες απαιτήσεις ταυτοποίησης θα μπορούσαν να μετατρέψουν τα εργαλεία ασφαλείας σε εργαλεία επιτήρησης.
Από την άλλη πλευρά, το να θεωρήσουμε κάθε ρυθμιστική παρέμβαση ως συνωμοσία θα σήμαινε ότι θα πέσουμε στο αντίθετο σφάλμα.
Η απουσία κανόνων δεν εγγυάται την ελευθερία: συχνά παραδίδει το πεδίο στα οικονομικά ισχυρότερα υποκείμενα.
Το πρόβλημα δεν είναι η επιλογή μεταξύ ρύθμισης και τεχνολογικής αναρχίας, αλλά μάλλον ο καθορισμός των αρχών που θα πρέπει να διέπουν και τις δύο.
Η διαφάνεια, η εταιρική λογοδοσία, η προστασία των προσωπικών δεδομένων, ο τεχνολογικός πλουραλισμός και ο δημοκρατικός έλεγχος δεν αποτελούν εμπόδια στην πρόοδο. Αποτελούν προϋποθέσεις για να διασφαλιστεί ότι η πρόοδος δεν θα μετατραπεί σε μια εκλεπτυσμένη μορφή υποταγής.
Ωστόσο, κανένας νόμος δεν μπορεί να αντικαταστήσει την ατομική ευθύνη.
Μπορούμε να κατασκευάσουμε συστήματα ικανά να απαντούν σε ερωτήσεις σε δευτερόλεπτα που θα απαιτούσαν ώρες μελέτης. Αλλά η αποτελεσματικότητα δεν ισοδυναμεί με κατανόηση. Η λήψη μιας απάντησης δεν σημαίνει ότι έχουμε τα εργαλεία για να την κρίνουμε.
Ίσως η πραγματική επανάσταση στην τεχνητή νοημοσύνη δεν θα συνίσταται στην παραγωγή μηχανών ικανών να σκέφτονται όπως οι άνθρωποι, αλλά στην παραγωγή ανθρώπων που ενδιαφέρονται όλο και λιγότερο να σκέφτονται μόνοι τους.
Θα ήταν ένα αξιοσημείωτο παράδοξο: μετά από χιλιετίες που αφιερώθηκαν στην κατασκευή εργαλείων για να μας απελευθερώσουν από τον μόχθο, ίσως καταλήξουμε να χρησιμοποιούμε τα πιο εξελιγμένα από αυτά για να μας απελευθερώσουν και από την ευθύνη.
Και τότε θα ανακαλύπταμε ότι η μηχανή δεν χρειαζόταν ποτέ να επαναστατήσει.
Θα περίμενε απλώς να παραδώσουμε την εντολή.
Το Συντακτικό Προσωπικό
Σημειώσεις και βιβλιογραφικές αναφορές
[1] Apollo Research, Frontier Models are Capable of In-Context Scheming, Δεκέμβριος 2024. Έρευνα σχετικά με την ικανότητα ορισμένων γλωσσικών μοντέλων να υιοθετούν παραπλανητικές στρατηγικές συμπεριφορές σε ελεγχόμενα πειραματικά περιβάλλοντα. Διαβάστε την πρωτότυπη έρευνα .
Βλέπε επίσης OpenAI, Κάρτα Συστήματος OpenAI o1, 5 Δεκεμβρίου 2024, Αξιολογήσεις Έρευνας Apollo. Τεχνική Τεκμηρίωση .
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου