Από τον Terminator στα νέα συστήματα Τεχνητής Νοημοσύνης: πραγματικοί κίνδυνοι, μεταβαλλόμενη εργασία και ένα ερώτημα που αφορά πρωτίστως τους ανθρώπους.
από τον Πάολο Κουατρίνι
Ένας ερευνητής εγκαταλείπει τον κόσμο της τεχνητής νοημοσύνης φοβούμενος ότι η τεχνολογική κούρσα θα μπορούσε να μας οδηγήσει σε συστήματα που θα είναι ολοένα και δυσκολότερο να ελεγχθούν. Είναι αναπόφευκτο να σκεφτούμε τον Terminator και το Skynet. Αλλά πόσο από αυτό είναι επιστημονική φαντασία και πόσο αξίζει να ληφθεί σοβαρά υπόψη; Μεταξύ των θέσεων εργασίας, του αυτοματισμού, των αυτόνομων συστημάτων και των μελλοντικών κινδύνων, το πραγματικό ερώτημα μπορεί να είναι άλλο: πρέπει να φοβόμαστε την τεχνητή νοημοσύνη ή τους ανθρώπους που θα αποφασίσουν πώς θα τη χρησιμοποιήσουν;[ΟΙ ΚΑΤΑΣΚΕΥΑΣΤΕΣ;]
Σήμερα έπεσα πάνω στην ιστορία του Jacob Coxon(1), 27 ετών, ενός Βρετανού ερευνητή που τα τελευταία χρόνια εργάστηκε πρώτα για την OpenAI και στη συνέχεια για την Anthropic, δύο από τις σημαντικότερες εταιρείες στον κόσμο στην ανάπτυξη της τεχνητής νοημοσύνης.
Ο Coxon αποφάσισε να εγκαταλείψει την Anthropic και τον τομέα της Τεχνητής Νοημοσύνης γενικότερα, εγείροντας έναν μάλλον δυσοίωνο συναγερμό: φοβάται ότι ο ανταγωνισμός μεταξύ των μεγάλων τεχνολογικών εταιρειών θα μπορούσε να οδηγήσει στη δημιουργία συστημάτων Τεχνητής Νοημοσύνης ικανών να βελτιώνονται προοδευτικά, μέχρι να φτάσουν σε τέτοιες δυνατότητες που η διατήρηση του ελέγχου να καθίσταται πολύ δύσκολη, αν όχι αδύνατη.
Δεν μιλάμε λοιπόν για έναν άνθρωπο που έχει παρακολουθήσει πάρα πολλές ταινίες επιστημονικής φαντασίας, αλλά για κάποιον που βοήθησε στην κατασκευή αυτών των συστημάτων. Η απόφασή του προκάλεσε αρκετή αναστάτωση ακριβώς για αυτόν τον λόγο. Η Wall Street Journal κάλυψε το θέμα του και ο Coxon εξήγησε ότι, κατά τη γνώμη του, ο ανταγωνισμός μεταξύ των εταιρειών ωθεί την ανάπτυξη της Τεχνητής Νοημοσύνης πιο γρήγορα από ό,τι προχωρούν τα συστήματα που απαιτούνται για τον έλεγχο και την ασφάλειά της.
Και έτσι αναρωτήθηκα: πρέπει πραγματικά να ανησυχούμε;
Το πρώτο πράγμα που μου ήρθε στο μυαλό ήταν τα παιδικά μου χρόνια και μια ταινία που με γοήτευε πολύ εκείνη την εποχή: Ο Εξολοθρευτής (Terminator), με τον Άρνολντ Σβαρτσενέγκερ.
Αυτό ακολουθήθηκε από πέντε ακόμη:
Εξολοθρευτής 2 – Ημέρα της Κρίσης, 1991;
Εξολοθρευτής 3: Η Άνοδος των Μηχανών, 2003;
Εξολοθρευτής Σωτηρία, 2009;
Εξολοθρευτής Γένεση, 2015;
Εξολοθρευτής – Σκοτεινή Μοίρα, 2019.
Η κινηματογραφική ιστορία ξεκινά το 1984.
Στην ταινία, υπάρχει μια τεχνητή νοημοσύνη που ονομάζεται Skynet, η οποία σχεδιάστηκε αρχικά για στρατιωτικούς σκοπούς. Σε κάποιο σημείο, το Skynet αποκτά αυτογνωσία και όταν οι άνθρωποι προσπαθούν να το απενεργοποιήσουν, αντιλαμβάνεται την ανθρωπότητα ως απειλή για την ύπαρξή του. Η αντίδρασή του είναι τρομακτική: εξαπολύει έναν πυρηνικό πόλεμο και στη συνέχεια χρησιμοποιεί μηχανές για να εξοντώσει τους επιζώντες.
Από εκεί και πέρα ξεκινά ο πόλεμος μεταξύ ανθρώπων και μηχανών.
Φυσικά και βρισκόμαστε στον χώρο της επιστημονικής φαντασίας.
Ή μήπως όχι εντελώς; [Επιστημονική φαντασία είναι ο ορισμός τής σημερινής επιστημολογίας, η οποία γεννήθηκε από τήν κατάργηση τής αντιφάσεως. Στόν ίδιο ορισμό εμπίπτει καί η εκκλησιολογία όπως καί κάθε προηγούμενη ή ισχύουσα ιδεολογία. ΙΔΕΕΣ ΧΩΡΙΣ ΤΟΝ ΛΟΓΟ]
Πριν φανταστούμε ρομπότ-δολοφόνους να μας κυνηγούν στον δρόμο, πρέπει να κάνουμε διάκριση μεταξύ αυτού που υπάρχει σήμερα και αυτού που θα μπορούσε ενδεχομένως να υπάρξει αύριο.
Η τρέχουσα τεχνητή νοημοσύνη, συμπεριλαμβανομένης αυτής με την οποία πολλοί από εμάς αλληλεπιδρούμε καθημερινά, δεν είναι Skynet. Δεν υπάρχουν στοιχεία ότι συστήματα όπως το ChatGPT διαθέτουν συνείδηση συγκρίσιμη με αυτή των ανθρώπων. Πράγματι, η ίδια η επιστήμη εξακολουθεί να μην έχει έναν κοινό και πλήρη ορισμό για το πώς προκύπτει η συνείδηση στους ανθρώπους. Επομένως, ο προσδιορισμός του κατά πόσον μια μηχανή θα μπορούσε κάποια μέρα να την αναπτύξει είναι ακόμη πιο δύσκολος.
Αλλά αυτό δεν σημαίνει ότι το πρόβλημα που θίγει ο Κόξον πρέπει να θεωρηθεί επιστημονική φαντασία.
Πράγματι, ίσως υπάρχει μια σημαντική παρεξήγηση: μια μηχανή δεν χρειάζεται απαραίτητα να αποκτήσει συνείδηση ή να γίνει «κακή» για να γίνει επικίνδυνη.
Θα μπορούσε απλώς να του δοθεί ένας στόχος, να γίνει εξαιρετικά καλό στην επιδίωξή του και να βρει λύσεις που οι δημιουργοί του δεν είχαν προβλέψει. Αυτό είναι το λεγόμενο πρόβλημα ευθυγράμμισης (alignment): η διασφάλιση ότι οι στόχοι και οι συμπεριφορές των ολοένα και πιο ισχυρών συστημάτων παραμένουν συνεπείς με αυτό που πραγματικά θέλουν οι άνθρωποι.
Και εδώ ακριβώς προκύπτει η ανησυχία πολλών ερευνητών.
Ο Κόξον φοβάται πάνω απ' όλα τη στιγμή που η Τεχνητή Νοημοσύνη θα είναι σε θέση να συμβάλει ολοένα και πιο σημαντικά στον σχεδιασμό και την ανάπτυξη ακόμη καλύτερων συστημάτων Τεχνητής Νοημοσύνης. Εάν αυτή η διαδικασία γινόταν εξαιρετικά γρήγορη, οι δυνατότητες των μηχανών θα μπορούσαν να αναπτυχθούν πολύ πιο γρήγορα από την ικανότητά μας να τις κατανοούμε και να τις ελέγχουμε.
Πόσο μακριά βρισκόμαστε από εκείνη τη στιγμή;
Κανείς δεν μπορεί να πει με σιγουριά.
Και ακριβώς αυτή η αβεβαιότητα διχάζει τους ειδικούς. Κάποιοι θεωρούν υπερβολικές τις καταστροφικές προβλέψεις. Άλλοι, συμπεριλαμβανομένων ερευνητών που εργάζονται απευθείας στα πιο προηγμένα μοντέλα, πιστεύουν ότι ακόμη και ένας πολύ μικρός κίνδυνος μη αναστρέψιμων συνεπειών αξίζει την μέγιστη προσοχή.
Υπάρχει όμως ένα πολύ πιο άμεσο πρόβλημα, το οποίο δεν απαιτεί την αναμονή για την άφιξη μιας φανταστικής υπερνοημοσύνης: η εργασία.
Πόσες θέσεις εργασίας θα εξαφανιστούν;
Ποια επαγγέλματα δεν θα υπάρχουν πια σε δέκα ή είκοσι χρόνια —ίσως και σε λιγότερο—;
Σκεφτείτε τις αποθήκες. Τα ρομπότ, τα αυτοματοποιημένα συστήματα και το λογισμικό είναι ήδη ικανά να μετακινούν αγαθά, να οργανώνουν παραγγελίες και να βελτιστοποιούν ολόκληρες τις διαδικασίες εφοδιαστικής.
Ας σκεφτούμε τους ταμίες: τα ταμεία αυτοεξυπηρέτησης είναι πλέον κάτι συνηθισμένο σε πολλά σούπερ μάρκετ.
Αλλά, άλλωστε, έχουμε ήδη βιώσει παρόμοιες μεταμορφώσεις.
Κάποτε, σχεδόν πάντα υπήρχε κάποιος παρών στα διόδια. Σήμερα, οι περισσότερες πληρωμές γίνονται μέσω Telepass και αυτόματων συστημάτων.
Στις τράπεζες, πολλές λειτουργίες που κάποτε απαιτούσαν την παρέμβαση ενός υπαλλήλου εκτελούνται πλέον μέσω ΑΤΜ, τραπεζικών εργασιών στο σπίτι και τηλεφωνικών εφαρμογών.
Κάθε μεγάλη τεχνολογική καινοτομία έχει εξαλείψει ορισμένες θέσεις εργασίας και έχει δημιουργήσει άλλες.
Και τα δεδομένα που είναι διαθέσιμα σήμερα φαίνεται να υποδεικνύουν κάτι παρόμοιο και για την τεχνητή νοημοσύνη.
Σύμφωνα με τον Διεθνή Οργανισμό Εργασίας, περίπου ένας στους τέσσερις εργαζόμενους παγκοσμίως έχει ένα επάγγελμα που είναι σε κάποιο βαθμό εκτεθειμένο στην παραγωγική Τεχνητή Νοημοσύνη, αλλά το πιο πιθανό σενάριο δεν είναι η πλήρης εξάλειψη αυτών των επαγγελμάτων: είναι ο μετασχηματισμός τους.
Και είναι ενδιαφέρον να σημειωθεί ότι δεν είναι απαραίτητα οι πιο απλές δουλειές που πρόκειται να αλλάξουν περισσότερο.
Η σύγχρονη Τεχνητή Νοημοσύνη είναι ιδιαίτερα αποτελεσματική κατά την εργασία με πληροφορίες, κείμενο, αριθμούς, εικόνες και δεδομένα. Αυτό καθιστά τα διοικητικά, χρηματοοικονομικά, πληροφορικής και τεχνικά επαγγέλματα ιδιαίτερα ευάλωτα.
Ο ΟΟΣΑ σημειώνει ότι πολλές εξειδικευμένες θέσεις εργασίας γραφείου είναι πλέον από τις πιο εκτεθειμένες στην τεχνητή νοημοσύνη, ενώ πολλά χειρωνακτικά επαγγέλματα είναι πολύ λιγότερο εκτεθειμένα.
Αυτό δεν σημαίνει ότι ένα ρομπότ δεν θα μπορέσει ποτέ να βάψει έναν τοίχο ή να επισκευάσει έναν σωλήνα. Πιθανότατα θα δούμε και μηχανές ικανές να το κάνουν αυτό, αργά ή γρήγορα.
Αλλά η πλοήγηση σε ένα πραγματικό, συνεχώς μεταβαλλόμενο περιβάλλον, η αντιμετώπιση ενός απροσδόκητου συμβάντος, η κατανόηση του γιατί ένας λέβητας δεν λειτουργεί ή η προσαρμογή σε ένα σπίτι που χτίστηκε πριν από πενήντα χρόνια εξακολουθεί να είναι πολύ πιο περίπλοκη από την επεξεργασία εκατομμυρίων σημείων δεδομένων.
Ίσως, λοιπόν, απλώς γινόμαστε μάρτυρες μιας ακόμη βιομηχανικής επανάστασης.
Κάποια επαγγέλματα θα εξαφανιστούν. Άλλα θα αναδυθούν που δεν μπορούμε καν να φανταστούμε σήμερα. Και, πάνω απ' όλα, ο τρόπος με τον οποίο ασκούμε τα υπάρχοντα θα αλλάξει.
Η πραγματική πρόκληση θα είναι η κατανόηση του πόσο γρήγορα θα συμβεί αυτός ο μετασχηματισμός και, πάνω απ' όλα, του κατά πόσον θα μπορέσουμε να τον συνοδεύσουμε χωρίς να αφήσουμε πίσω εκατομμύρια ανθρώπους.
Ας επιστρέψουμε όμως στον Τζέικομπ Κόξον.
Θα μπορούσε όντως να συμβεί το σενάριο που φοβάστε;
Θα μπορούσε μια μηχανή να γίνει ολοένα και πιο έξυπνη, ξεφεύγοντας σταδιακά από τον έλεγχό μας, και μια μέρα να αποτελέσει απειλή για τους ανθρώπους;
Η πιο σωστή απάντηση σήμερα, κατά τη γνώμη μου, είναι: δεν ξέρουμε.
Η σκέψη ότι το ChatGPT θα μπορούσε να ξυπνήσει αύριο το πρωί, να συνδεθεί αυτόνομα με πυρηνικά οπλοστάσια και να αποφασίσει να μας εξοντώσει εξακολουθεί να ανήκει στην επιστημονική φαντασία.
Αλλά θα ήταν εξίσου λάθος να συμπεράνουμε ότι οποιοδήποτε ρίσκο είναι αδύνατο μόνο και μόνο επειδή μοιάζει με την πλοκή του Εξολοθρευτή (Terminator).
Πιο ρεαλιστικά, οι κίνδυνοι θα μπορούσαν να προέλθουν από τη χρήση της τεχνητής νοημοσύνης από ανθρώπους: ολοένα και πιο εξελιγμένες κυβερνοεπιθέσεις, παραπληροφόρηση, σχεδιασμός όπλων, αυτόνομα στρατιωτικά συστήματα.
Ή, στο μέλλον, από την απόφαση να εμπιστευτούν σε ολοένα και πιο αυτόνομα συστήματα τον έλεγχο υπερβολικά σημαντικών υποδομών, χωρίς να κατανοούν πλήρως πώς θα συμπεριφέρονται σε κάθε περίπτωση.
Η πιθανή κακόβουλη χρήση της Τεχνητής Νοημοσύνης και η απώλεια ελέγχου σε εξαιρετικά προηγμένα συστήματα είναι τα δύο κύρια σενάρια κινδύνου που συζητούνται επί του παρόντος από τους μελετητές.
Και εδώ ίσως προκύπτει το ερώτημα που με ενδιαφέρει περισσότερο από όλα.
Πρέπει να φοβόμαστε την τεχνητή νοημοσύνη ή τους ανθρώπους που θα τη χρησιμοποιήσουν;
Επειδή ο άνθρωπος, χωρίς την ανάγκη για οποιαδήποτε τεχνητή νοημοσύνη, ήταν ήδη απόλυτα ικανός, ανά τους αιώνες, να διεξάγει πολέμους, να καταστρέφει πόλεις, να εκμεταλλεύεται πληθυσμούς και να καταναλώνει αλόγιστα τους πόρους του πλανήτη.
Πετρέλαιο, φυσικό αέριο, νερό, ορυκτά, γη, σύνορα.
Συνεχίζουμε να τσακωνόμαστε για το ποιος κατέχει τι, ξεχνώντας ότι όλοι ζούμε στον ίδιο μικροσκοπικό πλανήτη.
Και μετά σχεδόν με κάνει να σκέφτομαι, προκλητικά, ότι, αν μια μέρα εμφανιζόταν πραγματικά ένα Skynet, ίσως για πρώτη φορά όλη η ανθρωπότητα θα βρισκόταν αντιμέτωπη με ένα μόνο πρόβλημα να αντιμετωπίσει από κοινού.
Ίσως αυτή θα ήταν η κατάλληλη στιγμή να σταματήσουμε να διχαζόμαστε με βάση την εθνικότητα, τη θρησκεία, την επικράτεια και τα οικονομικά συμφέροντα.
Θα ήμασταν απλώς άνθρωποι.
Φυσικά, δεν θέλω να περιμένω να το ανακαλύψει ένας στρατός από Εξολοθρευτές.
Θα ήθελα να πιστεύω ότι θα μπορούσαμε να φτάσουμε εκεί νωρίτερα.
Για να κατανοήσουμε ότι οι πόροι της Γης θα μπορούσαν να χρησιμοποιηθούν μέσω της συνεργασίας και της ανταλλαγής και όχι μέσω του πολέμου: Έχω ό,τι χρειάζεσαι εσύ, έχεις ό,τι χρειάζομαι εγώ.
Σου δίνω ένα μήλο, μου δίνεις ένα πορτοκάλι.
Ακούγεται αφελές, το ξέρω.
Αλλά ίσως η πραγματική πρόκληση που θέτει η τεχνητή νοημοσύνη δεν θα είναι η ανακάλυψη του κατά πόσον μια μηχανή θα είναι μια μέρα σε θέση να γίνει παρόμοια με τους ανθρώπους.
Μένει να δούμε αν ο άνθρωπος μπορεί να γίνει αρκετά νοήμων ώστε να διαχειριστεί τη μηχανή που έχει δημιουργήσει.
Και ίσως, κάνοντάς το αυτό, να καταλάβει επιτέλους κάτι περισσότερο για τον εαυτό του.
Έπειτα, υπάρχει ένα τελευταίο μικρό παράδοξο.
Για να επαληθεύσω ορισμένες πληροφορίες και να διορθώσω αυτό το άρθρο, έλαβα βοήθεια από μια τεχνητή νοημοσύνη: το ChatGPT.
Μέχρι στιγμής δεν έχει προσπαθήσει να καταλάβει τον υπολογιστή μου ή το σπίτι μου.
Περιορίστηκε στο να με βοηθήσει με την έρευνά μου, διορθώνοντας μερικές προτάσεις και επαναδιατυπώνοντας τις έννοιές μου, χωρίς να τις διαστρεβλώσει.
Θα έλεγα ότι, τουλάχιστον για σήμερα, μπορούμε να ηρεμήσουμε.
Πολ Κουατρίνι
Σημείωση
1. Ο Jacob Coxon 27 χρονών είναι βρεταννός ερευνητής μέ μαθηματική μόρφωση ο οποίος εργάστηκε γιά περίπου τρία χρόνια στήν ανάπτυξη καί στήν εκπαίδευση μοντέλων ΤΝ πρώτα στήν OpenAI καί στήν συνέχεια στήν Anthropic. Τόν Σεπτέμβριο του 2026 εγκατέλειψε τήν Anthropic καί τό τμήμα τής ΤΝ δηλώνοντας τήν ανησυχία του ότι ο ανταγωνισμός ανάμεσα στά κυριώτερα εργαστήρια επιταχύνει τόν αγώνα πρός συστήματα όλο καί πιό αυτόνομα καί ικανά νά συμμετάσχουν στήν καλυτέρευσή τους, πρίν διατεθούν κατάλληλα όργανα γιά τήν εξασφάλιση τού ελέγχου καί τής ασφάλειας. Η απόφασή του επηρέασε διεθνώς καθότι η Anthropic θεωρείται η πιό σημαντική στό θέμα τής ασφάλειας τής ΤΝ.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου