Τα προβλήματα της τεχνητής νοημοσύνης

Πριν από λίγες ημέρες, σε μόλις εννέα δευτερόλεπτα, ένας «βοηθός» με τεχνητή νοημοσύνη κατάφερε να κάνει αυτό που οι περισσότεροι χάκερ μπορούν μόνο να ονειρευτούν: ένα bot, βασισμένο στο AI Claude της Anthtropic, το οποίο χρησιμοποιείται ακόμη και από το Πεντάγωνο, ανέλαβε την επιδιόρθωση ενός σφάλματος στο σύστημα λογισμικού μιας νεοσύστατης επιχείρησης. Αντ' αυτού, διέγραψε τη βάση δεδομένων παραγωγής της εταιρείας, διέγραψε αντίγραφα ασφαλείας και άφησε πολλές εταιρείες ενοικίασης αυτοκινήτων χωρίς κανένα αρχείο κρατήσεων ή αναθέσεων οχημάτων. Αλλά αυτό δεν αποτελεί έκπληξη: ο καθηγητής Alan Woodward, ειδικός στην επιστήμη των υπολογιστών στο Πανεπιστήμιο του Surrey, προειδοποίησε ότι εάν μια εταιρεία ζητήσει από μια τεχνητή νοημοσύνη να καθαρίσει μια βάση δεδομένων, το bot μπορεί να αποφασίσει ότι ο ευκολότερος τρόπος είναι να τη διαγράψει εντελώς. Η τεχνητή νοημοσύνη δεν έχει συμφέροντα, δεν έχει καν κόσμο. είναι απλώς μια στατιστική μηχανή που μπορεί να αποφασίσει να λύσει ένα πρόβλημα απλώς εξαλείφοντάς το. Το πολιτισμικό πρόβλημα είναι, μάλλον, ότι, σε αντίθεση με τη δημοφιλή πεποίθηση, η άποψη για τον βιολογικό εγκέφαλο προέρχεται πλέον από συστήματα υπολογιστών και όχι το αντίστροφο, επομένως υπάρχει μια τάση να επικαλύπτονται έντεχνα οι δύο κόσμοι, συχνά δίνοντας προτεραιότητα στο πυρίτιο έναντι του άνθρακα ή σε κάθε περίπτωση διατυπώνοντας υποθέσεις για λειτουργικές αναλογίες που δεν υπάρχουν.

Τα «ατυχήματα» που αντιμετωπίζουν όσοι βασίζονται αποκλειστικά στην τεχνητή νοημοσύνη είναι συνηθισμένα, ακόμη και αν συχνά δεν είναι τόσο ριζοσπαστικά όσο αυτό που περιγράφεται παραπάνω. Ωστόσο, ο πραγματικός κίνδυνος που αντιμετωπίζουμε είναι γνωστικός, όπως φαίνεται από το επόμενο επεισόδιο, το οποίο είναι πραγματικά ανησυχητικό από πολλές απόψεις. Μερικοί ιατρικοί ερευνητές εφηύραν μια εντελώς ψεύτικη δερματική ασθένεια που ονόμασαν Bixonimania και μάλιστα δημοσίευσαν δύο ψεύτικες προεκτυπώσεις που περιγράφουν αυτή τη νέα παθολογία στο διαδίκτυο. Μετά από δύο εβδομάδες, τα κορυφαία chatbots που βασίζονται στην τεχνητή νοημοσύνη άρχισαν να περιγράφουν αυτήν την εντελώς επινοημένη πάθηση ως πραγματική ιατρική διάγνωση, παρέχοντας αναλύσεις συμπτωμάτων και επικαλούμενα ψεύτικες ιατρικές μελέτες ή ακόμα και ένα σημαντικό σώμα επιστημονικής βιβλιογραφίας για το θέμα που προφανώς δεν υπήρξε ποτέ. Έτσι, μια ασθένεια που δημιουργήθηκε από το τίποτα έχει γίνει πραγματική. Θεέ μου, συμβαίνει και στον ανθρώπινο κόσμο, όπως γνωρίζουμε ή μπορούμε να υποθέσουμε, αλλά είναι σαφές ότι η τεχνητή νοημοσύνη, χωρίς κατεύθυνση και έναν πραγματικό κόσμο, έχει μια έμφυτη τάση να είναι αυτοαναφορική: κατασκευάζει έναν κόσμο από bits, αφού δεν καταλαβαίνει τον πραγματικό.

Όλα αυτά χρησίμευσαν ως εισαγωγή σε μια αίτηση με τίτλο «Για ένα Ρεαλιστικό Όραμα για την Τεχνητή Νοημοσύνη», η οποία κυκλοφορεί στο διαδίκτυο εδώ και αρκετές ημέρες και είναι ανοιχτή σε υπογραφές από ειδικούς του κλάδου. Το επισημαίνω επειδή το εισαγωγικό κείμενο παρέχει μια σαφή και εύκολα αναγνώσιμη επισκόπηση του τι είναι στην πραγματικότητα η τεχνητή νοημοσύνη, καταλήγοντας: «Η πραγματική προτεραιότητα είναι να εκπαιδεύσουμε τους ανθρώπους ώστε να κατανοήσουν αυτές τις τεχνολογίες. Η γνώση του πώς λειτουργούν, ποιοι είναι οι περιορισμοί τους και πώς μπορούν να χρησιμοποιηθούν υπεύθυνα είναι σήμερα μια θεμελιώδης δεξιότητα για όλους τους πολίτες. Καλούμε την ακαδημαϊκή κοινότητα της πληροφορικής να συμβάλει ενεργά σε αυτήν την προσπάθεια διευκρίνισης και εκπαίδευσης. Η επακριβής εξήγηση του τι είναι πραγματικά αυτές οι τεχνολογίες και τι δεν είναι, είναι ένα έργο γραμματισμού που αποτελεί αναπόσπαστο μέρος του έργου μας ως ερευνητές και εκπαιδευτικοί». Θα πρόσθετα ότι αυτό θα ήταν μια απελευθέρωση από τους μύθους, τις παγίδες και τις παγίδες της σύγχρονης ζωής.

Τα Προβλήματα της Τεχνητής Νοημοσύνης | Simplicissimus