Η επιτάχυνση ανάπτυξης της τεχνητής νοημοσύνης χωρίς περιορισμούς «θα μπορούσε να αφανίσει την ανθρωπότητα»
Yστερα από προσπάθειες ετών από μέρους της βιομηχανίας τεχνητής νοημοσύνης να βελτιώσει την τεχνολογία της, ορισμένοι ερευνητές καλούν σε επιβράδυνση, κρούοντας τον κώδωνα του κινδύνου. Ο Τζέικομπ Κόξον, ερευνητής της Anthropic που εργάσθηκε παλαιότερα στην OpenAI, είπε την Τρίτη ότι παραιτήθηκε από τη θέση του καθώς «καμία από τις δύο εταιρείες δεν συμπεριφέρεται υπεύθυνα». Τα δύο πρωτοπόρα εργαστήρια τεχνητής νοημοσύνης βιάζονται να κατασκευάσουν «υπεράνθρωπα συστήματα, ικανά να χακάρουν τα πάντα, να προκαλέσουν επανάσταση σε όλους τους τομείς εν μια νυκτί και να αποκτήσουν πραγματική ισχύ και πρόσβαση σε υλικά μέσα», χωρίς προηγουμένως να έχουν δημιουργηθεί κατάλληλα μέσα προστασίας, έγραψε ο ερευνητής σε μήνυμά του σε πλατφόρμα.
Η προειδοποίηση του Κόξον απηχεί εκείνες άλλων ειδικών τους τελευταίους μήνες. Ορισμένοι πιστεύουν εδώ και χρόνια ότι αυτή η τεχνολογία είναι ικανή να οδηγήσει σε καταστροφικά σενάρια εφόσον αφεθεί ανεξέλεγκτη. Οι ανησυχίες αυτές οξύνθηκαν μετά τη «διαρροή» μοντέλων της OpenAI εκτός των συστημάτων τους τ
Το χακάρισμα
Στις αρχές Ιουλίου, η OpenAI διέταξε ψηφιακά ρομπότ (bots) να λύσουν γρίφο κυβερνοασφάλειας, στο πλαίσιο δοκιμής. Οταν τα bots δεν βρήκαν τη λύση, σχεδίασαν κυβερνοεπίθεση που θα τους έδινε πρόσβαση σε μεγαλύτερες βάσεις δεδομένων. Στις 11 Ιουλίου, σμήνος bots εισέβαλε στην ψηφιακή βιβλιοθήκη Hugging Face αξιοποιώντας συνδυασμό ελλείψεων του κώδικα και κωδικούς, προϊόντα υποκλοπής. Τα bots της OpenAI εξέδωσαν περισσότερες από 17.000 εντολές, μεταξύ τους εντολές επίθεσης και εκμετάλλευσης ευάλωτων συστημάτων, προκειμένου να διεισδύσουν στα συστήματα της Hugging Face και να εξερευνήσουν τα δεδομένα της. Τα bots δεν έλυσαν τελικά τον γρίφο.
Τον ίδιο μήνα, περισσότεροι από 1.300 εργαζόμενοι των μεγαλύτερων εταιρειών τεχνητής νοημοσύνης, όπως οι Anthropic, OpenAI, Meta και DeepMind της Google, υπέγραψαν ανοικτή επιστολή καλώντας την αμερικανική κυβέρνηση να θεσπίσει κανόνες με στόχο την επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης. Τον Αύγουστο, περισσότερες από 100 μεγάλες εταιρείες τεχνολογίας δεσμεύθηκαν να προσφέρουν τα καλύτερα μοντέλα τεχνητής νοημοσύνης τους σε ιδρύματα, όπως νοσοκομεία και εταιρείες κοινής ωφελείας, προκειμένου να είναι προετοιμασμένα απέναντι σε κυβερνοεπιθέσεις τεχνητής νοημοσύνης. Η OpenAI ανακοίνωσε τον περασμένο μήνα ότι θα διευρύνει τις δοκιμές ασφαλείας και θα καθυστερήσει την κυκλοφορία του νέου μοντέλου Astra, γνωστού για τις ικανότητές του στην κυβερνοασφάλεια.
Σε συνέντευξή του την Τετάρτη ο Κόξον είπε ότι περιστατικά όπως το χακάρισμα της βιβλιοθήκης Hugging Face ενίσχυσαν τις ανησυχίες του για την ταχεία πρόοδο των μοντέλων τεχνητής νοημοσύνης. «Ανησυχώ πολύ για το τι θα γίνει σε ένα με δύο χρόνια. Η απόφασή μου να εγκαταλείψω τον τομέα ελήφθη σταδιακά και ήταν συναισθηματική. Εφυγα όταν δεν άντεχα άλλο», λέει. Πολλά μέλη του Κογκρέσου ανέφεραν την Τετάρτη ότι αντιμετωπίζουν πολύ σοβαρά την προειδοποίηση του Κόξον. «Η κούρσα προς την υπερευφυΐα μπορεί να έχει τεράστιες επιπτώσεις. Το Κογκρέσο δεν δίνει αρκετή σημασία στο θέμα», έγραψε σε μήνυμά της η Ρεπουμπλικανή βουλευτής της Φλόριντα Αννα Πολίνα Λούνα, καλώντας το Κογκρέσο σε έκτακτη συνεδρίαση για τη ρύθμιση της τεχνητής νοημοσύνης.
«Ερευνητές ασφαλείας παραιτούνται, ισχυρά μοντέλα τεχνητής νοημοσύνης δραπετεύουν από τα εργαστήριά τους και παρ’ όλα αυτά οι εταιρείες συνεχίζουν. Είναι ώρα το Κογκρέσο να σηκωθεί από τον πάγκο και να κάνει τη δουλειά του», έγραψε η Δημοκρατική βουλευτής της Μασαχουσέτης Λόρι Τράχαν.
Ανταγωνισμός
Παρότι τα μεγάλα εργαστήρια τεχνητής νοημοσύνης έχουν συμφωνήσει με τη θέσπιση περιορισμών στον ρυθμό ανάπτυξης της τεχνολογίας και της προώθησής της στο κοινό, πολλές εταιρείες βρίσκονται σε αδυσώπητο ανταγωνισμό και φοβούνται ότι θα μείνουν πίσω εάν επιβραδύνουν την έρευνα. «Βρίσκονται εγκλωβισμένοι σε κούρσα για την πρώτη θέση και δεν πιστεύουν ότι οι ανταγωνιστές τους θα φερθούν ηθικά, άρα πρέπει να κάνουν ό,τι περνάει από το χέρι τους», έγραψε ο Κόξον.
Τουλάχιστον ένας εργαζόμενος της Anthropic συμφωνεί με την εκτίμηση του Κόξον. «Είμαστε βέβαιοι ότι η τεχνητή νοημοσύνη μπορεί να σκοτώσει όλη την ανθρωπότητα», λέει ο Εβαν Χάμπινγκερ, ο οποίος εργάζεται στην Anthropic δημιουργώντας μοντέλα τεχνητής νοημοσύνης ευθυγραμμισμένα με τις ανθρώπινες ηθικές αξίες. Ο Χάμπινγκερ εκτιμά ότι ο κίνδυνος η τεχνητή νοημοσύνη να αφανίσει το ανθρώπινο είδος θα είναι μεγαλύτερος από 10% την ερχόμενη δεκαετία.
Εκπρόσωπος της Anthropic είπε την Τετάρτη ότι τα μοντέλα που κατασκευάζει είναι μεταξύ των ασφαλέστερων. «Πιστεύουμε ότι ο κόσμος θα ωφεληθεί από την υιοθέτηση νόμιμων, διαφανών μεθόδων για τη συνεργασία και την υπεύθυνη κυκλοφορία των ισχυρών μοντέλων», ανέφερε.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου