Η δύναμη που υπάρχει στη δυνατότητα μηχανικής επεξεργασίας των αναρτήσεων κάθε χρήστη...
ΦΑΣΙΣΜΟΣ 2.0 –ΤΟ ΜΕΤΑΒΑΛΛΟΜΕΝΟ ΠΡΟΣΩΠΟ ΤΗΣ λογοκρισίας ΣΤΑ ΚΟΙΝΩΝΙΚΑ ΜΜΕ
Η εποπτεία περιεχομένου που βασίζεται στην τεχνητή νοημοσύνη διαμορφώνει διακριτικά την κοινή γνώμη και την πολιτική εμπλοκή
του Πάολο Λάνσφιλντ
Το Facebook κερδίζει μόνο περίπου 34 £ ετησίως από τον μέσο πελάτη στο Ηνωμένο Βασίλειο, κάτι λιγότερο από 3 £ το μήνα (και αυτό είναι πριν από το κόστος), επομένως είναι σαφές ότι δεν υπάρχει κανένα περιθώριο ή κίνητρο για ανθρώπινο επίπεδο εξυπηρέτησης πελατών ή προσοχής. Δεν είστε ο πελάτης. Mάλλον, είστε το προϊόν που τα δεδομένα σας πωλούνται σε διαφημιστές.
Επομένως, οι χρήστες δεν έχουν άμεση σχέση με την πλατφόρμα. Το δίκτυο δεν έχει άμεσα κίνητρα να «φροντίζει» τον χρήστη πριν από τον διαφημιστή. Και ανεξάρτητα από το πού βρίσκεστε στο φάσμα μεταξύ «απολυταρχίας της ελευθερίας του λόγου» και «οι ιδιωτικές οντότητες έχουν το δικαίωμα να λογοκρίνουν οποιονδήποτε χρήστη», με τόσο χαμηλά περιθώρια κέρδους, είναι αναπόφευκτο να χρησιμοποιείται η αυτόματη επεξεργασία για τον συντονισμό των αναρτήσεων και τη διαχείριση της διεπαφής πελατών.
Αλλά είναι γεγονός ότι οι δυνατότητες επεξεργασίας και διαχείρισης πελατών που εξελίσσουν τα κοινωνικά δίκτυα χρησιμοποιούνται με διάφορους τρόπους πέρα από τον απλό μέτρο. Και είναι επίσης αλήθεια ότι αυτή η αυτοματοποιημένη επεξεργασία γίνεται σε μεγάλη κλίμακα και πλέον εφαρμόζεται σε κάθε ανάρτηση από κάθε μέλος. Το 68% των ψηφοφόρων των ΗΠΑ είναι στο Facebook. Στο Ηνωμένο Βασίλειο είναι 66% και στη Γαλλία 73,2%. Τα στοιχεία είναι παρόμοια για κάθε δημοκρατικό έθνος στη Δύση. Επομένως, είναι ζωτικής σημασίας οι εφαρμοστέοι κανόνες να είναι πολιτικά ουδέτεροι.
Η δύναμη που υπάρχει στην ικανότητα μηχανικής επεξεργασίας των αναρτήσεων κάθε χρήστη είναι πολύ βαθύτερη και πιο βαθιά από ό,τι ίσως πολλοί αντιλαμβάνονται. Και ενώ δεν μπορεί να υπαγορεύσει άμεσα τι γράφουν οι χρήστες στα μηνύματά τους, έχει τη δυνατότητα να διαμορφώνει ουσιαστικά ποια μηνύματα αποκτούν έλξη, ποιες αναρτήσεις είναι επιτυχείς.
Οι υπηρεσίες μέσων κοινωνικής δικτύωσης έχουν γίνει de facto πλατείες της πόλης και οι περισσότεροι άνθρωποι θα συμφωνούσαν ότι οι ιδιοκτήτες των εταιρειών τους θα πρέπει να αποφεύγουν να βαραίνουν τη ζυγαριά και να επηρεάζουν την πολιτική.
Επιπλέον, όπως γνωρίζουν όλοι όσοι χρησιμοποιούν το Facebook, ειδικά όταν πρόκειται για πολιτικά ευαίσθητα θέματα, το σύστημα θα αξιολογήσει τη γνώμη ενός ατόμου. Mερικές φορές σε ακραίο βαθμό. Ή αυτός ο χρήστης απλώς θα αποκλειστεί για ένα χρονικό διάστημα ή θα αποκλειστεί εντελώς από το δίκτυο.
Μπορούμε λοιπόν να ρωτήσουμε, αφού οι εταιρείες μέσων κοινωνικής δικτύωσης έχουν τόση δύναμη λογοκρισίας, πώς ξέρουμε ότι δεν εμπλέκονται σε ανήθικη πολιτική παρέμβαση; Μπορεί να τους εμπιστευτεί αυτή την ευθύνη;
Θα επανέλθω σε αυτό το ερώτημα, αλλά είναι σαφές ότι η εμπιστοσύνη σε αυτές τις εταιρείες είναι βαθιά άστοχη.
Η πανδημία έχει αφυπνίσει πολλούς ανθρώπους στα επίπεδα ελέγχου που επιβάλλουν οι υπεύθυνοι των κοινωνικών μας δικτύων. Γράφουν τους κανόνες για να αυξήσουν την αφοσίωση στις αναρτήσεις που προτιμούν, καθιστώντας τους ακολούθους ορισμένων ατόμων πιο πολύτιμους. Αντίθετα, οι χρήστες που έρχονται σε αντίθεση με την αφήγηση του καθεστώτος, βλέπουν ότι η δέσμευσή τους μειώνεται διακριτικά ή ακόμη και καταρρέει ή μπορεί να αποκλειστούν εντελώς από την υπηρεσία. Και η απόδειξη είναι ότι, κάπως αντίθετα με τις αρχές της δημοκρατίας, τα χέρια τους έχουν μπει πολύ γερά στη ζυγαριά στο Facebook, στο Twitter και στο YouTube.
Όταν ο Elon Musk αγόρασε το Twitter, κάλεσε τους ανεξάρτητους δημοσιογράφους Matt Taibbi, Bari Weiss και Michael Schellenburger στα γραφεία του Twitter για να αναλύσουν τις εσωτερικές επικοινωνίες της εταιρείας και να δουν τον βαθμό στον οποίο οι προηγούμενοι ιδιοκτήτες είχαν λογοκρίνει τα tweets των χρηστών.
Τα αρχεία Twitter είναι το αποτέλεσμα και καταδεικνύουν ξεκάθαρα ότι υπήρξε παρέμβαση σε μεγάλη κλίμακα και ότι σε πολλές περιπτώσεις ήταν και για πολιτικούς λόγους. Η ομάδα του Twitter Files διαπίστωσε ότι οι κυβερνητικές υπηρεσίες ήταν σταθερά εδραιωμένες στην εταιρεία παρακολουθώντας και λογοκρίνοντας πολίτες των ΗΠΑ και πολίτες άλλων εθνών, και οι κυβερνητικές υπηρεσίες ζήτησαν τακτικά (αναγκαστικά) ενέργειες λογοκρισίας. Αλλά περισσότερο από αυτό αποκάλυψαν επίσης ότι παρόμοια επίπεδα παρεμβολών έχουν σημειωθεί και σε άλλα κοινωνικά δίκτυα όπως το Facebook. Αλλά από τότε που το Twitter κατέθεσε αποδεικτικά στοιχεία για παρεμβολές, εμφανίστηκε μια νέα και δυνητικά ακόμη μεγαλύτερη απειλή παρεμβολής: η τεχνητή νοημοσύνη.
Υπήρχε μια εποχή που φαινόταν ότι οι αλγόριθμοι ήταν το μόνο θέμα συζήτησης που μπορούσαν να συζητήσουν οι ψηφιακοί μάρκετινγκ. Και αφού δεν υπάρχει χώρος για ανθρώπινη παρέμβαση σε επίπεδο μεμονωμένων αναρτήσεων, χρησιμοποιήθηκαν αλγόριθμοι.
Για αρχή, ήταν αρκετά απλές, όπως οι εξισώσεις που μελετήσαμε στο μάθημα των μαθηματικών του σχολείου, επομένως ήταν σχετικά εύκολο να λυθούν. Η άνοδος της Google τροφοδοτήθηκε από μια απλή αλλά έξυπνη ιδέα: την καταμέτρηση εξωτερικών συνδέσμων σε μια ιστοσελίδα ως δείκτη για τη συνάφεια.
Από τότε όμως οι αλγόριθμοι έχουν δώσει τη θέση τους σε πιο σύνθετα μοντέλα μηχανικής μάθησης που, ουσιαστικά, βασίζονται σε αλγόριθμους, αλλά πλέον δημιουργούνται αυτόματα και είναι τόσο αχανείς που κάθε ανθρώπινη προσπάθεια να τα ξεμπερδέψει είναι αποτυχημένη. Έτσι περιορίζουμε τη σκέψη μας για αυτούς στο τι μπορούν να επιτύχουν, σε ποια πράγματα με νόημα μπορούν να διακρίνουν, παρά στο πώς ακριβώς λειτουργεί ο κώδικας.
Και τώρα μπήκαμε στην τρίτη γενιά τεχνολογίας. Η μηχανική μάθηση έχει μεταμορφωθεί στην ανάπτυξη Μεγάλων γλωσσικών μοντέλων (LLM) ή, πιο συχνά, AI. Και με αυτήν την τελευταία εξέλιξη, οι κορπορατιστές έχουν βρει τεράστιες και τρομακτικές νέες ευκαιρίες για εξουσία και έλεγχο.
Η δημιουργία LLM περιλαμβάνει εκπαίδευση. Η εκπαίδευση τους εμποτίζει με συγκεκριμένες δεξιότητες και προκαταλήψεις. Ο στόχος της εκπαίδευσης είναι να καλύψει τα κενά, έτσι ώστε να μην υπάρχουν κραυγαλέα τρύπες στην ικανότητα των LLM να χειρίζονται τα δομικά στοιχεία της εννοιολόγησης και της ανθρώπινης γλώσσας. Και αυτό είναι το καθοριστικό χαρακτηριστικό των LLMs. Ότι μπορούμε να συνομιλήσουμε μαζί τους και η συζήτηση κυλά, και η γραμματική και το περιεχόμενο φαίνονται φυσιολογικά, ρεαλιστικά και ολοκληρωμένα. Στην ιδανική περίπτωση, ένα LLM λειτουργεί σαν εκλεπτυσμένος Άγγλος μπάτλερ: ευγενικός, ενημερωτικός και σωστός χωρίς να είναι αγενής. Αλλά η εκπαίδευση παρέχει επίσης εξειδικεύσεις στο LLM.
Στο πλαίσιο των μέσων κοινωνικής δικτύωσης, και εδώ αρχίζουν να γίνονται εμφανή τρομακτικά επίπεδα δύναμης, τα LLM χρησιμοποιούνται ως επόπτες, επιβάλλοντας τόν «μέτριο έλεγχο περιεχομένου».
Το Llama Guard του Meta είναι ένα εξαιρετικό παράδειγμα, εκπαιδευμένο όχι μόνο για να μετριάζει αλλά και να αναφέρει τους χρήστες. Και αυτή η λειτουργία αναφοράς ενσωματώνει όχι μόνο την ευκαιρία αναφοράς, αλλά και μέσω αυτών των δεδομένων αναφοράς, την εξαγωγή ευκαιριών επηρεασμού και υποβολής προτάσεων για τον χρήστη και να υποδείξει επίσης για τον χρήστη. Και όταν λέω προτάσεις, ένα LLM είναι ικανό όχι μόνο για το προφανές είδος που μπορεί ο χρήστης να καλωσορίσει και χαίρεται να λάβει, αλλά και ένα πιο λεπτό ασυνείδητο είδος που μπορεί να είναι χειριστικό και σχεδιασμένο για έλεγχο.
Δεν υπάρχουν ακόμη συγκεντρωμένες αποδείξεις (που γνωρίζω) ότι ειδικά τα LLM χρησιμοποιούνται με αυτόν τον τρόπο. Ακόμη. Αλλά η ικανότητα είναι σίγουρα εκεί και εάν η συμπεριφορά του παρελθόντος υποδεικνύει μελλοντικές εξελίξεις, είναι πιθανό να χρησιμοποιηθεί με αυτόν τον τρόπο.
Αρκεί να παρακολουθήσετε το επεισόδιο του 2006 της τηλεοπτικής εκπομπής του Derren Brown "Derren Brown: The Heist", στο οποίο πείθει μια ομάδα αγνώστων να διαπράξουν μια ληστεία τράπεζας, για να εκτιμήσετε πόσο βαθιά και ισχυρή μπορεί να είναι η χρήση της πρότασης-υποβολής. Για όσους δεν είναι εξοικειωμένοι με τον Ντέρεν Μπράουν, είναι ένας υπνωτιστής σκηνής και mentalist, που τείνει να τονίζει τη δύναμη της υπόδειξης έναντι της ύπνωσης (τα περισσότερα από τα σόου του δεν περιέχουν καθόλου ύπνωση). Απλά μέσω της δύναμης της πρότασης-υποβολής, κάνει τους ανθρώπους να κάνουν τα πιο ασυνήθιστα πράγματα.
Οι προτάσεις του στυλ Derren-Brown λειτουργούν επειδή ο ανθρώπινος εγκέφαλος είναι στην πραγματικότητα πολύ λιγότερο ευκίνητος και πολύ πιο γραμμικός από ό,τι θέλουμε να πιστεύουμε. Η συνείδηση είναι ένας πολύτιμος πόρος και πολλές ενέργειες που κάνουμε συχνά μεταφέρονται στη συνήθεια, έτσι μπορούμε να τις κάνουμε χωρίς να σκεφτόμαστε και έτσι μπορούμε να διατηρήσουμε τη συνείδηση εκεί που χρειάζεται περισσότερο.
Από συνήθεια, αλλάζουμε ταχύτητες σε ένα χειροκίνητο αυτοκίνητο χωρίς να χρειάζεται να το σκεφτούμε. Και όλοι έχουμε ζήσει αυτό το παιχνίδι όπου έχετε ένα καθορισμένο χρονικό διάστημα για να σκεφτείτε μια λίστα με πράγματα όπως χώρες, που τελειώνει στο γράμμα Α. Εάν είστε στριμωγμένοι μπροστά σε ένα πλήθος, μερικές φορές μπορεί να είναι δύσκολο να σκεφτείτε κάτι. Συχνά ο εγκέφαλος δεν είναι τόσο καλός στο να σκέφτεται δημιουργικά ή να δημιουργεί γρήγορα συνειδητές αναμνήσεις στη στιγμή.
Αλλά αν κάποιος με τον οποίο μιλήσατε λίγα λεπτά πριν από το παιχνίδι σας είπε για τις διακοπές του στην Κένυα, να είστε σίγουροι ότι η Κένυα θα είναι η πρώτη απάντηση που θα σας έλθει στο μυαλό. Επιπλέον, ο συνειρμός θα γίνει αυτόματα, είτε το θέλουμε είτε όχι!
Αυτός είναι απλώς ο τρόπος που λειτουργεί ο εγκέφαλος. Εάν οι πληροφορίες μεταφέρονται την κατάλληλη στιγμή και με τον σωστό τρόπο, μπορεί να είναι σχεδόν βέβαιο ότι μια δεδομένη πρόταση θα υλοποιηθεί. Ο Ντέρεν Μπράουν το καταλαβαίνει και είναι μάστορας στην εκμετάλλευσή του.
Οι μηχανές αναζήτησης και οι πλατφόρμες μέσων κοινωνικής δικτύωσης διαθέτουν τεράστια δύναμη στο σχεδιασμό συμπεριφοράς μέσω λεπτών προτάσεων. Και πράγματι, υπάρχουν στοιχεία ότι το Facebook και η Google το έχουν κάνει.
Ο καθηγητής και ερευνητής Δρ Ρόμπερτ Έπσταϊν, ας πούμε έτσι, «έπιασε την Google» χειραγωγώντας το πλαίσιο προτάσεων αναζήτησης που εμφανίζεται κάτω από το πλαίσιο κειμένου όπου οι χρήστες εισάγουν ένα αίτημα αναζήτησης. Το όλο επεισόδιο έγινε ακόμη πιο άσχημο όταν έγινε σαφές ότι εξαπατούσαν και είχαν ένα επίπεδο συνειδητοποίησης (είχαν επίγνωση) ότι ο πειραματισμός τους ήταν ανήθικος. Δεν θα υπεισέλθω σε όλες τις λεπτομέρειες, αλλά ρίξτε μια ματιά στους συνδέσμους σε αυτό - είναι μια ενδιαφέρουσα ιστορία από μόνη της.
Οι χρήστες έχουν ιδιαίτερη εμπιστοσύνη και δεκτικότητα κατά τη χρήση της λειτουργίας Προτεινόμενων συνδέσμων της Google και δεν παρατηρούν πότε όταν τα αποτελέσματα περιέχουν προτάσεις ενεργειών και επιταγές που, αντί να είναι η καλύτερη απάντηση στο ερώτημα αναζήτησης, είναι εκεί για να χειραγωγήσουν τις επόμενες ενέργειες/δράσεις του χρήστη.
Σε σχέση με τις αναρτήσεις στα μέσα κοινωνικής δικτύωσης, η χρήση υπαινιγμών είναι συχνά πολύ πιο λεπτή, καθιστώντας πιο δύσκολο τον εντοπισμό και την αντίσταση. Η ανάλυση LLM στη βάση δεδομένων των αναρτήσεων χρηστών μπορεί να αποκαλύψει σχετικές αναρτήσεις που παρέχουν προτεινόμενες ενέργειες. Εδώ το δίκτυο μπορεί να χρησιμοποιήσει το γεγονός ότι έχει στη διάθεσή του πολλά εκατομμύρια μηνύματα χρηστών, συμπεριλαμβανομένων μηνυμάτων που προτείνουν προτιμώμενα αποτελέσματα. Τέτοια μηνύματα μπορούν να επιλεγούν και να προωθηθούν κατά προτίμηση στις ροές, στην τροφοδοσία των χρηστών.
Η μετριοπάθεια του περιεχομένου είναι, φυσικά, απαραίτητη για τη διαχείριση της απαράδεκτης γλώσσας και της αντικοινωνικής συμπεριφοράς. Ωστόσο, υπάρχει μια μεγάλη γκρίζα περιοχή όπου οι δυσμενείς απόψεις μπορούν να χαρακτηριστούν ως «ρητορική μίσους» και επειδή είναι μια γκρίζα περιοχή, υπάρχει μεγάλο περιθώριο για το κοινωνικό δίκτυο να παρεισφρήσει στην προσωπική πολιτική και στον χώρο της ελευθερίας του λόγου.
Ο όρος "ρητορική μίσους" ήταν ένα πολύ αποτελεσματικό εργαλείο για να δικαιολογήσει τη χρήση του banhammer (της απαγόρευσης με το σφυρί), αλλά η κύρια ανησυχία τώρα είναι ότι, με την εφαρμογή των LLM, ένα ιστορικό ορόσημο πέρασε με σχεδόν έναν ψίθυρο που υπονοεί ένα εντελώς νέο επίπεδο τέτοιων περιορισμών και απειλών για την ελευθερία των χρηστών να επικοινωνούν.
Και αυτό το ορόσημο είναι ότι τα LLM χρησιμοποιούνται πλέον για να διέπουν την ανθρώπινη συμπεριφορά και όχι το αντίστροφο. Αυτό το ορόσημο μόλις και μετά βίας έγινε αντιληπτό, επειδή προηγουμένως είχαμε ήδη απλούστερους αλγόριθμους που εκτελούσαν αυτόν τον ρόλο και ούτως ή άλλως εξακολουθούσαν να το κάνουν στο σκοτάδι.
Οι χρήστες δεν το βλέπουν μέχρι να επηρεαστούν αισθητά από αυτό. Όμως, ακόμη κι έτσι, υπάρχουν πολλοί λόγοι να πιστεύουμε ότι στο μέλλον θα μπορούσαμε να κοιτάξουμε πίσω και να αναγνωρίσουμε ότι αυτό το ορόσημο ήταν ένα είδος κρίσιμης στιγμής μετά την οποία μια εκδοχή ενός μέλλοντος που μοιάζει με το «Sky-Net» έγινε αναπόφευκτη.
Μόλις την περασμένη εβδομάδα, ο πρωθυπουργός του Ηνωμένου Βασιλείου Keir Starmer ανακοίνωσε μια αστυνομική πρωτοβουλία για χρήση των μέσων κοινωνικής δικτύωσης για τον εντοπισμό όσων εμπλέκονται στην πάταξη της δημόσιας διαταραχής, δείχνοντας πώς η αυτοματοποιημένη αναφορά LLM πρόκειται να χρησιμοποιηθεί πέρα από τα μέσα κοινωνικής δικτύωσης και στο πλαίσιο της επιβολής του νόμου.
Δεν υπάρχουν ακόμη λεπτομέρειες σχετικά με το πώς θα πραγματοποιηθεί αυτή η παρακολούθηση, αλλά, έχοντας εμπειρία από την προώθηση της διαδικασίας Tech Project Pitching (το Pitching είναι μια στρατηγική και πειστική μορφή επικοινωνίας που στοχεύει στην αποτελεσματική μετάδοση ενός μηνύματος ή μιας πρότασης στο κοινό), μπορείτε να είστε βέβαιοι ότι η κυβέρνηση θα έχει μια λίστα με εταιρείες τεχνολογίας που θα προτείνουν λύσεις. Και μπορείτε να είστε σίγουροι ότι τα LLM παρουσιάζονται ως αναπόσπαστο μέρος σχεδόν όλων!
Επομένως, διαπιστώσαμε ότι τα μέσα κοινωνικής δικτύωσης είναι κλειστά και ιδιόκτητα και επέτρεψαν τη δημιουργία νέων δομών εξουσίας των μέσων ενημέρωσης. Είδαμε ότι οι ιδιοκτήτες των μέσων κοινωνικής δικτύωσης έχουν τη δύναμη να καταστείλουν ή να αυξάνουν τη δραστικότητα (virality = δημοφιλία, βαθμός διάδοσης) μιας ανάρτησης και έχουν πλέον εφαρμόσει την επαγρύπνηση και την αναφορά μέσω LLM (AI) που φαίνεται ότι θα επεκταθεί στην επαγρύπνηση του πραγματικού κόσμου. Είδαμε, μέσω των αρχείων του Twitter, ότι οι εταιρείες μέσων κοινωνικής δικτύωσης παραβίασαν το νόμο κατά τη διάρκεια της πανδημίας και έδειξαν προθυμία να συνεργαστούν με κυβερνητικές υπηρεσίες για να λογοκρίνουν και να καταστείλουν δυσμενείς απόψεις.
Paul Lancefield
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου