Μια ιστορική έχθρα που σέρνεται εδώ και τουλάχιστον δεκαπέντε χρόνια εμφανίζεται τώρα στις πύλες, εκπλήσσοντας όλους όσους νόμιζαν, και εξακολουθούν να πιστεύουν, ότι βρίσκονταν στο Φρούριο Μπαστιάνι, περιμένοντας τους Τάταρους που δεν θα φτάσουν ποτέ. Κακές εκπλήξεις για τους υπολοχαγούς των Ντόγκο: όχι μόνο οι πόλεμοι πάνε άσχημα, αλλά κερδίζονται αποκλειστικά μέσω της πιο κραυγαλέας προπαγάνδας και των χρηματιστηριακών παιχνιδιών. Για παράδειγμα, η φούσκα της τεχνητής νοημοσύνης στις Ηνωμένες Πολιτείες εξακολουθεί να επεκτείνεται. Καταναλώνει ένα σημαντικό μερίδιο των διαθέσιμων οικονομικών πόρων, αλλά τα αποτελέσματα, με τη μορφή συγκεκριμένων προϊόντων, μέχρι στιγμής είναι μάλλον πενιχρά. Υπάρχουν ορισμένα εργαλεία δημιουργίας κώδικα που, κατά καιρούς, αποδεικνύονται χρήσιμα, αλλά, εκτός αν επιδοτηθούν, είναι πολύ ακριβά. Υπάρχουν το ChatGTP και άλλα παρόμοια εργαλεία που, τελικά, δεν είναι τίποτα περισσότερο από νέες μορφές εργαλείων αναζήτησης στο διαδίκτυο που είναι εγγενώς αναξιόπιστα.
Αυτό που λείπει είναι χρήσιμες μαζικές εφαρμογές για τις οποίες δισεκατομμύρια άνθρωποι είναι πρόθυμοι να πληρώσουν. Αυτό λείπει στις ΗΠΑ, ωστόσο, επειδή υπάρχουν παντού αλλού: η Goldman Sachs κρούει τον κώδωνα του κινδύνου ότι τα Κινεζικά Μοντέλα Μεγάλης Γλώσσας (LLM) κυριαρχούν πλέον στη χρήση tokens στα δυτικά μοντέλα, χωρίς η παντογνώστης και παντοδύναμη αγορά να το συνειδητοποιεί. Αυτό δεν είναι ακριβώς έξυπνο, αλλά στη Δύση, ακόμη και η νοημοσύνη είναι συχνά μια περιττή μεταβλητή. Οι New York Times γράφουν : «Η ιστορία της τεχνητής νοημοσύνης ήταν τόσο μια οικονομική όσο και μια τεχνολογική ιστορία, ένα ζήτημα για το πώς να δομηθούν οι συγκλονιστικές επενδύσεις που απαιτούνται για την εκπαίδευση και τη διαχείριση μοντέλων. Λίγοι αμφιβάλλουν ότι αυτή η τεχνολογία θα αλλάξει τα πάντα. Αυτό που είναι λιγότερο σαφές είναι πότε θα αρχίσουν να φτάνουν τα κέρδη και πόσο μεγάλα θα είναι. «Για μένα, είναι ένα μαθηματικό πρόβλημα», λέει ο Asad Ramzanali, διευθυντής του Κέντρου Έρευνας Τεχνητής Νοημοσύνης στο Πανεπιστήμιο Vanderbilt. « Επενδύουμε τρισεκατομμύρια δολάρια έναντι δεκάδων δισεκατομμυρίων δολαρίων σε έσοδα ».
Λίγοι φαίνεται να συνειδητοποιούν ότι τα κινεζικά μοντέλα κοστίζουν το ένα δέκατο λιγότερο, είναι εξίσου αποτελεσματικά, αν όχι πιο αποτελεσματικά, και σαφώς εξαπλώνονται παγκοσμίως, ενώ οι δυτικές μεγάλες εταιρείες, που ήδη έχουν χρέος άνω των 1,6 τρισεκατομμυρίων δολαρίων, απλά δεν μπορούν να ανταγωνιστούν στην τιμή. Πού είναι τα προϊόντα και οι πελάτες που θα ανακτήσουν όλα τα δισεκατομμύρια δολάρια που δαπανήθηκαν με αδιαφανή τρόπο σε κέντρα δεδομένων τεχνητής νοημοσύνης; Επιπλέον, οι κινεζικές εταιρείες έχουν δημοσιεύσει τον πηγαίο κώδικα των μοντέλων τους, επιτρέποντας σε οποιονδήποτε διαθέτει το κατάλληλο υλικό να τα εκτελέσει στις εγκαταστάσεις τους.
Η πραγματική διαφορά μεταξύ των αμερικανικών και των κινεζικών εταιρειών τεχνητής νοημοσύνης έγκειται στα μαθηματικά που χρησιμοποιούν . Τα αμερικανικά μοντέλα βασίζονται σε αλγόριθμους που απαιτούν υψηλή υπολογιστική ισχύ, ενώ τα κινεζικά μοντέλα χρησιμοποιούν πιο αποτελεσματικές μεθόδους που απαιτούν λιγότερους υπολογιστικούς πόρους για να επιτύχουν παρόμοια ποιότητα. Η αμερικανική τεχνητή νοημοσύνη βασίζεται στο μοντέλο Transformer, που κάποτε αναπτύχθηκε από την Google, το οποίο χρησιμοποιεί τσιπ που δημιουργήθηκαν για επεξεργασία γραφικών και επιτρέπει παράλληλους υπολογισμούς. Αλλά αυτό έχει ένα μειονέκτημα: για να επεξεργαστεί μια πρόταση εισόδου, το μοντέλο πρέπει να συγκρίνει κάθε στοιχείο σε αυτήν με όλα τα άλλα στοιχεία που υπάρχουν στο ίδιο πλαίσιο. Αυτή είναι μια εκθετική πράξη. Για ένα πλαίσιο 500.000 λέξεων εισόδου (για παράδειγμα, για να συνοψίσει ένα βιβλίο αυτού του μήκους), το μοντέλο θα απαιτήσει 250 δισεκατομμύρια πράξεις.
Αυτός είναι ο λόγος για τον οποίο η εισαγωγή δεδομένων από τα μοντέλα Current Transformer είναι περιορισμένη και γι' αυτό τα μοντέλα αυτά απαιτούν τεράστια κέντρα δεδομένων με εκατομμύρια GPU για να απαντήσουν στα ερωτήματα των χρηστών. Οι Κινέζοι προγραμματιστές μοντέλων έχουν ακολουθήσει μια διαφορετική προσέγγιση. Χρησιμοποιούν επαναλαμβανόμενα νευρωνικά δίκτυα και τους λεγόμενους αλγόριθμους Long Short-Term Memory (LSTM). Αυτοί οι αλγόριθμοι είναι γνωστοί από τα τέλη της δεκαετίας του 1990 και αποτελούν τη βάση των περισσότερων μηχανικών μεταφράσεων. Η Siri της Apple χρησιμοποιεί επίσης ένα μοντέλο LSTM και παρέχει γραμμικές, μη εκθετικές απαντήσεις. Πρόσφατα, οι Κινέζοι κατάφεραν επίσης να παραλληλίσουν την επεξεργασία, και χωρίς να επεκταθούμε σε τεχνικές λεπτομέρειες, αυτό επιτρέπει την ίδια απόδοση, αλλά με πολύ μικρότερο αριθμό GPU και πολύ λιγότερη κατανάλωση ενέργειας. Αυτό επιτρέπει, για παράδειγμα, σε ένα ρομπότ να εξοπλιστεί με μια τοπική GPU επειδή οι εργασίες του είναι περιορισμένες και δεν υπάρχει ανάγκη για τεράστια υπολογιστική ισχύ. Με απλά λόγια, οι Κινέζοι επικεντρώνονται σε πρακτικές εφαρμογές που μπορούν να λύσουν προβλήματα του πραγματικού κόσμου.
Συμπέρασμα: αργά ή γρήγορα, η φούσκα της τεχνητής νοημοσύνης στις Ηνωμένες Πολιτείες θα σκάσει. Θα υπάρξουν πολλές παράπλευρες απώλειες, πολλοί άνθρωποι θα χάσουν τα χρήματά τους και θα υπάρχουν πολλά άδεια και άχρηστα κέντρα δεδομένων διαθέσιμα προς ενοικίαση. Αυτό δεν θα συμβεί καθόλου στην Κίνα, η οποία τελικά θα μονοπωλήσει την αγορά.
Αυτό που λείπει είναι χρήσιμες μαζικές εφαρμογές για τις οποίες δισεκατομμύρια άνθρωποι είναι πρόθυμοι να πληρώσουν. Αυτό λείπει στις ΗΠΑ, ωστόσο, επειδή υπάρχουν παντού αλλού: η Goldman Sachs κρούει τον κώδωνα του κινδύνου ότι τα Κινεζικά Μοντέλα Μεγάλης Γλώσσας (LLM) κυριαρχούν πλέον στη χρήση tokens στα δυτικά μοντέλα, χωρίς η παντογνώστης και παντοδύναμη αγορά να το συνειδητοποιεί. Αυτό δεν είναι ακριβώς έξυπνο, αλλά στη Δύση, ακόμη και η νοημοσύνη είναι συχνά μια περιττή μεταβλητή. Οι New York Times γράφουν : «Η ιστορία της τεχνητής νοημοσύνης ήταν τόσο μια οικονομική όσο και μια τεχνολογική ιστορία, ένα ζήτημα για το πώς να δομηθούν οι συγκλονιστικές επενδύσεις που απαιτούνται για την εκπαίδευση και τη διαχείριση μοντέλων. Λίγοι αμφιβάλλουν ότι αυτή η τεχνολογία θα αλλάξει τα πάντα. Αυτό που είναι λιγότερο σαφές είναι πότε θα αρχίσουν να φτάνουν τα κέρδη και πόσο μεγάλα θα είναι. «Για μένα, είναι ένα μαθηματικό πρόβλημα», λέει ο Asad Ramzanali, διευθυντής του Κέντρου Έρευνας Τεχνητής Νοημοσύνης στο Πανεπιστήμιο Vanderbilt. « Επενδύουμε τρισεκατομμύρια δολάρια έναντι δεκάδων δισεκατομμυρίων δολαρίων σε έσοδα ».
Λίγοι φαίνεται να συνειδητοποιούν ότι τα κινεζικά μοντέλα κοστίζουν το ένα δέκατο λιγότερο, είναι εξίσου αποτελεσματικά, αν όχι πιο αποτελεσματικά, και σαφώς εξαπλώνονται παγκοσμίως, ενώ οι δυτικές μεγάλες εταιρείες, που ήδη έχουν χρέος άνω των 1,6 τρισεκατομμυρίων δολαρίων, απλά δεν μπορούν να ανταγωνιστούν στην τιμή. Πού είναι τα προϊόντα και οι πελάτες που θα ανακτήσουν όλα τα δισεκατομμύρια δολάρια που δαπανήθηκαν με αδιαφανή τρόπο σε κέντρα δεδομένων τεχνητής νοημοσύνης; Επιπλέον, οι κινεζικές εταιρείες έχουν δημοσιεύσει τον πηγαίο κώδικα των μοντέλων τους, επιτρέποντας σε οποιονδήποτε διαθέτει το κατάλληλο υλικό να τα εκτελέσει στις εγκαταστάσεις τους.
Η πραγματική διαφορά μεταξύ των αμερικανικών και των κινεζικών εταιρειών τεχνητής νοημοσύνης έγκειται στα μαθηματικά που χρησιμοποιούν . Τα αμερικανικά μοντέλα βασίζονται σε αλγόριθμους που απαιτούν υψηλή υπολογιστική ισχύ, ενώ τα κινεζικά μοντέλα χρησιμοποιούν πιο αποτελεσματικές μεθόδους που απαιτούν λιγότερους υπολογιστικούς πόρους για να επιτύχουν παρόμοια ποιότητα. Η αμερικανική τεχνητή νοημοσύνη βασίζεται στο μοντέλο Transformer, που κάποτε αναπτύχθηκε από την Google, το οποίο χρησιμοποιεί τσιπ που δημιουργήθηκαν για επεξεργασία γραφικών και επιτρέπει παράλληλους υπολογισμούς. Αλλά αυτό έχει ένα μειονέκτημα: για να επεξεργαστεί μια πρόταση εισόδου, το μοντέλο πρέπει να συγκρίνει κάθε στοιχείο σε αυτήν με όλα τα άλλα στοιχεία που υπάρχουν στο ίδιο πλαίσιο. Αυτή είναι μια εκθετική πράξη. Για ένα πλαίσιο 500.000 λέξεων εισόδου (για παράδειγμα, για να συνοψίσει ένα βιβλίο αυτού του μήκους), το μοντέλο θα απαιτήσει 250 δισεκατομμύρια πράξεις.
Αυτός είναι ο λόγος για τον οποίο η εισαγωγή δεδομένων από τα μοντέλα Current Transformer είναι περιορισμένη και γι' αυτό τα μοντέλα αυτά απαιτούν τεράστια κέντρα δεδομένων με εκατομμύρια GPU για να απαντήσουν στα ερωτήματα των χρηστών. Οι Κινέζοι προγραμματιστές μοντέλων έχουν ακολουθήσει μια διαφορετική προσέγγιση. Χρησιμοποιούν επαναλαμβανόμενα νευρωνικά δίκτυα και τους λεγόμενους αλγόριθμους Long Short-Term Memory (LSTM). Αυτοί οι αλγόριθμοι είναι γνωστοί από τα τέλη της δεκαετίας του 1990 και αποτελούν τη βάση των περισσότερων μηχανικών μεταφράσεων. Η Siri της Apple χρησιμοποιεί επίσης ένα μοντέλο LSTM και παρέχει γραμμικές, μη εκθετικές απαντήσεις. Πρόσφατα, οι Κινέζοι κατάφεραν επίσης να παραλληλίσουν την επεξεργασία, και χωρίς να επεκταθούμε σε τεχνικές λεπτομέρειες, αυτό επιτρέπει την ίδια απόδοση, αλλά με πολύ μικρότερο αριθμό GPU και πολύ λιγότερη κατανάλωση ενέργειας. Αυτό επιτρέπει, για παράδειγμα, σε ένα ρομπότ να εξοπλιστεί με μια τοπική GPU επειδή οι εργασίες του είναι περιορισμένες και δεν υπάρχει ανάγκη για τεράστια υπολογιστική ισχύ. Με απλά λόγια, οι Κινέζοι επικεντρώνονται σε πρακτικές εφαρμογές που μπορούν να λύσουν προβλήματα του πραγματικού κόσμου.
Συμπέρασμα: αργά ή γρήγορα, η φούσκα της τεχνητής νοημοσύνης στις Ηνωμένες Πολιτείες θα σκάσει. Θα υπάρξουν πολλές παράπλευρες απώλειες, πολλοί άνθρωποι θα χάσουν τα χρήματά τους και θα υπάρχουν πολλά άδεια και άχρηστα κέντρα δεδομένων διαθέσιμα προς ενοικίαση. Αυτό δεν θα συμβεί καθόλου στην Κίνα, η οποία τελικά θα μονοπωλήσει την αγορά.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου