Από την Τεχνητή Νοημοσύνη που θα μπορούσε να μας εξαλείψει μέχρι την υπόσχεση ότι θα μας σώσει ελέγχοντάς την: όταν ο φόβος για το μέλλον γίνεται πολιτικό εργαλείο.
Inchiostronero Συντακτικό Επιτελείο
Ερευνητές και ηγέτες τεχνητής νοημοσύνης προειδοποιούν ότι τα συστήματα που κατασκευάζουν θα μπορούσαν μια μέρα να ξεφύγουν από τον ανθρώπινο έλεγχο. Αλλά καθώς η αφήγηση για πιθανή εξαφάνιση μεγαλώνει, το ίδιο συμβαίνει και με την απαίτηση για κανονισμούς, μορατόρια και νέες εξουσίες ελέγχου. Ο κίνδυνος μπορεί να είναι γνήσιος και ο συναγερμός απόλυτα ειλικρινής. Το πολιτικό ερώτημα προκύπτει αργότερα: ποιος θα αποφασίσει ποιος κίνδυνος είναι αποδεκτός, ποιος θα ελέγχει την τεχνολογία και πόση εξουσία θα είμαστε διατεθειμένοι να αναθέσουμε σε αντάλλαγμα για την υπόσχεση προστασίας;
Από την τεχνητή νοημοσύνη που θα έπρεπε να μας εξοντώσει
στην υπόσχεση να μας σώσει ελέγχοντάς την:
όταν ο φόβος για το μέλλον γίνεται πολιτικό εργαλείο
Στις 8 Σεπτεμβρίου, ο Jacob Coxon έφυγε από την Anthropic . Είναι είκοσι επτά ετών, εργάστηκε για περίπου τρία χρόνια σε προ-εκπαίδευση, πρώτα στην OpenAI και στη συνέχεια στην Anthropic, και φεύγοντας, δεν χρησιμοποίησε τη γλώσσα που έχουμε συνηθίσει στα εταιρικά δελτία τύπου. Κατηγόρησε και τις δύο εταιρείες ότι σπεύδουν προς μια υπερ-νοημοσύνη ικανή για αυτοβελτίωση, «παίζοντας με τη ζωή μας ». Και πρόσθεσε κάτι ακόμη πιο ανησυχητικό: οι άνθρωποι που κατασκευάζουν αυτά τα συστήματα πιστεύουν ειλικρινά ότι η τεχνητή νοημοσύνη θα μπορούσε να σκοτώσει όλους τους ανθρώπους μέχρι το τέλος της δεκαετίας. Ο Coxon ζήτησε μια παύση στην κλιμάκωση των δυνατοτήτων των μοντέλων και για συντονισμό μεταξύ των μεγάλων εργαστηρίων. Στη συνέχεια, έφυγε από τον κλάδο.
Τα νέα έχουν όλα τα απαραίτητα συστατικά για να είναι ακαταμάχητα. Ένας νεαρός ερευνητής. Δύο από τις πιο ισχυρές εταιρείες τεχνολογίας στον κόσμο. Μια εσωτερική απόδραση. Μια ημερομηνία αρκετά κοντινή για να φανταστεί κανείς: το 2030. Και, πάνω απ' όλα, η τελευταία λέξη: εξαφάνιση.
Η αποκάλυψη, άλλωστε, αποτελεί έναν εξαιρετικό τίτλο.
Το πρόβλημα ξεκινά όταν προσπαθούμε να κατανοήσουμε τι πραγματικά σημαίνουν αυτές οι λέξεις. Ο Coxon δεν είναι ένας μεμονωμένος προφήτης. Ο Evan Hubinger, ο οποίος ηγείται της έρευνας ευθυγράμμισης στο Anthropic, έχει δηλώσει ότι προσωπικά αποδίδει μεγαλύτερη από 10% πιθανότητα η Τεχνητή Νοημοσύνη να σκοτώσει όλους τους ανθρώπους την επόμενη δεκαετία. Ο Geoffrey Hinton, ένας από τους πατέρες των σύγχρονων νευρωνικών δικτύων, εκτίμησε ήδη από το 2024 ότι ο κίνδυνος η τεχνητή νοημοσύνη να οδηγήσει στην εξαφάνιση της ανθρώπινης ύπαρξης μέσα στα επόμενα τριάντα χρόνια ήταν μεταξύ 10 και 20%.
Εντυπωσιακά νούμερα. Αλλά τα ίδια τα νούμερα κινδυνεύουν να μας ξεγελάσουν.
Στην πραγματικότητα, δεν υπάρχει κανένα πείραμα ικανό να διαπιστώσει εάν η πιθανότητα εξαφάνισης είναι 10, 12 ή 20 τοις εκατό. Δεν έχουμε μια ιστορική σειρά από απατεώνες υπερ-νοημοσύνης από την οποία να μπορούμε να εξαγάγουμε στατιστικά στοιχεία. Αυτές είναι εκτιμήσεις κινδύνου που διατυπώνονται από εξαιρετικά ικανούς ανθρώπους και ως εκ τούτου αξίζουν προσοχής, αλλά δεν είναι μετεωρολογικές προβλέψεις. Υπάρχει ένα τεράστιο χάσμα μεταξύ του να λέμε ότι ένα καταστροφικό γεγονός είναι πιθανό και του να δηλώνουμε ότι θα συμβεί έως το 2030. Ακριβώς αυτό το χάσμα τείνουν να σβήνουν οι τίτλοι των εφημερίδων.
Ωστόσο, θα ήταν εξίσου επιφανειακό να το απορρίψουμε ως ψυχολογική τρομοκρατία. Ο Κόξον έφυγε από την Anthropic λίγο πριν ωριμάσει μέρος της συμμετοχής του. Άλλοι ερευνητές έχουν εκφράσει παρόμοιους φόβους. Ο Χίντον έφυγε από την Google ακριβώς για να μπορεί να μιλάει πιο ελεύθερα για τους κινδύνους της Τεχνητής Νοημοσύνης. Μπορούμε να αμφισβητήσουμε τα συμπεράσματά τους. Είναι πιο δύσκολο να υποστηρίξουμε ότι κανένας τους δεν πιστεύει αυτά που λένε.
Εδώ είναι που γίνεται ενδιαφέρον.
Επειδή, ενώ ορισμένοι από τους πρωταγωνιστές της επανάστασης της τεχνητής νοημοσύνης μας προειδοποιούν ότι η μηχανή θα μπορούσε να ξεφύγει από τον έλεγχο, οι εταιρείες που κατασκευάζουν αυτήν τη μηχανή ζητούν ταυτόχρονα την κατασκευή ενός πολιτικού συστήματος ικανού να την ελέγξει.
Η Anthropic υποστηρίζει ανοιχτά ότι η τεχνολογία δεν πρέπει να διέπεται μόνο από τη βιομηχανία και προτείνει οι δημόσιες αρχές να μπορούν να εμποδίζουν ή να αποτρέπουν την ανάπτυξη μοντέλων που ενέχουν σημαντικό κίνδυνο καταστροφικής βλάβης. Στις 9 Σεπτεμβρίου, η OpenAI ζήτησε από τις Ηνωμένες Πολιτείες υποχρεωτικές εθνικές απαιτήσεις ασφάλειας με βάση τις δυνατότητες του συστήματος, ανεξάρτητες αξιολογήσεις, απαιτήσεις αναφοράς συμβάντων και, τελικά, συμβατά διεθνή πρότυπα.
Δεν υπάρχει τίποτα παράλογο, από μόνο του, στην απαίτηση κανονισμών για μια δυνητικά επικίνδυνη τεχνολογία. Αυτό ακριβώς κάνουμε με τα φαρμακευτικά προϊόντα, τους πυρηνικούς σταθμούς, την αεροπορία και τις τοξικές ουσίες. Το πρόβλημα είναι διαφορετικό: ποιος καθορίζει τον κίνδυνο, ποιος θέτει το όριο και ποιος έχει την εξουσία να παρέμβει;Είναι το πέρασμα που κινδυνεύει να εξαφανιστεί πίσω από την αποκάλυψη.
Αν μια τεχνολογία μπορεί να κάνει ένα προϊόν πιο ακριβό, συζητάμε για έναν κανονισμό. Αν μπορεί να προκαλέσει ανεργία, συζητάμε για μια οικονομική πολιτική. Αν, από την άλλη πλευρά, μπορεί να προκαλέσει την εξαφάνιση του είδους, η κλίμακα αλλάζει εντελώς. Αντιμέτωποι με την πιθανότητα του τέλους της ανθρωπότητας, ποιος έλεγχος θα φαινόταν υπερβολικός; Ποιος περιορισμός θα ήταν δυσανάλογος; Ποια δύναμη δεν θα ήμασταν διατεθειμένοι να παραχωρήσουμε για να επιβιώσουμε;
Ο φόβος δεν χρειάζεται να είναι ψευδής για να είναι χρήσιμος. Απλώς πρέπει να είναι αρκετά ισχυρός ώστε να καθιστά λογικό αυτό που, χωρίς αυτόν τον φόβο, θα θεωρούσαμε απαράδεκτο.
Αυτό καθιστά επίσης την αντίθετη θεωρία, ότι η αποκάλυψη της Τεχνητής Νοημοσύνης είναι απλώς μια σημαντική ψυχολογική επιχείρηση, πολύ απλοϊκή. Ο Kit Knightly, στο OffGuardian, υπέθεσε ότι η αφήγηση της εκτός ελέγχου Τεχνητής Νοημοσύνης θα μπορούσε να ωθήσει την κοινή γνώμη να αποδεχτεί μελλοντικές πολιτικές παρεμβάσεις ή ακόμα και γεγονότα που αποδίδονται σε μια αδίστακτη Τεχνητή Νοημοσύνη. Είναι μια δελεαστική πιθανότητα, αλλά παραμένει μια υπόθεση: δεν χρειάζεται να υποθέσουμε κάποια κρυφή ατζέντα για να παρατηρήσουμε τον μηχανισμό που βρίσκεται σε εξέλιξη.
Θα μπορούσε να συμβεί κάτι πολύ πιο κοινότοπο.
Οι επιστήμονες μπορούν να ανησυχούν πραγματικά. Οι εταιρείες μπορούν να φοβούνται πραγματικά τις συνέπειες των συστημάτων που αναπτύσσουν. Οι εφημερίδες μπορούν να μετατρέψουν μια αβέβαιη πιθανότητα σε μια επικείμενη αποκάλυψη, επειδή η αποκάλυψη προσελκύει την προσοχή. Οι κυβερνήσεις μπορούν να αντιδράσουν επειδή καμία κυβέρνηση δεν έχει την πολυτέλεια να αγνοήσει δημόσια έναν κίνδυνο που παρουσιάζεται ως υπαρξιακός. Και οι μεγάλες εταιρείες μπορούν τελικά να βρεθούν να επωφελούνται από κανόνες που οι ίδιες βοήθησαν να οριστούν, κανόνες που μόνο οργανισμοί με τεράστιο κεφάλαιο, υποδομές και νομικό μηχανισμό μπορούν εύκολα να συμμορφωθούν.
Δεν είναι απαραίτητο κάποιος να έχει σχεδιάσει ολόκληρη την ακολουθία. Αρκεί τα συμφέροντα τελικά να συγκλίνουν.
Και ακριβώς εδώ η συζήτηση για την τεχνητή νοημοσύνη παύει να είναι απλώς τεχνολογική και γίνεται πολιτική. Το ζήτημα σήμερα δεν είναι να αποφασιστεί αν ο Κόξον έχει δίκιο ή άδικο. Κανείς δεν μπορεί να αποδείξει ότι μια υπερ-νοημοσύνη θα εξοντώσει την ανθρωπότητα μέχρι το 2030· ούτε μπορεί κανείς να αποδείξει ότι μια μελλοντική νοημοσύνη ανώτερη από τους ανθρώπους θα είναι απαραίτητα ελεγχόμενη.
Αλλά μπορούμε να παρατηρήσουμε τι ήδη συμβαίνει.
Όσοι κατέχουν τις πιο ισχυρές τεχνολογίες μας προειδοποιούν για τους κινδύνους που ενέχουν και, ταυτόχρονα, συμμετέχουν στον καθορισμό των κανόνων που έχουν σχεδιαστεί για τον περιορισμό τους. Ο κίνδυνος μπορεί να είναι γνήσιος και η λύση μπορεί να είναι απαραίτητη. Αλλά ακριβώς για αυτόν τον λόγο, το δημοκρατικό ζήτημα αποκτά μεγαλύτερη σημασία, όχι μικρότερη.
Επειδή μια φοβισμένη κοινωνία δεν αναθέτει απλώς ευθύνες. Αναθέτει εξουσία.
Ίσως τότε το κρίσιμο ερώτημα δεν είναι αν η τεχνητή νοημοσύνη θα αναλάβει κάποια μέρα τον έλεγχο των ανθρώπων. Αλλά πόσο έλεγχο θα είναι πρόθυμοι να παραδώσουν οι άνθρωποι σε άλλους ανθρώπους για να το αποτρέψουν.
Από την τεχνητή νοημοσύνη που θα έπρεπε να μας εξοντώσει
στην υπόσχεση να μας σώσει ελέγχοντάς την:
όταν ο φόβος για το μέλλον γίνεται πολιτικό εργαλείο
Στις 8 Σεπτεμβρίου, ο Jacob Coxon έφυγε από την Anthropic . Είναι είκοσι επτά ετών, εργάστηκε για περίπου τρία χρόνια σε προ-εκπαίδευση, πρώτα στην OpenAI και στη συνέχεια στην Anthropic, και φεύγοντας, δεν χρησιμοποίησε τη γλώσσα που έχουμε συνηθίσει στα εταιρικά δελτία τύπου. Κατηγόρησε και τις δύο εταιρείες ότι σπεύδουν προς μια υπερ-νοημοσύνη ικανή για αυτοβελτίωση, «παίζοντας με τη ζωή μας ». Και πρόσθεσε κάτι ακόμη πιο ανησυχητικό: οι άνθρωποι που κατασκευάζουν αυτά τα συστήματα πιστεύουν ειλικρινά ότι η τεχνητή νοημοσύνη θα μπορούσε να σκοτώσει όλους τους ανθρώπους μέχρι το τέλος της δεκαετίας. Ο Coxon ζήτησε μια παύση στην κλιμάκωση των δυνατοτήτων των μοντέλων και για συντονισμό μεταξύ των μεγάλων εργαστηρίων. Στη συνέχεια, έφυγε από τον κλάδο.
Τα νέα έχουν όλα τα απαραίτητα συστατικά για να είναι ακαταμάχητα. Ένας νεαρός ερευνητής. Δύο από τις πιο ισχυρές εταιρείες τεχνολογίας στον κόσμο. Μια εσωτερική απόδραση. Μια ημερομηνία αρκετά κοντινή για να φανταστεί κανείς: το 2030. Και, πάνω απ' όλα, η τελευταία λέξη: εξαφάνιση.
Η αποκάλυψη, άλλωστε, αποτελεί έναν εξαιρετικό τίτλο.
Το πρόβλημα ξεκινά όταν προσπαθούμε να κατανοήσουμε τι πραγματικά σημαίνουν αυτές οι λέξεις. Ο Coxon δεν είναι ένας μεμονωμένος προφήτης. Ο Evan Hubinger, ο οποίος ηγείται της έρευνας ευθυγράμμισης στο Anthropic, έχει δηλώσει ότι προσωπικά αποδίδει μεγαλύτερη από 10% πιθανότητα η Τεχνητή Νοημοσύνη να σκοτώσει όλους τους ανθρώπους την επόμενη δεκαετία. Ο Geoffrey Hinton, ένας από τους πατέρες των σύγχρονων νευρωνικών δικτύων, εκτίμησε ήδη από το 2024 ότι ο κίνδυνος η τεχνητή νοημοσύνη να οδηγήσει στην εξαφάνιση της ανθρώπινης ύπαρξης μέσα στα επόμενα τριάντα χρόνια ήταν μεταξύ 10 και 20%.
Εντυπωσιακά νούμερα. Αλλά τα ίδια τα νούμερα κινδυνεύουν να μας ξεγελάσουν.
Στην πραγματικότητα, δεν υπάρχει κανένα πείραμα ικανό να διαπιστώσει εάν η πιθανότητα εξαφάνισης είναι 10, 12 ή 20 τοις εκατό. Δεν έχουμε μια ιστορική σειρά από απατεώνες υπερ-νοημοσύνης από την οποία να μπορούμε να εξαγάγουμε στατιστικά στοιχεία. Αυτές είναι εκτιμήσεις κινδύνου που διατυπώνονται από εξαιρετικά ικανούς ανθρώπους και ως εκ τούτου αξίζουν προσοχής, αλλά δεν είναι μετεωρολογικές προβλέψεις. Υπάρχει ένα τεράστιο χάσμα μεταξύ του να λέμε ότι ένα καταστροφικό γεγονός είναι πιθανό και του να δηλώνουμε ότι θα συμβεί έως το 2030. Ακριβώς αυτό το χάσμα τείνουν να σβήνουν οι τίτλοι των εφημερίδων.
Ωστόσο, θα ήταν εξίσου επιφανειακό να το απορρίψουμε ως ψυχολογική τρομοκρατία. Ο Κόξον έφυγε από την Anthropic λίγο πριν ωριμάσει μέρος της συμμετοχής του. Άλλοι ερευνητές έχουν εκφράσει παρόμοιους φόβους. Ο Χίντον έφυγε από την Google ακριβώς για να μπορεί να μιλάει πιο ελεύθερα για τους κινδύνους της Τεχνητής Νοημοσύνης. Μπορούμε να αμφισβητήσουμε τα συμπεράσματά τους. Είναι πιο δύσκολο να υποστηρίξουμε ότι κανένας τους δεν πιστεύει αυτά που λένε.
Εδώ είναι που γίνεται ενδιαφέρον.
Επειδή, ενώ ορισμένοι από τους πρωταγωνιστές της επανάστασης της τεχνητής νοημοσύνης μας προειδοποιούν ότι η μηχανή θα μπορούσε να ξεφύγει από τον έλεγχο, οι εταιρείες που κατασκευάζουν αυτήν τη μηχανή ζητούν ταυτόχρονα την κατασκευή ενός πολιτικού συστήματος ικανού να την ελέγξει.
Η Anthropic υποστηρίζει ανοιχτά ότι η τεχνολογία δεν πρέπει να διέπεται μόνο από τη βιομηχανία και προτείνει οι δημόσιες αρχές να μπορούν να εμποδίζουν ή να αποτρέπουν την ανάπτυξη μοντέλων που ενέχουν σημαντικό κίνδυνο καταστροφικής βλάβης. Στις 9 Σεπτεμβρίου, η OpenAI ζήτησε από τις Ηνωμένες Πολιτείες υποχρεωτικές εθνικές απαιτήσεις ασφάλειας με βάση τις δυνατότητες του συστήματος, ανεξάρτητες αξιολογήσεις, απαιτήσεις αναφοράς συμβάντων και, τελικά, συμβατά διεθνή πρότυπα.
Δεν υπάρχει τίποτα παράλογο, από μόνο του, στην απαίτηση κανονισμών για μια δυνητικά επικίνδυνη τεχνολογία. Αυτό ακριβώς κάνουμε με τα φαρμακευτικά προϊόντα, τους πυρηνικούς σταθμούς, την αεροπορία και τις τοξικές ουσίες. Το πρόβλημα είναι διαφορετικό: ποιος καθορίζει τον κίνδυνο, ποιος θέτει το όριο και ποιος έχει την εξουσία να παρέμβει;Είναι το πέρασμα που κινδυνεύει να εξαφανιστεί πίσω από την αποκάλυψη.
Αν μια τεχνολογία μπορεί να κάνει ένα προϊόν πιο ακριβό, συζητάμε για έναν κανονισμό. Αν μπορεί να προκαλέσει ανεργία, συζητάμε για μια οικονομική πολιτική. Αν, από την άλλη πλευρά, μπορεί να προκαλέσει την εξαφάνιση του είδους, η κλίμακα αλλάζει εντελώς. Αντιμέτωποι με την πιθανότητα του τέλους της ανθρωπότητας, ποιος έλεγχος θα φαινόταν υπερβολικός; Ποιος περιορισμός θα ήταν δυσανάλογος; Ποια δύναμη δεν θα ήμασταν διατεθειμένοι να παραχωρήσουμε για να επιβιώσουμε;
Ο φόβος δεν χρειάζεται να είναι ψευδής για να είναι χρήσιμος. Απλώς πρέπει να είναι αρκετά ισχυρός ώστε να καθιστά λογικό αυτό που, χωρίς αυτόν τον φόβο, θα θεωρούσαμε απαράδεκτο.
Αυτό καθιστά επίσης την αντίθετη θεωρία, ότι η αποκάλυψη της Τεχνητής Νοημοσύνης είναι απλώς μια σημαντική ψυχολογική επιχείρηση, πολύ απλοϊκή. Ο Kit Knightly, στο OffGuardian, υπέθεσε ότι η αφήγηση της εκτός ελέγχου Τεχνητής Νοημοσύνης θα μπορούσε να ωθήσει την κοινή γνώμη να αποδεχτεί μελλοντικές πολιτικές παρεμβάσεις ή ακόμα και γεγονότα που αποδίδονται σε μια αδίστακτη Τεχνητή Νοημοσύνη. Είναι μια δελεαστική πιθανότητα, αλλά παραμένει μια υπόθεση: δεν χρειάζεται να υποθέσουμε κάποια κρυφή ατζέντα για να παρατηρήσουμε τον μηχανισμό που βρίσκεται σε εξέλιξη.
Θα μπορούσε να συμβεί κάτι πολύ πιο κοινότοπο.
Οι επιστήμονες μπορούν να ανησυχούν πραγματικά. Οι εταιρείες μπορούν να φοβούνται πραγματικά τις συνέπειες των συστημάτων που αναπτύσσουν. Οι εφημερίδες μπορούν να μετατρέψουν μια αβέβαιη πιθανότητα σε μια επικείμενη αποκάλυψη, επειδή η αποκάλυψη προσελκύει την προσοχή. Οι κυβερνήσεις μπορούν να αντιδράσουν επειδή καμία κυβέρνηση δεν έχει την πολυτέλεια να αγνοήσει δημόσια έναν κίνδυνο που παρουσιάζεται ως υπαρξιακός. Και οι μεγάλες εταιρείες μπορούν τελικά να βρεθούν να επωφελούνται από κανόνες που οι ίδιες βοήθησαν να οριστούν, κανόνες που μόνο οργανισμοί με τεράστιο κεφάλαιο, υποδομές και νομικό μηχανισμό μπορούν εύκολα να συμμορφωθούν.
Δεν είναι απαραίτητο κάποιος να έχει σχεδιάσει ολόκληρη την ακολουθία. Αρκεί τα συμφέροντα τελικά να συγκλίνουν.
Και ακριβώς εδώ η συζήτηση για την τεχνητή νοημοσύνη παύει να είναι απλώς τεχνολογική και γίνεται πολιτική. Το ζήτημα σήμερα δεν είναι να αποφασιστεί αν ο Κόξον έχει δίκιο ή άδικο. Κανείς δεν μπορεί να αποδείξει ότι μια υπερ-νοημοσύνη θα εξοντώσει την ανθρωπότητα μέχρι το 2030· ούτε μπορεί κανείς να αποδείξει ότι μια μελλοντική νοημοσύνη ανώτερη από τους ανθρώπους θα είναι απαραίτητα ελεγχόμενη.
Αλλά μπορούμε να παρατηρήσουμε τι ήδη συμβαίνει.
Όσοι κατέχουν τις πιο ισχυρές τεχνολογίες μας προειδοποιούν για τους κινδύνους που ενέχουν και, ταυτόχρονα, συμμετέχουν στον καθορισμό των κανόνων που έχουν σχεδιαστεί για τον περιορισμό τους. Ο κίνδυνος μπορεί να είναι γνήσιος και η λύση μπορεί να είναι απαραίτητη. Αλλά ακριβώς για αυτόν τον λόγο, το δημοκρατικό ζήτημα αποκτά μεγαλύτερη σημασία, όχι μικρότερη.
Επειδή μια φοβισμένη κοινωνία δεν αναθέτει απλώς ευθύνες. Αναθέτει εξουσία.
Ίσως τότε το κρίσιμο ερώτημα δεν είναι αν η τεχνητή νοημοσύνη θα αναλάβει κάποια μέρα τον έλεγχο των ανθρώπων. Αλλά πόσο έλεγχο θα είναι πρόθυμοι να παραδώσουν οι άνθρωποι σε άλλους ανθρώπους για να το αποτρέψουν.
"Η ΕΞΑΦΑΝΙΣΗ ΕΧΕΙ ΥΠΗΡΕΣΙΘΕΙ" - Inchiostronero
Σημειώσεις1.Ο Jacob Coxon ανακοίνωσε την παραίτησή του από την Anthropic στις 8 Σεπτεμβρίου 2026, μετά από περιόδους προεκπαίδευσης στην OpenAI και την Anthropic. Το αίτημά του περιλαμβάνει παύση στην ανάπτυξη ικανοτήτων και τον συντονισμό μεταξύ των εργαστηρίων.
2.Το 2024, ο Geoffrey Hinton εκτίμησε ότι ο κίνδυνος εξαφάνισης που προκαλείται από την τεχνητή νοημοσύνη είναι 10-20% τα επόμενα τριάντα χρόνια. Επομένως, αυτή η εκτίμηση δεν ισοδυναμεί με την πρόβλεψη εξαφάνισης «έως το 2030».
3.Το Anthropic προτείνει ρητά ότι οι κυβερνήσεις θα πρέπει να έχουν τη νομική εξουσία να εμποδίζουν ή να αποθαρρύνουν την ανάπτυξη μοντέλων που ενέχουν σημαντικούς καταστροφικούς κινδύνους, παρέχοντας παράλληλα διασφαλίσεις κατά της κατάχρησης αυτής της εξουσίας.
4.Η OpenAI ζήτησε υποχρεωτική εθνική ρύθμιση με βάση τις δυνατότητες των μοντέλων, τις ανεξάρτητες αξιολογήσεις και τις απαιτήσεις αναφοράς για σοβαρά περιστατικά στις 9 Σεπτεμβρίου 2026.
Συγγραφέας, δοκιμιογράφος και συγγραφέας του πολιτιστικού ιστολογίου Inchiostronero
2.Το 2024, ο Geoffrey Hinton εκτίμησε ότι ο κίνδυνος εξαφάνισης που προκαλείται από την τεχνητή νοημοσύνη είναι 10-20% τα επόμενα τριάντα χρόνια. Επομένως, αυτή η εκτίμηση δεν ισοδυναμεί με την πρόβλεψη εξαφάνισης «έως το 2030».
3.Το Anthropic προτείνει ρητά ότι οι κυβερνήσεις θα πρέπει να έχουν τη νομική εξουσία να εμποδίζουν ή να αποθαρρύνουν την ανάπτυξη μοντέλων που ενέχουν σημαντικούς καταστροφικούς κινδύνους, παρέχοντας παράλληλα διασφαλίσεις κατά της κατάχρησης αυτής της εξουσίας.
4.Η OpenAI ζήτησε υποχρεωτική εθνική ρύθμιση με βάση τις δυνατότητες των μοντέλων, τις ανεξάρτητες αξιολογήσεις και τις απαιτήσεις αναφοράς για σοβαρά περιστατικά στις 9 Σεπτεμβρίου 2026.
Ρικάρντο Αλμπέρτο Κουατρίνι
Συγγραφέας, δοκιμιογράφος και συγγραφέας του πολιτιστικού ιστολογίου Inchiostronero
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου