«ΟΙ ΕΚΠΛΗΞΕΙΣ ΚΑΝΟΥΝ ΤΗΝ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ ΠΙΟ ΕΞΥΠΝΗ» Από Αντριάνο Σεγκατόρι
Όταν η τεχνητή νοημοσύνη σταματά να αντιμετωπίζει το απροσδόκητο, κινδυνεύει να μαθαίνει όλο και λιγότερα από τον εαυτό της.
«ΟΙ ΕΚΠΛΗΞΕΙΣ ΚΑΝΟΥΝ ΤΗΝ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ ΠΙΟ ΕΞΥΠΝΗ» Η Electo αφηγείται μια έρευνα που χρησιμοποιεί την «έκπληξη» για να αντιμετωπίσει την κατάρρευση των γενετικών μοντέλων και να διατηρήσει την ποικιλία και τη δημιουργικότητά τους. Συντακτικό Προσωπικό της Electo
Η εξάπλωση της παραγωγικής Τεχνητής Νοημοσύνης φέρνει μαζί της έναν ολοένα και πιο συγκεκριμένο κίνδυνο: την αυτοφαγία, ή την εκπαίδευση μοντέλων σε περιεχόμενο που παράγεται από άλλες Τεχνητές Νοημοσύνης. Αυτή η διαδικασία μπορεί να οδηγήσει στην λεγόμενη κατάρρευση μοντέλου, με αποτέλεσμα κείμενα που είναι ολοένα και λιγότερο ποικίλα, λιγότερο συνεκτικά και ολοένα και πιο φτωχά. Μια μελέτη που συντονίστηκε από το CNR-ISTI, το Πανεπιστήμιο της Πίζας, τη Scuola Normale Superiore και το Πανεπιστήμιο Victoria του Γουέλινγκτον προτείνει τη χρήση της «έκπληξης» ως κριτηρίου για την επιλογή εγγράφων για εκπαίδευση. Μετρώντας την αμηχανία, οι ερευνητές εντοπίζουν κείμενα που το μοντέλο θα είχε γράψει διαφορετικά και δείχνουν ότι αυτό ακριβώς το περιεχόμενο μπορεί να βοηθήσει στον μετριασμό της κατάρρευσης του μοντέλου και στη διατήρηση της ποικιλομορφίας και της δημιουργικής ικανότητας . (NR)
Η ευρεία διάδοση των γενετικών μοντέλων Τεχνητής Νοημοσύνης αυξάνει ολοένα και περισσότερο τον κίνδυνο της αυτοφαγίας, της διαδικασίας κατά την οποία τα μοντέλα Τεχνητής Νοημοσύνης εκπαιδεύονται σε αποτελέσματα που παράγονται από τα ίδια.
Αυτός ο φαύλος κύκλος παράγει έναν εκφυλισμό γνωστό ως κατάρρευση μοντέλου, κατά την οποία η ποιότητα του παραγόμενου περιεχομένου υποβαθμίζεται .
Μια μελέτη που διεξήχθη από το Ινστιτούτο Επιστήμης και Τεχνολογίας της Πληροφορίας του Εθνικού Συμβουλίου Έρευνας (CNR-ISTI) στην Πίζα, το Πανεπιστήμιο της Πίζας, τη Scuola Normale Superiore και το Πανεπιστήμιο Victoria του Γουέλινγκτον (Νέα Ζηλανδία) αναλύει το πρόβλημα και προτείνει μια στρατηγική για την κατασκευή πιο ισχυρών συστημάτων γενετικής Τεχνητής Νοημοσύνης. Η έρευνα, που δημοσιεύτηκε στο περιοδικό ACM Transactions on Intelligent Systems and Technology, προσδιορίζει την «έκπληξη» ως το βασικό στοιχείο εκπαίδευσης για τη διατήρηση της ποικιλομορφίας των κειμένων και της δημιουργικής ικανότητας.
«Αναλύοντας τέσσερα γενετικά μοντέλα τεχνητής νοημοσύνης —όπως το Llama, που αναπτύχθηκε από την Meta— παρατηρήσαμε ότι η ανάλυση μπορεί να εκδηλωθεί με διαφορετικούς τρόπους. Αφενός, το παραγόμενο περιεχόμενο γίνεται λιγότερο ποικίλο και περιέχει πάντα τις ίδιες λέξεις. Αφετέρου, οι παραγόμενες προτάσεις είναι λιγότερο συνεκτικές και ουσιαστικές, και οι απαντήσεις λιγότερο λογικές .
Οπως Εξηγεί ο Daniele Gambetta, μεταδιδακτορικός ερευνητής στο Πανεπιστήμιο της Πίζας.
«Η κοινή λύση είναι να διακρίνουμε τα ανθρώπινα κείμενα από αυτά που παράγονται από την Τεχνητή Νοημοσύνη, επιλέγοντας μόνο ανθρώπινα κείμενα για εκπαίδευση. Ωστόσο, αυτή η διάκριση γίνεται ολοένα και πιο δύσκολη καθώς τα μοντέλα γίνονται πιο εξελιγμένα. Η μέθοδός μας προτείνει αντ' αυτού να μετρήσουμε την αμηχανία, δηλαδή το επίπεδο έκπληξης στα έγγραφα σύμφωνα με το μοντέλο. Ένα έγγραφο προκαλεί έκπληξη για το μοντέλο αν το ίδιο το μοντέλο θα το είχε γράψει διαφορετικά», προσθέτει ο Luca Pappalardo, ερευνητής στο CNR-ISTI και συν-διευθυντής της μελέτης: «Τα λιγότερο εκπληκτικά κείμενα συμβάλλουν περισσότερο στην κατάρρευση όταν χρησιμοποιούνται στην εκπαίδευση μοντέλων. Στα πειράματά μας, έχουμε δείξει ότι η επιλογή μόνο εκπληκτικών εγγράφων για εκπαίδευση μετριάζει το πρόβλημα της κατάρρευσης».
«Κατά τη διάρκεια της αυτοφαγίας, το μοντέλο σταματά να μαθαίνει νέες πληροφορίες. Η επανεισαγωγή της έκπληξης στην εκπαίδευση θυμίζει τον τρόπο με τον οποίο τα παιδιά μαθαίνουν από απροσδόκητα γεγονότα », συνεχίζει ο καθηγητής Ντίνο Πεντρέσκι. «Αυτό το έργο εντάσσεται στο ευρύτερο πλαίσιο της συνεξέλιξης ανθρώπου-Τεχνητής Νοημοσύνης, ενός ερευνητικού πεδίου που μελετά τον τρόπο με τον οποίο τα τεχνητά συστήματα μετασχηματίζονται και μετασχηματίζονται από το οικοσύστημα πληροφοριών στο οποίο λειτουργούν » .
«Αυτή η προσέγγιση δεν απαιτεί να γνωρίζουμε εάν ένα έγγραφο γράφτηκε από άνθρωπο ή από μηχανή, και σε μια εποχή όπου η διάκριση μεταξύ των δύο τύπων περιεχομένου είναι ολοένα και πιο δύσκολη, αυτή η ιδιότητα είναι κρίσιμη για τη στρατηγική»,καταλήγει η Gizem Gezici, ερευνήτρια στη Scuola Normale Superiore. «Η εργασία μας παρέχει μια πιθανή λύση σε ένα πρόβλημα που θα γίνει ολοένα και πιο πιεστικό καθώς αυτά τα μοντέλα γίνονται πιο διαδεδομένα στην παραγωγή κειμένου σε διάφορα περιβάλλοντα». Συντακτικό Προσωπικό της Electo
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου