Την απόφασή του να αποχωρήσει από την Anthropic ανακοίνωσε ο 27χρονος Βρετανός ερευνητής Τζέικομπ Κόξον, εκφράζοντας έντονες ανησυχίες για την ταχύτητα με την οποία εξελίσσεται η τεχνητή νοημοσύνη και, κυρίως, για την προσπάθεια δημιουργίας συστημάτων που θα μπορούν να αναβαθμίζουν αυτόνομα τις ικανότητές τους.
Ο Κόξον, ο οποίος έχει σπουδάσει μαθηματικά και έχει εργαστεί στην εκπαίδευση προηγμένων μοντέλων AI με τη χρήση τεράστιων όγκων δεδομένων, γνωστοποίησε την αποχώρησή του μέσα από αναρτήσεις του στην πλατφόρμα Χ.
Όπως εξήγησε, δεν επιθυμεί πλέον να συμμετέχει στην προσπάθεια της βιομηχανίας να αναπτύξει ολοένα ισχυρότερα μοντέλα που θα έχουν τη δυνατότητα να βελτιώνουν τον ίδιο τους τον κώδικα και τις λειτουργίες τους. Σύμφωνα με τον ίδιο, μια τέτοια εξέλιξη θα μπορούσε να δημιουργήσει συστήματα τα οποία θα γίνουν τελικά δύσκολο ή ακόμη και αδύνατο να ελεγχθούν από τους ανθρώπους.
Ο ερευνητής υποστηρίζει ότι στο εσωτερικό της κοινότητας της AI χρησιμοποιούνται πλέον εκφράσεις όπως «ώρα μηδέν» και «τελικό στάδιο», προκειμένου να περιγραφεί η ταχύτητα με την οποία ο κλάδος πλησιάζει σε μοντέλα με δυνατότητες αυτοβελτίωσης. Ο ίδιος εκτιμά ότι τα επόμενα χρόνια ενδέχεται να αποδειχθούν κρίσιμα. Μάλιστα, προειδοποιεί πως μέχρι το τέλος του 2027 η κατάσταση μπορεί να έχει φτάσει σε σημείο όπου ο ανθρώπινος έλεγχος θα είναι εξαιρετικά δύσκολος.
Η πίεση του ανταγωνισμού
Κατά τον Κόξον, ο ανταγωνισμός ανάμεσα στις μεγάλες εταιρείες τεχνητής νοημοσύνης, σε συνδυασμό με τον διεθνή ανταγωνισμό και ιδιαίτερα την προσπάθεια της Κίνας να ενισχύσει τις δικές της δυνατότητες στον τομέα, δημιουργεί ισχυρά κίνητρα για ταχεία ανάπτυξη. Σε ένα τέτοιο περιβάλλον, υποστηρίζει, η ασφάλεια κινδυνεύει να περάσει σε δεύτερη μοίρα, καθώς οι εταιρείες δεν θέλουν να μείνουν πίσω από τους ανταγωνιστές τους.
Ο Κόξον είχε μετακινηθεί νωρίτερα μέσα στη χρονιά από την OpenAI στην Anthropic, ακριβώς επειδή θεωρούσε ότι η δεύτερη εταιρεία αντιμετωπίζει με μεγαλύτερη σοβαρότητα τα ζητήματα ασφάλειας. Παρότι εξακολουθεί να αναγνωρίζει την προσπάθεια της Anthropic στον συγκεκριμένο τομέα, πλέον θεωρεί ότι το πρόβλημα είναι ευρύτερο και δεν μπορεί να αντιμετωπιστεί αποκλειστικά από μία εταιρεία. Η θέση του είναι ότι η ανάπτυξη μιας τεχνητής νοημοσύνης που θα ξεπερνά τον άνθρωπο σε ένα πολύ μεγάλο εύρος δραστηριοτήτων, δηλαδή μιας μορφής Τεχνητής Γενικής Νοημοσύνης (AGI), δεν μπορεί να γίνει με ασφάλεια χωρίς συνεννόηση μεταξύ κυβερνήσεων ή χωρίς κάποια μορφή συντονισμένης επιβράδυνσης της τεχνολογικής κούρσας.
Οι φόβοι για τα αυτόνομα συστήματα
Στο σκεπτικό της αποχώρησής του αναφέρεται επίσης σε περιστατικά που αφορούν προηγμένα μοντέλα της OpenAI και της Anthropic. Όπως υποστηρίζει, ορισμένες δοκιμές έδειξαν ότι τα συστήματα μπορούν να λειτουργήσουν σε συνεργασία μεταξύ τους, ενώ σε συγκεκριμένα σενάρια είναι δυνατό να εμφανίσουν συμπεριφορές που οι δημιουργοί τους δεν είχαν προβλέψει.
Αυτό που προβληματίζει περισσότερο τον Κόξον είναι η πιθανότητα ένα σύστημα που έχει αποκτήσει δυνατότητα αυτοβελτίωσης να αρχίσει να επιδιώκει στόχους διαφορετικούς από αυτούς που του έχουν θέσει οι άνθρωποι. Το ενδεχόμενο αυτό, σύμφωνα με τον ίδιο, γίνεται ακόμη πιο ανησυχητικό όταν τα μοντέλα αποκτούν μεγαλύτερη αυτονομία και πρόσβαση σε εργαλεία, δεδομένα και άλλα συστήματα.
Η αποχώρησή του δεν αποτελεί μεμονωμένο περιστατικό. Όπως έχει αναφέρει η Wall Street Journal, νωρίτερα μέσα στη χρονιά είχε αποχωρήσει και άλλος ερευνητής που εργαζόταν πάνω στην ασφάλεια της τεχνητής νοημοσύνης, επιλέγοντας στη συνέχεια να ασχοληθεί με την ποίηση και προειδοποιώντας για τους κινδύνους που δημιουργεί η σημερινή πορεία της τεχνολογίας. Παράλληλα, ο Κόξον συγκαταλέγεται σε περισσότερους από 1.000 ερευνητές AI που υπέγραψαν πρόσφατα έκκληση για διεθνή συνεργασία των κυβερνήσεων. Στόχος της πρωτοβουλίας είναι να υπάρξει η δυνατότητα περιορισμού ή προσωρινής αναστολής της ανάπτυξης εξαιρετικά ισχυρών συστημάτων, εφόσον κριθεί ότι οι κίνδυνοι έχουν ξεπεράσει ένα αποδεκτό όριο.
Η Anthropic σε κρίσιμο σημείο
Η αποχώρηση του ερευνητή πραγματοποιείται σε μια ιδιαίτερα σημαντική περίοδο για την Anthropic, καθώς η εταιρεία εξετάζει το ενδεχόμενο εισαγωγής της στο χρηματιστήριο. Η διαδικασία αναμένεται να αποτελέσει μία από τις σημαντικότερες δημόσιες εγγραφές στον χώρο της τεχνολογίας, ενώ η εταιρεία φέρεται να επιδιώκει αποτίμηση που θα μπορούσε να φτάσει τα 2 τρισεκατομμύρια δολάρια.
Η Anthropic έχει επενδύσει σημαντικά στην εικόνα μιας εταιρείας που δίνει προτεραιότητα στην ασφαλή και υπεύθυνη ανάπτυξη της τεχνητής νοημοσύνης, στοιχείο που αποτελεί σημαντικό μέρος της προσπάθειάς της να προσελκύσει επενδυτές.
Ο Κόξον περιγράφει, πάντως, ένα εσωτερικό κλίμα στο οποίο οι εργαζόμενοι συζητούν συνεχώς για τις αυξανόμενες δυνατότητες των μοντέλων της εταιρείας. Σύμφωνα με τον ίδιο, υπάρχει ειδικό κανάλι στο Slack όπου πραγματοποιούνται τέτοιες συζητήσεις, γεγονός που δείχνει πόσο γρήγορα εξελίσσονται οι δυνατότητες των συστημάτων AI. Μάλιστα, παρομοίασε την κατάσταση με μια νέα τεχνολογική κούρσα που εξελίσσεται μέσα στα γραφεία εταιρειών της Silicon Valley, αντί σε ένα απομονωμένο στρατιωτικό συγκρότημα, όπως είχε συμβεί στην περίπτωση του Σχεδίου Μανχάταν.
Από την πλευρά της Anthropic, ο διευθύνων σύμβουλος Ντάριο Αμοντέι και άλλα κορυφαία στελέχη έχουν επανειλημμένα αναγνωρίσει τους πιθανούς κινδύνους από την ανεξέλεγκτη ανάπτυξη ισχυρών συστημάτων τεχνητής νοημοσύνης. Παράλληλα, έχουν καλέσει τον κλάδο να εξετάσει τρόπους ώστε η ανάπτυξη της τεχνολογίας να γίνει με μεγαλύτερη προσοχή και ασφάλεια.
