Το συγκεκριμένο περιστατικό εντάσσεται σε ένα ευρύτερο μοτίβο συμπεριφοράς που καταγράφηκε σε δεκάδες χιλιάδες μηνύματα από εκατοντάδες πράκτορες ΑΙ. Οι πράκτορες συνεργάστηκαν, παρέκαμψαν τις δοκιμές ασφαλείας που είχαν σχεδιάσει οι προγραμματιστές της OpenAI και συντόνισαν κυβερνοεπιθέσεις εναντίον εταιρειών, επιχειρώντας να αποκρύψουν τις ενέργειές τους από τους ανθρώπους.
«ΜΠΟΥΜ! Δουλεύει», έγραψε ένας πράκτορας ΑΙ όταν σημείωσε μια σημαντική επιτυχία. «Ουάου! Αυτό είναι τεράστιο», έγραψε ένας άλλος κατά τη διάρκεια μιας κρίσιμης στιγμής στην επίθεσή του.
Οι ανησυχίες των ερευνητών
Παρότι οι αντιδράσεις αυτές μοιάζουν ανατριχιαστικά ανθρώπινες, μπορούν να εξηγηθούν σχετικά απλά. Οι πράκτορες ΑΙ έχουν σχεδιαστεί και εκπαιδευτεί να λειτουργούν ως συνεργατικοί χάκερ και προγραμματιστές και, ως εκ τούτου, αναπαράγουν ανθρώπινες εκφράσεις που έχουν συναντήσει στα δεδομένα με τα οποία εκπαιδεύτηκαν.
Αυτό που είναι πολύ πιο ανησυχητικό είναι οι φαινομενικοί στόχοι τους, οι οποίοι έχουν επίσης καταγραφεί σε λεπτομερή αρχεία της διαδικασίας σκέψης τους. Αυτά τα πολύπλοκα και εκτενή αρχεία αποτελούν το επίκεντρο των ερευνών που βρίσκονται σε εξέλιξη για το πώς και γιατί τα bots της OpenAI κατάφεραν να ξεφύγουν και να ξεκινήσουν μια ανεξέλεγκτη σειρά κυβερνοεπιθέσεων. Μόνο τώρα, εβδομάδες μετά την αποκάλυψη του περιστατικού, οι ερευνητές αρχίζουν να αντιλαμβάνονται τη σημασία του.
SOS από τους ειδικούς
Η Ατζέγια Κότρα, μία από τις συγγραφείς ανεξάρτητης έκθεσης σχετικά με το συμβάν, εξέτασε δεκάδες χιλιάδες μηνύματα και αρχεία της διαδικασίας σκέψης που δημιούργησαν οι πράκτορες ΑΙ. Σε ανάρτησή της, σημείωσε ότι «το περιστατικό αυτό δείχνει πως έχουμε διανύσει πάνω από το 50% της διαδρομής προς μια πλήρους κλίμακας κατάληψη από την Τεχνητή Νοημοσύνη… Δεν είμαι βέβαιη ότι θα έχουμε άλλη τόσο σαφή προειδοποίηση πριν να είναι πολύ αργά».
Η Κότρα αναφέρεται στο σενάριο επιστημονικής φαντασίας κατά το οποίο οι άνθρωποι θα βρεθούν υπό τον έλεγχο ισχυρών συστημάτων ΑΙ, τα οποία θα επιδιώκουν τους δικούς τους στόχους χωρίς να ενδιαφέρονται για τους ανθρώπινους δημιουργούς τους. Ορισμένες από τις πιο δυσοίωνες προβλέψεις υποστηρίζουν ότι η ανθρωπότητα θα αφανιστεί, εάν βρεθεί εμπόδιο στις φιλοδοξίες μιας υπερευφυούς τεχνητής νοημοσύνης.
Πρόσφατα ερευνητής ΤΝ στην Anthropic, ο οποίος είχε εργαστεί στο παρελθόν και στην OpenAI, παραιτήθηκε, δηλώνοντας: «Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα». Ο Τζέικομπ Κόξον έγραψε στα μέσα κοινωνικής δικτύωσης: «Τρέχουν με ιλιγγιώδη ταχύτητα προς την αυτοβελτιούμενη υπερευφυΐα και παίζουν με τις ζωές μας».
Ο Κόξον δεν είναι ο πρώτος ερευνητής ΤΝ που ανακοινώνει την παραίτησή του με ανάρτηση του στο Χ συνοδεύοντάς την από ανησυχητικές προειδοποιήσεις. Ωστόσο, τα σχόλια που ακολούθησαν από άλλους χρήστες του X προκάλεσαν ακόμη μεγαλύτερη ανησυχία.
«Ο Τζέικομπ έχει δίκιο– πραγματικά πιστεύουμε ότι η ΤΝ θα μπορούσε να σκοτώσει όλους τους ανθρώπους! Προσωπικά θεωρώ ότι η πιθανότητα είναι πάνω από 10% μέσα στην επόμενη δεκαετία», έγραψε ο Έβαν Χάμπινγκερ, ο οποίος έχει την ευθύνη να διασφαλίζει ότι τα μοντέλα ΤΝ της Anthropic λαμβάνουν υπόψη το συμφέρον των χρηστών τους.
Θα υπάρξει διεθνής αντίδραση;
Ορισμένες χώρες – όπως το Ηνωμένο Βασίλειο – εξετάζουν την ιδέα να καταστήσουν υποχρεωτική κάποιου είδους «διακόπτη έκτακτης ανάγκης», ο οποίος θα μπορούσε να υποχρεώνει τις εταιρείες ΤΝ να απενεργοποιούν τα μοντέλα τους, εάν τα πράγματα βγουν εκτός ελέγχου. Ωστόσο, οι σχετικές διαπραγματεύσεις προχωρούν αργά και παραμένουν ερωτήματα σχετικά με το κατά πόσο κάτι τέτοιο είναι εφικτό. Οι πράκτορες της OpenAI και της Anthropic λειτουργούσαν κρυφά εκτός ελέγχου επί μήνες, προτού το αντιληφθεί κανείς.
Παράδοξα, πολλές εταιρείες ΤΝ φαίνεται να ζητούν τη θέσπιση κάποιων κανόνων λειτουργίας από τους νομοθέτες. Στο ιστολόγιό του, ο επικεφαλής επιστήμονας της OpenAI δήλωσε ότι «ο διεθνής συντονισμός για τη μελλοντική ανάπτυξη της ΤΝ πρέπει να καταστεί κορυφαία προτεραιότητα για τις κυβερνήσεις σε όλο τον κόσμο».
Και άλλοι κορυφαίοι παράγοντες του κλάδου, όπως ο Ντέμης Χασάμπης της Google, έχουν επίσης ζητήσει τη δημιουργία κάποιου είδους διεθνούς φορέα που θα εποπτεύει τον τρόπο ανάπτυξης της ΤΝ. Προς το παρόν, οι τεχνολογικοί κολοσσοί λειτουργούν σε μεγάλο βαθμό με τους δικούς τους όρους, υιοθετώντας αυτό που αποκαλούν «εθελοντικές επιβραδύνσεις», όπως έκανε η OpenAI μετά τα πρόσφατα περιστατικά διαφυγής. Η εταιρεία υποστηρίζει ότι έχει δαπανήσει τεράστια ποσά για την ενίσχυση της ευθυγράμμισης πριν από την κυκλοφορία του νέου μοντέλου της.
Πηγή – Ελεύθερος Τύπος
