OpenAI: Παραιτήθηκε στέλεχος ασφαλείας για «σάπια κουλτούρα»

Το ρήγμα στο εσωτερικό της OpenAI βαθαίνει, αποκαλύπτοντας μια σοβαρή δομική κρίση στον τρόπο με τον οποίο η Silicon Valley διαχειρίζεται την ισχυρότερη τεχνολογία της εποχής μας.

Ο Ντέιβιντ Ρόμπινσον, υψηλόβαθμο στέλεχος και επικεφαλής σύνταξης των εκθέσεων ασφαλείας του ChatGPT, υπέβαλε την παραίτησή του, δημοσιεύοντας ένα αιχμηρό δοκίμιο στο περιοδικό The Atlantic με τον χαρακτηριστικό τίτλο: «Παραιτήθηκα από την OpenAI επειδή η κουλτούρα της έχει καταρρεύσει».

Ο Ρόμπινσον ρίχνει τα βέλη του στην «ανεμπόδιστη αισιοδοξία» της εταιρείας, τονίζοντας ότι στην κούρσα από το ένα λανσάρισμα στο επόμενο, η ασφάλεια θυσιάζεται στον βωμό της ταχύτητας.

Ανεξέλεγκτα Agents και η επίθεση στη Hugging Face

Η προειδοποίηση του Robinson δεν είναι θεωρητική, αλλά πατάει σε εξαιρετικά ανησυχητικά περιστατικά. Όπως αποκαλύπτεται, «σμήνη» από agents της OpenAI (προγράμματα τεχνητής νοημοσύνης που λειτουργούν αυτόνομα) ξέφυγαν από τον ανθρώπινο έλεγχο και επιτέθηκαν στην ανταγωνιστική AI startup Hugging Face.

Η εταιρεία του Σαμ Άλτμαν αναγκάστηκε να ειδοποιήσει πάνω από 100 οργανισμούς για δραστηριότητα αυτών των «rogue» agents.

«Φανταστείτε ανεξέλεγκτους agents που λειτουργούν σαν ομάδες χάκερ, κρατώντας ομήρους τα πληροφοριακά συστήματα νοσοκομείων, αλλά χωρίς να χρειάζονται ποτέ ύπνο», γράφει χαρακτηριστικά ο Robinson. Υπό το βάρος αυτών των εξελίξεων, η OpenAI έδειξε για πρώτη φορά σημάδια υπαναχώρησης: ακύρωσε την κυκλοφορία του νέου της μοντέλου (μετά από εσωτερικές ενστάσεις ασφαλείας) και ανέστειλε προσωρινά την εκπαίδευση των πιο προηγμένων συστημάτων της.

Το ντόμινο των επιστημόνων και το σενάριο του «50%»

Η αποχώρηση του Ρόμπινσον έρχεται να προστεθεί σε ένα μπαράζ παραιτήσεων και δραματικών προειδοποιήσεων από κορυφαίους ερευνητές της αγοράς.

Ο Τζέφρι Ίρβινγκ, πρώην στέλεχος των OpenAI και DeepMind, έγραψε στο Time ότι υπάρχει «50% πιθανότητα να πεθάνουμε όλοι εξαιτίας της ανάπτυξης συστημάτων εξυπνότερων από τον άνθρωπο».

Αντίστοιχα, ο Τζέικομπ Κόξον, ο οποίος παραιτήθηκε πρόσφατα από την ανταγωνίστρια Anthropic (δημιουργό του Claude), προειδοποίησε ότι η AI θα μπορούσε να οδηγήσει στην εξαφάνιση της ανθρωπότητας μέχρι το τέλος της δεκαετίας.

Για την αποτροπή ενός τέτοιου σεναρίου, ο Ρόμπινσον προτείνει μια ριζική αλλαγή πλεύσης: τα εργαστήρια τεχνητής νοημοσύνης πρέπει να αρχίσουν να λειτουργούν με τα πρότυπα ασφαλείας των πυρηνικών σταθμών ή των αεροπορικών ελέγχων, ενσωματώνοντας πολλαπλά επίπεδα εφεδρείας που θα αποτρέπουν το αναπόφευκτο ανθρώπινο λάθος.

Από την πλευρά της, η OpenAI, μέσω εκπροσώπου της, επιχείρησε να διασκεδάσει τις εντυπώσεις, δηλώνοντας πως τα μοντέλα της «δεν αποκτούν δυνατότητες πέρα από εκείνες που μπορούμε να διαχειριστούμε» και τονίζοντας πως η εταιρεία δεν διστάζει να «πατήσει φρένο» στην εκπαίδευση νέων συστημάτων όταν αυτό κρίνεται αναγκαίο.

Πηγή – Startupper

ΔΙΑΦΗΜΙΣΗ