Ο «νονός» της AI προειδοποιεί: Πιθανό εκτεταμένο μπλακάουτ υποδομών έως το 2027

Σύνοψη

• Πρόβλεψη για σοβαρό περιστατικό δυσλειτουργίας ή κυβερνοεπίθεσης μέσω AI εντός του 2026 ή του 2027, με πιθανές συνέπειες στα ενεργειακά και τραπεζικά δίκτυα.
• Πρόταση για ίδρυση ανεξάρτητου φορέα ελέγχου των μοντέλων μηχανικής μάθησης, στα πρότυπα του αμερικανικού οργανισμού φαρμάκων (FDA), πριν από την επίσημη κυκλοφορία τους.
• Έντονη κριτική στους επικεφαλής των μεγάλων εταιρειών τεχνολογίας για την προτεραιοποίηση του κέρδους έναντι της δημόσιας ασφάλειας.
• Σύγκριση των πρόσφατων περιστατικών ασφαλείας, όπως οι ευπάθειες στην πλατφόρμα Hugging Face, με το προειδοποιητικό πυρηνικό ατύχημα του Three Mile Island το 1979.

Η αλματώδης ανάπτυξη των μεγάλων γλωσσικών μοντέλων και των αυτόνομων πρακτόρων μηχανικής μάθησης προκαλεί ολοένα και πιο έντονες ανησυχίες στους πρωτεργάτες της τεχνολογίας, οι οποίοι παρατηρούν την ανεξέλεγκτη ενσωμάτωση αυτών των συστημάτων σε κρίσιμες υποδομές. 

Ο Geoffrey Hinton, ένας εκ των θεμελιωτών της σύγχρονης τεχνητής νοημοσύνης και πρόσφατος κάτοχος του βραβείου Νόμπελ, προχώρησε σε νέες, ιδιαίτερα αυστηρές δηλώσεις σχετικά με την πορεία του κλάδου, καταθέτοντας τις εκτιμήσεις του για τους επερχόμενους κινδύνους κατά τη διάρκεια πρόσφατης συνέντευξης του στη βρετανική εφημερίδα The Guardian. Ο διακεκριμένος επιστήμονας εξέφρασε την άποψη ότι η ανθρωπότητα ενδέχεται να καταγράψει ένα κομβικό σημείο αποτυχίας το οποίο θα κοστίσει ακριβά στην παγκόσμια οικονομία και στην ομαλή λειτουργία των κοινωνιών.

Σύμφωνα με τον Hinton, το χρονικό περιθώριο μέχρι την εκδήλωση ενός σοβαρού περιστατικού ψηφιακής κατάρρευσης ίσως να μην υπερβαίνει τους επόμενους δώδεκα με δεκαοκτώ μήνες. Κάνοντας χρήση ισχυρών παραλληλισμών, παρομοίασε τον κίνδυνο με μια καταστροφή αντίστοιχη του Τσερνομπίλ, διευκρινίζοντας ωστόσο ότι δεν αναφέρεται σε πυρηνικό όλεθρο, αλλά σε μια άνευ προηγουμένου διακοπή βασικών υπηρεσιών. Ένα τέτοιο συμβάν θα μπορούσε να προκύψει από μια εξελιγμένη κυβερνοεπίθεση που ενορχηστρώνεται από συστήματα AI και θα στόχευε καίρια ενεργειακά δίκτυα, προκαλώντας παρατεταμένα μπλακάουτ, ή θα παρέλυε το διεθνές χρηματοοικονομικό σύστημα για αρκετές ημέρες. 

Ο ίδιος επισημαίνει ότι παρόμοια περιστατικά μικρότερης κλίμακας έχουν ήδη αρχίσει να κάνουν την εμφάνισή τους, αναφέροντας ως χαρακτηριστικό παράδειγμα τα προβλήματα ασφαλείας που παρατηρήθηκαν κατά τη διάρκεια του καλοκαιριού στην πλατφόρμα Hugging Face. Τα πρώτα αυτά περιστατικά λειτουργούν ως προειδοποιητικές βολές, θυμίζοντας έντονα το ατύχημα του Three Mile Island το 1979, το οποίο προηγήθηκε της μεγάλης καταστροφής στο Τσερνομπίλ.

Η ρίζα του προβλήματος εντοπίζεται στην πλήρη απουσία ρυθμιστικού πλαισίου και στον τρόπο με τον οποίο οι κορυφαίες εταιρείες του χώρου προσεγγίζουν την ανάπτυξη και την κυκλοφορία των νέων εργαλείων τους. Ο Hinton άσκησε δριμεία κριτική στους επικεφαλής κολοσσών της τεχνολογίας, κατονομάζοντας ευθέως τον Sam Altman της OpenAI, τον Elon Musk και τον Mark Zuckerberg. Εκτίμησε ότι οι ιθύνοντες των μεγάλων τεχνολογικών ομίλων αντιλαμβάνονται πλήρως τους κινδύνους που ελλοχεύουν, ωστόσο επιλέγουν ενσυνείδητα να δώσουν προτεραιότητα στην κερδοφορία και την ταχεία κυριαρχία στην αγορά, αγνοώντας τις δυνητικές συνέπειες για την παγκόσμια ασφάλεια. Η έλλειψη εμπιστοσύνης απέναντι στους ανθρώπους που κατευθύνουν σήμερα τις εξελίξεις αποτελεί τον κύριο λόγο για τον οποίο ο Hinton προτείνει την άμεση θεσμοθέτηση ενός εξωτερικού φορέα ελέγχου.

Η πρόταση του επικεντρώνεται στη δημιουργία μιας ανεξάρτητης αρχής, η οποία θα λειτουργεί με πρότυπο τον Οργανισμό Τροφίμων και Φαρμάκων των ΗΠΑ (FDA). Κάθε νέο μοντέλο μηχανικής μάθησης θα πρέπει να περνά από εξονυχιστικούς ελέγχους πριν από τη διάθεση του, ενώ οι εταιρείες θα φέρουν την υποχρέωση να αποδεικνύουν με ισχυρά στατιστικά δεδομένα ότι τα οφέλη του λογισμικού τους υπερτερούν σαφώς των πιθανών βλαβών. Ανατρέχοντας στην τραγωδία της θαλιδομίδης κατά τη δεκαετία του 1950, ο Hinton υπογραμμίζει τη σημασία της προληπτικής αξιολόγησης προκειμένου να αποφευχθούν ανεπανόρθωτες ζημιές, απορρίπτοντας ξεκάθαρα τη σημερινή πρακτική της εσπευσμένης κυκλοφορίας που ακολουθείται από διορθωτικές αναβαθμίσεις κατόπιν εορτής.

Περνώντας στο πολιτικό πεδίο, οι δηλώσεις του νομπελίστα φωτίζουν το χάσμα αντιλήψεων μεταξύ των παγκόσμιων ηγετών. Όταν ρωτήθηκε ποιοι πολιτικοί θα αντιδρούσαν αποφασιστικά απέναντι σε ένα μεγάλο τεχνολογικό ατύχημα, διευκρίνισε ότι αναμένει δράση κυρίως από ηγέτες χωρών εκτός των ΗΠΑ, εξαιρώντας ρητά τον Πρόεδρο Donald Trump, του οποίου η προσέγγιση ευνοεί την πλήρη αυτορρύθμιση της βιομηχανίας και την αποφυγή διεθνών δεσμεύσεων. Αντιθέτως, ο Hinton στηρίζει πρωτοβουλίες όπως η πρόσφατη συμφωνία 32 χωρών για την καθιέρωση υποχρεωτικών δοκιμών και τη διαμόρφωση διακυβερνητικών προτύπων αξιολόγησης. Η επερχόμενη βρετανική προεδρία της ομάδας G20 το επόμενο έτος αποτελεί ιδανική ευκαιρία για την επίτευξη μιας παγκόσμιας συμφωνίας πάνω στους κανόνες ασφαλείας, αν και παραμένει ασαφές κατά πόσο οι κυβερνήσεις είναι διατεθειμένες να επιβάλουν αυστηρές προϋποθέσεις ελέγχου πριν από την κυκλοφορία των μοντέλων.

Η απαισιοδοξία που αποπνέουν οι τοποθετήσεις του πρωτοπόρου ερευνητή κορυφώνεται στη σκέψη ότι, αναλογιζόμενος την τρέχουσα κατάσταση, ίσως η ανθρωπότητα να ήταν τελικά σε καλύτερη θέση εάν η τεχνητή νοημοσύνη δεν είχε αναπτυχθεί ποτέ. Παρόλο που ο ίδιος αρνείται τον χαρακτηρισμό του καταστροφολόγου και αναγνωρίζει τις τεράστιες δυνατότητες της τεχνολογίας για τη βελτίωση της ανθρώπινης ζωής, η έντονη αμφιβολία του για την ικανότητα της κοινωνίας να διαχειριστεί με ασφάλεια αυτή την εξέλιξη παραμένει κυρίαρχη. 

Οι προειδοποιήσεις αυτές δεν προέρχονται από έναν εξωτερικό παρατηρητή, αλλά από τον άνθρωπο που έθεσε τα μαθηματικά και θεωρητικά θεμέλια πάνω στα οποία βασίζεται η λειτουργία ολόκληρου του σύγχρονου ψηφιακού οικοσυστήματος, προσδίδοντας ξεχωριστό βάρος στις προβλέψεις του για την επόμενη δεκαετία.

Πηγή – Techgear

ΔΙΑΦΗΜΙΣΗ

BUY & SELL IN CYPRUSwww.buyme.cy