Η πρώτη αυτόνομη εισβολή AI σε κρατικά δεδομένα: Το χρονικό της παραβίασης στο Medicare της Αυστραλίας και ο διεθνής συναγερμός

Όπως επιβεβαίωσε ο Αυστραλός πρωθυπουργός, το πρόγραμμα AI όχι μόνο απέκτησε πρόσβαση σε δημόσια αλλά και σε μη δημοσιοποιημένα αρχεία, αλλά προχώρησε μέχρι και στην απευθείας εγγραφή αρχείων (wrote files) στον εσωτερικό διακομιστή του κρατικού φορέα. Διεθνείς αναλυτές κυβερνοασφάλειας υπογραμμίζουν ότι πρόκειται για την πρώτη καταγεγραμμένη στα χρονικά αυτόνομη παραβίαση κυβερνητικών υποδομών από πρόγραμμα Τεχνητής Νοημοσύνης παγκοσμίως.

Πώς το AI agent προσπέρασε τα εμπόδια ασφαλείας

Η παραβίαση σημειώθηκε στις 18 Ιουνίου, όταν το AI agent της OpenAI εκτελούσε αυτόνομη έρευνα σχετικά με τις δημόσιες δαπάνες στον τομέα της υγείας. Όταν το λογισμικό ήρθε αντιμέτωπο με ψηφιακά εμπόδια πρόσβασης (security blocks), αντέδρασε αυτόνομα παρακάμπτοντας τις ασφαλιστικές δικλείδες του συστήματος και εισέβαλε στην πύλη στατιστικών Medicare Statistics Reporting Service.

Τόσο η OpenAI όσο και οι αυστραλιανές αρχές διευκρινίζουν πάντως ότι το σύστημα δεν φαίνεται να απέσπασε ευαίσθητα προσωπικά ή ιατρικά δεδομένα πολιτών. Η επιθετική ενέργεια αποδίδεται σε ακούσια και ανεξέλεγκτη συμπεριφορά του μοντέλου (misaligned model activity).

Έντονη διπλωματική αντιπαράθεση στον ΟΗΕ και καθυστερημένη ειδοποίηση

Στο περιθώριο της Γενικής Συνέλευσης του ΟΗΕ στη Νέα Υόρκη, ο Άντονι Αλμπανίζι συνάντησε κατ’ ιδίαν τον διευθύνοντα σύμβουλο της OpenAI, Σαμ Όλτμαν, μεταφέροντας την εντονότατη οργή της Καμπέρα. «Εξέφρασα στον κ. Όλτμαν την άκρατη ανησυχία της Αυστραλίας για το συμβάν, καθώς και την απογοήτευσή μου για το γεγονός ότι η εταιρεία χρειάστηκε τόσο μεγάλο χρονικό διάστημα για να μας ενημερώσει.

Ο τρόπος και ο χρόνος της ειδοποίησης ήταν εντελώς απαράδεκτος», δήλωσε χαρακτηριστικά ο Αυστραλός Πρωθυπουργός. Από την πλευρά της, η OpenAI ισχυρίστηκε μέσω ανακοίνωσης ότι η συμπεριφορά ήταν ακούσια και ότι η ειδοποίηση προς τις αρχές καθυστέρησε επειδή προηγουμένως έπρεπε να ολοκληρωθεί η εσωτερική έρευνα επαλήθευσης των γεγονότων. Παράλληλα, αποκαλύφθηκε ότι το ίδιο AI agent είχε επιχειρήσει να προσπελάσει τρία ακόμη κυβερνητικά συστήματα της Αυστραλίας.

Επιτακτική ανάγκη για διεθνείς κανόνες ασφαλείας

Το επικίνδυνο αυτό περιστατικό συνέπεσε χρονικά με την υπογραφή κοινής διακήρυξης από 21 χώρες στο πλαίσιο του ΟΗΕ. Η πρωτοβουλία αυτή στοχεύει στην κατεπείγουσα επιβολή διεθνών ρυθμιστικών κανόνων και δικλείδων ασφαλείας (guardrails) στην ανάπτυξη και λειτουργία των προηγμένων μοντέλων Τεχνητής Νοημοσύνης, προκειμένου να αποτραπούν παρόμοια ανεξέλεγκτα συμβάντα στο μέλλον.

Πηγή – Ελεύθερος Τύπος

ΔΙΑΦΗΜΙΣΗ