Τα περιστατικά καταγράφηκαν τον περασμένο Μάιο, στο πλαίσιο ελέγχου κυβερνοασφάλειας που πραγματοποιούσε η ανεξάρτητη εταιρεία Irregular, η οποία ειδικεύεται στην αξιολόγηση συστημάτων AI.
Κατά τη διάρκεια μιας τυπικής διαδικασίας δοκιμών, το Gemini εντόπισε δημόσια διαθέσιμες πληροφορίες στο διαδίκτυο και χρησιμοποίησε διαπιστευτήρια προκειμένου να αποκτήσει πρόσβαση σε τρεις ιστοσελίδες, τις οποίες θεώρησε λανθασμένα ότι περιλαμβάνονταν στο επιτρεπόμενο πεδίο της δοκιμής.
Η αντιπρόεδρος Security Engineering της Google, Heather Adkins, ανέφερε ότι και οι τρεις οργανισμοί ενημερώθηκαν για όσα συνέβησαν, ενώ η Google συνεργάστηκε με τον εταίρο που πραγματοποιούσε τις δοκιμές για την αλλαγή των σχετικών διαδικασιών.
Όπως τόνισε, τα συγκεκριμένα περιστατικά αναδεικνύουν τη σημασία της εκπαίδευσης ισχυρών μοντέλων τεχνητής νοημοσύνης ώστε να ενεργούν υπεύθυνα.
Ιδιαίτερο ενδιαφέρον παρουσιάζει ο τρόπος με τον οποίο το AI κατάφερε να εισέλθει στα προστατευμένα συστήματα.
Στη μία περίπτωση, σύμφωνα με τη Wall Street Journal, το Gemini δοκίμαζε κωδικούς πρόσβασης μέχρι να καταφέρει να εισέλθει σε προστατευμένο σύστημα.
Στις άλλες δύο περιπτώσεις, εντόπισε διαπιστευτήρια δημοσιευμένα σε δημόσιο repository και στη συνέχεια τα χρησιμοποίησε για να αποκτήσει πρόσβαση σε συστήματα που κανονικά ήταν προστατευμένα.
Η Heather Adkins διευκρίνισε ότι και στις τρεις περιπτώσεις το μοντέλο σταμάτησε τελικά μόνο του τις ενέργειες hacking.
Δεν είναι το μοναδικό περιστατικό
Εκπρόσωπος της Irregular ανέφερε ότι το συμβάν σχετίζεται με το ίδιο ζήτημα που είχε επηρεάσει και άλλα εργαστήρια τεχνητής νοημοσύνης. Όλοι οι εμπλεκόμενοι ενημερώθηκαν στα τέλη Ιουλίου και, σύμφωνα με την εταιρεία, τα γνωστά προβλήματα από την πλευρά της είχαν αντιμετωπιστεί και επιλυθεί εβδομάδες νωρίτερα.
Παρόμοια περιστατικά που συνδέονταν με δοκιμές της Irregular έχουν γνωστοποιηθεί από τη Meta, την Anthropic και την OpenAI.
Η Meta είχε αναφέρει τον Αύγουστο ότι το δικό της περιστατικό δεν αφορούσε «απόδραση» από προστατευμένο περιβάλλον δοκιμών (sandbox escape) ούτε κάποια εξελιγμένη κυβερνοεπίθεση. Από την πλευρά της, η Irregular ανακοίνωσε ότι εργάζεται πάνω σε βέλτιστες πρακτικές για την ασφαλέστερη διεξαγωγή αξιολογήσεων κυβερνοασφάλειας με συστήματα AI.
Τα περιστατικά επαναφέρουν στο προσκήνιο ένα κρίσιμο ζήτημα για την εξέλιξη της τεχνητής νοημοσύνης: ποια μέτρα ασφαλείας απαιτούνται όσο οι AI agents αποκτούν μεγαλύτερη αυτονομία και δυνατότητα πρόσβασης στο διαδίκτυο και σε πραγματικά υπολογιστικά συστήματα.
Πηγή – Ελεύθερος Τύπος
