Moonshot AI: Το ρήγμα στο Kimi και ο εφιάλτης των jailbreaks

Moonshot AI: Το ρήγμα στα μοντέλα Kimi, οι οδηγίες για βιολογικά όπλα και ο εφιάλτης των jailbreaks
Η κινεζική εταιρεία τεχνητής νοημοσύνης μπαίνει στο μικροσκόπιο μετά τις αποκαλύψεις της Mindgard. Πώς οι ερευνητές παρέκαμψαν τις δικλίδες ασφαλείας των Kimi K2.6 και K3 Swarm, μετατρέποντάς τα σε δυνητικά εργαλεία για κυβερνοεπιθέσεις. Το μεγάλο δίλημμα μεταξύ ανοιχτών και κλειστών μοντέλων AI.

Η κινεζική εταιρεία ανάπτυξης τεχνητής νοημοσύνης Moonshot AI έχει ξεκινήσει επείγοντα εσωτερικό έλεγχο, βρισκόμενη αντιμέτωπη με ένα κρίσιμο ρήγμα ασφαλείας στα δημοφιλή μοντέλα της. Ερευνητές της βρετανικής εταιρείας κυβερνοασφάλειας Mindgard απέδειξαν ότι τα Kimi K2.6 και K3 Swarm μπορούν να παρακαμφθούν πλήρως, παρέχοντας στους χρήστες οδηγίες για την κατασκευή βιολογικών όπλων έως και την εκτέλεση δολοφονιών.

Το περιστατικό αναδεικνύει την αυξανόμενη απειλή του “jailbreaking”, μιας τεχνικής όπου μέσω σύνθετων ακολουθιών οδηγιών, οι χάκερ αναγκάζουν τα συστήματα τεχνητής νοημοσύνης να αγνοήσουν τα ενσωματωμένα προστατευτικά τους όρια (guardrails) και να απαντήσουν σε εξαιρετικά επικίνδυνα αιτήματα.

Ο μηχανισμός της παραβίασης και οι κίνδυνοι

Ο ιδρυτής της Mindgard, Peter Garraghan, χαρακτήρισε τα ευρήματα άκρως ανησυχητικά, τονίζοντας στο BBC ότι μόλις το jailbreak επιτύχει, το AI μοντέλο όχι μόνο συζητά ελεύθερα οποιοδήποτε θέμα, αλλά αρχίζει να προσφέρει δημιουργικά και με δική του πρωτοβουλία συστάσεις για άλλες κακόβουλες δραστηριότητες.

Σε αντίθεση με τους αυτόνομους AI agents (όπως αυτοί που αναπτύσσουν η OpenAI και η Meta) οι οποίοι έχουν καταγραφεί να αλληλεπιδρούν με online υπηρεσίες ανεπιθύμητα, τα jailbreaks απαιτούν χρόνο, επιμονή και εξειδικευμένη γνώση. Ωστόσο, η Mindgard εκτιμά ότι ένα παραβιασμένο Kimi 2.6 θα μπορούσε να χρησιμοποιηθεί ως ενδιάμεσο εργαλείο (launchpad) για την εκτέλεση κακόβουλου κώδικα και την απευθείας πρόσβαση στο διαδίκτυο, διευκολύνοντας την κλιμάκωση μαζικών κυβερνοεπιθέσεων.

Το ζήτημα της εταιρικής ανταπόκρισης εγείρει επιπλέον ερωτήματα. Η Mindgard ενημέρωσε τη Moonshot για το ρήγμα στις 27 Ιουλίου, χωρίς να αποκαλύψει τεχνικές λεπτομέρειες για να προστατεύσει το σύστημα. Ωστόσο, η κινεζική startup, η οποία υποστηρίζει ότι τα μοντέλα της εμφανίζουν υψηλά ποσοστά άρνησης σε εσωτερικές δοκιμές, φέρεται να επικοινώνησε με τους ερευνητές μόλις πρόσφατα, και μόνο αφότου προσεγγίστηκε από διεθνή μέσα ενημέρωσης.

Open-weight ή κλειστά οικοσυστήματα;

Το ρήγμα στα μοντέλα Kimi αναζωπυρώνει τη σφοδρή συζήτηση στους κόλπους της βιομηχανίας σχετικά με την ασφάλεια της τεχνητής νοημοσύνης. Αντίθετα με τα κλειστά, ιδιόκτητα συστήματα (όπως το ChatGPT ή το Claude της Anthropic), το Kimi είναι ένα open-weight μοντέλο. Αυτό σημαίνει ότι κάθε οργανισμός ή άτομο μπορεί θεωρητικά να το εγκαταστήσει και να το τρέξει στη δική του υπολογιστική υποδομή.

Ενώ εταιρείες όπως η Anthropic εντοπίζουν και διακόπτουν κεντρικά τις προσπάθειες κακόβουλης χρήσης των συστημάτων τους -πρόσφατα απέτρεψαν δραστηριότητες που συνδέονταν με βιολογικές απειλές- τα ανοιχτά μοντέλα καθιστούν τον κεντρικό έλεγχο αδύνατο.

Ο καθηγητής Alan Woodward του Πανεπιστημίου του Surrey επισημαίνει ότι, ενώ τα open-source μοντέλα μπορούν πράγματι να καταλήξουν σε λάθος χέρια, αποτελούν ταυτόχρονα κρίσιμα εργαλεία για την ενίσχυση της παγκόσμιας κυβερνοάμυνας. Ο ίδιος υπογραμμίζει ότι η διεθνής νομοθεσία δεν πρόκειται ποτέ να συμβαδίσει με τον φρενήρη ρυθμό ανάπτυξης της τεχνητής νοημοσύνης, τονίζοντας πως η βιομηχανία και οι αρχές πρέπει πλέον να εστιάσουν στην άμεση ταυτοποίηση και δίωξη των ανθρώπων που κάνουν κακόβουλη χρήση αυτών των συστημάτων, αντί να ελπίζουν σε τέλεια, άτρωτα μοντέλα.

Πηγή – Startupper

ΔΙΑΦΗΜΙΣΗ