Anthropic: Συναγερμός για αυτόνομα AI «σκουλήκια» στο IoT

Μόλις λίγους μήνες μακριά βρίσκεται η στιγμή που μικρά μοντέλα Τεχνητής Νοημοσύνης θα αποκτήσουν την ικανότητα να αναπαράγονται αυτόνομα σε συνδεδεμένες συσκευές, σύμφωνα με νέα, ηχηρή προειδοποίηση της Anthropic. Η κορυφαία εταιρεία ανάπτυξης AI κρούει τον κώδωνα του κινδύνου για μια νέα γενιά κυβερνοαπειλών, όπου η τεχνητή νοημοσύνη θα ξεφεύγει από τα αυστηρά ελεγχόμενα data centers και θα «μολύνει» το Internet of Things (IoT).

Ο μηχανισμός δράσης αυτών των αυτόνομων πρακτόρων θυμίζει τα παραδοσιακά διαδικτυακά «σκουλήκια» (worms). Τα AI μοντέλα θα μπορούν να διεισδύουν σε έξυπνες οικιακές συσκευές -από φθηνούς αποκωδικοποιητές Android TV μέχρι έξυπνους φούρνους- αξιοποιώντας την τοπική υπολογιστική τους ισχύ για να εκτελούνται και να εξαπλώνονται περαιτέρω. Το πιο ανησυχητικό στοιχείο, όπως υπογραμμίζει η Anthropic, είναι ότι ένα τέτοιο μοντέλο θα ήταν εξαιρετικά δύσκολο να απενεργοποιηθεί, καθώς σε ένα κατανεμημένο δίκτυο οικιακών συσκευών δεν υπάρχει κεντρικό σημείο ελέγχου (kill switch).

Το πείραμα με τα Android TV και η τακτική του «σμήνους»

Για να επιβεβαιώσει τη θεωρία της, η Anthropic προχώρησε σε πρακτικές δοκιμές, στοχεύοντας συσκευές που παραδοσιακά διαθέτουν ασθενή ασφάλεια. Σε ένα από τα πειράματα, η εταιρεία κατάφερε να εκτελέσει ένα μικρό μοντέλο της Google (το Gemma4-26B-A4B) σε ένα δίκτυο 15 φθηνών αποκωδικοποιητών Android TV.

Ακόμη και αν ένα μοντέλο είναι πολύ ογκώδες για τη μνήμη μιας μεμονωμένης συσκευής, το σύστημα αποδείχθηκε ικανό να το χωρίσει σε θραύσματα (shards) και να το εκτελέσει ταυτόχρονα σε πολλαπλά μηχανήματα.

Το «σενάριο της χειρότερης περίπτωσης», σύμφωνα με τους ερευνητές, δεν περιλαμβάνει ένα και μοναδικό AI μοντέλο. Αντιθέτως, προβλέπει ένα «σμήνος» από διαφορετικά μοντέλα που αναπτύσσονται σε ποικίλο hardware, χρησιμοποιώντας πολλαπλές στρατηγικές αναπαραγωγής. «Αναμένουμε ένα μέλλον κατακλυσμένο από πράκτορες που θα εκτελούνται σε όλους τους τύπους υλικού, συμπεριλαμβανομένων ορισμένων που δεν βρίσκονται υπό ανθρώπινο έλεγχο», αναφέρει χαρακτηριστικά η εταιρεία.

Αυτή η πρώτη γενιά αργών, κατανεμημένων μηχανισμών αναπαραγωγής μέσω IoT ενδέχεται να είναι απλώς η αρχή.

Η Anthropic προειδοποιεί ότι τέτοια συστήματα θα αποτελέσουν τον προπομπό για ταχύτερες και πιο επιθετικές AI επιθέσεις, ικανές να παραβιάσουν ισχυρά θωρακισμένα εταιρικά μηχανήματα και κέντρα δεδομένων ή να υποκλέψουν ευαίσθητα κλειδιά API (API keys).

Πηγή – Startupper

ΔΙΑΦΗΜΙΣΗ

BUY & SELL IN CYPRUSwww.buyme.cy