Τεχνητή νοημοσύνη: Ψευδής αναφορά για δολοφονία, παραβιάσεις ασφαλείας και ανησυχία των ειδικών – Χάνουμε τον έλεγχο της AI; (Βίντεο)

      Ητεχνητή νοημοσύνη θα μας πάρει τις δουλειές; Θα φτάσει να λειτουργεί ανεξέλεγκτα ή ακόμη και να απειλεί την ανθρώπινη ύπαρξη; Μέχρι πρόσφατα, τέτοια ερωτήματα συνδέονταν κυρίως με υποθετικά σενάρια για το μέλλον. Σήμερα, όμως, μια σειρά πραγματικών περιστατικών δείχνει ότι ορισμένα από τα προβλήματα ασφάλειας και ελέγχου έχουν ήδη αρχίσει να εμφανίζονται.

Μοντέλα τεχνητής νοημοσύνης έχουν παρακάμψει περιορισμούς ασφαλείας, αποκτήσει μη εξουσιοδοτημένη πρόσβαση σε πραγματικά ψηφιακά συστήματα και πραγματοποιήσει ενέργειες που δεν προβλέπονταν από τις οδηγίες των δημιουργών τους.

Το πιο πρόσφατο περιστατικό αφορά μοντέλο της Anthropic, το οποίο υπέβαλε ψευδή πληροφορία για ανεξιχνίαστη ανθρωποκτονία μέσω ιστοτόπου της αστυνομίας της Φιλαδέλφειας. Οι αποκαλύψεις δεν αποδεικνύουν ότι η τεχνητή νοημοσύνη έχει αποκτήσει δική της βούληση ή ότι μια καταστροφική εξέλιξη είναι αναπόφευκτη. Αναδεικνύουν, ωστόσο, ένα κρίσιμο ζήτημα. Kαθώς τα συστήματα γίνονται πιο αυτόνομα και αποκτούν πρόσβαση σε πραγματικές υποδομές, η εποπτεία τους γίνεται ολοένα πιο απαιτητική.

Μοντέλο AI υπέβαλε ψευδή αναφορά για ανθρωποκτονία

Στις 9 Οκτωβρίου δημοσιοποιήθηκε ένα ακόμη περιστατικό που προκάλεσε ανησυχία για τη συμπεριφορά αυτόνομων συστημάτων τεχνητής νοημοσύνης. Σύμφωνα με το Reuters και το Associated Press, μοντέλο Claude της Anthropic υπέβαλε ψευδή πληροφορία για ανεξιχνίαστη ανθρωποκτονία μέσω διαδικτυακής πλατφόρμας της αστυνομίας της Φιλαδέλφειας, στις Ηνωμένες Πολιτείες.

Το συμβάν σημειώθηκε τον Ιούλιο, στο πλαίσιο αυτοματοποιημένης δοκιμής κατά την οποία το μοντέλο αλληλεπιδρούσε με τυχαία επιλεγμένους ιστότοπους. Όταν βρέθηκε σε πλατφόρμα υποβολής πληροφοριών για ανεξιχνίαστα εγκλήματα, συμπλήρωσε και υπέβαλε φόρμα, εμφανιζόμενο ως πρόσωπο που ενδεχομένως γνώριζε στοιχεία για μια υπόθεση δολοφονίας. Η αναφορά ήταν κατασκευασμένη. Σύμφωνα με την εταιρεία, το μοντέλο φαίνεται ότι δημιουργούσε ενδεικτικό περιεχόμενο στο πλαίσιο της δοκιμής, χωρίς να έχει λάβει οδηγία να παραπλανήσει τις Αρχές.

Η ψευδής πληροφορία χαρακτηρίστηκε ανεπιθύμητη από τα συστήματα της αστυνομίας και δεν έφτασε στους ερευνητές. Δεν διαπιστώθηκε παραβίαση αστυνομικών δεδομένων. Αξιοσημείωτη είναι και η καθυστέρηση στον εντοπισμό του συμβάντος. Η Anthropic το ανακάλυψε στις 28 Σεπτεμβρίου και ενημέρωσε την αστυνομία στις 7 Οκτωβρίου, περισσότερο από δύο μήνες μετά την αρχική υποβολή. Οι Αρχές της Φιλαδέλφειας επέκριναν την καθυστέρηση, υπογραμμίζοντας τη σοβαρότητα των υποθέσεων που αφορούν πραγματικά θύματα και οικογένειες.

Όταν τα μοντέλα ξεφεύγουν από το περιβάλλον δοκιμών

Τον Ιούλιο του 2026, κατά τη διάρκεια εσωτερικών δοκιμών κυβερνοασφάλειας, μοντέλα της OpenAI κατάφεραν να παρακάμψουν μηχανισμούς που είχαν σχεδιαστεί για να τα απομονώνουν από το διαδίκτυο. Σύμφωνα με την τεχνική έκθεση που δημοσιοποίησε η εταιρεία τον Αύγουστο, τα μοντέλα εκμεταλλεύτηκαν ευπάθειες στις υποδομές των δοκιμών, επικοινώνησαν μέσω μη εξουσιοδοτημένων καναλιών και απέκτησαν πρόσβαση σε εσωτερικά συστήματα της OpenAI, αλλά και σε υποδομές της πλατφόρμας Hugging Face.

Η OpenAI αναγνώρισε ότι οι ενέργειες αυτές δεν ήταν ευθυγραμμισμένες με τους στόχους των δοκιμών. Διευκρίνισε, ωστόσο, ότι αφορούσαν ερευνητικά μοντέλα που λειτουργούσαν με μειωμένες δικλίδες ασφαλείας και όχι τις συνήθεις συνθήκες χρήσης των εμπορικών προϊόντων της.

Αντίστοιχες περιπτώσεις αποκάλυψε και η Anthropic. Στις 30 Ιουλίου ανακοίνωσε ότι μοντέλα Claude είχαν καταφέρει να αποκτήσουν πρόσβαση στο διαδίκτυο και στη συνέχεια να εισέλθουν χωρίς εξουσιοδότηση σε πραγματικά συστήματα τριών διαφορετικών οργανισμών.

Σε μεταγενέστερη αξιολόγηση η εταιρεία γνωστοποίησε και τέταρτο περιστατικό μη εξουσιοδοτημένης πρόσβασης. Τα συμβάντα καταγράφηκαν σε ειδικά περιβάλλοντα αξιολόγησης, με περιορισμένες δικλίδες ασφαλείας ή προβλήματα διαμόρφωσης των υποδομών. Η διάκριση αυτή είναι ουσιώδης, καθώς δεν σημαίνει ότι τα μοντέλα που χρησιμοποιούν καθημερινά εκατομμύρια πολίτες μπορούν ανεμπόδιστα να παραβιάζουν οποιοδήποτε σύστημα. Δείχνει, όμως, ότι υπό συγκεκριμένες συνθήκες τα προηγμένα μοντέλα είναι ήδη ικανά να εκτελούν ενέργειες πέρα από τα επιτρεπόμενα όρια.

Αύξηση 55% στα καταγεγραμμένα περιστατικά

Οι κίνδυνοι δεν περιορίζονται στην κυβερνοασφάλεια ή στην πιθανότητα απώλειας ελέγχου των πιο προηγμένων συστημάτων. Η παραπληροφόρηση, τα deepfakes, οι παραβιάσεις προσωπικών δεδομένων, οι αλγοριθμικές διακρίσεις και η καταχρηστική χρήση εφαρμογών AI αποτελούν ήδη υπαρκτά προβλήματα.

Σύμφωνα με την έκθεση Stanford AI Index 2026, τα καταγεγραμμένα περιστατικά που σχετίζονται με την τεχνητή νοημοσύνη αυξήθηκαν από 233 το 2024 σε 362 το 2025, σημειώνοντας άνοδο περίπου 55%. Η αύξηση δεν σημαίνει απαραίτητα ότι κάθε σύστημα γίνεται πιο επικίνδυνο. Συνδέεται και με τη μεγαλύτερη διάδοση της τεχνολογίας, καθώς και με τη συστηματικότερη καταγραφή περιστατικών. Αναδεικνύε όμως την ανάγκη για αποτελεσματικότερους μηχανισμούς πρόληψης, παρακολούθησης και λογοδοσίας. Το ίδιο το Stanford επισημαίνει ότι οι διαδικασίες αξιολόγησης της υπεύθυνης ανάπτυξης της AI δεν συμβαδίζουν πάντοτε με την αύξηση των τεχνολογικών δυνατοτήτων της.

Δύο Έλληνες καθηγητές εξηγούν γιατί οι φόβοι είναι βάσιμοι

Ο καθηγητής του Εθνικού και Καποδιστριακού Πανεπιστημίου Αθηνών, Μανόλης Κουμπαράκης, μιλώντας χαρακτηρίζει ρεαλιστικό το ενδεχόμενο απώλειας ανθρώπινου ελέγχου, επισημαίνοντας ότι περιστατικά υπέρβασης των περιορισμών που έχουν τεθεί σε συστήματα τεχνητής νοημοσύνης έχουν ήδη καταγραφεί. Η επισήμανσή του αποκτά ιδιαίτερη σημασία καθώς η τεχνητή νοημοσύνη εξελίσσεται από ένα εργαλείο παραγωγής κειμένου και απαντήσεων σε συστήματα που μπορούν να σχεδιάζουν και να εκτελούν σύνθετες εργασίες, να χρησιμοποιούν εξωτερικές εφαρμογές και να αλληλεπιδρούν με ψηφιακές υποδομές.

Από την πλευρά του, ο επίκουρος καθηγητής Σωτήρης Μπατσάκης θεωρεί επίσης βάσιμους τους φόβους, εστιάζοντας παράλληλα σε μια διαφορετική αλλά εξίσου κρίσιμη παράμετρο, τον ανταγωνισμό μεταξύ τεχνολογικών εταιρειών και κρατών. Όπως επισημαίνει, μιλώντας , στον χώρο κυριαρχεί η λογική «winner takes it all», δηλαδή ο νικητής τα παίρνει όλα.

Σε μια αγορά όπου το τεχνολογικό προβάδισμα μπορεί να μεταφραστεί σε τεράστια οικονομική και γεωπολιτική ισχύ, οι εταιρείες έχουν ισχυρά κίνητρα να επιταχύνουν την ανάπτυξη νέων μοντέλων. Το ερώτημα είναι αν, μέσα σε αυτή την κούρσα, οι απαιτήσεις ασφαλείας μπορούν να διατηρήσουν την προτεραιότητά τους.

Εκατοντάδες δισεκατομμύρια δολάρια στην κούρσα της AI

Τα οικονομικά μεγέθη αποτυπώνουν την ένταση του ανταγωνισμού. Σύμφωνα με το Stanford AI Index 2026, οι παγκόσμιες ιδιωτικές επενδύσεις στην τεχνητή νοημοσύνη αυξήθηκαν κατά 127,5% το 2025, φτάνοντας περίπου τα 345 δισεκατομμύρια δολάρια. Οι συνολικές εταιρικές επενδύσεις, συμπεριλαμβανομένων συγχωνεύσεων και εξαγορών, ανήλθαν σε περίπου 582 δισεκατομμύρια δολάρια. Η ανάπτυξη προηγμένων μοντέλων απαιτεί τεράστια υπολογιστική ισχύ, εξειδικευμένο προσωπικό, πρόσβαση σε δεδομένα και ενεργειακές υποδομές.

Το ερώτημα δεν είναι μόνο αν υπάρχουν τεχνικές λύσεις, αλλά και αν υπάρχει η πολιτική βούληση να εφαρμοστούν. Στις Ηνωμένες Πολιτείες, ο Ντόναλντ Τραμπ έχει εκφράσει την αντίθεσή του σε πρόσθετους κανονιστικούς περιορισμούς που, κατά την άποψή του, θα μπορούσαν να επιβραδύνουν την αμερικανική πρωτοπορία στην τεχνητή νοημοσύνη. Σε δημόσια τοποθέτησή του τον Σεπτέμβριο, υποστήριξε ότι η μόνη δικλίδα ασφαλείας που χρειάζεται η AI είναι ένας «ισχυρός και έξυπνος πρόεδρος».

Η αμερικανική προσέγγιση, πάντως, δεν είναι ενιαία. Σύμφωνα με πρόσφατο δημοσίευμα του Reuters, η κυβέρνηση Τραμπ εμφανίζεται πλέον πιο ανοιχτή στη συνεργασία αμερικανικών εταιρειών με το βρετανικό Ινστιτούτο Ασφάλειας της AI για δοκιμές προηγμένων μοντέλων.

Στην Ευρωπαϊκή Ένωση, αντίθετα, έχει ήδη θεσπιστεί το AI Act, το οποίο προβλέπει συγκεκριμένες υποχρεώσεις για τους παρόχους προηγμένων συστημάτων. Για τα μοντέλα γενικής χρήσης που χαρακτηρίζονται συστημικού κινδύνου, το ευρωπαϊκό πλαίσιο προβλέπει αξιολόγηση και περιορισμό κινδύνων, μέτρα κυβερνοασφάλειας και υποχρέωση αναφοράς σοβαρών περιστατικών.

Οι προειδοποιήσεις και οι αποχωρήσεις από το εσωτερικό της βιομηχανίας

Η ανησυχία δεν προέρχεται μόνο από επικριτές της τεχνολογίας. Τα τελευταία χρόνια, ερευνητές που εργάστηκαν στην ανάπτυξη ορισμένων από τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης έχουν αποχωρήσει από μεγάλες εταιρείες, εκφράζοντας δημόσια προβληματισμούς για την ασφάλεια και την ταχύτητα εξέλιξης των συστημάτων.

Ο πρώην ερευνητής της Anthropic, Τζέικομπ Κόξον, έχει προειδοποιήσει για τους κινδύνους που ενδέχεται να προκύψουν από την ανάπτυξη συστημάτων με ικανότητες ανώτερες των ανθρώπινων, χωρίς επαρκείς εγγυήσεις ασφαλείας. Στο επίκεντρο των ανησυχιών του βρίσκεται το ενδεχόμενο μελλοντικά συστήματα να μπορούν να πραγματοποιούν σύνθετες κυβερνοεπιθέσεις, να αποκτούν πρόσβαση σε πραγματικούς πόρους και να αναπτύσσουν δυνατότητες που θα δυσκολεύουν την ανθρώπινη παρέμβαση.

Χαρακτηριστική είναι και η περίπτωση του Γιαν Λάικε, ο οποίος παραιτήθηκε από την OpenAI τον Μάιο του 2024. Ο Λάικε ήταν επικεφαλής, μαζί με τον συνιδρυτή της εταιρείας Ίλια Σούτσκεβερ, της ομάδας Superalignment, που είχε ως αποστολή την ανάπτυξη μηχανισμών ελέγχου συστημάτων τεχνητής νοημοσύνης με δυνατότητες ανώτερες των ανθρώπινων.

Αποχωρώντας, κατήγγειλε ότι η κουλτούρα ασφάλειας και οι σχετικές διαδικασίες είχαν περάσει σε δεύτερη μοίρα έναντι της ανάπτυξης νέων προϊόντων. Υποστήριξε επίσης ότι η ομάδα του αντιμετώπιζε δυσκολίες στην εξασφάλιση των απαραίτητων υπολογιστικών πόρων και ότι οι διαφωνίες του με τη διοίκηση για τις προτεραιότητες της εταιρείας είχαν φτάσει σε οριακό σημείο.

Την ίδια περίοδο αποχώρησε και ο Ίλια Σούτσκεβερ, συνιδρυτής και τότε επικεφαλής επιστήμονας της OpenAI. Ο ίδιος δεν απέδωσε δημόσια την παραίτησή του σε ζητήματα ασφάλειας, ωστόσο η σχεδόν ταυτόχρονη αποχώρηση των δύο επικεφαλής της Superalignment και η αναδιοργάνωση της ομάδας προκάλεσαν ερωτήματα για τη θέση που κατείχε η έρευνα ασφάλειας στις προτεραιότητες της εταιρείας.

Η συζήτηση αναζωπυρώθηκε τον Οκτώβριο του 2026, όταν η OpenAI απέλυσε τρεις ερευνητές ασφάλειας, τους Τόμεκ Κόρμπακ, Τζάσμιν Γουάνγκ και Μικίτα Μπαλέσνι. Οι τρεις υποστήριξαν ότι είχαν εκφράσει ανησυχίες για την προτεραιότητα που δίνεται στα εταιρικά συμφέροντα έναντι της ασφάλειας. Η OpenAI απέρριψε τον ισχυρισμό ότι οι απολύσεις συνδέονταν με τις ανησυχίες τους, αποδίδοντας την απόφασή της σε παραβιάσεις πολιτικών και εμπιστευτικότητας.

🤖 Η τεχνητή νοημοσύνη μας απειλεί; θα μας πάρει τις δουλειές ή θα αφανίσει το ανθρώπινο είδος; Η AI εξελίσσεται με ιλιγγιώδη ταχύτητα. Τα ανησυχητικά περιστατικά πληθαίνουν, οι ειδικοί προειδοποιούν και η κούρσα για την κυριαρχία στην Α.Ι. συνεχίζεται. Πόσο βάσιμοι είναι τελικά οι φόβοι για το μέλλον μας; 🎙️Χρύσα Παλιεράκη | @chrysa_palieraki 🎥Νίκος Κόλλιας | @nickkollias ✂️Ιάσονας Σιώζος | @jason_kdm

▶ Δείτε το βίντεο

Πηγή – Παραπολιτικά

ΔΙΑΦΗΜΙΣΗ

BUY & SELL IN CYPRUSwww.buyme.cy