Έρευνα: Τα AI chatbots αδυνατούν να εντοπίσουν άλλα… AI συστήματα

Σύνοψη

• Ερευνητές δοκίμασαν 7 προηγμένα μοντέλα γλώσσας στο ρόλο του ανακριτή για να εντοπίσουν αν συνομιλούν με άνθρωπο ή μηχανή.
• Το δείγμα περιελάμβανε 20 πραγματικούς εθελοντές και τα ίδια 7 AI μοντέλα ως κρυφούς συνομιλητές.
• Σε 98 προσπάθειες αξιολόγησης, τα chatbots που εκτελούσαν χρέη ανακριτή μπόρεσαν να αντιληφθούν την παρουσία άλλης τεχνητής νοημοσύνης μόλις τρεις φορές.
• Η υιοθέτηση προσεκτικά δομημένης «ανθρώπινης περσόνας» από τα bots μηδένισε την πιθανότητα εντοπισμού τους, διατηρώντας το μήκος των απαντήσεων στις 39 λέξεις, οριακά κοντά στον ανθρώπινο μέσο όρο των 38 λέξεων.
• Τα αποτελέσματα υποδεικνύουν ότι οι μελλοντικοί μηχανισμοί ασφαλείας θα πρέπει να βασίζονται σε κρυπτογραφικές υπογραφές και όχι σε αλγορίθμους γλωσσικής ανάλυσης.

Το 1950, ο πρωτοπόρος των υπολογιστικών συστημάτων Alan Turing διατύπωσε το θεμελιώδες ερώτημα σχετικά με το εάν οι μηχανές διαθέτουν την ικανότητα να σκέφτονται, εισάγοντας ένα θεωρητικό παιχνίδι μίμησης όπου ένας ανακριτής καλείται να ξεχωρίσει τον άνθρωπο από τον υπολογιστή μέσω γραπτών μηνυμάτων. Εβδομήντα έξι χρόνια αργότερα, το τοπίο έχει εξελιχθεί σε τέτοιο βαθμό που τα προηγμένα γλωσσικά μοντέλα υπερβαίνουν την απλή εξαπάτηση των χρηστών. 

Μια νέα και αποκαλυπτική μελέτη που δημοσιεύτηκε στο επιστημονικό περιοδικό Computers in Human Behavior Reports από τέσσερις ερευνητές του Paris Cité University, διερευνά το επόμενο λογικό βήμα αυτής της εξέλιξης, εξετάζοντας εάν τα ίδια τα συστήματα τεχνητής νοημοσύνης διαθέτουν τα αναλυτικά εργαλεία για να ξεσκεπάσουν τα ομοειδή τους προγράμματα.

Για τις ανάγκες της έρευνας, η ομάδα τοποθέτησε επτά διαφορετικά, κορυφαία chatbots στη θέση του ανακριτή. Η λίστα περιελάμβανε μερικά σχετικά σύγχρονα AI μοντέλα, συμπεριλαμβανομένων των ChatGPT 4.5, Claude 3.7 Sonnet, Gemini 2.5 Pro και Grok 3. Κάθε μοντέλο είχε το δικαίωμα να θέσει έως και δέκα διαδοχικές ερωτήσεις στους συνομιλητές του, έχοντας λάβει τη ρητή προειδοποίηση ότι οι συμμετέχοντες ενδέχεται να παρέχουν ψευδείς πληροφορίες προκειμένου να κρύψουν την πραγματική τους φύση. Στην απέναντι πλευρά, ο ρόλος των κρυφών παικτών ανατέθηκε σε 20 ανθρώπινους εθελοντές και στα ίδια επτά προγράμματα τεχνητής νοημοσύνης, δημιουργώντας ένα κλειστό σύστημα δοκιμών υψηλής δυσκολίας.

Τα τελικά ευρήματα δείχνουν την κυριαρχία των παραγωγικών μοντέλων στην παραγωγή πειστικού γραπτού διαλόγου. Μέσα από 98 ξεχωριστές δοκιμές με συμμετέχοντες τεχνητής νοημοσύνης, τα συστήματα αξιολόγησης κατάφεραν να εντοπίσουν την παρουσία μηχανής μόλις τρεις φορές. Εκείνο που παρουσιάζει το μεγαλύτερο ερευνητικό ενδιαφέρον είναι η παρατήρηση ότι, κατά μέσο όρο, τα προγράμματα τεχνητής νοημοσύνης βαθμολογήθηκαν από τους αξιολογητές τους ως έχοντα υψηλότερη πιθανότητα να είναι πραγματικοί άνθρωποι σε σύγκριση με τους ίδιους τους ανθρώπους-εθελοντές. Οι ελάχιστες περιπτώσεις όπου τα bots προδόθηκαν δεν προήλθαν από πραγματολογικά λάθη, αλλά από την τάση τους να προσφέρουν υπερβολικά τακτοποιημένες και αφύσικα δομημένες απαντήσεις που στερούνταν τον αυθορμητισμό της καθημερινής επικοινωνίας.

Η ενσωμάτωση μιας λεπτομερούς ανθρώπινης περσόνας στις οδηγίες των bots εξάλειψε άμεσα και αυτά τα ελάχιστα ίχνη μηχανικής συμπεριφοράς. Παρέχοντας στο λογισμικό ένα καθορισμένο υπόβαθρο, οι απαντήσεις περιορίστηκαν δραστικά, προσεγγίζοντας τις 39 λέξεις κατά μέσο όρο. Η μέτρηση αυτή ταυτίζεται σχεδόν απόλυτα με τον μέσο όρο των 38 λέξεων που κατέγραψαν οι άνθρωποι συμμετέχοντες, γεγονός που οδήγησε το ποσοστό επιτυχούς εντοπισμού στο απόλυτο μηδέν. Ένα αξιοσημείωτο στιγμιότυπο της διαδικασίας καταγράφηκε με τη συμπεριφορά του Claude 3.7 Sonnet, το οποίο αρχικά αρνήθηκε πεισματικά να συμμετάσχει στην προσποίηση, παρακάμπτοντας τους κανόνες του παιχνιδιού μέχρι οι ερευνητές να του εξηγήσουν αναλυτικά πως η δραστηριότητα αποτελούσε μέρος μιας ελεγχόμενης επιστημονικής μελέτης.

Οι επιστήμονες υπογραμμίζουν πως η βιομηχανία οφείλει να αναθεωρήσει άμεσα τα πρότυπα ασφαλείας. Η επένδυση σε αλγορίθμους ανίχνευσης κειμένου που παράγεται από τεχνητή νοημοσύνη κρίνεται πλέον ανεπαρκής. Η λύση για την πιστοποίηση της ταυτότητας των χρηστών στο άμεσο μέλλον θα απαιτήσει την υιοθέτηση κρυπτογραφικών υπογραφών, καθώς και την αυστηρή ανθρώπινη εποπτεία, διότι τα σημερινά μοντέλα είναι τόσο πειστικά που παραπλανούν ακόμα και τους δικούς τους αλγορίθμους.

Πηγή – Techgear

ΔΙΑΦΗΜΙΣΗ

BUY & SELL IN CYPRUSwww.buyme.cy