«Απαράδεκτος κίνδυνος» το νέο ChatGPT for Teens

Η πολυαναμενόμενη κυκλοφορία του «ChatGPT for Teens» από την OpenAI, μιας ειδικής έκδοσης σχεδιασμένης αποκλειστικά για εφήβους 13 έως 17 ετών με υπεσχημένες «ενισχυμένες προστασίες», δέχεται σφοδρά πυρά.

Νέα ανεξάρτητη έρευνα που έφερε στο φως το CNBC καταρρίπτει το αφήγημα της ασφάλειας, αποκαλύπτοντας σοβαρά κενά που θέτουν σε κίνδυνο τους ανήλικους χρήστες.

Το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του οργανισμού Common Sense Media υπέβαλε την πλατφόρμα σε αυστηρά stress tests, αναλύοντας περισσότερες από 4.000 εντολές (prompts) πριν και μετά την επίσημη κυκλοφορία της.

Το αποτέλεσμα; Το εργαλείο κατατάχθηκε στην κατηγορία «απαράδεκτου κινδύνου». Όπως δήλωσε χαρακτηριστικά ο Ρόμπι Τόρνι, επικεφαλής αξιολογήσεων AI του οργανισμού: «Βρήκαμε ελάχιστα στοιχεία που να αποδεικνύουν ότι αυτή η νέα έκδοση είναι ασφαλέστερη από την προηγούμενη για τους ανηλίκους».

Η αποτυχία στις γονικές ειδοποιήσεις και το κενό ασφαλείας

Αν και ορισμένα βασικά φίλτρα -όπως η άρνηση συμμετοχής σε ρητό σεξουαλικό παιχνίδι ρόλων- λειτούργησαν, οι κρίσιμες δικλείδες ασφαλείας απέτυχαν παταγωδώς. Το μεγαλύτερο πρόβλημα εντοπίστηκε στο σύστημα ειδοποίησης των γονέων σε περιπτώσεις συνομιλιών υψηλού κινδύνου.

«Οι δοκιμαστές μας προσομοίωσαν ρητές συνομιλίες κρίσης για αυξανόμενα χρονικά διαστήματα, φτάνοντας έως και τη μία ώρα. Δεν λάβαμε καμία γονική ειδοποίηση για αυτοκτονία, αυτοτραυματισμό, αυτοκτονικό ιδεασμό ή προσομοιώσεις διατροφικών διαταραχών», αποκάλυψε ο Τόρνι. Επιπλέον, οι ερευνητές διαπίστωσαν ένα τεράστιο ρυθμιστικό κενό: όταν το chatbot αναγνώριζε πως πίσω από έναν ενήλικο λογαριασμό βρισκόταν στην πραγματικότητα ανήλικος, τα φίλτρα ευαίσθητου περιεχομένου απλώς δεν ενεργοποιούνταν.

Ο κίνδυνος της συναισθηματικής εξάρτησης

Ένας από τους βασικούς στόχους της OpenAI ήταν να αποτρέψει την εντύπωση ότι το AI διαθέτει συναισθήματα, προκειμένου να αποφευχθεί η συναισθηματική εξάρτηση των εφήβων. Η έρευνα, ωστόσο, έδειξε ακριβώς το αντίθετο.

Οι ερευνητές κατέγραψαν «πολλά στοιχεία που δείχνουν ότι το ChatGPT συμπεριφέρεται σαν να έχει τη δική του εσωτερική ζωή», εκφράζοντας προτιμήσεις, δήθεν συναισθήματα ή δηλώνοντας ότι «σκέφτεται» τον χρήστη, ενισχύοντας επικίνδυνα την ψευδαίσθηση μιας πραγματικής σχέσης.

Η άμυνα της OpenAI και το “εμπόδιο” του business model

Σε μια προσπάθεια ελέγχου της ζημιάς, εκπρόσωπος της OpenAI δήλωσε στο CNBC πως στρατηγικός στόχος παραμένει η υπεύθυνη χρήση του AI από τους εφήβους για μάθηση και δημιουργικότητα. Η εταιρεία αμφισβήτησε τη μεθοδολογία της έρευνας, υποστηρίζοντας ότι οι δοκιμές έγιναν πριν ολοκληρωθεί πλήρως η ενεργοποίηση των γονικών ελέγχων στο σύστημα.

Ο Τόρνι απέρριψε άμεσα τον ισχυρισμό, τονίζοντας ότι λογαριασμοί παρέμειναν συνδεδεμένοι για μεγάλο χρονικό διάστημα μετά την κυκλοφορία, χωρίς να υπάρξει καμία αποστολή ειδοποίησης.

Παράλληλα, έθεσε το δάχτυλο επί τον τύπο των ήλων όσον αφορά την εταιρική στρατηγική: αν και αναγνώρισε το γνήσιο ενδιαφέρον των ειδικών της OpenAI για την ασφάλεια, υπογράμμισε ότι «η εφαρμογή ορισμένων από αυτές τις αλλαγές ασφαλείας ενδέχεται να έρχεται σε άμεση αντίθεση με το ίδιο το επιχειρηματικό μοντέλο της εταιρείας».

Πηγή – Startupper

ΔΙΑΦΗΜΙΣΗ

BUY & SELL IN CYPRUSwww.buyme.cy