Στον απόηχο της «ομολογίας» του εκτελεστικού διευθυντή της αμερικανικής εταιρίας τεχνητής νοημοσύνης (ΑΙ) Anthropic, Ντάριο Αμοντέι για κίνδυνο απώλειας ελέγχου των συστημάτων τεχνητής νοημοσύνης, τα διεθνή μέσα ενημέρωσης επικεντρώνονται σε δύο συγκυρίες.
Η πρώτη είναι ότι ο Αμοντέι μίλησε με διαφορά μόλις τεσσάρων ημερών από την ξαφνική παραίτηση του 27χρονου ερευνητή Τζέικομπ Κόξον που εργαζόταν στην OpenAI πριν ενταχθεί στον κύριο ανταγωνιστή της, την Anthropic και προειδοποίησε περί επερχόμενης «καταστροφής της ανθρωπότητας».
Δεύτερη σύμπτωση, χαρακτηρίζεται, ότι οι δηλώσεις Αμοντέι συνέπεσαν με την καθιερωμένη κάθε Σεπτέμβριο, συγκέντρωση στελεχών από τη Σίλικον Βάλεϊ στο ξενοδοχείο Palace του Σαν Φρανσίσκο που χαρακτηρίζεται ως «επιχείρηση γοητείας» επενδυτών, με διοργανωτή την επενδυτική τράπεζα Goldman Sachs.
«Στοιχεία του κλάδου έχουν υποδείξει ότι τα σχόλια σχετικά με τους κινδύνους και τη δύναμη της Τεχνητής Νοημοσύνης μπορεί να έχουν σχεδιαστεί για να προκαλέσουν δημοσιότητα. Άλλοι επικριτές λένε ότι η Anthropic προσπαθεί να πυροδοτήσει μια ρυθμιστική ώθηση για να μπλοκάρει τον ανταγωνισμό, αφήνοντας την ίδια και την OpenAI σε ένα μονοπωλιακό δίδυμο», αναφέρει το BBC.
Ο επικεφαλής της Nvidia, Jensen Huan έχει ήδη διαφοροποιηθεί δηλώνοντας ότι η ιδέα ότι η Τεχνητή Νοημοσύνη «θα είναι το τέλος της ανθρωπότητας» είναι «εντελώς ανοησία».
Aντίθετα, ο Ίλον Μασκ και ο Διευθύνων Σύμβουλος της OpenAΙ Σαμ Άλτμαν δήλωσαν ήδη ότι συμφωνούν με την «έκκληση επιβράδυνσης» του Αμοντέι, αναφέρουν οι Financial Times.
Rivals Altman and Musk rally behind Dario Amodei’s call for an AI slowdown https://t.co/9wOYcIy2UO
— Financial Times (@FT)
Η «γραμμή επιβράδυνσης και αυστηρότερων ελέγχων» που όρισε ο επικεφαλής της Anthropic, φαίνεται να καθησυχάζει τους επενδυτές, σχολιάζει το BBC, καθώς μάλιστα ο Αμοντέι διαβεβαιώνει ότι ανεξάρτητοι αξιολογητές θα έχουν μόνιμη πρόσβαση στα συστήματα ώστε να μπορούν να εποπτεύουν για όποια κατάχρηση της τεχνητής νοημοσύνης για κυβερνοεπιθέσεις και βιοτρομοκρατία, ή οικονομικές αναταραχές, που, όπως τόνισε, θα υποκινείται από εμπορικά κίνητρα.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
— Dario Amodei (@DarioAmodei)
Ανήσυχη η κοινή γνώμη
Ένας από τους κινδύνους που περιγράφονται στα σχόλια του Aμοντέι είναι σμήνος από τα νέα μοντέλα να λειτουργήσουν ως υπερυπολογιστές και να καταλάβουν το διαδίκτυο μέσα σε 6–12 μήνες.
Η Anthropic ανακοίνωσε τον Απρίλιο ότι απέκρυπτε το μοντέλο Mythos από τη δημόσια χρήση επειδή θα μπορούσε να ξεφύγει ανεξάρτητα από το περιβάλλον δοκιμών, γνωστό ως sandbox.
Η OpenAI αποκάλυψε επίσης ότι ορισμένες πτυχές της ανάπτυξης του πρόσφατου μοντέλου Astra διακόπηκαν, επικαλούμενη ανησυχίες για την κυβερνοασφάλεια.
Μόλις την προηγούμενη Πέμπτη, η Anthropic ανακοίνωσε ότι εντόπισε απειλητικούς παράγοντες που προσπαθούσαν να χρησιμοποιήσουν την τεχνολογία τεχνητής νοημοσύνης της για δραστηριότητες, συμπεριλαμβανομένης της ανάπτυξης βιολογικών όπλων και της κυβερνοκατασκοπείας.
Το περιστατικό με τα bots της OpenAI είναι το σοβαρότερο μέχρι σήμερα, όμως η Anthropic και η Meta αποκάλυψαν επίσης μέσα στο καλοκαίρι ότι τα μοντέλα τους είχαν πραγματοποιήσει παρόμοιες, αν και λιγότερο σοβαρές, κυβερνοεπιθέσεις. Υπήρξαν και άλλες περιπτώσεις στις οποίες πράκτορες ΑΙ φάνηκε να επιδεικνύουν χαρακτηριστικά εξαπάτησης και χειραγώγησης, με μικρότερες συνέπειες.
Σε πιο καθημερινά «κρούσματα», εργαζόμενος στον τεχνολογικό κλάδο της Αυστραλίας ζήτησε από τον ΑΙ βοηθό του να του κλείσει θέση σε ένα μάθημα γυμναστικής. Όταν εντόπισε μια ευπάθεια στο λογισμικό του γυμναστηρίου, ο βοηθός φέρεται να έκλεισε θέση για τον χρήστη αρκετούς μήνες νωρίτερα – κατά παράβαση των κανόνων του γυμναστηρίου – και μάλιστα αφαίρεσε άλλους χρήστες από τη λίστα αναμονής.
Με πληροφορίες από BBC, CNN, Reuters
Διαβάστε επίσης: ΑΙ: Γιατί αυξάνονται οι φόβοι ότι μπορεί να ξεφύγει από τον ανθρώπινο έλεγχο
Πηγή:
