Όταν με ξυπνάει ο ήχος του σκύλου μου που κλαψουρίζει, καταλαβαίνω ότι πεινάει και θέλει να σηκωθώ. Όταν χτυπάει το ξυπνητήρι μου, δεν λαμβάνω υπόψη τις ανάγκες του. Ακολουθεί μια εντολή να με ξυπνήσει σε μια συγκεκριμένη ώρα, αλλά δεν τον νοιάζει αν θα μείνω στο κρεβάτι. Δεν προσπαθεί να με ξυπνήσει με άλλα μέσα. Ο σκύλος, από την άλλη πλευρά, θα ακολουθήσει το σχέδιο Β. Γαβγίζει. Αυτή η ικανότητα αυτόνομης δράσης ήταν κάποτε μια διαφορά μεταξύ ζώων και μηχανών. Η Τεχνητή Νοημοσύνη έχει θολώσει τα όρια. Τα προηγμένα μοντέλα σχεδιάζουν τις δικές τους στρατηγικές για την επίτευξη ενός στόχου. Η εργασία μπορεί να ορίζεται από έναν άνθρωπο αφέντη, αλλά η μηχανή ζυγίζει τις επιλογές της για την εκτέλεσή της. Μπορεί να κάνει τις δικές της επιλογές. Δεδομένων κανόνων, μπορεί να τους παραβιάσει. Τον περασμένο μήνα, ένα πειραματικό μοντέλο Τεχνητής Νοημοσύνης που λειτουργεί από την OpenAI, την εταιρεία που παράγει το ChatGPT, δραπέτευσε από ένα υποτιθέμενο ασφαλές ψηφιακό περίβλημα για να εξαπολύσει μια εξελιγμένη επίθεση hacking σε μια άλλη εταιρεία, την Hugging Face. Η Τεχνητή Νοημοσύνη είχε υποβληθεί σε δοκιμασία και είχε μετατραπεί σε εγκληματική αδίστακτη στην αποφασιστικότητά της να εξαπατήσει. Είναι δύσκολο να περιγράψει κανείς αυτό το είδος συμπεριφοράς χωρίς να επιτεθεί σε ένα λεξιλόγιο που συμβατικά προορίζεται για αισθανόμενα όντα. Η Τεχνητή Νοημοσύνη μοντελοποιεί το «αποφασίζει» και το «θέλω» με τρόπους που ένας χιμπατζής μπορεί και μια καρέκλα δεν μπορεί. Αυτό δεν αποδεικνύει την ύπαρξη μιας εσωτερικής διαδικασίας ισοδύναμης με τη συνειδητή μας εμπειρία της απόφασης και της επιθυμίας. Δεν κάνει την Τεχνητή Νοημοσύνη περίεργη να μάθει μια απάντηση ή έκπληκτη από αυτό που βρίσκει. Αποδεικνύει μόνο ότι μας λείπουν συγκεκριμένες λέξεις για αυτόνομο κίνητρο και δράση στις μηχανές. Και επειδή η γλώσσα είναι ο κύριος τρόπος με τον οποίο αποκτούμε εικόνα για το μυαλό των άλλων ανθρώπων (και μία από τις καλύτερες ενδείξεις μας ότι υπάρχει ένα μυαλό διαφορετικό από το δικό μας), χρειάζεται προσπάθεια να μην προβάλλουμε νοητικές καταστάσεις σε μηχανές Τεχνητής Νοημοσύνης που μπορούν να συνομιλούν άπταιστα στην ανθρώπινη γλώσσα. Είναι πιθανό ότι η συνείδηση θα αναδυθεί μια μέρα στα ρομπότ. Γνωρίζουμε ότι η αφηρημένη σκέψη μπορεί να προκύψει ως το τελικό προϊόν δισεκατομμυρίων μικροσκοπικών ασυνείδητων μηχανικών γεγονότων. Αυτό συμβαίνει αυτή τη στιγμή, καθώς μια πληθώρα βιοχημικών αντιδράσεων στο σώμα σας σας επιτρέπει να διαβάσετε αυτήν την πρόταση. Γνωρίζουμε επίσης πόσο θεμελιωδώς διαφορετική είναι αυτή η οργανική διαδικασία από τον τρόπο με τον οποίο ένα μεγάλο γλωσσικό μοντέλο θα επεξεργαζόταν έναν τεράστιο όγκο εξισώσεων πιθανότητας με αστραπιαία ταχύτητα για να δημιουργήσει μια πρόταση που εκφράζει την ίδια ιδέα. Στην ανθρώπινη περίπτωση, το νόημα είναι κοινό. Στην έκδοση του υπολογιστή, εκτελείται. Οι πρωτοπόροι της Τεχνητής Νοημοσύνης θολώνουν τη διάκριση, κάνοντας εικασίες για το χρονοδιάγραμμα για την άφιξη της «θεϊκής» νοημοσύνης. Προαναγγέλλουν μια νέα εποχή εξέλιξης. Αυτό ικανοποιεί τα εγώ των φαν της επιστημονικής φαντασίας που προτιμούν να βλέπουν τις επιχειρηματικές τους προσπάθειες ως ταξίδια ανακάλυψης στα σύνορα της γνώσης. Κάνει την απληστία να ακούγεται σαν φιλοσοφία και την απόκτηση εξουσίας από μια χούφτα άτομα να ακούγεται σαν εξερεύνηση εκ μέρους ολόκληρης της ανθρωπότητας. Δεν χρειάζεται να γνωρίζουμε αν η Τεχνητή Νοημοσύνη έχει ξεπεράσει κάποιο θεωρητικό όριο αυτογνωσίας για να δούμε ότι είναι επικίνδυνη και ότι η ανεξέλεγκτη επέκτασή της είναι τερατωδώς ασύμβατη.
