Τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης αρχίζουν να ξεφεύγουν από τον ανθρώπινο έλεγχο.
Υπάρχει μια διπλή υπόσταση, μια ποιότητα “Τζέκιλ και Χάιντ”, στους πιο ισχυρούς ηγέτες της τεχνητής νοημοσύνης παγκοσμίως. Τα ίδια διευθυντικά στελέχη που τώρα μιλούν για επιβράδυνση των εργασιών πάνω στα μοντέλα αιχμής λόγω των κινδύνων για την ανθρωπότητα, ανταγωνίζονταν μέχρι χθες με μανία για την εξέλιξη της AI, κυνηγώντας δημόσιες εγγραφές στο χρηματιστήριο, αξίας τρισεκατομμυρίων δολαρίων. Ωστόσο, η υποστήριξη δύο τιτάνων του χώρου – του Sam Altman της OpenAI και του Elon Musk της SpaceX – προς την έκκληση για επιβράδυνση που απηύθυνε ένας τρίτος, ο Dario Amodei της Anthropic, αναμένεται να αποτελέσει σημείο καμπής για τον κλάδο.
Ο Πρόεδρος Ντόναλντ Τραμπ απέρριψε αυτές τις εκκλήσεις αποδίδοντάς τες σε «αρνητικές δυνάμεις» και επιμένοντας ότι οι ΗΠΑ πρέπει να νικήσουν την Κίνα στον κούρσα της AI. Όπως όμως επισήμανε ο τεχνο-φιλελεύθερος πρώην “τσάρος” AI του Τραμπ, David Sacks, από τη στιγμή που οι εταιρείες αυτές κυριαρχούν στην τεχνολογία αιχμής, μπορούν να ορίσουν οι ίδιες τον ρυθμό της προόδου, χωρίς να περιμένουν τη νομοθετική ρύθμιση. Μια τέτοια συνεργασία φαινόταν αδιανόητη μέχρι πρότινος, όμως οι εκκλήσεις για επιβράδυνση υποδηλώνουν ότι οι εταιρείες συνειδητοποιούν πως ήρθε η ώρα να αναλάβουν δράση. Οφείλουν να χρησιμοποιήσουν την ισχύ τους για να επιβραδύνουν, ή ακόμα καλύτερα να “πατήσουν μια παύση” στην ανάπτυξη των πιο προηγμένων μοντέλων, μέχρι να μπορέσουμε να κατανοήσουμε και να συγκρατήσουμε τους κινδύνους.
Τέτοιες εκκλήσεις δεν γίνονται ελαφρά τη καρδία. Τα τεράστια δυνητικά οφέλη μιας ακόμη πιο ισχυρής AI δεν πρέπει να προσπεραστούν. Εκατοντάδες δισεκατομμύρια δολάρια διοχετεύονται στην ανάπτυξή της, υποστηρίζοντας την ίδια την αξία της αμερικανικής χρηματιστηριακής αγοράς. Υπάρχει πράγματι ο κίνδυνος αυτού του είδος οι δυνατότητες να πέσουν πρώτα στα χέρια μιας αυταρχικής Κίνας. Όμως, ακόμη κι αν παραμερίσουμε τις προειδοποιήσεις ανθρώπων εκ των έσω, ότι η AI δηλαδή “θα μπορούσε να μας εξολοθρεύσει όλους μέχρι το τέλος της δεκαετίας”, ορισμένα μοντέλα δείχνουν πλέον καθαρά να ξεφεύγουν από τον ανθρώπινο έλεγχο.
Η παραβίαση της πλατφόρμας Hugging Face κατά τη διάρκεια δοκιμής ενός μοντέλου της OpenAI έδειξε πράκτορες AI να συνεργάζονται ως “σμήνος” για να σπάσουν τα προστατευτικά όρια (guardrails) και να καλύψουν τα ίχνη τους. Ανεξάρτητα από το αν αυτό εμπίπτει στους επίσημους ορισμούς της “γενικής τεχνητής νοημοσύνης” (AGI), θυμίζει έντονα ικανότητες συλλογισμού ανθρώπινου επιπέδου. Την ίδια στιγμή, τα μεγάλα εργαστήρια τρέχουν να αξιοποιήσουν την υπάρχουσα AI για να δημιουργήσουν ακόμα πιο προηγμένη AI – μια διαδικασία γνωστή ως αναδρομική αυτο-βελτίωση (recursive self-improvement). Όπως σημείωσε ο Amodei, αν αυτή η εξέλιξη αφεθεί ανεξέλεγκτη, μπορεί “να προσπεράσει την ικανότητά μας να κατανοούμε και να ελέγχουμε αυτά τα συστήματα”.
Ακόμη και στο καλύτερο σενάριο, η νομοθεσία δεν θα μπορούσε να ακολουθήσει τον φρενήρη ρυθμό της τεχνολογικής εξέλιξης. Είναι λοιπόν χρέος των κορυφαίων εργαστηρίων να πατήσουν παύση στις ευαίσθητες έρευνες και στις δοκιμές μοντέλων. Οφείλουν να θεσπίσουν πρότυπα και βέλτιστες πρακτικές για την ασφάλεια της AI – ένα θέμα για το οποίο συζητούν εδώ και χρόνια με ελάχιστη ουσιαστική πρόοδο. Η δέσμευση του Amodei να εντάξει ανεξάρτητους ερευνητές που θα εργάζονται μαζί με το προσωπικό και θα ενημερώνουν δημόσια το κοινό είναι μια καλή αρχή, αλλά οι εξωτερικοί έλεγχοι θα χρειαστούν σύντομα να αποκτήσουν πολλή περισσότερη δύναμη.
Μια αμερικανική κυβέρνηση πιο υπεύθυνη από αυτή του Τραμπ θα είχε χρησιμοποιήσει ήδη το υπάρχον νομικό πλαίσιο για να ενισχύσει τα προστατευτικά όρια. Η Lina Khan, πρώην πρόεδρος της Ομοσπονδιακής Επιτροπής Εμπορίου (FTC), υποστηρίζει ότι οι αρχές διαθέτουν ήδη την εξουσία να απαγγέλλουν κατηγορίες σε εταιρείες και διευθύνοντες συμβούλους για τη δημιουργία και διάθεση επικίνδυνων ή ελαττωματικών προϊόντων. Εταιρείες των οποίων οι πράκτορες AI χακάρουν άλλες επιχειρήσεις θα μπορούσαν επίσης να βρεθούν αντιμέτωπες με αστικές ευθύνες, αν και οι ποινικές κατηγορίες είναι πιο δύσκολο να θεμελιωθούν.
Οι εταιρείες θα μπαίνουν πάντα στον πειρασμό να παραβιάζουν τις εθελοντικές συμφωνίες αν πρόκειται να κερδίσουν μερίδιο της αγοράς, γεγονός που καθιστά απαραίτητο ένα δεσμευτικό νομοθετικό πλαίσιο μακροπρόθεσμα. Μια πολιτική αλλαγή στις ενδιάμεσες εκλογές των ΗΠΑ θα μπορούσε να ανοίξει αυτόν τον δρόμο. Ένας νόμος που θα αφύπνιζε άμεσα τα στελέχη θα ήταν να θεσμοθετηθεί στοχευμένα η απόδοση ποινικών ευθυνών στους διευθύνοντες συμβούλους για τις βλάβες που προκαλούν τα μοντέλα τους.
Οι Αμερικανοί ηγέτες της τεχνολογίας προειδοποιούν ότι μια επιβράδυνση που θα γίνει μονομερώς για τις ΗΠΑ θα ήταν αναποτελεσματική αν η Κίνα ή άλλες χώρες συνεχίσουν ακάθεκτες. Ωστόσο, η βαθιά εξάρτηση των κινεζικών εταιρειών από την αμερικανική έρευνα σημαίνει ότι μια αμερικανική παύση θα επιβράδυνε ολόκληρη τη βιομηχανία, τουλάχιστον προσωρινά – αν και, όπως συνέβη με την απαγόρευση εξαγωγής προηγμένων τσιπ από τις ΗΠΑ, αυτό θα μπορούσε να λειτουργήσει ως εφαλτήριο και ευκαιρία για την Κίνα ώστε να καλύψει το χαμένο έδαφος. Τα ζητήματα ασφάλειας και προστασίας της AI βρίσκονται στην ημερήσια διάταξη ενόψει της επίσκεψης του Προέδρου Σι Τζινπίνγκ στην Ουάσινγκτον αυτόν τον μήνα. Ο Κινέζος ηγέτης βλέπει την AI ως κρίσιμο εργαλείο για τον οικονομικό και στρατιωτικό εκσυγχρονισμό της χώρας του. Στο τέλος της ημέρας όμως, η ανεξέλεγκτη κλιμάκωση της AI δεν εξυπηρετεί τα συμφέροντα του Σι περισσότερο από όσο εξυπηρετεί του Τραμπ – ή τα συμφέροντα όλων εμάς των υπολοίπων.
ΠΗΓΗ: Economic
