Γιατί οι κολοσσοί της AI ζήτησαν ξαφνικά “φρένο” – Τι πραγματικά θέλουν να κερδίσουν

Κατ’ αρχάς, για τον Ντόναλντ Τραμπ δεν υπάρχει τεχνητή νοημοσύνη. Δεν ασπάζεται το Artificial Intelligence.

Στο μυαλό του και στο εξής σε όλα τα σχετικά έγγραφα της αμερικανικής κυβέρνησης, θα αναφέρεται η Super Ιntelligence.

Είχε πει ο άνθρωπος πως “δεν αντέχω τη λέξη artificial, δεν μου αρέσει τίποτα που είναι τεχνητό -σαν ψεύτικο. Δεν είναι τεχνητή αυτή η νοημοσύνη. Είναι σούπερ ευφυής”, οπότε βρήκε κάτι που να αντέχει.

Μάλιστα, πριν καταλήξει στο SI, είχε ζητήσει τη βοήθεια του κοινού του στο Τruth Social, δίνοντας μάλιστα, τρεις επιλογές: το Superior, το Extreme και το Supreme.

Εν τέλει, έκανε ό,τι ένιωθε και καθιέρωσε το Super Intelligence.

Αφότου διέταξε όλες τις κυβερνητικές υπηρεσίες να συνταχθούν, την περασμένη εβδομάδα, ενημέρωσε από το βήμα του ΟΗΕ για τα καθέκαστα και όλον τον κόσμο.

Η πρώτη αναφορά της SI σε επίσημο έγγραφο που φέρει την υπογραφή του προέδρου των ΗΠΑ, ήταν η εθελοντική συμφωνία αυτορρύθμισης της -για όλον τον άλλον κόσμο- τεχνητής νοημοσύνης, την οποία υπέγραψαν τεχνολογικοί κολοσσοί (Google, Anthropic, Meta, OpenAI, xAI, SpaceX και Nvidia), την Τρίτη.

Έχει τίτλο «Κοινή Δέσμευση για τις Ευθύνες στην Αιχμή της Τεχνολογίας» (Joint Commitment on Frontier Responsibilities) και τονίζεται ότι δεν είναι νομικά δεσμευτική, αλλά ηθικά.

Δηλαδή, δεν υπάρχουν κυρώσεις αν κάποιος δεν κάνει ό,τι ορίζεται στη Δέσμευση.

Πώς αλλάζει τις εξελίξεις;

Κράτα πως η ξαφνική ευαισθητοποίηση των τεχνολογικών κολοσσών για την ασφάλεια της AI δεν αποτελεί κάποια αιφνίδια ηθική αφύπνιση, αλλά μια στρατηγική κίνηση τακτικής: ορίζοντας οι ίδιοι τους κανόνες του παιχνιδιού, καταφέρνουν ταυτόχρονα να υψώσουν εμπόδια εισόδου για τους νεότερους ανταγωνιστές και να εξασφαλίσουν «ασυλία» απέναντι στα αναπόφευκτα λάθη των αλγορίθμων τους.

H Κοινή Δέσμευση για τις Ευθύνες στην Αιχμή της Τεχνολογίας.

Truth Social

Στο ντεμπούτο λοιπόν, της SI (αντί ΑΙ) γιατί έτσι το ένιωσε ο Τραμπ, υπήρχε ένα ορθογραφικό λάθος. Όχι στην καινοτομία του προέδρου. Ούτε σε ό,τι αφορούσε τους τεχνολογικούς κολοσσούς.

Το λάθος ήταν στις ΗΠΑ.

Αντί για United States, όπως αποκάλυψε ο Ματ Νόβακ, δημοσιογράφος του Gizmodo -πριν αναρτήσει το έγγραφο και ο Τραμπ-, μπορείς να διαβάσεις το Unites States.

O Nόβακ σχολίασε ότι «αυτό το ορθογραφικό λάθος δείχνει, ίσως, πόσος χρόνος και προσοχή χρειάστηκε, για τη σύνταξη του εγγράφου πριν την υπογραφή και τη δημοσιοποίηση του».

Σε ό,τι αφορά την ουσία της αυτορρύθμισης, αναφέρει τους τρόπους με τους οποίους οι εταιρείες που εκπαιδεύουν και αναπτύσσουν πρωτοποριακά μοντέλα θα πρέπει «να διασφαλίζουν ότι η τεχνολογία τους συμπεριφέρεται όπως προβλέπεται και ότι τυχόν προβλήματα εντοπίζονται και επιλύονται άμεσα».

Προβλέπει τέσσερα επίπεδα ελέγχων και συγκεκριμένα

• ισχυρούς εσωτερικούς ελέγχους, προκειμένου -μεταξύ άλλων- τα μοντέλα να μην κάνουν hacking,
• ομάδα που θα παρακολουθεί αν οι έλεγχοι έχουν αποτέλεσμα,
• ανεξάρτητο εξωτερικό ελεγκτή και
• επιτροπή του διοικητικού συμβουλίου κάθε κολοσσού, που θα λαμβάνει τις αναφορές και θα φροντίζει να διορθώνει το όποιο πρόβλημα.

Οι εταιρείες δεσμεύτηκαν και να συναντιούνται τακτικά, προκειμένου να θέτουν κοινά standards ασφαλείας.

Αν αναρωτιέσαι πως δισεκατομμυριούχοι που μάχονται για την πρωτοκαθεδρία της πιο “καυτής” βιομηχανίας που υπάρχει αυτήν την εποχή, εμφανίστηκαν ενωμένοι και αλληλέγγυοι, η απάντηση δεν είναι “για το καλό της ανθρωπότητας, μπροστά στον κίνδυνο εξαφάνισής της από την ΑΙ”.

Γιατί ενώθηκαν οι ορκισμένοι ανταγωνιστές;

Η τεχνητή νοημοσύνη είναι η πιο ανταγωνιστική και η πιο βαριά χρηματοδοτούμενη βιομηχανία της σήμερον ημέρας, με τεράστιες προσδοκίες για ραγδαίες εξελίξεις τα επόμενα χρόνια.

Όλες οι κυρίαρχες εταιρείες του χώρου, ξοδεύουν εκατοντάδες δισεκατομμυρίων, προκειμένου να ηγηθούν των εξελίξεων και σίγουρα, να μη μείνουν πίσω, καθώς αυτό θα τις θέσει εκτός “παιχνιδιού”.

Η συντριπτική πλειοψηφία των επενδυτών αυτού του πλανήτη, προτιμά την ΑΙ.

Πώς λοιπόν, ιδιώτες, οι οποίοι είναι ο θρίαμβος του καπιταλισμού είχαν κοινό αίτημα και μάλιστα, την ίδια χρονική στιγμή;

Όπως έγραψε το Nautilus η Κοινή Δέσμευση «είναι σαν μια χειραψία, μεταξύ ηγετών ενός κλάδου που είναι γνωστός για τον αδίστακτο ανταγωνισμό και την αδυναμία αυτορρύθμισης και μιας κυβέρνησης που φαίνεται ανταγωνιστική και ηθική στη ρύθμιση».

Ο ψυχολόγος Γκάρι Μάρκους, γνωστός επικριτής της Γενικής Τεχνητής Νοημοσύνης (που έχει ως στόχο τον “εξανθρωπισμό” της ΑΙ) επισήμανε στο Substack πως «διαβάζοντας ανάμεσα στις γραμμές η δέσμευση ισοδυναμεί με το να λένε “1. συμφωνούμε να μην ρυθμιζόμαστε, 2. συμφωνούμε να μη δώσουμε βήμα στο δημόσιο λόγο και 3. εμπιστευτείτε μας”.

Ο πραγματικός λόγος πίσω από τις εκκλήσεις για “φρένο” στην ΑΙ

Οι κολοσσοί της ΑΙ επιμένουν πως έκαναν ό,τι έκαναν, για να επιβραδύνουν τις εξελίξεις, καθώς η πρόοδος της τεχνητής νοημοσύνης ξεπέρασε τις προσδοκίες τους και έχει αρχίσει να γίνεται απειλητική για την ανθρωπότητα.

Ειρήσθω εν παρόδω, αρχικά ο Τραμπ είχε απορρίψει τις εκκλήσεις, λέγοντας μάλιστα πως «είμαστε η πιο εξελιγμένη χώρα στον κόσμο και, ειλικρινά, θέλω να παραμείνει έτσι, επειδή όποιος κερδίσει την Τεχνητή Νοημοσύνη (ήταν πριν την κάνει SI), κερδίζει».

Εν τέλει υπέκυψε.

Γιατί;

Ο Βασίλης Τσαουσίδης, καθηγητής στο Τμήμα Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστή στο Δημοκρίτειο Πανεπιστήμιο Θράκης και συγγραφέας του βιβλίου “Τεχνητή Νοημοσύνη: Ναι και όχι” δίνει όλες τις εξηγήσεις στο Pop Science

Αρχής γενομένης, γιατί εμφανίστηκαν τώρα όλοι οι υπεύθυνοι για την πρόοδο της ΑΙ να ζητούν ελεγκτικές ρυθμίσεις μιας κατάστασης που έχει αρχίσει να γίνεται ανεξέλεγκτη.

«Δεν πρέπει να ερμηνεύσουμε με αφέλεια αυτές τις δηλώσεις. Γενικά, ενέχουν κάποιες απόπειρες και διαφημίσεις των δυνατοτήτων τους εκ μέρους των εταιρειών. Αλλά δεν είναι μόνο αυτό.

Δηλαδή το γεγονός ότι, ας πούμε, οι εταιρείες επιχειρούν να ελεγχθούν σε αυτή τη φάση ενέχει πολλές παραμέτρους.

• Πρώτα ότι αν ελεγχθούν τώρα, θα καθορίσουν αυτές τους κανόνες του ελέγχου, σε μεγάλο βαθμό.
• Δεύτερον πως οι ελεγκτικοί κανόνες μπορούν πράγματι να εξουθενώσουν κάποιες μικρότερες εταιρείες, οι οποίες δεν μπορούν να αντέξουν τη γραφειοκρατία των νόμων και του θεσμικού πλαισίου και επομένως θα περιορίσουν τον υγιή ανταγωνισμό».

Ποιος λοιπόν, είναι ο πραγματικός λόγος που οι ίδιοι οι τεχνολογικοί κολοσσοί των ΗΠΑ ζητούν να επιβραδυνθεί ο ρυθμός ανάπτυξης της AI;

«Ένας λόγος που ζητούν τώρα οι ίδιες οι εταιρείες στην Αμερική να ανακοπεί ο ρυθμός είναι το γεγονός ότι θέλουν και οι ίδιες να απαλλαγούν από τις αστοχίες που ενδεχομένως να συμβούν.

«Δηλαδή και μόνο που λένε ότι “θέλουμε ένα θεσμικό πλαίσιο να μας ελέγξει”, είναι ως ένα βαθμό απαλλαγή από το δόλο, σε περίπτωση αστοχίας».

«Οι εταιρείες θέλουν να σιγουρευτούν ότι δεν θα λογοδοτούν για πράγματα που δεν μπορούν να εγγυηθούν».

Ποιος φταίει όταν η ΑΙ βομβαρδίζει σχολείο -όπως στο Ιράν;

Πλατφόρμα ΑΙ χρησιμοποιούν οι ΗΠΑ στον πόλεμο στο Ιράν και το Ισραήλ σε όλα τα μέτωπα. Είναι μάλιστα, της ίδιας εταιρείας.

Το Maven Smart System επεξεργάζεται έναν τεράστιο όγκο δεδομένων, πριν βρει στόχους και αναλάβει την εκτέλεση τους. Μπορεί να πλήττει παράλληλα έως και 1.000 στόχους, την ώρα.

Στο Ιράν έπληξε ένα σχολείο, στο οποίο βρίσκονταν εκείνη την ώρα παιδιά.

Έγινε δηλαδή, λάθος. Ποιος έφταιξε για αυτό;

• Ο άνθρωπος που έφτιαξε την πλατφόρμα πολέμου;
• Αυτός που ενέκρινε τα χτυπήματα που πρότεινε η ΑΙ;
• Η ίδια η ΑΙ;

Ο κύριος Τσαουσίδης λέει πως «ουσιαστικά για κάθε τέτοια αστοχία, δεν λογοδοτεί κανείς», πριν τονίσει κάτι πολύ πιο ανησυχητικό.

 «Η αστοχία σε αυτή τη φάση είναι αναμενόμενη, γιατί η τεχνητή νοημοσύνη ουσιαστικά είναι στατιστική και πιθανότητες, άρα κανείς δεν μπορεί να εγγυηθεί ένα αποτέλεσμα 100%».

«Άρα την ευθύνη για κάθε τέτοια εφαρμογή, είτε αφορά την υγεία, είτε αφορά στρατιωτικές εφαρμογές, είτε τραπεζικά συστήματα κλπ, πρέπει να την έχει κάποιος άνθρωπος.

Ο ίδιος άνθρωπος βέβαια, θα μπορούσε να χρησιμοποιήσει την ΑΙ ως “Δούρειο Ίππο”, για να απαλλαγεί από αυτήν την ευθύνη, με την έννοια ότι εμπιστεύεται ένα λογισμικό και για αυτό το λόγο κάνει αυτό που του λέει».

Στην περίπτωση των πολέμων «φανταστείτε τώρα ότι έχουμε ένα στρατηγό, παραδείγματος χάριν, ο οποίος αποφασίζει να βομβαρδίσει τρομοκράτες, αλλά το οπλικό σύστημα που χρησιμοποιεί η ΑΙ, αστοχεί και προκειμένου να πετύχει τον στόχο της, βομβαρδίζει το διπλανό σχολείο.

Ο στρατηγός προφανώς δεν βομβάρδισε με δόλο το σχολείο.

Αυτός που έφτιαξε το σύστημα προφανώς δεν ήθελε να αστοχήσει και να βομβαρδίσει το σχολείο.

Άρα κανείς δεν αναλαμβάνει την ευθύνη για το λάθος και όλοι απαλλάσσονται από το δόλο.

Αυτό μπορεί να το βρει κανείς και σε ένα γιατρό που χρησιμοποιεί ΑΙ και την εμπιστεύεται ή σε έναν οδηγό που έχει ένα αυτόνομο όχημα και τρακάρει.

Το ίδιο ισχύει παντού. Άρα η λογοδοσία είναι ένα βασικό ζήτημα».

Γιατί η ΑΙ δεν μας δίνει πάντα σωστές απαντήσεις;

Το υπάρχον πλαίσιο της AI εξαφανίζει την λογοδοσία από την εικόνα, η οποία όμως εμπεριέχει και ένα τεχνικό ζήτημα που ούτως ή άλλως δεν μπορεί να υποστηρίξει η ΑΙ: είναι οι ερμηνευσιμότητα της τεχνητής νοημοσύνης. Το γιατί κάθε ενέργειάς της.

«Δεν είναι εξηγήσιμο από τον άνθρωπο πάντα ή μάλλον συχνότερα το γιατί ένα πρόγραμμα ΑΙ επιλέγει να κάνει μία ενέργεια.

Μπορεί αυτή να είναι βέλτιστη η ενέργεια που κάνει, αλλά εμείς δεν ξέρουμε το λόγο.

Έχει πολύ μεγάλη σημασία να μπορούμε να αντιληφθούμε τη διαδικασία της απόφασης, Να μην πάμε, δηλαδή κατευθείαν στην υιοθέτηση της απόφασης της ΑΙ, αν δεν μπορούμε να την εξηγήσουμε, διότι τότε δεν μπορούμε να αναλάβουμε και την ευθύνη.

Άρα η λογοδοσία που είναι πολύ βασική, έχει να κάνει με την ερμηνευσιμότητα, η οποία είναι ακόμα σε ένα στάδιο που τεχνικά δεν είναι εγγυημένη.

Συχνά είναι εγγυημένη ότι δεν υπάρχει.

Παρόλα αυτά, τα αποτελέσματα είναι πολύ καλά και τα χρησιμοποιούμε συνήθως» και… ό,τι γίνει.