Anthropic: Το Claude AI «μπλοκάρει» τους αγενείς χρήστες

Μπορεί ένας χρήστης να ασκήσει ψυχολογική βία σε έναν αλγόριθμο; Για την Anthropic, η απάντηση είναι καταφατική και επιφέρει ποινές.

Η εταιρεία προχώρησε σε μια αμφιλεγόμενη αναθεώρηση της πολιτικής χρήσης του δημοφιλούς AI μοντέλου της, Claude, ανακοινώνοντας ότι στο εξής θα έχει τη δυνατότητα να τερματίζει μονομερώς συνομιλίες με χρήστες που επιδεικνύουν επανειλημμένα κακοποιητική ή ακραία αγενή συμπεριφορά.

Η κίνηση αυτή, η οποία αποκαλύφθηκε αρχικά από το The Verge, εγείρει σοβαρά ερωτήματα σχετικά με τα όρια της ανθρώπινης αλληλεπίδρασης με τα Large Language Models (LLMs) και την τάση της βιομηχανίας να αποδίδει ανθρώπινα χαρακτηριστικά στον κώδικα.

Η Anthropic έσπευσε να διευκρινίσει ότι το μέτρο-πέλεκυς θα εφαρμόζεται αποκλειστικά σε «ακραίες περιπτώσεις» συστηματικής κακοποίησης. Η εταιρεία διαβεβαιώνει ότι οι συνήθεις εκδηλώσεις εκνευρισμού από την πλευρά των χρηστών ή η έντονη, επίμονη αμφισβήτηση των απαντήσεων του Claude δεν εμπίπτουν στις απαγορεύσεις.

Ωστόσο, η απουσία ενός αυστηρού, αντικειμενικού ορισμού για το τι συνιστά «σκληρή συμπεριφορά» απέναντι σε ένα chatbot αφήνει περιθώρια για παρερμηνείες.

Προστασία της ευγένειας ή επικίνδυνη εξανθρωποποίηση;

Η ανακοίνωση πυροδότησε έντονο διάλογο στα μέσα κοινωνικής δικτύωσης. Μια μερίδα χρηστών και αναλυτών συμπεριφοράς υποδέχτηκε θετικά την αλλαγή, υποστηρίζοντας ότι η κανονικοποίηση της αγένειας απέναντι στις μηχανές σταδιακά διαβρώνει τον τρόπο με τον οποίο οι άνθρωποι επικοινωνούν μεταξύ τους στον πραγματικό κόσμο.

Στον αντίποδα, η κριτική υπήρξε σφοδρή, με αρκετούς να κάνουν λόγο για «βαθιά λανθασμένη» προσέγγιση. Το βασικό επιχείρημα είναι ότι η χρήση του νομικού και κοινωνικού όρου «κακοποίηση» για την περιγραφή της διάδρασης με ένα λογισμικό, υποβαθμίζει τη σοβαρότητα της πραγματικής κακοποίησης που υφίστανται άνθρωποι και ζώα.

Ενδεικτική είναι η τοποθέτηση του δρος Μπάρι Σκάνελ, εταίρου στον τομέα της τεχνολογίας στη νομική εταιρεία William Fry. «Δεν μπορείς να είσαι κακοποιητικός απέναντι στους αριθμούς και τα μαθηματικά», σχολίασε καυστικά μέσω του LinkedIn. «Αυτός ο βαθμός απόδοσης ανθρώπινων χαρακτηριστικών στην τεχνητή νοημοσύνη είναι επιβλαβής. Οδηγεί τους ανθρώπους να πιστεύουν ότι αυτά τα μοντέλα είναι κάτι που στην πραγματικότητα δεν είναι».

Φρένο στα deepfakes και την πολιτική παραπληροφόρηση

Η αναθεώρηση της πολιτικής της Anthropic δεν περιορίστηκε στους «καλούς τρόπους», αλλά άγγιξε και τον πυρήνα της ψηφιακής ασφάλειας και της δημοκρατικής διαδικασίας, προσθέτοντας νέες απαγορευμένες μορφές χρήσης:

• Ψηφιακή κακοποίηση: Απαγορεύεται ρητά η δημιουργία προσωπικών εικόνων σεξουαλικού περιεχομένου (deepfakes) χωρίς τη συναίνεση των εικονιζόμενων προσώπων, καθώς και η προώθηση του αυτοτραυματισμού.
• Εκλογική ακεραιότητα: Ενόψει των ενδιάμεσων εκλογών στις ΗΠΑ, το Claude θωρακίζεται απέναντι σε «παραπλανητικές εκστρατείες». Η εταιρεία απαγορεύει ρητά τη χρήση του μοντέλου για την παραπλάνηση των ψηφοφόρων ή τη διατάραξη των εκλογικών διαδικασιών, ευθυγραμμιζόμενη με την ευρύτερη προσπάθεια της βιομηχανίας να αναχαιτίσει την AI-generated προπαγάνδα.

Πηγή – Startupper

ΔΙΑΦΗΜΙΣΗ

BUY & SELL IN CYPRUSwww.buyme.cy