Anthropic: Απαγορεύει την «κακοποιητική» συμπεριφορά προς την τεχνητή νοημοσύνη – Πότε θα διακόπτεται η συνομιλία με το Claude

Αντιδράσεις προκαλεί η απόφαση της Anthropic να απαγορεύσει στους χρήστες την παρατεταμένη και αδικαιολόγητη κακοποιητική συμπεριφορά προς τα συστήματα τεχνητής νοημοσύνης της. Η εταιρεία που δημιούργησε το Claude επικαιροποίησε την πολιτική χρήσης της, δίνοντας στα εργαλεία της τη δυνατότητα να τερματίζουν συνομιλίες σε περιπτώσεις ακραίας και επαναλαμβανόμενης κατάχρησης.

Η νέα πρόβλεψη αναφέρεται πλέον ρητά στις απαγορευμένες συμπεριφορές, μαζί με τον εκφοβισμό άλλων ανθρώπων, την προώθηση του αυτοτραυματισμού και τη δημιουργία μη συναινετικού προσωπικού ερωτικού υλικού.

Η Anthropic διευκρινίζει ότι το μέτρο θα εφαρμόζεται μόνο σε ακραίες περιπτώσεις επαναλαμβανόμενης κακοποιητικής συμπεριφοράς. Δεν θα αφορά, σύμφωνα με την εταιρεία, τη συνηθισμένη έκφραση δυσαρέσκειας, την αμφισβήτηση των απαντήσεων, τα σκοτεινά θέματα δημιουργικής γραφής ή τις δοκιμές και την έρευνα πάνω στα μοντέλα.

Ωστόσο, παραμένει ασαφές τι ακριβώς θα θεωρείται «κακοποιητική ή σκληρή συμπεριφορά» απέναντι στα συστήματα τεχνητής νοημοσύνης.

Διχασμός για το αν μπορεί κανείς να είναι «σκληρός» απέναντι στην AI

Η αλλαγή της πολιτικής, η οποία έγινε γνωστή μέσα από αναρτήσεις στα μέσα κοινωνικής δικτύωσης, προκάλεσε αντικρουόμενες αντιδράσεις. Ορισμένοι τη χαιρέτισαν ως ενίσχυση της ευγένειας στην επικοινωνία με την τεχνητή νοημοσύνη, ενώ άλλοι αμφισβήτησαν τη σκοπιμότητά της.

«Δεν μπορείς να είσαι σκληρός απέναντι σε αριθμούς και μαθηματικά», έγραψε στο LinkedIn ο δρ Μπάρι Σκάνελ, εταίρος στον τομέα της τεχνολογίας στη νομική εταιρεία William Fry της Ιρλανδίας.

Ο ίδιος υποστήριξε ότι η υπερβολική ανθρωπομορφοποίηση της τεχνητής νοημοσύνης είναι επιζήμια, καθώς μπορεί να οδηγήσει τους ανθρώπους να πιστέψουν ότι τα συστήματα αυτά είναι κάτι διαφορετικό από αυτό που πραγματικά είναι.

Στο θέμα παρενέβη και ο Μουσταφά Σουλεϊμάν, επικεφαλής της Microsoft στον τομέα της τεχνητής νοημοσύνης, ο οποίος είχε επικρίνει τον Σεπτέμβριο την Anthropic για την αντιμετώπιση της AI σαν να ήταν άνθρωπος. Σχολίασε τη νέα αλλαγή με ένα emoji που απεικονίζει ένα πρόσωπο να λιώνει.

Οι νέοι κανόνες για τις εκλογές και τις παραπλανητικές εκστρατείες

Η απαγόρευση της κακοποιητικής συμπεριφοράς προς τα μοντέλα δεν ήταν η μόνη αλλαγή στην πολιτική χρήσης της Anthropic. Η αναθεώρηση, που πραγματοποιήθηκε στο πλαίσιο της ετήσιας αξιολόγησης των κανόνων της εταιρείας, περιλαμβάνει και νέες προβλέψεις για αναδυόμενους κινδύνους.

Μεταξύ άλλων, απαγορεύεται η χρήση του Claude για παραπλανητικές εκστρατείες, ενώ διευκρινίζεται ότι το εργαλείο δεν μπορεί να χρησιμοποιείται για την εξαπάτηση ψηφοφόρων ή τη διατάραξη εκλογικών διαδικασιών, ενόψει των ενδιάμεσων εκλογών στις ΗΠΑ.

Η εταιρεία αναφέρει επίσης ότι η προηγούμενη πολιτική της απαγόρευε ήδη τη χρήση των εργαλείων της για την ανάπτυξη όπλων.

Πρέπει να λέμε «παρακαλώ» και «ευχαριστώ» στην τεχνητή νοημοσύνη;

Η απόφαση αναζωπυρώνει τη συζήτηση για τον τρόπο με τον οποίο πρέπει να επικοινωνούν οι άνθρωποι με τα εργαλεία παραγωγικής τεχνητής νοημοσύνης.

Ορισμένοι ειδικοί θεωρούν ότι οι εκφράσεις ευγένειας, όπως το «παρακαλώ» και το «ευχαριστώ», είναι περιττές και καταναλώνουν επιπλέον tokens — τις μονάδες κειμένου που επεξεργάζονται τα μεγάλα γλωσσικά μοντέλα για να παράγουν απαντήσεις. Άλλοι υποστηρίζουν ότι η ευγενική διατύπωση μπορεί να συμβάλει σε καλύτερες απαντήσεις.

Τον Απρίλιο του 2025, όταν χρήστης του X ρώτησε τον επικεφαλής της OpenAI, Σαμ Άλτμαν, για το κόστος ηλεκτρικής ενέργειας που προκαλούν τα «παρακαλώ» και «ευχαριστώ» στις συνομιλίες με το ChatGPT, εκείνος απάντησε ότι πρόκειται για «δεκάδες εκατομμύρια δολάρια που αξίζουν τον κόπο».

Παράλληλα, η συζήτηση αφορά και τις πιθανές επιπτώσεις της αγενής συμπεριφοράς προς τα συστήματα AI στην ανθρώπινη επικοινωνία.

Ορισμένοι ειδικοί έχουν εκφράσει την ανησυχία ότι η συνήθεια να απευθύνεται κανείς με προσβλητικό τρόπο στα chatbots μπορεί να επηρεάσει τον τρόπο με τον οποίο μιλά και συμπεριφέρεται στους άλλους ανθρώπους.

Πηγή Reuters

Πηγή – ΕΡΤ News

ΔΙΑΦΗΜΙΣΗ

BUY & SELL IN CYPRUSwww.buyme.cy