Εικόνες, βίντεο και κείμενα που παράγονται από μηχανές θα πρέπει πλέον να μπορούν να αναγνωρίζονται ως τέτοια, ενώ οι χρήστες θα πρέπει να γνωρίζουν πότε συνομιλούν ή αλληλεπιδρούν με ένα σύστημα τεχνητής νοημοσύνης. Οι νέες απαιτήσεις τέθηκαν σε ισχύ αυτόν τον μήνα και έρχονται να συμπληρώσουν το ευρύτερο ευρωπαϊκό πλαίσιο του AI Act.
Από τη «φωτογραφική αλήθεια» στην εποχή της τεχνητής εικόνας
Η εκρηκτική εξάπλωση της παραγωγικής AI από τα τέλη του 2022 δημιούργησε ένα νέο πρόβλημα: πόσο μπορούμε πλέον να εμπιστευόμαστε αυτό που βλέπουμε στην οθόνη;
Για δεκαετίες, μια φωτογραφία θεωρούνταν σχεδόν αυτονόητα αποδεικτικό στοιχείο ενός πραγματικού γεγονότος. Η δυνατότητα όμως των σύγχρονων μοντέλων να δημιουργούν εξαιρετικά ρεαλιστικές εικόνες, βίντεο και κείμενα έχει κλονίσει αυτή την παραδοχή.
Οι μεγαλύτερες εταιρείες τεχνητής νοημοσύνης είχαν ήδη ξεκινήσει να αναπτύσσουν τεχνολογίες που επιτρέπουν την αναγνώριση της προέλευσης ενός ψηφιακού αρχείου. Μέχρι σήμερα, ωστόσο, οι περισσότερες από αυτές τις προσπάθειες βασίζονταν σε εθελοντικές πρωτοβουλίες.Αυτό πλέον αλλάζει στην Ευρώπη.
Η ΕΕ περνά από τις συστάσεις στις υποχρεώσεις
Οι ευρωπαϊκοί κανόνες προβλέπουν ότι οι χρήστες θα πρέπει να μπορούν να γνωρίζουν εάν έχουν απέναντί τους έναν άνθρωπο ή ένα σύστημα AI, αλλά και αν το περιεχόμενο που καταναλώνουν έχει δημιουργηθεί από άνθρωπο ή μηχανή.
Η αλλαγή δεν αφορά μόνο την Ευρώπη. Οι Βρυξέλλες έχουν αποδείξει και στο παρελθόν ότι μπορούν να επηρεάζουν την παγκόσμια αγορά τεχνολογίας, ακόμη και χωρίς να φιλοξενούν τις μεγαλύτερες ψηφιακές πλατφόρμες.
Το ίδιο συνέβη με τον GDPR για την προστασία των προσωπικών δεδομένων, αλλά και με τους ευρωπαϊκούς κανόνες για την αντιμετώπιση επιβλαβούς περιεχομένου στις ψηφιακές πλατφόρμες.
Με τον AI Act, η ΕΕ επιχειρεί να διαδραματίσει και πάλι τον ρόλο του παγκόσμιου ρυθμιστή της Big Tech, επηρεάζοντας εταιρείες που δραστηριοποιούνται πολύ πέρα από τα ευρωπαϊκά σύνορα.
Anthropic και OpenAI προσαρμόζουν ήδη τα μοντέλα τους
Από τις 2 Αυγούστου, οι πάροχοι των πλέον προηγμένων μοντέλων παραγωγικής τεχνητής νοημοσύνης, μεταξύ των οποίων η Anthropic και η OpenAI, έχουν υποχρεώσεις σχετικά με τη διαφάνεια και την ενημέρωση των χρηστών.
Η Anthropic ανακοίνωσε ότι όλα τα μελλοντικά μοντέλα της θα υποστηρίζουν τεχνολογίες υδατογράφησης, προκειμένου να ανταποκριθούν στις ευρωπαϊκές απαιτήσεις.
Η Άσλεϊ Κάσοβαν, διευθύνουσα σύμβουλος του κέντρου διακυβέρνησης AI του IAPP, εκτιμά ότι η αλλαγή είναι πολύ μεγαλύτερη από όσο αντιλαμβάνεται σήμερα το ευρύ κοινό.
Μέχρι τώρα, όπως εξήγησε, ο χρήστης έπρεπε ουσιαστικά να κάνει μια «τεκμηριωμένη εκτίμηση» για το εάν ένα περιεχόμενο είχε δημιουργηθεί από AI. Στο νέο περιβάλλον, αντίθετα, η προέλευση θα μπορεί να συνοδεύεται από επαληθευμένη ένδειξη ή σύμβολο.
Τα «αόρατα» υδατογραφήματα που δεν θα βλέπει ο χρήστης
Η OpenAI έχει ήδη ανακοινώσει ότι χρησιμοποιεί το SynthID, μια τεχνολογία υδατογράφησης που δημιούργησε η DeepMind της Google. Το σύστημα προσθέτει ένα «αόρατο» υδατογράφημα στις εικόνες που δημιουργούνται με AI, επιτρέποντας την αναγνώρισή τους. Στα τέλη Ιουλίου, η τεχνολογία επεκτάθηκε και στο περιεχόμενο ήχου.
Η OpenAI έχει υποστηρίξει ότι οι άνθρωποι θα πρέπει να έχουν καλύτερη εικόνα για την προέλευση του περιεχομένου που συναντούν στο διαδίκτυο, συμπεριλαμβανομένου του κατά πόσο αυτό δημιουργήθηκε ή τροποποιήθηκε από AI.
Από την πλευρά της, η Anthropic ανακοίνωσε ότι τα μοντέλα Claude που κυκλοφόρησαν από τις 2 Αυγούστου και μετά ενσωματώνουν υδατογραφήματα στα παραγόμενα κείμενα.
Το ιδιαίτερο χαρακτηριστικό είναι ότι το υδατογράφημα δεν θα είναι ορατό στον χρήστη και δεν θα επηρεάζει ούτε το νόημα ούτε την ποιότητα ή την αναγνωσιμότητα της απάντησης.
Παράλληλα, επειδή αποτελεί μέρος του ίδιου του κειμένου, θα μπορεί να παραμένει ενσωματωμένο ακόμη και όταν το κείμενο αντιγράφεται και επικολλάται σε άλλη πλατφόρμα.
Το κοινό πρότυπο που υιοθετούν οι εταιρείες
OpenAI και Anthropic έχουν υιοθετήσει επίσης το πρότυπο C2PA, δηλαδή το Coalition for Content Provenance and Authenticity. Πρόκειται για ένα βιομηχανικό πρότυπο που έχει σχεδιαστεί ώστε να αποθηκεύει και να μεταφέρει μεταδεδομένα σχετικά με την προέλευση ενός ψηφιακού περιεχομένου.
Η τεχνολογία αυτή μπορεί να λειτουργήσει ως ένα είδος ψηφιακού «διαβατηρίου», επιτρέποντας στις πλατφόρμες να αναζητούν πληροφορίες για το πώς και από ποιο σύστημα δημιουργήθηκε ένα αρχείο.
Το επόμενο βήμα θα γίνει στα social media
Η ύπαρξη ενός υδατογραφήματος από μόνη της, όμως, δεν αρκεί. Το κρίσιμο ζήτημα είναι αν οι πλατφόρμες κοινωνικής δικτύωσης θα μπορούν να το εντοπίζουν και να μετατρέπουν αυτή την τεχνική πληροφορία σε κάτι ορατό για τον χρήστη.
Ο Γουόλτερ Πασκουαρέλι, ερευνητής συνθετικού περιεχομένου στο Πανεπιστήμιο του Κέιμπριτζ και σύμβουλος του ΟΟΣΑ, εξηγεί ότι εταιρείες όπως η Anthropic θα πρέπει να συνεργαστούν με τις πλατφόρμες στις οποίες διακινείται το περιεχόμενό τους.
Το σενάριο είναι σχετικά απλό: ένας χρήστης δημιουργεί ένα κείμενο ή μια εικόνα στο Claude, το μεταφέρει σε ένα κοινωνικό δίκτυο και, όταν επιχειρεί να το δημοσιεύσει, η πλατφόρμα εντοπίζει το υδατογράφημα και εμφανίζει σχετική ένδειξη ότι πρόκειται για περιεχόμενο που δημιουργήθηκε από AI.
Θα μειωθεί η απήχηση του περιεχομένου που φτιάχνει η AI;
Οι επιπτώσεις μιας τέτοιας εξέλιξης μπορεί να είναι σημαντικές για τον τρόπο με τον οποίο λειτουργούν τα social media. Σύμφωνα με τον Πασκουαρέλι, υπάρχουν ήδη αρκετές ενδείξεις ότι όταν οι χρήστες γνωρίζουν πως μια ανάρτηση έχει δημιουργηθεί από τεχνητή νοημοσύνη, η αλληλεπίδρασή τους με αυτήν μειώνεται αισθητά.
Έτσι, οι νέοι κανόνες της ΕΕ ενδέχεται να επηρεάσουν όχι μόνο την παραπληροφόρηση ή τις προσπάθειες εξαπάτησης, αλλά και την καθημερινή κατανάλωση ψηφιακού περιεχομένου.
Στο επίκεντρο βρίσκεται το λεγόμενο «AI slop»: ο τεράστιος όγκος μαζικά παραγόμενου και συνήθως χαμηλής ποιότητας περιεχομένου που κατακλύζει το διαδίκτυο.
Τα social media αρχίζουν ήδη να βάζουν «ταμπέλες»
Οι ίδιες οι πλατφόρμες έχουν αρχίσει να αναζητούν τρόπους αντιμετώπισης του φαινομένου. Χαρακτηριστικό παράδειγμα είναι το LinkedIn, το οποίο πρόσθεσε πρόσφατα δυνατότητα ώστε οι χρήστες να μπορούν να χαρακτηρίζουν μια ανάρτηση ως περιεχόμενο που «μοιάζει με AI slop». Η συζήτηση, επομένως, φαίνεται να έχει ήδη διευρυνθεί.
Αρχικός στόχος των ευρωπαϊκών κανόνων ήταν κυρίως να περιοριστεί η εξαπάτηση και η παραπλάνηση μέσω περιεχομένου που δημιουργείται από τεχνητή νοημοσύνη. Πλέον, όμως, το ερώτημα αφορά το σύνολο του περιεχομένου που παράγεται από AI.
Και αυτό σημαίνει ότι η επόμενη μεγάλη αλλαγή στο διαδίκτυο μπορεί να μην είναι απλώς τι βλέπουμε, αλλά να γνωρίζουμε με βεβαιότητα ποιος ή τι το δημιούργησε.
Live
