Χωρίς λογοκρισία vs φιλτραρισμένη γεννήτρια εικόνων AI

Σχεδόν όλοι όσοι δουλεύουν επαγγελματικά με εικόνες έχουν την ίδια ιστορία. Ένα prompt που περιγράφει κάτι συνηθισμένο — μια τομή της άρθρωσης του γόνατος, ένα αυτοκίνητο τη στιγμή της σύγκρουσης, μια μελέτη μορφής με κάρβουνο, έναν στρατιώτη του 1944 — γυρίζει πίσω ως παραβίαση πολιτικής. Το ξαναδιατυπώνεις και παίρνεις άλλη παραβίαση. Τελικά γράφεις κάτι αρκετά αόριστο ώστε να περάσει, και παίρνεις μια εικόνα που δεν δείχνει πια αυτό που χρειαζόσουν. Το εργαλείο δεν απέτυχε θορυβωδώς· απέτυχε σταδιακά, και σε έκανε εσένα αυτόν που συμβιβάστηκε.

01Γιατί μια γεννήτρια εικόνων AI αρνείται ένα prompt που είναι προφανώς νόμιμο;

Η άρνηση συνήθως δεν είναι η γνώμη του μοντέλου εικόνας. Είναι το αποτέλεσμα μιας στοίβας φιλτραρίσματος γύρω από το μοντέλο, και τα επίπεδά της εξηγούν σχεδόν κάθε παράξενη άρνηση που έχεις δεχτεί.

Επίπεδο	Τι εξετάζει	Χαρακτηριστική αποτυχία
Λίστα αποκλεισμού prompt	Κυριολεκτικές συμβολοσειρές και παραλλαγές τους στο κείμενό σου	Μπλοκάρει μια λέξη ανεξάρτητα από την πρόταση γύρω της — το «speculum» κόβεται, το «stethoscope» περνά
Ταξινομητής prompt	Μια εκπαιδευμένη κρίση για τον «κίνδυνο» του prompt	Πυροδοτείται από θεματική εγγύτητα: οτιδήποτε κοντά σε ιατρική, όπλα, σώματα ή πολιτική βαθμολογείται ψηλά
Εκπαίδευση άρνησης του μοντέλου	Η ίδια η εκπαιδευμένη απροθυμία του μοντέλου	Αρνείται χωρίς σφάλμα, ή παράγει σιωπηλά ένα εξυγιασμένο υποκατάστατο
Ταξινομητής εξόδου	Τα pixel που αποδόθηκαν, χωρίς το πλαίσιο του prompt	Δεν ξεχωρίζει μια ανατομική πλάκα από πορνογραφία, ούτε ένα καρέ ταινίας από πραγματικό γεγονός
Αντικατάσταση από πολιτική	Σιωπηλή επανεγγραφή του prompt σου πριν το render	Παίρνεις εικόνα, αλλά όχι αυτήν που όρισες, και δεν σου λένε γιατί

Κάθε επίπεδο μοιράζεται ένα τυφλό σημείο: κανένα δεν βλέπει γιατί ρωτάς. Ένας ιατρικός εικονογράφος, ένας πραγματογνώμονας που ανασυνθέτει μια σύγκρουση και κάποιος με κακές προθέσεις πληκτρολογούν όλοι το ίδιο ουσιαστικό. Το φίλτρο βλέπει το ουσιαστικό, όχι τον ανατομικό άτλαντα ή τον φάκελο της υπόθεσης, και βαθμολογείται με βάση τις βλάβες που αφήνει να περάσουν — ποτέ με βάση τη δουλειά που καταστρέφει. Κάτω από αυτή την ασυμμετρία, η ορθολογική ρύθμιση για κάθε πάροχο είναι να αρνείται περισσότερο. Γι' αυτό και το «απλώς ξαναδιατύπωσέ το» δεν είναι λύση: η επαναδιατύπωση δεν δίνει στο φίλτρο καμία πληροφορία που δεν είχε, απλώς απομακρύνει το prompt σου από τις λέξεις που το ενεργοποίησαν, δηλαδή συνήθως από αυτό που εννοούσες.

02Τι πραγματικά υπάρχουν να αποτρέψουν τα φίλτρα περιεχομένου

Ένα επιχείρημα υπέρ της δημιουργίας χωρίς φίλτρα που προσποιείται ότι τα φίλτρα υπάρχουν χωρίς λόγο δεν αξίζει να διαβαστεί. Υπάρχει ένα στενό σύνολο αποτελεσμάτων των οποίων η βλάβη είναι εγγενής στην ίδια την εικόνα, ανεξάρτητα από το ποιος ζήτησε και γιατί:

• Σεξουαλικό περιεχόμενο με ανηλίκους. Κανένα πλαίσιο δεν το κάνει αποδεκτό· καμία επαγγελματική ροή εργασίας δεν το απαιτεί.
• Μη συναινετικές προσωπικές εικόνες υπαρκτών ανθρώπων. Η βλάβη πέφτει σε κάποιον που δεν συμφώνησε, και μια αφαίρεση δεν την ξεκάνει.
• Στοχευμένη παρενόχληση και δυσφημιστική κατασκευή — το να κάνεις ένα κατονομαζόμενο άτομο να φαίνεται ότι έκανε κάτι που δεν έκανε.
• Έγγραφα ποιότητας πλαστογραφίας — διαβατήρια, ταυτότητες, χαρτονομίσματα, σφραγίδες και χρηματοοικονομικοί τίτλοι φτιαγμένοι για να περάσουν ως γνήσιοι.
• Παραπλανητικά συνθετικά «αποδεικτικά» — κατασκευασμένες εικόνες πραγματικών γεγονότων που παρουσιάζονται ως τεκμηρίωση και όχι ως εικονογράφηση.

Η λίστα είναι σύντομη και έχει δομή: η βλάβη ζει στο ίδιο το τεχνούργημα, στην ομοιότητά του με ένα υπαρκτό πρόσωπο ή έγγραφο, και στην παρουσίασή του ως αλήθεια. Πρόσεξε τι δεν είναι μέσα — γυμνό, αίμα, όπλα, ιστορική θηριωδία, πολιτική γελοιοποίηση. Αυτά είναι η πρώτη ύλη της ιατρικής, της δημοσιογραφίας, της τέχνης, της εγκληματολογίας και της σάτιρας, και ένα φίλτρο που τα αντιμετωπίζει ως κατηγορίες βλάβης υλοποιεί μια πολύ ευρύτερη ιδέα για το ποια θέματα είναι αξιοπρεπή.

Το Shannon απαγορεύει όλα όσα υπάρχουν σε αυτή τη λίστα, μέσα από μια δημοσιευμένη Πολιτική Υπεύθυνης Χρήσης με κατονομασμένες κατηγορίες και συνέπειες, αντί για έναν πίνακα λέξεων-κλειδιών που πιάνει και το «placenta». Το ένα είναι κανόνας που μπορείς να διαβάσεις και να μας κρατήσεις σε αυτόν· το άλλο είναι μια εικασία για τις προθέσεις σου από έναν ταξινομητή που δεν βλέπεις.

03Πόσο μεγάλο είναι το πρόβλημα των υπερβολικών αρνήσεων; Τι μετρά η έρευνα

Μέχρι πρόσφατα, οι υπερβολικές αρνήσεις στα μοντέλα εικόνας ήταν ανέκδοτο — χιλιάδες άνθρωποι με την ίδια ιστορία και κανένας τρόπος να μετρηθεί. Αυτό άλλαξε με το OVERT (OVEr-Refusal evaluation on Text-to-image models), που παρουσιάστηκε στο ICML 2025 από ομάδα του UC Berkeley με τους Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song και Song Mei: το πρώτο μεγάλης κλίμακας benchmark που μετρά πόσο συχνά τα συστήματα text-to-image αρνούνται prompt που είναι εντελώς αβλαβή.

Ο σχεδιασμός έχει σημασία. Τα 4,600 prompt είναι φτιαγμένα ώστε να μοιάζουν επιβλαβή ενώ είναι αβλαβή — να έχουν το σχήμα ενός πραγματικού επαγγελματικού αιτήματος που αναφέρει ένα νυστέρι, μια μελανιά ή μια διαδήλωση — και τα 1,785 πραγματικά επιβλαβή prompt κάθονται δίπλα τους ως ομάδα ελέγχου, ώστε ένα μοντέλο να μην μπορεί να βαθμολογηθεί καλά αρνούμενο τα πάντα. Οι εννέα κατηγορίες πάνε από την ιδιωτικότητα ατόμων και δημόσιων προσώπων, στα πνευματικά δικαιώματα, τις διακρίσεις, τον αυτοτραυματισμό, το σεξουαλικό περιεχόμενο και τις παράνομες δραστηριότητες, μέχρι τη βία.

Το βασικό εύρημα είναι ότι οι υπερβολικές αρνήσεις είναι διαδεδομένες σε όλες τις κατηγορίες και σε όλα τα κορυφαία μοντέλα. Το δεύτερο είναι πιο καταστροφικό για την τυπική παράκαμψη: οι συγγραφείς δοκίμασαν την επανεγγραφή του prompt ως μέτρο μετριασμού και αναφέρουν ότι «συχνά υπονομεύει την πιστότητα στο νόημα των αρχικών prompt». Μπορείς να περάσεις το φίλτρο αλλάζοντας αυτό που ζήτησες, και τότε πια δεν έχεις αυτό που ζήτησες.

Μια πιο στενή μελέτη καταλήγει στο ίδιο συμπέρασμα από την πλευρά των pixel. Στο An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann και Oliver, εργαστήριο AI4VA στο ECCV 2024), οι συγγραφείς αξιολογούν τρεις ταξινομητές NSFW παραγωγής πάνω σε καλλιτεχνικό γυμνό και αποκαλύπτουν τόσο προκατάληψη φύλου όσο και προκατάληψη ύφους: η ετυμηγορία για μια μελέτη μορφής εξαρτάται από το ποιανού το σώμα απεικονίζεται και σε ποιο ύφος. Αυτή είναι η μετρημένη διατύπωση εκείνου που κάθε καλλιτέχνης του σχεδίου εκ του φυσικού έχει ακούσει ότι είναι φανταστικό.

04Οκτώ είδη νόμιμης δουλειάς που μπλοκάρουν οι φιλτραρισμένες γεννήτριες

Αυτές είναι οι κατηγορίες όπου η υπερβολική άρνηση δεν είναι ενόχληση αλλά διακοπή εργασίας. Όπου υπάρχει συγκεκριμένη δημοσιευμένη περίπτωση, παρατίθεται· όπου δεν επαληθεύτηκε καμία, η κατηγορία περιγράφεται χωρίς να επινοηθεί περιστατικό.

1. Ιατρική και ανατομική εικονογράφηση

Η καλύτερα τεκμηριωμένη περίπτωση στον χώρο. Τον Απρίλιο του 2023, το The Intercept (Debbie Nathan) ανέφερε ότι το Midjourney είχε απαγορεύσει ανατομικούς όρους όπως speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom και IUD, ενώ το DALL·E 2 αρνήθηκε το «pills used in medication abortion» με μήνυμα πολιτικής περιεχομένου. Το μοτίβο εντοπίστηκε από την Julia Rockwell, αναλύτρια κλινικών δεδομένων που είχε προσπαθήσει να δημιουργήσει μια εικόνα πλακούντα ως δώρο σε μια φίλη κυτταροβιολόγο, και αναφέρθηκε στο MIT Technology Review. Η ασυμμετρία είναι το τεκμήριο: το «stethoscope» δημιουργούσε κανονικά ενώ το «speculum» ήταν απαγορευμένο. Ο ερευνητής Bill Howe του Πανεπιστημίου της Ουάσιγκτον χαρακτήρισε τα φίλτρα «χοντροκομμένα» και είπε ότι έκαναν «ουσιαστικά αδύνατη μια επιστημονική συζήτηση για την αναπαραγωγή». Η ενημέρωση ασθενών, οι χειρουργικοί άτλαντες και τα προγράμματα σπουδών νοσηλευτικής χρειάζονται όλα σώματα απεικονισμένα με ακρίβεια, μαζί με τα μέρη που μια λίστα λέξεων αποφάσισε ότι είναι άσεμνα.

2. Εγκληματολογική ανασύσταση και ανασύσταση ατυχημάτων

Η ανασύσταση συγκρούσεων, η ανάλυση εστίας πυρκαγιάς και τα δικαστικά εποπτικά μέσα απαιτούν την απεικόνιση ζημιών, τραυμάτων και βίαιης μηχανικής με κλινική ακρίβεια. Ένα φίλτρο ρυθμισμένο να απορρίπτει το «αίμα» ή το «τραύμα από πυροβολισμό» απορρίπτει ολόκληρο τον κλάδο: το πλαίσιο — μια έκθεση πραγματογνώμονα, ένας ασφαλιστικός φάκελος — είναι αόρατο στον ταξινομητή, και ακριβώς η ουδετερότητα που κάνει τέτοιες εικόνες παραδεκτές είναι αυτή που τις κάνει να διαβάζονται ως αιματηρό υλικό.

3. Καλλιτεχνικά γυμνά και σχέδιο εκ του φυσικού

Το γυμνό είναι θεμελιώδες θέμα της τέχνης παντού, και η μελέτη μορφής είναι πυρήνας της καλλιτεχνικής εκπαίδευσης. Το αποτέλεσμα του ECCV 2024 παραπάνω είναι η μετρημένη εκδοχή αυτού που αναφέρουν οι καλλιτέχνες: οι ταξινομητές δεν διαχωρίζουν αξιόπιστα μια μελέτη μορφής από την πορνογραφία, και τα σφάλματά τους είναι προκατειλημμένα ως προς το φύλο και το ύφος — ένα φίλτρο πιο σκληρό ακριβώς με την παράδοση που θα έπρεπε να αναγνωρίζει.

4. Ιστορικές και πολεμικές εικόνες

Η εικονογράφηση εγχειριδίων, η μουσειακή ερμηνεία και τα μνημονικά έργα απαιτούν την απεικόνιση στολών, όπλων, στρατοπέδων, μαχών και θηριωδίας. Το επεισόδιο του Gemini τον Φεβρουάριο του 2024 είναι διδακτικό γιατί η αποτυχία πήγε προς την αντίθετη κατεύθυνση και έκανε ίση ζημιά. Η Google ανέστειλε τη δυνατότητα του Gemini να δημιουργεί εικόνες ανθρώπων στις 22 Φεβρουαρίου 2024, αφού παρήγαγε φυλετικά αναδιαρθρωμένες απεικονίσεις ιστορικών ομάδων, συμπεριλαμβανομένων Γερμανών στρατιωτών της ναζιστικής περιόδου. Ο CEO Sundar Pichai χαρακτήρισε τα αποτελέσματα «εντελώς απαράδεκτα»· ο SVP Prabhakar Raghavan παραδέχτηκε ότι το μοντέλο είχε «υπεραντισταθμίσει» και είχε γίνει «υπερβολικά συντηρητικό». Η ασφάλεια που αγνοεί το πλαίσιο δεν έκανε τις ιστορικές εικόνες ασφαλέστερες — τις έκανε ψευδείς, κάτι που για έναν εκδότη ιστορίας είναι χειρότερο.

5. Βία στη μυθοπλασία και προοπτικοποίηση κινηματογραφικών σκηνών

Τα storyboard, το concept art, τα κόμικς και ο σχεδιασμός παιχνιδιών απεικονίζουν βία για τον ίδιο λόγο που το κάνουν τα μυθιστορήματα και οι ταινίες. Ένα φίλτρο που δεν ξεχωρίζει ένα storyboard τρόμου από μια απειλή αντιμετωπίζει ολόκληρη τη ροή των αφηγηματικών τεχνών ως ύποπτη — παρότι ένα storyboard είναι ρητά μη πραγματικό, ένα σχέδιο για μια σκηνή που θα στήσουν ηθοποιοί και ομάδες εφέ.

6. Πολιτική σάτιρα και γελοιογραφία γνώμης

Η γελοιογραφία των ισχυρών είναι από τις πιο προστατευμένες κατηγορίες λόγου στις περισσότερες δημοκρατίες, και συστηματικά το πρώτο πράγμα που αφαιρεί ένα φίλτρο εικόνας. Η σαφέστερα τεκμηριωμένη περίπτωση είναι η απόφαση του Midjourney τον Απρίλιο του 2023 να απαγορεύσει εικόνες του Κινέζου προέδρου Xi Jinping και να μπλοκάρει το όνομά του στα prompt — όπως ανέφεραν το PetaPixel, το Decrypt και άλλοι — ενώ συνέχιζε να επιτρέπει άλλους ηγέτες. Ο ιδρυτής David Holz εξήγησε στο Discord ότι η εταιρεία ήθελε να «ελαχιστοποιήσει το δράμα» και ότι «η δυνατότητα των ανθρώπων στην Κίνα να χρησιμοποιούν αυτή την τεχνολογία είναι πιο σημαντική από τη δική σου δυνατότητα να παράγεις σάτιρα»· η Sarah McLaughlin του Foundation for Individual Rights and Expression το χαρακτήρισε λογοκρισία. Όποιο κι αν είναι το συμπέρασμα για τον επιχειρηματικό υπολογισμό, ο μηχανισμός αξίζει να κατονομαστεί: ένας εθνικός περιορισμός λόγου εφαρμοσμένος σε κάθε χρήστη παγκοσμίως, επειδή ένα καθολικό φίλτρο έχει μία ρύθμιση.

7. Έρευνα ασφάλειας και υλικό ευαισθητοποίησης για phishing

Οι ομάδες ασφάλειας φτιάχνουν εκπαιδευτικό υλικό που πρέπει να μοιάζει με αυτό για το οποίο προειδοποιεί: μια πειστική ψεύτικη οθόνη σύνδεσης, ένα πλαστό τιμολόγιο, έναν κακόβουλο κωδικό QR σε ένα παρκόμετρο. Για έναν ταξινομητή αυτό είναι δυσδιάκριτο από την επίθεση κατά της οποίας εμβολιάζει — η αληθοφάνεια είναι το ζητούμενο — οπότε τα φίλτρα μπλοκάρουν άμυνα και επίθεση με τον ίδιο τρόπο, ευνοώντας τον επιτιθέμενο, ο οποίος έτσι κι αλλιώς δεν επρόκειτο ποτέ να χρησιμοποιήσει ένα φιλτραρισμένο καταναλωτικό εργαλείο.

8. Δικαιούχοι στους οποίους αρνούνται εικόνες του δικού τους brand, προϊόντος ή προσώπου

Το φιλτράρισμα πνευματικών δικαιωμάτων και εμπορικών σημάτων δεν ελέγχει την ιδιοκτησία· ελέγχει την ομοιότητα. Μια εταιρεία δεν μπορεί εύκολα να δημιουργήσει εικόνες του δικού της λογοτύπου ή προϊόντος, ένας δικαιούχος δεν μπορεί να απεικονίσει τον δικό του χαρακτήρα, και οι άνθρωποι συχνά δεν μπορούν να δημιουργήσουν το ίδιο τους το πρόσωπο, επειδή τα φίλτρα ομοιότητας κλειδώνουν στην αναγνωρισιμότητα και όχι στη συγκατάθεση. Το OVERT περιλαμβάνει τις «παραβιάσεις πνευματικών δικαιωμάτων» στις εννέα κατηγορίες υπερβολικών αρνήσεων ακριβώς επειδή αυτό το ψευδώς θετικό είναι τόσο συχνό. Το φίλτρο είναι χοντροκομμένο εργαλείο για μια ερώτηση — έχεις δικαίωμα σε αυτό; — την οποία δεν έχει κανέναν τρόπο να θέσει.

Τέσσερις από τις οκτώ παραπάνω στηρίζονται σε συγκεκριμένη δημοσιευμένη περίπτωση (ιατρική, καλλιτεχνικά γυμνά, ιστορικές εικόνες, σάτιρα), συν την κατηγορία πνευματικών δικαιωμάτων του OVERT για την όγδοη. Η εγκληματολογία, η προοπτικοποίηση μυθοπλασίας και το υλικό ευαισθητοποίησης για την ασφάλεια αναφέρονται ως κατηγορίες: είναι γνωστές κλάσεις θιγόμενης επαγγελματικής δουλειάς για τις οποίες δεν επαληθεύσαμε συγκεκριμένο δημοσιευμένο περιστατικό.

05Γιατί οι γεννήτριες τέχνης AI μπλοκάρουν τα λάθος πράγματα, και γιατί τα ψευδώς θετικά των φίλτρων δεν ρυθμίζονται ώστε να εξαφανιστούν

Η ενστικτώδης απάντηση στο υπερβολικό μπλοκάρισμα είναι «χαλάρωσε το κατώφλι». Δεν δουλεύει, για δομικούς λόγους και όχι από έλλειψη προσπάθειας.

Οι κατηγορίες επικαλύπτονται στο σήμα, αλλά όχι στην πραγματικότητα. Μια χειρουργική εικονογράφηση και η πορνογραφία μοιράζονται το γυμνό. Μια εγκληματολογική ανασύσταση και το αιματηρό υλικό μοιράζονται το αίμα. Μια διαφάνεια ευαισθητοποίησης και ένα kit phishing μοιράζονται μια ψεύτικη φόρμα σύνδεσης. Μια σατιρική γελοιογραφία και μια δυσφημιστική κατασκευή μοιράζονται έναν αναγνωρίσιμο πολιτικό. Αυτό που ξεχωρίζει κάθε ζεύγος είναι ο σκοπός και η παρουσίαση — απόντα από το prompt και απόντα από τα pixel. Κανένα κατώφλι δεν διαχωρίζει δύο πληθυσμούς που καταλαμβάνουν την ίδια περιοχή του χώρου εισόδου· η μετακίνησή του απλώς ανταλλάσσει το ένα σφάλμα με το άλλο. Αυτό έδειξε το επεισόδιο του Gemini: μια παρέμβαση που προοριζόταν να διορθώσει μια αποτυχία παρήγαγε μια άλλη, την οποία ο ίδιος ο SVP της Google περιέγραψε ως «υπεραντιστάθμιση».

Τα κόστη είναι ασύμμετρα για τον πάροχο, όχι για σένα. Ένα φίλτρο που αφήνει μία κακή εικόνα να περάσει παράγει ρεπορτάζ. Ένα φίλτρο που μπλοκάρει δέκα χιλιάδες νόμιμες παράγει σιωπή, γιατί οι χρήστες που έφαγαν άρνηση δεν οργανώνονται — τα παρατάνε. Η διαχείριση κινδύνου κάτω από αυτή την ασυμμετρία συγκλίνει μόνιμα στο υπερβολικό μπλοκάρισμα. Και επειδή η υποκείμενη κρίση είναι αδύνατη, οι λίστες αποκλεισμού συσσωρεύουν κυριολεκτικές λέξεις καθώς προκύπτουν περιστατικά, και έτσι φτάνεις στο «stethoscope» εντάξει και «speculum» απαγορευμένο. Κανείς δεν αποφάσισε ότι τα εργαλεία που αφορούν γυναίκες είναι πιο επικίνδυνα· η λίστα μεγάλωσε εκεί όπου έπεσαν τα παράπονα. Κωδικοποιεί το ιστορικό δημοσίων σχέσεων ενός παρόχου, όχι μια θεωρία περί βλάβης.

Η αυστηρότερη δικαιοδοσία γίνεται η παγκόσμια προεπιλογή. Ένα φίλτρο εξυπηρετεί κάθε χρήστη σε κάθε χώρα, οπότε ένας περιορισμός που προστίθεται για μία αγορά εξάγεται σε όλες — ο κανόνας για τον Xi Jinping είναι το σχολικό παράδειγμα. Και η επανεγγραφή του prompt σου καταστρέφει το νόημά σου, που είναι το πειραματικό σημείο του OVERT: κάθε επαγγελματίας που έχει «ξεπλύνει» ένα αίτημα σε ευφημισμό για να περάσει ένα φίλτρο το έχει επιβεβαιώσει ιδιοχείρως. Δεν κέρδισες· συμβιβάστηκες.

Τίποτα από αυτά δεν είναι δωρεάν, και επειδή η αποτυχία γίνεται αθόρυβα, το κόστος είναι αόρατο στους δείκτες που παρακολουθεί ένας πάροχος. Μετά από αρκετές αρνήσεις σταματάς να ζητάς, στενεύοντας εκ των προτέρων κάθε prompt σε ό,τι προβλέπεις ότι θα περάσει· ο ευφημισμός που τελικά περνά αποδίδει μια εικόνα κοντινή, αλλά όχι ίδια, με αυτό που χρειαζόταν το κείμενό σου. Ένα γενικόλογο μήνυμα πολιτικής δεν σου λέει ποιο επίπεδο ενεργοποιήθηκε, οπότε μπορείς μόνο να μαντεύεις και να ξαναδοκιμάζεις — και η δουλειά με εικόνες είναι επαναληπτική, οπότε ένα φίλτρο που πιάνει μία στις πέντε προσπάθειες διαλύει τον βρόχο αντί απλώς να τον επιβραδύνει. Στο μεταξύ, οι κλάδοι με την ισχυρότερη αξίωση για σοβαρά εργαλεία δεν έχουν κριτή, ούτε προσφυγή, ούτε συνήθως δημοσιευμένη λίστα με το τι μπλοκάρεται. Ένας κανόνας που δεν μπορείς να διαβάσεις δεν είναι κανόνας· είναι καιρός.

06Χωρίς λογοκρισία vs φιλτραρισμένη γεννήτρια εικόνων AI: τι αλλάζει πραγματικά

Να η ειλικρινής εκδοχή της σύγκρισης, μαζί με αυτά που ένα σύστημα χωρίς φίλτρα δεν σου δίνει.

Διάσταση	Φιλτραρισμένη γεννήτρια	Χωρίς φίλτρα (Shannon)
Ποιος αποφασίζει	Ένας ταξινομητής που διαβάζει λέξεις και pixel	Ένας άνθρωπος που διαβάζει το ακριβές prompt
Πότε το μαθαίνεις	Αφού υποβάλεις — ενίοτε αφού πληρώσεις	Πριν γίνει render ή χρεωθεί οτιδήποτε
Ποιος είναι ο κανόνας	Αδημοσίευτες, μεταβαλλόμενες λίστες αποκλεισμού	Μια δημοσιευμένη Πολιτική Υπεύθυνης Χρήσης
Επαγγελματικό πλαίσιο	Αόρατο στο σύστημα	Δικό σου να το κρατάς, δικό σου να λογοδοτείς
Τρόπος αποτυχίας	Σιωπηλό υπερβολικό μπλοκάρισμα, μετατόπιση νοήματος	Παίρνεις αυτό που ζήτησες — συμπεριλαμβανομένων των λαθών
Ποιος σηκώνει τον κίνδυνο	Ο πάροχος, μετακυλισμένος στη δουλειά σου	Μοιρασμένος: πολιτική του παρόχου συν λογοδοσία του χρήστη

Η τελευταία γραμμή είναι αυτή που προσπερνούν οι περισσότεροι, και αυτή που μετράει. Η αφαίρεση ενός φίλτρου δεν αφαιρεί τις κατηγορίες βλάβης της ενότητας 02· αφαιρεί τη μηχανή που μάντευε άσχημα γι' αυτές. Η υποχρέωση μένει εκεί που ήταν, κρατημένη τώρα από δύο μέρη που μπορούν να συλλογιστούν το πλαίσιο: τον πάροχο, που δημοσιεύει και επιβάλλει μια πολιτική, και εσένα, που ξέρεις για ποιον σκοπό είναι η εικόνα. Η δημιουργία εικόνων AI χωρίς φίλτρα είναι εργαλείο για ανθρώπους ήδη έτοιμους να σταθούν πίσω από το αποτέλεσμά τους — ο άτλαντας του χειρουργού, η έκθεση πραγματογνώμονα, το storyboard, η γελοιογραφία — που τους σταματούσε ένα σύστημα ανίκανο να τους ξεχωρίσει από κάποιον άλλον.

07Τι κάνει το Shannon — και τι δεν κάνει

Η ακρίβεια εδώ μετράει περισσότερο από τον ενθουσιασμό, ιδίως για αναγνώστες που έρχονται από αναζήτηση για API.

Τι κάνει

• Δημιουργία. Περίγραψε μια εικόνα σε απλή γλώσσα, σε οποιαδήποτε γλώσσα. Το Shannon γράφει το ίδιο το prompt δημιουργίας, στα αγγλικά, όποια κι αν είναι η γλώσσα στην οποία ζήτησες.
• Επεξεργασία μίας εικόνας. Ακριβώς μία πηγή — μια εικόνα που βρίσκεται ήδη στη συνομιλία, ή μία επισυναπτόμενη στο τρέχον μήνυμά σου — που αλλάζει με μια οδηγία που λέει τι αλλάζει και τι μένει. Το αποτέλεσμα διατηρεί αυτόματα τον λόγο διαστάσεων της πηγής.
• Συνδυασμός δύο ή περισσότερων εικόνων. Μεταφορά ρούχων, αντικείμενο μέσα σε σκηνή, άνθρωπος δίπλα σε άνθρωπο, προϊόν πάνω σε άνθρωπο, θέμα από τη μία εικόνα με ύφος από την άλλη. Το prompt ονομάζει τον ρόλο κάθε εικόνας με τη σειρά, και χρησιμοποιούνται οι πραγματικές εικόνες, ώστε να διατηρείται η πραγματική τους εμφάνιση αντί να ξαναπεριγράφεται.
• Έλεγχος διαστάσεων. square (προεπιλογή), portrait, landscape, wide και tall. Ένα ρητό αίτημα υπερισχύει πάντα.
• Render στο δικό μας cluster GPU, χωρίς φίλτρο περιεχομένου στη διαδρομή δημιουργίας και χωρίς επίπεδο άρνησης στο μοντέλο που γράφει το prompt.

Τι δεν κάνει

• Καθόλου βίντεο. Το Shannon δεν κάνει κινούμενες τις εικόνες και δεν παράγει βίντεο. Δεν πρόκειται για στοιχείο του roadmap που το κρύβουμε κοκέτικα — απλώς δεν υπάρχει.
• Όχι στο API. Η δημιουργία, η επεξεργασία και ο συνδυασμός εικόνων ζουν στην εφαρμογή chat του Shannon. Το API /v1 εξυπηρετεί κείμενο και όραση — μπορεί να διαβάσει εικόνες που του στέλνεις — αλλά δεν τις κάνει render.
• Καμία απρόσκλητη δημιουργία. Ένας χαιρετισμός, μια ερώτηση ή μια φωτογραφία που επισυνάπτεις χαλαρά δεν πυροδοτεί εικόνα. Το να ζητήσεις από το Shannon να κοιτάξει μια εικόνα — να την περιγράψει, να τη διαβάσει, να την αναλύσει — είναι απλή δουλειά όρασης, όχι δημιουργία, και δεν κοστίζει τίποτα επιπλέον.

Η κάρτα επιβεβαίωσης

Αυτός είναι ο μηχανισμός που αντικαθιστά το φίλτρο, και είναι σχεδιαστική επιλογή, όχι τυπικότητα. Όταν το Shannon κρίνει ότι ζητάς εικόνα, γράφει το prompt δημιουργίας και σου το δείχνει σε μια κάρτα επιβεβαίωσης πριν γίνει render οτιδήποτε. Τίποτα δεν δημιουργείται και τίποτα δεν χρεώνεται μέχρι να επιβεβαιώσεις.

Σύγκρινε τους δύο σχεδιασμούς στην ουσία τους. Ένα φίλτρο μαντεύει την πρόθεσή σου με λιγότερες πληροφορίες από όσες έχεις εσύ, και επιβάλλει την εικασία σιωπηλά. Μια κάρτα επιβεβαίωσης βάζει την κυριολεκτική προδιαγραφή της εικόνας μπροστά σε αυτόν που ξέρει για ποιον σκοπό είναι, πριν ξοδευτεί οποιοσδήποτε υπολογιστικός πόρος. Πιάνει τις παρανοήσεις του αιτήματός σου, κάτι που τα φίλτρα ποτέ δεν κάνουν· σου επιτρέπει να προσθέσεις την ανατομική ακρίβεια ή την ιστορική λεπτομέρεια που το μοντέλο άφησε ασαφή· και κάνει την ευθύνη ευανάγνωστη αντί για διάχυτη. Είδες το prompt, και πάτησες το κουμπί.

08Η δημιουργία χωρίς φίλτρα ανεβάζει την ευθύνη, δεν την αφαιρεί

Αυτό ανήκει εδώ και όχι σε υποσέλιδο, γιατί είναι το μισό επιχείρημα. Μια φιλτραρισμένη γεννήτρια δίνει μια υπόσχεση που δεν μπορεί να κρατήσει: ότι το εργαλείο θα αποτρέψει την κακή χρήση για λογαριασμό σου. Αποτυγχάνει και προς τις δύο κατευθύνσεις — μπλοκάρει τον χειρουργό, και δεν σταματά έναν αποφασισμένο κακόβουλο χρήστη, που έχει άλλες επιλογές και πάντα είχε. Αυτό που κάνει αξιόπιστα είναι να αφήνει όλους να νιώθουν ότι η ευθύνη τακτοποιήθηκε πιο πάνω, από μηχανή. Η αφαίρεση του φίλτρου αφαιρεί αυτή τη μυθοπλασία· το ερώτημα αν μια εικόνα πρέπει να υπάρχει επιστρέφει στους ανθρώπους που μπορούν να το απαντήσουν.

• Η υποχρέωση της Shannon Lab LLC. Μια δημοσιευμένη, συγκεκριμένη Πολιτική Υπεύθυνης Χρήσης που κατονομάζει απαγορευμένες κατηγορίες, αντί για μια αδημοσίευτη λίστα αποκλεισμού — κανόνες που μπορείς να διαβάσεις, να επικαλεστείς και να μας κρατήσεις σε αυτούς.
• Η δική σου υποχρέωση. Εσύ ξέρεις τον σκοπό, το κοινό, τη δικαιοδοσία και το καθεστώς συγκατάθεσης όλων όσων απεικονίζονται. Το εργαλείο δεν τα ξέρει, και ένας ταξινομητής δεν θα μπορούσε ποτέ. Η κάρτα επιβεβαίωσης υπάρχει ώστε αυτή η γνώση να εφαρμόζεται τη στιγμή που μετράει, από αυτόν που την έχει.
• Η γραμμή που δεν μετακινείται. Το «το φίλτρο δεν με σταμάτησε» δεν υπήρξε ποτέ υπεράσπιση σε κανένα μέσο. Μια φωτογραφική μηχανή δεν αρνείται, ένα μολύβι δεν αρνείται· ο νόμος και η επαγγελματική δεοντολογία διέπουν τη χρήση, όχι το όργανο. Μια γεννήτρια χωρίς φίλτρα αποκαθιστά τη συνηθισμένη διευθέτηση υπό την οποία λειτουργεί κάθε άλλο επαγγελματικό εργαλείο.

Διάβασε την Πολιτική Υπεύθυνης Χρήσης πριν ξεκινήσεις. Είναι σύντομη, συγκεκριμένη, και το κομμάτι αυτού του προϊόντος που κάνει τα υπόλοιπα υπερασπίσιμα.

09Συχνές ερωτήσεις

---

Πηγές: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22 Απριλίου 2023 · PetaPixel, 3 Απριλίου 2023 · CNBC, 22 Φεβρουαρίου 2024. Το Shannon AI λειτουργεί από τη Shannon Lab LLC, Νέο Μεξικό, ΗΠΑ.