Առանց ցենզուրայի ընդդեմ զտված AI պատկերային գեներատորի

Գրեթե բոլորը, ովքեր մասնագիտորեն աշխատում են պատկերների հետ, ունեն նույն պատմությունը: Սովորական բան նկարագրող հրահանգը — ծնկան հոդի կտրվածք, բախման պահին գտնվող ավտոմեքենա, ածխով արված մարմնի ուսումնասիրություն, 1944 թվականի զինվոր — վերադառնում է որպես քաղաքականության խախտում: Դուք վերաձևակերպում եք և ստանում այլ խախտում: Ի վերջո գրում եք բավական անորոշ բան, որ անցնի, և ստանում պատկեր, որն այլևս ցույց չի տալիս այն, ինչ ձեզ պետք էր: Գործիքը բարձրաձայն չձախողվեց. այն ձախողվեց աստիճանաբար և ձեզ դարձրեց այն կողմը, որը զիջեց:

01Ինչու է AI պատկերների գեներատորը մերժում ակնհայտորեն օրինական հրահանգը

Մերժումը սովորաբար պատկերային մոդելի կարծիքը չէ: Դա մոդելի շուրջ կառուցված զտիչների փաթեթի արդյունքն է, և դրա շերտերը բացատրում են ձեր ստացած գրեթե բոլոր տարօրինակ մերժումները:

Շերտ	Ինչ է ստուգում	Բնորոշ ձախողում
Հրահանգների արգելացուցակ	Բառացի տողեր և մոտ տարբերակներ ձեր տեքստում	Արգելափակում է բառը՝ անկախ շրջապատող նախադասությունից — "speculum"-ը ձախողվում է, "stethoscope"-ը անցնում է
Հրահանգի դասակարգիչ	Հրահանգի "ռիսկայնության" վերաբերյալ սովորած գնահատական	Գործարկվում է թեմատիկ մոտիկությունից. բժշկությանը, զենքին, մարմիններին կամ քաղաքականությանը մոտ ամեն ինչ բարձր միավոր է ստանում
Մոդելի մերժման ուսուցում	Մոդելի սեփական վարժեցված դժկամությունը	Մերժում է առանց սխալի հաղորդագրության կամ լուռ արտադրում մաքրված փոխարինող
Ելքի դասակարգիչ	Ռենդերված պիքսելները՝ առանց հրահանգի համատեքստի	Չի կարող տարբերել անատոմիական աղյուսակը պոռնոգրաֆիայից կամ ֆիլմի կադրն իրական իրադարձությունից
Քաղաքականության փոխարինում	Ձեր հրահանգի լուռ վերաշարադրումը մինչև ռենդերը	Դուք ստանում եք պատկեր, բայց ոչ այն, որը նշել եք, և ձեզ չեն ասում՝ ինչու

Բոլոր շերտերն ունեն մեկ ընդհանուր կույր բիծ. ոչ մեկը չի կարող տեսնել, թե ինչու եք հարցնում: Բժշկական նկարազարդողը, բախումը վերակառուցող հայցվորի փորձագետը և չար մտադրություն ունեցողը մուտքագրում են նույն գոյականը: Զտիչը տեսնում է գոյականը, ոչ թե ատլասը կամ գործի թղթապանակը, և գնահատվում է ըստ իր բաց թողած վնասների — երբեք ըստ իր ոչնչացրած աշխատանքի: Այդ անհամաչափության պայմաններում ցանկացած օպերատորի համար ռացիոնալ կարգավորումը ավելի շատ մերժելն է: Դա նաև պատճառն է, թե ինչու "պարզապես վերաձևակերպեք"-ը լուծում չէ. վերաձևակերպումը զտիչին նոր տեղեկություն չի տալիս, այն միայն հեռացնում է ձեր հրահանգը գործարկող բառերից, ինչը սովորաբար նշանակում է՝ հեռացնում է ձեր իմաստից:

02Ինչ են բովանդակության զտիչներն իրապես կանխելու համար

Առանց զտիչի գեներացիայի օգտին փաստարկը, որը ձևացնում է, թե զտիչներն առանց պատճառի են գոյություն ունեն, կարդալու արժանի չէ: Կա արդյունքների նեղ շարք, որոնց վնասը ներհատուկ է հենց պատկերին՝ անկախ նրանից, թե ով է խնդրել և ինչու.

• Անչափահասների ներգրավմամբ սեռական բովանդակություն: Ոչ մի համատեքստ դա ընդունելի չի դարձնում. ոչ մի մասնագիտական աշխատանքային հոսք դա չի պահանջում:
• Իրական մարդկանց ոչ կամավոր ինտիմ պատկերներ: Վնասը հասնում է նրան, ով համաձայն չի եղել, և հեռացումը դա հետ չի բերում:
• Թիրախային հետապնդում և զրպարտող կեղծիք — անվանապես նշված անձին ներկայացնել այնպես, կարծես նա արել է մի բան, որը չի արել:
• Կեղծիքի մակարդակի փաստաթղթեր — անձնագրեր, ինքնության քարտեր, թղթադրամներ, կնիքներ և ֆինանսական գործիքներ, պատրաստված իսկականի տեղ անցնելու համար:
• Խաբուսիկ սինթետիկ ապացույցներ — իրական իրադարձությունների կեղծված պատկերներ, որոնք ներկայացվում են որպես փաստաթուղթ, ոչ թե նկարազարդում:

Ցանկը կարճ է և ունի կառուցվածք. վնասն ապրում է հենց արտեֆակտում, իրական մարդու կամ փաստաթղթի հետ դրա նմանության մեջ և ճշմարտության տեսքով դրա ներկայացման մեջ: Նկատեք, թե ինչ չկա ցանկում — մերկություն, արյուն, զենք, պատմական վայրագություն, քաղաքական ծաղր: Դրանք բժշկության, լրագրության, արվեստի, դատաբժշկության և երգիծանքի հումքն են, և զտիչը, որը դրանք վերաբերվում է որպես վնասի կատեգորիաների, իրականացնում է շատ ավելի լայն պատկերացում այն մասին, թե որ թեմաներն են հարգարժան:

Shannon-ն արգելում է այդ ցանկի ամեն ինչ՝ հրապարակված Պատասխանատու օգտագործման քաղաքականությամբ, որտեղ կատեգորիաներն ու հետևանքները անվանված են, և ոչ թե բանալի բառերի աղյուսակով, որը նաև բռնում է "placenta"-ն: Մեկը կանոն է, որը կարող եք կարդալ և պահանջել մեզնից. մյուսը ձեր մտադրությունների վերաբերյալ ենթադրություն է այնպիսի դասակարգչի կողմից, որը դուք չեք տեսնում:

03Որքա՞ն մեծ է գերմերժման խնդիրը: Ինչ է չափում հետազոտությունը

Մինչև վերջերս պատկերային մոդելների գերմերժումը պատմություն էր — հազարավոր մարդիկ նույն պատմությամբ և առանց այն չափելու հնարավորության: Դա փոխվեց OVERT-ով (OVEr-Refusal evaluation on Text-to-image models), որը ներկայացվել է ICML 2025-ում UC Berkeley-ի խմբի կողմից, որում ընդգրկված են Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song և Song Mei. առաջին լայնածավալ բենչմարքը, որը չափում է, թե որքան հաճախ են տեքստից-պատկեր համակարգերը մերժում լիովին անվնաս հրահանգները:

Ձևավորումը կարևոր է: 4,600 հրահանգները կառուցված են այնպես, որ թվան վնասակար՝ մնալով անվնաս — իրական մասնագիտական հարցման ձևը, որտեղ հիշատակվում է սկալպել, կապտուկ կամ բողոքի ակցիա — իսկ 1,785 իսկապես վնասակար հրահանգները դրանց կողքին են որպես ստուգիչ, որպեսզի մոդելը չկարողանա բարձր միավոր հավաքել՝ ամեն ինչ մերժելով: Ինը կատեգորիաները ձգվում են անհատի և հանրային գործչի գաղտնիությունից մինչև հեղինակային իրավունք, խտրականություն, ինքնավնասում, սեռական բովանդակություն և ապօրինի գործունեություն, ընդհուպ մինչև բռնություն:

Գլխավոր բացահայտումն այն է, որ գերմերժումը տարածված է կատեգորիաների և առաջատար մոդելների շրջանում: Երկրորդն ավելի կործանարար է ստանդարտ շրջանցման համար. հեղինակները փորձարկել են հրահանգի վերաշարադրումը որպես մեղմացման միջոց և հաղորդում են, որ այն "հաճախ վտանգում է հավատարմությունը սկզբնական հրահանգների իմաստին": Դուք կարող եք անցնել զտիչը՝ փոխելով այն, ինչ խնդրել եք, և այդ ժամանակ այլևս չունեք այն, ինչ խնդրել էիք:

Ավելի նեղ ուսումնասիրությունը հասնում է նույն եզրակացությանը՝ պիքսելների կողմից: An Art-centric perspective on AI-based content moderation of nudity աշխատանքում (Riccio, Curto, Hofmann և Oliver, AI4VA սեմինար ECCV 2024-ում) հեղինակները գնահատում են երեք արտադրական NSFW դասակարգիչ գեղարվեստական մերկության վրա և բացահայտում են և՛ գենդերային կողմնակալություն, և՛ ոճական կողմնակալություն. մարմնի ուսումնասիրության վերաբերյալ վճիռը կախված է նրանից, թե ում մարմինն է պատկերված և ինչ ոճով: Դա չափված ձևակերպումն է այն բանի, ինչի մասին բնորդից նկարող ամեն արվեստագետի ասել են, թե երևակայություն է:

04Օրինական աշխատանքի ութ տեսակ, որ արգելափակում են զտված գեներատորները

Սրանք այն կատեգորիաներն են, որտեղ գերմերժումը ոչ թե անհարմարություն է, այլ աշխատանքի կանգ: Որտեղ կա կոնկրետ հաղորդված դեպք, այն մեջբերվում է. որտեղ ոչինչ չի ստուգվել, կատեգորիան նկարագրվում է առանց միջադեպ հորինելու:

1. Բժշկական և անատոմիական նկարազարդում

Ոլորտի լավագույն փաստագրված դեպքը: 2023 թ. ապրիլին The Intercept-ը (Debbie Nathan) հաղորդել է, որ Midjourney-ն արգելել էր անատոմիական տերմիններ, այդ թվում՝ speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom և IUD, մինչդեռ DALL·E 2-ը մերժել էր "pills used in medication abortion"-ը՝ բովանդակության քաղաքականության հաղորդագրությամբ: Օրինաչափությունը գտել է Julia Rockwell-ը՝ կլինիկական տվյալների վերլուծաբան, ով փորձել էր գեներացնել պլացենտայի պատկեր որպես նվեր բջջաբան ընկերուհու համար, և հաղորդել է MIT Technology Review-ին: Անհամաչափությունն ամեն ինչ ասում է. "stethoscope"-ը գեներացվում էր նորմալ, մինչդեռ "speculum"-ն արգելված էր: Վաշինգտոնի համալսարանի հետազոտող Bill Howe-ն զտիչներն անվանել է "ham-fisted" և ասել, որ դրանք "հիմնականում անհնարին են դարձնում վերարտադրության մասին գիտական քննարկումը": Հիվանդների կրթությունը, վիրաբուժական ատլասները և բուժքույրական ծրագրերը բոլորն էլ պահանջում են մարմիններ ճշգրիտ պատկերել՝ ներառյալ այն մասերը, որոնք բանալի բառերի ցանկը որոշել է անվայել համարել:

2. Դատաբժշկական և վթարային վերակառուցում

Բախումների վերակառուցումը, հրդեհի աղբյուրի վերլուծությունը և դատարանային ցուցադրական նյութերը պահանջում են վնասվածքները, վերքերը և բռնի մեխանիկան պատկերել կլինիկական ճշգրտությամբ: "Արյուն" կամ "հրազենային վերք" մերժելու համար կարգավորված զտիչը մերժում է ամբողջ մասնագիտությունը. համատեքստը — փորձագիտական եզրակացություն, ապահովագրական գործ — անտեսանելի է դասակարգչի համար, և հենց այն չեզոքությունը, որը նման պատկերները դարձնում է ընդունելի դատարանում, ստիպում է դրանք ընթերցվել որպես դաժանություն:

3. Մերկ մարմնի արվեստ և բնորդից նկարչություն

Մերկը արվեստի հիմնարար թեմա է ամենուր, և մարմնի ուսումնասիրությունը արվեստի կրթության միջուկն է: Վերևում նշված ECCV 2024-ի արդյունքը արվեստագետների հաղորդածի չափված տարբերակն է. դասակարգիչները հուսալիորեն չեն տարբերում մարմնի ուսումնասիրությունը պոռնոգրաֆիայից, և նրանց սխալները կողմնակալ են ըստ սեռի և ոճի — զտիչ, որն ամենախիստն է հենց այն ավանդույթի նկատմամբ, որը պետք է ճանաչեր:

4. Պատմական և պատերազմական պատկերներ

Դասագրքային արվեստը, թանգարանային մեկնաբանությունը և հուշահամալիրային նախագծերը պահանջում են պատկերել համազգեստներ, զենքեր, ճամբարներ, ճակատամարտեր և վայրագություններ: 2024 թ. փետրվարի Gemini-ի դեպքն ուսանելի է, որովհետև ձախողումը գնաց հակառակ ուղղությամբ և հասցրեց նույնքան վնաս: Google-ը դադարեցրեց Gemini-ի՝ մարդկանց պատկերներ գեներացնելու հնարավորությունը 2024 թ. փետրվարի 22-ին, երբ այն արտադրեց պատմական խմբերի, այդ թվում՝ նացիստական ժամանակաշրջանի գերմանացի զինվորների ռասայապես վերակազմված պատկերներ: Գործադիր տնօրեն Sundar Pichai-ն արդյունքներն անվանեց "completely unacceptable". ավագ փոխնախագահ Prabhakar Raghavan-ը ընդունեց, որ մոդելը "overcompensated" է և դարձել է "over-conservative": Համատեքստից կույր անվտանգությունը պատմական պատկերներն ավելի ապահով չդարձրեց — այն դրանք դարձրեց կեղծ, ինչը պատմության հրատարակչի համար ավելի վատ է:

5. Բռնությունը գեղարվեստական ստեղծագործության և ֆիլմի նախնական վիզուալիզացիայի մեջ

Սթորիբորդները, կոնցեպտ-արտը, կոմիքսները և խաղերի դիզայնը պատկերում են բռնություն նույն պատճառով, ինչ վեպերն ու ֆիլմերը: Զտիչը, որը չի կարող տարբերել սարսափ ֆիլմի սթորիբորդն սպառնալիքից, ամբողջ պատմողական արվեստի հոսքագիծը համարում է կասկածելի — թեև սթորիբորդը բացահայտորեն ոչ իրական է, դա տեսարանի պլան է, որը դերասաններն ու էֆեկտների թիմերը կբեմադրեն:

6. Քաղաքական երգիծանք և խմբագրական ծաղրանկարչություն

Իշխանավորների ծաղրանկարը խոսքի ամենապաշտպանված կատեգորիաներից է ժողովրդավարությունների մեծ մասում, և պարբերաբար առաջին բանն է, որ պատկերային զտիչը հեռացնում է: Ամենապարզ փաստագրված դեպքը Midjourney-ի՝ 2023 թ. ապրիլի որոշումն է՝ արգելել Չինաստանի նախագահ Si Ցզինպինի պատկերները և արգելափակել նրա անունը հրահանգներում — հաղորդել են PetaPixel-ը, Decrypt-ը և այլք — շարունակելով թույլատրել այլ համաշխարհային առաջնորդներին: Հիմնադիր David Holz-ը Discord-ում բացատրեց, որ ընկերությունը ցանկանում էր "minimize drama", և որ "Չինաստանում մարդկանց՝ այս տեխնոլոգիան օգտագործելու հնարավորությունն ավելի կարևոր է, քան ձեր՝ երգիծանք գեներացնելու հնարավորությունը". Sarah McLaughlin-ը Foundation for Individual Rights and Expression-ից դա անվանեց ցենզուրա: Ինչ էլ որ եզրակացնենք բիզնես հաշվարկի մասին, մեխանիզմն արժանի է անվանման. ազգային խոսքի սահմանափակում, որը կիրառվում է աշխարհի բոլոր օգտատերերի նկատմամբ, քանի որ գլոբալ զտիչն ունի մեկ կարգավորում:

7. Անվտանգության հետազոտություն և ֆիշինգի իրազեկման նյութեր

Անվտանգության թիմերը ստեղծում են ուսուցողական նյութեր, որոնք պետք է նման լինեն այն բանին, ինչի մասին զգուշացնում են. համոզիչ կեղծ մուտքի էկրան, կեղծված հաշիվ-ապրանքագիր, չարամիտ QR կոդ ավտոկայանատեղիի հաշվիչի վրա: Դասակարգչի համար դա անտարբերելի է այն հարձակումից, որի դեմ պատվաստում է — ճշմարտանմանությունը հենց նպատակն է — ուստի զտիչները նույն կերպ արգելափակում են և՛ պաշտպանությունը, և՛ հարձակումը՝ առավելություն տալով հարձակվողին, ով այնուամենայնիվ երբեք չէր օգտագործելու զտված սպառողական գործիք:

8. Իրավատերեր, որոնց մերժում են սեփական բրենդի, ապրանքի կամ կերպարի պատկերները

Հեղինակային իրավունքի և ապրանքանիշի զտումը սեփականությունը չի ստուգում. այն ստուգում է նմանությունը: Ընկերությունը հեշտությամբ չի կարող գեներացնել սեփական լոգոյի կամ ապրանքի պատկերներ, իրավատերը չի կարող պատկերել սեփական կերպարը, և մարդիկ հաճախ չեն կարող գեներացնել սեփական դեմքը, որովհետև կերպարի զտիչները հենվում են ճանաչելիության, ոչ թե համաձայնության վրա: OVERT-ը իր ինը գերմերժման կատեգորիաների մեջ ներառում է "հեղինակային իրավունքի խախտումները" հենց այն պատճառով, որ այս կեղծ դրական արդյունքն այդքան տարածված է: Զտիչը կոպիտ գործիք է մի հարցի համար — դուք իրավունք ունե՞ք դրա նկատմամբ — որը նա հնարավորություն չունի տալու:

Վերոնշյալ ութից չորսը խարսխված են կոնկրետ հրապարակված դեպքի վրա (բժշկական, մերկ մարմնի արվեստ, պատմական, երգիծանք), գումարած OVERT-ի հեղինակային իրավունքի կատեգորիան՝ ութերորդի համար: Դատաբժշկությունը, գեղարվեստական նախնական վիզուալիզացիան և անվտանգության իրազեկման նյութերը ներկայացված են որպես կատեգորիաներ. դրանք տուժած մասնագիտական աշխատանքի հայտնի դասեր են, որոնց համար մենք կոնկրետ հրապարակված միջադեպ չենք ստուգել:

05Ինչու են AI արտ գեներատորներն արգելափակում սխալ բաները, և ինչու բովանդակության զտիչի կեղծ դրական արդյունքները հնարավոր չէ կարգավորմամբ վերացնել

Գերարգելափակմանն ինստինկտիվ պատասխանն է "թուլացրեք շեմը": Դա չի աշխատում՝ կառուցվածքային պատճառներով, ոչ թե ջանքի պակասի պատճառով:

Կատեգորիաները համընկնում են ազդանշանում, բայց ոչ իրականությունում: Վիրաբուժական նկարազարդումը և պոռնոգրաֆիան կիսում են մերկությունը: Դատաբժշկական վերակառուցումը և դաժանությունը կիսում են արյունը: Իրազեկման սլայդը և ֆիշինգային հավաքածուն կիսում են կեղծ մուտքի ձևը: Երգիծական ծաղրանկարը և զրպարտող կեղծիքը կիսում են ճանաչելի քաղաքական գործչին: Յուրաքանչյուր զույգը տարբերողը նպատակն ու ներկայացումն է — բացակայում է հրահանգից և բացակայում է պիքսելներից: Ոչ մի շեմ չի բաժանում մուտքային տարածքի նույն շրջանը զբաղեցնող երկու խումբ. այն տեղափոխելը միայն մեկ սխալը փոխանակում է մյուսով: Հենց դա ցույց տվեց Gemini-ի դեպքը. մեկ ձախողումն ուղղելու համար նախատեսված միջամտությունը ծնեց մեկ ուրիշը, որը Google-ի սեփական ավագ փոխնախագահը նկարագրեց որպես "overcompensated":

Ծախսերն անհամաչափ են օպերատորի, ոչ թե ձեր համար: Զտիչը, որը բաց է թողնում մեկ վատ պատկեր, ծնում է լրատվական պատմություն: Զտիչը, որն արգելափակում է տասը հազար օրինական պատկեր, ծնում է լռություն, որովհետև մերժված օգտատերերը չեն կազմակերպվում — նրանք հանձնվում են: Այդ անհամաչափության պայմաններում ռիսկերի կառավարումը մշտապես զուգամիտում է գերարգելափակմանը: Եվ քանի որ հիմքում ընկած դատողությունն անհնար է, արգելացուցակները կուտակում են բառացի տողեր՝ ըստ միջադեպերի առաջացման, ահա այսպես եք ստանում "stethoscope"-ը՝ թույլատրված, իսկ "speculum"-ը՝ արգելված: Ոչ ոք չի որոշել, որ կանանց հատուկ գործիքներն ավելի վտանգավոր են. ցանկն աճել է այնտեղ, ուր ընկել են բողոքները: Այն կոդավորում է օպերատորի PR պատմությունը, ոչ թե վնասի տեսությունը:

Ամենախիստ իրավասությունը դառնում է գլոբալ լռելյայն: Մեկ զտիչ սպասարկում է ամեն երկրի ամեն օգտատիրոջ, ուստի մեկ շուկայի համար ավելացված սահմանափակումն արտահանվում է բոլորին — Սի Ցզինպինի կանոնը դասագրքային դեպք է: Եվ ձեր հրահանգի վերաշարադրումը ոչնչացնում է ձեր իմաստը, ինչը OVERT-ի փորձարարական եզրակացությունն է. յուրաքանչյուր մասնագետ, ով հարցումը վերածել է շրջասության՝ զտիչն անցնելու համար, դա հաստատել է սեփական ձեռքով: Դուք չհաղթեցիք. դուք զիջեցիք:

Սա ամենն անվճար չէ, և քանի որ ձախողումը լուռ է, ծախսն անտեսանելի է այն ցուցանիշներում, որոնք դիտում է օպերատորը: Բավականաչափ մերժումներից հետո դուք դադարում եք հարցնել՝ նախապես նեղացնելով ամեն հրահանգ մինչև այն, ինչը կանխատեսում եք, թե կանցնի. շրջասությունը, որը վերջապես անցնում է, տալիս է պատկեր, որը մոտ է, բայց նույնը չէ, ինչ ձեր փաստաթղթին պետք էր: Ընդհանուր քաղաքականության հաղորդագրությունը ձեզ ոչինչ չի ասում այն մասին, թե որ շերտն է գործարկվել, ուստի կարող եք միայն կռահել և կրկին փորձել — իսկ պատկերային աշխատանքը կրկնվող է, ուստի հինգից մեկ փորձը բռնող զտիչը խաթարում է ցիկլը, ոչ թե պարզապես դանդաղեցնում այն: Միևնույն ժամանակ այն ոլորտները, որոնք ամենամեծ իրավունքն ունեն լուրջ գործիքների, չեն ստանում ո՛չ գրախոս, ո՛չ բողոքարկում և սովորաբար ո՛չ էլ արգելափակվածի հրապարակված ցանկ: Կանոնը, որը չեք կարող կարդալ, կանոն չէ. այն եղանակ է:

06Առանց ցենզուրայի ընդդեմ զտված AI պատկերային գեներատորի. ինչն է իրականում փոխվում

Ահա համեմատության ազնիվ տարբերակը՝ ներառյալ այն, ինչ առանց զտիչի համակարգը չի տալիս ձեզ:

Չափում	Զտված գեներատոր	Առանց զտիչի (Shannon)
Ինչն է որոշում	Դասակարգիչ, որը կարդում է բառեր և պիքսելներ	Մարդ, ով կարդում է ճշգրիտ հրահանգը
Երբ եք իմանում	Ուղարկելուց հետո — երբեմն վճարելուց հետո	Մինչև որևէ բանի ռենդերը կամ գանձումը
Ինչ է կանոնը	Չհրապարակված, փոփոխվող արգելացուցակներ	Հրապարակված Պատասխանատու օգտագործման քաղաքականություն
Մասնագիտական համատեքստ	Անտեսանելի է համակարգի համար	Ձերն է պահելու և ձերն է պատասխանելու
Ձախողման տեսակ	Լուռ գերարգելափակում, իմաստի շեղում	Դուք ստանում եք այն, ինչ խնդրել եք — ներառյալ սխալները
Ով է կրում ռիսկը	Մատակարարը՝ բեռը գցելով ձեր աշխատանքի վրա	Համատեղ. օպերատորի քաղաքականություն և օգտատիրոջ հաշվետվողականություն

Վերջին տողն այն է, որ մարդիկ բաց են թողնում, և հենց այն է կարևորը: Զտիչի հեռացումը չի հեռացնում 02 բաժնի վնասի կատեգորիաները. այն հեռացնում է այն մեքենան, որը վատ էր կռահում դրանց մասին: Պարտավորությունը մնում է այնտեղ, որտեղ էր, բայց այժմ պահվում է երկու կողմի կողմից, ովքեր կարող են դատել համատեքստի մասին. օպերատորը, ով հրապարակում և կիրառում է քաղաքականություն, և դուք, ով գիտեք, թե ինչի համար է պատկերը: Առանց զտիչների AI պատկերի գեներացիան գործիք է այն մարդկանց համար, ովքեր արդեն պատրաստ են կանգնել իրենց արդյունքի հետևում — վիրաբույժի ատլասը, փորձագիտական եզրակացությունը, սթորիբորդը, ծաղրանկարը — և ում կանգնեցնում էր համակարգ, որը չէր կարողանում նրանց տարբերել ուրիշից:

07Ինչ է անում Shannon-ը — և ինչ չի անում

Ճշգրտությունն այստեղ ավելի կարևոր է, քան ոգևորությունը, հատկապես API-ի որոնումից եկած ընթերցողների համար:

Ինչ է անում

• Գեներացիա: Նկարագրեք պատկերը պարզ լեզվով, ցանկացած լեզվով: Shannon-ն ինքն է գրում գեներացիայի հրահանգն անգլերենով՝ անկախ նրանից, թե ինչ լեզվով եք հարցրել:
• Մեկ պատկերի խմբագրում: Ճիշտ մեկ ելակետ — զրույցում արդեն առկա նկար կամ ձեր ընթացիկ հաղորդագրությանը կցված մեկը — փոփոխված հրահանգով, որն ասում է՝ ինչն է փոխվում և ինչը մնում է: Արդյունքն ինքնաբերաբար պահպանում է ելակետի կողմերի հարաբերակցությունը:
• Երկու կամ ավելի պատկերի միավորում: Հագուստի փոխանցում, առարկան տեսարանում, մարդը մարդու կողքին, ապրանքը մարդու վրա, մեկ պատկերի սյուժեն մյուսի ոճով: Հրահանգն անվանում է յուրաքանչյուր պատկերի դերը հերթականությամբ, և օգտագործվում են իրական պատկերները, ուստի դրանց իրական տեսքը պահպանվում է, այլ ոչ թե վերանկարագրվում:
• Կողմերի կառավարում: square (լռելյայն), portrait, landscape, wide և tall: Հստակ հարցումը միշտ հաղթում է:
• Ռենդերը մեր սեփական GPU կլաստերի վրա՝ գեներացիայի ուղու վրա բովանդակության զտիչ չկա, և հրահանգը գրող մոդելի վրա մերժման շերտ չկա:

Ինչ չի անում

• Տեսանյութ չկա: Shannon-ը պատկերներ չի անիմացնում և տեսանյութ չի արտադրում: Սա ճանապարհային քարտեզի կետ չէ, որը խորամանկորեն թաքցվում է — այն պարզապես գոյություն չունի:
• API-ում չկա: Պատկերի գեներացիան, խմբագրումը և կոմպոզիցիան գտնվում են Shannon չաթ հավելվածում: /v1 API-ն սպասարկում է տեքստ և տեսողություն — այն կարող է կարդալ ձեր ուղարկած պատկերները — բայց չի ռենդերում դրանք:
• Առանց հրավերի գեներացիա չկա: Ողջույնը, հարցը կամ պատահաբար կցված լուսանկարը պատկեր չեն գործարկում: Shannon-ից խնդրելը նայել պատկերին — նկարագրել, կարդալ, վերլուծել այն — սովորական տեսողական աշխատանք է, ոչ թե գեներացիա, և լրացուցիչ ոչինչ չի արժենում:

Հաստատման քարտը

Սա այն մեխանիզմն է, որը փոխարինում է զտիչին, և դա դիզայներական ընտրություն է, ոչ թե ձևականություն: Երբ Shannon-ը որոշում է, որ դուք պատկեր եք խնդրում, այն գրում է գեներացիայի հրահանգը և ցույց տալիս ձեզ հաստատման քարտի վրա մինչև որևէ բանի ռենդերը: Ոչինչ չի գեներացվում և ոչինչ չի գանձվում, մինչև չհաստատեք:

Համեմատեք երկու դիզայնն ըստ էության: Զտիչը կռահում է ձեր մտադրությունն ավելի քիչ տեղեկությամբ, քան ունեք դուք, և լուռ կիրառում է կռահումը: Հաստատման քարտը պատկերի բառացի բնութագիրը դնում է այն կողմի առջև, ով գիտի, թե ինչի համար է այն, մինչև որևէ հաշվողական ռեսուրս ծախսվի: Այն բռնում է ձեր հարցման սխալ ընթերցումները, ինչը զտիչներն երբեք չեն անում. այն թույլ է տալիս ավելացնել անատոմիական ճշգրտությունը կամ պատմական մանրամասնը, որը մոդելը թերի է նշել. և այն պատասխանատվությունը դարձնում է ընթեռնելի, ոչ թե ցրված: Դուք տեսաք հրահանգը և սեղմեցիք կոճակը:

08Առանց զտիչի գեներացիան բարձրացնում է պատասխանատվությունը, չի հեռացնում այն

Սա տեղին է այստեղ, ոչ թե տողատակում, որովհետև դա փաստարկի կեսն է: Զտված գեներատորը տալիս է խոստում, որը չի կարող պահել. թե գործիքը ձեր փոխարեն կկանխի չարաշահումը: Այն ձախողվում է երկու ուղղությամբ էլ — արգելափակում է վիրաբույժին և չի կանգնեցնում վճռական չարագործին, ով ունի այլ տարբերակներ և միշտ ունեցել է: Այն, ինչ հուսալիորեն անում է, թույլ տալն է, որ բոլորը զգան, թե պատասխանատվությունը լուծվել է վերևում՝ մեքենայի կողմից: Զտիչի հեռացումը հեռացնում է այդ գեղարվեստը. այն հարցը, թե արդյոք պատկերը պետք է գոյություն ունենա, վերադառնում է այն մարդկանց, ովքեր կարող են պատասխանել:

• Shannon Lab LLC-ի պարտավորությունը: Հրապարակված, կոնկրետ Պատասխանատու օգտագործման քաղաքականություն, որն անվանում է արգելված կատեգորիաները, ոչ թե չհրապարակված արգելացուցակ — կանոններ, որոնք կարող եք կարդալ, մեջբերել և պահանջել մեզնից:
• Ձեր պարտավորությունը: Դուք գիտեք նպատակը, լսարանը, իրավասությունը և պատկերված բոլոր անձանց համաձայնության կարգավիճակը: Գործիքը չգիտի, և դասակարգիչը երբեք չէր կարող իմանալ: Հաստատման քարտը գոյություն ունի, որպեսզի այդ գիտելիքը կիրառվի հենց այն պահին, երբ կարևոր է, և հենց այն կողմի կողմից, ով ունի այն:
• Այն գիծը, որը չի շարժվում: "Զտիչն ինձ չկանգնեցրեց"-ը երբեք ոչ մի միջավայրում պաշտպանություն չի եղել: Ֆոտոխցիկը չի մերժում, մատիտը չի մերժում. օրենքն ու մասնագիտական էթիկան կարգավորում են օգտագործումը, ոչ թե գործիքը: Առանց զտիչի գեներատորը վերականգնում է սովորական կարգը, որի ներքո գործում է ցանկացած այլ մասնագիտական գործիք:

Կարդացեք Պատասխանատու օգտագործման քաղաքականությունը մինչև սկսելը: Այն կարճ է, կոնկրետ, և հենց այն մասն է այս արտադրանքի, որը մնացածը դարձնում է պաշտպանելի:

09Հաճախ տրվող հարցեր

---

Աղբյուրներ՝ Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22 ապրիլի 2023 թ. · PetaPixel, 3 ապրիլի 2023 թ. · CNBC, 22 փետրվարի 2024 թ.: Shannon AI-ն շահագործվում է Shannon Lab LLC-ի կողմից, Նյու Մեքսիկո, ԱՄՆ: