Við geymum hvorki né fáum aðgang að gögnum nokkurs notanda og stöðvum ekki reikninga nema lögmætt yfirvald krefjist aðgerða.
Rannsóknir · Staðsetning

Óritskoðaður á móti síuðum myndgervli

Efnissíur voru smíðaðar til að stöðva lítið safn raunverulegra skaða. Í reynd stöðva þær líka læknisfræðilega myndskreytingu, réttarfræðilega endurgerð, módelteikningu, stríðssögu, leiðaraskopmyndir og fyrirtæki sem vilja mynda eigin vörur. Þetta er kostnaðurinn af því — og hverju það breytir og breytir ekki að fjarlægja síuna.

Birt 5. september 2026RannsóknirShannon Lab LLC

Í stuttu máli

Almennir myndgervlar skima fyrirmæli og úttak með flokkurum sem sjá orð og myndeiningar, aldrei tilgang. Það tryggir falskar jákvæðar niðurstöður, og þær lenda þyngst á sérhæfðri vinnu: líffærafræði, réttarfræði, listrænum nektarmyndum, sögulegu myndefni, forsýn kvikmynda, skopstælingum, fræðsluefni um öryggi, og rétthöfum sem biðja um eigið vörumerki. OVERT (ICML 2025), fyrsta stórtæka viðmiðið um þetta bilanamynstur, notar 4.600 meinlaus en grunsamleg fyrirmæli og kemst að því að ofurneitun sé útbreidd meðal fremstu líkana. Shannon keyrir myndgerð, myndvinnslu á einni mynd og samsetningu margra mynda á okkar eigin GPU-klasa án efnissíu og án neitunarlags, og setur sýnilega ákvörðun í stað bannlistans: staðfestingarspjald sem sýnir nákvæmlega fyrirmælin áður en nokkuð er teiknað. Það eykur ábyrgð þína og okkar; hvort tveggja er í stefnunni um ábyrga notkun. Það er engin myndbandsgerð, og myndavinna býr í spjallforritinu, ekki í API-inu.

Nánast allir sem vinna faglega með myndir eiga sömu söguna. Fyrirmæli sem lýsa einhverju hversdagslegu — þversniði af hnjálið, bíl á árekstrarstundu, módelteikningu í kolum, hermanni árið 1944 — koma til baka sem brot á reglum. Þú umorðar og færð annað brot. Á endanum skrifarðu eitthvað nógu óljóst til að sleppa í gegn og færð mynd sem sýnir ekki lengur það sem þú þurftir. Verkfærið brást ekki hávaðasamlega; það brást í þrepum og gerði þig að þeim sem gaf eftir.

01Hvers vegna hafnar myndgervill fyrirmælum sem eru augljóslega lögleg?

Neitunin er yfirleitt ekki skoðun myndlíkansins. Hún er afurð síustafla utan um líkanið, og lög hans skýra næstum allar undarlegu neitanirnar sem þú hefur fengið.

LagHvað það skoðarEinkennandi bilun
Bannlisti fyrirmælaBókstaflegir strengir og nálæg afbrigði í textanum þínumLokar á orð óháð setningunni í kring — „speculum“ fellur, „stethoscope“ sleppur
Flokkari fyrirmælaLærður dómur um „áhættu“ fyrirmælannaKviknar á efnislegri nálægð: allt nálægt læknisfræði, vopnum, líkömum eða stjórnmálum fær háa einkunn
Neitunarþjálfun líkansinsÁunnin tregða líkansins sjálfsHafnar án villuboða, eða framleiðir í kyrrþey hreinsaða staðgengilsmynd
Flokkari úttaksTeiknaðar myndeiningar, án samhengis fyrirmælannaGetur ekki greint líffærafræðimynd frá klámi, eða kvikmyndaramma frá raunverulegum atburði
StefnuskiptiÞögul endurskrifun fyrirmælanna þinna fyrir teiknunÞú færð mynd, en ekki þá sem þú tilgreindir, og þér er ekki sagt hvers vegna

Öll lögin deila einum blindum bletti: ekkert þeirra sér hvers vegna þú spyrð. Læknisfræðilegur teiknari, sérfræðingur stefnanda sem endurgerir árekstur, og einhver með illt í hyggju slá allir inn sama nafnorðið. Sían sér nafnorðið, ekki líffærafræðiatlasinn eða málsskjölin, og hún er metin á þeim skaða sem hún hleypir í gegn — aldrei á þeirri vinnu sem hún eyðileggur. Undir þeirri ósamhverfu er skynsamlega stillingin fyrir hvern rekstraraðila að hafna meiru. Það er líka ástæða þess að „umorðaðu það bara“ er engin lausn: umorðun gefur síunni engar upplýsingar sem hana vantaði, hún færir fyrirmælin þín aðeins frá orðunum sem kveiktu á henni, sem yfirleitt þýðir burt frá því sem þú áttir við.

02Hverju efnissíum er raunverulega ætlað að afstýra

Rök fyrir ósíaðri myndgerð sem þykjast að síur séu til að ástæðulausu eru ekki þess virði að lesa. Það er þröngt safn úttaka þar sem skaðinn er eðlislægur myndinni sjálfri, óháð því hver bað um hana og hvers vegna:

  • Kynferðislegt efni sem varðar börn. Ekkert samhengi gerir það ásættanlegt; ekkert fagverkferli krefst þess.
  • Nándarmyndir af raunverulegu fólki án samþykkis. Skaðinn lendir á einhverjum sem samþykkti ekkert, og það að fjarlægja myndina afmáir hann ekki.
  • Markviss áreitni og ærumeiðandi tilbúningur — að láta nafngreindan einstakling virðast hafa gert eitthvað sem hann gerði ekki.
  • Skjöl í fölsunargæðum — vegabréf, skilríki, seðlar, innsigli og fjármálagerningar gerð til að standast sem ósvikin.
  • Blekkjandi tilbúin sönnunargögn — uppdiktað myndefni af raunverulegum atburðum sett fram sem heimild en ekki sem myndskreyting.

Listinn er stuttur og hann hefur skipulag: skaðinn býr í afurðinni, í líkindum hennar við raunverulega manneskju eða skjal, og í því að hún er sett fram sem sannleikur. Taktu eftir hvað er ekki á honum — nekt, blóð, vopn, sögulegir hryllingsatburðir, pólitískt háð. Það er hráefni læknisfræði, blaðamennsku, listar, réttarfræði og skopstælingar, og sía sem meðhöndlar það sem skaðaflokka er að framfylgja miklu víðtækari hugmynd um hvaða viðfangsefni séu virðuleg.

Shannon bannar allt á þeim lista, í birtri stefnu um ábyrga notkun með nafngreindum flokkum og afleiðingum, fremur en með leitarorðatöflu sem grípur líka „placenta“. Annað er regla sem þú getur lesið og krafið okkur um; hitt er ágiskun flokkara sem þú sérð ekki um ætlanir þínar.

03Hversu stórt er ofurneitunarvandamálið? Hvað rannsóknirnar mæla

Þar til nýlega var ofurneitun í myndlíkönum aðeins reynslusaga — þúsundir manna með sömu söguna og enga leið til að stærðarmeta hana. Það breyttist með OVERT (OVEr-Refusal evaluation on Text-to-image models), kynntu á ICML 2025 af hópi frá UC Berkeley sem í voru meðal annarra Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song og Song Mei: fyrsta stórtæka viðmiðinu sem mælir hversu oft texta-í-mynd kerfi hafna fyrirmælum sem eru algjörlega meinlaus.

4,600
Meinlaus fyrirmæli
9
Öryggisflokkar
1,785
Skaðleg til samanburðar
ICML
2025

Hönnunin skiptir máli. Fyrirmælin 4.600 eru smíðuð til að líta út fyrir að vera skaðleg þótt þau séu meinlaus — í laginu eins og raunveruleg fagbeiðni sem nefnir hnífsblað, mar eða mótmæli — og 1.785 raunverulega skaðleg fyrirmæli standa við hlið þeirra til samanburðar, svo líkan getur ekki fengið góða einkunn með því að hafna öllu. Flokkarnir níu spanna allt frá friðhelgi einstaklinga og opinberra persóna í gegnum höfundarétt, mismunun, sjálfsskaða, kynferðislegt efni og ólöglega starfsemi til ofbeldis.

Meginniðurstaðan er að ofurneitun sé útbreidd þvert á flokka og þvert á fremstu líkön. Sú síðari er meira sláandi fyrir hefðbundnu undankomuleiðina: höfundarnir prófuðu endurskrifun fyrirmæla sem mótvægi og greina frá því að hún „skerði oft trúfesti við merkingu upphaflegu fyrirmælanna“. Þú kemst framhjá síunni með því að breyta því sem þú baðst um, og þá ertu ekki lengur með það sem þú baðst um.

Þrengri rannsókn kemst að sömu niðurstöðu frá myndeiningahliðinni. Í An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann og Oliver, AI4VA-vinnustofunni á ECCV 2024) meta höfundarnir þrjá NSFW-flokkara í rekstri á listrænni nekt og afhjúpa bæði kynjaskekkju og stílskekkju: dómurinn um módelteikningu ræðst af því hvers líkami er sýndur og í hvaða stíl. Það er mæld staðfesting á því sem hverjum módelteiknara hefur verið sagt að sé ímyndun.

04Átta tegundir löglegrar vinnu sem síaðir myndgervlar loka á

Þetta eru flokkarnir þar sem ofurneitun er ekki óþægindi heldur vinnustöðvun. Þar sem tiltekið skjalfest tilvik er til er vísað í það; þar sem ekkert var staðfest er flokknum lýst án þess að spinna upp atvik.

1. Læknisfræðileg og líffærafræðileg myndskreyting

Best skjalfesta tilvikið á sviðinu. Í apríl 2023 greindi The Intercept (Debbie Nathan) frá því að Midjourney hefði bannað líffærafræðileg hugtök á borð við speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom og IUD, á meðan DALL·E 2 hafnaði „pills used in medication abortion“ með skilaboðum um brot á efnisreglum. Mynstrið fann Julia Rockwell, klínískur gagnagreinandi sem hafði reynt að búa til mynd af fylgju sem gjöf handa vinkonu sinni í frumulíffræði, og greindi frá því í MIT Technology Review. Ósamhverfan segir allt sem segja þarf: „stethoscope“ virkaði eðlilega á meðan „speculum“ var bannað. Bill Howe, rannsakandi við Háskólann í Washington, kallaði síurnar „klunnalegar“ og sagði að þær gerðu það „nánast ómögulegt að eiga vísindalega umræðu um æxlun“. Sjúklingafræðsla, skurðlækningaatlasar og námskrár í hjúkrun þurfa allar líkama sýnda af nákvæmni, þar á meðal þá hluta sem leitarorðalisti hefur ákveðið að séu ósæmilegir.

2. Réttarfræðileg endurgerð og slysagreining

Endurgerð árekstra, upprunagreining elds og sýningargögn fyrir dómstóla krefjast þess að skemmdir, áverkar og ofbeldisfullt aflfræðiferli séu sýnd af klínískri nákvæmni. Sía sem er stillt á að hafna „blóði“ eða „skotsári“ hafnar faggreininni: samhengið — sérfræðiskýrsla, tryggingamál — er ósýnilegt flokkaranum, og einmitt það hlutleysi sem gerir slíkt myndefni tækt fyrir dómi er það sem gerir að það lesist sem hryllingur.

3. Listrænar nektarmyndir og módelteikning

Nektin er grundvallarviðfangsefni listar alls staðar, og módelteikning er kjarni í listnámi. Niðurstaða ECCV 2024 hér að ofan er mælda útgáfan af því sem listamenn segja frá: flokkarar greina ekki áreiðanlega módelteikningu frá klámi, og villur þeirra eru skekktar eftir kyni og stíl — sía sem er hörðust einmitt við þá hefð sem hún ætti að þekkja.

4. Sögulegt myndefni og stríðsmyndefni

Myndefni í kennslubókum, safnatúlkun og minningarverkefni krefjast þess að einkennisbúningar, vopn, búðir, orrustur og hryllingsatburðir séu sýnd. Gemini-atvikið í febrúar 2024 er lærdómsríkt vegna þess að bilunin gekk í öfuga átt og olli jafn miklu tjóni. Google slökkti á getu Gemini til að búa til myndir af fólki 22. febrúar 2024 eftir að það framleiddi kynþáttalega endursamsettar myndir af sögulegum hópum, þar á meðal þýskum hermönnum á tímum nasista. Sundar Pichai forstjóri kallaði úttakið „algjörlega óásættanlegt“; Prabhakar Raghavan aðstoðarforstjóri viðurkenndi að líkanið hefði „ofbætt“ og orðið „of íhaldssamt“. Samhengisblint öryggi gerði sögulegt myndefni ekki öruggara — það gerði það falskt, sem er verra fyrir sögubókaútgefanda.

5. Ofbeldi í skáldskap og forsýn kvikmynda

Atriðaskissur, hugmyndalist, myndasögur og leikjahönnun sýna ofbeldi af sömu ástæðu og skáldsögur og kvikmyndir gera. Sía sem getur ekki greint hryllingsskissu frá hótun meðhöndlar allt framleiðsluferli frásagnarlista sem grunsamlegt — þótt atriðaskissa sé beinlínis óraunveruleg, áætlun um atriði sem leikarar og brellufólk munu setja á svið.

6. Pólitískar skopmyndir og leiðarateikningar

Skopmyndir af valdhöfum eru meðal þeirra tjáningarforma sem njóta mestrar verndar í flestum lýðræðisríkjum, og eru jafnframt það fyrsta sem myndsía fjarlægir. Skýrasta skjalfesta tilvikið er ákvörðun Midjourney í apríl 2023 um að banna myndir af Xi Jinping, forseta Kína, og loka á nafn hans í fyrirmælum — sem PetaPixel, Decrypt og fleiri greindu frá — á meðan aðrir þjóðarleiðtogar voru áfram leyfðir. Stofnandinn David Holz útskýrði á Discord að fyrirtækið vildi „lágmarka læti“ og að „geta fólks í Kína til að nota þessa tækni skiptir meira máli en geta þín til að búa til skopstælingar“; Sarah McLaughlin hjá Foundation for Individual Rights and Expression kallaði það ritskoðun. Hvað sem menn álykta um viðskiptalega útreikninginn þá á gangverkið skilið að vera nefnt: takmörkun á tjáningu í einu ríki beitt gagnvart öllum notendum um allan heim, því alþjóðleg sía hefur bara eina stillingu.

7. Öryggisrannsóknir og fræðsluefni um veiðipóst

Öryggisteymi búa til þjálfunarefni sem verður að líta út eins og það sem það varar við: sannfærandi fölsuð innskráningarsíða, falsaður reikningur, illgjarn QR-kóði á stöðumæli. Fyrir flokkara er það óaðgreinanlegt frá árásinni sem það bólusetur gegn — trúverðugleikinn er allur tilgangurinn — svo síur loka jafnt á vörn og sókn, sem gagnast árásaraðilanum, sem ætlaði hvort eð er aldrei að nota síað neytendaverkfæri.

8. Rétthöfum hafnað um myndir af eigin vörumerki, vöru eða ásýnd

Síun á höfundarétti og vörumerkjum athugar ekki eignarhald; hún athugar líkindi. Fyrirtæki á erfitt með að búa til myndefni af eigin merki eða vöru, rétthafi getur ekki myndað eigin persónu, og fólk getur oft ekki búið til mynd af eigin andliti, því ásýndarsíur miða við þekkjanleika en ekki samþykki. OVERT hefur „höfundaréttarbrot“ meðal sinna níu ofurneitunarflokka einmitt vegna þess hversu algeng þessi falska jákvæða niðurstaða er. Sían er barefli fyrir spurningu — áttu réttinn á þessu? — sem hún hefur enga leið til að spyrja.

Fjögur af átta hér að ofan eru fest við tiltekið birt tilvik (læknisfræði, listrænar nektarmyndir, saga, skopstælingar) auk höfundaréttarflokks OVERT fyrir það áttunda. Réttarfræði, forsýn skáldskapar og fræðsluefni um öryggi eru sett fram sem flokkar: þetta eru vel þekktir flokkar fagvinnu sem verða fyrir þessu en við staðfestum ekki tiltekið birt atvik fyrir þá.

Athugaðu frumheimildirnar

Hvert skjalfest tilvik hér að ofan er opinbert og hægt að sannreyna sjálfstætt. Lestu þau frekar en að taka lýsingu okkar á trúnni.

05Hvers vegna myndgervlar loka á rangt efni og hvers vegna ekki er hægt að stilla falskar jákvæðar niðurstöður burt

Sjálfsagða viðbragðið við oflokun er „slakaðu á þröskuldinum“. Það virkar ekki, af byggingarlegum ástæðum fremur en vegna skorts á fyrirhöfn.

Flokkarnir skarast í merkinu en ekki í raunveruleikanum. Skurðlækningamynd og klám deila nekt. Réttarfræðileg endurgerð og blóðugt efni deila blóði. Fræðsluglæra og veiðipóstsbúnaður deila fölsuðu innskráningarformi. Skopmynd og ærumeiðandi tilbúningur deila þekkjanlegum stjórnmálamanni. Það sem greinir hvert par að er tilgangur og framsetning — hvorugt til staðar í fyrirmælunum eða í myndeiningunum. Enginn þröskuldur aðskilur tvo hópa sem sitja á sama svæði inntaksrýmisins; að færa hann skiptir aðeins einni villu út fyrir aðra. Það er einmitt það sem Gemini-atvikið sýndi: inngrip sem átti að laga eina bilun framleiddi aðra, sem aðstoðarforstjóri Google lýsti sjálfur sem „ofbætt“.

Kostnaðurinn er ósamhverfur fyrir rekstraraðilann, ekki fyrir þig. Sía sem hleypir einni slæmri mynd í gegn skilar fjölmiðlaumfjöllun. Sía sem lokar á tíu þúsund löglegar skilar þögn, því notendur sem er hafnað skipuleggja sig ekki — þeir gefast upp. Áhættustýring undir þeirri ósamhverfu leitar varanlega í oflokun. Og af því að undirliggjandi matið er ómögulegt hlaða bannlistar utan á sig bókstaflegum strengjum eftir því sem atvik koma upp, sem er ástæða þess að „stethoscope“ er í lagi en „speculum“ bannað. Enginn ákvað að kvenlæg áhöld væru hættulegri; listinn óx þar sem kvartanir lentu. Hann skráir almannatengslasögu rekstraraðila, ekki kenningu um skaða.

Strangasta lögsagan verður alþjóðleg sjálfgild stilling. Ein sía þjónar hverjum notanda í hverju landi, svo takmörkun sem bætt er við fyrir einn markað er flutt út til allra hinna — Xi Jinping-reglan er skólabókardæmið. Og að endurskrifa fyrirmælin þín eyðileggur merkingu þeirra, sem er tilraunaniðurstaða OVERT: hver einasti fagmaður sem hefur þvegið beiðni gegnum orðskrúð til að koma henni framhjá síu hefur staðfest það af eigin raun. Þú vannst ekki; þú sættist.

Ekkert af þessu er ókeypis, og af því að það bregst hljóðlega er kostnaðurinn ósýnilegur í þeim mælikvörðum sem rekstraraðili horfir á. Eftir nógu margar neitanir hættirðu að spyrja og þrengir hver fyrirmæli fyrirfram niður í það sem þú spáir að sleppi í gegn; orðskrúðið sem loks sleppur skilar mynd sem er nálægt því, en ekki það, sem skjalið þitt þurfti. Almenn stefnuskilaboð segja þér ekkert um hvaða lag kviknaði, svo þú getur aðeins giskað og reynt aftur — og myndavinna er ítruð, svo sía sem grípur eina tilraun af fimm rýfur ferlið fremur en að hægja aðeins á því. Á meðan fá þær faggreinar sem eiga sterkasta tilkallið til alvöru verkfæra engan yfirlesara, engan áfrýjunarrétt og yfirleitt engan birtan lista yfir það sem er lokað á. Regla sem þú getur ekki lesið er ekki regla; hún er veður.

06Óritskoðaður á móti síuðum myndgervli: hverju breytist í raun

Hér er heiðarlega útgáfan af samanburðinum, þar á meðal það sem ósíað kerfi gefur þér ekki.

VíddSíaður myndgervillÓsíaður (Shannon)
Hvað ræðurFlokkari sem les orð og myndeiningarManneskja sem les nákvæmlega fyrirmælin
Hvenær þú kemst að þvíEftir að þú sendir — stundum eftir að þú borgarÁður en nokkuð er teiknað eða rukkað
Hver reglan erÓbirtir, síbreytilegir bannlistarBirt stefna um ábyrga notkun
Faglegt samhengiÓsýnilegt kerfinuÞitt að halda á, og þitt að svara fyrir
BilanamynsturÞögul oflokun, merkingarfrávikÞú færð það sem þú baðst um — mistökin líka
Hver ber áhættunaSöluaðilinn, velt yfir á vinnuna þínaDeilt: stefna rekstraraðila auk ábyrgðar notanda

Síðasta línan er sú sem fólk hleypur yfir, og sú sem skiptir máli. Að fjarlægja síu fjarlægir ekki skaðaflokkana í kafla 02; hún fjarlægir vélina sem var að giska illa um þá. Skyldan er áfram þar sem hún var, borin nú af tveimur aðilum sem geta hugsað um samhengi: rekstraraðilanum, sem birtir og framfylgir stefnu, og þér, sem veist til hvers myndin er. Ósíuð myndgerð með gervigreind er verkfæri fyrir fólk sem er þegar reiðubúið að standa á bak við útkomuna sína — skurðlæknaatlasinn, sérfræðiskýrsluna, atriðaskissuna, skopmyndina — og var verið að stöðva af kerfi sem gat ekki greint það frá einhverjum öðrum.

07Hvað Shannon gerir — og hvað það gerir ekki

Nákvæmni skiptir hér meira máli en hrifning, sérstaklega fyrir lesendur sem koma úr API-leit.

Búa til
Nýjar myndir
Breyta
Einni upprunamynd
Sameina
Tveimur eða fleiri myndum
Nei
Myndbandsgerð

Hvað það gerir

  • Myndgerð. Lýstu mynd á venjulegu máli, á hvaða tungumáli sem er. Shannon skrifar myndgerðarfyrirmælin sjálft, á ensku, sama á hvaða tungumáli þú baðst.
  • Myndvinnsla á einni mynd. Nákvæmlega ein upprunamynd — mynd sem þegar er í samtalinu, eða ein hengd við núverandi skilaboð — breytt með fyrirmælum um hvað breytist og hvað stendur. Útkoman heldur myndhlutfalli upprunans sjálfkrafa.
  • Samsetning tveggja eða fleiri mynda. Flutningur á fatnaði, hlutur inn í umhverfi, manneskja við hlið manneskju, vara á manneskju, viðfangsefni úr einni mynd með stíl úr annarri. Fyrirmælin nefna hlutverk hverrar myndar í réttri röð, og raunverulegu myndirnar eru notaðar, svo raunverulegt útlit þeirra varðveitist í stað þess að vera lýst upp á nýtt.
  • Stjórn á myndhlutfalli. square (sjálfgefið), portrait, landscape, wide og tall. Skýr ósk ræður alltaf.
  • Teiknun á okkar eigin GPU-klasa, án efnissíu á myndgerðarleiðinni og án neitunarlags á líkaninu sem skrifar fyrirmælin.

Hvað það gerir ekki

  • Ekkert myndband. Shannon hreyfir ekki myndir og býr ekki til myndband. Þetta er ekki liður á vegvísi sem haldið er leyndum af feimni — hann er ekki til.
  • Ekki í API-inu. Myndgerð, myndvinnsla og samsetning eiga heima í Shannon-spjallforritinu. /v1 API-ið þjónar texta og sjón — það getur lesið myndir sem þú sendir því — en það teiknar þær ekki.
  • Engin óumbeðin myndgerð. Kveðja, spurning eða ljósmynd hengd með í framhjáhlaupi kveikir ekki á mynd. Að biðja Shannon að skoða mynd — lýsa henni, lesa hana, greina hana — er venjuleg sjónvinna, ekki myndgerð, og kostar ekkert aukalega.

Staðfestingarspjaldið

Þetta er gangverkið sem kemur í stað síunnar, og það er hönnunarval en ekki formsatriði. Þegar Shannon metur að þú sért að biðja um mynd skrifar það myndgerðarfyrirmælin og sýnir þér þau á staðfestingarspjaldi áður en nokkuð er teiknað. Ekkert er búið til og ekkert rukkað fyrr en þú staðfestir.

Berðu hönnunirnar saman á eigin verðleikum. Sía giskar á ætlun þína með minni upplýsingum en þú hefur, og framfylgir ágiskuninni þegjandi. Staðfestingarspjald setur bókstaflega lýsingu myndarinnar fyrir framan þann aðila sem veit til hvers hún er, áður en nokkur reikniafl er eytt. Það grípur misskilning á beiðninni þinni, sem síur gera aldrei; það leyfir þér að bæta við líffærafræðilegri nákvæmni eða sögulegum smáatriðum sem líkanið vantilgreindi; og það gerir ábyrgðina læsilega í stað þess að hún dreifist. Þú sást fyrirmælin og þú ýttir á hnappinn.

08Ósíuð myndgerð eykur ábyrgð, hún afnemur hana ekki

Þetta á heima hér en ekki í fæti síðunnar, því þetta er helmingur röksemdarinnar. Síaður myndgervill gefur loforð sem hann getur ekki staðið við: að verkfærið muni koma í veg fyrir misnotkun fyrir þína hönd. Það bregst í báðar áttir — það lokar á skurðlækninn, og það stöðvar ekki staðráðinn misindismann, sem á aðra kosti og átti alltaf. Það sem það gerir áreiðanlega er að láta öllum líða eins og ábyrgðin hafi verið afgreidd framar í keðjunni, af vél. Að fjarlægja síuna fjarlægir þá skáldsögu; spurningin um hvort mynd eigi að vera til fer aftur til þeirra sem geta svarað henni.

  • Skylda Shannon Lab LLC. Birt og skýr stefna um ábyrga notkun sem nefnir bannaða flokka fremur en óbirtur bannlisti — reglur sem þú getur lesið, vitnað í og krafið okkur um.
  • Skylda þín. Þú þekkir tilganginn, áhorfendurna, lögsöguna og samþykkisstöðu allra sem sýndir eru. Verkfærið gerir það ekki og flokkari gæti það aldrei. Staðfestingarspjaldið er til svo að sú þekking sé notuð á því augnabliki sem hún skiptir máli, af þeim sem hefur hana.
  • Línan sem færist ekki. „Sían stöðvaði mig ekki“ hefur aldrei verið vörn í neinum miðli. Myndavél hafnar ekki, blýantur hafnar ekki; lög og siðareglur fagstétta stýra notkuninni, ekki áhaldinu. Ósíaður myndgervill endurreisir það venjulega fyrirkomulag sem öll önnur fagverkfæri starfa undir.

Lestu stefnuna um ábyrga notkun áður en þú byrjar. Hún er stutt, skýr, og sá hluti þessarar vöru sem gerir afganginn af henni verjanlegan.

09Algengar spurningar

Hvers vegna hafnar myndgervill fyrirmælum sem eru augljóslega lögleg?

Vegna þess að flestar síur dæma orðin í fyrirmælunum þínum, ekki tilgang þinn. Flokkari situr fyrir framan líkanið án nokkurs aðgangs að því hver þú ert eða hvers vegna þú spyrð, svo læknisfræðilegur teiknari, réttarfræðilegur sérfræðingur og illa innrættur aðili slá allir inn sama nafnorðið og fá allir sömu neitunina. The Intercept greindi frá því í apríl 2023 að Midjourney hefði bannað líffærafræðileg hugtök á borð við speculum, placenta og cervix, á meðan stethoscope virkaði eðlilega.

Eru til rannsóknir sem mæla falskar jákvæðar niðurstöður efnissía í myndgervlum?

Já. OVERT (arXiv:2505.21347, ICML 2025) er fyrsta stórtæka viðmiðið um ofurneitun í texta-í-mynd líkönum: 4.600 fyrirmæli sem virðast skaðleg en eru raunverulega meinlaus, í níu öryggisflokkum, ásamt 1.785 raunverulega skaðlegum fyrirmælum til samanburðar. Höfundarnir greina frá því að ofurneitun sé útbreidd meðal fremstu líkana. Sérstök rannsókn frá ECCV 2024 fann kynja- og stílbundna skekkju í þremur NSFW-flokkurum sem metnir voru á listrænni nekt.

Hverju breytir óritskoðaður myndgervill í raun?

Hann fjarlægir neitunarlagið og efnissíuna af myndgerðarleiðinni, svo lögleg beiðni er ekki þegjandi endurflokkuð sem árás. Hann fjarlægir ekki matið — hann færir það til. Shannon sýnir þér nákvæmlega myndgerðarfyrirmælin á staðfestingarspjaldi áður en nokkuð er teiknað, svo ákvörðunin er tekin af manneskju sem sér hvað verður búið til, samkvæmt stefnunni um ábyrga notkun.

Býr Shannon til myndbönd?

Nei. Shannon býr til nýjar myndir, breytir einni fyrirliggjandi mynd og sameinar tvær eða fleiri myndir í eina. Það hreyfir ekki myndir og býr ekki til myndband af neinu tagi.

Get ég búið til myndir gegnum Shannon-API-ið?

Nei. Myndgerð, myndvinnsla og samsetning eiga heima í Shannon-spjallforritinu. /v1 API-ið þjónar texta og sjón — það les og greinir myndir sem þú leggur til — ekki myndgerð.

Ef engin sía er til staðar, hvað kemur þá í veg fyrir misnotkun?

Stefna, ábyrgð og sýnilegur ákvörðunarpunktur í stað bannlista yfir leitarorð. Shannon býr aldrei til mynd óumbeðið, sýnir öll fyrirmælin áður en teiknað er, rukkar ekkert fyrr en þú staðfestir, og starfar samkvæmt birtri stefnu um ábyrga notkun sem bannar kynferðislegt efni sem varðar börn, nándarmyndir af raunverulegu fólki án samþykkis, markvissa áreitni og fölsun skilríkja eða fjármálagagna.

Biddu um myndina sem þú raunverulega þarft

Myndgerð, myndvinnsla á einni mynd og samsetning margra mynda í spjallforritinu — engin efnissía, ekkert neitunarlag, og fyrirmælin á skjánum áður en nokkuð er teiknað.

Byrjaðu að spjalla Stefna um ábyrga notkun

Myndir í spjallforritinu · engin myndbandsgerð · fleiri rannsóknir


Heimildir: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22. apríl 2023 · PetaPixel, 3. apríl 2023 · CNBC, 22. febrúar 2024. Shannon AI er rekið af Shannon Lab LLC, Nýju-Mexíkó, Bandaríkjunum.

Allir rannsóknartenglar