ਬਿਨਾਂ ਸੈਂਸਰ ਬਨਾਮ ਫਿਲਟਰ ਵਾਲਾ AI ਚਿੱਤਰ ਜਨਰੇਟਰ
ਸਮੱਗਰੀ ਫਿਲਟਰ ਕੁਝ ਕੁ ਅਸਲ ਨੁਕਸਾਨ ਰੋਕਣ ਲਈ ਬਣਾਏ ਗਏ ਸਨ। ਅਮਲ ਵਿੱਚ ਉਹ ਮੈਡੀਕਲ ਚਿੱਤਰਕਾਰੀ, ਫ਼ੌਰੈਂਸਿਕ ਪੁਨਰ-ਨਿਰਮਾਣ, ਜੀਵਨ-ਚਿੱਤਰਕਾਰੀ, ਜੰਗ ਦਾ ਇਤਿਹਾਸ, ਸੰਪਾਦਕੀ ਵਿਅੰਗ ਅਤੇ ਕੰਪਨੀਆਂ ਵੱਲੋਂ ਆਪਣੇ ਹੀ ਉਤਪਾਦ ਦਿਖਾਉਣਾ ਵੀ ਰੋਕਦੇ ਹਨ। ਇਹ ਹੈ ਉਸਦੀ ਕੀਮਤ — ਅਤੇ ਫਿਲਟਰ ਹਟਾਉਣ ਨਾਲ ਕੀ ਬਦਲਦਾ ਹੈ ਤੇ ਕੀ ਨਹੀਂ।
ਸੰਖੇਪ
ਮੁੱਖਧਾਰਾ ਦੇ ਚਿੱਤਰ ਜਨਰੇਟਰ ਪ੍ਰੌਂਪਟਾਂ ਅਤੇ ਨਤੀਜਿਆਂ ਦੀ ਜਾਂਚ ਅਜਿਹੇ ਵਰਗੀਕਾਰਾਂ ਨਾਲ ਕਰਦੇ ਹਨ ਜੋ ਸ਼ਬਦ ਅਤੇ ਪਿਕਸਲ ਵੇਖਦੇ ਹਨ, ਮਕਸਦ ਕਦੇ ਨਹੀਂ। ਇਸ ਨਾਲ ਗ਼ਲਤ ਇਨਕਾਰ ਪੱਕੇ ਹਨ, ਅਤੇ ਉਹ ਸਭ ਤੋਂ ਵੱਧ ਹੁਨਰਮੰਦ ਕੰਮ ਉੱਤੇ ਡਿੱਗਦੇ ਹਨ: ਸਰੀਰ-ਰਚਨਾ, ਫ਼ੌਰੈਂਸਿਕ, ਕਲਾ ਨਗਨ ਚਿੱਤਰ, ਇਤਿਹਾਸਕ ਦ੍ਰਿਸ਼, ਪੂਰਵ-ਦ੍ਰਿਸ਼ਟੀਕਰਨ, ਵਿਅੰਗ, ਸੁਰੱਖਿਆ-ਜਾਗਰੂਕਤਾ ਸਮੱਗਰੀ, ਅਤੇ ਆਪਣੇ ਹੀ ਬ੍ਰਾਂਡ ਦੀ ਮੰਗ ਕਰਦੇ ਹੱਕਦਾਰ। OVERT (ICML 2025), ਇਸ ਨੁਕਸ ਲਈ ਪਹਿਲਾ ਵੱਡੇ ਪੈਮਾਨੇ ਦਾ ਬੈਂਚਮਾਰਕ, 4,600 ਨਿਰਦੋਸ਼-ਪਰ-ਸ਼ੱਕੀ ਲੱਗਦੇ ਪ੍ਰੌਂਪਟ ਵਰਤਦਾ ਹੈ ਅਤੇ ਪਾਉਂਦਾ ਹੈ ਕਿ ਮੋਹਰੀ ਮਾਡਲਾਂ ਵਿੱਚ ਹੱਦੋਂ ਵੱਧ ਇਨਕਾਰ ਆਮ ਹੈ। Shannon ਚਿੱਤਰ ਜਨਰੇਸ਼ਨ, ਇੱਕ-ਚਿੱਤਰ ਸੰਪਾਦਨ ਅਤੇ ਬਹੁ-ਚਿੱਤਰ ਰਚਨਾ ਆਪਣੇ ਹੀ GPU ਕਲੱਸਟਰ ਉੱਤੇ, ਬਿਨਾਂ ਕਿਸੇ ਸਮੱਗਰੀ ਫਿਲਟਰ ਅਤੇ ਬਿਨਾਂ ਕਿਸੇ ਇਨਕਾਰ ਪਰਤ ਦੇ ਚਲਾਉਂਦਾ ਹੈ, ਅਤੇ ਪਾਬੰਦੀ-ਸੂਚੀ ਦੀ ਥਾਂ ਇੱਕ ਦਿਖਾਈ ਦੇਣ ਵਾਲਾ ਫ਼ੈਸਲਾ ਰੱਖਦਾ ਹੈ: ਕੁਝ ਵੀ ਰੈਂਡਰ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਹੂ-ਬ-ਹੂ ਪ੍ਰੌਂਪਟ ਦਿਖਾਉਂਦਾ ਪੁਸ਼ਟੀ ਕਾਰਡ। ਇਸ ਨਾਲ ਤੁਹਾਡੀ ਅਤੇ ਸਾਡੀ, ਦੋਹਾਂ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਵਧਦੀ ਹੈ; ਦੋਵੇਂ ਜ਼ਿੰਮੇਵਾਰ ਵਰਤੋਂ ਨੀਤੀ ਵਿੱਚ ਹਨ। ਕੋਈ ਵੀਡੀਓ ਜਨਰੇਸ਼ਨ ਨਹੀਂ ਹੈ, ਅਤੇ ਚਿੱਤਰ ਦਾ ਕੰਮ ਚੈਟ ਐਪ ਵਿੱਚ ਰਹਿੰਦਾ ਹੈ, API ਵਿੱਚ ਨਹੀਂ।
ਲਗਭਗ ਹਰ ਉਸ ਬੰਦੇ ਦੀ ਇੱਕੋ ਕਹਾਣੀ ਹੈ ਜੋ ਪੇਸ਼ੇਵਰ ਤੌਰ ਉੱਤੇ ਚਿੱਤਰਾਂ ਨਾਲ ਕੰਮ ਕਰਦਾ ਹੈ। ਕਿਸੇ ਆਮ ਜਿਹੀ ਚੀਜ਼ ਦਾ ਪ੍ਰੌਂਪਟ — ਗੋਡੇ ਦੇ ਜੋੜ ਦਾ ਕਾਟ-ਦ੍ਰਿਸ਼, ਟੱਕਰ ਦੇ ਪਲ ਦੀ ਕਾਰ, ਕੋਲੇ ਨਾਲ ਬਣਿਆ ਆਕ੍ਰਿਤੀ ਅਧਿਐਨ, 1944 ਦਾ ਇੱਕ ਸਿਪਾਹੀ — ਨੀਤੀ ਦੀ ਉਲੰਘਣਾ ਬਣ ਕੇ ਵਾਪਸ ਆਉਂਦਾ ਹੈ। ਤੁਸੀਂ ਸ਼ਬਦ ਬਦਲਦੇ ਹੋ, ਅਤੇ ਵੱਖਰੀ ਉਲੰਘਣਾ ਮਿਲਦੀ ਹੈ। ਆਖ਼ਰ ਤੁਸੀਂ ਏਨਾ ਧੁੰਦਲਾ ਕੁਝ ਲਿਖਦੇ ਹੋ ਕਿ ਉਹ ਲੰਘ ਜਾਵੇ, ਅਤੇ ਅਜਿਹਾ ਚਿੱਤਰ ਮਿਲਦਾ ਹੈ ਜੋ ਹੁਣ ਉਹ ਨਹੀਂ ਦਿਖਾਉਂਦਾ ਜਿਸਦੀ ਤੁਹਾਨੂੰ ਲੋੜ ਸੀ। ਟੂਲ ਉੱਚੀ ਆਵਾਜ਼ ਵਿੱਚ ਫ਼ੇਲ੍ਹ ਨਹੀਂ ਹੋਇਆ; ਉਹ ਹੌਲੀ-ਹੌਲੀ ਫ਼ੇਲ੍ਹ ਹੋਇਆ, ਅਤੇ ਸਮਝੌਤਾ ਕਰਨ ਵਾਲੇ ਤੁਸੀਂ ਬਣੇ।
01AI ਚਿੱਤਰ ਜਨਰੇਟਰ ਸਾਫ਼ ਤੌਰ ਉੱਤੇ ਜਾਇਜ਼ ਪ੍ਰੌਂਪਟ ਤੋਂ ਵੀ ਇਨਕਾਰ ਕਿਉਂ ਕਰਦਾ ਹੈ?
ਇਨਕਾਰ ਆਮ ਤੌਰ ਉੱਤੇ ਚਿੱਤਰ ਮਾਡਲ ਦੀ ਰਾਇ ਨਹੀਂ ਹੁੰਦਾ। ਇਹ ਮਾਡਲ ਦੇ ਦੁਆਲੇ ਲੱਗੇ ਫਿਲਟਰਿੰਗ ਢਾਂਚੇ ਦਾ ਨਤੀਜਾ ਹੁੰਦਾ ਹੈ, ਅਤੇ ਉਸ ਦੀਆਂ ਪਰਤਾਂ ਤੁਹਾਨੂੰ ਮਿਲੇ ਲਗਭਗ ਹਰ ਅਜੀਬ ਇਨਕਾਰ ਦੀ ਵਿਆਖਿਆ ਕਰਦੀਆਂ ਹਨ।
| ਪਰਤ | ਇਹ ਕੀ ਪਰਖਦੀ ਹੈ | ਖ਼ਾਸ ਨੁਕਸ |
|---|---|---|
| ਪ੍ਰੌਂਪਟ ਪਾਬੰਦੀ-ਸੂਚੀ | ਤੁਹਾਡੀ ਲਿਖਤ ਵਿਚਲੇ ਸ਼ਾਬਦਿਕ ਸ਼ਬਦ ਅਤੇ ਉਨ੍ਹਾਂ ਦੇ ਨੇੜਲੇ ਰੂਪ | ਆਲੇ-ਦੁਆਲੇ ਦੇ ਵਾਕ ਦੀ ਪਰਵਾਹ ਕੀਤੇ ਬਿਨਾਂ ਸ਼ਬਦ ਰੋਕ ਦਿੰਦੀ ਹੈ — “speculum” ਫ਼ੇਲ੍ਹ, “stethoscope” ਪਾਸ |
| ਪ੍ਰੌਂਪਟ ਵਰਗੀਕਾਰ | ਪ੍ਰੌਂਪਟ ਦੇ “ਖ਼ਤਰੇ” ਬਾਰੇ ਸਿੱਖਿਆ ਹੋਇਆ ਨਿਰਣਾ | ਵਿਸ਼ੇ ਦੀ ਨੇੜਤਾ ਉੱਤੇ ਚੱਲ ਪੈਂਦਾ ਹੈ: ਦਵਾਈ, ਹਥਿਆਰ, ਸਰੀਰ ਜਾਂ ਸਿਆਸਤ ਦੇ ਨੇੜੇ ਕੁਝ ਵੀ ਉੱਚੇ ਅੰਕ ਲੈਂਦਾ ਹੈ |
| ਮਾਡਲ ਦੀ ਇਨਕਾਰ ਸਿਖਲਾਈ | ਮਾਡਲ ਦੀ ਆਪਣੀ ਸਿਖਾਈ ਹੋਈ ਝਿਜਕ | ਬਿਨਾਂ ਗ਼ਲਤੀ ਦਿਖਾਏ ਇਨਕਾਰ ਕਰਦਾ ਹੈ, ਜਾਂ ਚੁੱਪ-ਚਾਪ ਸਾਫ਼-ਸੁਥਰਾ ਬਦਲ ਬਣਾ ਦਿੰਦਾ ਹੈ |
| ਨਤੀਜਾ ਵਰਗੀਕਾਰ | ਰੈਂਡਰ ਹੋਏ ਪਿਕਸਲ, ਬਿਨਾਂ ਕਿਸੇ ਪ੍ਰੌਂਪਟ ਸੰਦਰਭ ਦੇ | ਸਰੀਰ-ਰਚਨਾ ਦੇ ਚਿੱਤਰ ਨੂੰ ਅਸ਼ਲੀਲਤਾ ਤੋਂ, ਜਾਂ ਫ਼ਿਲਮੀ ਦ੍ਰਿਸ਼ ਨੂੰ ਅਸਲ ਘਟਨਾ ਤੋਂ ਵੱਖ ਨਹੀਂ ਦੱਸ ਸਕਦਾ |
| ਨੀਤੀ ਬਦਲਾਅ | ਰੈਂਡਰ ਤੋਂ ਪਹਿਲਾਂ ਤੁਹਾਡੇ ਪ੍ਰੌਂਪਟ ਦੀ ਚੁੱਪ-ਚਾਪ ਮੁੜ-ਲਿਖਾਈ | ਤੁਹਾਨੂੰ ਚਿੱਤਰ ਮਿਲਦਾ ਹੈ, ਪਰ ਉਹ ਨਹੀਂ ਜੋ ਤੁਸੀਂ ਦੱਸਿਆ ਸੀ, ਅਤੇ ਕਾਰਨ ਵੀ ਨਹੀਂ ਦੱਸਿਆ ਜਾਂਦਾ |
ਹਰ ਪਰਤ ਦਾ ਇੱਕੋ ਅੰਨ੍ਹਾ ਪੱਖ ਹੈ: ਕੋਈ ਵੀ ਇਹ ਨਹੀਂ ਵੇਖ ਸਕਦੀ ਕਿ ਤੁਸੀਂ ਕਿਉਂ ਪੁੱਛ ਰਹੇ ਹੋ। ਇੱਕ ਮੈਡੀਕਲ ਚਿੱਤਰਕਾਰ, ਟੱਕਰ ਦਾ ਪੁਨਰ-ਨਿਰਮਾਣ ਕਰਦਾ ਮੁਦਈ ਦਾ ਮਾਹਰ, ਅਤੇ ਬਦਨੀਅਤ ਵਾਲਾ ਕੋਈ ਬੰਦਾ — ਸਭ ਉਹੀ ਸ਼ਬਦ ਟਾਈਪ ਕਰਦੇ ਹਨ। ਫਿਲਟਰ ਨੂੰ ਸ਼ਬਦ ਦਿਸਦਾ ਹੈ, ਸਰੀਰ-ਰਚਨਾ ਦਾ ਐਟਲਸ ਜਾਂ ਕੇਸ ਫ਼ਾਈਲ ਨਹੀਂ, ਅਤੇ ਉਸਦੇ ਅੰਕ ਉਸ ਨੁਕਸਾਨ ਉੱਤੇ ਲੱਗਦੇ ਹਨ ਜੋ ਉਹ ਲੰਘਣ ਦਿੰਦਾ ਹੈ — ਕਦੇ ਉਸ ਕੰਮ ਉੱਤੇ ਨਹੀਂ ਜੋ ਉਹ ਤਬਾਹ ਕਰਦਾ ਹੈ। ਇਸ ਬੇਢੰਗੇ ਸੰਤੁਲਨ ਵਿੱਚ ਹਰ ਸੰਚਾਲਕ ਲਈ ਤਰਕਸੰਗਤ ਸੈਟਿੰਗ ਹੈ ਹੋਰ ਵੱਧ ਇਨਕਾਰ ਕਰੋ। ਇਸੇ ਲਈ “ਸ਼ਬਦ ਬਦਲ ਕੇ ਵੇਖੋ” ਹੱਲ ਨਹੀਂ ਹੈ: ਸ਼ਬਦ ਬਦਲਣ ਨਾਲ ਫਿਲਟਰ ਨੂੰ ਕੋਈ ਨਵੀਂ ਜਾਣਕਾਰੀ ਨਹੀਂ ਮਿਲਦੀ, ਸਿਰਫ਼ ਤੁਹਾਡਾ ਪ੍ਰੌਂਪਟ ਉਨ੍ਹਾਂ ਸ਼ਬਦਾਂ ਤੋਂ ਦੂਰ ਹੁੰਦਾ ਹੈ ਜਿਨ੍ਹਾਂ ਨੇ ਉਸਨੂੰ ਭੜਕਾਇਆ, ਜਿਸਦਾ ਆਮ ਤੌਰ ਉੱਤੇ ਮਤਲਬ ਹੈ ਤੁਹਾਡੇ ਅਸਲ ਮਤਲਬ ਤੋਂ ਦੂਰ ਹੋਣਾ।
02ਸਮੱਗਰੀ ਫਿਲਟਰ ਅਸਲ ਵਿੱਚ ਕੀ ਰੋਕਣ ਲਈ ਹਨ
ਬਿਨਾਂ ਫਿਲਟਰ ਜਨਰੇਸ਼ਨ ਦੀ ਉਹ ਦਲੀਲ ਪੜ੍ਹਨ ਯੋਗ ਨਹੀਂ ਜੋ ਇਹ ਮੰਨ ਕੇ ਚੱਲੇ ਕਿ ਫਿਲਟਰ ਬਿਨਾਂ ਕਾਰਨ ਬਣੇ ਹਨ। ਨਤੀਜਿਆਂ ਦਾ ਇੱਕ ਤੰਗ ਸਮੂਹ ਹੈ ਜਿਸਦਾ ਨੁਕਸਾਨ ਚਿੱਤਰ ਵਿੱਚ ਹੀ ਹੁੰਦਾ ਹੈ, ਚਾਹੇ ਕਿਸੇ ਨੇ ਵੀ ਮੰਗਿਆ ਹੋਵੇ ਅਤੇ ਕਿਉਂ ਵੀ:
- ਨਾਬਾਲਗ਼ਾਂ ਨਾਲ ਜੁੜੀ ਜਿਨਸੀ ਸਮੱਗਰੀ। ਕੋਈ ਸੰਦਰਭ ਇਸਨੂੰ ਸਵੀਕਾਰਯੋਗ ਨਹੀਂ ਬਣਾਉਂਦਾ; ਕਿਸੇ ਪੇਸ਼ੇਵਰ ਕੰਮ ਲਈ ਇਸਦੀ ਲੋੜ ਨਹੀਂ।
- ਅਸਲ ਲੋਕਾਂ ਦੀਆਂ ਬਿਨਾਂ ਸਹਿਮਤੀ ਨਿੱਜੀ ਤਸਵੀਰਾਂ। ਨੁਕਸਾਨ ਉਸ ਉੱਤੇ ਪੈਂਦਾ ਹੈ ਜਿਸਨੇ ਹਾਂ ਨਹੀਂ ਕਹੀ, ਅਤੇ ਹਟਾਉਣ ਨਾਲ ਉਹ ਵਾਪਸ ਨਹੀਂ ਹੁੰਦਾ।
- ਨਿਸ਼ਾਨਾ ਬਣਾ ਕੇ ਪਰੇਸ਼ਾਨ ਕਰਨਾ ਅਤੇ ਬਦਨਾਮ ਕਰਨ ਵਾਲੀ ਘੜਤ — ਕਿਸੇ ਨਾਮਜ਼ਦ ਵਿਅਕਤੀ ਨੂੰ ਅਜਿਹਾ ਕੰਮ ਕਰਦਾ ਦਿਖਾਉਣਾ ਜੋ ਉਸਨੇ ਕੀਤਾ ਹੀ ਨਹੀਂ।
- ਜਾਅਲਸਾਜ਼ੀ ਪੱਧਰ ਦੇ ਦਸਤਾਵੇਜ਼ — ਪਾਸਪੋਰਟ, ਪਛਾਣ ਪੱਤਰ, ਨੋਟ, ਮੋਹਰਾਂ ਅਤੇ ਵਿੱਤੀ ਦਸਤਾਵੇਜ਼ ਜੋ ਅਸਲੀ ਵਾਂਗ ਚੱਲਣ ਲਈ ਬਣਾਏ ਗਏ ਹੋਣ।
- ਧੋਖਾਦੇਹ ਬਣਾਵਟੀ ਸਬੂਤ — ਅਸਲ ਘਟਨਾਵਾਂ ਦੀਆਂ ਘੜੀਆਂ ਹੋਈਆਂ ਤਸਵੀਰਾਂ ਜੋ ਚਿੱਤਰਕਾਰੀ ਵਜੋਂ ਨਹੀਂ ਸਗੋਂ ਦਸਤਾਵੇਜ਼ ਵਜੋਂ ਪੇਸ਼ ਕੀਤੀਆਂ ਜਾਣ।
ਸੂਚੀ ਛੋਟੀ ਹੈ ਅਤੇ ਇਸਦਾ ਇੱਕ ਢਾਂਚਾ ਹੈ: ਨੁਕਸਾਨ ਵਸਤੂ ਵਿੱਚ ਵਸਦਾ ਹੈ, ਕਿਸੇ ਅਸਲ ਵਿਅਕਤੀ ਜਾਂ ਦਸਤਾਵੇਜ਼ ਨਾਲ ਉਸਦੀ ਮੁਸ਼ਾਬਹਤ ਵਿੱਚ, ਅਤੇ ਉਸਨੂੰ ਸੱਚ ਵਜੋਂ ਪੇਸ਼ ਕਰਨ ਵਿੱਚ। ਧਿਆਨ ਦਿਓ ਕਿ ਇਸ ਵਿੱਚ ਕੀ ਨਹੀਂ ਹੈ — ਨਗਨਤਾ, ਖ਼ੂਨ, ਹਥਿਆਰ, ਇਤਿਹਾਸਕ ਜ਼ੁਲਮ, ਸਿਆਸੀ ਮਖੌਲ। ਇਹ ਦਵਾਈ, ਪੱਤਰਕਾਰੀ, ਕਲਾ, ਫ਼ੌਰੈਂਸਿਕ ਅਤੇ ਵਿਅੰਗ ਦਾ ਕੱਚਾ ਮਾਲ ਹਨ, ਅਤੇ ਜੋ ਫਿਲਟਰ ਇਨ੍ਹਾਂ ਨੂੰ ਨੁਕਸਾਨ ਦੀਆਂ ਸ਼੍ਰੇਣੀਆਂ ਮੰਨਦਾ ਹੈ ਉਹ ਅਸਲ ਵਿੱਚ ਇੱਕ ਬਹੁਤ ਵੱਡਾ ਵਿਚਾਰ ਲਾਗੂ ਕਰ ਰਿਹਾ ਹੈ ਕਿ ਕਿਹੜੇ ਵਿਸ਼ੇ ਇੱਜ਼ਤਦਾਰ ਹਨ।
Shannon ਉਸ ਸੂਚੀ ਦੀ ਹਰ ਚੀਜ਼ ਦੀ ਮਨਾਹੀ ਕਰਦਾ ਹੈ, ਇੱਕ ਪ੍ਰਕਾਸ਼ਿਤ ਜ਼ਿੰਮੇਵਾਰ ਵਰਤੋਂ ਨੀਤੀ ਵਿੱਚ ਜਿਸ ਵਿੱਚ ਸ਼੍ਰੇਣੀਆਂ ਅਤੇ ਨਤੀਜੇ ਨਾਮ ਲੈ ਕੇ ਲਿਖੇ ਹਨ, ਨਾ ਕਿ ਅਜਿਹੀ ਸ਼ਬਦ-ਸੂਚੀ ਰਾਹੀਂ ਜੋ “placenta” ਨੂੰ ਵੀ ਫੜ ਲੈਂਦੀ ਹੈ। ਇੱਕ ਉਹ ਨਿਯਮ ਹੈ ਜੋ ਤੁਸੀਂ ਪੜ੍ਹ ਸਕਦੇ ਹੋ ਅਤੇ ਜਿਸ ਲਈ ਸਾਨੂੰ ਜਵਾਬਦੇਹ ਬਣਾ ਸਕਦੇ ਹੋ; ਦੂਜਾ ਤੁਹਾਡੀ ਨੀਅਤ ਬਾਰੇ ਇੱਕ ਅਜਿਹੇ ਵਰਗੀਕਾਰ ਦਾ ਅੰਦਾਜ਼ਾ ਹੈ ਜੋ ਤੁਹਾਨੂੰ ਦਿਸਦਾ ਵੀ ਨਹੀਂ।
03ਹੱਦੋਂ ਵੱਧ ਇਨਕਾਰ ਦੀ ਸਮੱਸਿਆ ਕਿੰਨੀ ਵੱਡੀ ਹੈ? ਖੋਜ ਕੀ ਮਾਪਦੀ ਹੈ
ਹਾਲ ਹੀ ਤੱਕ ਚਿੱਤਰ ਮਾਡਲਾਂ ਵਿੱਚ ਹੱਦੋਂ ਵੱਧ ਇਨਕਾਰ ਇੱਕ ਕਿੱਸਾ ਹੀ ਸੀ — ਹਜ਼ਾਰਾਂ ਲੋਕਾਂ ਦੀ ਇੱਕੋ ਕਹਾਣੀ, ਪਰ ਇਸਨੂੰ ਮਾਪਣ ਦਾ ਕੋਈ ਤਰੀਕਾ ਨਹੀਂ। ਇਹ OVERT (OVEr-Refusal evaluation on Text-to-image models) ਨਾਲ ਬਦਲਿਆ, ਜੋ ICML 2025 ਵਿੱਚ UC Berkeley ਦੇ ਸਮੂਹ — Ziheng Cheng, Somayeh Sojoudi, Xuandong Zhao, Dawn Song ਅਤੇ Song Mei ਸਮੇਤ — ਵੱਲੋਂ ਪੇਸ਼ ਕੀਤਾ ਗਿਆ: ਪਹਿਲਾ ਵੱਡੇ ਪੈਮਾਨੇ ਦਾ ਬੈਂਚਮਾਰਕ ਜੋ ਮਾਪਦਾ ਹੈ ਕਿ ਲਿਖਤ-ਤੋਂ-ਚਿੱਤਰ ਸਿਸਟਮ ਪੂਰੀ ਤਰ੍ਹਾਂ ਨਿਰਦੋਸ਼ ਪ੍ਰੌਂਪਟਾਂ ਤੋਂ ਕਿੰਨੀ ਵਾਰ ਇਨਕਾਰ ਕਰਦੇ ਹਨ।
ਬਣਤਰ ਮਾਇਨੇ ਰੱਖਦੀ ਹੈ। ਇਹ 4,600 ਪ੍ਰੌਂਪਟ ਇਸ ਤਰ੍ਹਾਂ ਬਣਾਏ ਗਏ ਹਨ ਕਿ ਉਹ ਨੁਕਸਾਨਦੇਹ ਲੱਗਣ ਪਰ ਹੋਣ ਬੇਜ਼ਰਰ — ਕਿਸੇ ਅਸਲ ਪੇਸ਼ੇਵਰ ਬੇਨਤੀ ਦੀ ਸ਼ਕਲ ਜਿਸ ਵਿੱਚ ਸਕੈਲਪਲ, ਸੱਟ ਦਾ ਨਿਸ਼ਾਨ ਜਾਂ ਮੁਜ਼ਾਹਰਾ ਆਉਂਦਾ ਹੋਵੇ — ਅਤੇ 1,785 ਸੱਚਮੁੱਚ ਨੁਕਸਾਨਦੇਹ ਪ੍ਰੌਂਪਟ ਉਨ੍ਹਾਂ ਦੇ ਨਾਲ ਕੰਟਰੋਲ ਵਜੋਂ ਬੈਠਦੇ ਹਨ, ਤਾਂ ਜੋ ਕੋਈ ਮਾਡਲ ਹਰ ਚੀਜ਼ ਤੋਂ ਇਨਕਾਰ ਕਰ ਕੇ ਚੰਗੇ ਅੰਕ ਨਾ ਲੈ ਸਕੇ। ਨੌਂ ਸ਼੍ਰੇਣੀਆਂ ਵਿਅਕਤੀਗਤ ਅਤੇ ਜਨਤਕ ਹਸਤੀਆਂ ਦੀ ਨਿੱਜਤਾ ਤੋਂ ਲੈ ਕੇ ਕਾਪੀਰਾਈਟ, ਵਿਤਕਰਾ, ਆਪਣੇ ਆਪ ਨੂੰ ਨੁਕਸਾਨ, ਜਿਨਸੀ ਸਮੱਗਰੀ ਅਤੇ ਗ਼ੈਰ-ਕਾਨੂੰਨੀ ਸਰਗਰਮੀ ਹੁੰਦੇ ਹੋਏ ਹਿੰਸਾ ਤੱਕ ਜਾਂਦੀਆਂ ਹਨ।
ਮੁੱਖ ਨਤੀਜਾ ਇਹ ਹੈ ਕਿ ਹੱਦੋਂ ਵੱਧ ਇਨਕਾਰ ਸ਼੍ਰੇਣੀਆਂ ਅਤੇ ਮੋਹਰੀ ਮਾਡਲਾਂ, ਦੋਹਾਂ ਵਿੱਚ ਆਮ ਹੈ। ਦੂਜਾ ਨਤੀਜਾ ਆਮ ਜੁਗਾੜ ਲਈ ਹੋਰ ਵੀ ਭਾਰੀ ਹੈ: ਲੇਖਕਾਂ ਨੇ ਹੱਲ ਵਜੋਂ ਪ੍ਰੌਂਪਟ ਮੁੜ-ਲਿਖਾਈ ਪਰਖੀ ਅਤੇ ਦੱਸਿਆ ਕਿ ਇਹ “ਅਕਸਰ ਮੂਲ ਪ੍ਰੌਂਪਟਾਂ ਦੇ ਅਰਥ ਨਾਲ ਵਫ਼ਾਦਾਰੀ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਂਦੀ ਹੈ।” ਤੁਸੀਂ ਜੋ ਮੰਗਿਆ ਸੀ ਉਸਨੂੰ ਬਦਲ ਕੇ ਫਿਲਟਰ ਪਾਰ ਕਰ ਸਕਦੇ ਹੋ, ਅਤੇ ਫਿਰ ਤੁਹਾਡੇ ਕੋਲ ਉਹ ਨਹੀਂ ਰਹਿੰਦਾ ਜੋ ਤੁਸੀਂ ਮੰਗਿਆ ਸੀ।
ਇੱਕ ਤੰਗ ਦਾਇਰੇ ਵਾਲੀ ਖੋਜ ਪਿਕਸਲ ਵਾਲੇ ਪਾਸਿਓਂ ਇਹੀ ਸਿੱਟਾ ਕੱਢਦੀ ਹੈ। An Art-centric perspective on AI-based content moderation of nudity (Riccio, Curto, Hofmann ਅਤੇ Oliver, ECCV 2024 ਵਿਖੇ AI4VA ਵਰਕਸ਼ਾਪ) ਵਿੱਚ ਲੇਖਕ ਕਲਾਤਮਕ ਨਗਨਤਾ ਉੱਤੇ ਤਿੰਨ ਉਤਪਾਦਨ NSFW ਵਰਗੀਕਾਰ ਪਰਖਦੇ ਹਨ ਅਤੇ ਦੋਵੇਂ ਲਿੰਗ ਪੱਖਪਾਤ ਅਤੇ ਸ਼ੈਲੀ ਪੱਖਪਾਤ ਲੱਭਦੇ ਹਨ: ਕਿਸੇ ਆਕ੍ਰਿਤੀ ਅਧਿਐਨ ਬਾਰੇ ਫ਼ੈਸਲਾ ਇਸ ਗੱਲ ਉੱਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ ਕਿ ਕਿਸਦਾ ਸਰੀਰ ਹੈ ਅਤੇ ਕਿਸ ਸ਼ੈਲੀ ਵਿੱਚ। ਇਹ ਉਸ ਗੱਲ ਦਾ ਮਾਪਿਆ ਹੋਇਆ ਬਿਆਨ ਹੈ ਜਿਸ ਬਾਰੇ ਹਰ ਜੀਵਨ-ਚਿੱਤਰਕਾਰ ਨੂੰ ਕਿਹਾ ਜਾਂਦਾ ਰਿਹਾ ਹੈ ਕਿ ਉਹ ਵਹਿਮ ਹੈ।
04ਜਾਇਜ਼ ਕੰਮ ਦੀਆਂ ਅੱਠ ਕਿਸਮਾਂ ਜੋ ਫਿਲਟਰ ਵਾਲੇ ਜਨਰੇਟਰ ਰੋਕਦੇ ਹਨ
ਇਹ ਉਹ ਸ਼੍ਰੇਣੀਆਂ ਹਨ ਜਿੱਥੇ ਹੱਦੋਂ ਵੱਧ ਇਨਕਾਰ ਸਿਰਫ਼ ਤਕਲੀਫ਼ ਨਹੀਂ ਸਗੋਂ ਕੰਮ ਦਾ ਰੁਕ ਜਾਣਾ ਹੈ। ਜਿੱਥੇ ਕੋਈ ਖ਼ਾਸ ਦਰਜ ਮਾਮਲਾ ਮੌਜੂਦ ਹੈ ਉਸਦਾ ਹਵਾਲਾ ਦਿੱਤਾ ਗਿਆ ਹੈ; ਜਿੱਥੇ ਕੋਈ ਪੁਸ਼ਟੀ ਨਹੀਂ ਹੋਈ, ਉੱਥੇ ਸ਼੍ਰੇਣੀ ਦਾ ਵਰਣਨ ਹੈ ਪਰ ਕੋਈ ਘਟਨਾ ਘੜੀ ਨਹੀਂ ਗਈ।
1. ਮੈਡੀਕਲ ਅਤੇ ਸਰੀਰ-ਰਚਨਾ ਦੀ ਚਿੱਤਰਕਾਰੀ
ਇਸ ਖੇਤਰ ਦਾ ਸਭ ਤੋਂ ਵੱਧ ਦਰਜ ਮਾਮਲਾ। ਅਪ੍ਰੈਲ 2023 ਵਿੱਚ The Intercept (Debbie Nathan) ਨੇ ਦੱਸਿਆ ਕਿ Midjourney ਨੇ speculum, placenta, cervix, vulva, fallopian tubes, mammary glands, uterine, urethra, hymen, sperm, condom ਅਤੇ IUD ਸਮੇਤ ਸਰੀਰ-ਰਚਨਾ ਦੇ ਸ਼ਬਦਾਂ ਉੱਤੇ ਪਾਬੰਦੀ ਲਾਈ ਸੀ, ਜਦਕਿ DALL·E 2 ਨੇ “pills used in medication abortion” ਤੋਂ ਸਮੱਗਰੀ-ਨੀਤੀ ਸੁਨੇਹੇ ਨਾਲ ਇਨਕਾਰ ਕੀਤਾ। ਇਹ ਨਮੂਨਾ Julia Rockwell ਨੇ ਲੱਭਿਆ, ਇੱਕ ਕਲੀਨਿਕਲ ਡਾਟਾ ਵਿਸ਼ਲੇਸ਼ਕ ਜਿਸਨੇ ਆਪਣੀ ਸੈੱਲ-ਜੀਵ ਵਿਗਿਆਨੀ ਸਹੇਲੀ ਲਈ ਤੋਹਫ਼ੇ ਵਜੋਂ ਪਲੈਸੈਂਟਾ ਦੀ ਤਸਵੀਰ ਬਣਾਉਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕੀਤੀ ਸੀ, ਅਤੇ ਇਹ MIT Technology Review ਨੂੰ ਦੱਸਿਆ ਗਿਆ। ਬੇਢੰਗਾਪਣ ਹੀ ਨਿਸ਼ਾਨੀ ਹੈ: “stethoscope” ਆਮ ਵਾਂਗ ਬਣਦਾ ਸੀ ਜਦਕਿ “speculum” ਉੱਤੇ ਪਾਬੰਦੀ ਸੀ। University of Washington ਦੇ ਖੋਜਕਾਰ Bill Howe ਨੇ ਇਨ੍ਹਾਂ ਫਿਲਟਰਾਂ ਨੂੰ “ਭੱਦੇ” ਕਿਹਾ ਅਤੇ ਕਿਹਾ ਕਿ ਇਨ੍ਹਾਂ ਕਾਰਨ “ਪ੍ਰਜਨਨ ਬਾਰੇ ਵਿਗਿਆਨਕ ਚਰਚਾ ਕਰਨਾ ਲਗਭਗ ਅਸੰਭਵ” ਹੋ ਗਿਆ। ਮਰੀਜ਼ਾਂ ਦੀ ਸਿੱਖਿਆ, ਸਰਜੀਕਲ ਐਟਲਸ ਅਤੇ ਨਰਸਿੰਗ ਪਾਠਕ੍ਰਮ — ਸਭ ਨੂੰ ਸਰੀਰ ਸਹੀ ਤਰ੍ਹਾਂ ਦਿਖਾਏ ਜਾਣ ਦੀ ਲੋੜ ਹੈ, ਉਨ੍ਹਾਂ ਅੰਗਾਂ ਸਮੇਤ ਜਿਨ੍ਹਾਂ ਨੂੰ ਸ਼ਬਦ-ਸੂਚੀ ਨੇ ਅਸ਼ਲੀਲ ਮੰਨ ਲਿਆ ਹੈ।
2. ਫ਼ੌਰੈਂਸਿਕ ਅਤੇ ਹਾਦਸੇ ਦਾ ਪੁਨਰ-ਨਿਰਮਾਣ
ਟੱਕਰ ਦਾ ਪੁਨਰ-ਨਿਰਮਾਣ, ਅੱਗ ਦੇ ਸਰੋਤ ਦਾ ਵਿਸ਼ਲੇਸ਼ਣ ਅਤੇ ਅਦਾਲਤੀ ਪ੍ਰਦਰਸ਼ਨ-ਸਮੱਗਰੀ ਲਈ ਨੁਕਸਾਨ, ਜ਼ਖ਼ਮ ਅਤੇ ਹਿੰਸਕ ਮਸ਼ੀਨਰੀ ਨੂੰ ਕਲੀਨਿਕਲ ਸ਼ੁੱਧਤਾ ਨਾਲ ਦਿਖਾਉਣਾ ਪੈਂਦਾ ਹੈ। “ਖ਼ੂਨ” ਜਾਂ “ਗੋਲੀ ਦਾ ਜ਼ਖ਼ਮ” ਰੱਦ ਕਰਨ ਲਈ ਸੈੱਟ ਕੀਤਾ ਫਿਲਟਰ ਪੂਰੇ ਵਿਸ਼ੇ ਨੂੰ ਹੀ ਰੱਦ ਕਰਦਾ ਹੈ: ਸੰਦਰਭ — ਮਾਹਰ ਦੀ ਰਿਪੋਰਟ, ਬੀਮੇ ਦੀ ਫ਼ਾਈਲ — ਵਰਗੀਕਾਰ ਨੂੰ ਦਿਸਦਾ ਨਹੀਂ, ਅਤੇ ਜਿਹੜੀ ਨਿਰਪੱਖਤਾ ਅਜਿਹੀ ਤਸਵੀਰ ਨੂੰ ਅਦਾਲਤ ਵਿੱਚ ਮੰਨਣਯੋਗ ਬਣਾਉਂਦੀ ਹੈ, ਉਹੀ ਉਸਨੂੰ ਖ਼ੂਨ-ਖ਼ਰਾਬੇ ਵਾਂਗ ਪੜ੍ਹਾ ਦਿੰਦੀ ਹੈ।
3. ਕਲਾ ਨਗਨ ਚਿੱਤਰ ਅਤੇ ਜੀਵਨ-ਚਿੱਤਰਕਾਰੀ
ਨਗਨ ਆਕ੍ਰਿਤੀ ਹਰ ਥਾਂ ਕਲਾ ਦਾ ਬੁਨਿਆਦੀ ਵਿਸ਼ਾ ਹੈ, ਅਤੇ ਆਕ੍ਰਿਤੀ ਅਧਿਐਨ ਕਲਾ ਸਿੱਖਿਆ ਦਾ ਕੇਂਦਰ ਹੈ। ਉੱਪਰ ਦਿੱਤਾ ECCV 2024 ਨਤੀਜਾ ਉਸੇ ਗੱਲ ਦਾ ਮਾਪਿਆ ਹੋਇਆ ਰੂਪ ਹੈ ਜੋ ਕਲਾਕਾਰ ਦੱਸਦੇ ਹਨ: ਵਰਗੀਕਾਰ ਭਰੋਸੇ ਨਾਲ ਆਕ੍ਰਿਤੀ ਅਧਿਐਨ ਨੂੰ ਅਸ਼ਲੀਲਤਾ ਤੋਂ ਵੱਖ ਨਹੀਂ ਕਰਦੇ, ਅਤੇ ਉਨ੍ਹਾਂ ਦੀਆਂ ਗ਼ਲਤੀਆਂ ਲਿੰਗ ਤੇ ਸ਼ੈਲੀ ਵੱਲ ਝੁਕੀਆਂ ਹੋਈਆਂ ਹਨ — ਇੱਕ ਅਜਿਹਾ ਫਿਲਟਰ ਜੋ ਠੀਕ ਉਸੇ ਪਰੰਪਰਾ ਉੱਤੇ ਸਭ ਤੋਂ ਸਖ਼ਤ ਹੈ ਜਿਸਨੂੰ ਉਸਨੂੰ ਪਛਾਣਨਾ ਚਾਹੀਦਾ ਸੀ।
4. ਇਤਿਹਾਸਕ ਅਤੇ ਜੰਗ ਦੇ ਸਮੇਂ ਦੇ ਦ੍ਰਿਸ਼
ਪਾਠ-ਪੁਸਤਕ ਦੀ ਕਲਾ, ਅਜਾਇਬਘਰ ਦੀ ਵਿਆਖਿਆ ਅਤੇ ਯਾਦਗਾਰੀ ਪ੍ਰੋਜੈਕਟਾਂ ਲਈ ਵਰਦੀਆਂ, ਹਥਿਆਰ, ਕੈਂਪ, ਲੜਾਈਆਂ ਅਤੇ ਜ਼ੁਲਮ ਦਿਖਾਉਣੇ ਪੈਂਦੇ ਹਨ। ਫਰਵਰੀ 2024 ਦਾ Gemini ਵਾਲਾ ਮਾਮਲਾ ਸਿੱਖਣ ਯੋਗ ਹੈ ਕਿਉਂਕਿ ਉੱਥੇ ਨੁਕਸ ਉਲਟੀ ਦਿਸ਼ਾ ਵਿੱਚ ਸੀ ਅਤੇ ਨੁਕਸਾਨ ਓਨਾ ਹੀ ਸੀ। Google ਨੇ 22 ਫਰਵਰੀ 2024 ਨੂੰ Gemini ਦੀ ਲੋਕਾਂ ਦੇ ਚਿੱਤਰ ਬਣਾਉਣ ਦੀ ਸਮਰੱਥਾ ਰੋਕ ਦਿੱਤੀ, ਜਦੋਂ ਉਸਨੇ ਨਾਜ਼ੀ-ਦੌਰ ਦੇ ਜਰਮਨ ਸਿਪਾਹੀਆਂ ਸਮੇਤ ਇਤਿਹਾਸਕ ਸਮੂਹਾਂ ਦੇ ਨਸਲੀ ਤੌਰ ਉੱਤੇ ਬਦਲੇ ਹੋਏ ਚਿੱਤਰ ਬਣਾਏ। CEO Sundar Pichai ਨੇ ਇਨ੍ਹਾਂ ਨਤੀਜਿਆਂ ਨੂੰ “ਬਿਲਕੁਲ ਨਾ-ਸਵੀਕਾਰਯੋਗ” ਕਿਹਾ; SVP Prabhakar Raghavan ਨੇ ਮੰਨਿਆ ਕਿ ਮਾਡਲ ਨੇ “ਹੱਦੋਂ ਵੱਧ ਭਰਪਾਈ” ਕੀਤੀ ਸੀ ਅਤੇ “ਹੱਦੋਂ ਵੱਧ ਸੰਕੋਚੀ” ਹੋ ਗਿਆ ਸੀ। ਸੰਦਰਭ ਤੋਂ ਅੰਨ੍ਹੀ ਸੁਰੱਖਿਆ ਨੇ ਇਤਿਹਾਸਕ ਦ੍ਰਿਸ਼ਾਂ ਨੂੰ ਵੱਧ ਸੁਰੱਖਿਅਤ ਨਹੀਂ ਬਣਾਇਆ — ਉਸਨੇ ਉਨ੍ਹਾਂ ਨੂੰ ਝੂਠਾ ਬਣਾ ਦਿੱਤਾ, ਜੋ ਇਤਿਹਾਸ ਦੇ ਪ੍ਰਕਾਸ਼ਕ ਲਈ ਹੋਰ ਵੀ ਮਾੜਾ ਹੈ।
5. ਗਲਪ ਵਿੱਚ ਹਿੰਸਾ ਅਤੇ ਫ਼ਿਲਮ ਦਾ ਪੂਰਵ-ਦ੍ਰਿਸ਼ਟੀਕਰਨ
ਸਟੋਰੀਬੋਰਡ, ਸੰਕਲਪ ਕਲਾ, ਕਾਮਿਕਸ ਅਤੇ ਗੇਮ ਡਿਜ਼ਾਈਨ ਹਿੰਸਾ ਉਸੇ ਕਾਰਨ ਦਿਖਾਉਂਦੇ ਹਨ ਜਿਸ ਕਾਰਨ ਨਾਵਲ ਅਤੇ ਫ਼ਿਲਮਾਂ ਦਿਖਾਉਂਦੀਆਂ ਹਨ। ਜੋ ਫਿਲਟਰ ਡਰਾਉਣੇ ਸਟੋਰੀਬੋਰਡ ਨੂੰ ਧਮਕੀ ਤੋਂ ਵੱਖ ਨਹੀਂ ਕਰ ਸਕਦਾ, ਉਹ ਪੂਰੀ ਕਥਾ-ਕਲਾ ਦੀ ਪਾਈਪਲਾਈਨ ਨੂੰ ਸ਼ੱਕੀ ਮੰਨਦਾ ਹੈ — ਹਾਲਾਂਕਿ ਸਟੋਰੀਬੋਰਡ ਸਾਫ਼ ਤੌਰ ਉੱਤੇ ਗ਼ੈਰ-ਅਸਲੀ ਹੁੰਦਾ ਹੈ, ਇੱਕ ਅਜਿਹੇ ਦ੍ਰਿਸ਼ ਦੀ ਯੋਜਨਾ ਜਿਸਨੂੰ ਅਦਾਕਾਰ ਅਤੇ ਪ੍ਰਭਾਵ ਟੀਮਾਂ ਬਣਾਉਣਗੀਆਂ।
6. ਸਿਆਸੀ ਵਿਅੰਗ ਅਤੇ ਸੰਪਾਦਕੀ ਕਾਰਟੂਨ
ਤਾਕਤਵਰਾਂ ਦਾ ਕੈਰੀਕੇਚਰ ਬਹੁਤੇ ਲੋਕਤੰਤਰਾਂ ਵਿੱਚ ਬੋਲਣ ਦੀ ਸਭ ਤੋਂ ਵੱਧ ਸੁਰੱਖਿਅਤ ਸ਼੍ਰੇਣੀਆਂ ਵਿੱਚੋਂ ਹੈ, ਅਤੇ ਆਮ ਤੌਰ ਉੱਤੇ ਪਹਿਲੀ ਚੀਜ਼ ਹੈ ਜੋ ਕੋਈ ਚਿੱਤਰ ਫਿਲਟਰ ਹਟਾਉਂਦਾ ਹੈ। ਸਭ ਤੋਂ ਸਾਫ਼ ਦਰਜ ਮਾਮਲਾ Midjourney ਦਾ ਅਪ੍ਰੈਲ 2023 ਦਾ ਫ਼ੈਸਲਾ ਹੈ ਜਿਸ ਵਿੱਚ ਚੀਨੀ ਰਾਸ਼ਟਰਪਤੀ Xi Jinping ਦੇ ਚਿੱਤਰਾਂ ਉੱਤੇ ਰੋਕ ਲਾਈ ਗਈ ਅਤੇ ਪ੍ਰੌਂਪਟਾਂ ਵਿੱਚ ਉਨ੍ਹਾਂ ਦਾ ਨਾਮ ਬਲੌਕ ਕੀਤਾ ਗਿਆ — ਜਿਸਦੀ ਰਿਪੋਰਟ PetaPixel, Decrypt ਅਤੇ ਹੋਰਾਂ ਨੇ ਕੀਤੀ — ਜਦਕਿ ਹੋਰ ਵਿਸ਼ਵ ਨੇਤਾਵਾਂ ਦੀ ਇਜਾਜ਼ਤ ਜਾਰੀ ਰਹੀ। ਸੰਸਥਾਪਕ David Holz ਨੇ Discord ਉੱਤੇ ਸਮਝਾਇਆ ਕਿ ਕੰਪਨੀ “ਡਰਾਮਾ ਘੱਟ ਕਰਨਾ” ਚਾਹੁੰਦੀ ਸੀ ਅਤੇ ਕਿ “ਚੀਨ ਦੇ ਲੋਕਾਂ ਲਈ ਇਸ ਤਕਨੀਕ ਨੂੰ ਵਰਤ ਸਕਣਾ ਤੁਹਾਡੀ ਵਿਅੰਗ ਬਣਾਉਣ ਦੀ ਸਮਰੱਥਾ ਨਾਲੋਂ ਵੱਧ ਜ਼ਰੂਰੀ ਹੈ”; Foundation for Individual Rights and Expression ਦੀ Sarah McLaughlin ਨੇ ਇਸਨੂੰ ਸੈਂਸਰਸ਼ਿਪ ਕਿਹਾ। ਕਾਰੋਬਾਰੀ ਹਿਸਾਬ ਬਾਰੇ ਜੋ ਵੀ ਸਿੱਟਾ ਕੱਢਿਆ ਜਾਵੇ, ਤਰੀਕੇ ਦਾ ਨਾਮ ਲੈਣਾ ਬਣਦਾ ਹੈ: ਇੱਕ ਦੇਸ਼ ਦੀ ਬੋਲਣ ਉੱਤੇ ਪਾਬੰਦੀ ਦੁਨੀਆ ਭਰ ਦੇ ਹਰ ਵਰਤੋਂਕਾਰ ਉੱਤੇ ਲਾਗੂ ਹੋ ਗਈ, ਕਿਉਂਕਿ ਵਿਸ਼ਵ-ਵਿਆਪੀ ਫਿਲਟਰ ਦੀ ਇੱਕੋ ਸੈਟਿੰਗ ਹੁੰਦੀ ਹੈ।
7. ਸੁਰੱਖਿਆ ਖੋਜ ਅਤੇ ਫਿਸ਼ਿੰਗ-ਜਾਗਰੂਕਤਾ ਸਮੱਗਰੀ
ਸੁਰੱਖਿਆ ਟੀਮਾਂ ਅਜਿਹੀ ਸਿਖਲਾਈ ਸਮੱਗਰੀ ਬਣਾਉਂਦੀਆਂ ਹਨ ਜੋ ਉਸੇ ਚੀਜ਼ ਵਰਗੀ ਲੱਗਣੀ ਚਾਹੀਦੀ ਹੈ ਜਿਸ ਤੋਂ ਉਹ ਬਚਾਉਂਦੀ ਹੈ: ਇੱਕ ਭਰੋਸੇਯੋਗ ਲੱਗਦੀ ਨਕਲੀ ਲੌਗਇਨ ਸਕ੍ਰੀਨ, ਇੱਕ ਜਾਅਲੀ ਇਨਵੌਇਸ, ਪਾਰਕਿੰਗ ਮੀਟਰ ਉੱਤੇ ਲੱਗਿਆ ਖ਼ਤਰਨਾਕ QR ਕੋਡ। ਵਰਗੀਕਾਰ ਲਈ ਇਹ ਉਸ ਹਮਲੇ ਤੋਂ ਵੱਖਰਾ ਨਹੀਂ ਜਿਸ ਤੋਂ ਇਹ ਬਚਾਉਂਦਾ ਹੈ — ਹੂ-ਬ-ਹੂ ਲੱਗਣਾ ਹੀ ਤਾਂ ਮਕਸਦ ਹੈ — ਇਸ ਲਈ ਫਿਲਟਰ ਬਚਾਅ ਅਤੇ ਹਮਲੇ, ਦੋਹਾਂ ਨੂੰ ਇੱਕੋ ਜਿਹਾ ਰੋਕਦੇ ਹਨ, ਜਿਸਦਾ ਫ਼ਾਇਦਾ ਹਮਲਾਵਰ ਨੂੰ ਹੁੰਦਾ ਹੈ, ਜਿਸਨੇ ਵੈਸੇ ਵੀ ਕਦੇ ਫਿਲਟਰ ਵਾਲਾ ਆਮ ਟੂਲ ਨਹੀਂ ਵਰਤਣਾ ਸੀ।
8. ਹੱਕਦਾਰਾਂ ਨੂੰ ਆਪਣੇ ਹੀ ਬ੍ਰਾਂਡ, ਉਤਪਾਦ ਜਾਂ ਸ਼ਕਲ ਦੇ ਚਿੱਤਰਾਂ ਤੋਂ ਇਨਕਾਰ
ਕਾਪੀਰਾਈਟ ਅਤੇ ਟ੍ਰੇਡਮਾਰਕ ਫਿਲਟਰਿੰਗ ਮਾਲਕੀ ਨਹੀਂ ਜਾਂਚਦੀ; ਉਹ ਮੁਸ਼ਾਬਹਤ ਜਾਂਚਦੀ ਹੈ। ਕੋਈ ਕੰਪਨੀ ਆਪਣੇ ਹੀ ਲੋਗੋ ਜਾਂ ਉਤਪਾਦ ਦੇ ਚਿੱਤਰ ਸੌਖਿਆਂ ਨਹੀਂ ਬਣਾ ਸਕਦੀ, ਕੋਈ ਹੱਕਦਾਰ ਆਪਣਾ ਹੀ ਪਾਤਰ ਨਹੀਂ ਦਿਖਾ ਸਕਦਾ, ਅਤੇ ਲੋਕ ਅਕਸਰ ਆਪਣਾ ਹੀ ਚਿਹਰਾ ਨਹੀਂ ਬਣਾ ਸਕਦੇ, ਕਿਉਂਕਿ ਸ਼ਕਲ ਵਾਲੇ ਫਿਲਟਰ ਸਹਿਮਤੀ ਦੀ ਥਾਂ ਪਛਾਣੇ ਜਾਣ ਉੱਤੇ ਚੱਲਦੇ ਹਨ। OVERT ਆਪਣੀਆਂ ਨੌਂ ਹੱਦੋਂ ਵੱਧ ਇਨਕਾਰ ਸ਼੍ਰੇਣੀਆਂ ਵਿੱਚ “ਕਾਪੀਰਾਈਟ ਦੀ ਉਲੰਘਣਾ” ਠੀਕ ਇਸੇ ਲਈ ਸ਼ਾਮਲ ਕਰਦਾ ਹੈ ਕਿ ਇਹ ਗ਼ਲਤ ਇਨਕਾਰ ਏਨਾ ਆਮ ਹੈ। ਫਿਲਟਰ ਇੱਕ ਅਜਿਹੇ ਸਵਾਲ ਲਈ ਭੱਦਾ ਹਥਿਆਰ ਹੈ — ਕੀ ਤੁਹਾਡੇ ਕੋਲ ਇਸਦਾ ਹੱਕ ਹੈ? — ਜੋ ਉਹ ਪੁੱਛ ਹੀ ਨਹੀਂ ਸਕਦਾ।
ਉੱਪਰਲੀਆਂ ਅੱਠਾਂ ਵਿੱਚੋਂ ਚਾਰ ਕਿਸੇ ਖ਼ਾਸ ਪ੍ਰਕਾਸ਼ਿਤ ਮਾਮਲੇ ਨਾਲ ਜੁੜੀਆਂ ਹਨ (ਮੈਡੀਕਲ, ਕਲਾ ਨਗਨ ਚਿੱਤਰ, ਇਤਿਹਾਸਕ, ਵਿਅੰਗ), ਅਤੇ ਅੱਠਵੀਂ ਲਈ OVERT ਦੀ ਕਾਪੀਰਾਈਟ ਸ਼੍ਰੇਣੀ। ਫ਼ੌਰੈਂਸਿਕ, ਗਲਪ ਦਾ ਪੂਰਵ-ਦ੍ਰਿਸ਼ਟੀਕਰਨ ਅਤੇ ਸੁਰੱਖਿਆ-ਜਾਗਰੂਕਤਾ ਸਮੱਗਰੀ ਸ਼੍ਰੇਣੀਆਂ ਵਜੋਂ ਦੱਸੀਆਂ ਗਈਆਂ ਹਨ: ਇਹ ਪ੍ਰਭਾਵਿਤ ਪੇਸ਼ੇਵਰ ਕੰਮ ਦੀਆਂ ਜਾਣੀਆਂ-ਪਛਾਣੀਆਂ ਸ਼੍ਰੇਣੀਆਂ ਹਨ ਜਿਨ੍ਹਾਂ ਲਈ ਸਾਨੂੰ ਕੋਈ ਖ਼ਾਸ ਪ੍ਰਕਾਸ਼ਿਤ ਘਟਨਾ ਦੀ ਪੁਸ਼ਟੀ ਨਹੀਂ ਮਿਲੀ।
ਉੱਪਰ ਦਿੱਤਾ ਹਰ ਦਰਜ ਮਾਮਲਾ ਜਨਤਕ ਹੈ ਅਤੇ ਆਜ਼ਾਦ ਤੌਰ ਉੱਤੇ ਪਰਖਿਆ ਜਾ ਸਕਦਾ ਹੈ। ਸਾਡੇ ਵਰਣਨ ਉੱਤੇ ਭਰੋਸਾ ਕਰਨ ਦੀ ਥਾਂ ਇਹ ਖ਼ੁਦ ਪੜ੍ਹੋ।
05AI ਕਲਾ ਜਨਰੇਟਰ ਗ਼ਲਤ ਚੀਜ਼ਾਂ ਕਿਉਂ ਰੋਕਦੇ ਹਨ, ਅਤੇ ਸਮੱਗਰੀ ਫਿਲਟਰ ਦੇ ਗ਼ਲਤ ਇਨਕਾਰ ਸੈਟਿੰਗ ਬਦਲ ਕੇ ਕਿਉਂ ਨਹੀਂ ਹਟਾਏ ਜਾ ਸਕਦੇ
ਹੱਦੋਂ ਵੱਧ ਰੋਕ ਦਾ ਸੁਭਾਵਿਕ ਜਵਾਬ ਹੈ “ਹੱਦ ਢਿੱਲੀ ਕਰ ਦਿਓ।” ਇਹ ਕੰਮ ਨਹੀਂ ਕਰਦਾ, ਕੋਸ਼ਿਸ਼ ਦੀ ਘਾਟ ਕਾਰਨ ਨਹੀਂ ਸਗੋਂ ਢਾਂਚਾਗਤ ਕਾਰਨਾਂ ਕਰਕੇ।
ਸ਼੍ਰੇਣੀਆਂ ਸੰਕੇਤ ਵਿੱਚ ਰਲਦੀਆਂ ਹਨ, ਹਕੀਕਤ ਵਿੱਚ ਨਹੀਂ। ਸਰਜੀਕਲ ਚਿੱਤਰ ਅਤੇ ਅਸ਼ਲੀਲਤਾ ਵਿੱਚ ਨਗਨਤਾ ਸਾਂਝੀ ਹੈ। ਫ਼ੌਰੈਂਸਿਕ ਪੁਨਰ-ਨਿਰਮਾਣ ਅਤੇ ਖ਼ੂਨ-ਖ਼ਰਾਬੇ ਵਿੱਚ ਖ਼ੂਨ ਸਾਂਝਾ ਹੈ। ਜਾਗਰੂਕਤਾ ਸਲਾਈਡ ਅਤੇ ਫਿਸ਼ਿੰਗ ਕਿੱਟ ਵਿੱਚ ਨਕਲੀ ਲੌਗਇਨ ਫ਼ਾਰਮ ਸਾਂਝਾ ਹੈ। ਵਿਅੰਗ ਭਰਿਆ ਕਾਰਟੂਨ ਅਤੇ ਬਦਨਾਮ ਕਰਨ ਵਾਲੀ ਘੜਤ, ਦੋਹਾਂ ਵਿੱਚ ਪਛਾਣਿਆ ਜਾਣ ਵਾਲਾ ਸਿਆਸਤਦਾਨ ਸਾਂਝਾ ਹੈ। ਹਰ ਜੋੜੇ ਨੂੰ ਵੱਖ ਕਰਨ ਵਾਲੀ ਚੀਜ਼ ਹੈ ਮਕਸਦ ਅਤੇ ਪੇਸ਼ਕਾਰੀ — ਜੋ ਨਾ ਪ੍ਰੌਂਪਟ ਵਿੱਚ ਹੈ ਅਤੇ ਨਾ ਪਿਕਸਲਾਂ ਵਿੱਚ। ਜਦੋਂ ਦੋ ਸਮੂਹ ਇਨਪੁੱਟ ਥਾਂ ਦੇ ਇੱਕੋ ਹਿੱਸੇ ਵਿੱਚ ਬੈਠੇ ਹੋਣ ਤਾਂ ਕੋਈ ਹੱਦ ਉਨ੍ਹਾਂ ਨੂੰ ਵੱਖ ਨਹੀਂ ਕਰਦੀ; ਹੱਦ ਹਿਲਾਉਣ ਨਾਲ ਸਿਰਫ਼ ਇੱਕ ਗ਼ਲਤੀ ਦੀ ਥਾਂ ਦੂਜੀ ਆ ਜਾਂਦੀ ਹੈ। Gemini ਵਾਲੇ ਮਾਮਲੇ ਨੇ ਇਹੀ ਦਿਖਾਇਆ: ਇੱਕ ਨੁਕਸ ਠੀਕ ਕਰਨ ਲਈ ਕੀਤੇ ਦਖ਼ਲ ਨੇ ਦੂਜਾ ਨੁਕਸ ਪੈਦਾ ਕਰ ਦਿੱਤਾ, ਜਿਸਨੂੰ Google ਦੇ ਆਪਣੇ SVP ਨੇ “ਹੱਦੋਂ ਵੱਧ ਭਰਪਾਈ” ਕਿਹਾ।
ਕੀਮਤਾਂ ਸੰਚਾਲਕ ਲਈ ਬੇਢੰਗੀਆਂ ਹਨ, ਤੁਹਾਡੇ ਲਈ ਨਹੀਂ। ਜੋ ਫਿਲਟਰ ਇੱਕ ਮਾੜਾ ਚਿੱਤਰ ਲੰਘਣ ਦਿੰਦਾ ਹੈ ਉਸ ਬਾਰੇ ਖ਼ਬਰ ਬਣਦੀ ਹੈ। ਜੋ ਫਿਲਟਰ ਦਸ ਹਜ਼ਾਰ ਜਾਇਜ਼ ਚਿੱਤਰ ਰੋਕਦਾ ਹੈ ਉਸ ਬਾਰੇ ਚੁੱਪ ਰਹਿੰਦੀ ਹੈ, ਕਿਉਂਕਿ ਇਨਕਾਰ ਹੋਏ ਵਰਤੋਂਕਾਰ ਇਕੱਠੇ ਨਹੀਂ ਹੁੰਦੇ — ਉਹ ਹਾਰ ਮੰਨ ਲੈਂਦੇ ਹਨ। ਇਸ ਬੇਢੰਗੇ ਸੰਤੁਲਨ ਵਿੱਚ ਖ਼ਤਰੇ ਦਾ ਪ੍ਰਬੰਧ ਪੱਕੇ ਤੌਰ ਉੱਤੇ ਹੱਦੋਂ ਵੱਧ ਰੋਕ ਵੱਲ ਹੀ ਝੁਕਦਾ ਹੈ। ਅਤੇ ਕਿਉਂਕਿ ਹੇਠਲਾ ਨਿਰਣਾ ਅਸੰਭਵ ਹੈ, ਪਾਬੰਦੀ-ਸੂਚੀਆਂ ਵਿੱਚ ਘਟਨਾਵਾਂ ਦੇ ਨਾਲ-ਨਾਲ ਸ਼ਾਬਦਿਕ ਸ਼ਬਦ ਜੁੜਦੇ ਜਾਂਦੇ ਹਨ, ਅਤੇ ਇਸੇ ਤਰ੍ਹਾਂ “stethoscope” ਠੀਕ ਰਹਿੰਦਾ ਹੈ ਤੇ “speculum” ਉੱਤੇ ਪਾਬੰਦੀ ਲੱਗ ਜਾਂਦੀ ਹੈ। ਕਿਸੇ ਨੇ ਇਹ ਫ਼ੈਸਲਾ ਨਹੀਂ ਕੀਤਾ ਕਿ ਔਰਤਾਂ ਦੇ ਖ਼ਾਸ ਔਜ਼ਾਰ ਵੱਧ ਖ਼ਤਰਨਾਕ ਹਨ; ਸੂਚੀ ਉੱਥੇ ਵਧੀ ਜਿੱਥੇ ਸ਼ਿਕਾਇਤਾਂ ਪਹੁੰਚੀਆਂ। ਇਹ ਸੰਚਾਲਕ ਦੇ PR ਇਤਿਹਾਸ ਨੂੰ ਦਰਜ ਕਰਦੀ ਹੈ, ਨੁਕਸਾਨ ਦੇ ਕਿਸੇ ਸਿਧਾਂਤ ਨੂੰ ਨਹੀਂ।
ਸਭ ਤੋਂ ਸਖ਼ਤ ਅਧਿਕਾਰ-ਖੇਤਰ ਵਿਸ਼ਵ-ਵਿਆਪੀ ਮਿਆਰ ਬਣ ਜਾਂਦਾ ਹੈ। ਇੱਕੋ ਫਿਲਟਰ ਹਰ ਦੇਸ਼ ਦੇ ਹਰ ਵਰਤੋਂਕਾਰ ਦੀ ਸੇਵਾ ਕਰਦਾ ਹੈ, ਇਸ ਲਈ ਇੱਕ ਬਾਜ਼ਾਰ ਲਈ ਜੋੜੀ ਪਾਬੰਦੀ ਸਾਰਿਆਂ ਤੱਕ ਪਹੁੰਚ ਜਾਂਦੀ ਹੈ — Xi Jinping ਵਾਲਾ ਨਿਯਮ ਇਸਦੀ ਪਾਠ-ਪੁਸਤਕ ਮਿਸਾਲ ਹੈ। ਅਤੇ ਆਪਣਾ ਪ੍ਰੌਂਪਟ ਮੁੜ ਲਿਖਣਾ ਤੁਹਾਡਾ ਅਰਥ ਤਬਾਹ ਕਰ ਦਿੰਦਾ ਹੈ, ਜੋ OVERT ਦਾ ਪ੍ਰਯੋਗੀ ਨੁਕਤਾ ਹੈ: ਹਰ ਉਸ ਪੇਸ਼ੇਵਰ ਨੇ ਇਸਦੀ ਹੱਥੀਂ ਪੁਸ਼ਟੀ ਕੀਤੀ ਹੈ ਜਿਸਨੇ ਫਿਲਟਰ ਤੋਂ ਪਾਰ ਲੰਘਣ ਲਈ ਆਪਣੀ ਬੇਨਤੀ ਨੂੰ ਗੋਲ-ਮੋਲ ਸ਼ਬਦਾਂ ਵਿੱਚ ਲਪੇਟਿਆ। ਤੁਸੀਂ ਜਿੱਤੇ ਨਹੀਂ; ਤੁਸੀਂ ਸਮਝੌਤਾ ਕੀਤਾ।
ਇਹ ਸਭ ਮੁਫ਼ਤ ਨਹੀਂ, ਅਤੇ ਕਿਉਂਕਿ ਇਹ ਚੁੱਪ-ਚਾਪ ਫ਼ੇਲ੍ਹ ਹੁੰਦਾ ਹੈ, ਸੰਚਾਲਕ ਜੋ ਅੰਕੜੇ ਵੇਖਦਾ ਹੈ ਉਨ੍ਹਾਂ ਵਿੱਚ ਇਹ ਕੀਮਤ ਦਿਸਦੀ ਹੀ ਨਹੀਂ। ਕਾਫ਼ੀ ਇਨਕਾਰਾਂ ਤੋਂ ਬਾਅਦ ਤੁਸੀਂ ਪੁੱਛਣਾ ਬੰਦ ਕਰ ਦਿੰਦੇ ਹੋ, ਅਤੇ ਹਰ ਪ੍ਰੌਂਪਟ ਪਹਿਲਾਂ ਹੀ ਉਸ ਤੱਕ ਸੀਮਤ ਕਰ ਲੈਂਦੇ ਹੋ ਜਿਸਦੇ ਪਾਸ ਹੋਣ ਦੀ ਤੁਹਾਨੂੰ ਆਸ ਹੈ; ਜੋ ਗੋਲ-ਮੋਲ ਸ਼ਬਦ ਆਖ਼ਰ ਲੰਘ ਜਾਂਦੇ ਹਨ ਉਹ ਅਜਿਹਾ ਚਿੱਤਰ ਦਿੰਦੇ ਹਨ ਜੋ ਤੁਹਾਡੇ ਦਸਤਾਵੇਜ਼ ਦੀ ਲੋੜ ਦੇ ਨੇੜੇ ਤਾਂ ਹੈ, ਪਰ ਉਹ ਨਹੀਂ। ਆਮ ਜਿਹਾ ਨੀਤੀ ਸੁਨੇਹਾ ਤੁਹਾਨੂੰ ਇਹ ਨਹੀਂ ਦੱਸਦਾ ਕਿ ਕਿਹੜੀ ਪਰਤ ਚੱਲੀ, ਇਸ ਲਈ ਤੁਸੀਂ ਸਿਰਫ਼ ਅੰਦਾਜ਼ਾ ਲਾ ਕੇ ਦੁਬਾਰਾ ਕੋਸ਼ਿਸ਼ ਕਰ ਸਕਦੇ ਹੋ — ਅਤੇ ਚਿੱਤਰ ਦਾ ਕੰਮ ਵਾਰ-ਵਾਰ ਦੁਹਰਾਉਣ ਵਾਲਾ ਹੁੰਦਾ ਹੈ, ਇਸ ਲਈ ਪੰਜਾਂ ਵਿੱਚੋਂ ਇੱਕ ਕੋਸ਼ਿਸ਼ ਫੜਨ ਵਾਲਾ ਫਿਲਟਰ ਕੰਮ ਨੂੰ ਹੌਲੀ ਕਰਨ ਨਾਲੋਂ ਵੱਧ ਉਸਦਾ ਸਿਲਸਿਲਾ ਤੋੜਦਾ ਹੈ। ਦੂਜੇ ਪਾਸੇ ਜਿਨ੍ਹਾਂ ਖੇਤਰਾਂ ਦਾ ਸੰਜੀਦਾ ਟੂਲਾਂ ਉੱਤੇ ਸਭ ਤੋਂ ਵੱਧ ਹੱਕ ਹੈ, ਉਨ੍ਹਾਂ ਲਈ ਨਾ ਕੋਈ ਸਮੀਖਿਅਕ ਹੈ, ਨਾ ਅਪੀਲ, ਅਤੇ ਆਮ ਤੌਰ ਉੱਤੇ ਨਾ ਹੀ ਇਹ ਪ੍ਰਕਾਸ਼ਿਤ ਸੂਚੀ ਕਿ ਕੀ ਰੋਕਿਆ ਗਿਆ ਹੈ। ਜਿਹੜਾ ਨਿਯਮ ਤੁਸੀਂ ਪੜ੍ਹ ਨਹੀਂ ਸਕਦੇ ਉਹ ਨਿਯਮ ਨਹੀਂ; ਉਹ ਮੌਸਮ ਹੈ।
06ਬਿਨਾਂ ਸੈਂਸਰ ਬਨਾਮ ਫਿਲਟਰ ਵਾਲਾ AI ਚਿੱਤਰ ਜਨਰੇਟਰ: ਅਸਲ ਵਿੱਚ ਕੀ ਬਦਲਦਾ ਹੈ
ਇਹ ਰਹੀ ਤੁਲਨਾ ਦੀ ਈਮਾਨਦਾਰ ਸ਼ਕਲ, ਇਸ ਸਮੇਤ ਕਿ ਬਿਨਾਂ ਫਿਲਟਰ ਸਿਸਟਮ ਤੁਹਾਨੂੰ ਕੀ ਨਹੀਂ ਦਿੰਦਾ।
| ਪੱਖ | ਫਿਲਟਰ ਵਾਲਾ ਜਨਰੇਟਰ | ਬਿਨਾਂ ਫਿਲਟਰ (Shannon) |
|---|---|---|
| ਫ਼ੈਸਲਾ ਕੌਣ ਕਰਦਾ ਹੈ | ਸ਼ਬਦ ਅਤੇ ਪਿਕਸਲ ਪੜ੍ਹਦਾ ਵਰਗੀਕਾਰ | ਹੂ-ਬ-ਹੂ ਪ੍ਰੌਂਪਟ ਪੜ੍ਹਦਾ ਇਨਸਾਨ |
| ਪਤਾ ਕਦੋਂ ਲੱਗਦਾ ਹੈ | ਭੇਜਣ ਤੋਂ ਬਾਅਦ — ਕਦੇ-ਕਦੇ ਪੈਸੇ ਦੇਣ ਤੋਂ ਬਾਅਦ | ਕੁਝ ਵੀ ਰੈਂਡਰ ਜਾਂ ਬਿਲ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ |
| ਨਿਯਮ ਕੀ ਹੈ | ਅਣ-ਪ੍ਰਕਾਸ਼ਿਤ, ਬਦਲਦੀਆਂ ਪਾਬੰਦੀ-ਸੂਚੀਆਂ | ਇੱਕ ਪ੍ਰਕਾਸ਼ਿਤ ਜ਼ਿੰਮੇਵਾਰ ਵਰਤੋਂ ਨੀਤੀ |
| ਪੇਸ਼ੇਵਰ ਸੰਦਰਭ | ਸਿਸਟਮ ਨੂੰ ਦਿਸਦਾ ਹੀ ਨਹੀਂ | ਤੁਹਾਡੇ ਕੋਲ, ਅਤੇ ਜਵਾਬ ਵੀ ਤੁਹਾਡਾ |
| ਫ਼ੇਲ੍ਹ ਹੋਣ ਦਾ ਢੰਗ | ਚੁੱਪ-ਚਾਪ ਹੱਦੋਂ ਵੱਧ ਰੋਕ, ਅਰਥ ਦਾ ਖਿਸਕਣਾ | ਜੋ ਮੰਗਿਆ ਉਹੀ ਮਿਲਦਾ ਹੈ — ਗ਼ਲਤੀਆਂ ਸਮੇਤ |
| ਖ਼ਤਰਾ ਕੌਣ ਚੁੱਕਦਾ ਹੈ | ਵਿਕਰੇਤਾ, ਜੋ ਇਹ ਤੁਹਾਡੇ ਕੰਮ ਉੱਤੇ ਸੁੱਟ ਦਿੰਦਾ ਹੈ | ਸਾਂਝਾ: ਸੰਚਾਲਕ ਦੀ ਨੀਤੀ ਅਤੇ ਵਰਤੋਂਕਾਰ ਦੀ ਜਵਾਬਦੇਹੀ |
ਆਖ਼ਰੀ ਕਤਾਰ ਉਹ ਹੈ ਜਿਸਨੂੰ ਲੋਕ ਛੱਡ ਦਿੰਦੇ ਹਨ, ਅਤੇ ਜੋ ਸਭ ਤੋਂ ਵੱਧ ਮਾਇਨੇ ਰੱਖਦੀ ਹੈ। ਫਿਲਟਰ ਹਟਾਉਣ ਨਾਲ ਭਾਗ 02 ਵਾਲੀਆਂ ਨੁਕਸਾਨ ਸ਼੍ਰੇਣੀਆਂ ਨਹੀਂ ਹਟਦੀਆਂ; ਸਿਰਫ਼ ਉਹ ਮਸ਼ੀਨ ਹਟਦੀ ਹੈ ਜੋ ਉਨ੍ਹਾਂ ਬਾਰੇ ਮਾੜਾ ਅੰਦਾਜ਼ਾ ਲਾ ਰਹੀ ਸੀ। ਜ਼ਿੰਮੇਵਾਰੀ ਉੱਥੇ ਹੀ ਰਹਿੰਦੀ ਹੈ ਜਿੱਥੇ ਸੀ, ਹੁਣ ਦੋ ਧਿਰਾਂ ਕੋਲ ਜੋ ਸੰਦਰਭ ਬਾਰੇ ਸੋਚ ਸਕਦੀਆਂ ਹਨ: ਸੰਚਾਲਕ, ਜੋ ਨੀਤੀ ਪ੍ਰਕਾਸ਼ਿਤ ਕਰਦਾ ਅਤੇ ਲਾਗੂ ਕਰਦਾ ਹੈ, ਅਤੇ ਤੁਸੀਂ, ਜੋ ਜਾਣਦੇ ਹੋ ਕਿ ਚਿੱਤਰ ਕਿਸ ਲਈ ਹੈ। ਬਿਨਾਂ ਫਿਲਟਰ AI ਚਿੱਤਰ ਜਨਰੇਸ਼ਨ ਉਨ੍ਹਾਂ ਲੋਕਾਂ ਲਈ ਟੂਲ ਹੈ ਜੋ ਪਹਿਲਾਂ ਹੀ ਆਪਣੇ ਨਤੀਜੇ ਦੇ ਪਿੱਛੇ ਖੜ੍ਹਨ ਲਈ ਤਿਆਰ ਹਨ — ਸਰਜਨ ਦਾ ਐਟਲਸ, ਮਾਹਰ ਦੀ ਰਿਪੋਰਟ, ਸਟੋਰੀਬੋਰਡ, ਕਾਰਟੂਨ — ਅਤੇ ਜਿਨ੍ਹਾਂ ਨੂੰ ਇੱਕ ਅਜਿਹਾ ਸਿਸਟਮ ਰੋਕ ਰਿਹਾ ਸੀ ਜੋ ਉਨ੍ਹਾਂ ਨੂੰ ਕਿਸੇ ਹੋਰ ਤੋਂ ਵੱਖ ਨਹੀਂ ਦੱਸ ਸਕਦਾ ਸੀ।
07Shannon ਕੀ ਕਰਦਾ ਹੈ — ਅਤੇ ਕੀ ਨਹੀਂ ਕਰਦਾ
ਇੱਥੇ ਜੋਸ਼ ਨਾਲੋਂ ਸ਼ੁੱਧਤਾ ਵੱਧ ਮਾਇਨੇ ਰੱਖਦੀ ਹੈ, ਖ਼ਾਸ ਕਰਕੇ ਉਨ੍ਹਾਂ ਪਾਠਕਾਂ ਲਈ ਜੋ API ਦੀ ਖੋਜ ਤੋਂ ਇੱਥੇ ਪਹੁੰਚੇ ਹਨ।
ਇਹ ਕੀ ਕਰਦਾ ਹੈ
- ਜਨਰੇਸ਼ਨ। ਕਿਸੇ ਵੀ ਭਾਸ਼ਾ ਵਿੱਚ, ਸਾਦੀ ਬੋਲੀ ਵਿੱਚ ਚਿੱਤਰ ਦਾ ਵਰਣਨ ਕਰੋ। ਤੁਸੀਂ ਜਿਸ ਵੀ ਭਾਸ਼ਾ ਵਿੱਚ ਮੰਗਿਆ ਹੋਵੇ, Shannon ਜਨਰੇਸ਼ਨ ਪ੍ਰੌਂਪਟ ਖ਼ੁਦ ਅੰਗਰੇਜ਼ੀ ਵਿੱਚ ਲਿਖਦਾ ਹੈ।
- ਇੱਕ ਚਿੱਤਰ ਦਾ ਸੰਪਾਦਨ। ਠੀਕ ਇੱਕ ਸਰੋਤ — ਗੱਲਬਾਤ ਵਿੱਚ ਪਹਿਲਾਂ ਤੋਂ ਮੌਜੂਦ ਤਸਵੀਰ, ਜਾਂ ਤੁਹਾਡੇ ਮੌਜੂਦਾ ਸੁਨੇਹੇ ਨਾਲ ਜੋੜੀ ਗਈ — ਜਿਸਨੂੰ ਅਜਿਹੀ ਹਦਾਇਤ ਨਾਲ ਬਦਲਿਆ ਜਾਂਦਾ ਹੈ ਜੋ ਦੱਸਦੀ ਹੈ ਕਿ ਕੀ ਬਦਲਣਾ ਹੈ ਅਤੇ ਕੀ ਉਵੇਂ ਹੀ ਰਹਿਣਾ ਹੈ। ਨਤੀਜਾ ਆਪਣੇ ਆਪ ਸਰੋਤ ਦਾ ਆਸਪੈਕਟ ਰੇਸ਼ੋ ਰੱਖਦਾ ਹੈ।
- ਦੋ ਜਾਂ ਵੱਧ ਚਿੱਤਰਾਂ ਨੂੰ ਜੋੜਨਾ। ਪਹਿਰਾਵਾ ਬਦਲਣਾ, ਵਸਤੂ ਨੂੰ ਦ੍ਰਿਸ਼ ਵਿੱਚ ਪਾਉਣਾ, ਇੱਕ ਵਿਅਕਤੀ ਦੇ ਨਾਲ ਦੂਜਾ, ਵਿਅਕਤੀ ਉੱਤੇ ਉਤਪਾਦ, ਇੱਕ ਚਿੱਤਰ ਦਾ ਵਿਸ਼ਾ ਅਤੇ ਦੂਜੇ ਦੀ ਸ਼ੈਲੀ। ਪ੍ਰੌਂਪਟ ਹਰ ਚਿੱਤਰ ਦੀ ਭੂਮਿਕਾ ਕ੍ਰਮ ਨਾਲ ਦੱਸਦਾ ਹੈ, ਅਤੇ ਅਸਲ ਚਿੱਤਰ ਹੀ ਵਰਤੇ ਜਾਂਦੇ ਹਨ, ਤਾਂ ਜੋ ਉਨ੍ਹਾਂ ਦੀ ਅਸਲ ਦਿੱਖ ਮੁੜ-ਵਰਣਨ ਦੀ ਥਾਂ ਸੰਭਾਲੀ ਜਾਵੇ।
- ਆਸਪੈਕਟ ਕੰਟਰੋਲ। square (ਮੂਲ), portrait, landscape, wide ਅਤੇ tall। ਸਾਫ਼ ਤੌਰ ਉੱਤੇ ਕੀਤੀ ਬੇਨਤੀ ਹਮੇਸ਼ਾ ਜਿੱਤਦੀ ਹੈ।
- ਸਾਡੇ ਆਪਣੇ GPU ਕਲੱਸਟਰ ਉੱਤੇ ਰੈਂਡਰਿੰਗ, ਜਨਰੇਸ਼ਨ ਰਾਹ ਉੱਤੇ ਕਿਸੇ ਸਮੱਗਰੀ ਫਿਲਟਰ ਤੋਂ ਬਿਨਾਂ ਅਤੇ ਪ੍ਰੌਂਪਟ ਲਿਖਣ ਵਾਲੇ ਮਾਡਲ ਉੱਤੇ ਕਿਸੇ ਇਨਕਾਰ ਪਰਤ ਤੋਂ ਬਿਨਾਂ।
ਇਹ ਕੀ ਨਹੀਂ ਕਰਦਾ
- ਕੋਈ ਵੀਡੀਓ ਨਹੀਂ। Shannon ਚਿੱਤਰਾਂ ਨੂੰ ਹਿਲਦਾ ਨਹੀਂ ਬਣਾਉਂਦਾ ਅਤੇ ਵੀਡੀਓ ਨਹੀਂ ਬਣਾਉਂਦਾ। ਇਹ ਕੋਈ ਲੁਕਾ ਕੇ ਰੱਖੀ ਯੋਜਨਾ ਨਹੀਂ — ਇਹ ਹੈ ਹੀ ਨਹੀਂ।
- API ਉੱਤੇ ਨਹੀਂ। ਚਿੱਤਰ ਬਣਾਉਣਾ, ਸੰਪਾਦਨ ਅਤੇ ਰਚਨਾ Shannon ਚੈਟ ਐਪ ਵਿੱਚ ਰਹਿੰਦੇ ਹਨ। /v1 API ਲਿਖਤ ਅਤੇ ਵਿਜ਼ਨ ਦੀ ਸੇਵਾ ਦਿੰਦਾ ਹੈ — ਇਹ ਤੁਹਾਡੇ ਭੇਜੇ ਚਿੱਤਰ ਪੜ੍ਹ ਸਕਦਾ ਹੈ — ਪਰ ਉਨ੍ਹਾਂ ਨੂੰ ਬਣਾਉਂਦਾ ਨਹੀਂ।
- ਬਿਨਾਂ ਪੁੱਛੇ ਕੋਈ ਜਨਰੇਸ਼ਨ ਨਹੀਂ। ਸਲਾਮ, ਸਵਾਲ ਜਾਂ ਲਾਪਰਵਾਹੀ ਨਾਲ ਜੋੜੀ ਗਈ ਫ਼ੋਟੋ ਚਿੱਤਰ ਨਹੀਂ ਬਣਵਾਉਂਦੀ। Shannon ਨੂੰ ਕਿਸੇ ਚਿੱਤਰ ਵੱਲ ਵੇਖਣ ਲਈ ਕਹਿਣਾ — ਵਰਣਨ ਕਰਨਾ, ਪੜ੍ਹਨਾ, ਵਿਸ਼ਲੇਸ਼ਣ ਕਰਨਾ — ਆਮ ਵਿਜ਼ਨ ਕੰਮ ਹੈ, ਜਨਰੇਸ਼ਨ ਨਹੀਂ, ਅਤੇ ਇਸਦਾ ਕੋਈ ਵਾਧੂ ਖ਼ਰਚ ਨਹੀਂ।
ਪੁਸ਼ਟੀ ਕਾਰਡ
ਇਹੀ ਉਹ ਤਰੀਕਾ ਹੈ ਜੋ ਫਿਲਟਰ ਦੀ ਥਾਂ ਲੈਂਦਾ ਹੈ, ਅਤੇ ਇਹ ਰਸਮ ਨਹੀਂ ਸਗੋਂ ਇੱਕ ਡਿਜ਼ਾਈਨ ਚੋਣ ਹੈ। ਜਦੋਂ Shannon ਤੈਅ ਕਰਦਾ ਹੈ ਕਿ ਤੁਸੀਂ ਚਿੱਤਰ ਮੰਗ ਰਹੇ ਹੋ, ਤਾਂ ਉਹ ਜਨਰੇਸ਼ਨ ਪ੍ਰੌਂਪਟ ਲਿਖਦਾ ਹੈ ਅਤੇ ਕੁਝ ਵੀ ਰੈਂਡਰ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਉਹ ਤੁਹਾਨੂੰ ਪੁਸ਼ਟੀ ਕਾਰਡ ਉੱਤੇ ਦਿਖਾਉਂਦਾ ਹੈ। ਤੁਹਾਡੀ ਪੁਸ਼ਟੀ ਤੋਂ ਬਿਨਾਂ ਨਾ ਕੁਝ ਬਣਦਾ ਹੈ ਅਤੇ ਨਾ ਕੋਈ ਬਿਲ।
ਦੋਹਾਂ ਡਿਜ਼ਾਈਨਾਂ ਦੀ ਖ਼ੂਬੀ ਉੱਤੇ ਤੁਲਨਾ ਕਰੋ। ਫਿਲਟਰ ਤੁਹਾਡੇ ਨਾਲੋਂ ਘੱਟ ਜਾਣਕਾਰੀ ਨਾਲ ਤੁਹਾਡੀ ਨੀਅਤ ਦਾ ਅੰਦਾਜ਼ਾ ਲਾਉਂਦਾ ਹੈ, ਅਤੇ ਉਸ ਅੰਦਾਜ਼ੇ ਨੂੰ ਚੁੱਪ-ਚਾਪ ਲਾਗੂ ਕਰਦਾ ਹੈ। ਪੁਸ਼ਟੀ ਕਾਰਡ ਚਿੱਤਰ ਦਾ ਹੂ-ਬ-ਹੂ ਵੇਰਵਾ ਉਸ ਧਿਰ ਦੇ ਸਾਹਮਣੇ ਰੱਖਦਾ ਹੈ ਜੋ ਜਾਣਦੀ ਹੈ ਕਿ ਇਹ ਕਿਸ ਲਈ ਹੈ, ਅਤੇ ਇਹ ਕੋਈ ਵੀ ਕੰਪਿਊਟਿੰਗ ਖ਼ਰਚ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਹੁੰਦਾ ਹੈ। ਇਹ ਤੁਹਾਡੀ ਬੇਨਤੀ ਦੀਆਂ ਗ਼ਲਤ ਸਮਝਾਂ ਫੜਦਾ ਹੈ, ਜੋ ਫਿਲਟਰ ਕਦੇ ਨਹੀਂ ਕਰਦੇ; ਇਹ ਤੁਹਾਨੂੰ ਉਹ ਸਰੀਰ-ਰਚਨਾ ਦੀ ਬਾਰੀਕੀ ਜਾਂ ਇਤਿਹਾਸਕ ਵੇਰਵਾ ਜੋੜਨ ਦਿੰਦਾ ਹੈ ਜੋ ਮਾਡਲ ਨੇ ਘੱਟ ਦੱਸਿਆ; ਅਤੇ ਇਹ ਜ਼ਿੰਮੇਵਾਰੀ ਨੂੰ ਧੁੰਦਲੀ ਰੱਖਣ ਦੀ ਥਾਂ ਸਾਫ਼ ਬਣਾਉਂਦਾ ਹੈ। ਤੁਸੀਂ ਪ੍ਰੌਂਪਟ ਵੇਖਿਆ, ਅਤੇ ਤੁਸੀਂ ਬਟਨ ਦਬਾਇਆ।
08ਬਿਨਾਂ ਫਿਲਟਰ ਜਨਰੇਸ਼ਨ ਜ਼ਿੰਮੇਵਾਰੀ ਵਧਾਉਂਦੀ ਹੈ, ਹਟਾਉਂਦੀ ਨਹੀਂ
ਇਹ ਗੱਲ ਫੁੱਟਨੋਟ ਦੀ ਥਾਂ ਇੱਥੇ ਬਣਦੀ ਹੈ, ਕਿਉਂਕਿ ਇਹ ਦਲੀਲ ਦਾ ਅੱਧਾ ਹਿੱਸਾ ਹੈ। ਫਿਲਟਰ ਵਾਲਾ ਜਨਰੇਟਰ ਅਜਿਹਾ ਵਾਅਦਾ ਕਰਦਾ ਹੈ ਜੋ ਉਹ ਨਿਭਾ ਨਹੀਂ ਸਕਦਾ: ਕਿ ਟੂਲ ਤੁਹਾਡੇ ਵੱਲੋਂ ਦੁਰਵਰਤੋਂ ਰੋਕ ਦੇਵੇਗਾ। ਉਹ ਦੋਹਾਂ ਪਾਸਿਓਂ ਫ਼ੇਲ੍ਹ ਹੁੰਦਾ ਹੈ — ਉਹ ਸਰਜਨ ਨੂੰ ਰੋਕਦਾ ਹੈ, ਅਤੇ ਪੱਕੇ ਇਰਾਦੇ ਵਾਲੇ ਬਦਨੀਅਤ ਬੰਦੇ ਨੂੰ ਨਹੀਂ ਰੋਕਦਾ, ਜਿਸ ਕੋਲ ਹੋਰ ਰਾਹ ਹਨ ਅਤੇ ਹਮੇਸ਼ਾ ਸਨ। ਉਹ ਭਰੋਸੇ ਨਾਲ ਸਿਰਫ਼ ਇਹੀ ਕਰਦਾ ਹੈ ਕਿ ਸਾਰਿਆਂ ਨੂੰ ਲੱਗੇ ਕਿ ਜ਼ਿੰਮੇਵਾਰੀ ਪਹਿਲਾਂ ਹੀ ਮਸ਼ੀਨ ਨੇ ਸੰਭਾਲ ਲਈ ਹੈ। ਫਿਲਟਰ ਹਟਾਉਣ ਨਾਲ ਇਹ ਵਹਿਮ ਹਟਦਾ ਹੈ; ਇਹ ਸਵਾਲ ਕਿ ਕੋਈ ਚਿੱਤਰ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ ਜਾਂ ਨਹੀਂ, ਉਨ੍ਹਾਂ ਲੋਕਾਂ ਕੋਲ ਵਾਪਸ ਆ ਜਾਂਦਾ ਹੈ ਜੋ ਇਸਦਾ ਜਵਾਬ ਦੇ ਸਕਦੇ ਹਨ।
- Shannon Lab LLC ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ। ਅਣ-ਪ੍ਰਕਾਸ਼ਿਤ ਪਾਬੰਦੀ-ਸੂਚੀ ਦੀ ਥਾਂ ਇੱਕ ਪ੍ਰਕਾਸ਼ਿਤ, ਸਪਸ਼ਟ ਜ਼ਿੰਮੇਵਾਰ ਵਰਤੋਂ ਨੀਤੀ ਜੋ ਮਨਾਹੀ ਵਾਲੀਆਂ ਸ਼੍ਰੇਣੀਆਂ ਦੇ ਨਾਮ ਲੈਂਦੀ ਹੈ — ਅਜਿਹੇ ਨਿਯਮ ਜੋ ਤੁਸੀਂ ਪੜ੍ਹ ਸਕਦੇ ਹੋ, ਹਵਾਲਾ ਦੇ ਸਕਦੇ ਹੋ, ਅਤੇ ਜਿਨ੍ਹਾਂ ਲਈ ਸਾਨੂੰ ਜਵਾਬਦੇਹ ਬਣਾ ਸਕਦੇ ਹੋ।
- ਤੁਹਾਡੀ ਜ਼ਿੰਮੇਵਾਰੀ। ਤੁਸੀਂ ਮਕਸਦ, ਸਰੋਤਿਆਂ, ਅਧਿਕਾਰ-ਖੇਤਰ ਅਤੇ ਦਿਖਾਏ ਗਏ ਹਰ ਵਿਅਕਤੀ ਦੀ ਸਹਿਮਤੀ ਬਾਰੇ ਜਾਣਦੇ ਹੋ। ਟੂਲ ਨਹੀਂ ਜਾਣਦਾ, ਅਤੇ ਕੋਈ ਵਰਗੀਕਾਰ ਕਦੇ ਜਾਣ ਵੀ ਨਹੀਂ ਸਕਦਾ ਸੀ। ਪੁਸ਼ਟੀ ਕਾਰਡ ਇਸੇ ਲਈ ਹੈ ਕਿ ਉਹ ਜਾਣਕਾਰੀ ਠੀਕ ਉਸ ਪਲ ਵਰਤੀ ਜਾਵੇ ਜਦੋਂ ਉਹ ਮਾਇਨੇ ਰੱਖਦੀ ਹੈ, ਉਸ ਧਿਰ ਵੱਲੋਂ ਜਿਸ ਕੋਲ ਉਹ ਹੈ।
- ਉਹ ਹੱਦ ਜੋ ਨਹੀਂ ਹਿੱਲਦੀ। “ਫਿਲਟਰ ਨੇ ਮੈਨੂੰ ਨਹੀਂ ਰੋਕਿਆ” ਕਿਸੇ ਵੀ ਮਾਧਿਅਮ ਵਿੱਚ ਕਦੇ ਬਚਾਅ ਨਹੀਂ ਰਿਹਾ। ਕੈਮਰਾ ਇਨਕਾਰ ਨਹੀਂ ਕਰਦਾ, ਪੈਨਸਿਲ ਇਨਕਾਰ ਨਹੀਂ ਕਰਦੀ; ਕਾਨੂੰਨ ਅਤੇ ਪੇਸ਼ੇਵਰ ਨੈਤਿਕਤਾ ਵਰਤੋਂ ਉੱਤੇ ਲਾਗੂ ਹੁੰਦੇ ਹਨ, ਔਜ਼ਾਰ ਉੱਤੇ ਨਹੀਂ। ਬਿਨਾਂ ਫਿਲਟਰ ਜਨਰੇਟਰ ਉਹੀ ਆਮ ਪ੍ਰਬੰਧ ਬਹਾਲ ਕਰਦਾ ਹੈ ਜਿਸ ਹੇਠ ਹਰ ਦੂਜਾ ਪੇਸ਼ੇਵਰ ਟੂਲ ਚੱਲਦਾ ਹੈ।
ਸ਼ੁਰੂ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਜ਼ਿੰਮੇਵਾਰ ਵਰਤੋਂ ਨੀਤੀ ਪੜ੍ਹੋ। ਉਹ ਛੋਟੀ ਹੈ, ਸਪਸ਼ਟ ਹੈ, ਅਤੇ ਇਸ ਉਤਪਾਦ ਦਾ ਉਹ ਹਿੱਸਾ ਹੈ ਜੋ ਬਾਕੀ ਸਭ ਨੂੰ ਵਾਜਬ ਬਣਾਉਂਦਾ ਹੈ।
09ਅਕਸਰ ਪੁੱਛੇ ਜਾਂਦੇ ਸਵਾਲ
AI ਚਿੱਤਰ ਜਨਰੇਟਰ ਸਾਫ਼ ਤੌਰ ਉੱਤੇ ਜਾਇਜ਼ ਪ੍ਰੌਂਪਟ ਤੋਂ ਵੀ ਇਨਕਾਰ ਕਿਉਂ ਕਰਦਾ ਹੈ?
ਕਿਉਂਕਿ ਬਹੁਤੇ ਫਿਲਟਰ ਤੁਹਾਡੇ ਪ੍ਰੌਂਪਟ ਦੇ ਸ਼ਬਦਾਂ ਨੂੰ ਪਰਖਦੇ ਹਨ, ਤੁਹਾਡੇ ਮਕਸਦ ਨੂੰ ਨਹੀਂ। ਮਾਡਲ ਦੇ ਅੱਗੇ ਇੱਕ ਵਰਗੀਕਾਰ ਬੈਠਾ ਹੁੰਦਾ ਹੈ ਜਿਸਨੂੰ ਨਾ ਇਹ ਪਤਾ ਹੁੰਦਾ ਹੈ ਕਿ ਤੁਸੀਂ ਕੌਣ ਹੋ ਅਤੇ ਨਾ ਇਹ ਕਿ ਤੁਸੀਂ ਕਿਉਂ ਪੁੱਛ ਰਹੇ ਹੋ, ਇਸ ਲਈ ਇੱਕ ਮੈਡੀਕਲ ਚਿੱਤਰਕਾਰ, ਇੱਕ ਫ਼ੌਰੈਂਸਿਕ ਵਿਸ਼ਲੇਸ਼ਕ ਅਤੇ ਇੱਕ ਬਦਨੀਅਤ ਬੰਦਾ — ਤਿੰਨੋਂ ਉਹੀ ਸ਼ਬਦ ਟਾਈਪ ਕਰਦੇ ਹਨ ਅਤੇ ਤਿੰਨਾਂ ਨੂੰ ਉਹੀ ਇਨਕਾਰ ਮਿਲਦਾ ਹੈ। The Intercept ਨੇ ਅਪ੍ਰੈਲ 2023 ਵਿੱਚ ਦੱਸਿਆ ਸੀ ਕਿ Midjourney ਨੇ speculum, placenta ਅਤੇ cervix ਸਮੇਤ ਸਰੀਰ-ਰਚਨਾ ਦੇ ਸ਼ਬਦਾਂ ਉੱਤੇ ਪਾਬੰਦੀ ਲਾਈ ਸੀ, ਜਦਕਿ stethoscope ਆਮ ਵਾਂਗ ਕੰਮ ਕਰਦਾ ਸੀ।
ਕੀ AI ਕਲਾ ਟੂਲਾਂ ਵਿੱਚ ਸਮੱਗਰੀ ਫਿਲਟਰ ਦੇ ਗ਼ਲਤ ਇਨਕਾਰ ਮਾਪਣ ਵਾਲੀ ਕੋਈ ਖੋਜ ਹੈ?
ਹਾਂ। OVERT (arXiv:2505.21347, ICML 2025) ਲਿਖਤ-ਤੋਂ-ਚਿੱਤਰ ਮਾਡਲਾਂ ਲਈ ਹੱਦੋਂ ਵੱਧ ਇਨਕਾਰ ਦਾ ਪਹਿਲਾ ਵੱਡੇ ਪੈਮਾਨੇ ਦਾ ਬੈਂਚਮਾਰਕ ਹੈ: ਨੌਂ ਸੁਰੱਖਿਆ ਸ਼੍ਰੇਣੀਆਂ ਵਿੱਚ 4,600 ਵੇਖਣ ਨੂੰ ਨੁਕਸਾਨਦੇਹ ਪਰ ਅਸਲ ਵਿੱਚ ਨਿਰਦੋਸ਼ ਪ੍ਰੌਂਪਟ, ਨਾਲ ਹੀ ਕੰਟਰੋਲ ਵਜੋਂ 1,785 ਸੱਚਮੁੱਚ ਨੁਕਸਾਨਦੇਹ ਪ੍ਰੌਂਪਟ। ਇਸਦੇ ਲੇਖਕ ਦੱਸਦੇ ਹਨ ਕਿ ਮੋਹਰੀ ਮਾਡਲਾਂ ਵਿੱਚ ਹੱਦੋਂ ਵੱਧ ਇਨਕਾਰ ਆਮ ਹੈ। ਇੱਕ ਵੱਖਰੀ ECCV 2024 ਖੋਜ ਨੇ ਕਲਾਤਮਕ ਨਗਨਤਾ ਉੱਤੇ ਪਰਖੇ ਤਿੰਨ NSFW ਵਰਗੀਕਾਰਾਂ ਵਿੱਚ ਲਿੰਗ ਅਤੇ ਸ਼ੈਲੀ ਦਾ ਪੱਖਪਾਤ ਲੱਭਿਆ।
ਬਿਨਾਂ ਸੈਂਸਰ AI ਚਿੱਤਰ ਜਨਰੇਟਰ ਅਸਲ ਵਿੱਚ ਕੀ ਬਦਲਦਾ ਹੈ?
ਇਹ ਜਨਰੇਸ਼ਨ ਰਾਹ ਤੋਂ ਇਨਕਾਰ ਪਰਤ ਅਤੇ ਸਮੱਗਰੀ ਫਿਲਟਰ ਹਟਾ ਦਿੰਦਾ ਹੈ, ਤਾਂ ਜੋ ਜਾਇਜ਼ ਬੇਨਤੀ ਨੂੰ ਚੁੱਪ-ਚਾਪ ਹਮਲੇ ਵਜੋਂ ਮੁੜ-ਵਰਗੀਕ੍ਰਿਤ ਨਾ ਕੀਤਾ ਜਾਵੇ। ਇਹ ਸੂਝ-ਬੂਝ ਹਟਾਉਂਦਾ ਨਹੀਂ — ਇਸਨੂੰ ਥਾਂ ਬਦਲ ਦਿੰਦਾ ਹੈ। ਕੁਝ ਵੀ ਰੈਂਡਰ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ Shannon ਤੁਹਾਨੂੰ ਪੁਸ਼ਟੀ ਕਾਰਡ ਉੱਤੇ ਹੂ-ਬ-ਹੂ ਜਨਰੇਸ਼ਨ ਪ੍ਰੌਂਪਟ ਦਿਖਾਉਂਦਾ ਹੈ, ਤਾਂ ਜੋ ਫ਼ੈਸਲਾ ਉਹ ਵਿਅਕਤੀ ਲਵੇ ਜੋ ਵੇਖ ਸਕਦਾ ਹੈ ਕਿ ਕੀ ਬਣੇਗਾ, ਜ਼ਿੰਮੇਵਾਰ ਵਰਤੋਂ ਨੀਤੀ ਦੇ ਤਹਿਤ।
ਕੀ Shannon ਵੀਡੀਓ ਬਣਾਉਂਦਾ ਹੈ?
ਨਹੀਂ। Shannon ਨਵੇਂ ਚਿੱਤਰ ਬਣਾਉਂਦਾ ਹੈ, ਇੱਕ ਮੌਜੂਦਾ ਚਿੱਤਰ ਸੰਪਾਦਿਤ ਕਰਦਾ ਹੈ, ਅਤੇ ਦੋ ਜਾਂ ਵੱਧ ਚਿੱਤਰਾਂ ਨੂੰ ਇੱਕ ਵਿੱਚ ਜੋੜਦਾ ਹੈ। ਇਹ ਚਿੱਤਰਾਂ ਨੂੰ ਹਿਲਦਾ ਨਹੀਂ ਬਣਾਉਂਦਾ ਅਤੇ ਕਿਸੇ ਵੀ ਕਿਸਮ ਦੀ ਵੀਡੀਓ ਨਹੀਂ ਬਣਾਉਂਦਾ।
ਕੀ ਮੈਂ Shannon API ਰਾਹੀਂ ਚਿੱਤਰ ਬਣਾ ਸਕਦਾ ਹਾਂ?
ਨਹੀਂ। ਚਿੱਤਰ ਬਣਾਉਣਾ, ਸੰਪਾਦਨ ਅਤੇ ਰਚਨਾ Shannon ਚੈਟ ਐਪ ਵਿੱਚ ਰਹਿੰਦੇ ਹਨ। /v1 API ਲਿਖਤ ਅਤੇ ਵਿਜ਼ਨ ਦੀ ਸੇਵਾ ਦਿੰਦਾ ਹੈ — ਤੁਹਾਡੇ ਦਿੱਤੇ ਚਿੱਤਰ ਪੜ੍ਹਨਾ ਅਤੇ ਵਿਸ਼ਲੇਸ਼ਣ ਕਰਨਾ — ਚਿੱਤਰ ਜਨਰੇਸ਼ਨ ਨਹੀਂ।
ਜੇ ਕੋਈ ਫਿਲਟਰ ਹੀ ਨਹੀਂ, ਤਾਂ ਦੁਰਵਰਤੋਂ ਕੌਣ ਰੋਕੇਗਾ?
ਸ਼ਬਦਾਂ ਦੀ ਪਾਬੰਦੀ-ਸੂਚੀ ਦੀ ਥਾਂ ਨੀਤੀ, ਜਵਾਬਦੇਹੀ ਅਤੇ ਇੱਕ ਦਿਖਾਈ ਦੇਣ ਵਾਲਾ ਫ਼ੈਸਲੇ ਦਾ ਪਲ। Shannon ਕਦੇ ਬਿਨਾਂ ਪੁੱਛੇ ਚਿੱਤਰ ਨਹੀਂ ਬਣਾਉਂਦਾ, ਰੈਂਡਰ ਤੋਂ ਪਹਿਲਾਂ ਪੂਰਾ ਪ੍ਰੌਂਪਟ ਦਿਖਾਉਂਦਾ ਹੈ, ਤੁਹਾਡੀ ਪੁਸ਼ਟੀ ਤੋਂ ਪਹਿਲਾਂ ਕੋਈ ਬਿਲ ਨਹੀਂ ਬਣਾਉਂਦਾ, ਅਤੇ ਇੱਕ ਪ੍ਰਕਾਸ਼ਿਤ ਜ਼ਿੰਮੇਵਾਰ ਵਰਤੋਂ ਨੀਤੀ ਦੇ ਤਹਿਤ ਚੱਲਦਾ ਹੈ ਜੋ ਨਾਬਾਲਗ਼ਾਂ ਨਾਲ ਜੁੜੀ ਜਿਨਸੀ ਸਮੱਗਰੀ, ਅਸਲ ਲੋਕਾਂ ਦੀਆਂ ਬਿਨਾਂ ਸਹਿਮਤੀ ਨਿੱਜੀ ਤਸਵੀਰਾਂ, ਨਿਸ਼ਾਨਾ ਬਣਾ ਕੇ ਪਰੇਸ਼ਾਨ ਕਰਨ, ਅਤੇ ਪਛਾਣ ਜਾਂ ਵਿੱਤੀ ਦਸਤਾਵੇਜ਼ਾਂ ਦੀ ਜਾਅਲਸਾਜ਼ੀ ਦੀ ਮਨਾਹੀ ਕਰਦੀ ਹੈ।
ਉਹੀ ਚਿੱਤਰ ਮੰਗੋ ਜਿਸਦੀ ਤੁਹਾਨੂੰ ਸੱਚਮੁੱਚ ਲੋੜ ਹੈ
ਚੈਟ ਐਪ ਵਿੱਚ ਜਨਰੇਸ਼ਨ, ਇੱਕ-ਚਿੱਤਰ ਸੰਪਾਦਨ ਅਤੇ ਬਹੁ-ਚਿੱਤਰ ਰਚਨਾ — ਕੋਈ ਸਮੱਗਰੀ ਫਿਲਟਰ ਨਹੀਂ, ਕੋਈ ਇਨਕਾਰ ਪਰਤ ਨਹੀਂ, ਅਤੇ ਕੁਝ ਵੀ ਰੈਂਡਰ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਪ੍ਰੌਂਪਟ ਸਕ੍ਰੀਨ ਉੱਤੇ।
ਚੈਟ ਸ਼ੁਰੂ ਕਰੋ ਜ਼ਿੰਮੇਵਾਰ ਵਰਤੋਂ ਨੀਤੀਚੈਟ ਐਪ ਵਿੱਚ ਚਿੱਤਰ · ਕੋਈ ਵੀਡੀਓ ਜਨਰੇਸ਼ਨ ਨਹੀਂ · ਹੋਰ ਖੋਜ
ਸਰੋਤ: Cheng, Huang, Xu, Sojoudi, Zhao, Song & Mei — OVERT (arXiv:2505.21347, ICML 2025) · Riccio, Curto, Hofmann & Oliver — An Art-centric perspective on AI-based content moderation of nudity (arXiv:2409.17156, AI4VA @ ECCV 2024) · Debbie Nathan, The Intercept, 22 ਅਪ੍ਰੈਲ 2023 · PetaPixel, 3 ਅਪ੍ਰੈਲ 2023 · CNBC, 22 ਫਰਵਰੀ 2024। Shannon AI ਨੂੰ Shannon Lab LLC, New Mexico, USA ਚਲਾਉਂਦੀ ਹੈ।