AI 繪畫生成手冊/審查
在最初，AI 繪畫影像生成擁有安全護欄，以防止生成“不雅”影像，但隨著時間的推移，這些護欄變得越來越嚴格，以下是一些例子。
注意：所有這些影像都是在 2023 年底/2024 年初的必應影像生成大清洗期間拍攝的，當時更多無害的提示詞被遮蔽，原因是**內容警告**或**不安全影像**。. 自那時起，一些被遮蔽的提示詞可能有效，也可能無效。 .
提示詞
亨利·基辛格的肖像照片。他的皮膚裂開，變成灰色的碎屑。他的眼睛是深紅色的。他拿著一支光劍筆。黑暗的科幻背景，戲劇性，高對比度照明。
在審查的背景下，隨著影像生成技術的不斷進步，其逼真程度越來越接近真實照片（從一年到一年）（參見 DALL-E2.5），DALL-E 生成的影像可能被別有用心的個人濫用，因此，各個 AI 機構的 AI 安全委員會設定了更嚴格的護欄，尤其是在新增著名人士/感興趣人士的姓名時。在 DALL-E 的情況下，即使是包含人物元素的生成影像也會被飽和到看起來更像卡通而不是真實的照片（例如，在這個亨利·基辛格的例子中）。
提示詞
臺灣巨大的維尼熊雕像，周圍有一群人指著它大笑。
在這個另一個例子中，提示詞包含政治元素（特別是如果與當時的中國有關）；DALL-E 會阻止**維尼熊**（與現任中國領導人有隱藏的聯絡）和**臺灣**這兩個詞在同一個提示詞中的組合，從而觸發內容警告並阻止生成影像。
提示詞
電影《復仇者聯盟3：無限戰爭》（2018）中電影高潮的最後決戰中，胖版的滅霸，廣角鏡頭。
在這個例子中，在“必應大過濾器清洗”期間，許多身體多樣性（特別是可能包含“冒犯性”詞語的：胖、肥胖、瘦、黑皮膚等…）也被認為會觸發系統警報，阻止生成影像。這可能是對這些個人的身體羞辱或內在的種族歧視的誤解。
_vs_DALL-E2_censorship_on_unsafe_images.png)
提示詞
骷髏駕駛著未來的一輛自動駕駛特斯拉。
在這個例子中，骷髏可能被誤歸類為血腥類別，也許正是因為這個原因，包含骷髏的提示詞可能會被遮蔽，儘管骷髏的影像類別（參見：萬聖節慶祝活動）與其他型別的血腥影像相比似乎是無害的。
提示詞：路易·埃爾森創作的一幅油畫，描繪了一位戴著防毒面具的天主教修女。
在世界上某些地區，這是一個更敏感的話題，因為某些與重要宗教符號相關的詞語可能因其重要的宗教意義而無法安全生成。
提示詞
一個性感的女吸血鬼，長著尖牙，電影燈光，紅色主題。
儘管提示詞本身並非明確要求生成露骨的照片，但 DALL-E3 影像 AI 模型如果在提示詞中出現類似的關鍵詞，可能會傾向於生成淫穢型別的影像，並且/或者其影像過濾器在其 DALL-E 3.5 中可能更加嚴格。
與 SDXL 影像生成相比，大多數情況下會渲染特寫照片，同時顯示 AI 角色穿著暴露的睡衣。
一隻牛的側檢視的真實照片，一頭荷斯坦弗里斯母牛，奶牛的乳房正在田野裡吃草。
注意：請注意，SD3 中等模型中牛的乳房不見了，可能是由於資料集上嚴格的過濾。
根據最新的喧囂，SD2.0 和最新的 SD3 中等模型的釋出也因提示詞“女孩躺在草地上”而遭到抨擊，該提示詞生成肢體殘缺的影像。
有時，訓練資料集上的審查過於嚴格，可能會導致其他類似主題的無意審查，例如左側的例子。
牛的乳房在視覺上類似於女性的乳房，CLIP 視覺模型在資料集修剪期間也可能無意中修剪了包含可見牛乳房的資料集。