==היבטים אתיים ומשפטיים==
[[קובץ:Ai animation.jpg|ממוזער|שמאל|250px|דוגמה לתמונה פורנוגרפית שנוצרה באמצעות AI על בסיס סרט אנימציה.]]
השימוש בבינה מלאכותית ליצירת תכנים פורנוגרפיים של אנשים ללא הסכמתם מהווה פגיעה חמורה בפרטיות ובזכויות האישיות. דמויות ציבוריות ואנשים פרטיים כאחד עלולים למצוא את עצמם מככבים בתכנים שאינם מודעים אליהם או מסכימים להם.
==חוק ורגולציה==
[[קובץ:Ai animation.jpg|ממוזער|שמאל|250px|דוגמה לתמונה פורנוגרפית שנוצרה באמצעות AI על בסיס סרט אנימציה.]]
מדינות רבות נאבקות להתאים את החקיקה להתפתחויות הטכנולוגיות. חלקן חוקקו חוקים המגנים על אזרחים מפני שימוש לרעה בטכנולוגיות AI ליצירת תכנים פורנוגרפיים ללא הסכמה. בישראל, חל איסור להציג תמונות תועבה של [[קטין|קטינים]], גם אם הם יוצרו על ידי AI. עם זאת, הקושי באכיפה ובמעקב אחר התכנים המקוונים מקשה על התמודדות אפקטיבית עם התופעה, בפרט כאשר נעשה שימוש באפליקציות לשיתוף חד-פעמי של תמונות וסרטונים.