دفتر دادستان شهر سان فرانسیسکو از ۱۶ وبسایت که بهطور گسترده توسط هوش مصنوعی برای «برهنهسازی» تصاویر افراد استفاده میشوند، شکایت کرده است. این وبسایتها که بهطور خاص برای ایجاد تصاویر جعلی و برهنه از زنان و دختران بدون رضایت آنها به کار میروند، در شکایت مطرح شدهاند. این پرونده که توسط دادستان شهر، دیوید چییو، در یک کنفرانس مطبوعاتی اعلام شده، نشان میدهد که این وبسایتها تنها در شش ماه اول سال ۲۰۲۴ بیش از ۲۰۰ میلیون بازدید داشتهاند.
وبسایتهای مورد نظر به کاربران اجازه میدهند تا تصاویر واقعی افراد کاملاً پوشیده را آپلود کنند و سپس این تصاویر با استفاده از ابزارهای هوش مصنوعی بهصورت دیجیتالی «برهنه» شوند و شبیه به تصاویر برهنه نمایش داده شوند. یکی از این وبسایتها، که در شکایت نامش ذکر نشده، تبلیغ میکند: «تصور کنید که بهجای اینکه وقت خود را برای بردن او به قرار ملاقاتها تلف کنید، میتوانید از [نام سایت حذف شده] استفاده کنید تا تصاویر برهنهاش را بهدست آورید!»
اپراتورهای این وبسایتها به نقض قوانین ایالتی و فدرال متهم شدهاند که شامل ممنوعیت پور…نوگرافی انتقامی، پور…نوگرافی جعلی و پور…نوگرافی کودکان است. همچنین، این وبسایتها طبق قانون رقابت ناعادلانه کالیفرنیا مورد تعقیب قرار گرفتهاند، زیرا «زیانی که به مصرفکنندگان وارد میکنند، بسیار بیشتر از هرگونه فایدهای است که از این فعالیتها به دست میآید». این پرونده بهدنبال جریمههای مدنی، از کار انداختن وبسایتها و جلوگیری دائم از ایجاد پور…نوگرافی جعلی در آینده است.
این شکایت در میان افزایش توجهها به ایجاد و انتشار تصاویر برهنه بدون رضایت، که عمدتاً با پیشرفتهای هوش مصنوعی تولید میشوند، مطرح شده. این موضوع منجر به افزایش گزارشهای مربوط به «اخاذی جنسی» شده است. افراد مشهوری مانند تیلور سوییفت نیز قربانی تصاویر جعلی جنسی شدهاند و دانشآموزانی در سراسر کشور به دلیل انتشار تصاویر برهنه همکلاسیهای خود که با هوش مصنوعی ایجاد شدهاند، اخراج یا دستگیر شدهاند.
چییو در پلتفرم ایکس (X) گفت: «این تحقیق ما را به تاریکترین گوشههای اینترنت برد و من بهشدت نگران زنانی هستم که مجبور به تحمل این استثمار شدهاند.» او افزود: «این یک مشکل بزرگ و چندجانبه است که باید بهعنوان یک جامعه، هرچه سریعتر آن را حل کنیم.»