Apple Menghapus Aplikasi Pembuat Gambar AI Pornografi dari App Store Ketahui Tentang Aturan Baru Ini

Daftar Isi

Apple telah menghapus setidaknya tiga aplikasi pembuat gambar telanjang AI yang menawarkan layanan seperti pertukaran wajah atau 'melepaskan pakaian' di mana AI digunakan untuk menghilangkan pakaian pada gambar orang.

Apple akhirnya mengambil tindakan tegas terhadap aplikasi yang mengklaim menggunakan teknologi AI untuk menghasilkan gambar telanjang orang yang belum memberikan persetujuannya. Apple telah menghapus setidaknya tiga aplikasi pembuat gambar telanjang AI yang menawarkan layanan seperti pertukaran wajah atau 'melepaskan pakaian' di mana AI digunakan untuk menghilangkan pakaian pada gambar orang. Aplikasi deepfake ini mendapatkan popularitas melalui iklan Instagram. Meskipun Meta dengan cepat menghapus iklan yang mengarahkan pengguna untuk mengunduh aplikasi semacam itu, Apple memerlukan waktu beberapa saat untuk merespons. Baru setelah laporan dari 404 Media barulah Apple mengambil tindakan.

Apa yang dinyatakan dalam pedoman baru Apple tentang aplikasi AI

Sesuai pedoman peninjauan aplikasi Apple, perusahaan dengan jelas menyatakan bahwa tidak ada aplikasi yang mempromosikan pornografi atau penindasan dalam bentuk apa pun yang diizinkan. Pedoman tersebut berbunyi, “Aplikasi tidak boleh menyertakan konten yang menyinggung, tidak sensitif, menjengkelkan, dimaksudkan untuk membuat jijik, dengan selera yang sangat buruk, atau sekadar menyeramkan. Aplikasi dengan konten atau layanan buatan pengguna yang pada akhirnya digunakan terutama untuk konten pornografi, pengalaman bergaya Chatroulette, objektifikasi terhadap orang sungguhan (misalnya pemungutan suara “panas atau tidak”), membuat ancaman fisik, atau intimidasi tidak termasuk dalam App Store dan dapat dihapus tanpa pemberitahuan.”

Investigasi menemukan lima iklan serupa di Perpustakaan Iklan Meta. Tiga dari iklan ini secara khusus mempromosikan aplikasi yang tersedia di App Store. Aplikasi ini menawarkan fitur seperti menyisipkan wajah ke tubuh telanjang atau melepas pakaian secara digital di foto menggunakan AI. Insiden ini menyoroti kekhawatiran yang sedang berlangsung mengenai aplikasi bertenaga AI yang menciptakan deepfake di App Store.

'Gugatan New York Times vs OpenAI' untuk menentukan masa depan konten yang dihasilkan AI

Baru-baru ini, terjadi kekhawatiran tentang deepfake yang dibuat dengan aplikasi AI. Deepfakes semakin menjadi perhatian utama, dengan banyak orang yang menjadi korban foto dan video yang diedit atau dimanipulasi untuk membuat orang mengatakan atau melakukan sesuatu yang tidak mereka lakukan di kehidupan nyata. Pertarungan hukum yang sedang berlangsung antara New York Times dan OpenAI mengenai masalah hak cipta bahwa hasil dari pertarungan hukum ini akan “menentukan penggunaan AI dalam pembuatan konten”.