JurnalLugas.Com – Apple memperketat kebijakan moderasi di App Store untuk mencegah penyalahgunaan kecerdasan buatan (AI) dalam pembuatan gambar telanjang maupun manipulasi foto biasa menjadi konten seksual eksplisit tanpa persetujuan orang yang bersangkutan.
Kebijakan ini tidak hanya menyasar aplikasi yang secara khusus dirancang untuk menghasilkan gambar seksual. Apple juga mewajibkan pengembang memperkuat pengawasan terhadap konten yang dibuat atau diunggah pengguna melalui layanan mereka.
Langkah tersebut menempatkan tanggung jawab lebih besar pada pengembang untuk mencegah penyebaran gambar intim hasil rekayasa AI yang dibuat tanpa persetujuan pihak terkait.
Dalam aturan yang diperketat, pengembang aplikasi dengan konten buatan pengguna harus menyediakan mekanisme penyaringan untuk mendeteksi dan mencegah beredarnya gambar seksual yang tidak pantas. Ketentuan ini mencakup konten yang dihasilkan menggunakan perangkat kecerdasan buatan.
Pengembang juga wajib menyediakan fitur pelaporan agar pengguna dapat melaporkan konten bermasalah. Selain itu, mereka harus memiliki mekanisme untuk memblokir akun yang menyalahgunakan layanan serta segera menghapus konten yang lolos dari sistem penyaringan.
Persyaratan tersebut membuat moderasi tidak cukup hanya mengandalkan larangan dalam ketentuan penggunaan. Pengembang dituntut menyiapkan sistem pengamanan dan menindak pelanggaran ketika ditemukan.
Aplikasi Bisa Dihapus dari App Store
Apple menegaskan bahwa kegagalan pengembang dalam menerapkan perlindungan yang memadai dapat berujung pada penghapusan aplikasi dari App Store. Risiko serupa berlaku bagi pengembang yang tidak menindak pelanggaran setelah menerima peringatan.
Kebijakan ini memperluas perhatian terhadap tanggung jawab platform dalam mengendalikan penyalahgunaan teknologi AI. Manipulasi foto dapat menimbulkan persoalan serius ketika wajah atau identitas seseorang digunakan untuk menghasilkan gambar seksual tanpa izin.
Selain memperketat moderasi konten, Apple juga menyoroti praktik bait-and-switch, yakni ketika aplikasi menampilkan tujuan atau fungsi tertentu, tetapi ternyata menyembunyikan fitur lain yang berbeda dari penjelasan awal.
Jika dalam proses peninjauan ditemukan aplikasi yang menyamarkan fungsi sebenarnya dan diam-diam menyediakan fitur untuk merekayasa foto menjadi gambar telanjang, Apple dapat menghapus aplikasi tersebut dari platform.
Sanksinya tidak berhenti pada pencabutan aplikasi. Pengembang yang terbukti melakukan pelanggaran tersebut juga dapat dikeluarkan secara permanen dari Apple Developer Program.
Ketentuan ini memperlihatkan bahwa Apple tidak hanya menargetkan aplikasi pembuat konten seksual secara terang-terangan, tetapi juga aplikasi yang menggunakan fungsi tersembunyi untuk menghindari pengawasan.
Dengan pengawasan yang lebih ketat, pengembang dituntut menjelaskan fungsi aplikasi secara jujur sekaligus memastikan layanan mereka tidak menjadi sarana penyebaran gambar intim hasil manipulasi tanpa persetujuan.
Baca berita lainnya di JurnalLugas.Com
(Tirta me)
