JurnalLugas.Com – Perkembangan kecerdasan buatan (Artificial Intelligence/AI) yang melesat dalam beberapa tahun terakhir menghadirkan peluang besar bagi berbagai sektor kehidupan.
Namun di balik manfaat tersebut, muncul ancaman baru yang dinilai semakin mengkhawatirkan, yakni penyalahgunaan teknologi AI untuk menciptakan konten palsu yang sulit dibedakan dari kenyataan.
Fenomena ini menjadi sorotan dalam Indonesia Ethical AI Summit yang digelar di Jakarta. Wakil Menteri Komunikasi dan Digital, Nezar Patria, menegaskan bahwa teknologi deepfake kini berkembang semakin presisi dan berpotensi memperbesar risiko kejahatan digital, terutama penipuan yang menyasar masyarakat luas.
Menurutnya, kemampuan AI saat ini tidak hanya menghasilkan teks atau gambar, tetapi juga mampu mereplikasi suara, ekspresi wajah, hingga gerak tubuh seseorang dengan tingkat kemiripan yang sangat tinggi.
“Sekarang identitas visual maupun suara seseorang dapat direkayasa secara sangat halus melalui AI. Inilah yang membuat masyarakat semakin sulit membedakan mana yang asli dan mana yang manipulasi,” ujar Nezar.
Deepfake Dorong Munculnya Realitas Sintetik
Kemajuan teknologi tersebut melahirkan fenomena yang dikenal sebagai synthetic reality atau realitas sintetik. Dalam konsep ini, berbagai konten digital hasil rekayasa dapat tampil begitu meyakinkan sehingga terlihat seperti kejadian nyata.
Kondisi tersebut membuka peluang bagi pelaku kejahatan siber untuk memanfaatkan AI sebagai alat penipuan. Modus yang berkembang tidak lagi sebatas pesan palsu atau tautan berbahaya, tetapi sudah menggunakan video dan suara yang menyerupai tokoh tertentu untuk memperoleh kepercayaan korban.
Nezar menilai rendahnya pemahaman masyarakat mengenai perkembangan AI menjadi faktor yang memperbesar risiko tersebut. Banyak pengguna internet belum memiliki kemampuan memadai untuk mengenali tanda-tanda manipulasi digital yang dibuat menggunakan teknologi mutakhir.
“Literasi AI harus ditingkatkan karena masyarakat sering kali menjadi sasaran empuk berbagai bentuk penipuan digital yang memanfaatkan teknologi terbaru,” katanya.
Era AI Otonom Membutuhkan Pengawasan Manusia
Selain menyoroti deepfake, Nezar juga mengingatkan bahwa perkembangan AI kini bergerak menuju tahap yang lebih kompleks, yaitu agentic AI atau kecerdasan buatan otonom.
Berbeda dengan AI generatif yang hanya menghasilkan konten berdasarkan perintah pengguna, AI otonom memiliki kemampuan melakukan penalaran, mengambil keputusan, dan menjalankan tugas tertentu secara mandiri.
Perkembangan ini dinilai menjanjikan efisiensi yang tinggi, namun sekaligus memunculkan pertanyaan etis terkait batas kewenangan mesin dalam mengambil keputusan yang berdampak pada manusia.
Karena itu, sejumlah pakar teknologi mendorong penerapan prinsip human in the loop, yakni mekanisme yang memastikan manusia tetap memiliki kendali dan pengawasan dalam proses pengambilan keputusan penting.
“Keputusan yang memiliki konsekuensi besar harus tetap berada dalam pengawasan manusia melalui protokol yang ketat,” jelas Nezar.
Etika AI Harus Diterapkan Sejak Tahap Perancangan
Pemerintah juga menilai pendekatan etika dalam pengembangan AI tidak cukup hanya berbentuk komitmen sukarela. Prinsip-prinsip dasar seperti transparansi, akuntabilitas, keamanan, dan perlindungan pengguna harus diterapkan sejak awal proses pengembangan teknologi.
Konsep ethics by design atau etika sejak tahap perancangan dianggap menjadi fondasi penting agar inovasi AI dapat berkembang tanpa mengabaikan aspek perlindungan publik.
Nezar mendorong kolaborasi yang lebih kuat antara pengembang teknologi, pelaku industri, akademisi, regulator, serta komunitas pengguna untuk membangun tata kelola AI yang bertanggung jawab.
Menurutnya, mitigasi risiko tidak boleh dilakukan setelah teknologi diluncurkan, melainkan harus menjadi bagian dari proses pengembangan sejak awal agar dampak negatif dapat diminimalkan.
Dengan pesatnya transformasi digital yang tengah berlangsung, peningkatan literasi masyarakat dan penguatan tata kelola AI menjadi langkah penting untuk memastikan teknologi tersebut tetap memberikan manfaat tanpa membuka ruang lebih besar bagi kejahatan siber dan manipulasi informasi.
Sumber berita dan informasi menarik lainnya dapat dibaca di JurnalLugas.Com.
(Catur)
