Jakarta, CNBC Indonesia - Penyebaran dan penggunaan deepfake makin meningkat. Anak-anak menjadi korban dari penyalahgunaan teknologi tersebut.
Hasil investigasi UNICEF di 11 negara mengungkapkan 1,2 juta anak menjadi korban teknologi tersebut dengan gambar mereka dimanipulasi menjadi eksplisit seksual.
Beberapa negara yang masuk dalam penelitian adalah Armenia, Brasil, Kolombia, Republik Dominika, Meksiko, Montenegro, Maroko, Makedonia Utara, Pakistan, Serbia, dan Tunisia.
Pihak UNICEF juga mengingatkan soal bahaya korban dari kalangan anak muda akibat deepfake. Lembaga itu juga menegaskan gambar seksual dari penggunaan alaty AI juga termasuk pelecehan seksual.
"Gambar-gambar seksual anak yang dihasilkan atau dimanipulasi dengan alat AI merupakan materi pelecehan seksual anak," kata UNICEF dikutip dari AFP, Kamis (5/2/2026).
"Pelecehan deepfake merupakan pelecehan, dan tidak ada yang palsu dari bahaya yang ditimbulkan," ujar lembaga itu menambahkan.
UNICEF juga mengkritik pengembang AI yang menciptakan alat tanpa pengamanan yang berarti. Termasuk menyoroti risiko dari alat AI generatif yang berada dalam platform media sosial.
Hal ini juga merujuk pada Grok, chatbot AI milik Elon Musk yang dapat digunakan di media sosial X. Chatbot itu mendapat banyak kritikan setelah menghasilkan banyak gambar asusila anak-anak dan perempuan tanpa izin dengan teks permintaan dari pengguna.
Sementara itu, studi UNICEF juga mengungkapkan anak-anak makin sadar soal keberadaan deepfake. Bahkan mereka khawatir alat AI itu bisa membuat gambar atau video seksual palsu.
"Di sejumlah negara yang diteliti, hingga dua pertiga anak mengatakan mereka khawatir AI bisa digunakan untuk membuat gambar atau video seksual palsu. Tingkat kekhawatirannya bervariasi antar negara, menekankan kebutuhan mendesak peningkatan kesadaran, pencegahan, dan langkah perlindungan," jelas UNICEF.
UNICEF mendesak keamanan untuk AI. Mulai dari adanya pengamanan untuk chatbot AI hingga langkah perusahaan mencegah penyebaran deepfake.
Selain itu juga meminta adanya aturan di tiap negara untuk memperluas definisi materi pelecehan seksual anak. Yakni memasukkan soal citra yang dihasilkan dari AI.
(fab/fab)
[Gambas:Video CNBC]
