Jakarta, CNBC Indonesia - WhatsApp tengah mengembangkan fitur baru bernama Scam Alert yang dirancang untuk mendeteksi pesan mencurigakan dari nomor atau kontak yang tidak dikenal. Jadi sebuah pesan ditandai sebagai dugaan penipuan, pengirim tidak akan mengetahui bahwa chat tersebut mendapat peringatan.
Fitur ini kini mulai tersedia secara terbatas bagi pengguna WhatsApp beta untuk Android. Berdasarkan laporan WebetaInfo, Scam Alert hadir pada WhatsApp beta Android versi 2.26.34.1 yang tersedia melalui Google Play Store.
Scam Alert akan memantau pesan masuk dari kontak yang tidak dikenal. WhatsApp menggunakan model kecerdasan buatan (AI) yang berjalan langsung di perangkat atau on-device model untuk menganalisis pesan dan mencocokkannya dengan pola penipuan yang telah dikenali.
Jika sistem mendeteksi aktivitas mencurigakan, WhatsApp akan menampilkan peringatan "This may be a scam" atau "Ini mungkin penipuan" di dalam chat.
Peringatan tersebut hanya dapat dilihat oleh penerima. Artinya, pengirim tidak akan mengetahui bahwa pesannya telah ditandai sebagai dugaan penipuan.
WhatsApp kemudian memberikan beberapa pilihan kepada pengguna. Mereka dapat memblokir dan melaporkan kontak tersebut atau menandai percakapan sebagai tepercaya untuk menghapus peringatan dan meminta Scam Alert tidak menandai kontak itu lagi.
Fitur Scam Alert bersifat opsional dan secara bawaan dinonaktifkan. Pengguna yang menjadi penguji beta dapat mengaktifkannya melalui halaman akun WhatsApp dan dapat menonaktifkannya kembali kapan saja.
WhatsApp merancang Scam Alert dengan mempertimbangkan privasi percakapan. Menurut WebetaInfo, sistem ini menggunakan model machine learning yang berjalan langsung di perangkat pengguna.
Ketika pesan dari kontak yang tidak dikenal masuk, model tersebut menganalisis isi pesan secara lokal untuk menentukan apakah terdapat pola yang menyerupai penipuan. Dalam proses tersebut, pesan tidak dikirim ke WhatsApp, Meta, maupun server eksternal untuk dianalisis.
Meta melatih model tersebut menggunakan pola yang ditemukan dalam percakapan penipuan berdasarkan laporan yang dikirim pengguna secara manual kepada WhatsApp.
Perusahaan juga menerapkan sejumlah mekanisme untuk mencegah model Scam Alert digunakan secara berbeda terhadap pengguna tertentu.
Meta juga memperluas program Bug Bounty untuk Scam Alert. Langkah ini memungkinkan peneliti keamanan eksternal menguji sistem guna memastikan model hanya mendeteksi pola penipuan dan tidak digunakan untuk menganalisis hal lain.
(dem/dem)
[Gambas:Video CNBC]
