Polisi Sebut Pelaku Ai Deepfake Catut Nama Prabowo, Gibran, Hingga Sri Mulyani Untuk Penipuan

detikai.com, Jakarta - Polisi menangkap tersangka berinisial AMA (29) mengenai kasus penipuan bermodus teknologi Artificial Intelligence alias AI Deepfake namalain penyerupa wajah hingga bunyi melalui platform media sosial.

Dalam menjalankan aksinya, pelaku mencatut sosok Presiden Prabowo Subianto, Wakil Presiden alias Wapres Gibran Rakabuming Raka, hingga Menteri Keuangan (Menkeu) Sri Mulyani untuk mengelabui korban.

Dirtipidsiber Bareskrim Polri Brigjen Himawan Bayu Aji menyampaikan, penangkapan AMA dilakukan pada 16 Januari 2025 di Dusun 1, Kecamatan Bungi Nabung, Lampung Tengah, Provinsi Lampung. Pelaku berprofesi sebagai wiraswasta.

"Modus operandi tersangka ialah mengunggah dan menyebarluaskan video di beragam platform media sosial menggunakan teknologi deepfake, memanfaatkan foto dan bunyi seperti Bapak Presiden Prabowo Subianto, Wakil Presiden Gibran Rakabuming Raka, Ibu Sri Mulyani, dan pejabat negara lainnya, nan terlihat seolah-olah menyampaikan pernyataan bahwa pemerintah menawarkan support kepada masyarakat nan membutuhkan," ujar Himawan di Mabes Polri, Jakarta Selatan, Kamis (23/1/2025).

Menurutnya, tersangka mencantumkan nomor WA dalam video nan diunggahnya di sosial media agar masyarakat nan memandang dan tertarik, dapat langsung menghubungi kontak tersebut.

Setelahnya, lanjut Himawan, korban bakal diarahkan untuk mengisi pendaftaran penerima support dan diminta mentransfer sejumlah uang.

"Dengan argumen biaya administrasi, korban alias masyarakat nan telah bayar biaya manajemen dijanjikan pencairan biaya oleh tersangka, sehingga korban percaya untuk kembali mentransfer sejumlah duit nan sebenarnya biaya support tersebut tidak pernah ada," ucap dia.

Dilansir dari Forbes, berita Apple bakal meluncurkan iOS 18 dengan AI semakin kuat. Fitur AI ini bakal diproses seluruhnya secara lokal, dalam ponsel itu sendiri

Menurut Himawan, interogator mendalami peralatan bukti nan telah diamankan, seperti video nan digunakan pelaku untuk melakukan penipuan.

Hasil laboratorium forensik pun, kata dia, menyatakan seluruhnya 100 persen tiruan namalain menggunakan AI Deepfake.

"Tersangka mengakui telah melakukan aktivitas penipuan tersebut sejak tahun 2020 dengan konten-konten nan disebarkan berupa video Deepfake pejabat negara dan sejumlah publik figur ternama di Indonesia, dengan total untung nan diterima kurang lebih sebesar Rp30 juta selama 4 bulan terakhir," ucap Himawan.

Adapun, lanjut dia, peran tersangka AMA ialah mengunggah video AI Deepfake ke sosial media dengan menambahkan keterangan dan nomor telepon. Kini, kata Himawan, tetap ada satu tersangka lain inisial FA nan membantu AMA dalam melancarkan aksinya dan tetap dalam pengejaran namalain buron.

"Sejauh ini, interogator mencatat ada 11 korban dalam peristiwa itu nan berasal dari beragam wilayah, seperti Jawa Tengah, Jawa Timur, Sumatera Selatan, Sumatera Tenggara, dan Sulawesi Tengah. (FA) nan bekerja menyiapkan video deepfake alias nan mengedit tersebut," papar Himawan.

Atas perbuatannya, tersangka AMA dijerat dengan Undang-Undang Informasi dan Transaksi Elektronik (ITE) dan alias Penipuan, Pasal 51 ayat 1 Juncto 35 Undang-Undang Nomor 1 Tahun 2024, tentang perubahan kedua atas Undang-Undang Nomor 11 Tahun 2008 tentang ITE, dengan ancaman pidana penjara paling lama 12 tahun dan alias denda paling banyak Rp12 miliar.

Serta pasal 378 KUHP mengenai upaya menguntungkan diri sendiri alias orang lain secara melawan norma dengan memakai nama tiruan alias martabat tiruan dengan tipu muslihat ataupun rangkaian kebohongan, menggerakkan orang lain untuk menyerahkan peralatan sesuatu kepadanya alias agar memberi utang maupun menghapuskan piutang. Ancaman pidananya paling lama 4 tahun penjara dan alias denda paling banyak Rp500 juta.

Sebelumnya, polisi mengungkap kasus penipuan bermodus teknologi Artificial Intelligence (AI) Deepfake namalain penyerupa wajah hingga suara, melalui platform media sosial. Pelaku pun mencatut nama pejabat negara dalam melancarkan aksinya.

Dirtipidsiber Bareskrim Polri Brigjen Himawan Bayu Aji membenarkan pengungkapan kasus tersebut dan menangkap pelaku.

"Pengungkapan kasus Deepfake ini sukses kami ungkap dengan cepat, di mana pelaku saat ini sudah kami amankan," tutur Himawan kepada wartawan, Kamis (23/1/2025).

Himawan belum mengungkap lebih jauh info dan hasil dari operasi penangkapan kasus penipuan lewat AI Deepfake tersebut. Dia menyatakan pihaknya tengah menyiapkan konvensi pers untuk publik.

"Penangkapan terhadap pelaku dilakukan oleh tim Dittipidsiber Bareskrim di wilayah Lampung Tengah Provinsi Lampung. Nanti bakal kami rilis secepatnya," kata Himawan.

Sementara itu, ancaman deepfake nan dimanfaatkan penipu untuk memperdayai korbannya tidak dimungkiri bisa terjadi. Hal itu diungkapkan oleh master keamanan siber Alfons Tanujaya.

Berbekal AI, menurut Alfons, gambar video dan bunyi bisa dipalsukan serta menghasilkan video nan susah dibedakan oleh mata telanjang.

Potensi ancaman tersebut pun diolah menjadi iklan sebuah merek smartphone nan memasarkan produk mereka di Malaysia. Merek itu mengklaim, perangkat mereka mempunyai teknologi untuk mendeteksi deepfake.

Untuk bisa melakukannya, teknologi itu menganalis kontak mata, pencahayaan, kejelasan gambar dan video playback. Kepada Tekno detikai.com, Rabu 18 Desember 2024, Alfons menuturkan, secara teknologi perihal tersebut memang memungkinkan.

Kendati demikian, dia menuturkan, ada perihal nan perlu disadari oleh pengguna. Dalam perihal ini, teknologi AI telah berkembang pesat dan kelemahan-kelemahan nan tadinya mudah terdeteksi bakal bisa disempurnakan.

"Akibatnya, konten semacam itu bakal makin susah diidentifikasi keasliannya. Sehingga mengandalkan Ai untuk mendeteksi AI tiruan bisa saja dilakukan, tapi bukan agunan bakal bisa mendeteksi semua konten manipulasi AI," tutur Alfons.

Oleh karena itu, masyarakat tidak disarankan hanya mengandalkan satu teknologi alias parameter untuk mendeteksi penipuan.

"Konten tersebut sah-sah saja dijadikan peringatan untuk meningkatkan awareness alias kesadaran atas ancaman AI, tetapi salah juga jika memandang AI sebagai monster jahat nan kudu ditakuti dan digunakan sebagai sarana penipuan," ucap Alfons.

Ia pun menyatakan, smartphone memang bisa membantu mengidentifikasi konten AI, seperti nan diiklankan oleh salah satu merek. Namun, penipuan tidak hanya menggunakan AI.

Alfons menuturkan, malah berasas kasus nan beredar saat ini, tindakan penipuan tidak terindikasi menggunakan AI, melainkan memakai rekayasa sosial untuk menakuti hingga mengelabui korbannya.

Untuk mencegah menjadi korban penipuan digital, Alfons pun memberikan beberapa perihal nan kudu dilakukan sebagai berikut:

1. Amankan aset digital Anda dengan baik. Jaga kredensial krusial seperti email, media sosial dan finansial. Lalu, pastikan dilindungi dengan perlindungan Otentikasi Dua Faktor nan bakal mengamankan akun Anda sekalipun kredensialnya sukses dicuri.

2. Gunakan password nan unik, panjang dan berbeda untuk setiap akun. Simpan password menggunakan password manager agar kondusif dan mudah dikelola.

3. Pakai program anti phising pada ponsel seperti True Caller nan bakal mengidentifikasi nomor telpon penipu dengan metode crowdsourcing. Jadi,nama penelpon bakal tampil di ponsel Anda sekali pun tidak disimpan di kontak.

4. Gunakan sandi rahasia alias pertanyaan rahasia nan hanya Anda ketahui dengan family anda, jika mendapatkan telepon darurat alias permintaan transfer uang.

5. Lakukan crosscheck dengan ketat serta pastikan tidak ditipu ketika melakukan transfer ke rekening nan tidak diketahui sebelumnya.