Bisnis.com, Jakarta – Kementerian Komunikasi dan Informatika (Kemenkominfo) melaporkan penghapusan ribuan artikel penipuan, termasuk deepfake.

Sayangnya, Kementerian Komunikasi dan Informatika belum merilis angka lengkap terkait penghapusan barang tersebut. Namun, Kementerian Informasi dan Komunikasi telah mengonfirmasi bahwa lebih banyak informasi telah diungkapkan.

“Harus dicek datanya untuk mengetahui jumlah pastinya, tapi isunya banyak, sekitar ribuan. Ribuan laporan atau konten telah dihapus oleh Kementerian Komunikasi dan Informatika atau langsung dari platform,” kata Prabunindya Revta , Direktur Departemen Komunikasi dan Informatika dan Otoritas Komunikasi Terbuka (IKP).

Mencontohkan baru-baru ini, Prabu mengatakan, beberapa hari lalu Kementerian Komunikasi dan Informatika menghapus konten di salah satu platform terkait penipuan serius. Ia hanya mengungkapkan, akun tersebut memiliki 300.000 hingga 400.000 pengikut dan sudah aktif sejak lama.

Dia berkata, “Ada sebuah perusahaan besar yang menggunakan AI untuk membuat deepfake, dan mereka menggunakan deepfake untuk mengatakan, ‘Jika Anda ingin kaya, ikuti akun saya. Dan daftar dengan nomor di bawah.

Prabhu mengatakan berita itu sepertinya benar. Namun, ia mengaku memang pernah bertemu langsung dengan konglomerat tersebut dan menjelaskan bahwa kabar tersebut tidak benar. Alhasil, Kementerian Pos dan Telekomunikasi pun langsung menutup rekening tersebut agar masyarakat tidak tertipu.

“Ketika saya lihat, saya menemukan bahwa bibirnya tidak sesuai dengan kata-katanya, makanya saya cenderung mengambil bidikan medium daripada close up, sehingga Anda tidak melihat bibir bergerak ke arah yang berbeda beberapa bulan,” ujarnya. .

Terkait pengurangan konten, Prabu menjelaskan pada dasarnya semua platform bisa memoderasi kontennya. Moderasi konten sendiri merupakan proses evaluasi konten online yang dibuat oleh pengguna untuk memastikan konten tersebut sesuai dengan kebijakan platform digital mengenai apa yang boleh dibagikan di platform tersebut, seperti disampaikan TSPA pada Jumat (13/9/2024).

Dengan membatasi konten, setiap platform juga dapat melaporkan konten yang ditandai sebagai penipuan kepada Kementerian Komunikasi dan Informatika untuk dihapus.

Sebab, platform tersebut juga mempunyai kemampuan untuk mengukur dan melaporkan setiap laporan atau dugaan penipuan kepada kami agar dapat kami hapus, jelasnya.

Penipuan besar-besaran yang ditingkatkan oleh teknologi kecerdasan buatan (AI) akan merugikan bank-bank Eropa sebesar 35 juta dolar pada tahun 2023, menurut laporan bisnis. Parahnya, banyak aplikasi deepfake kini gratis.

Merujuk blog resmi VIDA seperti dikutip Rabu (9 April 2024), deepfake adalah foto, video, dan audio yang disalin dari sumber aslinya menggunakan kecerdasan buatan (AI). Konten serius ini terlihat asli dan seperti aslinya.

Awalnya, teknologi deepfake banyak digunakan di industri hiburan, termasuk mengedit suara orang untuk menyanyikan lagu. Faktanya, ketersediaan video mendalam telah meningkat sebesar 550% sejak 2019, menurut Home Security Heroes.

Namun, video serius semakin menjadi ancaman. Memerangi deepfake juga membutuhkan AI yang sama canggihnya. Berdasarkan laporan penelitian white paper bertajuk ‘Where the Fraud is: Protecting Indonesian Business from AI-generated digital Fraud’ yang diterbitkan oleh PT Indonesia Digital Identity (VIDA), deepfake berbasis teknologi AI menghasilkan video, audio, atau gambar palsu yang nyata. melakukan itu. Mereka menyamar sebagai individu untuk pencurian identitas dan penipuan.

Deepfakes juga menggunakan serangan produksi (video atau audio palsu) dan serangan injeksi (streaming yang dibuat) untuk menghindari verifikasi identitas dan mengeksploitasi sistem yang memerlukan otentikasi berbasis AI dan analisis biometrik.

Laporan VIDA menemukan bahwa dampak penipuan serius terhadap bisnis di Indonesia menyebabkan 55% perusahaan kehilangan data dan informasi. Selain itu, 48% diantaranya mengalami kekalahan dalam kesepakatan, 46% mengalami masalah operasional, dan pencurian serius telah mempengaruhi reputasi perusahaan mereka dalam 45% kasus.

Survei ini juga menemukan bahwa penipuan peniruan identitas (67%) dan serangan rekayasa sosial (42%) menjadi lebih sulit dideteksi seiring dengan semakin canggihnya penipu.

Dalam beberapa kasus, penipu dapat menggunakan KTP palsu untuk membuat informasi palsu guna mendapatkan akses pinjaman dan kredit.

“Teknologi deepfake dapat digunakan untuk membuat video menarik yang menunjukkan para CEO menyetujui transaksi penipuan, yang mengarah pada transaksi penipuan,” kata laporan itu.

Simak berita dan artikel lainnya dari Google News dan WA Channel.