Video Deepfake Makin Meyakinkan, Nezar Patria Desak Platform AI Bertindak

SUMSELTERKINI.CO.ID – Wajah dan suara yang terlihat meyakinkan di sebuah video belum tentu mencerminkan kejadian sebenarnya. Di tengah perkembangan kecerdasan artifisial atau artificial intelligence (AI), masyarakat semakin menghadapi risiko penipuan melalui konten digital yang sulit dibedakan dari rekaman asli.

Ancaman tersebut menjadi perhatian Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria. Ia menilai, kemampuan teknologi deepfake dalam meniru identitas seseorang perlu diimbangi dengan sistem yang dapat membantu masyarakat memeriksa keaslian konten.

Dalam acara IT Governance, Risk Management, Assurance, and Cybersecurity Summit 2026 di Jakarta Selatan, Rabu (14/10/2026), Nezar mengingatkan manipulasi video berbasis AI telah memakan korban dari berbagai kalangan, termasuk anak-anak, warga lanjut usia, hingga masyarakat berpendidikan.

Menurut Nezar, tampilan video yang menyerupai tokoh asli dapat dimanfaatkan pelaku untuk membangun kepercayaan calon korban. Ketika seseorang percaya bahwa pesan tersebut benar-benar disampaikan oleh tokoh yang dikenalnya, risiko terjebak dalam penipuan pun meningkat.

Salah satu modus yang disoroti Nezar adalah penggunaan video deepfake yang mencatut nama sejumlah gubernur. Dalam kasus yang ia singgung, video palsu tersebut digunakan untuk mengajak masyarakat mendepositokan uang ke rekening tertentu.

Praktik itu menjelaskan ancaman AI tidak berhenti pada penyebaran informasi bohong. Teknologi manipulasi identitas juga dapat dimanfaatkan untuk mendorong keputusan finansial yang merugikan masyarakat.

Nezar menilai, sejumlah kasus terjadi pada tahun sebelumnya menyebabkan kerugian hingga puluhan juta rupiah. Bahkan, menurutnya, nama tokoh terkenal hingga presiden pun dapat dicatut dalam konten manipulatif.

Sehingga, lanjutnya membuat masyarakat perlu lebih berhati-hati ketika menerima video yang berisi ajakan investasi, permintaan transfer uang, atau instruksi keuangan yang mengatasnamakan pejabat maupun tokoh publik.

Platform Digital Diminta Ikut Bertanggung Jawab

Menghadapi ancaman itu tersebut, Nezar menegaskan upaya mendeteksi deepfake tidak semestinya hanya dibebankan kepada pengguna internet. Platform digital yang mendistribusikan konten serta pengembang AI juga perlu mengambil tanggung jawab dalam mendeteksi dan mengidentifikasi manipulasi.

“Tanggung jawab untuk pendeteksian deepfake harus pertama-tama dibebankan kepada platform yang menyediakan konten-konten seperti ini dan para pengembang AI,” ujar Nezar.

Ia juga menekankan perlunya jejak autentisitas pada konten digital yang dihasilkan. Dengan pendekatan tersebut, asal-usul dan riwayat perubahan suatu konten diharapkan dapat ditelusuri sehingga proses pemeriksaan keasliannya menjadi lebih mudah.

Pendekatan ini dikenal sebagai provenance and authenticity, yakni upaya mengidentifikasi asal-usul konten dan membantu memverifikasi keasliannya.

Nezar menjelaskan salah satu contoh penerapan pendekatan tersebut dapat ditemukan pada perangkat smartphone terbaru yang menyertakan metadata pada foto.

Metadata dapat memberikan informasi mengenai suatu berkas, termasuk informasi yang membantu menelusuri asal-usulnya. Jika informasi pendukung tersebut tersedia dan terjaga, proses pemeriksaan terhadap kemungkinan manipulasi dapat dilakukan dengan lebih baik.

Namun, pemeriksaan keaslian tidak cukup hanya mengandalkan tampilan visual atau keberadaan metadata. Masyarakat tetap perlu menilai sumber informasi dan melakukan verifikasi tambahan, terutama ketika konten berkaitan dengan transaksi keuangan atau pernyataan penting dari tokoh publik.

Penguatan teknologi autentikasi menjadi salah satu langkah untuk membantu membedakan konten asli dan konten yang telah dimanipulasi menggunakan AI.

Masyarakat Jangan Mudah Percaya Video Viral

Selain mengandalkan teknologi, Nezar menilai kecakapan digital masyarakat juga perlu diperkuat. Kemampuan mengenali informasi mencurigakan, memeriksa sumber, dan melaporkan dugaan kejahatan siber menjadi bagian penting dalam menghadapi penyalahgunaan AI.

Ia mengingatkan laporan masyarakat dapat membantu proses analisis dan pendeteksian terhadap perkembangan kejahatan siber.

Dia menambahkan, video yang menampilkan wajah atau suara tokoh terkenal tidak seharusnya langsung dianggap sebagai bukti bahwa pernyataan tersebut benar-benar disampaikan oleh orang yang bersangkutan.

Oleh sebab itu, masyarakat perlu memeriksa apakah informasi serupa disampaikan melalui saluran resmi, memastikan tujuan dari pesan yang beredar, serta menghindari transfer uang hanya berdasarkan video yang belum terverifikasi.

Perkembangan deepfake pada akhirnya menghadirkan tantangan bersama. Pengembang AI dan platform digital perlu memperkuat upaya autentikasi serta pendeteksian, sementara masyarakat harus semakin cermat dalam menyikapi konten yang beredar di internet. (***) /sumber komdigi