Peran Platform Digital dalam Menghadapi Konten Buatan AI
Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria menyoroti pentingnya pengembangan fitur deteksi konten yang dibuat oleh kecerdasan buatan (AI) di berbagai platform digital global. Ia menilai, fitur ini akan sangat berguna dalam membantu masyarakat mengenali hoaks dan mencegah penyalahgunaan teknologi deepfake.
Menurut Nezar, platform media sosial global perlu mempertimbangkan penerapan filter atau setidaknya menyediakan alat untuk memverifikasi apakah suatu konten dibuat dengan bantuan AI atau tidak. Ia menekankan bahwa fitur tersebut sebaiknya bisa digunakan secara gratis oleh publik.
“Kita berharap platform media sosial global juga bisa melakukan filter, atau setidaknya menyediakan fitur untuk mengecek apakah sebuah konten buatan AI atau bukan. Fitur ini sebaiknya bisa digunakan publik secara gratis,” ujarnya dalam sebuah acara talkshow di Jakarta.
Tren Konten Deepfake yang Meningkat Pesat
Nezar menyoroti meningkatnya tren konten deepfake dalam beberapa tahun terakhir. Berdasarkan data dari Sensity AI, jumlah konten deepfake melonjak hingga 550% dalam lima tahun terakhir. Namun, ia yakin angka tersebut jauh lebih besar karena kemampuan aplikasi pembuat deepfake kini semakin masif dan mudah diakses.
Ia menegaskan bahwa keberadaan konten seperti ini bisa menjadi ancaman bagi masyarakat, terutama dalam hal penyebaran informasi palsu dan manipulasi opini publik.
Kekuatan Teknologi Global untuk Kepentingan Publik
Beberapa perusahaan teknologi global seperti Meta dan Google memiliki kekuatan komputasi serta algoritma yang dapat dimanfaatkan untuk kepentingan publik, termasuk dalam mendeteksi konten yang dibuat oleh AI. Menurut Nezar, jika ada keraguan terhadap isi suatu konten, kekuatan komputasi dan AI yang dimiliki oleh perusahaan-perusahaan tersebut bisa digunakan sebagai alat verifikasi.
“Fitur seperti ini bisa menjadi layanan standar,” ujarnya. Ia menekankan bahwa pemerintah berupaya menyeimbangkan inovasi teknologi dengan regulasi agar AI tidak disalahgunakan untuk menyebarkan hoaks.
Regulasi yang Mendukung Penggunaan AI Secara Bertanggung Jawab
Di Indonesia, berbagai regulasi telah diterapkan untuk menjaga keamanan di ruang digital, antara lain UU ITE, UU PDP, PP TUNAS, serta aturan teknis lainnya. Selain itu, pemerintah sedang menyiapkan regulasi khusus mengenai pemanfaatan AI yang etis, bermakna, dan bertanggung jawab.
“Ruang digital ini milik kita bersama, maka kita perlu kerja sama yang erat untuk menjaga publik dari hoaks dan konten negatif,” ujar Nezar.
Kolaborasi dengan Ekosistem Luas
Untuk memperkuat langkah-langkah ini, Kementerian Komunikasi dan Digital bekerja sama dengan berbagai ekosistem, termasuk Masyarakat Anti Fitnah Indonesia (Mafindo) dan media dalam program cek fakta. Program ini bertujuan untuk meningkatkan kesadaran masyarakat tentang bahaya hoaks dan deepfake.
Ketua Mafindo, Septiaji Eko Nugroho, mengungkap bahwa fenomena deepfake pertama kali terdeteksi di Indonesia pada 2023 dan kini berkembang pesat. Konten ini sering digunakan untuk penipuan digital maupun memengaruhi opini publik, terutama terkait isu politik.
“Untuk isu politik juga ada, tapi deepfake paling banyak digunakan untuk penipuan digital. Jika ada konten hoaks berbentuk video yang muncul di tahun 2025 dengan tema penipuan digital, itu mayoritas adalah deepfake,” ujarnya.
Komentar
Tuliskan Komentar Anda!