Jangan Coba Bikin Tipuan Suara di Meta
- Pixabay/mtmmonline
VIVA Tekno – Teknologi replikasi suara telah berkembang pesat sehingga memungkinkan kita membuat tiruan suara seseorang dengan sangat mirip hanya dari sampel audio yang singkat.
Meski teknologi ini membawa banyak manfaat, seperti membantu pembuat konten (content creator) dan industri hiburan, ada risiko besar dari penyalahgunaannya.
Beberapa pihak tidak bertanggung jawab sudah mulai menggunakan teknologi ini untuk penipuan. Contohnya di Amerika Serikat (AS), di mana ada penipuan yang melibatkan robocaller yang meniru suara Presiden Joe Biden.
Penipu tersebut berusaha mempengaruhi pemilih Partai Demokrat di New Hampshire agar tidak memberikan suara dalam pemilihan pendahuluan presiden.
Aksi penipuan lainnya melibatkan panggilan telepon palsu yang seolah-olah berasal dari orang terdekat untuk mendapatkan uang.
Ilustrasi rekaman suara.
- Istimewa
Untuk melawan penyalahgunaan ini, Meta, perusahaan induk Facebook, WhatsApp dan Instagram, mengembangkan teknologi watermarking audio bernama AudioSeal.
AudioSeal adalah teknik watermarking audio pertama yang dirancang khusus untuk mendeteksi ucapan yang dihasilkan oleh AI, seperti dilansir dari IFL Science.
Saat ini, mendeteksi audio sintetis biasanya mengandalkan algoritma yang dilatih untuk membedakannya dari ucapan normal. Namun, pendekatan Meta berbeda.
Mereka menanamkan watermark dalam audio yang dihasilkan. Watermark ini tidak terdengar oleh telinga manusia, tetapi bisa dideteksi oleh algoritma tertentu.
Ilustrasi suara atau audio
- Pixabay/mtmmonline
"Watermarking adalah alternatif yang kuat," jelas tim peneliti Meta dalam makalah yang diposting di server pracetak arXiv. "Ini menanamkan sinyal dalam audio yang dihasilkan, yang tidak terdengar oleh telinga tetapi dapat dideteksi secara kuat oleh algoritma tertentu."
Tim peneliti mengatakan bahwa sistem ini efektif dalam mendeteksi watermark dengan tingkat akurasi antara 90 dan 100 persen.
Namun, metode ini memerlukan perusahaan teknologi penghasil suara untuk memasukkan watermark dalam file audio mereka, yang mungkin belum akan terjadi dalam waktu dekat.
Meski teknologi watermarking ini menjanjikan, ada juga potensi penyalahgunaan. Misalnya, pemerintah bisa menggunakannya untuk mengawasi pembangkang atau perusahaan bisa mengidentifikasi pelapor.
Selain itu, watermarking bisa digunakan untuk menegakkan hak cipta pada konten yang dihasilkan pengguna, yang dapat meningkatkan skeptisisme tentang keaslian komunikasi digital dan merusak kepercayaan pada media digital dan AI.
Meski ada risiko tersebut, memastikan kemampuan mendeteksi konten yang dihasilkan oleh AI tetap penting.
Langkah-langkah keamanan yang kuat dan kerangka hukum yang tepat diperlukan untuk mengatur penggunaan teknologi ini agar tidak disalahgunakan.
Makalah lengkap mengenai teknik ini tersedia di server pracetak arXiv, sementara produk AudioSeal sendiri bisa ditemukan di GitHub. Dengan teknologi ini, Meta berharap dapat melindungi kita dari ancaman penipuan digital yang semakin canggih.
