- pixabay/geralt
VIVA – Facebook menggunakan machine learning untuk mendeteksi adanya konten negatif. Selain mesin, media sosial populer itu juga menggunakan tim manusia untuk melakukan hal yang sama.
“Jadi mesinnya flag, mencurigai ini. Manusianya yang memutuskan,” kata Director Engineering Facebook, Renata Aryanti di Jakarta, Rabu 7 November 2018.
Platform besutan Mark Zuckerberg ini sudah melibatkan machine learning secara global bagi. Renata menuturkan, mesin tersebut akan menunggu pelaporan pengguna dan juga secara proaktif mendeteksi konten terduga negatif.
Communication Lead Facebook Indonesia Putri Dewanti mengatakan, mesin akan diberi informasi konten apa saja yang melanggar Standar Komunitas Facebook. Dari sanalah, mesin learning belajar.
“Karena kan mesinnya harus di feed informasinya kan. Mesinnya enggak berfikir sendiri, kan mesinnya yang nyari tetap manusia yang ngecek setelah itu,” kata dia.
Dari alat baru pada grup, pengguna bisa juga melaporkan konten yang diduga negatif kepada admin dan Facebook. Pada platform konten akan diulas apakah melanggar Standar Komunitas Facebook atau tidak.
Putri mencontohkan, mesin learning bakal mendeteksi apakah seperangkat gambar untuk suatu konten dibilang porno atau tidak. Selain itu, banyaknya foto anak kecil telanjang juga bisa terdeteksi oleh mesin tersebut. Apakah foto itu melanggar aturan platform atau tidak.
“Sebenarnya ini untuk menghindar dari paedofilia. Maka di kita mesinnya menangkap, manusianya juga ngecek. Harus manual. Apakah itu cuman anak kecil lagi mandi di foto atau untuk pornografi,” kata Putri.
