Facebook akan mengarahkan pencarian supremasi kulit putih dan teroris ke situs-situs yang mendorong orang untuk meninggalkan kebencian.
Ia juga menggunakan video militer orang pertama untuk melatih kecerdasan buatan agar lebih cepat mengidentifikasi serangan teroris seperti pembantaian Christchurch yang disiarkan langsung.
Perusahaan ini mendapat tekanan internasional setelah penembakan massal pada bulan Maret, yang menewaskan 51 orang dalam video yang disiarkan langsung di Facebook.
Tonton berita terkini di Channel 7 atau streaming gratis 7 ditambah >>
Facebook pada hari Rabu mengumumkan serangkaian tindakan yang bertujuan mencegah teroris mengambil keuntungan dari platformnya.
“Ini adalah pertempuran yang terjadi setiap hari,” kata direktur global kebijakan kontra-terorisme Facebook, Brian Fishman, kepada AAP.
“Kami melihat aktor-aktor jahat mencoba menghindari teknik yang kami terapkan untuk mengidentifikasi mereka, dan kami mengubah apa yang kami lakukan sebagai respons terhadap teknik tersebut.”
Teknik-teknik baru ini termasuk mengarahkan pencarian supremasi kulit putih dan istilah teroris ke organisasi-organisasi yang mendorong orang untuk meninggalkan kelompok kebencian.
Ketika ditanya apakah Facebook telah mempertimbangkan untuk mematikan opsi streaming langsungnya, Fishman mengatakan Facebook Live masih memiliki tujuan yang berharga.
“Kami telah melihatnya digunakan dalam beberapa minggu dan bulan terakhir oleh para pengunjuk rasa di Hong Kong yang memperjuangkan demokrasi,” katanya.
“(Tetapi) sangat jelas bahwa pelaku kejahatan ingin mengeksploitasi layanan dengan cara ini, dan kami mencoba meresponsnya sambil memastikan bahwa layanan tersebut dapat digunakan.”
Facebook juga melacak orang-orang ketika mereka tidak menggunakan aplikasi atau situs webnya, namun Fishman mengatakan ada masalah dalam menggunakan informasi tersebut untuk menandai potensi ancaman.
Dia mengatakan ini adalah pembicaraan dengan pemerintah tentang undang-undang yang mengizinkan pengumpulan dan penggunaan informasi semacam itu.
“Misalnya, kapan waktu yang tepat untuk menggunakan sinyal dari platform berbeda untuk mengidentifikasi potensi ancaman?” dia berkata.
“Ketika ada peraturan yang menghalangi atau ambigu, hal ini akan menempatkan kita pada posisi yang sulit.”
Fishman mengatakan Facebook menerima bahwa media sosial harus diatur, namun ia berpendapat bahwa mengingat sifat teroris dan pihak lain yang berubah setiap hari, undang-undang tersebut harus memungkinkan adanya tindakan yang dinamis.
Facebook juga menggunakan video pertarungan orang pertama dari tentara AS dan Inggris untuk melatih pembelajaran mesinnya tentang cara mendeteksi video serupa.
“Saya tidak tahu apakah hal serupa akan terjadi sebelumnya,” kata Fishman.
“(Tetapi) ini bukan sesuatu yang bisa Anda lakukan begitu saja dan ada solusi jitu dan tiba-tiba setiap teknik berfungsi dengan kekuatan penuh melawan setiap organisasi.”
