Live streaming bunuh diri atau kekerasan yang ditayangkan di Facebook telah memenuhi pemberitaan di media masa sejak awal tahun ini. Mungkin Ladies masih ingat, pada Januari silam, seorang gadis berumur 12 tahun yang tidak tahan menerima pelecehan seksual dari anggota keluarganya, melakukan live streaming gantung dirinya di Facebook. Masih di bulan Januari 2017, empat pemuda melakukan live streaming saat menyiksa seorang pria berkebutuhan khusus. Pihak kepolisian pun segera melacak dan menangkap keempat pelaku tersebut. Facebook mengembangkan AI untuk membantu mencegah bunuh diri yang semakin marak ini.
Kekerasan dan bunuh diri tampaknya memang tidak pernah berhenti memenuhi Facebook.
Kejadian bunuh diri secara live di Facebook bukanlah yang pertama kali terjadi. Ada pula pengguna Facebook, yang walaupun aksi bunuh dirinya tidak ditayangkan melalui Facebook, tetapi meninggalkan pesan kematiannya sebagai status terakhirnya. Mungkin ladies pernah membaca status-status salah satu friend di Facebook yang memiliki kecenderungan suicidal thoughts. Belajar dari kejadian-kejadian tersebut, Facebook meluncurkan Artificial Intelligence atau AI mereka pada awal maret lalu.
AI mampu mengidentifikasi posting-an yang mengindikasikan percobaan bunuh diri.
Selain itu bisa juga mengindikasikan pemikiran yang membahayakan seperti suicidal thoughts, atau provokasi kekerasan. AI mampu meng-scan unggahan-unggahan serta menyelidiki kolom komentar lalu membandingkannya dengan unggahan lain yang membutuhkan intervensi, dan, pada beberapa kasus, menyerahkannya kepada community team untuk ditinjau ulang. Facebook berencana untuk secara proaktif menjangkau pengguna yang membutuhkan bantuan dengan memperlihatkan layar yang berisi informasi mengenai pencegahan bunuh diri, termasuk nomor telepon bantuan, atau nomor kontak teman.
Menurut Vanessa Callsion-Burch, Facebook Product Manager, AI lebih akurat daripada laporan-laporan yang didapatkan Facebook dari pelabelan as suicide atau self injury melalui pengguna lain. Pengguna yang kontennya sesuai dengan apa yang AI waspadai, dan dilaporkan oleh AI, lebih mungkin mendapatkan bantuan dari Facebook, daripada laporan yang dilakukan oleh pengguna lain. AI akan secara langsung memperingatkan anggota community team hanya pada saat terjadi hal yang sangat mendesak. Selanjutnya, Facebook juga membuat laporan percobaan bunuh diri atau kekerasanlebih mudah diketahui oleh teman-teman dari sang pelaku atau korban.
Meskipun AI belum terbukti mencegah usaha bunuh diri karena relatif masih sangat baru, Dr. John Draper selaku kepala proyek dari National Suicide Prevention Lifeline dan partner Facebook menyatakan bahwa AI cukup menjanjikan. Menurutnya, jika seseorang sedang melakukan proses self-hurting, AI akan menjangkau orang tersebut dengan lebih cepat dan tentu saja lebih cepat itu lebih baik. Dalam pencegahan bunuh diri, waktu adalah segalanya. Facbook juga menambahkan feature yang menunjang AI, yaitu penginformasian organisasi pencegahan bunuh diri yang bisa dihubungi melalui Messenger.
Facebook memutuskan untuk tetap menayangkan live streaming dari seseorang yang dilaporkan secara penuh berisiko melukai dirinya sendiri. Keputusan ini bertujuan untuk memberi kesempatan bagi kerabat dan teman-temannya untuk menolong dan mencegah terjadinya bunuh diri.
Kehadiran perangkat pencegahan bunuh diri dari Facebook ini menimbulkan kekhawatiran terganggunya privasi di ranah digital.
Namun bagi Facebook, yang bekerja keras untuk mencegah tindakan bunuh diri, AI merupakan langkah besar untuk mencegah potensi bunuh diri dan membuat orang-orang lebih mudah untuk membantu orang-orang yang memiliki kecenderungan bunuh diri. AI juga dapat membantu orang-orang untuk membuka mata terhadap permasalahan yang sedang terjadi di masyarakat. Bagaimana menurut ladies?