Sistem AI Facebook Keliru dan Sematkan Label ‘Primata’ pada Video Pria Kulit Hitam

Facebook pada Jumat, 3 September 2021, meminta maaf atas kesalahan sistem kecerdasan buatan atau artificial intelligence (AI) dalam menyematkan label secara otomatis pada unggahan video di jejaring media sosial mereka. Perusahaan yang didirikan oleh Mark Zuckerberg tersebut menyebut bahwa insiden ini merupakan kesalahan yang tidak dapat diterima.

The New York Times mengabarkan bahwa seorang pengguna Facebook baru-baru ini menonton video yang menampilkan pria kulit hitam dalam potongan klipnya. Di bawah unggahan video bertanggal 27 Juni 2020 itu, sistem AI Facebook memberikan pesan otomatis dan menanyakan apakah pengunjung ingin terus melihat video tentang “primata”.

Juru Bicara Facebook, Dani Lever, memberikan pernyataan terkait hal tersebut dan menjelaskan bahwa pihaknya akan terus melakukan peningkatan pada sistem AI mereka sekaligus memohon maaf atas apa yang telah terjadi.

“Seperti yang telah kami katakan, sementara kami telah membuat peningkatan pada AI kami, kami tahu itu masih belum sempurna. Kami meminta maaf kepada siapapun yang mungkin telah melihat rekomendasi ofensif ini,” tuturnya dalam pernyataan yang disampaikan.

Untuk diketahui, Facebook melatih algoritma pengenalan wajah dan objek dari unggahan gambar para penggunanya. Sistem mereka akan menyesuaikan tawaran konten untuk pengguna berdasarkan kebiasaan penjelajahan web mereka sebelumnya dan terkadang mengajukan pertanyaan kepada pengguna apakah mereka ingin terus melihat kiriman serupa sebagaimana yang terjadi dalam kasus ini.

Kesalahan sistem AI serupa itu juga pernah dialami oleh Google melalui produk Google Photos yang memberikan label pada foto orang berkulit hitam sebagai “gorila”. Lebih dari dua tahun kemudian, tepatnya pada 2018, Wired melaporkan bahwa solusi yang diambil Google atas masalah tersebut ialah dengan menyensor kata “gorila”, “simpanse”, dan “monyet” dalam fitur pencarian di Google Photos.