Facebook, platformunda yapılan paylaşımları ve yorumları bir algoritma sayesinde tarayarak yapılan paylaşımların içeriğinde nefret söylemi bulunup bulunmadığını kontrol ediyor. Tespit edilen nefret söylemlerine karşı, yorumu ya da paylaşımı kaldırmak gibi önlemler alabiliyor.
The Independent tarafından yapılan habere göre, Facebook’un nefret söylemlerini aramak için kullandığı algoritmanın ırklara göre ayrım yapmadığı tespit edildi. Örneğin bir beyaz birey için yapılan nefret söylemi ile bir siyahi birey için yapılan nefret söylemi, eşit derecede değerlendirilmeye çalışılıyordu. Ancak Faebook’un ırkları göz ardı ederek oluşturmuş olduğu algoritma, beyazlara yönelik hakaretlerin daha çok silinmesine yol açtı.
Algoritma daha kontrollü hale getirilecek
Facebook nefret söylemi aramak için kullandığı algoritmasını yeniden düzenleme kararı aldı. Böylece Facebook, platformda yer alan Müslümanlar'a, siyahilere, Yahudiler'e yöneltilen kötü içerikleri silmekte daha iyi hale gelecek.
Değişikliklerden önce Facebook, anti-semitist bir yorum ile beyazlara yöneltilen yorumları eşit derecede kötü olarak değerlendirmekteydi. Facebook “beyazlar”, “erkekler” ve “Amerikalılar” gibi gruplar hakkındaki kötü yorumları hala nefret söylemi olarak ele alıyor ancak algoritma artık bu gruplara karşı bulunulan nefret söylemlerine daha az hassas davranıyor.
