Twitter ‘ırkçı’ Görüntü Kırpma Algoritması İçin Özür Diliyor

Twitter, siyah yüzler yerine beyaz yüzlere otomatik olarak odaklanan özelliği tepki çekti.

Tarih:

21 Eylül 2020 15:25

Yazar:

Twitter, 'ırkçı' Görüntü Kırpma Algoritması İçin Özür Diliyor

Kullanıcılar bu özelliğin otomatik olarak siyah yüzler yerine beyaz yüzlere odaklandığını keşfettikten sonra Twitter “ırkçı” bir görüntü kırpma algoritması için özür diledi.

Şirket, hizmeti kullanmaya başlamadan önce önyargı için test ettiğini söylüyor ancak şimdi yeterince ileri gitmediğini kabul ediyor.

Twitter, ana feed de çok fazla yer kaplamalarını önlemek ve aynı tweet’te birden fazla resmin gösterilmesine izin vermek için görüntüleri otomatik olarak kırptı.

Şirket, resmin en önemli kısımlarına odaklanmaya çalışmak için çeşitli algoritmik araçlar kullanıyor ve yüzlerin ve metnin görüntünün kırpılmış kısmında kalmasını sağlamaya çalışıyor.

Ancak kullanıcılar hafta sonu bu özellikteki kusurları görmeye başladı. Sorunu ilk vurgulayan, video konferans yazılımı Zoom’da farklı bir ırksal önyargıya dikkat çekerken sorunu keşfeden doktora öğrencisi Colin Madland oldu.

Beyaz olan Madland, algoritması yüzünü tanıyamadığı için Zoom aramasından silinen zenci bir meslektaşının ve kendisinin bir resmini yayınladığında, Twitter resmi yalnızca Madland’ı gösterecek şekilde kırptı.

any guesses? pic.twitter.com/9aIZY4rSCX
— Colin Madland (@colinmadland) September 19, 2020

Diğerleri, algoritmanın ABD senatörü Mitch McConnell ve Barack Obama’nın eski başkanı gizlemek için sürekli olarak bir imajını kırpacağını keşfeden girişimci Tony Arcieri de dahil olmak üzere daha hedefli deneyler yaptı.

Trying a horrible experiment…

Which will the Twitter algorithm pick: Mitch McConnell or Barack Obama? pic.twitter.com/bR1GRyCkia
— Tony “Abolish (Pol)ICE” Arcieri 🦀 (@bascule) September 19, 2020

Stok fotoğraf modelleri, Simpsons karakterleri Lenny ve Carl ve hatta altın labradorlar ve siyah labradorlar için benzer sonuçlar bulundu.

Testing this to see if it’s real. pic.twitter.com/rINjaNvXaj
— Jef Caine (@JefCaine) September 19, 2020

Bir Twitter sözcüsü yaptığı açıklamada, şirketin yapacak işleri olduğunu kabul etti. “Ekibimiz, modeli göndermeden önce önyargı testi yaptı ve testlerimizde ırk veya cinsiyet önyargısına dair kanıt bulamadı.

Ancak bu örneklerden daha fazla analiz yapmamız gerektiği açıktır.

Öğrendiklerimizi, hangi eylemleri gerçekleştirdiğimizi paylaşmaya devam edeceğiz ve başkalarının inceleyip kopyalayabilmesi için analizimizi açık kaynak yapacağız. “

Twitter, algoritmalarındaki ırkçı önyargıyı açıklamakta zorlanan ilk teknoloji firması değil. 2018’de Google’ın , siyah insanların resimlerini bu ırkçı terimlerle defalarca yanlış etiketlediği için ateş altına girdikten sonra Google’ın Fotoğraflar hizmetini herhangi bir şeyi goril, şempanze veya maymun olarak etiketlemesini yasakladığı ortaya çıktı.