Sınav yazılımı siyahi öğrencileri algılayamadı

Erman Ciğerim

9 Nisan 2021

Öğrencilerin sınavlara girerken hile yapmasını önlemek için tasarlanmış Proctorio isimli yazılımın siyah tenli yüzleri taramada başarısız olduğu keşfedildi. Keşif, meraklı bir öğrenci tarafından gerçekleştirildi. Ancak güvenlik araştırmacıları olayın büyüklüğünü ortaya koydu.

Birçok öğrenci Proctorio yazılımıyla sorun yaşadı

Motherboard tarafından bildirilen rapora göre, sınav izleme yazılımı Proctorio‘nun bir öğrenci tarafından açığı keşfedildi. Buna göre öğrenci, yazılımın yüz algılamayı nasıl yaptığını algılayarak siyah tenli yüzleri tanımlamada daha başarısız olduğunu ortaya koydu. Ayrıca birçok öğrenci, yazılımın yüzlerini algılamakta sorunlar yaşadığını ve bu sebepten dolayı aşırı önlemlere başvurmak zorunda kaldıklarını bildirdi.

Şikayetlerden yola çıkarak yazılımın kullandığı yüz algılama yöntemlerine bakmaya karar veren Akash Satheesan, yüzleri tanımak için kullanılabilen açık kaynaklı bilgisayar görme programı olan OpenCV ile aynı şekilde performans gösterdiğini keşfetti. Satheesan, OpenCV ve makine görme algoritmalarının farklı yüzlerle ne kadar iyi başa çıktığını doğrulamak için bir veri seti kullanarak testler yaptı. Ancak sonuçlar iyi değildi.

Yazılım, siyahi yüzleri tanımakta yüzde 50 oranında kusurlu olmanın yanında, herhangi bir etnik kökene ait yüzleri tanımakta da iyi bir performans göstermedi. Satheesan’ın sonuçlarını ve analizlerini bir güvenlik araştırmacısına doğrulatmak için iletişime geçen Motherboard, Proctorio’nun OpenCV’yi lisanslar sayfasında kullandığını onaylandı.

Konuyla ilgili açıklama yapan bir Proctorio sözcüsü, Satheesan’ın testlerinin, yazılımın yalnızca yüzleri algılamaya çalıştığını, onlarla ilişkili kimlikleri tanımadığını kanıtladığını söyledi. Bunun yanında sözcü, ırksal önyargı suçlamalarına karşı ise yorum yapmadı.

Olay, Proctorio‘nun farklı yüzleri tanımadığı gerekçesiyle ilk suçlanışı değil. Yazılımın daha önce farklı ten rengine sahip öğrencilerle yaşadığı problemler nedeniyle bir üniversite mevcut olan sözleşmesini feshetmek durumunda kalmıştı.