Öğrencilerin sınavlara girerken hile yapmasını önlemek için tasarlanmış Proctorio isimli yazılımın siyah tenli yüzleri taramada başarısız olduğu keşfedildi. Keşif, meraklı bir öğrenci tarafından gerçekleştirildi. Ancak güvenlik araştırmacıları olayın büyüklüğünü ortaya koydu.
Birçok öğrenci Proctorio yazılımıyla sorun yaşadı
Motherboard tarafından bildirilen rapora göre, sınav izleme yazılımı Proctorio‘nun bir öğrenci tarafından açığı keşfedildi. Buna göre öğrenci, yazılımın yüz algılamayı nasıl yaptığını algılayarak siyah tenli yüzleri tanımlamada daha başarısız olduğunu ortaya koydu. Ayrıca birçok öğrenci, yazılımın yüzlerini algılamakta sorunlar yaşadığını ve bu sebepten dolayı aşırı önlemlere başvurmak zorunda kaldıklarını bildirdi.
Şikayetlerden yola çıkarak yazılımın kullandığı yüz algılama yöntemlerine bakmaya karar veren Akash Satheesan, yüzleri tanımak için kullanılabilen açık kaynaklı bilgisayar görme programı olan OpenCV ile aynı şekilde performans gösterdiğini keşfetti. Satheesan, OpenCV ve makine görme algoritmalarının farklı yüzlerle ne kadar iyi başa çıktığını doğrulamak için bir veri seti kullanarak testler yaptı. Ancak sonuçlar iyi değildi.
Yazılım, siyahi yüzleri tanımakta yüzde 50 oranında kusurlu olmanın yanında, herhangi bir etnik kökene ait yüzleri tanımakta da iyi bir performans göstermedi. Satheesan’ın sonuçlarını ve analizlerini bir güvenlik araştırmacısına doğrulatmak için iletişime geçen Motherboard, Proctorio’nun OpenCV’yi lisanslar sayfasında kullandığını onaylandı.
Discord ve Slack platformlarının güvenilirliğinden faydalanan hackerlar, birçok kullanıcıya zarar verdi. Çok sayıda kullanıcının hesapları tehlike altında.
Konuyla ilgili açıklama yapan bir Proctorio sözcüsü, Satheesan’ın testlerinin, yazılımın yalnızca yüzleri algılamaya çalıştığını, onlarla ilişkili kimlikleri tanımadığını kanıtladığını söyledi. Bunun yanında sözcü, ırksal önyargı suçlamalarına karşı ise yorum yapmadı.
Olay, Proctorio‘nun farklı yüzleri tanımadığı gerekçesiyle ilk suçlanışı değil. Yazılımın daha önce farklı ten rengine sahip öğrencilerle yaşadığı problemler nedeniyle bir üniversite mevcut olan sözleşmesini feshetmek durumunda kalmıştı.
SDN Yorumları 4 Yorum
Yorum Yap
Fırsat Ürünleri
Algılama önce insanlardan başlamalı…
Irkçılıktan dolayı olduğunu düşünmüyorum karanlık bir yüzeyde detayların daha zor seçilmesi gayet normal. Yapay zekayı da ırkçı diye linçlemezsin beh
Siyahi öğrenciler: I am four parallel universes ahead of you
😀
Fotoğraf makinaları da siyahi tenli modelleri çekerken kontrast sorunu nedeniyle netleyemez bunda garip bir şey yok.