Avrupa Komisyonu, yüksek riskli yapay zeka (AI) teknolojileri için yasak getirmeyi planlıyor. İlk gelen bilgilere göre, Avrupa Birliği (AB) temellerine ve temel haklara aykırı olarak görülen tüm AI bu kapsamda yasak gelebilir. Beklentiler henüz taslak halinde olan teklifin, bu yıl içinde komisyondan geçeceği yönünde.
Avrupa Birliği hangi yapay zeka teknolojileri için yasak getirecek?
AB yürütme organı olarak görev yapan Avrupa Komisyonu, birliğin sağladığı temel hak ve hürriyetlerle ters düşen yapay zeka teknolojilerine karşı savaş açmaya hazırlanıyor.
Polis operasyonlarında robot köpek dönemi
Bir Twitter kullanıcısı, Newyork polisi tarafından Boston Dynamics'ten alınan robot köpek 'Digidog' ile gerçekleştirilen operasyon videosunu paylaştı.İlk gelen bilgilere göre komisyonun ilk hedefinde yüz tanıma sistemleri var. Yüz tanıma teknolojisi, yapay zekanın en yoğun kullanıldığı alanlardan biri. Özellikle pandemi döneminde Çin aldığı sert önlemlerde yüz tanıma teknolojisine sıklıkla başvurdu.
AB bu tecrübelerden yola çıkarak, kişilerin hürriyetlerini kısıtlama imkanı veren yapay zeka teknolojilerini kısıtlamayı ya da yasak getirmeyi planlıyor. Kulislerden gelen bilgilere göre komisyon teknolojiyi tamamen yasaklamak yerine, teknolojiye belli sınırlar koymak niyetinde.
Bu sınırların başında ise yapay zekada insan faktörünün daha güçlü hale getirilmesi yer alıyor. Yüz tanıma dışında yapay zekanın kullanıldığı ve biyometrik verilerin yer aldığı güvenlik sistemlerine de kısıtlamaların gelme ihtimali var. Komisyonun tam olarak hangi AI teknolojilerine nasıl bir yasak getireceği henüz netleşmiş değil.
Yüz tanıma teknolojisi skandalları
Yapay zeka, geleceği şekillendirecek temel teknolojilerden biri. Otonom araçlar, robotik, hatta kullandığımız çeviri uygulamaları bile gücünü yapay zekadan alıyor. Yüz tanıma teknolojisi ise hayatımıza 2018 yılında girmeye başladı. Ancak bu kısa süreye rağmen AI temelli teknoloji bir çok skandal ile karşımıza çıktı.
ABD ve Avustralya gibi ülkelerde kullanılmaya başlayan yüz tanıma sistemleri, kullanıldıkları ülkelerde bile tartışma yarattı. Amazon’un yüz tanıma sistemi hali hazırda ABD polis teşkilatınca kullanılıyor. Ancak üç yıl önce ABD senatörleri ile gerçekleştirilen bir testte skandal sonuçlar ortaya çıktı. Buna göre Amazon yüz tanıma sistemi bazı senatörleri suçlu profilleri ile eşleştirmeye çalıştı.
Clearview AI ise yapay zeka temelli yüz tanıma teknolojilerinde ABD’nin önde gelen firmalarından. Firma 2020 yılında Facebook ve YouTube gibi sosyal medya platformlarından rıza almadan kişi profilleri topladı ve yüz tanıma teknolojisinde yer verdi. Bu skandal sonrası firma söz konusu verilerin sadece devlet kurumlarınca kullanacağını açıkladı.
