Amazon Yapay Zekasını Cinsiyetçi Gördü!

Geçtiğimiz günlerde ülkemiz pazarında da yerini alan e-ticaret şirketlerinden bir tanesi olan Amazon, iş alım süreçlerinde daha kolay hizmet vermek amacıyla kurduğu yapay zeka projesini cinsiyetçi bulduğu için sonlandırdı.

Farklı kaynaklar tarafından da doğrulanan Amazon’un yapay zeka projesi İskoçya’daki Edinburgh mühendisleri tarafından 2014 yılında işe alım süreçlerini hızlandırmak amacıyla kullanılmaya başlanmıştı.

Şirket tarafından yapılan geliştirmede 50 bin anahtar kelimeyi anlaması için 500 adet bilgisayar modellemesinden yer adım alındı. Kurulan sistem sonrasında aday önerisinde bulunmak için web sayfaları üzerinde gezinebilecekti.

Yapılan çalışma sonrasında yapay zeka projesini geliştiren mühendisler, sistemde bir sorun olduğunu keşfettiler. İşe alım için geliştirilen bu program kadın adaylar için antipatik davranıyordu. Bunun sebebi olarak da sisteme öğrenmesi için sunulan 10 yıllık iş başvurularının genelde erkek odaklı olmasıydı. Yapılan tarama ve öğrenme sonucunda erkek adayların Amazon için daha uygun adaylar olduğunu düşünerek kadın adayların başvurularını eliyordu.

Bu sorunu fark eden Amazon mühendisleri ön yargı olayını ortadan kaldırmak amacıyla sisteme müdahale etti. Ancak yapay zekanın öğrenmeye dayalı olarak çalıştığı için kadınlar konusunda yeni ayrımcılık yollarını bulacağından şüphelenen Amazon mühendisleri bu projeye son verme kararı aldı.

Yapay zeka kullanılan projelerin bazı durumlar karşısında yanlış öğrenime sahip olması sistemi de yanlış yönlendirmesine sebep olabiliyor. 2016 yılında geliştirilen bir yapay zeka algoritması ile hapis cezası alıp dışarı çıkan insanların fotoğraflarını tarayarak olası suçlu olma ihtimallerini hesaplaması için bir proje geliştirildi. Ancak sisteme yüklenen verilerin arasında siyahı görünüme sahip olan insanları yüksek oranda suçlu olarak ilan etmişti. Bu da yapay zekaya sahip olan projelerin ön yargıya da yer verebileceğinin kanıtı olarak düşünülüyor.