“Veriler Toplanmadığında ve Cinsiyete Göre Ayrılmadığında, Farklı Gruplar İçin Neyin İşe Yarayıp Neyin Yaramadığını Öğrenmenin Bir Yolu Yoktur.”[1]
Bu başlık, telekomünikasyonla ilgili 1841’den beri kaydedilen en eski istatistiklere sahip kurum olan Uluslararası Telekomünikasyon Birliği’ne (ITU) ait. Kurum, yapay zekâda cinsiyet eşitsizliğini kapatılması gerektiğini savunuyor. Konuyu biraz açalım.
ITU’ye göre erkekler için veriler kullanılarak inşa edilen ve tasarlanan gerçek bir dünyada, nüfusunun yarısının ihtiyaçlarını görmezden gelinmektedir. Oysa yapay zekâ tüm insanlığın karşılaştığı zorlukları çözmek için kullanılmalıdır.
“Görünmez Kadınlar: Erkekler İçin Tasarlanmış Bir Dünyada Veri Yanlılığını Açığa Çıkarma” kitabının yazarı Caroline Criado-Perez, çoğu verinin merkezindeki varsayılan insanın “Referans Adam” olduğunu söylemektedir. 25-30 yaşları arasındaki ve 70 kg ağırlığındaki bu beyaz tenli Avrupa kökenli adam, onlarca yıldır sektörler arası araştırma çalışmalarında “referans insan” olmuştur. Criado-Perez, “AI (yapay zekâ) for Good Global Summit 2020”nin açılış konuşmasında toplumsal cinsiyet veri açığının, küresel olarak topladığımız ve toplamaya devam ettiğimiz bilgilerin büyük çoğunluğunun – ekonomik verilerden şehir planlama verilerine ve tıbbi verilere kadar – erkeklerden toplanmasından kaynaklandığını ifade etmiştir.
Yapay Zekâ Cinsiyet Eşitsizliğini Kapatmak: Eşit Bir Dünya İçin Neden Daha İyi Verilere İhtiyacımız Var?
Yapay zekâ, herkes için sonuçları iyileştirme vaadini yerine getirecekse, cinsiyete göre ayrıştırılmış verileri toplayarak bu boşluğu düzeltmek çok önemlidir. Sorunları tanımlamak ve çözmek için erkek bedenlerinden ve yaşam tarzlarından elde edilen verilere itimat etmek güvenilir değildir.
Araştırmalar, bir araba kazasında emniyet kemeri takan bir kadının, aynı kazadaki bir erkeğe göre ciddi şekilde yaralanma olasılığının %47 ve ölme olasılığının da %17 daha yüksek olduğu bulmuştur çünkü testlerde kullanılan mankenler, ortalama bir erkeği temsil etmektedir. Erkek egemen veri kümeleri üzerinde eğitilen herhangi bir algoritmanın herkes için doğru riskleri ve sonuçları tahmin etmesi olası değildir.
Veri Açığı Nasıl Daralır?
Yapay zekâda önyargılı veriler kullanıldığında tehlike, dünyadaki hakim eşitsizlikleri artırmaktadır. Criado-Perez’e göre, boşluğu doldurmanın bir yolu, cinsiyet ve cinsiyete göre ayrıştırılmış daha fazla veri toplamaktır. Ancak oraya varmanın ilk adımı, önyargı sorununu ortadan kaldırmaktır. Bunun için doğru soruları sormak gerekmektedir. Yalnızca erkek merkezli veri toplarken “Neyi kaçırıyoruz” ya da “Neyi kaçırdığımızı bilecek kadar donanımlı mıyız?
Bir ekip veya kuruluş ne kadar çeşitli olursa, çeşitli bakış açıları sağlamak ve eksiklikleri tespit etmek o kadar iyi konumlandırılır. Criado-Perez, 2014 yılında Apple’ın sağlık izleme uygulamasını başlattığında, kullanıcıların bakır alımlarını izlemelerine bile izin verdiğini ancak adet döngülerini izleme seçeneği sunmadığını belirtmiştir.
Yapay zekâ ve algoritmaların herkes için işe yarayıp yaramadığını anlamak için, verilerin daha erişilebilir olması gerekmektedir. Criado-Perez “Tüm hayatımızı etkileyen kararlar almak için şirketlerin, üreticilerin ve hükümetlerin hangi verileri kullandığını bilmek bir hak haline getirilmeli” demekte ve şeffaf yapay zekânın, potansiyel gizli önyargılara ve hesaplanamayan veriye dayalı kararlara sahip çözülemez ‘kara kutu’ algoritmalarına son verilmesi anlamına geldiğini de eklemektedir.
[1] Bu yazı https://www.itu.int/en/myitu/News/2020/09/25/07/06/AI-for-Good-Breakthrough-Days—gender-data-gap adresinden çevrilmiştir.
Hazırlayan: Dr. Öğr. Üyesi ESRA BOZKANAT
Güzel konu, tebrik ederim.