Yapay zeka ırkçı mı?
Yapay zeka (YZ) destekli sistemler, son yıllarda büyük bir gelişim gösterse de, bazı ciddi etik sorunlarla karşı karşıya. YZ'nin internetteki bilgi kaynaklarını sorgusuzca öğrenmesi ve bunları kullanıcılarla paylaşması, zaman zaman ırkçı, yanlı ve bilim dışı sonuçlar üretmesine neden oluyor.
ABD merkezli Wired dergisi tarafından yayımlanan bir makale, Google, Microsoft ve Perplexity gibi büyük teknoloji şirketlerinin YZ sistemlerinin, beyaz üstünlüğü gibi ırkçı ideolojilere dayalı sonuçlar sunduğunu ortaya koydu.
Araştırmalara göre, özellikle "Pakistan IQ" veya "Sierra Leone IQ" gibi aramalarda, YZ sistemleri, Nazi sempatizanları tarafından desteklenen, bilim dışı verilere dayalı sonuçlar verebiliyor. Bu verilerde, Pakistan’ın IQ’su 80, Sierra Leone’ninki ise 45,7 olarak gösteriliyor. Oysa bu tür bilgiler, yanlış ve önyargılı kaynaklardan türetilmiştir.
Bilişim uzmanları, bu durumu YZ'nin öğrenme sürecindeki eksikliklere bağlıyor. YZ, doğru-yanlış ayırt etmeden her bilgiyi öğreniyor ve internetin sunduğu tüm verileri doğru kabul ediyor. Bu da, internetteki ırkçı, yanıltıcı veya hatalı içeriklerin YZ tarafından doğruymuş gibi algılanmasına yol açıyor.
MIT araştırmacısı Joy Buolamwini’nin 2018 yılında yaptığı çalışmada, yüz tanıma algoritmalarının siyahi kadınları doğru tanımadığı ortaya çıkmıştı. Benzer şekilde, sağlık sektöründe de bazı YZ sistemleri, siyahi hastaların semptomlarını hafife alabiliyor. Twitter’da ise, fotoğraflar işlenirken beyaz insanlara öne çıkarken, siyah insanları genellikle olumsuz bir şekilde sınıflandırılabiliyor.
Uzmanlar, YZ’nin bu tür önyargıları yaymasının tehlikeli olduğunu vurguluyor. YZ sistemleri, duygusuz ve etik olmayan bir şekilde verileri işlediği için, bazen mantıksız ve zararlı sonuçlar verebiliyor. Örneğin, sağlıklı beslenme önerisi isteyen bir kişiye, YZ yanlışlıkla kaya parçası yemesini tavsiye edebiliyor.
Ancak bu sorunların tek kaynağı YZ’nin kendisi değil, ona yanlış bilgileri öğreten veriler ve algoritmalardır. YZ'nin doğru ve güvenilir sonuçlar verebilmesi için, verilerin daha dikkatli bir şekilde seçilmesi ve denetlenmesi gerektiği belirtiliyor.
Bu tür problemlere karşı Algorithmic Justice League gibi girişimler, algoritmaların daha adil ve tarafsız çalışmasını sağlamak için önemli bir rol oynuyor. Ancak teknoloji hızla gelişiyor ve bu tür yanlılıklar, YZ’nin güvenilirliğini tehdit ediyor. Uzmanlar, YZ'nin daha büyük sorunlara yol açmaması için etik, şeffaflık ve adaletin ön planda tutulması gerektiğini ifade ediyor. Aksi takdirde, teknoloji ile insanlık arasındaki güven ciddi şekilde zedelenebilir.