Elgiz Henden cevapladı: Yapay zeka ayrımcılık yapar mı?

Yapay Zeka da Ayrımcılık Yapar mı? Yapay zeka sistemlerinin tarafsız olduğu düşünülse de araştırmalar, bunun tam tersine işaret ediyor. Master Certified Coach (MCC) Dr Elgiz Henden, fark edilmesi güç mikroagresyonları yeniden üreten algoritmaların, çalışanların psikolojik güvenliğini ve kurumların kapsayıcılık hedeflerini tehdit ettiğin ifade etti.

Teknolojinin tarafsız olduğu düşünülüyor ancak araştırmalar farklı bir tablo ortaya koyuyor. Yapay zeka kaynaklı mikroagresyonlar iş dünyasında kapsayıcılık ve psikolojik güvenlik açısından yeni riskler yaratıyor.

Yapay Zeka Çağında Yeni Bir Ayrımcılık Türü Doğuyor? İş dünyasında yapay zeka kullanımının hızla yaygınlaşması, verimlilik ve hız gibi avantajların yanında yeni riskleri de beraberinde getiriyor. Bu risklerin başında ise çoğu zaman fark edilmeyen ancak bireyler üzerinde kalıcı etkiler bırakabilen “algoritmik mikroagresyonlar” geliyor.

Master Certified Coach (MCC) Dr. Elgiz Henden, yapay zeka sistemlerinin yalnızca teknik araçlar olarak değerlendirilmemesi gerektiğini belirterek, bu teknolojilerin toplumdaki mevcut önyargıları da taşıyabildiğine dikkat çekti. Henden, “Bugün birçok kurum yapay zekayı objektif ve tarafsız karar verici olarak görüyor. Oysa algoritmalar geçmiş verilerden öğreniyor ve geçmişteki önyargıları geleceğe taşıyabiliyor. Bu durum özellikle işe alım, performans değerlendirme, eğitim ve liderlik gelişimi gibi alanlarda yeni nesil ayrımcılık riskleri yaratıyor” dedi.

Ayrımcılık Artık İnsanlardan Değil, Algoritmalardan da Gelebiliyor? Mikroagresyonların uzun yıllardır çalışma hayatında kapsayıcılığın önündeki görünmez engellerden biri olduğunu belirten Henden, yapay zeka ile birlikte bu sorunun daha karmaşık bir boyut kazandığını ifade ederek, “Geleneksel mikroagresyonlar çoğunlukla insanlar arasında gerçekleşiyordu. Şimdi ise bunlarınzdijital versiyonlarıyla karşı karşıyayız. Yapay zeka sistemleri açıkça ayrımcı ifadeler kullanmasa da bazı grupları görünmez kılan varsayımlar üretebiliyor. Bu nedenlezayrımcılık artık yalnızca insan davranışlarında değil, algoritmaların karar mekanizmalarında da aranmalı.” dedi.

En Yaygın Örnekler, Mesleki Roller Üzerinden Ortaya Çıkıyor: Dr. Henden’e göre algoritmik mikroagresyonların en yaygın örneklerinden biri mesleki roller üzerinden ortaya çıkıyor. Bir yapay zeka sisteminden CEO ve sekreter arasında geçen bir toplantının hikayesi istendiğinde, sistemin CEO karakterini erkek, sekreteri ise kadın olarak kurgulamasının tesadüf olmadığını belirten Henden, bunun tarihsel verilerden beslenen toplumsal cinsiyet kalıplarının dijital ortamda yeniden üretilmesi anlamına geldiğini söyledi ve ekledi: “Bu tür sonuçlar ilk bakışta masum görünebilir. Ancak sürekli tekrarlandığında insanların belirli mesleklere veya liderlik rollerine ait olmadığı algısını güçlendirebilir. İşte mikroagresyonların etkisi tam da burada ortaya çıkar.”

Yapay Zeka Kimi ‘Normal’ Kabul Ediyor? Görüntü üretim sistemlerinde de benzer sorunların görüldüğünü belirten Henden, “Profesyonel bir doktor” ya da “mutlu bir aile” gibi basit komutlar verildiğinde ortaya çıkan görsellerin çoğunlukla belirli fiziksel özelliklere sahip kişilerden oluştuğunu söyleyerek, “Bu durum bize yapay zekanın hangi insan profilini ‘varsayılan’ kabul ettiğini gösteriyor. Farklı kültürleri, yaş gruplarını, beden tiplerini veya etnik kökenleri yeterince temsil etmeyen sistemler, farkında olmadan dışlayıcı mesajlar verebiliyor.” dedi.

Teknolojinin Tarafsızlık Maskesi Daha Büyük Risk Taşıyor. Dr. Elgiz Henden’e göre algoritmik mikroagresyonları tehlikeli kılan en önemli unsur, bunların çoğu zaman objektif ve bilimsel kararlar gibi algılanması. Henden; “Bir insanın önyargılı davranışı fark edildiğinde buna müdahale etmek mümkündür. Ancak aynı önyargı teknoloji tarafından üretildiğinde insanlar bunu çoğu zaman sorgulamıyor. Çünkü algoritmaların tarafsız olduğuna inanılıyor. Oysa görünmez önyargılar tam da bu noktada güç kazanıyor.

Psikolojik Güvenlik ve Aidiyet Duygusu Zedeleniyor. Yapay zeka sistemlerinin ürettiği dışlayıcı varsayımlar çalışanlar üzerinde ciddi psikolojik etkiler yaratabilir. Özellikle farklı kimliklere sahip bireylerin sürekli olarak görünmez kılınması aidiyet duygusunu zayıflatıyor. Kurumlar yalnızca fiziksel ve dijital dönüşüme yatırım yapmamalı; aynı zamanda psikolojik güvenliği koruyan teknolojik dönüşüm politikaları da geliştirmeli. Çalışanların kendilerini temsil edilmiş ve değerli hissetmeleri, sürdürülebilir başarı için kritik öneme sahip.

Kurumlar Algoritmaları da Denetlemek Zorunda.Yapay zeka kullanımının yaygınlaşmasıyla birlikte liderlerin sorumlulukları da artıyor. Kurumların kullandıkları sistemleri düzenli olarak önyargı ve kapsayıcılık testlerinden geçirmesi gerekiyor. Yapay zeka insanlığın kolektif hafızasının bir yansımasıdır. Eğer toplumsal önyargılarımızı çözemezsek, teknolojilerimiz de bunları büyüterek yeniden üretmeye devam edecektir. Yapay zeka çağında kapsayıcılık yalnızca insanlar arasında değil, algoritmaların satır aralarında da inşa edilmelidir.” diyerek sözlerini tamamladı.