Yapay Zeka Destekli İşe Alımda İsim Kaynaklı Önyargı Tehlikesi: LLM'ler Aday Değerlendirmeyi Nasıl Yanlış Yönlendiriyor?

Yapay zeka (YZ) teknolojileri, işe alım süreçlerinde verimliliği artırma vaadiyle hızla yaygınlaşıyor. Ancak, son dönemde yapılan kapsamlı bir araştırma, bu teknolojilerin potansiyel tehlikelerine dikkat çekiyor. Büyük dil modelleri (LLM) tarafından oluşturulan aday özetlerinin, adayların isimlerine bağlı olarak önyargılı değerlendirmeler içerebildiği ve bunun da işe alım kararlarını olumsuz etkileyebileceği ortaya kondu. Bu bulgular, YZ'nin adil ve tarafsız bir işe alım aracı olma potansiyelini sorgulatıyor.

Araştırmacılar, LLM'lerin işe alım ve maaş tavsiyelerinde isim bazlı önyargılar sergilediğini daha önceki çalışmalarla belgelenmişti. Ancak bu yeni çalışma, LLM'lerin adaylar için özetler oluşturduğu ve bu özetlerin daha sonra değerlendirildiği bir senaryoya odaklanıyor. Sentetik özgeçmişler ve gerçek iş ilanları kullanılarak, dört farklı LLM'nin yaklaşık bir milyon özgeçmiş özeti incelendi. Bu inceleme sırasında, aday isimleri sistematik olarak ırk ve cinsiyet çağrışımı yapacak şekilde değiştirilerek modellerin tepkileri gözlemlendi. Sonuçlar, LLM'lerin özgeçmişlerdeki gerçek bilgilere ek olarak, isimlerin tetiklediği değerlendirme çerçeveleriyle özetleri şekillendirdiğini gösterdi.

Çalışma, LLM tarafından üretilen her özeti, özgeçmişe dayalı gerçek içerik ve değerlendirici çerçeve olarak iki ana bileşene ayırdı. Bu ayrım sayesinde, modellerin sadece nesnel bilgiyi değil, aynı zamanda isimlerin çağrıştırdığı algıları da özetlere nasıl yansıttığı net bir şekilde anlaşıldı. Özellikle, belirli ırk ve cinsiyet çağrışımı yapan isimlere sahip adaylar için oluşturulan özetlerde, olumsuz veya daha az olumlu değerlendirme ifadelerinin daha sık kullanıldığı tespit edildi. Bu durum, LLM'lerin insan önyargılarını öğrenme ve hatta pekiştirme potansiyeline sahip olduğunu bir kez daha gözler önüne serdi.

Bu bulgular, yapay zeka destekli işe alım sistemlerinin geliştirilmesi ve uygulanması konusunda ciddi endişeleri beraberinde getiriyor. Şirketler, verimlilik ve nesnellik arayışıyla YZ araçlarına yönelirken, bu tür önyargıların işe alım havuzunu daraltabileceği, çeşitliliği azaltabileceği ve yetenekli adayların göz ardı edilmesine yol açabileceği riskini göz önünde bulundurmak zorundadır. Gelecekte, LLM'lerin işe alım süreçlerinde daha adil ve tarafsız bir rol oynaması için, modellerin eğitim verilerindeki önyargıların temizlenmesi, algoritmik şeffaflığın artırılması ve insan denetiminin güçlendirilmesi kritik önem taşıyacaktır. Aksi takdirde, YZ destekli işe alım, eşitsizlikleri derinleştiren bir araç haline gelebilir.