ChatGPT'nin 'DEI' İşaretlemesiyle İptal Edilen Hibe: Yapay Zeka Karar Süreçlerinde Tartışma Yarattı

ABD'de Ulusal Beşeri Bilimler Vakfı (NEH) hibeleriyle ilgili açılan bir dava, yapay zekanın kamu kurumlarındaki karar alma süreçlerine etkisine dair çarpıcı bir örnek sunuyor. İddialara göre, bir devlet kurumu olan DOGE'nin (Devlet Operasyonları Genel Müdürlüğü) çalışanları, ChatGPT gibi yapay zeka araçlarını kullanarak 100 milyon doların üzerinde hibenin iptal edilmesine yol açtı. Bu iptallerden biri, bir müzenin ısıtma, havalandırma ve klima (HVAC) sistemini yenilemek için ayrılan 349 bin dolarlık bir hibeydi. Dava belgelerine göre, bu hibe ChatGPT tarafından 'DEI' (Çeşitlilik, Eşitlik ve Kapsayıcılık) ile ilgili olarak işaretlendiği için iptal edildi.

Bu olay, yapay zekanın sadece metin üretmekle kalmayıp, karmaşık ve etik boyutları olan idari kararlar üzerinde de etkili olabileceğini gösteriyor. ChatGPT'nin bir projeyi 'DEI' ile ilişkilendirmesi ve bunun sonucunda bir hibenin iptal edilmesi, yapay zeka modellerinin taşıdığı potansiyel önyargıları ve bu önyargıların gerçek dünya sonuçlarını gözler önüne seriyor. Özellikle DEI gibi hassas konularda, yapay zeka algoritmalarının nasıl eğitildiği, hangi verilerle beslendiği ve bu verilerin toplumsal önyargıları yansıtıp yansıtmadığı soruları büyük önem taşıyor. Bir müzenin altyapı projesinin, yapay zeka tarafından yapılan bir etiketleme nedeniyle engellenmesi, teknolojiye olan güveni sarsabilir ve insan denetiminin vazgeçilmezliğini bir kez daha vurgulayabilir.

Söz konusu dava, yapay zeka destekli karar alma sistemlerinin şeffaflığı ve hesap verebilirliği konusunda ciddi tartışmaları beraberinde getiriyor. Eğer bir kamu kurumu, milyonlarca dolarlık hibe kararlarını yapay zeka çıktısına dayanarak alıyorsa, bu sistemlerin nasıl çalıştığı, hangi kriterleri kullandığı ve olası hataların nasıl düzeltileceği gibi soruların net bir şekilde yanıtlanması gerekiyor. Bu tür otomasyonlar verimlilik vaat etse de, yanlış veya önyargılı sonuçların toplumsal ve kültürel projelere zarar verme riski oldukça yüksek.

Bu vaka, yapay zeka teknolojilerinin idari ve kamusal alanlarda yaygınlaşmasıyla birlikte ortaya çıkabilecek yeni etik ve hukuki zorluklara işaret ediyor. Gelecekte, benzer olayların önüne geçmek için yapay zeka modellerinin geliştirilmesinde daha fazla etik denetim, şeffaflık ve insan gözetimi mekanizmalarının entegre edilmesi şart gibi görünüyor. Aksi takdirde, yapay zeka araçları, farkında olmadan toplumsal eşitsizlikleri pekiştirebilir veya değerli projelere haksız yere engel olabilir. Bu davanın sonucu, yapay zekanın kamusal alandaki gelecekteki kullanımına dair önemli bir emsal teşkil edebilir.