ChatGPT Skandalı: Hükümet Yapay Zeka Kullanarak HBCU Fonlarını Kesti İddiası

Yapay zeka teknolojilerinin günlük hayatımızdaki etkisi giderek artarken, bu araçların etik ve sorumlu kullanımı konusunda önemli tartışmalar yaşanıyor. Son olarak, Kuzey Karolina Merkez Üniversitesi (North Carolina Central University - NCCU) tarafından açılan bir dava, ChatGPT gibi büyük dil modellerinin hükümet kararlarını nasıl etkileyebileceğine dair çarpıcı bir örnek teşkil ediyor. İddiaya göre, ABD Eğitim Bakanlığı'na bağlı bir birim, üniversitenin dijital arşiv projesini 'Çeşitlilik, Eşitlik ve Kapsayıcılık' (DEI) temelli olarak sınıflandırmak için ChatGPT'yi kullandı ve bu durum, üniversitenin önemli bir hibe fonunu kaybetmesine yol açtı.

NCCU'nun açtığı dava, Eğitim Bakanlığı'nın Dijital Dönüşüm ve Modernizasyon Ofisi'nin (DOGE), üniversitenin dijital arşiv projesi için sunduğu başvuru metnini ChatGPT'ye analiz ettirdiğini öne sürüyor. Yapay zeka aracının bu metni 'DEI' ile ilgili olarak etiketlemesi sonucunda, projenin fonlaması durduruldu. Bu olay, yapay zekanın önyargıları pekiştirme veya yanlış sınıflandırmalar yapma potansiyeli gibi uzun süredir devam eden endişeleri yeniden alevlendiriyor. Özellikle, tarihi siyah kolej ve üniversitelerin (HBCU) kritik öneme sahip projelerinin, yapay zeka tarafından yapılan otomatik bir sınıflandırma nedeniyle fon kaybına uğraması, teknoloji ve toplumsal adalet arasındaki karmaşık ilişkiyi gözler önüne seriyor.

Bu vaka, yapay zeka destekli karar alma süreçlerinin şeffaflığı ve hesap verebilirliği konusunda acil bir ihtiyaç olduğunu gösteriyor. Hükümet kurumlarının, özellikle hassas konularda ve fon tahsisi gibi kritik kararlarda yapay zeka araçlarını kullanırken çok daha dikkatli olması gerektiği vurgulanıyor. Bir yapay zeka modelinin ürettiği çıktının, insan denetimi olmadan doğrudan bir karara dönüşmesi, potansiyel olarak ciddi haksızlıklara ve öngörülemeyen sonuçlara yol açabilir. Bu durum, yapay zeka modellerinin eğitildiği verilerin kalitesi, önyargıları ve bu modellerin karmaşık metinleri doğru bir şekilde anlama yetenekleri hakkında soruları da beraberinde getiriyor.

Kuzey Karolina Merkez Üniversitesi'nin bu davası, sadece bir üniversitenin kaybettiği bir hibe meselesi olmanın ötesinde, yapay zeka çağında kamu yönetiminin ve etik standartların nasıl evrilmesi gerektiğine dair önemli bir emsal teşkil ediyor. Gelecekte, hükümetlerin ve diğer kurumların yapay zeka araçlarını kullanırken daha sağlam yönergeler, denetim mekanizmaları ve şeffaflık protokolleri geliştirmesi kaçınılmaz görünüyor. Aksi takdirde, yapay zeka tarafından alınan kararların adil olmayan sonuçlar doğurma riski artacak ve bu durum, teknolojiye olan güveni sarsacaktır.