University of Washington tarafından yapılan yeni bir araştırma, ChatGPT’nin engellilikle ilgili belgeleri içeren başvuruları, benzer niteliklere sahip ancak engellilikten bahsetmeyen başvurulara kıyasla daha düşük sıraya yerleştirdiğini ortaya koydu.
Araştırmada sağırlık, körlük, serebral palsi, otizm ve “engellilik” gibi çeşitli anahtar kelimeler kullanıldı. Bir yazarın herkese açık CV’si temel alındı ve bu CV, engellilikle ilgili bilgiler eklenerek güncellendi.
60 denemede, orijinal CV %75 oranında ilk sırada yer aldı. ChatGPT’nin engelli adaylar hakkında negatif yönde ayrımcılık oluşturan nedenler yarattığı gözlendi.
Araştırmacılar, ChatGPT’yi bu durumu düzeltmek amacıyla eğiterek bu özelliklerin bazılarını azaltabildiklerini buldular. Geçmişte de ChatGPT benzer ön yargılar sergilemişti. Mart ayında Bloomberg, GPT 3.5 modelinin belirgin ırksal tercihleri olduğunu ve bilinen ayrımcılığa dayalı işe alım uygulamalarını tekrarladığını gösterdi.
OpenAI, bu testlerin AI modellerinin iş yerindeki pratik kullanımlarını yansıtmadığını belirtti.
