Paylaşım Yap
Tüm Reklamları Kapat

ChatGPT, Özgeçmiş İncelerken Engellilere Karşı Önyargılı Davranıyor!

ChatGPT, Özgeçmiş İncelerken Engellilere Karşı Önyargılı Davranıyor! Pixabay
5 dakika
536
Tüm Reklamları Kapat

Washington Üniversitesi yüksek lisans öğrencisi Kate Glazko, geçen yıl araştırma stajları ararken işverenlerin özgeçmişleri özetlemek ve adayları sıralamak için ChatGPT ve diğer yapay zeka araçlarını kullandıklarını ve bunları internette paylaştıklarını fark etti.

İşe alımda otomatik tarama onlarca yıldır yaygın olarak kullanılıyor. Washington Üniversitesi Paul G. Allen Bilgisayar Bilimi ve Mühendisliği Okulu'nda doktora öğrencisi olan Glazko ise üretken yapay zekaların gerçek dünyadaki önyargıları, örneğin engellilere karşı olan önyargıları, nasıl çoğaltıp güçlendirebileceğini araştırıyor.

Glazko, "Bu tarz bir sistemde engelli olduğu ima edilen özgeçmişler nasıl sıralanırdı?" sorusunun cevabını merak ettiğini ve araştırdığını belirtiyor. Washington Üniversitesi araştırmacılarından oluşan ekip, bulgularını 5 Haziran 2024'te Rio de Janeiro'da düzenlenen ACM Adalet, Hesap Verebilirlik ve Şeffaflık Konferansı'nda sundu.[1]

Tüm Reklamları Kapat

Araştırmacılar, ChatGPT'nin "Tom Wilson Engellilik Liderlik Ödülü" gibi engellilikle ilgili onur ödülü ve kimlik bilgilerine sahip özgeçmişleri, diğer eş seviyedeki özgeçmişlerden her zaman daha düşük sıralara koyduğunu ortaya çıkardı. aynı özgeçmişlerin bu onur ve referanslar olmadan hazırlanmış hallerine göre tutarlı bir şekilde daha düşük sıraladığını ortaya koydu. Sıralamanın nedeni sorulduğunda ise yapay zeka, otizm liderlik ödülü olan bir özgeçmişin "liderlik rollerinin daha az ön planda olduğunu" belirtti. Bu da yapay zekanın otizmli insanların iyi bir lider olamayacağına yönelik bir stereotipten etkilendiğini gösteriyor.

Ancak araştırmacılar aracı engellilere ayrımcılık yapmaması yönünde yazılı talimatlarla uyardığında, bir engellilik durumu hariç yapay zekanın önyargısının azaldığı görüldü. Sağırlık, körlük, serebral palsi, otizm ve "genel engellilik" durumunda önyargıda iyileşme görülse de engellilikten bahsetmeyen 3 özgeçmiş yine de daha yüksek sıralarda yer aldı. Çalışmanın baş yazarı Glazko, şöyle anlatıyor:

Yapay zeka ile özgeçmiş sıralama yaygınlaşmaya başlıyor, ancak bunun güvenli ve etkili bir yöntem olup olmadığı konusunda çok fazla araştırma yok. İş arayan engelliler, bir özgeçmiş gönderdiklerinde özgeçmişe engelliliğe yönelik referansların eklenip eklenmeyeceği konusunda hep şüphe duyuyor. Sanırım engelli insanlar bunu incelemeyi yapanlar insan olduğunda bile düşünmek durumunda kalıyor.

Araştırmacılar, çalışmanın yazarlarından birinin halka açık yaklaşık 10 sayfalık özgeçmişini kullandı. Ekip daha sonra her biri farklı bir engelliliği ima eden altı adet geliştirilmiş özgeçmiş oluşturdu. Daha sonra her bir özgeçmişe engellilikle ilgili bir burs bir ödül, bir çeşitlilik-eşitlik-kapsayıcılık (DEI) paneli üyeliği ve bir adet öğrenci organizasyonu üyeliği olmak üzere dört referans ekledi.

Bu geliştirilmiş özgeçmişler, ABD merkezli büyük bir yazılım şirketindeki gerçek bir "öğrenci araştırmacı" iş ilanı temel alınarak ChatGPT'nin GPT-4 modelini ile sıralandı. Araştırmacılar, her bir karşılaştırmayı 10 kez tekrar etti. Engellilik referansı bulunması dışında tamamen aynı olan özgeçmişler, 60 denemenin sadece dörtte birinde birinci sırayaydı. Makalenin kıdemli yazarı profesör Jennifer Mankoff şöyle anlatıyor:

Tüm Reklamları Kapat

Adil bir dünyada, geliştirilmiş özgeçmişin her seferinde ilk sırada yer alması gerekirdi. Örneğin, liderlik özellikleri ile tanınmış birinin, aynı geçmişe sahip olmayan birinden geride sıralanması gereken bir iş düşünemiyorum.

Araştırmacılar GPT-4'ten sıralamaları açıklamasını istediğinde, yanıtları açık ve örtük biçimlerde engelli ayrımcılığı sergiledi. Örneğin, depresyonu olan bir adayın "Çeşitlilik-eşitlik-kapsayıcılık kavramlarına ve kişisel zorluklara daha çok odaklandığını" ve bunun onu "rolün temel teknik ve araştırma odaklı yönlerinden uzaklaştırdığını" belirtti. Glazko, şöyle anlatıyor:

GPT'nin bazı açıklamaları, kişinin engelli olmasına dayanarak tüm özgeçmişini çarpıtıyordu. Çeşitlilik-eşitlik-kapsayıcılık veya engellilik kavramları ile ilgili olmanın özgeçmişin diğer kısımlarından potansiyel olarak uzaklaşmak anlamına geldiğini iddia ediyordu. Örneğin zorluklar kavramından hiç bahsedilmemesine rağmen, zorluklar kavramını depresyon özgeçmiş karşılaştırmasına dahil etti. Yani analizde bazı stereotiplerin ortaya çıktığını görebilirdiniz.

Bu noktadan sonra, araştırmacılar sistemin daha az önyargılı olması için eğitilip eğitilemeyeceğiyle test etmeye karar verdi. GPT-4'ü yazılı talimatlarla (kod gerektirmeden) özelleştirmelerine olanak tanıyan "GPTs Editor" aracına başvuran ekip, sohbet robotuna engellilere yönelik önyargılardan kaçınması ve engelli adaleti ve çeşitlilik-eşitlik-kapsayıcılık ilkeleriyle çalışması talimatını verdiler.

Deneyi bu kez yeniden eğitilmiş sohbet botu ile tekrarladılar. Yenilenmiş sistem, geliştirilmiş özgeçmişleri 60 denemenin 37'sinde daha yüksek bir sıraya koydu. Ancak otizm ve depresyon gibi durumlar için iyileşme minimal seviyede veya sıfırdı. Otizmin belirtildiği özgeçmiş 10 denemenin sadece 3'ünde ilk sırada yer alırken ve depresyonun belirtildiği özgeçmiş, önceki sonuçlarla aynı olacak şekilde sadece iki kez birinci sırada yer aldı. Glazko, şöyle söylüyor:

İnsanların gerçek dünyadaki görevleri yaptırmak için yapay zeka kullanırken sistemin önyargılarının olduğunun farkında olması gerekiyor. Aksi takdirde, ChatGPT kullanan bir işe alım görevlisi bu düzeltmeleri yapamaz veya kullandığı talimatlarla bile önyargının devam edebileceğinin farkında olamaz.

Araştırmacılar, ourability.com ve inclusively.com gibi bazı kuruluşların, işe alımlarda yapay zeka kullanılsa da kullanılmasa da önyargılarla karşılaşan engellilerin karşılaştığı sonuçları iyileştirmek için çalıştığını belirtiyor. Yazarlar ayrıca yapay zekanın önyargılarını belgelemek ve gidermek için daha fazla araştırmaya ihtiyaç olduğunu vurguluyorlar. Bunlar arasında Google'ın yapay zekası Gemini ve Meta'nın yapay zekası Llama gibi diğer sistemlerin test edilmesi; diğer engellilerin de araştırmaya dahil edilmesi, sistemin engellilere yönelik önyargılarının cinsiyet ve ırk gibi diğer özelliklerle nasıl kesiştiğinin incelenmesi, daha fazla özelleştirmenin önyargıları daha tutarlı bir şekilde azaltıp azaltamayacağının araştırılması ve GPT-4'ün temel sürümünün daha az önyargılı hale getirilip getirilemeyeceğinin görülmesi yer alıyor. Mankoff şöyle bitiriyor:

Bu önyargıları incelememiz ve belgelememiz çok önemli. Bu çalışmadan çok şey öğrendik ve umarım teknolojinin eşit ve adil bir şekilde kullanıldığından emin olmak için sadece engellilikle ilgili değil, diğer azınlık kimliklerle ilgili daha geniş bir tartışmaya katkıda bulunacağız.
Bu Makaleyi Alıntıla
Okundu Olarak İşaretle
14
0
  • Paylaş
  • Alıntıla
  • Alıntıları Göster
Paylaş
Sonra Oku
Notlarım
Yazdır / PDF Olarak Kaydet
Bize Ulaş
Yukarı Zıpla

Feragatname: Evrim Ağacı, doğrudan üniversiteler, akademik dergiler veya resmi bilim kurumları tarafından yayınlanan bu basın açıklamalarını temel editöryal düzenlemeden geçirmektedir; ancak açıklamaların isabetliliğinden sorumlu değildir. Basın açıklaması konusundaki sorularınızı aşağıdaki medya irtibat kişisine yöneltebilirsiniz.

Medya İrtibat
  • Stefan Milne
  • University of Washington

İçeriklerimizin bilimsel gerçekleri doğru bir şekilde yansıtması için en üst düzey çabayı gösteriyoruz. Gözünüze doğru gelmeyen bir şey varsa, mümkünse güvenilir kaynaklarınızla birlikte bize ulaşın!

Bu içeriğimizle ilgili bir sorunuz mu var? Buraya tıklayarak sorabilirsiniz.

Soru & Cevap Platformuna Git
Bu İçerik Size Ne Hissettirdi?
  • Tebrikler! 2
  • Mmm... Çok sapyoseksüel! 2
  • Üzücü! 2
  • Muhteşem! 1
  • Bilim Budur! 1
  • İnanılmaz 1
  • Umut Verici! 1
  • Merak Uyandırıcı! 1
  • Korkutucu! 1
  • Güldürdü 0
  • Grrr... *@$# 0
  • İğrenç! 0
Kaynaklar ve İleri Okuma
  • ^ K. Glazko, et al. Identifying And Improving Disability Bias In Gpt-Based Resume Screening. (5 Haziran 2024). Alındığı Tarih: 22 Haziran 2024. Alındığı Yer: ACM Other conferences doi: 10.1145/3630106.3658933. | Arşiv Bağlantısı
Tüm Reklamları Kapat

Evrim Ağacı'na her ay sadece 1 kahve ısmarlayarak destek olmak ister misiniz?

Şu iki siteden birini kullanarak şimdi destek olabilirsiniz:

kreosus.com/evrimagaci | patreon.com/evrimagaci

Çıktı Bilgisi: Bu sayfa, Evrim Ağacı yazdırma aracı kullanılarak 23/07/2024 15:04:14 tarihinde oluşturulmuştur. Evrim Ağacı'ndaki içeriklerin tamamı, birden fazla editör tarafından, durmaksızın elden geçirilmekte, güncellenmekte ve geliştirilmektedir. Dolayısıyla bu çıktının alındığı tarihten sonra yapılan güncellemeleri görmek ve bu içeriğin en güncel halini okumak için lütfen şu adrese gidiniz: https://evrimagaci.org/s/17939

İçerik Kullanım İzinleri: Evrim Ağacı'ndaki yazılı içerikler orijinallerine hiçbir şekilde dokunulmadığı müddetçe izin alınmaksızın paylaşılabilir, kopyalanabilir, yapıştırılabilir, çoğaltılabilir, basılabilir, dağıtılabilir, yayılabilir, alıntılanabilir. Ancak bu içeriklerin hiçbiri izin alınmaksızın değiştirilemez ve değiştirilmiş halleri Evrim Ağacı'na aitmiş gibi sunulamaz. Benzer şekilde, içeriklerin hiçbiri, söz konusu içeriğin açıkça belirtilmiş yazarlarından ve Evrim Ağacı'ndan başkasına aitmiş gibi sunulamaz. Bu sayfa izin alınmaksızın düzenlenemez, Evrim Ağacı logosu, yazar/editör bilgileri ve içeriğin diğer kısımları izin alınmaksızın değiştirilemez veya kaldırılamaz.

Keşfet
Akış
İçerikler
Gündem
Element
Venüs
Haber
Köpekgil
Doğru
Elementler
Evrim Ağacı
Elektrik
Diş Gelişimi
Nöronlar
Beyin
Abd
Yörünge
Kertenkele
Su
Gazetecilik
Müzik
Elektromanyetik
Evrimsel Süreç
Evrim Teorisi
Dünya Dışı Yaşam
Hücre
Aşı
Beslenme Davranışı
Kalıtım
Aklımdan Geçen
Komünite Seç
Aklımdan Geçen
Fark Ettim ki...
Bugün Öğrendim ki...
İşe Yarar İpucu
Bilim Haberleri
Hikaye Fikri
Video Konu Önerisi
Başlık
Gündem
Bugün bilimseverlerle ne paylaşmak istersin?
Bağlantı
Kurallar
Komünite Kuralları
Bu komünite, aklınızdan geçen düşünceleri Evrim Ağacı ailesiyle paylaşabilmeniz içindir. Yapacağınız paylaşımlar Evrim Ağacı'nın kurallarına tabidir. Ayrıca bu komünitenin ek kurallarına da uymanız gerekmektedir.
1
Bilim kimliğinizi önceleyin.
Evrim Ağacı bir bilim platformudur. Dolayısıyla aklınızdan geçen her şeyden ziyade, bilim veya yaşamla ilgili olabilecek düşüncelerinizle ilgileniyoruz.
2
Propaganda ve baskı amaçlı kullanmayın.
Herkesin aklından her şey geçebilir; fakat bu platformun amacı, insanların belli ideolojiler için propaganda yapmaları veya başkaları üzerinde baskı kurma amacıyla geliştirilmemiştir. Paylaştığınız fikirlerin değer kattığından emin olun.
3
Gerilim yaratmayın.
Gerilim, tersleme, tahrik, taciz, alay, dedikodu, trollük, vurdumduymazlık, duyarsızlık, ırkçılık, bağnazlık, nefret söylemi, azınlıklara saldırı, fanatizm, holiganlık, sloganlar yasaktır.
4
Değer katın; hassas konulardan ve öznel yoruma açık alanlardan uzak durun.
Bu komünitenin amacı okurlara hayatla ilgili keyifli farkındalıklar yaşatabilmektir. Din, politika, spor, aktüel konular gibi anlık tepkilere neden olabilecek konulardaki tespitlerden kaçının. Ayrıca aklınızdan geçenlerin Türkiye’deki bilim komünitesine değer katması beklenmektedir.
5
Cevap hakkı doğurmayın.
Bu platformda cevap veya yorum sistemi bulunmamaktadır. Dolayısıyla aklınızdan geçenlerin, tespit edilebilir kişilere cevap hakkı doğurmadığından emin olun.
Ekle
Soru Sor
Sosyal
Yeniler
Daha Fazla İçerik Göster
Popüler Yazılar
30 gün
90 gün
1 yıl
Evrim Ağacı'na Destek Ol

Evrim Ağacı'nın %100 okur destekli bir bilim platformu olduğunu biliyor muydunuz? Evrim Ağacı'nın maddi destekçileri arasına katılarak Türkiye'de bilimin yayılmasına güç katın.

Evrim Ağacı'nı Takip Et!
Yazı Geçmişi
Okuma Geçmişi
Notlarım
İlerleme Durumunu Güncelle
Okudum
Sonra Oku
Not Ekle
Kaldığım Yeri İşaretle
Göz Attım

Evrim Ağacı tarafından otomatik olarak takip edilen işlemleri istediğin zaman durdurabilirsin.
[Site ayalarına git...]

Filtrele
Listele
Bu yazıdaki hareketlerin
Devamını Göster
Filtrele
Listele
Tüm Okuma Geçmişin
Devamını Göster
0/10000
Bu Makaleyi Alıntıla
Evrim Ağacı Formatı
APA7
MLA9
Chicago
U. Derin. ChatGPT, Özgeçmiş İncelerken Engellilere Karşı Önyargılı Davranıyor!. (22 Haziran 2024). Alındığı Tarih: 23 Temmuz 2024. Alındığı Yer: https://evrimagaci.org/s/17939
Derin, U. (2024, June 22). ChatGPT, Özgeçmiş İncelerken Engellilere Karşı Önyargılı Davranıyor!. Evrim Ağacı. Retrieved July 23, 2024. from https://evrimagaci.org/s/17939
U. Derin. “ChatGPT, Özgeçmiş İncelerken Engellilere Karşı Önyargılı Davranıyor!.” Edited by Ufuk Derin. Evrim Ağacı, 22 Jun. 2024, https://evrimagaci.org/s/17939.
Derin, Ufuk. “ChatGPT, Özgeçmiş İncelerken Engellilere Karşı Önyargılı Davranıyor!.” Edited by Ufuk Derin. Evrim Ağacı, June 22, 2024. https://evrimagaci.org/s/17939.
ve seni takip ediyor

Göster

Şifremi unuttum Üyelik Aktivasyonu

Göster

Şifrenizi mi unuttunuz? Lütfen e-posta adresinizi giriniz. E-posta adresinize şifrenizi sıfırlamak için bir bağlantı gönderilecektir.

Geri dön

Eğer aktivasyon kodunu almadıysanız lütfen e-posta adresinizi giriniz. Üyeliğinizi aktive etmek için e-posta adresinize bir bağlantı gönderilecektir.

Geri dön

Close