Paylaşım Yap
Tüm Reklamları Kapat
Tüm Reklamları Kapat

Yapay Zeka, Sadece X-Işını Taramalarını Kullanarak Irk Teşhisi Yapabiliyor ama Bunun Nasıl Mümkün Olduğu Çözülemedi!

4 dakika
4,733
Yapay Zeka, Sadece X-Işını Taramalarını Kullanarak Irk Teşhisi Yapabiliyor ama Bunun Nasıl Mümkün Olduğu Çözülemedi!
Tarihi Geçmiş Haber

Bu haber 2 yıl öncesine aittir. Haber güncelliğini yitirmiş olabilir; ancak arşivsel değeri ve bilimsel gelişme/ilerleme anlamındaki önemi dolayısıyla yayında tutulmaktadır. Ayrıca konuyla ilgili gelişmeler yaşandıkça bu içerik de güncellenebilir.

Tüm Reklamları Kapat

Bir doktor, sadece röntgen görüntülerine bakarak hastanın siyahi mi, Asyalı mı, yoksa beyaz mı olduğunu ayırt edemez. Massachusetts Teknoloji Enstitüsü ve Harvard Tıp Okulu'ndaki araştırmacıları da içeren uluslararası bir ekibin The Lancet Digital Health tıp dergisinde yayınladığı şaşırtıcı bir makaleye göre bir bilgisayar bunu yapabiliyor olabilir![2]

Çalışma, X-ışınlarını ve CT taramalarını okumak için eğitilmiş bir yapay zeka programının, bir kişinin ırkını %90 doğrulukla tahmin edebileceğini buldu. Ancak çalışmayı yürüten bilim insanları, bilgisayarın bunu nasıl çözdüğüne dair hiçbir fikirleri olmadığını söylüyorlar. MIT Elektrik Mühendisliği ve Bilgisayar Bilimi yardımcı doçenti ve makalenin ortak yazarı Marzyeh Ghassemi şöyle diyor:

Lisansüstü öğrencilerim bana bu makaledeki bazı sonuçları gösterdiğinde, bunun bir hata olması gerektiğini düşündüm. Dürüst olmak gerekirse, bana söylediklerinde öğrencilerimin deli olduğunu düşündüm.

Yapay Zeka Destekli Tıp İçin Çok Büyük Bir Risk!

Doktorların, hastalıkları teşhis edebilmek için yapay zekaya sahip yazılımları giderek daha fazla kullanıldığı bir zamanda, bu araştırma, yapay zeka tabanlı teşhis sistemlerinin istemeden de olsa ırkçı önyargılara sahip sonuçlar üretebileceği yönündeki rahatsız edici ihtimali artırıyor. Araştırmacılar, makalelerinde şöyle yazıyorlar:

Tüm Reklamları Kapat

Çalışmamızdan elde edilen sonuçlar, yapay zekaya sahip derin öğrenme modellerinin, hastaların bildirdiği ırklarını tahmin etme yeteneğinin kendi başına önemli bir konu olmadığının altını çizmektedir. Bununla birlikte, yapay zekanın, genellikle klinik uzmanların yapamadığı durumlarda, bozuk, kırpılmış ve hatta parazitli tıbbi görüntülerden bile, hasta tarafından bildirilen ırkı doğru bir şekilde tahmin edebildiğini bulmamız, tıbbi görüntülemede kullanılan modeller için çok büyük bir risk oluşturmaktadır.
Araştırmacıların kullandığı veri setinde bulunan, kasten bozulmuş röntgenler.
Araştırmacıların kullandığı veri setinde bulunan, kasten bozulmuş röntgenler.
The Lancet Digital Health

Örneğin, X-ışınlarına erişimi olan bir yapay zeka, belirli bir kişi için o tedavi en iyisi olsun ya da olmasın, tüm siyahi hastalar için spesifik bir tedavi sürecini otomatik olarak önerebilir. Buna karşılık hastanın insan olan doktorunun, yapay zekanın teşhisini ırksal verilere dayandırdığını bilmesi mümkün olmazdı.

Araştırma, bilim insanlarının göğüs röntgenlerini incelemek için bir yapay zeka programının siyahi hastalarda hastalık belirtilerini gözden kaçırma olasılığının daha yüksek olduğunu fark etmesiyle doğdu. Harvard Tıp Okulu'nda başka bir ortak yazar ve doçent olan Leo Anthony Celi şöyle soruyor:

Eğer bilgisayarlar bir insanın ırkını ayırt edemiyor olsaydı, bu nasıl mümkün olabilirdi?
Bu görüntüdeki hastanın ırkını tahmin edebilir misiniz?
Bu görüntüdeki hastanın ırkını tahmin edebilir misiniz?
Boston Globe

Amerika Birleşik Devletleri, Kanada, Avustralya ve Tayvan'dan bilim insanlarını içeren araştırma ekibi, ilk olarak, her görüntünün kişinin ırkıyla etiketlendiği standart X-ışınları ve CT taramaları veri setlerini kullanarak bir yapay zeka sistemi eğitti. Görüntüler, göğüs, el ve omurga dahil olmak üzere vücudun farklı bölgelerinden geldi. Bilgisayar tarafından incelenen tanı görüntüleri, ten rengi veya saç dokusu gibi belirgin bir ırk belirteçlerini içermiyordu.

Yazılıma çok sayıda ırk etiketli görüntü gösterildikten sonra, henüz etiketlenmemiş farklı görüntü kümeleri de gösterildi. Program, görüntülerdeki insanların ırkını, ortalamada %90'ın oldukça üzerinde, yani dikkate değer bir doğrulukla tespit edebildi. Aynı boy, yaş veya cinsiyetteki insanlardan alınan görüntüler analiz edildiğinde bile, yapay zeka, siyahi ve beyaz hastaları doğru bir şekilde ayırt etti. Ama nasıl?

Tüm Reklamları Kapat

Yapay zekanın ırk teşhisindeki başarı oranları. Sayılar 0 ve 1 arasında değerler almaktadır.
Yapay zekanın ırk teşhisindeki başarı oranları. Sayılar 0 ve 1 arasında değerler almaktadır.
The Lancet Digital Health

Yapay Zeka Irkı Nereden Biliyor?

Ghassemi ve meslektaşları şaşkına dönmüş olsalar da bunun ten rengini belirleyen pigment olan melanin ile ilgisi olduğundan şüpheleniyor. Belki de X-ışınları ve CT tarayıcıları, insan gözü tarafından fark edilemese de daha koyu tenlerin daha yüksek melanin içeriğinden etkilenerek farklı tonlarda veya biçimlerde örüntüler oluşturuyor olabilir ve bu bilgiyi, insan kullanıcılarının daha önce hiç fark etmediği bir şekilde dijital görüntüye işliyor olabilir. Bundan emin olmak için çok daha fazla araştırma yapmak gerekecek.

Test sonuçları, farklı ırklardan insanlar arasındaki doğuştan gelen farklılıkların kanıtı olabilir mi?

Hampshire College'da biyolojik antropoloji profesörü ve Racism Not Race (Tür: Irk Değil, Irkçılık) kitabının yazarlarından Alan Goodman öyle düşünmüyor (Evrim Ağacı olarak biz de günümüzde ırkların anlamlı bir biyolojik metrik olmadığını daha önceden anlatmıştık).

Goodman, makalenin sonuçlarıyla ilgili şüphelerini dile getiriyor ve diğer araştırmacıların sonuçları yeniden üretebileceklerinden şüphe ettiğini söylüyor. Ama yapsalar bile, meselenin ırkla değil coğrafyayla ilgili olduğunu düşünüyor.

Evrim Ağacı'ndan Mesaj

Evrim Ağacı'nın çalışmalarına Kreosus, Patreon veya YouTube üzerinden maddi destekte bulunarak hem Türkiye'de bilim anlatıcılığının gelişmesine katkı sağlayabilirsiniz, hem de site ve uygulamamızı reklamsız olarak deneyimleyebilirsiniz. Reklamsız deneyim, sitemizin/uygulamamızın çeşitli kısımlarda gösterilen Google reklamlarını ve destek çağrılarını görmediğiniz, %100 reklamsız ve çok daha temiz bir site deneyimi sunmaktadır.

Kreosus

Kreosus'ta her 10₺'lik destek, 1 aylık reklamsız deneyime karşılık geliyor. Bu sayede, tek seferlik destekçilerimiz de, aylık destekçilerimiz de toplam destekleriyle doğru orantılı bir süre boyunca reklamsız deneyim elde edebiliyorlar.

Kreosus destekçilerimizin reklamsız deneyimi, destek olmaya başladıkları anda devreye girmektedir ve ek bir işleme gerek yoktur.

Patreon

Patreon destekçilerimiz, destek miktarından bağımsız olarak, Evrim Ağacı'na destek oldukları süre boyunca reklamsız deneyime erişmeyi sürdürebiliyorlar.

Patreon destekçilerimizin Patreon ile ilişkili e-posta hesapları, Evrim Ağacı'ndaki üyelik e-postaları ile birebir aynı olmalıdır. Patreon destekçilerimizin reklamsız deneyiminin devreye girmesi 24 saat alabilmektedir.

YouTube

YouTube destekçilerimizin hepsi otomatik olarak reklamsız deneyime şimdilik erişemiyorlar ve şu anda, YouTube üzerinden her destek seviyesine reklamsız deneyim ayrıcalığını sunamamaktayız. YouTube Destek Sistemi üzerinde sunulan farklı seviyelerin açıklamalarını okuyarak, hangi ayrıcalıklara erişebileceğinizi öğrenebilirsiniz.

Eğer seçtiğiniz seviye reklamsız deneyim ayrıcalığı sunuyorsa, destek olduktan sonra YouTube tarafından gösterilecek olan bağlantıdaki formu doldurarak reklamsız deneyime erişebilirsiniz. YouTube destekçilerimizin reklamsız deneyiminin devreye girmesi, formu doldurduktan sonra 24-72 saat alabilmektedir.

Diğer Platformlar

Bu 3 platform haricinde destek olan destekçilerimize ne yazık ki reklamsız deneyim ayrıcalığını sunamamaktayız. Destekleriniz sayesinde sistemlerimizi geliştirmeyi sürdürüyoruz ve umuyoruz bu ayrıcalıkları zamanla genişletebileceğiz.

Giriş yapmayı unutmayın!

Reklamsız deneyim için, maddi desteğiniz ile ilişkilendirilmiş olan Evrim Ağacı hesabınıza yapmanız gerekmektedir. Giriş yapmadığınız takdirde reklamları görmeye devam edeceksinizdir.

Goodman, genetikçilerin insan genomunda önemli ırk farklılıklarına dair hiçbir kanıt bulamadığını söylüyor. Ancak kişilerin atalarının yaşadığı yere göre, insanlar arasında büyük farklılıklar bulmak mümkün. Goodman şöyle soruyor:

Irk kullanmak yerine, birinin coğrafi koordinatlarına baksalardı, makine aynı şeyi yapar mıydı? Benim düşüncem, makinenin aynı başarıyı göstereceği yönünde.

Başka bir deyişle, bir yapay zeka, bir kişinin atalarının kuzey Avrupa'dan, diğerinin Orta Afrika'dan ve üçüncü bir kişinin atalarının Japonya'dan olduğunu bir X-ray'den belirleyebilir. Goodman şöyle diyor:

Siz buna ırk diyebilirsiniz. Ben buna coğrafi çeşitlilik diyorum.

Yine de, yapay zekanın bu coğrafi varyasyonu yalnızca bir X-ray'den nasıl tespit edebileceğinin net olmadığını kabul ediyor.

Her durumda, Celi, doktorların otomatik olarak önyargılı sonuçlar üretebilecek AI teşhis araçlarını kullanmakta isteksiz olmaları gerektiğini söyledi.

Bu Makaleyi Alıntıla
Okundu Olarak İşaretle
Özetini Oku
45
0
  • Paylaş
  • Alıntıla
  • Alıntıları Göster
Paylaş
Sonra Oku
Notlarım
Yazdır / PDF Olarak Kaydet
Bize Ulaş
Yukarı Zıpla

İçeriklerimizin bilimsel gerçekleri doğru bir şekilde yansıtması için en üst düzey çabayı gösteriyoruz. Gözünüze doğru gelmeyen bir şey varsa, mümkünse güvenilir kaynaklarınızla birlikte bize ulaşın!

Bu içeriğimizle ilgili bir sorunuz mu var? Buraya tıklayarak sorabilirsiniz.

Soru & Cevap Platformuna Git
Bu İçerik Size Ne Hissettirdi?
  • İnanılmaz 14
  • Tebrikler! 10
  • Merak Uyandırıcı! 6
  • Muhteşem! 5
  • Bilim Budur! 4
  • Mmm... Çok sapyoseksüel! 4
  • Umut Verici! 4
  • Güldürdü 3
  • Üzücü! 3
  • Grrr... *@$# 3
  • İğrenç! 3
  • Korkutucu! 3
Kaynaklar ve İleri Okuma
  1. Çeviri Kaynağı: Boston Globe | Arşiv Bağlantısı
  • hiawatha Bray, et al. Mit, Harvard Bilim Adamları, Ai'nın X-Işınlarından Irkı Tanıyabildiğini Buldu - Ve Kimse Nasıl Olduğunu Bilmiyor. (15 Mayıs 2022). Alındığı Tarih: 31 Mayıs 2022. Alındığı Yer: BostonGlobe.com | Arşiv Bağlantısı
  • ^ J. W. Gichoya, et al. (2022). Ai Recognition Of Patient Race In Medical Imaging: A Modelling Study. Elsevier BV, sf: e406-e414. doi: 10.1016/S2589-7500(22)00063-2. | Arşiv Bağlantısı
Tüm Reklamları Kapat

Evrim Ağacı'na her ay sadece 1 kahve ısmarlayarak destek olmak ister misiniz?

Şu iki siteden birini kullanarak şimdi destek olabilirsiniz:

kreosus.com/evrimagaci | patreon.com/evrimagaci

Çıktı Bilgisi: Bu sayfa, Evrim Ağacı yazdırma aracı kullanılarak 12/10/2024 13:23:31 tarihinde oluşturulmuştur. Evrim Ağacı'ndaki içeriklerin tamamı, birden fazla editör tarafından, durmaksızın elden geçirilmekte, güncellenmekte ve geliştirilmektedir. Dolayısıyla bu çıktının alındığı tarihten sonra yapılan güncellemeleri görmek ve bu içeriğin en güncel halini okumak için lütfen şu adrese gidiniz: https://evrimagaci.org/s/11859

İçerik Kullanım İzinleri: Evrim Ağacı'ndaki yazılı içerikler orijinallerine hiçbir şekilde dokunulmadığı müddetçe izin alınmaksızın paylaşılabilir, kopyalanabilir, yapıştırılabilir, çoğaltılabilir, basılabilir, dağıtılabilir, yayılabilir, alıntılanabilir. Ancak bu içeriklerin hiçbiri izin alınmaksızın değiştirilemez ve değiştirilmiş halleri Evrim Ağacı'na aitmiş gibi sunulamaz. Benzer şekilde, içeriklerin hiçbiri, söz konusu içeriğin açıkça belirtilmiş yazarlarından ve Evrim Ağacı'ndan başkasına aitmiş gibi sunulamaz. Bu sayfa izin alınmaksızın düzenlenemez, Evrim Ağacı logosu, yazar/editör bilgileri ve içeriğin diğer kısımları izin alınmaksızın değiştirilemez veya kaldırılamaz.

Tüm Reklamları Kapat
Keşfet
Akış
İçerikler
Gündem
Hız
Canlılık
Radyoaktif
Grup
Sindirim
Köpekgil
Zehir
Freud
Kimya Tarihi
Fare
Gen İfadesi
Sosyal
2019-Ncov
Sahte
Epistemik
Işık Yılı
Algı
Küçük
Jinekoloji
Sıcak
Rna
Mikrop
Nükleer Enerji
Zehirli Mantar
Obstetrik
Aklımdan Geçen
Komünite Seç
Aklımdan Geçen
Fark Ettim ki...
Bugün Öğrendim ki...
İşe Yarar İpucu
Bilim Haberleri
Hikaye Fikri
Video Konu Önerisi
Başlık
Kafana takılan neler var?
Gündem
Bağlantı
Ekle
Soru Sor
Stiller
Kurallar
Komünite Kuralları
Bu komünite, aklınızdan geçen düşünceleri Evrim Ağacı ailesiyle paylaşabilmeniz içindir. Yapacağınız paylaşımlar Evrim Ağacı'nın kurallarına tabidir. Ayrıca bu komünitenin ek kurallarına da uymanız gerekmektedir.
1
Bilim kimliğinizi önceleyin.
Evrim Ağacı bir bilim platformudur. Dolayısıyla aklınızdan geçen her şeyden ziyade, bilim veya yaşamla ilgili olabilecek düşüncelerinizle ilgileniyoruz.
2
Propaganda ve baskı amaçlı kullanmayın.
Herkesin aklından her şey geçebilir; fakat bu platformun amacı, insanların belli ideolojiler için propaganda yapmaları veya başkaları üzerinde baskı kurma amacıyla geliştirilmemiştir. Paylaştığınız fikirlerin değer kattığından emin olun.
3
Gerilim yaratmayın.
Gerilim, tersleme, tahrik, taciz, alay, dedikodu, trollük, vurdumduymazlık, duyarsızlık, ırkçılık, bağnazlık, nefret söylemi, azınlıklara saldırı, fanatizm, holiganlık, sloganlar yasaktır.
4
Değer katın; hassas konulardan ve öznel yoruma açık alanlardan uzak durun.
Bu komünitenin amacı okurlara hayatla ilgili keyifli farkındalıklar yaşatabilmektir. Din, politika, spor, aktüel konular gibi anlık tepkilere neden olabilecek konulardaki tespitlerden kaçının. Ayrıca aklınızdan geçenlerin Türkiye’deki bilim komünitesine değer katması beklenmektedir.
5
Cevap hakkı doğurmayın.
Aklınızdan geçenlerin bu platformda bulunmuyor olabilecek kişilere cevap hakkı doğurmadığından emin olun.
Sosyal
Yeniler
Daha Fazla İçerik Göster
Popüler Yazılar
30 gün
90 gün
1 yıl
Evrim Ağacı'na Destek Ol

Evrim Ağacı'nın %100 okur destekli bir bilim platformu olduğunu biliyor muydunuz? Evrim Ağacı'nın maddi destekçileri arasına katılarak Türkiye'de bilimin yayılmasına güç katın.

Evrim Ağacı'nı Takip Et!
Yazı Geçmişi
Okuma Geçmişi
Notlarım
İlerleme Durumunu Güncelle
Okudum
Sonra Oku
Not Ekle
Kaldığım Yeri İşaretle
Göz Attım

Evrim Ağacı tarafından otomatik olarak takip edilen işlemleri istediğin zaman durdurabilirsin.
[Site ayalarına git...]

Filtrele
Listele
Bu yazıdaki hareketlerin
Devamını Göster
Filtrele
Listele
Tüm Okuma Geçmişin
Devamını Göster
0/10000
Bu Makaleyi Alıntıla
Evrim Ağacı Formatı
APA7
MLA9
Chicago
H. Bray, et al. Yapay Zeka, Sadece X-Işını Taramalarını Kullanarak Irk Teşhisi Yapabiliyor ama Bunun Nasıl Mümkün Olduğu Çözülemedi!. (4 Haziran 2022). Alındığı Tarih: 12 Ekim 2024. Alındığı Yer: https://evrimagaci.org/s/11859
Bray, H., Ortaç, S., Bakırcı, Ç. M. (2022, June 04). Yapay Zeka, Sadece X-Işını Taramalarını Kullanarak Irk Teşhisi Yapabiliyor ama Bunun Nasıl Mümkün Olduğu Çözülemedi!. Evrim Ağacı. Retrieved October 12, 2024. from https://evrimagaci.org/s/11859
H. Bray, et al. “Yapay Zeka, Sadece X-Işını Taramalarını Kullanarak Irk Teşhisi Yapabiliyor ama Bunun Nasıl Mümkün Olduğu Çözülemedi!.” Edited by Çağrı Mert Bakırcı. Translated by Süleyman Ortaç, Evrim Ağacı, 04 Jun. 2022, https://evrimagaci.org/s/11859.
Bray, Hiawatha. Ortaç, Süleyman. Bakırcı, Çağrı Mert. “Yapay Zeka, Sadece X-Işını Taramalarını Kullanarak Irk Teşhisi Yapabiliyor ama Bunun Nasıl Mümkün Olduğu Çözülemedi!.” Edited by Çağrı Mert Bakırcı. Translated by Süleyman Ortaç. Evrim Ağacı, June 04, 2022. https://evrimagaci.org/s/11859.
ve seni takip ediyor

Göster

Şifremi unuttum Üyelik Aktivasyonu

Göster

Şifrenizi mi unuttunuz? Lütfen e-posta adresinizi giriniz. E-posta adresinize şifrenizi sıfırlamak için bir bağlantı gönderilecektir.

Geri dön

Eğer aktivasyon kodunu almadıysanız lütfen e-posta adresinizi giriniz. Üyeliğinizi aktive etmek için e-posta adresinize bir bağlantı gönderilecektir.

Geri dön

Close