Yapay Zeka, Sadece X-Işını Taramalarını Kullanarak Irk Teşhisi Yapabiliyor ama Bunun Nasıl Mümkün Olduğu Çözülemedi!

Bir doktor, sadece röntgen görüntülerine bakarak hastanın siyahi mi, Asyalı mı, yoksa beyaz mı olduğunu ayırt edemez. Massachusetts Teknoloji Enstitüsü ve Harvard Tıp Okulu'ndaki araştırmacıları da içeren uluslararası bir ekibin The Lancet Digital Health tıp dergisinde yayınladığı şaşırtıcı bir makaleye göre bir bilgisayar bunu yapabiliyor olabilir!^[2]

Çalışma, X-ışınlarını ve CT taramalarını okumak için eğitilmiş bir yapay zeka programının, bir kişinin ırkını %90 doğrulukla tahmin edebileceğini buldu. Ancak çalışmayı yürüten bilim insanları, bilgisayarın bunu nasıl çözdüğüne dair hiçbir fikirleri olmadığını söylüyorlar. MIT Elektrik Mühendisliği ve Bilgisayar Bilimi yardımcı doçenti ve makalenin ortak yazarı Marzyeh Ghassemi şöyle diyor:

Lisansüstü öğrencilerim bana bu makaledeki bazı sonuçları gösterdiğinde, bunun bir hata olması gerektiğini düşündüm. Dürüst olmak gerekirse, bana söylediklerinde öğrencilerimin deli olduğunu düşündüm.

Yapay Zeka Destekli Tıp İçin Çok Büyük Bir Risk!

Doktorların, hastalıkları teşhis edebilmek için yapay zekaya sahip yazılımları giderek daha fazla kullanıldığı bir zamanda, bu araştırma, yapay zeka tabanlı teşhis sistemlerinin istemeden de olsa ırkçı önyargılara sahip sonuçlar üretebileceği yönündeki rahatsız edici ihtimali artırıyor. Araştırmacılar, makalelerinde şöyle yazıyorlar:

Çalışmamızdan elde edilen sonuçlar, yapay zekaya sahip derin öğrenme modellerinin, hastaların bildirdiği ırklarını tahmin etme yeteneğinin kendi başına önemli bir konu olmadığının altını çizmektedir. Bununla birlikte, yapay zekanın, genellikle klinik uzmanların yapamadığı durumlarda, bozuk, kırpılmış ve hatta parazitli tıbbi görüntülerden bile, hasta tarafından bildirilen ırkı doğru bir şekilde tahmin edebildiğini bulmamız, tıbbi görüntülemede kullanılan modeller için çok büyük bir risk oluşturmaktadır.

The Lancet Digital Health

Örneğin, X-ışınlarına erişimi olan bir yapay zeka, belirli bir kişi için o tedavi en iyisi olsun ya da olmasın, tüm siyahi hastalar için spesifik bir tedavi sürecini otomatik olarak önerebilir. Buna karşılık hastanın insan olan doktorunun, yapay zekanın teşhisini ırksal verilere dayandırdığını bilmesi mümkün olmazdı.

Araştırma, bilim insanlarının göğüs röntgenlerini incelemek için bir yapay zeka programının siyahi hastalarda hastalık belirtilerini gözden kaçırma olasılığının daha yüksek olduğunu fark etmesiyle doğdu. Harvard Tıp Okulu'nda başka bir ortak yazar ve doçent olan Leo Anthony Celi şöyle soruyor:

Eğer bilgisayarlar bir insanın ırkını ayırt edemiyor olsaydı, bu nasıl mümkün olabilirdi?

Boston Globe

Amerika Birleşik Devletleri, Kanada, Avustralya ve Tayvan'dan bilim insanlarını içeren araştırma ekibi, ilk olarak, her görüntünün kişinin ırkıyla etiketlendiği standart X-ışınları ve CT taramaları veri setlerini kullanarak bir yapay zeka sistemi eğitti. Görüntüler, göğüs, el ve omurga dahil olmak üzere vücudun farklı bölgelerinden geldi. Bilgisayar tarafından incelenen tanı görüntüleri, ten rengi veya saç dokusu gibi belirgin bir ırk belirteçlerini içermiyordu.

Yazılıma çok sayıda ırk etiketli görüntü gösterildikten sonra, henüz etiketlenmemiş farklı görüntü kümeleri de gösterildi. Program, görüntülerdeki insanların ırkını, ortalamada %90'ın oldukça üzerinde, yani dikkate değer bir doğrulukla tespit edebildi. Aynı boy, yaş veya cinsiyetteki insanlardan alınan görüntüler analiz edildiğinde bile, yapay zeka, siyahi ve beyaz hastaları doğru bir şekilde ayırt etti. Ama nasıl?

The Lancet Digital Health

Yapay Zeka Irkı Nereden Biliyor?

Ghassemi ve meslektaşları şaşkına dönmüş olsalar da bunun ten rengini belirleyen pigment olan melanin ile ilgisi olduğundan şüpheleniyor. Belki de X-ışınları ve CT tarayıcıları, insan gözü tarafından fark edilemese de daha koyu tenlerin daha yüksek melanin içeriğinden etkilenerek farklı tonlarda veya biçimlerde örüntüler oluşturuyor olabilir ve bu bilgiyi, insan kullanıcılarının daha önce hiç fark etmediği bir şekilde dijital görüntüye işliyor olabilir. Bundan emin olmak için çok daha fazla araştırma yapmak gerekecek.

Test sonuçları, farklı ırklardan insanlar arasındaki doğuştan gelen farklılıkların kanıtı olabilir mi?

Hampshire College'da biyolojik antropoloji profesörü ve Racism Not Race (Tür: Irk Değil, Irkçılık) kitabının yazarlarından Alan Goodman öyle düşünmüyor (Evrim Ağacı olarak biz de günümüzde ırkların anlamlı bir biyolojik metrik olmadığını daha önceden anlatmıştık).

Goodman, makalenin sonuçlarıyla ilgili şüphelerini dile getiriyor ve diğer araştırmacıların sonuçları yeniden üretebileceklerinden şüphe ettiğini söylüyor. Ama yapsalar bile, meselenin ırkla değil coğrafyayla ilgili olduğunu düşünüyor.

Goodman, genetikçilerin insan genomunda önemli ırk farklılıklarına dair hiçbir kanıt bulamadığını söylüyor. Ancak kişilerin atalarının yaşadığı yere göre, insanlar arasında büyük farklılıklar bulmak mümkün. Goodman şöyle soruyor:

Irk kullanmak yerine, birinin coğrafi koordinatlarına baksalardı, makine aynı şeyi yapar mıydı? Benim düşüncem, makinenin aynı başarıyı göstereceği yönünde.

Başka bir deyişle, bir yapay zeka, bir kişinin atalarının kuzey Avrupa'dan, diğerinin Orta Afrika'dan ve üçüncü bir kişinin atalarının Japonya'dan olduğunu bir X-ray'den belirleyebilir. Goodman şöyle diyor:

Siz buna ırk diyebilirsiniz. Ben buna coğrafi çeşitlilik diyorum.

Yine de, yapay zekanın bu coğrafi varyasyonu yalnızca bir X-ray'den nasıl tespit edebileceğinin net olmadığını kabul ediyor.

Her durumda, Celi, doktorların otomatik olarak önyargılı sonuçlar üretebilecek AI teşhis araçlarını kullanmakta isteksiz olmaları gerektiğini söyledi.