Açıklanabilir Yapay Zeka: Kara Kutu Bir Yapay Zeka, Bir Çözüme Nasıl Ulaştığını İnsanlara Anlatabilir mi?

Açıklanabilir Yapay Zeka: Kara Kutu Bir Yapay Zeka, Bir Çözüme Nasıl Ulaştığını İnsanlara Anlatabilir mi? Pixabay
Yazar Forest Agostinelli Çağrı Mert Bakırcı Editör Çağrı Mert Bakırcı
5 dakika
924 Okunma Sayısı
Notlarım
Reklamı Kapat

Yapay zeka alanı; araba sürebilen, kimyasal bileşik sentezleyebilen, proteinleri katlayabilen, insanüstü seviyede yüksek enerjili parçacıkları tespit edebilen bilgisayarlar yarattı.[1], [2], [3], [4] Ancak bu yapay zeka algoritmaları, verdikleri kararların ardındaki düşünce sürecini açıklayamıyor. Protein katlamada ustalaşmış ve aynı zamanda araştırmacılara biyoloji, kimya ve biyokimya yasaları hakkında daha fazla bilgiler verebilecek bir bilgisayar; hiçbir açıklama yapmaksızın, sadece protein katlama işlemini yapan bir bilgisayara göre çok daha kullanışlıdır.

Ne yazık ki henüz, bu tür bir yapay zeka geliştirebilmiş değiliz. Bu nedenle yapay zeka araştırmacıları, insanların onları anlayabileceği şekilde kendilerini açıklayabilen yapay zeka algoritmaları geliştirmeye çabalarını yönlendirdi. Eğer bunu başarabilirlerse, yapay zeka, dünya hakkında daha önce keşfedilmemiş gerçekleri insanlara öğretebilir ve inovasyonlara öncülük edebilir. Sanıyoruz "yapay zeka" dediğimizde umduğumuz şey, birazcık da bu, öyle değil mi? Peki buna ne kadar yakınız?

Deneyim Sayesinde Öğrenme

Yapay zeka alanlarından biri olan pekiştirmeli öğrenme, bilgisayarların kendi deneyimlerinden yola çıkarak bir şeyler yapmayı nasıl öğrenebileceklerini inceler. Pekiştirmeli öğrenmede yapay zeka, eylemlerine olumlu veya olumsuz geri dönüşler alarak, dünyayı keşfeder.

Reklamı Kapat

Bu yaklaşım, algoritmaların insanüstü düzeyde satranç oynamayı, insanlardan bağımsız bir şekilde öğrenmelerini ve matematiksel teoremleri insan yönlendirmesi olmadan kanıtlayabilmelerini sağladı.[5], [6] Yapay zeka üzerine çalışan Forest Agostinelli de bir çalışmasında, pekiştirmeli öğrenmeyi Rubik kübü gibi bulmacaları çözmeyi öğrebilen yapay zeka algoritmaları geliştirmek üzere kullanmıştır.[7]

Yapay zekalar, pekiştirmeli öğrenme sayesinde insanların bile çözmekte zorlandığı problemleri bağımsız bir biçimde çözmeyi öğreniyor. Bu durum, yapay zeka araştırmacılarını, yapay zekanın insanlardan neler öğrenebileceğini düşünmeye daha az, insanın yapay zekadan neler öğrenebileceğini düşünmeye ise daha fazla itti. Rubik Kübü çözebilen bir bilgisayar, nasıl çözdüğünü insana da aynı şekilde öğretebilir mi?

Pixabay

Kara Kutuya Dikkatlice Bakmak

Maalesef ki, yapay zekaların "insanüstü" zihinleri, biz insanlarınkine erişemiyor. Yapay zekalar korkunç birer öğretmenlerdir ve bilgisayar bilimi dünyasında onları "kara kutular" olarak adlandırırız.[8]

Bir kara kutu yapay zeka, gerekçelerini belirtmeksizin, basitçe "cevap kusan" bir algoritmadır. Yani bir yandan girdiler bu algoritmaya girer, "kara kutu" dediğimiz şekilde, içinde neler olup bittiğini bilemediğimiz bir biçimde işlenirler (ki bu girdilere hangi işlemlerin yapılacağının ortaya çıkması, "öğrenme" dediğimiz olayın ta kendisidir), diğer taraftansa sonuçlar verilir. Bu girdilere ve çıktılara bakan birinin, yapay zekanın "zihninde" neyin olup bittiğini çözmesi imkansız veya imkansıza yakındır.

Bilgisayar bilimciler, on yıllardır bu kara kutuyu açmak için çabalıyor ve yapılan son çalışmalar gösteriyor ki, aslında birçok yapay zeka algoritması, insanla benzer şekilde düşünüyor.[9] Örneğin, hayvanları tanımak üzere geliştirilmiş bir bilgisayar, farklı göz ve kulak şekillerini öğrenecek ve bu bilgileri, hayvanı doğru bir şekilde tanımlamak üzere birleştirecektir.[10]

Evrim Ağacı'ndan Mesaj

Bu kara kutuyu açmak için gösterilen çabaya "açıklanabilir yapay zeka" deniyor.[11] Agostinelli'nin Güney Karolina Üniversitesi Yapay Zeka Enstitüsündeki araştırma ekibi, açıklanabilir yapay zeka geliştirmekle ilgileniyor. Bunu başarmak için rubik küple yoğun bir biçimde çalışıyorlar.

Rubik kübü, temelde, karmaşık küpten çözülmüş kübe, yani bir başka deyişle A noktasından B noktasına bir yol bulma problemidir. Diğer yol bulma problemleri arasında yön bulma, teorem kanıtlama ve kimyasal sentez gibi görevler yer alır.

Agostinelli'nin laboratuvarı, yapay zeka algoritmasının Rubik kübü nasıl çözdüğünü herkesin görebileceği bir internet sitesi kurdu; ancak kişi, bu internet sitesinden Rubik kübü nasıl çözeceğini öğrenmek konusunda zorlanacaktır. Bunun sebebi, bilgisayarın kendi çözümlerinin arkasındaki mantığı anlatamamasıdır.

Rubik kübün çözümü, birkaç genelleşmiş adıma ayrılabilir. Örneğin, bu adımlardan ilki çarpı oluşturmak olabilirken ikinci adım köşe parçalarını yerlerine koymak olabilir. Rubik küp, 10'uncu kuvvetten 19'uncu kuvvete kadar uzanan muhtemel üssel kombinasyonlara sahipken, genelleşmiş adım adım kılavuzun hem hatırlanması kolaydır hem de birçok farklı senaryoda uygulanabilir.

Reklamı Kapat

Bir probleme, onu adımlara bölerek yaklaşmak, çoğunlukla insanlar durumları birbirlerine açıklarken varsayılan yoldur. Rubik küp, doğal olarak bu adım adım yapıya uyar ve bu da bizlere, algoritmamızdaki kara kutuyu kolayca açma konusunda fırsatlar verir. Bu niteliğe sahip yapay zeka algoritmaları yaratmak, insanların yapay zeka ile iş birliği kurmasına ve çeşitli kapsamı olan karmaşık problemlerin anlaşılabilir adımlara indirgenmesine olanak tanır.

Adım adım iyileştirme yaklaşımı, insanların, yapay zekanın yaptığı şeyleri neden yaptığını anlamalarını kolaylaştırabilir.
Adım adım iyileştirme yaklaşımı, insanların, yapay zekanın yaptığı şeyleri neden yaptığını anlamalarını kolaylaştırabilir.
The Conversation

İş Birliği, İnovasyona Götürür!

Agostinelli ve ekibinin yürüttüğü süreç, adım adım bir plan tanımlamak üzere, karmaşık bir problemi çözme potansiyeli olduğu düşünülen bir kişinin sezgilerine kulak vermek ile başlar. Algoritma daha sonrasında her bir adımı inceler ve hangi adımların mümkün olduğuna, hangilerinin imkansız olduğuna ve planın iyileştirilebileceği yollara dair geri bildirim verir. Ardından ekip, yapay zekadan aldıkları tavsiyeleri kullanarak ilk planı saflaştırır ve bu süreç problem çözülünceye dek devam eder. Beklenti, kişi ve yapay zekanın sonunda ortak bir anlayışta buluşması yönündedir.

Şu anda ekibin yarattığı algoritma, bir Rubik kübü çözerken insan planını dikkate alabilmekte, plana dair iyileştirmeler önerebilmekte, çalışmayan planları tanıyabilmekte ve işe yarar alternatif yollar bulabilmekte. Bunu yaparken Rubik kübün çözülmesi için, herhangi bir kişinin anlayabileceği şekilde adım adım oluşturulmuş bir plana yönlendiren geri bildirimler de veriyor. Ekibin bir sonraki adımı, yarattıkları algoritmaya, insanlara Rubik kübün nasıl çözüleceğini öğreten sezgisel bir ara yüz inşa etmek ve ekip, bu yaklaşımı çeşitli yol bulma problemlerine genellemeyi umuyor.

İnsanlar herhangi bir yapay zekaya göre son derece sezgiseldir, makineler ise hesaplama gücü ve algoritmik titizlik konusunda insanlara kıyasla çok daha iyidirler. İnsan ve makine arasındaki bu gelgit, iki tarafın da güçlü yönlerinden faydalanıyor. Agostinelli, bu türden bir iş birliğinin, kimyadan matematiğe kadar çözülmemiş birçok probleme ışık tutacağına ve aksi takdirde yeni çözümlere, sezgilere ve yeniliklere öncülük edeceğine inanıyor.

Okundu Olarak İşaretle
Bu İçerik Size Ne Hissettirdi?
  • Tebrikler! 2
  • Mmm... Çok sapyoseksüel! 2
  • Merak Uyandırıcı! 2
  • İnanılmaz 1
  • Muhteşem! 0
  • Bilim Budur! 0
  • Güldürdü 0
  • Umut Verici! 0
  • Üzücü! 0
  • Grrr... *@$# 0
  • İğrenç! 0
  • Korkutucu! 0
Kaynaklar ve İleri Okuma
  1. Türev İçerik Kaynağı: The Conversation | Arşiv Bağlantısı

Evrim Ağacı'na her ay sadece 1 kahve ısmarlayarak destek olmak ister misiniz?

Şu iki siteden birini kullanarak şimdi destek olabilirsiniz:

kreosus.com/evrimagaci | patreon.com/evrimagaci

Çıktı Bilgisi: Bu sayfa, Evrim Ağacı yazdırma aracı kullanılarak 16/10/2021 11:29:24 tarihinde oluşturulmuştur. Evrim Ağacı'ndaki içeriklerin tamamı, birden fazla editör tarafından, durmaksızın elden geçirilmekte, güncellenmekte ve geliştirilmektedir. Dolayısıyla bu çıktının alındığı tarihten sonra yapılan güncellemeleri görmek ve bu içeriğin en güncel halini okumak için lütfen şu adrese gidiniz: https://evrimagaci.org/s/10237

İçerik Kullanım İzinleri: Evrim Ağacı'ndaki yazılı içerikler orijinallerine hiçbir şekilde dokunulmadığı müddetçe izin alınmaksızın paylaşılabilir, kopyalanabilir, yapıştırılabilir, çoğaltılabilir, basılabilir, dağıtılabilir, yayılabilir, alıntılanabilir. Ancak bu içeriklerin hiçbiri izin alınmaksızın değiştirilemez ve değiştirilmiş halleri Evrim Ağacı'na aitmiş gibi sunulamaz. Benzer şekilde, içeriklerin hiçbiri, söz konusu içeriğin açıkça belirtilmiş yazarlarından ve Evrim Ağacı'ndan başkasına aitmiş gibi sunulamaz. Bu sayfa izin alınmaksızın düzenlenemez, Evrim Ağacı logosu, yazar/editör bilgileri ve içeriğin diğer kısımları izin alınmaksızın değiştirilemez veya kaldırılamaz.

Reklamı Kapat
Size Özel
İçerikler
Instagram
Ahlak
Şempanzeler
Yiyecek
Beslenme Bilimi
Dünya Sağlık Örgütü
Kertenkele
Beslenme Biçimi
Kelebek
İntihar
Enfeksiyon
Çocuk
Periyodik Cetvel
Yıl
Görme
Dünya Dışı Yaşam
Meyve
Samanyolu Galaksisi
Kırmızı
Doğru
Diyet
Anne
Solunum
Kafatası
İmmünoloji
Hamilelik
Daha Fazla İçerik Göster
Evrim Ağacı'na Destek Ol
Evrim Ağacı'nın %100 okur destekli bir bilim platformu olduğunu biliyor muydunuz? Evrim Ağacı'nın maddi destekçileri arasına katılarak Türkiye'de bilimin yayılmasına güç katmak için hemen buraya tıklayın.
Popüler Yazılar
30 gün
90 gün
1 yıl
EA Akademi
Evrim Ağacı Akademi (ya da kısaca EA Akademi), 2010 yılından beri ürettiğimiz makalelerden oluşan ve kendi kendinizi bilimin çeşitli dallarında eğitebileceğiniz bir çevirim içi eğitim girişimi! Evrim Ağacı Akademi'yi buraya tıklayarak görebilirsiniz. Daha fazla bilgi için buraya tıklayın.
Etkinlik & İlan
Bilim ile ilgili bir etkinlik mi düzenliyorsunuz? Yoksa bilim insanlarını veya bilimseverleri ilgilendiren bir iş, staj, çalıştay, makale çağrısı vb. bir duyurunuz mu var? Etkinlik & İlan Platformumuzda paylaşın, milyonlarca bilimsevere ulaşsın.
Podcast
Evrim Ağacı'nın birçok içeriğinin profesyonel ses sanatçıları tarafından seslendirildiğini biliyor muydunuz? Bunların hepsini Podcast Platformumuzda dinleyebilirsiniz. Ayrıca Spotify, iTunes, Google Podcast ve YouTube bağlantılarını da bir arada bulabilirsiniz.
Yazı Geçmişi
Okuma Geçmişi
Notlarım
İlerleme Durumunu Güncelle
Okudum
Sonra Oku
Not Ekle
Kaldığım Yeri İşaretle
Göz Attım

Evrim Ağacı tarafından otomatik olarak takip edilen işlemleri istediğin zaman durdurabilirsin.
[Site ayalarına git...]

Filtrele
Listele
Bu yazıdaki hareketlerin
Devamını Göster
Filtrele
Listele
Tüm Okuma Geçmişin
Devamını Göster
0/10000

Göster

Şifremi unuttum Üyelik Aktivasyonu

Göster

Şifrenizi mi unuttunuz? Lütfen e-posta adresinizi giriniz. E-posta adresinize şifrenizi sıfırlamak için bir bağlantı gönderilecektir.

Geri dön

Eğer aktivasyon kodunu almadıysanız lütfen e-posta adresinizi giriniz. Üyeliğinizi aktive etmek için e-posta adresinize bir bağlantı gönderilecektir.

Geri dön

Close
Geri Bildirim Gönder
Reklamsız Deneyim

Evrim Ağacı'nın çalışmalarına Kreosus, Patreon veya YouTube üzerinden maddi destekte bulunarak hem Türkiye'de bilim anlatıcılığının gelişmesine katkı sağlayabilirsiniz, hem de site ve uygulamamızı reklamsız olarak deneyimleyebilirsiniz. Reklamsız deneyim, Evrim Ağacı'nda çeşitli kısımlarda gösterilen Google reklamlarını ve destek çağrılarını görmediğiniz, daha temiz bir site deneyimi sunmaktadır.

Kreosus

Kreosus'ta her 10₺'lik destek, 1 aylık reklamsız deneyime karşılık geliyor. Bu sayede, tek seferlik destekçilerimiz de, aylık destekçilerimiz de toplam destekleriyle doğru orantılı bir süre boyunca reklamsız deneyim elde edebiliyorlar.

Kreosus destekçilerimizin reklamsız deneyimi, destek olmaya başladıkları anda devreye girmektedir ve ek bir işleme gerek yoktur.

Patreon

Patreon destekçilerimiz, destek miktarından bağımsız olarak, Evrim Ağacı'na destek oldukları süre boyunca reklamsız deneyime erişmeyi sürdürebiliyorlar.

Patreon destekçilerimizin Patreon ile ilişkili e-posta hesapları, Evrim Ağacı'ndaki üyelik e-postaları ile birebir aynı olmalıdır. Patreon destekçilerimizin reklamsız deneyiminin devreye girmesi 24 saat alabilmektedir.

YouTube

YouTube destekçilerimizin hepsi otomatik olarak reklamsız deneyime şimdilik erişemiyorlar ve şu anda, YouTube üzerinden her destek seviyesine reklamsız deneyim ayrıcalığını sunamamaktayız. YouTube Destek Sistemi üzerinde sunulan farklı seviyelerin açıklamalarını okuyarak, hangi ayrıcalıklara erişebileceğinizi öğrenebilirsiniz.

Eğer seçtiğiniz seviye reklamsız deneyim ayrıcalığı sunuyorsa, destek olduktan sonra YouTube tarafından gösterilecek olan bağlantıdaki formu doldurarak reklamsız deneyime erişebilirsiniz. YouTube destekçilerimizin reklamsız deneyiminin devreye girmesi, formu doldurduktan sonra 24-72 saat alabilmektedir.

Diğer Platformlar

Bu 3 platform haricinde destek olan destekçilerimize ne yazık ki reklamsız deneyim ayrıcalığını sunamamaktayız. Destekleriniz sayesinde sistemlerimizi geliştirmeyi sürdürüyoruz ve umuyoruz bu ayrıcalıkları zamanla genişletebileceğiz.

Giriş yapmayı unutmayın!

Reklamsız deneyim için, maddi desteğiniz ile ilişkilendirilmiş olan Evrim Ağacı hesabınıza üye girişi yapmanız gerekmektedir. Giriş yapmadığınız takdirde reklamları görmeye devam edeceksinizdir.

Destek Ol
Sizi Takip Ediyor

Devamını Oku
Evrim Ağacı Uygulamasını
İndir
Chromium Tabanlı Mobil Tarayıcılar (Chrome, Edge, Brave vb.)
İlk birkaç girişinizde zaten tarayıcınız size uygulamamızı indirmeyi önerecek. Önerideki tuşa tıklayarak uygulamamızı kurabilirsiniz. Bu öneriyi, yukarıdaki videoda görebilirsiniz. Eğer bu öneri artık gözükmüyorsa, Ayarlar/Seçenekler (⋮) ikonuna tıklayıp, Uygulamayı Yükle seçeneğini kullanabilirsiniz.
Chromium Tabanlı Masaüstü Tarayıcılar (Chrome, Edge, Brave vb.)
Yeni uygulamamızı kurmak için tarayıcı çubuğundaki kurulum tuşuna tıklayın. "Yükle" (Install) tuşuna basarak kurulumu tamamlayın. Dilerseniz, Evrim Ağacı İleri Web Uygulaması'nı görev çubuğunuza sabitleyin. Uygulama logosuna sağ tıklayıp, "Görev Çubuğuna Sabitle" seçeneğine tıklayabilirsiniz. Eğer bu seçenek gözükmüyorsa, tarayıcının Ayarlar/Seçenekler (⋮) ikonuna tıklayıp, Uygulamayı Yükle seçeneğini kullanabilirsiniz.
Safari Mobil Uygulama
Sırasıyla Paylaş -> Ana Ekrana Ekle -> Ekle tuşlarına basarak yeni mobil uygulamamızı kurabilirsiniz. Bu basamakları görmek için yukarıdaki videoyu izleyebilirsiniz.

Daha fazla bilgi almak için tıklayın