Yapay Zekânın Teorik Sınırlamaları Olabilir mi?

Kopenhag Üniversitesi'nden araştırmacılar; basit problemlerin ötesinde, yapay zekâ açısından her zaman istikrarlı olacak algoritmalar geliştirmenin matematiksel açıdan imkânsız olduğunu ilk ispatlayan kişiler oldu!

ChatGPT ve benzeri makine öğrenmesi tabanlı teknolojiler günümüzde yükseliştedir. Ancak, en gelişmiş algoritmalar bile sınırlamalarla karşılaşmaktadır. Kopenhag Üniversitesinden araştırmacılar, temel problemlerin ötesinde, daima istikrarlı olacak yapay zekâ algoritmaları geliştirmenin matematiksel açıdan imkânsız olduğunu gösteren çığır açan bir keşif yaptılar. Bu araştırma, algoritmalar için geliştirilmiş test protokollerinin önünü açabilir ve makine işlemesi ile insan zekâsı arasındaki esas farklılıkları vurgulayabilir.

Sonucu ortaya koyan bilimsel makale, teorik bilgisayar bilimi alanında önde gelen uluslararası konferanslardan birinde yayımlanmak üzere onaylanmıştır.

Makineler, tıbbi tarama görüntülerini doktorlardan daha doğru bir şekilde yorumlayabilir, yabancı dilleri çevirebilir ve yakın zamanda arabaları, insanlardan daha güvenli bir şekilde sürebilecek hale gelebilir. Ancak, en iyi algoritmaların bile zayıf yönleri vardır. Kopenhag Üniversitesi Bilgisayar Bilimleri Bölümü'nden bir araştırma ekibi, bu zayıf yönleri ortaya çıkarmaya çalışıyor.

Örneğin otomatik bir aracın, bir tabelayı okumasını ele alalım. Eğer birisi tabelanın üzerine bir çıkartma yapıştırırsa, bu durum insan sürücünün dikkatini dağıtmayabilir. Fakat, eğitildiği işaretlerden farklı olduğundan, işaretin değişmiş olması bir makineyi kolayca etkileyebilir. Amir Yehudayoff bu durumu şu şekilde açıklıyor:

Algoritmaların girdi biraz değiştirildiğinde, çıktının neredeyse aynı kalacağı biçimde istikrarlı olmasını istiyoruz. Gerçek hayat, insanların görmezden gelmeye alışkın olduğu her türlü paraziti içerirken, bunlar makinelerin kafasını karıştırabilir.

Ekip, diğer ülkelerden katılan araştırmacılarla birlikte basit problemlerin ötesinde, her zaman istikrarlı olacak makine öğrenimi algoritmaları oluşturmanın mümkün olmadığını ilk kez kanıtlamış oldu. Bu sonucu açıklayan makale, teorik bilgisayar bilimi alanında önde gelen uluslararası konferanslardan biri olan Foundations of Computer Science (FOCS) konferansı için yayımlanmak üzere onaylandı. Amir Yehudayoff şunları söylüyor:

Doğrudan otomatik araba uygulamaları üzerinde çalıştığımızı belirtmek isterim. Yine de bu, algoritmaların daima istikrarlı olamayacağı kadar karmaşık bir sorun gibi görünüyor.

Yehudayoff bu açıklamalarına ek olarak, bu çalışmanın otomobillerin geliştirilmesiyle ilgili önemli sonuçları olabileceği anlamına gelmediğini de belirtti:

Eğer algoritma yalnızca çok nadir görülen birkaç durumda hata yapıyorsa, bu kabul edilebilir. Ancak, bu hatayı çok geniş koşullar yelpazesi içerisinde yaparsa bu kötü haber demektir.

Bu bilimsel makale, algoritmalarındaki hataları tespit etmek için endüstri tarafından kullanılamayacak. Profesör, amacın bu olmadığını belirtiyor ve şöyle açıklıyor:

Makine öğrenimi algoritmalarındaki zayıflıkları tartışmak için bir dil geliştiriyoruz. Bu, algoritmaların nasıl test edilmesi gerektiğini açıklayan kılavuzların geliştirilmesine öncülük edebilir. Ve bu, uzun vadede yine daha iyi ve daha istikrarlı algoritmaların geliştirilmesini beraberinde getirebilir.

Sezgilerden Matematiğe

Dijital gizliliğin korunmasına yönelik algoritmaların test edilmesi de olası bir uygulama olabilir. Amir Yehudayoff bunu şu sözlerle açıklıyor:

Bazı şirketler, gizliliğin korunması için tamamen güvenli bir çözüm geliştirdiklerini iddia edebilirler. İlk olarak metodolojimiz, böyle bir çözümün kesinlikle güvenli olamayacağını ortaya koymaya yardımcı olabilir. İkincil olarak, zayıf noktaları da saptayabilecektir."

Ancak makale, her şeyden önce teoriye katkıda bulunuyor. Yehudayoff özellikle matematiksel içeriğin devrim niteliğinde olduğunu ekliyor:

Sezgisel olarak; istikrarlı bir algoritmanın üzerinde etiket olan bir trafik levhası gibi az miktarda girdi parazitine maruz kaldığında neredeyse normaldeki kadar iyi çalışması gerektiğini anlıyoruz. Ancak teorik bilgisayar bilimcileri olarak kesin bir tanıma ihtiyacımız var: Problemi matematik dilinde tanımlayabilmeliyiz. Algoritma tam olarak ne kadar parazite dayanabilmeli ve algoritmanın istikrarlı olduğunu kabul edecek olursak çıktı orijinal çıktıya ne kadar yakın olmalı? İşte bu sorulara yanıt bulmaya çalıştık.

Makale, teorik bilgisayar dünyasında büyük ses getirdi, ancak teknoloji endüstrisinden en azından henüz bir ilgi görmedi. Amir Yehudayoff bu durumu, şu sözleriyle ifade ediyor:

Yeni bir teorik gelişme ile uygulamalarda çalışan insanların ilgisi arasında her zaman biraz gecikme payı bırakmalısınız. Üstelik bazı teorik gelişmeler, sonsuza dek fark edilmemiş olarak kalabilir.

Ancak Yehudayoff, son olarak şunları ekliyor:

Makine öğrenimi, hızla ilerlemeye devam ediyor ancak gerçek dünyada çok başarılı olan çözümlerin dahi sınırlamaları olduğunu unutmamak gerek. Makineler bazen düşünebiliyor gibi görünebilirler, fakat nihayetinde insan zekasına sahip değiller. Bunu akılda tutmak önem arz ediyor.