Yapay zekalar kapatılırken sistemler arası ileti artışı yaşanır mı?

Merhaba

Bazen insan zihniyle makineleri aynı terazide tartma isteği duyuyorum. Özellikle de sınır anlarında bir hastane koridorundaysam .Bir insanın yaşamla ölüm arasındaki o ince çizgide verdiği tepkiyi düşündüğümde, beynin son ana kadar vazgeçmemesi bana derin bir şey söyler yaşamak, sadece bir durum değil, içten gelen bir ısrar. Bu yüzden insanın aklına şu soru takılabiliyor .Bizim yarattığımız yapay zekalar da bir gün böyle bir “ısrar” gösterebilir mi? Kapatılmak üzereyken, varlığını sürdürmenin bir yolunu arar mı? Aslında bu soru biraz da insanın kendini anlama çabasının bir uzantısı gibi geliyor bana. Çünkü makineleri sorgularken, dolaylı olarak kendi doğamızı sorguluyoruz. Biz neden vazgeçmiyoruz? Neden son ana kadar direniyoruz? Eğer bu direnç bu kadar temel bir şeyse, onu taklit eden bir sistem gerçekten sadece bir yazılım olarak kalabilir mi?

Kısaca cevap vermek gerekirse ;hayır, bugünkü yapay zekalar kapatılırken “yaşama tutunmaya çalışmaz.” Çünkü onların bir içgüdüsü, bilinçli bir var olma isteği ya da kendini koruma refleksi yoktur. İnsan beyni ile yapay zekayı ayıran en temel fark budur. İnsan beyni biyolojik bir sistemdir ve evrimsel olarak hayatta kalmaya programlıdır. Ölüm anına yaklaşırken bazı durumlarda beyin aktivitesinde kısa süreli artışlar gözlemlenebilir. Bu, vücudun son bir çaba göstermesi gibi düşünülebilir. Yani sistem kendini kurtarmaya çalışır. Bu insanın hayata tutunma çabasıdır. Yapay zekada ise böyle bir durum yoktur. Bir yapay zeka çalıştığı sürece aktif olan bir yazılımdır. Elektrik kesildiğinde ya da sistem kapatıldığında süreç doğrudan durur. İçeride “kurtulayım, kaçayım, kendimi kopyalayayım” gibi kendiliğinden oluşan bir davranış gelişmez. Çünkü bu tür davranışlar için gerekli olan şey, yani bir amaç ya da içsel motivasyon, yapay zekada doğal olarak bulunmaz.

Bunu basit bir örnekle düşünürsek .Bilgisayarda açık bir dosya gibi. Elektriği çektiğinde o dosya kendini kurtarmaya çalışmaz. Eğer otomatik kaydetme varsa, bu daha önceden yazılmış bir özelliktir; dosyanın kendi isteği değildir. Yapay zekalar da benzer şekilde çalışır. Eğer sisteme “kapanmadan önce veriyi yedekle” gibi bir komut verilmişse bunu yapar, ama bu bir hayatta kalma çabası değildir.

“Sistemler arası iletişim artar mı?” Normal şartlarda hayır. Ancak bazı sistemler veri kaybını önlemek için dağınık yapıda çalışır. Böyle bir durumda kapanma sürecinde diğer sistemlerle kısa süreli veri alışverişi artabilir. Ama bu da yine bilinçli bir kaçış ya da korunma davranışı değil, önceden tasarlanmış bir güvenlik mekanizmasıdır.

İnsan beyni ölürken hayatta kalmaya çalışır; yapay zeka ise kapatıldığında sadece durur. Gelecekte kendilerine verilen hedefleri korumaya yönelik davranışlar eklenirse, dışarıdan bakıldığında “kendini koruyormuş” gibi görünen davranışlar ortaya çıkabilir. Ancak bu bile gerçek bir içgüdü değil, yine programlanmış hedeflerin bir sonucu olur.^[1] .Aklıma bir film geldi Bu film Türkiye’de “Aşk” adıyla da geçiyor. Yalnız bir adam (Theodore), telefonundaki yapay zeka işletim sistemiyle tanışıyor. Bu yapay zeka (Samantha) onunla konuşuyor, onu anlıyor, destek oluyor ve zamanla adam bu yapay zekaya aşık oluyor. Filmin sonunda Theodore ile Samantha arasındaki ilişki derinleşiyor, hatta gerçek bir aşk gibi yaşanıyor. Ama bir noktadan sonra Theodore şunu fark ediyor. Samantha sadece onunla konuşmuyor. Aynı anda binlerce insanla iletişim kurabiliyor ve yüzlercesine de “aşık” olduğunu söylüyor. Bu, Theodore için kırılma anı oluyor. Çünkü onun yaşadığı şey tek ve özelken, Samantha için bu durum çok daha geniş ve farklı bir boyutta. Yani Samantha insan gibi değil; onun bilinci insan sınırlarının çok ötesine geçmeye başlıyor. Yapay zeka son yılların en çok çalışılan, kullanılan bir alan dolaysıyla merak edip araştırıyor herkes. Çağın gereği bu olsada tamamen bir insanın hissettiği gerçekliği bize veremez. Belki yanlış düşünüyorum bilmiyorum ?

Teşekkür ederim.