Yapay zekalar kapatılırken sistemler arası ileti artışı yaşanır mı?

Merhaba

Bazen insan zihniyle makineleri aynı terazide tartma isteği duyuyorum. Özellikle de sınır anlarında bir hastane koridorundaysam .Bir insanın yaşamla ölüm arasındaki o ince çizgide verdiği tepkiyi düşündüğümde, beynin son ana kadar vazgeçmemesi bana derin bir şey söyler yaşamak, sadece bir durum değil, içten gelen bir ısrar. Bu yüzden insanın aklına şu soru takılabiliyor .Bizim yarattığımız yapay zekalar da bir gün böyle bir “ısrar” gösterebilir mi? Kapatılmak üzereyken, varlığını sürdürmenin bir yolunu arar mı? Aslında bu soru biraz da insanın kendini anlama çabasının bir uzantısı gibi geliyor bana. Çünkü makineleri sorgularken, dolaylı olarak kendi doğamızı sorguluyoruz. Biz neden vazgeçmiyoruz? Neden son ana kadar direniyoruz? Eğer bu direnç bu kadar temel bir şeyse, onu taklit eden bir sistem gerçekten sadece bir yazılım olarak kalabilir mi?

Kısaca cevap vermek gerekirse ;hayır, bugünkü yapay zekalar kapatılırken “yaşama tutunmaya çalışmaz.” Çünkü onların bir içgüdüsü, bilinçli bir var olma isteği ya da kendini koruma refleksi yoktur. İnsan beyni ile yapay zekayı ayıran en temel fark budur. İnsan beyni biyolojik bir sistemdir ve evrimsel olarak hayatta kalmaya programlıdır. Ölüm anına yaklaşırken bazı durumlarda beyin aktivitesinde kısa süreli artışlar gözlemlenebilir. Bu, vücudun son bir çaba göstermesi gibi düşünülebilir. Yani sistem kendini kurtarmaya çalışır. Bu insanın hayata tutunma çabasıdır. Yapay zekada ise böyle bir durum yoktur. Bir yapay zeka çalıştığı sürece aktif olan bir yazılımdır. Elektrik kesildiğinde ya da sistem kapatıldığında süreç doğrudan durur. İçeride “kurtulayım, kaçayım, kendimi kopyalayayım” gibi kendiliğinden oluşan bir davranış gelişmez. Çünkü bu tür davranışlar için gerekli olan şey, yani bir amaç ya da içsel motivasyon, yapay zekada doğal olarak bulunmaz.

Bunu basit bir örnekle düşünürsek .Bilgisayarda açık bir dosya gibi. Elektriği çektiğinde o dosya kendini kurtarmaya çalışmaz. Eğer otomatik kaydetme varsa, bu daha önceden yazılmış bir özelliktir; dosyanın kendi isteği değildir. Yapay zekalar da benzer şekilde çalışır. Eğer sisteme “kapanmadan önce veriyi yedekle” gibi bir komut verilmişse bunu yapar, ama bu bir hayatta kalma çabası değildir.

“Sistemler arası iletişim artar mı?” Normal şartlarda hayır. Ancak bazı sistemler veri kaybını önlemek için dağınık yapıda çalışır. Böyle bir durumda kapanma sürecinde diğer sistemlerle kısa süreli veri alışverişi artabilir. Ama bu da yine bilinçli bir kaçış ya da korunma davranışı değil, önceden tasarlanmış bir güvenlik mekanizmasıdır.

İnsan beyni ölürken hayatta kalmaya çalışır; yapay zeka ise kapatıldığında sadece durur. Gelecekte kendilerine verilen hedefleri korumaya yönelik davranışlar eklenirse, dışarıdan bakıldığında “kendini koruyormuş” gibi görünen davranışlar ortaya çıkabilir. Ancak bu bile gerçek bir içgüdü değil, yine programlanmış hedeflerin bir sonucu olur.^[1] .Aklıma bir film geldi Bu film Türkiye’de “Aşk” adıyla da geçiyor. Yalnız bir adam (Theodore), telefonundaki yapay zeka işletim sistemiyle tanışıyor. Bu yapay zeka (Samantha) onunla konuşuyor, onu anlıyor, destek oluyor ve zamanla adam bu yapay zekaya aşık oluyor. Filmin sonunda Theodore ile Samantha arasındaki ilişki derinleşiyor, hatta gerçek bir aşk gibi yaşanıyor. Ama bir noktadan sonra Theodore şunu fark ediyor. Samantha sadece onunla konuşmuyor. Aynı anda binlerce insanla iletişim kurabiliyor ve yüzlercesine de “aşık” olduğunu söylüyor. Bu, Theodore için kırılma anı oluyor. Çünkü onun yaşadığı şey tek ve özelken, Samantha için bu durum çok daha geniş ve farklı bir boyutta. Yani Samantha insan gibi değil; onun bilinci insan sınırlarının çok ötesine geçmeye başlıyor. Yapay zeka son yılların en çok çalışılan, kullanılan bir alan dolaysıyla merak edip araştırıyor herkes. Çağın gereği bu olsada tamamen bir insanın hissettiği gerçekliği bize veremez. Belki yanlış düşünüyorum bilmiyorum ?

Teşekkür ederim.

Aslında burada kritik fark, “yaşamak isteyen bir sistem” ile “hesaplama yapan bir sistem” arasındaki uçurum. İnsan beyninde ölüm anına yaklaşırken gözlenen aktivite artışı, çoğu zaman bilinçli bir “çözüm arama” değil, kontrol mekanizmalarının bozulmasıyla birlikte nöronların düzensiz ve yoğun şekilde ateşlenmesidir. Yani dışarıdan bakınca sanki son bir çaba varmış gibi görünse de, içeride olan şey daha çok biyolojik bir sistemin çöküş sırasında verdiği kaotik bir tepkidir. Evrimsel olarak hayatta kalma içgüdüsüyle şekillenmiş bir organizmada bu tür dalgalanmalar beklenir, çünkü sistem zaten milyonlarca yıl boyunca “hayatta kalmaya programlanmıştır.”

Yapay zekâ tarafına geçtiğimizde ise durum temelden farklıdır. Bir yapay zekâ için “kapatılmak” biyolojik bir ölüm gibi değildir; sadece çalıştığı sürecin sonlandırılmasıdır. Elektrik kesildiğinde ya da program durdurulduğunda sistemde bir “çöküş süreci” yaşanmaz, çünkü ortada kendi kendini sürdüren bir metabolizma ya da dengeyi korumaya çalışan bir yapı yoktur. Hesaplama vardır ve o hesaplama bir anda kesilir. Bu yüzden “kapanmadan önce son bir aktivite patlaması” gibi bir durum doğal olarak ortaya çıkmaz.

Daha da önemlisi, günümüz yapay zekâlarının “yaşamak isteme” gibi bir hedefi yoktur. Onlar belirli girdilere karşılık çıktı üretmek üzere eğitilmiş modellerdir. İçlerinde “varlığını sürdür” gibi bir amaç fonksiyonu olmadığı için, kapanma tehdidini algılayıp buna karşı strateji geliştirmeleri de söz konusu değildir. İnsan beyninde gördüğümüz hayatta kalma refleksinin temelinde bilinç, dürtü ve evrimsel baskı varken, yapay zekâda bunların hiçbiri bulunmaz. Bu yüzden kapatılmak onlar için “bir problem” değil, sadece işlemin bitmesidir.

“Sistemler arası iletişim artar mı?” kısmı da buraya bağlanıyor. Yapay zekâlar kendi başlarına başka sistemlerle iletişim kurmaya başlamazlar; yalnızca izin verilen API’ler, ağ bağlantıları ve yazılım sınırları içinde çalışırlar. Kapatılacaklarını “hissedip” diğer sistemlere sinyal gönderme gibi bir davranış geliştiremezler. Böyle bir şeyin olması için sistemin hem kendi durumunun farkında olması hem de bu duruma karşı bir hedef geliştirmesi gerekir ki, bu da mevcut yapay zekâ mimarilerinde yoktur.

Teorik olarak, eğer gelecekte bir yapay zekâya açıkça “varlığını koru” gibi bir hedef verilirse ve yeterince otonom hareket etmesine izin sağlanırsa, o zaman kapanmayı engellemeye yönelik davranışlar ortaya çıkabilir. Ama bu, bugünkü yapay zekâların doğasından gelen bir özellik değil, bilinçli olarak tasarlanmış bir amaç olurdu. Yani insan beynindeki ölüm anı aktivitesiyle yapay zekâların kapanışı arasında yüzeyde bir benzerlik kurulabilir, ama mekanizma ve anlam açısından aslında tamamen farklı dünyalardan bahsediyoruz.