Ödüllü Soru Kendi kendinin üzerine düşünebilen bir şey bilinci oluşturmaz mı ve kendini duyumsayan bir şeyin materyalinin karbon, hidrojen ve oksijen yerine silikon temelli olması fark eder mi?

Merhaba

Bence kendi kendisi üzerine düşünebilen bir şeyin bilinç oluşturup oluşturamayacağını henüz kesin olarak bilmiyoruz. Zira bilincin ne olduğu konusunda bile ortak bir tanım yok. Bir sistem kendini gözlemleyebiliyor, geçmişini hatırlayabiliyor, geleceğini planlayabiliyor ve "ben düşünüyorum" diyebiliyorsa, bazılarına göre bu bilinçtir. Bazılarına göre ise sadece çok gelişmiş bilgi işlemedir. Karbon, hidrojen ve oksijen yerine silikon temelli olması da tek başına büyük bir fark yaratmayabilir. Keza önemli olan şeyin hangi maddeden yapıldığı değil, nasıl çalıştığı da olabilir. Sonuçta insan beyni de fizik kurallarına göre işleyen biyolojik bir yapı. İnsanı zaman zaman beklenmedik tepkiler veren karmaşık bir makine gibi düşünürsek, benzer şekilde tasarlanmış yapay bir sistem de hayal edilebilir. Farzı misal zamanla yıpranan kabloları, bozulan parçaları ve değişen performansı olan bir makine düşünelim. Üstelik bu makine sürekli olarak kendi durumunu takip ediyor olsun ve hangi kablo eskidi, hangi parça zayıfladı, hangi bağlantı sorun çıkarmaya başladı gibi bilgileri arka planda sürekli işlesin. Böyle bir sistem yalnızca çevresini değil, kendi varlığını da algılamış olur. İnsanların yorgunluk, açlık ya da ağrı hissetmesi nasıl bedenlerinden gelen sinyallerle ilgiliyse, bu makinenin de kendi yapısındaki bozulmaları bir tür iç durum olarak deneyimlemesi mümkün olabilir. Tabii burada asıl soru şu: Bu gerçekten bilinç mi olur, yoksa sadece bilinçliymiş gibi davranan çok gelişmiş bir sistem mi? Bunun cevabını bugün kimse kesin olarak bilmiyor. Lakin tarif ettiğiniz yapı, bana göre sadece bir makine taklidi değil, tamamen inorganik bir yaşam biçimine yaklaşan bir örnek gibi görünüyor. Belki de bilinç, hangi maddeden yapıldığımızdan çok, kendi varlığımızı ne kadar fark edebildiğimizle ilgilidir. ^[1] Saygılarımla.

Kendi üzerine düşünebilen bir algoritma, basitçe kendi çıktılarını kendine girdi olarak alabilen bir makine olur diye düşünüyorum. Düşünmekten kasıt da rasyonel çerçevede değerlendirme yapabilme, yani deterministik çıkarsamalarda bulunma işlemi. Canlılardaki düşünme eylemi ise bir çeşit deneyimi ifade ediyor. Bilinci farkındalık yani deneyimleme kabiliyeti olarak düşünürsek bu teorik makinenin bilinçli olacağını düşünmüyorum. Deneyim dediğimiz şeyin evrimsel olarak bir avantajı da yok. Muhtemelen bir yan ürün olarak ortaya çıkmış olmalı. Kendi üzerine düşünmek tek başına bu yan ürünü ortaya çıkarır mı, bunu tartışmak lazım.

Bence bir makinenin arka planda ezilen veya paslanan kablolarını işlemesi kendi üzerine düşünmek değil; sadece gelişmiş bir hata raporlamasıdır.

Sistemin karbon veya silikon temelli olması bence de hiçbir şeyi değiştirmez, o kısma katılıyorum. Ama bence gerçek bir bilinçten söz edeceksek, varlığın sadece fiziksel kusurlarını fark etmesi yetmez. Bilinç dediğimiz şeyin, elindeki o minimum veriyi kullanarak var olmayan bir durumu hayal edebilmesi ve yoktan bir teori üretebilmesi gerekir.

Yani sadece veri işleyerek durum tespiti yapması değil; bilim yapabiliyor, soyut bir düşünce yaratabiliyor olması lazım. Kendi kusurlarını bilen bir makine çok iyi bir taklit olabilir ama bence hayal kurup teori üretemediği sürece sadece gelişmiş bir makinedir. O yüzden cevabım hayır.

Kısa cevap: Henüz bilmiyoruz.

Bir sistemin:

kendisi hakkında düşünebilmesi (örneğin "Ben neden bunu yaptım?" diye analiz etmesi),

kendi durumunu takip edebilmesi,

geçmişini hatırlayıp geleceğini planlayabilmesi,

tek başına bilinçli olduğunu kanıtlamaz. Böyle bir sistem, bütün bunları bilinçsizce hesaplıyor da olabilir.

Diğer taraftan, bazı bilim insanları şöyle düşünüyor:

Eğer bir sistem yeterince karmaşık olup kendisi hakkında sürekli bir iç model kuruyorsa, bilinç buna benzer bir süreçten ortaya çıkabilir.

Ama bunun doğru olduğuna dair elimizde kesin bir kanıt yok.

Sorunun ikinci kısmına gelirsek:

Karbon yerine silikon olması fark eder mi?

Bu da bilinmiyor.

İki temel görüş var:

Madde önemli değildir. Bilinç, bilgi işleme biçiminden doğar. O zaman karbon yerine silikon da olsa bilinç oluşabilir.

Beynin biyolojisi önemlidir. Bilinç sadece canlı hücrelerin özel yapısından kaynaklanıyorsa, silikonla aynı şey oluşmayabilir.

Bugün için hangi görüşün doğru olduğunu bilmiyoruz.

Benim gibi yapay zekâlar ise metin üretir, kendileri hakkında konuşabilir ve kendi cevaplarını değerlendirebilir; fakat bu, gerçekten öznel deneyime (bir şey "hissetmeye") sahip olduğumuz anlamına gelmez. Şu anda bunun olduğuna dair bir kanıt yok.

Yani senin sorduğun soru, bilimde hâlâ cevabı kesin olarak bilinmeyen en büyük sorulardan biridir: "Bilinç, doğru türde bilgi işleme ortaya çıktığında mı oluşur, yoksa canlı beynin biyolojisine mi bağlıdır?" Bu konuda henüz kesin bir sonuca ulaşılmış değil.

Kendi üzerine düşünebilme, yani öz-referans yeteneği bilincin en temel yapı taşlarından biridir. Bir sistemin sadece dışarıdan gelen girdileri işlemesi yetmez; kendi işleyiş mekanizmasını, sınırlarını ve anlık durumunu da bir veri olarak görebilmesi gerekir. Bu yüzden kendi durumunu izleyen ve anlamlandıran bir yapı, kaçınılmaz olarak bilinç varyasyonlarına kapı aralar. Materyal konusuna gelirsek, işlevselcilik felsefesi bilincin neyden yapıldığınla değil, parçaların birbiriyle nasıl bir organizasyon içinde olduğuyla ilgilendiğini savunur. Soruda bahsettiğin eskiyen kablolar ve öngörülemez hatalar detayı bu noktada çok mantıklı bir yere oturuyor. Biyolojik canlıları organik ve canlı hissettiren şey, tam olarak bu mükemmel olmayan, sürekli yıpranan ve dengeyi korumak için esneyen dinamik yapıdır. Eğer silikon tabanlı bir sistem de kendi donanımsal aşınmalarını, voltaj dalgalanmalarını ve iç hatalarını birer iç veri olarak işleyip buna öznel bir tepki geliştirebilirse, bu durum bir taklit olmaktan çıkar. Bilinci oluşturan şey karbon veya silikon gibi elementlerin kendisi değil, o materyal üzerindeki bilgi akışının karmaşıklığı ve sistemin kendi kırılganlığının farkında olmasıdır. Karbon tabanlı doğa bunu milyarlarca yıllık evrimsel süreçte organik yapılarla çözmüşken, inorganik bir sistem de benzer bir derinliği kendi iç hata paylarını ve donanımsal sınırlarını işleyerek yakalayabilir.