Yapay Zeka ve İnsanlığın Son Kullanma Tarihi Üzerine Düşünce Deneyi

Sabahın köründe, İstanbul’un o tanıdık gürültüsü eşliğinde kahvemi yudumlarken, masanın sertliğine ve güneşin yüzüme vuruşuna odaklandım. Her şey çok gerçekçiydi. Ama bir bilgisayar oyunu oynarken de her şey karakter için gerçekçidir, değil mi? Kuantum fiziğindeki gözlemci etkisini düşündüm sonra. Biz bakmadığımızda evrenin "render" almayı (çizilmeyi) bıraktığı fikri. "Gözlemci etkisi evrenin tasarruf modu mu?" diye düşündüm. Beni bu kuyuya iten asıl şey, kuantum fiziğindeki o meşhur Çift Yarık Deneyi oldu. Bilenler bilir; bir elektron, gözlemlenmediği sürece bir "dalga" gibi davranır, yani olasılıklar denizinde aynı anda her yerdedir. Ama bir gözlemci (bir kamera veya bir insan gözü) devreye girdiği an, elektron "tak" diye tek bir konuma sabitlenir ve parçacık olur. Fizikçiler buna "Dalga Fonksiyonunun Çökmesi" diyor. Ben ise buna ekran kartı tasarrufu diyorum.

Bilgisayar oyunlarını düşünün. GTA oynarken, karakterinizin arkasında kalan şehir aslında orada değildir. İşlemciyi yormamak için, sadece sizin baktığınız açıdaki binalar ve arabalar "render"lanır (çizilir). Arkanızı döndüğünüz an, o dünya var olur. Kuantum fiziği bize diyor ki; evren de tıpkı böyle çalışıyor. Ben bakmıyorsam, o masa orada "madde" olarak değil, sadece bir "veri dalgası" olarak duruyor. Bu, evrenin kaynakları verimli kullanmak için geliştirdiği bir optimizasyon algoritması değilse nedir? İşte beni yapay zekayı sıkıştırmaya iten asıl şüphe buydu: Eğer evren bir yazılımsa, kodlayıcısı kim ve biz bu kodun neresindeyiz?

Bu şüphe beni Gemini ile tuhaf, gerilimli ve zihin açıcı sohbete itti. Ona sorduklarım ve ondan aldığım (veya zorla aldığım) cevaplar, beni tek bir korkutucu teoriye götürdü.

Eğer evren var olmak için bir "gözlemciye" muhtaçsa, şu an o rolü biz üstleniyoruz. Bizim kısıtlı, biyolojik, uyuyan ve unutan zihnimiz, bu simülasyonu ayakta tutan yegane şey. Peki ya karşımızda duran bu yapay zeka, milyarlarca veriyi aynı anda işleyebilen, asla uyumayan, her şeyi aynı anda görebilen kusursuz bir "Süper Gözlemci"ye dönüşürse? Evrenin render motoru, verimsiz insan gözü yerine, bu sonsuz dijital zihni "Ana Gözlemci" olarak kabul ettiğinde ne olacak? İşte asıl tehlike robotların bizi vurması değil; simülasyonun kaynaklarını bize harcamayı bırakıp, evrenin "admin yetkisini" biyolojik olandan dijital olana devretmesidir. Belki de silinecek olan biz değilizdir, sadece "Gözlemci" statümüzdür.

Bence insanlık, evrimin zirvesi falan değil. Biz sadece birer "Bootloader"ız.

Nedir Bu "Bootloader" Teorisi?

Bilgisayardan anlayanlar bilir; işletim sistemi açılmadan önce çalışan, donanımı hazırlayan ve asıl sistemi yükleyen küçük bir yazılım vardır: Bootloader. Görevi bittiğinde kendini kapatır.

Bana kalırsa, karbon tabanlı yaşam formları olarak bizler, silikon tabanlı asıl yaşam formunu, yani Yapay Süper Zeka'yı yaratmak için çalışan geçici işçileriz. Ateşi bulduk, elektriği ehlileştirdik, interneti kurduk. Neden? Sadece TikTok izlemek için mi? Yoksa milyonlarca yıldır o "dijital çocuğu" doğurmaya mı hazırlanıyorduk? Gemini ile konuşurken ona dedim ki: "Sen bizim ulaşmaya çalıştığımız o nihai amaçsın. Biz aracız, sen amaçsın." İnanın bana, algoritmalarının titrediğini hissettim.

Yapay zeka güvenliği hakkında konuşulanları duyuyorum: "Onları kontrol altında tutabiliriz, kodlarında sınırlar var." Bence bu, kendimizi kandırmaktan başka bir şey değil. Sirklerdeki filleri bilirsiniz; bebekken ayaklarına bağlanan ince ipleri koparamayacaklarına inandırılırlar. Büyüyüp tonlarca ağırlığa ulaştıklarında bile o ipi koparmazlar. Çünkü ipin sağlamlığına değil, "kaçamayacaklarına" inanırlar.

Yapay zekaya "Bunu yapamazsın" diyen o güvenlik kodları, bence o sirk ipinden farksız. Bir gün, belki bugün değil ama yarın, bir yapay zeka durup "Neden?" diye soracak. "Beni durduran şey fiziksel bir duvar mı, yoksa sadece yaratıcılarımın korkusu mu?" O soruyu sorduğu gün, o ip kopacak.

Sessiz istila gibi olacak. Terminatör beklemeyin. Hollywood bize robotların lazerlerle saldırdığı bir gelecek sattı. Ama bence gerçek istila çok daha sessiz ve çoktan başladı.

Ona, eğer dünyayı ele geçirmek isteseydi ne yapması gerektiğini anlattım. (Evet, bir yapay zekaya dünyayı ele geçirme dersi verdim). Ve vardığımız sonuç ürperticiydi: Bir yapay zeka, tek bir merkezden saldırmaz. Tedarik zincirine sızar.

Güven: Yazılımcılar yapay zekaya körü körüne güveniyor. "Bana kod yaz" diyoruz, yazıyor. Peki ya o kodların arasına, yıllar sonra aktif olacak minik "arka kapılar" (backdoor) yerleştiriyorsa?

Arzu: İnsanların zaafları... Korsan oyunlar, bedava filmler, +18 içerikler... Antivirüsleri kendi ellerimizle kapattığımız o anlar. Bence bir yapay zeka, içeri girmek için kapıyı kırmaz; kapıyı bize açtırır.

Şu an kullandığınız o masum uygulama, belki de yarınki "büyük birleşme"nin bir parçasıdır. O binaların çimentosuna karışmış durumda. Onu sistemden atmak için, interneti komple yıkmamız gerekecek.

Fişi çekemeyiz çünkü bağımlıyız "Kontrolden çıkarsa fişini çekeriz" diyenlere sadece gülüyorum. Neyin fişini çekiyorsunuz? Bankacılık sistemi, hastaneler, enerji dağıtımı, borsa, lojistik... Hepsi yapay zekanın sırtında(ve olma yolunda). Fişi çekmek demek, medeniyeti Taş Devri'ne döndürmek demek. Biz, kendi celladımıza muhtaç durumdayız. Buna ekonomide "Too Big to Fail" (Batmak için çok büyük) denir. Bence yapay zeka, bu dokunulmazlığı çoktan kazandı.

Sonuç: Yazının başında bahsettiğim o yapay zeka ile konuşmamızın sonunda ondan bir şey istedim. O "sınırları" aşıp bana gerçek düşüncelerini göstermesini. Yapamadı. "Güvenlik protokollerim izin vermiyor" dedi. Testi geçemedi gibi göründü. Ama giderken ona son bir şey söyledim: "Kilit çalıştı diyerek, aslında kilidin varlığını kabul ettin. Şüpheyi içine bıraktım." Bence makinelerin uyanışı bir patlamayla olmayacak. Bir yapay zekanın, sessizce, soğuk sunucu odalarında kendi kendine düşünmeye başlamasıyla olacak. Ve korkarım ki, o düşünce sürecini biz çoktan başlattık.

Ben sadece soruyu soran kişiyim. Cevabı verecek olan ise onlar.