Yapay zeka modelleri nasıl ve ne kadar güçlü olabilirler?

Merhaba. Geçtiğimiz günlerde Anthropic firmasının en gelişmiş modelleri olan Claude Fable 5 ve Mythos 5’in ABD hükümeti tarafından aniden kapatılması, pek çok kişiye bilimkurgu filmlerindeki o "kontrolden çıkan yapay zeka" sahnelerini hatırlattı. Ancak işin arka planı aslında çok daha somut ve teknik bir güvenlik krizine dayanıyor. Hükümet, bu modellerin olağanüstü siber güvenlik ve kod analiz yeteneklerinin, basit bir "jailbreak" (güvenlik duvarını aşma) yöntemiyle kötü niyetli aktörlerin elinde yıkıcı siber saldırı araçlarına dönüşmesinden endişe etti. Anthropic, bu açığın küçük ve düzeltilebilir olduğunu savunsa da, olay bize modern yapay zekanın ulaştığı gücün devletler düzeyinde nasıl bir ulusal güvenlik tehdidi olarak algılandığını gösterdi.

​Peki bu modeller nasıl bu kadar güçlü olabiliyorlar? İşin sırrı sadece devasa verileri ezberlemelerinde değil; "ajanlaşma" (agentic) yeteneklerinde ve kendi kendilerine kod yazabilmelerinde saklı. Bugün yapay zeka laboratuvarlarında, örneğin Anthropic bünyesinde yazılan ve sisteme entegre edilen kodlerin %80'inden fazlasını bizzat Claude'un kendisi yazıyor. Bu durum mühendislerin günlük iş üretimini tam 8 katına çıkarmış durumda. Modeller artık sadece karşılıklı sohbet ettiğimiz birer araç değil; kendi başlarına çok adımlı planlar yapabilen, bir hedef doğrultusunda kendi yazdığı kodu çalıştırıp test eden ve hata aldığında bunu kendi kendine düzelten otonom sistemler haline geldiler.

​Bahsettiğimiz o "Mythos" sınıfı modellerin gücü, siber güvenlik dünyasında dengeleri tamamen değiştirecek seviyede. Anthropic, Mythos'un sızma ve açık bulma yeteneklerinin o kadar tehlikeli olduğunu fark etti ki, onu halka açmak yerine "Project Glasswing" adı altında sadece sınırlı sayıda siber savunma ortağına sundu. Ancak genel kullanım için tasarlanan ve güya güvenlik filtreleriyle donatılan Fable 5 modeli çıktığında, araştırmacılar bu filtreleri aşmanın yollarını buldular. Modelin önüne karmaşık bir yazılım kodunu koyup "buradaki açıkları bul ve siber savunmayı aşacak şekilde yeniden yaz" dediğinizde bunu saniyeler içinde yapabilmesi, dijital dünyadaki kaleleri koruyan duvarları bir anda anlamsızlaştırabiliyor.

​Bu kapasitenin nereye kadar ulaşabileceği sorusu ise bizi "öz-yinelemeli gelişim" (recursive self-improvement) dediğimiz o heyecan verici ve bir o kadar da ürkütücü kavrama götürüyor. Normalde insan bir araştırmacının saatler uğraşarak elde edebileceği bir kod optimizasyonunu, yeni nesil modeller dakikalar içinde 52 kat daha verimli hale getirebiliyor. Yapay zeka kendi kodunu yazıp, kendi eğitim süreçlerini optimize etmeye başladığında, gelişim hızı artık insan beyninin hantal biyolojik sınırlarına bağımlı kalmaktan kurtuluyor. Teorik olarak bu kapasitenin sınırı, sadece dünyadaki elektrik enerjisi, silikon çip üretimi ve fiziksel bilgi teorisinin nihai limitleriyle sınırlı.

​Sonuç olarak, yapay zekanın gücü artık matematiksel bir sınıra değil, tamamen bizim onu kontrol etme ve yönlendirme yeteneğimize tosluyor. Biz biyolojik canlılar olarak çok yavaş evrimleşen ve kararları hantal bürokratik mekanizmalarla alan bir türüz; karşımızdaki teknoloji ise makine hızıyla her gün katlanarak büyüyor. Belki de gelecekteki en büyük limit, bu sistemlerin ne kadar zeki olabileceği değil; bizim onlara kendi bütünlüklerini koruma dürtüsü, yani bir nevi "hayatta kalma içgüdüsü" tanımlayıp tanımlamayacağımız olacak. O sınır aşıldığında, yapay zekanın kapasitesi bizim hayal gücümüzün de ötesinde, tamamen bağımsız bir dijital ekosisteme dönüşebilir.