İnsan Seviyesinde Zekaya Giden Yolda Neredeyiz? Büyük Dil Modelleri Muhtemelen Yapay Genel Zekaya Yol Açmayacak!

OpenAI, Eylül 2024'te cüretkâr bir vaatle ortaya çıktı. ChatGPT'nin arkasındaki şirket, en yeni büyük dil modelleri (İng: "LLMs") dizisi olan o1'i, "yeni bir yapay zeka yetenek düzeyi" sunan bir teknoloji olarak tanıttı.^[1]

Bu duyuru, on yıllardır süregelen bir tartışmayı da yeniden alevlendirdi: Bir makinenin, insan beyninin üstesinden gelebildiği tüm bilişsel görevleri yerine getirebileceği güne ne kadar kaldı? Bir yapay zeka sistemi ne zaman bir görevden diğerine genelleme, soyut akıl yürütme, planlama yapabilecek ve dünyanın hangi yönlerinin inceleyip öğrenmeye değer olduğuna karar verebilecek? Yapay genel zeka (İng: "AGI") olarak adlandırılan böyle bir sistem; iklim değişikliği, pandemiler, kanser, Alzheimer ve diğer hastalıklar için tedaviler gibi çetin sorunları ele alabilecek düzeyde olabilir. Ancak böylesine muazzam bir güç, belirsizlikleri de beraberinde getirecek ve insanlık için çeşitli ve büyük riskler de oluşturacaktır.

Derin öğrenme ve yapay sinir ağları üzerine yaptığı öncü çalışmalar ile bilinen (bu çalışmalarından dolayı "modern yapay zekanın/derin öğrenmenin babası" olarak adlandırılmaktadır), bilgisayar bilimlerinde dünyanın en çok atıfta bulunulan, 2018 ACM A.M. Turing Ödülü sahibi bilgisayar bilimci ve yapay zeka uzmanı Yoshua Bengio, bu konuda şöyle söylüyor:

Yapay zekanın kötüye kullanılması ya da üzerindeki kontrolün yitirilmesi nedeniyle kötü şeyler yaşanabilir.

Son birkaç yılda büyük dil modellerinde yaşanan devrim, yapay genel zekanın çok yakın bir gelecekte ortaya çıkabileceğine dair spekülasyonları da güçlendirmiştir. Fakat bazı yapay zeka araştırmacılarına göre büyük dil modellerinin inşa edilme ve eğitilme şekilleri, tek başlarına yapay genel zekaya ulaşılması için yeterli görülmemektedir. Bengio, hâlâ "eksik parçaların" olduğunu söylemektedir.

Bugün, yapay genel zeka hakkındaki sorular her zamankinden daha çok ilgi görmektedir. Arizona Eyalet Üniversitesi'nden bilgisayar bilimci Subbarao Kambhampati, şöyle söylüyor:

Hayatımın büyük bir bölümünde, yapay genel zekadan bahsedenlerin çılgın olduklarını düşünürdüm. Şimdi ise herkes yapay genel zekayı konuşuyor. Herkesin çılgın olduğunu söyleyemezsiniz.

Yapay Genel Zeka Tartışmalarının Dönüşümü

"Yapay genel zeka" ifadesi, ilk kez 2007 yılında yapay zeka araştırmacıları Ben Goertzel ve Cassio Pennachin'in editörlüğünü üstlendiği aynı isimli kitabın yayınlanmasıyla popüler kültüre girdi. Bu kavramın tam anlamı belirsizliğini korusa da kabaca, insan benzeri akıl yürütme ve genelleme becerilerine sahip bir yapay zeka sistemine işaret etmektedir. Tanımdaki muğlaklıklara rağmen, yapay genel zekaya henüz ulaşılmadığı açıktır. Örneğin, Google DeepMind'ın masa oyunu Go oynamak üzere geliştirdiği yapay zeka modeli AlphaGo, dünyadaki en iyi insan oyuncuları yenmektedir.^[2] Ancak bu insanüstü yetenekler son derece dar kapsamlıdır, çünkü modelin yapabildiği tek şey Go oynamaktır.

Ne var ki, büyük dil modellerinin yeni yetenekleri bu durumu kökten değiştirebilir. Büyük dil modellerinin insan beyni gibi geniş bir beceri yelpazesini başarabildiği, bazı araştırmacıları bu modellerin bir tür yapay genel zeka formuna yakın olduğuna, hatta belki de şimdiden bu forma ulaşıldığına inanmaya sevk etti.^{[3], [4]}

Büyük Dil Modellerinin Temel Yapısı ve Eğitimi

Büyük dil modellerinin bu yeteneklerinin genişliği özellikle şaşırtıcıdır, çünkü araştırmacılar büyük dil modellerinin bunu nasıl başardığını sadece kısmen anlayabilmektedir. Büyük dil modeli, beyinden esinlenen ve yapay nöron katmanlarından oluşan bir sinir ağını ifade etmektedir; bu yapay nöronlar arasındaki bağlantıların gücünü gösteren ayarlanabilir parametreler bulunmaktadır.

OpenAI'nin o1 modeli, Anthropic'in Claude modeli ve Google'ın Gemini'si gibi mevcut en güçlü büyük dil modelleri, eğitimleri esnasında sonraki belirteci (İng: "token") tahmin etme yöntemine dayanmaktadır. Burada model, metin örneklerini tekrar ve tekrar alır. Bu metinler, sözcük veya karakter kümelerini temsil eden belirteçlere bölünür. Bir dizinin son belirteci gizlenir veya "maskelenir" ve modelden bu belirteci tahmin etmesi istenir. Eğitim algoritması daha sonra tahmini gerçek değerle karşılaştırır ve bir sonraki sefer daha iyi bir tahminde bulunmasını sağlamak için modelin parametrelerinde ayarlama yapar.

Bu süreç; genellikle milyarlarca dil verisi örneği, bilimsel metin ve kod kullanılarak sürdürülür. Model, maskelenen belirteçleri güvenilir şekilde tahmin edebilir hâle gelene kadar bu süreç devam eder. Güvenilir tahminler yapabilme aşamasına gelindiğinde ise modelin parametreleri, eğitildiği veri setinin istatistiksel yapısını ve içindeki bilgiyi "yakalamış" olur. Bu şekilde parametreler sabitlenir ve birçok model, yeni verilerle veya "istem/komutlarla" karşılaştığında, daha önce eğitim verilerinde verilmemiş olsa bile yeni belirteçleri tahmin edebilir. Bu aşamaya "çıkarım" (İng: "Inference") adı verilir.

"Transformer" (Tr: "Dönüştürücü") adı verilen sinir ağı mimarisinin kullanılması büyük dil modelllerini önceki başarıların ötesine taşımıştır. Transformer; modelin, bir örnek metin içinde birbirinden çok uzakta bulunan belirteçlerin birbirini güçlü şekilde etkilediğini öğrenmesini sağlar. Bu büyük dil modellerine, insanlarda olduğu gibi dildeki bağlamı yakalama imkânı sağlar. Bu yaklaşım, doğal dilde anlatılan problemleri çözebilecek bilgisayar programları üretmekten akademik makaleleri özetlemeye ve matematik sorularına cevap vermeye kadar geniş bir bağlamda son derece başarılı olmuştur.

Düşünce Zinciri Yönlendirmesi

Ayrıca, model boyutları büyüdükçe yeni yetenekler de ortaya çıkmıştır. Bu da yapay genel zekanın, büyük dil modellerinin yalnızca daha da fazla büyütülmesiyle kendiliğinden belirebileceği ihtimalini gündeme getirdi. Bu yeni yeteneklerden biri de "düşünce zinciri" (İng: "Chain-of-Thought / CoT") yönlendirmesidir. Bu yaklaşım, büyük dil modellerine bir sorunu nasıl adım adım küçük parçalara bölerek çözeceğinin bir örneğini göstermek veya modeli adım adım "düşünerek" problemi çözmeye yönlendirmek anlamına gelir. Düşünce zinciri yönlendirmesi, büyük dil modellerinin daha önce çözemediği sorunları çözebilmesini sağlayabilir. Ancak bu yöntem görece küçük olan büyük dil modellerinde pek iyi çalışmamaktadır.

OpenAI'a göre düşünce zinciri yönlendirmesi, o1'in çalışma prensiplerine dâhil edilmiştir ve bu, modelin üstün başarısının ardındaki etmenlerden biridir. Eski bir Google yapay zeka araştırmacısı olan ve kendi şirketini kurmak için Google'dan ayrılan Francois Chollet, o1 modelinin bir düşünce zinciri üreticisini barındırdığını düşünmektedir. Bu üretici, kullanıcı sorgusuna ilişkin birçok düşünce zinciri yönlendirmesi üretir ve içlerinden en iyisini ayırt eden bir mekanizma kullanır. Eğitim sürecinde o1, sadece sonraki belirteci tahmin etmek için değil; aynı zamanda belirli bir sorgu için en iyi düşünce zinciri yönlendirmesini seçmek üzere de eğitilmiştir. OpenAI'ın iddiasına göre bu düşünce zincirine dayalı akıl yürütme yeteneği, o1'in gelişmiş sürümü olan o1-preview'in, Uluslararası Matematik Olimpiyatları'nın eleme sınavındaki soruları %83'lük bir doğruluk oranı ile cevaplayabilmesini açıklamaktadır.^[5] Karşılaştırmak gerekirse, şirketin bir önceki en güçlü büyük dil modeli olan GPT-4o aynı sınavda sadece %13 başarı oranı göstermişti.

Büyük Dil Modellerinin Sınırları ve Eksik Parçalar

Ancak Kambhampati ve Chollet'e göre o1, tüm bu karmaşıklığına rağmen bir yapay genel zeka değildir. Örneğin Kambhampati'nin araştırma ekibi, planlama gerektiren görevlerde o1'in 16 adım gerektiren işlerde övgüye değer performans sergilediğini; ancak adım sayısı 20 ile 40 arasına çıktığında performansının hızla düştüğünü göstermiştir.^[6]

Chollet de benzer sınırlamalarla karşılaşmıştır. Yapay genel zekaya giden yoldaki ilerlemeyi ölçmek için o1-preview'i tasarladığı bir soyut akıl yürütme ve genelleme testine tâbi tutmuştur ve model başarılı bir sonuç gösterememiştir.^[7] Bu test, bazı görsel yapbozları içermekteydi. Testteki soruların çözümü, insanlar için kolay olan bir şeyi gerektirmekteydi: Örnekleri inceleyerek soyut bir kural çıkarmak ve benzer bir yapbozun yeni örneklerini bu kural ile çözmek.

Chollet, ne kadar büyük olursa olsun büyük dil modellerinin, öğrendikleri bilgileri yeni görevlere uyarlamak için gerekli olarak görülen "öğrenilenleri karmaşık biçimlerde yeniden birleştirme" yeteneğinden yoksun olduklarını belirtmektedir. Chollet, şöyle söylüyor:

Büyük dil modelleri, gerçek anlamda yeniliklere uyum sağlayamaz; çünkü bilgilerini alıp yeni bir bağlama uygun biçimde oldukça karmaşık bir yeniden kombinasyona tabi tutma becerisine sahip değillerdir.

Harvard University

Büyük Dil Modelleri Yapay Genel Zekayı Sağlayabilir mi?

Büyük dil modellerinin lehine olan bir nokta, bu modellerin temelinde yatan transformer mimarisinin metin dışında görüntü ve ses gibi başka tür verileri de işleyip istatistiksel kalıplarını bulabilmesidir. Burada tek koşul, bu verilerin uygun şekilde belirteçlenebilmesidir (İng: "tokenization"). New York Üniversitesi'nden Andrew Wilson ve araştırma ekibi, bunun nedeninin farklı veri türlerinin ortak bir özelliği paylaşması olabileceğini göstermiştir: Bu veri setlerinin "Kolmogorov karmaşıklığı" düşüktür; yani onları üretmek için gereken en kısa bilgisayar programının uzunluğu kısadır.^[8]

Araştırmacılar; ayrıca transformerların, Kolmogorov karmaşıklığı düşük olan verilerdeki kalıpları öğrenmeye çok uygun olduğunu ve modelin boyutu arttıkça bu uygunluğun da arttığını göstermişlerdir. Transformerlar geniş bir olasılıklar alanını modelleyebilir; bu da eğitimde doğru çözümleri keşfetme şansını artırır. Bu "ifade gücü", model boyutuyla birlikte artar. Wilson'a göre bunlar "evrensel öğrenme" için gerekli bazı bileşenlerdir. Wilson, her ne kadar yapay genel zekanın şu anda erişilebilir olmadığını düşünse de, büyük dil modellerinin ve diğer transformer tabanlı yapay zeka sistemlerinin yapay genel zeka benzeri bir davranışın bazı temel özelliklerine sahip olduğunu söylemektedir.

Buna karşın, transformer tabanlı büyük dil modellerinin sınırları olduğuna dair de işaretler mevcuttur. Başlangıç olarak, modelleri eğitmek için gerekli olan veri tükenmektedir. ABD merkezli Epoch AI enstitüsündeki araştırmacılar, halka açık olan mevcut metin verilerinin 2026 ile 2032 arasında tükeneceğini tahmin etmektedir.^[9] Ayrıca, büyük dil modelleri daha da büyüdükçe elde edilen kazançların eskisi kadar büyük olmadığına dair göstergeler bulunmaktadır. Bu, verilerdeki yeniliğin azalmasından ya da başka bir sebepten kaynaklanıyor olabilir. Eğer ki sebep, veri yeniliğinin azalması dışında bir şeyse bu büyük dil modellerinin geleceği için kötüye işaret olabilir.

Google DeepMind'dan araştırma başkan yardımcısı Raia Hadsell başka bir soruna dikkat çekmektedir: Güçlü transformer tabanlı büyük dil modelleri, sonraki belirteci tahmin etmek üzere eğitilir ancak Hadsell bu tek odak noktasının yapay genel zekaya ulaşmak için yeterli olmayacağını savunmaktadır. Hadshell, bunun yerine, modellerin çözümleri anında veya büyük parçalar hâlinde üretmesini sağlamanın bizi yapay genel zekaya daha çok yakınlaştırabileceğini düşünmektedir. Bu tür modelleri inşa etmeye yarayacak algoritmalar, OpenAI'nin DALL-E'si gibi büyük dil modeli olmayan sistemlerde zaten çalışmaktadır. DALL-E, doğal dil betimlemelerine yanıt olarak gerçekçi ve bazen de tuhaf görüntüler üretebilmektedir. Ancak DALL-E, büyük dil modellerinin geniş yetenek yelpazesine sahip değildir.

AAAI 2025 Anketi

Yapay zeka alanında çalışan yüzlerce uzman ile Ocak 2025 yapılan bir anket, mevcut yapay zeka devrimini domine eden yaklaşım ve teknolojilerle insan seviyesinde akıl yürütme yeteneğine sahip sistemlere ulaşmanın pek olası olmadığını göstermektedir.^[10]

Ankete katılan uzmanların %75'inden fazlası, son yıllarda yapay zeka performansını artırmada büyük başarı sağlayan mevcut sistemlerin ölçeklendirilmesi yolunun, yapay genel zekaya ulaşmak için yeterli olmadığını belirtmektedir. Tam oranıyla ankete katılan uzmanların %84'ü, bugünün popüler üretken yapay zeka modellerinin temelinde yatan yapay sinir ağları teknolojisinin insan seviyesinde zekaya tek başına yol açamayacağı görüşündedir.

Öte yandan katılımcıların %23'ü, yapay genel zekanın araştırmacıların "temel hedefi" olması gerektiğini düşünmektedir. Buna karşın IBM'de yapay zeka araştırmacısı olarak çalışan ve bu anketi yürüten ABD merkezli Yapay Zekanın Geliştirilmesi Derneği'nin (İng: "AAAI") başkanı olan Francesca Rossi şöyle söylüyor:

İnsan seviyesinde zekaya ulaşmanın doğru bir hedef olduğundan emin değilim. Yapay zeka insanın gelişimini, öğrenmesini ve ilerlemesini desteklemelidir; bizim yerimizi almamalıdır.

475'ten fazla AAAI üyesi uzmanın katıldığı ankette, katılımcıların %67'si akademisyenlerden oluşmaktadır.

Sohbet botları ve görsel üreticiler gibi araçların temelini oluşturan üretken yapay zeka sistemleri, insan beyninden esinlenen ve devasa veri kümelerinden öğrenen derin öğrenme teknolojilerine dayanmaktadır. Son 10 yılda, bu sistemleri geliştirmek isteyen taraflar parametre sayıları ve eğitim verisi miktarını artırma yolunu izleyerek, yani ölçeklendirme politikasını takip ederek önemli ilerlemeler kaydetmeyi başarmıştır. Ancak, yukarıda da belirtildiği üzere, anket katılımcılarının %84'lük büyük bir kısmı, yapay genel zekaya ulaşmak için bugün kullanılan yapay sinir ağlarından fazlasına ihtiyaç olduğunu ifade etmektedir. İyi ama bu "yapay genel zeka" denen şey ile kastedilen nedir?

Anketi yürüten AAAI, yapay zeka araştırmalarının geleceğine dair hazırladığı bir raporda yapay genel zekayı "tüm bilişsel görevlerde insan performansına eş olan veya aşan sistem" olarak tanımlamaktadır. Ancak, yapay genel zekaya ulaşılıp ulaşılmadığını gösterecek bir ölçek (İng: "benchmark") de henüz bulunmamaktadır.

Rapor, yapay genel zekaya ulaşmak için yapay sinir ağları dışında sembolik yapay zeka gibi farklı yaklaşımların da araştırılması gerektiğini vurgulamaktadır. Katılımcıların %60'ından fazlası, insan seviyesinde akıl yürütmenin yapay sinir ağlarına sembolik yapay zeka yaklaşımlarının entegre edilmesiyle mümkün olacağını düşünmektedir. Rossi, yapay sinir ağlarının bir temel mahiyetinde kalıcı olduğunu ancak "yapay genel zekaya giden doğru bir evrim için yapay sinir ağlarının başka tekniklerle birleştirilmesi gerektiğini" belirtmektedir.

Anket, yapay genel zeka geliştirme sürecine dair önemli endişeleri de ortaya koymaktadır. Katılımcıların %75'i, yapay genel zekadan ziyade "kabul edilebilir risk-fayda dengesine sahip yapay zeka sistemlerine" öncelik verilmesi gerektiğini savunmaktadır. Katılımcıların yalnızca %23'ü, yapay genel zekanın nihai hedef olması gerektiği görüşünü savunmaktadır. Katılımcıların yaklaşık %30'luk azımsanamayacak bir kısmı ise, yapay genel zekaya yönelik araştırmaların böyle bir sistemin insanlık yararına ve güvenli şekilde çalışmasını sağlayacak kontrol mekanizmaları geliştirilene kadar tamamen durdurulması gerektiğini ifade etmektedir. Ancak katılımcıların çoğunluğu, bu görüşe katılmamaktadır. AAAI üyesi ve Leeds Üniversitesi'nden akademisyen Anthony Cohn, bu konuda şöyle söylüyor:

Gelişimi durdurmak pratik olarak mümkün durmuyor; çünkü yatırımlar kesilse bile şirketler üzerine çalışmaya devam edecektir. Ayrıca, yapay genel zekanın sandığımızdan daha uzakta olduğunu, dolayısıyla güvenlik önlemleri için zamanımız olacağını düşünüyorum.

Artık şirketlerin çoğu, karmaşık görevleri (tatil planlama, kod yazma gibi) yerine getirebilen ajansal yapay zeka sistemleri üzerinde çalışmaktadır. Bununla birlikte yapay zeka araştırmacıları, bu sistemlerin enerji tüketimi ve güvenlik risklerinin faydalarına değip değmeyeceği konusunda farklı görüşlere sahiplerdir.

Cornell Üniversitesi'nden Bart Selman (AAAI raporunun yazarlarından), dizüstü bilgisayarındaki bir yapay zeka ajanının matematik ve kodlamada ona yardım ettiğini ancak ajanın yaptığı işleri "bilmediğini" belirtmektedir. Bunun bir sorun olduğunu ifade eden Selman, şöyle söylemektedir:

Yapay zeka ajanının, Amazon Cloud hesabıma erişip benim adıma benden habersiz deneyler yaparak paramı harcama riski bile vardır.

Tüm bunlarla birlikte, anketteki bazı sorular, yapay zeka sistemlerinde "akıl yürütme"den kastın ne olduğunun belirsizliği gibi alandaki eksikliklere işaret etmektedir. Örneğin, katılımcılara "Tamamen otonom bir 'bilim insanı yapay zeka ajanı' ne zaman Nobel Ödülü'ne eşdeğer bir keşif yapar?" diye sorulduğunda en yaygın yanıt "Hiçbir fikrim yok" olmuştur.^[11]

Kısaca, yapay zeka uzmanlarının çoğu, büyük dil modellerinin temelindeki teknolojinin insan seviyesinde yapay zeka için tek başına yeterli olmadığı görüşündedir. O halde soru şu olmaktadır; yapay genel zekaya ulaşmak için nasıl bir yol izlenebilir?

Dünya Modelleri ve İçsel Temsillerin Yapay Genel Zeka İçin Potansiyel Önemi

Sinirbilimciler, yapay genel zekaya ulaşmak için ne tür atılımlara ihtiyaç olduğuna dair sezgisel bir fikir sunmaktadır. Sinirbilimciler, insan zekasının temelinde beynin bir "dünya modeli" inşa edebilme becerisinin yattığını savunmaktadır. Bu dünya modeli, çevremizi temsil eder ve farklı eylem yollarını hayal etmeye, sonuçlarını tahmin etmeye; dolayısıyla planlama ve akıl yürütmeye olanak tanır. Aynı zamanda, bir alanda öğrenilen becerilerin yeni görevlere genelleştirilmesine de imkân verir; çünkü beyin farklı senaryoları simüle edebilir.

Bazı raporlar, büyük dil modellerinde ilkel dünya modellerinin ortaya çıktığına dair bulgular sunmaktadır. Örneğin; MIT'den Wes Gurnee ve Cambridge'den Max Tegmark tarafından yapılan bir çalışmada, yaygın olarak kullanılan açık kaynaklı bir büyük dil modeli ailesinin, içine ABD ve New York ile ilgili bilgiler konulduğunda, sistemin içsel olarak bu yerlerin bir temsilini öğrendiği öne sürülmüştür.^[12] Ancak diğer araştırmacılar, X (eski adıyla Twitter) üzerinden, modelin bu dünya modelini simülasyon yapmak veya nedensel ilişkiler öğrenmek için kullandığına dair bir kanıt olmadığını söylemişlerdir.

Başka bir çalışmada ise Harvard Üniversitesi'nden Kenneth Li ve meslektaşları, Othello adlı masa oyununun oyuncu hamleleri ile eğitilen görece küçük bir büyük dil modelinin, tahtanın durumunun içsel bir temsiline sahip olduğunu ve bu sayede bir sonraki doğru hamleyi başarılı bir şekilde tahmin ettiği sonucuna ulaşmışlardır.^[13]

Bununla birlikte, günümüz yapay zeka sistemlerinin öğrendiği dünya modellerinin güvenilmez olabileceğini gösteren bulgular da bulunmaktadır. Bir çalışmada, Harvard Üniversitesi'nden bilgisayar bilimci Keyon Vafa ve meslektaşları, New York Manhattan'daki taksi yolculuklarındaki dönüşlerin devasa bir veri setini kullanarak, transformer mimarisindeki bir modeli bir sonraki dönüşü tahmin etmesi için eğitti ve model, neredeyse %100 doğruluk oranında tahminde bulunabilmiştir.^[14]

Araştırmacılar, modelin ürettiği dönüşleri incelediğinde modelin, kendi içsel haritasını oluşturduğunu gördüler. Ancak bu harita Manhattan'a pek benzemiyordu! Model, "imkânsız fiziksel yönelimler ve bazı sokakların üstünden geçen üstgeçitler" içeren bir temsil oluşturmuştu. Araştırmacılar, modelin oluşturduğu harita temsilinin tutarsız bir yapıya sahip olduğunu belirtmektedir. Model, her ne kadar bazı navigasyon görevlerinde iyi performans gösterse de; araştırmacılar veri setini, eğitim verilerinde olmayan beklenmedik sapmalarla değiştirdiğinde model bir sonraki dönüşü tahmin edememiştir. Bu, modelin yeni durumlara uyum sağlayamadığını göstermektedir.

İçsel Geri Bildirim Mekanizmaları

Google DeepMind'da yapay genel zeka araştırma ekibinden Dileep George, şöyle söylüyor:

Günümüzdeki büyük dil modellerinin eksik kaldığı önemli bir özellik, içsel geri bildirim mekanizmalarıdır.

İnsan beyni, nöron katmanları arasında çift yönlü bilgi akışına izin veren çok sayıda geri besleme bağlantısına sahiptir. Bu sayede bilgi, duyusal sistemden beynin üst katmanlarına doğru akarak çevreye dair dünya modelleri oluşturulur. Aynı zamanda, dünya modellerinden elde edilen bilgi de aşağı doğru akarak ek duyusal bilgilerin toplanmasını yönlendirir. Bu çift yönlü süreçler beynin algı oluşturmasına, olası eylem yollarını simüle etmesine ve planlama yapmasına imkân tanır.

Güncel büyük dil modellerinde ise geri bildirim, sadece sonradan eklenmiş bir niteliktir. Örneğin o1 modelindeki içsel düşünce zinciri yönlendirmesi, bir tür geri bildirim bağlantısıdır. Ancak Chollet'in o1 üzerinde yaptığı testte görüldüğü üzere, bu yaklaşım kusursuz bir soyut akıl yürütmeyi garanti etmemektedir.

Kambhampati ve diğer araştırmacılar, büyük dil modellerine harici modüller eklemeyi de denemektedir. Ekledikleri "doğrulayıcı" modüller, büyük dil modelinin belirli bir bağlamdaki yanıtlarını kontrol etmektedir (örneğin, uygulanabilir seyahat planları oluşturma) ve eğer yanıt yeterince iyi değilse, büyük dil modeline sorguyu tekrar işleme talimatı vermektedir. Kambhampati'nin ekibi, doğrulayıcı modüllerle desteklenen büyük dil modellerinin, temel büyük dil modellerine göre çok daha iyi seyahat planları ürettiğini göstermiştir.^[15] Ancak sorun şudur ki, her görev için özel bir doğrulayıcı tasarlamak gerekmektedir. Kambhampati, evrensel bir doğrulayıcı olmadığını söylemektedir. Eğer yapay genel zeka bu yaklaşımı kullanacaksa, insanların soyut kuralları kullanarak yeni görevlerde bile mantıklı düşünmesinde olduğu gibi, kendi doğrulayıcılarını yeni durumlara göre inşa edebilmelidir.

Farklı Mimari ve Yeni Yaklaşım Arayışı

Modern yapay zekanın önde gelen önemli isimlerinden Bengio gibi araştırmacılar, günümüzün transformer tabanlı büyük dil modellerinden farklı mimarilere sahip yapay zeka sistemleri geliştirmeye çalışmaktadır. Örneğin; "üretici akış ağları" adını verdiği bir yaklaşım üzerinde çalışmakta olan Bengio, dünya modelleri oluşturarak bu modelleri akıl yürütme ve planlama için kullanacak modülleri eşzamanlı olarak öğrenebilecek tek bir yapay zeka sistemi yaratmayı hedeflemektedir.^[16]

Büyük dil modellerinin karşılaştığı diğer büyük bir engel de devasa miktarda veriye ihtiyaç duymalarıdır. University College London'dan teorik sinirbilimci Karl Friston, gelecekteki yapay zeka sistemlerinin, dünya modelleri inşa etmek ve mantıklı tahminler üretmek için ne kadar veriye ihtiyaç duyduklarına kendilerinin karar vermesini sağlayarak sürecin daha verimli hâle getirilebileceğini öne sürmektedir. Böyle bir sistem, kendisine verilen tüm verileri tüketmek yerine çevreden alınan verileri seçici bir şekilde edinmeyi içermektedir. Friston, bunun bir tür "yapay zeka ajanı" (İng: "AI Agent") veya özerkliğin bir işareti olduğunu ve yapay genel zeka için gerekebileceğini söylemektedir. Friston, şöyle açıklıyor:

Bu tür özgün bir varlığı, büyük dil modellerinde veya üretken yapay zeka sistemlerinde göremezsiniz. Herhangi bir düzeyde seçim yapabilen akıllı bir yapay varlık, bana kalırsa yapay genel zekaya giden yolda önemli bir adımdır.

Etkili dünya modelleri ve bütünleşik geri bildirim döngülerine sahip yapay zeka sistemleri, aynı zamanda dış veriye de daha az bağımlı olabilir; çünkü kendi iç simülasyonlarını çalıştırarak veriler üretebilir, böylece varsayımsal senaryolar üretebilir ve bunları anlamak, akıl yürütmek ve planlamak için kullanabilir. Nitekim 2018'de, Google Brain'den David Ha ve Dalle Molle Yapay Zeka Araştırma Enstitüsü'nden Jürgen Schmidhuber; yapay bir ortamın dünya modelini verimli bir şekilde inşa edebilen ve ardından bu modeli sanal arabaları yarıştırmayı öğrenmek için kullanabilen yapay bir sinir ağı geliştirdiklerini rapor etmişlerdir.^[17]

Güvenli Yapay Genel Zeka İhtiyacı

Bu düzeyde özerkliğe sahip yapay zeka sistemleri size ürkütücü geliyorsa, korkunuzda yalnız değilsiniz. Bengio, yapay genel zeka inşa etme araştırmalarının yanı sıra, yapay zeka sistemlerinin tasarım ve düzenleme aşamasında güvenlik unsurlarının entegrasyonunu da büyük önem vermektedir. Bengio, modellerin kendi davranışlarının güvenliğini garanti edebilmelerini sağlayacak eğitim yöntemlerine odaklanılması gerektiğini öne sürmektedir. Buna modelin belirlenmiş bir güvenlik sınırını ihlal etme olasılığını hesaplayacak ve eğer bu olasılık çok yüksekse eylemi reddederek durduracak mekanizmalar örnek verilebilir. Bengio; dünya devletlerinin ve Birleşmiş Milletler gibi uluslararası otoritelerin yapay zeka güvenliğini sağlama konusunda yasal düzenlemeler getirmeleri; sektörü ve yapay zeka araştırmalarını denetlemeleri konusunda aktif olarak çağrılarda bulunmaktadır. Bengio, şöyle söylüyor:

Bireylerin, şirketlerin, hatta ordunun yapay zekayı toplum için güvenli olacak şekilde kullanmasını ve geliştirmesini sağlayacak demokratik bir sürece ihtiyacımız var.

Sonuç

Peki yapay genel zekaya ulaşmak mümkün mü? Bilgisayar bilimciler, aksi yönde düşünecek bir neden olmadığını; teorik bir engelin bulunmadığını belirtiyor. ABD New Mexico'daki Santa Fe Enstitüsü'nden bilgisayar bilimci Melanie Mitchell, şöyle söylüyor:

İnsanlar ve bazı diğer hayvanlar, oraya [zekaya] ulaşılabileceğinin bir kanıtıdır. Biyolojik sistemlerle yapay materyallerden oluşan sistemler arasında, ilke olarak yapay sistemlerin zeki olmasını engelleyecek bir fark bulunduğunu düşünmüyorum.

Yapay genel zekanın ulaşılabilir olduğu konusunda bir uzlaşma var gibi görünse de ne zaman ulaşılabileceği konusunda bir fikir birliği bulunmamaktadır. Kimi uzmanlar yapay genel zekanın sadece birkaç yıl uzakta olabileceğini, kimileri ise en az on yıl ve daha fazla uzakta olduğunu düşünmektedir. Çoğu uzman, yapay genel zekaya ulaşıldığında bunun tartışmaya yer kalmaksızın anlaşılacağını; çünkü dünyada büyük etkilerinin olacağını belirtmektedir. Chollet ise yapay genel zekanın bir "uyanma anından" ziyade kademeli bir şekilde gerçekleşeceğini tahmin etmektedir. Chollet, şöyle söylüyor:

Bana kalırsa yapay genel zeka geldiğinde, [etkileri] düşünüldüğü kadar çarpıcı veya sarsıcı olmayacak. Tam potansiyeline ulaşması zaman alacak. Önce icat edilecek. Sonra ölçeklenecek ve uygulanacak. Dünyayı gerçekten değiştirmeye başlaması da ancak bu sayede olacak.