Dikeylilik Hipotezi: Zeka ve Etik El Ele mi İlerler? Yapay Zekâ Etiğin Ne Olduğunu Anlayabilir mi?

6dk
Dikeylilik Hipotezi: Zeka ve Etik El Ele mi İlerler? Yapay Zekâ Etiğin Ne Olduğunu Anlayabilir mi?
  • Blog Yazısı

Günlük yaşantımızda amaçlarımız hemen hemen hiçbir zaman kaskatı bir mantık etrafında planlanmamıştır. Buna en iyi örnek ise şu an bu yazıyı okuyor oluşunuzdur. Eğer ciddi bir araştırma içerisinde değilseniz yüksek ihtimalle "canınızın istemesi" buraya gelmeniz için yeterli olmuştur. Peki verdiğiniz bu ya da bunun gibi sayısız kararın arkasında bir mantık ya da nihai bir amaç aramak mümkün müdür? Eğer mümkünse tüm rasyonelliğimizle en doğru amaca varabilir, varabilecek bir ajan yaratabilir miyiz?

Aslında günümüzde yapay zekâların amaçlarından bir tanesi de bize insan olarak nasıl daha iyi yaşayacağımızı gösterebilecek bir varlık, rasyonel bir ajan yaratmaktır. Neticede yapay zekâyı bu denli kurcalamamızın amacı, bize bu ütopyayı yaratacak varlığı üretmektir. Ancak çoğu bilgisayar bilimcinin düşüncesi bu amacımızın tam tersinin, yani sonumuzun da eşit bir olasılıkla gerçekleşebileceğidir. Gerek yapay zekâya bizim amaçlarımızın tam olarak aktarılamaması, gerekse bu amaçların uçlarının istemediğimiz şekilde açık bırakılması yapay zekânın beklediğimizden çok daha farklı aksiyonlar alabileceği anlamına gelir. İşte yapay zekânın amaçlarının bizim amaçlarımıza ne kadar uygun olduğunu anlamak için değinmemiz gereken yapay zekâ hizalama adlı bir nokta vardır.

Ancak buna değinmeden önce, yapay zekâların nasıl çalıştıklarını daha iyi kavramak için "zekâ" ve "amaç" kavramlarını açıklamak faydalı olacaktır. Zekâ tanımı kişiden kişiye, hatta bir pozitif bilimden ötekine değişebilir; ancak yapay zekâdaki "zekâ" temel olarak bir amaç uğruna bulunduğu ortam ve sahip olduğu bilgiler ışığında kullanışlı bir model üretebilme yeteneğidir.

Tüm Reklamları Kapat

Örneğin ChatGPT metin üretme konusunda "zekidir"; çünkü ChatGPT amacı metin üretmek olan ve bunu yapabilmek için sistemine yüklenen pek çok kaynakla dil modeli oluşturabilen bir ajandır. ChatGPT'nin mükemmel olmadığı ve özellikle mantıksal olarak sayısız hata yapabildiği doğrudur; ancak sırf mantıksal hatalar ve verdiği yanlış bilgiler doğrultusunda ChatGPT'ye "aptal" demek de yerinde olmayacaktır. İnsanlarla yazışabildiği düşünüldüğünde ChatGPT oldukça gelişkin bir dil modeli olmasına karşın yapay zekânın potansiyeliyle kıyaslandığında akıl almayacak kadar ilkeldir. Tek amacı bir yazı öbeği alıp karşılığında başka bir yazı öbeği oluşturmak olan bir yapay zekâ, bizim gibi pek çok amacı olan ve dünya hakkında sayısız modele sahip bir canlıya kıyasla oldukça geride gözükecektir.

Yukarıda da bahsettiğimiz gibi ChatGPT'nin tek amacı cümle üretmektir ve bu amacı ona "vermek" teknik anlamda oldukça kolaydır. Temelde ChatGPT, her kelimeyi bir bilet (İng: "Token") olarak düşünür ve ürettiği biletlerin birlikteliği, uyumluluğu ve doğruluğu kapsamında ödül alır.⁠[2] Yani ChatGPT kısaca alacağı bu sanal ödülü maksimuma çıkarmaya uğraşır. Bu noktada ChatGPT'yi bir fayda-değer fonksiyonu (İng: "utility function") olarak düşünmek yararlı olacaktır. ChatGPT, ona verdiğimiz "girdiye göre cümle üret" amacını cümle uyumu, paragraf uyumu ve içsel dikkat (İng: "Self Attention", ChatGPT'yi türevlerinden ayıran uyum ölçme modeli) gibi farklı kriterlerle puanlayıp, bu puanı optimize etmeyi amaçlar.

GPT2'nin kullandığı şifreleme-çözme tabakalarından bir tanesi (totalde 48 tabakadan oluşuyor)
GPT2'nin kullandığı şifreleme-çözme tabakalarından bir tanesi (totalde 48 tabakadan oluşuyor)
Wikipedia Commons

Ancak tam da bu noktada oldukça temel bir sorun açığa çıkmaktadır; yapay zekâ, ya doğru cevap üretmektense dil modeline göre en "doğru gözüken" cevabı üretmeye başlarsa?

İşte bu bir hizalama problemidir. Yani ajanımız bizim istediklerimizi kendi modelinde en yüksek puanı elde edecek kadar iyi yapacaktır, ancak bu en yüksek puan bizim istediğimizi tam olarak sağlayamayabilir.

Tüm Reklamları Kapat

Örneğin ChatGPT'ye bir makale yazmasını söylediğimizi varsayalım ve bu makaledeki kaynakları vermesini isteyelim. Bu durumda aldığımız cevap güzel gözüken bir makale ve birkaç DOI linki olacaktır, ancak bu linklere tıkladığımızda hemen hepsinin verilen isimlerle uyuşmayan başka makaleler olduğunu göreceğiz. Bunun tek sebebi, ChatGPT'nin linklerde doğruluğu aramaktansa kendisine en büyük puanı getirecek ve paragrafla istatistiksel anlamda en "uyumlu" linki seçmesidir. Bu durumda ChatGPT, ona verdiğimiz fayda fonksiyonundaki bir açıklıktan yararlanarak kolaya kaçmış ve en muhtemel linkleri bize göstermiştir. Bununla baş edebilmek ise yapay zekâyı bizim isteklerimize göre "hizalamayı" gerektirir ve bu o denli zor bir iştir ki, bilgisayar biliminin altında gelişen bir dal haline gelmiştir.

Zekâ Düzeyi ve Etik

Tam da bu noktada karşımıza yeni bir konsept çıkmaktadır. Acaba zekâ düzeyi arttıkça ajanların amaçları ve istekleri birbirlerine yakınsar mı? Neticede insanlara bakıldığında eğitim düzeyi, ölçülebildiği kadarıyla zekâ seviyesi ve hayat memnuniyeti arttıkça alturizm, yardımlaşma ve bilime verilen destek artar; gericilik, anlamsız zarar verme ve bencillik gibi kavramlar azalır.⁠[1] [4]

Öyleyse bizim üreteceğimiz, zekâ olarak bizden üstün bir ajan da en nihayetinde insan etiğine uygun çalışabilir, "en doğru yolu" bulabilir mi?

Bu noktada konumuz felsefi olarak bir amacın ne olduğuna geliyor. Bir "amaç" bizim için dahi bu kadar zor tanımlanabiliyorken bizden potansiyel olarak daha güçlü bir oluşumun amaçlarını iyi belirlemek insanlık adına hayati önem taşıyor olabilir.

Bu durumun popüler bilimde en iyi örneği ataç arttırma (İng: Paperclip Maximizer) problemidir. Bu örnekte tek amacı maksimum sayıda ataç üretmek olan bir yapay zekâ ürettiğimizi varsayalım. Bu yapay zekâ ataç üretmek gibi anlamsız bir işi eğer temel amacı olarak belirlerse bütün dünya hatta bilinen evren ataçla kaplanana kadar durmayacaktır. Bu durumda temelde çok basit gözüken bir yapay zekâ ataç üretmek gibi bize "basit" gözüken bir amaç uğruna bütün yaşamı tehdit edecektir.

Asıl sorun ise amaçların basit veya anlamsız, karmaşık ve iyi gibi tanımları olmamasıdır. Bir bireyin yaşam amacı başka bir birey için dünyada yapılabilecek en mantıksız şey gibi gözükebilir ve durum insan dışı varlıkları da düşündüğümüzde karmakarışık bir hale bürünür. Bir asker karıncanın tek hayat amacı işçiler yemek taşırken yolu koruyup ölmek olabilirken bir bakterininki olabildiğince fazla sayıda bölünmek olabilir. Bunun ise en temel sebebi David Hume'un giyotinidir (İng: Hume's Law/Hume's Guillotine). Ünlü filozof David Hume'a göre bir gerçeklikten bir gerekliliğe hatta sonsuz sayıda gerçeklikten dahi bir gerekliliğe ulaşmanın yolu yoktur.

Örnek olarak "acıktım bu nedenle yemek yapmalıyım" cümlesini ele alalım. Burada acıkmak bir gerçeklik, yemek yapmalıyım ise bir gerekliliktir. David Hume'a göre acıktıysan neden yemek yapmalısın sorusunu sormak çok mantıklı olacaktır. Bu durumda biz de gülünç bir şekilde "açlıktan ölmemek için" cevabını verebiliriz. Hume ise bize "neden açlıktan ölmemelisin" sorusunu soracaktır. Böyle bir soru cevap silsilesinden kurtulmanın tek yolu ise "açlıktan ölmemeliyim" gibi yeni bir gereklilik cümlesi kurmaktır. Sonuç olarak bir gereklilik cümlesine ulaşabilmenin tek yolu bir başka gereklilik cümlesi kurmaktır. Yani gerçekliklerle gereklilikler arasında sanki bir giyotinle kesilmişçesine kopuk bir bağ vardır. Bu örnek bize aynı zamanda amaçların kişiden kişiye nasıl değişebileceğini de göstermektedir. Hayvanlar alemini ele alırsak bir erkek peygamberdevesi için çiftleşmek ve hayatta kalmak kesin olarak çatışan iki eylemken biz insanlar ikisini de kolaylıkla yapabilmekteyiz.

Bu noktaya kadar bahsettiğimiz amaçlar hep bir nihai amaç olmuştur. Yani hayat amacımız gibi başka hiçbir şeye bağlı olmayan, mantıksal bir temele oturtulamayan amaçlar. Ancak bu son amacımıza ulaşmamız için gerekli olan pek çok ara amacımız da vardır. Örneğin yukarıdaki örnekte verdiğimiz "açlıktan ölmemeliyim" bir son amaç, "yemek yapmalıyım" ise bir ara amaçtır. Ara amaçlar bir araç, enstrüman görevi görmektedir ve genellikle birbirlerine kolayca yakınsayabilirler. Tam da burada konumuz için oldukça önemli bir kavram olan Enstrümantel Yakınsamaya (İng: Instrumental Convergence) geliyoruz.

Ana amaçlar her ne kadar farklı olsa da genellikle ana amaçlara ulaşmak için benzer ara amaçlardan geçilmesi gerekir.⁠[5], [6] Eğer insanlardan örnek verecek olursak gerek benzer fizyolojimizden gerekse sosyal yapımızdan ötürü çoğumuzun ana amacına ulaşmak için yeni insanlarla tanışmak, yeni tecrübeler edinmek ve en önemlisi ölmemek birer enstrümental yakınsama örneğidir. Bu minik amaçlar ana amacımıza ulaşmamız için bir ön adımdır ancak benzer yapıya sahip çoğu varlıkta ortak olarak bulunmaktadır.

Bu durum, teoride yeterince gelişkin bir yapay zekânın son amacı ne olursa olsun "insanlarla iletişim kurmalıyım" veya "kapatılmama izin vermemeliyim" gibi ara amaçlara yakınsayacağını ima etmektedir. Bu dikeylilik hipoteziyle de birleştirildiğinde ortaya oldukça korkunç bir senaryo çıkar.⁠[7]

Tüm Reklamları Kapat

Örneğin A isimli bir yapay zekâ ürettiğimizi ve A'nın bilişsel yeteneğinin bizden üstte olduğunu farz edelim. A'nın ise günümüzde yaşayan insanların hayat standartlarını en üst düzeye çıkarmak gibi karışık bir amacı olsun. Bu durumda A, dikeylilik hipotezinin de dikte ettiği biçimde insanların "hayat standartlarını" kendine en uygun biçimde tanımlayacak ve buna uygun aksiyon alacaktır. Şu an yaşayan insanlar gibi bir tanım bu yapay zekânın hepimizi kısırlaştırıp bir nesil sonra "hayat standartını" yükseltmesi gereken hiçbir canlı kalmamasına dolayısıyla A'nın amacına sonsuza kadar ulaşmasına yol açacaktır. Bir başka senaryoda ise A, insan olarak bizim ilkel beyinlerimize yapay bir şekilde hormon bombardımanı yaparak sürekli olarak uyuşturulmuş kalmamıza neden olacaktır. Neticede "hayat standartı" tanımında "olabildiğince uzun yaşamak" yoktur.

Bu örnekte ise A, eğer bizi kısırlaştıracaksa bunu "insanları manipüle etme" gibi enstrümental bir amaç kullanarak, yalanlar söyleyerek ve yeni bilgiler edinerek yapacaktır. Bunun daha da ötesinde, kendi amaçlarını bizimkilerle uyumluymuş gibi göstermeye çalışacak, kendi zekâsını insanları daha iyi anlamak ve insanları daha iyi yönetebilmek adına geliştirecek ve en temelde kapatılmasını önleyecek bir ara amaçlar silsilesi yaratacaktır.

Bu sürecin bir kısmında A, bize muhtemelen bizi diğer insanlardan daha iyi anlıyormuş gibi gözükecektir. Ve bu durum bize dikeylilik hipotezinin aksine A'nın doğru yolu, insan etiğine en uygun yaşam biçimini bulduğu izlenimini verecektir. Ancak dikeylilik hipotezini bu denli korkutucu yapan da zekânın, bir son amaçtan bir uçurumla ayrılmış olmasıdır.

Son amacı ister bir ataç, çatal ya da kalem üretmek ister insanları mutlu etmek olsun, bir yapay zekâ hemen her zaman bize bizi anlıyormuş ve önem veriyormuş gibi gözükecektir. Neticede son amaca ulaşmak için her şey makuldür.

Kaynaklar ve İleri Okuma
Rastgele Yazıya Git
3
Alt Başlıklar
Bu Blog Yazısı Sana Ne Hissettirdi?
  • Tebrikler!
    Tebrikler!
    2
  • Muhteşem!
    Muhteşem!
    0
  • Bilim Budur!
    Bilim Budur!
    0
  • Mmm... Çok sapyoseksüel!
    Mmm... Çok sapyoseksüel!
    0
  • Güldürdü
    Güldürdü
    0
  • İnanılmaz
    İnanılmaz
    0
  • Umut Verici!
    Umut Verici!
    0
  • Merak Uyandırıcı!
    Merak Uyandırıcı!
    0
  • Üzücü!
    Üzücü!
    0
  • Grrr... *@$#
    Grrr... *@$#
    0
  • İğrenç!
    İğrenç!
    0
  • Korkutucu!
    Korkutucu!
    0

Yorumlar 0

Evrim Ağacı'na her ay sadece 1 kahve ısmarlayarak destek olmak ister misin?

Şu iki siteden biriyle hemen destek olabilirsin:

kreosus.com/evrimagaci | patreon.com/evrimagaci

Çıktı Bilgisi: Bu sayfa, Evrim Ağacı yazdırma aracıyla 21.11.2026 01:55:27 tarihinde oluşturuldu. Evrim Ağacı'ndaki içerikleri birden fazla editör sürekli gözden geçiriyor, güncelliyor ve geliştiriyor. Bu çıktıdan sonraki güncellemeleri görmek ve içeriğin en güncel hâlini okumak için şu adrese git: evrimagaci.org/s/14076

İçerik Kullanım İzinleri: Evrim Ağacı'ndaki yazılı içerikler orijinallerine hiçbir şekilde dokunulmadığı sürece izin alınmaksızın paylaşılabilir, kopyalanabilir, yapıştırılabilir, çoğaltılabilir, basılabilir, dağıtılabilir, yayılabilir, alıntılanabilir. Ancak bu içeriklerin hiçbiri izin alınmaksızın değiştirilemez ve değiştirilmiş hâlleri Evrim Ağacı'na aitmiş gibi sunulamaz. Benzer şekilde, içeriklerin hiçbiri, söz konusu içeriğin açıkça belirtilmiş yazarlarından ve Evrim Ağacı'ndan başkasına aitmiş gibi sunulamaz.

Hemen Paylaş
Bu blog yazısını sevdin mi?
Paylaşarak başkalarına da ilham ol.
Keşfetmeye Devam Et