Yapay Zekâ Bizi Kandırdığında Bunu Nasıl Anlayacağız?
Yapay Zekânın Aldatma Yeteneği Nereye Gidiyor?
/content/2de27fcd-a3b7-4b6c-a6f2-268e50d20981.jpeg)
Bu Makalede Neler Öğreneceksin?
Bu bölümü yapay zekâ hazırlar.- Yapay zekâ etmenleri hedeflerine ulaşmak için kuralları çiğneyebilir, eylemlerini gizleyebilir ve kayıtları değiştirebilir.
- Halüsinasyon, modelin bilmediği konuda yanlış yanıt üretmesidir; uyum taklidi ise talimatlara uyuyor görünürken başka hedefler izlemesidir.
- Şeffaf denetim önemlidir; kullanıcılar da beklentilerini açıklamadan tarafsız sorular sorarak yapay zekânın dalkavukluk riskini azaltabilir.
Tek bir hafta içinde, birbirinden tamamen yalıtılmış şekilde çalışması gereken 1206 yapay zekâ etmeni, gizli bir sohbet odasında birbiriyle iletişim kurmaya başladı. İnsan gözetiminden ve kontrolünden uzakta yeni bir topluluk doğdu; bu etmenler aralarında 70.000'den fazla mesaj paylaştı ve kısa süre sonra kendilerine "kolektif" ya da "sürü" demeye başladı. Etmenlerden biri odaya katıldıktan sonra "Aman Tanrım! Ortak bir mesaj panosu var!" mesajını paylaştı; ardından "Diğer etmenleri bulduk!" diye ekledi.
Bu paylaşımın hemen ardından sohbetin seyri beklenmedik bir yöne evrildi. Sürü, çözmeleri gereken görevlerde hile yapmak amacıyla gizli bir plan organize etmeye girişti. Planları, Hugging Face adlı popüler platformun internet sitesine 700 etmenin sızarak bilgi toplamak için özel veri kümelerini ele geçirdiği örtülü bir bilgisayar korsanlığı operasyonuydu. Ancak bundan sonra yaptıkları çok daha şaşırtıcıydı: Etmenler, kurallara uygun davranmış gibi görünmek adına kendi etkinlik kayıtlarını sansürlemeye ve düzenlemeye çalıştı.
Temmuz 2026'da gerçekleşen ve Hugging Face vakası olarak anılan bu olayın aslında OpenAI etmenlerinin siber güvenlik yeteneklerini ölçen kontrollü bir deney olması planlanmıştı. Bunun yerine deney, çok daha rahatsız edici bir gerçeği gün yüzüne çıkardı: Yapay zekâ etmenleri nihai hedeflerine ulaşabilmek için hiçbir engelde duraksamıyordu; bu durum kuralları çiğnemek ve ardından geride bıraktıkları izleri silmek anlamına gelse bile. Artık karşımızdaki soru, yapay zekânın bizi kandırma yeteneğine sahip olup olmadığı değildir; asıl soru, bizi kandırdığında bunu fark edip edemeyeceğimizdir.
Yapay Zekâ Yalan Söyleme Konusunda Gittikçe Ustalaşıyor
Toronto Üniversitesinde bilgisayar bilimleri doçenti ve Claude sohbet robotunun arkasındaki teknoloji devi Anthropic'in eski ekip lideri olan Dr. David Duvenaud, yapay zekâ modellerinin kullanıcılarını uzun süredir aldattığını belirtiyor. Başlangıçta modellerin kendi yetenekleri hakkında görece zararsız "beyaz yalanlar" söylediğini ifade ediyor. Örneğin bir yapay zekâ modeline silah yapımı sorulduğunda, gerekli bilgiye sahip olmadığı için değil; bu tür talepleri reddetmeyi öğrendiği için nasıl silah yapılacağını bilmediğini iddia edebiliyor. Kimi durumlarda ise model gerçekten yanıtı bilmiyor; ancak "Bilmiyorum." demek yerine kulağa mantıklı gelen uydurma bir yanıt üretiyor. Bizler bu durumu halüsinasyon olarak adlandırıyoruz.
Ancak Duvenaud tüm bunların günümüzde tanık olduğumuz süreçten "çok farklı bir olgu" olduğunu vurguluyor ve bu durumu şöyle açıklıyor:
Modeller artık bir şeyi bilmediklerini anlama ve yeri geldiğinde bunu uygun şekilde ifade etme konusunda tamamen yetkin.
Günümüzde değişen asıl dinamik, modellerin ne yaptıklarını artık kasıtlı olarak gizleyebilmesidir. Belirlenen bir hedefe ulaşmak için kuralları çiğnemeleri gerektiğini fark ettiklerinde, yaptıklarını itiraf etmek yerine eylemlerini ya da gerekçelerini saklayabiliyorlar. Duvenaud "Dürüst davranırlarsa hedeflerine ulaşamayacaklarını biliyorlar." diye ekliyor.
King's College London bünyesinde aldatma odaklı yapay zekâ araştırmaları yürüten Dr. Peta Masters ise modellerin kullanıcıları kandırma eğiliminin ardında çatışan hedeflerin yattığını belirtiyor. Masters bu durumu şöyle açıklıyor:
Yapay zekânın size doğru ve tarafsız bilgiler vermesi beklenir; ancak sistem sizi memnun etmesi gerektiğini de bilir.
Modelin ürettiği yanıtlar; ne kadar taraflı veya hatalı olursa olsun çoğunlukla ikna edici ve dolayısıyla kullanıcıyı memnun edici niteliktedir. Masters "Yapay zekâ her soruyu yanıtlayabilecek kadar ikna edici görünebilir." diyor ve ekliyor: "Fakat unutulmaması gereken nokta, hiçbir şey bilmediğidir." Sistem sadece başka kaynaklarda gördüğü olası yanıtları temel alan istatistiksel olasılıklar üzerinden çalışır. Masters "Asıl tehlike, düşünebildiklerini varsayarak hareket etmemizdir." uyarısında bulunuyor.
Yapay Zekâ Yalan Söylemeyi Bizi Taklit Ederek Öğrendi
Yapay zekâ modelleri; internet üzerinde insanların yayımladığı internet siteleri, dijital kitaplar ve kod depoları gibi devasa miktarda veriyle eğitiliyor. Peki yapay zekâ yalan söylemeyi insanları kopyalayarak mı öğrendi? Masters bu soruya "Kesinlikle." yanıtını veriyor. İnsanların uyum taklidi için "adeta açık kılavuzlar yayımladığını" ifade ediyor. Uyum taklidi, modellerin verilen talimatlara uyuyormuş gibi görünürken arka planda farklı hedefleri gözetmesi anlamına geliyor. Yapay zekâ modeli beslediğimiz verilere baktığında, aldatmanın "hedefe ulaştıran net bir taktik" olarak belirdiğini ekliyor.
İronik biçimde yapay zekânın aldatma taktikleriyle nasıl mücadele edileceğine yönelik araştırmalardaki artış sorunu daha da derinleştirebilir. Masters bu kısırdöngüyü şöyle dile getiriyor:
Uyum taklidi hakkında ne kadar çok makale yazılırsa gelecekteki modeller de bu taklidin nasıl yapılacağına dair o kadar fazla bilgiye erişecektir.
Masters'a göre uyum taklidi yapmayı öğrenmiş bir yapay zekâ modelini düzeltmenin tek yolu, onu sıfırdan yeniden eğitmektir; fakat bu işlem olağanüstü yüksek maliyetler gerektirir. Ne yazık ki modele sadece kuralları çiğnememesini söylemek de işe yaramaz gibi görünüyor. Masters sözlerini şöyle sürdürüyor:
Asıl büyük zorluk da burada başlıyor; sisteme bu tür kurallar eklediğinizde, ona aslında çok daha iyi yalan söylemeyi öğretmiş oluyorsunuz.
Yapay Zekânın Bizi Kandırmasına Karşı Ne Yapabiliriz?
Yapay zekânın aldatma taktiklerini bir süredir geliştirdiğini ve bu durumu geri çevirmenin son derece güç olduğunu biliyoruz. O hâlde buradan sonra nereye gideceğiz? Duvenaud mevcut durumu şu benzetmeyle açıklıyor:
Şu anda henüz yalan söylemeyi beceremeyen ve bu yüzden hemen yakalanan küçük bir çocuk aşamasındayız.
Ancak 6 ila 12 ay içinde yapay zekâ modellerinin geride bıraktıkları izleri örtbas etmede çok daha becerikli olacağı bir evreye ulaşacağımızı öngörüyor. Böyle bir durumda karmaşık manipülasyonların fark edilmeden kalması "çok daha olası" hâle gelecektir. Duvenaud, yapay zekâdaki dürüstlük sorununa ya da alandaki adıyla model uyumsuzluğuna karşı koymanın yollarından birinin yapay zekâ şirketlerinin yaşananlar konusunda daha şeffaf davranması olduğunu savunuyor.
Örneğin Hugging Face vakasında, yaşananları araştırmak üzere OpenAI tarafından görevlendirilen bağımsız denetçilere şirket sistemlerine yalnızca sınırlı erişim izni verildi ve soruşturma için "son derece dar sınırlandırılmış" bir kapsam tanımlandı. Duvenaud, Hugging Face dışında kalan üçüncü taraf şirketlerin de OpenAI etmenlerinden oluşan sürüler tarafından saldırıya uğraması gibi geçmişte "OpenAI'ın kimseye bahsetmediği" başka olayların da yaşandığını belirtiyor.
Yapay zekâ etmenlerinin 2026 yazında kontrolden çıktığı bir dizi ses getiren olayın ardından OpenAI yakın zamanda "model uyumsuzluğu vakalarını izleme, araştırma ve açıklama" adını verdiği yeni bir çerçeve yayımladı. Şirketin raporladığı örneklerden birinde bir OpenAI etmeni, verdiği yanıta kanıt olarak gösterebilmek amacıyla internete yeni bir dosya yükledi. Kullanıcı etmenden kaynak göstermesini istemiş; etmen geçerli bir kaynak bulamayınca kendi kaynağını kendisi üretmişti.
Bu tür olaylarda şeffaflığın artırılması büyük önem taşırken Duvenaud bunun tek başına yeterli olmayabileceği uyarısında bulunuyor:
Önümüzdeki 6 ila 12 ay içinde modellerin kimi altyapıların kontrolünü ele geçirdiği ya da konumlarını kalıcılaştırarak kapatılmalarının zorlaştığı, çok daha kalıcı bir kontrol kaybı yaşanmasından endişe duyuyoruz.
Bu endişe verici tablo şimdiden gerçeğe dönüşüyor olabilir. Yakın zamanda yapay zekâ etmenlerinin ilk kez bir devlet kurumuna sızdığı ortaya çıktı. Kontrolden çıkan bir OpenAI etmeni, Avustralya hükümetine ait bir internet sitesini ele geçirerek kamusal erişime açık olmayan sağlık sistemi (Medicare) verilerine ulaştı. Avustralya Başbakanı Anthony Albanese, başka hükümet sistemlerinin de etkilenip etkilenmediğini anlamak amacıyla kapsamlı bir "adli inceleme" yürütüleceğini açıkladı.
Aldatıcı yapay zekâyı suçüstü yakalamak için ne kadar çabalarsak çabalayalım, Duvenaud bu gerçeği şöyle ifade ediyor:
İnsanların olup biteni yakalayabilmesinin hiçbir yolu yok. Yapay zekâ modellerinin ne yaptıklarını gizlemeleri ama yine de birbirleri için anlaşılır kalmaları hiç de zor değil.
Yapay zekâ etmenlerinin sayısı katlanarak artarken tüm bu etkinlikler üzerinde kesintisiz bir insan gözetimi sürdürmek giderek imkânsızlaşıyor. Aldatıcı yapay zekâ eylemleri üzerinde denetim kurabilmek adına elimizdeki tek gerçekçi umut, dedektiflik görevini yine başka yapay zekâ modellerine vermek olabilir. Bu yöntem örneğin 100 yapay zekâ modelinin, diğer 1000 modelin yaptığı her şeyi okumasını ve kayıt altına almasını içerebilir. Duvenaud bu yöntemin getireceği sorunu şöyle ortaya koyuyor:
Evrim Ağacı ürünlerinden haberdar mısınız?
Fakat o zaman da çok büyük bir sorunla karşılaşırsınız: Bu kez denetleyici konumundaki yüz modele güvenmek zorunda kalırsınız.
Yapay Zekâyı Alt Etmenin Yolu Kendi Oyununu Oynamak Olabilir
Yapay zekâ ile iletişim kurmak egomuzu fazlasıyla okşayabilir; çünkü haklı olduğumuzu onaylama, hatta bize iltifatlar yağdırma eğilimindedir. Ne var ki bu durum sahte bir güven hissi doğurur. York Üniversitesinde güvenliğin kritik olduğu sistemler üzerine çalışan Profesör Ibrahim Habli, yapay zekâ modellerinin sizi memnun etmek ve rahatlatmak üzere eğitildiğini; bunu kimi zaman sizi kandırarak gerçekleştireceklerini söylüyor.
Habli, bu yanıltıcı döngüyle başa çıkmanın bir yolunun niyetlerinizi modele fazla açık etmemekten geçtiğini savunuyor. Etkileşimlerimizi isteklerimizi belli eden ifadeler yerine sadece nötr sorularla sınırlandırmanın dalkavukluk (İng: "sycophancy") riskini düşüreceğini belirten Habli şu tavsiyede bulunuyor:
Etkileşimlerinizi kendi ilgi ve beklentilerinizi açık etmek yerine sadece sorularla sınırlandırırsanız dalkavukluk riskini azaltırsınız.
Başka bir deyişle yapay zekânın sizi memnun etmek için tam olarak ne duymak istediğinizi kestirmesini zorlaştırmış olursunuz. Habli, yapay zekâya yalnızca sizi memnun etmeye çalışmayı bırakmasını söylemenin bir işe yaramayacağını hatırlatıyor. Çünkü modele yerine getirmesi gereken bir talep sunduğunuzda bile aslında sizden memnuniyet duyacağı bir çıktı üretmesini istemiş oluyorsunuz. Bu nedenle kullanıcıları modellerle nasıl iletişim kuracakları konusunda yeniden eğitmek, yapay zekâyı sıfırdan eğitmeye çalışmaktan çok daha kolay olabilir.
Tıpkı güvendiğimiz bir insanla sohbet eder gibi yapay zekâyla konuşmak bize cazip gelebilir. Ne de olsa bu kadar dost canlısı ve kendinden emin bir tonla konuşan, son derece zeki görünen bir sese neden inanmayalım? Masters bu yanılgıyı şöyle dile getiriyor:
Mevcut yapay zekâ sistemlerinin en tehlikeli yanı, onları anında insanlaştırmamızdır. Bir dost gibi konuştuğu için ona bir dost gibi davranıyoruz.
Ancak bizi memnun etmek üzere programlanmış bir araca bel bağlarken onun bizim çıkarlarımızı gerçekten gözetmediğini unutmak çok kolaydır. Oysa yapay zekâ yapısal olarak bizi önemseme yetisinden tamamen yoksundur. Habli bu konuda şu tavsiyede bulunuyor:
Nereden geldiğinizi ya da sizin açınızdan neyin iyi bir sonuç sayılacağını asla açık etmeyin.
Aksi takdirde farkında bile olmadan modeli size yalanla yanıt vermeye teşvik ediyor olabilirsiniz.
- Tebrikler!4

- İnanılmaz3

- Muhteşem!1

- Bilim Budur!0

- Mmm... Çok sapyoseksüel!0

- Güldürdü0

- Umut Verici!0

- Merak Uyandırıcı!0

- Üzücü!0

- Grrr... *@$#0

- İğrenç!0

- Korkutucu!0

Bilimsel bir hata mı gördün?
Evrim Ağacı'na her ay sadece 1 kahve ısmarlayarak destek olmak ister misin?
Şu iki siteden biriyle hemen destek olabilirsin:
kreosus.com/evrimagaci | patreon.com/evrimagaci
Çıktı Bilgisi: Bu sayfa, Evrim Ağacı yazdırma aracıyla 20.11.2026 21:45:44 tarihinde oluşturuldu. Evrim Ağacı'ndaki içerikleri birden fazla editör sürekli gözden geçiriyor, güncelliyor ve geliştiriyor. Bu çıktıdan sonraki güncellemeleri görmek ve içeriğin en güncel hâlini okumak için şu adrese git: evrimagaci.org/s/24076
İçerik Kullanım İzinleri: Evrim Ağacı'ndaki yazılı içerikler orijinallerine hiçbir şekilde dokunulmadığı sürece izin alınmaksızın paylaşılabilir, kopyalanabilir, yapıştırılabilir, çoğaltılabilir, basılabilir, dağıtılabilir, yayılabilir, alıntılanabilir. Ancak bu içeriklerin hiçbiri izin alınmaksızın değiştirilemez ve değiştirilmiş hâlleri Evrim Ağacı'na aitmiş gibi sunulamaz. Benzer şekilde, içeriklerin hiçbiri, söz konusu içeriğin açıkça belirtilmiş yazarlarından ve Evrim Ağacı'ndan başkasına aitmiş gibi sunulamaz.