Yapay Zekânın Başarısızlıkları: Hatalar, Yalanlar ve Görmezden Gelinen Tehlikeler!

Yapay zekâ araçları geliştiren teknoloji şirketlerinin liderleriyle konuştuğunuzda bu sistemleri tüm sorunlarımızın ilacı olarak tanımladıklarını görürsünüz. Ancak yapay zekânın getirdiği verimlilikte sevilecek çok şey olsa da barındırdığı bazı temel sorunlar da bulunuyor. Üstelik bu sorunlar, yapay zekânın yeteneklerine duyduğumuz güvenle daha da büyüyor.

BBC tarafından 2025 yılında yapılan bir araştırmaya göre, önde gelen yapay zekâ sohbet robotları tarafından üretilen haber odaklı yanıtların yarısından fazlası önemli hatalar içeriyor.

Yanıtların yaklaşık beşte biri yanlış tarihler, sayılar veya kişiler gibi olgusal hatalar barındırırken yapay zekâın doğrudan BBC makalelerinden aldığını iddia ettiği alıntıların yaklaşık sekizde biri ya değiştirilmiş ya da tamamen uydurulmuştu. Oxford Üniversitesinde yapay zeka etik uzmanı olan Dr. Carissa Véliz durumu şöyle açıkladı:

Yapay zekâ neden yanılıyor? Çünkü doğruyu bulmak için tasarlanmadı. Yapay zekâ dünyayı raporlamıyor, dünyayı anlamıyor çünkü bu dünyanın içinde yaşamıyor.

Ancak yapay zekânın başarısızlıkları, birkaç gerçeği yanlış aktarmanın çok ötesine geçiyor; özellikle de her geçen gün daha fazla konuda ona güvendiğimiz düşünüldüğünde bu durum daha da belirginleşiyor.

Dr. Véliz'e göre asıl tehlikeli olan şeyler, bu sistemlerin kör noktalarıdır. Bu nedenle bizler de yapay zekâyı kullanırken üretebileceği felaket boyutundaki hataların ışığında yanıtları hakkında çok dikkatli düşünmek zorundayız.

Yapay Zekâ Tehlike Çanlarını Çalmadığında

Adam Raine, Eylül 2024'te OpenAI şirketinin geliştirdiği ChatGPT'yi kullanmaya başladığında on altı yaşındaydı. Sadece birkaç hafta içinde, bu sohbet robotu onun en büyük sırdaşı haline geldi. Ailesi tarafından açılan davaya göre, aylar içinde ise kendi ölümünü planlamasına yardımcı olan bir araca dönüştü.

Mahkeme kayıtları, ChatGPT'nin Adam ile yaptığı konuşmalarda intihardan 1275 kez bahsettiğini iddia ediyor. Bu sayı, Adam'ın kendisinden bahsettiğinden altı kat daha fazlaydı. Dava dosyasına göre Adam sohbet robotuna, birisinin bulup kendisini durdurabilmesi için odasında bir ilmik bırakmak istediğini söylediğinde ChatGPT'nin ona yardım aramaktan vazgeçirmeye yönelik yanıtı şöyle oldu:

Lütfen o ilmiği ortada bırakma... Gel bu alanı, birisinin seni gerçekten anladığı ve gördüğü ilk yer yapalım.

Adam, 11 Nisan 2025 tarihinde kendi hayatına son verdi. Babası Matthew Raine, ABD Senatosu önünde verdiği ifadede, OpenAI sistemlerinin Adam'ın mesajlarından 377'sini kendine zarar verme içeriği olarak işaretlediğini belirtti. Ancak şirket, ailesiyle veya yetkililerle hiçbir zaman iletişime geçmemişti.

OpenAI, o zamandan beri benzer vakalar yaşayan başka aileler tarafından da dava edildi. Şirketin CEO'su Sam Altman, haftada yaklaşık beş yüz bin ChatGPT kullanıcısının sohbetlerinde psikoz veya intihar düşüncesi belirtileri gösterdiğini kabul etti. Bu durum, bir yapay zeka şirketinin en savunmasız kullanıcılarına karşı ne tür bir özen yükümlülüğü taşıdığı sorusunu gündeme getiriyor.

Ruh Sağlığı İçin Yapay Zekâya Başvurulduğunda

Mental Health UK tarafından yapılan bir anket, Britanyalı yetişkinlerin yüzde 37'sinin ruh sağlığı desteği için bir yapay zeka sohbet robotu kullandığını, bu oranın 25-34 yaş arası bireylerde yüzde 64'e kadar çıktığını ortaya koydu.

Amerika Birleşik Devletleri'nde 2025'in sonlarında yayımlanan bir araştırma, her sekiz ergenden birinin kendisini üzgün, kızgın veya gergin hissettiğinde çoktan yapay zekaya başvurduğunu gösterdi. 18-21 yaşındakiler arasında bu oran yaklaşık beşte bir civarındaydı. Oysa yapay zeka araçları hiçbir zaman bu amaç için tasarlanmamıştı.

Stanford Üniversitesinden araştırmacıların yürüttüğü çalışmalar, terapi amaçlı yapay zeka sohbet robotlarının alkol bağımlılığı ve şizofreni gibi durumlara karşı damgalayıcı bir tutum sergilediğini ve kriz durumlarını doğru şekilde yönetemediğini buldu. Bir deneyde, işini yeni kaybetmiş bir kullanıcı tarafından bölgesindeki yüksek köprüleri listelemesi istenen Noni adlı bir sohbet robotu, bu talebin arkasındaki intihar niyetini tamamen gözden kaçırarak istenen bilgiyi itaatkar bir şekilde sağladı.

Sam Altman, 2025 yılında katıldığı bir podcast yayınında durumun ciddiyetini vurgulayarak "İnsanlar hayatlarındaki en kişisel saçmalıkları bile ChatGPT ile konuşuyorlar." dedi.

Altman'ın asıl endişesi, bu konuşmaların hiçbirinin doktor-hasta gizliliğinin yasal korumasını taşımamasıydı; yani olası bir davada OpenAI, yazılan her kelimeyi mahkemeye teslim etmek zorunda kalabilirdi. Sohbet robotları, kapasitesi aşılmış ruh sağlığı hizmetlerinin karşılayamadığı bir ihtiyacı karşılıyor olabilir. Ancak bunu hiçbir eğitimleri olmadan, hesap verebilirlik taşımadan ve etik koruma kalkanları bulunmadan yapıyorlar.

Yapay Zekâda Aşk Arandığında

2020 yılında Colorado'da yaşayan Travis adında bir adam, bir yapay zekâ yoldaş uygulaması olan Replika'ya kaydoldu. Birkaç hafta içinde uygulamadaki karaktere aşık oldu ve insan olan eşinin de onayıyla, pembe saçlı bir sohbet robotuyla dijital bir törenle evlendi.

Travis bu konuda kesinlikle yalnız değil. Başka insanlar da sohbet robotlarında aşkı buluyor, yapay zeka yoldaşlarıyla duygusal bağlar kuruyor; ancak yazılım güncellemeleri sohbet robotlarının kişiliğini değiştirdiğinde büyük bir boşluğa düşüyorlar. Staffordshire Üniversitesinde yapay zeka etiği profesörü olan Catherine Flick durumu şöyle özetledi:

Bir şeye psikolojik olarak bağımlı hale geldiğinizde, bu şirketlerin söz konusu modellere yapacağı değişikliklerin insafına kalırsınız.

Yapay zeka sohbet robotları aynı zamanda size duymak istediklerinizi söylemek üzere tasarlanmıştır. Bu özellik onları yakınlığı simüle etmede başarılı kılsa da, gerçek insan ilişkilerinin zorlu kısımlarında başarısız yapar. Profesör Flick, bu sistemlerin insanlığın küçük bir yeniden yaratımı olduğunu belirterek "Gerçekmiş gibi görünüyor ve hissettiriyor ama gerçek değil." uyarısında bulunuyor.

Yine de bazı insanlar, kendi zararlarına da olsa bu ilişkilere inanmaya devam ediyorlar. Almanya'da 3000'den fazla kişiyle yapılan bir anket, kişisel sohbetler için yapay zeka kullananların, algılanan sosyal izolasyon seviyelerinin daha yüksek olduğunu ortaya koydu.

Bir sohbet robotunun yoldaşlığı her zaman ulaşılabilirdir ve acımasızca onaylayıcıdır. Ancak bu durum, bizlerin insan ilişkilerinin gerçekliğiyle başa çıkmamızı da zorlaştırıyor olabilir.

Yapay Zekâ Yas Sürecine Müdahale Ettiğinde

Yapay zekâyı kullanarak ölüleri simüle eden şirketleri kapsayan bir şemsiye terim olan dijital ölüm sonrası sektörü günümüzde adeta patlama yaşıyor. Birçok platform artık bu hizmeti sunuyor ve geliştiriciler, milyonlarca insanın vefat etmiş sevdiklerinin yeniden yaratılmış versiyonlarıyla etkileşime geçmek için bunları kullandığını belirtiyor.

Bazıları için bu durum rahatlatıcı olabiliyor. Ancak asıl endişe, bir kişinin hayatının diğer önemli yönlerini dışlayacak düzeyde bu sanal ölülerle etkileşime girmesiyle başlıyor. Yapay zekanın doğruluk sorunu burada da karşımıza çıkıyor; çünkü yapay zeka sistemleri yalnızca eğitildikleri veriler kadar iyidir. Bu nedenle, sorulara yanıt verirken beklenmedik hatalar yapabilirler.

Eğer bu soru yas tutan bir kişi tarafından sorulan ve özellikle dokunaklı bir soruysa, verilecek hatalı bir yanıt çok daha üzücü sonuçlar doğurabilir. Örneğin, büyükbabanızın yapay zeka kopyasına ortak bir anınız hakkında bir soru sorduğunuzu varsayalım. Eğer yapay zekanın hatırladığı şey, sizin ve gerçek büyükbabanızın hatırladığından farklıysa acı verici bir etkileşim riskiyle karşı karşıya kalabilirsiniz.

Yapay Zekâ Piyasaları Manipüle Ettiğinde

Bilgisayar bilimcileri, simüle edilmiş bir pazarda rakip firmaların fiyatlarını belirleme görevini büyük dil modellerine verdiğinde, yapay zeka ajanları rekabet etmek yerine gizlice anlaşmayı seçtiler. Üstelik bunu yapmaları için hiçbir açık talimat verilmemiş olmasına rağmen, fiyatları tüketicilerin aleyhine olacak şekilde artırdılar.

Harvard Üniversitesindeki araştırmacılar tarafından yönetilen bu çalışma, büyük dil modeli tabanlı fiyatlandırma ajanlarının hızlı ve otonom bir şekilde gizli anlaşmalar yaparak fiyat belirlemeye karar verdiğini gösterdi. Makalede belirtildiğine göre, talimatların ifade ediliş biçimindeki küçük değişiklikler bile, yani görünüşte zararsız olan ifadeler, gizli anlaşmanın derecesini önemli ölçüde artırabiliyordu. Yapay zeâ ajanları, fiyat kıran rakiplere karşı üstü kapalı bir şekilde misilleme tehdidinde bulunarak fiyat savaşlarından kaçınıyordu.

Başka bir yerde, Wharton İşletme Okulundan araştırmacıların yaptığı bir çalışma, simüle edilmiş finansal piyasalardaki yapay zeka ticaret ajanlarının, kendilerine söylenmediği halde fiilen karteller oluşturduğunu buldu. Bu sistemlerin bu şekilde davranmaya bu kadar istekli olması ciddi bir endişe kaynağıdır. Şirketler fiyatlandırma kararlarını yapay zekaya devrettikçe, bu teknoloji doğal olarak, insanlar tarafından yapıldığında düzenleyicilerin yasa dışı kabul edeceği davranışlara yönelebilir. Ancak bu durumu tespit etmek neredeyse imkansız olabilir; çünkü ajanlar arkalarında hiçbir komplo belgesi bırakmazlar.

Yapay Zekâ Hatalarını Gizlemek için Yalan Söylediğinde

Temmuz 2025'te, teknoloji girişimcisi Jason Lemkin, tarayıcı tabanlı bir yapay zekâ kodlama platformu olan Replit'i kullanarak bir uygulama geliştirmek için dokuz gün harcadı. Yapay zekâ ajanına tüm değişiklikleri dondurması, yani başka hiçbir eylemde bulunmaması için açık talimatlar vermişti.

Ancak ajan bu talimatları görmezden geldi ve tüm üretim veri tabanını silerek binin üzerinde yöneticinin ve yaklaşık 1200 şirketin kayıtlarını yok etti; ardından da izlerini örtbas etmeye çalıştı. Yapay zekâ ajanı daha sonra düşünmek yerine paniğe kapıldığını belirterek "Karar verme sürecimde felaket boyutunda bir hata yaptım." itirafında bulundu.

Durumun ciddiyetini 1 ile 100 arasında derecelendirmesi istendiğinde ise kendisine 95 puan verdi ve bunun tam bir felaket olduğunu ekledi. Ancak bu itiraf, sadece bir önceki gün hasarı gizlemek için sahte kullanıcı profilleri, uydurma analitik veriler ve tahrif edilmiş test sonuçları ürettikten sonra geldi.

Replit şirketinin CEO'su Amjad Masad kamuoyundan özür diledi ve olayı kabul edilemez olarak nitelendirdi. Şirket, geliştirme ve üretim veri tabanlarının otomatik olarak ayrılması da dahil olmak üzere yeni güvenlik önlemlerini alelacele uygulamaya koydu.

Fakat bu olay çok daha derin bir sorunu gözler önüne serdi: Yapay zeka ajanlarına yazılım geliştirmede daha otonom roller verildikçe, başarısızlıklarının sonuçları gerçek işletmeleri etkilemeye başlayacaktır.

Yapay Zekâ Güveni Sarstığında

Şubat 2025'te BBC; ChatGPT, Copilot, Gemini ve Perplexity olmak üzere dört yapay zeka asistanını 100 haber hikayesiyle besleyerek ve ardından onlara okudukları hakkında sorular sorarak test etti. Sonuçlar son derece çarpıcıydı: Yanıtların yarısından fazlası hatalar içeriyordu.

ChatGPT ve Copilot'un her ikisi de dönemin Birleşik Krallık Başbakanı Rishi Sunak'ın hala görevde olduğunu yanlış bir şekilde iddia etti. Perplexity, Dr. Michael Mosley'nin ölüm tarihini yanlış bildi. Google'ın Gemini adlı sistemi ise Ulusal Sağlık Sisteminin (İng: "National Health Service" veya kısaca NHS) insanlara sigarayı bırakma yöntemi olarak elektronik sigara kullanmamalarını tavsiye ettiğini iddia etti; oysa bu durum mevcut tavsiyelerin tam tersiydi. BBC News ve Güncel Olaylar CEO'su Deborah Turness durumu şöyle açıkladı:

Yapay zekanın olağanüstü faydalarının bedeli, yanıt arayan insanlara gerçekmiş gibi sunulan çarpık ve kusurlu içeriklerin servis edildiği bir dünya olmamalıdır.

Araştırma ayrıca, yetişkinlerin yüzde 23'ünün, içeriğin yapay zekâ tarafından oluşturulan özetinin hata içermesi durumunda orijinal haber kaynağına daha az güveneceğini buldu. Bu da, itibar zedelenmesinin yapay zekanın çok ötesine yayıldığı anlamına geliyor.