Bilgi Kıyameti: Felsefeciler, Deepfake'i Neden Tehlikeli Buluyorlar?

Bir kişiye ait fotoğraf veya video üzerine, bir başka kişinin yüzünün veya jest/mimiklerinin yapay zeka teknolojileri yardımıyla hipergerçekçi bir şekilde oturtulması olarak tanımlanabilecek deepfake, son yılların en ilgi çekici teknolojik gelişmelerinden biri olmayı başardı. Yapay zekâ çalışmalarında elde edilen başarının neticesi olarak Deepfake, artık sıradan kullanıcıların dahi erişebildiği bir video manipülasyon tekniği haline geldi.

Gelgelelim, akademik felsefeciler bu durumdan pek hoşnut değiller. Peki, Deepfake'i felsefeciler için can sıkıcı yapan unsurlar neler? Deepfake, felsefi açıdan hangi tehlikelere yol açabilir?

Nesnel Teminat Tehdit Altında!

Bu soruya değinmeden önce geçmişe kısa bir yolculuk yapalım. Binlerce sene evvel Sümerliler yazılı sözleşmeler hazırlarken bu sözleşmeleri kil tabletlere yazıyor, sonra da bu tabletlerin etrafına tıpkı bir zarf gibi (ve tabii ki yine kilden) katmanlar ekliyorlardı. Bu katmanların yoğunluğu farklıydı, bu sebeple herhangi bir anlaşmazlık halinde bu katmanları söküp korumaya alınan sözleşmeye bakabiliyorlardı. Böylece, eğer taraflardan biri sözleşmeye aykırı beyanda bulunuyorsa, bu beyanın geçersizliği nesnel bir delilin varlığıyla ispatlanabiliyordu. Bu, belki de insanlığın keşfettiği ve insan beyanından bağımsız ilk epistemik teminattı. İlerleyen satırlarda "epistemik teminat" kavramından daha detaylı olarak bahsedeceğiz.

Sümerler'den beri insanlık, nesnel teminat yöntemleri geliştirmeye devam etti. Daha kolay muhafaza edilebilen yazılı sözleşmeler ortaya çıktı. Elbette bu sözleşmelerin güvenilirliğini sağlayan mühürler de gerekliydi. O günün teknolojisiyle manipüle etmenin çok zor, belki de imkânsız olduğu yöntemler üzerinde durmaksızın çalışıldı. Fotoğrafın yaygınlaşmasıyla ilk defa belli bir mekânın belli bir anda nasıl göründüğünü nesnel olarak kaydetmeyi başardık. Haliyle, anlaşmazlık halindeki iki taraftan biri eğer diğer tarafın beyanını geçersiz kılabilecek bir fotoğraf karesi öne sürebilirse, bu delil başka hiçbir yöntemin sağlamadığı bir güvence sağlayabiliyordu ve karşı tarafın beyanı oldukça zayıflıyordu. Bu durum halen (kısmen de olsa) geçerli olabilir; ancak foto manipülasyon tekniklerinin gelişmesiyle, fotoğraf teknolojisinin güvenilirliği de ciddi şekilde azaldı. Bilhassa bilgisayar kullanımının yaygınlaşması ve fotoğraf düzenleme araçlarının kullanımının kolaylaşmasıyla, bir fotoğrafın manipüle edildiğini iddia etmek sıra dışı bir durum olmaktan çıktı.

Aynı durum, fotoğraf teknolojisini takip eden video teknolojisi için de geçerli oldu. Birbirini hızla takip eden fotoğraf karelerinden oluşan video kayıtları da, her ne kadar insan gözüne en yakın nesnel teminatı sağlıyor olsalar da, koşulsuz şartsız güvenilir olma özelliklerini kaybettiler. Bu durum, elbette Deepfake teknolojisinden çok daha önce meydana geldi; fakat günümüzde iyi manipüle edilmiş bir fotoğrafın insan gözüyle anlaşılması neredeyse imkansızken, aynı durum video kayıtları için henüz geçerli değil. Bugüne kadar ne kadar iyi manipüle edilmiş olursa olsun bir video kaydının gerçeği temsil edip etmediğini, manipüle edilip edilmediğini anlamak için dikkatli bir insan olmak (ve belki de iyi bir seyirci olmak) yeterliydi. Deepfake'in çok yüksek ihtimalle önümüzdeki yıllarda elde etmiş olacağı teknolojik başarıyla birlikte, bu durum da söz konusu olmaktan çıkabilir.

Bu arka plan bilgileri ışığında, esas sorumuza dönebiliriz.

Deepfake Neydi?

Deepfake, geçtiğimiz yıllarda ortaya çıkmış ve video kayıtlarında mevcut bulunan insanların yüzlerini yapay zekâ yardımıyla esasında orada olmayan insanların yüzleriyle değiştirip bu yolla gerçeği yansıtmayan video kayıtları yaratabilen bir video manipülasyon tekniği. Deepfake ile, aslında belli bir zaman ve mekânda bulunmamış bir insanı orada bulunmuş ve aslında söylemediği şeyleri söylemiş gibi göstermek mümkün. Tabii ki, bunu tamamen ayırt edilemez bir şekilde yapabildiğini söylemek halen zor; ancak bu durumun değişeceğine ve bir video kaydının asıl kayıt olup olmadığını anlamanın imkânsız hale gelebileceğine inanmak oldukça makul.

Bu durumun ne tarz sorunlara yol açabileceğini tahmin etmek elbette zor değil. Bu yüzden, Deepfake'in ortaya çıkışıyla hem medyada hem de felsefeciler arasında "infopocalypse" yani Türkçeye "bilgi kıyameti" olarak çevrilebilecek durumun mümkün olduğu konuşulmaya başlandı.

Peki, felsefeciler neden bilgi kıyametinin mümkün olduğunu düşünüyorlar?

Bir Bilgi Taşıma Aracı Olarak Video

Not: Bu noktada, daha fazla ilerlemeden önce bir parantez açıp, oldukça elzem bir uyarıda bulunmamız gerekiyor: Türkçede "yanlış bilgi" dediğimiz zaman kulağımıza tuhaf gelmiyor, değil mi? İşte bu durum İngilizcede böyle değil. İngilizcede ve aynı zamanda akademik felsefede "bilgi" denen şey, tanımı gereği doğrudur. Türkçede "yanlış bilgi" dediğimiz zaman işaret ettiğimiz şey ise, esasında hatalı enformasyondur. Fakat, günlük dilde "enformasyon" yerine "bilgi" kelimesinin kullanımı çok yaygın olduğu için, bu yazıda da "bilgi" kelimesi kullanılmıştır.

***

Evrim Ağacı'ndan Mesaj

Neden Desteğe İhtiyacımız Var?

Aslında maddi destek istememizin nedeni çok basit: Çünkü Evrim Ağacı, bizim tek mesleğimiz, tek gelir kaynağımız. Birçoklarının aksine bizler, sosyal medyada gördüğünüz makale ve videolarımızı hobi olarak, mesleğimizden arta kalan zamanlarda yapmıyoruz. Dolayısıyla bu işi sürdürebilmek için gelir elde etmemiz gerekiyor.

Bunda elbette ki hiçbir sakınca yok; kimin, ne şartlar altında yayın yapmayı seçtiği büyük oranda bir tercih meselesi. Ne var ki biz, eğer ana mesleklerimizi icra edecek olursak (yani kendi mesleğimiz doğrultusunda bir iş sahibi olursak) Evrim Ağacı'na zaman ayıramayacağımızı, ayakta tutamayacağımızı biliyoruz. Çünkü az sonra detaylarını vereceğimiz üzere, Evrim Ağacı sosyal medyada denk geldiğiniz makale ve videolardan çok daha büyük, kapsamlı ve aşırı zaman alan bir bilim platformu projesi. Bu nedenle bizler, meslek olarak Evrim Ağacı'nı seçtik.

Eğer hem Evrim Ağacı'ndan hayatımızı idame ettirecek, mesleklerimizi bırakmayı en azından kısmen meşrulaştıracak ve mantıklı kılacak kadar bir gelir kaynağı elde edemezsek, mecburen Evrim Ağacı'nı bırakıp, kendi mesleklerimize döneceğiz. Ama bunu istemiyoruz ve bu nedenle didiniyoruz.

Destek Ol

Fred Dretske'ye göre bir şey ($C$ diyelim) bir başka şeyin bilgisini (buna da $I$ diyelim) taşıyorsa, bu ancak ve ancak $C$'nin $I$'nın doğruluğunu garanti edebildiği durumda geçerlidir.^[3] Örneğin, bir insan kapınızı çaldığında, kapı zilinin size, "kapınızda bir insan olduğu" bilgisini taşıdığını söyleyebilmemiz için, kapınızın çaldığı ancak kapıyı çalan bir insanın var olmadığı durumun ihtimal dışı olması gerekir. Yani, kapınızın bir insan tarafından çalındığı durumun objektif olasılığının %100 veya 1 (bir) olması gerekir.

Cohen ve Meskin'e göre ise $C$'nin $I$'yı taşıyor olması için $I$'nın doğru olmadığı durumda $C$'nin mümkün olmaması gerekir.^[4] Yani, kapınızın çalınmadığı durumda kapı zilinizin çalmasının mümkün olmaması gerekir.

Bu iki ana akım tanımın haricinde tanımlar yapmak da oldukça mümkün. Ancak ne olursa olsun, bir aracının "bilgi" taşıdığını kabul edebilmemiz için, sezgisel olarak bu iki tanımın birlikte işaret ettikleri özelliğe, yani kesinliğe ihtiyaç duyarız. Bu durumda, örneğin bir video kaydının bilgi taşıdığı iddia edildiğinde, eğer bu video taşıdığı iddia edilen bilginin doğruluğunu garanti edebilecek güvenilirlikteyse veya taşıdığı iddia edilen bilginin doğru olmadığı durumda bu videonun varlığı mümkün değilse, o zaman bu videonun bilgi taşıdığına inanabiliriz. Sümerliler'in kil tabletlerine kıyasla çok daha güvenilir bir bilgi taşıma aracımız var, ne güzel!

Bu tanımların ne olursa olsun tam olarak kenara atılmıyor olmalarının temel bir sebebi var: Düşünün, bir bilgi taşıma aracının sunduğu teminat kesinlikten yoksunsa, o zaman bu aracın bilgi taşıdığına inanmaya devam edebilecek miyiz? Ortalama her 100 durumdan 99'unda bilgi taşıdığını bildiğimiz bir bilgi taşıma aracı hayal edin. Bu oran, muhtemelen geniş kitlelerin taşınan bilgiye dair çok güçlü inançlar inşa etmesini mümkün kılacaktır. Peki ya bu oran %80 olsaydı? Peki ya %70? Hangi noktada geniş kitleler bu aracıya güvenmeyi bırakır?

Esasında bu soru şimdilik önemli değil, çünkü dezenformasyonun doğru bilgiden çok daha hızlı yayıldığını biliyoruz.^[2] Bu farkın arkasında yatan yegâne gerekçenin güvenilir bilgi taşıma araçları olmadığını da biliyoruz. Dolayısıyla, kitlelerin neye inanıp neye inanmayacağını kestirebilmek bu bağlamda mümkün görünmüyor.

Deepfake, Epistemik Teminat ve Epistemik Zarar...

Önemli olan soru, Deepfake teknolojisinin an itibariyle sahip olduğumuz muazzam bir bilgi taşıma aracı olan video kayıtlarını tehlikeye atıp atmayacağı yönünde. Az önce bahsettiğimiz iki temel tanım üzerinden düşünürsek, video kayıtlarının güvenilir kaynaklar olmaktan çıkabileceğini söylemek oldukça mümkün. Başka bir deyişle, video kayıtları güvenilir bilgi taşıyıcıları olmaktan çıkıp, olası bilgi taşıyıcılarına dönüşebilirler. Bu da siz bir gün televizyonda bir siyasetçinin konuşmasını izlerken, bir kişiyle video konferans yaparken veya gizli kalmış gerçeklere dair olduğu iddia edilen video kayıtlarına ulaştığınızda geçmişte elinizde tuttuğunuz "epistemik teminatı" kaybetmiş olabileceğiniz için, eskiye kıyasla daha kısıtlı bir bilgi alanına sahip olacaksınız demek olabilir.

"Epistemik teminat" kavramına tam da bu noktada değinebiliriz. Epistemik teminat, bir inancın doğruluğunu teminat altına alabilecek nesnel bir dayanak noktası olarak anlaşılabilir. Regina Rini'ye göre video kayıtları birer epistemik teminat işlevi görmektedir.^[1] Dolayısıyla, Deepfake teknolojisi bu epistemik teminatı tehlikeye atabilir. Rini'ye göre kötü niyetli kişiler, Deepfake yardımıyla dezenformasyona başvurabilir.

Teyit mekanizmalarının zayıflaması, bilebileceğimiz şeyler kümesinin daralması anlamına gelebilir. Örneğin, geçmişte hiçbir gözleyicinin mevcut bulunmadığı bir konum ve zamana dair bilgi edinmek ya oldukça zor ya da imkansızken video teknolojisiyle birlikte o zamanda o mekânın görüntüsünü kaydetmek ve gelecekte izlemek suretiyle bilgi edinmek mümkün hale geldi. Aynı şekilde, güvenilir tanıkların bulunmadığı bir zaman ve mekânda olan bir olaya dair güvenilir bilgi edinmek (elbette eğer bir video kaydı varsa, güvenlik kamerası gibi) mümkün oldu. İşte bahsedilen "bilgi kıyameti", bu teminatın kaybolduğu bir dünyadan başka bir şey değil. Bu bağlamda Deepfake'in oluşturabileceği (iddia edilen) zarara bir çeşit "epistemik zarar" diyoruz.

Popüler mecralarda Deepfake'e dair ortaya konan endişeler ise genellikle "etik" veya "ahlaki" açıdan değerlendirilen problemler. Deepfake ile birlikte bir insanın rızası olmaksızın o insan bir videoya yerleştirilebiliyor ve bu görüntüler tüm dünyaya yayılabiliyor. Bu da kişi haklarına direkt bir ihlal oluşturuyor.

Bunun yanında, Deepfake ile üretilebilecek videolar neticesinde büyük toplumsal zararların ortaya çıkabileceği, demokratik düzenin tehlikeye girebileceği ve insanların video kayıtlarına olan güveni azalacağı için hakikatin bilgisi aktarıldığında dahi video aracılığıyla olduğu sürece güven sağlanamayacağı çokça konuşuluyor.

Keith Raymond Harris gibi felsefeciler ise bu kaygıların abartıldığını, fakat Deepfake'in yine de tamamen tehlikesiz olmadığını öne sürüyorlar.^[5]

Sonuç

Bu endişelerin Deepfake ve benzeri teknolojik yeniliklere karşı çıkmak veya inovasyonun önünü tıkamak gibi bir gayesi yok. Genel anlamda, ne felsefenin ne de felsefecilerin böyle bir gayesi olabilir – teknolojiyi oldukça zararlı bulan birtakım filozofları saymazsak. Ancak olası tehlikelere karşı bir adım önde olmak ve atılan her adımı akılcı bir değerlendirmeden geçirmek de sorumlu araştırma ve inovasyonun olmazsa olmazı. Yapay Zeka Güvenliği sahası, bunun en öne çıktığı sahalardan biri.