Yapay Zeka Sistemleri Düşünce Polisine, Büyük Veri Büyük Birader'e Dönüşür mü?

"Büyük veri" (İng: "big data"), internet kullanan kişiler tarafından üretilen ve yalnızca belli özellikleri haiz araç ve yöntemler sayesinde saklanabilen, anlaşılabilen ve kullanılabilen büyük boyuttaki bilgilerdir.^[1]Bu bilgiler, teknik adı ile "veri" olarak anılır ve bilgisayarlar tarafından saklanabilir.^[2]Büyük boyutta ve internet kullanan kişiler tarafından üretilen verilerden oluşan büyük veri, pek çok kaynak tarafından beslenmekte ve durmaksızın büyümektedir.^[3]Dijitalleşmeyle birlikte insanlık büyük bir değişime ayak uydurmaya çalışmaktadır.^[4]Öyle ki son birkaç on yıldaki gelişmeler, yaşadığımız değişimlerin "dijital devrim" ya da "teknolojik devrim" olarak anılmasına sebep olmuştur.^{[1], [5], [6], [7], [8]} Zira dijitalleşme, ekonomi başta olmak üzere toplum hayatının tüm alanlarını etkilediği gibi, bireysel hayatımızı ve mevcut siyaset yöntemlerini kökten değiştirmektedir.^{[1], [9]}

Dijital değişim sürecinin toplum hayatına etki etmesinin önemli bir nedeni şüphesiz yapay zeka sistemlerindeki gelişmelerdir. Bilhassa İkinci Dünya Savaşı sonrası hızla ilerleme kaydeden yapay zeka sistemleri alanındaki çalışmaların devrim niteliğini kazanmasında, nesnelerin interneti (İng: "Internet of Things" veya kısaca "IoT") adıyla anılan teknolojinin rolü oldukça fazladır.^{[10], [11], [12]} Nesnelerin internetindeki gelişmelerle paralel olarak genişleyen büyük veri, isabetli veri analizleri yapılmasını sağlamaktadır.^{[1], [3]}Birbirinden farklı konulara ait verilerden, veri analizi yöntemi ile anlamlı bir sonuç çıkarabilmek mümkün olduğundan, günümüzde alınacak kararlarda büyük veri ve veri analizine başvurulmaktadır.^[13]Zira birbirinden ayrı konulara ait verilerden bir bütünü oluşturacak şekilde analiz yapılması, verilecek kararları hızlandırmakta ve isabetli karar ihtimalini arttırmaktadır.^{[1], [3]}

Büyük Verinin "Büyük Birader"e Dönüşümü

Günümüzde devletler ve şirketler öngörüde bulunmak için büyük veriden yararlanmaktadır; fakat ayırt edici bir unsur olarak, devletlerin ayrıca kişisel verilerin mahremiyetini gözetme, temel hak ve özgürlere ancak belirli şartlar altında sınırlandırma gibi bir yükümlülüğü bulunmaktadır.^[14][15]

Bu noktada kamusal düzeni sağlamak amacıyla devletin insan davranışları üzerinde sınırlamalara gitmesi mümkündür.^[16] Bununla birlikte, kamu gücünü elinde bulunduranların suçla mücadele etmek, terör faaliyetlerini önlemek gibi gerekçelerle; veri toplama, kaydetme ve veri analizine giriştiği ihtimalinde hak ve özgürlükleri sınırlandırmak için devletlerin haklı gerekçeleri de olsa, veri toplamaya kamu gücünü elinde bulunduranlar tarafından girişildiği hususunun altı çizilmelidir. Bu noktada kamu otoritelerinin büyük veri teknolojisiye yapacağı bir veri analizi, örneğin suç ve suçlu analiziyle suçla mücadeleye hizmet ederken kamu gücünün elindeki büyük veri analizi imkanı, bir distopyaya dönüşebilir. Zira büyük bir yapbozun parçaları gibi her küçük veri, büyük resmi tamamlamaya ve diğer parçalara ulaşmaya imkan sağlayacağından, diyebiliriz ki kişinin varoluşsal bir gereksinimi olarak mahremiyet; devletin kamu düzenini sağlama ve bu gerekçe ile bireyi denetleme, özgürlüklerini kısıtlama tehditleriyle karşı karşıya kalacaktır.^[17] George Orwell, 1984 adlı eserinde şöyle yazıyor:

Düşünce polisinin kime ne zaman ve hangi sistemle bağlandığını kestirmek çok zordu. Herkesi her an izliyor da olabilirlerdi.

En küçük bir davranışını, söylediği tek bir sözü bile gözden kaçırmamışlar, aklından geçenlerin hiçbirini kaçırmamışlardı.

Veri analizi teknolojisinin sağladığı olanaklarla yapılan suç tahmini ya da suç öngörüsünde bulunma faaliyeti olarak "tahmini polislik" ya da "öngörüye dayalı polislik" (İng: "predictive policing") ilk bakışta bir sorun olarak algılanmayabilir.^{[19], [20], [21]} Ne var ki yapay zeka teknolojisinin günümüz olanakları ve toplumda suçun varlığını kaos alameti olarak ileri süren devletin kamu gücü nazara alındığında, suç tahmini gibi öngörücü faaliyetlerin, suçla mücadelede kesin bir çözüm gibi gözükmekle birlikte başka sorunları doğurabileceği tahmin edilmektedir.^[22] Örneğin, suç tahmini ile niyet okuma arasındaki sınırın hassasiyeti nedeniyle; ırksal, etnik veya başka ayrımcılıklar gündeme gelebilecektir.^[20] Nitekim Amerika Birleşik Devletleri'nde suçla mücadelede çok önemli bir hizmet sunacağı öne sürülerek belirli bir bölgede kullanılmaya başlanan tahmini polislik teknolojisine yüksek maliyetli yatırımlar yapılmış olmasına karşın, belli gruplar üzerindeki gözetimin arttığı yönündeki iddialar üzerine, yakın tarihte uygulamanın sonlandırılmasına karar verilmiştir.^{[23], [24], [25]}

İnsanın, diğer insanlarla düzen ve refah içerisinde yaşamasının adeta bir doğal zorunluluk oluşu ve toplumu oluşturan bireylerin çıkarları ile toplum düzeninin devamlılığı gereksiniminin örtüşmesinin bir neticesi olarak diyebiliriz ki, toplumsal güvenlik gerekçesiyle hak ve özgürlüklere yapılacak sınırlamalar en önemli desteğini suçla mücadele -bir adım ötede ise suçu önleme, tahmin etme- faaliyetleri alanında alabilecektir. Halbuki böylelikle, suçla mücadele ve kaosu bastırma gayesinin kutsallığının kamu gücünün boyutlarını tahmin edilemez hale dönüştürecek ve buna karşın en önemli desteğini ise yine gücün üzerinde uygulandığı, güvenlik için özgürlüğünden ödün veren bireylerden alacaktır. Bu öngörü, teknoloji eliyle geleceğimize yön verecek kararlar noktasında önemli bir çıkarımdır.

İnsan hakları mücadelesinde, bulunduğumuz noktayı göz önüne aldığımızda, insanın sadece maddi bütünlüğü ve iyiliği değil; manevi bütünlüğü ve iyiliği de insan hakları korumasındadır (İnsan Hakları Evrensel Beyannamesi madde 22). Bu nedenle günümüzde yapay zeka sistemleri vasıtasıyla kişisel verilerin büyük veri içerisinde; sağlık eğitim, ekonomi gibi alanlardaki avantajları ile güvenlik ve mahremiyet alanlarında ise dezavantajlı yönlerini topyekun değerlendirerek süregelen tartışmaları devam ettirmek gerekmektedir.^{[27], [28], [29], [30], [31]} İnsanların toplum halinde yaşama ve birlik düşüncelerine en büyük zararı verecek olan toplumdaki farklılıkları aykırı sıfatıyla nitelendirmek ve ötekileştirmektir. Bu nedenle ayrımcılığın, yapay zeka sistemleri ile daha güçlü hale gelmemesi veya getirilmemesi gerekir. Zira yapay zeka ve büyük veri teknolojisi kullanımı ile gözünü sürekli toplum üzerinde tutma refleksine sahip kamu otoritelerinin keyfiyetine, ayrımcı söylem ve uygulamalarına olanak sağlayabilecek ve ötesinde, toplumda azınlıkta olan gruplar gözetimi ve baskıyı daha yoğun hissedecektir.^[26] Orwell, şöyle yazıyor:^[18]

Çıkardığınız her sesin duyulduğunu, karanlıkta olmadığınız sürece her hareketinizin gözetlendiğini varsayarak yaşamak zorundaydınız; zorunda olmak ne söz, artık içgüdüye dönüşmüş bir alışkanlıkla öyle yaşıyordunuz.

Eski despotluklar, 'Şunu yapacaksın, bunu yapmayacaksın' diye buyuruyordu. Totaliterler, 'Şöyle yapacaksın, böyle yapacaksın' diye dayatıyorlardı. Biz ise, insanlara 'Sen aslında şusun, aslında şöyle düşünüyorsun, şuna inanıyorsun' diye bastırıyoruz.

Evrim Ağacı'ndan Mesaj

Reklamsız Deneyim

Evrim Ağacı'nın çalışmalarına Kreosus, Patreon veya YouTube üzerinden maddi destekte bulunarak hem Türkiye'de bilim anlatıcılığının gelişmesine katkı sağlayabilirsiniz, hem de site ve uygulamamızı reklamsız olarak deneyimleyebilirsiniz. Reklamsız deneyim, sitemizin/uygulamamızın çeşitli kısımlarda gösterilen Google reklamlarını ve destek çağrılarını görmediğiniz, %100 reklamsız ve çok daha temiz bir site deneyimi sunmaktadır.

Kreosus

Kreosus'ta her 10₺'lik destek, 1 aylık reklamsız deneyime karşılık geliyor. Bu sayede, tek seferlik destekçilerimiz de, aylık destekçilerimiz de toplam destekleriyle doğru orantılı bir süre boyunca reklamsız deneyim elde edebiliyorlar.

Kreosus destekçilerimizin reklamsız deneyimi, destek olmaya başladıkları anda devreye girmektedir ve ek bir işleme gerek yoktur.

Patreon

Patreon destekçilerimiz, destek miktarından bağımsız olarak, Evrim Ağacı'na destek oldukları süre boyunca reklamsız deneyime erişmeyi sürdürebiliyorlar.

Patreon destekçilerimizin Patreon ile ilişkili e-posta hesapları, Evrim Ağacı'ndaki üyelik e-postaları ile birebir aynı olmalıdır. Patreon destekçilerimizin reklamsız deneyiminin devreye girmesi 24 saat alabilmektedir.

YouTube

YouTube destekçilerimizin hepsi otomatik olarak reklamsız deneyime şimdilik erişemiyorlar ve şu anda, YouTube üzerinden her destek seviyesine reklamsız deneyim ayrıcalığını sunamamaktayız. YouTube Destek Sistemi üzerinde sunulan farklı seviyelerin açıklamalarını okuyarak, hangi ayrıcalıklara erişebileceğinizi öğrenebilirsiniz.

Eğer seçtiğiniz seviye reklamsız deneyim ayrıcalığı sunuyorsa, destek olduktan sonra YouTube tarafından gösterilecek olan bağlantıdaki formu doldurarak reklamsız deneyime erişebilirsiniz. YouTube destekçilerimizin reklamsız deneyiminin devreye girmesi, formu doldurduktan sonra 24-72 saat alabilmektedir.

Diğer Platformlar

Bu 3 platform haricinde destek olan destekçilerimize ne yazık ki reklamsız deneyim ayrıcalığını sunamamaktayız. Destekleriniz sayesinde sistemlerimizi geliştirmeyi sürdürüyoruz ve umuyoruz bu ayrıcalıkları zamanla genişletebileceğiz.

Giriş yapmayı unutmayın!

Reklamsız deneyim için, maddi desteğiniz ile ilişkilendirilmiş olan Evrim Ağacı hesabınıza üye girişi yapmanız gerekmektedir. Giriş yapmadığınız takdirde reklamları görmeye devam edeceksinizdir.

Destek Ol

Nesnelerin interneti ile yeni bir endüstri çağına giriş yapıldığı ve bu teknolojinin günlük hayatımızı iyileştireceğine dair iyimser atmosfer; nesneler arasındaki bağlantının kaydedileceği, izleneceği ya da değiştirilebileceği ihtimallerini ve nesneleri interneti ile cihazların yalnızca diğer cihazlarla değil; cihazların üreticileri ile de bağlantıda olabileceği gibi önemli pek çok sorunu gündem dışında bırakmaktadır.^{[34], [35], [36], [37], [38]} Oysaki teknolojinin nimetlerinden faydalandığımız her an, aynı zamanda kullanıcılar olarak bizler büyük veriyi besleyen bize ait veriler üretiyoruz ve bu verilerin kimlere, ne zaman ve ne şartlar altında sunulduğu hakkında bilgilendirmedeki eksiklikler, veri kaynağı olarak bizleri aciz hale getirmektedir.^[3] Kaldı ki bilişim dünyasındaki veri trafiği için ise şimdilik herhangi bir başkasının erişmememsi adına kesin bir erişim engeli konulamamaktadır.^[3]Birçok büyük inovasyon şirketi kişisel verilerin korunmasında kullanıcılarına garanti verememektedir.^[32] Orwell, şöyle yazıyor:

Bağlılık, düşünmemek demektir, düşünmeye gerek duymamak demektir. Bağlılık bilinçsizliktir.

Açıkçası, Parti'nin dünya görüşü, onu hiç anlamayan insanlara çok daha kolay dayatılıyordu. Gerçeğin en açık biçimde çarpıltılması böylelerine kolayca benimsetilebiliyordu, çünkü kendilerinden istenin iğrençliğini hiçbir zaman tam olarak kavrayamadıkları gibi, toplumsal olaylarla yeterince ilgilenmedikleri için neler olup bittiğini de göremiyorlardı. Hiçbir şeyi kavrayamadıkları için hiçbir zaman akıllarını kaçırmıyorlardı

Kullanıcıların büyük veriyi besleyecek verileri kendilerinin sunması ya da yapay zeka sistemlerinin kullanıcıların unuttukları veya sildikleri verileri dahi kaydederek adeta gizli kişisel bir arşiv oluşturabilmesi büyük verinin her geçen gün kontrolsüzce büyümesi anlamına gelmektedir.^[39]Ayrıca bulunduğumuz çağın teknolojik fırsatları (!) verileri paylaşma hususunda, bireyin iradesini zorlayarak -örneğin hizmetten faydalanmak adına başka bir yol kalmaması nedeniyle- rıza alabildiği gibi; bireyin iradesine gerek duymadan, yapay zeka algoritmaları ile verilerimize ulaşabilmektedir.^{[31], [43]}

Gelinen noktada verinin nasıl oluşturulduğu, özel şirketler ve kamu güçleri tarafından nasıl kullanıldığı hakkındaki bilgiler ya da daha doğru ifade ile bilgi eksiklikleri ışığında, günümüz devletlerinin görünmez gözetiminin (panoptikon) devam ettiği ve hatta bu yöntemin artık gözetime maruz kalan bireyler tarafından desteklenen bir sisteme (sinoptikon ve omniptikon) dönüştüğü söylenebilir.^{[44], [45]} Bireyin; hakkındaki verilerin birbirinden farklı alanlarda olmasından dolayı bu verilerin büyük veri gibi bir teknoloji ile anlamlandırılacağından bihaber oluşu, aslında her an var olan görünmez gözetimi toplumda önemsizleştirmek suretiyle gözetimi güçlendirecek bir paradoks yaratabilir.^[3]Orwell, şöyle yazıyor:

İnsanın içine giremezler. Hiçbir yararı olmayacağını bile bile insan kalmanın çok önemli olduğunu düşünüyorsan onları yendin demektir.

Tüm Reklamları Kapat

Geçmişi denetim altında tutan, geleceği de denetim altında tutar; şimdiyi denetim altında tutan, geçmişi de denetim altında tutar.

Bahsi geçen değişimler, bu değişimlerin hızı ve sınırlarının git gide kayboluşu teknolojik gelişmelere temkinli bir bakışla yaklaşılması gereğini ortaya koymaktadır.^[3] Zira nesnelerin interneti, yapay zeka, akıllı sistemler, yüz tanıma sistemleri, akıllı cihazlar gibi sıfatlarla, geleceğe yönelik büyülü tanımlamalar yapılırken; bireysel ve toplumsal hayatta insanın muhtemel hangi değişimleri yaşayacağı meselesi ikinci planda kalmamalıdır.^[40] Unutulmamalıdır ki insanı insan yapan niteliklerin kaybı, madalyonun öteki yüzüdür.^[41] Dolayısıyla, elektronik cihazlarımız tarafından izlenme özellikle her an yanımızda taşıdığımız cep telefonlarımız aracılığıyla gözetlenmenin oldukça kolay olduğu gerçeği ile bugün yüzleşmek zorunda kalan insanlık, yarın kullandığımız tüm elektronik cihazların birer "tele-ekran" a dönüştüğü haberini almadan önce, bilinçli teknoloji kullanıcılarına dönüşmelidir.^[42] Aksi halde evlerimizdeki internete bağlı birbiriyle haberleşen cihazlarla ya da kamusal alanlarda, örneğin yüz tanıma yazılımlarıyla, Orwell'ın distopyasındaki "tele-ekran"lar arasında hiçbir farklılık kalmayacaktır.

Sonuç

Büyük veri, günümüzün gerçekliğinin "Büyük Birader"ine dönüşmektedir. "Büyük Birader"in büyük gözaltı uygulamasına günümüzde hızla yaklaşılmaktadır. Büyük verinin hakimiyetini duyularımızla algılamak ve sınırlandırmak çok mümkün olmasa da varlığı konusunda hemfikir olmamız ve büyük veriyi besleyen yapay zekaların etrafımızı sarmış olması bu hakimiyetin sınırını görünmez hale getirmektedir. Nitekim bu durum da büyük veri aracılığıyla devletin bir gözünün her an üzerimizde olduğunu bildiğimiz ve fakat görmediğimiz büyük bir gözaltı yaratmaktadır.

Bireyin, yapay zeka sistemleri karşısında kendisini baştan savunmasız kabul etmesi dahi bireyin mahremiyetini yaşayamamasına, doğuştan gelen biricik niteliklerini kendiliğinden baskılamasına, kişiliğini geliştirememesine neden olacaktır. Büyük veri ile yapılan analizlerin otosansüre sebep oluşu, insan onuru temelli bir hukuk sistemini ortadan kaldıracak ve toplumu 1984 romanındaki gibi bir yıkıma götürebilecektir.^[46] Her bireyin eylem ve düşüncelerini, gözetim ihtimalini nazara alarak gerçekleştirmeye alışması; bu durumu adeta bir kader olarak değerlendirmesi ise insanlığı bekleyen asıl tehlikedir; zira bu algılayış distopyaların olmazsa olmazıdır.^[47]

İnsanın sosyal bir varlık oluşunun beraberinde getirdiği bazı gerekliliklerden, belki de zorunluluklardan bahsetmek gerekir. Bu perspektiften bakıldığında; insanın sosyal bir varlık oluşu toplum hayatına, toplum hayatının varlığı kamu düzenine, kamu düzeninin sağlanması suçla mücadeleye, suçla mücadelenin başarısı suç tahminine ve suç tahmini ise büyük veri teknolojisi kullanımına sebep olur, gibi bir mutlak süreç kamu gücünü elinde bulunduranlar tarafından ileri sürülebilir; böylelikle büyük veri, kamu güvenliğini sağlama hususunda günümüzün nimeti olarak yansıtılabilir ki bu, büyük ölçüde toplum tarafından da kabul görecektir. Hatta bu kabul büyük verinin kapsamını ve etki alanını o denli genişletebilir ki, artık görünmez ve fakat her an mevcut olan bir gözetim (panoptikon), artık bir endişe kaynağı dahi olmaktan çıkarak, kişilerin gönüllü katkı sundukları ve hatta tatminlerini besledikleri (sosyal medya gibi) eğlenceli (!) bir gözetime dönüşebilir.

Bir tarafta "Büyük Birader" ve büyük verinin sahip olduğu ortak noktalar; iktidar sahiplerinin kamu güvenliği, suçla mücadele gibi kavramları suistimal ederek; diğer bir anlatımla güvenlik ve özgürlük arasında tercih yapmaya varacak bir düzen yaratma adımları; diğer tarafta ise büyük verinin günümüz dünyasında kapsamına aldığı alan ve vazgeçilmezliği (!) birer gerçektir. Bu gerçeği ortaya koyarak ve fakat bireysel veri kaynakları olarak her bireyin gerçek kişi veya tüzel kişilik içerisinde fark etmeksizin, diğerkam tercihleri mevcut gerçeklerin mecbur kıldığı gidişatı kabul edilebilir bir çağ gereksinimine dönüştürebilir.

Son olarak ifade etmemiz gerekir ki, korkutucu senaryo; bilim kurgu filmlerindekinin aksine, uzaydan gelen bilinmez bir varlık veyahut kontrolü ele geçirmiş bir robotik yapay zeka ile insan arasındaki güç savaşından ziyade, insanın yine insanla mücadelesi ve ilk bakışta çok fazla fark edilmeyecek; ancak her bireyin yaşayacağı "kimliksizlik" hali olacaktır.