Yapay Zeka Güvenliği Neden Önemli Bir Araştırma Sahasıdır ve Yapay Zeka İnsanlığın Sonunu Nasıl Getirebilir?

Çeviri İçerik Nedir?
Bu yazı, futureoflife.org isimli kaynaktan birebir çevrilmiştir. Çevirmen tarafından, metin içerisinde (varsa) açıkça belirtilen kısımlar haricinde, herhangi bir ekleme, çıkarma veya değişiklik yapılmamıştır. Bu içerik, diğer tüm içeriklerimiz gibi, İçerik Kullanım İzinleri'ne tabidir.


Uygarlık hakkında sevdiğimiz her şey bir zeka ürünüdür, bu nedenle insan zekamızı yapay zeka ile güçlendirmek, uygarlığın daha önce hiç olmadığı kadar gelişmesine yardımcı olma potansiyeline sahiptir. Teknolojiyi faydalı tutmayı başardığımız sürece... - Max Tegmark, evrenbilimci ve MIT'de profesör
Yapay zeka (YZ), SIRI'den sürücüsüz arabalara kadar hızla ilerliyor. Bilimkurgu genellikle yapay zekayı insan benzeri özelliklere sahip robotlar olarak tasvir ederken, yapay zeka, Google'ın arama algoritmalarından IBM'nin Watson'ına ve otonom silahlara kadar her şeyi kapsayabilir.
Günümüzde yapay zeka, sadece yüz tanıma veya sadece internet aramaları veya sadece araba kullanmak gibi dar bir görevi yerine getirmek için tasarlandığından, Yapay Dar Zeka (YDZ) veya zayıf yapay zeka olarak adlandırılır. Bununla birlikte, birçok araştırmacının uzun vadeli hedefi, Yapay Genel Zeka (YGZ) veya güçlü yapay zeka oluşturmaktır. YDZ, satranç oynamak veya denklem çözmek gibi belirli görevi ne olursa olsun insanlardan daha iyi performans gösterebilirken; YGZ, neredeyse her bilişsel görevde insanlardan daha iyi performans gösterecektir.
Yapay Zeka Güvenliği Neden Araştırılmalı?
Yakın vadede, yapay zekanın toplum üzerindeki etkisini faydalı tutma hedefi; ekonomiden hukuka, doğrulamadan geçerliliğe, güvenlikten kontrole kadar kadar birçok alanda araştırmayı motive ediyor. Dizüstü bilgisayarınızın çökmesi veya siber saldırıya uğraması küçük bir rahatsızlıktan biraz daha fazlası olsa da, yapay zeka arabanızı, uçağınızı, kalp pilinizi, otomatik ticaret sisteminizi veya elektrik şebekenizi kontrol ediyorsa, yapay zekaya sahip bu sistemin, yapmasını istediğiniz şeyi yaptığından emin olabilmek daha da önemli hale geliyor. Tabii ki bir başka kısa vadeli zorluk, ölümcül otonom silahlarda yıkıcı bir silahlanma yarışını önlemektir. Eğer güvenli yapay zekalar inşa etmezsek, çok ciddi sorunlarla yüzleşebiliriz.
Uzun vadede, önemli bir soru, YGZ arayışı başarılı olursa ve bir yapay zeka sistemi tüm bilişsel görevlerde insanlardan daha iyi hale gelirse ne olacağıdır. 1965'de I. J. Good'un işaret ettiği gibi, daha akıllı yapay zeka sistemleri tasarlamak başlı başına bir bilişsel görevdir. Böyle bir sistem, potansiyel olarak kendini tekrarlayan bir şekilde kendini geliştirebilir ve insan aklını çok geride bırakan bir zeka patlamasını tetikleyebilir. Böyle bir süper zeka, devrim niteliğinde yeni teknolojiler icat ederek savaşı, hastalıkları ve yoksulluğu ortadan kaldırmamıza yardımcı olabilir ve bu nedenle YGZ'nin yaratılması, insanlık tarihindeki en büyük olay olabilir. Yine de bazı uzmanlar, yapay zekanın hedeflerini süper akıllı hale gelmeden önce bizim hedeflerimizle aynı hizaya getirmeyi öğrenmezsek, bu olayın son olabileceği endişesini dile getirdiler.
Bugün yapay zeka güvenliğinin araştırılması, gelecekte bu tür potansiyel olarak olumsuz sonuçlara daha iyi hazırlanmamıza ve bunları önlememize yardımcı olacaktır. Böylece tuzaklardan kaçınırken yapay zekanın faydalarından yararlanabiliriz.
Yapay Zeka Nasıl Tehlikeli Olabilir?
Çoğu araştırmacı, Yapay Süperzeka'nın (YSZ) sevgi ya da nefret gibi insan duygularını sergileme ihtimalinin düşük olduğu ve böyle bir yapay zekanın kasıtlı olarak iyiliksever ya da kötü niyetli olmasını beklemek için hiçbir neden olmadığı konusunda hemfikir. Bunun yerine, yapay zekanın nasıl bir risk haline gelebileceğini dikkate alan uzmanlar, büyük olasılıkla gerçekleşebilecek iki senaryo düşünüyor:
Senaryo 1: Yapay Zeka, yıkıcı bir şey yapmaya programlanmıştır.
Otonom silahlar, öldürmeye programlanmış yapay zeka sistemleridir. Yanlış kişinin elinde bu silahlar, kolaylıkla kitlesel ölümlere neden olabilir. Dahası, bir yapay zeka silahlanma yarışı, yanlışlıkla bir yapay zeka savaşına yol açabilir ve bu da kitlesel ölümlerle sonuçlanabilir. Düşman tarafından engellenmekten kaçınmak için, bu silahların basitçe "kapatılması" son derece zor olacak şekilde tasarlanacak, böylece insanlar kolayca böyle bir durumun kontrolünü kaybedebilecektir. Bu risk, YDZ'yle bile mevcut olan bir risktir ancak yapay zekanın zeka ve özerklik seviyeleri arttıkça risk büyür.
Senaryo 2: Yapay Zeka, faydalı bir şey yapmak üzere programlanmıştır; ancak amacına ulaşmak için yıkıcı bir yöntem geliştirir.
Bu, yapay zekanın hedeflerini bizim hedeflerimizle tam olarak uyumlu hale getirmekte başarısız olduğumuzda gerçekleşebilir ki bunu başarmak, çarpıcı derecede zordur. Sadık bir akıllı arabadan sizi olabildiğince hızlı bir şekilde havaalanına götürmesini isterseniz, sizi oraya helikopterler tarafından kovalanarak ve kusarak, istediğiniz bir şekilde değil; ancak "kelimenin tam anlamıyla" istediğinizi yaparak götürebilir. Süper zeki bir sistem, iddialı bir jeomühendislik projesi ile görevlendirilirse, ekosistemimize zarar verecek bir yan etkiye neden olabilir ve onu durdurmaya yönelik insan girişimlerini karşılık verilmesi gereken bir tehdit olarak görebilir.
Bu örneklerin gösterdiği gibi, gelişmiş bir yapay zeka ile ilgili endişe kötü niyet değil, yeterliliktir. Süper zeki bir yapay zeka, hedeflerine ulaşmada son derece iyi olacaktır ve bu hedeflere ulaşma biçimi bizimkilerle uyumlu değilse, bir sorun var demektir.
Güçlü yapay zeka arayışının nihayetinde başarılı olacağı fikri, uzak bir geleceğe dayanıyordu. 2011 yılında uzmanların daha onlarca yıl uzakta olduğunu düşündüğü birçok yapay zeka kilometre taşına çoktan ulaşıldı. Bundan dolayı birçok yapay zeka uzmanı, yaşamımız içerisinde Yapay Süperzeka'ya ulaşılması olasılığını ciddiye alıyor.
Yapay zeka, herhangi bir insandan daha zeki olma potansiyeline sahip olduğu için, nasıl davranacağını tahmin etmenin kesin bir yolu yok. Geçmişteki teknolojik gelişmeleri temel alamayız; çünkü kasıtlı veya farkında olmadan bizi alt etme yeteneğine sahip hiçbir şey yaratmadık. Bir karşılaştırma yapmamızı sağlayacak en iyi örnek, kendi evrimimiz olabilir. İnsanlar artık gezegeni kontrol ediyor; en güçlü, en hızlı veya en büyük olduğumuz için değil, en zeki olduğumuz için. Artık en zeki olmayacaksak, kontrolü elimizde tutacağımızdan emin miyiz?
Yapay Süperzeka'nın Riskleri Hakkındaki Mitler
Pek çok yapay zeka araştırmacısı bu tür başlıkları görünce gözlerini deviriyor: Stephen Hawking, robotların yükselişinin insanlık için felaket olabileceği konusunda uyarıyor.
Tipik olarak, bu tarz yazılara silah taşıyan kötü görünümlü bir robot eşlik ediyor ve robotların yükselip bizi öldürmeleri konusunda endişelenmemizi öneriyorlar; çünkü bunlar, bilinçli ve/veya kötü oluyor. Bu tarz yazılar aslında oldukça etkileyicidir, çünkü yapay zeka araştırmacılarının endişelenmediği senaryoları kısa ve öz bir şekilde özetlerler. Bu senaryolar, üç farklı yanılgıyı birleştiriyor: bilinç, kötülük ve robotlarla ilgili endişe.
Asıl endişe kötü niyet değil, yeterliliktir. Süper zeki bir yapay zeka, ne olursa olsun, tanım gereği, hedeflerine ulaşmak konusunda çok iyidir. Bu nedenle yapay zekanın hedeflerinin, bizimkilerle uyumlu olmasını sağlamamız gerekir. Şöyle düşünün: İnsanlar genellikle karıncalardan nefret etmez; ama biz onlardan daha zekiyiz. Yani bir hidroelektrik baraj inşa etmek istiyorsak ve orada bir karınca yuvası varsa... Bu karıncalar için çok kötüdür; ama sonucu değiştirmez: O baraj inşa edilir. Yararlı yapay zeka hareketi, insanlığın, bu karıncaların bulunduğu durumla karşı karşıya kalmasından kaçınmayı istiyor.
Bilinç yanılgısı, makinelerin hedeflere sahip olamayacağı mitiyle ilgilidir. Makinelerin dar anlamda hedefleri olduğu açıktır. Hedefe yönelik davranış sergileme: Isı arayan bir füzenin davranışı, "bir hedefi en ekonomik şekilde vurma" hedefi olarak açıklanır. Hedefleri sizinkiyle yanlış "hizalanmış" bir makine tarafından tehdit edildiğinizi düşünüyorsanız, o zaman sizi rahatsız eden tam da bu dar anlamdaki hedefleridir, makinenin bilinçli olup olmadığı ve bir amaç duyusu deneyimlemesi değil. Isı arayan o füze sizi kovalıyor olsaydı, muhtemelen şunu haykırmazdınız:
Endişelenmiyorum, çünkü makinelerin hedefleri olamaz!
Bazı gazeteciler robotlara takıntılı bir şekilde saplanmış görünüyorlar ve yazılarının çoğunu kırmızı parlak gözlere sahip kötü görünümlü metal canavarlarla süslüyorlar. Aslında, faydalı yapay zeka hareketinin temel endişesi robotlarla değil, zekanın kendisiyle ilgilidir: özellikle, hedefleri bizimkilerle yanlış hizalanmış zekayla... Bizi sıkıntıya sokmak için, bu tür yanlış hizalanmış hedefleri olan insanüstü zekanın robotik bedene ihtiyacı yoktur; sadece bir internet bağlantısı gerekir. Bu internet bağlantısı, finansal piyasaları zekice alt etmeye, insan araştırmacıları geride bırakmaya, insan liderleri manipüle etmeye ve anlayamadığımız silahlar geliştirmeye olanak sağlar. Robot yapmak fiziksel olarak imkansız olsaydı bile, süper zeki ve süper zengin bir yapay zeka, birçok insana farkında olmadan isteğini yerine getirmeleri için kolayca ödeme yapabilir veya onları manipüle edebilirdi.
Robot yanılgısı, makinelerin insanları kontrol edemeyeceği mitiyle ilgilidir. Zeka, kontrolü mümkün kılar: İnsanlar olarak, kaplanları daha güçlü olduğumuz için değil, daha zeki olduğumuz için kontrol edebiliriz. Bu, gezegenimizdeki en zeki konumumuzu yitirirsek, kontrolü de kaybetmemizin mümkün olduğu anlamına gelir.
"995 Yapay Zeka Uzmanıyla Yapılan Çalışmaya Göre, Tekilliğe (Yapay Genel Zekaya) 2060 Yılından Önce Ulaşmamız Çok Olası!" olduğu için ve insan seviyesinde yapay zeka ile ilişkili güvenlik sorunlarının çoğu o kadar zordur ki çözülmesi onlarca yıl alabileceği için güçlü yapay zeka güvenlik araştırmalarına bir an önce başlamak akıllıca olacaktır.
Bu içeriğimizle ilgili bir sorunuz mu var? Buraya tıklayarak sorabilirsiniz.
İlginizi Çekebilecek Sorular
- Kozmik ışınların evrimsel mutasyonlarla nasıl bir alakası vardır?
- Ağaçların araziyi karanlık hale getirmesi daha çok güneş ışını emilmesini sağlar ama arazinin daha çok ısınmasını sağlar mı?
- Evrime müdahalenin sonuçları nelerdir?
- 8
- 5
- 4
- 3
- 2
- 2
- 2
- 1
- 0
- 0
- 0
- 0
- Çeviri Kaynağı: futureoflife.org | Arşiv Bağlantısı
Evrim Ağacı'na her ay sadece 1 kahve ısmarlayarak destek olmak ister misiniz?
Şu iki siteden birini kullanarak şimdi destek olabilirsiniz:
kreosus.com/evrimagaci | patreon.com/evrimagaci
Çıktı Bilgisi: Bu sayfa, Evrim Ağacı yazdırma aracı kullanılarak 07/03/2021 12:01:39 tarihinde oluşturulmuştur. Evrim Ağacı'ndaki içeriklerin tamamı, birden fazla editör tarafından, durmaksızın elden geçirilmekte, güncellenmekte ve geliştirilmektedir. Dolayısıyla bu çıktının alındığı tarihten sonra yapılan güncellemeleri görmek ve bu içeriğin en güncel halini okumak için lütfen şu adrese gidiniz: https://evrimagaci.org/s/9484
İçerik Kullanım İzinleri: Evrim Ağacı'ndaki yazılı içerikler orijinallerine hiçbir şekilde dokunulmadığı müddetçe izin alınmaksızın paylaşılabilir, kopyalanabilir, yapıştırılabilir, çoğaltılabilir, basılabilir, dağıtılabilir, yayılabilir, alıntılanabilir. Ancak bu içeriklerin hiçbiri izin alınmaksızın değiştirilemez ve değiştirilmiş halleri Evrim Ağacı'na aitmiş gibi sunulamaz. Benzer şekilde, içeriklerin hiçbiri, söz konusu içeriğin açıkça belirtilmiş yazarlarından ve Evrim Ağacı'ndan başkasına aitmiş gibi sunulamaz. Bu sayfa izin alınmaksızın düzenlenemez, Evrim Ağacı logosu, yazar/editör bilgileri ve içeriğin diğer kısımları izin alınmaksızın değiştirilemez veya kaldırılamaz.
This work is an exact translation of the article originally published in futureoflife.org. Evrim Ağacı is a popular science organization which seeks to increase scientific awareness and knowledge in Turkey, and this translation is a part of those efforts. If you are the author/owner of this article and if you choose it to be taken down, please contact us and we will immediately remove your content. Thank you for your cooperation and understanding.