Yapay Zeka Güvenliği Neden Önemli Bir Araştırma Sahasıdır ve Yapay Zeka İnsanlığın Sonunu Nasıl Getirebilir?

Uygarlık hakkında sevdiğimiz her şey bir zeka ürünüdür, bu nedenle insan zekamızı yapay zeka ile güçlendirmek, uygarlığın daha önce hiç olmadığı kadar gelişmesine yardımcı olma potansiyeline sahiptir. Teknolojiyi faydalı tutmayı başardığımız sürece... - Max Tegmark, evrenbilimci ve MIT'de profesör

Yapay zeka (YZ), SIRI'den sürücüsüz arabalara kadar hızla ilerliyor. Bilimkurgu genellikle yapay zekayı insan benzeri özelliklere sahip robotlar olarak tasvir ederken, yapay zeka, Google'ın arama algoritmalarından IBM'nin Watson'ına ve otonom silahlara kadar her şeyi kapsayabilir.

Günümüzde yapay zeka, sadece yüz tanıma veya sadece internet aramaları veya sadece araba kullanmak gibi dar bir görevi yerine getirmek için tasarlandığından, Yapay Dar Zeka (YDZ) veya zayıf yapay zeka olarak adlandırılır. Bununla birlikte, birçok araştırmacının uzun vadeli hedefi, Yapay Genel Zeka (YGZ) veya güçlü yapay zeka oluşturmaktır. YDZ, satranç oynamak veya denklem çözmek gibi belirli görevi ne olursa olsun insanlardan daha iyi performans gösterebilirken; YGZ, neredeyse her bilişsel görevde insanlardan daha iyi performans gösterecektir.

Yapay Zeka Güvenliği Neden Araştırılmalı?

Yakın vadede, yapay zekanın toplum üzerindeki etkisini faydalı tutma hedefi; ekonomiden hukuka, doğrulamadan geçerliliğe, güvenlikten kontrole kadar kadar birçok alanda araştırmayı motive ediyor. Dizüstü bilgisayarınızın çökmesi veya siber saldırıya uğraması küçük bir rahatsızlıktan biraz daha fazlası olsa da, yapay zeka arabanızı, uçağınızı, kalp pilinizi, otomatik ticaret sisteminizi veya elektrik şebekenizi kontrol ediyorsa, yapay zekaya sahip bu sistemin, yapmasını istediğiniz şeyi yaptığından emin olabilmek daha da önemli hale geliyor. Tabii ki bir başka kısa vadeli zorluk, ölümcül otonom silahlarda yıkıcı bir silahlanma yarışını önlemektir. Eğer güvenli yapay zekalar inşa etmezsek, çok ciddi sorunlarla yüzleşebiliriz.

Uzun vadede, önemli bir soru, YGZ arayışı başarılı olursa ve bir yapay zeka sistemi tüm bilişsel görevlerde insanlardan daha iyi hale gelirse ne olacağıdır. 1965'de I. J. Good'un işaret ettiği gibi, daha akıllı yapay zeka sistemleri tasarlamak başlı başına bir bilişsel görevdir. Böyle bir sistem, potansiyel olarak kendini tekrarlayan bir şekilde kendini geliştirebilir ve insan aklını çok geride bırakan bir zeka patlamasını tetikleyebilir. Böyle bir süper zeka, devrim niteliğinde yeni teknolojiler icat ederek savaşı, hastalıkları ve yoksulluğu ortadan kaldırmamıza yardımcı olabilir ve bu nedenle YGZ'nin yaratılması, insanlık tarihindeki en büyük olay olabilir. Yine de bazı uzmanlar, yapay zekanın hedeflerini süper akıllı hale gelmeden önce bizim hedeflerimizle aynı hizaya getirmeyi öğrenmezsek, bu olayın son olabileceği endişesini dile getirdiler.

Bugün yapay zeka güvenliğinin araştırılması, gelecekte bu tür potansiyel olarak olumsuz sonuçlara daha iyi hazırlanmamıza ve bunları önlememize yardımcı olacaktır. Böylece tuzaklardan kaçınırken yapay zekanın faydalarından yararlanabiliriz.

Yapay Zeka Nasıl Tehlikeli Olabilir?

Çoğu araştırmacı, Yapay Süperzeka'nın (YSZ) sevgi ya da nefret gibi insan duygularını sergileme ihtimalinin düşük olduğu ve böyle bir yapay zekanın kasıtlı olarak iyiliksever ya da kötü niyetli olmasını beklemek için hiçbir neden olmadığı konusunda hemfikir. Bunun yerine, yapay zekanın nasıl bir risk haline gelebileceğini dikkate alan uzmanlar, büyük olasılıkla gerçekleşebilecek iki senaryo düşünüyor:

Senaryo 1: Yapay Zeka, yıkıcı bir şey yapmaya programlanmıştır.

Otonom silahlar, öldürmeye programlanmış yapay zeka sistemleridir. Yanlış kişinin elinde bu silahlar, kolaylıkla kitlesel ölümlere neden olabilir. Dahası, bir yapay zeka silahlanma yarışı, yanlışlıkla bir yapay zeka savaşına yol açabilir ve bu da kitlesel ölümlerle sonuçlanabilir. Düşman tarafından engellenmekten kaçınmak için, bu silahların basitçe "kapatılması" son derece zor olacak şekilde tasarlanacak, böylece insanlar kolayca böyle bir durumun kontrolünü kaybedebilecektir. Bu risk, YDZ'yle bile mevcut olan bir risktir ancak yapay zekanın zeka ve özerklik seviyeleri arttıkça risk büyür.

Senaryo 2: Yapay Zeka, faydalı bir şey yapmak üzere programlanmıştır; ancak amacına ulaşmak için yıkıcı bir yöntem geliştirir.

Bu, yapay zekanın hedeflerini bizim hedeflerimizle tam olarak uyumlu hale getirmekte başarısız olduğumuzda gerçekleşebilir ki bunu başarmak, çarpıcı derecede zordur. Sadık bir akıllı arabadan sizi olabildiğince hızlı bir şekilde havaalanına götürmesini isterseniz, sizi oraya helikopterler tarafından kovalanarak ve kusarak, istediğiniz bir şekilde değil; ancak "kelimenin tam anlamıyla" istediğinizi yaparak götürebilir. Süper zeki bir sistem, iddialı bir jeomühendislik projesi ile görevlendirilirse, ekosistemimize zarar verecek bir yan etkiye neden olabilir ve onu durdurmaya yönelik insan girişimlerini karşılık verilmesi gereken bir tehdit olarak görebilir.

Bu örneklerin gösterdiği gibi, gelişmiş bir yapay zeka ile ilgili endişe kötü niyet değil, yeterliliktir. Süper zeki bir yapay zeka, hedeflerine ulaşmada son derece iyi olacaktır ve bu hedeflere ulaşma biçimi bizimkilerle uyumlu değilse, bir sorun var demektir.

Güçlü yapay zeka arayışının nihayetinde başarılı olacağı fikri, uzak bir geleceğe dayanıyordu. 2011 yılında uzmanların daha onlarca yıl uzakta olduğunu düşündüğü birçok yapay zeka kilometre taşına çoktan ulaşıldı. Bundan dolayı birçok yapay zeka uzmanı, yaşamımız içerisinde Yapay Süperzeka'ya ulaşılması olasılığını ciddiye alıyor.

Yapay zeka, herhangi bir insandan daha zeki olma potansiyeline sahip olduğu için, nasıl davranacağını tahmin etmenin kesin bir yolu yok. Geçmişteki teknolojik gelişmeleri temel alamayız; çünkü kasıtlı veya farkında olmadan bizi alt etme yeteneğine sahip hiçbir şey yaratmadık. Bir karşılaştırma yapmamızı sağlayacak en iyi örnek, kendi evrimimiz olabilir. İnsanlar artık gezegeni kontrol ediyor; en güçlü, en hızlı veya en büyük olduğumuz için değil, en zeki olduğumuz için. Artık en zeki olmayacaksak, kontrolü elimizde tutacağımızdan emin miyiz?

Yapay Süperzeka'nın Riskleri Hakkındaki Mitler

Pek çok yapay zeka araştırmacısı bu tür başlıkları görünce gözlerini deviriyor: Stephen Hawking, robotların yükselişinin insanlık için felaket olabileceği konusunda uyarıyor.

Tipik olarak, bu tarz yazılara silah taşıyan kötü görünümlü bir robot eşlik ediyor ve robotların yükselip bizi öldürmeleri konusunda endişelenmemizi öneriyorlar; çünkü bunlar, bilinçli ve/veya kötü oluyor. Bu tarz yazılar aslında oldukça etkileyicidir, çünkü yapay zeka araştırmacılarının endişelenmediği senaryoları kısa ve öz bir şekilde özetlerler. Bu senaryolar, üç farklı yanılgıyı birleştiriyor: bilinç, kötülük ve robotlarla ilgili endişe.

Asıl endişe kötü niyet değil, yeterliliktir. Süper zeki bir yapay zeka, ne olursa olsun, tanım gereği, hedeflerine ulaşmak konusunda çok iyidir. Bu nedenle yapay zekanın hedeflerinin, bizimkilerle uyumlu olmasını sağlamamız gerekir. Şöyle düşünün: İnsanlar genellikle karıncalardan nefret etmez; ama biz onlardan daha zekiyiz. Yani bir hidroelektrik baraj inşa etmek istiyorsak ve orada bir karınca yuvası varsa... Bu karıncalar için çok kötüdür; ama sonucu değiştirmez: O baraj inşa edilir. Yararlı yapay zeka hareketi, insanlığın, bu karıncaların bulunduğu durumla karşı karşıya kalmasından kaçınmayı istiyor.

Bilinç yanılgısı, makinelerin hedeflere sahip olamayacağı mitiyle ilgilidir. Makinelerin dar anlamda hedefleri olduğu açıktır. Hedefe yönelik davranış sergileme: Isı arayan bir füzenin davranışı, "bir hedefi en ekonomik şekilde vurma" hedefi olarak açıklanır. Hedefleri sizinkiyle yanlış "hizalanmış" bir makine tarafından tehdit edildiğinizi düşünüyorsanız, o zaman sizi rahatsız eden tam da bu dar anlamdaki hedefleridir, makinenin bilinçli olup olmadığı ve bir amaç duyusu deneyimlemesi değil. Isı arayan o füze sizi kovalıyor olsaydı, muhtemelen şunu haykırmazdınız:

Endişelenmiyorum, çünkü makinelerin hedefleri olamaz!

Bazı gazeteciler robotlara takıntılı bir şekilde saplanmış görünüyorlar ve yazılarının çoğunu kırmızı parlak gözlere sahip kötü görünümlü metal canavarlarla süslüyorlar. Aslında, faydalı yapay zeka hareketinin temel endişesi robotlarla değil, zekanın kendisiyle ilgilidir: özellikle, hedefleri bizimkilerle yanlış hizalanmış zekayla... Bizi sıkıntıya sokmak için, bu tür yanlış hizalanmış hedefleri olan insanüstü zekanın robotik bedene ihtiyacı yoktur; sadece bir internet bağlantısı gerekir. Bu internet bağlantısı, finansal piyasaları zekice alt etmeye, insan araştırmacıları geride bırakmaya, insan liderleri manipüle etmeye ve anlayamadığımız silahlar geliştirmeye olanak sağlar. Robot yapmak fiziksel olarak imkansız olsaydı bile, süper zeki ve süper zengin bir yapay zeka, birçok insana farkında olmadan isteğini yerine getirmeleri için kolayca ödeme yapabilir veya onları manipüle edebilirdi.

Robot yanılgısı, makinelerin insanları kontrol edemeyeceği mitiyle ilgilidir. Zeka, kontrolü mümkün kılar: İnsanlar olarak, kaplanları daha güçlü olduğumuz için değil, daha zeki olduğumuz için kontrol edebiliriz. Bu, gezegenimizdeki en zeki konumumuzu yitirirsek, kontrolü de kaybetmemizin mümkün olduğu anlamına gelir.

"995 Yapay Zeka Uzmanıyla Yapılan Çalışmaya Göre, Tekilliğe (Yapay Genel Zekaya) 2060 Yılından Önce Ulaşmamız Çok Olası!" olduğu için ve insan seviyesinde yapay zeka ile ilişkili güvenlik sorunlarının çoğu o kadar zordur ki çözülmesi onlarca yıl alabileceği için güçlü yapay zeka güvenlik araştırmalarına bir an önce başlamak akıllıca olacaktır.