Evrim Ağacı Logo Evrim Ağacı
Evrim Ağacı
Reklamı Kapat

Yapay Zeka Güvenliği Neden Önemli Bir Araştırma Sahasıdır ve Yapay Zeka İnsanlığın Sonunu Nasıl Getirebilir?

Yapay Zeka Güvenliği Neden Önemli Bir Araştırma Sahasıdır ve Yapay Zeka İnsanlığın Sonunu Nasıl Getirebilir? Analytics India Magazine
Tavsiye Makale
Reklamı Kapat

Bu yazı, futureoflife.org isimli kaynaktan birebir çevrilmiştir. Çevirmen tarafından, metin içerisinde (varsa) açıkça belirtilen kısımlar haricinde, herhangi bir ekleme, çıkarma veya değişiklik yapılmamıştır. Bu içerik, diğer tüm içeriklerimiz gibi, İçerik Kullanım İzinleri'ne tabidir.

Uygarlık hakkında sevdiğimiz her şey bir zeka ürünüdür, bu nedenle insan zekamızı yapay zeka ile güçlendirmek, uygarlığın daha önce hiç olmadığı kadar gelişmesine yardımcı olma potansiyeline sahiptir. Teknolojiyi faydalı tutmayı başardığımız sürece... - Max Tegmark, evrenbilimci ve MIT'de profesör

Yapay zeka (YZ), SIRI'den sürücüsüz arabalara kadar hızla ilerliyor. Bilimkurgu genellikle yapay zekayı insan benzeri özelliklere sahip robotlar olarak tasvir ederken, yapay zeka, Google'ın arama algoritmalarından IBM'nin Watson'ına ve otonom silahlara kadar her şeyi kapsayabilir.

Günümüzde yapay zeka, sadece yüz tanıma veya sadece internet aramaları veya sadece araba kullanmak gibi dar bir görevi yerine getirmek için tasarlandığından, Yapay Dar Zeka (YDZ) veya zayıf yapay zeka olarak adlandırılır. Bununla birlikte, birçok araştırmacının uzun vadeli hedefi, Yapay Genel Zeka (YGZ) veya güçlü yapay zeka oluşturmaktır. YDZ, satranç oynamak veya denklem çözmek gibi belirli görevi ne olursa olsun insanlardan daha iyi performans gösterebilirken; YGZ, neredeyse her bilişsel görevde insanlardan daha iyi performans gösterecektir.

Yapay Zeka Güvenliği Neden Araştırılmalı?

Yakın vadede, yapay zekanın toplum üzerindeki etkisini faydalı tutma hedefi; ekonomiden hukuka, doğrulamadan geçerliliğe, güvenlikten kontrole kadar kadar birçok alanda araştırmayı motive ediyor. Dizüstü bilgisayarınızın çökmesi veya siber saldırıya uğraması küçük bir rahatsızlıktan biraz daha fazlası olsa da, yapay zeka arabanızı, uçağınızı, kalp pilinizi, otomatik ticaret sisteminizi veya elektrik şebekenizi kontrol ediyorsa, yapay zekaya sahip bu sistemin, yapmasını istediğiniz şeyi yaptığından emin olabilmek daha da önemli hale geliyor. Tabii ki bir başka kısa vadeli zorluk, ölümcül otonom silahlarda yıkıcı bir silahlanma yarışını önlemektir. Eğer güvenli yapay zekalar inşa etmezsek, çok ciddi sorunlarla yüzleşebiliriz.

Uzun vadede, önemli bir soru, YGZ arayışı başarılı olursa ve bir yapay zeka sistemi tüm bilişsel görevlerde insanlardan daha iyi hale gelirse ne olacağıdır. 1965'de I. J. Good'un işaret ettiği gibi, daha akıllı yapay zeka sistemleri tasarlamak başlı başına bir bilişsel görevdir. Böyle bir sistem, potansiyel olarak kendini tekrarlayan bir şekilde kendini geliştirebilir ve insan aklını çok geride bırakan bir zeka patlamasını tetikleyebilir. Böyle bir süper zeka, devrim niteliğinde yeni teknolojiler icat ederek savaşı, hastalıkları ve yoksulluğu ortadan kaldırmamıza yardımcı olabilir ve bu nedenle YGZ'nin yaratılması, insanlık tarihindeki en büyük olay olabilir. Yine de bazı uzmanlar, yapay zekanın hedeflerini süper akıllı hale gelmeden önce bizim hedeflerimizle aynı hizaya getirmeyi öğrenmezsek, bu olayın son olabileceği endişesini dile getirdiler.

Bugün yapay zeka güvenliğinin araştırılması, gelecekte bu tür potansiyel olarak olumsuz sonuçlara daha iyi hazırlanmamıza ve bunları önlememize yardımcı olacaktır. Böylece tuzaklardan kaçınırken yapay zekanın faydalarından yararlanabiliriz.

Yapay Zeka Nasıl Tehlikeli Olabilir?

Çoğu araştırmacı, Yapay Süperzeka'nın (YSZ) sevgi ya da nefret gibi insan duygularını sergileme ihtimalinin düşük olduğu ve böyle bir yapay zekanın kasıtlı olarak iyiliksever ya da kötü niyetli olmasını beklemek için hiçbir neden olmadığı konusunda hemfikir. Bunun yerine, yapay zekanın nasıl bir risk haline gelebileceğini dikkate alan uzmanlar, büyük olasılıkla gerçekleşebilecek iki senaryo düşünüyor:

Senaryo 1: Yapay Zeka, yıkıcı bir şey yapmaya programlanmıştır.

Otonom silahlar, öldürmeye programlanmış yapay zeka sistemleridir. Yanlış kişinin elinde bu silahlar, kolaylıkla kitlesel ölümlere neden olabilir. Dahası, bir yapay zeka silahlanma yarışı, yanlışlıkla bir yapay zeka savaşına yol açabilir ve bu da kitlesel ölümlerle sonuçlanabilir. Düşman tarafından engellenmekten kaçınmak için, bu silahların basitçe "kapatılması" son derece zor olacak şekilde tasarlanacak, böylece insanlar kolayca böyle bir durumun kontrolünü kaybedebilecektir. Bu risk, YDZ'yle bile mevcut olan bir risktir ancak yapay zekanın zeka ve özerklik seviyeleri arttıkça risk büyür.

Senaryo 2: Yapay Zeka, faydalı bir şey yapmak üzere programlanmıştır; ancak amacına ulaşmak için yıkıcı bir yöntem geliştirir.

Bu, yapay zekanın hedeflerini bizim hedeflerimizle tam olarak uyumlu hale getirmekte başarısız olduğumuzda gerçekleşebilir ki bunu başarmak, çarpıcı derecede zordur. Sadık bir akıllı arabadan sizi olabildiğince hızlı bir şekilde havaalanına götürmesini isterseniz, sizi oraya helikopterler tarafından kovalanarak ve kusarak, istediğiniz bir şekilde değil; ancak "kelimenin tam anlamıyla" istediğinizi yaparak götürebilir. Süper zeki bir sistem, iddialı bir jeomühendislik projesi ile görevlendirilirse, ekosistemimize zarar verecek bir yan etkiye neden olabilir ve onu durdurmaya yönelik insan girişimlerini karşılık verilmesi gereken bir tehdit olarak görebilir.

Bu örneklerin gösterdiği gibi, gelişmiş bir yapay zeka ile ilgili endişe kötü niyet değil, yeterliliktir. Süper zeki bir yapay zeka, hedeflerine ulaşmada son derece iyi olacaktır ve bu hedeflere ulaşma biçimi bizimkilerle uyumlu değilse, bir sorun var demektir.

Evrim Ağacı'ndan Mesaj

Güçlü yapay zeka arayışının nihayetinde başarılı olacağı fikri, uzak bir geleceğe dayanıyordu. 2011 yılında uzmanların daha onlarca yıl uzakta olduğunu düşündüğü birçok yapay zeka kilometre taşına çoktan ulaşıldı. Bundan dolayı birçok yapay zeka uzmanı, yaşamımız içerisinde Yapay Süperzeka'ya ulaşılması olasılığını ciddiye alıyor.

Yapay zeka, herhangi bir insandan daha zeki olma potansiyeline sahip olduğu için, nasıl davranacağını tahmin etmenin kesin bir yolu yok. Geçmişteki teknolojik gelişmeleri temel alamayız; çünkü kasıtlı veya farkında olmadan bizi alt etme yeteneğine sahip hiçbir şey yaratmadık. Bir karşılaştırma yapmamızı sağlayacak en iyi örnek, kendi evrimimiz olabilir. İnsanlar artık gezegeni kontrol ediyor; en güçlü, en hızlı veya en büyük olduğumuz için değil, en zeki olduğumuz için. Artık en zeki olmayacaksak, kontrolü elimizde tutacağımızdan emin miyiz?

Yapay Süperzeka'nın Riskleri Hakkındaki Mitler

Pek çok yapay zeka araştırmacısı bu tür başlıkları görünce gözlerini deviriyor: Stephen Hawking, robotların yükselişinin insanlık için felaket olabileceği konusunda uyarıyor.

Tipik olarak, bu tarz yazılara silah taşıyan kötü görünümlü bir robot eşlik ediyor ve robotların yükselip bizi öldürmeleri konusunda endişelenmemizi öneriyorlar; çünkü bunlar, bilinçli ve/veya kötü oluyor. Bu tarz yazılar aslında oldukça etkileyicidir, çünkü yapay zeka araştırmacılarının endişelenmediği senaryoları kısa ve öz bir şekilde özetlerler. Bu senaryolar, üç farklı yanılgıyı birleştiriyor: bilinç, kötülük ve robotlarla ilgili endişe.

Asıl endişe kötü niyet değil, yeterliliktir. Süper zeki bir yapay zeka, ne olursa olsun, tanım gereği, hedeflerine ulaşmak konusunda çok iyidir. Bu nedenle yapay zekanın hedeflerinin, bizimkilerle uyumlu olmasını sağlamamız gerekir. Şöyle düşünün: İnsanlar genellikle karıncalardan nefret etmez; ama biz onlardan daha zekiyiz. Yani bir hidroelektrik baraj inşa etmek istiyorsak ve orada bir karınca yuvası varsa... Bu karıncalar için çok kötüdür; ama sonucu değiştirmez: O baraj inşa edilir. Yararlı yapay zeka hareketi, insanlığın, bu karıncaların bulunduğu durumla karşı karşıya kalmasından kaçınmayı istiyor.

Bilinç yanılgısı, makinelerin hedeflere sahip olamayacağı mitiyle ilgilidir. Makinelerin dar anlamda hedefleri olduğu açıktır. Hedefe yönelik davranış sergileme: Isı arayan bir füzenin davranışı, "bir hedefi en ekonomik şekilde vurma" hedefi olarak açıklanır. Hedefleri sizinkiyle yanlış "hizalanmış" bir makine tarafından tehdit edildiğinizi düşünüyorsanız, o zaman sizi rahatsız eden tam da bu dar anlamdaki hedefleridir, makinenin bilinçli olup olmadığı ve bir amaç duyusu deneyimlemesi değil. Isı arayan o füze sizi kovalıyor olsaydı, muhtemelen şunu haykırmazdınız:

Endişelenmiyorum, çünkü makinelerin hedefleri olamaz!

Bazı gazeteciler robotlara takıntılı bir şekilde saplanmış görünüyorlar ve yazılarının çoğunu kırmızı parlak gözlere sahip kötü görünümlü metal canavarlarla süslüyorlar. Aslında, faydalı yapay zeka hareketinin temel endişesi robotlarla değil, zekanın kendisiyle ilgilidir: özellikle, hedefleri bizimkilerle yanlış hizalanmış zekayla... Bizi sıkıntıya sokmak için, bu tür yanlış hizalanmış hedefleri olan insanüstü zekanın robotik bedene ihtiyacı yoktur; sadece bir internet bağlantısı gerekir. Bu internet bağlantısı, finansal piyasaları zekice alt etmeye, insan araştırmacıları geride bırakmaya, insan liderleri manipüle etmeye ve anlayamadığımız silahlar geliştirmeye olanak sağlar. Robot yapmak fiziksel olarak imkansız olsaydı bile, süper zeki ve süper zengin bir yapay zeka, birçok insana farkında olmadan isteğini yerine getirmeleri için kolayca ödeme yapabilir veya onları manipüle edebilirdi.

Robot yanılgısı, makinelerin insanları kontrol edemeyeceği mitiyle ilgilidir. Zeka, kontrolü mümkün kılar: İnsanlar olarak, kaplanları daha güçlü olduğumuz için değil, daha zeki olduğumuz için kontrol edebiliriz. Bu, gezegenimizdeki en zeki konumumuzu yitirirsek, kontrolü de kaybetmemizin mümkün olduğu anlamına gelir.

"995 Yapay Zeka Uzmanıyla Yapılan Çalışmaya Göre, Tekilliğe (Yapay Genel Zekaya) 2060 Yılından Önce Ulaşmamız Çok Olası!" olduğu için ve insan seviyesinde yapay zeka ile ilişkili güvenlik sorunlarının çoğu o kadar zordur ki çözülmesi onlarca yıl alabileceği için güçlü yapay zeka güvenlik araştırmalarına biran önce başlamak akıllıca olacaktır.

Bu İçerik Size Ne Hissettirdi?
  • Tebrikler! 6
  • Muhteşem! 4
  • Mmm... Çok sapyoseksüel! 2
  • Merak Uyandırıcı! 2
  • İnanılmaz 1
  • Umut Verici! 1
  • Grrr... *@$# 1
  • Korkutucu! 1
  • Bilim Budur! 0
  • Güldürdü 0
  • Üzücü! 0
  • İğrenç! 0
Kaynaklar ve İleri Okuma
  1. Çeviri Kaynağı: futureoflife.org | Arşiv Bağlantısı

Evrim Ağacı'na her ay sadece 1 kahve ısmarlayarak destek olmak ister misiniz?

Şu iki siteden birini kullanarak şimdi destek olabilirsiniz:

kreosus.com/evrimagaci | patreon.com/evrimagaci

Çıktı Bilgisi: Bu sayfa, Evrim Ağacı yazdırma aracı kullanılarak 30/11/2020 08:12:45 tarihinde oluşturulmuştur. Evrim Ağacı'ndaki içeriklerin tamamı, birden fazla editör tarafından, durmaksızın elden geçirilmekte, güncellenmekte ve geliştirilmektedir. Dolayısıyla bu çıktının alındığı tarihten sonra yapılan güncellemeleri görmek ve bu içeriğin en güncel halini okumak için lütfen şu adrese gidiniz: https://evrimagaci.org/s/9484

İçerik Kullanım İzinleri: Evrim Ağacı'ndaki yazılı içerikler orijinallerine hiçbir şekilde dokunulmadığı müddetçe izin alınmaksızın paylaşılabilir, kopyalanabilir, yapıştırılabilir, çoğaltılabilir, basılabilir, dağıtılabilir, yayılabilir, alıntılanabilir. Ancak bu içeriklerin hiçbiri izin alınmaksızın değiştirilemez ve değiştirilmiş halleri Evrim Ağacı'na aitmiş gibi sunulamaz. Benzer şekilde, içeriklerin hiçbiri, söz konusu içeriğin açıkça belirtilmiş yazarlarından ve Evrim Ağacı'ndan başkasına aitmiş gibi sunulamaz. Bu sayfa izin alınmaksızın düzenlenemez, Evrim Ağacı logosu, yazar/editör bilgileri ve içeriğin diğer kısımları izin alınmaksızın değiştirilemez veya kaldırılamaz.

Reklamı Kapat
Güncel
Karma
Agora
Teori
Diş Hekimi
Balık Çeşitliliği
Böcekler
Fosil
Gıda
Avrupa
Jeoloji
Doğa Yasası
Obstetrik
Teyit
Yemek
Cansız
Kütle
İnsan Sağlığı
Ay Ve Dünya
Sosyal Mesafelendirme
Albert Einstein
Evrimsel Biyoloji
Kelebek
Karanlık Enerji
Kuşlar
Olasılık
Evrim Ağacı Duyurusu
Tümör
Daha Fazla İçerik Göster
Daha Fazla İçerik Göster
Reklamı Kapat
Türkiye'deki bilimseverlerin buluşma noktasına hoşgeldiniz!

Göster

Şifrenizi mi unuttunuz? Lütfen e-posta adresinizi giriniz. E-posta adresinize şifrenizi sıfırlamak için bir bağlantı gönderilecektir.

Geri dön

Eğer aktivasyon kodunu almadıysanız lütfen e-posta adresinizi giriniz. Üyeliğinizi aktive etmek için e-posta adresinize bir bağlantı gönderilecektir.

Geri dön

Close
“Astroloji, tapındığı uzay kadar boştur.”
Perry DeAngelis
Geri Bildirim Gönder
Reklamsız Deneyim

Evrim Ağacı'nın çalışmalarına Kreosus, Patreon veya YouTube üzerinden maddi destekte bulunarak hem Türkiye'de bilim anlatıcılığının gelişmesine katkı sağlayabilirsiniz, hem de site ve uygulamamızı reklamsız olarak deneyimleyebilirsiniz. Reklamsız deneyim, Evrim Ağacı'nda çeşitli kısımlarda gösterilen Google reklamlarını ve destek çağrılarını görmediğiniz, daha temiz bir site deneyimi sunmaktadır.

Kreosus

Kreosus'ta her 10₺'lik destek, 1 aylık reklamsız deneyime karşılık geliyor. Bu sayede, tek seferlik destekçilerimiz de, aylık destekçilerimiz de toplam destekleriyle doğru orantılı bir süre boyunca reklamsız deneyim elde edebiliyorlar.

Kreosus destekçilerimizin reklamsız deneyimi, destek olmaya başladıkları anda devreye girmektedir ve ek bir işleme gerek yoktur.

Patreon

Patreon destekçilerimiz, destek miktarından bağımsız olarak, Evrim Ağacı'na destek oldukları süre boyunca reklamsız deneyime erişmeyi sürdürebiliyorlar.

Patreon destekçilerimizin Patreon ile ilişkili e-posta hesapları, Evrim Ağacı'ndaki üyelik e-postaları ile birebir aynı olmalıdır. Patreon destekçilerimizin reklamsız deneyiminin devreye girmesi 24 saat alabilmektedir.

YouTube

YouTube destekçilerimizin hepsi otomatik olarak reklamsız deneyime şimdilik erişemiyorlar ve şu anda, YouTube üzerinden her destek seviyesine reklamsız deneyim ayrıcalığını sunamamaktayız. YouTube Destek Sistemi üzerinde sunulan farklı seviyelerin açıklamalarını okuyarak, hangi ayrıcalıklara erişebileceğinizi öğrenebilirsiniz.

Eğer seçtiğiniz seviye reklamsız deneyim ayrıcalığı sunuyorsa, destek olduktan sonra YouTube tarafından gösterilecek olan bağlantıdaki formu doldurarak reklamsız deneyime erişebilirsiniz. YouTube destekçilerimizin reklamsız deneyiminin devreye girmesi, formu doldurduktan sonra 24-72 saat alabilmektedir.

Diğer Platformlar

Bu 3 platform haricinde destek olan destekçilerimize ne yazık ki reklamsız deneyim ayrıcalığını sunamamaktayız. Destekleriniz sayesinde sistemlerimizi geliştirmeyi sürdürüyoruz ve umuyoruz bu ayrıcalıkları zamanla genişletebileceğiz.

Giriş yapmayı unutmayın!

Reklamsız deneyim için, maddi desteğiniz ile ilişkilendirilmiş olan Evrim Ağacı hesabınıza üye girişi yapmanız gerekmektedir. Giriş yapmadığınız takdirde reklamları görmeye devam edeceksinizdir.

Destek Ol