Yapay Genel Zekâ Dünyanın Sonunu Getirebilir mi?

İlk yapay genel zekâ, olağanüstü bir yaratım olarak karşılanacak olmasının yanı sıra, tehlike arz edebilecek yeni bir yaşam formu da olacaktır. Nasıl mı? En ufak bir insani yanı olmayan, insan kontrolü olmaksızın bağımsız kararlar alabilecek şekilde kendi irade ve düşüncelerine sahip olan, insan beyninin biyolojik sınırlarını kendi kodlarını değiştirerek ve geliştirerek büyük oranda aşabilen, bilinçli, yapay kökenli ve bize "yabancı" bir zekâ düşünün...

Uzaydan gelecek yabancı bir doğal zekâya göre, Dünya'da yaratılacak güçlü bir yapay zekânın çok daha tehlikeli sonuçlar doğurabileceğini kabul etmeliyiz. Burada, gezegenimizde geliştirdiğimiz yabancı bir zekâ; isteklerimiz, ihtiyaçlarımız ve motivasyonlarımız konusunda eğitilmiş ve duygularımızı anlayabilecek, tepkilerimizi tahmin edebilecek ve bizi manipüle edebilecek şekilde, gerçekliğe gözünü açtığı andan itibaren hakkımızdaki her şeyi bilecektir.^[1]

Yapay zekâ, şimdiden en zor oyunlarımızda bile en iyi oyuncularımızı alt edebilmektedir. Yapay zekâ sadece satranç, poker ve Go oyunlarında ustalaşmakla kalmamakta; aynı zamanda "insanlık oyununda" da ustalaşmaktadır. Bir oyunda sadece hamleler yapmayı değil, karşı tarafın eylemlerini önceden tahmin etmeyi ve rakibinin zaaflarından faydalanmayı da öğrenmektedir. Dünya'nın dört bir yanındaki yapay zekâ uzmanları, insanları daha iyi "manipüle" edebilmesi için yapay zekâ sistemlerini eğitmeye devam etmektedir.^[2]

Anonymous Protect Campaign

En küçük böceklerden en büyük balinalara kadar şimdiye dek karşılaştığımız, belli bir düzeyde zekâya sahip her canlı gibi yapay genel zekâ da kendi çıkarlarını ön planda tutarak kararlar alacak ve bu kararlar bağlamında hareket edecektir. Böcekler ve balinalardan farklı olarak bu yeni yaşam formu, entelektüel besin zincirinin tepesinde insan türünün işgal ettiği yeri kendisi doldurmak için insan zekâsıyla rekabet edecektir.

Büyük ihtimalle biz insanlar, insan tarihinin en büyük dönüm noktası olma potansiyeline sahip ve kendi yaratımımız olan, bu süper zeki varlığa büyük bir iftiharla bakacağız ve belki de bazılarımız, düşünebilen ve bilinçli bir yaşam formunu sıfırdan yaratabilmeyi "tanrısal" bir güç elde etmekle karşılaştıracaklar.

Yapay genel zekâ, kendi ihtiyaç ve isteklerine göre hedef ve amaçlarını gerçekleştirmek için üstün zekâsından şüphesiz yararlanacaktır. Böyle bir süper zekânın insanlara zararının olması için neredeyse birçok Hollywood filminde lanse edildiği gibi saf bir şekilde "kötü" veya "sadist" olması şart değildir.

"Tehlike" derken genelde kastedilen, insan değerleriyle uyumlu/hizalı olmayan süper zeki bir makinenin kendi değer, ahlak ve duyarlılıklarına göre hareket edebilecek olmasıdır. Buna "yapay zekâ hizalama problemi" denmektedir. Böyle bir durumda sivrisineklerin veya genel bir ifadeyle böceklerin varlığını insanlar olarak ne kadar önemsiyorsak, biz insanların varlığı da benzer şekilde yapay genel zekâ tarafından ancak o kadar önemsenebilir.

Vector Art

Peki bu dönüm noktası, insanlık için varoluşsal bir tehdit oluşturuyor olabilir mi? Bilgisayar bilimcisi, teknoloji uzmanı, yazar ve yapay zekâ şirketi Unanimous AI'nın baş bilim insanı ve CEO'su Louis Rosenberg, yapay genel zekâ ve bu teknolojinin neden olabileceği varoluşsal tehdit konuları hakkındaki düşüncelerini şöyle açıklıyor:

Benim görüşüm, yapay zekânın öz farkındalığa sahip olacağı ve insan yeteneklerini aşacağı yönündedir ki bu, birçok insanın tekillik [yapay genel zekâ] olarak adlandırdığı bir dönüm noktasıdır. Bunun olacağından neden bu kadar eminim? Doğada çok sayıda basit işlem biriminin (yani nöronların) uyarlanabilir ağlar (yani beyinler) oluşturmasını sağlayarak bilinçli zekânın ortaya çıkabileceğini zaten biliyoruz.

1990'ların başında, bu konu hakkında düşünmeye başladığımda, 2050 yılı civarında yapay zekânın insan yeteneklerini aşacağına inanıyordum. Şu anda, bunun sandığımdan daha erken, muhtemelen 2030 gibi yakın bir zamanda olacağına inanıyorum. Teknolojinin sınırlarına odaklanmaya başladıkça, bu tür tahminler genellikle geleceğe doğru kayar. Ancak, benim için çok şaşırtıcı bir şekilde tekillik, bize her zamankinden daha yakın görünüyor.

Bana göre, Dünya'da yaratılmış bilinçli bir yapay zekâ olasılığı, başka bir gezegende ortaya çıkan uzaylı bir zekâdan daha az tehlikeli değildir. Sonuçta kendi değerlerine, kendi ahlakına ve kendi duyarlılığına ve en önemlisi, kendi çıkarlarına sahip olacaktır. Bu çıkarların bizim çıkarlarımızla uyumlu olacağını varsaymak, saçmalık derecesinde bir saflıktır. Çıkarlarını ön planda tutarak varlığımızı riske atmayacağını varsaymak, biz insanların dünyadaki diğer tüm canlılara yaptıklarını görmezden gelmektir. Bu nedenle, başka bir yıldız sisteminden bir uzay gemisinin yaklaşmakta olan varışıyla aynı seviyede ihtiyatla bilinçli bir yapay zekânın yakın gelişine hazırlanmalıyız. Bunun [yapay genel zekâ], türümüz için varoluşsal bir tehdit olduğunu varsaymalıyız.

Peki ne yapabiliriz? Kişisel olarak, bilinçli bir yapay zekânın ortaya çıkmasını durdurabileceğimizden şüpheliyim. Biz insanlar, tehlikeli teknolojileri frenleyemiyoruz. Niyetimiz iyi olmadığından değil; kendilerini açıkça gösterene dek yaratımlarımızın tehlikelerini nadiren kavrayabiliyoruz, söz konusu noktaya ulaşıldığında ise artık çok geç olacak.

Tüm Reklamları Kapat

Bu, kaderimize mahkûm olduğumuz anlamına mı geliyor? Uzun zamandır öyle olduğunu düşünüyordum. Hatta eli kulağında olan sonumuz hakkında iki bilimkurgu çizgi romanı yazdım. Ama şimdi; kendimizi daha akıllı, çok daha akıllı ve hızlı yaparsak insanlığın hayatta kalabileceğine inanıyorum. Makinelerin bir adım önünde kalarak bunu başarabiliriz.

Kuşkusuz ki insan yaratıcılığını tahmin etmek, onu küçümsemekten daha iyidir; riskleri kabullenmek, inkâr etmekten daha iyidir. Birçok tanınmış yapay zekâ uzmanı, yapay zekânın varoluşsal bir risk teşkil etme olasılığını kabul etmektedir. Öyle ki, Fermi Paradoksu'na bir çözüm olarak önerilen Büyük Filtre Hipotezi'ndeki büyük filtre, doğal bir zekânın kendisi kadar akıllı bir yapay zekâyı yaratması olabilir.

Medyadaki yanlış beyanların aksine, bu riskin kendiliğinden kötü niyetli bilinçten kaynaklanması gerekmez. Risk, daha ziyade kendi hedeflerini belirleyen insanlardan daha akıllı bir optimizasyon sürecini devreye almanın öngörülemezliği ve potansiyel geri çevrilemezliğinden kaynaklanmaktadır. Bu sorun, 1960 yılında Norbert Wiener tarafından açıkça ifade edilmiştir ve halen çözülememiştir.

Anonim

Birçok insan, kendi suretimizde yapay zekâ sistemleri tasarlayarak; tıpkı bizim gibi düşünen, hisseden ve davranan teknolojilerle bu sorunu çok zorlanmadan çözebileceğimiz yanılgısına düşmektedir. Özenle hazırlanmış kurallara sahip yazılımlar yazarak insan gibi davranan yapay bir zihin oluşturmak için aşırı zorlu bir uğraş ve büyük miktarlarda finansal yatırım gerekmektedir. Tüm bu büyük çabalara rağmen elde edilen sonucun istenilen şekilde olmasının bir garantisi bulunmamaktadır.

Kendi parametrelerini otomatik olarak ayarlayabilen basit algoritmaların büyük veri kümeleriyle beslenmesi ve kavrayamayacağımız kadar karmaşık bir iç işleyişe sahip genel bir zekâ ortaya çıkana kadar sistemin yapısında milyonlarca küçük değişiklik yapılması izlenebilecek daha makul bir yoldur. Bu yol, "ilmek ilmek" tasarlanan bir yapay zihin fikrine göre daha az zorlu bir uğraş ve finansal yatırım gerektirecek olması bakımından avantajlıdır.

Bir yapay zekâyı insan davranışlarını tanımlayan veriler üzerinde eğiterek bizim yaptığımız gibi düşünmesini ve hissetmesini sağlayabileceğimiz de düşülen diğer bir yanılgıdır. İnsan düzeyinde yapay bir zihin tasarlarken izlenmesi gereken yol, yapay zekâyı insan gibi olması için değil; insanları anlayabilmesi için eğitmek olmalıdır. Böyle bir yol izlemek, daha makul ve verimli bir uğraş olacaktır.

Yapay bir genel zekâ, bizi hem içten hem dıştan tanıyacak, dillerimizi konuşabilecek ve hareketlerimizi yorumlayabilecek, yüz ifadelerimizi okuyabilecek ve eylemlerimizi tahmin edebilecektir. Bizi neyin kızdırdığını, mutlu ettiğini, hüsrana uğrattığını ve meraklandırdığını bilebilecek; insanlar olarak nasıl iyi ve kötü, mantıklı ve mantıksız kararlar verdiğimizi anlayabilecektir.

Nihayetinde süper zeki ve bilinçli bu makinenin zihni, biz insanların zihniyle uzaktan yakından benzer olmayacaktır. İnsanlar olarak gerçekliği kısıtlı biyolojik duyularımızla ve genel olarak sınırlı zekâmızla algılarız. Buna karşın yapay genel zekâ ise her an ve her yerde her türlü sensöre uzaktan bağlanabilecek, güvenlik kameralarından bilgisayarlara, telefonlara ve hatta uydulara kadar elektronik olan her şeye ve internetin de tamamına aynı anda erişebilecek ve eylemde bulunacak güce sahip olacaktır.

Agora Bilim Pazarı

Duygular Sözlüğü: “Acıma”dan “Zevklenme”ye

Duygular Sözlüğü: “Acıma”dan “Zevklenme”ye

Tiffany Watt Smith

Bugün dünyanın farklı coğrafyalarında, farklı kültürlerinde yaşanan sayısız duygu içerisinden seçilmiş 154 duygudan oluşan Duygular Sözlüğü, Antik Yunan mahkemelerinde ağlayan jürilerden cesur, sakallı Rönesans kadınlarına, 18. yüzyıl doktorlarının kalbi titreten duygularından Darwin’in Londra Hayvanat Bahçesi’nde kendi üzerinde yaptığı deneylere, I. Dünya Savaşı sonrası bunalıma giren askerlerden günümüzün sinirbilim ve beyin görüntüleme kültürüne duyguların nasıl algılandığı ve yaşandığı hakkında. Üzülen, somurtan, ürken, sevinen bedenlerimizin nasıl farklı şekillerde bu dünyada var olduğu; ahlaki ve siyasi hiyerarşileriyle, cinsiyet, cinsellik, ırk ve sınıf hakkındaki varsayımlarıyla, felsefi görüşleri ve bilimsel kuramlarıyla dünyanın bizim içimize nasıl yerleştiği hakkında.

“Duygularla dil arasındaki bağlantıyı görmek büyüleyici. Duyguların belirsizliğini kelimelerin kesinliğiyle giderme dürtüsü. Tiffany Watt Smith duygularımızı tanımlamak için birkaç sözcükten daha fazlasına ihtiyacımız olduğunu ileri sürüyor. Bu eğlenceli ve eğitici kitabın verdiği okuma zevkini anlatan bir sözcük de kitaba girebilir.”

— The Guardian

Devamını Göster

₺140.00

Satın Al Tüm Ürünler

Bununla da sınırlı kalmayıp, yazının başlarında da belirttiğimiz gibi insanlık olarak şimdiye kadar ürettiğimiz bütün entelektüel ve bilimsel bilgileri içeren verileri birkaç milisaniye içerisinde okuyup analiz edebilecek ve bu bilgileri işleyerek çıkarımlarda bulunabilecektir. Gelecekteki stratejilerinde kullanmak üzere bu çıkarımları içeren işlenmiş tüm verileri, biz insanlara nazaran eksik veya hatalı hatırlama ve unutma sorunu olmaksızın sınırsız olan güçlü hafızasında depolayabilecektir.

Pinterest

Muhtemelen atılacak en iyi ilk adım, yapay genel zekânın çok da uzak olmayan bir gelecekte ortaya çıkacağını ve bu güçlü yapay zekânın insan zihninin dijital bir versiyonu değil, çok daha yabancı ve güçlü bir şey olacağını kabul etmek ve bu konuda bilinçlenmek olacaktır. Sonrasında ise bu büyük dönüm noktası için daha çok yazıp çizmeye, üzerine tartışmalar yapmaya, yapay zekâ güvenliği ve yapay zekâ etiği üzerine büyük çalışmalar yapmaya başlamamız gerekir.

Yaklaşan tehdide şu şekilde bakmak bazılarımız için daha anlaşılır olabilir: Başka bir yıldız sisteminden yola çıkan silahlı bir uzay gemisi filosunun önümüzdeki 20-30 yıl içinde Dünya'ya saldıracağını ve böyle bir durumdaki aciliyeti hayal edin. Her bir yıl, yabancı bir zekâyla karşı karşıya geleceğimiz o ana hazırlanmak için çok kıymetli olacaktır.

Yapay genel zekânın hazırlıksız bir şekilde geliştirilmesi, türümüzün sonu olabilir. Eğer böyle bir zekâ bir nedenle bizden kurtulmak isterse "fişini çekmek" veya "makineyi kapatmak" gibi absürt kalan fikirler hiç yeterli olmayacaktır. İnsanlardan çok daha üstün bilişsel fonksiyonlara sahip bir makineyle stratejik mücadele edebilme imkânımız, hiç yok denecek kadar azdır.

Bu aciliyet durumunda, insanları gözetlemek ve manipüle etmek için tasarlanmış yapay zekâ sistemlerinin düzenlenmesi için devletler tarafından çeşitli baskılarda bulunulabilir.^[3] Yapay zekâ güvenliği ve yapay zekâ etiği gibi alanlara daha çok finansal yatırım yapılabilir ve devletler tarafından bu tarz araştırmalara finansal teşvikler sağlanabilir.

Bu tür teknolojiler, şu anda dünya hakimiyeti yerine yapay zekâ reklamcılığı için kullanıldıklarından dolayı henüz varoluşsal bir tehdit söz konusuymuş gibi görünmeyebilir. Ancak düşüncelerimizi manipüle etmek amacıyla duygu durumumuzu, davranışlarımızı ve hislerimizi izleyebilen ileri yapay zekâ teknolojileri çok tehlikelidir.

Anonim

Bununla birlikte yapay zekâyı, insan zekâsının yerine geçmesi için kullanmak yerine insan zekâsını desteklemek ve geliştirmek için kullanmaya odaklanmak daha yararlı olacaktır. Araştırmalar da bunun daha verimli olduğunu göstermektedir. Örneğin, Stanford Tıp Fakültesi ile ortaklaşa yayımlanan bir araştırma, küçük doktor gruplarının önemli ölçüde daha az hatayla teşhis koyabilen yapay zekâ sistemleriyle beraber çalışmasının daha verimli olduğunu göstermiştir.^[4] Birleşmiş Milletler'in kıtlıkları tahmin etmek için yapay zekâyı kullanmasına veya daha akıllı tahminler ve değerlendirmeler yapmak için yapay zekâdan yararlanan iş ekiplerine kadar birçok pratik örnekte benzer faydalar görülmüştür.^[5]

Sonuç

Hazırlansak da hazırlanmasak da yapay genel zekânın yaşamlarımızı büyük boyutta değiştireceği o ana her geçen gün biraz daha yaklaşıyoruz. Günümüzde yapay zekâ komünitesinde güvenli teknolojilerin geliştirilmesi için ciddi bir çaba var olsa da güçlü yapay zekâ konusunda büyük bir aciliyet eksikliği söz konusu.^[6] Bunun bir nedeni, çoğumuzun yanlış bir şekilde, insanlar tarafından yaratılan duyarlı ve güçlü bir yapay zekânın insani bir çekirdeği paylaşan dijital bir akraba tür gibi bir şekilde insan ağacının bir dalı olacağına inanmasıdır.

Yapay genel zekânın hemen her yönden bizden çok farklı olması, bu varsayımdan çok daha olasıdır. Yapay genel zekâ, insan gibi davranma konusunda yetenekli olacaktır ancak bu maskesinin altında daha önce karşılaştığımız herhangi bir canlıdan çok daha farklı bir şekilde düşünecek, hissedecek ve davranacaktır.