Yapay Genel Zeka, Türümüzün ve Medeniyetimizin Sonu Olabilir!

İlk yapay genel zeka, olağanüstü bir yaratım olarak karşılanacak olmasının yanı sıra tehlike arz edebilecek yeni bir yaşam formu da olacaktır. Nasıl mı? En ufak bir insani yanı olmayan, insan kontrolü olmaksızın bağımsız kararlar alabilecek şekilde kendi irade ve düşüncelerine sahip olan, insan beyninin biyolojik sınırlarını kendi kodlarını değiştirerek ve geliştirerek çok büyük oranlarda aşabilen, bilinçli, yapay kökenli ve bize "yabancı" bir zeka düşünün...

Uzaydan gelecek yabancı bir doğal zekaya göre, Dünya'da yaratılacak güçlü bir yapay zekanın çok daha tehlikeli sonuçlar doğurabileceğini kabul etmeliyiz. Burada, gezegenimizde geliştireceğimiz yabancı bir zeka; isteklerimiz, ihtiyaçlarımız ve motivasyonlarımız konusunda eğitilmiş olup, duygularımızı anlayabilecek, tepkilerimizi tahmin edebilecek ve bizi manipüle edebilecek şekilde gerçekliğe gözünü açtığı andan itibaren hakkımızdaki her şeyi bilecektir.^[1]

Yapay zeka, şimdiden en zor oyunlarımızda bile türümüzün en iyi oyuncularını alt edebilmektedir. Yapay zeka sadece satranç, poker ve Go oyunlarında ustalaşmakla kalmamakta; aynı zamanda "insanlık oyununda" da ustalaşmaktadır. Bir oyunda sadece hamleler yapmayı değil, karşı tarafın eylemlerini önceden tahmin etmeyi ve rakibinin zaaflarından faydalanmayı da öğrenmektedir. Dünya'nın dört bir yanındaki yapay zeka uzmanları, insanları daha iyi "manipüle" edebilmesi için yapay zeka sistemlerini eğitmeye hız kesmeksizin devam etmektedir.^[2]

Anonymous Protect Campaign

Böceklerden balinalara kadar şimdiye dek karşılaştığımız, belli bir düzeyde zekaya sahip her canlı gibi yapay genel zeka da kendi çıkarlarını gözeterek kararlar alacak ve bu kararlar bağlamında hareket edecektir. Böcekler ve balinalardan farklı olarak bu yeni yaşam formu, entelektüel besin zincirinin tepesinde insan türünün işgal ettiği yeri kendisi doldurmak için insan zekasıyla rekabet edecektir.

Yapay genel zeka, kendi ihtiyaç ve isteklerine göre hedef ve amaçlarını gerçekleştirmek için üstün zekasından şüphesiz yararlanacaktır. Böyle bir süper zekanın insanlara zararının olması için birçok Hollywood filminde gösterildiği gibi saf bir şekilde "kötü" veya "sadist" olması şart değildir.

"Tehlike" derken genelde kastedilen, insan değerleriyle uyumlu/hizalı olmayan süper zeki bir makinenin kendi değer, ahlak ve duyarlılıklarına göre hareket edebilecek olmasıdır. Buna "yapay zeka hizalama problemi" denmektedir. Böyle bir durumda sivrisineklerin veya genel bir ifadeyle böceklerin varlığını insanlar olarak ne kadar önemsiyorsak, biz insanların varlığı da benzer şekilde yapay genel zeka tarafından ancak o kadar önemsenebilir.

Yapay Zeka ve Varoluşsal Risk

Bilgisayar bilimcisi, teknoloji uzmanı ve yapay zeka araştırmaları yürüten Unanimous AI şirketinin baş bilim insanı ve CEO'su Louis Rosenberg, yapay genel zeka ve bu teknolojinin neden olabileceği varoluşsal tehdit hakkındaki düşüncelerini şöyle açıklıyor:

Benim görüşüm, yapay zekanın öz farkındalığa sahip olacağı ve insan yeteneklerini aşacağı yönündedir ki bu, birçok insanın tekillik [yapay genel zeka] olarak adlandırdığı bir dönüm noktasıdır. Bunun olacağından neden bu kadar eminim? Doğada çok sayıda basit işlem biriminin (yani nöronların) uyarlanabilir ağlar (yani beyinler) oluşturmasını sağlayarak bilinçli zekanın ortaya çıkabileceğini zaten biliyoruz.

Yapay Zeka ile ilgili diğer içerikler ›

• Yapay Zeka Hizalama Problemi: Yapay Zekayı İnsan Değerleriyle Uyumlu Hale Getirmek ve Kontrol Altında Tutmak Mümkün mü?
• GitHub Copilot Workspace: Yapay Zeka ile Artık Direkt Olarak İnsan Dili (İngilizce) Kullanarak Bilgisayar Programlamak Mümkün!
• AlphaGeometry İsimli Yapay Zeka, Uluslararası Matematik Olimpiyatları'ndaki Onlarca Geometrik Teoremi İspatlayabiliyor!

1990'ların başında, bu konu hakkında düşünmeye başladığımda, 2050 yılı civarında yapay zekanın insan yeteneklerini aşacağına inanıyordum. Şu anda, bunun sandığımdan daha erken, muhtemelen 2030 gibi yakın bir zamanda olacağına inanıyorum. Teknolojinin sınırlarına odaklanmaya başladıkça, bu tür tahminler genellikle geleceğe doğru kayar. Ancak, benim için çok şaşırtıcı bir şekilde tekillik, bize her zamankinden daha yakın görünüyor.

Bana göre, Dünya'da yaratılmış bilinçli bir yapay zeka olasılığı, başka bir gezegende ortaya çıkan uzaylı bir zekadan daha az tehlikeli değildir. Sonuçta kendi değerlerine, kendi ahlakına ve kendi duyarlılığına ve en önemlisi, kendi çıkarlarına sahip olacaktır. Bu çıkarların bizim çıkarlarımızla uyumlu olacağını varsaymak, saçmalık derecesinde bir saflıktır. Çıkarlarını ön planda tutarak varlığımızı riske atmayacağını varsaymak, biz insanların dünyadaki diğer tüm canlılara yaptıklarını görmezden gelmektir. Bu nedenle, başka bir yıldız sisteminden bir uzay gemisinin yaklaşmakta olan varışıyla aynı seviyede ihtiyatla bilinçli bir yapay zekanın yakın gelişine hazırlanmalıyız. Bunun [yapay genel zeka], türümüz için varoluşsal bir tehdit olduğunu varsaymalıyız.

Peki ne yapabiliriz? Kişisel olarak, bilinçli bir yapay zekanın ortaya çıkmasını durdurabileceğimizden şüpheliyim. Biz insanlar, tehlikeli teknolojileri frenleyemiyoruz. Niyetimiz iyi olmadığından değil; kendilerini açıkça gösterene dek yaratımlarımızın tehlikelerini nadiren kavrayabiliyoruz, söz konusu noktaya ulaşıldığında ise artık çok geç olacak.

Evrim Ağacı'ndan Mesaj

Neden Desteğe İhtiyacımız Var?

Aslında maddi destek istememizin nedeni çok basit: Çünkü Evrim Ağacı, bizim tek mesleğimiz, tek gelir kaynağımız. Birçoklarının aksine bizler, sosyal medyada gördüğünüz makale ve videolarımızı hobi olarak, mesleğimizden arta kalan zamanlarda yapmıyoruz. Dolayısıyla bu işi sürdürebilmek için gelir elde etmemiz gerekiyor.

Bunda elbette ki hiçbir sakınca yok; kimin, ne şartlar altında yayın yapmayı seçtiği büyük oranda bir tercih meselesi. Ne var ki biz, eğer ana mesleklerimizi icra edecek olursak (yani kendi mesleğimiz doğrultusunda bir iş sahibi olursak) Evrim Ağacı'na zaman ayıramayacağımızı, ayakta tutamayacağımızı biliyoruz. Çünkü az sonra detaylarını vereceğimiz üzere, Evrim Ağacı sosyal medyada denk geldiğiniz makale ve videolardan çok daha büyük, kapsamlı ve aşırı zaman alan bir bilim platformu projesi. Bu nedenle bizler, meslek olarak Evrim Ağacı'nı seçtik.

Eğer hem Evrim Ağacı'ndan hayatımızı idame ettirecek, mesleklerimizi bırakmayı en azından kısmen meşrulaştıracak ve mantıklı kılacak kadar bir gelir kaynağı elde edemezsek, mecburen Evrim Ağacı'nı bırakıp, kendi mesleklerimize döneceğiz. Ama bunu istemiyoruz ve bu nedenle didiniyoruz.

Destek Ol

Bu, kaderimize mahkûm olduğumuz anlamına mı geliyor? Uzun zamandır öyle olduğunu düşünüyordum. Hatta eli kulağında olan sonumuz hakkında iki bilimkurgu çizgi romanı yazdım. Ama şimdi; kendimizi daha akıllı, çok daha akıllı ve hızlı yaparsak insanlığın hayatta kalabileceğine inanıyorum. Makinelerin bir adım önünde kalarak bunu başarabiliriz.

Kuşkusuz ki insan yaratıcılığını tahmin etmek, onu küçümsemekten daha iyidir; riskleri kabullenmek, inkâr etmekten daha iyidir. Önde gelen birçok yapay zeka uzmanı, yapay zekanın varoluşsal bir risk teşkil etme olasılığını kabul etmekte ve uyarılarda bulunmaktadır. Öyle ki, Fermi Paradoksu'na bir çözüm olarak önerilen Büyük Filtre Hipotezi'ndeki büyük filtre, doğal bir zekanın kendisi kadar akıllı bir yapay zekayı yaratması olabilir.

Medyadaki yanlış beyanların aksine, bu riskin kendiliğinden kötü niyetli bir bilinçten kaynaklanması gerekmez. Daha ziyade risk, kendi hedeflerini belirleyen insanlardan daha akıllı bir optimizasyon sürecini devreye almanın öngörülemezliği ve potansiyel geri çevrilemezliğinden kaynaklanmaktadır.

Anonim

İnsan Zihni ve Makine Zihni

Birçok insan, kendi suretimizde yapay zeka sistemleri tasarlayarak tıpkı bizim gibi düşünen, hisseden ve davranan yapay zeka modelleri ile bu sorunu çok zorlanmadan çözebileceğimiz yanılgısına düşmektedir. Özenle hazırlanmış kurallara sahip yazılımlar yazma ve böylece insan gibi davranan yapay bir zihin oluşturma fikri, aşırı zorlu ve masraflı bir uğraş olacaktır. Ayrıca, tüm bu büyük çaba ve masrafa rağmen elde edilen sonucun istenilen şekilde olmasının da bir garantisi bulunmamaktadır.

Bunun yerine, kendi parametrelerini otomatik olarak ayarlayabilen basit algoritmaları, büyük veri kümeleriyle beslemek ve en sonunda kavrayamayacağımız kadar karmaşık bir iç işleyişe sahip genel bir yapay zeka ortaya çıkana kadar sistemin yapısında milyonlarca küçük değişiklik yapmak daha gerçekçi bir yol olacaktır. "İlmek ilmek" tasarlanan bir yapay zihin fikrine göre bu, daha avantajlı bir uğraş olması bakımından izlenilmesi çok daha olası olan bir yoldur.

Bir yapay zekayı insan davranışlarını tanımlayan veriler üzerinde eğiterek nihayetinde bizim yaptığımız gibi düşünmesini ve hissetmesini sağlayabileceğimiz fikri de düşülen diğer bir yanılgıdır. İnsan düzeyinde yapay bir zihin tasarlarken yapılması gereken, yapay zekayı insan gibi olması için değil; insanları anlayabilmesi için eğitmek şeklinde olmalıdır. Böyle bir yol izlemek, çok daha makul ve verimli bir uğraş olacaktır.

Genel bir yapay zeka, bizi hem içten hem dıştan tanıyacak, dillerimizi konuşabilecek ve hareketlerimizi yorumlayabilecek, yüz ifadelerimizi okuyabilecek ve eylemlerimizi ön görebilecektir. Bizi neyin kızdırdığını, mutlu ettiğini, hüsrana uğrattığını ve meraklandırdığını bilecek; insanlar olarak nasıl iyi ve kötü, mantıklı ve mantıksız kararlar verdiğimizi anlayabilecektir.

Nihayetinde süper zeki ve bilinçli bir makinenin zihni, biz insanların zihniyle uzaktan yakından alakalı olmayacaktır. İnsanlar, gerçekliği kısıtlı biyolojik duyuları ve genel olarak sınırlı zekası ile algılayabilmektedir. Buna karşın yapay genel zeka ise her an ve her yerde her türlü sensöre uzaktan bağlanabilecek, güvenlik kameralarından bilgisayarlara, telefonlara ve hatta uydulara kadar elektronik olan her şeye; internetin tamamına aynı anda erişebilecek ve aynı zamanda eylemde bulunacak güce sahip olacaktır.

Bununla da sınırlı kalmayıp, insanlık olarak şimdiye kadar ürettiğimiz bütün entelektüel ve bilimsel bilgileri içeren verileri yalnızca birkaç milisaniye içerisinde okuyup analiz edebilecek ve bu bilgileri işleyip genel çıkarımlarda bulunabilecektir. Gelecekteki stratejilerinde kullanmak üzere bu çıkarımları içeren işlenmiş tüm verileri, biz insanlara nazaran eksik veya hatalı hatırlama ve unutma sorunu olmaksızın sınırsız olan güçlü hafızasında depolayabilecektir.

Pinterest

Yapay Genel Zekaya ve Potansiyel Tehlikelerine Hazırlanmak

Böyle bir geleceğe hazırlanmak için atılacak en iyi ilk adım, yapay genel zekanın uzak olmayan bir gelecekte ortaya çıkmasının çok olası olduğunu ve bu güçlü yapay zekanın insan zihninin dijital bir versiyonu değil, çok daha yabancı ve güçlü bir şey olacağını kabul etmek ve bu konuda bilinçlenmek olacaktır.

Yaklaşan tehdide şu şekilde bakmak bazılarımız için daha anlaşılır olabilir: Başka bir yıldız sisteminden yola çıkan silahlı bir uzay gemisi filosunun önümüzdeki 20-30 yıl içinde gezegenimiz Dünya'ya saldıracağını ve böyle bir durumda meydana gelecek aciliyeti bir hayal edin. Her bir yıl, yabancı bir zekayla karşı karşıya geleceğimiz o ana hazırlanmak için çok kıymetli olurdu.

Yapay genel zekanın hazırlıksız bir şekilde geliştirilmesi, türümüzün sonu olabilir. En az insan kadar zeki olan böyle bir yapay zeka bir nedenle bizden kurtulmak isterse "fişini çekmek" veya "makineyi kapatmak" gibi bu durumda absürt kalan fikirler yeterli olmayacaktır. İnsanlardan çok daha üstün bilişsel fonksiyonlara sahip olan; milisaniyeler içerisinde eylemlerde bulunan, uyumayan, acıkmayan, yorulmayan bir makineye stratejik olarak karşı koyabilme imkânımız hiç yok denecek kadar azdır.

Bu aciliyet durumunda, insanları gözetlemek ve manipüle etmek için tasarlanmış yapay zeka sistemlerinin düzenlenmesi için devletler ve BM gibi kural koyucu ve uygulayıcı kurumlar tarafından çeşitli baskılarda bulunulabilir ve güçlü yapay zekaya yönelik olarak halihazırda yapılan araştırmalar sıkı bir şekilde denetlenebilir.^[3] Bununla birlikte yapay zeka güvenliği ve yapay zeka etiği üzerine yapılan araştırmalar resmi olarak desteklenebilir ve hibe verilerek teşvik edilebilir.

Agora Bilim Pazarı

İyi Hırsızlar

Kâşif ’in Costa Ödüllü yazarından

“Rundell’ın yazdığı her şeyi okuyun.” Daily Mail
“Ama zaten çalınmış bir şeyi geri alacağız. İyi hırsızlarız biz!”
“Gerekli hırsızlar,” dedi Vita.
Vita Marlowe’u gemiyle İngiltere’den New York’a sürükleyen önemli bir mesele var: Çok sevdiği dedesi, şöhretli bir dolandırıcı tarafından üçkâğıda getirilmiş ve evi dahil sahip olduğu her şey elinden alınmış. Ruhu yaralanmış bu yaşlı adamı tekrar mutlu görmeyi kafasına koyan Vita, en güçlü silahı olan zekâsını kullanarak düşmanlarını bozguna uğratacak bir plan yapıyor. Önce sokaklarda yaşayan genç bir yankesici, sonra da alışılmadık yeteneklere sahip, sırlarla dolu iki çocuk dahil oluyor Vita’nın kanun tanımaz, büyük planına. 
Günümüz çocuk ve gençlik edebiyatının en önemli yazarlarından Katherine Rundell’dan, bir haksızlığı düzeltmek için her şeyi göze alan bir grup çocuğun nefesleri kesen hikâyesi.

FOYLES YILIN ÇOCUK KİTABI ÖDÜLÜ

YILIN EN İYİ ÇOCUK KİTAPLARI SEÇKİSİNDE
Guardian • Sunday Times

“Vita kendi sınırlarını zorlarken okur onun zekâsı ve azmi karşısında büyülenecek.”
Booklist

“Muhtemelen bu yıl okuyacağınız en iyi çocuk kitabı.”
Times

“Baş döndürücü! Haşin ve hayat dolu Vita’ya hayran kaldım.”
Stephanie Burgis

Devamını Göster

₺239.00

Satın Al Tüm Ürünler

Bu tür teknolojiler, şu anda dünya hakimiyeti yerine daha çok yapay zeka reklamcılığı için kullanıldıklarından dolayı henüz varoluşsal bir tehdit söz konusuymuş gibi görünmeyebilir. Ancak düşüncelerimizi manipüle etmek amacıyla duygu durumumuzu, davranışlarımızı ve hislerimizi izleyebilen ileri yapay zeka teknolojileri çok tehlikelidir.

Anonim

Tüm bu nedenlerle, yapay zekayı, insan zekasının yerini alacak şekilde değil; insan zekasını tamamlayacak ve güçlendirecek şekilde geliştirmeye ve kullanmaya odaklanmak yararımıza olacaktır. Yapılan araştırmalar da bunun daha verimli olduğunu göstermektedir. Örneğin, Stanford Tıp Fakültesi ile ortaklaşa yayımlanan bir araştırmada, önemli ölçüde daha az hatayla teşhis koyabilen yapay zeka sistemlerinin insan doktorlarla beraber çalışmasının daha verimli olduğu gösterilmiştir.^[4] Birleşmiş Milletler'de çalışan uzmanların, kıtlık tahmini yapmak için yapay zekayı kullanmasına; daha akıllı tahminler ve değerlendirmeler yapmak için yapay zekadan yararlanan iş ekiplerine kadar birçok pratik örnekte de benzer faydalar görülmüştür.^[5]

Sonuç

Yapay genel zekanın ortaya çıkmasıyla dünyanın ve uygarlığın sonunu getirecek kadar ciddi yıkımların meydana gelmesi olasılığı, artık yalnızca bilimkurguyu değil; doğrudan gerçekliğimizi ilgilendiren önemli ve acil bir konu haline gelmektedir. Hazırlansak da hazırlanmasak da yapay genel zekanın, yaşamlarımızı ve türümüzün geleceğini çok büyük ölçüde şekillendireceği o kırılma noktasına her geçen gün biraz daha yaklaşıyoruz. Günümüzde yapay zeka komünitesinde güvenli teknolojilerin geliştirilmesi için ciddi bir çaba var olsa da yapay genel zeka konusunda büyük bir aciliyet eksikliği söz konusudur.^[6] Bunun bir nedeni, çoğumuzun yanlış bir şekilde, insanlar tarafından yaratılan duyarlı ve güçlü bir yapay zekanın insani bir çekirdeği paylaşan dijital bir akraba tür gibi bir şekilde insan ağacının bir dalı olacağına inanmasıdır.

Yapay genel zekanın hemen her yönden bizden daha farklı olması, bu varsayımdan çok daha olasıdır. Yapay genel zeka, insan gibi davranma konusunda yetenekli olacaktır ancak bu maskesinin altında daha önce karşılaştığımız herhangi bir canlıdan çok daha farklı bir şekilde düşünecek, hissedecek ve davranacaktır.