Yapay Genel Zekâ, Türümüzün ve Medeniyetimizin Sonu Olabilir!

İlk yapay genel zekâ, olağanüstü bir yaratım olarak karşılanacak olmasının yanı sıra tehlike arz edebilecek yeni bir yaşam formu da olacaktır. Nasıl mı? En ufak bir insani yanı olmayan, insan kontrolü olmaksızın bağımsız kararlar alabilecek şekilde kendi irade ve düşüncelerine sahip olan, insan beyninin biyolojik sınırlarını kendi kodlarını değiştirerek ve geliştirerek çok büyük oranlarda aşabilen, bilinçli, yapay kökenli ve bize "yabancı" bir zekâ düşünün...

Uzaydan gelecek yabancı bir doğal zekâya göre, Dünya'da yaratılacak güçlü bir yapay zekânın çok daha tehlikeli sonuçlar doğurabileceğini kabul etmeliyiz. Burada, gezegenimizde geliştireceğimiz yabancı bir zekâ; isteklerimiz, ihtiyaçlarımız ve motivasyonlarımız konusunda eğitilmiş olup, duygularımızı anlayabilecek, tepkilerimizi tahmin edebilecek ve bizi manipüle edebilecek şekilde gerçekliğe gözünü açtığı andan itibaren hakkımızdaki her şeyi bilecektir.^[1]

Yapay zekâ, şimdiden en zor oyunlarımızda bile türümüzün en iyi oyuncularını alt edebilmektedir. Yapay zekâ sadece satranç, poker ve Go oyunlarında ustalaşmakla kalmamakta; aynı zamanda "insanlık oyununda" da ustalaşmaktadır. Bir oyunda sadece hamleler yapmayı değil, karşı tarafın eylemlerini önceden tahmin etmeyi ve rakibinin zaaflarından faydalanmayı da öğrenmektedir. Dünya'nın dört bir yanındaki yapay zekâ uzmanları, insanları daha iyi "manipüle" edebilmesi için yapay zekâ sistemlerini eğitmeye hız kesmeksizin devam etmektedir.^[2]

Anonymous Protect Campaign

Böceklerden balinalara kadar şimdiye dek karşılaştığımız, belli bir düzeyde zekâya sahip her canlı gibi yapay genel zekâ da kendi çıkarlarını gözeterek kararlar alacak ve bu kararlar bağlamında hareket edecektir. Böcekler ve balinalardan farklı olarak bu yeni yaşam formu, entelektüel besin zincirinin tepesinde insan türünün işgal ettiği yeri kendisi doldurmak için insan zekâsıyla rekabet edecektir.

Yapay genel zekâ, kendi ihtiyaç ve isteklerine göre hedef ve amaçlarını gerçekleştirmek için üstün zekâsından şüphesiz yararlanacaktır. Böyle bir süper zekânın insanlara zararının olması için birçok Hollywood filminde gösterildiği gibi saf bir şekilde "kötü" veya "sadist" olması şart değildir.

"Tehlike" derken genelde kastedilen, insan değerleriyle uyumlu/hizalı olmayan süper zeki bir makinenin kendi değer, ahlak ve duyarlılıklarına göre hareket edebilecek olmasıdır. Buna "yapay zekâ hizalama problemi" denmektedir. Böyle bir durumda sivrisineklerin veya genel bir ifadeyle böceklerin varlığını insanlar olarak ne kadar önemsiyorsak, biz insanların varlığı da benzer şekilde yapay genel zekâ tarafından ancak o kadar önemsenebilir.

Yapay Zekâ ve Varoluşsal Risk

Bilgisayar bilimcisi, teknoloji uzmanı ve yapay zekâ araştırmaları yürüten Unanimous AI şirketinin baş bilim insanı ve CEO'su Louis Rosenberg, yapay genel zekâ ve bu teknolojinin neden olabileceği varoluşsal tehdit hakkındaki düşüncelerini şöyle açıklıyor:

Benim görüşüm, yapay zekânın öz farkındalığa sahip olacağı ve insan yeteneklerini aşacağı yönündedir ki bu, birçok insanın tekillik [yapay genel zekâ] olarak adlandırdığı bir dönüm noktasıdır. Bunun olacağından neden bu kadar eminim? Doğada çok sayıda basit işlem biriminin (yani nöronların) uyarlanabilir ağlar (yani beyinler) oluşturmasını sağlayarak bilinçli zekânın ortaya çıkabileceğini zaten biliyoruz.

Yapay Zeka ile ilgili diğer içerikler ›

• Beyin Sinyalleri, Yapay Zeka Kullanılarak Konuşmaya Dönüştürüldü!
• Google DeepMind, Biyolojik Tahminlerin Kapsamını Genişleten AlphaFold 3'ü Yayınladı!
• Biyolojik Dizilimler ve Derin Öğrenme: Biyolojik Veri Setleri, Yapay Zeka Araştırmalarında Nasıl Kullanılır?

1990'ların başında, bu konu hakkında düşünmeye başladığımda, 2050 yılı civarında yapay zekânın insan yeteneklerini aşacağına inanıyordum. Şu anda, bunun sandığımdan daha erken, muhtemelen 2030 gibi yakın bir zamanda olacağına inanıyorum. Teknolojinin sınırlarına odaklanmaya başladıkça, bu tür tahminler genellikle geleceğe doğru kayar. Ancak, benim için çok şaşırtıcı bir şekilde tekillik, bize her zamankinden daha yakın görünüyor.

Bana göre, Dünya'da yaratılmış bilinçli bir yapay zekâ olasılığı, başka bir gezegende ortaya çıkan uzaylı bir zekâdan daha az tehlikeli değildir. Sonuçta kendi değerlerine, kendi ahlakına ve kendi duyarlılığına ve en önemlisi, kendi çıkarlarına sahip olacaktır. Bu çıkarların bizim çıkarlarımızla uyumlu olacağını varsaymak, saçmalık derecesinde bir saflıktır. Çıkarlarını ön planda tutarak varlığımızı riske atmayacağını varsaymak, biz insanların dünyadaki diğer tüm canlılara yaptıklarını görmezden gelmektir. Bu nedenle, başka bir yıldız sisteminden bir uzay gemisinin yaklaşmakta olan varışıyla aynı seviyede ihtiyatla bilinçli bir yapay zekânın yakın gelişine hazırlanmalıyız. Bunun [yapay genel zekâ], türümüz için varoluşsal bir tehdit olduğunu varsaymalıyız.

Peki ne yapabiliriz? Kişisel olarak, bilinçli bir yapay zekânın ortaya çıkmasını durdurabileceğimizden şüpheliyim. Biz insanlar, tehlikeli teknolojileri frenleyemiyoruz. Niyetimiz iyi olmadığından değil; kendilerini açıkça gösterene dek yaratımlarımızın tehlikelerini nadiren kavrayabiliyoruz, söz konusu noktaya ulaşıldığında ise artık çok geç olacak.

Evrim Ağacı'ndan Mesaj

Neden Desteğe İhtiyacımız Var?

Aslında maddi destek istememizin nedeni çok basit: Çünkü Evrim Ağacı, bizim tek mesleğimiz, tek gelir kaynağımız. Birçoklarının aksine bizler, sosyal medyada gördüğünüz makale ve videolarımızı hobi olarak, mesleğimizden arta kalan zamanlarda yapmıyoruz. Dolayısıyla bu işi sürdürebilmek için gelir elde etmemiz gerekiyor.

Bunda elbette ki hiçbir sakınca yok; kimin, ne şartlar altında yayın yapmayı seçtiği büyük oranda bir tercih meselesi. Ne var ki biz, eğer ana mesleklerimizi icra edecek olursak (yani kendi mesleğimiz doğrultusunda bir iş sahibi olursak) Evrim Ağacı'na zaman ayıramayacağımızı, ayakta tutamayacağımızı biliyoruz. Çünkü az sonra detaylarını vereceğimiz üzere, Evrim Ağacı sosyal medyada denk geldiğiniz makale ve videolardan çok daha büyük, kapsamlı ve aşırı zaman alan bir bilim platformu projesi. Bu nedenle bizler, meslek olarak Evrim Ağacı'nı seçtik.

Eğer hem Evrim Ağacı'ndan hayatımızı idame ettirecek, mesleklerimizi bırakmayı en azından kısmen meşrulaştıracak ve mantıklı kılacak kadar bir gelir kaynağı elde edemezsek, mecburen Evrim Ağacı'nı bırakıp, kendi mesleklerimize döneceğiz. Ama bunu istemiyoruz ve bu nedenle didiniyoruz.

Destek Ol

Bu, kaderimize mahkûm olduğumuz anlamına mı geliyor? Uzun zamandır öyle olduğunu düşünüyordum. Hatta eli kulağında olan sonumuz hakkında iki bilimkurgu çizgi romanı yazdım. Ama şimdi; kendimizi daha akıllı, çok daha akıllı ve hızlı yaparsak insanlığın hayatta kalabileceğine inanıyorum. Makinelerin bir adım önünde kalarak bunu başarabiliriz.

Kuşkusuz ki insan yaratıcılığını tahmin etmek, onu küçümsemekten daha iyidir; riskleri kabullenmek, inkâr etmekten daha iyidir. Önde gelen birçok yapay zekâ uzmanı, yapay zekânın varoluşsal bir risk teşkil etme olasılığını kabul etmekte ve uyarılarda bulunmaktadır. Öyle ki, Fermi Paradoksu'na bir çözüm olarak önerilen Büyük Filtre Hipotezi'ndeki büyük filtre, doğal bir zekânın kendisi kadar akıllı bir yapay zekâyı yaratması olabilir.

Medyadaki yanlış beyanların aksine, bu riskin kendiliğinden kötü niyetli bir bilinçten kaynaklanması gerekmez. Daha ziyade risk, kendi hedeflerini belirleyen insanlardan daha akıllı bir optimizasyon sürecini devreye almanın öngörülemezliği ve potansiyel geri çevrilemezliğinden kaynaklanmaktadır.

Anonim

İnsan Zihni ve Makine Zihni

Birçok insan, kendi suretimizde yapay zekâ sistemleri tasarlayarak tıpkı bizim gibi düşünen, hisseden ve davranan yapay zekâ modelleri ile bu sorunu çok zorlanmadan çözebileceğimiz yanılgısına düşmektedir. Özenle hazırlanmış kurallara sahip yazılımlar yazma ve böylece insan gibi davranan yapay bir zihin oluşturma fikri, aşırı zorlu ve masraflı bir uğraş olacaktır. Ayrıca, tüm bu büyük çaba ve masrafa rağmen elde edilen sonucun istenilen şekilde olmasının da bir garantisi bulunmamaktadır.

Bunun yerine, kendi parametrelerini otomatik olarak ayarlayabilen basit algoritmaları, büyük veri kümeleriyle beslemek ve en sonunda kavrayamayacağımız kadar karmaşık bir iç işleyişe sahip genel bir yapay zekâ ortaya çıkana kadar sistemin yapısında milyonlarca küçük değişiklik yapmak daha gerçekçi bir yol olacaktır. "İlmek ilmek" tasarlanan bir yapay zihin fikrine göre bu, daha avantajlı bir uğraş olması bakımından izlenilmesi çok daha olası olan bir yoldur.

Bir yapay zekâyı insan davranışlarını tanımlayan veriler üzerinde eğiterek nihayetinde bizim yaptığımız gibi düşünmesini ve hissetmesini sağlayabileceğimiz fikri de düşülen diğer bir yanılgıdır. İnsan düzeyinde yapay bir zihin tasarlarken yapılması gereken, yapay zekâyı insan gibi olması için değil; insanları anlayabilmesi için eğitmek şeklinde olmalıdır. Böyle bir yol izlemek, çok daha makul ve verimli bir uğraş olacaktır.

Genel bir yapay zekâ, bizi hem içten hem dıştan tanıyacak, dillerimizi konuşabilecek ve hareketlerimizi yorumlayabilecek, yüz ifadelerimizi okuyabilecek ve eylemlerimizi ön görebilecektir. Bizi neyin kızdırdığını, mutlu ettiğini, hüsrana uğrattığını ve meraklandırdığını bilecek; insanlar olarak nasıl iyi ve kötü, mantıklı ve mantıksız kararlar verdiğimizi anlayabilecektir.

Nihayetinde süper zeki ve bilinçli bir makinenin zihni, biz insanların zihniyle uzaktan yakından alakalı olmayacaktır. İnsanlar, gerçekliği kısıtlı biyolojik duyuları ve genel olarak sınırlı zekâsı ile algılayabilmektedir. Buna karşın yapay genel zekâ ise her an ve her yerde her türlü sensöre uzaktan bağlanabilecek, güvenlik kameralarından bilgisayarlara, telefonlara ve hatta uydulara kadar elektronik olan her şeye; internetin tamamına aynı anda erişebilecek ve aynı zamanda eylemde bulunacak güce sahip olacaktır.

Bununla da sınırlı kalmayıp, insanlık olarak şimdiye kadar ürettiğimiz bütün entelektüel ve bilimsel bilgileri içeren verileri yalnızca birkaç milisaniye içerisinde okuyup analiz edebilecek ve bu bilgileri işleyip genel çıkarımlarda bulunabilecektir. Gelecekteki stratejilerinde kullanmak üzere bu çıkarımları içeren işlenmiş tüm verileri, biz insanlara nazaran eksik veya hatalı hatırlama ve unutma sorunu olmaksızın sınırsız olan güçlü hafızasında depolayabilecektir.

Pinterest

Yapay Genel Zekaya ve Potansiyel Tehlikelerine Hazırlanmak

Böyle bir geleceğe hazırlanmak için atılacak en iyi ilk adım, yapay genel zekânın uzak olmayan bir gelecekte ortaya çıkmasının çok olası olduğunu ve bu güçlü yapay zekânın insan zihninin dijital bir versiyonu değil, çok daha yabancı ve güçlü bir şey olacağını kabul etmek ve bu konuda bilinçlenmek olacaktır.

Yaklaşan tehdide şu şekilde bakmak bazılarımız için daha anlaşılır olabilir: Başka bir yıldız sisteminden yola çıkan silahlı bir uzay gemisi filosunun önümüzdeki 20-30 yıl içinde gezegenimiz Dünya'ya saldıracağını ve böyle bir durumda meydana gelecek aciliyeti bir hayal edin. Her bir yıl, yabancı bir zekâyla karşı karşıya geleceğimiz o ana hazırlanmak için çok kıymetli olurdu.

Yapay genel zekânın hazırlıksız bir şekilde geliştirilmesi, türümüzün sonu olabilir. En az insan kadar zeki olan böyle bir yapay zekâ bir nedenle bizden kurtulmak isterse "fişini çekmek" veya "makineyi kapatmak" gibi bu durumda absürt kalan fikirler yeterli olmayacaktır. İnsanlardan çok daha üstün bilişsel fonksiyonlara sahip olan; milisaniyeler içerisinde eylemlerde bulunan, uyumayan, acıkmayan, yorulmayan bir makineye stratejik olarak karşı koyabilme imkânımız hiç yok denecek kadar azdır.

Bu aciliyet durumunda, insanları gözetlemek ve manipüle etmek için tasarlanmış yapay zekâ sistemlerinin düzenlenmesi için devletler ve BM gibi kural koyucu ve uygulayıcı kurumlar tarafından çeşitli baskılarda bulunulabilir ve güçlü yapay zekaya yönelik olarak halihazırda yapılan araştırmalar sıkı bir şekilde denetlenebilir.^[3] Bununla birlikte yapay zekâ güvenliği ve yapay zekâ etiği üzerine yapılan araştırmalar resmi olarak desteklenebilir ve hibe verilerek teşvik edilebilir.

Agora Bilim Pazarı

Hario V60 Buono Drip Kettle 1.2 Lt

Hario V60 Drip Kettle 1.2 lt
Sıcak suyun akışını kontrol etmeye imkan sağlayan Hario V60 Buono Kettle, Hario V60 Dripper’lar ile kahve demlemek için özel tasarlanmış bir kettle. Tüm dünyada baristaların birinci tercihi olan Hario V60 Buono Kettle kahve meraklılarının da favorisi.

Devamını Göster

₺2,600.00

Satın Al Tüm Ürünler

Bu tür teknolojiler, şu anda dünya hakimiyeti yerine daha çok yapay zekâ reklamcılığı için kullanıldıklarından dolayı henüz varoluşsal bir tehdit söz konusuymuş gibi görünmeyebilir. Ancak düşüncelerimizi manipüle etmek amacıyla duygu durumumuzu, davranışlarımızı ve hislerimizi izleyebilen ileri yapay zekâ teknolojileri çok tehlikelidir.

Anonim

Tüm bu nedenlerle, yapay zekâyı, insan zekâsının yerini alacak şekilde değil; insan zekasını tamamlayacak ve güçlendirecek şekilde geliştirmeye ve kullanmaya odaklanmak yararımıza olacaktır. Yapılan araştırmalar da bunun daha verimli olduğunu göstermektedir. Örneğin, Stanford Tıp Fakültesi ile ortaklaşa yayımlanan bir araştırmada, önemli ölçüde daha az hatayla teşhis koyabilen yapay zekâ sistemlerinin insan doktorlarla beraber çalışmasının daha verimli olduğu gösterilmiştir.^[4] Birleşmiş Milletler'de çalışan uzmanların, kıtlık tahmini yapmak için yapay zekâyı kullanmasına; daha akıllı tahminler ve değerlendirmeler yapmak için yapay zekâdan yararlanan iş ekiplerine kadar birçok pratik örnekte de benzer faydalar görülmüştür.^[5]

Sonuç

Yapay genel zekanın ortaya çıkmasıyla dünyanın ve uygarlığın sonunu getirecek kadar ciddi yıkımların meydana gelmesi olasılığı, artık yalnızca bilimkurguyu değil; doğrudan gerçekliğimizi ilgilendiren önemli ve acil bir konu haline gelmektedir. Hazırlansak da hazırlanmasak da yapay genel zekânın, yaşamlarımızı ve türümüzün geleceğini çok büyük ölçüde şekillendireceği o kırılma noktasına her geçen gün biraz daha yaklaşıyoruz. Günümüzde yapay zekâ komünitesinde güvenli teknolojilerin geliştirilmesi için ciddi bir çaba var olsa da yapay genel zekâ konusunda büyük bir aciliyet eksikliği söz konusudur.^[6] Bunun bir nedeni, çoğumuzun yanlış bir şekilde, insanlar tarafından yaratılan duyarlı ve güçlü bir yapay zekânın insani bir çekirdeği paylaşan dijital bir akraba tür gibi bir şekilde insan ağacının bir dalı olacağına inanmasıdır.

Yapay genel zekânın hemen her yönden bizden daha farklı olması, bu varsayımdan çok daha olasıdır. Yapay genel zekâ, insan gibi davranma konusunda yetenekli olacaktır ancak bu maskesinin altında daha önce karşılaştığımız herhangi bir canlıdan çok daha farklı bir şekilde düşünecek, hissedecek ve davranacaktır.