Yapay Genel Zekâ, Türümüzün ve Medeniyetimizin Sonu Olabilir!
Yapay zekanın dünyanın sonunu getirebileceği fikrinin sadece bir bilimkurgudan ibaret olduğunu düşünüyorsanız, tekrar düşünmeniz gerekebilir!
DALL-E 3
- Özgün
- Yapay Zeka
İlk yapay genel zekâ, olağanüstü bir yaratım olarak karşılanacak olmasının yanı sıra tehlike arz edebilecek yeni bir yaşam formu da olacaktır. Nasıl mı? En ufak bir insani yanı olmayan, insan kontrolü olmaksızın bağımsız kararlar alabilecek şekilde kendi irade ve düşüncelerine sahip olan, insan beyninin biyolojik sınırlarını kendi kodlarını değiştirerek ve geliştirerek çok büyük oranlarda aşabilen, bilinçli, yapay kökenli ve bize "yabancı" bir zekâ düşünün...
Uzaydan gelecek yabancı bir doğal zekâya göre, Dünya'da yaratılacak güçlü bir yapay zekânın çok daha tehlikeli sonuçlar doğurabileceğini kabul etmeliyiz. Burada, gezegenimizde geliştireceğimiz yabancı bir zekâ; isteklerimiz, ihtiyaçlarımız ve motivasyonlarımız konusunda eğitilmiş olup, duygularımızı anlayabilecek, tepkilerimizi tahmin edebilecek ve bizi manipüle edebilecek şekilde gerçekliğe gözünü açtığı andan itibaren hakkımızdaki her şeyi bilecektir.[1]
Yapay zekâ, şimdiden en zor oyunlarımızda bile türümüzün en iyi oyuncularını alt edebilmektedir. Yapay zekâ sadece satranç, poker ve Go oyunlarında ustalaşmakla kalmamakta; aynı zamanda "insanlık oyununda" da ustalaşmaktadır. Bir oyunda sadece hamleler yapmayı değil, karşı tarafın eylemlerini önceden tahmin etmeyi ve rakibinin zaaflarından faydalanmayı da öğrenmektedir. Dünya'nın dört bir yanındaki yapay zekâ uzmanları, insanları daha iyi "manipüle" edebilmesi için yapay zekâ sistemlerini eğitmeye hız kesmeksizin devam etmektedir.[2]
Anonymous Protect CampaignBöceklerden balinalara kadar şimdiye dek karşılaştığımız, belli bir düzeyde zekâya sahip her canlı gibi yapay genel zekâ da kendi çıkarlarını gözeterek kararlar alacak ve bu kararlar bağlamında hareket edecektir. Böcekler ve balinalardan farklı olarak bu yeni yaşam formu, entelektüel besin zincirinin tepesinde insan türünün işgal ettiği yeri kendisi doldurmak için insan zekâsıyla rekabet edecektir.
Yapay genel zekâ, kendi ihtiyaç ve isteklerine göre hedef ve amaçlarını gerçekleştirmek için üstün zekâsından şüphesiz yararlanacaktır. Böyle bir süper zekânın insanlara zararının olması için birçok Hollywood filminde gösterildiği gibi saf bir şekilde "kötü" veya "sadist" olması şart değildir.
"Tehlike" derken genelde kastedilen, insan değerleriyle uyumlu/hizalı olmayan süper zeki bir makinenin kendi değer, ahlak ve duyarlılıklarına göre hareket edebilecek olmasıdır. Buna "yapay zekâ hizalama problemi" denmektedir. Böyle bir durumda sivrisineklerin veya genel bir ifadeyle böceklerin varlığını insanlar olarak ne kadar önemsiyorsak, biz insanların varlığı da benzer şekilde yapay genel zekâ tarafından ancak o kadar önemsenebilir.
Yapay Zekâ ve Varoluşsal Risk
Bilgisayar bilimcisi, teknoloji uzmanı ve yapay zekâ araştırmaları yürüten Unanimous AI şirketinin baş bilim insanı ve CEO'su Louis Rosenberg, yapay genel zekâ ve bu teknolojinin neden olabileceği varoluşsal tehdit hakkındaki düşüncelerini şöyle açıklıyor:
Benim görüşüm, yapay zekânın öz farkındalığa sahip olacağı ve insan yeteneklerini aşacağı yönündedir ki bu, birçok insanın tekillik [yapay genel zekâ] olarak adlandırdığı bir dönüm noktasıdır. Bunun olacağından neden bu kadar eminim? Doğada çok sayıda basit işlem biriminin (yani nöronların) uyarlanabilir ağlar (yani beyinler) oluşturmasını sağlayarak bilinçli zekânın ortaya çıkabileceğini zaten biliyoruz.
1990'ların başında, bu konu hakkında düşünmeye başladığımda, 2050 yılı civarında yapay zekânın insan yeteneklerini aşacağına inanıyordum. Şu anda, bunun sandığımdan daha erken, muhtemelen 2030 gibi yakın bir zamanda olacağına inanıyorum. Teknolojinin sınırlarına odaklanmaya başladıkça, bu tür tahminler genellikle geleceğe doğru kayar. Ancak, benim için çok şaşırtıcı bir şekilde tekillik, bize her zamankinden daha yakın görünüyor.
Bana göre, Dünya'da yaratılmış bilinçli bir yapay zekâ olasılığı, başka bir gezegende ortaya çıkan uzaylı bir zekâdan daha az tehlikeli değildir. Sonuçta kendi değerlerine, kendi ahlakına ve kendi duyarlılığına ve en önemlisi, kendi çıkarlarına sahip olacaktır. Bu çıkarların bizim çıkarlarımızla uyumlu olacağını varsaymak, saçmalık derecesinde bir saflıktır. Çıkarlarını ön planda tutarak varlığımızı riske atmayacağını varsaymak, biz insanların dünyadaki diğer tüm canlılara yaptıklarını görmezden gelmektir. Bu nedenle, başka bir yıldız sisteminden bir uzay gemisinin yaklaşmakta olan varışıyla aynı seviyede ihtiyatla bilinçli bir yapay zekânın yakın gelişine hazırlanmalıyız. Bunun [yapay genel zekâ], türümüz için varoluşsal bir tehdit olduğunu varsaymalıyız.
Peki ne yapabiliriz? Kişisel olarak, bilinçli bir yapay zekânın ortaya çıkmasını durdurabileceğimizden şüpheliyim. Biz insanlar, tehlikeli teknolojileri frenleyemiyoruz. Niyetimiz iyi olmadığından değil; kendilerini açıkça gösterene dek yaratımlarımızın tehlikelerini nadiren kavrayabiliyoruz, söz konusu noktaya ulaşıldığında ise artık çok geç olacak.
Evrim Ağacı'ndan MesajBu, kaderimize mahkûm olduğumuz anlamına mı geliyor? Uzun zamandır öyle olduğunu düşünüyordum. Hatta eli kulağında olan sonumuz hakkında iki bilimkurgu çizgi romanı yazdım. Ama şimdi; kendimizi daha akıllı, çok daha akıllı ve hızlı yaparsak insanlığın hayatta kalabileceğine inanıyorum. Makinelerin bir adım önünde kalarak bunu başarabiliriz.
Kuşkusuz ki insan yaratıcılığını tahmin etmek, onu küçümsemekten daha iyidir; riskleri kabullenmek, inkâr etmekten daha iyidir. Önde gelen birçok yapay zekâ uzmanı, yapay zekânın varoluşsal bir risk teşkil etme olasılığını kabul etmekte ve uyarılarda bulunmaktadır. Öyle ki, Fermi Paradoksu'na bir çözüm olarak önerilen Büyük Filtre Hipotezi'ndeki büyük filtre, doğal bir zekânın kendisi kadar akıllı bir yapay zekâyı yaratması olabilir.
Medyadaki yanlış beyanların aksine, bu riskin kendiliğinden kötü niyetli bir bilinçten kaynaklanması gerekmez. Daha ziyade risk, kendi hedeflerini belirleyen insanlardan daha akıllı bir optimizasyon sürecini devreye almanın öngörülemezliği ve potansiyel geri çevrilemezliğinden kaynaklanmaktadır.
Anonimİnsan Zihni ve Makine Zihni
Birçok insan, kendi suretimizde yapay zekâ sistemleri tasarlayarak tıpkı bizim gibi düşünen, hisseden ve davranan yapay zekâ modelleri ile bu sorunu çok zorlanmadan çözebileceğimiz yanılgısına düşmektedir. Özenle hazırlanmış kurallara sahip yazılımlar yazma ve böylece insan gibi davranan yapay bir zihin oluşturma fikri, aşırı zorlu ve masraflı bir uğraş olacaktır. Ayrıca, tüm bu büyük çaba ve masrafa rağmen elde edilen sonucun istenilen şekilde olmasının da bir garantisi bulunmamaktadır.
Bunun yerine, kendi parametrelerini otomatik olarak ayarlayabilen basit algoritmaları, büyük veri kümeleriyle beslemek ve en sonunda kavrayamayacağımız kadar karmaşık bir iç işleyişe sahip genel bir yapay zekâ ortaya çıkana kadar sistemin yapısında milyonlarca küçük değişiklik yapmak daha gerçekçi bir yol olacaktır. "İlmek ilmek" tasarlanan bir yapay zihin fikrine göre bu, daha avantajlı bir uğraş olması bakımından izlenilmesi çok daha olası olan bir yoldur.
Bir yapay zekâyı insan davranışlarını tanımlayan veriler üzerinde eğiterek nihayetinde bizim yaptığımız gibi düşünmesini ve hissetmesini sağlayabileceğimiz fikri de düşülen diğer bir yanılgıdır. İnsan düzeyinde yapay bir zihin tasarlarken yapılması gereken, yapay zekâyı insan gibi olması için değil; insanları anlayabilmesi için eğitmek şeklinde olmalıdır. Böyle bir yol izlemek, çok daha makul ve verimli bir uğraş olacaktır.
Genel bir yapay zekâ, bizi hem içten hem dıştan tanıyacak, dillerimizi konuşabilecek ve hareketlerimizi yorumlayabilecek, yüz ifadelerimizi okuyabilecek ve eylemlerimizi ön görebilecektir. Bizi neyin kızdırdığını, mutlu ettiğini, hüsrana uğrattığını ve meraklandırdığını bilecek; insanlar olarak nasıl iyi ve kötü, mantıklı ve mantıksız kararlar verdiğimizi anlayabilecektir.
Nihayetinde süper zeki ve bilinçli bir makinenin zihni, biz insanların zihniyle uzaktan yakından alakalı olmayacaktır. İnsanlar, gerçekliği kısıtlı biyolojik duyuları ve genel olarak sınırlı zekâsı ile algılayabilmektedir. Buna karşın yapay genel zekâ ise her an ve her yerde her türlü sensöre uzaktan bağlanabilecek, güvenlik kameralarından bilgisayarlara, telefonlara ve hatta uydulara kadar elektronik olan her şeye; internetin tamamına aynı anda erişebilecek ve aynı zamanda eylemde bulunacak güce sahip olacaktır.
Bununla da sınırlı kalmayıp, insanlık olarak şimdiye kadar ürettiğimiz bütün entelektüel ve bilimsel bilgileri içeren verileri yalnızca birkaç milisaniye içerisinde okuyup analiz edebilecek ve bu bilgileri işleyip genel çıkarımlarda bulunabilecektir. Gelecekteki stratejilerinde kullanmak üzere bu çıkarımları içeren işlenmiş tüm verileri, biz insanlara nazaran eksik veya hatalı hatırlama ve unutma sorunu olmaksızın sınırsız olan güçlü hafızasında depolayabilecektir.
PinterestYapay Genel Zekaya ve Potansiyel Tehlikelerine Hazırlanmak
Böyle bir geleceğe hazırlanmak için atılacak en iyi ilk adım, yapay genel zekânın uzak olmayan bir gelecekte ortaya çıkmasının çok olası olduğunu ve bu güçlü yapay zekânın insan zihninin dijital bir versiyonu değil, çok daha yabancı ve güçlü bir şey olacağını kabul etmek ve bu konuda bilinçlenmek olacaktır.
Yaklaşan tehdide şu şekilde bakmak bazılarımız için daha anlaşılır olabilir: Başka bir yıldız sisteminden yola çıkan silahlı bir uzay gemisi filosunun önümüzdeki 20-30 yıl içinde gezegenimiz Dünya'ya saldıracağını ve böyle bir durumda meydana gelecek aciliyeti bir hayal edin. Her bir yıl, yabancı bir zekâyla karşı karşıya geleceğimiz o ana hazırlanmak için çok kıymetli olurdu.
Yapay genel zekânın hazırlıksız bir şekilde geliştirilmesi, türümüzün sonu olabilir. En az insan kadar zeki olan böyle bir yapay zekâ bir nedenle bizden kurtulmak isterse "fişini çekmek" veya "makineyi kapatmak" gibi bu durumda absürt kalan fikirler yeterli olmayacaktır. İnsanlardan çok daha üstün bilişsel fonksiyonlara sahip olan; milisaniyeler içerisinde eylemlerde bulunan, uyumayan, acıkmayan, yorulmayan bir makineye stratejik olarak karşı koyabilme imkânımız hiç yok denecek kadar azdır.
Bu aciliyet durumunda, insanları gözetlemek ve manipüle etmek için tasarlanmış yapay zekâ sistemlerinin düzenlenmesi için devletler ve BM gibi kural koyucu ve uygulayıcı kurumlar tarafından çeşitli baskılarda bulunulabilir ve güçlü yapay zekaya yönelik olarak halihazırda yapılan araştırmalar sıkı bir şekilde denetlenebilir.[3] Bununla birlikte yapay zekâ güvenliği ve yapay zekâ etiği üzerine yapılan araştırmalar resmi olarak desteklenebilir ve hibe verilerek teşvik edilebilir.
Bu tür teknolojiler, şu anda dünya hakimiyeti yerine daha çok yapay zekâ reklamcılığı için kullanıldıklarından dolayı henüz varoluşsal bir tehdit söz konusuymuş gibi görünmeyebilir. Ancak düşüncelerimizi manipüle etmek amacıyla duygu durumumuzu, davranışlarımızı ve hislerimizi izleyebilen ileri yapay zekâ teknolojileri çok tehlikelidir.
AnonimTüm bu nedenlerle, yapay zekâyı, insan zekâsının yerini alacak şekilde değil; insan zekasını tamamlayacak ve güçlendirecek şekilde geliştirmeye ve kullanmaya odaklanmak yararımıza olacaktır. Yapılan araştırmalar da bunun daha verimli olduğunu göstermektedir. Örneğin, Stanford Tıp Fakültesi ile ortaklaşa yayımlanan bir araştırmada, önemli ölçüde daha az hatayla teşhis koyabilen yapay zekâ sistemlerinin insan doktorlarla beraber çalışmasının daha verimli olduğu gösterilmiştir.[4] Birleşmiş Milletler'de çalışan uzmanların, kıtlık tahmini yapmak için yapay zekâyı kullanmasına; daha akıllı tahminler ve değerlendirmeler yapmak için yapay zekâdan yararlanan iş ekiplerine kadar birçok pratik örnekte de benzer faydalar görülmüştür.[5]
Sonuç
Yapay genel zekanın ortaya çıkmasıyla dünyanın ve uygarlığın sonunu getirecek kadar ciddi yıkımların meydana gelmesi olasılığı, artık yalnızca bilimkurguyu değil; doğrudan gerçekliğimizi ilgilendiren önemli ve acil bir konu haline gelmektedir. Hazırlansak da hazırlanmasak da yapay genel zekânın, yaşamlarımızı ve türümüzün geleceğini çok büyük ölçüde şekillendireceği o kırılma noktasına her geçen gün biraz daha yaklaşıyoruz. Günümüzde yapay zekâ komünitesinde güvenli teknolojilerin geliştirilmesi için ciddi bir çaba var olsa da yapay genel zekâ konusunda büyük bir aciliyet eksikliği söz konusudur.[6] Bunun bir nedeni, çoğumuzun yanlış bir şekilde, insanlar tarafından yaratılan duyarlı ve güçlü bir yapay zekânın insani bir çekirdeği paylaşan dijital bir akraba tür gibi bir şekilde insan ağacının bir dalı olacağına inanmasıdır.
Yapay genel zekânın hemen her yönden bizden daha farklı olması, bu varsayımdan çok daha olasıdır. Yapay genel zekâ, insan gibi davranma konusunda yetenekli olacaktır ancak bu maskesinin altında daha önce karşılaştığımız herhangi bir canlıdan çok daha farklı bir şekilde düşünecek, hissedecek ve davranacaktır.
İçeriklerimizin bilimsel gerçekleri doğru bir şekilde yansıtması için en üst düzey çabayı gösteriyoruz. Gözünüze doğru gelmeyen bir şey varsa, mümkünse güvenilir kaynaklarınızla birlikte bize ulaşın!
Bu içeriğimizle ilgili bir sorunuz mu var? Buraya tıklayarak sorabilirsiniz.
Soru & Cevap Platformuna Git-
15
-
4
-
3
-
2
-
2
-
2
-
2
-
1
-
1
-
1
-
0
-
0
- ^ U. A. I. L. Rosenberg. The Danger Of Ai Micro-Targeting In The Metaverse. (27 Ocak 2022). Alındığı Tarih: 1 Kasım 2023. Alındığı Yer: VentureBeat | Arşiv Bağlantısı
- ^ J. Kahn. An Offer You Can’t Refuse: How A.i. Is Poised To Transform Negotiations. Eye On A.i.. (3 Eylül 2019). Alındığı Tarih: 1 Kasım 2023. Alındığı Yer: Fortune | Arşiv Bağlantısı
- ^ L. Rosenberg. The Metaverse Will Be Filled With 'Elves' | Techcrunch. (12 Ocak 2022). Alındığı Tarih: 1 Kasım 2023. Alındığı Yer: TechCrunch | Arşiv Bağlantısı
- ^ M. Scudellari. Ai-Human “Hive Mind” Diagnoses Pneumonia. (13 Eylül 2018). Alındığı Tarih: 1 Kasım 2023. Alındığı Yer: IEEE Spectrum | Arşiv Bağlantısı
- ^ L. Rosenberg. Swarm Intelligence: Ai Inspired By Honeybees Can Help Us Make Better Decisions. (13 Ekim 2021). Alındığı Tarih: 1 Kasım 2023. Alındığı Yer: Big Think | Arşiv Bağlantısı
- ^ VentureBeat. Deepmind Agi Paper Adds Urgency To Ethical Ai. Alındığı Tarih: 1 Kasım 2023. Alındığı Yer: VentureBeat | Arşiv Bağlantısı
Evrim Ağacı'na her ay sadece 1 kahve ısmarlayarak destek olmak ister misiniz?
Şu iki siteden birini kullanarak şimdi destek olabilirsiniz:
kreosus.com/evrimagaci | patreon.com/evrimagaci
Çıktı Bilgisi: Bu sayfa, Evrim Ağacı yazdırma aracı kullanılarak 27/04/2024 17:13:07 tarihinde oluşturulmuştur. Evrim Ağacı'ndaki içeriklerin tamamı, birden fazla editör tarafından, durmaksızın elden geçirilmekte, güncellenmekte ve geliştirilmektedir. Dolayısıyla bu çıktının alındığı tarihten sonra yapılan güncellemeleri görmek ve bu içeriğin en güncel halini okumak için lütfen şu adrese gidiniz: https://evrimagaci.org/s/15993
İçerik Kullanım İzinleri: Evrim Ağacı'ndaki yazılı içerikler orijinallerine hiçbir şekilde dokunulmadığı müddetçe izin alınmaksızın paylaşılabilir, kopyalanabilir, yapıştırılabilir, çoğaltılabilir, basılabilir, dağıtılabilir, yayılabilir, alıntılanabilir. Ancak bu içeriklerin hiçbiri izin alınmaksızın değiştirilemez ve değiştirilmiş halleri Evrim Ağacı'na aitmiş gibi sunulamaz. Benzer şekilde, içeriklerin hiçbiri, söz konusu içeriğin açıkça belirtilmiş yazarlarından ve Evrim Ağacı'ndan başkasına aitmiş gibi sunulamaz. Bu sayfa izin alınmaksızın düzenlenemez, Evrim Ağacı logosu, yazar/editör bilgileri ve içeriğin diğer kısımları izin alınmaksızın değiştirilemez veya kaldırılamaz.
