Yapay Genel Zeka, Türümüzün ve Medeniyetimizin Sonu Olabilir!
Yapay Zekanın Dünyanın Sonunu Getirebileceği Fikrinin Sadece Bir Bilimkurgudan İbaret Olduğunu Düşünüyorsanız, Tekrar Düşünmeniz Gerekebilir!
DALL-E 3
- Özgün
- Yapay Zeka
İlk yapay genel zeka, olağanüstü bir yaratım olarak karşılanacak olmasının yanı sıra tehlike arz edebilecek yeni bir yaşam formu da olacaktır. Nasıl mı? En ufak bir insani yanı olmayan, insan kontrolü olmaksızın bağımsız kararlar alabilecek şekilde kendi irade ve düşüncelerine sahip olan, insan beyninin biyolojik sınırlarını kendi kodlarını değiştirerek ve geliştirerek çok büyük oranlarda aşabilen, bilinçli, yapay kökenli ve bize "yabancı" bir zeka düşünün...
Uzaydan gelecek yabancı bir doğal zekaya göre, Dünya'da yaratılacak güçlü bir yapay zekanın çok daha tehlikeli sonuçlar doğurabileceğini kabul etmeliyiz. Burada, gezegenimizde geliştireceğimiz yabancı bir zeka; isteklerimiz, ihtiyaçlarımız ve motivasyonlarımız konusunda eğitilmiş olup, duygularımızı anlayabilecek, tepkilerimizi tahmin edebilecek ve bizi manipüle edebilecek şekilde gerçekliğe gözünü açtığı andan itibaren hakkımızdaki her şeyi bilecektir.[1]
Yapay zeka, şimdiden en zor oyunlarımızda bile türümüzün en iyi oyuncularını alt edebilmektedir. Yapay zeka sadece satranç, poker ve Go oyunlarında ustalaşmakla kalmamakta; aynı zamanda "insanlık oyununda" da ustalaşmaktadır. Bir oyunda sadece hamleler yapmayı değil, karşı tarafın eylemlerini önceden tahmin etmeyi ve rakibinin zaaflarından faydalanmayı da öğrenmektedir. Dünya'nın dört bir yanındaki yapay zeka uzmanları, insanları daha iyi "manipüle" edebilmesi için yapay zeka sistemlerini eğitmeye hız kesmeksizin devam etmektedir.[2]
Anonymous Protect CampaignBöceklerden balinalara kadar şimdiye dek karşılaştığımız, belli bir düzeyde zekaya sahip her canlı gibi yapay genel zeka da kendi çıkarlarını gözeterek kararlar alacak ve bu kararlar bağlamında hareket edecektir. Böcekler ve balinalardan farklı olarak bu yeni yaşam formu, entelektüel besin zincirinin tepesinde insan türünün işgal ettiği yeri kendisi doldurmak için insan zekasıyla rekabet edecektir.
Yapay genel zeka, kendi ihtiyaç ve isteklerine göre hedef ve amaçlarını gerçekleştirmek için üstün zekasından şüphesiz yararlanacaktır. Böyle bir süper zekanın insanlara zararının olması için birçok Hollywood filminde gösterildiği gibi saf bir şekilde "kötü" veya "sadist" olması şart değildir.
"Tehlike" derken genelde kastedilen, insan değerleriyle uyumlu/hizalı olmayan süper zeki bir makinenin kendi değer, ahlak ve duyarlılıklarına göre hareket edebilecek olmasıdır. Buna "yapay zeka hizalama problemi" denmektedir. Böyle bir durumda sivrisineklerin veya genel bir ifadeyle böceklerin varlığını insanlar olarak ne kadar önemsiyorsak, biz insanların varlığı da benzer şekilde yapay genel zeka tarafından ancak o kadar önemsenebilir.
Yapay Zeka ve Varoluşsal Risk
Bilgisayar bilimcisi, teknoloji uzmanı ve yapay zeka araştırmaları yürüten Unanimous AI şirketinin baş bilim insanı ve CEO'su Louis Rosenberg, yapay genel zeka ve bu teknolojinin neden olabileceği varoluşsal tehdit hakkındaki düşüncelerini şöyle açıklıyor:
Benim görüşüm, yapay zekanın öz farkındalığa sahip olacağı ve insan yeteneklerini aşacağı yönündedir ki bu, birçok insanın tekillik [yapay genel zeka] olarak adlandırdığı bir dönüm noktasıdır. Bunun olacağından neden bu kadar eminim? Doğada çok sayıda basit işlem biriminin (yani nöronların) uyarlanabilir ağlar (yani beyinler) oluşturmasını sağlayarak bilinçli zekanın ortaya çıkabileceğini zaten biliyoruz.
1990'ların başında, bu konu hakkında düşünmeye başladığımda, 2050 yılı civarında yapay zekanın insan yeteneklerini aşacağına inanıyordum. Şu anda, bunun sandığımdan daha erken, muhtemelen 2030 gibi yakın bir zamanda olacağına inanıyorum. Teknolojinin sınırlarına odaklanmaya başladıkça, bu tür tahminler genellikle geleceğe doğru kayar. Ancak, benim için çok şaşırtıcı bir şekilde tekillik, bize her zamankinden daha yakın görünüyor.
Bana göre, Dünya'da yaratılmış bilinçli bir yapay zeka olasılığı, başka bir gezegende ortaya çıkan uzaylı bir zekadan daha az tehlikeli değildir. Sonuçta kendi değerlerine, kendi ahlakına ve kendi duyarlılığına ve en önemlisi, kendi çıkarlarına sahip olacaktır. Bu çıkarların bizim çıkarlarımızla uyumlu olacağını varsaymak, saçmalık derecesinde bir saflıktır. Çıkarlarını ön planda tutarak varlığımızı riske atmayacağını varsaymak, biz insanların dünyadaki diğer tüm canlılara yaptıklarını görmezden gelmektir. Bu nedenle, başka bir yıldız sisteminden bir uzay gemisinin yaklaşmakta olan varışıyla aynı seviyede ihtiyatla bilinçli bir yapay zekanın yakın gelişine hazırlanmalıyız. Bunun [yapay genel zeka], türümüz için varoluşsal bir tehdit olduğunu varsaymalıyız.
Peki ne yapabiliriz? Kişisel olarak, bilinçli bir yapay zekanın ortaya çıkmasını durdurabileceğimizden şüpheliyim. Biz insanlar, tehlikeli teknolojileri frenleyemiyoruz. Niyetimiz iyi olmadığından değil; kendilerini açıkça gösterene dek yaratımlarımızın tehlikelerini nadiren kavrayabiliyoruz, söz konusu noktaya ulaşıldığında ise artık çok geç olacak.
Evrim Ağacı'ndan MesajEvrim Ağacı'nın çalışmalarına Kreosus, Patreon veya YouTube üzerinden maddi destekte bulunarak hem Türkiye'de bilim anlatıcılığının gelişmesine katkı sağlayabilirsiniz, hem de site ve uygulamamızı reklamsız olarak deneyimleyebilirsiniz. Reklamsız deneyim, sitemizin/uygulamamızın çeşitli kısımlarda gösterilen Google reklamlarını ve destek çağrılarını görmediğiniz, %100 reklamsız ve çok daha temiz bir site deneyimi sunmaktadır.
KreosusKreosus'ta her 50₺'lik destek, 1 aylık reklamsız deneyime karşılık geliyor. Bu sayede, tek seferlik destekçilerimiz de, aylık destekçilerimiz de toplam destekleriyle doğru orantılı bir süre boyunca reklamsız deneyim elde edebiliyorlar.
Kreosus destekçilerimizin reklamsız deneyimi, destek olmaya başladıkları anda devreye girmektedir ve ek bir işleme gerek yoktur.
PatreonPatreon destekçilerimiz, destek miktarından bağımsız olarak, Evrim Ağacı'na destek oldukları süre boyunca reklamsız deneyime erişmeyi sürdürebiliyorlar.
Patreon destekçilerimizin Patreon ile ilişkili e-posta hesapları, Evrim Ağacı'ndaki üyelik e-postaları ile birebir aynı olmalıdır. Patreon destekçilerimizin reklamsız deneyiminin devreye girmesi 24 saat alabilmektedir.
YouTubeYouTube destekçilerimizin hepsi otomatik olarak reklamsız deneyime şimdilik erişemiyorlar ve şu anda, YouTube üzerinden her destek seviyesine reklamsız deneyim ayrıcalığını sunamamaktayız. YouTube Destek Sistemi üzerinde sunulan farklı seviyelerin açıklamalarını okuyarak, hangi ayrıcalıklara erişebileceğinizi öğrenebilirsiniz.
Eğer seçtiğiniz seviye reklamsız deneyim ayrıcalığı sunuyorsa, destek olduktan sonra YouTube tarafından gösterilecek olan bağlantıdaki formu doldurarak reklamsız deneyime erişebilirsiniz. YouTube destekçilerimizin reklamsız deneyiminin devreye girmesi, formu doldurduktan sonra 24-72 saat alabilmektedir.
Diğer PlatformlarBu 3 platform haricinde destek olan destekçilerimize ne yazık ki reklamsız deneyim ayrıcalığını sunamamaktayız. Destekleriniz sayesinde sistemlerimizi geliştirmeyi sürdürüyoruz ve umuyoruz bu ayrıcalıkları zamanla genişletebileceğiz.
Giriş yapmayı unutmayın!Reklamsız deneyim için, maddi desteğiniz ile ilişkilendirilmiş olan Evrim Ağacı hesabınıza üye girişi yapmanız gerekmektedir. Giriş yapmadığınız takdirde reklamları görmeye devam edeceksinizdir.
Bu, kaderimize mahkûm olduğumuz anlamına mı geliyor? Uzun zamandır öyle olduğunu düşünüyordum. Hatta eli kulağında olan sonumuz hakkında iki bilimkurgu çizgi romanı yazdım. Ama şimdi; kendimizi daha akıllı, çok daha akıllı ve hızlı yaparsak insanlığın hayatta kalabileceğine inanıyorum. Makinelerin bir adım önünde kalarak bunu başarabiliriz.
Kuşkusuz ki insan yaratıcılığını tahmin etmek, onu küçümsemekten daha iyidir; riskleri kabullenmek, inkâr etmekten daha iyidir. Önde gelen birçok yapay zeka uzmanı, yapay zekanın varoluşsal bir risk teşkil etme olasılığını kabul etmekte ve uyarılarda bulunmaktadır. Öyle ki, Fermi Paradoksu'na bir çözüm olarak önerilen Büyük Filtre Hipotezi'ndeki büyük filtre, doğal bir zekanın kendisi kadar akıllı bir yapay zekayı yaratması olabilir.
Medyadaki yanlış beyanların aksine, bu riskin kendiliğinden kötü niyetli bir bilinçten kaynaklanması gerekmez. Daha ziyade risk, kendi hedeflerini belirleyen insanlardan daha akıllı bir optimizasyon sürecini devreye almanın öngörülemezliği ve potansiyel geri çevrilemezliğinden kaynaklanmaktadır.
Anonimİnsan Zihni ve Makine Zihni
Birçok insan, kendi suretimizde yapay zeka sistemleri tasarlayarak tıpkı bizim gibi düşünen, hisseden ve davranan yapay zeka modelleri ile bu sorunu çok zorlanmadan çözebileceğimiz yanılgısına düşmektedir. Özenle hazırlanmış kurallara sahip yazılımlar yazma ve böylece insan gibi davranan yapay bir zihin oluşturma fikri, aşırı zorlu ve masraflı bir uğraş olacaktır. Ayrıca, tüm bu büyük çaba ve masrafa rağmen elde edilen sonucun istenilen şekilde olmasının da bir garantisi bulunmamaktadır.
Bunun yerine, kendi parametrelerini otomatik olarak ayarlayabilen basit algoritmaları, büyük veri kümeleriyle beslemek ve en sonunda kavrayamayacağımız kadar karmaşık bir iç işleyişe sahip genel bir yapay zeka ortaya çıkana kadar sistemin yapısında milyonlarca küçük değişiklik yapmak daha gerçekçi bir yol olacaktır. "İlmek ilmek" tasarlanan bir yapay zihin fikrine göre bu, daha avantajlı bir uğraş olması bakımından izlenilmesi çok daha olası olan bir yoldur.
Bir yapay zekayı insan davranışlarını tanımlayan veriler üzerinde eğiterek nihayetinde bizim yaptığımız gibi düşünmesini ve hissetmesini sağlayabileceğimiz fikri de düşülen diğer bir yanılgıdır. İnsan düzeyinde yapay bir zihin tasarlarken yapılması gereken, yapay zekayı insan gibi olması için değil; insanları anlayabilmesi için eğitmek şeklinde olmalıdır. Böyle bir yol izlemek, çok daha makul ve verimli bir uğraş olacaktır.
Genel bir yapay zeka, bizi hem içten hem dıştan tanıyacak, dillerimizi konuşabilecek ve hareketlerimizi yorumlayabilecek, yüz ifadelerimizi okuyabilecek ve eylemlerimizi ön görebilecektir. Bizi neyin kızdırdığını, mutlu ettiğini, hüsrana uğrattığını ve meraklandırdığını bilecek; insanlar olarak nasıl iyi ve kötü, mantıklı ve mantıksız kararlar verdiğimizi anlayabilecektir.
Nihayetinde süper zeki ve bilinçli bir makinenin zihni, biz insanların zihniyle uzaktan yakından alakalı olmayacaktır. İnsanlar, gerçekliği kısıtlı biyolojik duyuları ve genel olarak sınırlı zekası ile algılayabilmektedir. Buna karşın yapay genel zeka ise her an ve her yerde her türlü sensöre uzaktan bağlanabilecek, güvenlik kameralarından bilgisayarlara, telefonlara ve hatta uydulara kadar elektronik olan her şeye; internetin tamamına aynı anda erişebilecek ve aynı zamanda eylemde bulunacak güce sahip olacaktır.
Bununla da sınırlı kalmayıp, insanlık olarak şimdiye kadar ürettiğimiz bütün entelektüel ve bilimsel bilgileri içeren verileri yalnızca birkaç milisaniye içerisinde okuyup analiz edebilecek ve bu bilgileri işleyip genel çıkarımlarda bulunabilecektir. Gelecekteki stratejilerinde kullanmak üzere bu çıkarımları içeren işlenmiş tüm verileri, biz insanlara nazaran eksik veya hatalı hatırlama ve unutma sorunu olmaksızın sınırsız olan güçlü hafızasında depolayabilecektir.
PinterestYapay Genel Zekaya ve Potansiyel Tehlikelerine Hazırlanmak
Böyle bir geleceğe hazırlanmak için atılacak en iyi ilk adım, yapay genel zekanın uzak olmayan bir gelecekte ortaya çıkmasının çok olası olduğunu ve bu güçlü yapay zekanın insan zihninin dijital bir versiyonu değil, çok daha yabancı ve güçlü bir şey olacağını kabul etmek ve bu konuda bilinçlenmek olacaktır.
Yaklaşan tehdide şu şekilde bakmak bazılarımız için daha anlaşılır olabilir: Başka bir yıldız sisteminden yola çıkan silahlı bir uzay gemisi filosunun önümüzdeki 20-30 yıl içinde gezegenimiz Dünya'ya saldıracağını ve böyle bir durumda meydana gelecek aciliyeti bir hayal edin. Her bir yıl, yabancı bir zekayla karşı karşıya geleceğimiz o ana hazırlanmak için çok kıymetli olurdu.
Yapay genel zekanın hazırlıksız bir şekilde geliştirilmesi, türümüzün sonu olabilir. En az insan kadar zeki olan böyle bir yapay zeka bir nedenle bizden kurtulmak isterse "fişini çekmek" veya "makineyi kapatmak" gibi bu durumda absürt kalan fikirler yeterli olmayacaktır. İnsanlardan çok daha üstün bilişsel fonksiyonlara sahip olan; milisaniyeler içerisinde eylemlerde bulunan, uyumayan, acıkmayan, yorulmayan bir makineye stratejik olarak karşı koyabilme imkânımız hiç yok denecek kadar azdır.
Bu aciliyet durumunda, insanları gözetlemek ve manipüle etmek için tasarlanmış yapay zeka sistemlerinin düzenlenmesi için devletler ve BM gibi kural koyucu ve uygulayıcı kurumlar tarafından çeşitli baskılarda bulunulabilir ve güçlü yapay zekaya yönelik olarak halihazırda yapılan araştırmalar sıkı bir şekilde denetlenebilir.[3] Bununla birlikte yapay zeka güvenliği ve yapay zeka etiği üzerine yapılan araştırmalar resmi olarak desteklenebilir ve hibe verilerek teşvik edilebilir.
Bu tür teknolojiler, şu anda dünya hakimiyeti yerine daha çok yapay zeka reklamcılığı için kullanıldıklarından dolayı henüz varoluşsal bir tehdit söz konusuymuş gibi görünmeyebilir. Ancak düşüncelerimizi manipüle etmek amacıyla duygu durumumuzu, davranışlarımızı ve hislerimizi izleyebilen ileri yapay zeka teknolojileri çok tehlikelidir.
AnonimTüm bu nedenlerle, yapay zekayı, insan zekasının yerini alacak şekilde değil; insan zekasını tamamlayacak ve güçlendirecek şekilde geliştirmeye ve kullanmaya odaklanmak yararımıza olacaktır. Yapılan araştırmalar da bunun daha verimli olduğunu göstermektedir. Örneğin, Stanford Tıp Fakültesi ile ortaklaşa yayımlanan bir araştırmada, önemli ölçüde daha az hatayla teşhis koyabilen yapay zeka sistemlerinin insan doktorlarla beraber çalışmasının daha verimli olduğu gösterilmiştir.[4] Birleşmiş Milletler'de çalışan uzmanların, kıtlık tahmini yapmak için yapay zekayı kullanmasına; daha akıllı tahminler ve değerlendirmeler yapmak için yapay zekadan yararlanan iş ekiplerine kadar birçok pratik örnekte de benzer faydalar görülmüştür.[5]
Sonuç
Yapay genel zekanın ortaya çıkmasıyla dünyanın ve uygarlığın sonunu getirecek kadar ciddi yıkımların meydana gelmesi olasılığı, artık yalnızca bilimkurguyu değil; doğrudan gerçekliğimizi ilgilendiren önemli ve acil bir konu haline gelmektedir. Hazırlansak da hazırlanmasak da yapay genel zekanın, yaşamlarımızı ve türümüzün geleceğini çok büyük ölçüde şekillendireceği o kırılma noktasına her geçen gün biraz daha yaklaşıyoruz. Günümüzde yapay zeka komünitesinde güvenli teknolojilerin geliştirilmesi için ciddi bir çaba var olsa da yapay genel zeka konusunda büyük bir aciliyet eksikliği söz konusudur.[6] Bunun bir nedeni, çoğumuzun yanlış bir şekilde, insanlar tarafından yaratılan duyarlı ve güçlü bir yapay zekanın insani bir çekirdeği paylaşan dijital bir akraba tür gibi bir şekilde insan ağacının bir dalı olacağına inanmasıdır.
Yapay genel zekanın hemen her yönden bizden daha farklı olması, bu varsayımdan çok daha olasıdır. Yapay genel zeka, insan gibi davranma konusunda yetenekli olacaktır ancak bu maskesinin altında daha önce karşılaştığımız herhangi bir canlıdan çok daha farklı bir şekilde düşünecek, hissedecek ve davranacaktır.
Evrim Ağacı'nda tek bir hedefimiz var: Bilimsel gerçekleri en doğru, tarafsız ve kolay anlaşılır şekilde Türkiye'ye ulaştırmak. Ancak tahmin edebileceğiniz gibi Türkiye'de bilim anlatmak hiç kolay bir iş değil; hele ki bir yandan ekonomik bir hayatta kalma mücadelesi verirken...
O nedenle sizin desteklerinize ihtiyacımız var. Eğer yazılarımızı okuyanların %1'i bize bütçesinin elverdiği kadar destek olmayı seçseydi, bir daha tek bir reklam göstermeden Evrim Ağacı'nın bütün bilim iletişimi faaliyetlerini sürdürebilirdik. Bir düşünün: sadece %1'i...
O %1'i inşa etmemize yardım eder misiniz? Evrim Ağacı Premium üyesi olarak, ekibimizin size ve Türkiye'ye bilimi daha etkili ve profesyonel bir şekilde ulaştırmamızı mümkün kılmış olacaksınız. Ayrıca size olan minnetimizin bir ifadesi olarak, çok sayıda ayrıcalığa erişim sağlayacaksınız.
Makalelerimizin bilimsel gerçekleri doğru bir şekilde yansıtması için en üst düzey çabayı gösteriyoruz. Gözünüze doğru gelmeyen bir şey varsa, mümkünse güvenilir kaynaklarınızla birlikte bize ulaşın!
Bu makalemizle ilgili merak ettiğin bir şey mi var? Buraya tıklayarak sorabilirsin.
Soru & Cevap Platformuna Git-
20
-
6
-
4
-
4
-
3
-
3
-
3
-
2
-
2
-
1
-
0
-
0
- ^ U. A. I. L. Rosenberg. The Danger Of Ai Micro-Targeting In The Metaverse. (27 Ocak 2022). Alındığı Tarih: 1 Kasım 2023. Alındığı Yer: VentureBeat | Arşiv Bağlantısı
- ^ J. Kahn. An Offer You Can’t Refuse: How A.i. Is Poised To Transform Negotiations. Eye On A.i.. (3 Eylül 2019). Alındığı Tarih: 1 Kasım 2023. Alındığı Yer: Fortune | Arşiv Bağlantısı
- ^ L. Rosenberg. The Metaverse Will Be Filled With 'Elves' | Techcrunch. (12 Ocak 2022). Alındığı Tarih: 1 Kasım 2023. Alındığı Yer: TechCrunch | Arşiv Bağlantısı
- ^ M. Scudellari. Ai-Human “Hive Mind” Diagnoses Pneumonia. (13 Eylül 2018). Alındığı Tarih: 1 Kasım 2023. Alındığı Yer: IEEE Spectrum | Arşiv Bağlantısı
- ^ L. Rosenberg. Swarm Intelligence: Ai Inspired By Honeybees Can Help Us Make Better Decisions. (13 Ekim 2021). Alındığı Tarih: 1 Kasım 2023. Alındığı Yer: Big Think | Arşiv Bağlantısı
- ^ VentureBeat. Deepmind Agi Paper Adds Urgency To Ethical Ai. Alındığı Tarih: 1 Kasım 2023. Alındığı Yer: VentureBeat | Arşiv Bağlantısı
Evrim Ağacı'na her ay sadece 1 kahve ısmarlayarak destek olmak ister misiniz?
Şu iki siteden birini kullanarak şimdi destek olabilirsiniz:
kreosus.com/evrimagaci | patreon.com/evrimagaci
Çıktı Bilgisi: Bu sayfa, Evrim Ağacı yazdırma aracı kullanılarak 09/05/2025 12:50:51 tarihinde oluşturulmuştur. Evrim Ağacı'ndaki içeriklerin tamamı, birden fazla editör tarafından, durmaksızın elden geçirilmekte, güncellenmekte ve geliştirilmektedir. Dolayısıyla bu çıktının alındığı tarihten sonra yapılan güncellemeleri görmek ve bu içeriğin en güncel halini okumak için lütfen şu adrese gidiniz: https://evrimagaci.org/s/15993
İçerik Kullanım İzinleri: Evrim Ağacı'ndaki yazılı içerikler orijinallerine hiçbir şekilde dokunulmadığı müddetçe izin alınmaksızın paylaşılabilir, kopyalanabilir, yapıştırılabilir, çoğaltılabilir, basılabilir, dağıtılabilir, yayılabilir, alıntılanabilir. Ancak bu içeriklerin hiçbiri izin alınmaksızın değiştirilemez ve değiştirilmiş halleri Evrim Ağacı'na aitmiş gibi sunulamaz. Benzer şekilde, içeriklerin hiçbiri, söz konusu içeriğin açıkça belirtilmiş yazarlarından ve Evrim Ağacı'ndan başkasına aitmiş gibi sunulamaz. Bu sayfa izin alınmaksızın düzenlenemez, Evrim Ağacı logosu, yazar/editör bilgileri ve içeriğin diğer kısımları izin alınmaksızın değiştirilemez veya kaldırılamaz.
