İnsanlaşan yapay zekanın ileriki dönemlerde yaratabileceği tehlikelere önlemler nedir ve ne olmlalıdır ?

Cevap vermeye tam olarak başlamadan önce belirtmekte fayda var; sorunuzun detayında belirttiğiniz üzere Google mühendisinin iddia ettiği gibi LaMDA sohbet botu, duyarlı/bilinçli veya diğer benzer yapay zeka örneklerine göre daha "insansı" olan bir yapay zeka değil.^[1] Bu tarz asparagas haberlere karşı dikkatli olunmalı.

Öncelikle yapay zekanın yaratabileceği tehlikeler sadece geleceğe dair değildir. Şuan bile yapay zeka, önceden belirlenmiş birtakım kriterlere sahip kişileri bulup insan müdahalesi ve kararı olmaksızın etkisiz hale getirebilir/öldürebilir.^[2] Yani günümüzde otonom silahlarda kullanılan yapay zeka, insanların hayatlarının yönünü ve daha da önemlisi insanların hayatta kalıp kalmayacağını belirlemeye başlamıştır.

En basitinden, mevcut sistem içerisinde bu teknolojinin yaratabileceği olumsuz sonuçların olabildiğince önüne geçebilmek için yapay zekaya sahip otonom silahların üretimi, satışı ve kullanımı gibi konularda kapsamlı yasalar ve hükümler çıkararak bunları etkili bir şekilde uygulamalı, ülkeler arasında meydana gelebilecek bir silahlanma yarışının önüne geçmek için uluslararası alanda otonom silahsızlanmayı hedefleyen kararlar alınmalı, anlaşmalar imzalanmalıdır. Devletler katı protokoller ve prosedürler belirleyerek hem kendi askeri organlarını hem de özel şirketleri sıkı bir şekilde denetlemeli ve takip etmelidir.

Bunlar da ancak toplumun bu konuda bilinçlenerek örgütlenmesi ve bu yönde baskı uygulamasıyla gerçek olabilir, çünkü böyle etkili ve güçlü bir teknolojiden insanların sert tepkileriyle karşılaşılmaksızın kolayca vazgeçilmeyecektir. Dolayısıyla toplumun büyük kesiminin konudan haberdar olması ve tartışmalara katılması için ülkelerin parlamento/meclislerinde muhalif kesimlerce dile getirilerek bu konunun üzerine gidilmeli ve halka ulaşılmalıdır. Devletler ve BM gibi uluslararası bir organizasyon ''gerçek" düzenlemeler yapacak olursa yakın gelecekte ortaya çıkabilecek büyük sorunların şimdiden önüne geçilebilmesi mümkündür.

Otonom silahlara göre biraz daha uzak geleceği ilgilendiren^[3] güçlü yapay zeka ve yaratabileceği tehlikeler ise bambaşka bir konudur. Güçlü yapay zeka ya da diğer isimleriyle yapay genel zeka/yapay süper zeka, en az bir insan kadar akıllı olan bir yapay zeka türünü ifade etmektedir.^[4] Kendi iradesi ve bilinci^[5] olsun ya da olmasın, genel bir yapay zeka insanlardan çok daha akıllı olacaktır ve dolayısıyla neden olabileceği tehlikeler, akıllı olmayan herhangi bir teknolojiye göre çok daha yıkıcı olacaktır. Böyle bir makine, insanlığın sonunu getirebilecek bir "varoluşsal yokoluş" senaryosuna yol açabilir.

Yapay genel zeka güvenliği, günümüzde problemleri baş göstermeye başlayan yapay zekaya sahip otonom silah güvenliğine göre daha soyut ve spekülatif olması bakımından çok daha zorlu bir sahadır.^[6] Bu sahada öne çıkan önemli bir sorun, "yapay zeka hizalama problemi"dir.^[7] Günümüzde yapay zeka kömünitesinde güvenli teknolojilerin geliştirilmesi için ciddi bir çaba var olsa da güçlü yapay zeka konusunda büyük bir aciliyet eksikliği söz konusudur.^[8] Bunun gibi nedenlerden dolayı yapay genel/süper zekayı kontol etmek imkansız olabilir.^[9]

Alınması gereken önlemler söyle ifade edilebilir: Yapay genel zeka üzerine daha çok yazıp çizmeye, üzerine tartışmalar yapmaya, yapay zeka güvenliği ve yapay zeka etiği üzerine büyük çalışmalar yapmaya bir an önce başlamalıyız. Bu aciliyet durumunda, insanları gözetlemek ve manipüle etmek için tasarlanmış, tamamen veya çoğunlukla kâr amacı güdülerek oluşturulan yapay zeka sistemlerinin düzenlenmesi için devletler tarafından özel şirketlere güçlü baskılarda bulunulabilir ve sıkı bir şekilde denetlenebilir.^[10] Yapay zeka güvenliği ve yapay zeka etiği gibi alanlara daha çok finansal yatırım yapılabilir ve devletler tarafından bu tarz araştırmalara finansal teşvikler ve destekler sağlanabilir.

Yapay zeka alanında uzman olan önde gelen bilim insanlarının öncülüğünde içerik ve kapsamı belirlenen uluslararası bir anlaşma devletler tarafından imzalanarak uygulanabilir. Böylece yapay genel zeka araştırmaları için kapsayıcı kural-protokol-prosedürler belirlenebilir ve bu alanda yapılacak araştırmalarda alınan bu kararlara bağlı olunması şart koşulabilir.

Son olarak, vurgulamak gerekirse, eğer böyle bir makine bir nedenle bizden kurtulmak isterse genelde ilk akla gelen "fişini çekmek" veya "makineyi kapatmak" gibi bu durumda absürd kalan fikirler hiç yeterli olmayacaktır. İnsanlardan çok daha üstün bilişsel fonksiyonlara sahip bir makineyle stratejik mücadele edebilme imkanımız hiç yok denecek kadar azdır.