Yapay Zekâda Öncü Bilim İnsanları Felaket Risklerine Karşı Devletleri Önlem Almaya Çağırıyor!

Yapay zekânın geliştirilmesinde öncülük eden bilim insanları, hızlı bir şekilde gelişmekte olan bu teknolojinin potansiyel risklerini kontrol altına almak için ülkelerin küresel bir denetim sistemi kurmaları gerektiğini belirterek uyarıda bulunmaktadır.

Verilen komut ile metin ya da görsel gibi çıktılar üretebilen üretken yapay zekâ dil modellerinin ortaya çıkışı, yapay zekânın ne denli güçlü biçimlerde ilerlediğini açıkça göstermektedir. Teknolojiyi ticarileştirme yarışı, onu çok kısa sürede akademinin sınırlarından çıkarıp akıllı telefonlara, otomobillere ve dersliklere kadar taşımıştır. Bu süreçte Washington'dan Pekin'e kadar dünya genelindeki devletler, yapay zekâyı hem düzenlemek hem de ondan yararlanmak konusunda hızlıca çözümler üretmek zorunda kalmıştır.

Eylül 2024 Venedik Yapay Zekâ Güvenliği Toplantısı

Eylül 2024'te, yapay zekâ alanının önde gelen önemli isimlerinden Yoshua Bengio, Geoffrey Hinton, Stuart Russell, Andrew Yao ve Ya-Qin Zhang öncülüğünde birçok bilim insanı bir araya gelmiştir ve bizzat geliştirilmesine katkıda bulundukları yapay zekânın yakın bir gelecekte ciddi risklere yol açabileceği konusundaki kaygılarını dile getirmişlerdir.

Bu bilim insanları, yapay zekânın birkaç yıl gibi kısa bir süre içinde yaratıcılarının yeteneklerini geride bırakabilecek bir zekâ düzeyine ulaşabileceğini ve insan kontrolünün yitirilmesinin veya bu yapay zekâ sistemlerinin kötü niyetli kullanımının tüm insanlık açısından felaketle sonuçlanabileceği konusunda uyarılarda bulunmuşlardır.

Massimo Pistore

Bu toplantıya katılım sağlayan Johns Hopkins Üniversitesi'nden hukukçu, bilgisayar bilimi ve kamu yönetimi profesörü olan Gillian Hadfield, bugün dünyanın herhangi bir noktasında bir yapay zekâ sisteminin ileri yetenekler geliştirmesi durumunda onu dizginlemek için hazır bir planın mevcut olmadığını belirtmektedir. Dr. Hadfield şöyle söylüyor:

Eğer altı ay sonra bir felaket yaşansa, yani modellerin otonom bir şekilde kendilerini geliştirmeye başladığını fark etsek böyle bir durumda kimi arayacaksınız?

Bu nedenle, 5-8 Eylül 2024 tarihlerinde dünyanın dört bir yanından gelen bilim insanları, bu konulara dair bir planı tartışmak üzere Venedik'te bir araya gelmişlerdir. Bu toplantı, ABD merkezli kâr amacı gütmeyen bir araştırma grubu Far.AI oluşumunun Safe AI Forum (Tr: "Güvenli Yapay Zeka Forumu") tarafından organize edilen Uluslararası Yapay Zekâ Güvenliği Diyalogları'nın üçüncü buluşmasıdır. Venedik'te toplanan bilim insanları, devletlerin kendi topraklarındaki araştırma laboratuvarlarında ve şirketlerde yapay zekâ sistemleri ile ilgili neler olup bittiğini tam anlamıyla bilmesinin önemli bir gereklilik olduğunu vurgulamışlardır.

Yapay Zekâ Güvenliği Otoritesi Oluşturmanın Önemi

Bilim insanlarının önerisi, her ülkenin kendi sınırları içinde geliştirilen yapay zekâ sistemlerini takip edecek bir yapay zekâ güvenliği otoritesi kurması yönündedir. Bu doğrultuda ulusal güvenlik otoritelerini, yapay zekâ sistemlerinin kendilerini başka cihazlarda ya da internette kopyalayabilmesi veya yaratıcısını kasıtlı olarak aldatabilmesi gibi bazı kırmızı çizgiler ve uyarı işaretleri konusunda ortak standartlar belirlemesi gerektiğini belirtmişlerdir. Ayrıca bunun gibi ileri düzey riskler için devletlerin uluslararası düzeyde işbirliği yapması çağrısında bulunmuşlar ve bu süreç için Birleşmiş Milletler gibi bir uluslararası bir otoritenin koordinasyonunu önermişlerdir.

ABD, Çin, İngiltere, Kanada, Singapur ve başka birçok ülkeleden pek çok bilim insanı toplantı sonunda hazırlanan bildiriye imza atmışlardır. Bildirinin imzacılarından özellikle öne çıkan iki isim, Yoshua Bengio ve Geoffrey Hinton'dır. Aynı zamanda, Pekin Tsinghua Üniversitesi'nde verdiği dersler ile alanda ün kazanan ve başarılı birçok öğrenci yetiştiren Andrew Yao da imzacılar arasındadır. Bu üç ismin her biri, prestijli kabul edilen Turing A.M ACM Ödülü'nü kazanan seçkin araştırmacılar arasında yer almaktadır. Hinton ve Bengio, 2018 Yılı Turing Ödülü'nü; Yao ise 2000 Yılı Turing Ödülü'nü kazanmıştır).^{[1], [2], [3]} Ayrıca, bu isimlerden Hinton, 2024 Nobel Fizik Ödülü'nü de almaya hak kazanmıştır.

Bununla birlikte toplantıda, Çin'in hükümet politikalarına danışmanlık yapan önde gelen yapay zekâ araştırma kurumlarında çalışan birkaç Çinli bilim insanı da yer almıştır. Ayrıca eski hükümet yetkililerinden bazıları da toplantıya katılım sağlamıştır. Örneğin, daha önce Çin Dışişleri Bakanlığı'nda görev almış ve diplomat olarak hizmet vermiş Fu Ying ile İrlanda'nın eski cumhurbaşkanı Mary Robinson bu isimler arasındadır.

Buna ek olarak bilim insanları, ilk kez 2024'ün başlarında Çin'in başkenti Pekin'de toplanmış ve toplantı sonrasında üst düzey Çin hükümet yetkililerine görüşmelerinin içeriğini aktararak bilgi vermişlerdir.

Bildiri ile sonuçlanan son toplantı ise İtalya'nın Veneto bölgesinin başkenti Venedik'te gerçekleşmiştir. Bu toplantılar, Çin'den ve Batıdan bilim insanlarının etkileşim kurması için nadir bulunan bir fırsat sunmaktadır. Keza ABD ve Çin, teknolojik üstünlük için büyük bir rekabet içerisendedir. Bu bağlamda bu toplantılar, bilimsel ve teknolojik rekabet kızışırken ve diyalog ortamı giderek daralırken farklı coğrafyalardan uzmanların bir araya gelmesine olanak tanımaktadır.

2024 son baharında Çinli şirketler, ABD'li şirketlerin önde gelen yapay zekâ sistemleri ile rekabet edebilecek düzeyde teknolojiye ulaştıklarını duyurmuşlardır.^[4] Hem Çin'de hem de ABD'de hükümet yetkilileri, özellikle 2024 yılında yapay zekâyı öncelikli bir mesele haline getirmiştir. Temmuz 2024'te Çin'de, her beş yılda bir toplanan hükümet partisi kurultayı, yapay zekâ güvenliğini düzenleyecek bir sistem kurulması çağrısında bulunmuştur.^[5] 9 Eylül 2024'e gelindiğinde Çin'den etkili bir teknik standartlar kurumu, yapay zekâ güvenliği için bir çerçeve yayımlamıştır.^[6]

Yapay Zekâ Güvenliğine Yönelik Önceki Toplantılar

Ekim 2022'de dönemin ABD Başkanı Biden, yapay zekâ sistemlerinin kitle imha silahları yaratabilme veya terör grupları tarafından kullanılma ihtimali gibi riskler hakkında federal hükümete rapor verme zorunluluğu getiren bir başkanlık kararnamesi yayımlamıştır.^[7] Buna ilaveten 2023 yılında, ABD Başkanı Biden ve Çin Devlet Başkanı Xi Jinping bir araya gelmiş ve iki ülke yetkililerinin yapay zekâ güvenliği konusundaki görüşmeleri sürdürmesi konusunda bir mutabakata varmışlardır. Mayıs 2024'te İsviçre Cenevre'de, yapay zekâ güvenliği çerçevesindeki ilk ikili görüşme gerçekleşmiştir.^[8]

Kasım 2023'te ise daha geniş kapsamlı uluslararası bir hükümet girişimi olarak 28 ülkeden hükümet yetkilileri İngiltere'de düzenlenen bir zirvede bir araya gelmiş ve yapay zekânın risklerini değerlendirme konusunda işbirliği yapmaya yönelik olarak bir bildiri metni imzalamıştır.^[9] Mayıs 2024'te yapılan 2. zirvede hükümet temsilcileri Güney Kore'nin başkenti Seul'de yeniden bir araya gelmiştir. Ancak her iki zirve de somut politika hedefleri ortaya koyma noktasında yetersiz kalmıştır.

ABD ile Çin arasındaki güvensizlik hali, yapay zekâ güvenliği konusunda bir uyum yakalanmasını güçleştirmektedir. Carnegie Uluslararası Barış Vakfı'nda araştırmacı olarak görev alan ancak Venedik'teki toplantıda yer almayan Matt Sheehan şöyle söylüyor:

Her iki ülke de diğerinin niyetlerinden son derece şüphecidir. Eğer güvenlik endişeleri nedeniyle frenlere basarlarsa, ötekinin hızla öne geçeceğini düşünmektedirler. Bu kuşku hali hep var olacaktır.

Sonuç

Eylül 2024'te Venedik'te toplanan bilim insanları, iki jeopolitik süpergüç arasındaki yoğun rekabet koşullarında bilimsel iletişim kanallarının daha fazla daralmaması için bu tür görüşmelerin büyük önem taşıdığını belirtmişlerdir. Bu bilim grubunun kurucu üyelerinden Yoshua Bengio, bir röportajında Soğuk Savaş'ın en çetin dönemlerinde Amerikalı ve Sovyet bilim insanları arasında gerçekleşen görüşmelerin nükleer bir felaketi önleme yolunda nasıl bir işbirliği ortamı yarattığını hatırlatmaktadır. Geçmişte nükleer silahlanma yarışında olduğu üzere şimdi de yapay zekâ alanında yaşanan silahlanma yarışı, atom bombasını geliştiren bilim insanlarında olduğu gibi yapay zekâyı geliştiren bilim insanları üzerinde de bir sorumluluk hissi yaratmaktadır.

Alibaba'nın araştırma enstitüsü AliResearch'ün yapay zekâ yönetimi direktörü olan ancak bu toplantıda yer almayan Fu Hongyu ise teknolojinin çok hızlı dönüştüğünü ve ne şirketlerin ne de devletlerin bu konuda nasıl bir yaklaşım benimsemesi gerektiğini tam olarak bilemediğini belirtmektedir ve işbirliğinin kritik önem arz ettiğini ifade etmektedir. Fu, şöyle söylüyor:

Bu, olgunlaşmış bir teknolojiyi düzenlemeye benzemiyor. Yapay zekânın geleceğinin neye benzeyebileceğini kimse kestiremiyor.