Yapay Zeka ve Felaket Riskleri: Dünya Devletleri Neden Yapay Zeka Güvenliğini Sağlamak için Bir An Önce Harekete Geçmeli?
Bilim İnsanları, Yapay Zeka Gelişmelerinin Güvenliğinin Denetlenmesi İçin Devletleri Göreve Çağırıyor!

Yapay zekanın geliştirilmesinde öncülük eden bilim insanları, hızlı bir şekilde gelişmekte olan bu teknolojinin potansiyel risklerini kontrol altına almak için ülkelerin küresel bir denetim sistemi kurmaları gerektiğini belirterek uyarıda bulunmaktadır.
Verilen komut ile metin ya da görsel gibi çıktılar üretebilen üretken yapay zeka dil modellerinin ortaya çıkışı, yapay zekanın ne denli güçlü biçimlerde ilerlediğini açıkça göstermektedir. Teknolojiyi ticarileştirme yarışı, onu çok kısa sürede akademinin sınırlarından çıkarıp akıllı telefonlara, otomobillere ve dersliklere kadar taşımıştır. Bu süreçte Washington'dan Pekin'e kadar dünya genelindeki devletler, yapay zekayı hem düzenlemek hem de ondan yararlanmak konusunda hızlıca çözümler üretmek zorunda kalmıştır.
Eylül 2024 Venedik Yapay Zeka Güvenliği Toplantısı
Eylül 2024'te, yapay zeka alanının önde gelen önemli isimlerinden Yoshua Bengio, Geoffrey Hinton, Stuart Russell, Andrew Yao ve Ya-Qin Zhang öncülüğünde birçok bilim insanı bir araya gelmiştir ve bizzat geliştirilmesine katkıda bulundukları yapay zekanın yakın bir gelecekte ciddi risklere yol açabileceği konusundaki kaygılarını dile getirmişlerdir.
Bu bilim insanları, yapay zekanın birkaç yıl gibi kısa bir süre içinde yaratıcılarının yeteneklerini geride bırakabilecek bir zeka düzeyine ulaşabileceğini ve insan kontrolünün yitirilmesinin veya bu yapay zeka sistemlerinin kötü niyetli kullanımının tüm insanlık açısından felaketle sonuçlanabileceği konusunda uyarılarda bulunmuşlardır.

Bu toplantıya katılım sağlayan Johns Hopkins Üniversitesi'nden hukukçu, bilgisayar bilimi ve kamu yönetimi profesörü olan Gillian Hadfield, bugün dünyanın herhangi bir noktasında bir yapay zeka sisteminin ileri yetenekler geliştirmesi durumunda onu dizginlemek için hazır bir planın mevcut olmadığını belirtmektedir. Dr. Hadfield şöyle söylüyor:
Eğer altı ay sonra bir felaket yaşansa, yani modellerin otonom bir şekilde kendilerini geliştirmeye başladığını fark etsek böyle bir durumda kimi arayacaksınız?
Bu nedenle, 5-8 Eylül 2024 tarihlerinde dünyanın dört bir yanından gelen bilim insanları, bu konulara dair bir planı tartışmak üzere Venedik'te bir araya gelmişlerdir. Bu toplantı, ABD merkezli kâr amacı gütmeyen bir araştırma grubu Far.AI oluşumunun Safe AI Forum (Tr: "Güvenli Yapay Zeka Forumu") tarafından organize edilen Uluslararası Yapay Zeka Güvenliği Diyalogları'nın üçüncü buluşmasıdır. Venedik'te toplanan bilim insanları, devletlerin kendi topraklarındaki araştırma laboratuvarlarında ve şirketlerde yapay zeka sistemleri ile ilgili neler olup bittiğini tam anlamıyla bilmesinin önemli bir gereklilik olduğunu vurgulamışlardır.
Yapay Zeka Güvenliği Otoritesi Oluşturmanın Önemi
Bilim insanlarının önerisi, her ülkenin kendi sınırları içinde geliştirilen yapay zeka sistemlerini takip edecek bir yapay zeka güvenliği otoritesi kurması yönündedir. Bu doğrultuda ulusal güvenlik otoritelerini, yapay zeka sistemlerinin kendilerini başka cihazlarda ya da internette kopyalayabilmesi veya yaratıcısını kasıtlı olarak aldatabilmesi gibi bazı kırmızı çizgiler ve uyarı işaretleri konusunda ortak standartlar belirlemesi gerektiğini belirtmişlerdir. Ayrıca bunun gibi ileri düzey riskler için devletlerin uluslararası düzeyde işbirliği yapması çağrısında bulunmuşlar ve bu süreç için Birleşmiş Milletler gibi bir uluslararası bir otoritenin koordinasyonunu önermişlerdir.
ABD, Çin, İngiltere, Kanada, Singapur ve başka birçok ülkeleden pek çok bilim insanı toplantı sonunda hazırlanan bildiriye imza atmışlardır. Bildirinin imzacılarından özellikle öne çıkan iki isim, Yoshua Bengio ve Geoffrey Hinton'dır. Aynı zamanda, Pekin Tsinghua Üniversitesi'nde verdiği dersler ile alanda ün kazanan ve başarılı birçok öğrenci yetiştiren Andrew Yao da imzacılar arasındadır. Bu üç ismin her biri, prestijli kabul edilen Turing A.M ACM Ödülü'nü kazanan seçkin araştırmacılar arasında yer almaktadır. Hinton ve Bengio, 2018 Yılı Turing Ödülü'nü; Yao ise 2000 Yılı Turing Ödülü'nü kazanmıştır).[1], [2], [3] Ayrıca, bu isimlerden Hinton, 2024 Nobel Fizik Ödülü'nü de almaya hak kazanmıştır.
Bununla birlikte toplantıda, Çin'in hükümet politikalarına danışmanlık yapan önde gelen yapay zeka araştırma kurumlarında çalışan birkaç Çinli bilim insanı da yer almıştır. Ayrıca eski hükümet yetkililerinden bazıları da toplantıya katılım sağlamıştır. Örneğin, daha önce Çin Dışişleri Bakanlığı'nda görev almış ve diplomat olarak hizmet vermiş Fu Ying ile İrlanda'nın eski cumhurbaşkanı Mary Robinson bu isimler arasındadır.
Buna ek olarak bilim insanları, ilk kez 2024'ün başlarında Çin'in başkenti Pekin'de toplanmış ve toplantı sonrasında üst düzey Çin hükümet yetkililerine görüşmelerinin içeriğini aktararak bilgi vermişlerdir.
Bildiri ile sonuçlanan son toplantı ise İtalya'nın Veneto bölgesinin başkenti Venedik'te gerçekleşmiştir. Bu toplantılar, Çin'den ve Batıdan bilim insanlarının etkileşim kurması için nadir bulunan bir fırsat sunmaktadır. Keza ABD ve Çin, teknolojik üstünlük için büyük bir rekabet içerisendedir. Bu bağlamda bu toplantılar, bilimsel ve teknolojik rekabet kızışırken ve diyalog ortamı giderek daralırken farklı coğrafyalardan uzmanların bir araya gelmesine olanak tanımaktadır.
Aslında maddi destek istememizin nedeni çok basit: Çünkü Evrim Ağacı, bizim tek mesleğimiz, tek gelir kaynağımız. Birçoklarının aksine bizler, sosyal medyada gördüğünüz makale ve videolarımızı hobi olarak, mesleğimizden arta kalan zamanlarda yapmıyoruz. Dolayısıyla bu işi sürdürebilmek için gelir elde etmemiz gerekiyor.
Bunda elbette ki hiçbir sakınca yok; kimin, ne şartlar altında yayın yapmayı seçtiği büyük oranda bir tercih meselesi. Ne var ki biz, eğer ana mesleklerimizi icra edecek olursak (yani kendi mesleğimiz doğrultusunda bir iş sahibi olursak) Evrim Ağacı'na zaman ayıramayacağımızı, ayakta tutamayacağımızı biliyoruz. Çünkü az sonra detaylarını vereceğimiz üzere, Evrim Ağacı sosyal medyada denk geldiğiniz makale ve videolardan çok daha büyük, kapsamlı ve aşırı zaman alan bir bilim platformu projesi. Bu nedenle bizler, meslek olarak Evrim Ağacı'nı seçtik.
Eğer hem Evrim Ağacı'ndan hayatımızı idame ettirecek, mesleklerimizi bırakmayı en azından kısmen meşrulaştıracak ve mantıklı kılacak kadar bir gelir kaynağı elde edemezsek, mecburen Evrim Ağacı'nı bırakıp, kendi mesleklerimize döneceğiz. Ama bunu istemiyoruz ve bu nedenle didiniyoruz.
2024 son baharında Çinli şirketler, ABD'li şirketlerin önde gelen yapay zeka sistemleri ile rekabet edebilecek düzeyde teknolojiye ulaştıklarını duyurmuşlardır.[4] Hem Çin'de hem de ABD'de hükümet yetkilileri, özellikle 2024 yılında yapay zekayı öncelikli bir mesele haline getirmiştir. Temmuz 2024'te Çin'de, her beş yılda bir toplanan hükümet partisi kurultayı, yapay zeka güvenliğini düzenleyecek bir sistem kurulması çağrısında bulunmuştur.[5] 9 Eylül 2024'e gelindiğinde Çin'den etkili bir teknik standartlar kurumu, yapay zeka güvenliği için bir çerçeve yayımlamıştır.[6]
Yapay Zeka Güvenliğine Yönelik Önceki Toplantılar
Ekim 2022'de dönemin ABD Başkanı Biden, yapay zeka sistemlerinin kitle imha silahları yaratabilme veya terör grupları tarafından kullanılma ihtimali gibi riskler hakkında federal hükümete rapor verme zorunluluğu getiren bir başkanlık kararnamesi yayımlamıştır.[7] Buna ilaveten 2023 yılında, ABD Başkanı Biden ve Çin Devlet Başkanı Xi Jinping bir araya gelmiş ve iki ülke yetkililerinin yapay zeka güvenliği konusundaki görüşmeleri sürdürmesi konusunda bir mutabakata varmışlardır. Mayıs 2024'te İsviçre Cenevre'de, yapay zeka güvenliği çerçevesindeki ilk ikili görüşme gerçekleşmiştir.[8]
Kasım 2023'te ise daha geniş kapsamlı uluslararası bir hükümet girişimi olarak 28 ülkeden hükümet yetkilileri İngiltere'de düzenlenen bir zirvede bir araya gelmiş ve yapay zekanın risklerini değerlendirme konusunda işbirliği yapmaya yönelik olarak bir bildiri metni imzalamıştır.[9] Mayıs 2024'te yapılan 2. zirvede hükümet temsilcileri Güney Kore'nin başkenti Seul'de yeniden bir araya gelmiştir. Ancak her iki zirve de somut politika hedefleri ortaya koyma noktasında yetersiz kalmıştır.
ABD ile Çin arasındaki güvensizlik hali, yapay zeka güvenliği konusunda bir uyum yakalanmasını güçleştirmektedir. Carnegie Uluslararası Barış Vakfı'nda araştırmacı olarak görev alan ancak Venedik'teki toplantıda yer almayan Matt Sheehan şöyle söylüyor:
Her iki ülke de diğerinin niyetlerinden son derece şüphecidir. Eğer güvenlik endişeleri nedeniyle frenlere basarlarsa, ötekinin hızla öne geçeceğini düşünmektedirler. Bu kuşku hali hep var olacaktır.
Sonuç
Eylül 2024'te Venedik'te toplanan bilim insanları, iki jeopolitik süpergüç arasındaki yoğun rekabet koşullarında bilimsel iletişim kanallarının daha fazla daralmaması için bu tür görüşmelerin büyük önem taşıdığını belirtmişlerdir. Bu bilim grubunun kurucu üyelerinden Yoshua Bengio, bir röportajında Soğuk Savaş'ın en çetin dönemlerinde Amerikalı ve Sovyet bilim insanları arasında gerçekleşen görüşmelerin nükleer bir felaketi önleme yolunda nasıl bir işbirliği ortamı yarattığını hatırlatmaktadır. Geçmişte nükleer silahlanma yarışında olduğu üzere şimdi de yapay zeka alanında yaşanan silahlanma yarışı, atom bombasını geliştiren bilim insanlarında olduğu gibi yapay zekayı geliştiren bilim insanları üzerinde de bir sorumluluk hissi yaratmaktadır.
Alibaba'nın araştırma enstitüsü AliResearch'ün yapay zeka yönetimi direktörü olan ancak bu toplantıda yer almayan Fu Hongyu ise teknolojinin çok hızlı dönüştüğünü ve ne şirketlerin ne de devletlerin bu konuda nasıl bir yaklaşım benimsemesi gerektiğini tam olarak bilemediğini belirtmektedir ve işbirliğinin kritik önem arz ettiğini ifade etmektedir. Fu, şöyle söylüyor:
Bu, olgunlaşmış bir teknolojiyi düzenlemeye benzemiyor. Yapay zekanın geleceğinin neye benzeyebileceğini kimse kestiremiyor.
Evrim Ağacı'nda tek bir hedefimiz var: Bilimsel gerçekleri en doğru, tarafsız ve kolay anlaşılır şekilde Türkiye'ye ulaştırmak. Ancak tahmin edebileceğiniz gibi Türkiye'de bilim anlatmak hiç kolay bir iş değil; hele ki bir yandan ekonomik bir hayatta kalma mücadelesi verirken...
O nedenle sizin desteklerinize ihtiyacımız var. Eğer yazılarımızı okuyanların %1'i bize bütçesinin elverdiği kadar destek olmayı seçseydi, bir daha tek bir reklam göstermeden Evrim Ağacı'nın bütün bilim iletişimi faaliyetlerini sürdürebilirdik. Bir düşünün: sadece %1'i...
O %1'i inşa etmemize yardım eder misiniz? Evrim Ağacı Premium üyesi olarak, ekibimizin size ve Türkiye'ye bilimi daha etkili ve profesyonel bir şekilde ulaştırmamızı mümkün kılmış olacaksınız. Ayrıca size olan minnetimizin bir ifadesi olarak, çok sayıda ayrıcalığa erişim sağlayacaksınız.
Makalelerimizin bilimsel gerçekleri doğru bir şekilde yansıtması için en üst düzey çabayı gösteriyoruz. Gözünüze doğru gelmeyen bir şey varsa, mümkünse güvenilir kaynaklarınızla birlikte bize ulaşın!
Bu makalemizle ilgili merak ettiğin bir şey mi var? Buraya tıklayarak sorabilirsin.
İlgili Sorular
- Bu örgütsüz bireylerin haklı yakarış, bağırış, çağırışlarını hiç bir muktedir duymaz ise ne olacak?
- Uyarmak ve harekete geçilmesi için çağrıda bulunmak, işin icracısı konumundaki bir meslek kesimini, bilim camiasını sorumluluktan alı koyar mı?
- 5
- 3
- 1
- 1
- 0
- 0
- 0
- 0
- 0
- 0
- 0
- 0
- Çeviri Kaynağı: The New York Times | Arşiv Bağlantısı
- ^ A.M. Turing Award. Yoshua Bengio - A.m. Turing Award Laureate. (1 Ocak 2018). Alındığı Tarih: 16 Aralık 2024. Alındığı Yer: A.M. Turing Award | Arşiv Bağlantısı
- ^ A.M. Turing Award. Geoffrey E Hinton - A.m. Turing Award Laureate. (1 Ocak 2018). Alındığı Tarih: 16 Aralık 2024. Alındığı Yer: A.M. Turing Award | Arşiv Bağlantısı
- ^ A.M. Turing Award. Andrew C Yao - A.m. Turing Award Laureate. (1 Ocak 2000). Alındığı Tarih: 16 Aralık 2024. Alındığı Yer: A.M. Turing Award | Arşiv Bağlantısı
- ^ K. Bradsher, et al. China Is Holding A Major Meeting On The Economy That You Can’t Watch. (25 Temmuz 2024). Alındığı Tarih: 10 Aralık 2024. Alındığı Yer: The New York Times | Arşiv Bağlantısı
- ^ E. KURTENBACH. China's Communist Party Charts Technology- And Security-Focused Development For Reviving The Economy. (17 Temmuz 2024). Alındığı Tarih: 10 Aralık 2024. Alındığı Yer: AP News | Arşiv Bağlantısı
- ^ tc260. 《人工智能安全治理框架》1.0版. (9 Eylül 2024). Alındığı Tarih: 10 Aralık 2024. Alındığı Yer: tc260 | Arşiv Bağlantısı
- ^ The White House. Fact Sheet: President Biden Issues Executive Order On Safe, Secure, And Trustworthy Artificial Intelligence | The White House. (30 Ekim 2023). Alındığı Tarih: 10 Aralık 2024. Alındığı Yer: The White House | Arşiv Bağlantısı
- ^ U.S. Mission to International Organizations in Geneva. Statement From Nsc Spokesperson Adrienne Watson On The U.s.-Prc Talks On Ai Risk And Safety. (15 Mayıs 2024). Alındığı Tarih: 10 Aralık 2024. Alındığı Yer: U.S. Mission to International Organizations in Geneva | Arşiv Bağlantısı
- ^ UK Gov. Ai Safety Summit 2023 - Gov.uk. (22 Kasım 2024). Alındığı Tarih: 10 Aralık 2024. Alındığı Yer: UK Gov | Arşiv Bağlantısı
- A. S. Index. Engineering Highly Cited Researchers Citation Rankings 2025. Alındığı Tarih: 10 Aralık 2024. Alındığı Yer: ADScientificindex | Arşiv Bağlantısı
Evrim Ağacı'na her ay sadece 1 kahve ısmarlayarak destek olmak ister misiniz?
Şu iki siteden birini kullanarak şimdi destek olabilirsiniz:
kreosus.com/evrimagaci | patreon.com/evrimagaci
Çıktı Bilgisi: Bu sayfa, Evrim Ağacı yazdırma aracı kullanılarak 10/03/2025 06:48:32 tarihinde oluşturulmuştur. Evrim Ağacı'ndaki içeriklerin tamamı, birden fazla editör tarafından, durmaksızın elden geçirilmekte, güncellenmekte ve geliştirilmektedir. Dolayısıyla bu çıktının alındığı tarihten sonra yapılan güncellemeleri görmek ve bu içeriğin en güncel halini okumak için lütfen şu adrese gidiniz: https://evrimagaci.org/s/19235
İçerik Kullanım İzinleri: Evrim Ağacı'ndaki yazılı içerikler orijinallerine hiçbir şekilde dokunulmadığı müddetçe izin alınmaksızın paylaşılabilir, kopyalanabilir, yapıştırılabilir, çoğaltılabilir, basılabilir, dağıtılabilir, yayılabilir, alıntılanabilir. Ancak bu içeriklerin hiçbiri izin alınmaksızın değiştirilemez ve değiştirilmiş halleri Evrim Ağacı'na aitmiş gibi sunulamaz. Benzer şekilde, içeriklerin hiçbiri, söz konusu içeriğin açıkça belirtilmiş yazarlarından ve Evrim Ağacı'ndan başkasına aitmiş gibi sunulamaz. Bu sayfa izin alınmaksızın düzenlenemez, Evrim Ağacı logosu, yazar/editör bilgileri ve içeriğin diğer kısımları izin alınmaksızın değiştirilemez veya kaldırılamaz.
This work is an exact translation of the article originally published in The New York Times. Evrim Ağacı is a popular science organization which seeks to increase scientific awareness and knowledge in Turkey, and this translation is a part of those efforts. If you are the author/owner of this article and if you choose it to be taken down, please contact us and we will immediately remove your content. Thank you for your cooperation and understanding.