Birleşmiş Milletler, Yapay Zekâyı İklim Kriziyle Aynı Ciddiyette Ele Almayı Planlıyor!

19 Eylül 2024'te yayımlanan bir Birleşmiş Milletler raporu, yapay zekânın gerçek anlamda küresel ölçekte izlenmesi ve yönetilmesine yönelik ilk kapsamlı çabanın denetimini uluslararası bir kuruluşun üstlenmesi adına önergede bulunuyor.

Birleşmiş Milletler Genel Sekreteri'nin Yapay Zekâ Yüksek Düzeyli Danışma Kurulu tarafından hazırlanan bu rapor, Hükümetlerarası İklim Değişikliği Paneli'ne (İng: "IPCC") benzer bir yapının oluşturulmasını tavsiye etmektedir. Böyle bir yapı, yapay zekâ hakkında güncel bilgilerin, karşılaşılan risklerin ve ortaya çıkan eğilimlerin düzenli olarak toplanıp değerlendirilmesine yardımcı olabilir. Bu panelvari kuruluş, yapay zekâ teknolojisinin mevcut durumunun sürekli izlenmesini, yeni gelişmelerin ve potansiyel tehlikelerin saptanmasını amaçlayacak.

Rapor, Birleşmiş Milletler'e üye 193 devletin bir araya gelerek yapay zekâ alanındaki riskleri tartışabilecekleri ve eylem planları üzerinde uzlaşabilecekleri yeni bir politika diyaloğu sürecinin başlatılmasını talep etmektedir. Ayrıca, Birleşmiş Milletler bünyesindeki görece daha yoksul ülkelere, özellikle küresel güneydeki ülkelere yapay zekâdan yararlanmaları ve yönetim mekanizmalarına katkıda bulunmaları için destek sağlanması önerilmektedir. Söz edilen destekler arasında söz konusu ülkelere ait yapay zekâ projelerini finanse etmek amacıyla bir yapay zekâ fonunun oluşturulması, yapay zekâ standartlarının belirlenmesi, veri paylaşım sistemlerinin hayata geçirilmesi ve bu ülkelerin yapay zekâ yönetimi konusunda kapasite geliştirebilmeleri için eğitim gibi kaynakların sunulması sayılmaktadır.

Rapora göre, bu tür önerilerin bir kısmı hâlihazırda var olan Küresel Dijital Mutabakat (İng: "Global Digital Compact") çerçevesinde kolaylaştırılabilir. Son olarak rapor, Birleşmiş Milletler bünyesinde, raporun hedeflerine ulaşmak amacıyla mevcut girişimleri koordine edecek bir "Yapay Zekâ Ofisi" kurulmasını önermektedir. ABD Dışişleri Bakanlığı ve Beyaz Saray'ın önerisiyle BM danışma kurulunda görev alan ve İleri Araştırmalar Enstitüsü'nde (İng: "Institute for Advanced Study") profesörlük yapan Alondra Nelson, şöyle söylüyor:

Uluslararası komünite, yapay zekânın çeşitli zararları ve risklerinin yanı sıra sunduğu fırsatlar da bulunduğu konusunda hemfikir.

Son yıllarda büyük dil modelleri ve sohbet botları tarafından sergilenen sıra dışı yetenekler, ekonomik üretkenlikte bir devrim umudunu ateşlemiştir. Ancak aynı zamanda, bazı uzmanlar yapay zekânın çok hızlı geliştiğini ve yakında denetiminin güçleşebileceğini öne sürerek uyarılarda bulunmuşlardır. GPT-4'ün kullanıma açılmasının ardından, birçok bilim insanı ve sektördeki bazı isimler bir açık mektup imzalayarak yapay zekânın gelişimine altı aylık bir ara verilmesini, bu süre zarfında da risklerin değerlendirilebilmesini önermiştir.^[1]

Daha acil endişeler arasında yapay zekânın dezenformasyonu otomatikleştirme, DeepFake video ve ses üretme, işgücünün yerini alma ve toplumsal ön yargıları endüstriyel boyutta artırma potansiyeli bulunmaktadır. Nelson, bu konuda şöyle söylüyor:

Ortada bir aciliyet hissi var ve insanlar birlikte çalışmamız gerektiğini düşünüyor.

Birleşmiş Milletler'in önerileri, dünyanın dört bir yanında yasama organlarının yapay zekâyı düzenleyerek bu riskleri hafifletmeye yönelik artan ilgisini yansıtmaktadır. Ancak bu öneriler, aynı zamanda ABD ve Çin arasındaki rekabet ortamında gündeme gelmektedir. Zira bu güçler; muazzam ekonomik, bilimsel ve askerî avantajlar vaat eden bir teknolojide liderliği elde etmeye çalışırken yapay zekânın nasıl kullanılacağına ve denetleneceğine dair kendi vizyonlarını şekillendirmekte ve bunu dünya sahnesine yansıtmaktadır.

2024 yılının mart ayında ABD, Birleşmiş Milletler'e üye devletlere "güvenli, emniyetli ve güvenilir yapay zekâ" ilkelerini benimsemeleri çağrısında bulunan bir karar tasarısı sunmuştur. 2024 yılının Temmuz ayında ise Çin, yapay zekânın geliştirilmesinde işbirliğini ve teknolojinin geniş kitlelere erişimini vurgulayan kendi karar tasarısını ortaya koymuştur. Birleşmiş Milletlere üye tüm devletler, her iki metni de imzalamıştır.^{[3], [4]} Washington DC merkezli bir düşünce kuruluşu olan Brookings Enstitüsü'nde uzman olarak görev yapan Joshua Meltzer, şöyle söylüyor:

Yapay zekâ, ABD-Çin rekabetinin bir parçası ve bu nedenle aralarında ancak belirli bir ölçüde uzlaşma sağlanabilir.

Meltzer, kilit farklılıklar arasında yapay zekânın hangi norm ve değerleri somutlaştırması gerektiğine ilişkin görüş ayrılıkları ile gizlilik ve kişisel verilerin korunmasına dair yaklaşımların bulunduğunu belirtmektedir.

Zengin ülkeler arasındaki yapay zekâ algısındaki farklılıklar, pazar dinamiklerinde de ayrışmalara neden olmaktadır. Avrupa Birliği'nin veri kullanım kontrollerini içeren kapsamlı yapay zekâ düzenlemeleri, bazı ABD'li şirketleri ürünlerinin Avrupa ülkelerinde kullanımını sınırlamaya itmiştir.^{[5], [6]}

ABD federal hükümetinin özel sektöre görece müdahaleci olmayan yaklaşımı, ABD ve dünya için önemli teknoloji merkezlerinden olan Kaliforniya eyaletinin kendi yapay zekâ kurallarını önermesine yol açmıştır. Bu düzenlemelerin önceki sürümleri, faaliyetlerini devlete rapor etmelerini gerektirdiği için Kaliforniya'daki yapay zekâ şirketleri tarafından aşırı zahmetli bulunmuş ve dev teknoloji şirketlerin lobicilik faaliyetleri ile bu kurallar yumuşatılmıştır.

Evrim Ağacı'ndan Mesaj

Neden Desteğe İhtiyacımız Var?

Aslında maddi destek istememizin nedeni çok basit: Çünkü Evrim Ağacı, bizim tek mesleğimiz, tek gelir kaynağımız. Birçoklarının aksine bizler, sosyal medyada gördüğünüz makale ve videolarımızı hobi olarak, mesleğimizden arta kalan zamanlarda yapmıyoruz. Dolayısıyla bu işi sürdürebilmek için gelir elde etmemiz gerekiyor.

Bunda elbette ki hiçbir sakınca yok; kimin, ne şartlar altında yayın yapmayı seçtiği büyük oranda bir tercih meselesi. Ne var ki biz, eğer ana mesleklerimizi icra edecek olursak (yani kendi mesleğimiz doğrultusunda bir iş sahibi olursak) Evrim Ağacı'na zaman ayıramayacağımızı, ayakta tutamayacağımızı biliyoruz. Çünkü az sonra detaylarını vereceğimiz üzere, Evrim Ağacı sosyal medyada denk geldiğiniz makale ve videolardan çok daha büyük, kapsamlı ve aşırı zaman alan bir bilim platformu projesi. Bu nedenle bizler, meslek olarak Evrim Ağacı'nı seçtik.

Eğer hem Evrim Ağacı'ndan hayatımızı idame ettirecek, mesleklerimizi bırakmayı en azından kısmen meşrulaştıracak ve mantıklı kılacak kadar bir gelir kaynağı elde edemezsek, mecburen Evrim Ağacı'nı bırakıp, kendi mesleklerimize döneceğiz. Ama bunu istemiyoruz ve bu nedenle didiniyoruz.

Destek Ol

Meltzer ayrıca, yapay zekânın çok hızlı bir şekilde evrildiğini, bu nedenle Birleşmiş Milletler'in küresel iş birliğini tek başına yönetmesinin mümkün olmayacağını söylemektedir. Meltzer, şöyle söylüyor:

Birleşmiş Milletler, yapay zekâ yönetiminde önemli bir rol üstlenebilir; fakat bu, dağınık bir denetleme mekanizmasının tek bir parçası olmak zorunda. Tekil devletlerin de doğrudan bu konuda çalışması gerekiyor. Büyük hızla gelişen bir teknoloji söz konusu ve Birleşmiş Milletler böyle bir hıza uyum sağlamak üzere tasarlanmadı.

Birleşmiş Milletler raporu, üye devletler arasında ortak bir zemin inşa etmeye çalışırken insan haklarının önemini de vurgulamaktadır. Oxford Üniversitesi'nde uluslararası yapay zekâ yönetimi konusunda çalışan profesör Chris Russell, şöyle söylüyor:

Bu analizi insan hakları temeline oturtmak oldukça ikna edici duruyor. Bu yaklaşım, çalışmalara uluslararası hukuk çerçevesinde sağlam bir temel, son derece geniş bir yetki alanı ve insanların maruz kaldığı somut zararlara odaklanma imkânı vermektedir. Uluslararası düzeyde çalışmak ve birlikte çabalamak mantıklıdır.

Russell'a göre hükümetler, yapay zekâyı düzenlemeyi amaçlayan değerlendirmeler yaparken büyük ölçüde kendini tekrar eden çalışmalar yürütmektedir. Örneğin, ABD ve Birleşik Krallık hükümetleri, yapay zekâ modellerinin hatalı davranışlarını sınamak üzere ayrı ayrı kurumlar kurmuştur. Birleşmiş Milletler'in çabaları, bu tür gereksiz tekrarları önleyebilir.

Hükümetler yapay zekâyı stratejik bir avantaj unsuru olarak görse de, birçok bilim insanı yapay zekâ konusunda kaygılıdır. 2024 yılı eylül ayının son haftasında, Batı ve Çin'den önde gelen akademisyenler, Avusturya'nın Viyana kentinde düzenlenen bir yapay zekâ güvenliği konferansı sonrasında yapay zekâ güvenliği konusunda daha fazla iş birliği çağrısında bulunan ortak bir bildiri yayımlamıştır.^[2]

Sonuç

Sonuç olarak Birleşmiş Milletler raporu ve bu rapora eşlik eden uluslararası tartışmalar, yapay zekânın yönetimi konusunda küresel ölçekte yeni bir kurumsal mimarinin inşa edilmesi gerekliliğini açığa çıkarmaktadır. Bu mimari, iklim krizindeki IPCC benzeri bir panele dayanan merkezi bir koordinasyon yapısının yanı sıra yerel ve ulusal seviyelerde inisiyatiflerin ve düzenleyici çerçevelerin varlığı ile desteklenmelidir.

Küresel Güney ülkelerine sunulacak finansal, teknik ve kurumsal destek, yapay zekâ teknolojilerinin daha adil bir biçimde dağıtılmasına katkı sağlayacaktır. İnsan hakları çerçevesine dayanan normatif yaklaşım, devletlerin ortak bir zemin bulmasına yardımcı olabilirken; büyük güçler arasındaki rekabetin getirdiği zorluklar dikkatle yönetilmelidir. Nihayetinde Birleşmiş Milletler, yapay zekâ yönetiminde anlamlı bir rol üstlenebilir; ancak bu rol, çoklu aktörlerin, çoklu düzeylerin ve çoklu normatif çerçevelerin kesişim noktasında şekillenen dağınık ve esnek bir yönetim modelinin bir parçası olacaktır.

Şunu söyleyebiliriz ki küresel yönetim pratikleri, yapay zekâ alanında yeni şekillenmektedir. Bu erken dönemde atılan adımlar, gelecekteki kurumsal yapıları, norm setlerini ve uluslararası işbirliği çerçevelerini büyük ölçüde etkileme potansiyeline sahiptir. Birleşmiş Milletler'in bu raporu, uluslararası toplumu yapay zekâ konusunda kolektif bir bilince, karşılıklı saygıya ve sürdürülebilir bir ortak çıkar anlayışına yönelik önemli bir çağrı işlevi görmektedir. Dolayısıyla buradan çıkarılabilecek nihai sonuç, yapay zekâ teknolojilerinin sadece teknik mükemmelleştirme, verimlilik artışı veya ekonomik kazanç aracı olmadığı; aynı zamanda küresel yönetim, insan hakları ve çok taraflı diplomasi alanlarında yeni bir dönemi başlatacak kritik bir dönüşüm dinamiği olduğudur. Bu dönüşümün başarısı ise uluslararası toplumun kolektif çabalarına, uyuma, şeffaflığa ve ortak değerlere olan bağlılığına bağlı kalacaktır.