Birleşmiş Milletler, Yapay Zekayı İklim Kriziyle Aynı Ciddiyette Ele Almayı Planlıyor!

19 Eylül 2024'te yayımlanan bir Birleşmiş Milletler raporu, yapay zekanın gerçek anlamda küresel ölçekte izlenmesi ve yönetilmesine yönelik ilk kapsamlı çabanın denetimini uluslararası bir kuruluşun üstlenmesi adına önergede bulunuyor.

Birleşmiş Milletler Genel Sekreteri'nin Yapay Zeka Yüksek Düzeyli Danışma Kurulu tarafından hazırlanan bu rapor, Hükümetlerarası İklim Değişikliği Paneli'ne (İng: "IPCC") benzer bir yapının oluşturulmasını tavsiye etmektedir. Böyle bir yapı, yapay zeka hakkında güncel bilgilerin, karşılaşılan risklerin ve ortaya çıkan eğilimlerin düzenli olarak toplanıp değerlendirilmesine yardımcı olabilir. Bu panelvari kuruluş, yapay zeka teknolojisinin mevcut durumunun sürekli izlenmesini, yeni gelişmelerin ve potansiyel tehlikelerin saptanmasını amaçlayacak.

Rapor, Birleşmiş Milletler'e üye 193 devletin bir araya gelerek yapay zeka alanındaki riskleri tartışabilecekleri ve eylem planları üzerinde uzlaşabilecekleri yeni bir politika diyaloğu sürecinin başlatılmasını talep etmektedir. Ayrıca, Birleşmiş Milletler bünyesindeki görece daha yoksul ülkelere, özellikle küresel güneydeki ülkelere yapay zekadan yararlanmaları ve yönetim mekanizmalarına katkıda bulunmaları için destek sağlanması önerilmektedir. Söz edilen destekler arasında söz konusu ülkelere ait yapay zeka projelerini finanse etmek amacıyla bir yapay zeka fonunun oluşturulması, yapay zeka standartlarının belirlenmesi, veri paylaşım sistemlerinin hayata geçirilmesi ve bu ülkelerin yapay zeka yönetimi konusunda kapasite geliştirebilmeleri için eğitim gibi kaynakların sunulması sayılmaktadır.

Rapora göre, bu tür önerilerin bir kısmı hâlihazırda var olan Küresel Dijital Mutabakat (İng: "Global Digital Compact") çerçevesinde kolaylaştırılabilir. Son olarak rapor, Birleşmiş Milletler bünyesinde, raporun hedeflerine ulaşmak amacıyla mevcut girişimleri koordine edecek bir "Yapay Zeka Ofisi" kurulmasını önermektedir. ABD Dışişleri Bakanlığı ve Beyaz Saray'ın önerisiyle BM danışma kurulunda görev alan ve İleri Araştırmalar Enstitüsü'nde (İng: "Institute for Advanced Study") profesörlük yapan Alondra Nelson, şöyle söylüyor:

Uluslararası komünite, yapay zekanın çeşitli zararları ve risklerinin yanı sıra sunduğu fırsatlar da bulunduğu konusunda hemfikir.

Son yıllarda büyük dil modelleri ve sohbet botları tarafından sergilenen sıra dışı yetenekler, ekonomik üretkenlikte bir devrim umudunu ateşlemiştir. Ancak aynı zamanda, bazı uzmanlar yapay zekanın çok hızlı geliştiğini ve yakında denetiminin güçleşebileceğini öne sürerek uyarılarda bulunmuşlardır. GPT-4'ün kullanıma açılmasının ardından, birçok bilim insanı ve sektördeki bazı isimler bir açık mektup imzalayarak yapay zekanın gelişimine altı aylık bir ara verilmesini, bu süre zarfında da risklerin değerlendirilebilmesini önermiştir.^[1]

Daha acil endişeler arasında yapay zekanın dezenformasyonu otomatikleştirme, DeepFake video ve ses üretme, işgücünün yerini alma ve toplumsal ön yargıları endüstriyel boyutta artırma potansiyeli bulunmaktadır. Nelson, bu konuda şöyle söylüyor:

Ortada bir aciliyet hissi var ve insanlar birlikte çalışmamız gerektiğini düşünüyor.

Birleşmiş Milletler'in önerileri, dünyanın dört bir yanında yasama organlarının yapay zekayı düzenleyerek bu riskleri hafifletmeye yönelik artan ilgisini yansıtmaktadır. Ancak bu öneriler, aynı zamanda ABD ve Çin arasındaki rekabet ortamında gündeme gelmektedir. Zira bu güçler; muazzam ekonomik, bilimsel ve askerî avantajlar vaat eden bir teknolojide liderliği elde etmeye çalışırken yapay zekanın nasıl kullanılacağına ve denetleneceğine dair kendi vizyonlarını şekillendirmekte ve bunu dünya sahnesine yansıtmaktadır.

2024 yılının mart ayında ABD, Birleşmiş Milletler'e üye devletlere "güvenli, emniyetli ve güvenilir yapay zeka" ilkelerini benimsemeleri çağrısında bulunan bir karar tasarısı sunmuştur. 2024 yılının Temmuz ayında ise Çin, yapay zekanın geliştirilmesinde işbirliğini ve teknolojinin geniş kitlelere erişimini vurgulayan kendi karar taasarısını ortaya koymuştur. Birleşmiş Milletlere üye tüm devletler, her iki metni de imzalamıştır.^{[3], [4]} Washington DC merkezli bir düşünce kuruluşu olan Brookings Enstitüsü'nde uzman olarak görev yapan Joshua Meltzer, şöyle söylüyor:

Yapay zeka, ABD-Çin rekabetinin bir parçası ve bu nedenle aralarında ancak belirli bir ölçüde uzlaşma sağlanabilir.

Meltzer, kilit farklılıklar arasında yapay zekanın hangi norm ve değerleri somutlaştırması gerektiğine ilişkin görüş ayrılıkları ile gizlilik ve kişisel verilerin korunmasına dair yaklaşımların bulunduğunu belirtmektedir.

Zengin ülkeler arasındaki yapay zeka algısındaki farklılıklar, pazar dinamiklerinde de ayrışmalara neden olmaktadır. Avrupa Birliği'nin veri kullanım kontrollerini içeren kapsamlı yapay zeka düzenlemeleri, bazı ABD'li şirketleri ürünlerinin Avrupa ülkelerinde kullanımını sınırlamaya itmiştir.^{[5], [6]}

ABD federal hükümetinin özel sektöre görece müdahaleci olmayan yaklaşımı, ABD ve dünya için önemli teknoloji merkezlerinden olan Kaliforniya eyaletinin kendi yapay zeka kurallarını önermesine yol açmıştır. Bu düzenlemelerin önceki sürümleri, faaliyetlerini devlete rapor etmelerini gerektirdiği için Kaliforniya'daki yapay zeka şirketleri tarafından aşırı zahmetli bulunmuş ve dev teknoloji şirketlerin lobicilik faaliyetleri ile bu kurallar yumuşatılmıştır.

Meltzer ayrıca, yapay zekanın çok hızlı bir şekilde evrildiğini, bu nedenle Birleşmiş Milletler'in küresel iş birliğini tek başına yönetmesinin mümkün olmayacağını söylemektedir. Meltzer, şöyle söylüyor:

Birleşmiş Milletler, yapay zeka yönetiminde önemli bir rol üstlenebilir; fakat bu, dağınık bir denetleme mekanizmasının tek bir parçası olmak zorunda. Tekil devletlerin de doğrudan bu konuda çalışması gerekiyor. Büyük hızla gelişen bir teknoloji söz konusu ve Birleşmiş Milletler böyle bir hıza uyum sağlamak üzere tasarlanmadı.

Birleşmiş Milletler raporu, üye devletler arasında ortak bir zemin inşa etmeye çalışırken insan haklarının önemini de vurgulamaktadır. Oxford Üniversitesi'nde uluslararası yapay zeka yönetimi konusunda çalışan profesör Chris Russell, şöyle söylüyor:

Bu analizi insan hakları temeline oturtmak oldukça ikna edici duruyor. Bu yaklaşım, çalışmalara uluslararası hukuk çerçevesinde sağlam bir temel, son derece geniş bir yetki alanı ve insanların maruz kaldığı somut zararlara odaklanma imkânı vermektedir. Uluslararası düzeyde çalışmak ve birlikte çabalamak mantıklıdır.

Russell'a göre hükümetler, yapay zekayı düzenlemeyi amaçlayan değerlendirmeler yaparken büyük ölçüde kendini tekrar eden çalışmalar yürütmektedir. Örneğin, ABD ve Birleşik Krallık hükümetleri, yapay zeka modellerinin hatalı davranışlarını sınamak üzere ayrı ayrı kurumlar kurmuştur. Birleşmiş Milletler'in çabaları, bu tür gereksiz tekrarları önleyebilir.

Hükümetler yapay zekayı stratejik bir avantaj unsuru olarak görse de, birçok bilim insanı yapay zeka konusunda kaygılıdır. 2024 yılı eylül ayının son haftasında, Batı ve Çin'den önde gelen akademisyenler, Avusturya'nın Viyana kentinde düzenlenen bir yapay zeka güvenliği konferansı sonrasında yapay zeka güvenliği konusunda daha fazla iş birliği çağrısında bulunan ortak bir bildiri yayımlamıştır.^[2]

Sonuç

Sonuç olarak Birleşmiş Milletler raporu ve bu rapora eşlik eden uluslararası tartışmalar, yapay zekanın yönetimi konusunda küresel ölçekte yeni bir kurumsal mimarinin inşa edilmesi gerekliliğini açığa çıkarmaktadır. Bu mimari, iklim krizindeki IPCC benzeri bir panele dayanan merkezi bir koordinasyon yapısının yanı sıra yerel ve ulusal seviyelerde inisiyatiflerin ve düzenleyici çerçevelerin varlığı ile desteklenmelidir.

Küresel Güney ülkelerine sunulacak finansal, teknik ve kurumsal destek, yapay zeka teknolojilerinin daha adil bir biçimde dağıtılmasına katkı sağlayacaktır. İnsan hakları çerçevesine dayanan normatif yaklaşım, devletlerin ortak bir zemin bulmasına yardımcı olabilirken; büyük güçler arasındaki rekabetin getirdiği zorluklar dikkatle yönetilmelidir. Nihayetinde Birleşmiş Milletler, yapay zeka yönetiminde anlamlı bir rol üstlenebilir; ancak bu rol, çoklu aktörlerin, çoklu düzeylerin ve çoklu normatif çerçevelerin kesişim noktasında şekillenen dağınık ve esnek bir yönetim modelinin bir parçası olacaktır.

Şunu söyleyebiliriz ki küresel yönetim pratikleri, yapay zeka alanında yeni şekillenmektedir. Bu erken dönemde atılan adımlar, gelecekteki kurumsal yapıları, norm setlerini ve uluslararası işbirliği çerçevelerini büyük ölçüde etkileme potansiyeline sahiptir. Birleşmiş Milletler'in bu raporu, uluslararası toplumu yapay zeka konusunda kolektif bir bilince, karşılıklı saygıya ve sürdürülebilir bir ortak çıkar anlayışına yönelik önemli bir çağrı işlevi görmektedir. Dolayısıyla buradan çıkarılabilecek nihai sonuç, yapay zeka teknolojilerinin sadece teknik mükemmelleştirme, verimlilik artışı veya ekonomik kazanç aracı olmadığı; aynı zamanda küresel yönetim, insan hakları ve çok taraflı diplomasi alanlarında yeni bir dönemi başlatacak kritik bir dönüşüm dinamiği olduğudur. Bu dönüşümün başarısı ise uluslararası toplumun kolektif çabalarına, uyuma, şeffaflığa ve ortak değerlere olan bağlılığına bağlı kalacaktır.