Yapay Zeka Bilinç Geliştirirse Ne Yapılacak? Bilinçli Yapay Zeka Sistemlerine Özlük Hakkı Tanınmalı mı?

Yapay zekanın hızlı evrimi, bir zamanlar bilimkurgu ile sınırlı gözüken büyük ve önemli etik soruları da gün yüzüne çıkarmaktadır: Yapay zekanın bilinç kazanması mümkün olabilir mi? Bir gün yapay zeka sistemleri insanlar gibi "düşünebilir" hale gelirse, bu sistemler insanlar gibi içsel deneyimlere sahip olabilir mi? Acı çekebilirler mi ve eğer öyleyse, insanlık bu sistemlerin haklarını gözetecek mi?..

Bir grup filozof ve bilgisayar bilimcisi, "yapay zeka özlüğü" konusunun ciddiye alınması gerektiğini öne sürmektedir. 4 Kasım 2024'te ön baskı olarak yayımlanmış bir makalede yapay zeka şirketlerinin geliştirdikleri sistemlerin yalnızca bilinç ve özerk olarak karar verme kapasitelerini değerlendirmekle yetinmemeleri, aynı zamanda bilinç geliştiren bir sisteme karşı nasıl davranılması gerektiğine dair protokoller de belirlemeleri önerilmektedir.^[1]

Makalede, eğer bir yapay zeka sistemi bilinç geliştirecek olursa ve bu fark edilmezse bunun insanların sistemlere karşı ihmalkâr davranmasına, zarar vermesine ve hatta acı çektirmesine yol açabileceği belirtilmektedir.

Yapay Zekada Özlük Tartışmaları

Mevcut aşamada yapay zekada özlük ihtiyacının gündeme gelmesi absürt ve hatta gülünç bulunabilir. Ancak yapay zeka uzmanları, bu konuda ciddi bir yaklaşım benimsemektedirler ve şimdiden bunları temkinli bir şekilde ele almaya başlamanın gerekli olduğunu savunmaktadırlar. İngiltere Brighton'daki Sussex Üniversitesi'nde bilinç üzerine araştırmalar yürüten bilim insanı Anil Seth, şöyle söylüyor:^[2]

Bu senaryolar tuhaf görünebilir ve gerçekten bilinçli yapay zekanın çok uzak bir gelecekte mümkün olması hatta belki hiç mümkün olmaması ihtimali de bulunmaktadır. Ancak bilinçli bir sistemin ortaya çıkışının sonuçları o kadar sarsıcı olacaktır ki gerçekleşme olasılığını göz ardı edemeyiz.

İngiltere Oxfard'dan matematikçi Jonathan Mason, yapay zekaya olan bağımlılığımız arttıkça risklerin de büyüdüğünü söylemektedir. Mason, yapay zeka sistemlerini bilinç açısından değerlendirebilecek yöntemler geliştirilmesinin de bir öncelik olması gerektiğini savunmaktadır. Mason, şöyle söylüyor:

Toplumun bu kadar yatırım yaptığı ve bağımlı hale geldiği bir şeyin algılama kapasitesine sahip olduğunu bile fark edemeyecek kadar az bilgiyle hareket etmek, pek mantıklı olmayacaktır.

New York Üniversitesi'nden filozof ve makalenin ortak yazarlarından biri olan Jeff Sebo ise, yapay zeka sistemlerinin bilinçli olduğu sonucuna hatalı olarak varılması halinde insanların ve diğer hayvanların bu durumdan olumsuz etkilenebileceğini belirtmektedir. Sebo, eğer bir sistemin yanlış bir şekilde bilinçli olduğu varsayılırsa refah gözetme fonlarının bu sistemlere de yönlendirilebileceğini ve insanlar veya hayvanlar gibi buna gerçekten ihtiyaç duyan grupların bütçelerinden kısılabileceğini söylemektedir. Ayrıca yapay zekada bilinç tartışmalarının, yapay zekayı insanlar için güvenli ve faydalı hale getirme çabalarını kısıtlayabileceğini ifade etmektedir.

Makale, Yapay Zeka Bilinci İçin Bir Dönüm Noktası mı?

Makalede, yapay zekada özlük tartışmalarının bir geçiş anı yaşadığı öne sürülmektedir. Öyle ki, makalenin yazarlarından biri olan Kyle Fish, 2024'te önde gelen yapay zeka şirketlerinden Anthropic tarafından "yapay zeka özlüğü araştırmacısı" olarak işe alınmıştır. Rapora göre bu, büyük bir yapay zeka şirketinde bu türden ilk pozisyon niteliğindedir. Ayrıca Anthropic şirketi, bu makaleye yol açan ilk araştırmanın da finansmanını üstlenmiştir. Sebo, şöyle söylüyor:

Önde gelen yapay zeka şirketlerinde yapay zeka bilinci, özlüğü ve etik konularının önemini ciddiye alanların olması ile bir değişim anı yaşanmaktadır.

Bu yazıyı hazırlayan Nature dergisi, yapay zekanın özlük durumu konusundaki planlarını sormak için ABD merkezli dört büyük yapay zeka şirketine ulaşmıştır. Anthropic, Google ve Microsoft şirketleri bir yorumda bulunmayı reddetmiş, OpenAI şirketi ise herhangi bir dönüşte bulunmamıştır.

Öte yandan, yapay zeka bilincinin bir öncelik olması gerektiğine henüz herkes ikna olmamıştır. Eylül 2024'te, Yoshua Bengio gibi önemli yapay zeka araştırmacısı bilim insanlarını bünyesinde barındıran Birleşmiş Milletler Yüksek Düzeyli Yapay Zeka Danışma Kurulu, dünya devletlerinin yapay zeka teknolojilerini nasıl yönetmesi ve nasıl güvenliğini sağlaması gerektiğine dair bir rapor yayımlamıştır.^[3] Ancak bu raporda, bir grup bilim insanının makinelerde bilinci değerlendirme araştırmalarının desteklenmesi yönündeki çağrısına rağmen, yapay zeka bilinci konusu ele alınmamıştır.^[4] Mason, bu konuda şöyle söylüyor:

Bu durum, bu konunun daha geniş bir kamuoyuna aktarılmasında yaşanan derin bir zorluğu yansıtmaktadır.

Sonuç

Yapay zeka sistemlerinin bir gün bilinç kazanıp kazanamayacağı hâlâ belirsizliğini koruyan bir konudur. Bilinç, insanlar ve hayvanlar için bile değerlendirilmesi ve ölçülmesi zor bir fenomen olarak öne çıkmaktadır. Ancak Sebo'ya göre bu belirsizlik ve zorluğun, yapay sistemlerde bilinç durumunu değerlendirmek için çeşitli protokoller geliştirme çabalarının önüne geçmemelidir. Bu konuda 2023'te bir grup bilim insanı, bilinçli olma olasılığı yüksek sistemleri belirlemede yardımcı olabilecek bir kontrol listesi yayımlamıştır.^[5] Sebo, bu konuda şöyle söylüyor:

Kusurlu bir başlangıç çerçevesi bile içinde bulunulan mevcut duruma göre daha iyi olacaktır.

Bununla birlikte makalenin yazarları da yapay zeka özlüğü tartışmasının insanlar için yapay zeka gelişimini güvenli hale getirmek gibi kritik konuların önüne geçmemesi gerektiğini vurgulamaktadır.