Yapay Zekâ Bilincini Araştırmak İçin Çok Daha Fazla Fon Ayrılmalı!

Yapay zekâ (YZ) sistemleri bilinçli hale gelebilir mi? Bilinç bilimcilerden oluşan bir koalisyon, şu anda bunu kimsenin bilmediğini söylüyor ve bu soruyla ilgili araştırma eksikliğinden duyduğu endişeyi dile getiriyor.

Matematiksel Bilinç Bilimi Derneği (AMCS) üyeleri, Birleşmiş Milletler'e yaptıkları açıklamalarda, bilinç ve yapay zekâ araştırmalarını desteklemek için daha fazla fon çağrısında bulunuyor. Bilinçli ve bilinçsiz sistemler arasındaki sınırların bilimsel olarak araştırılmasına acilen ihtiyaç duyulduğunu söyleyen üyeler, YZ bilincini anlamayı çok önemli kılan etik, yasal ve güvenlik konularına da değiniyorlar. Örneğin, eğer YZ bilinç geliştirecek olursa, insanların onu kullandıktan sonra kolayca kapatmalarına izin verilmeli mi?

AMCS yönetim kurulu üyesi ve İngiltere'nin Oxford şehrinde bir matematikçi olan Jonathan Mason'a göre bu tür endişeler, son zamanlardaki YZ güvenliği konulu tartışmalarda genellikle göz ardı edilmektedir. Örneğin, İngiltere'de düzenlenen yüksek düzeyli Yapay Zekâ Güvenliği Toplantısı gibi etkinliklerde veya ABD Başkanı Joe Biden'ın yapay zekâ teknolojisinin sorumlu şekilde gelişimini amaçlayan başkanlık emri gibi önlemlerde, bilinçli yapay zekâ sistemlerinden kaynaklanan sorunlara dair pek az bahis geçmiştir. Mason, konu hakkında şunları söylüyor:

Yapay zekâ alanında olup biten her şeyle birlikte, kaçınılmaz olarak bilimin ilgili alanlarının da bu gelişmelere yetişmesi gerekecek. Bilinç alanı da bunlardan biri.

Bilinç Kazanma Senaryosu Bilimkurgu Değil!

Bilinçli yapay zekâ sistemlerinin var olup olmadığı ya da olup olmayacağı bilim dünyası tarafından net olarak bilinmiyor. Mason, araştırmacıların makinelerdeki bilinci değerlendirmek için henüz bilimsel olarak doğrulanmış yöntemler oluşturmamış olması nedeniyle, böyle bir yapay zekanın geliştirilip geliştirilmediğini bilmenin bile zor olacağını söylüyor. San Francisco, Kaliforniya'da kâr amacı gütmeyen bir araştırma kuruluşu olan Center for AI Safety'de felsefeci olan Robert Long, konu hakkında şunları söylüyor:

Yapay zekâ bilinci konusundaki belirsizliğimiz, ilerleme hızı göz önüne alındığında bizi endişelendirmesi gereken YZ ile ilgili birçok problemlerden biridir.

Bu tür endişeler artık sadece bilimkurgu değil. ChatGPT sohbet botunu yaratan OpenAI gibi şirketler, insanların yapabildiklerine benzer çok çeşitli entelektüel görevleri yerine getirmek üzere eğitilmiş bir derin öğrenme sistemi olan Yapay Genel Zekâ'yı geliştirmeyi hedefliyor. Bazı araştırmacılar bunun 5-20 yıl içinde mümkün olacağını öngörüyor. Mason, buna rağmen bilinç araştırmaları alanının çok az desteklendiğini söylüyor. Bildiği kadarıyla, 2023 yılında konuyu incelemek için tek bir hibe teklifi yapılmadığını belirtiyor.

Ortaya çıkan bilgi açığı, AMCS'nin Ekim ayında faaliyete geçen ve 2024 yılının ortalarında dünyanın yapay zekâ teknolojisini nasıl yönetmesi gerektiğine dair bir rapor yayınlaması planlanan Birleşmiş Milletler Yapay Zekâ Üst Düzey Danışma Kurulu'na yaptığı sunumda özetlenmişti. AMCS'nin sunumu kamuya açıklanmadı, ancak kurum AMCS'ye grubun yorumlarının temel materyallerinin bir parçası olacağını doğruladı. Söz konusu materyaller, YZ sistemlerinin küresel gözetimi hakkındaki tavsiyelerini sunulduğu belgelerdi.

AMCS araştırmacıları, yapay zekâyı neyin bilinçli yapabileceğini anlamanın, olası tehlikeler de dahil olmak üzere bilinçli yapay zekâ sistemlerinin toplum üzerindeki etkilerini değerlendirmek için gerekli olduğunu söylüyor. İnsanların, bu tür sistemlerin insan değerlerini ve çıkarlarını paylaşıp paylaşmadığını da değerlendirmeleri gerekecek; çünkü eğer paylaşmıyorlarsa, insanlara yönelik riskler oluşturabilirler.

Makinelerin İhtiyaçları

Araştırmacılar, insanların bilinçli yapay zekâ sistemlerinin olası ihtiyaçlarını da göz önünde bulundurması gerektiğini söylüyor. Bu tür sistemler acı çekebilir mi? Long, bir YZ sisteminin bilinçli hale geldiğini fark etmezsek, bilinçli bir varlığa acı çektirebileceğimizi şöyle ifade ediyor:

Bize benzemeyen ve bizim gibi davranmayan varlıklara ahlaki açıdan yaklaşma konusunda çok iyi bir geçmişimiz yok.

Long, makinelere yanlış bilinç atfetmenin de sorunlu olacağını, çünkü insanların korunmaya ihtiyacı olmayan sistemleri korumak için kaynak harcamaması gerektiğini belirtiyor.

AMCS tarafından bilinç konusunun önemini vurgulamak için ortaya atılan sorulardan bazıları ise yasal sorular: Bilinçli bir yapay zekâ sistemi kasıtlı bir yanlış eylemden sorumlu tutulmalı mı? Ve ona insanlarla aynı haklar tanınmalı mı? Koalisyona göre bu soruların yanıtları, yönetmelik ve yasalarda değişiklik yapılmasını gerektirebilir.

Bir de bilim insanlarının başkalarını bilgilendirmesi ihtiyacı var. Mason, şirketler giderek daha yetenekli yapay zekâ sistemleri geliştirdikçe, halkın bu tür sistemlerin bilinçli olup olmadığını merak edeceğini ve bilim insanlarının rehberlik sunmak için yeterince bilgi sahibi olması gerektiğini söylüyor.

Diğer bilinç araştırmacıları da bu endişeyi yineliyor. Boca Raton'daki Florida Atlantic Üniversitesi'nde Geleceğin Zihni Merkezi'nin direktörü olan filozof Susan Schneider, ChatGPT gibi sohbet botlarının davranışlarının insana çok benzediğini ve insanların haklı olarak kafalarının karıştığını söylüyor. Bilim insanlarının derinlemesine analizi olmadan, bazı insanlar bu sistemlerin bilinçli olduğu sonucuna varabilirken, halkın diğer üyeleri yapay zekâ bilincine ilişkin endişeleri reddedebilir, hatta alay edebilirler.

Matematikçiler, bilgisayar bilimciler ve filozoflardan oluşan AMCS, riskleri azaltmak için hükümetleri ve özel sektörü yapay zekâ bilincini daha fazla araştırmak için fon sağlamaya çağırıyor. Alanı ilerletmek için çok fazla fon gerekmeyecek. Ne var ki bugüne kadarki sınırlı desteğe rağmen, ilgili çalışmalar hali hazırda devam etmektedir. Örneğin Long ve diğer 18 araştırmacı, bir sistemin bilinçli olma şansının yüksek olup olmadığını değerlendirmek için bir kriter listesi geliştirdi. Ağustos ayında arXiv ön baskı deposunda yayınlanan ve henüz hakem değerlendirmesinden geçmemiş olan makale, kriterlerini bilincin biyolojik temelini açıklayan altı önemli teoriden alıyor. Mason, son olarak şunları söylüyor:

(Elimizde) İlerleme için çok daha fazla potansiyel var.