Yapay Zekâ Güney Afrika'da Yeni Bir Eşitsizlik Türü Yaratabilir mi?

Üretken yapay zekâ, özellikle de sohbet botları ve dijital asistanlar olarak kullanılan büyük dil modelleri, artık gündelik dijital hayatımızın ayrılmaz bir parçası haline geldi.

Bu modeller faydalı bir asistan, sabırlı bir öğretmen, bir müşteri hizmetleri temsilcisi ve hatta duygusal destek kaynağı olarak sunuluyor. Peki, giderek daha fazla insan etkileşimi makineler aracılığıyla gerçekleştiğinde ne olacak?

Bu soru, apartheid rejiminin insanları yalnızca yasalarla ayırmakla kalmayıp kimin görülüp duyulduğunu ve tam anlamıyla insan olarak kabul edildiğini de şekillendirdiği Güney Afrika'da özellikle büyük bir önem taşıyor. Bu dönemin mirası; eğitime, sağlığa, işe, teknolojiye ve kamu hizmetlerine erişimdeki eşitsizliklerde yaşamaya devam ediyor.

İşte bu nedenle "ubuntu", Güney Afrika'daki toplumsal yaşam tartışmalarının böylesine önemli bir parçası haline geldi. Ubuntu, birey olmaya dair bir düşünce biçimidir. Bireyliği ilişkisel bir kavram olarak ele alır. İnsan onurunun yalnızca bireysel olmadığını, aynı zamanda karşılıklı aidiyet yoluyla şekillendiğini bize hatırlatır.

Ubuntu felsefesi, "bir insan, diğer insanlar aracılığıyla insandır." düşüncesiyle ifade edilir. İnsanlar; tanınma, değer görme, sorumluluk ve paylaşılan yaşam ilişkileri sayesinde tam anlamıyla kendileri olurlar.

Makalenin yazarı, teknoloji ve toplum alanında çalışan bir akademisyen olarak yapay zekânın insan ilişkilerini nasıl yeniden şekillendirdiğini uzun süredir inceliyor.

Yazarın ubuntu ve üretken yapay zekâ üzerine yaptığı araştırma, bu durumun pratikte ne anlama geldiğini sorgulamayı amaçlıyor. İnsanların şefkat, tanınma ve onur duygularını deneyimlediği insan ilişkilerinin yerini makineler almaya başladığında ne olur? Yazar, bu soruyu yanıtlamak için ubuntu felsefesini bir mercek olarak kullanıyor. Bu sayede, yapay zekâ aracılığıyla kurulan etkileşimlerin, insan onurunu pekiştiren türden ilişkileri destekleyip destekleyemeyeceğini inceliyor.

Araştırmacı, üretken yapay zekânın yükselişinin iki açıdan yalnızca teknik bir mesele olmanın ötesine geçtiğini savunuyor. İlk olarak bu, ilişkisel bir meseledir. İkincisi, gerçek insanlara kimin erişebileceği ile ilgilidir. Yazar çalışmasında bu durumu özetlemek için "ilişkisel apartheid" kavramını kullanıyor. Bununla kastedilen, anlamlı insan etkileşimine erişimin eşitsiz bir şekilde dağıtıldığı toplumsal ve teknolojik bir düzendir. Bu düzende bazı insanlar gerçek kişiler tarafından karşılanırken diğerleri sistemler tarafından yönetilir.

Bu durum, geçmişteki yasal anlamıyla bir apartheid rejimi değildir. Daha ziyade, eski eşitsizliklerin yeni dijital formlarda nasıl yeniden ortaya çıkabileceğine dair bir uyarıdır.

Simüle Edilmiş İlgi, Paylaşılan Yaşam ile Aynı Şey Değildir

Büyük dil modelleri artık akıcı ve duygusal açıdan duyarlı yanıtlar üretebiliyor. Özür dileyebiliyor, teşvik edebiliyor, tavsiye verebiliyor ve kulağa teselli edici gelen ifadeler kullanabiliyorlar. Bir konuşma içindeki detayları hatırlayabiliyor ve ses tonlarını kullanıcıya göre ayarlayabiliyorlar. Birçok insan için bu durum şaşırtıcı derecede insansı hissettirebilir.

Ancak, bir ilişkinin görünümü ile ilişkinin kendisi aynı şey değildir.

Bir sohbet botu; yalnız bir öğrenciye, hüsrana uğramış bir müşteriye veya güvence arayan bir hastaya sıcak bir şekilde yanıt verebilir. Ancak, o kişinin yaşamını paylaşmaz. Karşılığında savunmasız olamaz. Bir insan olarak sorumlu tutulamaz. Affedemez, affedilemez, ahlaki bir yük taşıyamaz veya bu karşılaşmayla dönüşüme uğrayamaz.

İnsan ilişkileri zordur; çünkü sadece tepki vermekten çok daha fazlasını içerirler. Karşılıklı risk barındırırlar. Birbirimizi hayal kırıklığına uğratırız. Birbirimizi yanlış anlarız. Özür dileriz, onarırız ve tekrar deneriz. Bu kusurlu süreçler, insan ilişkilerini ahlaki açıdan anlamlı kılan şeyin ayrılmaz bir parçasıdır.

Yapay zekâ, çoğunlukla insan ilişkilerinde bulunan karşılıklı direnç olmaksızın bir tür duyarlılık sunar. Her zaman ulaşılabilir, sonsuz derecede kibar ve kolayca sıfırlanabilir yapıdadır. Bu kolaylık oldukça caziptir. Ancak bizi, ilişkilerin gerektirdiği o zorlu çaba olmaksızın ilişki beklemeye de alıştırabilir.

Buradaki temel endişe, yapay zekâ ile kurulan her etkileşimin zararlı olduğu değildir. Yapay zekâ araçları; insanların bilgi bulmasına, daha iyi yazmasına, daha hızlı öğrenmesine ve hizmetlere erişmesine yardımcı olabilir. Dikkatli kullanıldığında yapay zekâ, insanların birbirine şefkat göstermesi için gereken alanı daraltmak yerine bu alanı daha da genişletebilir.

Asıl tehlike, yapay zekanın insani değer görmenin ve tanınmanın önemli olduğu alanlarda gerçek insan varlığının yerine kullanılmaya başlanmasıyla ortaya çıkıyor.

Eşitsizlik Aynı Zamanda Kimin İnsan İlgisi Gördüğüyle De İlgilidir

Müşteri hizmetleri buna iyi bir örnektir. Kurumlar ön hat destek hizmetlerini otomatik hale getirdikçe, insanlar bir insana ulaşabilmek için giderek daha fazla sohbet botlarına yönlendiriliyor. Bu durum maliyetleri düşürebilir. Basit sorgular için hızı da artırabilir. Ancak bazı müşterilerin insan ilgisi gördüğü, diğerlerinin ise otomatik etkileşimlere mahkum edildiği çok katmanlı bir sistem de yaratabilir.

Bu sürecin iş gücü üzerindeki etkileri de giderek daha görünür hale geliyor. Dünyanın en büyük müşteri hizmetleri ve iş yazılımı sağlayıcılarından biri olan Salesforce, yapay zeka temsilcilerinin artık müşteri etkileşimlerinin giderek artan bir payını üstlendiğini bildirdi. Şirket son yıllarda binlerce destek birimi çalışanını işten çıkardı; ancak tüm bu değişiklikleri yalnızca yapay zekaya bağlamak aşırı basite indirgemek olur. Bu durum, tüm müşteri hizmetleri işlerinin yok olacağı anlamına gelmiyor. Ancak yapay zekâ varsayılan ön hat haline geldiğinde, rutin hizmet işlerinin ne kadar hızlı bir şekilde yeniden düzenlenebileceğini açıkça gösteriyor.

Benzer bir durum sağlık, eğitim ve sosyal destek alanlarında da yaşanabilir. İnsan profesyonellerin yetersiz kaldığı yerlerde; yapay zekâ danışmanlık araçları, özel ders sistemleri ve tavsiye botları pratik bir çözüm gibi görünebilir. Bazı durumlarda gerçekten de yardımcı olabilirler. Fakat aynı zamanda, halihazırda yeterli hizmet alamayan dezavantajlı grupların insanlardan ziyade makinelerle muhatap olduğu bir durumu normalleştirme riski taşıyorlar.

Dünya Bankası'nın dünyadaki en eşitsiz toplumlardan biri olarak tanımladığı bir ülkede gelir, eğitim, dil, coğrafya ve kurumsal güç gibi eski farklılıklar yeni dijital formlarda yeniden su yüzüne çıkabilir.

Temel sorun, yalnızca makinelerin doğru mu yoksa yanlış mı yanıtlar verdiği değildir. Daha derin sorun, bazı insanların kendi onurlarını pekiştirecek türden insan karşılaşmalarından mahrum bırakılabilecek olmasıdır. Bir insanın yalnızca bir yanıta ihtiyacı yoktur. Bir insanın çoğu zaman, başka bir insan tarafından tanınmaya ve değer görmeye ihtiyacı vardır.

Ubuntu'yu Yapay Zekâya Entegre Etmek

Peki ya ubuntu uyumlu bir yapay zeka inşa etme çabaları?

Araştırmacılar, ubuntu felsefesinin yapay zeka tasarımını, etiğini ve yönetişimini nasıl şekillendirebileceğini araştırıyorlar.

Yapay zeka sistemlerini Afrika dillerine, yerel tarihlere ve topluluk değerlerine daha duyarlı olacak şekilde tasarlamanın elbette bir değeri vardır. Toplulukları, yapay zekanın nasıl oluşturulacağı ve kullanılacağı ile ilgili kararlara dahil etmek önemlidir. Ayrıca teknolojinin, güçlü şirketlerin ve uzak pazarların varsayımlarını olduğu gibi ithal etmemesini sağlamak da büyük bir önem taşıyor.

Ancak ubuntu, basitçe bir makineye programlanabilir mi?

Ubuntu felsefesi yalnızca bir dizi kibar ifade veya kültürel tercihten ibaret değildir. İlişki içindeki bireyler hakkında bir düşünme biçimidir. Paylaşılan bir yaşama, karşılıklı savunmasızlığa ve hesap verebilirliğe dayanır. Bir sistem bu değerleri destekleyecek şekilde tasarlanabilir; ancak mevcut yapay zeka sistemleri, bu değerleri insanların deneyimlediği gibi yaşayamaz.

Bu ayrım, politika ve tasarım açısından oldukça kritiktir.

Yapay zeka sistemleri, yoldaşlar veya yol arkadaşları olarak değil, açıkça birer araç olarak sunulmalıdır. Özellikle çocuklar, yaşlılar, hastalar veya sosyal olarak izole olmuş kullanıcılar tarafından kullanıldığında; simüle edilmiş şefkat ile gerçek şefkat arasındaki ayrımı bulanıklaştırmamalıdırlar. Hassas ortamlarda yapay zeka, insan profesyonellerin yerini almak yerine onları desteklemelidir.

Yapay zekâ; Güney Afrika'nın kamu hizmetlerini iyileştirmesine, bilgiye erişimi genişletmesine ve aşırı yük altındaki kurumları desteklemesine yardımcı olabilir. Ancak verimlilik ilerlemenin ana ölçütü haline gelirse, insanlar arasındaki mesafeyi de derinleştirebilir.