Yapay Zeka Ajanı Nedir? Ajansal Yapay Zeka Neden Önemlidir?

Her günümüz, gün içerisinde bilinçli seçimler yapmakla geçmektedir. Tarih boyunca filozoflar, "kasıtlı" olarak ya da bir "irade" doğrultusunda eyleme geçme yetisinin, yani bir diğer ifadeyle bir "eyleyici", yani bir "özne" olarak davranabilmenin insanları diğer canlılardan ve makinelerden ayıran temel bir unsur olduğunu öne sürmüşlerdir. Ancak yapay zeka alanındaki gelişmeler, bu ayrımı yakında ortadan kaldırabilir. Teknoloji şirketleri, son zamanlarda "yapay zeka ajanı" olarak adlandırılan eyleyici yapay zeka sistemleri geliştirmektedir. Bu sistemler, görevleri yerine getirmek ve hedeflere ulaşmak için insan müdahalesine daha az gereksinim duymaktadır. Yapay zeka ajanları, bağımsız kararlar alabilmekte ve sadece en temel gözetimle hedeflerine ulaşabilmektedir.

Yapay Zeka Ajanları Nedir, Kimdir?

Milyarlarca dolarlık yatırımların ardından artık somut dönüşler görme baskısı yaşayan yapay zeka geliştiricileri, yeni bir tüketici teknolojisi dalgası olarak yapay zeka ajanlarını ileri sürmektedir.

Yapay zeka ajanı (İng: "AI agent"), belirli bir ortamda özerk şekilde hareket eden, bu ortamı algılayıp analiz ederek amaç odaklı kararlar alabilen bir yazılım veya sistemdir. Yapay zeka ajanları, tıpkı bir insan veya hayvan gibi çevresinden bilgi toplar, bu bilgiyi işler ve en uygun eylemi seçerek hedefine ulaşmaya çalışır. Görünüşte sohbet botları (İng: "chatbot") gibidirler ancak sohbet botlarından farkları, sürekli bir insan yönlendirmesine ihtiyaç duymadan kullanıcı adına dış uygulamalarla etkileşime girip görevleri otonom şekilde yerine getirebilmeleridir. Örneğin, bir sohbet botundan bir metin yazmasını istediğimizde bizim yönlendirmemize bağlı kalmaktadır; ancak bir yapay zeka ajanı, uygulamalara ya da API'lara (farklı yazılım uygulamalarının birbirleriyle etkileşim kurmasını sağlayan araçlar) bağlanarak gerekli eylemleri gerçekleştirebilir.

OpenAI şirketi, insanın bilişsel becerisini geride bırakabilecek geniş kapsamlı bir yapay zeka (yapay genel zeka – İng: "AGI") inşa etme sürecini beş aşamaya ayırmış ve bu aşamalardan üçüncüsünü yapay zeka ajanlarının geliştirilmesi olarak belirlemiştir.^[1] OpenAI'nin, "Operator" (Tr: "Operatör") kod adına sahip bir yapay zeka ajanını 2025 yılının Ocak ayında piyasaya sürmesi beklenmektedir.^[2] Buna ek olarak, Meta şirketinin CEO'su Mark Zuckerberg, gelecekte yapay zeka ajanlarının insan sayısını geçeceğini söylemektedir. Öte yandan yapay zeka uzmanları ise şirketlerin büyük bir hızla yapay zeka ajanlarını ticarileştirmesini tehlikeli bir adım olarak değerlendirmektedir. Uzmanlar, yapay zeka sektörünün güvenlikten ziyade hıza öncelik verdiğini sıklıkla dile getirmektedir.

Büyük teknoloji şirketleri, yapay zeka ajanlarının bizi angarya işlerden kurtararak daha anlamlı işlere yönelmemizi sağlayacağını iddia etmektedir. Aynı zamanda şirketlerin verimliliğini de artıracakları öne sürülmektedir. Google DeepMind kıdemli araştırmacısı Iason Gabriel, şöyle söylüyor:

Bizi gündelik, sıkıcı işlerden kurtaran yapay zeka ajanları; ilişkilerimize, kişisel gelişimimize ve bilgili kararlar almaya odaklanmamıza destek olabilir.

Yapay Zeka Ajanlarının Uygulamaları ve Potansiyeli

2024 yılı Mayıs ayında, Google DeepMind "Project Astra" adlı prototip bir yapay zeka sistemi duyurmuştur. Bu sistem, "gündelik hayatta evrensel olarak yararlı olabilecek bir yapay zeka ajanı" olarak tanımlanmıştır.^[3] Astra adlı bu yapay zeka ajanı, Google Pixel telefonla iletişim kurarak cihaz kamerasından gelen verileri analiz edebilmektedir. Gösterilen bir örnekte kullanıcı, telefonunu bilgisayar ekranına tutar; ekranda şifreleme ve şifre çözme fonksiyonlarını tanımlayan kodlar yazılıdır. Yapay zeka ajanı Astra, bu kodu insan sesi ile "Bu kod, şifreleme ve şifre çözme fonksiyonlarını tanımlıyor." diyerek açıklar.

Günümüzde piyasadaki yapay zeka ajanlarının yetenekleri ise genellikle sıkıcı ve tekrara dayalı işlerle sınırlıdır. Örneğin, kod oluşturma ya da faturaları dosyalama gibi faaliyetler yürütmektedirler. Bu durum, hem teknoloji açısından hala kısıtlar bulunması hem de geliştiricilerin hata payının yüksek olabileceği hassas sektörlerde yapay zeka ajanlarına henüz tam olarak güven duymamasından kaynaklanmaktadır.

Salesforce adlı bir yapay zeka şirketinde baş bilim insanı olarak görev yapan ve "Agentforce" adı verilen bir platform kuran Silvio Savarese, yapay zeka ajanlarının çok net tanımlanabilen ve tekrarlanan, rutin işleri uygulamak üzere geliştirilmesi gerektiğini söylemektedir. Savarese'nin geliştirdiği Agentforce platformu, müşteri hizmeti sorularını cevaplama ve belirli dar kapsamlı işlevler üstlenme gibi faaliyetler yapabilen yapay zeka ajanları sunmaktadır. Savarese, yasal ceza belirleme gibi daha kritik uygulamalarda bu yapay zeka ajanlarına güvenilmesi ihtimalini ise çok endişe verici olarak nitelemektedir.

Agentforce ve benzeri platformlar, esasen kurumsal alanları hedef alsa da Savarese gelecekte kişisel veri erişimi olan ve bireyin ihtiyaçları ile tercihlerini sürekli güncelleyebilen kişisel yapay zeka ajanlarının doğuşunu öngörmektedir. Örneğin, tatil planlaması için görevlendirilmiş bir mobil uygulama tabanlı yapay zeka ajanı; kullanıcısı adına cam kenarı uçak bileti satın alma, restoran rezervasyonu yapma, havuzu olan bir otel ayarlama gibi kullanıcısının istek ve ihtiyacına göre kişiselleştirilmiş görevleri otonom olarak yürütebilecektir. Böyle bir zeka ajanı, beklenmeyen durumlara da uyum sağlayacaktır. Örneğin, eğer kullanıcısının istek ve ihtiyacına uygun uçuşu bir havayolunda bulamadıysa farklı bir havayolunu araştırmak gibi çözüm yollarına başvuracaktır. Savarese, şöyle söylüyor:

Bir yapay zeka ajanının uyum sağlama ve bulunulan koşula tepki verme yeteneği son derece önemlidir.

Bu alanda ilk kişisel yapay zeka ajanı örneklerinin yakında olduğu söylenebilir. Örneğin Amazon'un, çevrimiçi alışveriş geçmişine bakarak kullanıcılar adına ürün önerecek ve bunları satın alabilecek ajanlar üzerinde çalıştığı rapor edilmiştir.^[4]

Bir Yapay Zeka Ajanını "Ajan" Yapan Nedir?

Günümüzde büyük teknoloji şirketlerinin yapay zeka ajanlarına yönelik ani ilgisi, aslında bu kavramın epey uzun bir geçmişi olduğunu göstermektedir. Esasında bütün makine öğrenimi algoritmaları teknik açıdan "ajan niteliği" taşımaktadır; çünkü her biri dağınık veri setlerinden öğrendiği kalıplar yardımıyla belirli hedeflere ulaşma becerisini sürekli olarak ayarlarlar. Kaliforniya Berkeley Üniversitesi'nden öncü bilgisayar bilimci ve yapay zeka araştırmacısı Stuart Russell, şöyle söylüyor:

Biz on yıllardır yapay zeka alanındaki tüm sistemleri birer ajan olarak ele alıyoruz. Ancak bu ajan sistemlerden bazıları elbette çok basit kalmaktadır.

Modern yapay zeka sistemlerinin, özellikle de büyük dil modeli temelli sistemlerin artık daha güçlü "ajansal özellikler" sergilemesi yalnızca birkaç yeniliğe bağlı olabilir. Bunlardan ilki, bu sistemlerin arama motorları gibi dijital araçları kullanabilme becerisidir. Örneğin, Anthropic şirketinin Claude sohbetbotu üzerine inşa edilen bir yapay zeka ajanının Ekim 2024'te herkese açık bir beta testinde "bilgisayar kullanımı" özelliği ile kullanıcının ekranında olanları inceleyip tıklamalar yapabildiği gösterilmiştir. Bu test, Claude'un bir satıcı talep formunu nasıl doldurduğunu ve gönderdiğini göstermektedir.

Ajansal nitelik, zamana yayılan karmaşık kararlar alma becerisiyle de yakından ilişkilidir. Ajanlar daha ileri düzeye eriştikçe daha sofistike görevlerde de kullanılacaktır. Google DeepMind'dan yapay zeka araştırmacısı Gabriel, gelecekte bir yapay zeka ajanının yeni bilimsel keşiflerde yardımcı olabileceğini öngörmektedir. Ağustos 2024'te yayımlanan bir makalede, "AI Scientist" (Tr: "Bilim İnsanı Yapay Zeka") adlı bir yapay zeka ajanı tanıtılmıştır.^[5] Bu sistem, bir ölçüde yeni bilimsel araştırma fikirleri formüle edebilir ve bu formülleri deneyler yoluyla test edebilir. Bununla, bilimsel yöntemin otomasyonunun hedeflendiği belirtilmektedir.

Ajan kavramı ve irade arasındaki felsefi yakınlığına rağmen, makinelerdeki "ajansal" ilerlemelerin bir tür iradeye evrileceğini varsaymak için henüz geçerli bir neden bulunmamaktadır. Teknoloji şirketleri de bu araçları özgür irade sahibi bir mekanizmaya olarak tanıtmamaktadır. Yine de kullanıcıların ajansal özellikler sergileyen yapay zeka sistemlerini kendi iradesi varmış gibi algılaması mümkündür. Bu durum, insan beyninin evrimine dayanmaktadır. İnsanlar, insan benzeri davranış sergileyen her şeye irade ve bir niyet atfetmeye yatkındır.

Yapay Zeka Ajanlarının Getirdiği Etik ve Hukuki Sorular

Önümüzdeki yıllarda yapay zeka ajanların yükselişi; iş dünyasında, sosyal medyada ve internet genelinde bazı zorlukları da beraberinde getirebilir. Yüzyıllar boyunca insan davranışlarını kısıtlamak adına dikkatle tasarlanan hukuki çerçeveler, şimdi de çok farklı işleyiş prensiplerine sahip yapay zeka ajanlarının ortaya çıkışına uyarlanmak zorunda kalacaktır. Bazı önde gelen yapay zeka uzmanları, insan zekasının ve yapay zekanın işleyiş prensiplerindeki farklılığa vurguda bulunarak yapay zeka yerine "yabancı zeka" (İng: "Alien Intelligence") kullanımının daha isabetli olduğunu savunmaktadır.

Finans sektörünü ele alalım: Algoritmalar uzun zamandır fiyatları takip edip enflasyon gibi değişkenleri hesaba katarak modellemeler yapmaktadır. Ancak ajansal modeller, kurumlar veya bireyler için finansal kararları bizzat vermeye başlarsa bir dizi hukuki ve ekonomik soru gündeme gelecektir: Bu ajanlar, bizim belirlediğimiz kurallar çerçevesinde nasıl hareket edecek? Eğer bir ajan, bir kurum adına yasal bir sözleşme imzalayıp daha sonra bu sözleşme şartlarını ihlal ederse, sorumlu kim olacak? Ajanı kullanan kurum mu, yoksa algoritmanın kendisi mi?

Bu sorular, "yapay zeka ajanlarına "tüzel kişilik" tanınmalı mı?" gibi tartışmaları da beraberinde getirmektedir. Örneğin, ABD'deki dev şirketler "kurumsal kişilik" statüsünden yararlanabiliyorsa, ajanlar için de benzer haklar veya yükümlülükler söz konusu olacak mı?

Yapay Zeka Ajanlarının Geleceği ve Denetim Mekanizmaları

Bir diğer mesele, ajanların insan ahlak normlarına uyum göstermesini sağlama sorunudur. Yapay zeka literatüründe bu sorun, "yapay zeka hizalama problemi" (İng: "AI alignment") olarak bilinir. Ajanların ajansal davranışları güçlenip geliştikçe, içerdikleri modellerin karar alma süreçlerini insan gözüyle takip etmek daha da zorlaşacaktır. Belirlenen hedefler, çok katmanlı alt hedeflere bölünmekte ve bazı beklenmedik davranışlar ortaya çıkabilmektedir. Yapay sinir sistemleri karmaşık ve kendiliğinden beliren kabiliyetler (İng: "Emerging Abilities") sergileyebildiği için ileri düzey ajanların eylemlerini öngörmek güçleşmektedir. Derin öğrenme ve yapay sinir ağları üzerine yaptığı öncü çalışmalar ile bilinen (bu çalışmalarından dolayı "modern yapay zekanın/derin öğrenmenin babası" olarak adlandırılmaktadır), bilgisayar bilimlerinde dünyanın en çok atıfta bulunulan, 2018 ACM A.M. Turing Ödülü sahibi bilgisayar bilimci ve yapay zeka uzmanı Yoshua Bengio, şöyle söylüyor:^{[6], [7]}

Yapay zeka ajanlarının planlama yeteneğinde meydana gelen ilerlemeler, insan kontrolünün yitirilmesine doğru giden bir yolu açıyor olabilir.

Bengio'ya göre; büyük teknoloji şirketlerinin kârı öncelemesinin, toplum yararıyla çelişmesi ile birleştiğinde uyumluluk ve etik sorunları daha da büyümektedir. Bengio, şöyle söylüyor:

Para kazanmak ile kamu güvenliğini sağlamak arasında ciddi bir çıkar çatışması bulunmaktadır.

Bengio, örnek olarak 2010'larda Facebook (Meta) tarafından, salt kullanıcı katılımını maksimize etmek üzere geliştirilen algoritmaların Myanmar'da Rohingya azınlık grubuna karşı nefreti yaygınlaştırdığına dikkat çekmektedir.^[8] Facebook algoritmaları, sadece kullanıcı etkileşimini artırma hedefi güdülerek eğitildiği için "tepki uyandıran, tahrik eden" içeriğin daha çok paylaşıma ve dikkat çekmeye yol açtığı fark edilmiş ve bu düzeltilmek yerine pekiştirilmiştir. Nihayetinde ise insanların gerçek dünyada birbirine zarar vermesiyle sonuçlanan bir etki oluşmuş; binlerce insan bundan dolayı yaşamını yitirmiştir.^[9] Dolayısıyla mevcut riskler, algoritmalar daha ajansal hale gelip güçlendikçe artmaktadır.

Yapay Zeka Ajanları ve Yasal Düzenleme İhtiyacı

Yoshua Bengio ve Stuart Russell, yapay zeka alanında kapsamlı bir yasal düzenleme yapılması gerektiğini; aksi takdirde geçmişteki hataları tekrarlamanın veya gelecekte ortaya çıkabilecek beklenmedik sorunlara hazırlıksız yakalanmanın kaçınılmaz olduğunu savunmaktadır. Bu doğrultuda Mart 2023'te, yapay zeka araştırmalarına ara verilerek yapay zeka güvenliği risklerinin değerlendirilmesi çağrısıyla bir açık mektup yayımlanmıştır.^[10] Pek çok bilim insanı ve uzman da dahil olmak üzere 33 bin kişinin imzasını alan bu açık mektupta Yoshua Bengio, Stuart Russell ve Geoffrey Hinton gibi dev isimlerin de imzaları bulunmaktadır. Mektup, yapay zeka araştırmalarının en az 6 ay süreyle durdurulmasını ve bu süreçte gereken güvenlik önlemlerinin tartışılmasını talebinde bulunmuştur.

Bengio, ajansal yapay zeka geliştirilmesi konusundaki rekabet kızıştıkça ihtiyatlılık ilkesine (İng: "precautionary principle") daha da önem verlimesi gerektiğine dikkat çekmektedir. Bu ilke; bilimsel ilerlemenin getirdiği güçlü teknolojilerin hemen geniş ölçekte dağıtıma sokulmaması, ticari kazanç yerine güvenliğin ve kamu yararının öne çıkarılması gerektiği fikrini içermektedir.

Bu ilkenin, halihazırda başka sektörlerde uygulanan bir model olduğunu biliyoruz. Örneğin, ABD ilaç endüstrisinde geliştirilen herhangi bir yeni ilaç Gıda ve İlaç Dairesi (İng: "FDA") onayından geçmeden satışa sunulamaz; havacılık endüstrisinde ise yeni bir yolcu uçağı Federal Havacılık İdaresi (İng: "FAA") sertifikası olmadan piyasaya çıkamaz. Ancak yapay zeka teknolojisi cephesine gelindiğinde henüz kapsamlı bir yasal mevzuat yoktur. Yakın geçmişte bazı adımlar atılmıştır; örneğin ABD Başkanı Joe Biden 2021'de yapay zeka üzerine bir başkanlık kararnamesi yayımlamıştır. Ancak bu yönerge, birçok uzmanca kapsamlı bir çerçeve olarak görülmemektedir ve yeni Beyaz Saray Yönetiminin bu emirleri iptal etme imkanı ve ihtimali de bulunmaktadır.

Sonuç

Bengio, büyük teknoloji şirketlerinin yapay zeka ajanlarını hızla ticarileştirme yönündeki çabasının, "geri dönüşü olmayan bir noktayı" çabucak aşma riskini taşıdığını savunmaktadır. Bir teknolojinin geniş kullanım alanı bulup ekonomik değeri arttıkça onu durdurmanın politik ve ticari açıdan zorlaştığı; sosyal medya sektöründe de görülmüş bir fenomen olarak öne çıkmaktadır. 2010'larda Facebook gibi sosyal medya şirketleri hızla büyüyüp toplumsal yapıda kök salarken devlet müdahalesi geriden gelmiş ve oldukça etkisiz kalmıştır. Bu karşılaştırma, ajansal yapay zekanın kitlesel yayılımını da benzer şekilde kontrol etmenin çok güç olacağını düşündürmektedir. Bengio şöyle söylüyor:

Yapay zeka ajanlarını kullanıma sunar sunmaz insanlar yararlarını görmeye başlayacak, ajanların ekonomik değeri giderek artacak ve hükümetler de bu teknolojinin tehlikelerini fark ettiğinde iş işten geçmiş olacak. Çünkü sağlayacağı ekonomik değer, herhangi bir kısıtlamayı veya yasaklamayı siyaset açısından güçleştirecek kadar yüksek olacak.

Yapay zeka ajanlarının hızla yayılmasına hazırlanırken insanlar olarak bizlerin de kendi özneliğimize, yani karar verme ve eyleme geçme irademize her zamankinden daha çok sarılmamız gerektiği görülmektedir. Bengio bunu şöyle ifade ediyor:

Bir şeye kalkışmadan önce iyice düşünmemiz şarttır.