OpenAI, Google ve Anthropic Daha Gelişmiş Yapay Zekalar Üretmekte Zorlanıyor!

OpenAI, bir dönüm noktasının eşiğindeydi. Şirket, ChatGPT'nin arkasındaki teknolojinin önceki sürümlerini önemli ölçüde aşacağını ve insanlardan daha iyi performans gösteren güçlü yapay zeka hedefine yaklaşacağını umduğu devasa yeni bir yapay zeka modeli için Eylül ayında ilk "yapay zeka eğitimi" turunu tamamladı.

Ancak şirket içinde "Orion" olarak bilinen model, isimlerinin açıklanmaması koşuluyla Bloomberg'e konuşan ve konuya aşina olan iki kişiye göre, şirketin istediği performansa ulaşamadı. Bu kişiler, örneğin yaz sonu itibariyle Orion'un eğitim almadığı kodlama sorularını yanıtlamaya çalışırken yeterli performans gösteremediğini söyledi. Orion ile GPT-4 arasındaki farkın, GPT-4 ile GPT-3.5 arasındaki fark kadar büyük olmadığı belirtildi.

OpenAI, son zamanlarda yaşadığı tökezleme konusunda yalnız değil. Yıllar boyunca giderek daha sofistike hale gelen yapay zeka ürünlerini büyük bir hızla piyasaya sürdükten sonra, önde gelen üç yapay zeka şirketi de, yeni modeller oluşturmak için harcadıkları maliyetli çabaların getirilerinin giderek azaldığını görmeye başladı. Alphabet Inc. çatısı altındaki Google'da çalışan ve konu hakkında bilgi sahibi üç kişiye göre, Gemini yazılımının yaklaşan bir iterasyonu şirket içi beklentileri karşılamıyor. Benzer şekilde Anthropic, uzun süredir beklenen Claude 3.5 Opus modelinin piyasaya sürmek için önceden belirlediği zaman çizelgesini ileri kaydırdı.

Şirketlerin karşılaştığı zorluklar çeşit çeşit. Daha gelişmiş yapay zeka sistemleri oluşturmak için kullanılabilecek yüksek kaliteli, yeni ve henüz kullanılmamış insan yapımı eğitim verilerini bulmak giderek zorlaşıyor. Bloomberg'e konuşan iki kişi, Orion'un tatmin edici olmayan kodlama performansının kısmen üzerinde çalışılacak yeterli kodlama verisinin olmamasından kaynaklandığını söylüyor. Aynı zamanda, mütevazı iyileştirmeler bile yeni modellerin oluşturulması ve işletilmesiyle ilgili muazzam maliyetleri haklı çıkarmaya veya bir ürünü büyük bir yükseltme olarak markalamanın getirdiği beklentileri karşılamaya yetmeyebilir.

Bu modelleri daha iyi hale getirmeyi mümkün kılacak pek çok potansiyel yol var. Bu kişilerden birine göre OpenAI, Orion'u genellikle "art-eğitim" olarak adlandırılan, aylar süren bir süreçten geçiriyor. Yeni bir yapay zeka yazılımını kamuya ilan etmeden önce rutin olarak uygulanan bu prosedür, diğer şeylerin yanı sıra, yanıtları iyileştirmek için insan geri bildirimlerini dahil etmeyi ve modelin kullanıcılarla nasıl etkileşime girmesi gerektiğine ilişkin tonu iyileştirmeyi de içeriyor. Ancak bir kişi, Orion'un hala OpenAI'nin kullanıcılara sunmak için istediği seviyede olmadığını ve şirketin sistemi önümüzdeki yılın başlarına kadar kullanıma sunmasının pek olası olmadığını söyledi.

Bu sorunlar, son yıllarda, özellikle de OpenAI'ın iki yıl önce ChatGPT'yi piyasaya sürmesinden bu yana Silikon Vadisi'nde kabul gören "müjdeli habere" meydan okuyor. Teknoloji endüstrisinin çoğu, daha fazla bilgi işlem gücü, veri ve daha büyük modellerin kaçınılmaz olarak yapay zekanın gücünde daha büyük sıçramaların önünü açacağını söyleyen, "ölçeklendirme yasaları" denen şeyin üzerine büyük bahisler oynadı. Son aksilikler, yapay zekaya yapılan yoğun yatırım ve bu şirketlerin agresif bir şekilde takip ettiği o kapsayıcı hedefe ulaşmanın fizibilitesi hakkında da şüpheler uyandırıyor: "yapay genel zeka". Bu terim tipik olarak, birçok entelektüel görevde insanlarla eşleşecek veya onları aşacak varsayımsal yapay zeka sistemlerini ifade etmekte kullanılıyor. OpenAI ve Anthropic'in CEO'ları, daha önce yapay genel zekanın "sadece birkaç yıl uzakta" olabileceğini söylemişlerdi. Yapay zeka girişimi Hugging Face'in baş etik bilimcisi Margaret Mitchell ise şöyle söylüyor:

Yapay genel zeka balonu biraz biraz patlıyor. Yapay zeka modellerinin çeşitli görevlerde gerçekten iyi çalışmasını sağlamak için farklı eğitim yaklaşımlarına ihtiyaç olduğu netleşiyor.

Yapay zeka alanındaki bir dizi diğer uzman da Bloomberg'e bu fikri destekleyen fikirler beyan ettiler. Google DeepMind sözcülerinden biri, yaptığı açıklamada şöyle diyor:

Şirketimizin Gemini'de gördüğü ilerlemeden memnunuz ve hazır olduğumuzda daha fazlasını paylaşacağız.

OpenAI ve Anthropic ise bu haber için yorum yapmayı reddetti. Ancak firma, Bloomberg News İcra Kurulu Başkanı Dario Amodei'nin beş saatlik podcast yayınına yönlendirdi.

Amodei, podcastte şöyle söylüyor:

İnsanlar bunlara ölçeklendirme yasaları diyor. Bu yanlış bir isimlendirme. Bunlar evrenin yasaları değil. Bunlar, deneysel düzenlilikler. Devam etmeleri yönünde bahse gireceğim ama bundan emin değilim.

Amodei, önümüzdeki birkaç yıl içinde daha güçlü bir yapay zekaya ulaşma sürecini "raydan çıkarabilecek pek çok şey olduğunu, bunların arasında verilerin tükenmesi olasılığının da bulunduğunu söylüyor. Ancak Amodei, yapay zeka şirketlerinin engelleri aşmanın bir yolunu bulacakları konusunda iyimser olduğunu da belirtiyor.

Performans Platosu

ChatGPT'nin ve rakip yapay zeka sohbet robotlarının temelini oluşturan teknoloji, sosyal medya gönderileri, çevrimiçi yorumlar, kitaplar ve web'den serbestçe toplanan diğer veriler üzerine inşa edildi. Bu, zekice denemeler ve şiirler ortaya çıkarabilen ürünler yaratmak için yeterliydi; ancak bazı şirketlerin yapmayı umduğu gibi Nobel ödüllü birinden daha akıllı yapay zeka sistemleri oluşturmak için Wikipedia gönderileri ve YouTube altyazılarından başka veri kaynakları gerekiyor olabilir.

Bu çabalar, basitçe web'i "kazımaktan" (İng: "scraping") daha yavaş ilerliyor ve daha maliyetli. Teknoloji şirketleri ayrıca, gerçek insanlar tarafından oluşturulan içeriği taklit etmek amacıyla bilgisayar tarafından oluşturulan görüntüler veya metinler gibi sentetik verilere de yöneliyor. Ancak burada da sınırlar var. New Enterprise Associates'in yapay zeka stratejisi başkanı ve Microsoft'un eski teknoloji müdür yardımcısı Lila Tretikov şöyle diyor:

Mesele nicelikten ziyade verinin kalitesi ve çeşitliliği. Sentetik olarak nicelik üretebiliyoruz, ancak özellikle dil söz konusu olduğunda insan rehberliği olmadan benzersiz, yüksek kaliteli veri kümeleri elde etmekte zorlanıyoruz.

Yine de yapay zeka şirketleri, "ne kadar çok, o kadar iyi" olarak tarif edilebilecek stratejiyi takip etmeye devam ediyor. İnsan zekası seviyesine yaklaşan ürünler üretme arayışındaki teknoloji firmaları, yeni modelleri eğitmek için kullandıkları bilgi işlem gücü, veri ve zaman miktarını artırıyor ve bu süreçte maliyetleri yükseltiyor. Amodei, şirketlerin bu yıl son teknoloji bir modeli eğitmek için 100 milyon dolar harcayacağını ve bu miktarın önümüzdeki yıllarda 100 milyar dolara ulaşacağını söyledi.

Maliyetler arttıkça, geliştirilmekte olan her yeni model için riskler ve beklentiler de artıyor. Waltham, Massachusetts'teki Bentley Üniversitesi'nde matematik doçenti olan Noah Giansiracusa, yapay zeka modellerinin gelişmeye devam edeceğini, ancak bunun hangi hızda gerçekleşeceğinin şüpheli olduğunu söylüyor:

Çok hızlı ilerleme kaydettiğimiz kısa bir dönem için çok heyecanlandık. Bu, sürdürülebilir değildi.

Silikon Vadisi Muamması

Bu muamma, son aylarda Silikon Vadisi'nde odak noktası haline geldi. Mart ayında, Anthropic üç yeni modelden oluşan bir set yayınladı ve Claude Opus adı verilen en güçlü seçeneğin, OpenAI'nin GPT-4 ve Google'ın Gemini sistemlerini lisansüstü düzeyde akıl yürütme ve kodlama gibi temel kriterlerde geride bıraktığını söyledi.

Sonraki birkaç ay içinde Anthropic, diğer iki Claude modeli için de güncellemeler yayınladı ama Opus için yayınlamadı. Bağımsız bir yapay zeka araştırmacısı olan Simon Willison şöyle diyor:

Herkesin heyecan duyduğu asıl model buydu!

Ekim ayına gelindiğinde Willison ve diğer sektör gözlemcileri, 3.5 Opus ile ilgili olarak "bu yılın sonlarına doğru" ve "çok yakında" ifadelerinin şirketin web sitesindeki bazı sayfalardan kaldırıldığını fark etti.

Konu hakkında bilgi sahibi iki kişiye göre, rakipleri gibi Anthropic de 3.5 Opus'u geliştirmek için perde arkasında zorluklarla karşılaştı. Çalışanlardan biri, eğitimin ardından Anthropic'in 3.5 Opus'un değerlendirmelerde eski versiyona göre daha iyi performans gösterdiğini, ancak modelin büyüklüğü ve kurulması ve çalıştırılmasının ne kadar maliyetli olduğu düşünüldüğünde olması gerektiği kadar iyi performans göstermediğini söyledi.

Bir Anthropic sözcüsü, Opus ile ilgili ifadelerin, sadece mevcut ve karşılaştırmalı modelleri göstermeye yönelik bir pazarlama kararının parçası olarak web sitesinden kaldırıldığını söyledi. Opus 3.5'in bu yıl içinde çıkıp çıkmayacağı sorulduğunda ise sözcü Amodei'nin podcastteki açıklamalarına işaret etti. Röportajda CEO, Anthropic'in hala modeli piyasaya sürmeyi planladığını söylüyor; ancak bir zaman çizelgesi vermeyi tekrar tekrar reddediyor.

Teknoloji şirketleri de eski yapay zeka modellerini belki bazı ek iyileştirmelerle sunmaya devam edip etmeme ya da çok daha iyi performans göstermeyebilecek oldukça pahalı yeni sürümleri destekleme maliyetlerini üstlenip üstlenmeme konusunda henüz karar verebilmiş değil.

Google, amiral gemisi yapay zeka modeli Gemini'yi daha kullanışlı hale getirmek için insanların görüntülerini oluşturma yeteneğini geri yüklemek de dahil olmak üzere güncellemeler yayınladı ve temel modelin kalitesinde birkaç büyük atılım yaptı. Bu arada OpenAI, kullanıcıların ChatGPT ile daha akıcı konuşmalar yapmasını sağlayan bir sesli asistan özelliğinin yeni bir sürümü gibi nispeten artan bir dizi güncellemeye odaklandı.

Yakın zamanda OpenAI, bir sorguya yanıt vermeden önce bir yanıtı hesaplamak için fazladan zaman harcayan ve şirketin "muhakeme" olarak adlandırdığı bir süreç olan "o1" adlı bir modelin önizleme sürümünü kullanıma sundu. Google, daha karmaşık sorguları ele almak ve zaman içinde daha iyi yanıtlar vermek amacıyla benzer bir yaklaşım üzerinde çalışıyor.

Teknoloji firmaları ayrıca, çok sevdikleri bilgi işlem kaynaklarının çok büyük bir kısmını, önemli ölçüde daha iyi olmayabilecek daha büyük modeller geliştirmeye ve çalıştırmaya yönlendirmekle anlamlı ödünleşimlerle karşı karşıya kalıyorlar. OpenAI CEO'su Sam Altman, Reddit'te kısa bir süre önce düzenlenen "Ask Me Anything" yani "Bana Herhangi Bir Şey Sor" oturumundaki bir soruya yanıt olarak şöyle yazdı:

Tüm bu modeller oldukça karmaşık hale geldi ve istediğimiz kadar çok şeyi paralel olarak gönderemiyoruz. Mevcut bilgi işlem gücüyle ne yapacağına nasıl karar vereceği konusunda birçok sınırlama ve zor kararla karşı karşıya kalıyoruz.

Altman, OpenAI'nin bu yıl içinde bazı "çok iyi sürümlere" sahip olacağını, ancak bu listenin GPT-5'i içermeyeceğini söyledi. GPT-5, yapay zeka endüstrisindeki birçok kişinin, şirketin 18 aydan daha uzun bir süre önce tanıtılan GPT-4'ün ardından piyasaya sürmesini beklediği büyük sürümün varsayılan ismi.

Google ve Anthropic gibi OpenAI da şimdi dikkatini bu modellerin boyutundan, kullanıcı adına uçuş rezervasyonu yapabilen ya da e-posta gönderebilen, "ajan" adı verilen yapay zeka araçları da dahil olmak üzere daha yeni kullanım alanlarına kaydırıyor. Altman, Reddit'te şöyle yazıyor:

Giderek daha da iyileşen modellerimiz olacak. Ama bence dev atılım gibi hissettirecek bir sonraki şey, ajanlar olacak.