2024 Turing Ödülü, Yapay Zekada Pekiştirmeli Öğrenme Tekniğinin Mucitlerine Verildi!

Bilgisayar bilimi alanındaki en prestijli ödül olarak kabul edilen 2024 ACM A.M. Turing Ödülü, pekiştirmeli öğrenme (İng: "reinforcement learning") tekniğini geliştirerek şu an içinde bulunduğumuz yapay zeka devriminin de temelini atan iki öncü bilim insanına verildi.^[1] Ödülü alan isimler, teknoloji şirketlerinin yapay zeka modellerini yeterince test etmeden kullanıma sunmasının tehlikelerine karşı uyarılarda bulundular.

Massachusetts Üniversitesi'nden kıdemli profesör Andrew Barto ve Alberta Üniversitesi'nden eski DeepMind araştırmacısı Richard Sutton, yapay zeka araştırmalarında çığır açan yöntemi geliştirdikleri için Amerika'daki Bilgisayar Makineleri Derneği (ACM) tarafından verilen 1 milyon dolarlık ödülün sahibi oldu. Barto ve Sutton, 1980'lerde insanların öğrenme süreçlerinden esinlenerek pekiştirmeli öğrenme tekniğini geliştirmişlerdir. Bu makine öğrenmesi tekniği, yapay zeka sistemlerini istenilen davranışlar için ödüllendirerek OpenAI ve Google gibi teknoloji şirketlerinin bu alandaki başarısının zeminini oluşturmuştur. Peki, pekiştirmeli öğrenme tekniği nedir ve neye denmektedir?

Kısaca anlatmak gerekirse: Pekiştirmeli öğrenme, bir yapay zeka ajanının deneme ve yanılma yoluyla öğrendiği bir tekniktir. Bu teknik ile ajan, bir çevrede (örneğin bir oyun veya sanal ortamda) belirli eylemler dener ve bu eylemlerin sonucunda ödül (pozitif) veya ceza (negatif) alır. Pekiştirmeli öğrenmede ajanın amacı, zamanla en yüksek ödülü toplayacak şekilde davranışını optimize etmektir.

Basit bir örnek olarak bir köpek yavrusu düşünebilirsiniz. Köpek oturursa ödül maması alır, havlarsa almaz. Zamanla köpek, oturma eylemini havlama davranışına karşı daha sık tercih eder. Yapay zekada da benzer bir şekilde, istenen sonuçlar ödülle pekiştirilerek öğrenilir. Kısaca mantık, şöyle ifade edilebilir: Dene, sonuçları gör, en iyisini seç ve davranışını optimize et.

Güvenlik Uyarıları

Sıklıkla "bilgisayar biliminin Nobel'i" olarak da anılan ödülün yeni sahipleri, teknoloji şirketlerinin yapay zeka modellerini yeterli güvenlik testlerine tabi tutmadan piyasaya sürmesi konusundaki endişelerini dile getirdiler. Ödülü kazanan iki isimden biri olan Andrew Barto, şöyle söylüyor:

Bir yazılımı güvenlik önlemi olmadan milyonlara sunmak, köprüleri insanların üzerinden geçmesine izin vererek test etmek gibidir. Mühendislik, teknolojinin olumsuz etkilerini azaltmak için evrimleşmiş bir alan ancak yapay zeka şirketleri bunu kullanmıyorlar.

Yapay zekanın kurucusu Alan Turing'in adını taşıyan ödül, günümüz ileri yapay zeka modellerinin karmaşık bilimsel problemleri kısa sürelerde çözmesini mümkün kılan pekiştirmeli öğrenme yöntemine verilmesi açısından önemlidir. Keza, 2024 Nobel Fizik ve Kimya Ödülleri de bu yöntemi kullanan yapay zeka araştırmalarına verilmiştir. Bu konuda Google'ın kıdemli başkan yardımcısı Jeff Dean, şöyle söylüyor:

Pekiştirmeli öğrenme, yapay zeka devriminin temel direğidir. Bu yöntem, genç araştırmacı ordularını cezbetmiş ve milyarlarca dolar yatırım çekmiştir.

Pekiştirmeli öğrenme, ChatGPT ve AlphaGo (insanları strateji gerektiren karmaşık Go oyununda yenebilen yapay zeka modeli) gibi çığır açan yapay zeka modellerinin yolunu açmıştır. Google DeepMind, pekiştirmeli öğrenme tekniğini temel edinerek AlphaGo'yu geliştirmiştir. OpenAI ise ChatGPT'nin çıktılarını kontrol etmek için insan geri bildirimli pekiştirmeli öğrenme yöntemini kullanmaktadır. Ancak, 2024 Turing Ödülü sahipleri Barto ve Sutton, şirketlerin hata yapmaya meyilli modelleri aceleci bir şekilde piyasaya sürdüğüne ve veri merkezleri gibi altyapılara daha önce benzeri görülmemiş miktarlarda yatırımlar yaptığına dikkat çekmektedir.

Barto, yapay zeka sektörünün "büyük veri merkezleri kurup yazılımı parayla satma" motivasyonunu eleştirmektedir. Barto, yapay zeka şirketlerinin "ticari çıkarlarla motive olduğunu" ve bilimsel araştırmayı ilerletmek yerine kâr odaklı hareket ettiklerini belirtmektedir.

Keza 17 Kasım 2023'te OpenAI şirketinin yönetim kurulu, şirketin kurucu isimlerinden olan CEO Sam Altman'ı "güvenlik sonuçlarını anlamadan ticareleştirme endişelerinden dolayı iletişim eksikliği" sebep gösterilerek oy çokluğuyla görevinden almıştı. Ancak Altman, çok geçmeden görevine geri dönmeyi başarmış ve birkaç hafta sonrasında ise şirket, kâr amacı gütmeyen bir yapıdan kâr amacı güden bir şirkete dönüşme planını açıklamıştı. Bundan önce OpenAI, kendini "tüm insanlığın yararına olan yapay genel zeka" geliştirmeyi hedefleyen bir kâr amacı gütmeyen kuruluş olarak tanımlamaktaydı.

Sonuç

Yapay zekanın hızlı ve denetimsiz gelişimi, modern yapay zekanın kurucuları olarak da anılan ve Turing Ödüllü başka isimler olan Yoshua Bengio ve Geoffrey Hinton (2024 Nobel Fizik Ödülü'nün de sahibidir) tarafından da sert bir şekilde eleştirilmektedir. Aynı şekilde, yapay zeka alanında önde gelen birçok bilim insanı, devletleri felaket risklerine karşı önlem alması ve yapay zeka gelişmelerinin güvenliğinin denetlenmesi için uluslararası bir otoritenin kurulması çağrısında bulunmaktadır.