2024 Turing Ödülü, Yapay Zekada Pekiştirmeli Öğrenme Tekniğinin Mucitlerine Verildi!
2024 Turing Ödülü Sahipleri, Şirketlerin Kârlarını Güvenliğe Karşı Öncelediğini Söyleyerek Uyarılarda Bulunuyor!
Association for Computing Machinery (ACM)
- Türev
- Yapay Zeka
- Bilim Haberciliği
Bilgisayar bilimi alanındaki en prestijli ödül olarak kabul edilen 2024 ACM A.M. Turing Ödülü, pekiştirmeli öğrenme (İng: "reinforcement learning") tekniğini geliştirerek şu an içinde bulunduğumuz yapay zeka devriminin de temelini atan iki öncü bilim insanına verildi.[1] Ödülü alan isimler, teknoloji şirketlerinin yapay zeka modellerini yeterince test etmeden kullanıma sunmasının tehlikelerine karşı uyarılarda bulundular.
Massachusetts Üniversitesi'nden kıdemli profesör Andrew Barto ve Alberta Üniversitesi'nden eski DeepMind araştırmacısı Richard Sutton, yapay zeka araştırmalarında çığır açan yöntemi geliştirdikleri için Amerika'daki Bilgisayar Makineleri Derneği (ACM) tarafından verilen 1 milyon dolarlık ödülün sahibi oldu. Barto ve Sutton, 1980'lerde insanların öğrenme süreçlerinden esinlenerek pekiştirmeli öğrenme tekniğini geliştirmişlerdir. Bu makine öğrenmesi tekniği, yapay zeka sistemlerini istenilen davranışlar için ödüllendirerek OpenAI ve Google gibi teknoloji şirketlerinin bu alandaki başarısının zeminini oluşturmuştur. Peki, pekiştirmeli öğrenme tekniği nedir ve neye denmektedir?
Kısaca anlatmak gerekirse: Pekiştirmeli öğrenme, bir yapay zeka ajanının deneme ve yanılma yoluyla öğrendiği bir tekniktir. Bu teknik ile ajan, bir çevrede (örneğin bir oyun veya sanal ortamda) belirli eylemler dener ve bu eylemlerin sonucunda ödül (pozitif) veya ceza (negatif) alır. Pekiştirmeli öğrenmede ajanın amacı, zamanla en yüksek ödülü toplayacak şekilde davranışını optimize etmektir.
Basit bir örnek olarak bir köpek yavrusu düşünebilirsiniz. Köpek oturursa ödül maması alır, havlarsa almaz. Zamanla köpek, oturma eylemini havlama davranışına karşı daha sık tercih eder. Yapay zekada da benzer bir şekilde, istenen sonuçlar ödülle pekiştirilerek öğrenilir. Kısaca mantık, şöyle ifade edilebilir: Dene, sonuçları gör, en iyisini seç ve davranışını optimize et.
Güvenlik Uyarıları
Sıklıkla "bilgisayar biliminin Nobel'i" olarak da anılan ödülün yeni sahipleri, teknoloji şirketlerinin yapay zeka modellerini yeterli güvenlik testlerine tabi tutmadan piyasaya sürmesi konusundaki endişelerini dile getirdiler. Ödülü kazanan iki isimden biri olan Andrew Barto, şöyle söylüyor:
Bir yazılımı güvenlik önlemi olmadan milyonlara sunmak, köprüleri insanların üzerinden geçmesine izin vererek test etmek gibidir. Mühendislik, teknolojinin olumsuz etkilerini azaltmak için evrimleşmiş bir alan ancak yapay zeka şirketleri bunu kullanmıyorlar.
Yapay zekanın kurucusu Alan Turing'in adını taşıyan ödül, günümüz ileri yapay zeka modellerinin karmaşık bilimsel problemleri kısa sürelerde çözmesini mümkün kılan pekiştirmeli öğrenme yöntemine verilmesi açısından önemlidir. Keza, 2024 Nobel Fizik ve Kimya Ödülleri de bu yöntemi kullanan yapay zeka araştırmalarına verilmiştir. Bu konuda Google'ın kıdemli başkan yardımcısı Jeff Dean, şöyle söylüyor:
Pekiştirmeli öğrenme, yapay zeka devriminin temel direğidir. Bu yöntem, genç araştırmacı ordularını cezbetmiş ve milyarlarca dolar yatırım çekmiştir.
Pekiştirmeli öğrenme, ChatGPT ve AlphaGo (insanları strateji gerektiren karmaşık Go oyununda yenebilen yapay zeka modeli) gibi çığır açan yapay zeka modellerinin yolunu açmıştır. Google DeepMind, pekiştirmeli öğrenme tekniğini temel edinerek AlphaGo'yu geliştirmiştir. OpenAI ise ChatGPT'nin çıktılarını kontrol etmek için insan geri bildirimli pekiştirmeli öğrenme yöntemini kullanmaktadır. Ancak, 2024 Turing Ödülü sahipleri Barto ve Sutton, şirketlerin hata yapmaya meyilli modelleri aceleci bir şekilde piyasaya sürdüğüne ve veri merkezleri gibi altyapılara daha önce benzeri görülmemiş miktarlarda yatırımlar yaptığına dikkat çekmektedir.
Barto, yapay zeka sektörünün "büyük veri merkezleri kurup yazılımı parayla satma" motivasyonunu eleştirmektedir. Barto, yapay zeka şirketlerinin "ticari çıkarlarla motive olduğunu" ve bilimsel araştırmayı ilerletmek yerine kâr odaklı hareket ettiklerini belirtmektedir.
Keza 17 Kasım 2023'te OpenAI şirketinin yönetim kurulu, şirketin kurucu isimlerinden olan CEO Sam Altman'ı "güvenlik sonuçlarını anlamadan ticareleştirme endişelerinden dolayı iletişim eksikliği" sebep gösterilerek oy çokluğuyla görevinden almıştı. Ancak Altman, çok geçmeden görevine geri dönmeyi başarmış ve birkaç hafta sonrasında ise şirket, kâr amacı gütmeyen bir yapıdan kâr amacı güden bir şirkete dönüşme planını açıklamıştı. Bundan önce OpenAI, kendini "tüm insanlığın yararına olan yapay genel zeka" geliştirmeyi hedefleyen bir kâr amacı gütmeyen kuruluş olarak tanımlamaktaydı.
Sonuç
Yapay zekanın hızlı ve denetimsiz gelişimi, modern yapay zekanın kurucuları olarak da anılan ve Turing Ödüllü başka isimler olan Yoshua Bengio ve Geoffrey Hinton (2024 Nobel Fizik Ödülü'nün de sahibidir) tarafından da sert bir şekilde eleştirilmektedir. Aynı şekilde, yapay zeka alanında önde gelen birçok bilim insanı, devletleri felaket risklerine karşı önlem alması ve yapay zeka gelişmelerinin güvenliğinin denetlenmesi için uluslararası bir otoritenin kurulması çağrısında bulunmaktadır.
Evrim Ağacı'nda tek bir hedefimiz var: Bilimsel gerçekleri en doğru, tarafsız ve kolay anlaşılır şekilde Türkiye'ye ulaştırmak. Ancak tahmin edebileceğiniz gibi Türkiye'de bilim anlatmak hiç kolay bir iş değil; hele ki bir yandan ekonomik bir hayatta kalma mücadelesi verirken...
O nedenle sizin desteklerinize ihtiyacımız var. Eğer yazılarımızı okuyanların %1'i bize bütçesinin elverdiği kadar destek olmayı seçseydi, bir daha tek bir reklam göstermeden Evrim Ağacı'nın bütün bilim iletişimi faaliyetlerini sürdürebilirdik. Bir düşünün: sadece %1'i...
O %1'i inşa etmemize yardım eder misiniz? Evrim Ağacı Premium üyesi olarak, ekibimizin size ve Türkiye'ye bilimi daha etkili ve profesyonel bir şekilde ulaştırmamızı mümkün kılmış olacaksınız. Ayrıca size olan minnetimizin bir ifadesi olarak, çok sayıda ayrıcalığa erişim sağlayacaksınız.
Makalelerimizin bilimsel gerçekleri doğru bir şekilde yansıtması için en üst düzey çabayı gösteriyoruz. Gözünüze doğru gelmeyen bir şey varsa, mümkünse güvenilir kaynaklarınızla birlikte bize ulaşın!
Bu makalemizle ilgili merak ettiğin bir şey mi var? Buraya tıklayarak sorabilirsin.
Soru & Cevap Platformuna Git-
1
-
0
-
0
-
0
-
0
-
0
-
0
-
0
-
0
-
0
-
0
-
0
- Türev İçerik Kaynağı: Financial Times | Arşiv Bağlantısı
- ^ A.M. Turing Award. Andrew Barto And Richard Sutton Are The Recipients Of The 2024 Acm A.m. Turing Award For Developing The Conceptual And Algorithmic Foundations Of Reinforcement Learning.. (5 Mart 2025). Alındığı Tarih: 7 Mart 2025. Alındığı Yer: A.M. Turing Award | Arşiv Bağlantısı
- J. Weatherbed. Latest Turing Award Winners Again Warn Of Ai Dangers. (5 Mart 2025). Alındığı Tarih: 7 Mart 2025. Alındığı Yer: The Verge | Arşiv Bağlantısı
Evrim Ağacı'na her ay sadece 1 kahve ısmarlayarak destek olmak ister misiniz?
Şu iki siteden birini kullanarak şimdi destek olabilirsiniz:
kreosus.com/evrimagaci | patreon.com/evrimagaci
Çıktı Bilgisi: Bu sayfa, Evrim Ağacı yazdırma aracı kullanılarak 10/03/2025 01:15:42 tarihinde oluşturulmuştur. Evrim Ağacı'ndaki içeriklerin tamamı, birden fazla editör tarafından, durmaksızın elden geçirilmekte, güncellenmekte ve geliştirilmektedir. Dolayısıyla bu çıktının alındığı tarihten sonra yapılan güncellemeleri görmek ve bu içeriğin en güncel halini okumak için lütfen şu adrese gidiniz: https://evrimagaci.org/s/20001
İçerik Kullanım İzinleri: Evrim Ağacı'ndaki yazılı içerikler orijinallerine hiçbir şekilde dokunulmadığı müddetçe izin alınmaksızın paylaşılabilir, kopyalanabilir, yapıştırılabilir, çoğaltılabilir, basılabilir, dağıtılabilir, yayılabilir, alıntılanabilir. Ancak bu içeriklerin hiçbiri izin alınmaksızın değiştirilemez ve değiştirilmiş halleri Evrim Ağacı'na aitmiş gibi sunulamaz. Benzer şekilde, içeriklerin hiçbiri, söz konusu içeriğin açıkça belirtilmiş yazarlarından ve Evrim Ağacı'ndan başkasına aitmiş gibi sunulamaz. Bu sayfa izin alınmaksızın düzenlenemez, Evrim Ağacı logosu, yazar/editör bilgileri ve içeriğin diğer kısımları izin alınmaksızın değiştirilemez veya kaldırılamaz.
