Yapay zekanın yerimizi aldığı bir senaryoda, beslenebileceği veriler ya olmayacak ya da kendi verileri olacak bu durumda gelişimi durmaz mı?

Kısa ve net cevap, evet, durur hatta gelişim durmakla kalmaz sistem hızla yozlaşır. Yapay zeka modellerini dışarıdan taze ve bağımsız veri vermeden sadece kendi ürettikleriyle beslemeye başlarsanız, literatürde model çöküşü (model collapse) denilen durum gerçekleşir ve sistem saçmalamaya başlar.

Olay aslında elektronikteki kontrolsüz pozitif geri beslemeye benziyor. Hoparlörü mikrofona dayadığınızda çıkan o kulak tırmalayıcı ıslık sesini ya da kendi çıkışına kilitlenip duman çıkaran op-amp devrelerini düşünün. Bir dil modeli kendi sentetik verisini tekrar eğitime soktuğunda, dildeki nadir olasılıklar ve nüanslar her turda biraz daha kırpılır. Birkaç nesil sonra fotokopinin fotokopisini çekmiş gibi olursunuz, varyans çöker ve model kendini tekrar eden anlamsız kalıplara hapsolur.

Peki bu durum insanın yerinin asla doldurulamayacağını mı gösterir, işte orası o kadar kesin değil. Modelin önünde doğrulanabilir bir zemin varsa iş değişiyor. Örneğin satranç, matematik ispatları veya yazılım kodunun derlenip test edilmesi gibi kuralları katı alanlarda, yapay zeka kendi kendine oynayarak ve sentetik veri üreterek insanı çoktan geçti. Çünkü orada derleyici gibi, fizik kuralları gibi nesnel bir filtre var, yani hatalı veri devreyi yakmadan eleniyor.

Bizim yazılımcı tayfa her şeyi ekrandan ibaret sansa da fiziksel dünya ve insan tecrübesi öyle kolay simüle edilemiyor. Kültür, sanat, sokak tecrübesi ve öznel yargı içeren konularda yapay zeka dışarıdan gerçek veri almadığı sürece kendi kuyruğunu yiyen yılana döner. Kısacası, sistemi topraklayacak ve gerçek hayatla temasını sağlayacak bir insan referansı uzun süre masada kalmak zorunda.