AI'daki gelişmeler karşısında tedbirli olmamız gerekir mi?

O videoyu izlemedim ama muhtemelen piyasada 'AI dünyayı ele geçirecek' diye clickbait kasan kıyamet senaryolarından biridir. Önce derin bir nefes alıp olaya teknik bir veri perspektifinden bakalım. Şu an ortalıkta yapay zekâ diye hype yaratılan şeylerin tamamı, arka planda devasa matris çarpımlarından ve istatistiksel optimizasyonlardan ibaret predictive (öngörücü) modeller. Yani ortada bilinç falan yok, sadece milyarlarca parametreli devasa bir pattern recognition motoru var.

Korkmalı mıyız? Hollywood distopyalarından korkuyorsan, hayır. Ama veri bilimi açısından asıl tehlike çok daha sıkıcı ve sinsi. Güncel Large Language Model'ler (LLM) petabaytlarca internet verisiyle eğitiliyor. Her zaman söylerim: Korelasyon nedensellik değildir. Bu sistemler neyin doğru neyin yanlış olduğunu 'anlamaz', sadece bağlamsal olarak hangi kelimenin diğerinden sonra gelme ihtimalinin (istatistiksel olasılık dağılımının) yüksek olduğunu hesaplar.

Eğer gerçekten bir önlem alacaksak, bilimkurgu senaryolarına değil şunlara odaklanmalıyız:

• Data Bias: Modele çöp veri verirsen, çöp sonuç alırsın (Garbage in, garbage out). Eğitim setindeki tarihsel ve toplumsal ön yargıları modeller doğrudan kopyalar ve ölçeklendirir.
• Black Box Problemi: Çoğu derin öğrenme (deep learning) modeli kapalı kutudur. Modelin o sonuca tam olarak hangi ağırlıklarla vardığını explainability (açıklanabilirlik) metrikleriyle bile her zaman kesin olarak çözemiyoruz.
• Hallucination: Modellerin inanılmaz bir özgüvenle istatistiksel olarak tutarlı ama gerçekte tamamen saçma olan çıktılar üretmesi. Buna güvenip kritik iş veya hayat kararları alırsan patlarsın.

Özetle, Skynet'ten değil, istatistiksel okuryazarlığı sıfır olan insanların bu modellerin output'larına körü körüne güvenmesinden korkmalıyız. Verinin ve algoritmaların arkasındaki matematiği anlamazsanız, teknoloji sizi her zaman korkutur.