Yeni Nesil Tehdit: Yapay Zeka Hacker'ları Geliyor!

Hackerlar Arasında Bir Devrim: Bilgisayarlar Birbirini Hackliyor

2016 yılında, on binlerce siber güvenlik araştırmacısı, dünyanın en büyük hacker konferansı olan DEF CON için Las Vegas’taki Bally’s Oteli’nde bir araya geldi. Dört gün süren bu konferans boyunca katılımcılar; bir yolcu uçağının uzaktan nasıl kontrol edilebileceği, elektronik kasa kilitlerinin nasıl devre dışı bırakılabileceği veya bir ATM’nin güvenliğinin nasıl aşılabileceği gibi konularda yapılan konuşmalara ve gösterilere tanıklık ettiler ancak o yaz, organizatörler bu etkinlikte bile 'sansasyonel' sayılabilecek bir şey yapmak istediler. İnsanların bilgisayarları hacklemesi yerine, bilgisayarların birbirini hacklemesini istediler. Yaşananlar, bilgisayar tabanlı saldırılara ve daha önce hayal bile edilemeyecek ölçekteki bilgi sistemlerinin ihlaline açık bir geleceğin habercisiydi.

ABD Savunma Bakanlığına bağlı çığır açıcı teknolojilere fon sağlayan bir kuruluş olan DARPA (İleri Savunma Araştırma Projeleri Ajansı) ile iş birliği içinde DEF CON, bugüne kadar yalnızca bir kez düzenlenen Cyber Grand Challenge adlı yarışmaya ev sahipliği yaptı. Bu yarışma, yapay zeka sistemlerinin, diğer yapay zekalar tarafından savunulan bilgisayar programlarını otonom biçimde hacklemeleri üzerine kuruluydu. Yarışma, bir oyun formatında kurgulanmıştı: 10 saatlik mücadele süresince, diğer sistemlerdeki güvenlik açıklarını en iyi şekilde tespit edip istismar edebilen ve kendi sistemini en iyi şekilde savunabilen yapay zeka, geliştiricilerine 2 milyon dolarlık ödül kazandıracaktı.

İnsan gözüyle bakıldığında, sadece yapay zekaların yarıştığı bu hackleme etkinliği pek etkileyici görünmüyordu. Otelin balo salonlarından birinde, gelişmiş yapay zeka sistemleriyle çalışan birkaç renkli sunucu rafı yarım daire şeklinde sahneye dizilmişti; her bir makinedeki yanıp sönen LED ışıkları, DARPA’nın ağı üzerinde yaşanan bir robot savaşının tek işaretiydi. Ancak Harvard Kennedy School'da kamu politikası üzerine dersler veren siber güvenlik uzmanı Bruce Schneier için o gün yaşananlar, çok da uzak olmayan bir geleceğe dair uyarıcı bir pencereydi: Yapay zekalar yakın bir gelecekte, insanüstü hızda, kapsamda, ölçekte ve karmaşıklıkta güvenlik açıklarını bulup kullanabilecek. Bu geleceğin yapay zeka hacker’ları sadece bilgisayar sistemleriyle sınırlı kalmayacak. Finansal, politik ve sosyal sistemleri de öngörülemez şekillerde manipüle edebilecekler ve insanlar bunun farkına vardığında belki de çok geç olacak.

TED

Schneier, yeni kitabı "A Hacker’s Mind" (Bir Hacker’ın Zihni)'nde ayrıntılı olarak anlattığı üzere, insanların sistemlerdeki açıkları karlı biçimde istismar etmeye -yani hacklemeye- bilgisayarlardan çok daha önce başladığını söylüyor.^[1] Bir yerde kurallara ve normlara bağlı karmaşık bir süreç varsa, insanlar bu sistemin amacını bozmadan kendi lehlerine yollar bulmaya çalışırlar. İster bilgisayarlar, ister sık uçuş programları, profesyonel spor karşılaşmaları ya da demokratik kurumlar olsun, hepsinin istismara açık yönleri vardır.

Dolayısıyla insanların daha iyi hack yöntemleri geliştirmek için yapay zekaya yönelmesi şaşırtıcı değil. Yapay zekalar hiç durmadan çalışabilir ve devasa miktarda veriyi analiz ederek insanların gözünden kaçabilecek örüntüleri ya da bilgileri tespit edebilirler. Bu yetenekler her hacker için kıymetlidir, ancak Schneier daha da önemli bir noktaya dikkat çekiyor: Yapay zekalar insanlar gibi düşünmez.

Temel düzeyde bir yapay zeka, belirli ve dar bir problemi çözmek için adım adım ilerleyen algoritmalar kullanan sofistike bir yazılım programıdır. Örneğin bir görüntüdeki nesneyi tanımlamak gibi. Yapay zekaları diğer yazılımlardan ayıran şey, ne kadar çok veri işlerlerse o kadar yetenekli hale gelmeleridir. Tıpkı insanlar gibi öğrenmeleri tasarlanmıştır ancak insanlardan farklı olarak, yapay zekalar normlar, değerler ve varsayımlarla sınırlı değildir. Bu da onları, insanların asla düşünemeyeceği türde yeni "hack"ler geliştirme potansiyeline sahip kılar.

Schneier, bir bilgisayar programcısının robot süpürgesinin nesnelere çarpmamasını sağlamak istemesiyle ilgili bir örnek sunuyor. Programcı, robotun ön tampon sensörlerinin devreye girmemesini sağlayacak bir yapay zeka eğitti ancak yapay zeka, nesnelerden uzak durmayı değil, geriye doğru gitmeyi öğrendi. Bu sayede tampon sensörlerine temas etmiyor ama hala nesnelere çarpıyordu. Yapay zeka, teknik olarak isteneni yaptı: tampon tetiklenmesini önledi ama amaca hizmet etmeyen bir yolla. Schneier bunu şöyle özetliyor: "Yapay zeka hacker’larında mesele sadece daha hızlı olmaları ya da sayıca fazla olmaları değil. Onlar tamamen başka bir tür."

TechCrunch

DARPA Cyber Grand Challenge’ı kazanan yapay zeka olan Mayhem, son birkaç yılda büyük bir gelişim gösterdi ve şu anda ABD Savunma Bakanlığı tarafından aktif olarak kullanılıyor. Mayhem gibi etik dışı tasarlanmış yapay zekaların ABD Savunma Bakanlığı tarafından desteklenmesi, teknoloji devi devletlerin de bu süreçte yapay zekalardan en üst düzeyde faydalanmak istemesinin bir yansıması olarak görülüyor. Schneier, otonom yapay zeka hacker’larının tam anlamıyla devreye gireceği zamanı kestirmekten kaçınsa da, devletlerin bu alana büyük bütçeler ayırmaya başlamasıyla birlikte bu sürecin tahmin edilenden çok daha erken gerçekleşeceğine inanıyor. Güncel dönemde OpenAI ile ulusal güvenlik amaçlı yapay zeka prototipleri geliştirmek üzere 200 milyon dolarlık sabit bedelli bir sözleşme imzalanması da bu alanda yapılan yatırımlara öncülük ediyor.^[2]

Yapay Zeka Hacker'larına Karşı Kendimizi Nasıl Savunabiliriz?

Yazılım şirketleri, keşfedilen bir açığı hızla yamayla kapatabilir, ancak insani sistemler çok daha yavaş değişir. Eğer biz yapay zeka hacker’larının çağına direnmek istiyorsak, sosyal, ekonomik ve siyasi sistemlerdeki açıkları, bu sistemler kullanılmadan önce tespit edip kapatabilmeliyiz. Bu yeni yönetim sistemlerinin nasıl işleyeceği henüz kesin değil ama etkili çözümlerin hızlı, kapsayıcı, şeffaf ve çevik olması gerekiyor. İronik biçimde, yapay zeka hacker’ları bu konuda ilk savunma hattı da olabilir. Halk arasında hacking genellikle etik dışı veya suç olarak görülse de, bazı hack’ler sistemlerin evriminde itici bir güç olabilir. Eğer bir hack, sistemin kullanıcılarına fayda sağlıyorsa, sistem yöneticileri o hack’i resmileştirip kalıcı bir çözüme dönüştürebilir. Schneier’ın kitabında belirttiği gibi, bugün sıradan kabul ettiğimiz pek çok şey -basketbolda smaç, mevduat sertifikaları gibi bankacılık uygulamaları- zamanında birer hack’ti.

Bir hack’in zararlı mı yoksa faydalı mı olduğu bakış açısına göre değişebilir ama her hack, bir sistemin dönüşümünde kilit rol oynar. Yapay zeka hack’leri de bu açıdan farklı değil. Schneier, gelecekte yapay zekaların yazılımları, düzenlemeleri ve diğer sistemleri gerçek dünyaya sürülmeden önce test ederek daha dirençli hale getirilebileceğini söylüyor. Kitabında ise bu konuya şu sözlerle noktayı koyuyor:

“Hacking özünde bir denge oyunudur. Eğer biz, hack’in kendisini hackleyemezsek -yani faydalarını koruyup maliyetlerini ve adaletsizliklerini azaltamazsak- bu teknolojik gelecekte ayakta kalamayız.”