Geoffrey Hinton: Yapay Zeka Eğer Önlem Alınmazsa Sonumuz Olabilir!

Modern yapay zekanın üç "babası"ndan biri olarak da tanınan İngiliz-Kanadalı bilgisayar bilimci Geoffrey Hinton, yapay zekanın önümüzdeki 30 yıl içinde insanlığı yok etme ihtimalinin düşündüğünden daha yüksek olduğunu belirterek, teknolojinin gelişim hızının "beklenenden çok daha hızlı" ilerlediği uyarısında bulunmaktadır.

Bilgisayar biliminin nobeli olarak da görülen prestijli 2018 Turing Ödülü'nün sahibi ve ayrıca 2024 Nobel Fizik Ödülü'ne layık görülen Profesör Geoffrey Hinton, önümüzdeki 30 yıl içerisinde yapay zekanın insanlığın sonunu getirme ihtimalinin %10 ila %20 olarak tahmin ettiğini belirtmektedir.

Daha önce yapay zekanın insanlık için felaketle sonuçlanma olasılığını %10 olarak değerlendiren Hinton, BBC Radyo 4'ün Today programında "Analiziniz değişti mi?" sorusuna, "Pek sayılmaz. Şimdi %10-20 diyorum" yanıtını verdi.

Hinton'ın bu tahminine programın konuk editörü ve aynı zamanda İngiltere eski maliye bakanı Sajid Javid, "Oranı artırıyorsunuz" yorumunda bulundu. Hinton ise buna, "Hatta belki daha fazla. Çünkü şimdiye kadar kendimizden daha zeki bir şeyi kontrol etmek zorunda kalmadık" cevabını verdi. Hinton, şöyle söylüyor:

Daha az zeki bir şeyin, daha zeki bir şeyi kontrol ettiği kaç örnek biliyorsunuz? Çok az. Anne ve bebek ilişkisi var. Evrim, bebeğin anne üzerinde kontrolünün olması için mekanizmalar sağladı, ancak bildiğim tek örnek bu.

Toronto Üniversitesi'nde kıdemli profesör olan Hinton, insanların gelişmiş yapay zeka sistemleri karşısında "daha yeni yürümeye başlayan bir çocuk" gibi kalacağını belirtmektedir. Hinton, şöyle söylüyor:

Şöyle düşünün: Siz ve üç yaşında bir çocuk. Biz o çocuk olacağız.

Dünya Devletleri Büyük Şirketlere Güvenmemeli

Yapay zeka, genel olarak insan zekasını gerektiren görevleri yerine getiren bilgisayar sistemleri olarak tanımlanmaktadır. Hinton, 2023 yılında, kontrolsüz yapay zeka gelişiminin risklerini açıkça konuşmak için teknoloji devi Google'daki işinden istifa etmiş ve "kötü niyetli kişilerin" bu teknolojiyi zarar vermek için kullanabileceği endişesini dile getirmişti. Hinton gibi yapay zeka güvenliği çağrısında bulunan bilim insanlarının temel kaygısı, insanlardan daha zeki sistemler (yapay genel zeka) geliştirilmesi durumunda bu sistemlerin insan kontrolünden kolaylıkla çıkabilecek olmasıdır. Hinton, yapay zekanın şu an bulunduğu seviyeye bu kadar hızlı gelmesini beklemediğini belirtmektedir. Hinton, şöyle söylüyor:

Gelişmelerin bu kadar hızlı gerçekleşeceğini tahmin etmemiştim. Şu anda alandaki uzmanların çoğu, önümüzdeki 20 yıl içinde insanlardan daha zeki yapay zeka geliştireceğimizi düşünmektedir. Bu, oldukça endişe vericidir.

Gelişim hızının "beklenenden çok daha hızlı" olduğunu vurgusunda bulunan Hinton, devletlerin bu alanda önemli regülasyonlar getirmesi gerektiğini ifade etmektedir. Hinton, şöyle söylüyor:

Görünmez bir el bizi korumayacak. Dolayısıyla yapay zeka araştırmalarını öylece büyük şirketlerin kâr motivasyonuna bırakmak, yapay zekayı güvenli bir şekilde geliştirmelerini sağlamayacaktır. Büyük şirketleri güvenlik konusunda daha fazla araştırma yapmaya zorlayabilecek tek şey, devletlerin regülasyonlar getirmesidir.