Evrim Ağacı Logo Evrim AğacıSoru & Cevap
Evrim Ağacı Soru & Cevap
Reklamı Kapat
Puan Ver
1
Puan Ver

Eğer yapay zekaya sahip bir robot birini öldürürse ceza nasıl verilir?

Bir yapay zekaya sahip robot düşünelim. Kendini eğitebiliyor ve kendi kendine bazı işlevleri yapabiliyor olsun. Eğer bu robot bir gün birini öldürmeyi öğrenirse ve öldürürse bunun cezası robotun yapımcısına veya yazılım sahibine mi verilir? Eğer onlara verilirse robotun onun için tasarlanmadığı kanıtlanamaz mı?

1
Teşekkür (1)
Hatırla (1)
Takip
Paylaş
Reklamı Kapat
1 Cevap

Öncelikle yapay zekanın toplumdaki statüsüne bakmamız gerekir. Laboratuvarda yapılan, yapay zekaya sahip bir robot kaçıp birini öldürürse, sorumlusu tabi ki onu inşa eden olur. Çünkü toplum tarafından, ne kadar zeki olursa olsun, hala bir makine olarak görülecektir.

Oysa, bu robotlara toplumda birer görev verdiysek, insanlar arasında rahatlıkla dolaşıp, kas gücü ve zeka gerektiren işlerde, iş gücü olarak kullanılıyorsa, bu durumda işin içine yeni yasalar girecektir ve kendi kararlarını alabilecek bireyler olduğu, yasalar tarafından kabul edildi ise, o zaman yapay zekalar yaptıkları davranışların ve sonuçlarının bilincinde demektir. Dolayısı ile cezayı yapay zeka çekecektir.

Bu durumda bir paradoks ortaya çıkar.

Eğer yapay zeka, yaptığı davranışların ve sonuçlarının farkında ise zaten kimseyi öldürmeyecektir. Çünkü cezalandırılacağını bilmektedir. İnsan gibi duygulara sahip olmadıkları için mantıklı olan, ne olursa olsun cezadan uzak durmaktır. Eğer buna rağmen yine de birini öldürdü ise, o zaman iki olasılık belirir. Ya yapay zeka, yaptıklarının bilincinde değildir, ki bu hatalı programlamadan kaynaklanır ve cezasını inşa eden çeker, ya da yapay zeka cezadan korkmaz. İşte tam da burada her şey bambaşka bir boyuta geçer.

Cezadan korkmamak dramatik sonuçlar doğurur. Ödül ve ceza, bizzat yaşanmadan, fark edilemeyecek olgulardır. Dört yaşındaki bir çocuğa, yemeğini bitirirsen çizgi film izleyebilirsin dediğinizde, sevinecektir. Çünkü daha önce çizgi film izlemiş ve o duygunun ne demek olduğu bilir. O duyguyu tekrar hissedebilmek için önündeki tek engelin yemeğini bitirmesi gerektiğini kavrar. Oysa hiç çizgi film izlememiş olsaydı verdiğiniz ödül, onun için çekici olmazdı.

Hiç ceza çekmemiş bir yapay zekaya, şunu yaparsan cezasını çekersin demek, yapay zeka için teoride olmasada pratikte bir şey ifade etmeyebilir. İnsanlar bazı korkular ile beraber doğar, yükseklik, su, vahşi hayvanlar vb. Bunların hepsi atalarımızdan gelen genetik bilgiler ve bizi hayatta tutacak bilgiler. Bu korkuları harmanlayarak bilincimiz oluştukça daha sağlam temellere oturturuz. Bir yapay zeka korkusuz doğar, kendine neyin zarar vereceğini bilemez. Cezayı, bu korkular ile ilişkilendirmemiz gerekir. Ortada bir korku yoksa, ceza teoride kalır, etkisini yitirir.

O zaman korkuları, robota simüle edelim dersek, bir robotun nelerden korkacağını nasıl bileceğiz?

"Senin yazılımını sileriz!" Bir şey ifade eder mi acaba ona? Sonuçta "1" ve "0"dan ibaret.

"Kolunu, bacağını keseriz!" Acı hissetmiyor ki, acıyı sadece tanımlayabilir ne olduğunu asla bilemez.

Bir robotu nasıl korkutabiliriz?

Ona bu duyguyu aşılayamazsak, cezadan çekinmesini nasıl sağlarız?

Görüldüğü gibi, aslından yapması çok basit görünen bir makinenin, düşünülmesi gereken o kadar çok parametresi vardır ki; sibernetik ile uğraşan bir çok bilim adamı, eğer bir yapay zeka yapacaksak, insan gibi duyguları olmalıdır aksi takdirde başarılı olamayız demektiedir. Bu duruma da, Stephen Hawking gibi bilim adamları karşı çıkmaktaydı çünkü duyguları olan bir yapay zeka, insanoğluna düşman olabilir.

Puan Ver
1
Puan Ver
Teşekkür
Paylaş
1
Cevap Ver
Bu soruya cevap vermek için lütfen
Evrim Ağacı Soru & Cevap Platformu, Türkiye'deki bilimseverler tarafından kolektif ve öz denetime dayalı bir şekilde sürdürülen, özgür bir ortamdır. Evrim Ağacı tarafından yayınlanan makalelerin aksine, bu platforma girilen soru ve cevapların içeriği veya gerçek/doğru olup olmadıkları Evrim Ağacı yönetimi tarafından denetlenmemektedir. Evrim Ağacı, bu platformda yayınlanan cevapları herhangi bir şekilde desteklememekte veya doğruluğunu garanti etmemektedir. Doğru olmadığını düşündüğünüz cevapları, size sunulan denetim araçlarıyla işaretleyebilir, daha doğru olan cevapları kaynaklarıyla girebilir ve oylama araçlarıyla platformun daha güvenilir bir ortama evrimleşmesine katkı sağlayabilirsiniz.
Reklamı Kapat
Türkiye'deki bilimseverlerin buluşma noktasına hoşgeldiniz!

Göster

Şifrenizi mi unuttunuz? Lütfen e-posta adresinizi giriniz. E-posta adresinize şifrenizi sıfırlamak için bir bağlantı gönderilecektir.

Geri dön

Eğer aktivasyon kodunu almadıysanız lütfen e-posta adresinizi giriniz. Üyeliğinizi aktive etmek için e-posta adresinize bir bağlantı gönderilecektir.

Geri dön

Close
“Beş duyuyla donanmış olan insanlık, kendisi etrafındaki evreni keşfetme yolculuğuna çıkmıştır. Bu yolculuğun adı, bilimdir.”
Edwin Hubble
Geri Bildirim Gönder
Reklamsız Deneyim

Evrim Ağacı'nın çalışmalarına Kreosus, Patreon veya YouTube üzerinden maddi destekte bulunarak hem Türkiye'de bilim anlatıcılığının gelişmesine katkı sağlayabilirsiniz, hem de site ve uygulamamızı reklamsız olarak deneyimleyebilirsiniz. Reklamsız deneyim, Evrim Ağacı'nda çeşitli kısımlarda gösterilen Google reklamlarını ve destek çağrılarını görmediğiniz, daha temiz bir site deneyimi sunmaktadır.

Kreosus

Kreosus'ta her 10₺'lik destek, 1 aylık reklamsız deneyime karşılık geliyor. Bu sayede, tek seferlik destekçilerimiz de, aylık destekçilerimiz de toplam destekleriyle doğru orantılı bir süre boyunca reklamsız deneyim elde edebiliyorlar.

Kreosus destekçilerimizin reklamsız deneyimi, destek olmaya başladıkları anda devreye girmektedir ve ek bir işleme gerek yoktur.

Patreon

Patreon destekçilerimiz, destek miktarından bağımsız olarak, Evrim Ağacı'na destek oldukları süre boyunca reklamsız deneyime erişmeyi sürdürebiliyorlar.

Patreon destekçilerimizin Patreon ile ilişkili e-posta hesapları, Evrim Ağacı'ndaki üyelik e-postaları ile birebir aynı olmalıdır. Patreon destekçilerimizin reklamsız deneyiminin devreye girmesi 24 saat alabilmektedir.

YouTube

YouTube destekçilerimizin hepsi otomatik olarak reklamsız deneyime şimdilik erişemiyorlar ve şu anda, YouTube üzerinden her destek seviyesine reklamsız deneyim ayrıcalığını sunamamaktayız. YouTube Destek Sistemi üzerinde sunulan farklı seviyelerin açıklamalarını okuyarak, hangi ayrıcalıklara erişebileceğinizi öğrenebilirsiniz.

Eğer seçtiğiniz seviye reklamsız deneyim ayrıcalığı sunuyorsa, destek olduktan sonra YouTube tarafından gösterilecek olan bağlantıdaki formu doldurarak reklamsız deneyime erişebilirsiniz. YouTube destekçilerimizin reklamsız deneyiminin devreye girmesi, formu doldurduktan sonra 24-72 saat alabilmektedir.

Diğer Platformlar

Bu 3 platform haricinde destek olan destekçilerimize ne yazık ki reklamsız deneyim ayrıcalığını sunamamaktayız. Destekleriniz sayesinde sistemlerimizi geliştirmeyi sürdürüyoruz ve umuyoruz bu ayrıcalıkları zamanla genişletebileceğiz.

Giriş yapmayı unutmayın!

Reklamsız deneyim için, maddi desteğiniz ile ilişkilendirilmiş olan Evrim Ağacı hesabınıza üye girişi yapmanız gerekmektedir. Giriş yapmadığınız takdirde reklamları görmeye devam edeceksinizdir.

Destek Ol