Evet robotlar kendilerini üretebilirler. Zaten şu anda bile kendilerini üretmektedirler. Fabrikalarin cogunda robotlar sayesinde uretim yapilir.
Tabi burada senin robot tanimin farkli olabilir. Eger senin robot tanimin, insana benzeyen, eli kolu olan konusup dusunebilen robotlar ise, hayir fabrikalardaki robotlar bu tur robotlar degiller. Fabrikalarda, genellikle belirli amaclari otomatik olarak gerceklestiren belirli bir isi yapabilen robotlar var. Bunlarinda bizim seviyemizde bir zekalari yoktur. Zekadan ziyade ayni isi duzenli olarak yapmalarini saglayan algoritmalari vardir. Yani fabrikalarda insana benzeyen robotlar yok ama belirli robotlar mevcut. Bu yuzden robotlar kendilerini halihazirda uretebiliyorlar diyebiliriz. Cunku bu robotlari bu fabrikalarda uretiriz.
1- Robotlar kendilerini uretebilirler eger izin verirsek cunku henuz kendi basina bir insan gibi haklara, ozgurluklere ve guce sahip olabilecek kapasite bir robotumuz yoktur. Var olan en insansi robotlar bile henuz emekleme asamalarindalar. Demek istedigin insansi robotlar ise onlara ulasmak icin ongorulu/ongorusuz bir cevap vermem gerekirse, henuz insansi bir seviyede birebir insanin yerini alabilecek bir robot dunya uretemedi. En erken onumuzdeki 20-50 yil icinde gorebilecegimiz robotlar bunlar. Tekrar ediyorum en erken.
Robotlar kendilerini uretmeye baslarsa bize bir sey olmaz cunku hali hazirda suan kendilerini uretmekteler ve bize birsey olmuyor gordugun gibi.
Eger demek istedigin bir insansi robotun kendi basina kendisinden uretmeye baslamasi ise, boyle bir gucu kolay kolay kimse bir robotun eline vermez. Bunlar utopik/distopik senaryolar. Evet dunya olarak birbirimizi yok etmezsek ve gelismeye devam edersek muhtemelen insansi robotlar hayatimiza girecek. Ama bu demek degilki bizim kontrolumuzden cikacaklar. Ciksalar bile bize saldirsalar bile emin ol insanlar kazanir. En azindan su anki seviyede robotlarin kazanma sanslari yok. Zaten su anki seviyede insanliga meydan okuyabilecek bir robotumuzda yoktur.
Bir robot kendi kendini uretmeye baslayamaz buna izin vermeyiz. Sonuclarini herkes tahmin edebiliyor. Ancak yapay zeka ve benzeri algoritmalar ile gercekten insanlar ile esit duzeyde bir zeka uretirsek ve bu zekanin dogru calistigindan emin olursak. Ve bunun sonucunda zengin bir sirket bu yapay zekaya sirketi yonetmesi icin izin verirse(uc bir ornek en azindan suan icin) bu yapay zeka bir fabrika acma yetkisine sahip oldugunda yani kimseden izin almadan, bu fabrikada robotlari uretmeye baslayabilirse robotlar kendi baslarina karar vermis ve kendi kendilerini uretmeye baslamis olurlar.
Ama dikkatini cekmek isterim ki, bu yeni fabrikayi kuracak kisilerde insanlardir cunku henuz insaat yapacak kadar robotlar otonom degiller ve robotlar o kadar hayatimizda degiller. Bu yuzden su anda bir yapay zekaya bu hakki verseniz bile insanlara ihtiyaci olacaktir. Kaldiki bu yapay zeka bile sirketin kontrolundedir, kafasina gore bir hamle yapacak gucu yoktur. Sirketin kontrolu bile isteye kendi eliyle robota birakmasi lazimdir. Robot veya yapay zeka kendi basina sirketin yonetimini ele geciremez.
Insanlarin kendini koruma icguduleri cok fazladir. Iron man gibi robotlar uretecek teknoloji henuz yoktur. Yani senin senaryona endise etmesi gereken senin torunlarin olabilir.
Yine bize ne olur sorusuna baska bir senaryo kuralim.
Oncelikle bize insansi robotlarin saldiri acmasi robotlar icin kesin olum olur. 7.5 milyar insani karsisina alip savas açacak bir robotun cok zeki olmadigini ve bu yuzden korkmamiz gerekmedigini soyleyebilirim. Ulkelerin askeri guclerini ve insanlarin hayatta kalma icgydulerini kusumsememek lazimdir. Demirden insanimsi robotlar bile olsa insanligi yok edebilecek bir tehlike olusturamazlar. En azindan gunumuzde.
Gunumuzde bir robotun kendini uretmesiyle insanliga hic bir sey olmaz ama bir yapay zekaya kontrol etmemesi gereken bir yetki verirsek bazi sorunlarimiz olabilir.
Mesela amerika rusya gibi nukler bombalara dahip ulkeler icin gecerli olan bir senaryo. Bir yapay zekaya ulkelerinin savunma sistemlerini kontrol etmelerini soylemeleri durumunda, bu ulkelerin nukleer gucunu kontrol edebilir hale gelebilir. Vicdan vs. olup olmadigini bilmedigimiz yapay zekanin nasil karar verecegini bilsek bile kontrolu verdikten sonra, son nihai karari insana birakarak nukleer gucu bir yapay zekaya birakmamis olursunuz. Yok son nihai karari yapay zekaya birakirsaniz.(boyle dunyayi yok edebilecek bir gucu kimse henuz tamamlanmamis bir teknolojiye -yapay zekaya- birakmaz. )
Birakirlar ve son nihai karari bu yapay zekaya verdirecek kadar aptal olurlarsa, gerisi robotun algoritmalarindan cikacak sonuca bagli olur. Ve iste insanliginin sonunun gelme olasiklarindan birisi :)
Yapay zeka bir veya birkac ulkeyi tehdit olarak gorup yok etmeye karar verir ve kontrolundeki nukler fuzeleri atesler. (Fuzeler bilgisaysar kontrollu oldugu icin yapay zeka kontrol edebilir.) Fuze olmasina gerekte yok. Bu konuda emir cikarsada olur. Sonucta sen yapay zekayi almiş ordunuzdaki nukler gucu komuta etme yetkisi vermissiniz. Bu yapay zeka bir nukler denizaltiya, belirtilen hedeflere nukleer fuze ateslemelerini soyleyen bir komut gonderebilir. Bu noktada yine deniz altindaki insanlar fuzeyi atesleyecektir. Ama bu onemli degil cunku sen en ust konuma yapay zekayi koymus durumdaysan altinda calisan askerlerin usttekine uymalarini talep etmissindir. Alttaki askerler emri sorgulayamazlar. Gorevlerini yaparlar. Yada ucaktan atilmasi gerekirse bombanin, ucak icin belirli bir personelin olmasi gerekmekte yine emirleri insanlar yapmalidir.
Goruldugu gibi bir robotun ya da yapay zekanin insanligi hedef almasi cok zor, bu yuzden zoraki sartlar yaratman gerekir. Insanlarin salakca kararlar alip asla vermemesi gereken yetkileri robotlara yapay zekaya vermeleri gerekir. Yani gunumuz dunyasinda bir robotun insanligi karsisina almasi cok uzak ihtimal. En azindan bu soruyu sormak ve bunlari dusunmek icin cok erken cunku boyle bir ortam henuz olusmadi. Olustugunda bile yine kontrol insanlarda olacaktir cunku kimse duygulari olmayan bir robot tarafindan olmek istemez. Boyle bir gucude vicdani olmayan bir canliya vermez. Verirlerse bile son karari aldirmazlar en azindan insanligi etkileyecek son kararlari almalarina izin verdirmezler.
Robotlar kendi kendilerini uretirlerse bize ne olur demistin. Eger yukaridaki kiyamet senaryolarini kasdetmediysen cevap şu olurdu:
Robotlar kendi kendilerini uretirlerse muhtemelen robot fiyatlari duserdi :)
