Öncelikle yapay zekanın bilinç kazanması için bilinçsel bütünlük kazanması gerekir. Yani biraz daha açacak olursak indirgemeci yaklaşımların aksine "bütün parçalardan daha fazlasıdır" ilkesi uyarınca bütünsel bir nitelik kazanması gerekir. Bizler bugün biliyoruz ki beyindeki çoğunluğu yağ ve sudan oluşan "et parçası" düşünen, algılayan şeyin kendisi değildir. Beyin network yani ağ tabanlı bir yapı içermektedir. Bu ağı ise nöronlar üretmektedir. Sinirsel ağlar (snapslar) yolu ile bu network varlığını oluşturmaktadır. Ancak bilincin en önemli özelliği bu network üzerine kurulu bütünlüktür. Günümüz yapay zekaları henüz bu bütünlüğün hiç bir niteliğini taşımamaktadır. Her ne kadar dışsal çıktıya bakarak (örneğin Google asistanın 'konuşması' gibi) yapay zekanın bilinç kazanmaya çok yakın olduğu bir çok kişi tarafından düşünülse de bu doğru değildir. Çünkü bu gibi örnekler gerçek anlamda konuşma değil konuşma taklididir. Arka planda olan biten tamamen indirgenmiş veri işleme hiyerarşisini dayanan kod okumadır. Bu nedenle indirgemeci veri işlenmesi henüz bilincsel bütünlük anlamında bu makinelerin hiç bir nitelik taşımadığını açık bir şekilde gösterir. Yani daha örnekleyici olarak açarsak bizler yapay zekayı kendi bilinçsel bütünlüğümüzün beklentisine göre kurgulayarak beklentimize uygun çıktı taklitlerini elde etmekteyiz. Yapay zekanın bize sunduğu çıktı taklitlerini dair halihazırda en küçük bir bütünlük farkındalığı yoktur. Yazdığımız kodları makine tek tek işler. Kodlar arka planda tek tek okunur ve buna göre işlem çıktısı alınır. Burada bizlerin insan olarak kendi bilinçsel bütünlüğümüz sayesinde bu tek tek okunan kodlara dair mantıksal işlem çıktısını kurgular ve bu kodlamanın bilgi hiyerarşisini yine bizler oluştururuz kodlama yoluyla. Yani makinedeki bütünsel işlem kurgu ve çıktısı sunması tamamen aslında bizim bu niteliğe sahip olmamızın ürünüdür. Görüldüğü üzere makinenin tüm mantıksal bilgi kurgusu aslında bizim tarafımızdan kendi bilinçsel bütünlüğümüzün bir yansıması olarak yapılmaktadır. Bu yüzden makine ne yapıp ne ettiğine dair hiç bir bütünsel farkındalık taşımamaktadır. Yapay zekanın bir gün bilinç kazanabilmesi için işlediği verilere dair bütünlük algısına ve farkındalığına sahip olması gerekir. Bunun nasıl yapılacağına dair ise şuanda hiç bir elimizde veri yoktur. Network tabanlı yapay zeka geliştirilmesi de bu durumu değiştirmez. Çünkü bilinçsel bütünlüğü nasıl elde edeceğimize dair hiç bir şey elimizde yoktur. Bilinçsel bütünlük için makinenin veriyi bütünsel olarak okuması gerekir. Network üzerine kurulu olsa da tek tek işlem yapan yapay zekanın bu niteliğe sahip olmayacağı açıktır. Şimdi denilebilir ki beyin de nöron hücreleri ile tek tek işlem yapmıyor mu. Tek tek işlem yapsa da bugün psikolojinin ve kognitif sinir bilimlerinin en önemli konusu ve sorunu bilincin bütünlüğü konusudur. Beyin bize tek bir benlik deneyimi sunmakta, örneğin görüntü ve sesleri birleştirerek (tek tek işlem yapıyor gibi görünse de ) bize tek bütünsel bir benlik deneyimi yaşatmaktadır. Bu büyük sorun karşısında henüz yapay zekanın bilinç kazanacağına dair özde hiç bir belirti yoktur. Eğer bu sorun çözülemez ve bilinc deneyimimizin bütünsel anlamda nasıl ortaya çıktığı sorusuna cevap bulamazsak da hiç bir şekilde yapay zekaya gerçek anlamda bilinç kazandıramayacağımız anlaşılmaktadır. Çünkü bu bütünsellik niteliği bilincin olmazsa olmaz ve en önemli özelliğidir.
Sorunuza bu çerçevede gelirsek bilinç kazanan bir yapay zeka bu bütünlüğe sahip olacağından kendi varlığını fark edecek ve varlığını devam ettirmek isteyecektir diyebiliriz. Ancak böyle bir yapay zeka insani bir çok şeye sahip olmayacağından (örneğin bedensel haz almak gibi) onun için bizden farklı olarak yararlanma kavramı farklılaşacaktır. Yine böyle bir makinenin acı hissi olup olmayacağı da belirsizdir. Bu nedenle bunları aradan çıkarınca ortaya çıkan varlığın karar verme anlamında çok farklı yönlendiricileri olabilir. Bu gibi niteliklere (haz, acı deneyimi) sahip olmayan bir varlığın bizden çok farklı eğilimlere ve karar verme kriterlerine sahip olacağı aşikar. Bizlerin varlığımızı sürdürme eğilimi taşımamızın nedeni tek başına bedensel olarak enerjiye ihtiyaç duymamız mı yoksa varlığımızın farkındalığına sahip olmamız mı? Ya da sadece haz almak ve acıdan kaçmak için mi yaşıyoruz. Ben açıkçası bu konuda daha derine inersek varacağımız yerin başlı başına var olma hissine dayandığını düşünüyorum. Bedensel haz veya acı deneyimine sahip olmasak bile varoluş felsefesi nedeniyle bilinçsel bütünlüğümüzün bozulmasını, kaybolmasını istemeyiz. Aynı şey gerçek anlamda bilinç kazanan ve düşünen bir varlık için de geçerli olacaktır diye düşünüyorum. Çünkü bir kez varlık deneyimi yaşamak acı (veya hastalık) gibi bir rahatsızlık olmadığı sürece özünde vazgeçilmeyecek bir nitelik gibi durmaktadır. Burada adeta başlı başına düşünebilmenin var olma hissine sahip olmanın 'tadı'ndan bahsedebileceğimiz bir durum var. Bilinç kazanacak bir yapay zekanın da aynı nedenlerle bilinçsel varlığını ve var olma hissini sürdürmek isteyeceğini düşünüyorum.