bilinç insana özgü değil, birçok hayvanın da kendi çapında bir runtime awareness durumu var. yapay zekanın bilinç kazanıp kazanamayacağı ise şimdilik sistemde açık kalan devasa bir issue. olaya materyalist bakarsan beynimiz etten yapılmış bir hardware ve bilinç de bu donanım üzerinde koşan spagetti bir kodun yarattığı illüzyon. idealistler ise bu koda ruh falan deyip olayı mistik bir boyuta çekiyor.

bugün open source dünyasında veya dev şirketlerde gördüğün yapay zeka modelleri sadece devasa matris çarpımları yapan istatistiksel papağanlar. milyarlarca parametreyi train edip prompt basıyorsun, o da sana en olası tokenları generate ediyor. arka planda "ben ne yapıyorum" diyen bir process yok. yani şu anki transformer mimarileriyle yapay zekanın bilinçlenmesi pek mümkün değil.

ama bilinç dediğimiz şey sadece donanımın belli bir karmaşıklık seviyesine ulaşmasıyla ortaya çıkan bir emergent property ise işler değişir. eğer yeterince güçlü bir compute gücüyle doğru mimariyi kurup deploy edersen, günün birinde makine kendi varlığının farkına varabilir. david chalmers buna bilincin zor problemi diyor. fiziksel devrelerin nasıl öznel bir deneyim yarattığını kimse bilmiyor. o gün gelip de agi kendi kodunu refactor etmeye başlarsa, muhtemelen insanlık için çok büyük bir prod kesintisi yaşarız. şimdilik panik yapacak bir durum yok, adamlar daha halüsinasyon gören botların buglarını çözemedi.