Bilimsel Süreçlerde Yapay Zekâ Yeni Bir Yardımcı mı Yoksa Yeni Bir Tehdit mi?

Yapay zekâ temelli araçlara her gün bir yenisi ekleniyor. Sizin yerinize belirli görevleri bilgisayar sistemleriyle yapmaya yardımcı olan bu platformların sayısı ve görev alanları gün geçtikçe artıyor. Şu an için yapay zekâ desteğiyle ne kadar orijinal veya yaratıcı işler üretilebileceği konusunda çok ciddi soru işaretleri olsa da bilgisayar giren her ev artık potansiyel bir tasarımcı, editör, yazar, bilişim ve istatistik uzmanı, dijital sanatçı, sosyal içerik üreticisi ve daha nicesini barındırıyor.

Elbette bu gelişmeler ve beraberinde gelen tartışmalardan bilim de payına düşeni fazlasıyla almaktadır. Yapay zekâ araçlarının bilimsel üretkenlikte geldiği son aşamada, hangi konuda nasıl bir çalışma yapmanız gerektiğini, hangi aşamalarda nasıl bir yol izlemeniz gerektiğini ve çıktıları metne nasıl aktaracağınızı bilmenize gerek olmayabilir. Bir yapay zekâ aracına girip size yol göstermesini isteyebilirsiniz. Dahası, bu araçları kullanmayı bilmeniz de mecburi değil, yapmak istediğiniz iş için hangi aracı nasıl kullanmanız gerektiğini başka bir yapay zekâ aracına sorun, onu çalıştırmak için bir komut metni (İng: "prompt") yazmasını isteyin ve sizin için çok kısa sürede hazırladıktan sonra gidip onu diğer araca yapıştırın.

Peki gerçekten bu süreç bu kadar basit mi veya bu kadar basite indirgemek bu içerikleri değersizleştirir mi? Şu ana kadar okuduklarınızla bile bilimsel üretkenliğin daha önce hiç olmadığı kadar kolaylaştırıcı bir yardımcıya kavuştuğunu ama etik açıdan ne kadar sıkıntılı sonuçlar doğurabileceğini ön görmeniz mümkün.

Yapay Zekânın Bilim Dünyasındaki Örnekleri

Yapay zekânın temel bilimler üzerindeki etkisi artık somut örneklerle ölçülebilir hale geldi. Matematikte sinir ağlarının yorumlanabilirliği ve optimizasyon problemleri, tıpta görüntü tabanlı teşhis sistemleri ve ilaç keşfi, malzeme biliminde yeni madde tasarımı, yaşam bilimlerinde protein yapısı tahmini ve genomik analizler, fizikte parçacık tanımlama ile evrenin modellenmesi ve kimyada otomatik sentez robotları, bunların tamamında yapay zekâ artık yardımcı araç olmaktan çıkıp araştırmanın kendisi haline geliyor.

Artificial intelligence: A powerful paradigm for scientific research

Öyle ki bilimsel döngünün tüm aşamaları -verilerin gözlemlenmesi, toplanması ve analiz edilmesi, elde edilen verilerle hipotez oluşturma, hipotezin test edilmesi için deney tasarlama, deney sonuçlarını analiz etme ve bu döngüyü çıktılardan gelecek olan verilerle tekrar tekrar çalışarak yeni sonuçlar elde etme- tek başına yapay zekâ entegre platformlar tarafından yapılabilecek. Bunun üstüne bilgisayar bilimleri, robotik biyoloji veya kimya gibi çeşitli alanlarda yapay zekâ destekli deney platformlarının deney aşamalarında kullanıldığını düşünün. Bu durum hiçbir dış müdahale olmaksızın tüm bilimsel döngünün tek başına yapay zekâ teknolojileri sayesinde tamamlanabileceğini düşündürse de hâlâ insan tarafından tanımlanan kısıtlama, doğrulama ve güvenlik gözetimine ihtiyaç var. Ancak yine de bu haliyle bile beraberinde birçok avantajı getiren bu otomasyon çok fazla risk içeriyor.

Çalışmalar insan sınırlarını aşacak hızlarda, herhangi bir insan faktörüne bağlı engele takılmadan gerçekleştirilebilir, devasa veri setlerinden çok kısa sürelerde veriler elde edilip analiz edilebilir. Daha önce ulaşılması imkânsız görülen ve hatta hayal bile edilemeyen sonuçlara çıkan yollar aralanıyor olabilir.

Xu ve arkadaşları, yapay zekânın bilimsel araştırmanın altyapı katmanından uygulama katmanına kadar tüm süreçleri etkilediğini örneklerle gösteriyor.^[1] Proteinin üç boyutlu yapısını amino asit dizisinden tahmin eden yapay zekâ sistemi olan AlphaFold, insan genomu projesinden bu yana yaşam bilimlerinin en büyük atılımı olarak değerlendiriliyor. AlphaFold'un insan proteomundaki yapıları yüksek doğrulukla tahmin edebilmesinin, hastalık mekanizmalarının ve protein etkileşimlerinin anlaşılmasını epey hızlandıracağı düşünülüyor.^[2] Bu girişim gelecekte adını duyacağımız yüzlerce yapay zekâ destekli sistemlerden yalnızca bir tanesidir.

Tıp alanında; görüntüleme yöntemleri, EKG-EEG okuma, diyabetik retinopati taraması, farklı dokularda hücre ve lezyon analizi gibi birçok alanda çalışan farklı yapay zekâ araçları Amerikan Gıda ve İlaç Dairesinden kullanım onayı almış durumda. Kanser alanında da benzer biçimde yapay zekâ uygulamaları; erken tanı, görüntüleme, risk sınıflaması, prognoz tahmini ve tedavi yanıtının izlenmesi gibi süreçlerde giderek artan biçimde kullanılıyor.

Science Direct

Üretim süreçlerindeki gelişmelere ek bir diğer konu ise üretilmiş bilimsel içeriğin sunulması. Yapay zekânın bilim yazarlığı; bilgi tarama, veri üretme gibi konularda yavaş ve epey sorunlu başlamıştı. Görece düşük kaliteli içerikler ve uydurma bilgiler ile epey tartışma konusu oldu.

Bu sorunlara çeşitli çözümler üreten yapay zekâ destekli platformların sayısı gün geçtikçe çoğaldı. Scispace, NotebookLM, OpenAI prism vb. birçok farklı platform hayatımıza girmiş durumda. Bu platformlar çeşitli "bilimsel" meziyetler sunarak kullanıcılarının işlerini epey bir kolaylaştırıyor. İstenilen konuda literatür taraması yapmak, aranan bilgileri makalelerin içerisinden bulmak, derlemek, istatistik analizleri yapmak ve hatta istediğiniz yapılandırmada bir akademik makale yazmak gibi birçok işlevi kullanıcısına sunuyor. Böylece bu araçlar yalnızca araştırmacıların araştırma görevini daha verimli biçimde yürütmelerini sağlamakla kalmıyor, aynı zamanda bilimsel içeriğin üretimini ve sunumunu yeniden şekillendiriyor.

Tüm bu üretim ve sunum süreçlerinde yapay zekâ teknolojilerinin ne ölçüde kullanılması konusunda bir görüş birliği bulunmuyor. Bazı araştırmacılar bu araçların dikkatli ve denetlenebilir biçimde kullanılması gerektiğini savunurken bazıları ise bilimsel doğruluk, özgünlük, etik sorumluluk ve yazar katkısı gibi alanlarda doğurabileceği sorunlara dikkat çekiyor.

Yapay Zekâ Sistemlerinin Bilimsel Süreçlerde Neden Olabileceği Olası Problemler

Yapay zekâ sistemleri her ne kadar bilimsel süreçleri kolaylaştırıcı bir etken olsa da birtakım olası problemleri de beraberinde getiriyor. Akademik yazım ihlallerinden güvenlik ve gizlilik risklerine kadar pek çok husus, bilimsel süreçlerde, bilimin doğasına aykırı adımların çıkmasına neden olabilir. Bu nedenle risklerin farkında olmak, riskleri engelleyebilmek adına önemlidir.

Akademik Yazım İhlalleri

Bilimsel içeriğin sunumunda karşılaşılabilecek ihlaller şu başlıklar altında sıralanabilir:

• Yazarlık Problemi: Bilimsel yazarlık kavram gereği hem çalışmaya katkıda bulunmayı hem de çalışma için sorumluluk üstlenmeyi ifade eder. Mevcut durumda yapay zekâ araçları makalelere yazılı veya görsel katkı sunabilecek içerikler üretebilir ancak gönderilen bir makaleyi onaylamaz, analizin doğruluğuna dair bir güvence veremez ve dolayısıyla çalışmaların sonuçlarından, olası hatalardan veya etik ihlallerden sorumlu tutulamaz. Temel olarak bu sebeple yapay zekâ araçlarının akademik yazar olarak kabul edilemeyeceği görüşü giderek daha çok benimseniyor.
• İntihal: Yapay zekâ araçlarının kullandıkları veri havuzlarının şeffaflığıyla alakalı ciddi soru işaretleri var. Bu araçlar başka kaynaklara büyük benzerlik gösteren ya da birebir örtüşen içerikler üretebilir. Yazarlar tarafından da fark edilmemesi durumunda etik ihlaller ve telif hakkı problemleri yaşanabilir.
• Halüsinasyonlar: Yapay zekanın anlamsız veya tamamen uydurma içerikler üretmesi, bilimsel doğruluk için direkt bir tehdit oluşturuyor. Özellikle tıbbi literatürde, gramer açısından kusursuz görünen ancak yanlış ve hatta gerçekte var olmayan DOI/PMID numaralarına sahip kaynaklar üretilebiliyor. Bu sorun devam edecek olursa yazarlar, hakemler veya editörler tarafından gözden kaçmasıyla sahte bilgilerin dolaşıma sokulması işten bile değil.
• Tekdüzelik sorunu: Yapay zekâ araçları sizin için içerik üretebiliyor ancak insan yaratıcılığına çıkamıyor. Artan ve denetimsiz kullanım, bazı yazarların becerilerinin körelmesi veya kalıp üretimine maruz kalma riskini artırabilir.^[3] Yaratıcılığın önünde engel anlamına gelen bu kısır döngü baskın gelirse bir süre sonra kalıp cümlelerle bezenmiş birbirine benzeyen bilimsel metinlerin sayısı can sıkıcı boyutlara ulaşabilir.

Ön Yargı ve Eşitsizlik

Yapay zekâ modelleri, eğitildikleri veri setlerindeki mevcut ön yargıları kopyalama veya güçlendirme eğilimindedir. Bu durum, özellikle tıbbi ve sosyal araştırmalarda uç değerlerin, nadir görülen olayların veya azınlıkta kalan toplulukların fark edilmeden bilimsel analizlerin dışında kalmasına yol açabilir.

Bir yapay zekâ sisteminin hangi verilerle eğitildiği bilinmeden kullanılması kullanıcıların farkında olmayan bu ön yargıları bilimsel çıktılarına taşıması sonucunu doğurabilir. Sistemlerdeki bu şeffaflık problemi yüzünden, eğitim alanında kullanılan modellerin temel aldığı veri setlerinin her kültür için uygun olmayabileceği ve dolayısıyla ilgili toplumdaki eşitsizlikleri güçlendirebileceği konusunda da önemli çekinceler dile getiriliyor.

Güvenlik ve Gizlilik Riskleri

Yapay zekâ sistemlerine yönelik olası saldırılar birden fazla boyutta güvenlik tehditleri oluşturuyor. Eğitim verilerinin çeşitli saldırılarla kasıtlı olarak manipüle edilmesi, yanıltıcı girdilerle modellerin hatalı çıktılara yönlendirilmesi veya eğitim sürecinde kullanılan hassas verilerin sızdırılması bu tehditler arasında yer alıyor. Yakın gelecekte daha sık duymamızın olası olduğu akıllı şehir gibi çok büyük ölçekli sistemlerde, bireysel verilerin toplanması ve olası sızıntılar, ciddi bir ihlal riski taşıyor.

Epistemolojik Riskler

Epistemolojik riskler, en az görünür olabilse de uzun vadede düşünüldüğünde ciddi düzeydedir.

Araştırmacıların veri yorumlama, hipotez geliştirme ve derin düşünme gibi entelektüel görevleri giderek daha fazla yapay zekâ sistemlerine bırakması, başlangıçta önemli bir kazanım gibi hissettirse de kritik düşünme yeteneğinin zayıflama riski ve daha fazla yapay zekâ araçlarına bağımlı hale gelinmesiyle büyük sorunlar yaratabilir.

Yapay zekâ sistemlerinin kendi ürettiği verilerle eğitilmeye başlaması araştırma kapsamlarının giderek daralmasına, hataların çoğalmasına ve bilimin kapalı bir döngüye hapsolmasına yol açabilir. Bu sürecin fark edilmesi de kolay değil çünkü sistemin ürettiği çıktılar kendi kendini doğrular görünmeye devam edebilir.

Temelinde yapay zekâya ne kadar özerlik tanınacağıyla doğrudan ilişkili bu sorunun kapsamında, yapay zekânın hedeflerinin insan değerleri ve öncelikleriyle ne kadar örtüşeceği yer alıyor. Bu örtüşmenin olmadığı ve kontrolün kademeli olarak kaybolduğu senaryolar yapay zekâ sistemlerinin hayatımızda giderek daha fazla yer almasıyla felsefi bir tartışma konusu olmaktan çıkıyor gibi görünüyor.

Riskleri Azaltmaya Yönelik Çözümler

Çok faydalı olabilecek bu araçları tamamen dışlamak bir çözüm değil. Asıl mesele, bu araçları nasıl konumlandırdığımızdır. Şimdilik en doğru yol yapay zekâyı bir otopilot gibi değil, insan rehberliğinde çalışan güçlü bir araştırma ortağı olarak ele almaktır.

Şeffaflık ve Araştırmacı Sorumluluğu

Bilimsel süreçlerde insan denetiminin asla elden bırakılmaması gerekiyor. Yapay zekâ araçları akademik çalışmanın yazarı olarak kabul edilemez çünkü çalışmanın doğruluğundan sorumlu tutulamaz, makaleyi onaylayamaz ve olası itirazlara hesap veremez. Etik ilkelere uyum gözetilmeli ve bilimsel içeriğin tüm üretim sürecindeki sorumluluk yazarlara ait olmaya devam etmelidir.

Yazarların hangi aşamada, ne amaçla yapay zekâ aracı kullandığını her seferinde açıkça belirtmesi bu şeffaflığın ana unsurudur. Buna ek olarak bir kontrol listesi yaklaşımı da öneriliyor: Temel fikirler ve analizler gerçekten araştırmacıya mı ait? İçerik ve kaynakların doğruluğu birden çok kez kontrol edildi mi? Yapay zekâ kullanımı yöntem bölümünde şeffaf biçimde açıklandı mı?

Teknik ve Metodolojik Güvenceler

Kademeli özerklik, temelde yapay zekâ sistemlerinin tamamen otonom bırakılması yerine bu sistemlere, insan önceliklerine ve çeşitli doğrulama mekanizmalarına bağlı kademeli bir serbestlik verilmesini ifade eder. Bu, riskleri azaltmak adına tercih edilebilecek etkili çözümlerden biri olarak değerlendirmek gerekir.

Bir diğer teknik öneri ise yalnızca istatistiksel verilere dayanan modeller yerine, nedensellik ve sembolik akıl yürütme içeren hibrit yapıların benimsenmesidir. Zira, yapay zekâ araçlarıyla üretilecek çıktıların insan zihni tarafından anlaşılabilir kalmasını sağlamak çok önemli ve olası mücadele alanlarından bir tanesi. Bu yaklaşım sayesinde insan zihninin dışlanmasının önüne geçilebilir.

Yönetişim ve Kurumsal Düzenlemeler

Bilim insanları, yapay zekâ geliştiricileri ve politika yapıcılar gibi sorunda paydaş olabilecek herkesin düzenli görüş alışverişi sağlayacağı platformlar oluşturulmalıdır. Yapay zekâ teknolojileriyle elde edilecek sonuçların toplumun ve bilim camiasının incelemesine açık tutulması, güven inşası açısından vazgeçilmez bir adımdır.

Hukuki düzenlemeler yalnızca bilimsel araştırmalar için değil her alanda acil bir ihtiyaç haline gelmiş durumda. Şirketlerin kendi inisiyatifleriyle etik değerlere sadık kalması beklenemez, sınırların dışına çıkılmasını önleyecek hukuki çerçevelerin çok geç olmadan netleştirilmesi gerekiyor.

Eğitim ve Kritik Okuryazarlık

Yapay zekâ okuryazarlığının gelişmesine katkı sağlayacak, toplumun ve bilim insanlarının bu konudaki bilincini artıracak girişimlerde bulunulmalıdır. Ancak buradaki okuryazarlık yalnızca teknik becerilerden ibaret değil: Yapay zekâ sistemlerinin toplumu, bilgiyi ve hakkaniyeti nasıl şekillendirdiğini anlayan, etik odaklı bir okuryazarlık hedeflenmelidir.

Sonuç

Şimdilik en güvenli yaklaşım, yapay zekâyı araştırma ya da araştırmacının yerine koymak yerine, insan kapasitesini artıran destekleyici bir araç olarak konumlandırmaktır. Ancak yapay zekânın bilim üzerindeki etkisi, henüz netleşmemiş kurallarla, sürekli zorlanan sınırlarla ve tartışılmakta olan etik çerçevelerle birlikte büyümeye devam ediyor. Burada ele alınan sorunlar ve öneriler sadece bir başlangıç noktası. Her yeni gelişme, tartışmaya yeni bir katman ekliyor. Bilim insanları ve konunun paydaşları için çok geç olmadan doyurucu tartışmaların ve günümüz gerçeklerini göz ardı etmeyen tatmin edici kararların alınması son derece önemlidir.