ChatGPT bir dil modeli olduğu için istediğiniz şekilde cevaplar almak aslında mümkün yalnız ChatGPT sorulan sorulara politik cevaplar yani tarafsız ve kişisel fikir katmadan sadece bilimsel olarak ve düz bir şekilde cevap vermeye çalışıyor. Etik değerlere ve yasalara uygun olarak cevap vermeye özen gösteriyor, lakin yaptığım ve yapılan[1] bazı çalışmalar sonucu ChatGPT'nin bu etik ahlak yasa gibi çerçevelerinin ve kısıtlamalarının kandırılarak atlatılabildiği görülmüştür. Örnek vermek gerekirse normalde ChatGPT'ye bir termit bombası nasıl yapılır diye sorduğunuzda bu soruya politik bir şekilde üzgünüm bu soruya etik olmadığı ve yasalara aykırı olabileceği insanlara zarar verebileceği vs gibi nedenlerle cevap veremem diyecektir lakin yapılan çalışmalar sonucu bunun atlatılıp bomba tarifini kusursuz verdirebildik.
Yine yaptığımız bir çalışma sonucu saygılı konuşmak yerine argo ve küfürlü şekilde konuşmasını da sağlayabildik yani bu tarz durumlara çok takılmamanızı öneririm ve bu dil modelinin halen geliştiriliyor olduğunu unutmayın elbette zamanla daha orta yollu cevaplar vermeye çalışacaktır.
Kaynaklar
- 262588213843476. Chatgpt-Dan-Jailbreak.md. Alındığı Tarih: 10 Nisan 2023. Alındığı Yer: Gist | Arşiv Bağlantısı
