İyi yazılmış bir yapay zekâ cevabı neden yine de yanlış olabilir?
Güncellenme
Önce iki terim
- Halüsinasyon: Bir yapay zekânın yanlış bir şeyi, örneğin uydurma bir tarihi, ismi ya da alıntıyı doğruymuş gibi söylemesidir.
- Akıcı: İyi yazan bir insanın yazısı gibi pürüzsüz ve doğal demektir.
Araştırmacılar ne yaptı?
Hollanda'daki Radboud Üniversitesi'nden araştırmacılar, katılımcılara Yüzüklerin Efendisi hakkındaki dört sohbet botu konuşmasından birini gösterdi. Katılımcıların hepsi hikâyeyi zaten biliyordu.
- İki sohbet botu akıcı ve insan gibi yazdı. Diğer ikisi kısa ve resmî cevaplar verdi.
- Her tarzda botlardan biri doğru bilgi verdi, diğeri ise araya küçük uydurma bilgiler sıkıştırdı.
Ardından katılımcılar, sohbet botunun ne kadar akıllı ve hoş göründüğünü ve ona ne kadar güvendiklerini puanladı.
Ne buldular?
- Yanlış bilgi veren akıcı sohbet botu, doğru bilgi veren kısa cevaplı botla neredeyse aynı derecede akıllı ve hoş bulundu.
- Katılımcıların %80'e varan kısmı, uydurma bilgileri hiç fark etmedi.
- En yüksek puanları, doğru bilgi veren akıcı sohbet botu aldı.
- Bir sohbet botunu daha akıllı bulanlar, ona daha çok güvendi ve onu daha çok kullanmak istedi.
Dil modeli, bir sohbet botunun arkasındaki yapay zekâ sistemidir: Sırada hangi kelimelerin geleceğini tahmin etmek için çok büyük miktarda metinden öğrenir. Araştırmacılar, bu modellerin esas olarak kulağa doğru gelen ve kolay okunan metinler yazmak için eğitildiğini açıklıyor. Doğru olmak ise ayrı bir hedef.
Ayrıca "Yapay zekâ hata yapabilir" gibi tek bir genel uyarının yeterli olmadığını, sohbet botlarının emin olmadıklarında bunu göstermesi gerektiğini savunuyorlar.
Araştırmanın sınırları
Araştırmada tek bir konu, yani tanınmış bir kitap serisi ele alındı ve kısa konuşmalar kullanıldı. Sağlık ya da okul ödevleri gibi başka konularda sonuçlar farklı olabilir.
ChatBoost ile sohbet ederken bu sizin için ne anlama geliyor?
ChatBoost dâhil her yapay zekâ sohbet aracının cevapları, güzel yazılmış olsa bile hata içerebilir.
- Tarza değil, bilgilere bakın. Kendinden emin bir anlatım, cevabın doğru olduğu anlamına gelmez.
- Önemli olanı kontrol edin: Sağlık, para, hukuk ya da okul ödevleri gibi konularda güvenilir bir kaynağa bakın.
- Hangi kısımların yanlış olabileceğini sorun. Bu, zayıf noktaları fark etmenizi kolaylaştırabilir ama gelen cevap da yanlış olabilir.
- Size verilen kaynakları açın ve cevabın iddia ettiği şeyi gerçekten söylediklerinden emin olun. Yapay zekânın verdiği bir kaynak da yanlış ya da uydurma olabilir.
Kaynak
Marianna A. de Sá Siqueira, Tibor Bosse ve Barbara C. N. Müller (Radboud Üniversitesi), "Users' perception of chatbot language fluency and hallucination", Computers in Human Behavior: Artificial Humans, 2026: doi.org/10.1016/j.chbah.2026.100412
Üniversitenin kısa özeti, 29 Ekim 2026: Radboud Üniversitesi haberi
Still need help?
Başka sorularınız var mı? Bir talep gönder