Yapay Zekâ Halüsinasyonu Bir Anlatı Sorunu mu?

Kısa cevap: Halüsinasyon normalde olgusal ya da istatistiksel bir çöküş olarak açıklanır: model, doğruluğu güvence altına alan hiçbir mekanizma olmadan olası tokenleri tahmin eder. Bu açıklama doğrudur ve bu yazı onun yerine geçmiyor. Önerdiği şey daha dar: halüsinasyonların belirli bir alt kümesi, bir arama hatasından çok bir anlatı tamamlamasına benziyor — model, kanıtın durumunu raporlamak yerine tutarlı bir hikâyeyi bitiriyor. Bu doğruysa, halüsinasyon oranları, olgusal zorluktan bağımsız olarak, istemin ne kadar güçlü anlatısal kapanış talep ettiğine göre değişmeli. Bu test edilebilir bir öngörüdür ve henüz test edilmedi.

Standart açıklama, hakkını vererek

Her yeniden çerçeveleme, yerleşik açıklamanın neyi zaten kapsadığını kabul ederek başlamak zorundadır — çünkü büyük kısmını kapsıyor.

Bir dil modeli, olası devamları tahmin ederek üretir. Üretim sırasında başvurabileceği doğrudan bir doğruluk deposuna erişimi yoktur ve "bunu gördüm" ile "bu, genelde şunun ardından gelen türden bir şey" arasını ayıran yerleşik bir mekanizması bulunmaz. Eğitim verisi hata ve boşluk içerir. İnsan tercihine göre optimize eden eğitim sonrası süreçler, akıcı, eksiksiz ve kendinden emin cevapları ödüllendirme eğilimindedir — bu da bilmediğini kabul etme gibi dürüst bir cevabı cezalandırabilir. Erişim (retrieval) sistemleri sorunu azaltır ama ortadan kaldırmaz ve kendi çöküş biçimlerini getirir.

Bu, doğrudan bu sistemler üzerinde çalışan insanlarca geliştirilmiş tutarlı bir mekanizma açıklamasıdır ve aşağıdaki hiçbir şey onunla çelişmiyor. Bu yazının sorduğu soru daha dar: uydurulan şeyin biçimini de tam olarak tarif ediyor mu?

Anlatıya benzeyen kısım

Uydurmalar rastgele dağılmıyor. Bazı örüntüler, fark edilmeyi hak edecek sıklıkta tekrarlanıyor:

Uydurulan atıflar genellikle konuya uygun yazarlara, makul dergilere ve makul yıllara sahip oluyor. Uydurulan biyografik ayrıntılar nedensel boşlukları dolduruyor — birinin bir işten neden ayrıldığı, aynı kişinin başına gelen iki olay arasındaki bağlantı. Uydurulan tarih anlatısı süreksizlikleri düzlüyor; kayıtta sıçrama olan yere bir geçiş koyuyor. Hatalar, verinin en ince olduğu yerde değil, bir hikâyenin parça isteyeceği yerde kümeleniyor.

Bu örüntünün belirli bir karakteri var. Çıktı yalnızca olası değil; anlatısal olarak iyi biçimlenmiş. Anlatının tutarlı kalmasını sağlayacak şeyin biçimini taşıyor.

Bu sitenin çerçevesinin devreye girdiği yer burası; özellikle de belgelenmiş özetleme eğilimi: model, anlamı bastırılmış ve fiziksel ayrıntıyla taşınan bir pasajla karşılaştığında, o bastırılmış katmanı açık ve soyut bir etiketle değiştirme eğilimi gösteriyor. Boşluk, o tür bir boşluğun genellikle içerdiği şeyin en makul özetiyle doluyor.

Buradaki öneri şu: bunlar aynı refleksin iki farklı şeye çevrilmiş hâli. Bastırılmış bir alt metne karşı düzleştirilmiş bir özet üretiyor. Eksik bir olguya karşı makul bir tamamlama üretiyor. Her iki durumda da eksik olan şeyin yerini, normalde orada olacak şey alıyor — ve her iki durumda da sonuç akıcı, tutarlı ve belirli bir yönde yanlış.

Bu neden bir benzetme değil, bir iddia

Bir yeniden çerçeveleme, özgün açıklamanın öngörmediği bir şey öngörmüyorsa hiçbir değer taşımaz. Öngörü şu — çökebilecek biçimde yazıyorum.

Halüsinasyonun bir kısmı yalnızca olgusal zorluktan değil anlatısal kapanış baskısından kaynaklanıyorsa, olgusal zorluğu eşit iki istem, talep ettikleri kapanış miktarına göre farklı uydurma oranları üretmelidir.

Somut olarak: bir modele, hakkında az kayıt bulunan birinin belirli bir kararı neden verdiğini açıklamasını sormak, nedensel ve hikâye biçimli bir cevap talep eder. Aynı karar hakkında belgelenmiş olanları listelemesini istemek hiçbir kapanış talep etmez. Alttaki bilgi aynıdır. Standart açıklama benzer hata oranları öngörür, çünkü erişim sorunu aynıdır. Anlatı açıklaması ilk durumda daha fazla uydurma öngörür.

İkinci ve daha ucuz bir öngörü: eksikliğe izin veren yönergeler — cevabın çözümsüz bitmesine açıkça izin veren, boşlukların boşluk olarak işaretlenmesini isteyen — yalnızca doğruluk talep eden yönergelerden daha fazla uydurma azaltmalıdır. Kapanış baskısı gerçekse, baskıyı kaldırmak hedefi tekrar etmekten daha çok işe yaramalı.

İki öngörü de yanlışlanabilir. Uydurma oranları olgusal zorluğu takip edip kapanış talebini umursamıyorsa, anlatı çerçevesi hiçbir şey eklemiyor demektir ve atılmalıdır.

Test nasıl kurulur

Tasarım, isteyen herkesin koşabileceği kadar basit — asıl mesele de bu.

Aynı az bilinen konularda eşleştirilmiş istem çiftleri kur: biri nedensel ya da biyografik bir anlatı talep etsin, öteki belgelenmiş olanların madde madde listesini istesin; olgusal hedef aynı olsun. Sırayı rastgele dağıt, birkaç modelde koş ve her çıktıyı bir insan kaynaklara karşı denetlesin. Uydurma, hiçbir kaynağın desteklemediği iddia olarak puanlansın. Sonra iki biçim arasındaki oranları karşılaştır; üçüncü bir koşul olarak da açık "boşluk bırakabilirsin" yönergesini ekle.

Bu tasarım hakkında önceden söylenmesi gereken iki şey var. Temiz değil: istem biçimi çıktı uzunluğunu ve yapısını etkiler, uzun çıktının yanlış olacak daha çok yeri vardır; uzunluk kontrol edilmeli. Ve ön-kayıtlı bir uydurma-puanlama kuralı gerekir — hiçbir çıktı üretilmeden önce kararlaştırılmış olmalı, yoksa puanlama hipoteze doğru kayar.

Bu deneyi koşmadım. Bu sayfada hiçbir veri raporlanmıyor.

Bu yazının iddia etmedikleri

Teknik açıklamanın yerine geçmez. Eğitim hedefleri, kalibrasyon, veri kalitesi ve erişim birincil açıklama olarak kalır. Bu, rakip bir mekanizma değil, bir bileşenin biçimine dair bir öneridir.

Modelin iç durumlarına dair bir iddia değildir. Bir sistemin hikâye tamamlıyormuş gibi davrandığını söylemek, çıktı yapısının tarifidir. Niyet, anlama ya da içeride olan bir şey hakkında iddia değildir.

Veriyle desteklenmiyor — henüz. Bu sitedeki mevcut kıyaslama çalışması, anlatı kurallarının tutarlı etiketlenip etiketlenemediğini ölçer; modellerin olgu uydurup uydurmadığını değil. Bunlar farklı verilerde farklı sorulardır ve kıyaslama sonuçları buraya taşınmaz.

Çözülmüş bir sorun anlatısı değildir. Öngörü tutarsa pratik sonuç mütevazıdır: eksikliğe izin veren istemler daha az uydurabilir. Bu küçük bir araçtır, çözüm değil.

Sık sorulan sorular

"Anlatı" aslında istatistiksel olasılığın süslü adı değil mi? Ayırt edici bir öngörü üretmeseydi öyle olurdu. Ayırt edici iddia şu: kapanış talebi, olgusal zorluktan bağımsız olarak uydurmayı etkiler. Bu yanlış çıkarsa benzetme standart açıklamanın içinde erir ve terk edilmelidir.

Bu, daha iyi istem yazmanın halüsinasyonu bitireceği anlamına mı geliyor? Hayır. En fazla, katkıda bulunan bir baskının azaltılabileceğini önerir. Eksik ya da yanlış eğitim verisinden kaynaklanan uydurma, isteğin hiçbir çerçevelenişine yanıt vermez.

Bir model neden bilmediğini kabul etmek yerine tutarlı bir hikâyeyi tercih etsin? Bunu standart açıklama zaten yanıtlıyor: tercih temelli eğitim, eksiksiz, kendinden emin ve akıcı cevapları ödüllendirme eğilimindedir; bilmediğini söylemek çoğu zaman düşük puan alır. Anlatı çerçevesi burada yeni bir neden eklemiyor — boşluğu dolduran şeyin biçimini tarif ediyor.

Bunu test eden oldu mu? Bu sitede hayır. Halüsinasyon üzerine, istem duyarlılığı ve çekimserlik dahil geniş bir araştırma literatürü var ve bunun bir sürümünün çoktan incelenmiş olması gayet mümkün. Böyle bir çalışmayı bilen varsa işaret etsin; bu, testi koşmaktan daha hızlı sonuç verir.

Verisi olmayan bir hipotez neden yayımlanır? Çünkü tasarım ucuz, öngörü yanlışlanabilir ve koşmadan önce açıkça yazmak, sonradan sessizce ayarlamayı zorlaştırır. Önceden yayımlanmış bir hipotez herkesin gözü önünde yanlış çıkabilir; işe yarayan tek tür de budur.

Bu yazıya atıf

@misc{bulut2026halusinasyon,
  author = {Bulut, Levent},
  title  = {Yapay Zekâ Halüsinasyonu Bir Anlatı Sorunu mu? Bir Yeniden Çerçeveleme ve Bir Test},
  year   = {2026},
  url    = {https://leventbulut.com/yapay-zeka-halusinasyonu-anlati-sorunu-mu/},
  note   = {Bağımsız Araştırmacı. ORCID: 0009-0007-7500-2261}
}