Yapay Zeka Halüsinasyonu Nedir? Modeller Neden Bilgi Uydurur?

ChatGPT’ye var olmayan bir kitabı sorduğunuzda size yazarını, yayın yılını, hatta konusunu anlatabilir. Kendinden gayet emin, akıcı, ikna edici bir dille. Tek sorun, o kitabın hiç yazılmamış olması. Bu davranışa “halüsinasyon” deniyor ve dil modellerinin en bilinen, en inatçı sorunu bu.

Halüsinasyon kelimesi kulağa biraz dramatik gelse de durumu iyi özetliyor: model, gerçekte olmayan bir şeyi varmış gibi anlatıyor. Sahte mahkeme kararları, uydurma akademik makaleler, hiç söylenmemiş alıntılar, yanlış tarihler… Amerika’da avukatların ChatGPT’nin uydurduğu emsal kararlarla mahkemeye gidip ceza aldığı vakalar bile yaşandı. Yani bu, teorik bir risk değil; gerçek sonuçları olan pratik bir sorun.

Model Neden Uyduruyor?

İşin can alıcı kısmı şu: model yalan söylemiyor, çünkü doğruyu bilmiyor. Dil modelleri bir veritabanından bilgi çekmez; devasa miktarda metinden öğrendikleri istatistiksel örüntülere dayanarak “bir sonraki kelime ne olmalı” sorusuna cevap verir. Yani model, cümleyi en olası biçimde tamamlayan bir sistemdir. Çoğu zaman en olası devam doğru bilgiyle örtüşür; ama örtüşmediğinde model bunu fark edecek bir iç mekanizmaya sahip değildir.

Bunu şöyle düşünebilirsiniz: çok kitap okumuş ama hiçbir kaynağa bakamayan, üstelik “bilmiyorum” demekte zorlanan bir insan. Ona az bilinen bir konu sorduğunuzda, bildiği kalıplardan mantıklı görünen bir cevap örer. Cevap dil olarak kusursuzdur; içerik olarak temelsiz olabilir.

Halüsinasyonu tetikleyen belli durumlar var. Eğitim verisinde az geçen niş konular, çok spesifik sayı ve tarih soruları, kaynak ve referans istekleri, modelin bilgi kesim tarihinden sonraki olaylar ve “mutlaka bir cevap ver” baskısı hissettiren sorular. Model reddedip boşluk bırakmak yerine boşluğu doldurmaya eğilimlidir, çünkü eğitimi onu akıcı ve yardımsever cevaplar üretmeye yönlendirmiştir.

Bir de şunu eklemek lazım: web araması yapabilen modellerde halüsinasyon azalır ama sıfırlanmaz. Model bulduğu kaynağı yanlış özetleyebilir, iki kaynağı birbirine karıştırabilir ya da kaynakta olmayan bir detayı araya sıkıştırabilir.

Halüsinasyonu Nasıl Fark Edersiniz?

Kötü haber: halüsinasyonun bir alarm zili yok. Model uydururken de aynı özgüvenli tonu kullanır. İyi haber: bazı işaretler ve alışkanlıklar yakalama oranınızı ciddi biçimde artırır.

İlk işaret, aşırı spesifik ama doğrulanamayan detaylar. Model size bir istatistik verdi, “2019’da yapılan bir araştırmaya göre yüzde 47…” diyor ama araştırmanın adını, kurumunu sorduğunuzda cevaplar tutarsızlaşıyorsa şüphelenin. Gerçek bilgi sorgulandıkça netleşir; uydurma bilgi sorgulandıkça dağılır.

İkinci yöntem, aynı soruyu farklı biçimlerde sormak. Modele bir bilgiyi iki üç farklı açıdan sorduğunuzda cevaplar çelişiyorsa, sağlam bir zemin yok demektir. Yeni bir sohbet açıp aynı soruyu sıfırdan sormak da işe yarar; uydurulan detaylar genellikle oturumdan oturuma değişir.

Üçüncüsü, kaynak isteme testi. “Bu bilgiyi nereden aldın, link verebilir misin?” diye sorun. Model web erişimliyse verdiği linke gerçekten tıklayın; link kırıksa veya sayfada o bilgi yoksa cevabı çöpe atın. Web erişimi olmayan modellerin verdiği “kaynak”lar ise varsayılan olarak şüphelidir; model kaynak formatını taklit etmekte ustadır.

Son olarak kendi bilginizle çapraz kontrol yapın. Cevabın içinde bildiğiniz bir konu geçiyorsa ve orada hata varsa, bilmediğiniz kısımlara da temkinli yaklaşın. Bir alanda hata yapan model, diğer alanda birden güvenilir olmaz.

Doğrulama Alışkanlıkları: Günlük Kullanım İçin Bir Çerçeve

Her cevabı didik didik doğrulamak pratik değil; zaten gerek de yok. Mantıklı olan, riski kullanım amacına göre kademelendirmek.

Düşük risk grubunda beyin fırtınası, taslak yazma, metin düzeltme, fikir geliştirme gibi işler var. Burada halüsinasyon olsa bile zarar sınırlı; çıktı zaten sizin süzgecinizden geçiyor. Orta risk grubunda öğrenme ve araştırma amaçlı kullanım var; burada ana iddiaları ayrıca doğrulamak şart. Yüksek risk grubunda ise sağlık, hukuk, finans ve haber gibi alanlar var; bu alanlarda modelin cevabı en fazla bir başlangıç noktası olabilir, asla nihai kaynak olamaz.

Somut alışkanlıklara dökersek:

• Sayı, tarih, isim ve alıntı gördüğünüzde otomatik olarak “bunu doğrulamam lazım” refleksi geliştirin.
• Önemli bilgileri en az bir bağımsız kaynaktan teyit edin; modelin kendisine “emin misin?” diye sormak doğrulama sayılmaz, çünkü model uydurduğu bilgiyi de savunabilir.
• Akademik veya profesyonel işlerde modelin verdiği her referansın gerçekten var olduğunu kontrol edin. Uydurma kaynak, halüsinasyonun en yaygın biçimlerinden biri.
• Güncel olaylarda modelin bilgi kesim tarihini aklınızda tutun; web araması açık olsa bile haber doğrulamayı haber sitelerinden yapın.

Bir alışkanlık daha: modele “emin değilsen bilmiyorum de” talimatı vermek. Bu, halüsinasyonu tamamen engellemez ama modelin belirsizliği itiraf etme eğilimini artırır. Aynı şekilde “sadece verdiğim metne dayanarak cevapla” demek, modeli kendi hafızasından uydurma yapmak yerine önündeki kaynakla sınırlar.

Hangi İşlerde Güvenilmez?

Dikkat edilmesi gereken durumları sıralayalım. Şu işlerde dil modeline tek başına güvenmek hata olur:

Hukuki konular. Kanun maddeleri, içtihatlar, dava süreçleri konusunda modeller hem uydurur hem de güncel mevzuatı kaçırır. Türk hukuku gibi eğitim verisinde görece az temsil edilen alanlarda risk daha da yüksek. Dilekçe taslağı fikri almak ayrı, o dilekçeyi doğrulamadan mahkemeye sunmak ayrı şeydir.

Sağlık. Belirtilerinizi yazıp teşhis istemek tehlikeli bir kısayol. Model genel sağlık bilgisini anlaşılır anlatmakta iyidir ama sizin durumunuzu bilemez, tetkik göremez, sorumluluk alamaz.

Güncel ve yerel bilgiler. Bir mekânın açılış saati, bir kurumun güncel başvuru şartları, dövizin bugünkü kuru gibi sık değişen bilgilerde model ya eski veriyi verir ya da boşluğu doldurur.

Kaynakça ve referans üretimi. “Bu konuda 10 akademik makale öner” tarzı istekler, halüsinasyonun en verimli çalıştığı alan. Çıkan listenin yarısı gerçek, yarısı gerçeğe çok benzeyen uydurma olabilir.

Hassas hesaplamalar. Modeller son yıllarda matematikte çok gelişti ama vergi hesabı, faiz hesabı, dozaj hesabı gibi hatanın maliyetli olduğu işlemleri mutlaka ayrıca kontrol edin.

Buna karşılık metin özetleme, yeniden yazma, çeviri, kod taslağı, fikir üretme gibi işlerde halüsinasyon riski ya düşüktür ya da kolayca fark edilir. Aracı bırakmak değil, doğru işte kullanmak esas mesele.

Halüsinasyon Tamamen Çözülecek mi?

Model geliştiricileri bu sorunun üzerinde yoğun çalışıyor ve ilerleme de var; yeni nesil modeller öncekilere göre belirgin biçimde daha az uyduruyor, “bilmiyorum” demeyi daha çok öğreniyor. Web araması, kaynak gösterme ve modelin cevabını ikinci bir kontrolden geçirme gibi yöntemler de tabloyu iyileştiriyor.

Ama mimari aynı kaldığı sürece halüsinasyonun sıfırlanması beklenmiyor. Olasılık temelli metin üretimi, doğası gereği bir uydurma payı taşıyor. Bu yüzden en sağlıklı yaklaşım, dil modelini çok yetenekli ama teyide muhtaç bir asistan gibi görmek. Asistanın işini kontrol eden kişi hâlâ sizsiniz ve öngörülebilir gelecekte de öyle kalacak.

Sık Sorulan Sorular

Yapay zeka bilerek mi yalan söylüyor?

Hayır. Modelin niyet ya da doğruluk kavrayışı yok; sadece istatistiksel olarak en olası metni üretiyor. “Yalan” kasıt gerektirir; halüsinasyon ise kasıtsız bir uydurmadır. Sonuç kullanıcı açısından benzer olsa da fark önemli, çünkü çözüm “modeli dürüst yapmak” değil, doğrulama mekanizmaları kurmaktır.

Hangi model daha az halüsinasyon görüyor?

Genel olarak daha yeni ve daha büyük modeller ile web araması yapabilen sistemler daha az uyduruyor. Ama sıralama sürekli değiştiği için tek bir isim vermek yanıltıcı olur. Hangi aracı kullanırsanız kullanın doğrulama alışkanlıklarınız aynı kalmalı.

ChatGPT’ye “emin misin?” diye sorsam yeterli olur mu?

Olmaz. Model bazen sorgulandığında hatasını düzeltir, bazen de uydurduğu bilgiyi yeni uydurma detaylarla savunur. Gerçek doğrulama, modelin dışındaki bağımsız bir kaynağa bakmaktır.

Halüsinasyonu azaltmak için prompt’ta ne yapabilirim?

“Emin olmadığın bilgiyi belirt”, “sadece verdiğim kaynağa dayan”, “bilmiyorsan bilmiyorum de” gibi talimatlar riski azaltır. Soruyu netleştirmek ve modele doğrulanabilir kaynak sunmak da uydurma alanını daraltır; yine de bu tekniklerin hiçbiri kontrolü tamamen gereksiz kılmaz.

Bu yazıdaki gözlemler, halüsinasyonun genel mekanizmasına dairdir ve belirli bir modelin güncel performansı sürümden sürüme değişebilir.