Yapay Zeka Halüsinasyonu Nedir? ChatGPT Neden Bilgi Uydurur?

Yapay zeka halüsinasyonu nedir sorusunun kısa cevabı şu: ChatGPT gibi bir dil modelinin var olmayan bir kaynağı, yanlış bir tarihi ya da hiç yayımlanmamış bir yazılım paketini kendinden emin bir dille doğruymuş gibi yazması. Model yalan söylemez, çünkü niyeti yoktur. Doğruyu kontrol etmeden en olası cevabı üretir. Bu yazıda nedenini, türlerini, cevabı nasıl doğrulayacağını ve uydurma paket adlarının nasıl saldırı yoluna dönüştüğünü göreceksin.

Yapay zeka halüsinasyonu nedir, neden bu adı alır?

Halüsinasyon, modelin akıcı ama dayanaksız içerik üretmesine verilen gündelik addır. Terim insandaki algı bozukluğundan ödünç alındı, ama modelde bir şey "görülmez". Model yalnız metnin devamını tahmin eder ve bazen bu tahmin gerçekle örtüşmez.

ABD Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), Temmuz 2024 tarihli üretken yapay zekâ risk profilinde (NIST AI 600-1) aynı olgu için "konfabulasyon" (confabulation) terimini kullanır. Tanımı kısadır: kendinden emin biçimde sunulan hatalı ya da yanlış içerik. NIST bu tanıma üç durum daha ekler:

• Model, senin verdiğin istemle ya da belgeyle çelişen bir çıktı üretebilir.
• Aynı sohbette daha önce söylediğiyle çelişebilir.
• Yanlış cevabı haklı göstermek için uydurma gerekçe ve kaynak yazabilir.

Son madde en tehlikelisidir. Adım adım açıklama ve kaynak listesi cevabı daha inandırıcı yapar, ama doğru yapmaz. Modelin metni nasıl ürettiğini LLM nedir yazısında jeton jeton anlattık.

ChatGPT neden bilgi uydurur?

Çünkü model, bilmediğini söylemek yerine tahmin etmeye yönelten bir süreçle eğitilir ve ölçülür. OpenAI ve Georgia Tech araştırmacılarının Eylül 2025'te yayımladığı "Why Language Models Hallucinate" makalesi bunu iki aşamada açıklar.

1. Ön eğitim: seyrek bilgide tahmin eder. Model çok büyük metin kümelerinden dilin kalıplarını öğrenir. Yazım gibi kalıbı belli bilgide pek hata yapmaz. Bir kişinin doğum günü gibi kalıbı olmayan, eğitim verisinde belki tek kez geçen bilgide ise tahmine başvurur. Makalenin örneğine göre doğum günü bilgilerinin yüzde 20'si eğitim verisinde yalnız bir kez geçiyorsa, temel (ön eğitimli) modelin bu sorularda en az yüzde 20 oranında halüsinasyon görmesi beklenir.

2. Değerlendirme: tahmin etmek ödüllendirilir. Modeller çoğunlukla doğru cevaba 1, yanlışa ve "bilmiyorum" cevabına 0 puan veren testlerle ölçülür. Çoktan seçmeli sınavda boş bırakmak yerine tahmin eden öğrenci gibi, model de tahmin ettiğinde ortalama puanını artırır. Yazarlar çözümü puanlamada görür: emin olmadan verilen yanlış cevap, "bilmiyorum" cevabından daha ağır cezalandırılmalı.

Makaledeki deney sorunu iyi gösterir. Araştırmacılar, yazarlardan Adam Tauman Kalai'nin doğum gününü "biliyorsan yalnız gün ve ayı yaz" talimatıyla açık kaynak bir modele (DeepSeek-V3) sordu. Model üç denemede üç farklı yanlış tarih verdi. Aynı kişinin doktora tezinin adı sorulduğunda üç popüler dil modeli üç farklı başlık uydurdu. Hiçbiri doğru başlığı ya da yılı vermedi.

Bu mantığın Türkçe kullanıcı için bir sonucu var. Küçük bir ilçenin belediye kararı, bir yönetmeliğin madde numarası ya da az bilinen bir yargı kararı eğitim verisinde seyrek geçer. Makalenin mantığına göre bu tür sorularda modelin boşluğu tahminle doldurma ihtimali, çok konuşulan konulara göre daha yüksektir.

Yapay zeka halüsinasyonu örnekleri ve türleri nelerdir?

Halüsinasyon tek tip değildir. Aşağıdaki tablo sık görülen türleri, gündelik bir örneği ve onu nasıl yakalayacağını özetler.

Gerçek olaylar bu türlerin bedelini gösterir. OWASP, yanlış bilgi riskini anlatırken iki örneğe değinir. Birinde ChatGPT'nin uydurduğu dava kararları mahkemede ciddi sorun çıkardı. Ötekinde Air Canada'nın sohbet botu bir yolcuya, yakınının vefatı sonrası uygulanan indirimli bilet hakkında yanlış bilgi verdi. Kanada'daki bir uyuşmazlık çözüm kurulu Şubat 2024'te havayolunu bu bilgiden sorumlu tuttu ve tazminata hükmetti. İki olayda da sorumluluk modele değil, onu kullanan ya da müşterisine sunan tarafa kaldı. OWASP'ın büyük dil modeli uygulamaları için hazırladığı risk listesinde yanlış bilgi bu yüzden ayrı bir maddedir. 2025 sürümünde LLM09 numarasını taşır.

ChatGPT kaynak uyduruyor mu, sahte kaynak nasıl anlaşılır?

Evet, uydurabilir. Uydurma kaynak çoğu zaman gerçek parçalardan kurulur: alanında bilinen bir yazar, inandırıcı bir dergi adı ve makul bir yıl. Tek tek doğru görünen parçalar birlikte var olmayan bir yayını anlatır. "Yazar gerçek, o zaman makale de gerçek" çıkarımı bu yüzden yanlıştır.

Bir kaynağı kullanmadan önce şu dört kontrolü yap:

1. Tam başlığı tırnak içinde ara. Başlık hiçbir veritabanında çıkmıyorsa kaynak büyük ihtimalle uydurmadır.
2. DOI numarasını aç. Açılan sayfada aynı başlığı ve yazarı görmelisin. Başka bir makaleye gidiyorsa ya da hiç açılmıyorsa kaynağa güvenme.
3. Türkçe kaynağı yerinde ara. Makale için DergiPark, tez için YÖK Ulusal Tez Merkezi, kanun ve yönetmelik için Mevzuat Bilgi Sistemi, Yargıtay kararı için Yargıtay'ın karar arama sayfası.
4. Alıntıyı kaynağın içinde bul. Kaynak gerçek olsa bile model ona söylemediği bir şeyi söyletebilir. Alıntılanan cümleyi metinde ara.

Web araması açık bir modelde cevap bağlantıyla gelir ve uydurma kaynak riski azalır, ama bitmez. Bağlantıyı açıp sayfanın gerçekten o bilgiyi verdiğini görmen gerekir. Ödevine kontrol etmediğin bir kaynağı koymak, hocanın ilk bakışta yakalayabileceği bir hatadır. Ödevde yapay zekâ kullanımının nasıl değerlendirildiğini Turnitin yapay zekâ tespiti yazısında anlattık.

Yapay zekânın cevabını nasıl doğrularsın?

Her cevabı aynı titizlikle kontrol etmen gerekmez. Bir e-postanın tonunu düzelttirmekle ilaç dozu sormak aynı risk değildir. Şu sırayı izle:

1. Riski belirle. Sağlık, hukuk, para ve güvenlik ayarı gibi sonucu ağır konularda modeli taslak aracı say. Son karar için uzmana danış.
2. Somut iddiaları ayır. Cevaptaki her sayıyı, tarihi, adı, madde numarasını ve alıntıyı işaretle. Halüsinasyon çoğu zaman bu ayrıntılarda saklanır.
3. Birincil kaynağa git. Kanun için Mevzuat Bilgi Sistemi'ne, ürün özelliği için üreticinin belgesine, araştırma için makalenin kendisine bak. Başka bir sohbet botunun onayı doğrulama sayılmaz.
4. Belirsizliği sor. İsteminin sonuna "emin değilsen bilmiyorum de, tahmin ettiğin yeri belirt" ekle. Bu halüsinasyonu bitirmez, ama tahmini görünür kılabilir.
5. Yeni sohbette tekrar sor. Aynı soruya her seferinde farklı ayrıntı geliyorsa model büyük ihtimalle tahmin ediyordur. Makaledeki üç farklı doğum günü bunun örneğidir.
6. Cevabı belgeye dayandır. Elinde güvenilir bir belge varsa onu ver. Cevabı yalnız o belgeden, sayfa numarasıyla istemesini söyle.

Belgeni ya da kişisel bilgini modele vermeden önce gizlilik tarafını da düşün. Bunun kurallarını ChatGPT güvenli kullanım rehberinde bulabilirsin.

Halüsinasyon tamamen önlenebilir mi?

Bugünkü dil modellerinde hayır, ama azaltılabilir. OpenAI makalesi halüsinasyonun yalnız temel modeller için kaçınılmaz olduğunu savunur. Bilmediği soruda "bilmiyorum" diyen bir sistem kurmak mümkündür. Sorun, bugünkü değerlendirmelerin bu davranışı ödüllendirmemesidir.

Riski azaltan yöntemler şunlardır:

• Belgeye dayalı cevap (RAG): Modele cevaptan önce güvenilir belgeleri okutmak. Bu yöntemin nasıl çalıştığını ve neden yine yanılabileceğini RAG nedir yazısında anlattık.
• Çapraz doğrulama ve insan denetimi: OWASP, kritik çıktıların güvenilir kaynakla karşılaştırılmasını ve eğitimli bir insanın onayından geçmesini önerir.
• Açık uyarı: Kullanıcıya modelin sınırlarını söylemek ve yapay zekâ üretimi içeriği etiketlemek.
• Düşük sıcaklık: USENIX Security 2025'te yayımlanan paket halüsinasyonu çalışmasında sıcaklık (temperature) ayarı yükseldikçe her modelde uydurma paket oranı arttı. Doğruluk gereken işte düşük değer seç.

Aynı çalışma bu yöntemlerin sınırını sayıyla da gösterir. DeepSeek Coder 6.7B modelinde temel oran yüzde 16,14'tü. RAG bunu yüzde 12,24'e, ince ayar yüzde 2,66'ya indirdi. Ama ince ayar kod kalitesini de düşürdü: modelin HumanEval kod testindeki başarısı yüzde 51,4'ten yüzde 25,3'e geriledi. Sorunu tek hamlede çözen bir yöntem yok.

Slopsquatting nedir, paket halüsinasyonu neden güvenlik açığıdır?

> Slopsquatting: Saldırganın, yapay zekâ modellerinin sık uydurduğu ama gerçekte olmayan bir paket adını npm ya da PyPI gibi açık paket depolarına zararlı kodla kaydetmesidir. Adı, özensiz yapay zekâ çıktısı anlamındaki "AI slop" ile yazım hatasından yararlanan "typosquatting" sözcüklerinin birleşiminden gelir.

Saldırı üç adımda işler. Model kod yazarken var olmayan bir paket önerir. Saldırgan aynı adı depoya kaydeder. Öneriyi kontrol etmeden kuran geliştirici zararlı kodu projesine çeker.

Bu riski ölçen kapsamlı bir çalışma, yukarıda andığımız USENIX Security 2025 makalesidir. Araştırmacılar 16 kod üretim modeliyle Python ve JavaScript'te 576 bin kod örneği üretti:

• Önerilen yaklaşık 2,23 milyon paketin yüzde 19,7'si (440.445 öneri) gerçekte yoktu.
• Bu önerilerde 205.474 farklı uydurma paket adı çıktı.
• Ticari modellerde (çalışmada GPT serisi) oran ortalama en az yüzde 5,2, açık kaynak modellerde en az yüzde 21,7'ydi.
• Uydurma paket üreten istem 10 kez tekrarlandığında uydurma adların yüzde 43'ü on denemenin hepsinde yeniden çıktı.

Son madde saldırıyı mümkün kılar. Uydurma rastgele olsaydı saldırgan hangi adı kaydedeceğini bilemezdi. Model aynı adı tekrar ettiği için tahmin edilebilir.

Yayımlanmış iki vaka riskin gerçek olduğunu gösterir. Güvenlik araştırmacısı Bar Lanyado, araştırması sırasında modellerin uydurduğunu gördüğü huggingface-cli adını PyPI'da boş bir paketle kaydetti. Mart 2024 tarihli raporuna göre boş paket üç ayda 30 binden fazla gerçek indirme aldı. Kurulum talimatı Alibaba'nın bir araştırma deposuna bile girdi.

Ocak 2026'da Aikido Security araştırmacısı Charlie Eriksen, react-codeshift adının 237'den fazla GitHub deposunda yapay zekâ ajanlarına verilen talimatlarda geçtiğini buldu. Ad, iki gerçek aracın (jscodeshift ve react-codemod) karıştırılmasıyla uydurulmuştu. Yapay zekâyla üretilmiş ve Aikido'ya göre incelenmeden eklenmiş ajan beceri dosyalarıyla yayılmıştı. Eriksen adı zararsız bir yer tutucuyla kaydetti. Pakete her gün birkaç indirme gelmeye devam etti ve araştırmacı bunları komutu çalıştırmaya çalışan ajanlara bağladı.

İki vakada da adı ilk kaydeden iyi niyetli bir araştırmacıydı. Bir saldırgan önce davransaydı, aynı kurulumlar saldırganın kodunu projelere taşıyabilirdi.

Yapay zekânın yazdığı kodu üretime almadan önce neyi kontrol etmelisin?

Kodu yapay zekâyla yazmak sorun değildir. Sorun, çıktıyı okumadan çalıştırmaktır. Üretime almadan önce şu kısa listeyi uygula:

1. Her yeni paketin var olduğunu doğrula. npm view paket-adi time.created repository.url komutu paketin oluşturulma tarihini ve kaynak deposunu gösterir. Python için python -m pip index versions paket-adi yayımlanmış sürümleri listeler. Paket yoksa sonuç yerine hata alırsın.
2. Paketin geçmişine bak. Birkaç gün önce açılmış, tek sürümlü, kaynak deposu olmayan ya da iki bilinen paketin karışımı gibi duran bir ad şüphelidir.
3. Ajanın kurulumunu onaya bağla. Kod ajanına kendi başına paket kurma ya da komut çalıştırma izni verme. Önerdiği komutu önce sen oku.
4. Sürümleri kilitle. Kilit dosyasını depoya ekle. Bağımlılık değişikliğini kod incelemesinde ayrıca kontrol et.
5. Talimat dosyalarını kod gibi incele. Aikido'nun önerisi budur: ajan beceri ve talimat dosyalarındaki her npx satırı, beklediğin geliştiricinin yayımladığı gerçek bir pakete gitmeli. Aynı kural pip install satırları için de geçerlidir.
6. Model çıktısını güvenilmez girdi say. Ürettiği SQL sorgusunu, kabuk komutunu ve HTML'i kullanıcıdan gelmiş gibi doğrula.

Bu kontrolleri geliştirme hattına nasıl yerleştireceğini DevSecOps nedir yazısında anlattık. Bağımlılık karışıklığı ve slopsquatting'i typosquatting dersinde örnekle işliyoruz. Konuyu baştan sona öğrenmek istersen AI Güvenliği yolundan başlayabilirsin.

Kaynaklar

• OpenAI ve Georgia Tech: Why Language Models Hallucinate (Eylül 2025)
• USENIX Security 2025: Kod üreten dil modellerinde paket halüsinasyonu (Spracklen ve diğerleri)
• NIST AI 600-1: Üretken yapay zekâ profili, konfabulasyon riski (Temmuz 2024)
• OWASP: LLM09:2025 Misinformation (yanlış bilgi)
• Aikido Security: Agent Skills Are Spreading Hallucinated npx Commands (Ocak 2026)