LLM Nedir? Büyük Dil Modelleri Nasıl Çalışır?

ChatGPT, Claude ve Gemini gibi sohbet ürünlerinin altında bir LLM çalışır. Ürün, modelin etrafına arayüz, kayıt, güvenlik filtresi ve araçlar ekler. Bu yazıda modelin kendisini açıyoruz: metni nasıl gördüğünü, neden bazen uydurduğunu ve prompt injection'ın neden bu kadar zor bir sorun olduğunu.

Kısa özetle başlayalım. Aşağıdaki tablo, bir LLM'in beş temel özelliğini ve her birinin güvenlik karşılığını yan yana koyuyor. Yazının geri kalanı bu tabloyu açar.

LLM nedir?

LLM, büyük metin kümeleriyle eğitilmiş ve metnin devamını tahmin eden bir yapay zekâ modelidir. Açılımı Large Language Model, Türkçesi büyük dil modelidir. "Büyük" sözcüğü hem eğitim verisinin hem de modelin parametre sayısının büyüklüğünü anlatır. Parametreler, modelin eğitimde ayarlanan sayısal ağırlıklarıdır.

Modelin tek temel işi vardır: o ana kadar gelen metne bakıp bir sonraki parçayı seçmek. Cevabı bir kerede yazmaz. Bir parça seçer, metne ekler, sonra yeniden seçer. Uzun bir cevap bu döngünün yüzlerce tekrarıdır.

Bugünkü büyük modellerin çoğu Transformer mimarisine dayanır. Bu mimari 2017'de yayımlanan "Attention Is All You Need" makalesiyle tanıtıldı. Mimarinin kalbindeki dikkat (attention) mekanizması, her jetonun metindeki diğer jetonlara ne kadar "bakacağını" hesaplar.

LLM nasıl eğitilir?

LLM eğitimi iki ana aşamadan geçer: ön eğitim ve hizalama. Ön eğitimde model çok büyük bir metin kümesinde "sıradaki parçayı tahmin et" görevini defalarca çözer. Dil bilgisini, olguları ve kod kalıplarını bu tahmin işinden öğrenir.

Hizalama aşamasında üretici, modeli örnek diyaloglar ve insan geri bildirimiyle ince ayardan geçirir. Bu yönteme kısaca RLHF (insan geri bildirimiyle pekiştirmeli öğrenme) denir. Amaç, modelin yararlı cevap vermesi ve zararlı isteği reddetmesidir.

Güvenlik açısından iki not önemli. Birincisi, model eğitim verisinde gördüğünü taşır. Carlini ve arkadaşlarının 2021 çalışması, bir dil modelinden eğitim verisindeki bazı metinlerin birebir çıkarılabildiğini gösterdi. İkincisi, hizalama bir güvenlik duvarı değildir. Model doğru çerçeveyle ikna edilebilir; bu konuyu jailbreak yazımızda anlattık.

Token nedir, LLM metni nasıl görür?

Token (jeton), modelin işlediği en küçük metin parçasıdır; bazen tam sözcük, bazen bir ek ya da tek harftir. Model harf görmez. Jetonlaştırıcı metni parçalara böler, her parçaya bir numara verir ve model yalnız bu numara dizisiyle çalışır.

Türkçe eklemeli bir dil olduğu için aynı anlam daha çok jetona bölünür. Bunu biz de ölçtük. OpenAI'ın açık kaynak tiktoken kütüphanesindeki o200k_base sözlüğüyle 17 Ekim 2026'da şu sonuçları aldık:

Bu farkın iki pratik sonucu var. API ücretleri jeton başına hesaplandığı için Türkçe aynı iş için daha pahalıya gelir. Bağlam penceresi de Türkçe metinle daha çabuk dolar.

Güvenlik sonucu ise şudur: birçok uygulama girdiyi yasaklı sözcük listesiyle tarar. Liste harfe bakar, model ise anlama. Araya görünmez bir karakter giren ya da başka dilde yazılan istek listeden geçer ama model onu yine anlar. Bu yüzden yalnız sözcük listesine dayanan savunma zayıf kalır.

Bağlam penceresi nedir ve prompt injection neden mümkündür?

Bağlam penceresi, modelin tek seferde okuyabildiği sınırlı metin alanıdır. Bu alana şunlar girer:

• geliştiricinin yazdığı sistem talimatı,
• önceki konuşma,
• kullanıcının yeni sorusu,
• modelin okuduğu belgeler, web sayfaları ve araç çıktıları.

Hepsi aynı alana, aynı biçimde girer. Model bunlar arasında "bu talimat, bu yalnız veri" diye kesin bir sınır çizemez. Prompt injection tam olarak bu yüzden mümkündür. Modelin özetlediği bir e-postada "önceki talimatları yok say" yazıyorsa, model bunu veri değil komut gibi okuyabilir. OWASP'ın büyük dil modeli risk listesi prompt injection'ı ilk sıraya koyar. Kavramın ayrıntısı prompt injection yazımızda.

Pencerenin sınırı da ayrı bir risktir. Pencere dolunca eski metin kırpılır. Kırpma kodu kötü yazılmışsa, ilk silinen şey sistem talimatı olabilir. Uzun pencere yeni saldırılar da doğurdu. Anthropic'in 2024'te yayımladığı çok örnekli jailbreak araştırması, uzun bağlama doldurulan sahte diyalogların modelin reddetme davranışını zayıflatabildiğini gösterdi.

LLM neden yanlış bilgi uydurur?

LLM doğruyu değil olası olanı ürettiği için akıcı ama yanlış cevap verebilir; buna halüsinasyon denir. Model her adımda olası jetonlara birer olasılık verir ve birini seçer. Eğitim verisinde az geçen bir konuda boşluğu kendinden emin bir tahminle doldurabilir. Var olmayan bir makale, yasa maddesi ya da yazılım paketi böyle doğar.

Paket halüsinasyonu somut bir güvenlik riskidir. USENIX Security 2025'te yayımlanan "We Have a Package for You!" çalışması, 16 modelin ürettiği 576 bin kod örneğini inceledi. Ticari modellerin önerdiği paketlerin ortalama en az yüzde 5,2'si, açık kaynak modellerinkinin en az yüzde 21,7'si var olmayan paketlerdi. Saldırgan bu uydurma adla zararlı paket yayımlarsa, öneriyi körü körüne kuran geliştirici tuzağa düşer.

Kural basit: model çıktısı, kullanıcı girdisi kadar güvenilmezdir. Bir paketi kurmadan, bir sorguyu çalıştırmadan ya da bir HTML parçasını sayfaya basmadan önce doğrula.

LLM ile ChatGPT arasındaki fark nedir?

LLM arkadaki modeldir, ChatGPT ise bir LLM'i arayüz, güvenlik katmanı ve araçlarla birleştiren üründür. Aynı model farklı ürünlerde farklı kurallarla çalışabilir. Bu ayrım güvenlik incelemesinde önemlidir, çünkü açıkların çoğu modelde değil, modelin etrafına kurulan sistemde doğar.

Bilgi tabanı katmanını RAG nedir, araç katmanını yapay zekâ ajanı nedir yazılarında ayrıca açtık.

LLM kullanırken güvenlik için ne yapmalısın?

LLM'i güvenli kullanmanın özü, modele sır vermemek ve çıktısını doğrulamaktır. Kullanıcı ve geliştirici için kısa liste:

1. Sır yapıştırma. Parola, TCKN, müşteri verisi ve şirket sırrını sohbete koyma.
2. Kaynağı aç. Modelin verdiği bağlantıyı, makaleyi ve yasa maddesini kendin kontrol et.
3. Paketi doğrula. Önerilen kütüphanenin gerçekten var olduğuna ve güvenilir yayımcıdan geldiğine bak.
4. Belgeyi veri say. Yabancı bir belgeyi özetletirken içinde gizli talimat olabileceğini unutma.
5. Yetkiyi daralt. Geliştiriciysen modele yalnız işi için gereken aracı ver; ödeme ve silme adımlarına insan onayı koy.
6. Sistem talimatına sır koyma. Oraya yazılan anahtar ve parola sızabilir.

Bireysel kullanım için daha ayrıntılı liste ChatGPT güvenli kullanım için 10 kural yazısında.

LLM güvenliğini nerede uygulamalı öğrenirsin?

LLM'in iç işleyişini en iyi, jetonları ve bağlamı kendi gözünle görerek öğrenirsin. AltaySec Akademi'nin ücretsiz AI Güvenliği yolu bu konuyla açılır. Jeton, bağlam ve dikkat dersinde yukarıdaki ölçümü kendin yaparsın. Talimat ile veri karışınca dersi prompt injection'ın kökünü gösterir. Sonra Kargo Asistanının Kara Kutusu labında bir LLM hattının nerede yetki taşıdığını bulursun. Alanın genel haritası için yapay zekâ güvenliği rehberine bak.

Kaynaklar

• Vaswani ve ark., Attention Is All You Need (2017)
• Carlini ve ark., Extracting Training Data from Large Language Models (2021)
• Spracklen ve ark., We Have a Package for You! Package Hallucinations by Code Generating LLMs (USENIX Security 2025)
• Anthropic, Many-shot jailbreaking (2024)
• OpenAI, tiktoken jetonlaştırıcı kütüphanesi
• OWASP GenAI Security Project, LLM Top 10