İçeriğe atla
0 XP 0
0/6

Puan ders bitince hesaba yazılır. Bu dersi tamamlayınca +60 XP alacaksın. Giriş yapmadan ilerlersen puan yalnız bu tarayıcıda durur.

10 dk · 60 XP · 6 etkinlik

RAG nasıl çalışır

Kargo şirketinin iç asistanına "Yıllık izin kaç gün?" diye soran çalışan doğru cevabı alır. Oysa model şirketin izin yönetmeliğini eğitimde hiç görmedi. Arkada RAG çalışır. Açılımı retrieval-augmented generation, Türkçesiyle geri getirmeli üretimdir. Lewis ve arkadaşları 2020'de fikri şöyle kurdu: modelin eğitimde öğrendiği bilgiyi dış bir belge deposuyla birleştir. Modeli yeniden eğitmezsin. Soruya uygun metni bulur ve isteğin içine koyarsın. Belge güncellenince cevap da güncellenir.

Boru hattı dört adımdan oluşur: parçalama, indeksleme, geri getirme ve yapıştırma. İlk ikisi soru gelmeden önce bir kez çalışır. Son ikisi her soruda tekrar eder. Her adım bir şeye güvenir ve saldırgan bu güvenlerden birini hedef alır.

BelgelerkaynakParçalamachunkGömmevektörBenzerlik aramasıtop-kModelbağlam + soru
Belgeler parçalanır, gömülür ve indekse yazılır. Soru gelince benzerlik araması en yakın parçaları seçer, model bağlamı ve soruyu birlikte okur.

Şemada belgeden sonraki ilk durak parçalamadır. Parçalama (chunking) uzun belgeyi küçük bölümlere ayırır, çoğu sistem birkaç yüz jetonluk parçalar kullanır. Parça çok büyükse gereksiz metin pencereyi doldurur. Çok küçükse cümle bağlamından kopar: "Bu süre 14 gündür" parçası hangi sürenin kastedildiğini taşımaz. İyi parçalayıcı başlık ve paragraf sınırında keser, komşu parçalar arasında küçük bir örtüşme bırakır.