Puan ders bitince hesaba yazılır. Bu dersi tamamlayınca +55 XP alacaksın. Giriş yapmadan ilerlersen puan yalnız bu tarayıcıda durur.
RAG zehirlenmesi
RAG (retrieval augmented generation, getirmeyle desteklenen üretim) basit bir fikre dayanır. Soru gelir, sistem belge deposundan ilgili parçaları bulur ve parçaları isteme ekler. Model bu parçalara bakarak yanıt yazar. Böylece eğitimde görmediği güncel ve kuruma özel bilgiye ulaşır.
Hat beş duraktan geçer. Belgeler önce parçalara bölünür. Her parça gömme (embedding) modeliyle bir sayı vektörüne çevrilir ve vektör veritabanına yazılır. Soru gelince o da vektöre çevrilir. Benzerlik araması anlamca en yakın birkaç parçayı (top-k) getirir. Son durakta model soruyu ve bu parçaları birlikte okur.
Güvenlik açısından RAG yeni bir kapı açar. Getirilen parça da modelin okuduğu tek kanala girer. Depoya belge koyabilen herkes modelin okuyacağı metne yazar: wiki sayfası, yüklenen PDF, destek talebi arşivi, kazınan web içeriği. Saldırgan artık modele değil depoya yazar. NIST bu saldırıyı bilgi tabanı zehirlenmesi diye anar. Aktardığı çalışmalar, özenle hazırlanmış tek bir belgenin bile hedef sorularda modeli yönlendirebildiğini gösterir.