Puan ders bitince hesaba yazılır. Bu dersi tamamlayınca +55 XP alacaksın. Giriş yapmadan ilerlersen puan yalnız bu tarayıcıda durur.
Girdi ve çıktı guardrail'leri
Guardrail (koruma bariyeri), LLM uygulamasında modelin önüne ve arkasına konan denetim katmanıdır. İki yerde durur. Girdi tarafında modele giden her metni inceler: kullanıcı mesajı, aramayla getirilen belge ve araç çıktısı. Çıktı tarafında modelin ürettiği yanıtı, kullanıcıya ya da başka bir sisteme ulaşmadan önce inceler. İki taraf farklı riskleri yakalar. Biri diğerinin yerini tutmaz.
Girdi denetimi saldırıyı erken keser. Model çağrılmadan karar verdiği için jeton harcamaz. Yakaladığı şeyler ise sınırlıdır: bilinen enjeksiyon kalıpları, Base64 gibi kodlanmış yükler, aşırı uzun ve tekrarlı metinler, politika dışı istekler. OWASP'ın enjeksiyon önleme rehberi bu iş için düzenli ifade ve bulanık eşleşme önerir. Harfleri karıştırılmış bir "talimatları yok say" cümlesi bulanık eşleşmeye takılır. Tamamen yeni bir kalıp geldiğinde ise girdi denetimi sessiz kalır.
Çıktı denetimi geç çalışır ama daha kesin bilgiye bakar. Elinde niyet tahmini yoktur, üretilmiş metin vardır. Yanıta düşen kişisel veri, sistem promptu parçası, dış adrese giden markdown görseli ve yürütülebilir kod burada yakalanır. OWASP LLM05 model çıktısını kullanıcı girdisi kadar güvensiz sayar. Yanıt web sayfasına basılacaksa HTML kodlaması, SQL'e gidecekse parametreli sorgu şarttır.
Şemada kullanıcı mesajı sistem promptuyla birleşip modele gider. Dış belge ise yukarıdan, aynı kanala girer. Model iki metni ayırt etmez ve ikisindeki cümleyi de talimat gibi yorumlayabilir. Girdi denetimini yalnız kullanıcı kutusuna bağlarsan, belgenin içine gizlenmiş dolaylı enjeksiyon denetimsiz geçer.