İçeriğe atla
0 XP 0
0/5

Puan ders bitince hesaba yazılır. Bu dersi tamamlayınca +55 XP alacaksın. Giriş yapmadan ilerlersen puan yalnız bu tarayıcıda durur.

9 dk · 55 XP · 5 etkinlik

En az yetki ve izin listesi

En az yetki eski ve basit bir ilkedir. NIST'in tanımıyla sistem, kullanıcıların ve onlar adına çalışan süreçlerin erişimini verilen görev için gereken en düşük düzeyle sınırlar. LLM ajanında bu ilke daha da önem kazanır. Kararı veren parça, okuduğu metinle kandırılabilen bir modeldir. Modeli kandırılmaz yapamazsın, ama kandırıldığında neye dokunabileceğini belirlersin.

OWASP LLM06 bu riske aşırı yetki (excessive agency) der ve üç kök neden sayar. Aşırı işlev: ajan, işi için gerekmeyen araçlara erişir. Aşırı izin: araç gereğinden geniş haklarla çalışır, örneğin yalnız okuması gerekirken siler. Aşırı özerklik: yüksek etkili işlem insan onayı olmadan yürür. Derste bunlara karşı dört adım göreceksin.

Hedefkullanıcı göreviPlanmodelAraç çağrısıyetki sınırıGözlemaraç çıktısıYanıtya da yeni adımGözlem yeniden plana döner. Araç çıktısı da modelin okuduğu kanala girer.
Yetki sınırı araç çağrısı durağında durur. Model planlar, çağrının geçip geçmeyeceğine sunucu karar verir.

Şemada model hedefi alır ve bir plan kurar. Plan araç çağrısına dönüşür, araç çıktısı gözlem olarak geri gelir ve döngü sürer. Savunmanın yeri araç çağrısı durağıdır. Model ne planlarsa planlasın, çağrı sunucudaki kontrolden geçmeden çalışmaz. İlk adım kimliktir. Ajan, geniş yetkili servis hesabıyla değil oturumdaki kullanıcının kimliğiyle çalışır. OWASP buna kullanıcı bağlamında yürütme der. Kullanıcının göremediği kayda ajan da ulaşamaz.