Puan ders bitince hesaba yazılır. Bu dersi tamamlayınca +60 XP alacaksın. Giriş yapmadan ilerlersen puan yalnız bu tarayıcıda durur.
Ajanı sınırlamak
Önceki derslerde ajanın nasıl kandırıldığını gördün. Şimdi çerçeveyi kur. Temel varsayım şu: ajan kandırılacak. Sorulacak soru "kandırılır mı" değil, "kandırıldığında ne kadar zarar verir" olmalı. Sistem promptundaki yasak listesi bu soruya cevap vermez, çünkü kandırılan model onu da yok sayabilir. Sınırlar modelin dışında, kodda ve ortamda durur. Beş sınır kuracaksın: en az yetki, onay kapısı, kum havuzu, geri alınabilirlik ve bütçe.
Birinci sınır en az yetkidir. NIST tanımıyla sistem, kullanıcının ya da onun adına çalışan sürecin erişimini görevin gerektirdiği en aza indirir. Ajanda bunun iki anlamı var. Araç listesi göreve göre daralır. Her aracın kapsamı da eylem düzeyinde daralır: okuma yeten yerde yazma, tek kayıt yeten yerde tablo erişimi verilmez.
# Genis izinler = ["crm:*", "mail:send", "fs:rw"] # Dar izinler = ["crm:bilet.oku", "crm:bilet.durum_yaz"] # mail ve dosya sistemi bu ajanda hic yok
Koddaki dar liste, ajanın yalnız bilet okuyup durum yazabildiğini gösterir. Posta ve dosya sistemi hiç yoktur. OWASP LLM06 bir adım daha ister: aracı ajanın ortak süper hesabıyla değil, isteği yapan kullanıcının yetkisiyle çalıştır. Kullanıcının göremediği kaydı ajan da göremez.