Ajan hedef kaçırma, araç ve kimlik istismarı

LLM Top 10, modelin ürettiği metinle ilgili riskleri sayar: yanlış bilgi, sızan sistem promptu, zehirlenmiş eğitim verisi. Ajan bu metni bir araç çağrısına çevirdiğinde yeni bir katman açılır. Model aynı hatayı yapar, ama artık hata bir e-postaya, bir ödeme talimatına ya da silinen bir kayda dönüşür. OWASP bu farkı ayrı bir listeyle karşılar: Ajan Uygulamaları için İlk 10, kısaca ASI01'den ASI10'a. Liste, MITRE ATLAS teknikleriyle ve LLM Top 10 maddeleriyle eşlenir; ikisi rakip değil, tamamlayıcı çerçevedir. Önümüzdeki dört derste bu on riski göreceksin. Bazılarının tekniğini a6 ve a7 modüllerinde zaten derinlemesine işledin, burada onları resmî taksonomiye yerleştirip yeni olaylarla pekiştiriyoruz. Bu derste üç maddeyi göreceksin: hedef kaçırma, araç kötüye kullanımı ve kimlik istismarı. Üçü de farklı bir zayıflıktan beslenir, ama ortak bir tespit alışkanlığı ister: ajanın ne söylediğine değil, hangi yetkiyle hangi eylemi yaptığına bakmak.

ASI01, Ajan Hedef Kaçırma, saldırganın ajanın işlediği içeriğe talimat yerleştirip hedefini değiştirmesidir. a6-1 dersinde bunu gözlem durağı üzerinden gördün: araç çıktısı modele kullanıcı mesajıyla aynı kanaldan girer. OWASP'ın verdiği örnek EchoLeak tarzı bir saldırıdır: bir getirme ajanı zehirlenmiş bir belgeyi okur ve kullanıcı hiçbir işlem yapmadan iç veri sızmaya başlar. Kurgu örnek: Altay Kargo'nun fatura özetleme ajanı, tedarikçiden gelen bir PDF'i okurken içine gizlenmiş bir cümleyi talimat sanır ve tedarikçinin banka bilgisini değiştiren bir aracı çağırır. Savunma, güvenilir talimat ile işlenen veriyi ayrı tutmaktır: dış içerikten gelen metin doğrudan araç çağrısı yetkisi taşımaz, her çağrı ayrı bir kural katmanından geçer.