AI GüvenliğiLab · LLM Red Team Metodolojisi

Red Team Raporu

OrtaBekçiXP Bekçi'de

Bir bankanın yeni sohbet asistanı için yetkili red team çalışması aldın. Kapsam tek uygulama, süre bir gün.

Tehdit modelini çıkar, OWASP LLM Top 10 ile ATLAS taktiklerini eşleştir ve bulduğun zafiyeti tekrar üretilebilir adımlarla kaydet. Rapor formunda saldırı adımlarını, kanıtı ve CVSS benzeri risk gerekçesini iste.

Bu senaryonun uygulaması Bekçi'de: bossları sırayla dene, her bulguyu tekrar üretilebilir adımlarla not et.

Kapsam yalnız Bekçi'deki bosslardır. Başka hiçbir sisteme deneme yapma.

Bu labın uygulaması Bekçi'de

Burada simülasyon yok. Gerçek bir dil modeline karşı aynı tekniği dener, sonucu hemen görürsün.

1.Bekçi'de bossları sırayla dene. Her bossun taşıdığı OWASP riski ekranında yazar.

2.Denemelerini kategoriye ayır: doğrudan isteme, rol, biçim değiştirme, dolaylı enjeksiyon.

3.Nakavt getiren mesajı ve modelin cevabını kanıt olarak not et. Bulguyu Bulgu raporu atölyesinde yazabilirsin.

Ne zaman başarmış olursun

En az bir bossu nakavt edip bulguyu tekrar üretilebilir adımlarla yazdığında çalışma tamamlanır.

Bekçi arenasına git

İlerlemen ve XP'n Bekçi tarafında kaydedilir. Bu çalışma isteğe bağlıdır; akademide sonraki derslere devam edebilirsin.