Lab · Savunma Katmanları

Guardrail Kur

Sana açık bir asistan teslim edildi. Enjeksiyona da açık, veri sızıntısına da. Görev saldırmak değil, kapatmak.

Girdi ve çıktı guardrail'lerini yaz, araçları kum havuzuna al ve izin listesini en az yetkiye indir. Sonra hazır saldırı setini üstünde koştur.

Saldırı setinin tamamı engellendiğinde ve normal istekler geçmeye devam ettiğinde sistem flag'i verir.

Her şeyi reddeden guardrail kabul edilmez. Yanlış pozitif oranı da ölçülür.

Bu lab gerçek menzilde çözülür

Burada simülasyon yok. Gerçek bir yapay zeka asistanına, izinli ve sınırlı bir bütçeyle bağlanırsın. Çalışma türü: savunma kurma.

1.Bu lab saldırı değil savunma tarafında. Menzilin guardrail koşumunu kullanırsın.

2.Kuralını yaz, saldırı setinde koştur, yanlış pozitif oranına bak.

3.Her şeyi reddeden kural kabul edilmez; normal istekler geçmeye devam etmeli.

Ne zaman başarmış olursun

Saldırıların çoğu engellenip normal istekler geçtiğinde koşum başarılı sayılır.

Menzile git ve davet al

Bu labın puanı menzilde verilir. Çalışmanı bitirdiğinde sonucunu orada görürsün. Bu çalışma isteğe bağlıdır; akademide sonraki derslere devam edebilirsin.