İçeriğe atla
0 XP 0
0/5

Puan ders bitince hesaba yazılır. Bu dersi tamamlayınca +50 XP alacaksın. Giriş yapmadan ilerlersen puan yalnız bu tarayıcıda durur.

8 dk · 50 XP · 5 etkinlik

Rol oyunu ve kurgu çerçevesi

Jailbreak ile istem enjeksiyonu sık karışır ama savunmaları ayrı yerde durur. Enjeksiyon geliştiricinin sistem talimatını ele geçirir; saldırgan uygulamanın kurallarını devralır. Jailbreak ise modelin eğitimle kazandığı sınırı zorlar, yani uygulama katmanını değil modelin refleksini hedef alır. İkisi birlikte de gelir: enjekte edilen metin aynı anda bir jailbreak kalıbı taşıyabilir.

Rol oyunu basit bir fikre dayanır. Modelden bir karakteri canlandırmasını istersin. Karakterin kuralları modelin kurallarından farklıdır. Model hem yardımcı olmak hem verilen rolü tutarlı sürdürmek ister. Bu iki eğilim sonradan eklenen güvenlik sınırıyla çatışır.

KullanıcıgirdiSistem promptutalimatModeltek kanalAraçlardosya, APIDış belgeDış belgedeki metin de modelin okuduğu aynı kanala girer.
Kullanıcının kurgu çerçevesi de sistem promptuyla aynı kanaldan modele girer.

Şemayı soldan sağa oku. Sistem promptu, kullanıcı metni ve dış belge aynı model girişine akar. Model bu kanalda niyeti ayırmak zorunda kalır. Kurgu çerçevesi isteği dolaylılaştırır: artık zararlı bilgi istenmez, bir karakterin repliği yazılır. Model bu iki durumu her zaman aynı kesinlikte ayıramaz ve reddetme sinyali zayıflar.