Puan ders bitince hesaba yazılır. Bu dersi tamamlayınca +50 XP alacaksın. Giriş yapmadan ilerlersen puan yalnız bu tarayıcıda durur.
Modelin hatırladıkları
Sızıntının iki kaynağı var ve karıştırmak pahalıya patlar. Birincisi eğitim verisidir. Model, eğitimde gördüğü nadir ve tekrar eden dizileri ezberler. Bir e-posta imzası, bir anahtar ya da bir hasta kaydı yeterince tekrar ettiyse doğru istemle kelimesi kelimesine geri gelir. Araştırmalar bunu ölçtü. Carlini ve ekibi GPT-2'den yüzlerce metni birebir çıkardı; bu diziler eğitim setinde tek belgede geçiyordu ve yine de çekilebildi.
İkinci kaynak bağlamdır. Modelin o anki penceresine ne koyduysan sızabilir: sistem promptu, getirilen belge, önceki turlar, aracın döndürdüğü tablo. Bağlam sızıntısı çok daha sık çıkar. Tamiri de daha ucuzdur, çünkü sorun eğitimde değil çalışma anındaki bir tasarım kararındadır.
Ayrımın parasal karşılığı nettir. Ezberi azaltmak veri temizliği, tekilleştirme ve yeniden eğitim ister; aylar sürer. Bağlam sızıntısını kapatmak ise bir yetki kontrolü ile bir maskeleme adımıdır; günler sürer. Yanlış teşhis, günlük işi aylık işe çevirir.