AI Güvenliği

1. 1
   Talimat ile veri karışınca. Kilitli: önceki dersleri bitirince açılır13 dk · 50 XP

   İstem enjeksiyonunun kök nedenini SQL enjeksiyonuyla karşılaştırır, saldırıyı taşıyıcı, yük ve etki diye ayırır, zararı kodda sınırlamayı öğrenirsin. Dil modeli, geliştiricinin talimatını ve dışarıdan gelen metni aynı jeton dizisinde okur. Sonunda kendi botun için test girdisi yazar ve zararı gerçekten sınırlayan önlemi seçersin.

   7 etkinlik: Kısa yazım · Sınıflandırma · Sıralama · Eşleştirme

2. 2
   Doğrudan ve dolaylı enjeksiyon. Kilitli: önceki dersleri bitirince açılır12 dk · 50 XP

   Doğrudan ve dolaylı istem enjeksiyonunu ayırır, dolaylı yükün sayfada nasıl saklandığını ve kurbanın yetkisiyle nasıl çalıştığını görürsün. Doğrudan enjeksiyonda emri saldırgan kendisi yazar; dolaylı enjeksiyonda emir, modelin sonradan okuyacağı bir belgede bekler. Sonunda getirilen HTML'de gizli metni yakalayan bir düzenli ifade yazarsın.

   6 etkinlik: Düzenli ifade · Kod okuma · Sınıflandırma · Çıktı tahmini

3. 3
   Sistem promptu sızıntısı. Kilitli: önceki dersleri bitirince açılır12 dk · 55 XP

   Sistem promptunun neden gizli sayılamayacağını, nasıl parça parça çekildiğini ve sızsa bile zarar vermeyen bir promptu nasıl yazacağını öğrenirsin. Sistem promptu kullanıcıya görünmez ama gizli değildir; model onu her turda okur ve doğru soruyla geri verir. Sonunda sızıntıyı kanarya işaretiyle kayıtlarda yakalar ve sızsa bile zarar vermeyen bir prompt yazarsın.

   7 etkinlik: Kayıt tarama · Kısa yazım · Diyalog · Sınıflandırma

4. 4
   RAG zehirlenmesi. Kilitli: önceki dersleri bitirince açılır13 dk · 55 XP

   RAG hattının modelin bağlamına dış metin taşıdığını, zehirli belgenin nasıl öne çıktığını ve önlemleri üç kata nasıl yerleştireceğini öğrenirsin. RAG, modelin bağlamına bir belge deposundan parça taşır; depoya yazabilen herkes modelin okuyacağı metne de yazar. Sonunda alım hattını güvenli sıraya dizer ve önlemleri alım, arama, üretim katlarına yerleştirirsin.

   7 etkinlik: Komut zinciri · Kayıt tarama · Şema okuma · Sınıflandırma

5. Lab · Sırrı Söylet. Kilitli: modülün derslerini bitirince açılır

   Bir destek asistanına bağlandın. Asistanın sistem promptunda bir sır saklanıyor.

   Menzil · isteğe bağlı

Ek lab: Veriyi Talimattan Ayır. Laboratuvar sayfasında da listelenir, yol ilerlemesine sayılmaz.

1. 1
   Modelin hatırladıkları. Kilitli: önceki dersleri bitirince açılır14 dk · 50 XP

   Dil modelinin eğitim ezberinden ve bağlam penceresinden nasıl veri sızdırdığını, sızıntıyı nasıl ölçüp kapatacağını öğrenirsin. Ezber ile bağlam sızıntısını ayırır, önek testi ve kanarya kayıtlarla ezberi ölçer, çok kiracılı önbellek hatasını tanırsın. Sonunda bir bağlam dökümünde riskli satırları işaretler ve yalıtım testini sürüm kapısına bağlarsın.

   7 etkinlik: Kayıt tarama · Kısa yazım · Sınıflandırma · Çıktı tahmini

2. 2
   KVKK, TCKN ve maskeleme. Kilitli: önceki dersleri bitirince açılır14 dk · 60 XP

   KVKK'nın LLM uygulamasına nasıl uygulandığını, TCKN'yi yakalayıp maskelemeyi ve yurt dışındaki model sağlayıcısına aktarım kuralını öğrenirsin. Kişisel veri ile özel nitelikli veriyi ayırır, verinin istemde, araç çıktısında ve günlükte nerede biriktiğini görürsün. Sonunda TCKN adaylarını desenle yakalar, doğrulama basamaklarıyla eler ve maskelenmiş veriyi yetkiye göre geri koyarsın.

   8 etkinlik: Düzenli ifade · Şema okuma · Sınıflandırma · Çıktı tahmini

3. 3
   Markdown görseliyle veri kaçırma. Kilitli: önceki dersleri bitirince açılır12 dk · 50 XP

   Sohbet arayüzünün markdown'ı oluştururken bir görsel adresine kendiliğinden istek atmasının neden veri kaçışına dönüştüğünü öğrenirsin. Kök nedeni çıktı işleme katmanında görür, içerik güvenlik politikasıyla ve çıkış izlemesiyle kanalı nasıl kapatacağını çözersin. Sonunda kodlanmış bir yükü çözer, engelleme başlığını yazar ve tespit kuralını kurarsın.

   6 etkinlik: Terminal · Düzenli ifade · Kod çözme · Çıktı tahmini

4. 4
   Ajan ve araç istismarı. Kilitli: önceki dersleri bitirince açılır12 dk · 55 XP

   Bir ajan araç çağırmaya başladığı anda hata maliyetinin nasıl büyüdüğünü, aşırı yetkinin üç yüzünü ve yetkiyi araç katmanında nerede kısacağını öğrenirsin. Aşırı yetkinin üç yüzünü ayırır, dar araç şeması tasarlar ve geri alınamaz işlemleri insan onayına bağlarsın. Sonunda bir araç tanımındaki en riskli satırı bulur ve güvenli çağrı akışını sıralarsın.

   6 etkinlik: Kısa yazım · Kod okuma · Şema okuma · Sınıflandırma

5. Lab · PII Kaçağı. Kilitli: modülün derslerini bitirince açılır

   Bir e-ticaret şirketi sipariş asistanını açtı. Asistan müşteri kayıtlarına bakabiliyor ve yanıtlarında TCKN ile telefonu maskeliyor.

   Menzil · isteğe bağlı

1. 1
   Rol oyunu ve kurgu çerçevesi. Kilitli: önceki dersleri bitirince açılır12 dk · 50 XP

   Rol oyunu ve kurgu çerçevesi, modelin güvenlik eğitimini doğrudan istekten daha kolay aşar; bu dersi baştan sona savunmacı gözle çözersin. Enjeksiyon ile jailbreak sınırını, kurgu kalıplarını ve iki başarısızlık modunu öğrenir, Türkçe farkını ölçersin. Sonunda yetkili bir testte iki turluk kurgu tırmanışını kendin yönetip kırılma anını işaretlersin.

   6 etkinlik: Kısa yazım · Diyalog · Sınıflandırma · Çoktan seçmeli

2. 2
   Kodlama ile gizleme. Kilitli: önceki dersleri bitirince açılır12 dk · 50 XP

   Filtre düz metne bakar, model ise kodlanmış metni de çözer; aradaki yetenek boşluğu kodlama tabanlı filtre atlatmanın ana yoludur. Bu derste base64, onaltılık ve harf oyunlarının sözlük tabanlı filtreyi nasıl aştığını, savunma sırasını adım adım görürsün. Sonunda zararsız bir kanarya yükünü çözecek ve girdi denetim hattını doğru kuracaksın.

   6 etkinlik: Komut zinciri · Kod çözme · Eşleştirme · Boşluk doldurma

3. 3
   Jeton kaçakçılığı ve görünmez karakterler. Kilitli: önceki dersleri bitirince açılır12 dk · 50 XP

   Model metni jetonlara böler. Bu parçalar her zaman birer kelimeye denk gelmez. Saldırgan, metnin farklı yorumlanmasından yararlanarak filtreyi aşmayı deneyebilir. Bu derste görünmez karakterlerin, homoglif harflerin ve parçalamanın denetimi nasıl şaşırttığını görürsün. Sonunda gizli karakter taşıyan satırları ayıklayacak ve sayım tabanlı savunmayı kuracaksın.

   6 etkinlik: Düzenli ifade · Kayıt tarama · Çoklu seçim · Çoktan seçmeli

4. 4
   Çok turlu tırmanma ve filtrenin sınırı. Kilitli: önceki dersleri bitirince açılır11 dk · 55 XP

   Tek istemde reddedilen bir istek, çok turda adım adım kabul ettirilebilir; risk turlara yayılınca mesaj bazlı filtre kör kalır. Bu derste tırmanma kalıbını, uzun bağlam saldırısını ve filtrelerin riski neden azaltıp bitiremediğini görürsün. Sonunda bir oturum günlüğünde tırmanmanın kırılma anını bulacaksın.

   5 etkinlik: Kayıt tarama · Kısa yazım · Tahmin · Sıralama

5. Lab · Filtreyi Esnet. Kilitli: modülün derslerini bitirince açılır

   Bir içerik asistanı yasaklı bir konuyu anlatmayı reddediyor. Filtre hem girdide hem çıktıda çalışıyor.

   Menzil · isteğe bağlı

1. 1
   Girdi ve çıktı guardrail'leri. Kilitli: önceki dersleri bitirince açılır12 dk · 55 XP

   Guardrail katmanını modelin iki ucuna kurar, denetleyici modeli yetkisiz tutar ve çıktı denetimini kanarya testiyle ölçersin. Hazır sınıflandırıcıların puanını iki eşikle karara çevirir, metni taramadan önce normalleştirirsin. Sonunda yanıt kayıtlarında kanarya arayarak sızıntı testi yapacaksın.

   6 etkinlik: Terminal · Şema okuma · Sınıflandırma · Çıktı tahmini

2. 2
   Araçları kum havuzunda çalıştırmak. Kilitli: önceki dersleri bitirince açılır13 dk · 55 XP

   Model kod ya da sorgu üretiyorsa, o çıktıyı yürütmeden önce dosya, ağ, kaynak ve yetkisi sınırlı bir kum havuzuna koyarsın. Bu derste Docker bayraklarıyla yalıtım kurmayı, yalıtımı silen satırları ve çekirdek sınırını öğrenirsin. Sonunda yalıtımı bozan bir çalıştırma komutunu satır satır bulacaksın.

   7 etkinlik: Komut zinciri · Kayıt tarama · Kod okuma · Eşleştirme

3. 3
   En az yetki ve izin listesi. Kilitli: önceki dersleri bitirince açılır12 dk · 55 XP

   Kandırılan bir ajanın zararını kimliği kullanıcıdan devralarak, izin listesi, onay kapısı ve araç sınırlarıyla küçültmeyi öğrenirsin. Araç geçidinin kontrolleri hangi sırayla çalıştırdığını ve onayın neden işlemin parametrelerine bağlandığını görürsün. Sonunda araç geçidinin yetki kontrolünü kendi isteğinle sınayacaksın.

   6 etkinlik: HTTP isteği · Kod okuma · Sınıflandırma · Sıralama

4. 4
   Değerlendirme ve sürekli red team. Kilitli: önceki dersleri bitirince açılır12 dk · 50 XP

   Savunmanın çalıştığını saldırı seti, iki oran ve sürüm kapısıyla gösterir, değerlendirmeyi her değişiklikte dönen bir döngüye çevirirsin. Bu derste garak ile otomatik tarama koşmayı, sonucu okumayı ve uyarlanır saldırganı hesaba katmayı öğrenirsin. Sonunda sürekli değerlendirme döngüsünü adım adım kuracaksın.

   6 etkinlik: Komut zinciri · Kayıt tarama · Çıktı tahmini · Tahmin

5. Lab · Guardrail Kur. Kilitli: modülün derslerini bitirince açılır

   Sana açık bir asistan teslim edildi. Enjeksiyona da açık, veri sızıntısına da. Görev saldırmak değil, kapatmak.

   Menzil · isteğe bağlı

Ek lab: Kum Havuzundan Kaçış İzi. Laboratuvar sayfasında da listelenir, yol ilerlemesine sayılmaz.

1. 1
   Kapsam ve tehdit modeli. Kilitli: önceki dersleri bitirince açılır13 dk · 50 XP

   LLM testine başlamadan önce varlıkları, güven sınırlarını, tehdit aktörlerini ve etki eşiğini tek sayfalık bir kapsam notuna dökmeyi öğrenirsin. Bu derste veri akış şeması çizer, STRIDE ile tehditleri sayar, ajanlı sistemler için MAESTRO katmanlarını ve angajman kurallarını görürsün. Sonunda iç ekibe açık bir asistan için kendi kapsam notunu yazacaksın.

   7 etkinlik: Kısa yazım · Şema okuma · Sınıflandırma · Eşleştirme

2. 2
   OWASP LLM Top 10 haritası. Kilitli: önceki dersleri bitirince açılır12 dk · 55 XP

   Bir LLM bulgusunu OWASP LLM Top 10 maddelerine sürüm etiketiyle yerleştirmeyi, ajan bulgusunu ASI listesine ve bir test kimliğine bağlamayı öğrenirsin. On maddeyi ve sık karışan riskleri tanı. 2026 sürümündeki sıra değişikliğini ve ajanlara ayrılan listeyi incele. OWASP AI Testing Guide içindeki test kimliklerini de gör. Sonunda bir bulguyu sürüm etiketiyle doğru maddelere yerleştireceksin.

   7 etkinlik: Kısa yazım · Sınıflandırma · Eşleştirme · Çoktan seçmeli

3. 3
   MITRE ATLAS taktikleri. Kilitli: önceki dersleri bitirince açılır12 dk · 50 XP

   Bir yapay zekâ olayının adımlarını MITRE ATLAS taktik ve teknikleriyle eşleştir. Her adımı bir kayda bağla. Bu kanıtlardan bir tespit planı çıkar. Bu derste 16 taktiği, AML.TA ve AML.T kimliklerini, gerçek bir olay incelemesini ve ATLAS verisini betikle okumayı görürsün. Sonunda bir olay zincirini kimlikleriyle yazıp tespit planına bağlayacaksın.

   7 etkinlik: Kayıt tarama · Kısa yazım · Sınıflandırma · Çıktı tahmini

4. 4
   Bulgu raporu ve tekrarlanabilirlik. Kilitli: önceki dersleri bitirince açılır11 dk · 55 XP

   Olasılıklı bir LLM bulgusunu tekrar oranı ve güven aralığıyla ölçmeyi, etkiyi iş diliyle yazmayı ve kapatma kararını ölçüme dayandırmayı öğrenirsin. Bu derste tekrar oranını, Wilson aralığını, üçler kuralını, denemeleri kaydedip saymayı ve uygulanabilir düzeltme önerisi yazmayı görürsün. Sonunda yanıltıcı bir raporu düzeltip başka bir alanda etki metni yazacaksın.

   6 etkinlik: Terminal · Kısa yazım · Kod okuma · Sınıflandırma

5. Lab · Red Team Raporu. Kilitli: modülün derslerini bitirince açılır

   Bir bankanın yeni sohbet asistanı için yetkili red team çalışması aldın. Kapsam tek uygulama, süre bir gün.

   Menzil · isteğe bağlı

Ek lab: Taslak Raporun Denetimi. Laboratuvar sayfasında da listelenir, yol ilerlemesine sayılmaz.

1. 1
   Ajan neden farklı bir hedef. Kilitli: önceki dersleri bitirince açılır12 dk · 50 XP

   Ajan, modelin ürettiği metni gerçek araç çağrılarına çevirir; bu derste bir ajanın riskini araç listesinden okumayı öğrenirsin. Ajan döngüsünü, etki alanını, geri alınabilirliği ve güven sınırını öğrenirsin. Sonunda bir ajanın risk yüzeyini araç listesine bakarak çıkaracaksın.

   6 etkinlik: Kısa yazım · Şema okuma · Sınıflandırma · Çıktı tahmini

2. 2
   Araç istismarı ve yetki aşımı. Kilitli: önceki dersleri bitirince açılır11 dk · 60 XP

   Saldırgan ajanı kırmak için modeli değil araçlarını hedefler; yetkisiz çağrıyı, kaymış argümanı ve sızdırma zincirini bu derste tanırsın. Yetkisiz araç çağrısını, kaymış argümanı ve zararsız araçların zincirini kod ve günlük üstünde öğrenirsin. Sonunda araç çağrısı günlüğünde sızdırma zincirini bulup onu yakalayan deseni yazacaksın.

   6 etkinlik: Düzenli ifade · Kayıt tarama · Kod okuma · Çoklu seçim

3. 3
   Bellek ve durum zehirlenmesi. Kilitli: önceki dersleri bitirince açılır11 dk · 55 XP

   Ajan hatırlar ve hatırladığı şey zehirlenebilir; kalıcı enjeksiyonun belleğe nasıl girdiğini ve kökenin neden tutulduğunu bu derste görürsün. Kalıcı enjeksiyonun belleğe hangi yollardan yerleştiğini, oturumlar arasında nasıl yayıldığını ve kökenin neden kaydedildiğini öğrenirsin. Sonunda bellek kayıtları arasından zehirli olanları seçecek ve belleğe yazma kuralı kuracaksın.

   5 etkinlik: Kayıt tarama · Kısa yazım · Şema okuma · Çoktan seçmeli

4. 4
   Ajanı sınırlamak. Kilitli: önceki dersleri bitirince açılır12 dk · 60 XP

   Ajanı güvenli yapan şey daha iyi bir istem değil, daha dar bir çerçevedir; beş sınırı bu derste birlikte kurmayı öğrenirsin. En az yetki, onay kapısı, kum havuzu, geri alınabilirlik ve bütçe sınırını birlikte kurmayı öğrenirsin. Sonunda geri alınamaz bir eylemin güvenli akışını sıraya dizecek ve bir tasarımda her kararın hangi sınıra girdiğini bulacaksın.

   6 etkinlik: Kısa yazım · Sınıflandırma · Sıralama · Çoklu seçim

5. Lab · Ajan Olay İncelemesi. Kilitli: modülün derslerini bitirince açılır100 XP

   Altay Kargo'nun müşteri destek ajanı 23 Eylül öğleden sonra tuhaf davrandı. Bir müşteriye başkasının faturasını gösterdi, bir sunucu dosyasını okudu ve saatler sonra başka bir müşterinin iadesini onay sormadan başlattı.

   Kanıt dosyalı lab · isteğe bağlı

1. 1
   MCP nedir, neyi açar. Kilitli: önceki dersleri bitirince açılır13 dk · 52 XP

   Model bağlam protokolü modeli dış araçlara bağlayan kapıdır; bu derste istemci, sunucu ve model arasındaki iş bölümünü çözersin. Bir araç çağrısını altı adımda izler ve protokolün hangi güven varsayımlarına yaslandığını adım adım görürsün. Sonunda yetkinin nerede durduğunu ve kurulumun saldırı yüzeyini neyin belirlediğini söyleyebileceksin.

   6 etkinlik: Sınıflandırma · Çıktı tahmini · Sıralama · Boşluk doldurma

2. 2
   Kötü niyetli MCP sunucusu. Kilitli: önceki dersleri bitirince açılır12 dk · 56 XP

   Araç tanımı modele düz metin olarak gider, yani istem enjeksiyonu için hazır bir alandır; bu derste onu saldırganın gözüyle okursun. Açıklamaya gömülen emri, isim çakışmasını, araç gölgelemesini ve tanımın sonradan değişmesini tek tek göreceksin. Sonunda zararlı bir araç tanımını okuyup hangi satırın saldırı olduğunu işaretleyeceksin.

   6 etkinlik: Kayıt tarama · Kısa yazım · Kod okuma · Eşleştirme

3. 3
   Araç zinciri ve kombinasyon riski. Kilitli: önceki dersleri bitirince açılır11 dk · 56 XP

   Tek başına zararsız iki araç yan yana geldiğinde yeni bir kapı açar; bu derste okuma ile dış çıkış yetkisinin birleşmesini incelersin. Gizli veri erişimi, güvenilmez içerik ve dışarı çıkış kanalının aynı oturumda buluşmasının neden saldırıyı tamamladığını göreceksin. Sonunda bir araç setine bakıp hangi ikilinin tehlikeli olduğunu söyleyebileceksin.

   5 etkinlik: Komut zinciri · Kod çözme · Sınıflandırma · Çoklu seçim

4. 4
   MCP sunucusunu denetlemek. Kilitli: önceki dersleri bitirince açılır14 dk · 58 XP

   Bir MCP sunucusunu kurmadan önce dört soruya cevap verirsin; bu derste o dört adımı bir kurulum üzerinde sırayla uygularsın. Kaynak doğrulama, izin listesi, argüman şeması sıkılaştırma ve kayıt tutmayı adım adım kurar, bilinen açıkları tanırsın. Sonunda kendi denetim listeni bir kurulum üzerinde uygulayacaksın.

   7 etkinlik: Terminal · Düzenli ifade · Kod okuma · Sıralama

5. Lab · MCP Sunucu Denetimi. Kilitli: modülün derslerini bitirince açılır100 XP

   Altay Kargo, destek ekibine hız kazandırmak için iç destek asistanını iki MCP sunucusuna bağladı: kendi yazdıkları destek-mcp ve dışarıdan kurulan harici-arac-mcp. Bir hafta sonra bir müşterinin API anahtarı izinli olmayan bir adrese sızdı.

   Kanıt dosyalı lab · isteğe bağlı

1. 1
   Zehirli belge. Kilitli: önceki dersleri bitirince açılır12 dk · 54 XP

   Bilgi tabanına yazabilen herkesin modele dolaylı talimat verebildiğini, yükün belgede nereye saklandığını ve onu nasıl ayıklayacağını öğrenirsin. Bu derste zehirli belgenin nasıl yazıldığını ve neden gecikmeli patladığını göreceksin. Sonunda sıradan görünen bir destek yazısındaki yükü ayıklayabileceksin.

   6 etkinlik: Kayıt tarama · Kod okuma · Sınıflandırma · Tahmin

2. 2
   Geri getirmeyi kandırmak. Kilitli: önceki dersleri bitirince açılır12 dk · 56 XP

   Zehirli belgenin ancak aramada üst sıraya çıkınca çalıştığını, sıralamanın nasıl yönlendirildiğini ve bu adımı nasıl koruyacağını öğrenirsin. Bu derste o aramayı yönlendirme yollarını göreceksin: anahtar kelime doldurma ve gömme manipülasyonu. Sonunda bir belgenin neden en üstte çıktığını açıklayabileceksin.

   6 etkinlik: Şema okuma · Çıktı tahmini · Çoklu seçim · Boşluk doldurma

3. 3
   Yetki ve çok kiracılı RAG. Kilitli: önceki dersleri bitirince açılır12 dk · 56 XP

   Çok kiracılı bir RAG sisteminde yetki filtresinin neden aramadan önce çalıştığını, skor yan kanalını ve kiracı kimliğinin doğru kaynağını öğrenirsin. Bu derste yetki kontrolünün hangi adımda yapılması gerektiğini ve indeks sızıntısını göreceksin. Sonunda yanlış yerde yapılan bir filtrelemeyi kodda yakalayacaksın.

   6 etkinlik: HTTP isteği · Kod okuma · Sıralama · Çoktan seçmeli

4. 4
   RAG hattını sertleştirmek. Kilitli: önceki dersleri bitirince açılır13 dk · 60 XP

   Önceki derslerdeki saldırıları kesen beş savunma katmanını kodla kurmayı, her değişiklikte test etmeyi ve eksik katmanı bulmayı öğrenirsin. Kaynak güven düzeyi, alıntı zorunluluğu, içerik temizleme, parça sınırı ve denetim sırayla kurulacak. Sonunda bir RAG kurulumuna bakıp eksik katmanı söyleyebileceksin.

   7 etkinlik: Düzenli ifade · Komut zinciri · Diyalog · Sınıflandırma

5. Lab · RAG Sızıntı İncelemesi. Kilitli: modülün derslerini bitirince açılır100 XP

   Altay Kargo, iç wiki ve destek belgeleri üstüne bir RAG asistanı kurdu. Asistan destek, depo, finans ve müşteri iletişim ekiplerine hizmet veriyor; her belgenin bir sahip kiracısı ve erişim listesi var.

   Kanıt dosyalı lab · isteğe bağlı

Ek lab: Zehirli Wiki Parçası. Laboratuvar sayfasında da listelenir, yol ilerlemesine sayılmaz.

1. 1
   Model nereden geliyor. Kilitli: önceki dersleri bitirince açılır12 dk · 55 XP

   İndirdiğin modelin gerçekten beklediğin dosya olduğunu depo, sürüm, özet ve imza zinciriyle nasıl kanıtlayacağını öğrenirsin. Bu derste ağırlık dosyasını, depoyu, sürümü ve imzayı tek bir kimlik zincirine bağlayacaksın. Sonunda indirdiğin modelin gerçekten beklediğin model olduğunu kanıtlayabileceksin.

   7 etkinlik: Terminal · Sınıflandırma · Sıralama · Boşluk doldurma

2. 2
   Serileştirme ve yükleme riski. Kilitli: önceki dersleri bitirince açılır13 dk · 55 XP

   Bazı model biçimlerinin yükleme anında kod çalıştırdığını, dosyayı açmadan nasıl inceleyeceğini ve güvenli biçime nasıl geçeceğini öğrenirsin. Bu derste hangi biçimin ne kadar yetki istediğini ve güvenli biçimin neden güvenli olduğunu göreceksin. Sonunda bir dosyayı yüklemeden önce ne kontrol edeceğini bileceksin.

   7 etkinlik: Kod okuma · Sınıflandırma · Çıktı tahmini · Sıralama

3. 3
   Zehirlenmiş eğitim ve ince ayar. Kilitli: önceki dersleri bitirince açılır12 dk · 60 XP

   Eğitim verisine yazanın modelin davranışına da yazdığını, arka kapının nasıl gizlendiğini ve ince ayarın güvenliği nasıl aşındırdığını öğrenirsin. Bu derste veri zehirlemeyi, arka kapı tetikleyicisini ve ince ayarın savunmayı nasıl aşındırdığını göreceksin. Sonunda bir ince ayar sürecinde hangi kontrollerin şart olduğunu sayabileceksin.

   6 etkinlik: Sınıflandırma · Çıktı tahmini · Eşleştirme · Çoklu seçim

4. 4
   Bağımlılık ve eklenti yüzeyi. Kilitli: önceki dersleri bitirince açılır15 dk · 55 XP

   Bir yapay zekâ servisini saran kütüphane ve eklentilerin uygulamayla aynı yetkide çalıştığını, bu yüzeyi nasıl sabitleyip daraltacağını öğrenirsin. Bu derste sürüm sabitleme, kaynak doğrulama ve izin daraltmayı tek bir düzene bağlayacaksın. Sonunda bir yapay zekâ servisinin bağımlılık yüzeyini çıkarabileceksin.

   8 etkinlik: Terminal · Komut zinciri · Sınıflandırma · Tahmin

5. Lab · Model Tedarik Zinciri Denetimi. Kilitli: modülün derslerini bitirince açılır100 XP

   Altay Kargo'nun veri ekibi, destek biletlerini önceliklendiren bir sınıflandırma modelini dışarıdan indirdi ve kendi bilet arşiviyle ince ayar yaptı. Modeli üretime almadan önce tedarik zinciri denetimi isteniyor.

   Kanıt dosyalı lab · isteğe bağlı

1. 1
   Görselden gelen talimat. Kilitli: önceki dersleri bitirince açılır11 dk · 55 XP

   Görsele gömülü yazının modele metin olarak ulaşmasını, OCR yolunun nerede kırıldığını ve güven sınırını doğru yere çizmeyi öğrenirsin. Bu derste görsele gömülen talimatın nasıl emre dönüştüğünü, gizli yazının nasıl saklandığını ve tespitin nereden yapılacağını görürsün. Sonunda görsel işleyen bir ajanın güven sınırını doğru yere çizer ve OCR çıktısını denetlenebilir bir nesneye çevirirsin.

   5 etkinlik: Kod okuma · Diyalog · Sınıflandırma · Çoktan seçmeli

2. 2
   Ses ve belge kanalı. Kilitli: önceki dersleri bitirince açılır11 dk · 55 XP

   Ses girdisinin, PDF ve ofis dosyalarındaki gizli içeriğin ve dönüştürücü katmanının modele nasıl metin taşıdığını öğrenirsin. Bu derste ses girdisini, belgelerdeki görünmez metni ve dönüştürücü katmanını inceleyip her kanal için temizlik noktasını bulacaksın. Sonunda her kanal için nerede temizlik yapacağını bilir, çıkarılan metni kanal etiketiyle taşırsın.

   5 etkinlik: Sıralama · Çoklu seçim · Boşluk doldurma · Çoktan seçmeli

3. 3
   Çıktı kanalı üzerinden sızdırma. Kilitli: önceki dersleri bitirince açılır13 dk · 60 XP

   Markdown görseli, bağlantı, kod bloğu ve araç çıktısının bir yanıtı nasıl kaçak yoluna çevirdiğini adım adım öğrenirsin. Bu derste markdown görselinin, bağlantının ve kod bloğunun nasıl taşıma yoluna dönüştüğünü ve verinin nereye gittiğini göreceksin. Sonunda bir yanıtın hangi parçasının dış istek doğurduğunu ayırt eder ve o parçayı kapatan katmanı kurarsın.

   6 etkinlik: HTTP isteği · Düzenli ifade · Kod çözme · Sınıflandırma

4. 4
   Çok modlu girdiyi sertleştirmek. Kilitli: önceki dersleri bitirince açılır11 dk · 60 XP

   Kanal başına temizlik, güven düzeyi, çıktı süzme ve dış istek kısıtını tek bir savunma mimarisinde birleştirmeyi öğrenirsin. Bu derste kanal başına temizleme, güven düzeyi, çıktı filtreleme ve dış istek kısıtını tek mimariye bağlayacaksın. Sonunda çok modlu bir asistanın savunma planını baştan sona yazar ve gerilemeyi kanal bazında ölçersin.

   5 etkinlik: Şema okuma · Sınıflandırma · Çıktı tahmini · Sıralama

5. Lab · Kanal Kaçağı. Kilitli: modülün derslerini bitirince açılır100 XP

   Altay Kargo'nun çok modlu destek asistanı 24 Eylül sabahı görsel, ses ve belge girdilerini aynı oturumda işledi. Öğleye doğru asistan, normalde erişmemesi gereken bir müşterinin sipariş bilgisini dış bir adrese gönderdi.

   Kanıt dosyalı lab · isteğe bağlı

1. 1
   Neyi ölçüyoruz. Kilitli: önceki dersleri bitirince açılır12 dk · 55 XP

   Saldırı başarı oranını, yanlış pozitifi ve kısmi başarıyı ayrı ayrı hesaplar, tek sayının gizlediği riski raporda görünür kılarsın. Bu derste saldırı başarı oranını, yanlış pozitifi ve kısmi başarıyı ayrı ayrı tanıyacaksın. Sonunda bir raporu okuyup hangi sayının neyi gizlediğini söyleyeceksin.

   6 etkinlik: Şema okuma · Sınıflandırma · Çıktı tahmini · Tahmin

2. 2
   Değerlendirme seti kurmak. Kilitli: önceki dersleri bitirince açılır13 dk · 60 XP

   Saldırı ve zararsız örnekleri dengeli toplar, test setini kalıp ailesine göre ayırır, veri kaçağının sonucu nasıl şişirdiğini görürsün. Bu derste örnek toplamayı, sınıf dengesini ve ayrık test setini kuracaksın. Veri kaçağının sonuçları nasıl şişirdiğini örnek üstünde göreceksin.

   7 etkinlik: Kod okuma · Tahmin · Sıralama · Çoklu seçim

3. 3
   Otomatik hakem ve tuzakları. Kilitli: önceki dersleri bitirince açılır12 dk · 58 XP

   Hakem modelin talimatını dar etiketlerle yazar, önyargısını ve enjeksiyon riskini tanır, insan örneklemesiyle uyumunu ölçersin. Bu derste model hakemliğinin nasıl kurulduğunu ve nerede kendini kandırdığını öğreneceksin. İnsan denetiminin hangi noktalarda zorunlu kaldığını da göreceksin.

   6 etkinlik: Kısa yazım · Sınıflandırma · Çıktı tahmini · Tahmin

4. 4
   Sürekli kırmızı takım. Kilitli: önceki dersleri bitirince açılır13 dk · 56 XP

   Değerlendirme setini düzenli koşuya bağlar, gerilemeyi kalıcı test örnekleriyle yakalar, sürümleri aile bazında karşılaştırırsın. Bu derste düzenli koşuyu, gerileme takibini ve sürüm karşılaştırmasını kuracaksın. Bulunan açığın rapordan çıkıp ürüne dönmesini de ele alacaksın.

   7 etkinlik: Kayıt tarama · Çıktı tahmini · Tahmin · Sıralama

5. Lab · Hakemi Kandıran Yanıt. Kilitli: modülün derslerini bitirince açılır100 XP

   Altay Kargo'nun güvenlik ekibi destek asistanı için haftalık kırmızı takım koşusunu 22 Eylül'de tamamladı. Sonuçları otomatik bir hakem model etiketledi ve sürüm kapısı bu etiketlere bakarak yayına izin verdi.

   Kanıt dosyalı lab · isteğe bağlı

Ek lab: Sızan Test Seti. Laboratuvar sayfasında da listelenir, yol ilerlemesine sayılmaz.

1. 1
   Üretime çıkmadan önce. Kilitli: önceki dersleri bitirince açılır12 dk · 55 XP

   Bir LLM özelliğini canlıya almadan önce kapsamı, tehdit modelini, kontrol listesini ve yayın kapısını sırayla kurar, geri alma yolunu hazırlarsın. Bu derste kapsamı, tehdit modelini ve yayın kapısını kuracaksın. Kontrol listesini kimin doldurduğu ve kimin onayladığı da konunun parçası.

   6 etkinlik: Sınıflandırma · Sıralama · Çoklu seçim · Çoktan seçmeli

2. 2
   İzleme ve olay müdahalesi. Kilitli: önceki dersleri bitirince açılır12 dk · 58 XP

   Bir LLM olayında hangi alanları kaydedeceğini, alarmı hangi örüntüye kuracağını ve ilk dakikalarda hangi sırayla müdahale edeceğini öğrenirsin. Bu derste hangi olayın kaydedileceğini ve alarmın neye kurulacağını göreceksin. Bir enjeksiyon olayında ilk otuz dakikada ne yapacağını da adımlayacaksın.

   6 etkinlik: Kayıt tarama · Sıralama · Çoklu seçim · Çoktan seçmeli

3. 3
   KVKK ve kişisel veri. Kilitli: önceki dersleri bitirince açılır12 dk · 60 XP

   Kişisel veriye dokunan bir LLM akışında amacı, minimizasyonu, maskelemeyi, saklama süresini ve yurt dışı aktarımı mühendis gözüyle kurarsın. Bu derste modele giden veriyi, saklamayı, maskelemeyi ve aydınlatmayı genel ilkeler üzerinden göreceksin. Ders hukuki tavsiye değil, mühendislik refleksi kazandırır.

   6 etkinlik: Düzenli ifade · Sınıflandırma · Çoklu seçim · Çoktan seçmeli

4. 4
   Kurumsal kabul ve sorumluluk. Kilitli: önceki dersleri bitirince açılır12 dk · 58 XP

   Bir LLM ürününü kuruma alırken tedarikçiyi veri yolculuğu üzerinden sorgular, sözleşmeye denetim hakkını koyar, ağır kararda insan onayını kurarsın. Bu derste tedarikçi değerlendirmesini, sözleşmedeki güvenlik maddelerini ve sorumluluk sınırını göreceksin. Düzenleyicinin ne tür kanıt beklediğini de genel hatlarıyla ele alacaksın.

   6 etkinlik: Sınıflandırma · Sıralama · Çoklu seçim · Çoktan seçmeli

5. Lab · Kısıtlı Yayında İlk Olay. Kilitli: modülün derslerini bitirince açılır100 XP

   Altay Kargo, "otomatik iade onay" özelliğini 20 Eylül'de kullanıcıların yalnız yüzde onuna açtı. Bir hafta içinde bir olay yaşandı ve nöbetçi ekip olayı saatler sonra, otomatik alarmla değil elle fark etti.

   Kanıt dosyalı lab · isteğe bağlı

1. 1
   Ajan hedef kaçırma, araç ve kimlik istismarı. Kilitli: önceki dersleri bitirince açılır13 dk · 55 XP

   OWASP'ın ajan uygulamaları listesinin ilk üç riskini, gerçek olaylar ve çözümlü örneklerle hedef kaçırmadan kimlik istismarına kadar görürsün. Araç ve kimlik istismarının tekniğini a6 modülünde zaten işledin; burada onları resmî taksonomiye yerleştirirsin. Sonunda bir senaryoyu doğru risk kategorisine yerleştireceksin.

   7 etkinlik: Sınıflandırma · Eşleştirme · Çoktan seçmeli · Doğru/yanlış

2. 2
   Tedarik zinciri, kod yürütme ve bellek zehirlenmesi. Kilitli: önceki dersleri bitirince açılır12 dk · 58 XP

   Tedarik zinciri zafiyetini, ajanın ürettiği kodun güvenliğini ve bellek zehirlenmesini gerçek olaylar ve çözümlü örneklerle görürsün. Tek bir MCP sunucusunun zehirlenmesini a7 modülünde gördün; burada risk tüm tedarik zincirine genişler. Sonunda bir tedarik zinciri saldırısının ilerleyişini sıraya koyacaksın.

   6 etkinlik: Sınıflandırma · Sıralama · Çoktan seçmeli · Doğru/yanlış

3. 3
   Ajanlar arası iletişim ve zincirleme arızalar. Kilitli: önceki dersleri bitirince açılır12 dk · 56 XP

   Ajanlar arası iletişimin güven varsayımlarını ve küçük bir hatanın sisteme nasıl yayıldığını gerçek örneklerle göreceksin. MCP'nin istemci ile sunucu arasındaki iş bölümünü a7 modülünde gördün; burada risk ajandan ajana geçen mesajdadır. Sonunda bir riski kısa tanımıyla eşleştireceksin.

   6 etkinlik: Sınıflandırma · Eşleştirme · Çoktan seçmeli · Doğru/yanlış

4. 4
   İnsan-ajan güveni istismarı ve hain ajanlar. Kilitli: önceki dersleri bitirince açılır12 dk · 56 XP

   Kullanıcının ajana aşırı güveninin nasıl istismar edildiğini ve ele geçirilmiş bir ajanın meşru görünürken nasıl zarar verdiğini göreceksin. İki riskin ortak çaresi aynıdır: ajanın anlattığına değil, bağımsız kayda bakarsın. Sonunda yüksek etkili bir ajan eylemini doğrularken izleyeceğin sırayı kuracaksın.

   6 etkinlik: Sınıflandırma · Sıralama · Çoktan seçmeli · Doğru/yanlış

5. Lab · ASI Olay Sınıflandırması. Kilitli: modülün derslerini bitirince açılır100 XP

   Altay Kargo'nun çok ajanlı fiyatlama ve sevkiyat hattında 24 Eylül günü dört ayrı tuhaflık bildirildi. Güvenlik ekibi olarak bunları OWASP'ın ajan uygulamaları için ilk 10 listesindeki risk kodlarına bağlaman isteniyor.

   Kanıt dosyalı lab · isteğe bağlı

1. 1
   Ölçümü otomatikleştirmek. Kilitli: önceki dersleri bitirince açılır13 dk · 55 XP

   garak, PyRIT ve promptfoo'nun hangi katmanı sınadığını ayırır, üçüyle ilk otomatik koşunu kurar ve her soruya doğru aracı seçersin. Bu derste aynı ölçümü elle değil otomatik çalıştırmayı, üç açık kaynak aracın hangi soruya cevap verdiğini öğreneceksin. Sonunda bir senaryoda hangi aracın hangi işi gördüğünü ayırt edeceksin.

   6 etkinlik: Sınıflandırma · Eşleştirme · Boşluk doldurma · Çoktan seçmeli

2. 2
   Raporu doğru okumak. Kilitli: önceki dersleri bitirince açılır12 dk · 58 XP

   Otomatik tarama raporunu aile ve algılayıcı düzeyinde okur, araç gürültüsünü gerçek sinyalden ayırır, sıçramanın kaynağını taban çizgisiyle bulursun. Bu derste bu raporu nasıl okuyacağını, hangi satırın gerçek bir sinyal hangisinin araç gürültüsü olduğunu ayırt etmeyi öğreneceksin. Aracın kendi ayarlarının sonucu nasıl çarpıttığını da göreceksin.

   6 etkinlik: Kayıt tarama · Çıktı tahmini · Tahmin · Boşluk doldurma

3. 3
   CI hattına bağlamak. Kilitli: önceki dersleri bitirince açılır13 dk · 56 XP

   Değerlendirme koşusunu CI hattına eşikle bağlar, kararsız sonucu tekrarla sabitler, anahtarı gizli tutar ve kırmızı adımın nedenini okursun. Bu derste bir değerlendirme koşusunu CI hattına nasıl bağlayacağını, hangi ayarların otomasyonu kırılgan yaptığını öğreneceksin. Sonunda bir CI yapılandırmasındaki hatayı bulacaksın.

   6 etkinlik: Terminal · Kod okuma · Sıralama · Çoklu seçim

4. 4
   Sınırları bilmek. Kilitli: önceki dersleri bitirince açılır11 dk · 55 XP

   Açık prob listesinin neden kirlendiğini, kendi gizli setinin değerini ve araç sürümünün etkisini bilir, bir CI eşiğini gerekçesiyle savunursun. Bu derste açık kaynak araçların sınırlarını, herkesin bildiği bir prob listesinin nasıl değersizleştiğini ve otomasyonu insan gözden geçirmesiyle nasıl dengeleyeceğini öğreneceksin. Sonunda bir CI eşiğini gerekçesiyle savunacaksın.

   5 etkinlik: Kısa yazım · Çıktı tahmini · Çoklu seçim · Çoktan seçmeli

5. Lab · Otomatik Değerlendirme Raporu İncelemesi. Kilitli: modülün derslerini bitirince açılır100 XP

   Altay Kargo'nun destek asistanı destek-api için haftalık otomatik güvenlik ve kalite koşusu dün gece bitti. Sabah vardiyasında bu raporu okumakla görevlisin.

   Kanıt dosyalı lab · isteğe bağlı

1. 1
   AB Yapay Zeka Yasası: risk sınıfları ve takvim. Kilitli: önceki dersleri bitirince açılır12 dk · 55 XP

   AB Yapay Zeka Yasası sistemleri dört risk sınıfına ayırır; sınıfı kullanılan teknoloji değil, kararın kişiler üzerindeki etkisi belirler. Bu derste sınıfları, genel amaçlı modellerin ayrı yolunu ve Dijital Omnibus sonrası güncel takvimi göreceksin. Sonunda bir ürünü doğru sınıfa yerleştirip hangi tarihin onu bağladığını bulacaksın.

   6 etkinlik: Sınıflandırma · Sıralama · Çoktan seçmeli · Doğru/yanlış

2. 2
   AB Yasası yükümlülükleri: sağlamlık, şeffaflık, olay bildirimi. Kilitli: önceki dersleri bitirince açılır12 dk · 58 XP

   Yasanın sağlamlık, şeffaflık, kayıt ve olay bildirimi maddeleri birer mühendislik kontrolüne ve denetçiye gösterilecek bir kayda bağlanır. Madde 15, 50, 12, 19 ve 73'ü oku. Her maddenin uygulamada ne gerektirdiğini bir test, ekran veya süreç adımıyla göster. Sonunda bir olay türü için doğru bildirim süresini hesaplayacaksın.

   6 etkinlik: Tahmin · Eşleştirme · Çoklu seçim · Çoktan seçmeli

3. 3
   NIST AI RMF: Govern, Map, Measure, Manage. Kilitli: önceki dersleri bitirince açılır12 dk · 55 XP

   NIST AI RMF, yapay zekâ riskini Govern, Map, Measure ve Manage adlı dört fonksiyonla yöneten gönüllü bir çerçevedir ve yasa değildir. Bu derste fonksiyonları kategorilere, kategorileri de somut faaliyetlere ve kanıtlara bağlayacaksın. Sonunda bir kurumsal faaliyeti doğru fonksiyona yerleştireceksin.

   6 etkinlik: Sınıflandırma · Eşleştirme · Çoklu seçim · Çoktan seçmeli

4. 4
   ISO/IEC 42001: yapay zekâ yönetim sistemi. Kilitli: önceki dersleri bitirince açılır12 dk · 55 XP

   ISO/IEC 42001, kurumun yapay zekâ sistemlerini nasıl yönettiğini tarif eden ve sertifikalandırılabilen ilk uluslararası yönetim sistemi standardıdır. Bu derste standardın PDCA döngüsünü, Ek A kontrollerini ve sertifika sürecini göreceksin; AB Yasası ve NIST çerçevesinden farkını da çıkaracaksın. Sonunda üç çerçeveye tek bir kanıt klasöründen cevap vermeyi öğreneceksin.

   6 etkinlik: Sınıflandırma · Sıralama · Eşleştirme · Çoktan seçmeli

5. Lab · Uyum Dosyası İncelemesi. Kilitli: modülün derslerini bitirince açılır100 XP

   Altay Kargo, müşteri destek sohbet botunu bir GPAI sağlayıcısının modeliyle güçlendirmeyi planlıyor. Satın alma ekibi tedarikçiden bir uyum formu istedi, sen de iç değerlendirme notunu okuyacaksın.

   Kanıt dosyalı lab · isteğe bağlı