Yapay Zekâ Güvenliği Uzmanı Nasıl Olunur? Eğitim, AIGP ve AI Red Team Yolu

Yapay zekâ güvenliği uzmanı olmak için önce web, API ve yetki gibi klasik güvenlik temellerini, sonra dil modelinin nasıl çalıştığını, en son da bu sistemleri izinli ortamda kırıp raporlamayı öğrenirsin. Tek bir zorunlu diploma ya da sertifika yok. Bu yazı, yapay zekâ güvenliği eğitimi arayan biri için üç rolü, 12 aylık planı, ücretsiz kaynakları ve AIGP'nin yerini anlatıyor.

Yapay zekâ güvenliğinde hangi roller var?

Bu alanda üç rol öne çıkar. AI red teamer, yapay zekâ sistemine saldırarak açık arar. Uygulama güvenliği mühendisi, LLM kullanan ürünü tasarım aşamasında korur. Yönetişim uzmanı ise kurumun yapay zekâ riskini yönetir. İlk ikisi teknik, üçüncüsü mevzuat ve süreç ağırlıklıdır.

Hizalama (alignment) ve yapay zekâ emniyeti araştırması ayrı bir yoldur. Bu yol derin makine öğrenmesi bilgisi ve araştırma deneyimi ister. Güvenlik ile emniyet arasındaki farkı yapay zekâ güvenliği nedir yazısında bulabilirsin. Bu rehber güvenlik tarafına, yani sistemi kötüye kullanıma karşı korumaya odaklanır.

AI red teaming nedir, klasik kırmızı takımdan farkı ne?

AI red teaming, bir yapay zekâ sistemindeki kusur ve açıkları bulmak için onu saldırgan gözüyle sınayan yapılandırılmış test çalışmasıdır. NIST AI 600-1, bu kusurlar arasında hatalı, zararlı ya da ayrımcı çıktıları da sayar. Test çoğu zaman kontrollü bir ortamda ve sistemi geliştiren ekiple birlikte yapılır.

Microsoft'un 2018'de kurduğu yapay zekâ kırmızı takımının anlatımında iki fark öne çıkar. Birincisi, üretken yapay zekâ olasılıksaldır. Aynı istem her denemede farklı cevap verebilir, bu yüzden tek deneme yetmez. İkincisi, AI red teaming hem güvenlik açıklarını hem de sorumlu yapay zekâ zararlarını kapsayan bir şemsiye terim haline geldi.

Microsoft ekibi, 100'den fazla üretken yapay zekâ ürününü test ettikten sonra Ocak 2025'te sekiz ders yayımladı. Bunlardan üçü yeni başlayana yol gösterir. Önce sistemin ne yapabildiğini ve nerede kullanıldığını anla. Bir sistemi kırmak için gradyan hesaplaman gerekmez. AI red teaming, hazır bir emniyet ölçüm setini (benchmark) çalıştırıp puan almakla aynı şey değildir.

Başlamak için hangi temel bilgiler gerekir?

Önce klasik güvenlik temeli gerekir. LLM kullanan bir uygulamadaki açık çoğu zaman bir API çağrısında, bir yetki kontrolünde ya da bir veri akışında sonuç doğurur. Microsoft'un aynı çalışmasındaki bir ders de bunu söyler: dil modelleri eski güvenlik risklerini büyütür ve yenilerini ekler.

• Web ve API: HTTP isteği, oturum, kimlik doğrulama ve yetki. Modelin çağırdığı her araç aslında bir API'dir.
• Python: Bir API'ye istek atmak, gelen JSON'u işlemek, küçük test betikleri yazmak.
• Tehdit modelleme: Veri nereden geliyor, model neye erişebiliyor, çıktı nereye gidiyor?
• Modelin içi: Jeton, bağlam penceresi, sistem istemi, RAG ve araç çağırma. Prompt injection, modelin talimatı veriden kesin bir çizgiyle ayıramamasından doğar.
• İngilizce okuma: OWASP, NIST ve MITRE kaynaklarının birincil sürümleri İngilizcedir.

Klasik sızma testi temelini hiç görmediysen pentester yol haritası iyi bir ön adımdır. İki yolu paralel de yürütebilirsin.

Yapay zekâ güvenliği eğitimi için 12 aylık yol haritası

Aşağıdaki plan, haftada 8-10 saat ayırabilen ve temel bilgisayar bilgisi olan biri için yazıldı. Her aşamanın sonunda elinde gösterebileceğin bir çıktı olur.

0-3 ay: Temel ve modelin içi

1. HTTP, API ve yetki konularını çalış. Python ile bir API'ye istek atıp yanıtı işle.
2. Bir dil modelinin bağlamı nasıl kurduğunu, RAG'in ve araç çağırmanın nasıl çalıştığını öğren.
3. OWASP LLM Top 10 Türkçe rehberindeki on maddeyi ve 2025 sürümünden farkları oku. 2025 kodlarıyla prompt injection (LLM01), hassas bilgi ifşası (LLM02) ve aşırı yetki (LLM06) ile başla.
4. İlk denemelerini oyunlarda yap. Yapay zekâyı kandırma oyunları arasında Türkçe oynanan Bekçi de var.

Çıktı: Her OWASP maddesi için kendi cümlelerinle yarım sayfalık not.

3-6 ay: Metodoloji ve otomasyon

1. MITRE ATLAS ile ortak dili öğren. ATLAS, yapay zekâ sistemlerini hedef alan saldırgan taktik ve tekniklerinin açık bilgi tabanıdır.
2. Microsoft'un AI Red Teaming 101 serisini izle. Doğrudan ve dolaylı enjeksiyon, Crescendo gibi çok turlu saldırılar ve spotlighting savunması bu seride anlatılır.
3. Kendi bilgisayarında, yerel bir modelle çalışan küçük bir RAG ya da ajan uygulaması kur. İçine bilerek açık bırak. Ajana güvenlik aracı bağlamanın riskini HexStrike AI yazısında anlattık.
4. Bu uygulamayı garak, promptfoo ya da PyRIT ile tara. Aracın bulduğu her sorunu elle tekrar ederek doğrula. Araç yanlış alarm da üretir.

Çıktı: Kapsam, yöntem, bulgu, etki ve öneri bölümleri olan tekrarlanabilir bir red team raporu. Rapor iskeletini Red Team Raporu labında çalışabilirsin.

6-12 ay: Uzmanlaşma ve görünürlük

1. Üç rolden birini seç: saldırı, savunma ya da yönetişim.
2. Savunma tarafında bir guardrail kur ve iki şeyi ölç: kaçırdığı saldırıyı ve gereksiz yere engellediği zararsız isteği.
3. Yönetişimi seçtiysen NIST AI RMF'nin dört işlevini (Govern, Map, Measure, Manage) ve AI 600-1'i oku, AIGP'ye hazırlan.
4. Yapay zekâ ürünlerini kapsayan bug bounty programlarının kurallarını oku. Kapsamı anlamadan test etme.
5. Açık kaynak bir test aracına katkı ver ya da Türkçe saldırı istemlerinden küçük bir test seti hazırla.

Çıktı: GitHub'da iki üç yazılı çalışma ve bunlara dayanan bir CV.

Yapay zekâ güvenliği eğitimi nereden alınır?

Planın büyük kısmını ücretsiz kaynaklarla tamamlayabilirsin. Para çoğunlukla sertifika sınavında ve bazı platform aboneliklerinde harcanır. Aşağıdaki kaynakları Ekim 2026'da kontrol ettik.

HTB'nin yolu Google ile birlikte hazırlandı ve Google'ın SAIF çerçevesiyle hizalı. Zorluk etiketi "Hard", bu yüzden ilk üç ayı bitirmeden başlama.

Türkçe aramada çıkan programların bir kısmı "yapay zekâ ile siber güvenlik" anlatır: yapay zekâyı SOC'ta tehdit tespiti ve alarm önceliklendirme için kullanmak. Bu da işe yarar, ama başka bir beceridir. Programın içeriğinde prompt injection, RAG, ajan güvenliği ve OWASP LLM Top 10 geçmiyorsa yapay zekâ sistemlerini korumayı öğretmiyordur.

AIGP sertifikası nedir, kimin işine yarar?

AIGP (Artificial Intelligence Governance Professional), IAPP'nin yapay zekâ yönetişimi sertifikasıdır. Teknik bir sınav değildir, prompt injection testi ölçmez. Yönetişimin temellerini, yasa ve çerçevelerin yapay zekâya uygulanmasını, geliştirme ve kullanım aşamasının yönetişimini sorar.

AIGP, hukuk, uyum, KVKK, risk ve ürün yönetimi tarafında çalışan ya da bu tarafa geçmek isteyen kişiye uygundur. Hedefin AI red teamer olmaksa AIGP öncelik değildir. O zamanı rapor yazmaya ve laba ayır. Dört sınav alanını Türkçe sorularla çalışmak için AIGP hazırlık sayfasına bak.

Güvenlik yöneticisi deneyimin varsa ISACA'nın AAISM sertifikası diğer seçenektir. Aday olmak için geçerli bir CISM ya da CISSP gerekir. Ekim 2026'da sınav ücreti ISACA üyesine 459, üye olmayana 599 USD.

Türkiye'de yönetişim işinin kişisel veri ayağında dayanak 6698 sayılı Kişisel Verilerin Korunması Kanunu'dur. Kişisel Verileri Koruma Kurumu, Kasım 2025'te Üretken Yapay Zekâ ve Kişisel Verilerin Korunması Rehberi (15 Soruda) belgesini yayımladı. AB pazarına ürün sunan şirketler AB Yapay Zekâ Yasası'nı da takip eder.

Portfolyonda neler olmalı?

Ne yapabildiğini işverene en net gösteren şey yazılı çalışmadır. Dört parça iyi bir başlangıçtır:

1. Bir red team raporu: Kendi kurduğun açık uygulamaya karşı, kapsamı ve tekrar adımlarıyla.
2. Bir tarama yorumu: garak ya da promptfoo çıktısı ve hangi bulgunun gerçek, hangisinin yanlış alarm olduğunu ayırdığın not.
3. Bir savunma: Guardrail ya da en az yetki tasarımı ve ölçtüğün yanlış pozitif oranı.
4. Bir çözüm yazısı: Bir oyunda ya da CTF'te çözdüğün yapay zekâ görevini anlat. Cevabı değil, düşünme yolunu yaz.

Gerçek bir şirketin sisteminde bulduğun açığı, program izin vermedikçe yayımlama. Bu parçaları CV'de nasıl sunacağını siber güvenlik CV ve portfolyo rehberi anlatıyor.

Türkiye'de yapay zekâ güvenliği maaşı ve iş durumu nasıl?

Türkiye'de AI red teamer ya da yapay zekâ güvenlik mühendisi için kamuya açık, güvenilir bir maaş verisi bulamadık. Bu yüzden rakam vermiyoruz.

İlan ararken unvana değil görev tanımına bak. "AI security engineer", "AI red team", "LLM security" ve "AI governance" gibi İngilizce başlıkları da tara. Bazı şirketlerde bu iş ayrı bir unvan yerine uygulama güvenliği ekibinin görevleri arasında yer alabilir. Genel tablo için siber güvenlik maaşları 2026 yazısına bak.

Yasal sınır nerede başlar?

Yapay zekâya yazdığın saldırı istemi de bir test girdisidir, izin kuralı değişmez. Kendi kurduğun uygulamada, eğitim lablarında ve oyunlarda serbestçe dene. Gerçek bir şirketin ürününü yalnız yazılı izinle ya da bir bug bounty programının kapsamında test et.

Kapsamın ayrıntısı önemlidir. Microsoft Copilot Bounty programı Ekim 2026 itibarıyla 100 ile 30.000 USD arasında ödül veriyor. Aynı program, yalnız saldırganın kendisini etkileyen prompt injection denemelerini kapsam dışı sayıyor. Yani modeli kendi oturumunda kandırmak tek başına bulgu değildir. Saldırının başka kullanıcılar üzerinde güvenlik etkisi olduğunu göstermen gerekir.

İzinsiz erişimin Türkiye'deki hukuki sonuçları için hacking yasal mı yazısını oku.

Kaynaklar

• NIST AI 600-1: Generative AI Profile (Temmuz 2024)
• Microsoft: Lessons From Red Teaming 100 Generative AI Products (Ocak 2025)
• OWASP GenAI: Top 10 for LLM Applications 2025
• IAPP: AIGP sınavı ve ücreti
• Microsoft: Copilot Bounty programı ve kapsamı