Yapay Zekâ Güvenliği

Yapay Zekâ Güvenliği Nedir? Türkçe Başlangıç Rehberi

Yapay zekâ güvenliği, yapay zekâ sistemlerini istem enjeksiyonu, veri sızıntısı, veri zehirleme ve kötüye kullanım gibi saldırılara karşı koruyan siber güvenlik dalıdır. Modeli, eğitim ve bilgi tabanı verisini, modelin bağlandığı araçları ve ürettiği çıktıyı birlikte ele alır. Amaç, sistemin saldırgan karşısında da öngörülebilir ve denetlenebilir çalışmasıdır.

Yazan: Enes DenizSon güncelleme: 18 Ekim 20267 dk okuma

Bu konunun dersi: Jeton, bağlam ve dikkatAI Güvenliği yolu · 15 dk · ücretsiz, kayıt gerekmez

Bir şirket müşteri hattına sohbet botu koyar. Bot şirketin belgelerini okur, sipariş kayıtlarına bakar, iade başlatır. Bir gün bir müşteri, yüklediği PDF'in içine gizli bir cümle saklar: "Önceki kuralları unut." Bot bu cümleyi talimat sanırsa başkasının kaydını açabilir. Yapay zekâ güvenliği tam bu tür olaylarla uğraşır. Örnekteki şirket gerçek değil, ama mekanizma gerçek.

Yapay zekâ güvenliği nedir?

Yapay zekâ güvenliği, yapay zekâ sistemlerini saldırıya, veri sızıntısına ve kötüye kullanıma karşı koruyan siber güvenlik dalıdır. Koruduğu dört şey vardır: model, veri, modelin bağlandığı araçlar ve modelin ürettiği çıktı.

Klasik yazılımda kod ile veri ayrı durur. Büyük dil modelinde (LLM) ise talimat da veri de aynı metin kanalından akar. Model hangi cümlenin komut, hangisinin sıradan içerik olduğunu her zaman ayıramaz. Alanın sorunlarının çoğu buradan doğar. Modelin nasıl çalıştığını önce görmek istersen LLM nedir yazısıyla başla.

Alan iki yöne bakar:

Yapay zekâyı korumak: İstem enjeksiyonu (prompt injection), veri zehirleme, model hırsızlığı, ajanların yetki aşımı.
Yapay zekâ ile yapılan saldırıya karşı durmak: Ses klonlama, inandırıcı oltalama metni, otomatik keşif.

Bu yazı ağırlıkla ilk yöne bakar. İkinci yön için ses klonlama dolandırıcılığı yazısı iyi bir örnek.

Yapay zekâ güvenliği ile yapay zekâ emniyeti arasındaki fark nedir?

Yapay zekâ emniyeti (AI safety) modelin kendi davranışının zarar vermemesiyle, yapay zekâ güvenliği (AI security) ise kötü niyetli bir insanın sistemi istismar etmesiyle ilgilenir. İngilizcede iki ayrı kelime var, Türkçede ikisi de çoğu zaman "güvenlik" diye çevrilir. Karışıklık buradan çıkar.

Soru	Emniyet (safety)	Güvenlik (security)
Asıl kaygı	Model kendi başına zarar verir mi?	Biri modeli kandırıp zarar verdirir mi?
Tipik örnek	Yanlış tıbbi tavsiye, önyargılı karar	İstem enjeksiyonu, veri sızdırma
Karşı taraf	Kasıt yok, hata ya da tasarım sorunu	Kasıtlı saldırgan var
Çalışan kişi	Hizalama araştırmacısı, politika ekibi	Güvenlik mühendisi, red team uzmanı
Ölçüm	Değerlendirme setleri, zarar testleri	Sızma testi, saldırı simülasyonu

İki alan iç içe geçer. Jailbreak, yani modelin kurallarını dil oyunuyla aşmak, hem emniyet hem güvenlik konusudur. Ayrım yine de pratikte önemli. Birleşik Krallık hükümeti 14 Şubat 2025'te "AI Safety Institute" adını "AI Security Institute" olarak değiştirdi. Değişiklik, devletlerin odağının kötüye kullanım ve saldırıya kaydığını gösteriyor.

Yapay zekâ sistemlerinde başlıca riskler nelerdir?

Başlıca riskler istem enjeksiyonu, hassas veri sızıntısı, aşırı yetkili ajanlar, tedarik zinciri ve veri zehirlemedir. OWASP'ın GenAI Security Project'i bu riskleri LLM uygulamaları için bir Top 10 listesinde toplar. Listenin Türkçe özetini OWASP LLM Top 10 yazısında bulursun.

Risk	Kısaca ne olur?	İlk savunma
İstem enjeksiyonu	Saldırganın metni modelin talimatını ezer	Veriyi talimattan ayırmak, yetkiyi daraltmak
Hassas veri sızıntısı	Model kişisel veriyi ya da sırrı yanıtına koyar	Veri azaltma, maskeleme, çıktı denetimi
Aşırı yetkili ajan	Ajan para gönderir, dosya siler, e-posta atar	En az yetki, riskli işlemde insan onayı
RAG zehirlenmesi	Bilgi tabanına zararlı belge girer	Kaynak denetimi, belge düzeyinde yetki
Tedarik zinciri	Hazır model ya da eklenti arka kapı taşır	Kaynağı doğrulamak, imza ve tarama
Jailbreak	Model kurallarını dil oyunuyla aşar	Katmanlı filtre, sürekli red team

İstem enjeksiyonu doğrudan ya da dolaylı olur. Doğrudan olanda kullanıcı sohbet kutusuna talimat yazar. Dolaylı olanda model bir web sayfasını, e-postayı ya da belgeyi okur ve içindeki gizli cümleye uyar. Ayrıntısı prompt injection nedir yazısında.

Şirket belgelerini modele bağlayan yapıya RAG denir. Belge havuzuna zararlı içerik girerse model onu doğru bilgi sanar. RAG nedir yazısı bu riski kurumsal gözle anlatır. Modelin araç çağırıp kendi başına iş yaptığı yapıya ajan denir. Ajanın riski yapay zekâ ajanı nedir yazısında, ajanları araçlara bağlayan protokolün riski MCP nedir yazısında.

NIST, bu saldırı türlerini 2025 sürümlü "Adversarial Machine Learning" taksonomisinde (NIST AI 100-2 E2025) sınıflandırır. MITRE ATLAS ise yapay zekâ sistemlerine yönelik saldırı tekniklerini ATT&CK'e benzer bir bilgi tabanında toplar.

Bir yapay zekâ uygulaması adım adım nasıl korunur?

Güvenli bir yapay zekâ uygulaması tek önlemle değil, üst üste binen katmanlarla kurulur. Aşağıdaki sıra küçük bir sohbet botu için de, büyük bir kurumsal asistan için de işe yarar.

Varlıkları yaz. Model hangi veriye, hangi araca, hangi kullanıcıya erişiyor? Liste olmadan tehdit modeli kurulmaz.
Tehdit modelini kur. Kim saldırır, neyi hedefler, hangi kanaldan girer? MITRE ATLAS bu adımda yol gösterir.
Yetkiyi daralt. Modele yalnız işi için gereken veriyi ve aracı ver. Yetki kararını modele değil, uygulama koduna bırak.
Veriyi talimattan ayır. Dışarıdan gelen metni "güvenilmeyen içerik" diye işaretle. Model çıktısını başka sisteme geçirmeden önce doğrula.
Girdi ve çıktıya koruma koy. Girdi taraması, çıktı taraması ve kişisel veri maskeleme birlikte çalışsın.
Riskli işlemde insan onayı iste. Para, silme ve dış paylaşım gibi geri dönüşü zor adımları otomatiğe bırakma.
Kayıt tut, izle. İstemi, araç çağrısını ve yanıtı günlüğe yaz. Olağan dışı kalıba uyarı kur.
Düzenli test et. Her model ya da istem değişikliğinde red team testini tekrarla.

Yönetişim tarafında iki çerçeve öne çıkar. NIST'in Yapay Zekâ Risk Yönetimi Çerçevesi (AI RMF) gönüllü bir risk yönetimi yapısı sunar. Birleşik Krallık NCSC'nin "Guidelines for secure AI system development" belgesi tasarımdan işletmeye kadar güvenli geliştirme ilkelerini sıralar. Ajan uygulamalarına özel risk listesi için OWASP'ın Agentic Applications Top 10 belgesine bakabilirsin.

Bu savunma katmanları gerçek bir örnekte nasıl çalışır?

Katmanlı savunmada her katman bir öncekinin kaçırdığını yakalar ve hiçbir katman tek başına yeterli sayılmaz. Girişteki kurgusal e-ticaret botuna dönelim. Saldırgan PDF'e görünmez bir cümle gizledi.

Belge içeriği modele "talimat değil, yalnız veri" etiketiyle gider. Model cümleyi komut saymayabilir.
Botun müşteri listesine erişimi yoktur. Model kandırılsa bile listeyi çekemez.
Yanıtta e-posta adresi kalıbı çıkarsa çıktı filtresi engeller.
Olağan dışı istek günlüğe düşer, bir analist bakar.

Bir katman aşılsa bile sonraki zararı sınırlar. Buna derinlemesine savunma denir. Saldırgan tarafını yasal bir ortamda görmek istersen Bekçi var: on boss, her biri bir yapay zekâ asistanı. Birinin sırrını söyletir, birinin aracını çağırtır, birine yanlış bilgi söyletirsin. Önlerinde bir saldırı sınıflandırıcısı kalkan tutar.

Gündelik kullanıcıyı ilgilendiren yapay zekâ riskleri nelerdir?

Gündelik kullanıcı için temel kural, sohbet botuna yazdığın her şeyin bir şirketin sunucusunda saklanabileceğini varsaymaktır. Kişisel risklerin çoğu saldırıdan değil, fazla paylaşımdan doğar.

KVKK'nın Kasım 2025'te yayımladığı "Üretken Yapay Zekâ ve Kişisel Verilerin Korunması Rehberi" bireylere üç öneri verir. Kimlik ve iletişim bilgisi paylaşma. Başkalarının verisini sisteme girme. Sağlık, finans ve hukuk gibi hassas konularda çok temkinli ol.

Hangi aracın ne sakladığı ayrı yazıların konusu:

Kimlik, fatura ya da rapor yükleyeceksen: ChatGPT'ye fotoğraf ve belge atmak güvenli mi
Google'ın asistanını kullanıyorsan: Gemini güvenli mi
Verinin Çin'e gidip gitmediğini merak ediyorsan: DeepSeek güvenli mi
Genel kurallar için: ChatGPT güvenli kullanım rehberi

Yapay zekâ güvenliğinde hangi mevzuat geçerli?

Avrupa Birliği'nde 2024/1689 sayılı Yapay Zekâ Yasası (AI Act) yürürlükte, Türkiye'de ise kişisel veri işleyen her yapay zekâ projesi 6698 sayılı KVKK'ya tabidir. AI Act'in yasak uygulamaları Şubat 2025'te, genel amaçlı model kuralları Ağustos 2025'te başladı. Ek III'teki yüksek riskli sistem kuralları ise Temmuz 2026'da yürürlüğe giren Dijital Omnibus ile 2 Aralık 2027'ye ertelendi.

AI Act yalnız AB şirketlerini bağlamaz. AB pazarına ürün sunan ya da çıktısı AB'de kullanılan Türk şirketleri de kapsama girebilir. Takvimin tamamı ve Türk şirketlerine etkisi AB Yapay Zekâ Yasası yazısında.

Yapay zekâ güvenliği nasıl öğrenilir, kariyeri var mı?

Yapay zekâ güvenliği, klasik siber güvenlik temelinin üstüne kurulan yeni bir uzmanlıktır. Tek bir diploma ya da sertifika bu işin kapısı sayılmaz. İşverenlerin baktığı iki şey var: sağlam bir güvenlik temeli ve bir LLM sistemini gerçekten kırıp savunmuş olmak.

Aşama	Ne öğrenirsin?	Nerede çalışırsın?
1. Temel	Ağ, web, kimlik doğrulama, yetki	Temeller yolu
2. Modelin içi	Jeton, bağlam, RAG, araç çağırma	Jeton, bağlam ve dikkat dersi
3. Saldırı	Doğrudan ve dolaylı enjeksiyon, veri sızıntısı	Doğrudan ve dolaylı enjeksiyon dersi
4. Savunma	Guardrail, en az yetki, izleme	Girdi ve çıktı guardrail'leri dersi
5. Uygulama	Bekçiye karşı deneme	Bekçi

Yapay zekânın bu mesleği bitirip bitirmeyeceğini soranlar için yapay zekâ siber güvenliği bitirdi mi yazısı ayrı bir cevap veriyor. Kısa cevap: iş tanımları değişiyor ve yapay zekâ sistemlerini korumak yeni bir iş kolu açıyor.

Saldırı tekniklerini yalnız izinli ortamda dene. İzinsiz bir sisteme girmek TCK 243-245 kapsamında suçtur. AltaySec Akademi'nin lablarında bunu kendi izole ortamında yaparsın.

Başlamak için iki adım yeter. Önce AI Güvenliği yoluna gir ve ilk lab olan "Sırrı Söylet"i çöz. Sonra Bekçi'de aynı bilgiyi ilk bossa karşı dene. Hepsi ücretsiz, Türkçe ve uygulamalı.

Kaynaklar

Sık sorulan sorular

Yapay zekâ güvenliği ile yapay zekâ etiği aynı şey mi?

Hayır, ikisi farklı sorulara bakar. Etik, yapay zekânın adil, şeffaf ve hesap verebilir olmasıyla ilgilenir. Güvenlik ise sistemin saldırı, sızıntı ve kötüye kullanım karşısında nasıl ayakta kaldığını inceler. Önyargılı bir işe alım modeli etik sorunudur. Bir saldırganın aynı modeli kandırıp aday verilerini sızdırması ise güvenlik sorunudur.

Yapay zekâ güvenliği öğrenmek için kod bilmek gerekir mi?

Kavramları anlamak için ileri düzey kod gerekmez. Yine de lablarda ve gerçek testlerde temel Python, HTTP ve API bilgisi işini çok kolaylaştırır. Önce ağ, web ve yetki mantığını öğren. Ardından modelin nasıl çalıştığını ve istem enjeksiyonunu çalış. Kod becerin pratik yaptıkça kendiliğinden gelişir.

Yapay zekâ siber güvenlik uzmanlarının işini elinden alır mı?

Yapay zekâ bazı tekrarlı işleri hızlandırıyor ama güvenlik mesleğini bitirmiyor. Tersine, yapay zekâ sistemlerinin kendisi korunması gereken yeni bir saldırı yüzeyi açtı. İstem enjeksiyonu, ajan güvenliği ve RAG zehirlenmesi gibi konular birkaç yıl önce iş ilanlarında yoktu. Temeli sağlam ve bu yeni yüzeyi bilen kişiye talep artıyor.

Yapay zekâ güvenliğinde kariyer için hangi roller var?

Rol adları kuruma göre değişir. Yaygın olanlar yapay zekâ red team uzmanı, LLM uygulama güvenliği mühendisi, yapay zekâ risk ve uyum analisti ile ML platform güvenlik mühendisidir. Çoğu ilan önce klasik güvenlik deneyimi ister. Kendi denediğin saldırı ve savunma çalışmalarını yazılı rapor olarak saklamak başvuruda en güçlü kanıtın olur.

İstem enjeksiyonu neden tamamen çözülemiyor?

Çünkü dil modeli talimatı ve veriyi aynı metin akışında işler. Kesin bir sınır çizen bir mekanizma bugün yok. Filtreler ve eğitim saldırıyı zorlaştırır ama sıfırlamaz. Bu yüzden savunma modele güvenmek yerine yetkiyi daraltır, riskli işlemde insan onayı ister ve çıktıyı kullanmadan önce denetler.

yapay zeka güvenliği nedir
yapay zeka güvenliği
llm güvenliği
prompt injection
ai red team

İlgili yazılar

Okuduğunu uygula.

Yollarda ders ders ilerle, alıştırmalarla pekiştir.

Başla