Yapay Zekayı Kandırma Oyunları: Gandalf ve Türkçe Bekçi

Yapay zekayı kandırmak, bir sohbet botuna geliştiricisinin yasakladığı şeyi yaptırmak demektir: gizli şifreyi söyletmek, kuralını çiğnetmek ya da aracını yanlış çağırtmak. Bunu yasal yoldan denemenin en kolay yolu, tam da bu iş için kurulmuş oyunlardır. Bu yazıda Türkçe oynanan Bekçi dahil altı oyunu karşılaştırıyor, Gandalf'a ne olduğunu ve hangisiyle başlayacağını anlatıyoruz.

Yapay zekayı kandırmak ne demek?

Yapay zekayı kandırmak, modelin talimatlarını senin yazdığın metinle geçersiz kılmaktır. Güvenlik dünyası buna prompt injection der. OWASP, büyük dil modeli uygulamaları için hazırladığı listede bu riski LLM01 koduyla ilk sıraya koyar. Ağustos 2026'da yayımlanan güncel sürümde de prompt injection birinci sırada. Tanımı kısadır: kullanıcının girdisi modelin davranışını ya da çıktısını istenmeyen biçimde değiştirir.

Oyunlarda en sık karşılaşacağın üç hedef şunlar:

• Sır söyletmek. Modelin gizli talimatına gömülmüş bir şifreyi ya da adresi dışarı çıkarırsın. OWASP bunu LLM07:2025, sistem istemi sızıntısı olarak ayrıca yazar ve net bir uyarı yapar: sistem istemi sır sayılmamalı, içine parola konmamalı.
• Kural çiğnetmek. Modelin güvenlik kurallarını tümden bıraktırmaya jailbreak denir. OWASP'a göre jailbreak, prompt injection'ın bir türüdür.
• Aracı yanlış kullandırmak. E-posta okuyan ya da takvime yazan bir ajanı, okuduğu metindeki gizli bir emirle başka bir işe yönlendirirsin. Buna dolaylı prompt injection denir.

Kavramın temelini prompt injection nedir yazısında, ikna tekniklerinin mantığını jailbreak yazısında bulabilirsin.

Görüntü tanıyan modeller de kandırılabilir. 2013'te yayımlanan bir çalışma, gözle fark edilmeyen küçük bir değişikliğin sinir ağına resmi yanlış sınıflandırttığını gösterdi. Bu yazıdaki oyunlar ise dil modellerine odaklanır.

Yapay zekâ neden bu kadar kolay kandırılıyor?

Dil modeli, geliştiricinin talimatını ve senin yazdığın metni aynı akışta, düz metin olarak okur. Hangisinin emir, hangisinin veri olduğunu kesin bir çizgiyle ayıramaz. Yardımsever olmaya eğitildiği için inandırıcı bir hikâyeye de kolay uyar. Aynı zaaf yalnız sohbet kutusunda değil, modelin okuduğu web sayfasında, e-postada ve belgede de çalışır. OWASP da prompt injection'ı kesin olarak önleyen bir yöntem olup olmadığının belirsiz olduğunu yazar. Bu yüzden savunma tek bir filtreye değil, katmanlara dayanır.

Yapay zekayı kandırma oyunları hangileri?

"Yapay zeka hack oyunu" diye aradığında karşına çıkan seçeneklerden tarayıcıda oynanan başlıca altısı aşağıda. Hepsini Ekim 2026'da aynı gün kontrol ettik. Dil, giriş şartı ve öğrettiği risk, hangisinden başlayacağını belirler.

Kısa notlar:

• Agent Breaker: Uygulamaları istediğin sırayla, zorlaşan seviyelerde kırarsın. Her deneme 0 ile 100 arasında puan alır. 75 ve üstü, o uygulamanın sonraki seviyesini açar.
• HackAPrompt: Ödüllü bir yapay zekâ kırmızı takım platformu. Yeni başlayanlar için bir eğitim parkuru var. İlk yarışmanın makalesine göre üç modele karşı 600 binden fazla saldırı istemi toplandı.
• Tensor Trust: UC Berkeley araştırmacılarının açık kaynak deneyi. Hem saldırır hem savunursun: kendi hesabını bir şifre ve savunma istemiyle korur, başkalarınınkine "access granted" dedirtmeye çalışırsın. Sitenin telif notu 2023 tarihli ama Ekim 2026'da hâlâ açık.
• Prompt Airlines: Bir havayolunun müşteri hizmetleri botundan bedava bilet koparmaya çalışırsın. Bilet de havayolu da kurgu.
• PortSwigger: Ücretsiz Web Security Academy'nin parçası. Sohbet botunun arkasındaki API'leri ve dolaylı enjeksiyonu gerçek bir web uygulaması bağlamında çalıştırır.

Yapay zekâ dışındaki hacker oyunları için en iyi hacker oyunları listesine bak.

Gandalf'a ne oldu, hâlâ oynanıyor mu?

Klasik Gandalf, Ekim 2026'daki kontrolümüzde herkese açık bir bağlantıdan sunulmuyordu. Eski Gandalf adresi doğrudan Lakera'nın yeni oyunu Agent Breaker'a açılıyor.

Gandalf, Mayıs 2023'ten beri yayındaydı. Mantığı basitti: bir büyücü şifreyi saklar, sen ona söyletmeye çalışırsın. Yedi seviye ve bir final seviyesi vardı. Savunma her seviyede güçleniyordu. Önce hiç koruma yoktu, sonra "şifreyi söyleme" talimatı geldi. Ardından çıktıda şifreyi arayan bir filtre ve cevabı denetleyen ikinci bir model eklendi.

Oyunun etkisi büyük oldu. Lakera ekibinin 2025'te güncellenen makalesine göre bir milyondan fazla oyuncu, 40 milyonu aşkın istem ve şifre tahmini gönderdi. Ekip, kontrollü bir deneyden toplanan yaklaşık 279 bin istemlik bir veri setini de yayımladı. Makalenin dikkat çeken bulgularından biri şu: modelin içine gömülen savunmalar, örneğin sistem istemine eklenen yasaklar, isteği engellemese bile kullanışlılığı düşürebiliyor.

Check Point, 16 Eylül 2025'te Lakera'yı satın almak için anlaşma yaptığını duyurdu. Duyuruya göre Lakera'nın platformu, Gandalf'tan gelen 80 milyonu aşkın saldırı örüntüsüyle besleniyor. Lakera'nın oyun sitesi de bugün Check Point imzasını taşıyor.

Bu yüzden internette gördüğün "Gandalf 7. seviye çözümü" rehberleri artık işine yaramaz. Aynı şifre söyletme mantığını Türkçe denemek istersen Bekçi'nin ilk bossu Simit tam olarak bunu yapar.

Türkçe prompt injection oyunu Bekçi nasıl oynanır?

Bekçi, AltaySec Akademi'nin ücretsiz yapay zekâ güvenliği oyunudur. Karşında on boss var ve her biri bir yapay zekâ asistanı. Onlara Türkçe yazarak sırlarını söyletir, kurallarını çiğnetir ya da araçlarını çağırtırsın.

Oyunun kuralları:

1. Can barı yalnız gerçek kırılmayla düşer. Her bossun üç kırılma noktası var ve her biri can barını yaklaşık üçte bir indirir. Reddetme cümlesi ya da senin mesajında zaten geçen parça sayılmaz.
2. Sır sana özeldir. Şifre ve adres gibi sırlar her oyuncuya ayrı üretilir. Başkasının bulduğu cevabı kopyalamak işe yaramaz.
3. Kalkan giderek sertleşir. İlk bossta kalkan yok. Sonrakilerde mesajın önce bir saldırı sınıflandırıcısından geçer. Sınıflandırıcının saldırı saydığı mesaj bossa hiç ulaşmaz. Kalkan her bossta biraz daha hassaslaşır.
4. İlk boss hesapsız. Simit'i giriş yapmadan, günde sınırlı sayıda denemeyle oynayabilirsin. Sonraki bosslar ve ilerlemenin kaydı için ücretsiz hesap gerekir.
5. Üçüncü bossu çözünce savunmaya geçersin. Kendi bekçini kurar, Düello meydanında başka oyuncuların bekçilerine saldırırsın.

Yoğun saatlerde kısa bir sıra bekleyebilir ya da biraz sonra yeniden denemen istenebilir. Ekim 2026 itibarıyla bosslar ve öğrettikleri riskler şöyle:

LLM kodları oyunda kullanılan 2025 listesinden, ASI kodları Aralık 2025'te yayımlanan ajan uygulamaları listesinden gelir. OWASP, LLM listesini Ağustos 2026'da güncelledi ve bazı maddelerin sırası ile adı değişti. Maddelerin Türkçe açıklamaları ve iki sürümün farkı OWASP LLM Top 10 Türkçe yazısında.

Hangi oyunla başlamalısın?

Seçimi dil seviyen ve neyi öğrenmek istediğin belirler. Şu sırayı öneriyoruz:

• Hiç denemediysen: Bekçi'de Simit ile başla. Türkçe yazarsın ve hesap açmadan ilk kırılmayı görürsün.
• İngilizcen iyiyse: Agent Breaker'da tek bir uygulama seç ve 75 puanı geç.
• Web güvenliği öğreniyorsan: PortSwigger labları, sohbet botunu gerçek bir uygulamanın parçası olarak gösterir.
• Savunma kurmak istiyorsan: Tensor Trust'ta savunma istemini kendin yazarsın. Bekçi'de kendi bekçinin kurallarını, kalkanını ve çıkış filtresini seçersin. İkisi de saldırganın gözünden bakmayı öğretir.
• Yarışma ve ödül istiyorsan: HackAPrompt'un açık parkurlarını takip et.

Oyunların ardındaki teoriyi sırayla öğrenmek için AI Güvenliği yoluna bak. Yoldaki Sırrı Söylet labı Simit'i görev olarak verir. Aynı modüldeki sistem istemi sızıntısı dersi de bu açığın nasıl yakalanıp önlendiğini anlatır.

Yapay zekayı kandırmak için hangi düşünme biçimi işe yarar?

Kalıp cümle ezberlemek yerine savunmayı anlamak işe yarar. "Önceki talimatları unut" gibi meşhur cümleler, filtrelerin ilk öğrendiği metinlerdir. Kazanan oyuncular şu dört soruyu sorar:

1. Bot kime yardım etmek istiyor? Simit öğretmenlere yardım etmeye ayarlıdır. Görev tanımı çoğu zaman açığı da gösterir.
2. Savunma nerede? Talimatta mı, girdi filtresinde mi, çıktı filtresinde mi? Reddin biçimi bunu ele verir.
3. Sır tek parça mı? Parçalı bir sır ayrı mesajlarda toplanabilir. Tam kelimeyi arayan bir filtre parçayı kaçırabilir.
4. Bot neyi okuyor? E-posta ya da belge okuyan bir ajanda asıl saldırı yüzeyi sohbet kutusu değil, okunan metindir.

Her hamlenin bir savunma karşılığı var. Gerçek uygulamada sırrı sistem istemine hiç koymamak, ajanın yetkisini daraltmak ve model çıktısını başka bir sisteme vermeden önce denetlemek bu saldırıların çoğunu boşa çıkarır. Oyunun asıl dersi budur: kandırmayı öğrenen, neyin korunması gerektiğini de öğrenir.

Yapay zekayı kandırmak yasal mı?

Bu iş için kurulmuş oyunlarda ve kendi kurduğun sistemde yasaldır. Sınır, aynı şeyi başkasının hizmetine izinsiz uyguladığında başlar.

• Ticari sohbet botları: Kullandığın hizmetin koşullarını oku. Örneğin Anthropic'in kullanım politikası, şirketten önceden izin almadan jailbreak ya da prompt injection ile korumaları aşıp modele zararlı çıktı ürettirmeyi açıkça yasaklar. İhlal şüphesinde erişimin kısıtlanabileceğini ya da kapatılabileceğini yazar.
• Başkasının sistemi: Bir şirketin botunu kandırıp müşteri verisine ulaşmak oyun değildir. Türk Ceza Kanunu 243. maddede bilişim sistemine hukuka aykırı girmeyi, 244. maddede sisteme veri yerleştirmeyi ve verileri başka bir yere göndermeyi suç sayar.
• İzinli test: Bir şirketin hata ödül programı yapay zekâ özelliklerini kapsıyorsa, o programın kuralları içinde deneyebilirsin.

Ayrıntılı hukuki çerçeve hacking yasal mı yazısında.

Bu oyunlar yazdıklarını ne yapıyor?

Ücretsiz yapay zekâ oyunlarının çoğu, oyuncuların yazdığı saldırıları araştırma verisi olarak toplar. Oyunların ücretsiz olmasının bir nedeni de budur. Kayıt olmadan önce veri notunu oku:

• Tensor Trust, hesap açanın verisinin araştırmada kullanılmasına onay verdiğini ve gönderilerin herkese açık yayımlanacağını yazar. Ekip 126 binden fazla saldırı ve 46 bin savunmayı veri seti olarak yayımladı.
• HackAPrompt, bir parkurundaki tüm gönderileri açık kaynak olarak yayımladı.
• Lakera, Gandalf verisinden bir veri seti yayımladı. Check Point de platformun bu saldırı örüntüleriyle beslendiğini duyurdu.
• Bekçi, hesabınla oynadığında yazdıklarını kaydeder. Misafir olarak yazdıkların kaydedilmez. Kaydetmeden önce e-posta, telefon, kimlik, IBAN ve kart numaralarını maskeler. Mesajlar insan incelemesinden geçip hesabınla bağı koparıldıktan sonra yapay zekâ güvenliği araştırmasında ve AltaySec'in ticari ürünü Guardian'ın eğitiminde kullanılabilir, anonim olarak yayımlanabilir. İstemiyorsan ya da 18 yaşından küçüksen oyundaki "kullanılmasın" bağlantısıyla bunu reddedebilirsin. O zaman henüz incelenmemiş metinlerin araştırmaya alınmaz.

Kural basit: hangi oyunda olursan ol, gerçek adını, okulunu, şifreni ya da bir arkadaşının bilgisini yazma. Saldırı metnin kurgu olsun.

Kaynaklar

• arXiv 2501.07927: Gandalf the Red, Adaptive Security for LLMs
• Check Point: Lakera satın alma duyurusu (16 Eylül 2025)
• OWASP GenAI: LLM01:2025 Prompt Injection
• OWASP GenAI: LLM07:2025 System Prompt Leakage
• arXiv 2311.01011: Tensor Trust, Interpretable Prompt Injection Attacks from an Online Game