NIST AI RMF: Govern, Map, Measure, Manage

Beyaz Vadi Lojistik, hasar taleplerini okuyan bir dil modeli asistanı kurdu. Asistan müşterinin gönderdiği belgeleri okuyor ve hasar uzmanına bir tazminat önerisi hazırlıyor.

Şirketin ABD'deki iş ortağı sözleşmeyi yenilemeden önce bir soru gönderdi: Yapay zekâ riskini NIST AI RMF'ye göre nasıl yönetiyorsunuz? NIST AI RMF, ABD Ulusal Standartlar ve Teknoloji Enstitüsü'nün 26 Ocak 2023'te yayımladığı NIST AI 100-1 belgesidir. Gönüllüdür, sektöre ve kullanım alanına bağlı değildir. Yasa değildir, ama kurumların risk konuşurken kullandığı ortak dil haline geldi.

NIST, çerçeve üzerinde ABD Yapay Zekâ Eylem Planı kapsamında bir revizyon çalışması yürütüyor. Bu derste 1.0 sürümünün yapısını kuracaksın. Sonunda iş ortağının sorusuna kanıtla cevap verebileceksin.

Çerçevenin çekirdeği dört fonksiyondan oluşur. Govern, yani yönet, risk kültürünü, politikaları ve hesap verebilirlik yapılarını kurar. Diğer üçünün üstünde durur ve sürekli çalışır. NIST bunu kesişen fonksiyon diye tanımlar, yani Govern öbür üçünün içine işler.

Map, yani haritala, sistemin bağlamını çıkarır: amacını, paydaşlarını, olası fayda ve zararlarını. Measure, yani ölç, Map'te bulunan riskleri nicel ya da nitel yöntemle analiz eder ve zaman içinde izler. Manage, yani yönet, ölçülen riske göre kaynak ayırır ve önceliği belirler. NIST'in önerdiği sıra şöyledir.

Govern kurulduktan sonra çoğu kurum Map ile başlar, Measure ve Manage ile devam eder. Ama çerçeve katı bir sıra dayatmaz. Fonksiyonlar döngü halinde tekrarlanır ve birbirine geri bilgi verir.

Her fonksiyon kategorilere, her kategori de alt kategorilere ayrılır. Govern altı, Map beş, Measure dört, Manage dört kategori taşır. Alt kategoriler GOVERN 2.1 ya da MEASURE 2.7 gibi numaralarla anılır. Bu numaralar raporda ortak bir adres işlevi görür.

Örneğin GOVERN 2.1 rollerin, sorumlulukların ve iletişim hatlarının yazılı ve herkesçe bilinir olmasını ister. MAP 1.1 sistemin amacını, kullanım ortamını ve ilgili yasaları belgelemeyi ister.

MEASURE 2.7 güvenlik ve dayanıklılığın değerlendirilip belgelenmesini, MANAGE 2.4 ise beklenen dışında davranan bir sistemi devre dışı bırakma mekanizmasını ister. Alt kategoriler adım değil, varılacak sonuçtur. Ne olacağını söyler, nasıl yapılacağını kuruma bırakır.

Measure fonksiyonu sistemi neye göre ölçer? Çerçeve yedi güvenilirlik özelliği sayar. Geçerli ve güvenilir olmak temeldir, diğerleri bunun üstüne kurulur. Emniyetli olmak, güvenli ve dayanıklı olmak, açıklanabilir ve yorumlanabilir olmak, gizliliği güçlendirmek, zararlı önyargıyı yöneterek adil olmak diğer özelliklerdir.

Hesap verebilir ve şeffaf olmak ise hepsini kesen özelliktir. Bu özellikler zaman zaman birbiriyle çatışır. Gizliliği artırmak için veriyi azaltırsın, doğruluk düşebilir. Açıklanabilirlik için daha basit bir model seçersin, performans düşebilir.

Çerçeve bu ödünleşimleri yok saymaz. Kararın bilerek verilmesini ve yazılmasını ister. Bir ödünleşim kaydı yoksa, kararı kimin hangi gerekçeyle verdiği sonradan bulunamaz.

Govern somut sorularla başlar. Kurumda hangi yapay zekâ sistemleri çalışıyor? GOVERN 1.6 bir envanter ister.

Kim hangi riski onaylar, kim durdurma yetkisine sahip? GOVERN 2.1 bu rolleri yazılı ister. Rol tanımı belirsizse, bir olay anında herkes kararı başkasının vereceğini sanır ve kimse durdurmaz.

GOVERN 4.3 test yapmayı, olayları tespit etmeyi ve bilgi paylaşmayı kurum pratiği haline getirir. GOVERN 6 ise üçüncü taraf yazılım ve veri riskini politikaya bağlar. Beyaz Vadi modeli dışarıdan aldığı için bu kategori ona doğrudan dokunur.

Yayın kapısı ve istisna kaydı da Govern'ün somut biçimidir. Bir hayır cevabı, sahibi belli olmayan bir riske dönüşmesin diye yazılı bir isim ister.

Map, MAP 1.1 ile amacı ve ortamı yazar. Asistan tazminat önerir, son kararı uzman verir, müşteriler iki ülkededir. MAP 5.1 her etkinin olasılığını ve büyüklüğünü belgelemeyi ister. Map bittiğinde ekip ilk geç ya da kal kararını verecek bilgiye sahip olur.

Measure, MEASURE 2.7 ile güvenliği test eder. Kırmızı takım koşusu, doğruluk ölçümü ve adalet testleri burada durur. MEASURE 3.1 yeni ve beklenmedik riskleri düzenli izlemeyi ister. Manage, MANAGE 1.3 ile yüksek öncelikli risklere yanıt planlar.

Seçenekler azaltmak, devretmek, kaçınmak ve kabul etmektir. MANAGE 2.4 kapatma mekanizmasını, MANAGE 4.1 yayından sonraki izlemeyi kurar. Ölçüm bir sayı üretir, ama sayı karar değildir. Kararı Manage verir.

risk_id: R-031
sistem: hasar-talebi-asistani v1.4
tanim: Talep belgesine gizlenmiş talimat tazminat önerisini şişirir
GOVERN 2.1   sahip: hasar operasyonları müdürü, durdurma: nöbetçi
MAP 1.1      amac: tazminat önerisi, son karar uzmanda
MAP 5.1      olasilik: orta   etki: yüksek, doğrudan para
MEASURE 2.7  test: 300 dolaylı enjeksiyon, 7 başarılı (%2,3), eşik %1
MANAGE 1.3   yanit: azalt; belge temizleme + 10.000 TL üstü insan onayı
MANAGE 2.4   kapatma: hasar_asistani_acik bayrağı, nöbetçi çevirir
durum: açık, yeniden ölçüm 2026-11-15

Kaydı satır satır oku. İlk üç satır riski bir sisteme ve sürüme bağlar ve tek cümleyle tanımlar. GOVERN 2.1 satırı iki ayrı rol yazar: riskin sahibi ve durdurma yetkisi olan kişi.

Gece yarısı müdüre ulaşılamazsa nöbetçi beklemeden kapatır. MAP 1.1 satırı son kararın insanda olduğunu söyler ve etkinin sınırını çizer. MAP 5.1 etkiyi yüksek sayar, çünkü hata doğrudan para çıkışı demektir.

MEASURE 2.7 satırı ölçümü eşikle yan yana koyar. Oran yüzde 2,3, eşik yüzde 1, yani risk kabul sınırının üstünde. MANAGE 1.3 yanıtı seçer: azaltma. MANAGE 2.4 kapatma yolunu adıyla verir.

Son satır riski açık tutar ve yeniden ölçüm tarihini koyar. NIST AI RMF Playbook her alt kategori için önerilen eylemler ve kaynaklar sunar. Playbook bir kontrol listesi değildir, kuruma uyarlanır.

NIST AI 600-1, Temmuz 2024'te yayımlanan üretken yapay zekâ profilidir. Profil, üretken modellerin taşıdığı ya da büyüttüğü on iki riski sayar. İlk dördü şunlardır: kimyasal, biyolojik, radyolojik ve nükleer bilgiye erişim; uydurma, yani konfabülasyon; tehlikeli, şiddet ya da nefret içeren içerik; veri gizliliği. Sonraki dördü çevresel etki, zararlı önyargı ve tek tipleşme, insan ile yapay zekâ yapılandırması ve bilgi bütünlüğüdür.

Son dördü bilgi güvenliği, fikrî mülkiyet, müstehcen ya da istismar içeren içerik ve değer zinciri ile bileşen entegrasyonudur. Profil her risk için önerilen eylemleri RMF alt kategorilerine bağlar. Beyaz Vadi için en yakın üç risk uydurma, bilgi güvenliği ve değer zinciridir. Prompt injection, bilgi güvenliği başlığının içinde ele alınır.

AI RMF tek başına çalışmaz, NIST'in siber güvenlik çerçevesiyle yan yana durur. Şubat 2024'te yayımlanan CSF 2.0 altı fonksiyon taşır: Govern, Identify, Protect, Detect, Respond ve Recover. Her iki çerçevede de Govern ilk sıradadır ve aynı yönetim yapısını paylaşabilir.

Nisan 2025'te yayımlanan SP 800-61 Rev. 3, olay müdahalesini CSF 2.0'a bağlar. Aralık 2025'te NIST IR 8596 ön taslak olarak yayımlandı. Bu belge CSF 2.0'ı yapay zekâya uygulayan Cyber AI Profile'dır ve üç odak alanı tanımlar.

Bu alanlar yapay zekâ bileşenlerini güvenceye almak, yapay zekâ destekli savunma yapmak ve yapay zekâ destekli saldırıları engellemektir. Pratik kural basittir. Önyargı ve açıklanabilirlik gibi yapay zekâya özgü riskleri AI RMF ile, sistemin siber güvenliğini CSF ile yönetirsin.

Döngü bir kere dönüp bitmez. Sistemin her önemli değişikliği Map, Measure ve Manage'i baştan tetikler. Tetikleyicileri önceden yaz: yeni bir kullanıcı grubu, yeni bir araç, yeni bir veri kaynağı ya da model sürümünün değişmesi.

Küçük bir güncelleme bile bağlamı değiştirebilir. Asistan bireysel müşterilere de açılırsa, Map'in çıkardığı paydaş listesi geçersiz kalır. MEASURE 4 ölçümün kendisini de sorgular.

Kullandığın test seti gerçek saldırıları yansıtıyor mu, metrik doğru şeyi mi sayıyor? MANAGE 4.1 yayından sonraki izleme planını ister. Plan; kullanıcı geri bildirimini, itiraz ve insan müdahalesini, olay müdahalesini, kurtarmayı, değişiklik yönetimini ve sistemi emekliye ayırmayı kapsar. Üç fonksiyon ayrı ekiplerin işi gibi görünse de aynı kaydı paylaşır.

Dört fonksiyonu küçük bir özellikte de kullanabilirsin. Beyaz Vadi asistana müşteriye e-posta gönderme aracı eklemek istiyor.

Önce aracı kimin onaylayacağını ve kimin kapatabileceğini yaz, bu Govern'dür. Sonra aracın kime ne gönderebileceğini çıkar, bu Map'tir. Sonra bir eşik koy ve araç üzerinden enjeksiyon denemelerini ölç, bu Measure'dır.

En son bulguya göre aracı kısıtla, insan onayına bağla ya da ertele, bu da Manage'dir. Sıra atlanırsa ölçüm bağlamsız, karar dayanaksız kalır. En sık hata çerçeveyi yılda bir doldurulan bir uyum tablosuna çevirmektir.

Tablo dolar, ama sistem değiştiğinde kimse onu yeniden açmaz. Tespit için risk kaydındaki son ölçüm tarihini sürüm tarihiyle karşılaştır. Ölçüm sürümden eskiyse döngü kopmuştur.