Puan ders bitince hesaba yazılır. Bu dersi tamamlayınca +55 XP alacaksın. Giriş yapmadan ilerlersen puan yalnız bu tarayıcıda durur.
Jeton, bağlam ve dikkat
Kargo asistanına "Kargom nerede?" yazdın. Model bu cümleyi senin gördüğün gibi görmez. Önce jetonlaştırıcı (tokenizer) devreye girer ve metni kendi sözlüğündeki parçalara böler. Bu parçaların adı jetondur (token). Jeton bazen tam sözcük, bazen ek, bazen tek harftir. Sözlükteki her jetonun bir sıra numarası vardır. Modelin eline harfler değil, bu numaralardan oluşan sayı dizisi geçer. Model de yalnız dizinin devamına gelecek jetonu tahmin eder.
OpenAI'ın açık kaynak tiktoken kütüphanesi bayt çifti kodlaması (BPE, byte pair encoding) kullanır. Yöntem, eğitim metninde sık yan yana gelen baytları birleştirip tek jeton yapar. Sık geçen İngilizce sözcükler bu yüzden tek parçaya sığar. Türkçe sözcük ise kök üstüne ek alır. Her kök ve ek birleşimi sözlükte kendine yer bulamaz. Sonuç şudur: aynı anlam Türkçede daha çok parçaya bölünür.
Kodlama: o200k_base (GPT-4o jetonlaştırıcısı), tiktoken ile ölçüldü "security vulnerability scan" -> 3 jeton ["security", " vulnerability", " scan"] "güvenlik açığı taraması" -> 8 jeton ["g", "ü", "ven", "lik", " aç", "ığı", " tar", "aması"] kimlik: [70, 572, 1066, 6720, 21705, 26075, 7057, 100111]
Tabloya dikkatli bak. "güvenlik" sözcüğü tek jeton olmadı, "g", "ü", "ven" ve "lik" parçalarına ayrıldı. Boşluk da jetonun parçasıdır: " aç" jetonu başındaki boşlukla birlikte saklanır. Jeton sayısı doğrudan fatura demektir. API ücretleri jeton başına hesaplanır, Türkçe metin aynı iş için daha çok öder.