Nasıl çalışır?
Bir istemi yapıştırıp yaklaşık token sayısına bakın. Beklediğiniz yanıt uzunluğunu ayarlayarak giriş ve çıkış maliyetlerini birlikte karşılaştırın. Sonuçlar metin uzunluğu ve yapısı üzerinden yapılan bir tahmindir. Özellikle farklı diller, kod örnekleri ve yoğun noktalama işaretleri farklı modellerde farklı sayılabilir. Gerçek bir faturalandırma karşılaştırması için modelin döndürdüğü kullanım verisine ve sağlayıcınızın hesabınıza uyguladığı tarifeye bakın. Ölçümü yaparken sistem isteminizin yanı sıra örnekler ve önceki mesajları da metne dahil edin.
Nasıl kullanılır?
Metni "Giriş istemi veya kodu" içine yapıştırın.
“Tahmin edilen belirteçler” i kontrol edin ve kelime ve karakter sayılır.
Tipik bir yanıt boyutuna "Beklenen yanıt uzunluğu" ayarlayın.
Model fiyatlarını karşılaştırın ve referans oranlarının tarihini not edin.
Öne çıkan özellikler
- Tahmini token sayısı, karakter ve sözcük sayımı
- Ayarlanabilir yanıt ve giriş uzunluğu oranı
- Arama başına ve aramaların bir araya geldiği parti başına maliyet tahminleri
- Bağlam penceresi ve yerel GPU bellek referansları
Yöntem ve formüller
Düz metinde tahmin sözcük sayısının 1,32 katına karakter sayısının 15’e bölümünü ekler. Kod işaretleri saptandığında sözcük katsayısı 1,45 olur. Yuvarlanan giriş ve çıkış tahminleri ilgili milyon token ücretleriyle çarpılır.
Kullanım alanları
- Bütçe, her çağrıda aynı talimatı gönderen bir sınıflandırma işidir.
- Kısa bir istemi birkaç örnek içeren bir ile karşılaştırın.
- Bir parti çalışmadan önce daha uzun bir özetin ücretleri çıkarmak için ne yaptığını tahmin edin.
Uygulamalı örnekler
İki sözcüklük istem tahmini
Hello world metnini yazın ve beklenen yanıt uzunluğunu 1× seçin.
11 karakter, 2 sözcük, tahmini 3 giriş ve 3 yanıt tokenı.
Hesap 2 × 1,32 + 11 ÷ 15 değerini en yakın tam sayıya yuvarlar.
Sınırlamalar
- • Sayımlar, özellikle çok dilli metin, kod ve noktalama için bir sağlayıcı tokenizerden farklı olabilir.
- • Referans oranları, önbelleğe alınan girdiler, araç aramaları veya kademe indirimleri gibi faturalandırma ayarlarını atlar.
Dosyalarınız ve gizliliğiniz
LLM token ve maliyet hesaplayıcı aracına verdiğiniz dosyalar ve bilgiler cihazınızda işlenir.
Tarayıcınız dosyaları bir işlem sunucusuna göndermeden işler.
Microdeck araca girdiğiniz metinleri ve dosyaları kaydetmez. Sayfanın yüklenmesi için internet bağlantısı kullanılır.
Sekmeyi kapatmadan önce saklamak istediğiniz sonuçları indirin veya kopyalayın. Bazı araçlar taslakları tarayıcınıza kaydeder.
Sık sorulan sorular
Sağlayıcının token sayımı neden farklı çıkabilir?
Modeller metni farklı biçimlerde parçalar ve sohbet veya araç kullanımı için ek tokenlar sayabilir. Kesin bağlam sınırını sağlayıcının sayacıyla doğrulayın.
Giriş ve yanıt tokenlarının ücreti aynı mı?
Birçok model için oranlar ayrıdır. Araç her iki miktarı kendi tarifesiyle çarpar ve iki maliyeti toplar.
GPU tablosu modelimin gerçek kullanımını ölçer mi?
Tablo referans değerlerini gösterir. Ağırlık biçimi, hassasiyet, bağlam ve modelin çalıştırıldığı ortam gerçek tüketimi etkiler.