प्रकाशित
टोक - टोकन अनुमानक
सब-माइक्रोसेकंड टोकन अनुमान उपकरण 100+ एआई मॉडल का समर्थन करता है। एमबी-स्केल प्रॉम्प्ट को न्यूनतम निर्भरताओं और क्रॉस-मॉडल संगतता के लिए औसत सूत्र के साथ संभालता है.
प्रभाव
- Sub-microsecond performance for instant token estimation
- 100+ model support through averaging formula approach
- MB-scale prompt handling with minimal dependencies
- 20MB size reduction by removing TIC token dependency
- Developer Efficiency: Instant cost visibility prevents budget overruns
- Enterprise Ready: Supports programmatic budget management
- Global Adoption: Used worldwide via npm registry
- Performance Optimization: Trade-off of precision for significant performance gains
प्रमुख विशेषताएँ
- Multi-provider support: 'OpenAI, Anthropic, OpenRouter, Llama models'
- Enterprise features: Per-million token pricing with separate prompt/completion rates
- Lightweight design: Minimal dependencies for maximum performance
पढ़ना जारी रखें