सोच रहे हैं कि Q4_K_M बनाम Q8 पर एक मॉडल कितनी डिस्क स्पेस लेगा? पैरामीटर काउंट दर्ज करें और यह हर सामान्य क्वांटाइज़ेशन स्तर के लिए अनुमानित फ़ाइल आकार दिखाता है – मॉडल पेजों को एक-एक करके जाँचने की ज़रूरत नहीं।
अनुमान टोकनाइज़र और मेटाडेटा के लिए प्रति पैरामीटर ~1.25 बाइट ओवरहेड मानते हैं। वास्तविक आकार मॉडल आर्किटेक्चर के अनुसार भिन्न होते हैं। प्रत्येक क्वांटाइज़ेशन स्तर का अर्थ क्या है, इसके लिए GGUF समझाया गाइड देखें।