Q4_K_M vs Q8-ல் ஒரு மாடல் எவ்வளவு வட்டு இடத்தை எடுக்கும் என்று யோசிக்கிறீர்களா? அளவுரு எண்ணிக்கையை உள்ளிட்டால் ஒவ்வொரு பொதுவான குவாண்டைசேஷன் நிலைக்கும் மதிப்பிடப்பட்ட கோப்பு அளவை இது காட்டுகிறது – மாடல் பக்கங்களை ஒவ்வொன்றாக சரிபார்க்க வேண்டியதில்லை.
மதிப்பீடுகள் டோக்கனைசர் மற்றும் மெட்டாடேட்டாவிற்கு ஒரு அளவுருவுக்கு ~1.25 பைட்டுகள் மேல்நிலையை கருதுகின்றன. உண்மையான அளவுகள் மாடல் கட்டமைப்பால் மாறுபடும். ஒவ்வொரு குவாண்டைசேஷன் நிலையின் அர்த்தத்திற்கு GGUF விளக்கம் வழிகாட்டியைப் பார்க்கவும்.