2026-09-26 — 질문은 두 가지를 썼습니다. 영어 질문 "Explain in about 200 words how quantization lets a large language model run on a GPU with 6GB of VRAM."과, 같은 뜻의 한국어 질문 "6GB 그래…
2026-09-26 — 같은 "초당 토큰 수"라도 한국어로 체감하는 속도는 모델마다 다릅니다. 모델마다 한국어 한 글자를 몇 토큰으로 쪼개는지가 달라서입니다. GTX 1660 SUPER 6GB에서 같은 한국어 질문으로 EXAONE 3.5, Gemma 3, Qwen3를 측정해 실제로 초당 몇…