M4 Max搭載「MacBook Pro 14」のメモリ128GBをLLMでほぼ使い切ってみた！(11/12)

qwen2.5-coder-32b-instruct-q4_0.ggufとTiger-Gemma-9B-v3-Q4_K_M.ggufをロードした場合。約半分のメモリを使用