眠っているIntelのNPUをLLMで叩き起こしてみた(9/10)

回答や全体の会話の長さにも左右されるが、トークンの出力速度はおよそ8tok/s前後といった印象