340億パラメータのLLMは手元のPCで動く？Metaの「Code Llama 34B」を試してみた！(9/13)

Parameters > Generationのmax_new_tokensを4,096へ。画面キャプチャは2,048だがこの後、4,096へ変更した