「llama.cpp」には多数のモデルが公開されており、高性能な最新モデルをGPUで動かせる。ただしNPUの対応は進んでいない

「llama.cpp」には多数のモデルが公開されており、高性能な最新モデルをGPUで動かせる。ただしNPUの対応は進んでいない