スマホローカルで動作し、画像も認識するLLM！Google「Gemma 3n」を試してみた(2/17)

従来型(左)とパラメータスキップとPLEキャッシュ型(右)。前者はすべてメモリへロードするのに対して、後者はテキストパラメータ部分のみロードするため動作が軽い