GPU推論している図。ただ、画像のようにGPU負荷終了後=テキストを全部受け取ってからに喋り始めるので遅い。ここもストリーミングできるように修正した

GPU推論している図。ただ、画像のようにGPU負荷終了後=テキストを全部受け取ってからに喋り始めるので遅い。ここもストリーミングできるように修正した