Microsoft、リアルタイムAI向けアクセラレータを開発

Project Brainwave

　米Microsoftは22日(現地時間)、ディープラーニング向けのアクセラレーションプラットフォーム「Project Brainwave」を発表した。

　クラウドベースのディープラーニング向けの性能と柔軟性を合わせ持ち、システムの要求と受信を同じ速さで実現する超低遅延を達成可能とし、これからのクラウド時代に向けた“リアルタイムAI”用に設計されているという。

　Project Brainwaveは、FPGAインフラストラクチャを利用しており、MicrosoftのデータセンターネットワークにFPGAを直接接続するかたちを採る。これにより、CPUがリクエストを処理する必要がなくなり、高スループットを実現可能とする。

　また、FPGAに統合した強力なソフト型DNN処理ユニット(DPU)を使用。既存のAIアクセラレータは演算子やデータ型のデザインを選択しなければならない柔軟性に欠けたDPUを使っているが、Project Brainwaveではさまざまなデータ型を利用できるという。

　さらに、一般に普及しているディープラーニングフレームワークをサポートするソフトウェアスタックを組み込んでいるのも特徴。Microsoft Cognitive ToolkitやGoogleのTensorflowに対応しており、今後さらにサポートするフレームワークを拡大予定としている。

　Project Brainwaveは、IntelのStratix 10 TX FPGAを搭載。1ms以下で各要求を実行した状態で、39.5TFLOPSの処理性能を維持可能。それぞれ10サイクルごとに1回のマクロ命令が発効されることで、1サイクルあたり130,000回以上の演算処理を行なえる。これによりリアルタイムAIに必要な性能を実現可能という。

　Project BrainwaveはAzureを通じて提供予定。Project Brainwaveによってかなり複雑なディープラーニングモデルを実行できるようになるとしている。