ニュース
40TOPSの性能を持つM.2接続のAIアクセラレータ
2024年4月5日 11:35
Hailoは、M.2接続のAIアクセラレーションモジュール「Hailo-10H M.2」を発表した。
Hailo-10H M.2は、M.2フォームファクタを採用した生成AIアクセラレータ。既存のPCなどのM.2ソケットに接続することで、CPUやGPUの負荷を抑えつつ、AI性能の向上を図ることができる。最大40TOPSの演算性能を持ち、独自の構造駆動型データフローアーキテクチャにより、既存のソリューションと比べて高いコスト効率も実現したという。
強力なソフトウェアスイートも用意しており、最新のディープラーニングモデルや生成AIアプリケーションをサポート。PCやスマートカー、エッジデバイスなどにおいて、リアルタイムで低遅延、かつ高効率でのAI推論を可能にするとしている。
フォームファクタはM.2 2242/2280 Key M、インターフェイスはPCI Express 3.0 x4。モジュール上に8GB LPDDR4も備える。対応OSはWindows、対応AIフレームワークはTensorFlow、TensorFlow Lite、Keras、PyTorch、ONNX。
Happy to introduce Hailo-10, our new powerful AI accelerator, bringing Generative AI to the edge.
— Hailo (@Hailo_ai)April 3, 2024
With Hailo-10, you can take full control of your GenAI experience, all while maximizing performance and minimizing power consumption.
Explore more here:https://t.co/XUtXjsROIhpic.twitter.com/u31OtN3mkX