ニュース

ローカルAI開発環境「Razer AIKit」最新版、モニタリング機能など追加

 Razerは1月30日、オープンソースのAI開発環境「Razer AIKit v0.2.0」を公開した。現時点ではプレビュー版での提供となっている。

 Razer AIKitは、ノートやデスクトップPCなどに導入することで、クラウドグレードの性能や拡張性を持つAI開発環境を構築できるツールキット。さまざまなLLMをローカル実行可能なほか、GPUの自動検出やクラスタ構築といったマルチGPU機能、メモリ最適化されたvLLM Engineによる推論機能などを実現する。

 v0.2.0では、vLLM Engineを「0.14.1」にアップグレードしたほか、GPUや推論に関するメトリクスなどを確認できる「Advanced Monitoring Dashboard + Chat」機能を新たに搭載。マルチGPU環境においてGPUの優先度などを制御できる「GPU Ordering(Preview)」も追加した。