無料。わずか1.8BでMicrosoft商用APIを凌駕する翻訳用LLM「Hy-MT2」登場

翻訳のスコア比較

　中国Tencentは5月21日(現地時間)、無料で利用できる33言語対応翻訳用LLM「Hy-MT2」シリーズを発表した。モデルの重みはオープンソースとして公開されており、Hugging Faceなどからダウンロードして利用できる。

　Hy-MT2シリーズは33言語にわたってシームレスな翻訳をサポートするLLM。「7B」、および初のMoEアーキテクチャ採用モデル「30B-A3B」は、さまざまな翻訳タスクにおいて、すべてのオープンソースモデルの中で最先端のパフォーマンスを達成でき、パラメータ数が数十倍多いモデルをも上回る性能を発揮する。

　そして軽量な1.8Bモデルでさえも、Microsoftといった主流の商用翻訳APIを上回るスコアを達成した。

　さらに、この1.8Bのモデルに対してTencent AngelSlim 1.25bit極端量子化を行なうと、容量はわずか440MBまで縮小されるため、主流のモバイルチップで容易にローカル推論(翻訳)を実現できる。同社によれば、Apple A15プロセッサ上では、従来の「Hy-MT1.5」の4bit量子化版と比較して1.5倍高速に動作するとしている。

分野別の翻訳スコア