Microsoft、AIの正確さとプライバシー問題を解消するAIコントローラ

　Microsoftは、大規模言語モデル(LLM)の出力を制御しやすくする「AI Controller Interface(AICI)」を発表した。LLMの生成コンテンツを制御することで、正確さやプライバシーの問題を解消し、情報の機密性や信頼性が重要な分野でのLLM活用の実現にもつながるとする。

　AICIは、LLMが生成するコンテンツの正確性を高め、プライバシーの問題を解消するためのツール。prompt-as-programなインターフェイスを実現するもので、ユーザーレベルのコードとLLMの出力生成をシームレスに統合できるという。

　LLM処理エンジンの実装を抽象化し、LLM処理の制御を簡単にするもので、AICI上には軽量VMのAIコントローラが搭載され、コントローラは軽量なWebAssemblyモジュールとして実装。RustやC++などで記述でき、ネイティブコードにコンパイルされて実行される。AICIはCPU上、LLM推論エンジンはGPU上で、並列して動作する仕組みとなっており、生成プロセスには最小限のオーバーヘッドしか発生しないという。