AIの安全は隠さず「オープン」に守る！NVIDIAら37社が超大型アライアンス結成

　NVIDIAなど37社は7月27日(米国時間)、AIの安全性およびセキュリティのため、責任ある利用と信頼を促進するオープンツールの開発と共有を目的としたグループ「Open Secure AI Alliance」を結成したと発表した。創設パートナーにはAdobeやCisco、Dell、Hugging Face、IBM、Microsoft、SpaceXAIなど大手が名前を連ねる。

　このアライアンス結成の目的は、オープンなモデル、ハーネス、セキュリティツールの公開を推進するだけでなく、その重要性を政策立案者や規制当局に対し呼びかけるものだという。オープンAIシステムを、AIおよびサイバーセキュリティ政策における負債ではなく、防御資産として認識するよう啓発する。

　アライアンス結成にあたりNVIDIAはブログの中で、オープンソースがこれまでサイバーセキュリティに大きく貢献したことを振り返り、AI時代においても同様に、オープンモデルは重要だと訴えている。ただし、クローズドモデルを否定しているわけではなく、オープンモデルと共存すべきだという見方だ。

　例として直近で起きたHugging Faceのセキュリティインシデントを挙げた。クローズドなAIツールが重要なフォレンジック分析を妨げた際に、同社はオープンウェイトのGLM 5.2モデルを実行し、17,000件以上のアクションを分析して侵入を封じ込めたと説明した。

　加えて、AIの安全性とセキュリティは、ウェイトがオープンかクローズドかだけでなく、ID、権限、ハーネス、ガードレール、ログ、評価といったエージェントスタック全体にも大きく依存している。多くの防御担当者が容易に検査、テスト、改善できるよう、オープンなハーネスとツールを使うべきだとも述べた。