「AIキルスイッチ法案」への反発拡大、Google、OpenAI、AMD含む77社・団体が共同署名

　AIが暴走し始めたら政府が強制停止できる――そんな機能を実装させようとする法案「AIキルスイッチ法案」が7月23日(米国時間)に米連邦議会に提出された。そしてその翌日にNVIDIAやMicrosoft、Metaなど25の企業・団体が共同書簡「Open Weights and American AI Leadership」を公開し、反発する姿勢をみせているが、Google、OpenAI、AMDなどが加わり、署名数はついに77社・団体に達した。

　書簡で訴えているのは、AIの安全性はオープン性(オープンウェイト)によって保たれるべきだという点だ。一方、米政府に提出されたAIキルスイッチ法案は、大規模AIモデルの開発者に対して「暴走した際にシステムの処理能力を制限・完全停止できる技術的手段の維持」を義務付けるものだ。

　書簡では法案について一切触れられていないため、一見、関連性がないように見える。しかし、オープンウェイトはいったん公開されれば元の開発者が制御できなくなるため、キルスイッチ法案が成立すれば、法を遵守できないオープンウェイトの公開が事実上禁止される恐れがある。それに先手を打って強く牽制するのが今回の書簡の目的だ。

　書簡では、スタートアップ企業をはじめ、多数の機関がオープンウェイトを利用することで、最先端モデルの高額な費用を支払う必要がなくなるため、アメリカはAI時代の勝利を掴むことができるとしている。また、オープンウェイトによって競争を促進することで、イノベーションを刺激し、コストを削減し、AIの恩恵を経済全体に広く行き渡らせることが可能になると強調している。

　一方で、オープンウェイト特有のリスクについては、防御側にも同じ能力を持つオープンウェイトへのアクセスが必要不可欠だとし、これによって透明性を高め、多くのチーム間で脆弱性の発見や修復が可能になるとしている。

　加えて、政策の立案者は正当な開発手法と不正流用を混同すべきではないとも指摘している。既存のモデルの出力を別のモデルの学習や改善に利用する「蒸留」は、広く用いられている手法で、イノベーションを推進する原動力となっているが、非公開モデルから価値を不正に引き出そうとする行為は問題視されるべきだとした。このため、包括的な規制ではなく、的を絞った法的・商業的枠組みによって対処すべきだとも記している。