「オープンウェイト禁止は求めていない」Anthropicが反論

Anthropicの公式ブログに掲載された、CEOのダリオ・アモデイ氏によるオープンウェイトモデルについての見解

　オープンウェイトのAIモデルを禁止すべきだ――Anthropicがそう主張したことは一度もない。同社CEOのダリオ・アモデイ氏が7月27日(米国時間)、公式ブログでそう明言した。署名者が77社・団体に達した共同書簡「Open Weights and American AI Leadership」に、Anthropicの名前はない。それを根拠に、自社の商売を守るための禁止論だと批判されていた。氏は代わりに3つの措置を挙げたが、3つ目には米国だけでは完結しない条件が付く。

　オープンウェイトモデルとは、AIの中身にあたる重みデータを公開し、誰でも入手して自分のコンピュータで動かせるAIモデルである。危険な能力を持たないものは公共財であり、動かす計算資源以外に費用がかからず、企業や開発者、研究者に価値をもたらす、というのが同氏の位置づけだ。

　同氏が挙げる悪夢は2つある。権威主義国家が米国を上回るAIで軍事的優位や自国民の抑圧に進むこと、そして強力なAIがサイバー攻撃や生物学的な攻撃に悪用されることだ。後者ではオープンウェイトがクローズドモデルより高いリスクを抱えうると認めつつ、悪用する側が正規の米国企業であるとは考えにくいため、米国企業の利用禁止は対策にならないという。

アモデイ氏が支持する3つの措置

• 強力なチップを中国に売らない: AI用チップと製造装置の対中輸出を止め、密輸や抜け道を取り締まる。米国製チップなしに米国を超えるモデルは作れないとする
• 産業規模の蒸留を取り締まる: 既存モデルの出力を別のモデルの学習に使う「蒸留」自体ではなく、国家が後押しする産業規模の蒸留を的を絞った政策で抑止する
• 公開前の安全性テストを義務化する: 十分に高性能なモデルは、オープン・クローズドを問わず、サイバー・生物・アラインメント(AIを人間の意図に沿わせること)のリスクを公開前に検証する。スタートアップや学術機関の低性能なモデルは対象外

　アモデイ氏は共同書簡そのものを否定しているわけではなく、アクセスの拡大、用途によっては競争の強化、そして顧客側の制御の向上という主張には賛同する。同意しないのは、オープンウェイトなら安全対策を作りやすい、広範なアクセスは防御側を攻撃側より利する、という2点だ。特に生物学では攻撃側が構造的に有利になりかねない、と氏は懸念する。

　米国だけでは完結しないのが、3つ目に挙がった安全性テストの義務化だ。実効性を持たせるには世界規模での実施が必要で、中国の参加も欠かせないとアモデイ氏は書いている。生物兵器の防止に限れば中国の利益にもなるため、協力は可能かもしれないと氏はみる。ただし、どの性能水準から義務の対象になるのかは示されていない。