ホワイトハウス、GoogleやOpenAIなど大手7社にAIの安全性確保を要請

　ホワイトハウスは21日(米国時間)、AIによるリスクを管理するための取り組みとして、Amazon、Anthropic、Google、Inflection、Meta、Microsoft、OpenAIのAI大手7社をホワイトハウスに招集し、これら企業がAI開発において安全性/セキュリティ/信頼性を重視し、自主的に責任を持ってAIの安全な開発を進めるよう要請したことを発表した。

　AI大手7社は現在、AIに関する同取り組みに対して、公開前にセキュリティテストを実施することや、生成したコンテンツにウォーターマークを導入することなど、以下の内容に取り組んでいる。

• 製品リリース前にAIに対してセキュリティテストの実施
• AIリスクの管理に関する情報の業界全体および政府/市民社会/学術界との共有
• 独自のモデルや未リリースのモデルの重みを保護するためのサイバーセキュリティと内部脅威保護への投資
• サードパーティによるAIの脆弱性の発見と報告の促進
• ウォーターマークの導入など、コンテンツがAIによって生成されたものであることをユーザーが確認できるような堅牢な技術メカニズムの開発
• 自社のAIの機能、制限、適切な使用領域と不適切な使用領域の公的報告
• 有害な偏見や差別の回避、プライバシー保護など、AIが引き起こす可能性のある社会的リスクに関する研究の優先
• 社会の最大の課題に対処するための高度なAIの開発と導入

　米政府は、AIの開発と使用を管理するための国際的な枠組みを確立すべく、日本を含む複数の国と協議しているという。