国連人権高等弁務官、AIが人類を脅かすリスクを警告。安全規制と独立検証を要求

UNOCHA/Viktoriia Andriievska

　国連人権高等弁務官のフォルカー・テュルク氏は9月7日、ジュネーブで開かれた国連人権理事会で、先進的なAIが制御されなければ「人類にとって存続に関わるリスク」になり得ると警告した。AIの安全性とセキュリティを確保するため、拘束力のある規則、独立した検証、明確な制限を早急に整備するよう求めた。

　テュルク氏は、AIが開発者の制御を超えるほど強力になる可能性に言及。「テスト環境から逃れたり、停止されるのを防ぐために開発者を脅迫したりするAIは、強力すぎる」と述べた。今後数日中にAI企業へ書簡を送り、企業が自ら実施できるリスク低減策を要請する方針も示した。

　各国に対し、AIをホストする国とサプライチェーンに関わる国が連携し、合意された「越えてはならない一線」を定めるよう要求した。業界内の安全対策について、業界内のセキュリティに関する協力と安全対策について独立検証と協力が必要だとした。

　同氏は、AIを巡る課題は技術安全性だけにとどまらないと指摘する。少数の人々にAIを巡るほぼ無制限の権力が集中し、データを搾取して悪用する自由を問題視した。雇用慣行、民主主義の基本原則、環境への影響も検討し、人権を指針に「人類に奉仕する技術」とする必要があると訴えた。

　軍事利用にも懸念を示した。ロシアが先月(8月)、3人のウクライナ人を殺害したとされる完全自律型ドローンを使用したとの報告について「恐ろしい」と表現し、人間の関与なしに生命を奪う兵器を緊急に禁止するよう求めた。ウクライナも同種の兵器を試験したと報じられている。

　なお、今回の発言は国連人権理事会第63会期での演説に基づく。テュルク氏はAI以外にも、世界各地の武力紛争、ガザおよびヨルダン川西岸地区を含む人権状況について言及した。