ニュース
全国初の「AI条例」。神戸市が9月から施行。オープンデータサイト「神戸データラボ」の第3弾も公開
2024年5月2日 06:02
神戸市は、全国初となるAI条例を2024年3月に制定。2024年9月から施行する。その内容について、説明が行なわれた。
AI条例では、神戸市の職員がAIを利用する際に、非公開情報の入力を禁止し、議会での説明においても、AIに判断を委ねることなく、自らの責任で説明することを定めたほか、生成AIの利用にあたっては、活用した結果がおよぼす影響レベルに応じてリスクアセスメントを行ない、安全性を確認することを義務づけた。
神戸市の事業を受託する事業者に対しては、AIを活用する場合や、業務上知りえた情報を生成AIに入力する場合には、神戸市と事前協議することを定めている。
神戸市では、2023年6月から3カ月間に渡り、130人の職員が参加して生成AIを試験的に利用。2023年12月に報告書をまとめ、これを踏まえて、2024年2月から、約1万人の全職員が日本マイクロソフトのAzure OpenAI Serviceの本格利用を開始した。
その一方で、2024年2月にAI条例案を市議会に提出し、利用者としてのルール整備に着手。2024年3月に全国初となる包括的なAI条例を制定した。
AI条例の策定前となる2023年5月には、生成AIの利用時において、制限に関する条例を制定し、同年6月には生成AIの利用ガイドラインを策定。早い段階から、生成AIのプロンプトに個人情報を入力することを禁止してきた経緯がある。
神戸市 デジタル監(最高デジタル責任者)の正木祐輔氏は、「神戸市では、新たな技術を積極的に利用していく機運が庁内にあり、生成AIもChatGPTが登場した時点で試行を開始した。だが、利用の促進とともに、ルール形成が必要であり、その点では、国の議論を待つのではなく、海外の先行事例を捉えたり、政府のAI 戦略会議に参加している東京大学国際高等研究所東京カレッジの江間有沙准教授に、神戸市のAI条例策定のための有識者会議に参加してもらったりしながら、国の動きと並行して、神戸市独自のルールを作り、活用していくべきだと考えた」とし、AI利用で先行している立場からも、全国で最初のAI条例の制定および施行を意識してきたことを明かす。
条例案の検討においては、有識者会議からの意見を反映したほか、パブリックコメントの意見も得ている。
「政府ではガイドラインを示しているが、神戸市のAI条例では、AIを市役所業務に用いる実践的な形でルールを策定したのが特徴である」とし、「単にAI活用を認めるわけでもなく、一切禁止するわけでもない。また、条例が利用の委縮効果につながってはいけない。リスクを回避しながら、メリットを享受することが大切である」と、制定に向けた基本姿勢について説明した。
神戸市のAI条例は11条で構成され、第1条から第4条までは総則として、目的や定義、基本理念などについて網羅。第5条では基本指針の策定について触れ、神戸市でのAI活用に関する基本事項や、神戸市立学校でのAIの適正活用といった教育に関する基本的な事項などについても定めている。
さらに、第6条ではリスクアセスメント、第7条では生成AIを活用する場合の責務、第8条では市民および事業者によるAIの効果的な活用、第9条では受託事業者などの責任について、第10条では専門家の意見を求めるために神戸市AI活用アドバイザーの設置を定めている。第11条は雑則となっている。
「条例の基本的な考え方は、AIを規制することが目的ではない。むしろ、今の時代はAIを積極的に利用すべきである、ということを前提にしている。一定のルールの下で、AIの効果的で、安全に活用することを目指している」とし、「生成AI以外のAIも対象にしており、マシンラーニングやディープラーニングも含んだ包括的なAI条例とした。
また、市民や企業の活動を制約するものではない。基本理念においては、AIの効果やリスクを適切に判断する能力を持った職員の育成に努めることも盛り込んだ。使い手自らがリスクがあることを認識し、どうすればリスクが下げられるかといったことを考える必要がある」とした。
リスクアセスメントに関しては、すべての業務でのAI活用を対象にするのではなく、課税や営業許可、各種給付認定などの市民の権利利益に影響を与える行政処分と、その基となる計画策定を対象にし、評価に留まらず、可能な限りリスクを低減するための手法を検討することも含めた。
たとえば、AIを学習する際のデータから、バイアスが生まれやすいデータを除くといった作業を行なう一方、東京大学およびSingular Perturbationsとの連携により、AIリスクアセスメントの整備に向けた検証事業を実施するといった活動も行なっている。
「リスク低減の手法を検討するとともに、市側の運用面の評価を行なう内容とした。AIが持つリスクを根絶することは現実的でない。むしろ、使い手である市職員が、AIが持つリスクを正しく認識し、そのリスクに対処する仕組みを設けることが重要である」と述べた。
さらに条例では、市会における答弁内容を生成AIに委ねることを禁止したが、事例調査や文献の要約など、答弁の参考とする資料の作成への活用は、ファクトチェックを前提して禁止はしていない。
ここでは、「首長と議会の二元代表制の考え方と、AIの効果的な活用の考え方という両者のバランスを取った」と説明する。
加えて、AI条例では、市立の小中学校、高校においても、AIを適正に活用するための教育を実施することを明文化。市民全体へのAI に関する知識の着実な普及を目指す。
生成AIの活用効果
神戸市における生成AIの活用効果についても説明した。
神戸市の正木 デジタル監は、「生成AIを活用したことで、職員の96%が仕事の効率が向上したと回答している。文章生成や文章要約、アイデア出し、プログラミングコードの生成などで、仕事効率が向上している」という。
神戸市が行なっている生成AIの活用事例の1つとして、アンケート案の作成がある。
市民を対象にしたアンケートを実施する際に、設問内容や回答候補などを生成AIが提示。アンケートの質や作業スピードが向上したという。
仮想の市民(ペルソナ)を生成AIが作り上げ、新型コロナウイルスのワクチン接種を進めるため、ペルソナが市の広報紙を見てどんな感想を持つか、どのような行動をとるかといったシミュレーションを行ない、広報コンテンツを検証し、業務の効率化に貢献する可能性を確認できたという。
そのほか、窓口シフト表作成支援ツールを開発。割り当て人数や繁忙期設定、連続割当制限などを入力。AIを用いた最適なシフトを作成できるという。作成時間が10時間から3時間に削減できた成果があがっている。
また、防犯パトロール支援の試行を開始。過去の犯罪発生パターンや周辺状況などのデータに基いて、AIが犯罪発生予測を行ない、最適な防犯パトロールルートを提示して、犯罪抑止効果を高めるという。
さらに、AI技術を活用して、SNS上に投稿された火災や事故、自然災害の被害状況などの危機に関するデータを自動収集して解析。リアルタイムで可視化する「AIリアルタイム危機管理情報サービス」や、自然文での問い合わせで検索が可能な「Webサイト上検索システム」、アンケートデータなどの大量のテキストデータを分類する「テキストデータ分類支援ツール」などの活用事例がある。
今後は、RAGの取り組みとして、庁内の各種マニュアルや通知文などの独自データを活用して、AIに回答してもらう環境を構築することを検討。この成果をもとに、FAQ の自動生成ツールとしても活用していくという。
「市役所業務において、AIが実務に役立つ場面や条件を明らかにしながら、実効性のあるAI活用モデルの確立を推進したい。革新的な技術であるAIを積極的に活用する一方、リスク管理を行ないながら、適切な活用を目指す」という。
AI利用のルールは世界各国でも
AIの利用に関するルールづくりの動きは世界各国で進んでおり、2023年6月には、EUが包括的なAI規則を採択し、2023年10月には米国で大統領令を公布。2024年4月には、米国政府がAI利用の安全性やセキュリティに関する諮問委員会として、AISSBを設置することを発表し、Microsoftのサティア・ナデラCEOやOpenAIのサム・アルトマンCEO、Google(Alphabet)のスンダー・ピチャイCEOが委員に参加して議論を進めることになる。
日本においても、AI 事業者ガイドラインが新たに策定され、その中で、企業や官公庁がAIを利用する際に、独自のルールや自主的な取り組みが求められている。今回の神戸市の取り組みは、実務事例に基づいたAI条例の制定として、今後の自治体のテストケースとなることが注目される。
「ほかの自治体で、AI条例の制定をしたいと考えたときに、神戸市のAI条例を参考にしてもらえるだろう。たとえば、神戸市では、市会における答弁内容を生成AIに委ねることを禁止したが、そうした内容を議論するきっかけになることも期待している。新たな技術には課題が多く、手探りとなる。協力しあい、お互いに高めあっていきたい」とした。
一方、神戸市では、国内の各種オープンデータが閲覧できるダッシュボード「神戸データラボ」における公開データを増やしたことも発表した。
新たに追加したのは、国立社会保障・人口問題研究所(社人研)が2023年12月に公開した「日本の地域別将来推計人口(2023年推計)」と、総務省が2024年1月に公表した「住民基本台帳人口移動報告」に基づくデータで、2024年4月30日から公開している。
神戸市では、職員向けに公開している神戸データラウンジをベースにして、一般にも利用できるように神戸データラボを開設。神戸市のサイトのトップページからアクセスできるようにしている。
2023年2月に、総務省統計局の2020年の国勢調査の情報をもとに各種データを公開したほか、2023年10月にも公開データを増やし、現在、8種類のデータを提供している。
今回は、第3弾となるもので、これまでと同様に無償で提供。全国の自治体や政府などの行政職員に留まらず、個人や事業者などの利用も想定している。
「単に統計データを公開するのではなく、データ分析ソリューションであるTableauを利用し、直感的な操作による分析が可能になっている。PNGファイルやPowerPoint、PDFでのダウンロードができるほか、クロス集計したCSVデータでのダウンロードも可能になっている。1日平均500件のアクセスがあり、政令指定都市をはじめとしたほかの自治体や、民間企業の利用も増えている」としている。