米カリフォルニア州で公的機関での生成AI製品購入のガイドライン発表

米国のカリフォルニア州技術省は3月21日、州政府機関が生成人工知能（AI）製品の購入、使用や訓練するためのガイドラインを発表した。これは、ギャビン・ニューサム知事（民主党）の州知事令に始まった生成AIの責任ある実用化を念頭に置いたものだ（2023年9月15日記事参照）。2023年11月に発行された生成AIのリスクを分析した報告書を基に作成され（2023年12月11日記事参照）、2024年7月までに州政府機関での生成AI利用のパイロットプロジェクト実施を検討することを目的としている。

このガイドラインには、「生成AI使用」の定義や例、州政府当局の責任、訓練、生成AIのリスク評価と管理、生成AI製品の調達手続きについて書かれている。生成AIを使用して州が公的サービスを提供するために「生成AIの使用」について定義が必要としているが、対象は州政府当局に限り、また、変更もあり得るとしている。

「生成AI」は画像、動画、テキスト、音声などインプットデータの性質を分析することによって、オリジナルと似た新しく合成されたコンテンツと定義し、生成AIに関連する技術である機械学習、自然言語処理・翻訳サービス、コンピュータビジョンやチャットボット技術それ自体は「生成AI」とはしないとしている。

生成AI製品の調達については、偶発的な調達と意図的な調達とに区別する。偶発的な生成AIの調達とは、生成AIの使用が調達したものの一部である場合、生成AIが提供されるサービスに補助的に使用されている場合を指す。意図的な生成AIの調達とは、生成AI使用が必要な場合に特定の生成AI製品を調達する場合のこと。

また、よく使用される生成AI技術の例として、テキストや画像、ビデオの生成は広報やキャンペーン、データの可視化に使用できるとする。想定される利用方法として、州民の質問に答えるチャットボット、保険申請や確定申告などの分析データの応用、公的プログラムをパーソナライズして提案、業務に必要なソフトウエアのコード生成、一般の意見や検索を政策形成に反映などの可能性を挙げている。

州政府当局は生成AI製品を継続的に監視、評価する経営陣を指名し、訓練（注）を受けることとされる。特に意図的な生成AI製品を購入する際は、生成AIが課題解決に資するために十分な市場調査の実施を要する。生成AIの利用に際し、評価の過程には人間が関与することを推奨しているほか、生成AIの使用に関して、州技術省への報告が義務付けられている。

（注）3月29日から州当局者は「州職員のための生成AI調達にかかわる訓練」プログラムにアクセスでき、調達手続きに関するリスク評価に対しては、生成AIツールキットがカリフォルニア州技術省より提供されている。

（松井美樹）