米カリフォルニア州、州政府機関の生成AI活用に関する報告書を発表

米国カリフォルニア州は11月21日、州政府機関での生成人工知能（AI）活用による損益を分析した報告書を発表した。

報告書はギャビン・ニューサム知事（民主党）が9月6日に発表した州知事令（2023年9月15日記事参照）に基づいて作成されたもの。個人や組織、政府職員などが必要なモノやサービスへのアクセス性を高められるような生成AIの活用方法と、その活用によって生じ得る新たなリスクを分析している。

同報告書では、旧来のAIと生成AIの比較が示された上で、州政府による生成AI導入の利点として、（1）給付金を受けるための登録方法といった、文章をはじめとする情報の要約や分類、（2）政府機関からの連絡の他言語への自動翻訳などによる、住民の情報へのアクセシビリティの改善、（3）税務申告の手続き方法など、個々人に合わせた説明が求められる事項での対話形式での支援、といった用途が挙げられている。

AI利用によって生じるリスクについても、旧来のAIと共通のリスクと、生成AI特有のリスクに分類した上で考察がなされている。中でも生成AI特有のリスクとしては、誤解を招いたり虚偽である情報を生成し、あたかもそれが真実であるかのようにみせる「ハルシネーション（幻覚）」を引き起こす可能性や、医療や公衆衛生などの領域で誤った情報を提供したり、悪意ある利用をされたりすることによって安全の脅威となる可能性、AIの学習のために投入された個人のデータが漏洩（ろうえい）するといったプライバシー侵害の可能性などを挙げている。特にプライバシーの侵害リスクについては、生成AIで作成された文章や音声、映像をそのまま使用しないよう州政府職員やその管理者は留意すること、また、政府支給のデバイスを利用して、グーグルのバードやオープンAIのChatGPTのような無料で誰でもアクセスできるプログラムに、州や州民の機密情報を入れてはいけないことが強調された。

ニューサム知事は同日に発表した声明で、報告書を生成AIの適用範囲とその導入における州の役割を理解するための「重要な第一歩」と位置づけるとともに、「この革新的な技術がもたらすリスクを理解しつつも、その利点を活用するための方法を検討するための、繊細かつ慎重なアプローチを取っている」と述べた。

カリフォルニア州では、ニューサム知事の知事令の下で公共部門の調達や使用、生成AIの活用に必要な訓練に関するガイドラインの作成を進めており、2024年1月の完成を予定している。

（松井美樹）