デジタル庁が10月20日に公表した「源内基準」は、政府職員などの利用者に、AIの処理の適切な段階で必要な確認や判断を行うよう求めた。AIエージェント環境「エージェントチャット」では、外部への発信に必要な確認・承認を経ることも定めた。
正式名は「ガバメントAI 源内 ガバナンス・セキュリティ・セーフティに関する基準」。源内の利用者・管理者・開発者それぞれの責務と遵守事項を定めた。
約18万人を対象に、2種類の利用環境を提供
AIエージェント利用環境の対象は約18万人の政府職員。手軽に作成・実行できる「エージェントチャット」は10月20日から各府省庁などへ順次導入している。高度なAIエージェントを構築・実行できる「源内工房」は、12月ごろまでの導入を目指す。
職員が業務の途中で確認や判断に関わる
源内基準は、利用者が守る基本原則として、「AIによる処理をそのまま受け入れるのではなく、AIを用いた業務プロセスの適切な段階に関与し、必要な確認、判断、承認、修正、監督又は停止を行うこと」と定めた。あわせて「AIの出力結果を職員が確認しないまま、行政資料や公文書への直接の転記はしないこと」とした。
対応の例としては、連続する処理のうち重要なものの前に確認または承認を行うことや、ファイルの更新・削除など影響の大きい処理の実行可否を職員が判断することを挙げた。
外部発信の前に根拠や宛先を確認する
エージェントチャットでは、生成された内容や処理結果の根拠資料、数値、引用、法令、宛先などを利用者自身が確認し、外部への発信には必要な確認・承認を経るよう求めた。不適切な判断や指示の影響が、後続の複数の処理に連鎖するおそれがあるとも説明している。生成AIの出力全般についても、重要な情報は一次資料で確かめるよう定め、数値や固有名詞、出典を十分に確認する情報の例に挙げた。
源内基準が対象とするのは源内を使う政府職員らで、民間事業者に遵守を求めるものではない。デジタル庁は、導入を検討する自治体や民間事業者にもモデルケースとして参考にしてもらえるとしている。
広報の視点
源内基準は、エージェントチャットの利用者自身が根拠資料や数値、引用、宛先などを確かめ、外部への発信は必要な確認・承認を経るよう求めました。このように確かめる対象を具体的に挙げておくと、広報部門でAIの下書きを使うときの目安になります。リリースの配信前に数字や固有名詞、リンクを元資料と照らす場面で、基準の例示を確認項目に使えます。どこまで確かめたかを承認者と共有でき、AIの下書きを使った原稿でも根拠を説明しやすくなります。
出典：デジタル庁（AIエージェント利用環境の提供開始と「源内基準」の公表、10月20日） ／ デジタル庁（源内基準 第1版 PDF）
