「生成AIガバナンス検討会」は、生成AIの適切な利活用を促進するための基本原則の策定に向けた取り組みを開始します

生成AIは、従来のAIよりも高い自然言語処理能力を有しており、幅広い分野に関する文書作成や画像生成に用いることができる汎用性や、自然言語による指示が可能であることなどから、社会におけるAIの利活用場面を大きく拡張するものとして注目を集めています。一方、もっともらしい虚偽情報の作成、学習データに含まれる不公平性や偏見の増幅、既存コンテンツと類似したコンテンツを作成してしまうことによる知的財産権の侵害など、生成AIの活用に伴うリスクも懸念されるようになりました。

　このような状況を踏まえ、現在、世界中で生成AIに関する規制やルール作りの必要性が指摘されています。2023年5月に広島で開催されたG7サミットでは、生成AIのガバナンスや責任ある利用に関する国際協力枠組みである「広島AIプロセス」を年内に創設することが公表されました。他方で、強すぎる規制を拙速に構築することで、イノベーションが阻害されたり、生成AIの利用が過度に制限され、生産性向上に悪影響が生じたりする可能性も懸念されています。このため、顕在化したリスクを注視しつつ、生成AIが与えうる社会的便益も考慮した規制やルール作りが求められています。

　生成AIが注目を集める以前から、AIに関するリスクや、それを適正に取り扱うための規制やルールの必要性については、「責任あるAI」の問題として国内外で検討が行われてきました。その際には、AIの出力根拠の説明が容易でなく、挙動・結果の制御が容易ではないこと、アルゴリズムが学習によって常にアップデートされていくこと、AIサービスには、学習データの提供者・AIの開発者・AIサービスの提供者などの多くのステークホルダーが関与するため各者が取り組むべき事項を特定しがたいことなど、AIガバナンスの様々な課題が指摘されてきました。

　生成AIは、従来のAIと比べて、学習データやパラメータの量が膨大であり、かつ消費者自身がコンテンツの生成に関与するなどステークホルダーの数や種類も増加するため、上述のようなAIガバナンスの課題を一層複雑にしています。

　このような特徴をもつ生成AIのリスクを適切にマネジメントし、生成AIが社会にもたらす価値を最大化するためには、一律で硬直的な規制を課すのではなく、まずは適切な利活用のためのガイドラインやガイダンスを作り、それでは対処できないリスクについてのみ規制・政策での対応を進めることが適切と考えられます。そのような生成AIガバナンス体系の構築に向けて、まずは通底する包括的な原則の確立が重要です。そこで、「生成AIガバナンス検討会」では、生成AIの利活用に向けた基本原則を策定することといたしました。その際、特に以下の論点に着目して検討を進める予定です。

・生成AIと従来のAIとの相違点は何か、それによるリスクの差異は何か。
・生成AIのバリューチェーン上には、どのようなステークホルダーがいるか（生成AI提供者、強化学習関与者、生成AI利用事業者、消費者など）。
・各ステークホルダーが、生成AIの適切な利活用のためにどのような役割を担うべきか。
・各ステークホルダーが上記の役割を果たすために、専門家の関与、規制、標準・認証、制裁・責任、救済等に関する社会制度をどのように設計すべきか。　

　これらの観点について、OECD AI原則や、我が国の人間中心のAI社会原則など、これまでAIガバナンスの国内外での議論の成果を踏まえつつ、2023年のG7でで合意されたように、状況の変化に応じてガバナンスを継続的に改善・更改できるような、アジャイルかつマルチステークホルダーによるガバナンスの仕組みを検討して参ります。

　本原則については、2023年夏頃に草案を作成し、その後、多くのステークホルダーからご意見を募ることを予定しています。

【生成AIガバナンス検討会　構成員（五十音順）、★は事務局兼務】 

稲谷龍彦（京都大学大学院法学研究科教授）　★
落合孝文（渥美坂井法律事務所・外国法共同事業プロトタイプ政策研究所/スマートガバナンス株式会社）★
栗原聡（慶應義塾大学理工学部管理工学科教授）
クロサカタツヤ（慶應義塾大学大学院政策・メディア研究科特任准教授/株式会社企）　★
羽深宏樹（京都大学大学院法学研究科特任教授/スマートガバナンス株式会社）　★
松本敬史（東京大学未来ビジョン研究センター客員研究員/デロイトトーマツコンサルティング）
吉永京子（ジョージタウン大学ローセンター・テクノロジー法政策研究所シニアフェロー）

【本件に関するお問合せ】
generative-ai-governance@googlegroups.com