News Release

京都大学大学院・デロイト トーマツ・渥美坂井法律事務所プロトタイプ政策研究所が対話型AIの共同研究開発を開始

京都大学大学院法学研究科の稲谷教授のように振舞う対話型AIであるデジタルヒューマンの開発および学生、若手専門家の指導・育成や法律相談への活用についての研究を開始

国立大学法人京都大学（京都府京都市、総長：湊 長博、以下「京都大学」）、デロイト トーマツ グループ（東京都千代田区、グループCEO：木村研一、以下「デロイト トーマツ」）と渥美坂井法律事務所・外国法共同事業（東京都千代田区、代表社員弁護士：渥美博夫、以下「渥美坂井法律事務所」）プロトタイプ政策研究所は、大規模言語モデル（LLM）を活用した対話型AIの研究開発を共同で開始します。具体的には、特定の人物の著書や思考法を学習させ、その人物のように振舞うデジタルヒューマンの教育、OJT、法律相談等の現場での活用とリスクの研究を行います。

開発にあたっては京都大学大学院法学研究科の稲谷教授の授業の講義録や論文等の知識情報を収集し、大規模言語モデル（LLM）モデルにその知識を反映させることで、稲谷教授本人のように振舞う対話型AIであるデジタルヒューマン、すわなち「デジタルINATANI」の実現を目指します。本研究開発において、主に京都大学大学院は、論文や講義録といったデータ、実験の場の提供やプロジェクト全般の運営・各種調整を実施し、デロイト トーマツは対話型AIモデルの実装、性能評価、リスクチェーンモデルを用いた教育の現場における対話型AI利活用に伴うリスクおよび対策の検討を行います。また、渥美坂井法律事務所は、法律面での観点からサポートや、AIモデルの質的評価を行います。

教育現場における対話型AIの実証実験を通して、デジタルINATANIが稲谷教授の知を再現できているかと言う検証に限らず、稲谷教授以外の専門家の再現についても研究し、学生や若手弁護士を含めた法務分野等の専門家が対話型AIを信頼して適切に利用するためのリスク対策についても検討し、企業、法律事務所の法務・リスク管理分野の業務への応用実験も実施する予定です。この研究開発を通じて、特定の専門家個人の知識をAIに反映させることにより、専門家の負担軽減を行うだけではなく、多くの人が専門家の知識を獲得する機会の拡大が期待されます。

　大規模言語モデル（LLM）の登場で教育や専門的な業務領域の在り方が大きく変化し、どのように個々のニーズに合致した信頼性の高いAIを開発するかについて疑問が投げかけられています。また、現在普及しているオープンなAIサービスにおいては公開情報から一般的な解を導き出す事ができるものの、より個別具体のトピックに対する答えを非公開情報も参考にして導き出すには限界やリスクがあるという側面もあります。

そうした中で法学という専門的な領域の中で特定の人物の講義録や論文などの非公開情報を学習した対話型AIを開発することで、より個別具体な「学生の指導」や「法律相談」というトピックに対しても最適な解を導き出すことを本共同研究開発の目的としています。こうした研究開発の先には時間的・経済的な制約にとらわれない教育や法律サービスの実現を見据えています。

開発した対話型AIについては京都大学法学部および大学院法学研究科の学生の方の協力のもと、その有効性を検証します。まず開発した対話型AIを用いて法学研究科の学生と対話を実施し、対話相手をランダムに稲谷教授本人と対話型AIに切り替え、学生がどちらからの発話であると認識するかについてテストを実施します。さらに対話相手の各発言に対して「信頼（納得）できる内容かどうか」、「自身の勉強（成長）につながる発言かどうか」を評価することでモデルの有効性を検証し性能の改善を行います。

　また、開発した対話型AIは学生だけではなく、渥美坂井法律事務所プロトタイプ政策研究所の所属弁護士および外部有識者等の法律等の専門家による検証も行い法務、リスク管理業務における妥当性についても検証を行います。主な評価項目として「選択する言葉の正確性」「説明のロジカルさ」「参照する情報の正確性」などを用いて法務・リスク管理分野の業務などへの応用がどの程度可能かについても有効性を検証し、性能の改善を行います*。なお、本研究におけるリスクのコントロールについてはリスクチェーンモデルと呼ばれる検討モデルを用いて、本サービスで起こりうるリスクのシナリオを学生を含む複数のステークホルダーとともに包括的に検討を行います。

* 弁護士法72条の範囲内での利用を前提

京都大学法学研究科　稲谷龍彦教授について

　本研究に参画する京都大学法学研究科の稲谷龍彦教授は、法務博士（京都大学）であり専門は刑事学で、グローバル化する企業犯罪や科学技術と法規制のあり方について研究しています。今回の研究では、稲谷教授自身のように振舞う対話型AI（デジタルヒューマン）の研究開発・活用にむけて、自身の論文や講義録などの既存の大規模言語モデル（LLM）が学習していない非公開データを提供しています。

デロイト トーマツ グループについて

　デロイト トーマツ グループは、日本で最大級のプロフェッショナルグループのひとつであり、監査・保証業務、リスクアドバイザリー、コンサルティング、ファイナンシャルアドバイザリー、税務、法務等を提供しています。本研究では、AIに関する研究組織であるDeloitte AI Instituteの知見を活用し、AI開発およびリスクの検討・対策を支援します。

渥美坂井法律事務所プロトタイプ政策研究所について

　プロトタイプ政策研究所は、渥美坂井法律事務所・外国法共同事業に所属する落合孝文弁護士を所長とし、同事務所に所属する弁護士のほか、様々な企業・団体・公的機関等における経験を有する有識者の方々が参画し、政策・制度・実務に関して、ユーザー側の視点を踏まえて、公的機関・民間の双方が取り組めていない我が国の政策と実務の架け橋を作ること及び検討課題とされるべき研究成果や提言の発信を行うことを目的とする研究所です。

■お問い合わせ

＜報道機関の方からの問い合わせ先＞

京都大学大学院法学研究科附属法政策共同研究センター事務室

Tel: 075-753-3159　Email: 030houseisaku@mail2.adm.kyoto-u.ac.jp

デロイト トーマツ グループ広報担当　内山、菊池

Tel: 03-6213-3210　Email: press-release@tohmatsu.co.jp

渥美坂井法律事務所プロトタイプ研究所　広報担当　降籏

Tel: 03-5501-2211　Email: public-inst.regular@aplaw.jp

法政策共同研究センターでは、下記のとおり、Exploring the Rule of Law in Digitalized Society JST-ESRC Joint Research Symposium を開催することになりました。ぜひ奮ってご参加ください。

Kyoto University Summer Camp on Governance Innovation: July 4- July 7 2023

[The application for this event is closed.]

The Kyoto University Center for Interdisciplinary Studies of Law and Policy (CISLP) will host the Summer Camp on Governance Innovation (pilot program) to explore new governance models to make our society more democratic, human-centered, and sustainable through innovation.

Event Title: Kyoto University Summer Camp on Governance Innovation (pilot program)

Program Period: July 4, 2023 – July 7, 2023

Delivery Method: On-site

Location: Genhouin, Kyoto (Link) 77 Hoshoji-cho, Okazaki, Sakyo-Ku, Kyoto 606-8333

Language: English

Qualification (recommended): English proficiency, Practical experience in law, public policy, risk management, engineering, or other related areas for 5+ years.

Fee: JPY 35,000 - 40,000 (Approx. USD 260-300) 
*Since this is a pilot program, the tuition is free. The above fee covers the cost of meals and coffee to be provided during the program (the precise amount will be announced to the accepted applicants). Please note that travel expenses and accommodations are not included and must be arranged independently by participants.

Program Capacity: 20

Application form: https://forms.gle/tV75uyJcvJzHzDUr7

Application Deadline: June 23, 2023 (Rolling admission.)

Program Description:
Digital technologies based on AI and data are presenting tremendous benefits to our society, addressing numerous challenges we face. Autonomous robots can mitigate worker shortages by performing labor tasks, smart cities can enhance energy efficiency to make our world more sustainable, and automated government services can swiftly assist those in need.

However, these technologies also pose risks. For example, if governments or certain corporations control these systems, their immense power could jeopardize democratic values. In addition, the dynamic and complex feature of these systems makes it extremely difficult to assess the system risks in advance.

Traditional governance mechanisms – such as regulations, competitions, assurances, property rights, and liability rules – are not optimized for this complex and dynamic digital society. It is crucial to discuss how to innovate governance holistically to foster a more democratic and human-centric society while maximizing the positive impact of cyber-physical systems.

Based on similar ambitions and concerns, governance innovation is discussed worldwide, including by the OECD, Agile Nations, and World Economic Forum, to name a few. The common approaches among them are agile, multi-stakeholder governance methods to keep pace with the increasing complexity and dynamism of digital systems. In this regard, the Japanese government has published white papers on governance innovation and agile governance, followed by comprehensive regulatory reform initiatives and practical guidance for businesses.

To explore new governance models for the digitalized society, the Kyoto University Center for Interdisciplinary Studies of Law and Policy (CISLP) will host the Summer Camp on Governance Innovation. Set in a cultural heritage Kyoto, the participants will learn from the state-of-the-art governance initiatives from global leaders, and work on team projects for actual cases.

The goal is to equip participants with the skills to design and implement governance to create a democratic, human-centered, sustainable, and innovative society.

Key Topics:
- Agile Governance for Complex and Uncertain Society
- Promoting Ethical and Responsible Innovation
- Regulatory Governance for Responsible AI
- Fair Competition in Digital Market
- Designing Dispute Resolution Systems
- Sanction and Liability Systems as Incentives of Responsible Innovation

Guest Speakers:
- Mr. Che Chang Deputy General Counsel at OpenAI
- Prof. Daniel Francis New York University, School of Law, Assistant Professor
- Prof. Daisuke Fukamizu Nagashima Ohno & Tsunematsu, Partner / Shinshu University, Research Professor
- Prof. David Leslie Alan Turing Institute, Director of Ethics and Responsible Innovation Research / Queen Mary University of London, Technology and Society The Digital Environment Research Institute, Professor of Ethics
- Prof. Janet Martinez Stanford Law School, Director, Martin Daniel Gould Center for Conflict Resolution
- Prof. Maiko Meguro Director for International Digital Strategy and International Affairs at Ministry of Economy, Trade and Industry, Amsterdam Centre for International Law, Research Fellow
- Prof. Georgios Papakonstantinou European University Institute, School of Transnational Governance, Dean of Executive Education, Professor
- Prof. Andrea Renda European University Institute, School of Transnational Governance, Adjunct Professor

Program Coordinators:
- Prof. Hiroki Habuka Kyoto University Graduate School of Law, CISLP, Research Professor
- Prof. Tatsuhiko Inatnai Kyoto University Graduate School of Law, CISLP, Professor

Contact: summercamp2023_cislp*mail2.adm.kyoto-u.ac.jp (Please replace “*” to “@”)

「生成AIガバナンス検討会」は、生成AIの適切な利活用を促進するための基本原則の策定に向けた取り組みを開始します

生成AIは、従来のAIよりも高い自然言語処理能力を有しており、幅広い分野に関する文書作成や画像生成に用いることができる汎用性や、自然言語による指示が可能であることなどから、社会におけるAIの利活用場面を大きく拡張するものとして注目を集めています。一方、もっともらしい虚偽情報の作成、学習データに含まれる不公平性や偏見の増幅、既存コンテンツと類似したコンテンツを作成してしまうことによる知的財産権の侵害など、生成AIの活用に伴うリスクも懸念されるようになりました。

　このような状況を踏まえ、現在、世界中で生成AIに関する規制やルール作りの必要性が指摘されています。2023年5月に広島で開催されたG7サミットでは、生成AIのガバナンスや責任ある利用に関する国際協力枠組みである「広島AIプロセス」を年内に創設することが公表されました。他方で、強すぎる規制を拙速に構築することで、イノベーションが阻害されたり、生成AIの利用が過度に制限され、生産性向上に悪影響が生じたりする可能性も懸念されています。このため、顕在化したリスクを注視しつつ、生成AIが与えうる社会的便益も考慮した規制やルール作りが求められています。

　生成AIが注目を集める以前から、AIに関するリスクや、それを適正に取り扱うための規制やルールの必要性については、「責任あるAI」の問題として国内外で検討が行われてきました。その際には、AIの出力根拠の説明が容易でなく、挙動・結果の制御が容易ではないこと、アルゴリズムが学習によって常にアップデートされていくこと、AIサービスには、学習データの提供者・AIの開発者・AIサービスの提供者などの多くのステークホルダーが関与するため各者が取り組むべき事項を特定しがたいことなど、AIガバナンスの様々な課題が指摘されてきました。

　生成AIは、従来のAIと比べて、学習データやパラメータの量が膨大であり、かつ消費者自身がコンテンツの生成に関与するなどステークホルダーの数や種類も増加するため、上述のようなAIガバナンスの課題を一層複雑にしています。

　このような特徴をもつ生成AIのリスクを適切にマネジメントし、生成AIが社会にもたらす価値を最大化するためには、一律で硬直的な規制を課すのではなく、まずは適切な利活用のためのガイドラインやガイダンスを作り、それでは対処できないリスクについてのみ規制・政策での対応を進めることが適切と考えられます。そのような生成AIガバナンス体系の構築に向けて、まずは通底する包括的な原則の確立が重要です。そこで、「生成AIガバナンス検討会」では、生成AIの利活用に向けた基本原則を策定することといたしました。その際、特に以下の論点に着目して検討を進める予定です。

・生成AIと従来のAIとの相違点は何か、それによるリスクの差異は何か。
・生成AIのバリューチェーン上には、どのようなステークホルダーがいるか（生成AI提供者、強化学習関与者、生成AI利用事業者、消費者など）。
・各ステークホルダーが、生成AIの適切な利活用のためにどのような役割を担うべきか。
・各ステークホルダーが上記の役割を果たすために、専門家の関与、規制、標準・認証、制裁・責任、救済等に関する社会制度をどのように設計すべきか。　

　これらの観点について、OECD AI原則や、我が国の人間中心のAI社会原則など、これまでAIガバナンスの国内外での議論の成果を踏まえつつ、2023年のG7でで合意されたように、状況の変化に応じてガバナンスを継続的に改善・更改できるような、アジャイルかつマルチステークホルダーによるガバナンスの仕組みを検討して参ります。

　本原則については、2023年夏頃に草案を作成し、その後、多くのステークホルダーからご意見を募ることを予定しています。

【生成AIガバナンス検討会　構成員（五十音順）、★は事務局兼務】 

稲谷龍彦（京都大学大学院法学研究科教授）　★
落合孝文（渥美坂井法律事務所・外国法共同事業プロトタイプ政策研究所/スマートガバナンス株式会社）★
栗原聡（慶應義塾大学理工学部管理工学科教授）
クロサカタツヤ（慶應義塾大学大学院政策・メディア研究科特任准教授/株式会社企）　★
羽深宏樹（京都大学大学院法学研究科特任教授/スマートガバナンス株式会社）　★
松本敬史（東京大学未来ビジョン研究センター客員研究員/デロイトトーマツコンサルティング）
吉永京子（ジョージタウン大学ローセンター・テクノロジー法政策研究所シニアフェロー）

【本件に関するお問合せ】
generative-ai-governance@googlegroups.com

法政策共同研究センター所属教員の稲谷教授及び羽深特任教授が作成をリードした、"Governance Principles for a Society based on CPS"がG7のデジタル・技術大臣会合声明（パラグラフ34及び35）において、参照すべき提案として承認されました。

「2023年6月9日14時から，京都大学ハイデルベルク・オフィス主催，法政策共同センター共催による『私法・国際私法初期キャリア研究者フォーラム』を開催することになりました。使用言語は英語です。ぜひ奮ってご参加ください。

参加を希望される方は，2023年6月2日までに参加登録をお願いいたします。詳細は，下記のポスター及びウェブサイトをご覧ください。」

プログラム

ポスター

ウェブサイト：京都大学ハイデルベルク・オフィス： https://www.huok.uni-heidelberg.de/news_de.html

京都⼤学⼤学院法学研究科附属法政策共同研究センターでは、東京⼤学⼤学院法学政治学研究科先端ビジネスロー国際卓越⼤学院プログラム、九州⼤学⽂系4学部副専攻プログラムと共催で「プラットフォームへの規制のあり⽅を考える学⽣参加型セミナー」を開催することになりました。

開催日時：2022年12月11日（日）午後2時～午後5時

場　　所︓京都⼤学（法科⼤学院棟2階・第⼀演習室教室）及びZoomによるオンラインのハイブリット開催
※現地参加については定員30名程度を予定しております

申込⽅法：2022年12⽉8⽇（⽊）までに以下のフォームよりお申し込みください。
https://forms.gle/KHARBEjub9y9Lk5H6

問い合わせ先：渥美坂井法律事務所・外国法共同事業
プロトタイプ政策研究所・受付担当︓public-inst.contact@aplaw.jp

この度，国際研究推進マネジャー・西谷祐子教授が，当センターの事業として英国国際法及び比較法研究所（BIICL）と推進する「コロナ禍と法の役割――社会的弱者のための保護と復興」に関する共同研究について，日本学術振興会（JSPS）及び英国研究・イノベーション機構（UKRI）による国際共同研究事業としての助成を受けることになりました。本事業には，当センター長及びセンター所属教員のほか，他研究機関所属の法学・経済学・社会学・心理学の専門家が参加し，2021年12月1日から3年間行われます。日本側の助成総額は約2000万円，英国側の助成総額は約40万ポンドを予定しています。

12月17日に児玉実史先生（北浜法律事務所パートナー／弁護士）のご講演会を開催します。日本では近時，国際取引の紛争解決手段としての仲裁及び調停が脚光を浴びており，法改正作業も進んでいます。そこで，弁護士として第一線でご活躍の児玉先生をお招きして，実務の視点から国際仲裁及び調停についてお話しいただきます。

演題：「ひとコマで大づかみ   国際仲裁・調停の基礎とキャリア形成」

講師：児玉実史先生（北浜法律事務所パートナー／弁護士）

日時：２０２１年１２月１７日（金） ５限 （１６：４５～１８：１５）

場所：総合研究２号館   法科第一教室（京都大学・百万遍門を入ってすぐ左側の建物・北側２階） 

日本国際紛争解決センター（JIDRC）講師派遣事業

主催者：法学研究科・山田文教授，西谷祐子教授

共催：法政策共同研究センター（CISPL）

 2021年12月7日に曹勁峰先生（TSANG King-Fung）（香港中文大学法学部・准教授）のご講演会を開催します。曹先生には，国際取引においてよく問題となっているスマートフォン等の技術に関するFRANDライセンスと国際訴訟競合をめぐる法的課題についてお話しいただきます。

演題：「FRANDライセンスをめぐる外国訴訟差止命令と国際オリンピック卓球大会」

講師：TSANG King Fung先生（曹 勁峰 先生）（香港中文大学法学部・准教授）

          【使用言語】英語（通訳なし）

日時：２０２１年１２月７日（火） １８：４５～２０：１５

場所：総合研究２号館   公共第２RPGルーム（京都大学・百万遍門を入ってすぐ左側の建物・南側２階）         

「AI時代の国際私法」に関する研究

主催者：法学研究科・西谷祐子教授

共催：法政策共同研究センター（CISPL）