1 本ガイドラインは、ビジネス分野(注1)における生成AI等技術(以下「AI等」という。)を活用した法務業務支援サービス(以下適宜これらを総称して「AI等法務業務支援サービス」という。)(注2)の提供について、当省が令和5年8月に「AI等を用いた契約書等関連業務支援サービスの提供と弁護士法第72条との関係について」と題して公表したガイドライン(以下「令和5年ガイドライン」という。)における弁護士法(昭和24年法律第205号)第72条の解釈及び判断枠組みを踏まえつつ、AI等の技術の進展や現在普及している、あるいは今後の展開が想定され得るサービスの需要動向や市場動向等に鑑み、同条との関係上、特にその分水嶺となり得る要件に関する解釈指針を補完するとともに、同条及びその趣旨に反しないようにするためのガバナンス上の留意・推奨事項を示すことにより、AI等法務業務支援サービス提供事業者(以下「サービス提供者」という。)がAI等法務業務支援サービスを提供するに当たって、同条に抵触するリスクを回避し、AI等を事業展開に安全に活用できるようにすることを目的とするものである。
令和5年ガイドラインは、AI等法務業務支援サービスのうち、契約書等関連業務支援サービスを例にとり、同条との関係で問題となり得る要件ごとに、「報酬を得る目的」(同ガイドライン1頁から2頁参照)、「訴訟事件…その他一般の法律事件」(同2頁から3頁参照)、「鑑定…その他の法律事務」(同3頁から6頁参照)のほか、当該サービスの提供の相手方(利用者)が誰であるかという観点から、個別に判断上の考慮要素を整理するとともに、通常該当しないと考えられる例と該当し得ると考えられる例を明確化したものであった。
しかしながら、その後のAI等の急速な進展・普及や特にビジネス分野におけるAI等活用の需要の増大等により、法務業務支援の分野においても、次々に新たな業務支援サービスが考案され、サービス提供者等から、令和5年ガイドラインの解釈をめぐって、ビジネス分野における事業者向けのAI等法務業務支援サービスの提供に関する解釈上の疑義に関する照会がなされるなど、更なる規制の緩和や解釈の明確化を望む声が高まっている。
そこで、本ガイドラインにおいては、令和5年ガイドラインの解釈を前提としつつ、実務上、特に懸念が生じやすい、弁護士又は弁護士法人でないサービス提供者が、営利、すなわち「報酬を得る目的」で、弁護士又は弁護士法人でない企業その他の事業者であるサービス利用者(以下単に「サービス利用者」という。)に対して、鑑定、代理、仲裁若しくは和解その他の法律事務(以下適宜これらを総称して「鑑定…その他の法律事務」という。)を行い得る機能を有するAI等法務業務支援サービスを提供する場合(いわゆる汎用型AIのサービス提供者が、報酬を得る目的で、サービス利用者に対して、「鑑定…その他の法律事務」を行い得る機能を有するサービスを(業として)提供する場合を含む。)を念頭に置いて、とりわけ、どのようなときに
サービス提供者が同条に違反して「訴訟事件、非訟事件及び審査請求、再調査の請求、再審査請求等行政庁に対する不服申立事件その他一般の法律事件」(以下適宜これらを総称して「訴訟事件…その他一般の法律事件」という。)に関して「鑑定…その他の法律事務」を業として取り扱ったと指摘され得るのかという点にしぼって、判断上の考慮要素に関する考え方を改めて整理・補完し、通常該当しないと考えられる例と該当し得ると考えられる例を示すとともに、このようなサービスの提供が、同条及びその趣旨に反するような事態を招来しないようにするためのガバナンス上の留意・推奨事項に関する指針を定めるものである(注3)。
(注1)本ガイドラインにおける「ビジネス分野」とは、主として企業等の事業者(法人その他の団体及び事業として又は事業のために契約の当事者となる場合における個人をいう。)が自己の事業活動に関連して利用するAI等法務業務支援サービスの提供場面を指しており、消費者(個人であり、事業として又は事業のために契約の当事者となる場合におけるものを除く。)を主たる対象とするサービスについては、別途の考慮が必要となる場合があることに留意する必要がある。
(注2)本ガイドラインは、生成AIだけでなくその他プログラムを含む様々なデジタル技術が活用されることが想定されるため、そのことを示す趣旨で「生成AI等技術」としており、本ガイドラインでは、以下「AI等」と略称する。
また、本ガイドラインは、エンドユーザーに対して直接サービスを提供するサービス提供者を主たる対象とするものであるが、API(Application Programming Interface(アプリケーション・プログラミング・インターフェース))等を通じて他のサービス提供者に対してAI等の機能を用いた法務業務支援サービスを提供する事業者についても、当該API等の利用目的・利用態様を認識し得る場合には、本ガイドラインの趣旨が及び得ることには留意する必要がある。
(注3)本ガイドラインは、令和5年ガイドラインを補完・拡充するものであり、令和5年ガイドラインと併せて参照されるべきものである。その上で本ガイドラインが令和5年ガイドラインの内容を補完・拡充している部分については、本ガイドラインによるものとする。
2 したがって、本ガイドラインは、令和5年ガイドラインで示した「報酬を得る目的」(同ガイドライン1頁から2頁参照)、「訴訟事件…その他一般の法律事件」(同2頁から3頁参照)、「鑑定…その他の法律事務」(同3頁から6頁参照)等の弁護士法第72条の個別の要件に関する基本的解釈や、これまで判例等で示された同条の解釈そのものを変更するものではない。
また、同条で禁止される、いわゆる「非弁行為」に該当するか否かは、同条が罰則の構成要件を定めたものである以上、個別の事件における具体的な事実関係を前提として、同条の趣旨(最高裁判所昭和46年7月14日大法廷判決・刑集25巻5号690頁等で示されたもの。以下同判決を「最高裁昭和46年判決」という。)に照らして判断されるべき事柄であって、同条の解釈・適用は、最終的には法と証拠に基づく裁判所の判断に委ねられるということについても、同様である。
第2 AI等法務業務支援サービスの提供の場面における「訴訟事件…その他一般の法律事件」に関する「鑑定…その他の法律事務」取扱該当性
1 AI等を用いたサービス提供の場面における規制対象行為の主体についての基本的な考え方
弁護士法第72条は、罰則の構成要件を定めたものであり、対象となるのは、もとより人の行為である。
AI等法務業務支援サービスに関して、現在サービス展開されている一般的な同種サービスの提供形態等を踏まえる限りにおいては、AI等に与える指示や質問の文章(以下「プロンプト等」という。)の入力を行い、そのプロンプト等に従ってAI等に自動的に出力結果を生成・表示させることなどの当該サービスの具体的な利用方法に関する最終的な判断は、基本的に、サービス利用者に委ねられている。
もっとも、契約の目的、提供するサービスの内容・形態、契約当事者の関係、契約に至る経緯やその背景事情等諸般の事情を考慮した事実認定の問題ではあるが、特にサービス提供者によりサービス利用者に対して当該サービスが主体的・継続的に提供されていると勘案される状況において、例えば、当該AI等法務業務支援サービスに、サービス利用者によって入力されるプロンプト等に応じて自動的に法的観点の指摘、法的助言等の「鑑定…その他の法律事務」を提供することが目指された技術・機能等が備え付けられ、あるいは組み込まれているなどの場合においては、サービス利用者が自己の「鑑定…その他の法律事務」に関連する事柄を処理するために当該利用者がプロンプト等を入力するなどして当該サービスを利用することは、当該サービス提供
の性質上、当然に行われることが想定されているサービス提供者側が企図していた法務業務支援の契機となるものにすぎないと考えられる。
したがって、このような場合においては、当該サービス提供者の観点からすれば、サービス利用者の「鑑定…その他の法律事務」に関連する事柄を処理するために当該利用者がプロンプト等を入力するなどして当該AI等法務業務支援サービスを利用する行為は、サービス提供開始時点において、当該サービス提供の性質上の当然の因果経過として、サービス提供者がサービスの設計から提供を通じて実質的に主導・企図しているものといい得るから、規範的に評価すれば、プロンプト等の入力によりAI等により自動的に出力結果を生成し表示させるサービス利用者側の行為も含めて、サービス提供者の行為であると評価され得るものと考えられる(わいせつ電磁的記録等送信頒布等事件に関する最高裁判所平成26年11月25日第三小法廷決定・刑集68巻9号1053頁参照。以下同決定を「最高裁平成26年決定」という。)(注4)。
(注4)最高裁平成26年決定は、わいせつな動画ファイルを記録した電磁的記録媒体の頒布に関し、ウェブサイトの運営者が、会員から投稿されたわいせつな動画ファイルを自動的に変換・保存し、会員である顧客がダウンロードできる状態に置き、不特定多数である顧客が同動画を入手するためには、顧客によるダウンロード操作が必要である場合において、当該運営者が自らわいせつな電磁的記録を「頒布」したと評価できるかが争点の一つとされた事案において、「被告人らが運営する前記(本件)配信サイトには、インターネットを介したダウンロード操作に応じて自動的にデータを送信する機能が備え付けられていたのであって、顧客による操作は被告人らが意図していた送信の契機となるものにすぎず、被告人らは、これに応じてサーバコンピュータから顧客のパーソナルコンピュータへデータを送信したというべきである。したがって、不特定の者である顧客によるダウンロード操作を契機とするものであっても、その操作に応じて自動的にデータを送信する機能を備えた配信サイトを利用して送信する方法によってわいせつな動画等のデータファイルを当該顧客のパーソナルコンピュータ等の記録媒体上に記録、保存させることは、刑法175条1項後段にいうわいせつな電磁的記録の『頒布』に当たる。」と判示している。
そして、同決定に関する最高裁判所判例解説(刑事篇・平成26年度)343頁及び344頁が「本決定は、被告人らが運営する本件配信サイトには、インターネットを介したダウンロード操作に応じて自動的にデータを送信する機能が備え付けられていたのであって、本決定も指摘するこれらの事実関係の下、規範的に評価すれば、わいせつな電磁的記録が顧客の記録媒体に記録、保存されたことは、被告人らの行為によるものと端的にいえるものと判断し、顧客の行為を実行行為の一部に取り込んだり、間接正犯の道具と捉えたりする必要はないと考えたものと理解される。
…(中略)…なお、このように評価できるのは、顧客によるダウンロード操作が当初から織込済みの介在事情であったからであり、被告人らが意図せぬかたちでわいせつな電磁的記録が送信された場合には、頒布に当たらないとの評価になるものと思われる。」と言及している点に留意を要する。
2 AI等を用いたサービス提供の場面における「事件性」のある案件に関する「鑑定…その他の法律事務」取扱該当性についての基本的な考え方
(1) 「訴訟事件…その他一般の法律事件」の意義
○事件性
弁護士法第72条は、弁護士又は弁護士法人でない者が報酬を得る目的で「訴訟事件…その他一般の法律事件」に関して「鑑定…その他の法律事務」を取り扱い、又はこれらの周旋をすることを業とすることを禁止しており、ここにいう「法律事件」とは、法律上の権利義務に関し争いや疑義があり、又は新たな権利義務の発生する案件をいうものと解される。
その上で、同条の「訴訟事件…その他一般の法律事件」に該当するというためには、同条本文に例示列挙されている「訴訟事件、非訟事件及び審査請求、再調査の請求、再審査請求等行政庁に対する不服申立事件」、及びこれらに準ずる程度に法律上の権利義務に関し争いがあり、あるいは疑義を有するなど、法的紛議が生じることがほぼ不可避に想定され得る案件であるという、いわゆる「事件性」(以下適宜「事件性」という。)が必要であると考えられる(弁護士法違反事件に係る最高裁判所平成22年7月20日第一小法廷決定・刑集64巻5号793頁等参照。以
下同決定を「最高裁平成22年決定」という。)(注5)。
そして、この「事件性」については、個別の事案ごとに、契約の目的、契約当事者の関係、契約に至る経緯やその背景事情等の諸般の事情を考慮して判断されるべきものと考えられる(令和5年ガイドライン2頁参照)。
(注5)最高裁平成22年決定は、弁護士資格等がない者らが、ビルの所有者から委託を受けて、そのビルの賃借人らと交渉して賃貸借契約を合意解除した上で各室を明け渡させるなどの業務を行った行為について、弁護士法第72条違反の成立が争われた事案につき、「このような業務は、賃貸借契約期間中で、現にそれぞれの業務を行っており、立ち退く意向を有していなかった賃借人らに対し、専ら賃貸人側の都合で、同契約の合意解除と明渡しの実現を図るべく交渉するというものであって、立ち退き合意の成否、立ち退きの時期、立ち退き料の額をめぐって交渉において解決しなければならない法的紛議が生ずることがほぼ不可避の案件に係るものであったことは明らかであり、弁護士法72条にいう『その他一般の法律事件』に係るものであったとい
うべきである。」と判示している。
もっとも、「事件性」の要否及びその程度については、様々な見解があり得るところであり、結局は、個別の事案によるものであるが、本ガイドラインにおいては、「事件性」に関するこれまでの当省の立場(事件性必要説)を踏襲しつつ、同決定を参考に、以下「事件性」のある案件の当否の判断につき、法的紛議が生じることがほぼ不可避に想定され得るか否かという基準を用いている。
(2) サービス提供者の「事件性」のある案件に関する「鑑定…その他の法律事務」取扱該当性の判断基準
ア サービスの設計・機能に関して考慮すべき基本的な考え方
この点に関して、AI等法務業務支援サービス提供の場面においては、契約の目的、提供するサービスの内容・形態、契約当事者の関係、契約に至る経緯やその背景事情等諸般の事情を考慮して個別具体的に判断する必要があるものの、一般的には、サービス利用者がサービス提供者から提供されたAI等法務業務支援サービスを「事件性」のある案件に関する「鑑定…その他の法律事務」の用途で利用するか否かは、前記第2・1で触れたように、サービス利用者がチャットインターフェース(対話型画面)等を介して入力するプロンプト等に依存することになる。
このように、前記第2・1のように、サービス利用者が当該サービスを利用することによる「鑑定…その他の法律事務」の取扱いについて、サービス提供者が当該行為の主体であると評価され得る場合であっても、サービス提供者が「事件性」のある案件に関する「鑑定…その他の法律事務」にも、それには当たらない業務にも利用可能なAI等法務業務支援サービスを提供しているといい得るようなときには(例えば、そもそも「事件性」のある案件に関する「鑑定…その他の法律事務」に利用させることを目指して設計されたサービスでないとき等。
以下「価値中立的なサービス提供」という。)、単に当該サービスが「事件性」のある案件に関する「鑑定…その他の法律事務」に利用される一般的可能性があることだけを捉えて、結果としてサービス利用者が自律的判断で当該サービスを「事件性」のある案件に関する「鑑定…その他の法律事務」に利用したという、サービス提供者にとって他律的・事後的要素により、サービス提供者が「事件性」のある案件に関して鑑定…その他の法律事務」を取り扱ったり、すなわち弁護士法第72条所定の「訴訟事件…その他一般の法律事件」に関して「鑑定…その他の法律事務」を取り扱ったと評価することは、責任主義の観点からも困難であるものと解される(注6)。
換言すれば、前記第2・1の整理を踏まえると、サービス提供者が「事件性」のある案件に関する「鑑定…その他の法律事務」を取り扱ったというためには、サービス利用者に対するサービス提供開始時点で、例えば、サービス利用者が当該AI等法務業務支援サービスを「事件性」のある案件に関する「鑑定…その他の法律事務」に利用することが、サービスの設計・機能に照らして具体的かつ現実的な可能性として当然に想定されている場合など、当該サービス提供の性質上、サービス利用者側の行為がサービス提供者側が企図していた法務業務支援の契機となるものにすぎないといえる事情が必要であると考えられる。
具体的には、提供する当該AI等法務業務支援サービスの目的や中核的機能・設計、用いられている技術等の特性及び内容、さらにはサービス利用者の属性、リテラシーや利用目的等のサービス利用者側の事情等の諸般の事情を勘案して判断されるべきものであると考えられる。
(注6)いわゆる(価値)中立的行為による著作権法違反幇助事件に係る最高裁判所平成23年12月19日第三小法廷決定(刑集65巻9号1380頁。以下同決定を「最高裁平成23年決定」という。)は、ソフト自体が適法な用途にも違法な用途にも利用できる価値中立的なソフトであること(ソフト自体に適法利用の有用性もあり、違法用途に特化したソフトではないこと)を判断の前提とした上で「…ソフトの開発行為に対する過度の萎縮効果を生じさせないためにも、単に他人の著作権侵害に利用される一般的可能性があり、それを提供者において認識、認容しつつ当該ソフトの公開、提供をし、それを用いて著作権侵害が行われたというだけで、直ちに著作権侵害の幇助行為に当たると解すべきでない。」と判示している。
イ サービスの用法に関して考慮すべき基本的な考え方
このように「事件性」のある案件に関する「鑑定…その他の法律事務」に利用されることを当然の前提としない、価値中立的なサービス提供と評価し得るような場合においては、サービスの設計・機能上は、サービス利用者による「事件性」のある案件への利用が当然に行われることは想定されておらず、基本的には、こうしたサービス利用者側の行為についてサービス提供者側が企図していた法務業務支援の契機となるものにすぎないとの評価は困難である場合が多いものと考えられる。
もっとも、前記第2・1の整理を踏まえると、このようにサービスの設計・機能上、価値中立的なサービス提供と評価し得る場合であっても、例えば
〇 こうしたサービスが現に「事件性」のある案件に関する「鑑定…その他の法律事務」に利用されていること、又はその具体的可能性を認識・認容してサービスを提供し、実際に当該サービスが「事件性」のある案件に関する「鑑定…その他の法律事務」に利用されていると認められるとき
〇 当該サービスの性質、サービス利用者による客観的な利用状況、提供方法等に照らして、サービス利用者のうち例外的とはいえない範囲の者が同サービスを「事件性」のある案件に関する「鑑定…その他の法律事務」に利用する蓋然性が高いと認められる状況下において、サービス提供者もそのことを認識・認容しながらサービスを提供し、実際に当該サービスが「事件性」のある案件に関する「鑑定…その他の法律事務」に利用されていると認められるときには、当該サービスの提供形態や用法に照らせば、当該サービス提供の性質上、サービス利用者側の行為がサービス提供者側が企図していた法務業務支援の契機となるものにすぎないと評価し得るから、サービス提供者が「事件性」のある案件に関する「鑑定…その他の法律事務」の取扱主体として、弁護士法第72条違反の責任を問われるおそれは否定されないものと考えられる(注7)(注8)。
(注7)最高裁平成23年決定は、前掲(注6)に続けて「かかるソフトの提供行為について、幇助犯が成立するためには、一般的可能性を超える具体的な侵害利用状況が必要であり、また、そのことを提供者においても認識、認容していることを要するというべきである。すなわち、ソフトの提供者において、当該ソフトを利用して現に行われようとしている具体的な著作権侵害を認識、認容しながら、その公開、提供を行い、実際に当該著作権侵害が行われた場合や、当該ソフトの性質、その客観的利用状況、提供方法などに照らし、同ソフトを入手する者のうち例外的とはいえない範囲の者が同ソフトを著作権侵害に利用する蓋然性が高いと認められる場合で、提供者もそのことを認識、認容しながら同ソフトの公開、提供を行い、実際にそれを用いて著作権侵害(正犯行為)が行われたときに限り、当該ソフトの公開、提供行為がそれらの著作権侵害の幇助行為に当たると解するのが相当である。」としている。
その上で、同決定に係る事案の当てはめにおいては、提供者が現に行われようとしている具体的な違反行為を認識、認容しながら、当該ソフトの公開、提供を行ったものではないことは明らかである一方、ソフトとしての性質や、当時の客観的利用状況、ソフト提供者が対象を限定せずに、無償かつ継続的にソフトを提供していたことなどに照らして、当該ソフトの公開、提供行為は、客観的に見て、例外的とはいえない範囲の者がそれを違反行為に利用する蓋然性が高い状況の下での公開、提供行為であったことは否定できないとしつつも、この点に関するソフト提供者の主観面をみると、本件ソフトを公開、提供するに際し、本件ソフトを違反行為のために利用するであろう者がいることや、そのような者の人数が増えてきたことについては認識していたとは認められるものの、いまだ、同ソフトを違反行為のために利用する者が例外的とはいえない範囲の者にまで広がっており、本件ソフトを公開、提供した場合に、例外的とはいえない範囲の者がそれを違反行為に利用する蓋然性が高いことを認識していたとまで認めるに足りる証拠はないと認定し、犯罪の成立を否定している。
(注8)もっとも、サイバー空間においてサービス利用者の物理的操作行為を含めてサービス提供者の行為として規範的に評価した事案に係る最高裁平成26年決定(注4)を前提とした上で、最高裁平成23年決定が幇助犯としての責任が問われた事案で前掲(注6)(注7)のように判示していることからすると、特にサービスの設計・機能上は、「事件性」のある案件への利用が当然に行われることが想定されていない価値中立的なサービスを提供しているサービス提供者について正犯としての責任を問う局面においては、正犯としての責任を基礎づけるに足りる事情が必要であり、少なくとも最高裁平成23年決定が考慮した要素につき同様以上のことがいえる状況になければ、刑事責任を問うことは困難であると考えるのが自然であるものと解される。
ウ 以上の考え方を踏まえたサービス及び機能設計上の留意点
以上の考え方を前提に、現状のAI等の性能、AI等法務業務支援サービスの実状等を踏まえて整理すると、サービス提供者によるAI等法務業務支援サービスの提供が「事件性」のある案件に関して「鑑定…その他の法律事務」を取り扱うものといえるか否かの分水嶺としては、まずは、当該サービスがその設計・機能上、価値中立的なサービス提供であるといい得るかどうかが重要であると考えられる。
具体的には、例えば、①提供するサービスの設計、中核的機能、用いられている技術等が、法的紛議が現に顕在化している案件や法的紛議が生じることがほぼ不可避に想定され得る案件に関する「鑑定…その他の法律事務」に利用させることを目指したものでなく、②また、こうした案件に関する「鑑定…その他の法律事務」への利用に特化した、あるいは特化しているとまではいえなくても、「事件性」のある案件に関する「鑑定…その他の法律事務」への利用が念頭におかれた特性・機能等(注9)を具有するものではないサービス提供行為は、サービスの設計・機能上、価値中立的なサービス提供行為といい得るものと考えられる。
そして、このように①及び②の要件を充足することにより価値中立的なサービス提供行為であるといい得る場合においては
〇 法的紛議が現に顕在化している案件や法的紛議が生じることがほぼ不可避に想定され得る案件について法的助言を行うものではないことや必要に応じて弁護士等への相談が必要となる旨等の注意・警告内容を明示する
〇 サービス利用者による「事件性」のある案件に関する「鑑定…その他の法律事務」への利用動向を把握した際(注 10)には、弁護士への相談が必要である旨を確実に案内するなどの本ガイドラインの後記第3・2のガバナンス措置を講じるなどして、サービス利用者による不適切な利用を回避するための適切な体制を整備しているといい得るとき(③)には、もとより当該サービスの性質、サービス利用者による客観的な利用状況、提供方法など個別の事案によるものの、一般的には、当該サービス提供者によるサービス提供行為は、客観的に見て、サービス利用者のうち例外的とはいえない範囲の者が同サービスを「事件性」のある案件に関する「鑑定…その他の法律事務」に利用する事態を企図してサービス提供を行っているものではないと評価し得、「事件性」のある案件に関する「鑑定…その他の法律事務」への不適切な利用の蓋然性を低減してサービスの価値中立性を補完するとともに、サービス利用者によるこのような不適切な利用の蓋然性が高いことの認識・認容を否定する方向に働くものと考えられる(注 11)(注 12)。
(注9)ここにいう「 『事件性』のある案件に関する『鑑定…その他の法律事務』への利用が念頭におかれた特性・機能等」とは、単にファイルをアップロードし、それに関してプロンプト等を自由に入力できるチャットボット機能等の範囲を超えて、例えば、「事件性」のある案件を具体的に処理することを主たる用途とするUI(User Interface(ユーザーインターフェース)。以下「UI」という。)等を設けていたり、利用規約・UIその他でこうした用途を積極的に案内する表示を行ったりするなど、「事件性」のある案件に関する「鑑定…その他の法律事務」への利用を積極的に容認・助長するような特性・機能を具有する場合を想定している。
(注 10)ここにいう「利用動向を把握した際」とは、例えば、サービス提供者がサービス利用者からのフィードバック、問合せ、利用ログの分析等を通じて、サービス利用者が「事件性」のある案件に関する「鑑定…その他の法律事務」に当該サービスを利用していること、あるいはその具体的な可能性を認識した場合をいい、サービス提供者に対して、積極的な監視義務を課すものではない。
(注 11)なお、①②の要件は、主としてサービスの客観的性質に関わるものであり、③は、主として①②の要件による価値中立性を前提としたサービス提供者の主観的認識及び対応に関わるものであって、両者は相互補完的な関係に立つが、①②の要件が充足されない場合、すなわちサービスの設計・機能等が「事件性」のある案件に関する「鑑定…その他の法律事務」への利用に特化した、あるいはこれを念頭に置いたものであるとき等には、③の措置を講じたとしてもそれのみで価値中立性が認められるものではないことに注意を要する。
(注 12)最高裁平成23年決定は、ソフトの提供者が当該ソフトを公開、提供するに当たり、ウェブサイト上に違法なファイルのやり取りをしないよう求める注意書きを付記したり、開発スレッド上にもその旨の書込みをしたりして、常時、利用者に対し、当該ソフトを著作権侵害のために利用することがないよう警告を発していたことを一つの間接事実として、ソフトの提供者において、例外的とはいえない範囲の者が当該ソフトを著作権侵害に利用する蓋然性が高いことを認識、認容していたとまで認めることは困難であるとの結論を導いている。
このことからすれば、本件ガイドライン第3・2記載の適切なガバナンス措置を講じるなどして、サービス利用者による不適切な利用を回避するための適切な体制を整備していることは、サー
ビス提供者において、「例外的とはいえない範囲の者が当該サービスを『事件性』のある案件に関する『鑑定…その他の法律事務』に利用する蓋然性が高いことを認識・認容しているとまではいえない」ことを指し示す事情の一つとなり得るものと考えられる。
3 一般的なAI等法務業務支援サービスへの具体的当てはめ
前記第2・1及び2で示した基本的な考え方を前提にして、令和5年ガイドラインにおいて契約書等関連業務支援サービスに関して示した考え方を敷えんする形で具体的に説明すれば、最終的には、契約の目的、提供するサービスの内容・形態、契約当事者の関係、契約に至る経緯やその背景事情等諸般の事情をもとに個別具体的に判断することになるものの、ビジネス分野におけるAI等法務業務支援サービス一般についても、通常の業務に伴う、例えば、文献その他のリサーチ・法的問題点の検討業務支援、書面作成・審査・管理業務支援、社内における研修・経営判断の適法性確認等を含むガバナンス・リスク管理・コンプライアンス業務支援、内部通報事案の調査支援、新規業務スキームの構築・事業再編等業務支援、従業員・顧客・取引先等とのトラブルが発生した場合に会社としての対応方針を決定するための内部..調査..支援、株主総会・取締役会その他の会議業務支援等を目的とするサービスの提供は、その提供するサービスの設計、中核的機能、用いられている技術等が、法的紛議が現に顕在化している案件や法的紛議が生じることがほぼ不可避に想定され得る案件に関する「鑑定…その他の法律事務」に利用させることを目指したものでなく、また、こうした案件に関する「鑑定…その他の法律事務」への利用に特化した、あるいはこうした利用が念頭におかれた特性・機能等を具有するものではない限りにおいては、一般に「事件性」のある案件に関する「鑑定…その他の法律事務」に利用されることを当然の前提としない、価値中立的なサービス提供であるといい得るものと考えられる。
その上で、サービス提供者において、当該サービスは、法的紛議が現に顕在化している案件や法的紛議が生じることがほぼ不可避に想定され得る案件に関連して法的助言を提供するものではなく(注 13)、そのような案件に関しては、適切に弁護士へ相談するように確実に案内するなど、本ガイドライン第3・2記載のガバナンス措置を講じるなどして、サービス利用者による不適切な利用を回避するための適切な体制を整備している場合には、一般的には、当該サービス提供者によるサービス提供行為は、サービス利用者のうち例外的とはいえない範囲の者が同サービスを「事件性」のある案件に関する「鑑定…その他の法律事務」に利用する事態を企図してサービス提供を行っているものではないと評価し得るものと考えられる。
そして、もとより個別の事案によるものの、このような態様でサービス提供が行われている限り、実際に当該サービスが「事件性」のある案件に関する「鑑定…その他の法律事務」に利用された場合であっても、サービス提供者において、サービス利用者が「事件性」のある案件に関する「鑑定…その他の法律事務」に当該サービスを利用し得るという一般的可能性を超えて
〇 現に同サービスが「事件性」のある案件に関する「鑑定…その他の法律事務」に利用されていること、若しくはその具体的可能性を認識・認容しているとはいえないようなとき
〇 例外的とはいえない範囲の者が当該サービスを「事件性」のある案件に関する「鑑定…その他の法律事務」に利用する蓋然性が高いことを認識・認容しているとまではいえないようなときには、一般的には、サービス提供者において、「事件性」のある案件に関して「鑑定…その他の法律事務」を(業として)取り扱ったとは評価し難く、弁護士法第72条に抵触するおそれはないものと考えられる(注 14)。
(注 13)例えば、法的紛議が現に顕在化している案件や、法的紛議が生じることがほぼ不可避に想定され得る案件における訴状、準備書面、答弁書、証拠説明書その他の裁判所への提出書面や和解契約書等の法的紛議を前提とした対外使用書面を作成することや、こうした事案に関して法的助言を提供することは、これに該当するものと考えられる。
なお、一般的な法的リスクの指摘(例えば、「この条項には訴訟リスクが生じる可能性がある」等)は、それ自体が直ちにこれに該当するものではないが、具体的な紛争案件に関連してなされる場合には該当し得ることに留意する必要がある。
(注 14)令和5年ガイドラインにおいても、「いわゆる企業法務において取り扱われる契約関係事務のうち、通常の業務に伴う契約の締結に向けての通常の話合いや法的問題点の検討については、多くの場合『事件性』がないとの当局の指摘に留意しつつ、契約の目的、契約当事者の関係、契約に至る経緯やその背景事情等諸般の事情を考慮して、『事件性』が判断されるべきものと考えられる。」としている点は、このことを示しているものといえる。
4 AI等法務業務支援サービスの提供につき、「事件性」のある案件に関して「鑑定…その他の法律事務」を取り扱ったと考えられる場合の具体例
他方、以下のような場合には、サービス提供者による当該サービスの提供行為は、「事件性」のある案件に関する「鑑定…その他の法律事務」に利用させることを前提としていると評価され得るものであって、弁護士法第72条所定のその他の要件も満たすときには、同条に違反するおそれがあると考えられる。
(1) サービスの設計・機能上「事件性」のある案件に関する「鑑定…その他の法律事務」に利用させることを前提としていると評価され得るものの具体例
例えば、法的紛議が現に顕在化している案件や法的紛議が生じることがほぼ不可避に想定され得る案件の処理を目指して設計されたサービスの提供や、弁護士の関与なしに訴状、準備書面、答弁書、証拠説明書その他の裁判所への提出書面や和解契約書等の法的紛議を前提とした対外使用書面を作成することに特化あるいはこうした作業への利用を念頭においた機能等を有するサービスの提供のように、サービスの設計、中核的機能、用いられている技術等が、訴訟事件、非訟事件及び審査請求、再調査の請求、再審査請求等行政庁に対する不服申立事件、及びこれらに準ず
る程度に法律上の権利義務に関して争いがあり、あるいは疑義があるなどの法的紛議が現に顕在化している案件や法的紛議が生じることがほぼ不可避に想定され得る案件に関する「鑑定…その他の法律事務」に利用させることを目指したものであって、こうした案件に関する「鑑定…その他の法律事務」への利用に特化した、あるいは、特化しているとまではいえなくても、単にファイルをアップロードし、それに関してプロンプト等を自由に入力できるチャットボット機能等の範囲を超えて、前掲(注9)に記載したように、こうした案件に関する「鑑定…その他の法律事務」に利用させることを念頭においた特性・機能を具有するものである場合には、当該サービスを利用する者のうち例外的とはいえない範囲の者が同サービスを「事件性」のある案件に関する「鑑定…その他の法律事務」に利用することを基本的に想定した上で当該サービスが提供されているものと考えられる。
もとより個別の事案によるものの、このようなサービス提供において、実際に当該サービスが「事件性」のある案件に関する「鑑定…その他の法律事務」に利用されていると認められる場合には、一般的には、当該サービス提供行為は、当該サービス提供の性質上、およそ価値中立的なサービス提供行為とはいい難く、実質的に「事件性」のある案件に関する「鑑定…その他の法律事務」を取り扱っているものと同視せざるを得ないものと考えられる。
(2) サービスの用法上「事件性」のある案件に関する「鑑定…その他の法律事務」に利用させることを前提としていると評価され得るものの具体例
前記第2・2(2)イのとおり、サービスの設計・機能上は価値中立的なサービス提供であると評価され得る場合であっても、サービス提供の目的やサービス利用者による具体的な利用状況及びこれに対するサービス提供者の認識・対応のいかんによっては、「事件性」のある案件に関する「鑑定…その他の法律事務」に利用させることを前提としていると評価され得るときがあり、弁護士法第72条違反の問題が生じ得ることに留意する必要がある。
すなわち、当該サービスの設計・機能上は、価値中立的なサービス提供と評価し得る余地があったとしても、例えば
〇 非弁活動を現に行っている、あるいは行おうとする者に対して、それを認識・認容しながら、当該サービスを提供するケースや、当該サービスを「事件性」のある案件に継続的・反復的に利用しようとする者に対して、それを認識・認容しながら当該サービスを提供するケースなど、現に同サービスが「事件性」のある案件に関する「鑑定…その他の法律事務」に利用されていること、若しくはその具体的可能性を認識・認容しながら当該サービスを提供し、実際に当該サービスが「事件性」のある案件に関する「鑑定…その他の法律事務」に利用されていると認められるとき
〇 当該サービスの性質、サービス利用者による客観的な利用状況、提供方法等に照らして、サービス利用者のうち例外的とはいえない範囲の者が同サービスを「事件性」のある案件に関する「鑑定…その他の法律事務」に利用する蓋然性が高いと認められる具体的な状況下で、これを認識・認容しながら当該サービスの提供を継続し、実際に当該サービスが「事件性」のある案件に関する「鑑定…その他の法律事務」に利用されていると認められるとき等、この種「事件性」のある案件への一般的な利用可能性を超えて、サービス提供者において、サービス利用者による「事件性」のある案件に関する「鑑定…その他の法律事務」への具体的な利用状況(利用可能性)を把握している場合も想定される。
もとより個別の事案によるものの、このような状況であるにもかかわらず、サービス提供者において、当該利用を回避するための合理的な措置(例えば、利用停止、警告の発出、弁護士への相談の案内、当該利用者に対するサービス利用範囲の制限、利用規約違反の指摘及び是正要求等)を講じることなく漫然とサービスを継続して提供するような場合には、一般的には、前記第2・4(1)の場合と同様、サービス提供者による当該サービス提供行為は、サービスの提供形態・用法の点から、当該サービス提供の性質上、実質的に「事件性」のある案件に関する「鑑定…その他の法律事務」を取り扱っているものと評価せざるを得ないものと考えられる(注 15)。
(注 15)令和5年ガイドラインにおいて、「例えば、取引当事者間で紛争が生じた後に、当該紛争当事者間において、裁判外で紛争を解決して和解契約等を締結する場合には、法律上の権利義務に争いがあり、あるいは疑義を有するものとして『事件性』が認められることから、このような場合の契約書等の作成について本件サービスを提供するときには、『その他一般の法律事件』に該当し得ると考えられる。」としている点は、このような解釈を示したものといえる。
(3) 小括
以上のとおり、最終的には事実認定の問題であるものの、前記第2・4(1)(2)のような各サービス提供行為については、一般的には、当該サービス提供の性質上、サービス提供者が「事件性」のある案件に関する「鑑定…その他の法律事務」を(業として)取り扱っているとの指摘は免れ得ず、令和5年ガイドラインにおいて示された弁護士法第72条所定のその他の要件も満たすときには、同条に違反するおそれがあると考えられる。
第3 弁護士法第72条及びその趣旨を踏まえたサービス提供上の留意・推奨事項
1 総論
前記第2及び令和5年ガイドラインを前提としても、弁護士法第72条で禁止される、いわゆる非弁行為に該当するか否かは、同条が罰則の構成要件である以上、個別の事件における具体的な事実関係を前提として、同条及び最高裁昭和46年判決において示された、弁護士以外の者が他人の法律事件に介入することを業とすることを放置することにより、「当事者その他の関係人らの利益をそこね、法律生活の公正かつ円滑ないとなみを妨げ、ひいては法律秩序を害することになる」ことから、これを禁圧するために設けられたとする同条の趣旨に照らして判断されるべき事柄であって、最終的には、法と証拠に基づく裁判所の判断に委ねられるものである。
そのことを前提に、実務上の対応としては、AI等法務業務支援サービスに関しては、現時点では、いわゆるハルシネーションや出力結果におけるバイアス等が完全に払拭できないなどの現状のAI等の技術的限界等に伴うリスクを一定の前提とせざるを得ず、仮にガバナンスが十分に機能しておらず、また品質や信頼性の担保に乏しいサービス提供が広く行われた場合には、サービス利用者その他の関係者の利益を損ないかねない。また、こうした劣悪なサービスが広く社会実装されれば、法律秩序を害し、ひいては同条の趣旨を没却し、同条の保護法益が害される事態を招来しかねない。
このような問題意識に基づき、サービス提供者においては、適切なガバナンス上の方策を検討・実施することが肝要である。
さらに、本ガイドラインによる整理を踏まえても、前記第2・4のとおり、当該サービス提供の性質に照らし、「事件性」のある案件に関する「鑑定…その他の法律事務」に利用させることを前提としたサービス提供を行えば、同条所定のその他の要件にも該当する場合には、同条の禁止する非弁行為となる可能性がある。
そのため、サービス提供者は、自己が提供するサービスが同条の規定に抵触しないように十分に配意するとともに、そのリスクを回避・払拭するため、同条及びその趣旨を没却しない慎重な設計及び運用を行うことが重要である。
そこで、前記第2及び令和5年ガイドライン記載の整理を踏まえつつ、サービス提供者が予測可能性をもって事業展開ができ、かつ、我が国のAI等法務業務支援サービス業界全体の健全性を維持し、同条及びその趣旨を没却することのない適切なサービスの提供を行うためには、以下の点に留意し、提供するサービスの性質・内容等に応じた適切なガバナンス措置を講じることが推奨される(注 16)。
(注 16)もっとも、弁護士又は弁護士法人が自らAI等法務業務支援サービスを開発するなどして自らがサービス提供者となる場合、若しくはサービス提供者からAI等法務業務支援サービスの提供を受け、その出力結果を前提として弁護士又は弁護士法人の名義と責任において判断を行い、「鑑定…その他の法律事務」を提供する場合(弁護士・弁護士法人による提供(弁護士提供モデル))や、①弁護士又は弁護士法人に対してサービスを提供する場合であって、当該弁護士又は弁護士法人がその業務として「鑑定…その他の法律事務」を行うに当たり、当該弁護士又は当該弁護士法人の社員若しくは使用人である弁護士が、当該サービスを利用した結果も踏まえて自ら精査し、必要に応じて自ら修正する方法で当該サービスを利用するときや、②弁護士又は弁護士法人以外の者に対して当該サービスを提供する場合であって、当該提供先が当事者となっている案件について、当該サービスを利用するに当たり、当該提供先において職員若しくは使用人となり、又は取締役、理事その他の役員となっている弁護士が前記①と同等の方法で当該サービスを利用するとき(弁護士・弁護士法人等に対する提供(弁護士利用モデル))は、
令和5年ガイドラインにおいても示したとおり、直ちに弁護士法第72条に抵触するものではない。
しかし、同条の趣旨やその保護法益を踏まえると、こうした場合であっても、サービス提供者には、現状のAI等のリスクを踏まえた適切なガバナンスを構築することが期待される。
2 ガバナンス上の具体的留意・推奨事項
(1) AI事業者一般に共通するガバナンス上の留意・推奨事項の履践
サービス提供者においては、提供するサービスの内容や取り扱うデータの類型等に応じ、個人情報の保護に関する法律(平成15年法律第57号)、著作権法(昭和45年法律第48号)のほか、個人情報、知的財産権等にそれぞれ適用される法令に適合した取扱いを確保することが重要である。
それとともに、サービス提供者においては、AI活用に取り組むすべての事業者向けに総務省及び経済産業省が発出している「AI事業者ガイドライン」その他の各種の政府指針等において推奨されているAI等システム実装時におけるリスク対策、サービスの適正利用に資する提供、AI等システム・サービス構成及びデータに含まれるバイアスへの配慮、プライバシー保護のための仕組み及び対策の導入、セキュリティー対策のための仕組みの導入、システムアーキテクチャーの文書化、適切な目的でAI等システム・サービスが利用されているかの定期的検証等、プラ
イバシー侵害への対策、脆弱性への対応、関連するステークホルダーへの情報提供、サービス利用者への前記「AI事業者ガイドライン」所定の「共通の指針」の対応状況の説明並びにサービス規約等の文書化等の自主的な取組を行うことが重要である。
(2) AI等法務業務支援サービス特有のガバナンス上の留意・推奨事項
ア 日本国内におけるインシデント対応窓口等の設置
日本国内においてAI等法務業務支援サービスを提供するサービス提供者においては、弁護士法に違反した場合には、同法所定の規律に服し得ることから、日本国内のサービス利用者その他の関係者からの問合せ・通報その他同法に違反するなどのインシデント等の発生に対応する窓口を設けることが推奨される(注 17)。
(注 17)なお、外国法人が日本において継続して取引をしようとする場合には、会社法(平成17年法律第86号)その他の関係法令に従う必要があり、日本における代表者(この場合において、その日本における代表者のうち1人以上は、日本に住居を有する者でなければならない。)を定め(会社法第817条第1項)、外国会社の登記等の手続(同法第818条第1項)等の必要な措置を適切に履践することが必要である。
また、クラウドサービスとして提供される場合であっても、日本国内のサービス利用者に対して継続的にサービスを提供するときには、実質的な対応が可能な窓口を日本国内に設けることが推奨される。
イ 弁護士によるサービス及び機能設計等への実質的関与による学習データ・出力結果の品質・信頼性の確保等
(ア)提供するサービスがいわゆるナレッジマネジメントやユーザーデータ内からの情報の検索・要約といった機能を超えて「鑑定」等にわたり得る機能を有する場合(令和5年ガイドライン3頁から6頁にあるとおりであり、例えば、個別の事案における契約等の法律行為に至る経緯・背景事情・行おうとする契約等の法律行為の内容等を法的に処理して当該処理に応じた具体的な契約書等の法律行為関係データ案や修正案等が作成される機能、具体的な事案に応じた法的リスクの有無や程度・個別の法的対応の必要性等を抽出・摘示する機能等もこれに該当し得る。)には、こうしたサービス及び機能設計において、我が国の弁護士資格を有する者が監修、あるいは実質的に関与していること(形式的な名義の貸与にとどまらず、当該弁護士資格を有する者が実際に以下のようなサービスの設計・機能・出力の方法等について適切にアドバイスを行うなどの具体的な関与をしていること)が望ましい。
具体的には、
〇 機能要件策定・仕様レビュー・変更管理における品質確保のための検証
〇 表示・免責・サービス利用者ガイダンス等のリーガルチェック等の場面において、我が国の弁護士資格を有する者が実質的に関与し、サービスの品質及び信頼性確保に努めることが重要である。
(イ)その上で、生成AIにおけるRAG(Retrieval-Augmented Generation:事前に学習した情報だけでなく、外部データベースから関連情報を検索・参照する検索拡張生成機能)や学習データ、出力内容の性質・制約について、サービス利用者に十分に説明することが重要である。
また、最新の公式情報等信頼性の高い情報源が優先的に表示されるように努めるなど、弁護士法の趣旨を踏まえた学習データや出力結果等の品質及び信頼性の担保を講じておくことが重要である。
ウ 誤認を与える表示の不使用及びサービス利用者の適格性確保
(ア)サービスの提供に当たっては、広告や提供するサービス名等はもとより、AI等による出力結果が、例えば、弁護士に代わる判断を提供するものであるとか、法的結論の正確性を保証するものであると想起させるような、サービス利用者に誤認を与えるおそれがあるような表現は厳に慎むべきである。
(イ)こうしたサービス利用者の誤認リスクは、前記のような積極的な表現を行っていない場合であっても、サービス利用者側がAI等を信頼しすぎることによっても発生し得る。
そのため、こうした誤認リスクを防止するため、例えば、以下の観点の配慮等を行うことも推奨される。
a サービス利用申込時の合理的確認措置の実施
弁護士又は弁護士法人ではない者、具体的には企業等の事業者向けにサービスを提供する場合には、サービス利用者の属性・利用目的について、利用申込時の審査等の合理的な確認措置を行い、前記第2・4(2)を踏まえ、非弁活動を企図している者への提供等、用法上、弁護士法第72条に違反する疑いのある提供は厳に行わないようにしなければならない。
b 利用規約等への明記・ガイダンスの実施
また、当該サービス利用者の属性やリテラシーの程度に照らし、サービス提供に当たって
〇 AIは、弁護士等の専門家に代わる最終的な判断をするものではなく、回答は飽くまで参考情報にすぎないこと
〇 提供するサービスは、法律上の権利義務に関して争いがあり、あるいは疑義があるなどの法的紛議が現に顕在化している案件や法的紛議が生じることがほぼ不可避に想定され得る案件に関連して、法的助言を提供し、こうした案件に関する「鑑定…その他の法律事務」に利用させる目的で提供するものではないこと
〇 法的紛議が現に顕在化している案件や法的紛議が生じることがほぼ不可避に想定され得る案件に関しては、内容及び必要性等に応じて、弁護士に相談し、その判断を仰ぐ必要があること
〇 サービス利用者(法人の場合は、当該法人)の自己の業務にのみ利用し、他人の法律事務を取り扱うためには使用しないこと(注 18)
〇 サービスの利用に当たっては、弁護士法その他の関係法令を遵守するとともに、利用規約に違反する利用はしないこと
など、不適切な利用がなされないための核心的な遵守事項については、サービス利用者に対して確実に説明することが重要である。
併せて、これらについて利用規約等に規定した上で、例えば、サービス利用者からの同利用規約等への同意の取得、サービス利用者による同利用規約等の遵守の宣誓(自己宣誓)、その他前記のようなサービス利用上の留意事項に関して事前のガイダンス・チュートリアル等を行うなど、サービス利用者による適正な利用を確保するための適切な措置を講ずることが推奨される。
c 重大な利用規約違反等があった場合の利用停止措置等
サービス利用者に当該サービスの犯罪利用その他の重大な利用規約違反が認められた場合(注 19)においては、サービスの利用契約等を解除するなどのサービスの利用停止等の適切な措置を講ずることは、サービス利用者による不適切な利用を放置しないという観点から極めて重要である。
また、サービスに関する利用者等からサービス提供者へのフィードバック・相談等の場面において、サービス利用者による「事件性」のある案件に関する「鑑定…その他の法律事務」への利用がうかがわれる場合には、対応に際し、その内容に応じて、「当該サービスは、弁護士に代わる判断を提供するものではないこと」「AI等による出力結果が法的結論を保証するものではないこと」その他第3・2(2)ウ(イ)bの核心的遵守事項の内容を改めて説明することなどによってサービス利用者の誤認を解消するとともに、内容及び必要性等に応じて、弁護士法第27条及び同法第72条所定の「周旋」に当たらない範囲で弁護士へ相談すべき旨を告げる等の適切な対応をとることが重要である(注 20)。
(注 18)ここにいう「他人の法律事務を取り扱うため」とは、弁護士法第72条が禁止する非弁行為に該当するような態様で第三者の法律事務を取り扱うことを意味する。
例えば、企業グループ内において親会社の法務部門が令和5年ガイドライン及び本ガイドラインの範囲内で子会社・関連会社の法務業務を支援するためにサービスを利用することは、通常これに該当しないものと考えられる。
(注 19)例えば、サービス利用者が虚偽の申告をして、非弁活動を含め利用規約等に違反した場合や、サービス提供者からの指摘・警告にもかかわらず、サービス利用者が利用規約等に違反する利用行為を反復継続しているような場合等が考えられよう。
(注 20)弁護士法第27条は、「弁護士は、第72条乃至第74条の規定に違反する者から事件の周旋を受け、又はこれらの者に自己の名義を利用させてはならない。」と規定しており、弁護士が非弁業者から事件の周旋を受けることを禁止するものである。
同条の趣旨に照らせば、非弁業者が特定の弁護士に特定の案件を継続的・反復的に紹介する行為は同条の禁止する行為に抵触するおそれがあるものと考えられる。
他方で、サービス提供者が弁護士への相談を一般的に案内することは、特定の弁護士への特定案件の紹介には当たらず、同条の禁止する行為には該当しないものと考えられる。
エ 利用上の留意事項のプロンプト等入力前段階・出力結果等への明示
サービス提供者がサービス利用者に対してサービスを提供するに当たっては、UI等に入力上のガイドラインを設けるなどするとともに、例えば〇 提供するサービスは、法律上の権利義務に関して争いがあり、あるいは疑義があるなどの法的紛議が現に顕在化している案件や法的紛議が生じることがほぼ不可避に想定され得る案件に関連して、法的助言を提供し、こうした案件に関する「鑑定…その他の法律事務」に利用させる目的で提供するものではないこと
〇 法的紛議が現に顕在化している案件や法的紛議が生じることがほぼ不可避に想定され得る案件に関しては、内容及び必要性等に応じて、弁護士に相談し、その判断を仰ぐ必要があることなど、提供されるサービスが「事件性」のある案件に関する「鑑定…その他の法律事務」には利用できないことなどのAI等の利用範囲・利用禁止事項等のサービス利用上の留意事項(断り書き・ディスクレーマー。以下「ディスクレーマー」という。)をサービス利用者がプロンプト等を入力する前の段階や出力結果等に明確に表示することが重要である。
こうした内容を利用規約だけでなく、画面表示やチュートリアルにも組み込むことにより、サービス利用者が当該サービスをどのような案件に利用してよいかを直感的に理解でき、誤認防止効果が高まるものと考えられる(注 21)。
(注 21)なお、ディスクレーマーの具体的文言やディスクレーマーを表示させる場所については、飽くまで例示であり、弁護士法第72条及び本ガイドラインの趣旨を踏まえて、サービス提供者において、誤認防止効果の高い方法を適宜検討することが求められる。
オ UI・機能設計上の配慮
(ア)前記第2・4(1)(2)を踏まえ、提供するサービスを、サービス利用者が「事件性」のある案件に関する「鑑定…その他の法律事務」に利用することその他不適切な用途に用いることを誘発しないようなUIや機能設計を行うとともに、例えば、「事件性」のある案件に利用されるおそれの高い機能(高リスク機能)には、注意表示の強化(例えば、視覚的強調、レイアウトによる強調、注意・警告文言の強化、インタラクション(操作性レベル)の強化)を図るなどの適切なリスク低減措置をとることが重要である。
(イ)AI等による出力結果に含まれる情報については、サービス利用者に対してその正確性・信頼性に関する誤認等のリスクを与えないよう、根拠や参照元の情報を表示できる場合には、これらを明示することが重要である。
その上で、根拠又は参照元の情報を表示できるものについてはこれらの情報を表示する旨をサービス利用者に説明することが推奨される。
(ウ)前記第3・2(2)エのようなディスクレーマー表示のほか、システム上から日本弁護士連合会が運営する弁護士の検索・情報提供サービスである「ひまわりサーチ」や「日弁連の弁護士検索」を案内するなど、前掲(注 20)の趣旨に従った範囲で弁護士への相談を推奨する仕組みを採用することにより、法的紛議が現に顕在化している案件や法的紛議が生じることがほぼ不可避に想定され得る案件に関しては、弁護士法の趣旨に従い、サービス利用者が当該サービスを利用して「鑑定…その他の法律事務」を行うのではなく、内容及び必要性等に応じて、自発的に弁護士に相談することを促すための補完的措置を講じることも推奨される(注 22)。
(注 22)なお、本ガイドライン策定における検討の過程においては、サービス利用者による「事件性」のある案件に関する「鑑定…その他の法律事務」への利用を実効的に予防し、サービスの価値中立性を高めるために、例えば訴状、準備書面、答弁書、証拠説明書その他の裁判所への提出書面や和解契約書等法的紛議を前提とした対外使用書面等の「事件性」のある案件に関する出力に制限をかけるなどの措置(入力を制限あるいは出力自体をさせない措置。以下「出力制限」という。)についても検討を行った。
この点に関し、AI等法務業務支援サービスの提供事業者等からは、専ら当該AI等法務業務支援サービスが利用している汎用型AIの出力の問題であることに加え、現在の技術の水準では、提供するサービスに対するコスト面・効用面での多大な支障なしに適切で実効性のあるガードレールを設けることが技術的に困難である上、出力制限の範囲・基準の設定が恣意的になりやすく、過剰遮断をすれば、問題のないサービス利用についてまで大幅に利便性を削いでしまいかねない一方で、書式変形や抽象化出力により制限回避が容易であるとの意見がなされた。
他方、法曹実務家からは、実効性が完全でなくとも、例えば「訴状、答弁書、準備書面といった裁判手続での利用以外の用途がおよそ考え難い表題を有する書面」のうち主要なものを限定的に特定し、それらの作成の指示に限って出力制限を課すことは、技術的には可能であるとの意見もある上、一定のコストがかかることは出力制限を行わないことを正当化する理由にならないのではないかなどの意見もあった。
当省としては、これらの意見も踏まえた上で、現時点の技術水準等に照らせば、弁護士法第72条との抵触が生じ得ない適法な出力に影響を及ぼさない方法で、実効的あるいは合理的な出力制限の範囲を明確化することは困難であること(逆に範囲を明示せずに出力制限をガバナンス推奨事項とすることによる萎縮効果は大きい。)、また、実効性が低く規制効果も極めて限定的であるにもかかわらず、サービス提供者に与える事業上の多大な支障を伴う措置を推奨事項とすることは相当でないことから、出力制限については、今後の技術の進展等を踏まえたサービス提供者の自主的な判断に任せることとし、今回本ガイドラインにおける留意・推奨事項として明記することとせず、今後の検討課題とすることとした。
もっとも、サービス利用者において、「事件性」のある案件に関する「鑑定…その他の法律事務」に当該サービスを利用し、AI等による出力結果をたやすく信用して、適切に弁護士に相談することなく、その出力結果を対外的に使用することを放置することになれば、弁護士法第72条の趣旨を没却しかねない。
その結果、サービス提供者においては、自社の信用はもとより、AI等法務業務支援サービス業界全体の信頼性・健全性を害する事態になることを十分に自覚した上で、実効的なセーフガードの枠組みを含めた適切なガバナンスの在り方を不断に検討していくことが重要である。
その上で、現状、サービス提供者においては、出力制限を行うことが困難であるとするならば、サービス利用者に対するリテラシー向上に努めるほか、サービス利用者による不適切な利用が行われた、あるいは行われる疑いがあると把握・認識した場合には、サービス利用者に対して適切な利用を促す注意・警告を発するのみならず、悪質なケースにおいては利用停止に向けた必要な措置をとるなどの対応を確実に行っていくとともに、今後の技術の進展に応じた実効的なセーフガードの実施を含めた適切なガバナンスの構築をはじめ、AI等法務業務支援サービスの適切な利用の確保・普及に自主的に取り組むことが期待される。
第4 附則
なお、本ガイドラインは、AI等の技術の進展、サービスの普及状況、関連する法令・判例実務の動向等を踏まえ、必要に応じて適宜見直しを行うものとする。